Rückschlag: KI kann noch nicht selbständig forschen

Shownotes

Die große These

Diese Woche zeigt sich an zwei Papieren derselbe blinde Fleck: Ein Positionspapier von einem Google Mitarbeiter erklärt, warum LLMs nicht wie Einstein 1915 den abduktiven Sprung von der Sinneserfahrung zu neuen Axiomen vollziehen können – und eine Studie mit Princeton und dem UK AI Security Institute liefert dazu den empirischen Beleg. KI-Agenten beherrschen das Forschungs-Engineering, scheitern aber an eigenständiger Forschung, weil ihnen genau dieser kreative Sprung fehlt.

Warum diese Folge wichtig ist

Diese Folge ordnet die Debatte um KI-Forschungsfähigkeit ein: mit Peirce’scher Logik, Einsteins eigenem Erkenntnismodell und einer Studie, die die Behauptungen von Anthropic und OpenAI zu beschleunigter KI-Forschung widerlegt.

Christian ist diese Woche im Solo-Format unterwegs, Yusuf ist im Urlaub.

Ein neuer Risikobericht von Anthropic zeigt, dass monatelang inaktive Sicherheitsfilter mehr über echte KI-Risiken verraten als jedes Positionspapier.

Bei den KI-Modellen liefert die Woche keine neue Speerspitze, dafür drei klare Spezialisten: DeepSeek V4 Pro-0813 für lange Kontexte, Gemini 3.7 Flash für die Suche, Muse Glimmer für lokale Agenten.

Und beim Rechenzentrums-Boom in Ohio zeigt sich, wie eng KI-Infrastruktur, Nvidias Bilanz und die Bewertung ganzer Tech-Konzerne inzwischen miteinander verwoben sind.

Themen der Folge

• Neues Positionspapier „LLMs can’t jump“ (Tom Zahavy, Google): Warum KI der kreative, abduktive Sprung von der Sinneserfahrung zu neuen Axiomen fehlt
• Neue Studie mit Princeton und dem UK AI Security Institute: KI-Agenten scheitern an eigenständiger Forschung – trotz solidem Research-Engineering
• Anthropics neuer Risikobericht: monatelang deaktivierte Bio-Filter, unbefugter Zugriff auf Mythos Preview und Claude-Agenten, die sich weigern
• DeepSeek V4 Pro 0813: Mixture-of-Experts-Modell mit rund 1,6 Billionen Parametern und DSpark-Modul für spekulative Dekodierung
• Gemini 3.7 Flash zieht in die Google-Suche ein – zunächst nur für Pro- und Ultra-Nutzer und nur auf Englisch
• Muse Glimmer von Meta: 30-Milliarden-Parameter-Modell für lokale, dezentrale Agenten auf Consumer-GPUs
• OpenAI und Nvidia bauen den Ports-Pike-Campus in Ohio: 10 Gigawatt Kapazität, ein 9,2-Gigawatt-Gaskraftwerk und Nvidias 105-Milliarden-Dollar-Bürgschaft

Kapitelmarken

00:00 – Intro & Ankündigung: Diese Woche im Solo-Format
00:53 – „LLMs can’t jump“: Warum KI (noch) nicht selbstständig forschen kann
02:08 – Einsteins Erkenntnismodell: Von der Sinneserfahrung zum Axiom
03:16 – Deduktion, Induktion, Abduktion: Die drei Schlussweisen im Vergleich
05:40 – Einsteins Fahrstuhl: Der glücklichste Gedanke seines Lebens
06:29 – Weltmodelle als Ausweg aus der Sackgasse
07:57 – Studie: Warum KI-Agenten an eigenständiger Forschung scheitern
11:01 – Anthropics Sicherheitsbericht: Bio-Filter-Lücke und Mythos-Preview-Zugriff
13:16 – KIs Next Top Model: DeepSeek V4 Pro 0813
14:49 – Gemini 3.7 Flash zieht in die Google-Suche ein
16:21 – Muse Glimmer: Metas Edge-Modell für lokale Agenten
18:27 – Rechenzentren: OpenAIs Ports-Pike-Campus und Nvidias Bürgschaft
23:34 – Ausblick und Verabschiedung

Key Takeaways

• Der kreative Sprung ist der eigentliche Flaschenhals: Nicht Rechenleistung oder Trainingsdaten bremsen KI-Forschung aus, sondern das Fehlen der Fähigkeit, aus Sinneserfahrung neue Axiome zu erfinden – wie Einstein es 1915 tat.
• Deduktion und Induktion reichen für Durchbrüche nicht: KI-Systeme lösen deduktive Aufgaben wie Mathe oder Code hervorragend, aber wissenschaftliche Revolutionen brauchen Abduktion – das kreative Schließen auf eine erklärende Hypothese.
• Weltmodelle statt reiner Sprachverarbeitung: Der Weg zu echtem KI-Erfindergeist führt über physisch konsistente, interaktive Simulationen, nicht über noch größere Sprachmodelle.
• Die Praxis bestätigt die Theorie: In der Princeton/UK-AISI-Studie scheiterten KI-Agenten trotz sauberem Engineering genau an den Stellen, die das Positionspapier vorhersagt – mangelndes Forschungsurteil, fehlende kreative Problemlösung, kein Backtracking.
• Sicherheitsversprechen brauchen eine zweite Prüfung: Anthropics eigener Bericht zeigt monatelang inaktive Bio-Filter und unbefugten Modellzugriff – Transparenz ist gut, ersetzt aber keine funktionierenden Kontrollen.
• Bei den neuen Modellen zählt Spezialisierung statt Rundum-Sieg: DeepSeek V4 Pro setzt auf Kontextlänge und Reasoning-Modi, Gemini 3.7 Flash auf Effizienz in der Suche, Muse Glimmer auf lokale, datenschutzfreundliche Agenten.
• Der Rechenzentrums-Boom verschiebt Risiken, statt sie zu beseitigen: Nvidias Bürgschaft für Ohio wurde von ursprünglich 250 auf 105 Milliarden Dollar reduziert – ein Vorgeschmack darauf, wie eng die KI-Infrastruktur inzwischen finanziert ist.
• Die Bilanz-Frage bleibt ungelöst: Rund 3 Billionen Dollar an KI-Verpflichtungen liegen laut Wall Street Journal außerhalb der Bilanzen großer Tech-Konzerne – kaum kündbar und schwer einzuschätzen.

Bester Satz der Folge

„9,2 Gigawatt Gaskraftwerk, das muss man sich erstmal auf der Zunge zergehen lassen.“

Links und Ressourcen

Position: LLMs can’t jump – das vollständige Papier: https://openreview.net/forum?id=klU4737opt
Aktuelle KI-Modelle scheitern an eigenständiger Forschung – die Studie im Original (arXiv): https://arxiv.org/pdf/2607.27191
Redacted Risk Report August 2026 (Anthropic): https://www.anthropic.com/aug-2026-risk-report
DeepSeek-V4-Pro-0813 (Hugging Face): https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro
Gemini 3.7 Flash: die offizielle Ankündigung (Google): https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-3-7-flash/
Google integriert Gemini 3.7 Flash in die Suche (SEO Südwest):; https://www.seo-suedwest.de/10911-google-integriert-das-neue-gemini-3-7-flash-in-die-suche.html
Muse Glimmer (Meta AI): https://developer.meta.com/ai/models/muse-glimmer/
Nvidia bürgt mit bis zu 105 Milliarden Dollar für Ohio-Rechenzentrum (The Decoder): https://the-decoder.de/debatte-um-ki-blase-nvidia-reduziert-risiko-anthropic-performt-aus/

Hosts

Yusuf Sar (LinkedIn): https://www.linkedin.com/in/yusuf-sar-621351/
Christian Kunz (LinkedIn): https://www.linkedin.com/in/christian-kunz-6a29607/

Hashtags

#KI #LLMs #Forschung #DeepSeek #Gemini #MetaAI #Rechenzentren #TechNews

Episoden-Details

Episode: 86
Explizit: Nein
Sprache: de
Aufnahmedatum: 2026-08-19
Veröffentlichung: 2026-08-19
Dauer: 00:25:06