AI 2040 und Plan A: Wie lässt sich die Gefahr durch Super-KI beherrschen?

Wenn die Menschheit nicht aufpasst, wird sie in wenigen Jahren Opfer der KI, die sie selbst erstellt hat. Ein Forscherteam zeigt einen möglichen Ausweg.

Das Team, das 2025 mit dem Szenario AI 2027 für Aufsehen sorgte, hat nachgelegt. Sein neues Projekt heißt AI 2040 und dreht die Erzählung um. Statt zu beschreiben, wie eine Superintelligenz die Menschheit entmachtet, entwirft das Team diesmal einen Weg, auf dem das gelingt, was im vorherigen Szenario noch schiefging: Die Menschheit behält die Kontrolle.

Der Kern des Vorschlags: Die Welt einigt sich um das Jahr 2029 auf einen internationalen Vertrag, der das Rennen um die Superintelligenz ausbremst. KI-Forschung wird demnach vollständig offengelegt, Dutzende Firmen aus mehreren Ländern holen auf, und die beteiligten Staaten koppeln ihre Rechenzentren so aneinander, dass ein Vertragsbruch für alle Seiten teuer wird. Eine übermenschliche KI entsteht in diesem Bild erst 2040.

Wichtig zum Verständnis: Das Szenario beschreibt, was die Autoren für wünschenswert halten, und sagt bewusst nichts darüber, was sie tatsächlich erwarten. Es dient ihnen als Prüfstand für ihre politischen Vorschläge. Wenn sich ein Plan nicht einmal als glaubwürdige Geschichte erzählen lässt, so ihre Logik, taugt er auch in der Praxis wenig.

Wer hinter AI 2040 steckt

Getragen wird das Projekt vom AI Futures Project, einer gemeinnützigen Forschungsorganisation aus Berkeley. Gegründet hat sie Ende 2024 Daniel Kokotajlo, der zuvor im Governance-Team von OpenAI arbeitete. Er kündigte im April 2024, weil er dem Unternehmen zu wenig Sorgfalt bei der Sicherheit attestierte, und verzichtete dabei auf Firmenanteile in Millionenhöhe. Diese Vorgeschichte prägt die Arbeit der Gruppe bis heute.

An AI 2040 schrieben Kokotajlo, Eli Lifland, Thomas Larsen und Romeo Dean, verstärkt durch Ryan Greenblatt und Brendan Halstead. Lifland gilt als einer der treffsichersten Prognostiker der Szene und führt die Allzeit-Bestenliste der RAND Forecasting Initiative an. Larsen gründete das Center for AI Policy und forschte davor am Machine Intelligence Research Institute. Dean verbindet ein Informatikstudium in Harvard mit Arbeit zur KI-Politik. Der Vergleich der Pläne, auf den sich die folgenden Zahlen stützen, stammt von Lifland.

Bemerkenswert ist, wie offen die Gruppe ihre eigenen Zeitpläne korrigiert. Nach der Kritik an AI 2027 verschob Kokotajlo seinen Median für den Sprung zur AGI auf 2030, Lifland sogar auf 2035. Als Gründe nennen sie den zähen Start von GPT-5 und die langsame Reife von KI-Agenten.

Abbildung: AI Capabilities Line – AI 2040

Die Ausgangslage: 2027 bis 2029

Das Szenario beginnt in einer Welt, die viele Leser wiedererkennen dürften. Amerika beschäftigt zwei Belegschaften: 165 Millionen Menschen und Millionen KI-Agenten, die rund um die Uhr arbeiten. Vieles davon ist Ausschuss, doch funktioniert aber immerhin gut genug, dass Firmen rund zehn Milliarden Dollar im Monat für KI ausgeben.

Ein Ziel reizt die Labore besonders: die Automatisierung der eigenen Forschung. Sobald das gelingt, beschleunigt sich alles. Der Kongress wacht auf, hält Anhörungen ab und stellt die Frage, die das ganze Szenario trägt: Wer kontrolliert diese Systeme eigentlich? Die nüchterne Antwort der Abgeordneten an sich selbst lautet: vermutlich nicht wir.

2028 wird KI zum beherrschenden Wahlkampfthema. 2029 steht die Entscheidung an. Von hier verzweigt sich die Geschichte in fünf Pläne, die mit den Buchstaben A bis D gekennzeichnet sind. Dabei ist Plan A der erstrebenswerteste und Plan D der ungünstigste. Hinzu kommt mit Plan S eine besondere Variante.

Abbildung: AI 2040 – Plan A bis Plan S

Plan A – Verlangsamen und alles offenlegen

Plan A ist der empfohlene Weg. Die USA und China schließen einen überprüfbaren Vertrag, der die Entwicklung drosselt, und legen ihre gesamte KI-Forschung offen. Zwischen 2030 und 2035 wachsen die Systeme nur bis auf das Niveau menschlicher Spitzenfachleute, dann folgt eine Pause, um die Kontrolle zu sichern. Erst 2040 geht es weiter Richtung Superintelligenz.

Der Takeoff, also die kritische Phase vom ersten voll automatisierten Programmierer bis zu einer übernahmefähigen KI, streckt sich in diesem Plan auf sechs Jahre. Lifland schätzt die Chance, eine fehlgeleitete Machtübernahme durch die KI zu vermeiden, auf rund 72 Prozent; auf eine wirklich gute Zukunft kommt er bei etwa 42 Prozent. Damit schneidet Plan A in seiner Rechnung klar besser ab als jede Alternative.

Plan B – China sabotieren, Vorsprung herausholen

Hier verzichten die USA auf einen Deal und bremsen China stattdessen aus, um Zeit für Sicherheitsarbeit zu gewinnen. Das Projekt unterscheidet zwei Härtegrade: eine kinetische Variante mit Drohnen oder Raketenschlägen und eine leisere über Cyberangriffe und manipulierte Lieferketten. Damit ein Verlauf als Plan B zählt, müssen die USA den Takeoff um mindestens drei Monate verzögern und den gewonnenen Vorsprung wirklich in Sicherheit stecken.

Der Preis ist hoch. Eine Kriegslogik vergiftet das Diskussionsklima, eine faktische Verstaatlichung der Labore drückt die Transparenz, und die Macht ballt sich bei wenigen. Für eine gute Zukunft bleiben in Liflands Rechnung noch etwa 25 Prozent.

Plan C – Regulieren oder freiwillig bremsen

Plan C bündelt die zahmen Reaktionen. In der stärkeren Form, intern C+ genannt, reguliert Washington die KI im eigenen Land und verlangsamt China ohne Sabotage: über Exportkontrollen und über Greencards, die chinesische Fachkräfte abwerben. Gefordert sind mindestens zwei Monate Verzögerung.

In der schwächeren Form gibt das führende Labor freiwillig einen Teil seines Vorsprungs für Sicherheit her und stimmt sich womöglich mit Konkurrenten ab, ohne dass der Staat eingreift. Schon ein Monat gewonnene Zeit genügt für diese Einstufung. Beide Spielarten landen bei einer guten Zukunft im Bereich von 20 bis 25 Prozent, besser als das reine Rennen, aber weit hinter Plan A.

Plan D – Das Rennen

Der Weg des geringsten Widerstands und entspricht im Wesentlichen der aktuellen Entwicklung. Die führenden Labore rasen mit nahezu voller Geschwindigkeit durch die Intelligenzexplosion und geben gerade so viel für Sicherheit aus, dass es überhaupt zählt: mindestens ein Prozent der Ressourcen. Der Takeoff dauert dann kaum länger als ein Jahr.

Genau dieser Verlauf treibt die Autoren um, denn sie halten ihn für den wahrscheinlichsten. Thomas Larsen etwa gibt Plan D eine Eintrittswahrscheinlichkeit von 50 Prozent. Die Aussicht auf eine gute Zukunft beziffert Lifland hier auf magere 10 Prozent.

Plan S – Der komplette Stopp

Plan S geht weiter als Plan A und friert jeden Fortschritt an der Front ein, auf Jahre hinaus. Wann es weitergeht, hängt an harten Bedingungen: nachweisbare Fortschritte beim Alignment, funktionierende Lügendetektoren für KI, hochgeladene menschliche Gehirne oder eine gesteigerte menschliche Intelligenz.

Die Autoren zählen Plan S zu den wenigen Alternativen, die mit ihrem Favoriten mithalten könnten. Der lange Stopp verschafft mehr Puffer gegen den Fehler, zu schnell zu skalieren. Ihr Einwand dagegen: Ein kontrolliertes Wachstum bis auf menschliches Niveau hilft der Sicherheitsforschung selbst, und diesen Erkenntnisgewinn verschenkt ein reiner Stopp.

Das wünschenswerte Szenario ist leider unwahrscheinlich

Die Autoren empfehlen Plan A mit Nachdruck, halten ihn aber selbst für unwahrscheinlich: Kokotajlo gibt ihm 15 Prozent, Larsen nur 3. Die höchste Wahrscheinlichkeit räumen sie ausgerechnet dem Rennen ein, das sie für den schlechtesten Ausgang halten. Empfehlung und Prognose ziehen also in entgegengesetzte Richtungen, ein Widerspruch, den die Gruppe selbst offen benennt.

Betrachtet man die aktuelle geopolitische Situation, ist ein Szenario wie in Plan A beschrieben ohnehin kaum vorstellbar. Denkbar ist eher, dass die großen Akteure USA und China weiterhin alles daran setzen werden, im Rennen um die beste KI die Nase vorne zu haben, ohne Rücksicht auf Verluste. Die Frage ist, welches Ereignis bei den Beteiligten zur Erkenntnis führen könnte, dass ein Umdenken notwendig ist. Ein Faktor könnten Ressourcenengpässe auf dem Energiesektor oder Widerstände in der Bevölkerung sein, zum Beispiel getrieben durch eine steigende Arbeitslosigkeit oder eine zunehmende Belastung durch Emissionen durch Rechenzentren.

Wer eine bequeme Zukunftsvision sucht, wird von AI 2040 enttäuscht. Wer wissen will, welche Weichen in den nächsten Jahren gestellt werden und was auf dem Spiel steht, findet hier eine der wenigen Ausarbeitungen, die einen konkreten Fahrplan durchrechnen, statt bei Appellen stehen zu bleiben. Man muss den Prämissen nicht folgen. Die Fragen aber, die das Projekt stellt, verschwinden nicht, nur weil man sie unbequem findet.