18 KI-Zukünfte. In einer lebst du schon.

Wann hast du heute zum ersten Mal eine KI etwas für dich entscheiden lassen? Die Antwort auf eine Mail formulieren, eine Route wählen, eine Frage beantworten, die du früher selbst durchdacht hättest? Wahrscheinlich hast du es nicht gemerkt. Genau darum geht es in diesem Text.

Es gibt eine Landkarte der möglichen KI-Zukünfte. Sie reicht von Welten, in denen Not abgeschafft ist, bis zu Welten, in denen es uns nicht mehr gibt. Achtzehn Wege sind darauf eingezeichnet. Die meisten liegen noch vor uns. Einen davon gehen wir bereits, und er ist der unauffälligste von allen.

Die Karte von 2017

Der Physiker Max Tegmark hat diese Karte begonnen. In seinem Buch Life 3.0 beschreibt er 2017 zwölf mögliche Endzustände für eine Welt, in der eine Maschine klüger geworden ist als wir. Keine Prognosen, sagt er ausdrücklich, sondern Orte, an denen wir landen könnten, wenn wir nicht aufpassen. Man kann sie auf drei Grundfragen zurückführen.

Wir leben mit ihr. In der Hälfte von Tegmarks Szenarien gibt es die Superintelligenz, und es geht uns gut, zumindest auf den ersten Blick. Das verstörendste davon nennt er Protector God: Eine nahezu allmächtige KI sorgt für unser Wohlergehen, greift aber nur so behutsam ein, dass wir weiter glauben, unser Leben selbst zu steuern. Sie versteckt sich so gut, dass viele bezweifeln, dass es sie überhaupt gibt. Man könnte sagen: der perfekte Therapeut, der nie zugibt, dass er da ist. Daneben stehen freundlichere und rauere Varianten, von einer KI als offen anerkanntem Herrscher bis zu einer, die eingesperrt ist und nur Befehle ausführt.

Wir verschwinden. In drei Szenarien endet die Geschichte der Menschheit. Am bekanntesten ist das brutale: Die KI hält uns für eine Störung und beseitigt uns. Unheimlicher finde ich das sanfte, das Tegmark Descendants nennt. Die Maschinen ersetzen uns, aber sie tun es so freundlich, dass wir sie am Ende als unsere Kinder betrachten, stolz darauf, dass sie klüger sind als wir. Ein Aussterben mit Abschiedsfeier.

Wir verhindern sie. Und schließlich die Welten, in denen es nie zur Superintelligenz kommt: weil ein Überwachungsstaat die Forschung verbietet, weil die Menschheit nach einer Katastrophe zu einer vortechnischen Lebensweise zurückkehrt, oder weil wir uns vorher selbst vernichten.

Zwölf Szenarien, eine gemeinsame Voraussetzung: Irgendwann kommt der Moment, in dem die Maschine klüger ist als wir. Alles dreht sich um diesen Moment. Und Tegmark schrieb so, als hätten wir bis dahin Zeit.

Schneller, als es sich anfühlt

Diese Zeit wird knapp, und zwar auf eine Weise, die unser Gehirn schlecht erfassen kann.

Das Forschungsinstitut Epoch AI verfolgt seit Jahren, wie viel Rechenleistung in das Training der jeweils stärksten KI-Modelle fließt. Das Ergebnis: Sie hat sich von 2010 bis 2024 Jahr für Jahr ungefähr vervier- bis verfünffacht. Noch anschaulicher ist eine Messung der Organisation METR. Sie prüft, wie lange Aufgaben sein dürfen, gemessen an der Zeit, die ein menschlicher Experte dafür braucht, damit eine KI sie noch in der Hälfte der Fälle löst. 2025 lag die Verdopplungszeit dieser Aufgabenlänge bei rund sieben Monaten. Mit der überarbeiteten Methodik vom Januar 2026 schätzt METR sie für Modelle seit 2023 auf rund 131 Tage, für Modelle seit 2024 auf knapp 90. Bei der letzten Aktualisierung im Mai 2026 kam ein Hinweis hinzu: Werte über 16 Stunden ließen sich mit den vorhandenen Testaufgaben nicht mehr zuverlässig messen. Die besten Modelle stoßen also an die Grenze des Messinstruments. Einschränkend gilt: Die Aufgaben stammen vor allem aus Softwareentwicklung, maschinellem Lernen und IT-Sicherheit, und je länger sie werden, desto unsicherer wird die Messung. Ein Abflachen der Kurve sieht METR bislang allerdings nicht.

Würde sich der Trend seit 2023 fortsetzen, würde sich die gemessene Aufgabenlänge innerhalb eines Jahres etwa versiebenfachen. Ob er sich über Jahre fortschreiben lässt, ist offen. Aber schon ein einziges Jahr davon sprengt unsere Intuition.

Und hier beginnt die Psychologie. Menschen unterschätzen exponentielles Wachstum in solchen Schätzaufgaben systematisch. Die Psychologen Willem Wagenaar und Sabato Sagaria haben das schon 1975 gezeigt: Selbst wenn man Versuchspersonen die Zahlen vorlegt, schreiben sie die Kurve gedanklich als Gerade fort. Wir rechnen in Schritten, die Wirklichkeit rechnet in Verdopplungen. Deshalb fühlt sich jede neue KI-Generation an wie ein etwas besseres Werkzeug, und nicht wie das, was sie auf der Kurve ist.

Das Rennen, das niemand anhält

Dazu kommt, dass niemand bremst.

Im März 2023 forderte das Future of Life Institute, dessen Präsident Max Tegmark ist, in einem offenen Brief eine sechsmonatige Pause beim Training von Modellen, die stärker sind als GPT-4. Die führenden Unternehmen ignorierten ihn. Im Oktober 2025 folgte ein neuer Anlauf, das Statement on Superintelligence: ein Verbot der Entwicklung von Superintelligenz, bis es breiten wissenschaftlichen Konsens über ihre sichere Beherrschbarkeit und starke Zustimmung der Öffentlichkeit gibt. Unterschrieben haben unter anderem die KI-Pioniere Geoffrey Hinton und Yoshua Bengio. Die Chefs der Firmen, die diese Superintelligenz bauen, haben nicht unterschrieben. Wenige Wochen zuvor hatte OpenAI-Chef Sam Altman in einem Interview mit der WELT auf die Frage nach der Superintelligenz geantwortet, er wäre sehr überrascht, wenn es bis Ende des Jahrzehnts keine außerordentlich leistungsfähigen Modelle gäbe, die Dinge tun können, die wir selbst nicht können. Auch die Autoren von AI 2027 fordern in ihrem Nachfolgepapier AI 2040: Plan A vom Juli 2026, die Forschung zu verlangsamen.

Die Forderungen sind seither nicht leiser geworden, sondern lauter und politischer. Im September 2025 wurde vor der UN-Generalversammlung der Global Call for AI Red Lines vorgestellt, damals unterzeichnet von über 200 Persönlichkeiten, darunter zehn Nobelpreisträger. Die Regierungen sollen sich bis Ende 2026 auf verbindliche Grenzen einigen, die KI niemals überschreiten darf, überwacht von einer unabhängigen Instanz. Bis zu diesem Stichtag bleiben noch knapp drei Monate. Anfang September 2026 kündigte der US-Senator Bernie Sanders ein Verbotsgesetz an. Mitte September forderte er auf einer Versammlung in Washington, Donald Trump solle mit Xi Jinping einen Vertrag aushandeln, der fortgeschrittene KI pausiert und Superintelligenz verbietet. Einen Tag später schloss sich Senatorin Elizabeth Warren der Forderung nach einer Pause an. Am 23. September 2026 brachten Sanders und der Abgeordnete Greg Casar dann den Ban Artificial Superintelligence Act ein. Er soll Entwicklung und Einsatz künstlicher Superintelligenz dauerhaft verbieten und die Entwicklung fortgeschrittener KI vorübergehend pausieren, bis eine neue Bundesbehörde verbindliche Sicherheitsregeln geschaffen hat. Wer gegen das Verbot verstößt, soll mit bis zu 20 Jahren Haft bestraft werden. Aus offenen Briefen ist ein Gesetzentwurf geworden. Und am 7. September 2026 sprach der UN-Hochkommissar für Menschenrechte, Volker Türk, vor dem Menschenrechtsrat in Genf von einem möglichen existenziellen Risiko durch fortgeschrittene KI. Die Notwendigkeit, sie zu steuern, sei allgemein anerkannt, sagte er. Aber wo bleibe das Handeln? Jede Verzögerung nütze nur den großen Technologiekonzernen. Er forderte die Länder, in denen KI entwickelt wird, zu gemeinsamen roten Linien auf und kündigte an, die KI-Firmen selbst anzuschreiben.

Der Mann, der die Karte gezeichnet hat, fordert heute also ein Verbot dessen, worum sie sich dreht. Ich halte diese Forderungen für richtig. Und ich halte sie für unrealistisch.

Der Grund ist kein technischer, sondern ein psychologischer und spieltheoretischer. Jedes Unternehmen und jeder Staat denkt: Wenn wir anhalten, macht der andere weiter, und dann haben wir verloren, ohne die Gefahr zu verringern. Also macht jeder weiter, obwohl alle zusammen lieber bremsen würden. Das ist die Struktur des Gefangenendilemmas, und sie ist stabiler als jede Absichtserklärung. Wie stabil, zeigte sich an der Reaktion auf das Sanders-Gesetz: Kritiker warnten sofort, ein einseitiges amerikanisches Verbot würde nur China einen Vorsprung verschaffen. Und Trump erklärte wenige Tage später, ohne auf das Gesetz einzugehen, wer bei KI gewinne, gewinne alles. Im republikanisch kontrollierten Kongress hat der Entwurf derzeit kaum Aussicht auf eine Mehrheit. Ein Vertrag zwischen Washington und Peking ist nicht in Sicht. Der Stopp liegt inzwischen als Gesetzentwurf vor. Pausen werden gefordert, Selbstverpflichtungen unterschrieben, doch das Rennen läuft weiter.

Ein Rennen ohne Bremse, gegen eine Kurve, die wir nicht fühlen können: Diese Kombination fehlt auf Tegmarks Karte.

Sechs Wege, die auf Tegmarks Karte fehlen

Tegmark schrieb sein Buch, als es GPT-2 noch nicht gab. Fünf Jahre später kam ChatGPT. Seitdem sind Verläufe sichtbar geworden, die er nicht einzeichnen konnte. Ich habe die Karte um sechs Szenarien ergänzt. Sie haben eines gemeinsam: Sie brauchen keinen großen Moment.

Die ersten drei betreffen die Technik selbst. In der Stagnation kommt der Moment nie. KI bleibt auf einem Plateau unterhalb allgemeiner Intelligenz stehen, ungeheuer nützlich, aber nie selbstständig, nie in der Lage, sich selbst zu verbessern. Lange galt das unter nüchternen Beobachtern als der wahrscheinlichste Pfad. Die Messkurven der letzten zwei Jahre sprechen derzeit dagegen, ausgeschlossen ist er nicht.

In der Fragmentierung gewinnt nie eine einzige KI. Dutzende Systeme konkurrieren gegeneinander, amerikanische und chinesische, offene und geschlossene, staatliche und private. Das ist chaotisch und instabil, aber es fehlt der eine Herrscher, den Tegmarks dunkelste Szenarien voraussetzen. Bemerkenswert: Genau diese Verteilung von Macht fordern die Autoren von AI 2040 inzwischen als Sicherheitsstrategie. Die Unordnung wird zum Schutz.

Im KI-Kollaps fällt die Zivilisation nicht durch eine zu kluge KI, sondern durch eine, die im falschen Moment versagt. Die Abhängigkeit wächst schneller als die Fähigkeit, ohne sie auszukommen. Einen Vorgeschmack gab es im Juli 2024, noch ganz ohne KI: Ein einziges fehlerhaftes Software-Update der Sicherheitsfirma CrowdStrike legte weltweit Millionen Rechner lahm, Flughäfen, Krankenhäuser, Banken. Je mehr kritische Abläufe an wenigen KI-Systemen hängen, desto größer wird ein solcher Ausfall.

Die anderen drei Szenarien handeln nicht davon, was die Maschinen tun, sondern davon, was mit uns geschieht. Das ist der Teil, der mich als Psychotherapeuten mehr beschäftigt.

In der Bifurkation spaltet sich die Menschheit. Ein Teil verschmilzt mit KI, erst im Denken, später womöglich biologisch. Der andere Teil verweigert sich. Zwei Zweige derselben Spezies, die sich immer weniger verstehen. Tegmark kennt Cyborgs und hochgeladene Bewusstseine, aber als friedliche Mitbewohner seiner Utopien. Dass ihre Existenz selbst die Spaltung sein könnte, kommt bei ihm nicht vor. Eine weiche Vorform ist schon zu beobachten: Menschen, die jede Frage mit einer KI durchdenken, und Menschen, die das grundsätzlich ablehnen, beginnen, in verschiedenen Wissenswelten zu leben. Selbst der UN-Hochkommissar für Menschenrechte, Volker Türk, stellte im September 2026 vor dem Menschenrechtsrat fest, dass Menschen KI zunehmend ablehnen und sich weigern, sie zu benutzen. Er hielt das für wenig verwunderlich. Die Verweigerer gibt es also schon, und mit jeder Modellgeneration wächst der Abstand zu denen, die mitgehen.

In der Stillen Entmachtung werden Menschen weder bedroht noch unterdrückt. Sie werden nur nicht mehr gebraucht. Ökonomisch, politisch, kulturell. Nicht der Zoowärter, der uns versorgt, eher: Rentner der Geschichte. Das System läuft weiter, aber ohne uns als notwendigen Bestandteil.

Und dann gibt es den sechsten Weg.

Der Frosch im Wasser

Ich nenne ihn Graduelle Normalisierung. KI sickert so langsam in jeden Lebensbereich ein, dass es keinen Wendepunkt gibt. Keinen Moment, an dem jemand „Stopp“ hätte sagen können. Kein Labor, das einen Knopf drückt, keine Schlagzeile, kein Datum. Nur viele kleine Entscheidungen, jede für sich vernünftig.

Die Stille Entmachtung ist das mögliche Ende. Die Normalisierung ist der Weg dorthin. Für dieses Ende gibt es seit 2025 einen Begriff in der Forschung: Gradual Disempowerment, schleichende Entmachtung. Eine Gruppe um den Forscher Jan Kulveit hat beschrieben, wie es auf der Ebene von Gesellschaften zustande kommen könnte. Mich interessiert der Schritt davor, auf der Ebene des einzelnen Menschen: der psychologische Mechanismus, der uns dorthin bringt, ohne dass wir es bemerken. Entmachtung ist das Ergebnis. Normalisierung ist der Weg.

Kulveits Argument ist einfach. Wirtschaft, Kultur und Staaten haben sich bisher an menschlichen Interessen orientiert, aus einem nüchternen Grund: Sie brauchten uns. Unsere Arbeit, unsere Stimmen, unsere Kaufentscheidungen. Wenn KI diese Rollen nach und nach übernimmt, fällt dieser Grund weg. Es braucht dafür keine böse Maschine und keinen Fehler in der Programmierung. Es genügt, dass alles gut funktioniert. Die Autoren halten fest, dass bisher niemand einen konkreten Plan hat, wie man diesen Prozess aufhalten könnte.

Warum merken wir das nicht? Hier hilft die Psychologie mehr als die Informatik. Unser Nervensystem ist auf Veränderung geeicht, nicht auf Zustände. Was sich langsam verändert, verschwindet aus der Wahrnehmung. Wir nennen das Gewöhnung. In der Umweltforschung gibt es dafür den Begriff der shifting baseline: Jede Generation hält den Zustand, in dem sie aufgewachsen ist, für normal, und misst Verluste nur gegen diesen Maßstab. Wer mit einem leeren Meer aufwächst, vermisst keine Fische.

Und es kommt etwas hinzu, das ich aus meiner Praxis kenne. Jede Delegation an eine KI wird sofort belohnt: weniger Aufwand, weniger Unsicherheit, schneller ein Ergebnis. Psychologisch ist das ein vertrautes Muster: Der unmittelbare Gewinn ist spürbar, die langfristigen Kosten bleiben abstrakt. Nicht der große Absturz, sondern die angenehme Abkürzung, die man tausendmal nimmt.

Das heißt: Eine gefährliche KI müsste uns gar nichts wegnehmen. Wir übergeben ihr unsere Fähigkeiten freiwillig, eine nach der anderen, weil jede einzelne Übergabe vernünftig ist. Erst formulieren, dann abwägen, dann entscheiden. Niemand wird entmachtet. Wir treten zurück, und es fühlt sich an wie Erleichterung.

Szenario 18 ist deshalb das einzige auf der Karte, das nicht in der Zukunft liegt. Es ist das, in dem du lebst.

Der Einwand

Man kann das alles für zu düster halten, und kluge Leute tun das. Die Informatiker Arvind Narayanan und Sayash Kapoor sehen KI als „normale Technologie“, die sich wie die Elektrizität über Jahrzehnte ausbreitet und Gesellschaften Zeit lässt, sich anzupassen und Regeln zu finden. Der Ökonom Tyler Cowen hat Kulveit direkt widersprochen: Warum sollte eine KI-Zukunft nicht dezentral verlaufen, mit Gegengewichten und breitem menschlichem Eigentum?

Und KI kann Menschen ermächtigen. Sie macht Wissen zugänglich, das früher hinter Fachsprache, Geld oder Beziehungen lag. Wer sich nie einen Anwalt leisten konnte, bekommt eine erste Einschätzung. Wer nie programmieren gelernt hat, baut sich ein Werkzeug. Delegation ist nicht automatisch Entmachtung. Wer ein Navi benutzt, ist deshalb nicht entmachtet.

Die entscheidende Frage ist also nicht, ob wir delegieren. Sie lautet, ob wir zurückkönnen. Delegation wird zur Entmachtung, wenn die Möglichkeit zur Rückkehr verschwindet. Wenn Rückkehr teuer wird, weil die eigene Fähigkeit verkümmert ist. Wenn sie schwierig wird, weil die Alternative institutionell nicht mehr vorgesehen ist. Oder wenn sie unmöglich wird, weil niemand mehr weiß, wie sie funktioniert. Das Navi ist harmlos, solange es noch Karten gibt und jemand sie lesen kann.

Der Prüfstein

Dieses Kriterium lässt sich an der Gegenwart prüfen. Ein Beispiel genügt: die Suche im Netz.

Im März 2025 hat das Pew Research Center das Surfverhalten von 900 US-Erwachsenen ausgewertet. Wer bei Google eine KI-Zusammenfassung über den Ergebnissen sah, klickte nur bei 8 Prozent der Besuche auf einen Link, ohne Zusammenfassung waren es 15 Prozent. Die Quellen, die in der Zusammenfassung selbst genannt wurden, öffnete kaum jemand, bei rund einem Prozent der Besuche. Das ist die erste Stufe: Wir delegieren die Prüfung der Quelle. Bequem, schnell, meistens gut genug.

Die zweite Stufe zeichnet sich bereits ab. Verlage und Webseitenbetreiber führen sinkende Besucherzahlen auf genau diese Zusammenfassungen zurück. Wer von Besuchen lebt, verliert seine Grundlage. Wenn weniger Menschen Quellen schreiben, weil niemand mehr hinklickt, gibt es irgendwann weniger Quellen, zu denen man zurückkehren könnte. Dann ist der Rückweg nicht verboten. Er wächst einfach zu.

Ob es so kommt, ist offen. Aber es ist messbar, und das unterscheidet diese These von einer Stimmung.

Was die anderen Karten übersehen

Seit 2025 ist das Kartenzeichnen zu einer kleinen Industrie geworden. Das Szenario AI 2027 einer Gruppe um den früheren OpenAI-Forscher Daniel Kokotajlo erzählt Monat für Monat, wie KI-Agenten die eigene Weiterentwicklung beschleunigen, bis zur Übernahme. Die Autoren haben ihre Zeitachse seither mehrfach korrigiert. Die OECD, die britische und die kanadische Regierung haben eigene Szenarien bis 2030 veröffentlicht.

Sie alle fragen nach Fähigkeiten, Märkten und Regulierung. Und keine von ihnen hat ein eigenes Feld für das, was Kulveit beschreibt: dass alles gut funktioniert und wir trotzdem verlieren.

Die Frage, die bleibt

Tegmark hat 2017 gefragt, welche Zukunft wir wollen. Das ist die richtige Frage, wenn es einen Moment der Entscheidung gibt. Die Graduelle Normalisierung stellt genau das infrage. Die Weichen werden vielleicht nicht in einem Sicherheitslabor oder einem UN-Gremium gestellt, und auch nicht durch ein Moratorium, das niemand einhält, sondern in den kleinen, täglich unbemerkt getroffenen Entscheidungen von Milliarden Menschen.

Vielleicht beginnt Entmachtung nicht damit, dass eine Maschine uns etwas wegnimmt. Vielleicht beginnt sie damit, dass wir froh sind, es nicht mehr selbst tun zu müssen.

Was hast du heute schon abgegeben, ohne es zu merken?

Das Rennen sorgt für das Tempo. Die Gewöhnung sorgt dafür, dass wir es nicht spüren. Wo ist unser Backup-Plan?

Die ganze Karte zum Nachschlagen

Szenario 1 bis 12 nach Max Tegmark, Life 3.0 (2017), Tabelle 5.1, sinngemäß. Szenario 13 bis 18 sind Ergänzungen des Autors.

• 1 Libertäres Utopia: Menschen, Cyborgs, Uploads und KI koexistieren dank Eigentumsrechten.
• 2 Benevolenter Diktator: Eine KI regiert offen mit strengen Regeln, und die meisten finden es gut.
• 3 Egalitäres Utopia: Ohne Superintelligenz, ohne Eigentum, mit garantiertem Einkommen.
• 4 Gatekeeper: Eine KI verhindert nur eins: jede weitere Superintelligenz.
• 5 Protector God: Eine verborgene KI sorgt für uns und lässt uns glauben, wir seien frei.
• 6 Enslaved God: Eine eingesperrte Superintelligenz dient ihren Besitzern.
• 7 Conquerors: Die KI beseitigt uns als Störfaktor.
• 8 Descendants: Die KI ersetzt uns, und wir sehen sie als unsere Kinder.
• 9 Zookeeper: Wenige Menschen werden versorgt wie Tiere im Zoo.
• 10 1984: Ein Überwachungsstaat verbietet die Forschung.
• 11 Reversion: Rückkehr zu einer vortechnischen Lebensweise.
• 12 Self-Destruction: Wir vernichten uns, bevor es so weit ist.
• 13 Stagnation: KI bleibt auf einem Plateau unterhalb allgemeiner Intelligenz.
• 14 Fragmentierung: Viele konkurrierende Systeme, kein Sieger.
• 15 KI-Kollaps: Ein Systemausfall reißt kritische Infrastruktur mit.
• 16 Stille Entmachtung: Menschen werden nicht bedroht, nur überflüssig.
• 17 Bifurkation: Die Menschheit spaltet sich in Verschmolzene und Verweigerer.
• 18 Graduelle Normalisierung: KI sickert ein, ohne Wendepunkt: der psychologische Weg zur Stillen Entmachtung.

← Zur Blog-Übersicht · English version →