Es gibt Bücher, die gut sind aber einen Beigeschmack zurücklassen. Mustafa Suleymans „The Coming Wave“, das er zusammen mit Michael Bhaskar verfasst hat gehört zu dieser nicht allzu seltenen Gattung. Mit der Gründlichkeit eines Untergangstheologen malt der ehemalige DeepMind-Mitgründer das Bild einer Welt, die von den Technologien überrollt wird, an deren Entwicklung er selbst nicht ganz unbeteiligt war. Man liest seine knapp 340 Seiten wie das fundierte Geständnis eines Brandstifters, der plötzlich die Feuerwehr ruft. Doch im Gegensatz zu anderen KI-Forschern, die der Industrie den Rücken gekehrt haben (allen voran Geoffrey Hinton) – und hier kommt der Beigeschmack – mischt Suleyman nach getaner Arbeit an dem für den Deutschen Wirtschaftsbuchpreis 2024 nominierten Werk wieder kräftig mit. Kaum hatte er vor den Gefahren unkontrollierter KI gewarnt, übernahm er als CEO die Führung von Microsoft AI – einem der zentralen globalen Akteure jener KI-Entwicklung. Das wird auch dadurch nicht glaubwürdiger, dass Suleyman mehr kritische und aktive Stimmen aus den Techunternehmen fordert. Aus einer solchen Perspektive kann man aus dem Buch die Hybris einer Selbstvermarktung von KI-Unternehmen herauslesen, die mit apokalyptischen Warnungen ihre Aktienkurse in die Höhe treiben. Selbstverständlich kritisiert Suleyman in dem Buch auch das.

Dauerwellen?

Der Autor greift für sein Zukunftsszenario zur Metapher der technologischen Welle. Die Menschheitsgeschichte, so seine These, lässt sich als Abfolge solcher Wellen verstehen, von der Landwirtschaft über die Industrialisierung bis zur Digitalisierung. Nun aber rolle die ultimative Welle heran, geboren aus der Vereinigung von Künstlicher Intelligenz, Robotik, Quantencomputern und synthetischer Biologie. Diese Metapher ist geschickt gewählt: Wellen sind Naturphänomene, sie kommen unweigerlich, man kann sie höchstens kanalisieren, nicht aufhalten.

Doch die Naturmetaphorik verschleiert mehr, als sie erklärt. Hinter den kosmischen Kräften, von denen Suleyman schwärmt, stehen sehr irdische Entscheidungen von Vorstandsetagen, Risikokapitalgebern und Politikern. Die „kommende Welle“ ist weniger Naturgewalt denn Produkt bewusster menschlicher Gestaltung.

Dennoch: Seine Analyse der KI als Allzwecktechnologie ist klar und illustrativ. Je nach Zählweise hat die Menschheit bislang 24 solcher fundamentalen Technologien hervorgebracht, vom Faustkeil, über den Buchdruck bis zum Internet. Jede dieser Allzwecktechologien brachten Zäsuren und Umwälzungen. Doch KI, so Suleyman, übersteigt alle Vorgänger.

Die vier Reiter der digitalen Apokalypse

Suleyman beschreibt vier Charakteristika, die die neue Welle von allen vorangegangenen unterscheiden: Asymmetrie, Hyper-Evolution, „Omni-Use“ und Autonomie. Hinter den technokratischen Begriffen verbirgt sich eine düstere Vision: Wenige können Vielen schaden (Asymmetrie), Entwicklungen beschleunigen sich exponentiell (Hyper-Evolution), dieselbe Technologie dient potentiell unzähligen Zwecken (Omni-Use) und die Systeme entziehen sich zunehmend menschlicher Kontrolle (Autonomie). Das macht Einhegung zu einer Sisyphos-Arbeit mit ungewissen Erfolgschancen.

Welche Folgen das haben kann erläutert Suleyman an der Figur des „Gorilla-Problems“, das auf den KI-Forscher Stuart Russell zurückgeht:

„Wir Menschen dominieren unsere Umwelt aufgrund unserer Intelligenz. Ein intelligenteres Wesen könnte folglich uns beherrschen. (…) Gorillas sind körperlich stärker und zäher als jeder Mensch, aber sie sind es, die vom Aussterben bedroht sind oder in Zoos leben; sie sind ‚eingedämmt‘. Wir mit unseren mickrigen Muskeln, aber großen Gehirnen sorgen für die Eindämmung. Indem wir etwas schaffen, das schlauer ist als wir, könnten wir uns selbst in die Lage unserer Vettern, der Primaten, versetzen.“

Eindämmung ist kein Rastplatz

Suleymans Antwort auf diese Herausforderungen ist ein Programm der „Eindämmung“ – ein Begriff, der nicht zufällig an die Containment-Politik des Kalten Krieges erinnert. Ein Bündel aus zehn Maßnahmen soll die technologische Bedrohung bannen: von technischer Sicherheit über internationale Allianzen bis zu neuen Formen der Unternehmensführung. Das Programm ist so umfassend wie fernliegend – ein „utopischer Traum“, wie der Guardian in einer Rezension treffend bemerkte.

Doch Suleyman ist sich der Schwierigkeit bewusst. „Eindämmung ist kein Rastplatz“, schreibt er, „sie ist ein schmaler und nie endender Pfad.“ Hier wird der Technologie-Evangelist zum Existenzialisten: Die Eindämmung ist notwendig, aber unmöglich – also muss man sie trotzdem versuchen. Dabei bleibt die Einsicht, dass „die Frage der KI-Ausrichtung nicht nur einmal geklärt werden muss, sondern jedes Mal“. Das heißt eine Eindämmung, eine Auseinandersetzung mit der Technik ist niemals „fertig“, die Herausforderungen stellen sich immer von Neuem. Eindämmung wird zur permanenten Aufgabe, zum nie endenden Kampf gegen eine Katastrophe.

Prophet in eigener Sache

Suleymans Forderung, „die Technologie von Anfang an an die Menschen anzupassen“ ist schön und gut. Er analysiert mit der Kompetenz des Experten und der Dringlichkeit des Warnenden die Gefahren einer Entwicklung, die er – wenn auch wohl mit dem ernstgemeinten Wunsch nach Eindämmung – mit vorantreibt. Dies offenbart ein grundsätzliches Dilemma: Diejenigen, die am besten über die Risiken Bescheid wissen, sitzen nicht in der Politik, sondern in den Konzernen, die den größten Anreiz haben, diese Risiken einzugehen.

Das Paradox des aufgeklärten Apokalyptikers

Der „schmale Pfad“ der Eindämmung wird nicht nur durch technische Schwierigkeiten versperrt, sondern durch die Logik des Marktes und die Dynamik des geopolitischen Wettbewerbs. Lässt sich die Welle nicht brechen, bleibt nur der Versuch, sie zumindest ein wenig zu lenken. Suleymans Buch liefert Ideen, wo man ansetzen, wie man gegensteuern kann. In einer Debatte, die oft zwischen naivem Techno-Optimismus und vager Apokalyptik schwankt, bietet „The Coming Wave“ eine Analyse dessen, was potentiell auf uns zukommt – und wie es sich aufhalten ließe. Suleyman und Bhaskar schauen dabei aber weniger auf die Gegenwart, in der bereits konkrete Auswirkungen von KI spürbar werden, sondern konzentrieren sich eher auf die existenziellen Risiken der Zukunft.

Suleyman, Mustafa / Bhaskar, Michael: The Coming Wave, Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts, Verlag C.H. Beck.