KI und Manhattan-Projekt: Der historische Vergleich hinkt gefährlich
Eine FT-Analyse erklärt, warum die Gleichsetzung von KI mit dem Manhattan-Projekt irreführend ist und die Gefahren eher verharmlost.
Das Weiße Haus unter Präsident Trump hat seine „Genesis-Mission“ für künstliche Intelligenz ausdrücklich an das Vorbild des Manhattan-Projekts geknüpft – jener Initiative im Zweiten Weltkrieg, die zur Entwicklung der ersten Atombomben führte. Diese historische Assoziation soll zugleich Dringlichkeit, Dramatik und Beruhigung vermitteln. Doch genau das macht sie kontraproduktiv, argumentiert eine aktuelle Analyse aus der Feder eines mitarbeitenden Redakteurs der Financial Times, der die Newsletter-Serie „Chartbook“ verfasst.
Mag der Verweis auf Los Alamos noch so ernsthaft klingen: Die Analogie zeichnet ein sanitisiertes Bild der tatsächlichen Lage. Für jene, die die Dringlichkeit und nationale Bedeutung von KI betonen, liegt der Reiz des Manhattan-Projekts auf der Hand. Ein spektakulärer wissenschaftlicher Durchbruch, getragen von den größten Köpfen einer Generation, wurde in den Dienst gestellt, um den Krieg gegen den Faschismus zu gewinnen. Die ethischen Dilemmata waren real, ließen sich bei Figuren wie Oppenheimer aber als moralisch ernst darstellen.
Die Bombe von damals, das Risiko von heute
Doch das ist nicht die Welt, in der wir leben. Zum einen waren die frühen Atombomben vergleichsweise bescheidene Sprengkörper, geeignet, einzelne Städte zu zerstören, nicht aber ganze Zivilisationen oder gar die Menschheit. Die apokalyptischen Risiken, über die im Silicon Valley derzeit unruhig diskutiert wird, tauchten in der nuklearen Aufrüstungsspirale erst mit dem Aufkommen des thermonuklearen Zeitalters in den 1950er Jahren und der Entwicklung der Wasserstoffbombe auf.
Wer eine passende Erzählung aus dieser Zeit sucht, landet beim Urtext: Stanley Kubricks Satire „Dr. Strangelove“. Bemerkenswert ist, dass in dieser Version der nuklearen Katastrophe rogue Agents – also keine Software, sondern echte Menschen – eigenmächtig einen Erstschlag durchführen und damit die sowjetische Doomsday-Maschine provozieren. Kubricks Pointe bestand darin, die offensichtliche Verrücktheit im Kern der Abschreckungslehre hervorzuheben – von zigarrenkauenden Kalte-Kriegs-Cowboys bis hin zum nicht-so-alten Nazi, der über die Geschlechterverhältnisse im atomaren Bunker brütet.
Ein Produkt des Silicon Valley, nicht des Staates
Doch so düster und witzig „Dr. Strangelove“ sein mag – die heutige Situation ist noch delirierender. Die alten Rahmenbedingungen von Autokratie gegen Demokratie sowie China gegen USA bestehen fort. Diesmal aber sind die zentralen Akteure nicht Wissenschaftler, Soldaten oder Beamte, sondern Geschäftsleute mit enormen Interessenkonflikten. Als die Chefs von OpenAI und Anthropic vor existenziellen Risiken warnten und nach „Pacing the Frontier“ riefen, lag der Verdacht nahe, dass sie ihr eigenes Buch feilboten – um Panik zu schüren, Regulierung herbeizuführen und ihr prekäres Oligopol zu stabilisieren.
Entscheidend ist die politische Ökonomie. Zwischen 1940 und 1996 gab die USA laut einer Studie der Brookings Institution schätzungsweise 5,5 Billionen Dollar (in Dollar der 1990er Jahre) für die nukleare Aufrüstungsspirale aus. Ein beträchtlicher Teil floss an private Auftragnehmer. Doch in ihrer gesamten Architektur war das Manhattan-Projekt der paradigmatische Fall staatlich geführter, technokratischer Industriepolitik und läutete die Ära der öffentlich finanzierten „Big-University“-Forschung ein – ein Modell, gegen das die Trump-Administration und Persönlichkeiten wie Elon Musk opponieren.
Das Neue an der aktuellen KI-Bedrohung ist, dass sie trotz tiefgreifender geopolitischer Implikationen aus dem Privatsektor geboren wurde – aus der technologisch und kommerziell getriebenen Logik von Suchmaschinen und Werbealgorithmen. Sie ist ein Produkt des Silicon Valley nach dem Ende des Kalten Krieges, als sich die F&E-Budgets erheblich vom öffentlichen in den privaten Sektor verschoben. Anfangs ließ sie sich aus cash-reichen Tech-Bilanzen intern finanzieren. Im hyperskalierenden Rennen um AGI wurde das existenzielle technologische Risiko jedoch an die Wall Street und die Finanzialisierung gekoppelt.
Die Welt, in der wir leben, ist nicht die asketischer Bombenbauer, die mit ihren Seelen ringen. Sie ist zugleich düsterer und banaler. Die heutigen weltbedrohenden Technologien werden gespeist von Trilliardär-Gier, Junk Bonds und notdürftig konstruiertem Finanzengineering. Im filmischen Sinne, so die Analyse, gleicht das Szenario einer Mischung aus „Dr. Strangelove“, Gordon „Greed-is-Good“ Gekko und einem Hauch von „The Big Short“. Endet die Welt auf diese Weise, dann nicht mit einem Knall oder einem Stöhnen, sondern im Wirbel aus Tech-Jargon, kalifornischem Lifestyle und Finanzengineering.
Fazit für Anleger
Die Analyse liefert damit einen wichtigen Kontrapunkt zur gängigen Erzählung, wonach KI das neue Manhattan-Projekt sei. Während das historische Atomprogramm staatlich geführt und öffentlich finanziert war, ist das heutige KI-Rennen zutiefst privatwirtschaftlich und finanziell getrieben. Für Privatanleger bedeutet das: Die mit KI verbundenen Risiken sind nicht nur technologischer, sondern vor allem finanzieller Natur – eingebettet in Aktienkurse, Bewertungen und komplexe Finanzkonstrukte, deren Tragfähigkeit im Falle einer Korrektur erst noch auf die Probe gestellt werden dürfte.