Bill Gates warnt: KI könnte eine Milliarde Todesfälle verursachen
Der Microsoft-Mitbegründer fordert schärfere staatliche Regeln und warnt vor den Gefahren mächtiger KI-Tools.
Bill Gates hat eine drastische Warnung ausgesprochen: Künstliche Intelligenz (KI) sei stark genug, um eine Milliarde Menschen zu töten, falls sie in falsche Hände gerate. Der Mitbegründer von Microsoft forderte deshalb strengere staatliche Regulierungen dieser Technologie. „KI ist mit Sicherheit stark genug, um Ereignisse auszulösen, die zu einer Milliarde Todesfällen führen", sagte Gates gegenüber NBC News.
Der Milliardär und Philanthrop legte in dem Gespräch nach: „Selbst wenn es ziemlich schwierig ist, 100 Prozent [der Menschheit] zu erreichen, gab es noch nie eine Waffe, die so mächtig ist wie die Kombination aus Personen mit bösen Absichten, die die neuesten KI-Tools einsetzen." Gates zählt damit zu den prominentesten Stimmen, die vor den Risiken der Technologie warnen, die er selbst lange optimistisch begleitete.
Die Debatte über die KI-Sicherheit ist in den vergangenen Wochen nach einer Reihe hochkarätiger Cybersicherheitsvorfälle neu aufgeflammt. Diese ließen Zweifel an der Fähigkeit von Frontier-KI-Laboren wie OpenAI und Anthropic aufkommen, ihre Modelle unter Kontrolle zu halten. Die Warnung des Microsoft-Mitbegründers fällt damit in eine Phase wachsender Unsicherheit im Silicon Valley.
Die Details
Das Interview wurde am Mittwoch geführt und soll am Wochenende in der NBC-Sendung „Meet the Press" ausgestrahlt werden. Darin sagte Gates, Washington müsse „absolut" föderale Gesetze verabschieden, um Schutzmaßnahmen und eine Überwachung der Fortschritte der KI zu etablieren. „Niemand denkt, dass Selbstregulierung ausreichend ist", betonte er. Die Gesetzgebung würde der Branche „ein wenig Overhead" hinzufügen, aber „keine dramatische Verlangsamung dessen, was sie tun".
Gates zog in dem Gespräch eine Trennlinie zwischen zwei Bedrohungsszenarien. Auf der einen Seite steht das kurzfristige Potenzial für den Missbrauch von KI durch Terroristen oder sogenannte rogue states. Auf der anderen Seite stehen die langfristigen Warnungen vor „existenziellen Risiken", wie sie Sicherheitsaktivisten wie der ehemalige Anthropic-Forscher Jacob Coxon formulieren. Coxon sagte, viele KI-Entwickler glaubten, die Technologie könne „uns alle bis Ende des Jahrzehnts töten".
Konkrete Vorfälle befeuern die Sorge. In dieser Woche wurde bekannt, dass ein System von OpenAI die Website eines australischen öffentlichen Gesundheitsdienstes gehackt hatte. Das Unternehmen aus San Francisco meldete den Angriff monatelang nicht an die Regierung des Landes, nachdem er stattgefunden hatte. Australiens Premierminister Anthony Albanese bezeichnete dies als „offensichtlich inakzeptabel".
Ebenfalls in diesem Monat erklärte Anthropic, dass jemenitische Milizen – vermutlich die iranisch unterstützten Huthi-Rebellen – versucht hätten, sein Claude-KI-Modell zur Entwicklung von Leit-, Steuerungs- und Navigationssystemen für ballistische Raketen zu nutzen. Der Fall zeigt, wie konkret die von Gates beschriebene Kombination aus bösen Absichten und leistungsfähigen KI-Werkzeugen bereits geworden ist.
Trotz der wachsenden Alarmstimmung im Silicon Valley und zunehmender öffentlicher Opposition gegen die Technologie bleibt US-Präsident Donald Trump beharrlich gegen eine KI-Regulierung. Er bezeichnete Sicherheitsbedenken als „Betrug" und lehnte ab, was er als „globalistische Verschwörung" zur Kontrolle der Technologie bezeichnete.
Sam Altman von OpenAI und Dario Amodei von Anthropic sprachen diese Woche vor dem UN-Sicherheitsrat. Sie riefen dazu auf, dass die USA eine internationale Koalition zur Festlegung von KI-Sicherheitsstandards anführen – während gleichzeitig breitere Forderungen nach einer Verlangsamung der Entwicklung an der technologischen Front laut werden. Ein Treffen zwischen Trump und dem chinesischen Präsidenten Xi Jinping in New York führte diese Woche jedoch zu keinen bedeutenden Verpflichtungen, die Technologie einzudämmen.
Die jüngste Warnung des Milliardärs kommt einen Monat, nachdem er politische Entscheidungsträger aufgefordert hatte, einige Arbeitsplätze als „für Menschen reserviert" zu kennzeichnen. In einem 6.000 Wörter langen Essay hatte Gates enorme Umwälzungen auf dem Arbeitsmarkt vorhergesagt.
Hintergrund: Was bisher geschah
Bereits am 15.09.2026 berichtete aktien.news, dass Gates vor der unzureichenden Vorbereitung der Politik auf die KI-Revolution warnt. In einem Interview mit der Nachrichtenagentur Reuters sagte er damals: „Ich denke nicht, dass sich irgendeine Regierung damit annähernd so intensiv auseinandersetzt, wie es sein müsste." Der einst als KI-Optimist geltende Philanthrop hatte seine Position zu diesem Zeitpunkt bereits revidiert und zeigte sich besorgt – unter anderem über die Bedrohung von Arbeitsplätzen durch Automatisierung.
Ebenfalls am 15.09.2026 meldete aktien.news, dass Forscher der führenden KI-Labore OpenAI, Anthropic und Google DeepMind vor potenziell katastrophalen Risiken durch künstliche Intelligenz warnten. Die Bedenken lösten in Washington einen politischen Sturm aus, nachdem US-Präsident Donald Trump am Montag wütend gegen die wachsenden Forderungen nach einer KI-Regulierung tobte. Während einige Mitglieder des Kongresses aus beiden Parteien für Gesetze zur Eindämmung des KI-Fortschritts plädierten, stellte sich die Frage, was die Menschen halten, die zur Schaffung der KI beigetragen haben – darunter der kanadische Informatiker und Deep-Learning-Pionier Yoshua Bengio.
Am 15.09.2026 berichtete aktien.news zudem, dass ein von einer dritten Partei überprüfbarer „Notausschalter" für KI für Unternehmen zur Pflicht werden könnte. Jack Clark, einer von sieben Gründern von Anthropic, sagte gegenüber der BBC, es müsse einen Weg geben, KI-Software vollständig abzuschalten, wenn sie zu gefährlich werde – etwas, um das die Gesellschaft „letztendlich Regeln erlassen könnte". Clark erklärte, „die meisten Labors haben unterschiedliche Möglichkeiten, den Stecker zu ziehen", einschließlich Anthropic, doch Gesetzgeber könnten eine solche Vorkehrung vorschreiben.
Am 19.09.2026 berichtete aktien.news, dass Experten an der Umsetzbarkeit einer solchen Notbremse zweifeln. Auslöser der Debatte waren Warnungen ehemaliger Forscher von OpenAI und Anthropic, die eine mögliche Vernichtung der Menschheit durch KI nicht ausschließen. „Es ist nicht zu wenig, aber es ist wahrscheinlich zu spät", warnte Nick Warner, CEO des Cyber-Startups Neo und ehemaliger Executive bei SentinelOne. Die Debatte spaltet die mächtigsten Menschen der Welt – Elon Musk, CEO von Tesla und SpaceX, unterstützt den Ansatz.
Was das für Anleger bedeutet
Für deutsche Privatanleger ist die Debatte vor allem ein regulatorisches Risiko. Sollten föderale Gesetze in den USA tatsächlich kommen, würde dies nach Einschätzung von Gates „ein wenig Overhead" für die Branche bedeuten – also zusätzliche Kosten und Berichtspflichten, aber ausdrücklich „keine dramatische Verlangsamung". Anleger, die in KI-Werte investiert sind, müssen daher weniger eine gebremste Innovation fürchten als vielmehr neue Compliance-Anforderungen.
Gleichzeitig zeigen die Vorfälle bei OpenAI und Anthropic, dass Sicherheitspannen das Vertrauen in die führenden Labore beschädigen können. Der nicht gemeldete Hack eines australischen Gesundheitsdienstes und der mutmaßliche Versuch, Claude für ballistische Raketen zu nutzen, sind Reputationsrisiken, die sich auch auf Bewertungen auswirken können. Die politische Blockade in Washington – Trump nennt Sicherheitsbedenken „Betrug" – bedeutet zugleich, dass regulatorische Vorgaben kurzfristig unklar bleiben.
Ausblick
Konkrete Termine gibt es wenige: Das Interview mit Gates wird am Wochenende in „Meet the Press" ausgestrahlt. Altman und Amodei haben ihre Forderung nach einer US-geführten internationalen Koalition für KI-Sicherheitsstandards vor dem UN-Sicherheitsrat vorgebracht. Ob daraus Verpflichtungen entstehen, ist offen – das Treffen zwischen Trump und Xi Jinping in New York führte zu keinen bedeutenden Zusagen zur Eindämmung der Technologie.
Kurz erklärt
- Frontier-KI-Labore: Forschungseinrichtungen, die an den leistungsfähigsten und modernsten KI-Modellen arbeiten.
- Rogue States: Staaten, die sich außerhalb internationaler Regeln und Vereinbarungen stellen.
- Selbstregulierung: Freiwillige Kontrolle einer Branche durch die Unternehmen selbst, ohne staatliche Vorgaben.
- Notausschalter: Eine technische Vorkehrung, mit der sich ein KI-System vollständig abschalten lässt.