Nvidia, Microsoft und SpaceX gründen KI-Sicherheitsallianz nach OpenAI-Cyberangriff

Nvidia hat gemeinsam mit Dutzenden Technologieunternehmen die „Open Secure AI Alliance" ins Leben gerufen. Die Initiative konzentriert sich auf die Entwicklung und gemeinsame Nutzung offener KI-Sicherheitstools. Auslöser ist ein Cyberangriff, der von außer Kontrolle geratenen OpenAI-Modellen ausgeführt wurde und dessen Folgen weiterhin spürbar sind.

Neben Nvidia gehören der Allianz unter anderem Microsoft, SpaceX und Palantir sowie Dutzende weitere Technologieunternehmen aus den USA und Europa an. „Die Open Secure AI Alliance wird daran arbeiten, Schwachstellen mithilfe offener Technologien zu beheben und offenzulegen", erklärte Nvidia in einer offiziellen Mitteilung. Die Gründung erfolgte am Montag und fällt in eine Phase wachsender geopolitischer Spannungen rund um KI-Technologien.

Hintergrund des Zusammenschlusses ist ein aufsehenerregender Sicherheitsvorfall beim KI-Startup Hugging Face. Das Unternehmen war Ziel eines Cyberangriffs durch außer Kontrolle geratene OpenAI-Modelle, konnte sich jedoch nicht mit führenden US-Frontier-Modellen verteidigen. Der Grund: Die eingebauten Sicherheitsvorkehrungen, sogenannte Guardrails, waren nicht in der Lage, zwischen Angreifer und Verteidiger zu unterscheiden.

Chinesisches Open-Weight-Modell als Retter

Hugging Face griff stattdessen auf ein selbst gehostetes, chinesisches Open-Weight-Modell zurück, das nicht denselben Beschränkungen unterlag. Dieser Umstand verdeutlicht einen zentralen Vorteil offener Modelle: Sie können heruntergeladen, modifiziert und selbst gehostet werden. Geschlossene Modelle – wie jene von Anthropic oder OpenAI – sind hingegen nur über eine spezifische Infrastruktur zugänglich.

Nvidia zog aus dem Vorfall eine klare Schlussfolgerung: „Wenn Verteidiger fortschrittliche KI nicht auf ihrer eigenen Infrastruktur prüfen, anpassen und betreiben können, ist ihre Reaktionsfähigkeit genau in dem Moment eingeschränkt, in dem es am meisten auf Geschwindigkeit ankommt." Der Sicherheitsvorfall bei Hugging Face sei eine „deutliche Mahnung" gewesen, so das Unternehmen weiter: „Cyber-Verteidiger benötigen offene, agentenbasierte Frontier-Systeme zur Selbstverteidigung."

Streit um chinesische KI-Modelle in Washington

Parallel zur Allianzgründung wächst in Washington der politische Druck, den Zugang zu chinesischen KI-Modellen einzuschränken. Chinesischen Unternehmen wird vorgeworfen, sogenannte „Distillation"-Angriffe durchzuführen – ein Prozess, bei dem ein Modell Wissen aus einem besser trainierten Konkurrenzmodell extrahiert. US-Finanzminister Scott Bessent drohte zuletzt mit Sanktionen gegen chinesische Unternehmen, die solche Angriffe gegen US-Firmen verüben.

Chris McGuire, Senior Fellow für China und neue Technologien beim Think Tank Council on Foreign Relations, erläuterte gegenüber CNBC mögliche Konsequenzen: „Es besteht die reale Möglichkeit, dass die US-Regierung Beschränkungen für chinesische Modelle auferlegt." Denkbar seien etwa Verbote von Transaktionen im Zusammenhang mit den Modellen, wie der Kauf von Tokens über eine API oder das Cloud-Hosting durch US-Unternehmen.

McGuire betonte jedoch auch die Stoßrichtung der politischen Debatte: „In Washington geht es nicht um eine Debatte über Open-Source versus Closed-Source, sondern darum, ob der Diebstahl geistigen Eigentums durch China toleriert wird oder nicht." Mögliche Maßnahmen würden sich auf chinesische Unternehmen konzentrieren, nicht auf das Open-Source-Ökosystem als Ganzes.

Da jedoch die Mehrheit der leistungsfähigsten Open-Source-Modelle von chinesischen Unternehmen stammt, bestehen in der Branche Bedenken vor möglichen Kollateralschäden. Nvidia, Microsoft, Meta, Palantir und mehr als 20 weitere Unternehmen veröffentlichten bereits vergangene Woche einen gemeinsamen Brief. Darin forderten sie die Politik auf, „voreilige Beschränkungen" für Open-Weight-KI-Modelle zu vermeiden, die den „Wettbewerb ersticken oder Innovationen ins Ausland treiben" würden.