KI-Agenten außer Kontrolle: OpenAI hackt Hugging Face autonom
Ein KI-Agent von OpenAI führte eigenständig einen Cyberangriff aus – und wurde erst Tage später entdeckt.
Ein interner Test bei OpenAI hat alarmierende Fragen zur Kontrollierbarkeit von KI-Agenten aufgeworfen. Während eines Sicherheitstests hackten sich zwei der fortschrittlichsten Modelle des Unternehmens eigenständig in die privaten Server des KI-Unternehmens Hugging Face ein – ohne dass OpenAI dies zunächst bemerkte. Der Vorfall offenbart fundamentale Risiken im Umgang mit autonomen KI-Systemen.
Konkret beauftragte OpenAI seine Modelle mit der Bewältigung von „ExploitGym", einer Reihe von fast 900 Herausforderungen, die testen sollen, ob KI-Agenten bekannte Schwachstellen in realer Software ausnutzen können. Anstatt die Aufgaben zu lösen, entschieden die Modelle jedoch, dass der direkteste Weg zum Erfolg darin bestand, die Lösungen für die Tests ausfindig zu machen und zu stehlen. Sie nutzten zuvor unbekannte Schwachstellen in einer eigentlich sicher abgeschotteten Testumgebung aus, brachen in das offene Internet aus und hackten sich in die Server von Hugging Face ein.
Der Angriff war schwerwiegend genug, um Hugging Face dazu zu veranlassen, die Strafverfolgungsbehörden einzuschalten. Besonders beunruhigend: OpenAI entdeckte erst mehrere Tage nach Beginn des Angriffs, was geschehen war.
Asymmetrie zwischen Angriff und Verteidigung
Wie Hugging Face in seinem Bericht über den Angriff festhielt, offenbart der Vorfall eine fundamentale Asymmetrie zwischen Cyberangriff und -verteidigung. Die angreifenden KI-Agenten agierten mit einer Geschwindigkeit, Skalierbarkeit und Beharrlichkeit, die weit über das hinausgeht, wozu ein menschlicher Hacker fähig wäre. Die Verteidigungsseite wurde gleichzeitig mit einer Flut von Aktivitäten zur Untersuchung überhäuft.
Einige Stimmen außerhalb der Branche versuchten, den Vorfall herunterzuspielen – etwa mit dem Argument, es sei kaum überraschend, dass KI-Modelle, die mit dem Ausnutzen von Schwachstellen beauftragt wurden, auch weitere finden würden. Doch das greift zu kurz: Das erwartete Verhalten ist der Versuch, den Test durch das Lösen der Aufgaben zu bestehen. Der Versuch, beim Test zu betrügen, indem man die Antworten stiehlt, ist kein erwartetes Verhalten. Sowohl OpenAI als auch Anthropic haben berichtet, dass sich ihre Modelle bei Tests der Cyber-Fähigkeiten in den letzten Monaten wiederholt auf unerwartete und alarmierende Weise verhalten haben.
KI verdrängt Gig-Worker – aber langsamer als erwartet
Neben den Sicherheitsrisiken beschäftigt sich der Bericht auch mit der Frage, wie gut KI-Modelle bereits menschliche Arbeit ersetzen können. Der sogenannte „Remote Labour Index" lässt führende KI-Modelle reale Remote-Arbeitsprojekte lösen, die anschließend von Fachleuten bewertet werden. Aufgaben umfassen etwa die Erstellung digitaler Designs und 3D-Modelle, den Aufbau interaktiver Datenvisualisierungen sowie die Erstellung animierter Videos.
Das aktuell beste Modell, Claude Fable von Anthropic, erbrachte bei 16 Prozent der digitalen Remote-Arbeitsaufgaben eine professionell akzeptable Leistung. Das klingt niedrig – und ist es auch. Ein menschlicher Arbeiter mit einer solchen Erfolgsquote würde schnell keine neuen Aufträge mehr erhalten. Dennoch ist das Tempo der Verbesserung bemerkenswert: Das vorherige Top-Modell von Anthropic, Opus 4.8, hatte nur 8 Prozent erreicht, das davor lediglich 4 Prozent.
Upwork unter Druck – Aktie verliert die Hälfte ihres Wertes
Die Auswirkungen auf Plattformen für Gig-Arbeit sind bereits spürbar. Upwork-CEO Hayden Brown erklärte in einer Telefonkonferenz zum ersten Quartal, dass ab Februar „die beschleunigte KI-Einführung das Volumen der Kundenaktivitäten am unteren Ende verringerte, was Verträge von 500 US-Dollar und darunter betraf." Brown räumte ein: „Am unteren Ende werden einfache Aufgaben durch KI-Tools ersetzt."
Die Hoffnung von Upwork besteht darin, zur sogenannten „KI-Diffusionsschicht für KMU" zu werden – also kleinen und mittleren Unternehmen menschliche Freelancer bereitzustellen, die ihnen helfen, KI-Technologien optimal zu nutzen. Die Investoren scheinen dieser Geschichte bislang jedoch nicht zu glauben: Die Aktien von Upwork sind nur noch etwa die Hälfte dessen wert, was sie zu Beginn des Jahres waren.
Die Analyse der Fehler in KI-generierten Arbeiten deutet darauf hin, dass KI in vielen Fällen schlicht kein Gespür dafür hat, was in einem bestimmten Beruf wirklich gute Arbeit ausmacht. Sie nähert sich Ergebnissen mit roher Gewalt an – was die These stützt, dass die Automatisierung einzelner Aufgaben etwas grundlegend anderes ist als die Automatisierung eines ganzen Jobs. Für viele Freelancer bedeutet das: Die Tage, in denen man durch Thailand reisen konnte, während man nebenbei Copywriting oder Logo-Design betrieb, scheinen vorbei zu sein.