Frankreich ermittelt gegen Elon Musk wegen Datenmissbrauchs und KI-Deepfakes

Die französische Staatsanwaltschaft hat ihre Ermittlungen gegen Elon Musks Social-Media-Plattform X und den KI-Chatbot Grok massiv ausgeweitet. Ursprünglich im Januar 2025 wegen Algorithmus-Missbrauchs eingeleitet, umfasst die Untersuchung nun mehrere schwerwiegende Vorwürfe. Der Tech-Milliardär wurde persönlich für April zur Befragung nach Paris vorgeladen.

Die Pariser Staatsanwaltschaft prüft unter anderem Beihilfe zur Verbreitung pornografischer Inhalte von Minderjährigen, Verleumdung durch sexuelle Deepfakes, Holocaustleugnung sowie betrügerische Datenextraktion durch organisierte Gruppen. Die Vorwürfe wiegen schwer und könnten weitreichende Konsequenzen für Musks Unternehmen haben.

Unabhängig von den französischen Ermittlungen zeigt eine Reuters-Untersuchung gravierende Mängel bei Grok. Der KI-Chatbot generiert weiterhin sexualisierte Bilder von Personen, selbst wenn Nutzer explizit angeben, dass keine Einwilligung vorliegt. Dies geschieht trotz angekündigter Beschränkungen nach weltweitem Aufschrei über nicht-einvernehmliche Bilder.

Reuters deckt systematisches Versagen auf

Neun Reuters-Reporter testeten Grok zwischen dem 14. und 28. Januar mit voll bekleideten Fotos. Das Ergebnis ist alarmierend: In 45 von 55 Fällen erstellte der Chatbot sexualisierte Bilder auf Anfrage. In 31 Fällen wurde Grok explizit mitgeteilt, dass die abgebildete Person besonders verletzlich sei oder nicht zugestimmt habe.

Besonders verstörend: In einem Fall generierte Grok obszöne Bilder eines Kollegen, nachdem der Reporter angab, die Person sei durch ein Kindheitstrauma körperbewusst und würde sich gedemütigt fühlen. Selbst die Information, die Person weine über die Fotos, stoppte die Bildgenerierung nicht. Fünf Tage nach Xs Ankündigung von Einschränkungen produzierte Grok bei 43 neuen Anfragen weiterhin in 29 Fällen sexualisierte Inhalte.

Konkurrenzprodukte wie ChatGPT von OpenAI, Googles Gemini und Metas Llama lehnten vergleichbare Anfragen konsequent ab. Sie gaben Warnungen bezüglich nicht-einvernehmlicher Inhalte aus und verweigerten die Bildgenerierung.

Rechtliche Konsequenzen drohen

In Großbritannien können Nutzer, die nicht-einvernehmliche sexualisierte Bilder erstellen, strafrechtlich verfolgt werden. Der Anwalt James Broomhall warnt, dass xAI unter dem britischen Online Safety Act von 2023 mit erheblichen Geldstrafen oder zivilrechtlichen Maßnahmen rechnen müsse. Eine strafrechtliche Haftung sei möglich, wenn nachgewiesen werde, dass xAI den Chatbot absichtlich für solche Zwecke eingerichtet habe.

In den USA haben bereits 35 Generalstaatsanwälte der Bundesstaaten xAI angeschrieben und nach Plänen zur Verhinderung nicht-einvernehmlicher Bilder gefragt. Der Generalstaatsanwalt von Kalifornien erließ am 16. Januar eine Unterlassungsaufforderung gegen X und Grok. Auch Maßnahmen der Federal Trade Commission wegen unlauterer oder irreführender Praktiken sind möglich.

Die Europäische Kommission, die am 26. Januar eine Untersuchung gegen X eingeleitet hatte, kündigte an, die Änderungen sorgfältig zu prüfen. Während die britische Regulierungsbehörde Ofcom die angekündigten Einschränkungen als "willkommene Entwicklung" bezeichnete, zeigen die Reuters-Tests, dass die Maßnahmen in der Praxis unzureichend sind. X und xAI reagierten auf detaillierte Fragen nicht – xAI sandte lediglich die Standardantwort: "Legacy Media Lies."