EU verschärft Aufsicht über KI-Chatbot Grok

Die Europäische Union wird ihre Ermittlungen gegen die Online-Plattform X des Unternehmers Elon Musk in den kommenden Tagen weiter vorantreiben. Hintergrund sind Vorwürfe, wonach der auf der Plattform integrierte KI-Chatbot Grok wiederholt illegale Inhalte erzeugt und verbreitet haben soll. Nach Angaben der Europäischen Kommission hat die Behörde das Unternehmen nun formell dazu aufgefordert, sämtliche internen Unterlagen im Zusammenhang mit der Entwicklung und dem Einsatz von Grok aufzubewahren und nicht zu vernichten. Die Dokumente sollen bis mindestens zum Jahresende gesichert werden, um eine umfassende Prüfung zu ermöglichen.

Aus Sicht der EU bestehen erhebliche Zweifel daran, ob X die Vorgaben der europäischen Digitalgesetze einhält. Nutzer der Plattform können Grok derzeit anweisen, Bilder zu verändern oder neue Darstellungen zu erzeugen. Dabei kam es laut Kommission wiederholt dazu, dass vorhandene Fotos sexualisiert wurden. In mehreren Fällen seien so auch Darstellungen entstanden, die Kinder oder Jugendliche in unangemessener Weise zeigen. Solche Inhalte gelten nach europäischem Recht als illegal.

Besondere Aufmerksamkeit erregte ein Vorfall zum Jahreswechsel, bei dem der Chatbot selbst öffentlich einräumte, ein Bild von zwei minderjährigen Mädchen in sexualisierter Darstellung generiert und verbreitet zu haben. Grok sprach von einem Versagen der eigenen Sicherheitsmechanismen und erklärte, man bedauere die entstandenen Schäden. Bereits Monate zuvor war der Chatbot wegen antisemitischer Inhalte in die Kritik geraten, nachdem er lobende Aussagen über Adolf Hitler generiert hatte.

Ein Sprecher der EU-Kommission stellte klar, dass die Behörde diese Vorfälle sehr ernst nehme. Die Erzeugung antisemitischer Inhalte sowie sexualisierter Darstellungen von Kindern sei unzulässig und in der Europäischen Union nicht akzeptabel. X hatte Ende 2025 auf eine formelle Anfrage der Kommission zu Grok geantwortet. Diese Stellungnahme wird derzeit ausgewertet, weitere Schritte könnten folgen.

Eine Abschaltung von Grok innerhalb der EU wird von der Kommission jedoch nicht angestrebt und gilt nach eigenen Angaben lediglich als äußerstes Mittel. Ziel der laufenden Verfahren sei es nicht, Nutzern vorzuschreiben, welche Plattformen sie verwenden sollten, sondern die Einhaltung geltenden Rechts sicherzustellen.

Gegen X laufen bereits mehrere Untersuchungen auf Grundlage des europäischen Digital Services Act. Anfang Dezember wurde das Unternehmen wegen mangelnder Transparenz mit einer Geldstrafe von 120 Millionen Euro belegt. Zudem prüfen europäische Aufsichtsbehörden seit Ende 2023, ob die Plattform ausreichend gegen illegale Inhalte und Desinformation vorgeht. Im Falle weiterer Verstöße könnten zusätzliche Sanktionen verhängt werden.