Spanien ermittelt gegen X, Meta und TikTok wegen KI-Kindesmissbrauch

Spaniens Ministerpräsident Pedro Sánchez hat eine strafrechtliche Untersuchung gegen die Social-Media-Plattformen X, Meta und TikTok eingeleitet. Den Unternehmen wird vorgeworfen, durch ihre KI-Technologien die Erstellung und Verbreitung von Darstellungen sexuellen Kindesmissbrauchs zu ermöglichen. Das Justizministerium soll die Staatsanwaltschaft beauftragen, mögliche Straftaten der Tech-Giganten zu untersuchen.

Die Entscheidung basiert auf einem technischen Bericht von drei spanischen Ministerien und ist die erste konkrete Maßnahme aus einem umfassenden Regulierungspaket für soziale Medien. Regierungssprecherin Elma Saiz betonte, die Behörden könnten "nicht zulassen, dass Algorithmen solche Verbrechen verstärken oder decken". Die Sicherheit, Privatsphäre und Würde von Kindern stünden auf dem Spiel.

Besonders alarmierend: Laut der Kinderrechtsorganisation Save the Children gibt jeder fünfte junge Mensch in Spanien an, dass gefälschte Nacktaufnahmen von ihnen durch KI erstellt und online geteilt wurden, während sie noch minderjährig waren. Betroffen sind vor allem Mädchen. "Diese Plattformen untergraben die psychische Gesundheit, die Würde und die Rechte unserer Kinder", schrieb Sánchez auf X. "Die Straffreiheit dieser Giganten muss enden."

Internationale Ermittlungen gegen Tech-Konzerne

Spanien ist nicht allein mit seinem Vorgehen. Die irische Datenschutzkommission hat parallel eine formelle Untersuchung gegen den xAI-Chatbot Grok von X eingeleitet. Im Fokus steht die Verarbeitung personenbezogener Daten und das Potenzial zur Erzeugung schädlicher sexualisierter Bilder und Videos von Kindern. Als EU-Regulierungsbehörde für X ist die irische DPC für die europäischen Aktivitäten des US-Unternehmens zuständig.

Auch die Europäische Kommission untersucht Meta, TikTok und Grok im Rahmen des Digital Services Act. Frankreich, Brasilien und Kanada haben ebenfalls Beschwerden gegen Grok wegen der Verbreitung illegaler Inhalte eingereicht. Vor zwei Wochen durchsuchte die französische Polizei die Büros von Musks Unternehmen X, und die Staatsanwaltschaft ordnete an, dass sich der Milliardär im Rahmen einer ausgeweiteten Untersuchung Fragen stellen muss.

Dramatischer Anstieg von KI-Missbrauchsmaterial

Die Zahlen sind erschreckend: Die in Großbritannien ansässige Internet Watch Foundation meldete im Jahr 2025 insgesamt 3.440 KI-generierte Videos von sexuellem Kindesmissbrauch. Im Vergleich dazu waren es im Jahr 2024 nur 13 Videos. Diese dramatische Zunahme unterstreicht die Dringlichkeit des Problems und die Notwendigkeit regulatorischer Maßnahmen.

Sánchez hatte Anfang Februar auf einem Regierungsgipfel in Dubai neue Maßnahmen zur Bekämpfung von Online-Missbrauch und zum Schutz von Kindern vorgestellt. Dazu gehört ein vorgeschlagenes Verbot des Zugangs zu sozialen Medien für Personen unter 16 Jahren. Im November kündigte er zudem an, dass das spanische Parlament Meta wegen möglicher Datenschutzverletzungen bei Nutzern von Facebook und Instagram untersuchen werde.

Die drei betroffenen Unternehmen X, Meta und TikTok reagierten zunächst nicht auf E-Mail-Anfragen zur Stellungnahme. Die Untersuchung ist Teil eines umfassenderen Vorgehens gegen Online-Plattformen, denen Praktiken vorgeworfen werden, die von wettbewerbswidrigem Verhalten in der digitalen Werbung bis hin zur bewussten Gestaltung suchtfördernder Funktionen reichen.