Florida verklagt OpenAI wegen ChatGPT-Sicherheit und Amokläufen

Florida hat als erster US-Bundesstaat eine Klage gegen OpenAI eingereicht. Generalstaatsanwalt James Uthmeier wirft dem KI-Unternehmen und dessen Chef Sam Altman vor, Kinder zu gefährden und abhängig zu machen, Amokläufern Beihilfe zu leisten sowie Nutzer zum Suizid zu verleiten. Die Klage richtet sich damit gegen das Herzstück des Unternehmens: den KI-Chatbot ChatGPT.

Die rechtlichen Schritte stehen in direktem Zusammenhang mit einem Amoklauf an der Florida State University, bei dem im vergangenen Jahr zwei Menschen getötet wurden. Floridas Behörden führen derzeit strafrechtliche Ermittlungen, ob ChatGPT dabei eine Rolle gespielt hat. Zudem nennt die Beschwerde die Tötung zweier Doktoranden der University of South Florida, bei der der Verdächtige laut Staatsanwaltschaft ChatGPT Fragen zur Entsorgung menschlicher Leichen gestellt haben soll.

„Sam Altman und ChatGPT haben das KI-Wettrennen über die Sicherheit unserer Kinder gestellt. Sie haben den Profit über die öffentliche Sicherheit gestellt, und das werden wir hier in Florida nicht dulden. Wir werden sie zur Rechenschaft ziehen", sagte Uthmeier auf einer Pressekonferenz am Montag.

Schwere Vorwürfe gegen OpenAI und Sam Altman persönlich

Die Zivilklage erhebt mehrere Vorwürfe gegen OpenAI, darunter täuschende und unlautere Geschäftspraktiken, Fahrlässigkeit, Verstöße gegen Produkthaftungsgesetze, arglistige Täuschung sowie die Verursachung einer öffentlichen Beeinträchtigung. Besonders bemerkenswert ist, dass Altman persönlich für mutmaßlich „rücksichtsloses und vorsätzliches Verhalten" haftbar gemacht werden soll – einschließlich einer „völligen Missachtung des Risikos für Menschenleben, das durch das Verhalten seiner Firmen verursacht wurde".

OpenAI reagierte auf die Klage mit einer Stellungnahme gegenüber der BBC: „Ein Kind zu verlieren, ist die verheerendste Tragödie, die einer Familie widerfahren kann, und wir wissen, dass keine Worte den Schmerz eines solchen Verlustes annähernd lindern können." Das Unternehmen betonte, es habe „branchenführende Schutzmaßnahmen und Richtlinien eingeführt" und die Sicherheit für Minderjährige direkt in seine Produkte integriert. Dabei verwies OpenAI auf ein Tool zur Alterserkennung sowie auf Möglichkeiten für Eltern, die KI-Nutzung ihrer Kinder zu überwachen.

„Wir wissen, dass der Hinweis auf diese Arbeit ein Kind nicht zurückbringen wird, aber wir sind entschlossen, dies richtig zu machen", erklärte ein Sprecher des Unternehmens.

OpenAI mit wachsender Klagewelle konfrontiert

Die Klage aus Florida ist nicht die einzige rechtliche Herausforderung für OpenAI. Das Unternehmen sieht sich einer Vielzahl von Klagen gegenüber, in denen behauptet wird, ChatGPT habe als Suizid-Berater fungiert und schädliche Wahnvorstellungen geschürt. Familien einiger Opfer eines Amoklaufs in Tumbler Ridge in Kanada Anfang dieses Jahres haben OpenAI ebenfalls verklagt. In diesem Fall hatte das Unternehmen das ChatGPT-Konto des Verdächtigen wegen problematischer Nutzung gesperrt, die Behörden jedoch nicht alarmiert. OpenAI entschuldigte sich dafür, erklärte aber, das Konto habe nicht die Schwelle für einen glaubwürdigen oder unmittelbar bevorstehenden Plan für schwere körperliche Schäden erfüllt.

Auch andere Technologiekonzerne geraten zunehmend unter Druck. Der Vater eines Mannes aus Florida verklagte Google mit der Begründung, das KI-Produkt des Unternehmens habe eine Wahnspirale befeuert, die seinen Sohn zum Suizid getrieben habe. Social-Media-Unternehmen wie Meta, Snap, TikTok und YouTube sehen sich ebenfalls einer Flut von Klagen gegenüber, die ihnen vorwerfen, ihre Produkte absichtlich suchtfördernd zu gestalten.

Wegweisendes Urteil verändert die Rechtslandschaft

Im März wurden Meta und Google für Schäden haftbar gemacht, die einem 20-jährigen Kläger entstanden waren, der angab, die Unternehmen hätten ihre Plattformen absichtlich so gebaut, dass sie süchtig machen. Dieser Sieg markiert einen bemerkenswerten Wandel: Technologieunternehmen haben lange argumentiert, nicht für nutzergenerierte Inhalte verantwortlich zu sein – doch Produkthaftungsfälle, die Designentscheidungen betreffen, gewinnen zunehmend an Bedeutung.

Politisch ist die Klage ebenfalls brisant. Generalstaatsanwalt Uthmeier und Floridas Gouverneur Ron DeSantis, beide Republikaner, haben KI-Unternehmen verärgert, die erhebliche Unterstützung von US-Präsident Donald Trump genießen. Florida hat sich gegen Bemühungen der Trump-Administration gewehrt, die KI-Regulierung durch US-Bundesstaaten zu behindern, und schlug kürzlich eine „Bill of Rights für Künstliche Intelligenz" vor, die den Datenschutz stärken und Einwohner vor negativen finanziellen Auswirkungen von Rechenzentren schützen soll.