ChatGPT in SEC-Berichten: KI-Halluzinationen erreichen Pflichtdokumente
KI-generierte Fehler in Pflichtberichten: 44 SEC-Dokumente mit ChatGPT-Spuren entdeckt
Roula Khalaf, Chefredakteurin der Financial Times, hat in ihrem wöchentlichen Newsletter auf ein neues Phänomen aufmerksam gemacht: Immer mehr Unternehmen nutzen offenbar ChatGPT für die Erstellung ihrer Pflichtberichte. Der Beweis findet sich in den Metadaten der eingereichten Dokumente – genauer gesagt in der Zeichenkette „utm_source=chatgpt.com“. Eine Analyse des KI-Plagiatsdetektors Originality.ai förderte 44 SEC-Dokumente zutage, die diesen digitalen Fingerabdruck tragen.
Die betroffenen Unternehmen gehören nicht zur ersten Garde. Namen wie China Tontine Wines Group, IM Cannabis Corp, Coolbit Technologies und THG stehen nicht für höchste Standards in der Finanzberichterstattung. Auffällig ist eine hohe Dichte an indischen und israelischen Unternehmen in der Liste. Die Nutzung von ChatGPT beschränkt sich meist auf unverfängliche Passagen über „total addressable markets“ oder narrative Abschnitte zu Entwicklungen in Schlüsselmärkten und Wachstumschancen – Bereiche, die traditionell weniger risikobehaftet sind.
Die Details
Die Spuren sind eindeutig: In den meisten gefundenen Beispielen taucht in jedem Bericht genau einmal der String „utm_source=chatgpt.com“ auf. Beim Bergbauunternehmen Critical Minerals Corp scheint die Nutzung in einem 6-K-Bericht besonders umfangreich gewesen zu sein. Beim Jahresbericht 2024 des Octopus Renewables Infrastructure Trust wiederum wirkt die ChatGPT-Nutzung fast nebensächlich – hier verweist ein Link fälschlicherweise auf STMicroelectronics statt auf die Financial Times. Im Jahresbericht von SportsHero wiederum wirken die Trennungen von einer tatsächlichen Quelle zunehmend gestreckt.
Besonders aufschlussreich ist der Fall von BioKey (Cayman), einem Pharmaunternehmen, das aus ABVC Biopharma ausgegliedert wurde. In einem Juni-Bericht behauptete BioKey, es sei „in einem globalen Nutraceuticals-Markt positioniert, der voraussichtlich von ~112 Milliarden US-Dollar im Jahr 2022 auf ~167 Milliarden US-Dollar bis 2030 wachsen wird“. Als Quellen nannte das Unternehmen Links zu Grand View Research und Allied Market Research – letzterer trug die charakteristische ChatGPT-Slug-Anhängsel-Trickkarte. Das Problem: Keiner der beiden Links unterstützt die genannte Zahl. Grand View Research beziffert den Markt bis 2030 auf 919,1 Milliarden US-Dollar, Allied Market Research auf 650,5 Milliarden US-Dollar im Jahr 2020. Die KI hatte offenbar halluziniert. Weiter unten im selben Bericht zitiert BioKey die Zahlen von Grand View dann korrekt. Auf Nachfrage der Financial Times hatte das Unternehmen zum Zeitpunkt der Veröffentlichung noch nicht geantwortet.
Hintergrund: Was bisher geschah
Bereits am 11.09.2026 berichtete aktien.news über einen Fall in New Mexico, bei dem ein Anwalt zu einer Geldstrafe von 5.000 US-Dollar verurteilt wurde, weil er in einem Berufungsverfahren wegen Mordes auf KI-generierte, erfundene Polizeiaussagen und Zeugen vertraut hatte. Der Fall zeigte, dass KI-Halluzinationen nicht nur peinlich, sondern auch juristisch folgenreich sein können.
Am 20.06.2026 thematisierte aktien.news das Phänomen der KI-Halluzinationen in Studien und Beratungsleistungen. Ein Bericht der Beratungsgesellschaft KPMG über den weltweiten KI-Einsatz in Unternehmen enthielt laut Financial Times Fallstudien, die auf KI-Halluzinationen basierten. Ausgerechnet ein Dokument über KI-Risiken war selbst von KI-Fehlern durchzogen. KPMG räumte gegenüber der ARD-Finanzredaktion ein, dass „Richtigkeitsprüfungen nicht ordnungsgemäß“ durchgeführt worden seien.
Am 17.09.2026 berichtete aktien.news über den Börsengang von Anthropic. Der Prospekt des KI-Unternehmens enthielt einen bemerkenswerten Abschnitt zu den Risikofaktoren, der die inhärenten Gefahren der Technologie thematisierte – ein ironischer Spiegel der aktuellen Entwicklung, dass Unternehmen nun selbst Opfer von KI-Fehlern werden.
Was das für Anleger bedeutet
Für deutsche Privatanleger sind diese Erkenntnisse in mehrfacher Hinsicht relevant. Erstens zeigt der Fall BioKey, dass KI-generierte Marktzahlen in Pflichtberichten landen können, die schlichtweg falsch sind. Wer solche Zahlen als Grundlage für Anlageentscheidungen nutzt, riskiert Fehleinschätzungen. Zweitens deutet die Konzentration auf kleinere, oft internationale Unternehmen darauf hin, dass die Qualität der Finanzberichterstattung bei weniger etablierten Gesellschaften besonders kritisch geprüft werden sollte.
Die Financial Times selbst relativiert die Bedeutung: „Wie wir so oft sagen müssen, spielt all dies keine große Rolle. Die überflüssigen Angaben in Berichten waren schlecht, bevor Large Language Models (LLMs) proliferierten. Es könnte jetzt schlimmer sein, es könnte besser sein – auf jeden Fall ist es etwas, dem Anleger nicht viel Aufmerksamkeit schenken sollten.“ Dennoch zeigt der Trend, dass die Grenzen zwischen menschlicher und maschineller Berichterstattung zunehmend verschwimmen.
Ausblick
Die Financial Times erwartet, dass die Nutzung von KI-Tools in der Finanzberichterstattung weiter zunehmen wird. Die Analyse von Originality.ai, die 44 SEC-Dokumente mit ChatGPT-Spuren identifizierte, dürfte nur die Spitze des Eisbergs sein. Die Aufsichtsbehörden haben sich bislang nicht öffentlich zu dem Phänomen geäußert. Es bleibt abzuwarten, ob die SEC oder andere Regulierungsbehörden Richtlinien für den Einsatz von KI in Pflichtberichten erlassen werden.
Kurz erklärt
- **SEC-Dokumente
**: Pflichtveröffentlichungen, die börsennotierte Unternehmen in den USA bei der Börsenaufsicht SEC einreichen müssen, darunter Jahresberichte (10-K) und aktuelle Ereignisse (6-K)
- **
KI-Halluzination
**: Bezeichnung für das Phänomen, dass KI-Modelle selbstbewusst falsche Fakten, Zahlen oder Quellen generieren, die nicht der Realität entsprechen
- **
Large Language Model (LLM)**: KI-System, das auf Basis riesiger Textmengen trainiert wurde und menschliche Sprache verstehen sowie selbstständig Texte generieren kann