ANZEIGE

ChatGPT erfand Polizeiaussagen: Anwalt in New Mexico verurteilt

KI-Halluzination vor Gericht: Anwalt nutzte ChatGPT für Mord-Berufung – mit fatalen Folgen.

•• 3 Min
ChatGPT erfand Polizeiaussagen: Anwalt in New Mexico verurteilt

Der Oberste Gerichtshof von New Mexico hat einen Rechtsanwalt zu einer Geldstrafe von 5.000 US-Dollar verurteilt, weil dieser in einem Berufungsverfahren wegen Mordes auf KI-generierte, erfundene Polizeiaussagen und Zeugen vertraut hatte. Der Fall wirft ein Schlaglicht auf die wachsende Problematik des ungeprüften Einsatzes von Künstlicher Intelligenz in der juristischen Praxis.

Der Anwalt Stephen Aarons aus Santa Fe hatte im Rahmen der Berufung seines Mandanten Oscar Renee Sandoval einen Schriftsatz eingereicht, der laut Gericht „falsche Aussagen völlig erfundener Zeugen“ enthielt. Sandoval war im vergangenen Jahr wegen Mordes an der Mutter seiner Kinder verurteilt und zu lebenslanger Haft verurteilt worden. Aarons gab an, die Unterlagen mit Hilfe von OpenAIs ChatGPT vorbereitet zu haben.

Das Gericht verhängte am Mittwoch nicht nur die Geldstrafe, sondern erklärte Aarons auch des Hochmuts für schuldig. Die Richter betonten, dass der Anwalt „einen Mangel an Reue und ein fehlendes Interesse an seinem Mandanten“ gezeigt habe. Zudem kündigte der Oberste Gerichtshof an, Aarons zur Untersuchung an eine Anwaltsdisziplinarkommission zu überweisen.

KI-Halluzinationen als juristische Falle

In einer Stellungnahme gegenüber Reuters räumte Aarons ein, dass er ChatGPT genutzt habe, um die Verhandlungsabläufe zusammenzufassen, als er sich im vergangenen Jahr bereit erklärte, die Berufung zu übernehmen. Er habe das Ausmaß, in dem KI Fakten „halluzinieren“ kann, nicht verstanden. „Ich bereue meine Handlung, bin aber hoffnungsvoll, dass die Disziplinarkommission berücksichtigt, dass es sich um einen ehrlichen Fehler handelte“, sagte er. „Dies ist eine Lektion, die alle Fachkräfte lernen müssen, die auf diese mächtige, aber manchmal instabile Technologie vertrauen.“

Der Fall ist besonders brisant, weil Aarons‘ Einreichung über die mittlerweile häufiger vorkommenden erfundenen Fallzitate hinausging. Sein Schriftsatz enthielt konkret erfundene Zeugenaussagen in einem strafrechtlichen Berufungsverfahren. Konkret hatte das KI-Tool „fiktive Aussagen, dass der Schütze eine dunkle Hose und ein weißes Hemd trug“ produziert – Angaben, die in den tatsächlichen Akten keinerlei Grundlage hatten.

Richterin zeigt sich ungläubig

Der Oberste Gerichtshof von New Mexico forderte Aarons bereits im vergangenen Monat auf, zu erklären, wie das fiktive Material in seinen Hauptschriftsatz gelangt war. Aarons sagte dem Gericht bei einer Anhörung am 21. August, er habe ChatGPT ein computergeneriertes Transkript und andere Aktenmaterialien vorgelegt, in der Annahme, dass dies eine „widerstandsfähige Zusammenfassung“ erzeugen würde.

Die Richter zeigten sich ungläubig über die Naivität des Anwalts. „Herr Kollege, schauen Sie sich die Nachrichten an? Hören Sie Radio? Lesen Sie etwas darüber, was in der Welt vor sich geht?“, fragte Richterin C. Shannon Bacon während der Anhörung. „Denn das Problem damit, dass Anwälte auf KI-Halluzinationen vertrauen, ist, dass dies täglich eine Schlagzeile führt.“

Wachsende Zahl von Disziplinarfällen

Die Sanktion des Gerichts reiht sich ein in eine wachsende Zahl von Vorfällen, in denen Richter auf Bundes- und Staatsebene Anwälte diszipliniert haben, weil sie Gerichtsunterlagen eingereicht hatten, die von KI-Tools generiert wurden, ohne diese angemessen zu prüfen. Dutzende Anwälte wurden bereits bestraft, weil sie Schriftsätze einreichten, in denen KI Fallzitate erfand oder das Gesetz falsch zitierte.

OpenAI reagierte zunächst nicht auf eine Anfrage zur Stellungnahme. Die Berufung von Oscar Renee Sandoval ist weiterhin anhängig und wurde am 2. September der öffentlichen Verteidigerin Kim Chavez Cook aus New Mexico zugewiesen. Cook lehnte eine Kommentierung ab, ebenso wie das Büro des Staatsanwalts für den Doña Ana County.

Der Fall zeigt eindrücklich, dass der Einsatz von KI-Tools wie ChatGPT in der juristischen Arbeit erhebliche Risiken birgt. Für deutsche Anleger und Fachleute, die zunehmend auf KI-gestützte Lösungen setzen, unterstreicht der Vorfall die Notwendigkeit, KI-generierte Inhalte stets kritisch zu prüfen – unabhängig davon, ob es sich um juristische Schriftsätze, Finanzanalysen oder andere geschäftskritische Dokumente handelt.

ChatgptKi-HalluzinationNew MexicoAnwaltMordprozessOpenaiGerichtsurteilKi-Fehler

Meistgelesene News

  1. Galeria-Insolvenz: Schicksal von 12.000 Jobs hängt an BA-Entscheidung
  2. Gaming und Wetten: Krypto-Klage, GTA 6 und Aktivisten-Investor im Fokus
  3. Take-Two-Aktie vor GTA-6-Release: Chance oder Risikofalle?
  4. Rheinmetall-Aktie legt 3 Prozent zu – Morgan Stanley beflügelt Rüstungssektor
  5. Nvidia, Datadog und Goldminen glänzen auf IBD-Bestenlisten

Disclaimer


Wichtiger Hinweis auf bestehende Interessenkonflikte:

Wir weisen ausdrücklich darauf hin, dass im Rahmen dieser Publikation Interessenkonflikte bestehen:

1. Die Stock Market Media Ltd. und ihr nahestehende Personen besitzen Aktien der hier empfohlenen Gesellschaften und beabsichtigen, diese im Rahmen und zu jedem Zeitpunkt dieser Empfehlung zu verkaufen. Hierin besteht ein eindeutiger und konkreter Interessenkonflikt.

2. Der Herausgeber dieser Publikation, sowie die verantwortlichen Redakteure erhalten für die Erstellung eine finanzielle Vergütung. Auch hierin besteht ein eindeutiger und konkreter Interessenkonflikt.

3. Beachten Sie auch die weitergehenden Ausführungen zu bestehenden Interessenkonflikten im nachfolgenden Disclaimer, u.a. unter Ziff. 2.

Wichtige Informationen und Pflichtmitteilungen gemäß Wertpapierhandelsgesetz (WpHG) sowie gemäß Finanzanlageverordnung (FinAnV).

Stock Market Media Ltd. hat ihre Tätigkeit als Ersteller von Anlagestrategieempfehlungen im Sinne des Artikels 3 Absatz 1 Nummer 34 der Verordnung (EU) Nr. 596/2014 oder von Anlageempfehlungen im Sinne des Artikels 3 Absatz 1 Nummer 35 der Verordnung (EU) Nr. 596/2014, (bisher „Finanzanalysen“) der Bundesanstalt für Finanzdienstleistungsaufsicht („BaFin“) gemäß WpHG angezeigt. Die Pflichten der Stock Market Media Ltd. regeln sich primär nach den §§ 85, 86 WpHG, der Verordnung (EU) Nr. 596/2014 und der Delegierten Verordnung (EU) 2016/958.

Angaben über den/die Ersteller dieser Publikation:
Verantwortlich für die Erstellung der Texte und Inhalte dieser Publikation ist Herr Roberto Gonçalves de Albuquerque, als Analyst und Chefredakteur. Herausgeber ist die Stock Market Media Ltd., 405 Kings Road, Flat 600, London; SW10 0BB, Vereinigtes Königreich, vertreten durch den Director Roberto Gonçalves de Albuquerque.

Wichtige Hinweise zur Erstellung dieser Veröffentlichung:
Diese Veröffentlichung enthält sowohl Tatsachen und Fakten zu den besprochenen Unternehmen, als auch rein subjektive Werturteile, Interpretationen, Schätzungen, Hochrechnungen, Vorhersagen und Preisziele. Diese versuchen wir, möglichst transparent voneinander abzugrenzen, um irreführende Angaben zu vermeiden. Recherche, Aufbereitung und Formulierung erfolgen dabei unter Einsatz gängiger digitaler und KI-gestützter Hilfsmittel; die inhaltliche Prüfung und die redaktionelle Verantwortung liegen bei uns. Die wesentlichen Grundlagen und Maßstäbe unserer Werturteile und Bewertungen, der besprochenen Aktien, basieren auf folgender Vorgehensweise:

Beurteilung und Bewertung von Unternehmen nach herkömmlichen Bewertungsmethoden (grundlegender Bewertungsansatz)

  • Einschätzung des Potentials der zukünftigen Unternehmensentwicklung (Wachstumsansatz) und Hochrechnung auf das entsprechende Bewertungspotential (Kurs-Potential-Analyse) sowie einer möglichen Unternehmens-Aktien-Bewertung aufgrund potentieller Gewinnerwartungen (KGV Hochrechnung)
  • Einschätzung des von uns erwarteten Best-Case-Szenarios im absoluten Erfolgsfall des Unternehmens (Blue-Sky-Potential-Ansatz)
  • Effekt der von uns erwarteten, gesteigerten Bekanntheit der empfohlenen Aktie auf den Aktienkurs durch einen starken Anstieg der Nachfrage am Markt (insbesondere maßgeblich bei marktengen oder neu bzw. erstmals empfohlenen Aktien) aufgrund der von uns oder Dritten veröffentlichten Publikationen (meistens Kaufempfehlungen), (Multiplikator- / Momentum-Effekt, Hype), dadurch überproportional steigende Rendite/Aktienkurs bei entsprechend steigendem Risiko
  • Technische Analyse des Aktienkurses gemäß gängiger Analyse-Methoden, meist zur Voraussage von Kurs-Signalen (Kauf- oder Verkaufssignal, Ausbruch der Aktie, Festlegung von Kurszielen, Unterstützungs- oder Widerstandsbereichen, erwarteten Mindestbewegungen oder Mindest-Gegenbewegungen, Voraussage von Signalpunkten (wenn-dann), etc.), größtenteils auf der erwarteten Massenpsychologie aufbauend. (technischer Ansatz).

Herkömmliche Bewertungsansätze sind bei jungen oder noch umsatzlosen Unternehmen oft schlecht sinnvoll anwendbar. Daher stützen wir uns bei der Bewertung von solchen Unternehmen tendenziell auf die von uns errechnete Potential-Analyse, sowie die Einschätzung der Nachfrage nach solchen Aktien am Kapitalmarkt. Letztendlich entscheidet der Markt über den Aktienkurs eines Unternehmens. Entsteht durch umfangreiche Empfehlungen einer Aktie, eine exzessive Nachfrage nach dieser, ist es möglich, dass der Aktienkurs bei einem hohen Handelsvolumen überdurchschnittlich steigt. Dies führt zwar zu extremen Gewinnmöglichkeit, erhöht jedoch entsprechend das Risiko einer Blasenbildung mit entsprechendem Kursrückgang. Durch die gesteigerte Volatilität der Aktie in solchen Situationen ergeben sich überdurchschnittliche Gewinn- und Verlustmöglichkeiten, sowohl in beide Handelsrichtungen als auch bei wiederkehrenden Gegenbewegungen. Auch solche Marktentwicklungen sind ein wichtiger Teil unserer Handelsempfehlungen und Bewertungsansätze.

Diese Publikation befasst sich ausschließlich mit überdurchschnittlich volatilen Werten mit hohem Gewinn- und auch Verlustpotential.

Hinweis zu Informationsquellen:
Die Zuverlässigkeit von Informationsquellen wird von uns vor deren Verwendung ausführlich geprüft und von uns entsprechend ihrer Glaubwürdigkeit und Bedeutung subjektiv bewertet. Dabei entscheiden wir nach eigenen Maßstäben, welche Quellen wir für relevant, zu konservativ oder zu optimistisch halten. Letztendlich legen wir unsere Empfehlungen aufgrund unserer persönlichen Einschätzungen fest. Bei der Informationsbeschaffung greifen wir auf zahlreiche öffentlich zugängliche Quellen zurück wie z.B. Pressemitteilungen, Ad-Hoc-Mitteilungen, Unternehmensmeldungen, Firmenpräsentationen, Publikationen und Artikeln zum besprochenen Unternehmen, gängige Finanzmedien im In- und Ausland sowie auf Unternehmens- oder Branchen-Analysen Dritter.

In unseren Publikationen werden ausschließlich öffentlich verfügbare Informationen und Quellen, sowie vom Unternehmen selbst verbreitete Informationen verwendet.

Hinweis zu bestehenden Interessenkonflikten:
Wir weisen hiermit darauf hin, dass Gesellschafter, Redakteure, Mitarbeiter sowie Personen bzw. Unternehmen die an der Erstellung dieser Veröffentlichung beteiligt sind, sowie Auftraggeber (Dritte) der Publikation von Stock Market Media Ltd. zum Zeitpunkt dieser Veröffentlichung direkt oder indirekt Anteile an Wertpapieren, welche im Rahmen der jeweiligen Publikation besprochen werden, halten. und daher an einer Kurs- und/oder Umsatzsteigerung, d.h. auch einer erhöhten Handelsliquidität interessiert sind, da die Absicht besteht, in unmittelbarem Zusammenhang mit dieser Veröffentlichung diese Wertpapiere zu verkaufen und an steigenden Kursen und Umsätzen zu partizipieren. Ein Kurszuwachs der Aktien der vorgestellten Unternehmen kann zu einem Vermögenszuwachs bei diesen Personen führen. Durch die Besprechung des Unternehmens können jedenfalls der Aktienkurs des Unternehmens erheblich beeinflusst werden. Insbesondere wird auch durch Wertpapiertransaktionen der Aktienkurs der besprochenen Unternehmen maßgeblich beeinflusst. Dies gilt insbesondere, wenn es sich um Unternehmen handelt deren Aktien keine breite Marktkapitalisierung haben und bei denen nur ein enger Markt besteht. Hier können auch nur geringe Auftragsvolumen erhebliche Auswirkungen auf die Kurse haben. Sie sind aber auch daran interessiert, dass der Kurs des besprochenen Unternehmens sinkt, wenn sie deren Aktien günstiger erwerben wollen. Dies begründet laut Gesetz einen Interessenskonflikt, auf den wir hiermit ausdrücklich hinweisen.

Stock Market Media Ltd. und seine Mitarbeiter werden zudem für die Vorbereitung, elektronische Verbreitung und Veröffentlichung dieser Publikation sowie für andere Dienstleitungen entgeltlich entlohnt. Dies begründet laut Gesetz einen Interessenskonflikt, auf den wir hiermit ausdrücklich hinweisen.

Diese Vergütung kann durch das Unternehmen über das die Stock Market Media Ltd. Informationen veröffentlicht, durch mit diesen Unternehmen verbundene Dritte oder sonstige Dritte, die ein Interesse in Bezug auf die im Zusammenhang mit dieser Veröffentlichung besprochenen Unternehmen verfolgen, erfolgen. Dies begründet laut Gesetz einen Interessenskonflikt, auf den wir hiermit ausdrücklich hinweisen. Dieser wird zunächst dadurch begründet, dass die Stock Market Media Ltd. im Interesse ihres Auftraggebers ihre Ausführungen vornehmen könnte. Die Stock Market Media Ltd. und/oder mit ihr verbundene Unternehmen haben mit der gegenständlichen Gesellschaft bzw. mit deren Aktionären eine kostenpflichtige Vereinbarung zur Erstellung der redaktionellen Besprechung getroffen. Dies begründet laut Gesetz einen Interessenskonflikt, auf den wir hiermit ausdrücklich hinweisen.

Hinweis zur Handhabe der internen Organisationspflichten:
Aufgrund der geringen Unternehmensgröße des Herausgebers, ist eine interne Kontrolle der Compliance Prozesse der an dieser Publikation mitwirkenden Mitarbeiter und sonstigen Beteiligten überschaubar.

Verantwortliche Aufsichtsbehörde:
Die Stock Market Media Ltd. hat ihre Tätigkeit gemäß § 86 WpHG bei der BaFin angezeigt.