KI-Modell Claude Mythos alarmiert Finanzminister und Zentralbanker weltweit
Anthropics neues KI-Modell Mythos löst Krisensitzungen aus – Experten warnen vor beispiellosen Cybersicherheitsrisiken für globale Finanzsysteme.
Finanzminister, Zentralbanker und führende Finanziers haben ernsthafte Bedenken gegenüber dem neuen KI-Modell Claude Mythos des US-Unternehmens Anthropic geäußert. Das Modell soll in der Lage sein, Schwachstellen in bedeutenden Betriebssystemen, Finanzsystemen und Webbrowsern zu identifizieren – und damit potenziell die Sicherheit globaler Finanzsysteme zu gefährden. Die Entwicklung hat bereits zu Krisensitzungen auf höchster Ebene geführt.
Der kanadische Finanzminister François-Philippe Champagne erklärte gegenüber der BBC, dass Mythos beim Treffen des Internationalen Währungsfonds (IWF) in Washington DC ausführlich diskutiert wurde. „Es ist zweifellos ernst genug, um die Aufmerksamkeit aller Finanzminister zu rechtfertigen", sagte er. Er verglich die Ungewissheit rund um das Modell mit geopolitischen Risiken: „Bei der Straße von Hormus wissen wir, wo sie liegt und wie groß sie ist. Das Problem, vor dem wir bei Anthropic stehen, ist das völlig Unbekannte."
Was ist Claude Mythos?
Mythos ist eines der neuesten Modelle von Anthropic und Teil des breiteren KI-Systems namens Claude – einem direkten Konkurrenten zu ChatGPT von OpenAI und Gemini von Google. Entwickler, die für das Testen sogenannter „misaligned" Aufgaben – also Aufgaben, die gegen menschliche Werte und Verhaltensweisen verstoßen – verantwortlich sind, bezeichneten das Modell als „auffallend fähig bei Computersicherheitsaufgaben".
Aus Sorge, das Modell könnte alte Softwarefehler zutage fördern oder Wege finden, Systemschwachstellen leicht auszunutzen, hat Anthropic Mythos bisher nicht öffentlich veröffentlicht. Stattdessen stellt das Unternehmen das Modell im Rahmen einer Initiative namens Project Glasswing ausgewählten Tech-Giganten wie Amazon Web Services, CrowdStrike, Microsoft und Nvidia zur Verfügung. Anthropic bezeichnet dies als „Bemühen zur Sicherung der weltweit kritischsten Software".
Am Donnerstag veröffentlichte Anthropic zudem eine neue Version des bestehenden Modells Claude Opus. Das Unternehmen erklärte, dies ermögliche es, die Cyber-Fähigkeiten von Mythos in weniger leistungsstarken Systemen zu testen.
Reaktionen aus der Finanzwelt
Der Gouverneur der Bank of England, Andrew Bailey, mahnte zur Wachsamkeit: „Wir müssen jetzt sehr genau prüfen, was diese neueste KI-Entwicklung für das Risiko der Cyberkriminalität bedeuten könnte." Er warnte, eine solche KI-Entwicklung könnte es einfacher machen, bestehende Schwachstellen in Kern-IT-Systemen aufzuspüren – „was dann offensichtlich Cyberkriminelle – die böswilligen Akteure – auszunutzen versuchen könnten."
CS Venkatakrishnan, Vorstandsvorsitzender der britischen Großbank Barclays, äußerte sich ebenfalls besorgt: „Es ist ernst genug, dass man sich Sorgen machen muss. Wir müssen es besser verstehen, und wir müssen die Schwachstellen, die aufgedeckt werden, verstehen und sie schnell beheben." Er betonte, dass dies „die neue Welt sein wird" – ein wesentlich stärker vernetztes Finanzsystem, das sowohl Chancen als auch Risiken birgt.
Das US-Finanzministerium bestätigte, dass es das Thema bei seinen Großbanken angesprochen und diese ermutigt habe, ihre Systeme zu testen, bevor Anthropic Mythos öffentlich zugänglich macht. Führende Banker sollen vorab Zugang zu dem Modell erhalten, um ihre eigenen Systeme auf Schwachstellen zu prüfen.
Unabhängige Experten mahnen zur Vorsicht
Nicht alle Beobachter teilen die Alarmstimmung uneingeschränkt. Das britische AI Security Institute hat Zugang zu einer Vorabversion erhalten und den bisher einzigen unabhängigen Bericht über die Cybersicherheitsfähigkeiten des Modells veröffentlicht. Die Forscher stellten fest, dass Mythos zwar ein leistungsstarkes Werkzeug ist, das viele Sicherheitslücken in ungeschützten Umgebungen finden kann – jedoch nicht dramatisch besser sei als der Claude-Vorgänger Opus 4. „Unsere Tests zeigen, dass Mythos Preview Systeme mit schwacher Sicherheitslage ausnutzen kann, und es ist wahrscheinlich, dass weitere Modelle mit diesen Fähigkeiten entwickelt werden", so die Autoren des Berichts.
Einige Cybersicherheitsexperten haben zudem infrage gestellt, wie gerechtfertigt die Bedenken sind – insbesondere da das Modell noch nicht von der breiteren Branche getestet wurde. Es ist auch nicht das erste Mal, dass ein KI-Entwickler behauptet, die Fähigkeiten seiner Modelle seien so weitreichend, dass sie nicht veröffentlicht werden dürften. Im Februar 2019 äußerte OpenAI ähnliche Befürchtungen bei der gestaffelten Veröffentlichung von GPT-2 – ein Vorgehen, das Kritiker als Taktik zur Erzeugung von Hype bezeichnen.
James Wise, Partner bei Balderton Capital und Vorsitzender der Sovereign AI Unit – einem durch 500 Millionen Pfund an staatlichen Mitteln unterstützten Venture-Capital-Fonds für britische KI-Unternehmen – sieht Mythos als „das erste von vielen weiteren leistungsstarken Modellen", die Systemschwachstellen offenlegen können. Er zeigte sich jedoch optimistisch: „Wir hoffen, dass die Modelle, die Schwachstellen aufdecken, auch die Modelle sein werden, die sie beheben."
Aus der Finanzbranche verlautete zudem, dass ein weiteres prominentes US-KI-Unternehmen bald ein ähnlich leistungsstarkes Modell veröffentlichen könnte – jedoch ohne die gleichen Sicherheitsvorkehrungen wie Anthropic.