Bank of England warnt vor Cyberrisiken durch autonome KI-Agenten

Die Bank of England hat eindringlich vor den Risiken autonomer Künstlicher Intelligenz für das globale Finanzsystem gewarnt. Vize-Gouverneurin Sarah Breeden bezeichnete sogenannte „agentische KI" – also KI-Systeme, die selbstständig und ohne menschliche Eingriffe handeln können – als ihre dringlichste Sorge im Hinblick auf die Finanzstabilität. Die Warnung fiel auf dem Forum der Europäischen Zentralbank über das Zentralbankwesen in Portugal.

Breeden erklärte, dass KI-Agenten, die autonom agieren können, die Volatilität in Stressphasen erhöhen könnten. Dies stelle das Finanzsystem vor eine grundlegende Frage: Sind die bestehenden Mechanismen überhaupt in der Lage, das Verhalten solcher Systeme zu überwachen und zu kontrollieren? Die Sorge betrifft damit nicht nur einzelne Institute, sondern die Stabilität des gesamten Finanzsystems.

Regulierungsrahmen nicht für autonome KI konzipiert

Besonders brisant ist die Einschätzung der Vize-Gouverneurin zur bestehenden Regulierung. „Wir müssen uns weiterhin fragen, ob die bestehenden, technologieunabhängigen Regulierungsrahmen weiterhin ausreichen", sagte Breeden. „Unsere Rahmenbedingungen wurden nicht für autonome Agenten konzipiert, und es ist unwahrscheinlich, dass es realistisch ist, sich bei allen Handlungen der Agenten auf einen Menschen im Entscheidungsprozess zu verlassen."

Das Konzept des „Human in the Loop" – also die Idee, dass stets ein Mensch die Entscheidungen einer KI überwacht und absegnet – gilt in der Regulierungsdebatte bislang als wichtige Sicherheitsvorkehrung. Breeden stellt nun infrage, ob dieses Prinzip bei hochautomatisierten KI-Agenten überhaupt noch praktikabel ist. Je schneller und autonomer solche Systeme agieren, desto schwieriger wird eine lückenlose menschliche Kontrolle.

Die Vize-Gouverneurin forderte daher ein Umdenken in der Finanzaufsicht. „Möglicherweise sind anspruchsvollere Governance- und Rechenschaftsstrukturen erforderlich", so Breeden. Damit signalisiert die Bank of England, dass die bisherigen regulatorischen Werkzeuge möglicherweise nicht ausreichen, um die neuen Risiken durch KI-Agenten einzudämmen.

Wachsende Bedeutung von KI im Finanzsektor

Der Einsatz von KI im Finanzsektor wächst rasant. Banken, Hedgefonds und andere Finanzinstitute nutzen zunehmend automatisierte Systeme für den Handel, die Risikoanalyse und die Portfolioverwaltung. Agentische KI geht dabei noch einen Schritt weiter: Solche Systeme können eigenständig Entscheidungen treffen, Aufgaben planen und ausführen – ohne dass ein Mensch jeden Schritt genehmigt.

Für deutsche Privatanleger und Marktteilnehmer ist die Warnung aus London von besonderer Relevanz. Europäische Finanzmärkte sind eng miteinander verknüpft, und systemische Risiken, die durch unkontrollierte KI-Agenten entstehen, könnten sich schnell grenzüberschreitend auswirken. Die Aussagen Breedens auf dem EZB-Forum unterstreichen, dass das Thema KI-Regulierung längst auf der höchsten Ebene der Zentralbanken angekommen ist.

Die Bank of England gehört damit zu den ersten großen Zentralbanken, die agentische KI explizit als systemisches Risiko benennen. Es bleibt abzuwarten, ob und wie schnell internationale Regulierungsbehörden auf diese Einschätzung reagieren und konkrete Maßnahmen entwickeln.