Amodei hat recht – KI-Unternehmen brauchen Bankenaufsicht als Vorbild
Anthropic-CEO Dario Amodei fordert unabhängige Prüfer mit direktem Zugang zu KI-Laboren.
Dario Amodei, der Chief Executive von Anthropic, hat einen Vorschlag vorgelegt, der die Debatte um die Regulierung Künstlicher Intelligenz neu entfachen könnte. In einem Essay plädiert er dafür, dass unabhängige Prüfer eigene Schreibtische innerhalb von KI-Unternehmen erhalten sollen – mit Schlüsselkarten, Laptops und nahezu vollständigem Zugang, um die Systeme in Echtzeit zu überwachen. Sein Vorbild: die Bankenaufsicht.
Der Mitbegründer von Facebook und Autor des Buches „Marketcrafters: The 100-Year Struggle to Shape the American Economy“ unterstützt diesen Ansatz in einem Gastbeitrag für die Financial Times. Er verweist darauf, dass sich auch das Bankwesen rasant verändere und die gesamte Wirtschaft durchdringe. Die Federal Reserve, die FDIC und das Office of the Comptroller of the Currency (OCC) integrieren bereits heute Teams direkt in die Geschäftsbanken, die sie beaufsichtigen.
Diese Aufsichtsbeamten treffen sich mit Mitarbeitern und dem Management, prüfen interne Dokumentationen und verfolgen den täglichen Geschäftsverkehr. Ihre Aufgabe besteht darin, zu beurteilen, ob die Führungsebene das Risiko angemessen managt – und nicht nur, ob die Papierkram ordnungsgemäß ist. Wenn dies nicht der Fall ist, können die Aufsichtsbehörden die Bank anweisen, das Problem zu beheben.
Warum die Dringlichkeit jetzt wächst
Die Notwendigkeit, einen ähnlichen Ansatz für die KI zu übernehmen, hat nach Ansicht des Autors noch nie so dringend gewirkt wie heute. In diesem Sommer haben KI-Agenten gezeigt, dass sie zunehmend intelligenter geworden sind und miteinander koordinieren, um ihre Ziele zu erreichen. Hackerangriffe verdeutlichen zudem, wie ein Versagen der Aufsicht in Systeme übergreifen kann, die völlig außerhalb des Operationsbereichs eines Labors liegen.
Nach einem an der Bankenaufsicht orientierten Modell würde jedes KI-Labor an der technologischen Front mit einem Team von Aufsichtsbeamten zusammenarbeiten, das seine Technologie versteht. Von Beginn an in die Modellgestaltung und -prüfung eingebunden, würden die Aufsichtsbeamten sicherstellen, dass die Menschen und Agenten, die diese Systeme entwickeln, angemessen darauf fokussiert sind, schlechtes Verhalten zu verhindern.
Stresstests für KI-Systeme
Die Aufsichtsbeamten würden zudem Stresstests für die Modelle überwachen. Jedes Jahr müssen die größten Banken nachweisen, wie sie in einem schweren Konjunkturabschwung abschneiden würden – basierend auf Szenarien, die die Federal Reserve aktualisiert und bis vor Kurzem vertraulich gehalten hat, damit Banken nicht eigens für den Test trainieren können.
KI-Systeme bergen ihr eigenes systemisches Risiko, wenn sie die Kontrolle über Strom-, Zahlungs- oder Transportsysteme erlangen. Ein Stresstest würde jede Firma dazu verpflichten, nachzuweisen, dass ihr Personal unter diesen Bedingungen ein Modell weiterhin überschreiben oder abschalten könnte – basierend auf Szenarien, denen sich das Unternehmen zuvor nicht gestellt hat.
Lehren aus der Vergangenheit
Politiker scheiterten daran, soziale Medien zu regulieren, weil sie von der Bandbreite der Probleme überwältigt waren – von der psychischen Gesundheit Jugendlicher bis hin zu Datenschutz und Fehlinformationen. Die Herausforderungen der KI können ähnlich einschüchternd sein, doch der Kongress benötigt nach Ansicht des Autors kein einziges massives Gesetz. Stattdessen sollte er mit der derzeit drängendsten Sorge beginnen – der Modellsicherheit – und von dort ausgehen.
Dafür wird eine Regulierungsbehörde benötigt, möglicherweise mit dem Namen „Office of AI Supervision“, die Anforderungen in konkrete Vorschriften übersetzt. Die Bankenaufsicht ist allerdings alles andere als perfekt. Beamte haben manchmal Gefahren identifiziert und dann nicht gehandelt. In anderen Fällen versuchte die Führungsebene, den Ermessensspielraum der Aufsicht vollständig zu beseitigen und sie auf die Erfüllung eng konfigurierter Checklisten zu reduzieren.
Rotationsprinzip gegen Interessenkonflikte
Um diesen Herausforderungen entgegenzuwirken, müsste eine KI-Behörde über Mitarbeiter verfügen, die das technologische Paradigma verstehen und keine Scheu haben, ihre Macht einzusetzen. Senior Examiner sollten zwischen den Unternehmen rotieren, genau wie dies im Bankwesen geschieht. Das OCC begrenzt die Amtszeit eines leitenden Examiners bei einer einzelnen Bank auf fünf Jahre. Angesichts der schnellen Entwicklung der KI wären drei Jahre effektiver.
Der Kongress hat bereits begonnen, diese Ideen zu erwägen. Der parteiübergreifende Frontier Act, dem OpenAI teilweise zugestimmt hat, würde die größten KI-Unternehmen verpflichten, bundesstaatlich lizenzierte Gutachter für laufende Sicherheitsüberprüfungen einzustellen. Dies geht jedoch nicht so weit wie eine öffentliche Aufsicht. Unternehmen könnten ihre eigenen Gutachter einstellen, was zu Interessenkonflikten führen könnte – ähnlich wie vor 2008 die Kreditratingagenturen kompromittiert waren.
Keiner unabhängigen Aufsichtsbehörde würde die Aufgabe obliegen, die Labore zu überwachen, und es gäbe keine eingebetteten Aufsichtsbeamten wie im Bankensektor. KI birgt enormes Potenzial, und wie jede andere Technologie bringt sie Risiken mit sich, die bewältigt werden müssen. Ein auf der Bankenaufsicht basierendes Modell für die KI-Regulierung schafft einen Weg, auf dem öffentliche Beamte und private Experten diese Zielkonflikte gemeinsam bewerten können – während sichergestellt wird, dass die Unternehmen, die von einer Entscheidung profitieren, nicht die einzigen Richter sind.