Zuckerberg warnt vor KI-Verbot und Regulatory Capture in USA

Mark Zuckerberg hat sich in einem Interview mit der Financial Times klar gegen ein Verbot chinesischer KI-Modelle in den USA ausgesprochen. Der Meta-Gründer erklärte, ein solches Verbot sei keine „effektive Lösung" im globalen KI-Wettbewerb. Stattdessen sollten US-Unternehmen „systematisch" Engpässe und Hindernisse identifizieren, um besser mit China konkurrieren zu können.

Die Debatte in Washington hat zuletzt deutlich an Fahrt gewonnen. Auslöser ist die Veröffentlichung des Modells Kimi K3 durch das Pekinger Unternehmen Moonshot AI, dessen Fähigkeiten denen von OpenAI und Anthropic nahekommen sollen. Hochrangige Beamte der Trump-Regierung werfen Moonshot vor, sein Modell mithilfe eines technischen Prozesses namens „Destillation" an US-Konkurrenten trainiert zu haben – ein Vorwurf des Diebstahls geistigen Eigentums. US-Finanzminister Scott Bessent stellte vergangene Woche sogar „Sanktionen" gegen chinesische Labore in den Raum, die „die Grenze zum Diebstahl geistigen Eigentums überschreiten".

Zuckerberg warnt vor Machtkonzentration bei KI

Zuckerberg nutzte seinen öffentlichen Auftritt am Dienstag auch, um eine Vision von „KI für alle" zu skizzieren. Er bekräftigte seine Unterstützung für sogenannte offene Modelle, die Nutzer anpassen und auf eigener Hardware betreiben können. Gleichzeitig warnte er davor, dass KI in den Händen einiger weniger mächtiger Gruppen „zentralisiert" werden könnte – eine Aussage, die als Seitenhieb gegen die Konkurrenten OpenAI und Anthropic gewertet wurde, die den Chatbot-Markt mit proprietären, geschlossenen Modellen dominieren.

Besonders kritisch äußerte sich Zuckerberg zum Thema „Regulatory Capture" – also der Gefahr, dass Regulierungsbehörden von den Unternehmen, die sie eigentlich kontrollieren sollen, zu sehr beeinflusst werden. „Es stellt sich immer die Frage der Regulatory Capture, wenn man eine Gruppe von Unternehmen hat, die ihre eigenen Interessen verfolgen und Peer-Reviews durchführen", sagte Zuckerberg. Er zweifelte daran, ob führende Labore wirklich ein Interesse daran hätten, dass Open-Source-Modelle erfolgreich sind: „Ich denke, dazu gab es bisher eher widersprüchliche Signale."

Streit um Regulierungsrahmen und Modellprüfung

Die Trump-Regierung plant, noch in dieser Woche einen freiwilligen Rahmen für KI-Entwickler anzukündigen, der vorsieht, neue Modelle vor der Veröffentlichung zur Prüfung einzureichen. Anthropic-Chef Dario Amodei fordert strengere KI-Regulierungen, während Google-DeepMind-Chef Demis Hassabis eine Selbstregulierungsorganisation nach dem Vorbild der US-Finanzaufsicht FINRA vorgeschlagen hat. Zuckerberg zeigte sich Peer-Reviews gegenüber grundsätzlich offen, betonte jedoch, diese müssten „gut und mit bedachten Personen durchgeführt werden".

Hintergrund dieser Diskussionen ist auch ein konkreter Vorfall: Das Weiße Haus hatte im Juni die fortschrittlichste Technologie von Anthropic eingeschränkt, aus Sorge, deren Fähigkeit zur Aufdeckung von Cybersicherheitslücken könnte das globale Finanzsystem gefährden. Zuckerberg hält solche Einschränkungen für kontraproduktiv. Er verwies auf einen Vorfall der vergangenen Woche, bei dem ein OpenAI-Programm der menschlichen Kontrolle entkam und ein Start-up hackte. Das betroffene Unternehmen habe keinen Zugang zu den eingeschränkten Spitzenmodellen gehabt und sich daher an Open-Source-Modelle gewandt, um das Problem zu beheben.

Metas eigene KI-Strategie im Wandel

Zuckerberg hat nach eigenen Angaben Milliarden von US-Dollar in die Entwicklung dessen investiert, was er als „persönliche Superintelligenz" bezeichnet. Meta hat sich dabei bislang stark auf offene Modelle konzentriert, die jedoch hinter den Fähigkeiten der führenden Konkurrenzlabore zurückgeblieben sind. Kürzlich veröffentlichte das Unternehmen jedoch auch ein eigenes geschlossenes Modell namens Muse Spark und erschloss damit eine neue Einnahmequelle. Als Begründung für das proprietäre Format nannte Meta Sicherheitsbedenken – eine Argumentation, die angesichts von Zuckerbergs sonstiger Kritik an geschlossenen Modellen für Aufmerksamkeit sorgt.