Anthropic-Mitgründer Olah fordert externe KI-Kontrolle außerhalb von Big Tech

Chris Olah, Mitgründer des KI-Unternehmens Anthropic, hat bei einer Rede im Vatikan eindringlich vor den Risiken einer unkontrollierten KI-Entwicklung gewarnt. Er forderte eine stärkere Aufsicht durch religiöse Führer, Regierungen und die Zivilgesellschaft. Der Anlass war die Vorstellung der ersten Enzyklika von Papst Leo über Künstliche Intelligenz.

Olah sprach dabei eine der drängendsten gesellschaftlichen Fragen unserer Zeit an: die mögliche Verdrängung menschlicher Arbeitskraft durch KI-Systeme. Er bezeichnete es als „eine reale Möglichkeit", dass KI menschliche Arbeit „in sehr großem Umfang" ersetzen werde. „Sollte dies geschehen, wird die Unterstützung der Verdrängten ein moralischer Imperativ von historischem Ausmaß sein", sagte er an der Seite des Papstes.

Interessenkonflikte innerhalb der KI-Branche

Besonders bemerkenswert war Olahs offene Selbstkritik an der eigenen Branche. Er räumte ein, dass Unternehmen wie Anthropic unter starkem wirtschaftlichem, geopolitischem und persönlichem Druck stünden, der im Widerspruch zu den breiteren Interessen der Gesellschaft stehen könne. „Jedes führende KI-Labor agiert innerhalb eines Gefüges von Anreizen und Zwängen, die manchmal im Konflikt damit stehen können, das Richtige zu tun", sagte er.

Olah betonte dabei, dass selbst wohlmeinende Forscher weiterhin von diesen Kräften beeinflusst würden. Diese strukturellen Interessenkonflikte machten eine externe Kontrolle nach seiner Einschätzung unerlässlich. Es ist ungewöhnlich, dass ein Mitgründer eines der weltweit führenden KI-Unternehmen so offen die Grenzen der Selbstregulierung seiner eigenen Branche eingesteht.

Vatikan als Bühne für globale KI-Debatte

Die Wahl des Vatikans als Schauplatz für diese Aussagen ist symbolisch bedeutsam. Mit der Veröffentlichung einer Enzyklika zu Künstlicher Intelligenz positioniert sich die katholische Kirche als moralische Stimme in einer der wichtigsten technologischen Debatten unserer Zeit. Für Olah und Anthropic bedeutet die Teilnahme an diesem Ereignis eine klare Botschaft: Die Gestaltung der KI-Zukunft darf kein rein technologisches oder wirtschaftliches Projekt sein.

Für deutsche Privatanleger und Beobachter des Technologiesektors sind Olahs Aussagen ein wichtiges Signal. Die Forderung nach externer Regulierung könnte mittelfristig die politische Debatte in Europa und Deutschland beeinflussen, wo ohnehin bereits strenge KI-Regulierungsrahmen wie der EU AI Act diskutiert und umgesetzt werden. Die Stimme eines Brancheninsiders, der selbst auf Regulierung drängt, verleiht diesen Bemühungen zusätzliches Gewicht.

Anthropic gilt neben OpenAI und Google DeepMind als eines der einflussreichsten KI-Unternehmen weltweit. Dass ein Mitgründer dieses Unternehmens öffentlich die Grenzen der Selbstregulierung eingesteht und externe Kontrolle fordert, unterstreicht die wachsende gesellschaftliche Verantwortung, die die KI-Branche zunehmend für sich anerkennt.