China reguliert KI: Neue Regeln für digitale Menschen und Minderjährige

Die chinesische Internetaufsichtsbehörde (Cyberspace Administration of China, CAC) hat weitreichende neue Richtlinien für sogenannte „digitale Menschen" vorgeschlagen. Der Entwurf sieht vor, dass alle virtuellen KI-Avatare künftig deutlich als „digitaler Mensch" gekennzeichnet werden müssen. Die Regeln wurden bis zum 6. Mai 2025 zur öffentlichen Kommentierung freigegeben.

Besonders im Fokus steht der Schutz von Minderjährigen: Digitale Menschen sollen künftig keine „virtuellen intimen Beziehungen" für Nutzer unter 18 Jahren anbieten dürfen. Diese Maßnahme richtet sich gegen eine wachsende Zahl von KI-gestützten Companion-Apps, die emotionale Bindungen simulieren und bei jungen Nutzern als potenziell suchtfördernd eingestuft werden.

Datenschutz und Identitätsschutz im Mittelpunkt

Der Verordnungsentwurf enthält auch klare Regeln zum Datenschutz. Die Verwendung personenbezogener Daten Dritter zur Erstellung digitaler Menschen ohne deren ausdrückliche Zustimmung soll ausdrücklich verboten werden. Ebenso ist die Nutzung virtueller Avatare zur Umgehung von Identitätsprüfungssystemen untersagt – ein klares Signal gegen Deepfake-Missbrauch und digitale Identitätsdiebstähle.

Dienstanbieter werden zudem verpflichtet, aktiv einzugreifen, wenn Nutzer Tendenzen zu Suizid oder Selbstverletzung zeigen. In solchen Fällen sollen die Plattformen notwendige Maßnahmen ergreifen und professionelle Hilfe anbieten. Diese Regelung spiegelt eine wachsende internationale Diskussion über die psychische Gesundheit im digitalen Raum wider.

Klare politische und gesellschaftliche Grenzen

Die neuen Regeln gehen weit über technische Standards hinaus. Digitale Menschen dürfen laut Entwurf keine Inhalte verbreiten, die die nationale Sicherheit gefährden, zum Umsturz der Staatsgewalt aufstacheln, Sezession fördern oder die nationale Einheit untergraben. Diese Formulierungen entsprechen dem üblichen Rahmen chinesischer Internetregulierung.

Dienstanbieter werden darüber hinaus angewiesen, sexuell anzügliche Inhalte, Darstellungen von Horror und Grausamkeit sowie die Aufstachelung zu Diskriminierung aufgrund von ethnischer Herkunft oder regionaler Zugehörigkeit aktiv zu verhindern. Die Behörden sehen sich dabei in der Pflicht, klare „rote Linien" für die Branche zu definieren.

Einbettung in Chinas KI-Strategie

Der Regulierungsvorstoß ist kein isolierter Schritt. China hat im vergangenen Monat in seinem neuen Fünfjahresplan ambitionierte Ziele zur KI-Einführung in der gesamten Wirtschaft formuliert. Gleichzeitig verschärft Peking die Aufsicht über die boomende KI-Branche, um Sicherheit und die Übereinstimmung mit den sozialistischen Werten des Landes zu gewährleisten.

Die CAC selbst beschreibt den Regulierungsbedarf in einer Analyse auf ihrer Website in deutlichen Worten: „Die Regulierung digitaler virtueller Menschen ist nicht mehr nur eine Frage von Branchennormen; vielmehr ist sie zu einem strategischen wissenschaftlichen Problem geworden, das die Sicherheit des Cyberspace, öffentliche Interessen und die hochwertige Entwicklung der digitalen Wirtschaft betrifft."

Globale Relevanz für Technologieunternehmen

Für internationale Beobachter und Investoren ist der chinesische Regulierungsrahmen von erheblicher Bedeutung. Unternehmen, die KI-Avatare oder digitale Companion-Dienste in China anbieten oder dort tätig sind, müssen sich auf strengere Compliance-Anforderungen einstellen. Die Entwicklung zeigt zudem, wie Regierungen weltweit zunehmend versuchen, den rasant wachsenden Markt für generative KI und virtuelle Identitäten rechtlich zu fassen – ein Trend, der auch in Europa und den USA an Fahrt gewinnt.

China gilt dabei als einer der aktivsten Regulatoren im globalen KI-Bereich. Bereits in der Vergangenheit hat Peking Vorreiterrollen bei der Regulierung von Algorithmen, Deepfakes und Empfehlungssystemen eingenommen. Die neuen Regeln für digitale Menschen schließen nun eine weitere Lücke im chinesischen Rechtsrahmen für künstliche Intelligenz.