KI-Deepfakes verschärfen Chinas Kampf gegen Katastrophen-Desinformation

Während China die Folgen des Taifuns Noul bewältigt, der am Wochenende auf Land traf, kämpfen die Behörden an einer zweiten Front: Künstlich erzeugte Desinformationsvideos überschwemmen die sozialen Medien und gefährden Rettungseinsätze. Gefälschte Bilder von Leichen in Flutgewässern, falsche Darstellungen von Überschwemmungen in nicht betroffenen Gebieten und erfundene Details zu Rettungsmaßnahmen verbreiten sich rasend schnell im chinesischen Internet.

Die Folgen sind konkret und gefährlich. In einigen Gebieten lösten Videos mit falschen Informationen über Stromausfälle Panikkäufe von Notvorräten aus. Als Überschwemmungen in der Stadt Hengzhou in der Provinz Guangxi Anfang Juli dazu führten, dass hunderte Schlangen aus einer Zuchtfarm entkamen, kursierten kurz darauf gefälschte Bilder, die angeblich Krokodile zeigten, die in einen Fluss freigelassen wurden – ein Beispiel dafür, wie reale Ereignisse gezielt für Desinformation missbraucht werden.

Behörden zwischen Katastrophenschutz und Informationskontrolle

Für die chinesischen Behörden ist die Lage besonders heikel. Bei Massenevakuierungen und komplexen Rettungseinsätzen kann Panik in der Bevölkerung Leben kosten. Huang Zhihua, stellvertretender Leiter für öffentliche Online-Sicherheit der Polizeibehörde von Zhejiang, erklärte gegenüber chinesischen Staatsmedien: „Viele dieser Content-Ersteller nutzen Katastrophenmeldungen, um Follower zu gewinnen, in dem Wissen, dass sensationellere oder übertriebene Inhalte mehr Likes und Aufrufe generieren. Sie fabrizieren absichtlich Informationen, um die Aufmerksamkeit der Menschen zu erregen."

Als Reaktion darauf gab es in den letzten Wochen Festnahmen und Strafen für die Erstellung gefälschter Berichte und Videoinhalte – von Untersuchungshaft bis hin zu Geldstrafen. Doch Experten warnen, dass diese Maßnahmen nicht ausreichen könnten.

KI senkt die Hürde für Falschinformationen dramatisch

Das eigentliche Problem liegt in der technologischen Entwicklung. Professor Chen Bin, der in der Zeitung der Zentralen Parteischule der Kommunistischen Partei publizierte, beschreibt die Lage eindringlich: „KI senkt die technischen Barrieren für die Produktion von Falschinformationen drastisch. Einzelpersonen benötigen keine hochentwickelten technischen Fähigkeiten mehr. Durch einfache Eingaben in KI-Tools können sie schnell überzeugende Texte, Bilder, Audio- und Videoinhalte generieren – dabei handelt es sich um hochrealistische, aber völlig frei erfundene Inhalte, die in großem Maßstab hergestellt werden."

Dies ist für China eine besondere Ironie: Das Land hat Milliarden von US-Dollar in KI-Technologie investiert – dieselbe Technologie, die nun als Werkzeug zur Massentäuschung der eigenen Bevölkerung eingesetzt wird.

Professor Gao Fuping von der East China University of Political Science and Law erläuterte gegenüber der BBC die Bandbreite der Motive hinter solchen Falschinhalten. Sie reichen von Nutzern, die „etwas Amüsantes schaffen wollen, ohne über die Konsequenzen nachzudenken", über jene, die „Traffic für den persönlichen Vorteil generieren", bis hin zu Akteuren, die absichtlich „Panik oder soziale Unruhen stiften" wollen. „Einige Nutzer glauben, die Online-Welt sei anonym und unreguliert oder dass sie nicht zurückverfolgt werden können", so Gao.

Kennzeichnungspflicht allein reicht nicht aus

Als mögliche Lösung werden Forderungen laut, alle KI-generierten Inhalte klar zu kennzeichnen. Doch auch dieser Ansatz hat seine Grenzen: Andere Nutzer können das Material neu bearbeiten und die Markierungen einfach entfernen. Professor Xu Xiaoke von der Beijing Normal University erklärte gegenüber der BBC, dass größere Anstrengungen erforderlich seien, um der Lage Herr zu werden.

Die Situation in China ist ein Vorgeschmack auf eine globale Herausforderung. Mit zunehmend leistungsfähigen und leicht zugänglichen KI-Tools steht nicht nur China, sondern die gesamte digitale Gesellschaft vor der Frage, wie Desinformation in Krisenzeiten wirksam eingedämmt werden kann – bevor sie Menschenleben gefährdet.