Chinas zentrale Internetaufsicht hat über eine zweite Durchsetzungsphase gegen den Missbrauch von Anwendungen künstlicher Intelligenz und synthetischer Inhalte berichtet. In einer Mitteilung vom 2. September 2026 erklärte die Cyberspace Administration of China, Behörden hätten in dieser Phase mehr als 5,61 Millionen rechtswidrige oder regelwidrige Inhalte entfernt, Maßnahmen gegen mehr als 49.000 Konten ergriffen und mehr als 2.400 nicht konforme Websites und Anwendungen bearbeitet.
Die Zahlen sind Angaben der Behörde und keine unabhängig geprüften Messwerte. Dennoch ist die Mitteilung operativ relevant. Die Durchsetzung geht über eine formale Kennzeichnung hinaus. Laut Behörde reagierten Plattformen, indem sie multimodale Erkennung verbesserten, Datenbanken mit Gesichtern, Stimmen und Verstoßmustern erweiterten, Konten untersuchten, Anwendungen prüften und Kontrollen dort stärkten, wo KI-Inhalte erzeugt oder verbreitet werden. Daneben ordneten regionale Behörden laut Mitteilung einzelne Änderungen bei Plattformen an.
Die Kampagne erfasst mehrere Fehlermuster
Die Behörde nennt erfundene Katastrophen- und Rettungsszenen, Identitätsmissbrauch durch Gesichts- und Stimmenklonen, schädliche Inhalte über Minderjährige, automatisierte Einflussaktivitäten und KI-Produkte mit unzulässigen Inhalten. Sie beschreibt außerdem Maßnahmen regionaler Stellen sowie geänderte Prüf- und Erkennungsprozesse großer Plattformen, KI-Dienste und App-Stores.
Das bedeutet nicht, dass jedes genannte Unternehmen einen Verstoß begangen hat. Die Mitteilung nennt sowohl Durchsetzungsziele als auch Organisationen, die auf die Kampagne reagiert haben. Eine Aufteilung der Maßnahmen nach Unternehmen, die Rechtsgrundlage jeder Einzelentscheidung und die Zahl erfolgreicher Beschwerden fehlen.
Die South China Morning Post berichtete am 2. September unabhängig über die Ankündigung und nannte die der Behörde zugeschriebenen Zahlen und den Umfang. Das bestätigt die öffentliche Berichterstattung, nicht Genauigkeit, Methodik oder Fairness der Messwerte und Plattformverfahren. Das Informationsbüro des chinesischen Staatsrats veröffentlichte am 3. September zusätzlich einen Xinhua-Bericht mit denselben Hauptzahlen, doch auch diese staatliche Quelle ist keine unabhängige Prüfung.
Compliance braucht eine zusammenhängende Nachweiskette
Für Anbieter und Plattformen reicht ein KI-Hinweis allein nicht aus. Eine belastbare Kontrollkette verbindet:
- Ursprung des Modellergebnisses und veröffentlichendes Konto oder Anwendung;
- Modell, Eingabe, Medientransformation und Kennzeichnungsstatus;
- geltende Regeln für Inhalte, Identität, Minderjährige und Daten;
- Detektorversion, Schwellenwert, Prüfentscheidung und Prüferrolle;
- Maßnahme, Nutzerhinweis, Beschwerde und endgültige Entscheidung;
- Abhilfemaßnahme und Nachweis eines erneuten Tests.
Maetras Leitfaden für KI-Prüfnachweise zeigt, wie ein prüfbarer Datensatz statt einzelner Screenshots entsteht. Die Checkliste für KI-Compliance-Nachweise hilft, Eigentümer und Aktualitätsfristen zuzuweisen.
Erkennungsqualität und Verfahren sind getrennt zu messen
Die Mitteilung beschreibt stärkere multimodale Erkennung und größere Referenzdatenbanken. Das kann die Abdeckung verbessern, schafft aber Risiken durch Fehlalarme, Verzerrung, unklare Herkunft und Beschwerden. Ein Klassifikatorwert beweist weder Absicht noch Identität oder rechtliche Verantwortung.
Teams sollten deshalb zwei Systeme messen. Technisch zählen Trefferquote, Präzision, Sprach- und Medienabdeckung, Latenz, Umgehungsresistenz und Drift. Operativ zählen Eskalation, sichtbare Belege, Beschwerdemöglichkeit, Bearbeitungszeit und verifizierte Abhilfe.
Referenzdatenbanken für Gesicht und Stimme benötigen eigene Grenzen. Zweck, Zugriff, Aufbewahrung, Löschung und Reaktion auf Sicherheitsvorfälle müssen ausdrücklich geregelt sein.
Offene Punkte
Die Mitteilung legt Messmethode, Dublettenregeln, Fehlerquoten, Beschwerden und den Anteil automatisierter Entscheidungen nicht vollständig offen. Sie nennt Beispiele mit teilweise verdeckten Kontonamen statt eines vollständigen Registers.
Sie ist auch keine globale Compliance-Vorlage. Pflichten, Verfahrensrechte und zulässige Inhalte unterscheiden sich nach Rechtsraum. International tätige Organisationen brauchen ein gemeinsames Inventar der KI-Inhaltswege mit lokal passenden Richtlinien und Nachweisen.
Maetra-Analyse
Die zentrale Lehre lautet: Compliance für synthetische Inhalte ist ein Betriebsproblem. Ein Richtliniendokument wirkt nur, wenn es mit Modellinventar, Herkunft, Veröffentlichungsidentität, Laufzeitprüfung, menschlicher Kontrolle, Maßnahme, Beschwerde und verifizierter Abhilfe verbunden ist.
Wählen Sie einen Weg für KI-Inhalte, etwa Marketingbild, Chatbot-Antwort, Produktangebot oder Avatarvideo. Ordnen Sie jedes System und jeden Eigentümer von der Erzeugung bis zur Veröffentlichung zu. Prüfen Sie dann, ob sich rekonstruieren lässt, warum ein Inhalt zugelassen, gekennzeichnet, eskaliert, entfernt oder wiederhergestellt wurde und welche Kontrollversion entschied.
Chinas Kampagne zeigt die Größenordnung möglicher Aufsicht. Sie beweist nicht die Genauigkeit oder Fairness einzelner Erkennungssysteme. Anbieter sollten Kennzeichnung, Moderationsmodelle, App-Prüfung und Fallakten als eine verantwortliche Kontrollkette behandeln.