Besonders im Fokus: Animationen und Kurzvideos, die Kinder und Jugendliche gefährden könnten. Die Maßnahme trat am heutigen Montag in Kraft und zielt auf gewalttätige Inhalte, toxische Animationen sowie unangemessene Kinddarstellungen ab.
Zweistufiger Aktionsplan gegen digitale Gefahren
Die Kampagne gliedert sich in zwei Phasen. Zunächst konzentrieren sich die Kontrollen auf die Sommerferienzeit, in der Kinder besonders viel Zeit online verbringen. In der zweiten Stufe müssen digitale Plattformen ihre Empfehlungsalgorithmen optimieren und strengere Prüfstandards einführen. Die Behörden stellten klar: Plattformen müssen Modelle verbieten, die Suchtverhalten fördern, und sicherstellen, dass KI-Inhalte nicht zu gefährlichen Handlungen anstiften.
Parallel dazu traten bereits am 15. Juli 2026 neue Regeln für generative KI-Systeme in Kraft. Diese verbieten KI-Chatbots, emotionale Abhängigkeit zu fördern oder reale menschliche Beziehungen zu ersetzen. Besonders streng: KI-Begleitdienste für Minderjährige sind komplett untersagt. Entwickler dürfen keine romantischen oder familiären Beziehungen mit jungen Nutzern simulieren.
Tech-Konzerne reagieren umgehend
Die großen Technologieunternehmen haben bereits reagiert. ByteDance, Alibaba und Tencent entfernten oder deaktivierten bestimmte Begleitfunktionen aus ihren KI-Produkten Doubao, Qwen und Yuanbao. Allein auf der Doubao-Plattform hatten Nutzer zuvor mehr als acht Millionen KI-Charaktere erschaffen – ein Beleg für die enorme Nachfrage nach digitalen Begleitern.
Während China strikte Regeln für generative KI erlässt, müssen auch hiesige Unternehmen die Anforderungen des EU AI Acts im Blick behalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Die neuen Vorschriften führen zudem verpflichtende Kriseninterventionsmechanismen ein. Unternehmen müssen Systeme implementieren, die bei emotionalen oder lebensbedrohlichen Krisen automatisch Notfallkontakte oder Erziehungsberechtigte benachrichtigen. Darüber hinaus benötigen alle KI-Chatbots für Begleitdienste künftig eine staatliche Vorabgenehmigung.
Demografische Sorgen als Treiber der Regulierung
Branchenanalysten sehen hinter den regulatorischen Maßnahmen auch Chinas demografische Herausforderungen. Die Bevölkerung schrumpfte 2025 bereits das vierte Jahr in Folge, die Geburtenrate erreichte einen historischen Tiefstand. Regierungsvertreter befürchten offenbar, dass KI-Begleiter Menschen vom Heiratsmarkt fernhalten könnten. Die neuen Regeln sollen daher reale soziale Kontakte priorisieren.
Präsident Xi Jinping betonte am heutigen Montag die Notwendigkeit von Frühwarnsystemen zur Überwachung und Steuerung der KI-Entwicklung. Er forderte einen Governance-Rahmen, der Offenheit mit Risikobewusstsein verbindet, und plädierte für die Einführung technologischer Überwachungssysteme. China fördert zudem die internationale Zusammenarbeit durch die World Artificial Intelligence Cooperation Organization (WAICO), der mittlerweile 29 Mitgliedsstaaten angehören – darunter Indonesien, Malaysia, Russland, Pakistan, Brasilien und Südafrika.
Die rasante Entwicklung von KI-Systemen stellt Unternehmen weltweit vor neue Herausforderungen bei der Risikodokumentation und Qualitätssicherung. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu sein. Kostenlosen Umsetzungsleitfaden zum AI Act anfordern
Haftung und Kennzeichnungspflichten verschärft
Das regulatorische Umfeld wurde auch durch jüngste Gerichtsentscheidungen geprägt. Im März 2026 entschied ein Gericht in Peking, dass einzelne Nutzer für die von ihnen erstellten und verbreiteten Inhalte haften. Ein Nutzer hatte verleumderische KI-generierte Videos über einen verstorbenen Livestream-Moderator veröffentlicht. Das Gericht stellte klar: Nutzer müssen die Authentizität KI-generierter Inhalte überprüfen, sie angemessen kennzeichnen und Quellen angeben.
Dieses Urteil folgt auf die KI-Kennzeichnungsverordnung, die bereits am 1. September 2025 in Kraft trat. Die schiere Größe des Sektors wird an aktuellen Zahlen deutlich: 602 Millionen Nutzer zählte Chinas generative KI-Basis bis Dezember 2025 – ein Anstieg von über 140 Prozent im Jahresvergleich. Um Ordnung in diesen wachsenden Markt zu bringen, entfernte die CAC bereits mehr als 14.000 nicht konforme KI-Produkte und sechs Millionen illegale Informationen.
Ein weiterer Schwerpunkt der Durchsetzung betrifft militärbezogene Fehlinformationen. Eine spezielle Cyberspace-Kampagne 2026 geht gegen erfundene Geschichten und vulgäre KI-Videos vor, die Militärsprecher verspotten oder falsche Behauptungen über das Militärleben verbreiten.
