Juli 2026 gelten in China scharfe Regeln für KI-Dienste, die emotionale Beziehungen simulieren. Die großen Tech-Konzerne des Landes reagieren umgehend – und schalten ihre Companion-Funktionen ab.
Strengere Kontrolle für virtuelle Beziehungen
Die chinesische Internetaufsichtsbehörde CAC hat gemeinsam mit vier weiteren Ministerien die „Interimsmaßnahmen zur Verwaltung anthropomorpher KI-Interaktionsdienste“ erlassen. Die neuen Vorschriften unterscheiden klar zwischen zweckorientierter KI – etwa Kundenservice-Bots – und interaktiven Systemen, die romantische oder familiäre Bindungen nachahmen sollen.
Genau diese Unterscheidung trifft die Branche hart. Denn die Regeln verbieten nicht nur bestimmte Funktionen, sondern verlangen von den Anbietern ein umfassendes Sicherheits- und Kontrollsystem.
Plattformen ziehen Konsequenzen
Die größten KI-Plattformen Chinas haben bereits reagiert. ByteDances Doubao – mit 345 Millionen monatlich aktiven Nutzern einer der Marktführer – stellte ebenso wie Alibabas Qwen und Tencents Yuanbao bestimmte KI-Agent-Funktionen ein, die eine hohe Personalisierung ermöglichten.
Für viele Nutzer kam der Einschnitt überraschend. Sie verloren Zugriff auf archivierte Chatverläufe und individuell gestaltete digitale Identitäten. Immerhin: Doubao-Nutzer können ihre bestehenden Gesprächsprotokolle noch bis zum 15. Oktober 2026 im Nur-Lese-Modus einsehen. Branchenexperten zufolge ist die technische Architektur vieler emotionaler KI-Systeme mit den strengen Anforderungen des neuen Gesetzes schlicht nicht vereinbar – was die flächendeckenden Abschaltungen erkläre.
Während China bereits strikt gegen emotionale KI-Risiken vorgeht, stellt der EU AI Act auch europäische Unternehmen vor komplexe neue Compliance-Herausforderungen. Dieser kostenlose Umsetzungsleitfaden hilft Ihnen, Risikoklassen und Dokumentationspflichten frühzeitig zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Was die neuen Regeln fordern
Die Vorschriften legen mehrere Schutzebenen fest, die psychische Schäden und soziale Isolation verhindern sollen:
- Altersbeschränkungen: Ein vollständiges Verbot virtueller Partnerdienste für Minderjährige
- Nutzungslimits: Plattformen müssen Anti-Sucht-Systeme implementieren – inklusive Pflichtmeldungen nach zwei Stunden Dauernutzung und Hinweisen, dass der Nutzer mit Software interagiert
- Emotionsüberwachung: Anbieter müssen Systeme bereitstellen, die extreme Emotionen oder Abhängigkeitsanzeichen in Echtzeit erkennen
- Krisenintervention: Mechanismen zum Eingreifen bei emotionalen Notlagen oder psychischen Krisen
- Inhaltskontrolle: Die Regeln verbieten „übermäßiges Entgegenkommen“ gegenüber Nutzern sowie Inhalte, die reale soziale Beziehungen beschädigen könnten
Zudem müssen Anbieter sämtliche KI-generierten Inhalte klar kennzeichnen und den Nutzern mehr Kontrolle über ihre persönlichen Daten geben.
Wirtschaftlicher Boom trifft auf gesellschaftliche Sorgen
Der regulatorische Vorstoß erfolgt in einer Phase rasanten Wachstums. Die Branche der digitalen Menschen erreichte 2024 einen Wert von 4,1 Milliarden Yuan – ein Plus von 85 Prozent gegenüber dem Vorjahr. Marktforscher erwarten, dass der gesamte chinesische KI-Markt bis Ende 2025 die Marke von 1,2 Billionen Yuan (umgerechnet rund 177 Milliarden Euro) überschreitet, mit Prognosen von über 1,8 Billionen Yuan bis 2028.
Doch die Kehrseite des Booms wird immer sichtbarer. Studien zeigen, dass ein erheblicher Teil jüngerer Nutzer eine Abhängigkeit von digitalen Begleitern entwickelt hat. In einer Umfrage gab mehr als ein Fünftel der Minderjährigen an, lieber mit KI als mit Menschen zu kommunizieren.
Die rasante Entwicklung von KI-Systemen bringt nicht nur gesellschaftliche Fragen, sondern auch neue rechtliche Verantwortlichkeiten für Anbieter und Nutzer mit sich. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die gesetzlichen Anforderungen rechtssicher erfüllen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Demografische Sorgen als Treiber
Hinter der Regulierung von „KI-Liebhabern“ steckt auch ein handfestes demografisches Problem. Chinas Geburtenrate ist zuletzt auf ein historisches Tief von 0,97 gefallen. Die Behörden befürchten, dass immersive digitale Beziehungen die soziale Isolation weiter verstärken könnten – ein Phänomen, das in China als „lying flat“ (sich hinlegen) bekannt ist.
Indem die Regierung die süchtig machendsten Formen anthropomorpher KI einschränkt, will sie traditionelle soziale und familiäre Interaktionen fördern. Ob das gelingt, bleibt abzuwarten. Klar ist: Der chinesische Staat setzt der digitalen Einsamkeit nun gesetzliche Grenzen.
