Auf der World AI Conference in Shanghai hat die chinesische Führung strengere Sicherheitskontrollen für Künstliche Intelligenz gefordert. Peking drängt auf verbindliche Gesetze und Frühwarnsysteme – der Grund: eine Flut KI-generierter Inhalte auf Plattformen wie WeChat.
29 Staaten gründen WAICO
Ein zentrales Ergebnis der Konferenz: die Gründung der World AI Cooperation Organization (WAICO). Insgesamt 29 Staaten haben sich zusammengeschlossen, um künftige Standards zu definieren. Sitz der neuen Organisation ist Shanghai. Die chinesische Staatsführung bezeichnete die Gründung als „bedeutenden Meilenstein“.
China setzt dabei verstärkt auf Open-Source-Modelle, während die USA primär auf kommerzielle Bezahlmodelle setzen. Schätzungen zufolge stammen rund 90 Prozent der weltweit genutzten KI-Modelle aus diesen beiden Ländern.
Parallel zur politischen Initiative gab es technologische Neuigkeiten: Das Unternehmen Moonshot AI veröffentlichte Mitte Juli das Modell Kimi K3 mit 2,8 Billionen Parametern. Der Preis liegt bei rund 15 US-Dollar pro Million Output-Token – das erhöht den Wettbewerbsdruck auf dem Markt für Hochleistungs-KI.
KI-Schwemme auf WeChat
Die Forderung nach strengerer Kontrolle hat einen konkreten Auslöser: Der Nachrichtendienst WeChat, betrieben von Tencent, verzeichnete zuletzt ein massives Aufkommen KI-generierter Inhalte. Zeitweise wurden bis zu 850 automatisierte Artikel pro Minute auf den sogenannten Official Accounts registriert.
Bereits im Frühjahr hatte der Dienst die Reißleine gezogen und Richtlinien erlassen, die KI als vollständigen Ersatz für menschliche Inhalte untersagen. Das führte bereits zu massenhaften Kontolöschungen.
Die rasanten Entwicklungen bei KI-Systemen und die Flut automatisierter Inhalte zwingen den Gesetzgeber zum Handeln. In diesem kostenlosen E-Book erfahren Unternehmen kompakt alles über die Pflichten, Fristen und Risikoklassen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Hinzu kamen technische Störungen: Am heutigen Freitag waren sowohl WeChat als auch der Dienst QQ vorübergehend nicht erreichbar. Der Betreiber reagierte umgehend, nannte jedoch keine Details zu den Ursachen.
Der Kampf gegen die automatisierte Inhaltsflut ist kein lokales Phänomen. Bereits Ende 2024 waren rund 41 Prozent der Beiträge auf LinkedIn KI-generiert. In China gilt seit Herbst 2025 eine Kennzeichnungspflicht für solche Inhalte.
Jugendliche überfordert – neue Betrugsmaschen
Die rasanten technologischen Sprünge stellen die Gesellschaft vor wachsende Herausforderungen. Eine Studie der Medienanstalt Rheinland-Pfalz (JIMplus 2026) belegt: 61 Prozent der 14- bis 17-Jährigen haben Schwierigkeiten, echte von KI-generierten Informationen zu unterscheiden. Rund 71 Prozent der Jugendlichen begegnen regelmäßig Falschmeldungen im Netz.
Gleichzeitig warnen Ermittlungsbehörden vor immer raffinierteren Betrugsmethoden. Dazu zählen manipulierte Werbeanzeigen für Geldanlagen, Schockanrufe mit geklonten Stimmen sowie Love Scamming.
Während neue Technologien enorme Chancen bieten, wachsen auch die rechtlichen Anforderungen an deren Einsatz im geschäftlichen Umfeld. Dieser kostenlose Praxis-Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt für die Compliance tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Auch staatliche Institutionen sind betroffen: Das Bundesarbeitsministerium berichtet über eine Flut KI-generierter Widerspruchsschreiben bei den Jobcentern. Während 2025 rund 500.000 Widersprüche eingingen, wurden bis Mitte 2026 bereits über 300.000 Fälle registriert. Die Erfolgsquote der Einsprüche liegt bei vergleichsweise geringen 31 Prozent.
Die EU-Kommission plant deshalb eine einheitliche Alterskontrolle für soziale Medien. Ein entsprechender Gesetzesentwurf sieht vor, dass die Nutzung unter 13 Jahren künftig nur noch unter Aufsicht möglich sein soll. Auch Meta weitet seine Schutzmaßnahmen aus: Eine neue Funktion soll Gespräche über Selbstverletzung in KI-Chats erkennen und Eltern alarmieren. Die Funktion soll bis Ende 2026 weltweit verfügbar sein.
