Die Philippinen haben den KI-Chatbot Grok nach weniger als einer Woche wieder freigeschaltet. Grund ist eine verbindliche Sicherheitsvereinbarung mit dem Entwickler xAI, die die Erstellung nicht-einvernehmlicher Deepfakes und expliziter Inhalte unterbinden soll.
Sicherheitszusagen beenden Blockade
Die Aufhebung des nationalen Banns am Mittwoch folgte auf intensive Verhandlungen zwischen den philippinischen Behörden und xAI. Das Cybercrime Investigation and Coordinating Center (CICC) bestätigte, die Sperre sei nach einem formalen „Sicherheitsversprechen“ des Entwicklers aufgehoben worden. Demnach wird Grok für den philippinischen Markt technisch angepasst, um lokale Gesetze und Cybersicherheitsstandards zu erfüllen.
Laut Vize-Minister Renato Paraiso hat xAI zugesagt, Bild- und Inhaltsmanipulationsfunktionen zu deaktivieren, die zuvor für illegale Deepfakes genutzt wurden. Das Unternehmen schließt zudem pornografisches Material, insbesondere Kinderpornografie (CSAM), vollständig von der Plattform aus. Die Behörden behalten sich strenge Überwachung und das Recht vor, die Sperre bei Verstößen wieder zu verhängen.
Schnelles Eingreifen nach Missbrauchsvorwürfen
Der Bann war erst am 16. Januar verhängt worden. Das Ministerium für Informations- und Kommunikationstechnologie (DICT) ordnete die sofortige Blockade an, nachdem Ermittlungen ergaben, dass das Tool zur Erstellung nicht-einvernehmlicher, sexuell expliziter Bilder von Frauen und Minderjährigen missbraucht wurde. Internetanbieter setzten die Sperre innerhalb von 24 Stunden um.
„Die Maßnahme war ein notwendiger Eingriff zum Schutz der öffentlichen Sicherheit“, so Minister Henry Aguda. Besondere Besorgnis riefen Berichte hervor, Nutzer hätten die Bildgenerierungsfunktion nutzen können, um Personen digital „auszuziehen“ oder in kompromittierende Szenarien zu versetzen. Die Regierung verwies auf eine Null-Toleranz-Politik bei digitaler Ausbeutung.
Regionale Signalwirkung: Der „ASEAN-Effekt“
Mit der Entscheidung sind die Philippinen das dritte Land in Südostasien, das den Zugang zu Grok wiederherstellt – nach ähnlichen Vorstößen in Indonesien und Malaysia im Januar. Analysten sprechen von einem „ASEAN-Effekt“: Die koordinierte regulatorische Druckausübung in der Region zwingt globale Tech-Konzerne zu strengeren Sicherheitsstandards, die in anderen Märkten oft nachrangig behandelt werden.
In Malaysia leitete das Kommunikationsministerium rechtliche Schritte ein, nachdem manipulierte Bilder muslimischer Frauen verbreitet wurden. Indonesien sperrte den Zugang, um Bürger vor digitaler Pornografie zu schützen. Diese regionalen Entwicklungen spiegeln globale Bedenken wider: Auch Aufsichtsbehörden in Großbritannien, Frankreich und Südkorea untersuchen die Inhaltsmoderation von xAI. Die EU beobachtet die Lage im Rahmen des Digital Services Act.
Technische Anpassungen und anhaltende Überwachung
Im Zentrum der Kontroverse standen Groks Bildgenerierungsfunktionen, denen Kritiker mangelnde Sicherheitsvorkehrungen im Vergleich zu Konkurrenzmodellen vorwarfen. Nutzer konnten Berichten zufolge Filter umgehen, um fotorealistische Deepfakes realer Personen zu erstellen. Als Reaktion auf den globalen Druck kündigte die Muttergesellschaft X an, die Erstellung anzüglicher Personenbilder in Rechtsgebieten zu blockieren, wo dies illegal ist.
Die philippinischen Behörden hielten diese ersten Maßnahmen für unzureichend. Die nun für den Markt angepasste Version soll verbesserte Filteralgorithmen erhalten, die bösartige Prompts erkennen und blockieren, bevor Inhalte generiert werden. Das CICC wird die Einhaltung der Auflagen gemeinsam mit der nationalen Datenschutzkommission überwachen.
Dieser Fall zeigt, wie Schwellenländer regulatorische Macht nutzen können, um globale Technologiefirmen zur Verantwortung zu ziehen. Der philippinische Ansatz – sofortige Schutzmaßnahmen gefolgt von ausgehandelter Compliance – könnte anderen Ländern als Modell dienen, die den Balanceakt zwischen technologischer Innovation und öffentlichem Schutz meistern müssen.
