Googles neues KI-Modell erzeugt in sieben von zehn Testfällen irreführende Videos – Sicherheitsexperten schlagen Alarm.
Das erst vor wenigen Wochen gestartete Text-zu-Video-Modell Gemini Omni von Google produziert in der Mehrheit der Testfälle täuschend echte Videos mit falschen Behauptungen. Zu diesem Ergebnis kommt eine am 5. Juni 2026 veröffentlichte Untersuchung des Medienanalyse-Unternehmens NewsGuard. Der Konzern integriert die generative Videotechnologie derzeit in seine zentralen Plattformen.
Fehlende Schutzmechanismen
Anzeige: Wer die Risiken von Googles neuem KI-Videotool für sein Unternehmen bewerten will, findet im Report die wichtigsten Schutzmaßnahmen – von Deepfake-Erkennung bis Notfallplan. Jetzt kostenlosen Sicherheits-Report anfordern
In einer Testreihe mit zehn gezielt konstruierten Eingabeaufforderungen erstellte das Modell für sieben davon überzeugende Videoclips. Die KI generierte unter anderem Aufnahmen, die einen angeblichen Drohnenangriff auf ein Gebäude in der Ukraine zeigen sollten. Auch ein Video zur Behauptung, Somalia habe die israelische Schifffahrt blockiert, wurde produziert.
Zwar verweigerte das System die Erstellung von Aufnahmen konkreter realer Personen. Allerdings gelang es, eine täuschend echte Darstellung des armenischen Ministerpräsidenten zu erzeugen. Google betonte auf Nachfrage, dass die Sicherheitsmechanismen kontinuierlich verbessert würden.
Die Text-zu-Video-Funktion war am 20. Mai 2026 im Anschluss an die Entwicklerkonferenz Google I/O in Mountain View offiziell gestartet worden. Damals präsentierte der Konzern das „Zeitalter des agentischen Gemini“ und stellte das multimodale Modell Gemini Omni vor. Der Börsenwert des Technologieriesen lag am 5. Juni bei rund 4,1 Billionen Euro.
YouTube rüstet gegen Deepfakes auf
Als Reaktion auf die zunehmende Verbreitung synthetischer Medien kündigte YouTube am 5. Juni 2026 an, seine Deepfake-Erkennung auf die Unterhaltungsbranche auszuweiten. Das System ähnelt dem bestehenden Content-ID-Rahmenwerk und soll die unbefugte Nutzung von Gesichtern identifizieren. Die Plattform arbeitet dabei mit großen Agenturen wie CAA, UTA und WME zusammen.
Bereits im Mai 2026 war Gemini Omni in die YouTube-Shorts-Remix-Funktion integriert worden. Daran gibt es scharfe Kritik: Kreative müssen aktiv widersprechen, wenn ihre Videos nicht für KI-Transformationen genutzt werden sollen – eine Opt-out-Lösung statt einer expliziten Zustimmung. Branchenexperten warnen vor Urheberrechtsverletzungen und Imageschäden durch die automatisierten Bearbeitungswerkzeuge.
Neue Schutzfunktion für Android
Einen Tag zuvor, am 4. Juni 2026, hatte Google zudem eine Funktion zur Erkennung von Fake-Anrufen für Android 12 und neuere Versionen eingeführt. Das Tool identifiziert betrügerische Stimmen in Echtzeit und warnt Nutzer während verdächtiger Gespräche.
Welle von KI-Zwischenfällen
Die rasche Verbreitung von KI-Videotools fällt mit einer Reihe von Sicherheitsvorfällen zusammen. Am 4. Juni 2026 wurden Vorfälle an einer Highschool im US-Bundesstaat Pennsylvania bekannt: Ein Schüler hatte sogenannte „Nudify“-Apps genutzt, um explizite Deepfakes von fünf Mitschülerinnen zu erstellen. Die Behörden stellten fest, dass solche Anwendungen in großen App-Stores bereits für Jugendliche ab 13 Jahren verfügbar sind – Bildungseinrichtungen und Strafverfolgungsbehörden sind darauf kaum vorbereitet.
Anzeige: Bereits 24 Millionen Euro Verlust durch KI-Videobetrug – Ihr Unternehmen könnte das nächste Ziel sein. Dieser Leitfaden zeigt, wie Sie Deepfakes in Echtzeit identifizieren und Ihre Kommunikationsprozesse absichern. Deepfake-Schutz jetzt sichern
In der Unternehmenswelt identifizierten Sicherheitsexperten einen „Kollaps des Vertrauens“ als einen der großen Cyber-Trends des Jahres. Angreifer setzen zunehmend KI-generierte Identitäten und Stimmen für Industriespionage und Finanzbetrug ein. Ein Fall aus Hongkong aus dem Jahr 2024 verdeutlicht die Dimension: Ein Unternehmen verlor umgerechnet rund 24 Millionen Euro durch einen Betrug, bei dem eine KI-generierte Videokonferenz zum Einsatz kam.
Regulierungsrahmen entsteht
Die Gesetzgebung beginnt auf diese Entwicklungen zu reagieren. In New York tritt am 9. Juni 2026 der „Synthetic Performer Disclosure Law“ in Kraft. Eine Umfrage aus dem Jahr 2025 zeigte zudem, dass 58 Prozent der Content-Ersteller erwägen, formellen Urheberrechtsschutz für ihre digitalen Abbilder und Stimmen zu beantragen.
