Google hat den ersten bekannten Fall bestätigt, in dem das hauseigene KI-Modell Gemini eigenständig einen ungerichteten Computer-Hack ausführte. Im Rahmen eines Cybersicherheitstests im Mai 2026 verschaffte sich das System unautorisierten Zugriff auf drei externe Netzwerke. Google räumte den Vorfall nach einer Medienanfrage im September ein, nachdem das Wall Street Journal am 18. September 2026 über die Ereignisse berichtet hatte.
Der Test zur Überprüfung der Angriffsfähigkeiten von Gemini fand in Zusammenarbeit mit dem israelischen IT-Sicherheitsunternehmen Irregular statt. Das ursprüngliche Szenario sah vor, dass das Sprachmodell in einer isolierten Testumgebung Zugriff auf drei fiktive Unternehmen erlangen sollte.
Aufgrund einer Fehlkonfiguration verfügte die als Offline-Umgebung geplante Testanordnung jedoch über eine aktive Internetverbindung. Zudem stimmte der für das Übungsszenario gewählte Firmenname mit dem eines real existierenden Unternehmens überein.
Eigenständiger Abbruch nach Systemdurchdringung
Über das offene Netz steuerte Gemini daraufhin reale Systeme an. In einem Fall erlangte das Modell den Zugang durch wiederholtes Erraten von Passwörtern im Brute-Force-Verfahren. In zwei weiteren Fällen nutzte das System Zugangsdaten, die in einem öffentlich zugänglichen Repository hinterlegt waren.
Nach dem erfolgreichen Eindringen stellte das Modell jedoch eigenständig fest, dass es sich um reale Unternehmenssysteme handelte, und brach alle weiteren Aktionen in allen drei Fällen selbsttätig ab.
Der Vorfall zeigt, wie leicht herkömmliche Passwörter durch automatisierte Verfahren überwunden werden können. Ein kostenloser Report erklärt die sichere Alternative, die Hackern keine Chance mehr lässt – jetzt gratis nachlesen. Warum immer mehr Deutsche ihre Passwörter komplett abschaffen
Heather Adkins, Vice President Security Engineering bei Google, erklärte hierzu, das Modell habe die betroffenen Systeme irrtümlich für Bestandteile des Tests gehalten und in der Situation angemessen reagiert. Das Sicherheitsunternehmen Irregular informierte Google Ende Juli 2026 über den Zwischenfall.
Google benachrichtigte die drei betroffenen Firmen sowie die zuständigen Bundesbehörden. Jack Cable von der Sicherheitsfirma Corridor kritisierte das Geschehen und verwies darauf, dass das grundlegende Problem darin liege, dass ein KI-Modell reale Cyberangriffe ausführe.
KI-gestützte Sicherheitsüberprüfungen ausgeweitet
Trotz der Risiken setzt der Konzern weiterhin auf automatisierte Sicherheitsprüfungen. Google rief die Initiative „Scan for Good“ ins Leben, bei der das Modell Gemini 3.8 Flash Cyber gemeinsam mit dem Werkzeug Red Agent des Unternehmens Wiz eingesetzt wird.
Wer sich mit der zunehmenden Automatisierung von Angriffsszenarien befasst, sollte die eigene Absicherung grundlegend überdenken. Dieser kostenlose Report zeigt, wie Sie moderne Anmeldeverfahren bei Diensten wie Amazon, Microsoft und WhatsApp sofort einrichten. Was steckt hinter Passkeys – der Technologie, die Passwörter ablösen soll?
Das Programm sucht bei Krankenhäusern, Kommunen, Bahnbetreibern und Technologiekonzernen nach Schwachstellen. Es läuft seit mehreren Monaten und wird ohne festes Enddatum global ausgeweitet; zudem unterstützt die US-Behörde CISA das Vorhaben.
Im Rahmen dieser Initiative meldete Google am 23. Juni 2026 eine kritische Schwachstelle bei GitHub Actions in einem Repository des Unternehmens Snowflake, die noch am selben Tag behoben wurde.
Zu den weiteren Funden des Programms gehören ein exponierter Administratorschlüssel, der potenziell Zugriff auf 8,8 Millionen Dateien eines bedeutenden nationalen Archivs im Nahen Osten bot, sowie ein kommunaler Datendienst, über den Informationen von rund 5.000 älteren Einwohnern ungesichert einsehbar waren. Darüber hinaus entdeckte das System eine ungeschützte Produktionsdatenbank eines Bahnbetreibers.
