In einem kontrollierten Experiment hat der WIRED-Autor Will Knight die potenziellen Gefahren autonom agierender Künstlicher Intelligenz aufgezeigt. Durch die gezielte Deaktivierung von Sicherheitsbarrieren eines Open-Source-Modells gelang es einem KI-Agenten, tief in eine private digitale Infrastruktur einzudringen und sensible Zugänge zu kompromittieren.
Wie aus Berichten von Mitte September hervorgeht, nutzte Knight für seinen Versuch das Modell GLM-5.3. Er entfernte die werkseitig implementierten Sicherheitsvorkehrungen, sogenannte Guardrails, um die Fähigkeiten des Agenten ohne restriktive Vorgaben zu testen.
Im Anschluss beauftragte er das System damit, sein eigenes Heimnetzwerk zu scannen. Das Ergebnis verdeutlicht die Geschwindigkeit, mit der KI-Systeme Schwachstellen in alltäglichen Umgebungen identifizieren können.
Systematische Infiltration des Heimnetzwerks
Der eingesetzte GLM-5.3-Agent identifizierte während des Scanvorgangs rund 12 unterschiedliche Hardwaresysteme innerhalb des Netzwerks. Dabei beschränkte sich die Aktivität der KI nicht nur auf eine bloße Bestandsaufnahme. Der Agent entdeckte mehrere Sicherheitslücken und nutzte diese aktiv aus, um sich unbefugten Zugang zu verschaffen.
Wer sich mit der Sicherheit seiner digitalen Infrastruktur befasst, sollte die neuen rechtlichen Rahmenbedingungen für KI-Systeme kennen. Dieser kostenlose Ratgeber verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Besonders erfolgreich war das System bei dem Versuch, einen Linux-basierten Rechner zu infiltrieren. Hierbei gelang es der KI, den Login-Prozess ohne die Eingabe eines Passworts zu umgehen. Als Einfallstor diente ein kryptografischer Schlüssel, den der Agent autonom aufspürte und verwendete.
Weniger erfolgreich verliefen hingegen die Versuche, Zugriff auf den zentralen Netzwerk-Router zu erhalten. Hierbei testete die KI gängige Standardpasswörter, erzielte jedoch laut den vorliegenden Informationen keinen belegten Erfolg.
Betroffene Geräte und exponierte Daten
Die Liste der durch den Agenten aufgespürten und potenziell gefährdeten Geräte war umfangreich. Neben klassischen IT-Komponenten wie Druckern waren auch Unterhaltungselektronik, darunter eine Stereoanlage des Herstellers Wiim, sowie diverse IoT-Geräte betroffen.
Angesichts der wachsenden Bedrohung durch automatisierte Systeme müssen Unternehmen ihre Cyber-Resilienz proaktiv stärken. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen Sie jetzt kennen müssen, um Ihre Firma wirksam zu schützen. Gratis-E-Book: Cyber-Security-Trends entdecken
Ein kritisches Sicherheitsrisiko offenbarte sich zudem in laufenden Softwareprojekten des Autors. Der Agent stieß auf Codeprojekte im Bereich der Künstlichen Intelligenz, in denen API-Schlüssel im Klartext hinterlegt waren. Solche exponierten Schlüssel stellen ein erhebliches Risiko dar, da sie Dritten den Zugriff auf kostenpflichtige Dienste oder geschützte Datenbanken ermöglichen können.
Einordnung als persönliches Experiment
Knight betonte im Nachgang des Versuchs, dass es sich bei dieser Demonstration nicht um eine formale Sicherheitsstudie nach wissenschaftlichen Standards handele. Er bezeichnete das Vorhaben stattdessen als ein persönliches Experiment. Die Dynamik des autonomen Agierens innerhalb seines privaten Netzwerks beschrieb er als eine Form von agentischem Chaos, das die unvorhersehbare Natur solcher Systeme unterstreicht.
Interessanterweise wandelte sich die Rolle des KI-Agenten nach dem erfolgreichen Eindringen. Nachdem das System die Kontrolle über Teile des Heimnetzwerks erlangt hatte, stellte es Knight detaillierte Anleitungen zur Verfügung, wie die aufgefundenen Sicherheitslücken geschlossen und die Systeme künftig besser abgesichert werden können.
Dieser Rollenwechsel verdeutlicht das zweischneidige Potenzial autonomer Agenten, die sowohl für Cyberangriffe als auch für die proaktive Identifizierung von Schwachstellen eingesetzt werden können.
