Agentische KI: Die Bombe, die jederzeit hoch gehen kann

Agentische AI entwickelt sich zur größten Bedrohung der IT-Sicherheit, wird aber vom Marketing als "Stein der Weisen" propagiert und viel zu häufig von naiven Nutzern eingesetzt. Sicherheitsanbieter Surfshark hat mich bereits vor einiger Zeit eine Einschätzung zu diesem Thema gegeben, die ich hier mal einstelle.

Ich fange mal mit einem plastischen Beispiel an. "Die Buchung Ihres Urlaubs mithilfe einer experimentellen agentenbasierten KI ist das digitale Äquivalent dazu, Ihr entsperrtes Handy und Ihre Brieftasche einem Fremden auf der Straße zu übergeben, der ein Schild hochhält, auf dem steht: ‚Ich bin gut darin, günstige Flüge zu finden.' Würden Sie diesem zufälligen Typen vertrauen? Ich jedenfalls nicht", sagt Miguel Fornes, Manager für Informationssicherheit bei Surfshark. Und damit umschreibt er perfekt das Problem von KI-Agenten.

Die Agentische KI Welle schwappt über uns

Die Agentische KI Welle breitet sich schneller aus als Vertrauen, Verantwortlichkeit und das Bewusstsein der Verbraucher mithalten können, so die Beobachtung von Surfshark. Während autonome KI-Agenten Einzug in den Handel halten, warnt ein Cybersicherheitsexperte die Verbraucher vor den unabsehbaren Folgen. Laut Miguel Fornes, Manager für Informationssicherheit bei Surfshark, tritt die beispiellose Beschleunigung der agentischen KI nun in eine neue und potenziell riskante Phase ein: den agentischen Handel, der oft als "agentisches Einkaufen" vermarktet wird.

"Wir erleben gerade den größten technologischen Krieg, den die Menschheit je gesehen hat, direkt vor unseren Augen. Im Jahr 2025 flossen mehr Geld und Ressourcen in KI-bezogene Unternehmungen als die Vereinigten Staaten und die UdSSR während des gesamten Weltraumrennens ausgaben, das in der Mondlandung von Apollo 11 gipfelte", sagt M. Fornes. "Der Unterschied ist, dass diesmal der Browser, der Posteingang und das Bankkonto des Verbrauchers das Schlachtfeld sind."

Das trügerische Versprechen von "persönlichen Assistenten"

KI-generierte Bots und Deepfakes überschwemmen bereits das Internet – manchmal sind sie lediglich lästig- Diese Bots werden aber zunehmend gefährlich, wenn sie von Cyberkriminellen ausgenutzt werden. Agentische KI-Systeme verstärken dieses Risiko dramatisch, indem sie den gesamten Prozess durchgängig automatisieren.

"Stellen Sie sich ein Tool vor, das nicht nur eine Spam-E-Mail schreibt", sagt Miguel Fornes, "sondern auch ein gefälschtes Profil erstellt, überzeugend in Echtzeit chattet und Online-Banking-Transaktionen durchführt – und das alles, ohne dass ein Mensch jemals eine Tastatur berührt."

Im Gegensatz zu herkömmlichen KI-Assistenten, die auf Eingaben reagieren, sind agentische Systeme darauf ausgelegt, eigenständig zu handeln: Sie durchsuchen Websites, melden sich bei Konten an, treffen Entscheidungen und führen Transaktionen durch.
Angesichts des zunehmenden Wettbewerbs bemühen sich Technologieunternehmen darum, agentische Tools zu außergewöhnlich niedrigen Kosten – oder sogar kostenlos – auf den Markt zu bringen, wobei sie diese oft als persönliche Assistenten für jedermann vermarkten.

Ein Blick in die Privatsphäre

"Ein menschlicher Assistent wird überprüft, genießt Vertrauen und – was am wichtigsten ist – kann verklagt werden, wenn er Ihre Identität stiehlt", sagt M. Fornes. Agentische KI-Systeme hingegen agieren ohne rechtliche Haftung, moralisches Urteilsvermögen oder Kontextverständnis.

Obwohl sie oft als Produktivitätswerkzeuge beschrieben werden, unterscheiden sich agentische KI-Systeme grundlegend in ihrer Natur. Sie sind in der Lage, Aktionen über persönliche Geräte und Konten hinweg auszuführen – manchmal mit unbeabsichtigten Folgen.

"Agentische KI ist nicht nur ein Werkzeug – sie ist ein extrem scharfsinniges und mächtiges", sagt M. Fornes. "Wenn Sie ihr uneingeschränkten Zugriff auf Ihren Computer gewähren, um 'Ihren Arbeitsablauf zu optimieren', könnten Sie bei Ihrer Rückkehr feststellen, dass sie Ihre Familienfotos gelöscht hat, um Speicherplatz zu sparen, denn technisch gesehen hat sie Ihren Speicherplatz tatsächlich optimiert."

Im Gegensatz zu menschlichen Assistenten können diese Systeme nicht zuverlässig zwischen sensiblen, persönlichen oder irreversiblen Handlungen unterscheiden. Tatsächlich testen Verbraucher unwissentlich experimentelle autonome Systeme in ihrem realen Leben: "Sie führen im Grunde genommen einen Beta-Test einer extrem leistungsstarken Technologie mit Ihrem tatsächlichen Leben durch", warnt M. Fornes.

Viele agentische Einkaufs- und Produktivitäts-Tools erfordern umfassenden Zugriff auf E-Mails, Kalender, Browser und Finanzdienste. Während sie Komfortfunktion vermarktet werden, birgt ein solcher Zugriff erhebliche Datenschutzrisiken. "Wenn man eine agentische KI damit beauftragt, E-Mails zu bearbeiten oder den Kalender zu verwalten, öffnet man ihr die Tür zu seinem Privatleben", sagte M. Fornes.

Trotz ihrer raschen Verbreitung neigen agentische KI-Systeme nach wie vor zu Halluzinationen und verfügen über keine durchsetzbaren Grenzen – was bei Datenschutz- und Sicherheitsexperten Besorgnis auslöst. "Solange diese Technologie weiterhin Halluzinationen hat und keine Grenzen versteht, ist ihr Einsatz für kritische Aufgaben wie russisches Roulette mit Ihren Datenschutzeinstellungen." sagt M. Fornes. Aber wie heißt es so schön: Was soll schon schief gehen?