Agentische AI entwickelt sich zur größten Bedrohung der IT-Sicherheit, wird aber vom Marketing als "Stein der Weisen" propagiert und viel zu häufig von naiven Nutzern eingesetzt. Das Sicherheitsteam von Anbieter Surfshark hat mir bereits vor einiger Zeit eine Einschätzung zu diesem Thema zukommen lassen, die ich hier mal einstelle.
Ich fange mal mit einem plastischen Beispiel an. "Die Buchung Ihres Urlaubs mithilfe einer experimentellen agentenbasierten KI ist das digitale Äquivalent dazu, Ihr entsperrtes Handy und Ihre Brieftasche einem Fremden auf der Straße zu übergeben, der ein Schild hochhält, auf dem steht: ‚Ich bin gut darin, günstige Flüge zu finden.' Würden Sie diesem zufälligen Typen vertrauen? Ich jedenfalls nicht", sagt Miguel Fornes, Manager für Informationssicherheit bei Surfshark. Und damit umschreibt er perfekt das Problem von KI-Agenten.
Die Agentische KI Welle schwappt über uns
Die Agentische KI Welle breitet sich schneller aus als Vertrauen, Verantwortlichkeit und das Bewusstsein der Verbraucher mithalten können, so die Beobachtung von Surfshark. Während autonome KI-Agenten Einzug in den Handel halten, warnt ein Cybersicherheitsexperte die Verbraucher vor den unabsehbaren Folgen. Laut Miguel Fornes, Manager für Informationssicherheit bei Surfshark, tritt die beispiellose Beschleunigung der agentischen KI nun in eine neue und potenziell riskante Phase ein: den agentischen Handel, der oft als "agentisches Einkaufen" vermarktet wird.
"Wir erleben gerade den größten technologischen Krieg, den die Menschheit je gesehen hat, direkt vor unseren Augen. Im Jahr 2025 flossen mehr Geld und Ressourcen in KI-bezogene Unternehmungen als die Vereinigten Staaten und die UdSSR während des gesamten Weltraumrennens ausgaben, das in der Mondlandung von Apollo 11 gipfelte", sagt M. Fornes. "Der Unterschied ist, dass diesmal der Browser, der Posteingang und das Bankkonto des Verbrauchers das Schlachtfeld sind."
Das trügerische Versprechen von "persönlichen Assistenten"
KI-generierte Bots und Deepfakes überschwemmen bereits das Internet – manchmal sind sie lediglich lästig- Diese Bots werden aber zunehmend gefährlich, wenn sie von Cyberkriminellen ausgenutzt werden. Agentische KI-Systeme verstärken dieses Risiko dramatisch, indem sie den gesamten Prozess durchgängig automatisieren.
"Stellen Sie sich ein Tool vor, das nicht nur eine Spam-E-Mail schreibt", sagt Miguel Fornes, "sondern auch ein gefälschtes Profil erstellt, überzeugend in Echtzeit chattet und Online-Banking-Transaktionen durchführt – und das alles, ohne dass ein Mensch jemals eine Tastatur berührt."
Im Gegensatz zu herkömmlichen KI-Assistenten, die auf Eingaben reagieren, sind agentische Systeme darauf ausgelegt, eigenständig zu handeln: Sie durchsuchen Websites, melden sich bei Konten an, treffen Entscheidungen und führen Transaktionen durch.
Angesichts des zunehmenden Wettbewerbs bemühen sich Technologieunternehmen darum, agentische Tools zu außergewöhnlich niedrigen Kosten – oder sogar kostenlos – auf den Markt zu bringen, wobei sie diese oft als persönliche Assistenten für jedermann vermarkten.
Ein Blick in die Privatsphäre
"Ein menschlicher Assistent wird überprüft, genießt Vertrauen und – was am wichtigsten ist – kann verklagt werden, wenn er Ihre Identität stiehlt", sagt M. Fornes. Agentische KI-Systeme hingegen agieren ohne rechtliche Haftung, moralisches Urteilsvermögen oder Kontextverständnis.
Obwohl sie oft als Produktivitätswerkzeuge beschrieben werden, unterscheiden sich agentische KI-Systeme grundlegend in ihrer Natur. Sie sind in der Lage, Aktionen über persönliche Geräte und Konten hinweg auszuführen – manchmal mit unbeabsichtigten Folgen.
"Agentische KI ist nicht nur ein Werkzeug – sie ist ein extrem scharfsinniges und mächtiges", sagt M. Fornes. "Wenn Sie ihr uneingeschränkten Zugriff auf Ihren Computer gewähren, um 'Ihren Arbeitsablauf zu optimieren', könnten Sie bei Ihrer Rückkehr feststellen, dass sie Ihre Familienfotos gelöscht hat, um Speicherplatz zu sparen, denn technisch gesehen hat sie Ihren Speicherplatz tatsächlich optimiert."
Im Gegensatz zu menschlichen Assistenten können diese Systeme nicht zuverlässig zwischen sensiblen, persönlichen oder irreversiblen Handlungen unterscheiden. Tatsächlich testen Verbraucher unwissentlich experimentelle autonome Systeme in ihrem realen Leben: "Sie führen im Grunde genommen einen Beta-Test einer extrem leistungsstarken Technologie mit Ihrem tatsächlichen Leben durch", warnt M. Fornes.
Viele agentische Einkaufs- und Produktivitäts-Tools erfordern umfassenden Zugriff auf E-Mails, Kalender, Browser und Finanzdienste. Während sie Komfortfunktion vermarktet werden, birgt ein solcher Zugriff erhebliche Datenschutzrisiken. "Wenn man eine agentische KI damit beauftragt, E-Mails zu bearbeiten oder den Kalender zu verwalten, öffnet man ihr die Tür zu seinem Privatleben", sagte M. Fornes.
Trotz ihrer raschen Verbreitung neigen agentische KI-Systeme nach wie vor zu Halluzinationen und verfügen über keine durchsetzbaren Grenzen – was bei Datenschutz- und Sicherheitsexperten Besorgnis auslöst. "Solange diese Technologie weiterhin Halluzinationen hat und keine Grenzen versteht, ist ihr Einsatz für kritische Aufgaben wie russisches Roulette mit Ihren Datenschutzeinstellungen." sagt M. Fornes. Aber wie heißt es so schön: Was soll schon schief gehen?
MVP: 2013 – 2016
Zu Tode gefürchtet ist auch gestorben.
Mutig über die Felskante gelaufen aber auch.
Wenn man am Rande des Machbaren unterwegs ist, sollte man die Augen offen halten.
Ich stelle mir gerade vor…
Ich habe, reale Situation, gerade Probleme mit meinem Android-Tablet: Bestimmte Einstellungen sind ausgegraut und lassen sich nicht mehr verändern. Mit Qwanten und Duckduckgo-en habe ich nichts Passendes gefunden, also mal wieder ChatGPT bemühen.
Ich bekomme eine lange Auflistung mit möglichen Ursachen und wie man die beheben könnte. Kein einziger der Vorschläge ist brauchbar — die genannten Menüpunkte, Einstellungen usw. gibt es ohne Ausnahme überhaupt nicht.
Was wäre passiert, wenn ich nicht einen Chatbot nach der Problemlösung gefragt, sondern einen KI-Agenten mit der Lösung beauftragt hätte?
Ergänzung: Ist für mich nebenbei ein schönes Beispiel für die mangelnde Intelligenz (1) der Künstlichen Intelligenz.
Ich gehe davon aus, dass ein menschlicher Android-Experte das Problem in einer halben Stunde lösen könnte. Weil er wohl einen ganz anderen, eben einen intelligenten, Ansatz verfolgen würde anstatt aus mehr oder weniger passenden Trainingssätzen eine Beschreibung zusammenzustoppeln.
Er würde sich zuerst fragen, welche Android-Komponente dafür sorgt, dass die Einstellungen ausgegraut werden. Und dann schauen, welche Bedingungen dazu führen können, dass die Einstellungen ausgegraut werden. Und dann prüfen, welche der Bedingungen erfüllt ist. Und dann herausfinden, wie man diese Bedingungen zurücksetzen kann.
Zumindest würde ich so vorgehen, wenn ich ein mit dieser Frage konfrontierter Android-Experte wäre. Was ich leider nicht bin.
(1) Ich weiss nicht, ob es inzwischen eine allgemeingültige, anerkannte Definition für "Intelligenz" gibt. Meine lautet: "Die Fähigkeit, sich in bislang noch nicht gesehenen Situationen angemessen und zielführend zu verhalten."
Und alles blauäugig nutzen führt mit Sicherheit ins Ab- oder sogar Jenseits.
Ich jedenfalls klicke jegliche sog. Assistenten auf Webseiten weg und wenn ich beim Telefonservice an einen Blechtrottel gerate, sehe ich zu, möglichst zügig mit einen Menschen zu sprechen.
Who cares? Geliefert wie bestellt… ist doch Prima wenn man da die Spreu aussiebt.
(PS: die Spreu ist nicht die KI ;-P )
Die Leute brauchen Schaden um zu verstehen, also gebt ihnen diesen! Je mehr, je schneller, umso besser. Dann hört der Irrsinn auf.
Bin auf die Schadensmeldungen gespannt, denn die werden mit Sicherheit kommen.
Glaube, der "Enkel-Trick" wird zweitrangig, der "KI-Trick" dürfte noch viel gewinnbringender werden.
Der Enkeltrick wird doch schon mit der KI durchgeführt. Siehe Stimmenanalyse.
Surfshark ist kein Sicherheitsanbieter sondern nur ein VPN Anbieter.
Zitat Wikipedia: "Neben seinem VPN-Dienst bietet Surfshark auch weitere Services an, darunter ein Antivirenprogramm, ein Tool zur Erkennung von Datenlecks, ein privates Suchwerkzeug sowie ein automatisiertes System zur Entfernung persönlicher Daten, einen Generator für digitale Identitäten und weitere Funktionen."
Heute veröffentlicht der Papst seine Enzyklika zu Künstlicher Intelligenz. Mal sehen, was er zu sagen hat.
Ist online und ist eine längere Lektüre, viel Lesevergnügen.
https://www.vatican.va/content/leo-xiv/de/encyclicals/documents/20260515-magnifica-humanitas.html
"Sie führen im Grunde genommen einen Beta-Test einer extrem leistungsstarken Technologie mit Ihrem tatsächlichen Leben durch"
Klingt nach ganz gewöhnlicher Bananensoftware – aber da sind die User ja auch schon über mittlerweile Jahrzente dran gewöhnt worden…
"Das ist doch nur Collateral Damage, für diese Technologie muss man auch mal offen und bereit sein, Opfer zu bringen. Am besten, wenn das unsere Kunden und nicht wir sind…" – Kein Zitat irgendwelcher Hersteller bestimmter Betriebssysteme oder mitfliegender Agenten ;)
https://winfuture.de/news,158870.html
Und wie Luzifer schon schrieb, viel öfter und der Schaden muss auch viel höher ausfallen!
Sollen die Firmen, die diesen Scheiß unbedingt einsetzen müssen, Mitarbeiter entlassen, die eigentlich den Laden am Laufen gehalten haben, bei einem Vorfall ruhig bankrottgehen.
Wenn sich Zeigt, dass dieser Scheiß eben nicht die Lösung aller Probleme ist, sondern eher DAS Problem schlecht hin ist, erst dann wird sich hoffentlich was ändern.
So sieht es aus, ich habe von Wut und Bitternis inzwischen auf den entspannten Popcornmodus umgestellt. Der Satz "Wer nicht hören will, muss fühlen" scheint etwas aus der Mode gekommen zu sein, dabei ist er zeitlos aktuell.
Hat hier eigentlich auch schon mal jemand eine Mailantwort vom Chef bekommen, die von Copilot verfasst worden ist und mit dem Thema, auf das geantwortet wurde, nichts zu tun hatte? An dem Punkt sind wir inzwischen intellektuell angekommen und es wird Zeit, dass diese Rundumverblödung mit Karacho an die Wand fährt.
na und? Durch menschliches Versagen (Fehler bei DNS Konfiguration) gab es schon viel längere und schwerwiegendere Ausfälle. Sollen wir jetzt alles aufrechnen?
KI wird seinen Siegeszug antreten und das ist gut so, denn nichts ist lästiger als ermüdende Routinearbeiten, zu denen man auch noch mühsam 2h pendeln muss.
Ein fragwürdiges Unterfangen. Man muss umdenken und Arbeit vom Broterweb entkoppeln, die Zukunft wird (noch) besser werden und ich freue mich auf KI Roboter im Haushalt und bei schweren Gartenarbeiten. Denn auf Drecksarbeit haben auch immer weniger Lust und teurer wird das ganze durch die irren Abgaben in DE auch noch, da hat man endlich mal eine Handwerker an der Hand, dann kommt er nicht, baut Mist und rechnet teuer ab. Dann lieber Optimus, mit dem man auch noch philosophieren oder Schach spielen kann.
Ich freue mich!
Und all die umgedachten Menschen ohne Arbeit für Broterwerb haben dann kein Geld mehr für Handwerker, KI Roboter und irre Abgaben, die haben dann ganz andere Sorgen als Schach spielen.
lies meinen Beitrag einfach nochmal;-)
Wenn die Masse keine Arbeit mehr hat, gibt die Masse kein Geld mehr aus. Es ist eine simple Rechnung. Und wenn "der Staat" dann Geld druckt/verteilt, knallt er die Inflation durch die Decke und die Besitztümer werden auch noch wertlos. Schach matt.
Du hast es immer noch nicht gelesen;-)
Einfach mal anfangen, auch weiter zu denken, sowohl für sich selbst als auch für den Rest der Welt. Dann versteht man es eines Tages.
Positiv bleiben! Damit wird die Entwicklung von Hard- und Software zur Überwachung und Steuerung Agentischer KI gefördert, die dieser auf die Finger klopft, wenn sie sich zu weit vom eigentlichen Ziel entfernen sollte. Das Rad der Weiterentwicklung und die Wirtschaft/Börse müssen am Laufen gehalten werden!
Solange den Schaden nur die haben, die sich aus Bequemlichkeit solchen Agenten überantworten, überwiegt bei mir die Schadenfreude. Sollen die naiven, vermeintlich smarten Tech-Freaks ruhig ihr Lehrgeld zahlen.
Aber ich fürchte, es werden auch Dritte geschädigt: Anbieter, die geprellt werden, wenn vermeintliche Kunden ihre KI-Buchungen platzen lassen, kleine Unternehmen, die bestimmte Kriterien nicht erfüllen können und daher von Einkaufs-Robots boykottiert werden – und wir alle, die als Konsequenz noch öfter nervige „Ich bin ein Mensch"-Beweise erbringen müssen, bevor wir überhaupt noch einen Warenkorb abschicken können.
Den Schaden haben auch die Menschen, die voher den Job der LLM besser gemacht haben, den Schaden haben auch IT-Mitarbeiter, auf die man nicht hört und denen nachher trotzdem die Schuld zugeschoben wird, den Schaden haben Menschen mit klarem Verstand, die immer häufiger LLM-generierte "Texte" zum Fremdschämen auf dem Bildschirm haben. Und die Leute, deren Altersversorgung nichts mehr wert ist, weil der Fonds/Lebensversicherer etc. auch "KI"-Unternehmen im Portfolio hatte, die Leute, die Energie oder Hardware nicht mehr bezahlen können… man könnte stundenlang weitermachen.
Zitat: "Agentische KI: Die Bombe, die jederzeit hoch gehen kann".
Lieber früher als später, wäre für alle das Beste.
Noch lassen sich die gewaltigen Kosten für viele Betriebe verschmerzen.
Wenn das nicht mehr zu verschmerzen ist kommt die Pleitewelle auch von größeren Firmen.
Lassen wir uns überraschen wann es los geht, der nächste "Vorfall", egal in welcher Form kommt bestimmt.
Was genau soll da platzen? Ich sehe es als Chance das veraltete und mühsame Prozesse endlich mal modern werden und diese „das haben wir schon immer so gemacht" Mentalität endlich mal aufhört. Das beste Beispiel sind unsere Behörden, ich bin überzeugt davon, dass die Prozesse dort zu alt, zu langsam und nicht an die heutige schnelllebige Zeit angepasst sind. Ich bin auch überzeugt, dass man im ÖD 40% der Mitarbeitenden ersatzlos rausschmeißen kann, da die zu faul sind anständig zu arbeiten und den ÖD als System betrachten, in dem man eine ruhige Kugel schieben kann. Ein KI-Agent kann solch ein Antrag viel schneller und effizienter angehen, der muss nicht 4 mal Kaffee trinken und Kuchen essen gehen. Dann würde endlich auch mal Bewegung in die Behörde kommen. Sicherlich müssen solche Dinge dann noch immer final von einem Menschen entschieden werden, das kann aber auf einer aufbereiteten Basis passieren und der KI-Agent kann auch eine Empfehlung aussprechen und ganz ehrlich, wir sprechen da in den allermeisten Fällen von Standardverfahren, warum soll das nicht vollautomatisiert passieren? Eine Steuererklärung die per Elster eingeht wird in den allermeisten Fällen auch nur grob kontrolliert, mit dem Vorjahr abgeglichen und wenn es da keine großen Änderungen gibt durchgewunken. Von Stichproben mal abgesehen. Wenn man das ganze groß denkt, könnten solche Behörden KI-Agenten in einem deutschen Rechenzentrum durch eine staatliche Einrichtung betrieben werden. Dann wandern auch keine Daten an die Freunde aus Übersee. Ich bin überzeugt davon, wenn man sich heute nicht mit der Entwicklung im KI-Bereich auseinandersetzt, dann verliert man technologisches den Anschluss und schaut in ein paar Jahren in die Röhre. Insofern, vielleicht einfach mal dem Ganzen offen gegenüberstehen und sich auf neue Technologie einlassen. Das war beim Smartphone so, das war bei smarten Wearables so und wird bei der KI auch so sein.
schon vorher hätte man den ÖD halbieren können, jetzt ginge es darüber hinaus. Aber man wird sich wehren, die anderen zahlen ja, man muss nichts verkaufen.
Vielleicht klappt dank KI tatsächlich der Umstieg auf freie Software, man muss jetzt nur noch benutzerfreundliche Frontends für die Mail und Konferenz Backends zimmern, denn rein webbasiert zu arbeiten ist ein Graus, Thunderbird mit x-angefrickelten Addons ist auch keine solide Lösung, das ist Murks (s. SH) und vergrätzt die Anwender. Vorteil: man muss ja nicht produktiv sein, nerven tut es aber trotzdem.
In der Privatwirtschaft werden Jobs durch KI verloren gehen, vielleicht nicht so viele wie in den USA oder UK, aber es wird passieren. Wohl dem, der noch ein wenig Industrie hat, aber daran sägen ja unsere Regierungen seit gut 10J mit großen Erfolg.
Wenn dann die KI alles macht, wird kaum mehr jemand eine Steuererklärung abgeben, weil viele Leute einfach kein Einkommen mehr haben. Wird spannend.
es gibt kein Recht auf Arbeit oder Einkommen.
Nein, aber auf Leben, Gesundheit und Teilhabe.
Wenn diese nun nicht von deriegenen Hände arbeit bezahlt wird muss der Staat ran und das von anderer Leute Arbeit bezahlen.
Klingt jetzt nicht vorteilhaft.