![\"Sicherheit](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/04\/Sicherheit_klein.jpg\" "\\"Sicherheit")
Agentische AI entwickelt sich zur gr\u00f6\u00dften Bedrohung der IT-Sicherheit, wird aber vom Marketing als \"Stein der Weisen\" propagiert und viel zu h\u00e4ufig von naiven Nutzern eingesetzt. Sicherheitsanbieter Surfshark hat mich bereits vor einiger Zeit eine Einsch\u00e4tzung zu diesem Thema gegeben, die ich hier mal einstelle.<\/p>\n
<\/p>\n
Ich fange mal mit einem plastischen Beispiel an. \"Die Buchung Ihres Urlaubs mithilfe einer experimentellen agentenbasierten KI ist das digitale \u00c4quivalent dazu, Ihr entsperrtes Handy und Ihre Brieftasche einem Fremden auf der Stra\u00dfe zu \u00fcbergeben, der ein Schild hochh\u00e4lt, auf dem steht: \u201aIch bin gut darin, g\u00fcnstige Fl\u00fcge zu finden.' W\u00fcrden Sie diesem zuf\u00e4lligen Typen vertrauen? Ich jedenfalls nicht\", sagt Miguel Fornes, Manager f\u00fcr Informationssicherheit bei Surfshark. Und damit umschreibt er perfekt das Problem von KI-Agenten.<\/p>\n
Die Agentische KI Welle breitet sich schneller aus als Vertrauen, Verantwortlichkeit und das Bewusstsein der Verbraucher mithalten k\u00f6nnen, so die Beobachtung von Surfshark.\u00a0W\u00e4hrend autonome KI-Agenten Einzug in den Handel halten, warnt ein Cybersicherheitsexperte die Verbraucher vor den unabsehbaren Folgen.\u00a0Laut Miguel Fornes, Manager f\u00fcr Informationssicherheit bei Surfshark, tritt die beispiellose Beschleunigung der agentischen KI nun in eine neue und potenziell riskante Phase ein: den agentischen Handel, der oft als \"agentisches Einkaufen\" vermarktet wird.<\/p>\n
\"Wir erleben gerade den gr\u00f6\u00dften technologischen Krieg, den die Menschheit je gesehen hat, direkt vor unseren Augen. Im Jahr 2025 flossen mehr Geld und Ressourcen in KI-bezogene Unternehmungen als die Vereinigten Staaten und die UdSSR w\u00e4hrend des gesamten Weltraumrennens ausgaben, das in der Mondlandung von Apollo 11 gipfelte\", sagt M. Fornes. \"Der Unterschied ist, dass diesmal der Browser, der Posteingang und das Bankkonto des Verbrauchers das Schlachtfeld sind.\"<\/p>\n
KI-generierte Bots und Deepfakes \u00fcberschwemmen bereits das Internet \u2013 manchmal sind sie lediglich l\u00e4stig- Diese Bots werden aber zunehmend gef\u00e4hrlich, wenn sie von Cyberkriminellen ausgenutzt werden. Agentische KI-Systeme verst\u00e4rken dieses Risiko dramatisch, indem sie den gesamten Prozess durchg\u00e4ngig automatisieren.<\/p>\n
\"Stellen Sie sich ein Tool vor, das nicht nur eine Spam-E-Mail schreibt\", sagt Miguel Fornes, \"sondern auch ein gef\u00e4lschtes Profil erstellt, \u00fcberzeugend in Echtzeit chattet und Online-Banking-Transaktionen durchf\u00fchrt \u2013 und das alles, ohne dass ein Mensch jemals eine Tastatur ber\u00fchrt.\"<\/p>\n
Im Gegensatz zu herk\u00f6mmlichen KI-Assistenten, die auf Eingaben reagieren, sind agentische Systeme darauf ausgelegt, eigenst\u00e4ndig zu handeln: Sie durchsuchen Websites, melden sich bei Konten an, treffen Entscheidungen und f\u00fchren Transaktionen durch.
\nAngesichts des zunehmenden Wettbewerbs bem\u00fchen sich Technologieunternehmen darum, agentische Tools zu au\u00dfergew\u00f6hnlich niedrigen Kosten \u2013 oder sogar kostenlos \u2013 auf den Markt zu bringen, wobei sie diese oft als pers\u00f6nliche Assistenten f\u00fcr jedermann vermarkten.<\/p>\n
\"Ein menschlicher Assistent wird \u00fcberpr\u00fcft, genie\u00dft Vertrauen und \u2013 was am wichtigsten ist \u2013 kann verklagt werden, wenn er Ihre Identit\u00e4t stiehlt\", sagt M. Fornes. Agentische KI-Systeme hingegen agieren ohne rechtliche Haftung, moralisches Urteilsverm\u00f6gen oder Kontextverst\u00e4ndnis.<\/p>\n
Obwohl sie oft als Produktivit\u00e4tswerkzeuge beschrieben werden, unterscheiden sich agentische KI-Systeme grundlegend in ihrer Natur. Sie sind in der Lage, Aktionen \u00fcber pers\u00f6nliche Ger\u00e4te und Konten hinweg auszuf\u00fchren \u2013 manchmal mit unbeabsichtigten Folgen.<\/p>\n
\"Agentische KI ist nicht nur ein Werkzeug \u2013 sie ist ein extrem scharfsinniges und m\u00e4chtiges\", sagt M. Fornes. \"Wenn Sie ihr uneingeschr\u00e4nkten Zugriff auf Ihren Computer gew\u00e4hren, um 'Ihren Arbeitsablauf zu optimieren', k\u00f6nnten Sie bei Ihrer R\u00fcckkehr feststellen, dass sie Ihre Familienfotos gel\u00f6scht hat, um Speicherplatz zu sparen, denn technisch gesehen hat sie Ihren Speicherplatz tats\u00e4chlich optimiert.\"<\/p>\n
Im Gegensatz zu menschlichen Assistenten k\u00f6nnen diese Systeme nicht zuverl\u00e4ssig zwischen sensiblen, pers\u00f6nlichen oder irreversiblen Handlungen unterscheiden. Tats\u00e4chlich testen Verbraucher unwissentlich experimentelle autonome Systeme in ihrem realen Leben: \"Sie f\u00fchren im Grunde genommen einen Beta-Test einer extrem leistungsstarken Technologie mit Ihrem tats\u00e4chlichen Leben durch\", warnt M. Fornes.<\/p>\n
Viele agentische Einkaufs- und Produktivit\u00e4ts-Tools erfordern umfassenden Zugriff auf E-Mails, Kalender, Browser und Finanzdienste. W\u00e4hrend sie Komfortfunktion vermarktet werden, birgt ein solcher Zugriff erhebliche Datenschutzrisiken.\u00a0\"Wenn man eine agentische KI damit beauftragt, E-Mails zu bearbeiten oder den Kalender zu verwalten, \u00f6ffnet man ihr die T\u00fcr zu seinem Privatleben\", sagte M. Fornes.<\/p>\n
Trotz ihrer raschen Verbreitung neigen agentische KI-Systeme nach wie vor zu Halluzinationen und verf\u00fcgen \u00fcber keine durchsetzbaren Grenzen \u2013 was bei Datenschutz- und Sicherheitsexperten Besorgnis ausl\u00f6st. \"Solange diese Technologie weiterhin Halluzinationen hat und keine Grenzen versteht, ist ihr Einsatz f\u00fcr kritische Aufgaben wie russisches Roulette mit Ihren Datenschutzeinstellungen.\" sagt M. Fornes. Aber wie hei\u00dft es so sch\u00f6n: Was soll schon schief gehen?<\/p>\n","protected":false},"excerpt":{"rendered":"
Agentische AI entwickelt sich zur gr\u00f6\u00dften Bedrohung der IT-Sicherheit, wird aber vom Marketing als \"Stein der Weisen\" propagiert und viel zu h\u00e4ufig von naiven Nutzern eingesetzt. Sicherheitsanbieter Surfshark hat mich bereits vor einiger Zeit eine Einsch\u00e4tzung zu diesem Thema gegeben, … Weiterlesen