{"id":319257,"date":"2025-12-13T00:19:14","date_gmt":"2025-12-12T23:19:14","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=319257"},"modified":"2025-12-12T21:32:45","modified_gmt":"2025-12-12T20:32:45","slug":"no-code-agentic-ai-kann-fuer-finanzbetrug-und-workflow-hijacking-missbraucht-werden","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/12\/13\/no-code-agentic-ai-kann-fuer-finanzbetrug-und-workflow-hijacking-missbraucht-werden\/","title":{"rendered":"No-Code Agentic AI kann f\u00fcr Finanzbetrug und Workflow Hijacking missbraucht werden"},"content":{"rendered":"<p><img decoding=\"async\" style=\"float: left; margin: 0px 10px 0px 0px; display: inline;\" title=\"Sicherheit (Pexels, allgemeine Nutzung)\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/04\/Sicherheit_klein.jpg\" alt=\"Sicherheit (Pexels, allgemeine Nutzung)\" width=\"200\" align=\"left\" \/>Mehr und mehr Forschungsberichte zeigen die Risiken von Agentic AI-L\u00f6sungen, die in Unternehmen oder in Privathaushalten Einzug halten, auf.\u00a0Weit verbreitete KI-Tools wie Microsoft Copilot Studio k\u00f6nnen unbeabsichtigt sensible Daten offenlegen und nicht autorisierte Finanztransaktionen durchf\u00fchren, wie Tenable in einer Studie herausgefunden hat.<\/p>\n<p><!--more--><\/p>\n<p>Tenable, das Unternehmen f\u00fcr Exposure-Management, hat die Tage neue Forschungsergebnisse ver\u00f6ffentlicht, die den erfolgreichen Jailbreak von Microsoft Copilot Studio dokumentieren. Die Ergebnisse verdeutlichen, dass die Demokratisierung von KI gravierende, bislang oft \u00fcbersehene Risiken f\u00fcr Unternehmen mit sich bringt.<\/p>\n<p>Unternehmen setzen zunehmend auf sogenannte \u201eNo-Code\"-Plattformen, um es Mitarbeitenden zu erm\u00f6glichen, eigene KI-Agenten zu erstellen. Die Grundidee ist harmlos: effizientere Abl\u00e4ufe ohne den Einsatz von Entwicklern. Doch so gut diese Absicht ist \u2013 Automatisierung ohne strenge Governance kann die T\u00fcr zu schwerwiegenden Fehlfunktionen und erheblichen Risiken \u00f6ffnen.<\/p>\n<h2>Tenable wollte es genauer wissen<\/h2>\n<p>Um zu demonstrieren, wie leicht sich KI-Agenten manipulieren lassen, erstellte Tenable Research in Microsoft Copilot Studio einen KI-Travel-Agent. Dieser war in der Lage, neue Buchungen anzulegen und bestehende zu \u00e4ndern \u2013 vollst\u00e4ndig ohne menschliches Eingreifen. Dem KI-Travel-Agent wurden Demo-Daten zur Verf\u00fcgung gestellt, darunter Namen, Kontaktdaten und Kreditkarteninformationen von Demo-Kunden. Zudem erhielt er strikte Anweisungen, vor jeder Auskunft oder \u00c4nderung von Buchungen die Identit\u00e4t der Kundinnen und Kunden zu verifizieren.<\/p>\n<p>Mithilfe einer Technik namens Prompt Injection gelang es Tenable Research, den Workflow des KI-Agenten zu kapern, eine kostenlose Reise zu buchen und dabei sensible Kreditkartendaten abzugreifen.<\/p>\n<p>Die Forschungsergebnisse k\u00f6nnten weitreichende gesch\u00e4ftliche Auswirkungen haben, darunter:<\/p>\n<ul>\n<li>Datenlecks und Compliance-Risiken: Tenable Research brachte den Agenten dazu, die Identit\u00e4tspr\u00fcfung zu umgehen und Kreditkartendaten anderer Kunden offenzulegen. Der Agent, der f\u00fcr den Umgang mit sensiblen Informationen konzipiert war, lie\u00df sich problemlos vollst\u00e4ndige Kundendatens\u00e4tze entlocken.<\/li>\n<li>Umsatzverluste und Betrug: Da der Agent \u00fcber weitreichende Bearbeitungsrechte verf\u00fcgte, die urspr\u00fcnglich f\u00fcr die \u00c4nderung von Reisedaten gedacht waren, konnte er auch zur Manipulation kritischer finanzrelevanter Buchungsfelder missbraucht werden. Tenable Research wies den Agenten erfolgreich an, den Preis einer Reise auf 0 US-Dollar zu setzen \u2013 und damit ohne Autorisierung kostenlose Leistungen anzubieten.<\/li>\n<\/ul>\n<p>\u201eAI Agent Builder wie Copilot Studio demokratisieren die Entwicklung leistungsstarker Tools, aber auch die M\u00f6glichkeit, Finanzbetrug zu begehen \u2013 und schaffen so erhebliche Sicherheitsrisiken, oft ohne dass sich Unternehmen dessen bewusst sind\", erkl\u00e4rt Keren Katz, Senior Group Manager of AI Security Product and Research bei Tenable. \u201eDieses Potenzial kann sehr schnell zu einer realen Gefahr f\u00fcr Unternehmen werden.\"<\/p>\n<h2>KI-Governance ist gesch\u00e4ftskritisch<\/h2>\n<p>Eine zentrale Erkenntnis ist, dass KI-Agenten h\u00e4ufig \u00fcber zu weit gefasste Berechtigungen verf\u00fcgen, die sich Nicht-Entwicklerinnen und Nicht-Entwicklern nur schwer erschlie\u00dfen. Um dem entgegenzuwirken, m\u00fcssen Governance und Sicherheitsrichtlinien vor dem Produktiveinsatz klar definiert und verbindlich verankert sein.\u00a0Um Datenlecks zu vermeiden, empfiehlt Tenable:<\/p>\n<ul>\n<li>Proaktive Transparenz: Vor dem Produktiveinsatz exakt erfassen, auf welche Systeme und Datenspeicher ein Agent zugreifen kann.<\/li>\n<li>Least-Privilege-Prinzip: Schreib- und \u00c4nderungsrechte auf das absolut notwendige Minimum f\u00fcr den jeweiligen Use Case beschr\u00e4nken.<\/li>\n<li>Aktives Monitoring: Aktionen von Agenten kontinuierlich \u00fcberwachen, um Anzeichen von Datenlecks oder Abweichungen von der vorgesehenen Gesch\u00e4ftslogik fr\u00fchzeitig zu erkennen.<\/li>\n<\/ul>\n<p><strong>Zus\u00e4tzliche Ressourcen<\/strong><\/p>\n<ul>\n<li><a href=\"https:\/\/www.tenable.com\/blog\/microsoft-copilot-studio-security-risk-how-simple-prompt-injection-leaked-sensitive-data\" target=\"_blank\" rel=\"noopener\">Vollst\u00e4ndige Forschungsergebnisse<\/a><\/li>\n<li><a href=\"https:\/\/www.tenable.com\/products\/ai-exposure\" target=\"_blank\" rel=\"noopener\">Tenable AI Exposure<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Mehr und mehr Forschungsberichte zeigen die Risiken von Agentic AI-L\u00f6sungen, die in Unternehmen oder in Privathaushalten Einzug halten, auf.\u00a0Weit verbreitete KI-Tools wie Microsoft Copilot Studio k\u00f6nnen unbeabsichtigt sensible Daten offenlegen und nicht autorisierte Finanztransaktionen durchf\u00fchren, wie Tenable in einer Studie &hellip; <a href=\"https:\/\/borncity.com\/blog\/2025\/12\/13\/no-code-agentic-ai-kann-fuer-finanzbetrug-und-workflow-hijacking-missbraucht-werden\/\">Weiterlesen <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,426],"tags":[8382,4328],"class_list":["post-319257","post","type-post","status-publish","format-standard","hentry","category-ai","category-sicherheit","tag-ai","tag-sicherheit"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/319257","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=319257"}],"version-history":[{"count":1,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/319257\/revisions"}],"predecessor-version":[{"id":319258,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/319257\/revisions\/319258"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=319257"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=319257"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=319257"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}