In einer aktuellen Untersuchung haben Experten des Sicherheitsunternehmens Barracuda eine erhebliche Sicherheitslücke in der Integration von Künstlicher Intelligenz innerhalb von Unternehmensnetzwerken aufgezeigt.
Den Forschern gelang es zu demonstrieren, wie ein einziger kompromittierter Microsoft-365-Login ausreicht, um mithilfe des KI-Assistenten Copilot eine nicht autorisierte Überweisung in Höhe von 247.500 US-Dollar einzuleiten. Der Vorfall verdeutlicht das Risiko, das von der automatisierten Verarbeitung sensibler Unternehmensdaten durch KI-Tools ausgehen kann.
Die LOTAIL-Technik: Angriffe ohne klassische Schadsoftware
Das von den Barracuda-Forschern identifizierte Verfahren wird als „LOTAIL“ bezeichnet, was für „Living Off The AI Landscape“ steht. Das Besondere an dieser Methode sei laut den Experten, dass für den gesamten Angriff keinerlei klassische Schadsoftware oder Malware erforderlich ist. Stattdessen stütze sich der Angreifer ausschließlich auf den legitimen Zugriff und die ohnehin vorhandenen Funktionen der KI innerhalb der Microsoft-Umgebung.
Da Copilot tief in die Dokumentenablage und die Kommunikationswege eines Unternehmens integriert ist, könne die KI von Unbefugten dazu missbraucht werden, komplexe Aufgaben auszuführen, die normalerweise langwierige manuelle Recherchen erfordern würden. Sobald ein Angreifer Zugriff auf ein Benutzerkonto erlangt habe, fungiere die KI als unfreiwilliger Komplize bei der Eskalation des Angriffs.
Tarnung und interne Spionage durch KI-Unterstützung
Wer sich mit den Sicherheitsrisiken automatisierter Prozesse befasst, muss auch die rechtlichen Leitplanken kennen, die den Einsatz solcher Technologien regeln. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Bedrohungen Unternehmer jetzt im Blick behalten müssen. Neue KI-Gesetze und Cyberrisiken: Report jetzt kostenlos abrufen
Der beschriebene Angriffspfad umfasst mehrere strategische Schritte, um unentdeckt zu bleiben und den größtmöglichen Schaden anzurichten. Zunächst nutzten die Forscher den Zugang, um Sicherheitsmechanismen zu manipulieren.
Ein wesentlicher Teil der Strategie bestand darin, automatische Login-Warnungen zu verstecken. Durch diese Verschleierung könne der unbefugte Zugriff über einen längeren Zeitraum aufrechterhalten werden, ohne dass die IT-Sicherheit oder der betroffene Nutzer Verdacht schöpfen.
Im nächsten Schritt setzten die Experten die KI ein, um die interne Organisationsstruktur des Unternehmens detailliert zu kartieren. Copilot sei in der Lage, Hierarchien, Verantwortlichkeiten und Kommunikationsmuster innerhalb kürzester Zeit zu analysieren. Dies ermögliche es Angreifern, gezielt die Personen zu identifizieren, die für Finanztransaktionen oder Freigabeprozesse zuständig sind, ohne selbst hunderte Dokumente lesen zu müssen.
Angriffe wie die Manipulation von Finanzprozessen verdeutlichen, dass technische Sicherheitslücken oft mit rechtlichen Compliance-Anforderungen einhergehen. Ein praxisnaher Umsetzungsleitfaden bietet einen kompakten Überblick über Pflichten, Risikoklassen und Fristen, um KI-Systeme rechtssicher im Unternehmen zu betreiben. Kostenloses E-Book zum EU AI Act jetzt herunterladen
Manipulation von Finanzprozessen
Den Abschluss des demonstrierten Szenarios bildete die Erstellung einer gefälschten Rechnungsbestätigung. Mithilfe der KI konnten Dokumente generiert werden, die in Stil, Formatierung und Kontext perfekt zu den realen Geschäftsvorgängen des Unternehmens passten. Durch diese hohe Qualität der fälschung sei es möglich, die Überweisung der Summe von 247.500 US-Dollar auf ein fremdes Konto zu autorisieren.
Sicherheitsexperten weisen darauf hin, dass die Gefahr solcher Angriffe darin liege, dass die KI-Aktionen innerhalb des Systems als legitime Nutzeraktivität gewertet werden. Da keine bösartigen Dateien heruntergeladen oder ausgeführt werden, schlagen herkömmliche Antiviren-Programme oft nicht an.
Die Untersuchung unterstreicht die Notwendigkeit, Zugriffsberechtigungen für KI-Anwendungen streng zu limitieren und Überwachungsprozesse für ungewöhnliche KI-Abfragen zu implementieren.
