Sicherheitsforscher des IT-Sicherheitsunternehmens Barracuda haben in einem aktuellen Proof-of-Concept (PoC) aufgezeigt, wie Angreifer einen kompromittierten E-Mail-Zugang mithilfe von Microsoft Copilot massiv eskalieren können. In der Demonstration wurde dargelegt, dass die Integration von KI-Assistenten in Unternehmensanwendungen neue Risiken für den sogenannten Business Email Compromise (BEC) birgt. Den Experten gelang es, einen Überweisungsbetrug in Höhe von 247.500 US-Dollar zu simulieren, indem ein herkömmlicher Account-Zugriff bis zur Übernahme eines CEO-Kontos ausgeweitet wurde.
Automatisierte Eskalation und Überweisungsbetrug
Der vorgestellte Angriffsvektor nutzt die Fähigkeiten der Künstlichen Intelligenz direkt innerhalb des kompromittierten Kontos. Nach dem ersten Eindringen verwenden die Angreifer den KI-Assistenten Copilot, um eine umfassende Aufklärung (Reconnaissance) durchzuführen. Die KI analysiert dabei die bisherige Korrespondenz, um laufende Geschäftsvorgänge und Vertragskonstrukte zu identifizieren. In dem gezeigten Szenario, das sich auf einen Fall beim Lackawanna County Contract Wire bezog, wurde demonstriert, wie auf Basis dieser Informationen Zahlungsanweisungen in Höhe von etwa 250.000 US-Dollar manipuliert werden können.
Ein zentraler Bestandteil des Angriffs ist die Fähigkeit der KI, den individuellen Schreibstil des Nutzers präzise zu imitieren. Die Forscher zeigten, dass Copilot dazu eingesetzt werden kann, täuschend echte Phishing-E-Mails zu verfassen, die selbst für geschulte Mitarbeiter schwer als Fälschung erkennbar sind. Zudem automatisiert das System die Erstellung von Posteingangsregeln, um Antworten von Opfern oder Sicherheitswarnungen vor dem rechtmäßigen Kontoinhaber zu verbergen und so die Persistenz des Angriffs zu sichern.
KI-Assistenten als potenzielle Insider-Bedrohung
Die Untersuchung verdeutlicht, dass KI-Werkzeuge in den Händen von Cyberkriminellen als eine Art automatisierte Insider-Bedrohung fungieren können. Im Rahmen des Proof-of-Concepts wurde zudem die Umgehung der Multi-Faktor-Authentisierung (MFA) demonstriert. Durch die tiefgreifende Integration in die Microsoft-Umgebung kann die KI direkt auf interne Daten zugreifen und Prozesse steuern, was die Eskalation von einem einfachen Mitarbeiter-Account zu einem privilegierten CEO-Konto erheblich beschleunigt.
Angriffe wie der simulierte CEO-Fraud zeigen, wie präzise Hacker heute psychologische Manipulation mit KI kombinieren. Dieser kostenlose Report enthüllt die aktuellen Methoden der Cyberkriminellen und wie Sie Ihr Unternehmen wirksam vor solchen Übergriffen schützen. Diese 7 psychologischen Schwachstellen Ihrer Mitarbeiter nutzen Hacker gnadenlos aus
Merium Khalid von Barracuda wies in diesem Zusammenhang darauf hin, dass derartige Angriffe durch die Unterstützung von KI-Systemen inzwischen als trivial einzustufen seien. Aufgrund der hohen Automatisierung und der Qualität der generierten Inhalte forderte die Expertin die Implementierung eines sogenannten Kill-Switches, um solche automatisierten Prozesse im Falle einer entdeckten Kompromittierung sofort unterbinden zu können.
Detektion und Schutzmaßnahmen
Trotz der neuen Qualität der Bedrohung betonen die Sicherheitsforscher, dass technische Abwehrmaßnahmen weiterhin wirksam sein können. Laut Angaben von Barracuda sind spezialisierte Sicherheitslösungen wie Barracuda XDR und Email Gateway Defense in der Lage, die verdächtigen Aktivitäten, die auf eine solche Kompromittierung folgen, zu identifizieren.
Da die Integration von KI-Systemen in den Büroalltag nicht nur Effizienz, sondern auch neue rechtliche und sicherheitsrelevante Pflichten mit sich bringt, ist ein fundierter Überblick für Unternehmen unerlässlich. Dieser kostenlose Leitfaden zum EU AI Act erklärt kompakt alle relevanten Fristen, Risikoklassen und Dokumentationspflichten für einen rechtssicheren Einsatz. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Der Proof-of-Concept wurde veröffentlicht, um Unternehmen für die Risiken zu sensibilisieren, die mit der Einführung von KI-Assistenten in sensiblen Kommunikationsinfrastrukturen verbunden sind. Experten empfehlen, die Berechtigungen von KI-Anwendungen streng zu überwachen und Sicherheitsstrategien an die Geschwindigkeit KI-gestützter Angriffsmodelle anzupassen. Die Demonstration zeigt, dass die bloße Absicherung des Zugangs nicht mehr ausreicht, wenn die innerhalb des Systems agierenden Werkzeuge von Angreifern zweckentfremdet werden können.
