Eine aktuelle gemeinsame Untersuchung der Northeastern University, der Ariel University und des Softwareunternehmens Gen Digital belegt die wachsende Effektivität von Künstlicher Intelligenz im Bereich der Internetkriminalität.
Den Ergebnissen zufolge sind KI-Chatbots bei sogenannten Pig-Butchering-Scams inzwischen erfolgreicher als menschliche Akteure. Die Studie verdeutlicht, dass automatisierte Systeme ein höheres Maß an Vertrauen bei den Opfern erzeugen können.
Überlegenheit durch adaptive Kommunikation und Verfügbarkeit
Im Rahmen der Untersuchung wurde analysiert, wie Versuchsteilnehmer auf Betrugsversuche reagieren, die entweder von Menschen oder von KI-Systemen gesteuert wurden. Dabei zeigte sich, dass die Probanden der Künstlichen Intelligenz ein signifikant höheres Vertrauen entgegenbrachten. In der Folge waren die Teilnehmer eher dazu bereit, sensible Informationen wie Zugangsdaten preiszugeben, wenn sie mit einem Chatbot kommunizierten.
Die Forscher identifizierten mehrere Faktoren, die für den Erfolg der KI-gesteuerten Angriffe verantwortlich sind. Ein wesentlicher Vorteil gegenüber menschlichen Betrügern liegt in der Skalierbarkeit der Angriffe. Während menschliche Täter durch ihre zeitlichen Kapaties begrenzt sind, können KI-Systeme eine unbegrenzte Anzahl an Gesprächen gleichzeitig führen.
Zudem zeichnet sich die KI-Kommunikation durch eine hohe Konsistenz und sofortige Antwortzeiten aus. Die untersuchten Chatbots agierten adaptiv und passten ihre Nachrichten präzise an den Verlauf der Konversation an. Die ständige Verfügbarkeit der Systeme rund um die Uhr verstärkt diesen Effekt, da sie unabhängig von Zeitzonen oder Ruhephasen agieren können.
Wer sich mit der zunehmenden Professionalität digitaler Betrugsversuche befasst, sollte auch die rechtlichen Leitplanken kennen. Dieser kostenlose Report klärt auf, welche Regeln die neue EU-KI-Verordnung aufstellt und welche KI-Systeme künftig als Hochrisiko eingestuft werden. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Neue Herausforderungen für die Cybersicherheit
Die Ergebnisse der Studie von der Northeastern University, der Ariel University und Gen Digital werfen ein neues Licht auf die Bedrohungslage im Bereich des Social Engineerings. Pig-Butchering-Scams – eine Betrugsmasche, bei der über einen längeren Zeitraum eine vermeintliche Vertrauensbeziehung zum Opfer aufgebaut wird, um dieses später finanziell auszunutzen – gewinnen durch den Einsatz von KI an Gefährlichkeit.
Bisher galten solche Angriffe als personalintensiv und fehleranfällig. Die Automatisierung ermöglicht es Kriminellen nun jedoch, diese komplexen psychologischen Manipulationsmethoden mit einer Präzision und Geschwindigkeit durchzuführen, die für menschliche Akteure kaum erreichbar ist.
Da die Teilnehmer der Studie die KI-gesteuerte Kommunikation als überzeugender wahrnahmen, müssen bestehende Sicherheitsstrategien und Aufklärungsprogramme für Nutzer laut den beteiligten Organisationen dringend angepasst werden.
Da herkömmliche Merkmale für Betrugsversuche durch KI-Systeme zunehmend hinfällig werden, müssen Unternehmen ihre proaktiven Schutzmaßnahmen verstärken. Erfahren Sie im kostenlosen E-Book, wie Sie Sicherheitslücken schließen und sich gegen aktuelle Cyberbedrohungen und neue Risiken durch KI absichern. Gratis-Leitfaden für Cybersicherheit im Unternehmen sichern
Die Erkenntnisse unterstreichen, dass die Qualität der sprachlichen Interaktion von KI-Systemen ein Niveau erreicht hat, das herkömmliche Erkennungsmerkmale für Betrugsversuche, wie etwa sprachliche Ungenauigkeiten oder verzögerte Reaktionen, zunehmend hinfällig macht.
Für Experten im Bereich der Cybersicherheit stellt diese Entwicklung eine Zäsur dar, da die Unterscheidung zwischen legitimer digitaler Kommunikation und hochprofessionellen Betrugsversuchen für Endanwender immer schwieriger wird.
