Ich habe es ja bereits häufiger in Blog-Beiträgen angesprochen: Datenabflüsse durch wilde KI-Nutzung in Firmen werden uns veritable Sicherheitsvorfälle bescheren. Nun ist mir eine Mitteilung von aDvens, ein Unternehmen für Cybersicherheit, zu gegangen, die genau das bestätigt. Shadow AI wird zum großen Data Loss Prevention-Risiko.
Künstliche Intelligenz gehört in vielen Unternehmen mittlerweile zum Alltag. Dabei nutzen Mitarbeitende zur Produktivitätssteigerung aber häufig Tools, die nicht offiziell von ihrem Arbeitgeber zur Verfügung gestellt wurden. aDvens arbeitet als 2000 gegründetes unabhängige europäische Unternehmen im Bereich Cybersicherheit. Deren Experten haben sich beim Thema Datenabfluss das Thema "Shadow AI" angesehen und erklären, und wie ein moderner Data-Loss-Prevention (DLP)-Ansatz aussehen muss.
Abfluss sensibler Daten per KI
Die größte Gefahr für den Abfluss sensibler Daten besteht heutzutage nicht mehr in Cyberangriffen. Vielmehr sind es Mitarbeiter und Mitarbeiterinnen in Firmen, die sensible Informationen mit KI-Tools teilen. Sei es eine Kundenmail mit sensiblen Informationen, die zügiger beantwortet werden soll oder Source Code eines neuen Projekts, der optimiert werden soll. Dadurch entstehen neue, oft schwer sichtbare Exfiltrationspfade.
Bisherige Data Loss Prevention-Systeme versagen
Traditionelle DLP-Systeme sind dagegen machtlos. Sie sind darauf ausgelegt, die Weitergabe vertraulicher Daten über unerlaubte Kommunikationskanäle zu unterbinden. So kann ein DLP-System beispielsweise erkennen, wenn Mitarbeitende eine Excel-Datei mit sensiblen Kundendaten an eine private E-Mail-Adresse schicken möchten und den Vorgang blockieren. KI-Tools funktionieren aber anders. Hier werden Inhalte kopiert und in einem Browserfenster eingefügt.
Moderner DLP-Ansatz gefordert
Für die KI-Szenarien müssen andere Data Loss Prevention (DLP) Ansätze her. Ein moderner DLP-Ansatz solle Antworten auf folgende Fragen liefern:
1) Was passiert tatsächlich? Das erfordert Transparenz über sämtliche Datenbewegungen hinweg, inkl. Endpoints, Browser, Cloud-Dienste, E-Mail, Copy-/Paste-Vorgänge oder KI-Tools. Dazu gehört insbesondere die Nachvollziehbarkeit von Datenübertragungen im Kontext von Copy /Paste oder Upload Vorgängen in nicht freigegebene Dienste oder KI basierte Tools.
2) Wie kritisch ist das Ereignis wirklich? Moderne Ansätze nutzen für eine effektive Bewertung risikobasierte Modelle mit einer Vielzahl von Indikatoren, um relevante Ereignisse gezielt hervorzuheben.
3) Was ist die richtige Reaktion? Ein moderner Ansatz muss abgestufte Reaktionen ermöglichen – je nach Risiko. Dazu zählen Sensibilisierung der Mitarbeitenden, kontextbezogene Warnungen, temporäre Freigaben oder gezielte Blockierungen.
Konkret bedeutet dies: Führt ein Nutzer eine Handlung mit niedrigem Risiko aus, ermöglicht ein moderner DLP-Ansatz, ihn in diesem Moment gezielt für sein Verhalten zu sensibilisieren. Gleichzeitig ermöglicht er, Handlungen mit hohem Risiko, z. B. das Kopieren von sensiblen Kundendaten in nicht vertrauenswürdige KI-Tools, zu blockieren.
Schatten-AI als Risiko
"Die Geschwindigkeit, mit der KI-Tools in Unternehmen eingesetzt werden, ob erlaubt oder unerlaubt, setzt Security-Teams unter Zugzwang", sagt Andreas Süß, CEO DACH (aDvens GmbH). "Immer öfter fließen sensible Daten ab, weil Mitarbeitende Shadow AI verwenden. Moderne DLP-Programme müssen daher über klassische Datei- und E-Mail-Kontrolle hinausgehen und sich der Arbeitsrealität von Mitarbeitenden anpassen."
Der Anbieter hat einige Aspekte zum Thema in einem Beitrag mit dem Titel DLP im KI-Zeitalter: Warum Shadow AI zum blinden Fleck für Datenschutz, Compliance und geistiges Eigentum wird zusammen getragen. Der Beitrag, der viele Aspekte anreißt, ist frei und ohne Registrierung abrufbar. Wie geht ihr in eurem Unternehmen mit diesem Thema und dem Risiko um? Strikte AI-Policy und darauf abgestimmte DLP, oder eher "vogelwild beim KI-Einsatz, jeder wie er will"?
MVP: 2013 – 2016
