Ich habe es ja bereits häufiger in Blog-Beiträgen angesprochen: Datenabflüsse durch wilde KI-Nutzung in Firmen werden uns veritable Sicherheitsvorfälle bescheren. Nun ist mir eine Mitteilung von aDvens, ein Unternehmen für Cybersicherheit, zu gegangen, die genau das bestätigt. Shadow AI wird zum großen Data Loss Prevention-Risiko.
Künstliche Intelligenz gehört in vielen Unternehmen mittlerweile zum Alltag. Dabei nutzen Mitarbeiter und Mitarbeiterinnen aber häufig Tools "zur Produktivitätssteigerung", die nicht offiziell von ihrem Arbeitgeber zur Verfügung gestellt wurden. aDvens arbeitet als 2000 gegründetes unabhängige europäische Unternehmen im Bereich Cybersicherheit. Deren Experten haben sich beim Thema Datenabfluss das Thema "Shadow AI" angesehen und erklären, und wie ein moderner Data-Loss-Prevention (DLP)-Ansatz aussehen muss.
Abfluss sensibler Daten per KI
Die größte Gefahr für den Abfluss sensibler Daten besteht heutzutage nicht mehr in Cyberangriffen. Vielmehr sind es Mitarbeiter und Mitarbeiterinnen in Firmen, die sensible Informationen mit KI-Tools teilen. Sei es eine Kundenmail mit sensiblen Informationen, die zügiger beantwortet werden soll oder Source Code eines neuen Projekts, der optimiert werden soll. Dadurch entstehen neue, oft schwer sichtbare Exfiltrationspfade.
Bisherige Data Loss Prevention-Systeme versagen
Traditionelle DLP-Systeme sind dagegen machtlos. Sie sind darauf ausgelegt, die Weitergabe vertraulicher Daten über unerlaubte Kommunikationskanäle zu unterbinden. So kann ein DLP-System beispielsweise erkennen, wenn Mitarbeitende eine Excel-Datei mit sensiblen Kundendaten an eine private E-Mail-Adresse schicken möchten und den Vorgang blockieren. KI-Tools funktionieren aber anders. Hier werden Inhalte kopiert und in einem Browserfenster eingefügt.
Moderner DLP-Ansatz gefordert
Für die KI-Szenarien müssen andere Data Loss Prevention (DLP) Ansätze her. Ein moderner DLP-Ansatz solle Antworten auf folgende Fragen liefern:
1) Was passiert tatsächlich? Das erfordert Transparenz über sämtliche Datenbewegungen hinweg, inkl. Endpoints, Browser, Cloud-Dienste, E-Mail, Copy-/Paste-Vorgänge oder KI-Tools. Dazu gehört insbesondere die Nachvollziehbarkeit von Datenübertragungen im Kontext von Copy /Paste oder Upload Vorgängen in nicht freigegebene Dienste oder KI basierte Tools.
2) Wie kritisch ist das Ereignis wirklich? Moderne Ansätze nutzen für eine effektive Bewertung risikobasierte Modelle mit einer Vielzahl von Indikatoren, um relevante Ereignisse gezielt hervorzuheben.
3) Was ist die richtige Reaktion? Ein moderner Ansatz muss abgestufte Reaktionen ermöglichen – je nach Risiko. Dazu zählen Sensibilisierung der Mitarbeitenden, kontextbezogene Warnungen, temporäre Freigaben oder gezielte Blockierungen.
Konkret bedeutet dies: Führt ein Nutzer eine Handlung mit niedrigem Risiko aus, ermöglicht ein moderner DLP-Ansatz, ihn in diesem Moment gezielt für sein Verhalten zu sensibilisieren. Gleichzeitig ermöglicht er, Handlungen mit hohem Risiko, z. B. das Kopieren von sensiblen Kundendaten in nicht vertrauenswürdige KI-Tools, zu blockieren.
Schatten-AI als Risiko
"Die Geschwindigkeit, mit der KI-Tools in Unternehmen eingesetzt werden, ob erlaubt oder unerlaubt, setzt Security-Teams unter Zugzwang", sagt Andreas Süß, CEO DACH (aDvens GmbH). "Immer öfter fließen sensible Daten ab, weil Mitarbeitende Shadow AI verwenden. Moderne DLP-Programme müssen daher über klassische Datei- und E-Mail-Kontrolle hinausgehen und sich der Arbeitsrealität von Mitarbeitenden anpassen."
Der Anbieter hat einige Aspekte zum Thema in einem Beitrag mit dem Titel DLP im KI-Zeitalter: Warum Shadow AI zum blinden Fleck für Datenschutz, Compliance und geistiges Eigentum wird zusammen getragen. Der Beitrag, der viele Aspekte anreißt, ist frei und ohne Registrierung abrufbar. Wie geht ihr in eurem Unternehmen mit diesem Thema und dem Risiko um? Strikte AI-Policy und darauf abgestimmte DLP, oder eher "vogelwild beim KI-Einsatz, jeder wie er will"?
MVP: 2013 – 2016
"Traditionelle DLP-Systeme" waren uns sind Schlangenöl und werden es auch sein. Wer Daten "raustragen" will, der wird es tun und auch an diesen DLP-Systemen vorbei auch immer können, ob mit oder ohne AI Buzzwords.
Sie sind Feigenblatt für Organisationen und Verantwortliche, die Ihren Verpflichtungen nicht nachkommen wollen oder können: Sicherstellen, dass nur freigegebene Software und Kommunikationskanäle verwendet werden und alles andere zu unterbinden. Spoiler: Das macht man nicht mit überteuertem DLP Schlangenöl.
Es geht in diesem Beitrag nicht um Leute, die Daten vorsätzlich raustragen. Sondern um vertrauliche Daten, die im Rahmen von KI gedankenlos genutzt und verarbeitet werden, und aufgrund der Natur der KI lecken können.
*****************************************************
Wie geht ihr in eurem Unternehmen mit diesem Thema und dem Risiko um? Strikte AI-Policy und darauf abgestimmte DLP, oder eher "vogelwild beim KI-Einsatz, jeder wie er will"?
*****************************************************
KI ist erst gar nicht vorhanden und auch nicht erlaubt, zuwiderhandeln führt zu ner Abmahmung Three Strikes Regel… ebensowenig gibt es hier Cloudgedöhns.
Ansonsten auch Zerotrust Ansatz: du hast nur Zugriff auf die Daten die du wirklich benötigst und auch nur von deinem dediziertem Gerät aus, nicht mal schnell von nem anderen Rechner einloggen…
Genauso ist es bei uns auch.
Aber habt ihr auch die gängigen KI-Dienste im Browser gesperrt?
Beispielsweise Softwareentwickler geht auf ChatGPT, tippt da seinen Code ein und fragt nach Optimierungen.
Dann ist der Code effektiv geleakt, denn ChatGPT inkludiert den Code selbstverständlich in seine Datenbank und jeder, der ChatGPT nutzt, kommt an den Code ran.
Und das geht ja noch weiter:
Natürlich protokolliert ChatGPT auch, woher diese Anfrage kam und kann anhand der IP dann die Quelle dem Code zuordnen und weiß so, wo dieser Code benutzt wird.
Oder Kundendaten:
Dann weiß die KI, mit welchen Kunden man Kontakt hat und kennt somit die Geschäftsbeziehungen zwischen Firmen, etc.
Diese ganzen KI-Dienste, die es im www gibt, muss man in der Unternehmensfirewall sperren, wenn man o.g. Scenarien unterbinden will.
Abhängig von einer Einstellung im Konto werden Unterhaltungen nicht automatisch zum allgemeinen Training verwendet.
https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance
na und?
Brave new world! 😱🤮
Brave new World, das ist ein Album von Wishbone Ash, welches 1981 veröffentlicht wurde.
Jaja genau, mit dem legendären Solo des Gitarristen Aldous Huxley.
@js
Das wäre mir jetzt neu.
Auf dem Album haben
Andy Powell (voc, g)
Laurie Wisefield (voc, g, slide g)
Steve Upton (dr)
John Wetton (voc, b, keys)
sowie folgende Gastmusiker mitgespielt:
Claire Hamill (backing voc)
Gasper lamal (perc)
mitgespielt.
Hm. OK. War nur ein Spaß.
Den habe ich mir erlaubt, weil das Album nicht von "Wishbone Ash" ist sondern von "Iron Maiden" und weil "Brave New World" nunmal eher als der Roman von Aldous Huxley bekannt ist.
Ich schätze Du meintest eigentlich "Number The Brave" :)
(Nix für Ungut, Du hast Dich halt unscharf erinnert und ich mit Googlehilfe geschlaumeiert)
Stimmt. Asche auf mein Haupt. Ist halt heiß.
bei uns im Ort sind 39°C (auf unserer Terasse sind 36,9 °C) und ich habe eine Erkältung. – Na super.
Ich hätte es wissen müssen, denn ich habe beide Alben. Sowohl das von Iron Maiden (Brave New World) als auch von Wishbone Ash (Number The Brave).
Ich werde halt alt.
Gute Besserung!
Besser eine Erkältung mit Terrasse als eine Erkältung ohne Terrasse.
Hab schon gemerkt, dass Du eigentlich ein Connaisseur bist und ich hoffe Du hast meinen Respekt erkannt.
DLP ist Quatsch und Zeitverschwendung. Wer sensible Daten irgendwo hinbringen will, tut dies. Seien es Kopien mit dem Snipping Tool, Fotos mit dem Handy oder Hochladen zum privaten Webmailer.
Selbst bei offizieller KI-Nutzung habe ich Bauchweh.
Z. B. Softmaker wirbt mit DSGVO-Konformität, verwendet aber fremde KI im Textprogramm.
Sinngemäß: Die Anbieter haben zugesichert, die Daten nicht zum Training zu nutzen.
Und das bisher deutsche Deepl nutzt jetzt Cloud-Act-unterworfene Ami-Dienste.
Klingt für mich so vertrauenswürdig wie: Die Babys werden vom Klapperstorch gebracht.
Ich würde der Branche generell nicht trauen. Anthropic wurde schon mal erfolgreich verklagt, weil sie ihre LLMs buchstäblich mit Schwarzkopien trainiert haben. Gegen Nvidia ist ein ähnlicher Prozeß anhängig, allerdings noch ohne Urteil.
Das einzige worauf ich mich einlassen würde ist ein Open Source Modell, entweder lokal oder bei einem Drittanbieter gehostet, der keinen Anreiz hat die Daten weiterzugeben.
Es gibt zumindest einen europäischen Hoster, die Eyloo GmbH. Ist im Web unter llmbase.ai zu finden.
llmbase.ai fand ich spannend, und habe deren Free-Modell mal einige Fragen gestellt. Die ernüchternde Erfahrung war, dass das alles schlicht unbrauchbar war (die Datenbasis ist einfach zu klein).
Man kann die Risiken schon stark minimieren. Ein Proxy mit Packetinspection und vom Hersteller redaktionell gepflegten Blocklisten ist schonmal ein Anfang, das kann schonmal Uploads nach Dateityp, Größe usw. blocken. Dann kann man noch weitere Sachen machen, z.B. den Proxy in ein verhaltensbasiertes Monitoring einbinden, zusammen mit AD, Fileservern, Storage, VPN, M365 (Onedrive/Sharepoint/Exchange-Online, Copilot, ….) Jira, Confluence, AWS, Storages usw., mit Datenklassifizierung usw. So ein Data Security Posture Management kann das zwar auch nicht immer verhindern, weil es erst anspringt, wenn es schon passiert, aber zumindestens bekommt man mit, wenn was passiert, wer, was, wann, wohin… Wir haben sowas bei uns laufen, und unsere POC-Tests waren positiv, auch unseren Pentester haben wir bei entsprechenden Handlungen "erwischt".