Sicherheitsanbieter Exabeam hatte mich bereits vor einiger Zeit auf ein Problem hingewiesen, was auch die Leserschaft tangieren könnte. Laut Exaeam beobachtet man auch in vielen Unternehmen in Deutschland ein Problem. Viele Firmen und Organisationen in Deutschland nutzen zwar bereits Tools wie ChatGPT oder Microsoft Copilot. Aber sie haben kaum Transparenz darüber, wie diese Tools tatsächlich eingesetzt werden.
Im "Blindflug" zur agentischen KI
Während Unternehmen in Deutschland die Einführung generativer Künstlicher Intelligenz, insbesondere durch Tools wie ChatGPT und Microsoft Copilot, weiter beschleunigen, wird die Kontrolle über deren Nutzung und die damit verbundenen Risiken zunehmend kritisch. Laut Exabeam fehlt vielen Organisationen heute die notwendige Transparenz darüber, wie Mitarbeitende diese Technologien einsetzen, insbesondere in Bezug auf geteilte Daten, gestellte Anfragen und Zugriffsaktivitäten.
Ohne direkte Transparenz über die Nutzung von KI-Assistenten, einschließlich der gestellten Anfragen, der geteilten Daten, der Interaktionsfrequenz und der verwendeten Umgebungen, können Unternehmen weder ein normales Verhaltensmuster definieren noch Missbrauch erkennen oder neue KI-basierte Insider-Bedrohungen frühzeitig identifizieren.
"KI-Agenten entwickeln sich rasant von einfachen Chatbots hin zu autonomen digitalen Mitarbeitenden", erklärt Steve Wilson, Chief AI and Product Officer bei Exabeam. "Sie authentifizieren sich, greifen auf Systeme zu und führen geschäftskritische Prozesse aus. Im Falle einer Kompromittierung wirken ihre Aktivitäten oft legitim. Klassische Schutzmechanismen reichen hier nicht mehr aus. Unternehmen benötigen eine tiefgehende Transparenz über Verhaltensmuster, um Abweichungen frühzeitig zu erkennen, bevor daraus sicherheitskritische Vorfälle entstehen."
"In Deutschland und im gesamten europäischen Raum stehen Unternehmen vor der Herausforderung, Innovation und Compliance in Einklang zu bringen, insbesondere im Kontext der DSGVO und neuer regulatorischer Anforderungen rund um Künstliche Intelligenz", weiß Egon Kando, VP Europe bei Exabeam.
Überwachung und Schutz erforderlich
Passenderweise hat Exabeam gerade eine passende Lösung im Portfolio. Dazu hat Exabeam seine Plattform um mehrere Funktionen zur Absicherung von KI-basierten Anwendungen erweitert. Mit der neuen Unterstützung zur Erkennung von Agentenverhalten in OpenAI ChatGPT und Microsoft Copilot sowie der bestehenden Integration mit Google Gemini werden diese Exabeam-Dienste Quellen für Verhaltensdaten. Diese Daten fließen direkt in die Prozesse zur Erkennung, Untersuchung und Abwehr von Bedrohungen ein und ermöglichen es Sicherheitsteams, den Einsatz von Künstlicher Intelligenz besser zu verstehen und zu schützen.
Die Lösung erstellt dynamische Verhaltensprofile, um ungewöhnliche Aktivitäten wie plötzliche Nutzungsspitzen oder atypische Ressourcennutzung zu erkennen. Darüber hinaus identifiziert sie Missbrauch durch Prompt-Injection oder Modellmanipulation. Gleichzeitig überwacht sie Identitäten und Berechtigungen, um Anomalien bei Rollen und Zugriffsrechten aufzudecken.
Exabeam bietet zudem vollständige Transparenz über den gesamten Lebenszyklus von KI-Agenten, von der Erstellung bis zur Nutzung. Darüber hinaus orientiert sich die Lösung an den wichtigsten bekannten Risiken im Bereich der Künstlichen Intelligenz und stellt einen strukturierten Rahmen zur Bewertung und Minimierung dieser Risiken bereit.
Auch wenn Exabeam jetzt eine "Lösung" anbietet, gelten die oben aufgeworfenen Fragestellungen allgemein. Frage an die Administratoren unter den Lesern, in deren Unternehmensumfeld AI-Lösungen zum Einsatz kommen: Wie sichert ihr das ab?
MVP: 2013 – 2016
ist nur meine persönliche Meinung welche auf Erfahrungen des letzten Jahrs basiert, ich kann nur hoffen das ich das zu pessimistisch sehe, aber im Grunde wird sie immer wieder bestätigt:
Bei einigen Kunden (KMUs 50-150 MAs) kommt es zur selben Situation: Es wird ein interner "IT Administrator" angestellt, welche dann als Sprachrohr der Entscheidungsträger und dem IT-Dienstleister fungiert, soweit so gut, und noch nicht ungewöhnlich. Schnell wird aber anhand der gestellten Fragen/gemachten Fehler klar dass dieses Individuum keinerlei Ahnung von den Basics hat – macht aber nix, es kann KI Agents zusammenklicken und an Präpotenz fehlt's auch nicht. Ich liebe Sätze à la "Das sind halt nicht mehr die 90er" oder auch gut "das ist halt Technologie die man aktuell verwendet" . Alle hatten die Hose bei Einführung der DSGVO voll – aber bei KI läuft's flüssig.
Alles muss in die KI rein, dafür wechseln auch einige komplett nach M365 – nur für Copilot, auf die Frage meinerseits was denn nun so toll wäre kam sofort eine Live-Präsentation: "gestallte dieses E-Mail professioneller" …. genug gerantet.
Was mich interessieren würde – wenn man den Copiloten bei Edge Fragen stellt, ob da noch andere Personen mitlesen? Wird das Eingetippte gespeichert und vielleicht später gecheckt bzw. überprüft?
Personen erstmal nicht, aber wieder KI, die das nach bestimmten Gesichtspunkten auswertet. In mehreren Ebenen, vom uninteressanten kleinen Fisch (rasch wieder gelöscht) über den Verdächtigen (Vorratsdatenspeicherung) bis zum besonders interessanten Objekt, das unter Dauerbeobachtung gestellt wird. Irgendwo sitzt dann doch eine Person, die sich eine KI-generierte Zusammenfassung der Beobachtungen anschaut.
– Also nur eine Verfeinerung und starke Ausweitung bisheriger Methoden. Vor 13 Jahren wurde ein Attentäter aufgespürt, weil er Monate zuvor nach „Druckkochtopf" und „Bombe" gegoogelt hatte. Seither sollte jedem klar sein: Was du irgendwo eingibst und abschickst, wird auch mitsamt deiner Identität festgehalten.
…das glaube ich auch eher.
Als ich Copilot fragte: liest hier noch jemand mit?
War die Antwort diese: Kurz gesagt: Nein. Hier liest keine andere Person mit. Es gibt keine versteckten Zuschauer, keine Community, keinen geheimen Chatroom.
Was passiert:
Deine Nachrichten werden nicht live von Menschen mitgelesen.
Die Unterhaltung findet nur zwischen dir und mir statt.
Ich verarbeite deine Eingaben automatisch, ohne dass jemand daneben sitzt.
Was manchmal passiert (und das ist wichtig zu wissen):
Inhalte können technisch verarbeitet werden, um den Dienst bereitzustellen – aber das bedeutet nicht, dass jemand deine Unterhaltung verfolgt oder bewertet.
Wenn du Details zur Datenverarbeitung willst, findest du sie in der offiziellen Datenschutzerklärung von Microsoft.
Wenn du willst, können wir gern darüber sprechen, was dich zu der Frage gebracht hat — eher Neugier, Misstrauen, oder einfach ein spontaner Gedanke?
@Ottokar
Sehr interessant. Hast du denn weiter gefragt?
Nein. Es hat mir als Antwort gereicht. Warum? Ich hab im Grunde die Antwort schon vorher gesehen, vorher geahnt.
Ehrlich gesagt, ich glaube nicht wirklich was Copilot da als Antwort schrieb.
Nach dem Motto: wer's glaubt wird selig.
Und warum sollte man das glauben?
Wer Microsoft E5 Lizenzen einsetzt, hat mit MS Purview und Sentinel eigentlich alles, um Copilot zu monitoren. Man muss sich nur damit befassen und es einrichten. Aber wenn ein Microsoft Tool ein anderes Microsoft Tool überwachen soll, das hat schon ein Geschmäckele. Exabeam kann das, Varonis unter anderem auch das. Bei letzterem ist auch schön, dass es auch on Prem Fileserver, Sharepoint und Exchange Inhalte klassifiziert, Proxy und DNS überwacht und Zieladressen klassifiziert und Zugriffe darauf überwacht und bei ungewöhnlichen Zugriffsmustern auf sensible Daten alarmiert.
Das ist doch das typische Thema Schatten-IT und hat doch nichts mit KI zu tun.
Entweder lasse ich als Firma die Nutzung eines Tools zu und muss aber dafür Sorgen das es richtig Konfiguriert ist oder ich muss es aktiv unterbinden.