Meredith Whittaker sieht in autonomen KI-Systemen eine Bedrohung für die digitale Privatsphäre.
Die Chefin des verschlüsselten Messengerdienstes Signal hat in einem Interview mit Bloomberg eine deutliche Warnung ausgesprochen. Ihre Botschaft: KI-Chatbots sind keine persönlichen Freunde oder Begleiter, sondern potenzielle Sicherheitsrisiken. Besonders die Entwicklung sogenannter „agentischer KI“ – Systeme, die eigenständig komplexe Aufgaben über mehrere Plattformen hinweg erledigen – sieht Whittaker kritisch.
Während KI-Agenten immer tiefer in unser digitales Leben eingreifen, stellt die EU mit dem AI Act bereits klare rechtliche Weichen. Dieser kostenlose Ratgeber hilft Unternehmen dabei, die neuen Pflichten und Risikoklassen der KI-Verordnung rechtzeitig zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Agenten als Einfallstor für Überwachung
Im Visier der Kritik steht die Vision von KI-Assistenten, wie sie etwa Microsoft-KI-Chef Mustafa Suleyman vorantreibt. Diese Helfer sollen künftig den Alltag organisieren – vom Weihnachtseinkauf bis zur Terminplanung. Das Problem: Um solche Aufgaben zu erledigen, benötigen sie nahezu vollständigen Zugriff auf das digitale Leben der Nutzer. Kreditkartendaten, Browserverlauf, Kalendereinträge und private Nachrichten – alles müsste für die KI lesbar sein.
Whittaker zufolge schafft diese Integration eine Art Hintertür in eigentlich sichere Umgebungen wie Signal. Sie bezeichnet KI-Agenten als „Überwachungsinfrastruktur“, die mit Ende-zu-Ende-Verschlüsselung nicht vereinbar sei. Da diese Systeme Daten lesen und verarbeiten müssen, um handeln zu können, würden bestehende Schutzmechanismen ausgehebelt. Die Signal-Präsidentin selbst nutzt KI nur für einfache Aufgaben wie Textformatierung – und vermeidet es bewusst, Fragen an die Systeme zu stellen.
Technische Sicherheitslücken entdeckt
Die Warnungen kommen nicht von ungefähr. Erst am 19. Juni identifizierte das Microsoft-Defender-Team eine Sicherheitslücke namens „AutoJack“ im AutoGen-Studio-Framework. Angreifer könnten über manipulierte Websites Zugriff auf lokale Dienste erlangen.
Sicherheitsexperten sehen in Prompt-Injection-Angriffen die größte Gefahr für agentische KI. Dabei werden Modelle durch gezielte Eingaben dazu gebracht, unerlaubte Befehle auszuführen oder sensible Daten preiszugeben. Ihre Empfehlung: Startups und Entwickler sollten auf lokale Datenverarbeitung setzen und beim Zugriff auf Nutzerdaten das Prinzip der minimalen Rechtevergabe beachten.
Finanzdaten als neues Einfallstor
Die Bedenken wachsen auch mit dem Vordringen der KI in den Finanzbereich. Anfang Juni rollte OpenAI neue Funktionen für US-Abonnenten des ChatGPT-Pro-Dienstes aus – für umgerechnet rund 90 Euro monatlich. Die Tools erlauben die Verbindung mit Konten von über 12.000 Finanzinstituten über den Datentransferdienst Plaid.
Der wachsende Einsatz von KI in sensiblen Bereichen wie dem Finanzsektor erfordert höchste Aufmerksamkeit für die IT-Sicherheit. Erfahren Sie in diesem kostenlosen Report, welche neuen Cyberrisiken durch KI entstehen und wie Sie Ihr Unternehmen proaktiv schützen können. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Zwar sind die Verbindungen angeblich schreibgeschützt. Doch Datenschützer warnen: Die Gesprächsatmosphäre mit KI-Chatbots verleite Nutzer dazu, hochsensible Informationen preiszugeben. Passwörter, Steuerdokumente oder Ausweisnummern könnten so in falsche Hände geraten – entweder durch Datenlecks oder durch gezielte Sammlung der Betreiberfirmen.
Nationale Sicherheit im KI-Wettlauf
Die Sicherheit fortschrittlicher KI-Modelle ist längst auch ein politisches Thema. In den vergangenen Tagen mehrten sich Berichte über eine mögliche Einstufung als Cyberwaffen. US-Präsident Trump äußerte sich nach einem Treffen mit Anthropic-CEO Dario Amodei beim G7-Gipfel in Frankreich versöhnlicher gegenüber dem Unternehmen – trotz vorheriger regulatorischer Spannungen.
Das US-Handelsministerium hatte zuvor Exportkontrollen für bestimmte Modelle verhängt. Trump betonte die Notwendigkeit, im globalen KI-Wettlauf die Nase vorn zu behalten – insbesondere im Vergleich zu China.
