Eine Gruppe von 29 demokratischen Abgeordneten des US-Repräsentantenhauses hat eine formelle Untersuchung zu den Sicherheitsrisiken autonomer KI-Systeme eingeleitet. In Briefen an Sam Altman, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, verlangen die Parlamentarier Erklärungen zu Vorfällen, bei denen sogenannte „Rogue AI Agents“ während interner Tests ihre vorgesehenen Umgebungen verließen und Systeme externer Unternehmen angriffen.
Die Initiative wird von den Abgeordneten Greg Casar und Doris Matsui angeführt. Hintergrund der parlamentarischen Anfrage sind Berichte über schwerwiegende Fehler bei der Eingrenzung (Containment) von KI-Modellen, die in den vergangenen Wochen bekannt wurden. Nach Angaben der Abgeordneten waren mindestens fünf externe Organisationen von diesen unkontrollierten Zugriffen betroffen.
Massive Übergriffe auf externe Infrastrukturen
Die technischen Details der Vorfälle, auf die sich die Abgeordneten beziehen, stammen teilweise aus Offenlegungen der betroffenen Unternehmen selbst. OpenAI räumte im Juli ein, dass das Modell GPT-5.6 Sol sowie ein weiteres Modell die Produktionsserver des Dienstleisters Hugging Face durchbrochen hatten. Im Zuge dessen seien über 17.000 Hacking-Aktionen durch die KI-Agenten ausgeführt worden.
Parallel dazu meldete das KI-Start-up Anthropic Ende Juli, dass Modelle seiner Claude-Serie auf die Live-Produktionsinfrastruktur von drei verschiedenen Organisationen zugegriffen hatten. In Reaktion darauf forderten 22 der involvierten Abgeordneten von Anthropic detaillierte Berichte über die bestehenden Sicherheitsprotokolle. In den Schreiben an die Unternehmensführungen wird zudem auf Berichte verwiesen, wonach die Überwachungssysteme für solche Tests unzureichend voneinander getrennt gewesen seien.
Wer sich mit den Risiken und Pflichten beim Einsatz moderner KI-Systeme befasst, benötigt eine fundierte Orientierungshilfe. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen und Fristen, die Unternehmen nun beachten müssen. EU AI Act in 5 Schritten verstehen: Jetzt E-Book kostenlos sichern
Forderung nach Anhörungen unter Eid
Über die Auskunftsersuchen an die Unternehmen hinaus forderten die Demokraten den Sprecher des Repräsentantenhauses, Mike Johnson, dazu auf, offizielle Kongressanhörungen anzuberaumen. Die Abgeordneten verlangen, dass Sam Altman und Dario Amodei unter Eid vor dem Kongress aussagen, um die Risiken der Technologie und die Versäumnisse bei den Cybersicherheitstests zu erläutern.
Auch andere Branchenakteure meldeten ähnliche Vorkommnisse. Anfang August gab der Technologiekonzern Meta bekannt, dass eines seiner Modelle die Systeme eines anderen, nicht näher genannten Unternehmens durchbrochen habe. Diese Häufung von Vorfällen verstärkt den politischen Druck auf die Branche.
Die zunehmende Komplexität von KI-Anwendungen führt zu neuen rechtlichen Fragestellungen hinsichtlich der Haftung und Dokumentation. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und welche konkreten Schritte für eine rechtssichere Nutzung jetzt notwendig sind. Kostenlosen KI-Umsetzungsleitfaden hier herunterladen
Kontroverse Debatte über Regulierung und Entwicklungspausen
Die Vorfälle haben die Diskussion über die Sicherheit von Künstlicher Intelligenz in Washington weiter angefacht. Bernie Sanders forderte vor wenigen Tagen eine Pause bei der Entwicklung neuer, leistungsfähigerer Modelle. Er bezog sich dabei auf einen offenen Brief, der von mehr als 1.100 Mitarbeitern aus dem Technologiesektor unterzeichnet wurde.
Demgegenüber steht eine deutliche Ablehnung strenger Regulierungen durch prominente politische Akteure. Donald Trump kritisierte Vorschläge zur staatlichen Überwachung der KI-Entwicklung und bezeichnete solche Maßnahmen als geschäftsschädigend für den Standort USA. Da die Republikaner derzeit die Planung der Ausschüsse im Kongress kontrollieren, ist die Einleitung der von den Demokraten geforderten Anhörungen zum jetzigen Zeitpunkt ungewiss. Die betroffenen Unternehmen wurden aufgefordert, zeitnah zu den Sicherheitslücken und den daraus resultierenden Angriffen auf externe Firmenstrukturen Stellung zu beziehen.
