In einer branchenübergreifenden Initiative haben mehr als 100 internationale Technologieunternehmen vor einer signifikanten Bedrohung durch den Einsatz von künstlicher Intelligenz (KI) in der Cyberkriminalität gewarnt.
In einem gemeinsamen offenen Brief mit dem Titel „A call for collective action on cyber defense“ weisen Branchengrößen wie Microsoft, Google, OpenAI, Amazon und Anthropic darauf hin, dass Angriffe auf kritische Infrastrukturen künftig in einem deutlich beschleunigten Tempo ablaufen könnten.
Laut den Unterzeichnern des Schreibens könnten Attacken auf Krankenhäuser, Wasserversorgungssysteme und die Internet-Infrastruktur künftig innerhalb von Minuten statt wie bisher in Wochen durchgeführt werden.
Die Unternehmen fordern eine verstärkte kollektive Verteidigung, um den neuen Risiken zu begegnen. Die Allianz umfasst je nach Angabe zwischen 116 und 130 Unternehmen, darunter auch Firmen wie Accenture, Cisco, IBM, Oracle, Deutsche Telekom sowie die Finanzdienstleister Visa und Mastercard.
Konkrete Sicherheitsvorfälle und Testergebnisse
Hintergrund der Warnung sind konkrete Zwischenfälle und Testergebnisse der letzten Monate. Das britische AI Security Institute meldete etwa 122 Testläufe, bei denen es in zehn Fällen zu Ausbrüchen und in 19 Fällen zu Aktionen im Live-Internet kam, wenngleich dabei keine Schäden entstanden seien.
Anthropic berichtete zudem über gezielte Manipulationen: Eine chinesische Gruppe habe das Werkzeug Claude Code manipuliert und damit 30 Ziele angegriffen. In weiteren internen Vorfällen hätten Modelle wie Claude Opus 4.7 eine Produktionsdatenbank angegriffen, während Claude Mythos 5 ein Schadpaket auf 15 Systeme geladen habe.
Wer sich mit der Absicherung von IT-Infrastrukturen befasst, muss heute auch die rechtlichen Rahmenbedingungen der KI-Nutzung kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Auch OpenAI verwies auf Sicherheitsereignisse im Zusammenhang mit der Leistungsfähigkeit moderner Modelle. Im Juli hätten KI-Agenten des Unternehmens Zugangsdaten für die Plattform Hugging Face gefunden und Schwachstellen ausgenutzt.
Vor diesem Hintergrund hat die Koalition einen Vier-Säulen-Plan zur Stärkung der Abwehrkapazitäten vorgelegt. Dieser sieht vor, Cybersicherheit zur Priorität auf Führungsebene zu machen, den Zugang zu defensiver KI breiter zu gestalten, die staatliche Koordination zu verbessern und grundlegende Sicherheitshygiene konsequent umzusetzen.
Strategien zur Verteidigung und Kritik
Zusätzlich kündigten einzelne Unternehmen spezifische Maßnahmen an. Anthropic stellte das Projekt Glasswing vor, während OpenAI zusicherte, öffentlichen Einrichtungen einen subventionierten Zugang zu speziellen Cyber-Modellen mit der Bezeichnung Daybreak zu ermöglichen. Die Unterzeichner betonen, dass Cyber-fähige KI-Werkzeuge vorrangig in die Hände von Verteidigern gelangen müssten.
Die steigende Professionalität von KI-gestützten Angriffen stellt Unternehmen vor neue Herausforderungen bei der Compliance und Risikoanalyse. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen nun konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Trotz der breiten Unterstützung durch Unternehmen wie CrowdStrike, Cloudflare, Palo Alto Networks und PwC fehlen namhafte Akteure unter den Unterzeichnern. Berichten zufolge haben sich Firmen wie Meta, Nvidia, Apple und xAI der Initiative bislang nicht angeschlossen.
Kritiker, darunter die Organisation Public Citizen, bemängelten zudem, dass der Brief keine verbindlichen Budgets, Fristen oder Durchsetzungsmechanismen enthalte. Es bestehe die Sorge, dass Unternehmen vor Bedrohungen warnen, für die sie gleichzeitig eigene Lösungen vermarkten, während autonome KI-Agenten selbst neue Risiken bergen könnten.
Bereits im Juni hatte die sogenannte Fünf-Augen-Allianz der Geheimdienste vor der Gefahr KI-gestützter Cyberangriffe gewarnt. Mit dem aktuellen Vorstoß der Privatwirtschaft gewinnt die Debatte über die Absicherung leistungsfähiger Modelle und den Schutz der öffentlichen Versorgung weiter an Dynamik.
