Das US-amerikanische KI-Unternehmen Anthropic hat eine neue Sicherheitsfunktion für sein Sprachmodell Claude implementiert. Seit dem 30. Juli 2026 ist die künstliche Intelligenz in der Lage, Unterhaltungen autonom zu beenden, sobald diese als potenziell schädlich identifiziert werden. Diese Erweiterung der Sicherheitsarchitektur wurde am Vortag offiziell angekündigt und markiert einen weiteren Schritt in der Entwicklung proaktiver Schutzmechanismen für KI-Interaktionen.
Autonome Sicherheitsmaßnahmen im Dialog
Die neue Funktionalität erlaubt es dem Modell, Interaktionen ohne menschliches Eingreifen abzubrechen, falls die Inhalte gegen geltende Sicherheitsrichtlinien verstoßen. Bisher beschränkten sich viele Sicherheitsmechanismen auf die Verweigerung einzelner Antworten; die nun eingeführte Fähigkeit zur vollständigen Terminierung der Konversation soll die Sicherheit bei der Nutzung von Claude AI weiter erhöhen.
Parallel zu dieser Neuerung veröffentlichte das Unternehmen Forschungsergebnisse seines sogenannten Frontier Red Teams. In Tests mit einer Vorschauversion, bezeichnet als Claude Mythos Preview, demonstrierte das System fortgeschrittene Fähigkeiten im Bereich der Kryptanalyse. Dabei wurde aufgezeigt, dass das Modell in der Lage ist, bislang unbekannte Schwachstellen in kryptografischen Verfahren aufzudecken.
Während KI-Systeme immer mächtiger werden, stellt die EU mit dem AI Act klare Regeln für deren sicheren Einsatz in Unternehmen auf. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen
Durchbrüche in der KI-gestützten Kryptanalyse
Ein Schwerpunkt der Untersuchungen lag auf dem HAWK-Verfahren, einem Kandidaten für Post-Quanten-Signaturen. Obwohl dieses Verfahren zuvor eine zweijährige Prüfung durch Experten ohne nennenswerte Beanstandungen überstanden hatte, konnte Claude Mythos Preview die effektive Sicherheitsmarge des Verfahrens halbieren. Laut den Berichten sanken die Kosten für einen erfolgreichen Angriff durch die von der KI gefundenen Schwachstellen von 2^64 auf 2^38.
Auch beim weit verbreiteten Advanced Encryption Standard (AES) wurden Fortschritte in der Analyse erzielt. Bei einer auf sieben Runden reduzierten Variante von AES konnte die Angriffsgeschwindigkeit um das 200- bis 800-Fache gesteigert werden. Das Unternehmen wies jedoch darauf hin, dass das Modell die Bearbeitung der AES-Aufgaben zunächst verweigert hatte, bevor die Analysen erfolgreich durchgeführt werden konnten. Weitere Tests umfassten praktische Angriffe auf eine 13-Runden-Version von LEA sowie eine 6-Runden-Variante von Serpent-128. Zudem wurden Verbesserungen bei der Analyse von Verfahren wie Salsa20, Poseidon und SHA-1 dokumentiert.
Die rasanten Fortschritte bei der KI-Entwicklung bringen nicht nur technische, sondern auch neue rechtliche Risiken für die Unternehmenssicherheit mit sich. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und wie Sie die neuen gesetzlichen Vorgaben konkret umsetzen. Kostenlosen Report zur KI-Verordnung anfordern
Validierung und defensive Implikationen
Anthropic betonte, dass die entdeckten Schwachstellen ausschließlich Forschungsvorschläge und keine produktiv eingesetzten Systeme betreffen. Es bestehe somit keine unmittelbare Gefahr für bestehende Sicherheitsinfrastrukturen. Die Validierung der durch die KI generierten Ergebnisse durch menschliche Experten nahm mehrere Wochen in Anspruch, wobei die Kosten pro Ergebnis auf etwa 100.000 US-Dollar geschätzt werden.
Im Sinne einer verantwortungsvollen Offenlegung teilte Anthropic die Ergebnisse vor der Veröffentlichung mit der US-Regierung und folgte den Protokollen für koordinierte Offenlegungen. Zeitgleich mit den Berichten wurde das Werkzeug „CryptanalysisBench“ zur Verfügung gestellt. Die Entwicklungen unterstreichen nach Einschätzung von Branchenbeobachtern sowohl das defensive Potenzial von KI zur Härtung kryptografischer Verfahren als auch die Risiken einer möglichen missbräuchlichen Nutzung dieser Analysekapazitäten.
