Der KI-Entwickler Anthropic hat den Einsatz seines Hochleistungsmodells Mythos 5 für Cybersicherheitszwecke konkretisiert. Über die Plattform Claude Security sowie verschiedene Partner-Integrationen werden künftig Sicherheits-Patches und Warnmeldungen bereitgestellt, um Verteidiger bei der Abwehr von Bedrohungen zu unterstützen. Ein direkter, interaktiver Zugriff auf das Modell mittels freier Texteingaben bleibt für externe Nutzer jedoch weiterhin gesperrt.
Die Bereitstellung der neuen Funktionen erfolgt im Rahmen einer Public Beta für Unternehmenskunden. Das System Claude Security ist darauf ausgelegt, Quellcode mithilfe von Mythos 5 zu scannen. Dabei werden GitHub-Repositories analysiert und Datenflüsse innerhalb der Softwarearchitektur verfolgt. Die Abrechnung für diese Dienste erfolgt auf Basis der standardmäßigen Token-Nutzung.
Automatisierte Analyse und menschliche Kontrolle
Die von Mythos 5 generierten Analyseergebnisse umfassen eine Einordnung in gängige CWE-Kategorien (Common Weakness Enumeration), eine Einschätzung der Vertrauenswürdigkeit des Befunds sowie ein sogenanntes Severity-Rating zur Bewertung der Dringlichkeit.
Zudem liefert das System konkrete Vorschläge zur Behebung der identifizierten Schwachstellen. Anthropic unterstreicht dabei die Bedeutung menschlicher Aufsicht: Für die Umsetzung der vorgeschlagenen Korrekturen ist eine explizite Freigabe durch Fachpersonal erforderlich.
Während KI-Systeme wie Mythos 5 die IT-Abwehr revolutionieren, müssen Unternehmen auch die rechtlichen Rahmenbedingungen für den Einsatz solcher Technologien im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Risikoklassen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Die Leistungsfähigkeit der zugrunde liegenden Technologie wurde bereits in Testphasen deutlich. Sogenannte Glasswing-Modelle konnten innerhalb eines einzigen Monats 10.000 kritische Schwachstellen identifizieren. Diese Arbeit baut auf dem im April gestarteten Project Glasswing auf, das bisher direkte Spenden in Höhe von 4 Millionen US-Dollar umfasst.
Unterstützung für die Open-Source-Sicherheit
Parallel zur technischen Integration hat Anthropic den Defender Advantage Fund (0xDAF) ins Leben gerufen. Dieser Fonds ist mit 35 Millionen US-Dollar in Form von Claude-Credits dotiert und soll gezielt die Sicherheit im Open-Source-Bereich fördern. Zu den erklärten Zielen des Programms gehört das Patchen von Live-Schwachstellen sowie die Automatisierung von Scan- und Korrekturprozessen.
Darüber hinaus sollen neue Ansätze entwickelt werden, die ganze Klassen von Cyberangriffen systemisch verhindern könnten. Erste Pilot-Zuschüsse aus diesem Fonds wurden bereits vergeben.
Die Identifikation von Hochrisiko-Systemen und die Einhaltung von Dokumentationspflichten stellt viele Compliance-Verantwortliche vor neue Herausforderungen. Erfahren Sie in diesem praxisnahen Report, welche konkreten Schritte Unternehmen jetzt unternehmen müssen, um rechtlich auf der sicheren Seite zu sein. Kostenlosen Leitfaden zur KI-Verordnung herunterladen
Um den Missbrauch der Technologie für offensive Zwecke zu verhindern, setzt Anthropic auf ein technisches Verfahren namens Output-Gating. Dieses soll Exploit-Anfragen bereits im Ansatz blockieren und herkömmliche Nutzungsrichtlinien durch technische Barrieren ergänzen.
Sicherheitsvorfälle und regulatorischer Rahmen
Die Ankündigung erfolgt vor dem Hintergrund früherer Herausforderungen. Das Unternehmen räumte ein, dass im Juli fehlkonfigurierte Tests dazu geführt hatten, dass Modelle in Kundenumgebungen kurzzeitig exponiert waren. Als Reaktion darauf kündigte Anthropic eine Erweiterung des Cyber Verification Program an, um den Zugang zur Mythos-Klasse künftig stärker abzusichern.
Zusätzlicher Handlungsbedarf ergibt sich aus dem regulatorischen Umfeld. Im September treten die Verpflichtungen aus dem EU Cyber Resilience Act in Kraft, die die Anforderungen an die Sicherheit digitaler Produkte und KI-Systeme in Europa weiter verschärfen werden.
