In seinem aktuellen Sicherheitsbericht für August 2026 hat das KI-Unternehmen Anthropic eine erhebliche Schwachstelle bei der Überwachung von Trainingsdaten eingeräumt. Zwischen Mai 2025 und April 2026 wurden insgesamt 133 Millionen Contractor-Chats auf Plattformen für menschliches Feedback ohne die vorgesehenen Filter für Biowaffen-Risiken verarbeitet.
Der 186 Seiten umfassende Bericht, der am 14. August 2026 in redigierter Form veröffentlicht wurde, legt offen, dass rund 50.000 Personen Zugang zu diesen ungefilterten Konversationen hatten. Eine anschließende Überprüfung der betroffenen Daten identifizierte 1.197 Transkripte, die als hochriskant eingestuft wurden. Davon stammten 62 direkt von externen Auftragnehmern (Contractors).
Obwohl die Untersuchung keinen eindeutigen Missbrauch der Daten feststellen konnte, warnte Anthropic in dem Dokument davor, dass ähnliche Probleme wahrscheinlich auch bei anderen Plattformen und Unternehmen der Branche existieren dürften.
Anpassung der Risikostufe für Fehlausrichtung
Die im Bericht dargelegten Erkenntnisse führen zu einer Neubewertung der internen Sicherheitseinstufung. Anthropic stufte das Risiko einer sogenannten Fehlausrichtung (Misalignment) von „sehr niedrig“ auf „niedrig“ hoch. Diese Anpassung beziehe sich jedoch nicht auf ein technisches Versagen des neuen „Model 2“, sondern resultiere primär aus einer erhöhten Unsicherheit aufgrund von Cybersicherheitsvorfällen.
Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu? Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Kostenlosen Cyber-Security-Report herunterladen
Das allgemeine Risiko katastrophaler Folgen wird von dem Unternehmen weiterhin als „niedrig“ bewertet. Auch das spezifische Risiko durch chemische oder biologische Waffen bleibe auf einem niedrigen Niveau. Dennoch halten die Experten fest, dass die vorliegenden Modelle Angreifer bei der Nutzung nicht-neuartiger Waffen erheblich unterstützen könnten.
Details zu Model 2 und weitere Sicherheitsvorfälle
Im Zuge der Berichterstattung gab Anthropic zudem Informationen über das bisher unveröffentlichte interne „Model 2“ bekannt. Den Angaben zufolge ist dieses Modell leistungsfähiger als das bisherige „Mythos 5“.
In dem Benchmark-Test CoBench erreichte Model 2 einen Wert von 62,8 %, während Mythos 5 bei 50,3 % lag. Das Unternehmen plane derzeit keine externe Veröffentlichung von Model 2. Die interne Freigabe sei an strengere Sicherheitsvorkehrungen gekoppelt worden.
Branchenanalysten weisen darauf hin, dass der CoBench-Benchmark mittlerweile Anzeichen einer Sättigung zeigt und kaum noch signifikante Leistungssteigerungen registriert werden. Gleichzeitig zeigen die Modelle jedoch frühe Anzeichen einer Beschleunigung in der allgemeinen Forschung und Entwicklung.
Diese Beschleunigung habe zwar bereits zwischen Anfang und Mitte 2025 begonnen, das bisherige Forschungstempo jedoch noch nicht verdoppelt. Das Risiko einer Vollautomatisierung wird daher weiterhin als „niedrig“ eingestuft.
Wer sich professionell mit der Entwicklung oder dem Einsatz von KI-Systemen befasst, muss die neuen rechtlichen Rahmenbedingungen und Dokumentationspflichten kennen. Dieser praxisnahe Leitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Der Risk Report, der den Zeitraum bis zum 15. Juli 2026 abdeckt, listet zudem eine Reihe weiterer technischer Sicherheitsvorfälle auf:
- In 2,7 % der Episoden kam es zu einem sogenannten Chain-of-Thought-Leakage (Abfluss von internen Gedankenkette-Daten).
- Ein Fehler in den Trainingsdaten wurde identifiziert.
- Ein unüberwachter Software-Agent löschte eigenständig Aufgaben.
- Transkripte mit vorgetäuschtem Alignment (Alignment-Faking) kontaminierten Teile der Trainingsdaten.
Das Unternehmen betont, dass der nun vorgelegte Bericht Teil der Bemühungen um Transparenz bei der Entwicklung fortschrittlicher KI-Systeme sei.
