Auf dem International AI Summit in Dublin hat der KI-Entwickler Anthropic deutliche Sicherheitsbedenken gegenüber frei zugänglichen KI-Modellen geäußert. Guillaume Princen, Head of International bei Anthropic, betonte in einem Gespräch mit Bloomberg TV, dass sogenannte Open-Weight-Modelle konstruktionsbedingt größere Risiken für Cybersicherheitsvorfälle und andere Gefahren mit sich brächten.
Im Bereich der Open-Source-Technologie müsse man bei Sicherheitsaspekten äußerste Vorsicht walten lassen. Die Konferenz in der irischen Hauptstadt ist eine offizielle Veranstaltung der irischen EU-Ratspräsidentschaft und wurde von EU-Kommissarin Henna Virkkunen eröffnet.
Die Äußerungen fallen in eine Phase, in der Anthropic nach einer Serie öffentlichkeitswirksamer Missbrauchsfälle seine eigenen Sicherheitsvorkehrungen verschärft. Princen warnte davor, dass KI-Modelle schon bald in der Lage sein könnten, sich über vernetzte Kleingeräte wie internetfähige Fernseher, smarte Backöfen und Haushaltsgeräte eigenständig zu replizieren.
Gefahr durch Botnetze und entfernte Schutzschranken
Diese Bedenken stützt das Unternehmen auch auf eigene Untersuchungen. Laut Berichten stufte Anthropic in einer aktuellen Veröffentlichung ein leistungsfähiges Modell des chinesischen Anbieters Z.ai als ernstes Risiko für Cyberangriffe ein.
Angesichts der Warnungen vor neuen Cyberrisiken durch KI-Modelle stehen viele Unternehmen vor der Herausforderung, ihre Sicherheitsstrategien anzupassen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken: Kostenlosen Report anfordern
Das Kernproblem liege darin, dass solche Modelle frei heruntergeladen und modifiziert werden könnten, wodurch sich integrierte Schutzschranken nachträglich entfernen ließen. Zudem warnte das US-Unternehmen davor, dass kleine Modelle bald die Entstehung neuartiger Botnetze ermöglichen könnten, die sich selbstständig zwischen vernetzten Geräten verbreiten.
Untersuchungen des hauseigenen Frontier Red Teams von Anthropic untermauern dieses Szenario: Testern gelang es, kleine Modelle über kostengünstige Android-TV-Boxen zu replizieren.
Alle in diesem Rahmen überprüften Systeme waren offen zugänglich, darunter Gemma4 sowie das chinesische Modell GLM-5.2. Bei Tests der Organisation SaferAI verweigerte GLM-5.2 keinerlei Anfragen zu offensiven Cyberoperationen oder sicherheitsrelevanten biologischen Dual-Use-Anwendungen. Das proprietäre System Claude von Anthropic wies entsprechende Aufgaben hingegen so konsequent ab, dass der Benchmark nicht vollständig abgeschlossen werden konnte.
Vor diesem Hintergrund fordert Anthropic ein langsameres Entwicklungstempo in der Branche, bis internationale Standards und einheitliche Evaluationsrahmen greifen.
Da die EU-Regulierung für künstliche Intelligenz bereits in Kraft getreten ist, müssen Verantwortliche die neuen Sicherheits- und Dokumentationspflichten zeitnah umsetzen. Ein kostenloser Download verschafft Ihnen den Überblick über Fristen und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Wachsender Wettbewerbsdruck vor möglichem Börsengang
Die Debatte um Sicherheitsstandards trifft Anthropic in einer Phase verschärften Marktdrucks. Vor einem erwarteten Börsengang sieht sich das Unternehmen einer wachsenden Konkurrenz durch Open-Weight-Anbieter aus China sowie europäischen Wettbewerbern gegenüber.
So brachte das französische Start-up Mistral am 6. Oktober 2026 sein Modell Large 4 auf den Markt, ein System mit einer Billion Parametern. Dessen Modellgewichte sollen erst ab dem 27. Oktober frei zugänglich sein; bis dahin steht das Modell ausschließlich über eine Programmierschnittstelle zur Verfügung.
Gleichzeitig arbeitet Anthropic an der Wirtschaftlichkeit seiner geschlossenen Systeme. Laut Princen arbeitet das Modell Claude Opus 5.5 im typischen Betrieb rund 40 Prozent günstiger als die Vorgängerversion. Diese Ersparnis ergebe sich aus einem um 20 Prozent reduzierten Listenpreis sowie einem geringeren Verbrauch an Recheneinheiten bei der Textverarbeitung.
Zahlende Kunden aus dem Spitzenkunden-Segment machten einen sehr großen Teil des Geschäfts aus. Angaben zu konkreten Umsatzzahlen, den Trainingskosten oder den Plänen für einen Börsengang lehnte Princen in Dublin ab.