Dario Amodei, der CEO des KI-Unternehmens Anthropic, hat am Montag klargestellt, dass seine Organisation zu keinem Zeitpunkt ein Verbot von Open-Weight-Modellen gefordert habe. In einer Reihe von Stellungnahmen unterstrich Amodei, dass solche Modelle, sofern sie keine gefährlichen Fähigkeiten aufweisen, als ein öffentliches Gut zu betrachten seien. Die Äußerungen erfolgen vor dem Hintergrund einer intensiv geführten Debatte innerhalb der Technologiebranche über die Regulierung und Veröffentlichung von KI-Parametern.
Sicherheitsbedenken und geopolitische Risiken
Trotz der grundsätzlichen Anerkennung offener Modelle artikulierte Amodei deutliche Sorgen hinsichtlich der nationalen Sicherheit und potenzieller Missbrauchsszenarien. Als eine der zentralen Gefahren nannte der CEO den Zugriff autoritärer Regierungen, wobei er insbesondere China anführte. Es bestehe das Risiko, dass solche Staaten leistungsfähige Künstliche Intelligenz nutzen könnten, um militrische Überlegenheit zu erlangen oder Unterdrückungsmechanismen auszuweiten.
Zudem warnte Amodei vor der Möglichkeit KI-gestützter Angriffe mit Biowaffen. Er widersprach der in Teilen der Branche vertretenen Ansicht, dass die Offenlegung von Modellgewichten die Entwicklung von Sicherheitsvorkehrungen erleichtere. Nach Einschätzung des Anthropic-Chefs geht die Kontrolle über ein System unwiederbringlich verloren, sobald die Gewichte einmal veröffentlicht wurden. Hinsichtlich einer möglichen Kooperation zwischen den USA und China im Bereich der KI-Biosicherheit zeigte er sich nur begrenzt optimistisch.
Die Debatte um Sicherheit und Kontrolle zeigt, wie komplex die rechtlichen Rahmenbedingungen für Künstliche Intelligenz geworden sind. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Unternehmen, alle Anforderungen, Pflichten und Fristen der neuen KI-Verordnung rechtssicher im Blick zu behalten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Forderung nach verpflichtenden Tests
Um den identifizierten Gefahren zu begegnen, schlägt Amodei drei konkrete Maßnahmenpakete vor:
* Die Beschränkung des Zugangs Chinas zu fortschrittlichen Halbleitern.
* Gezielte Maßnahmen gegen die sogenannte Destillation im industriellen Maßstab.
* Die Einführung verpflichtender Sicherheitstests für alle KI-Modelle, die eine bestimmte Leistungsschwelle überschreiten.
Amodei argumentierte, dass die Sicherheitsanforderungen nicht von der gewählten Lizenzierung abhängen dürften, sondern primär an den tatsächlichen Fähigkeiten eines Modells festgemacht werden müssten.
Mit den neuen technologischen Möglichkeiten steigen auch die Anforderungen an die IT-Sicherheit in der gesamten Wirtschaft. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Cyberrisiken durch neue KI-Gesetze auf Ihr Unternehmen zukommen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Anthropic als Ausnahme in der Branchenallianz
Die Positionierung von Anthropic hebt sich deutlich von der vieler Wettbewerber ab. Das Unternehmen unterzeichnete als einziges großes KI-Labor nicht den offenen Brief, den Nvidia-CEO Jensen Huang Ende letzter Woche veröffentlicht hatte. In diesem Schreiben, das unter anderem von Branchengrößen wie Meta, Microsoft, IBM, Dell, Amazon, Google, OpenAI, Palantir und Hugging Face unterstützt wurde, wird argumentiert, dass offene Modelle die allgemeine Sicherheit und Cybersicherheit stärken.
Berichten aus der vergangenen Woche zufolge haben Anthropic und OpenAI ihre Kommunikationsstrategien gegenüber US-Politikern abgestimmt, um vor den Risiken chinesischer Open-Weight-Modelle zu warnen. Die US-Regierung überprüft derzeit ihre Richtlinien in diesem Bereich. Jüngste Untersuchungen der Behörden lieferten jedoch bislang keine ausreichenden Belege, die weitreichende Beschränkungen für Open-Weight-Modelle zum aktuellen Zeitpunkt rechtfertigen würden.
