Der Chef des KI-Unternehmens Anthropic, Dario Amodei, verlangt weitreichende staatliche Kontrollen für künstliche Intelligenz. In einem am 10. Juni veröffentlichten Essay plädiert er für ein gesetzliches Verbot gefährlicher KI-Systeme durch die Regierung. Die Entwicklung der Technologie laufe der aktuellen Politik davon, warnt er – freiwillige Selbstverpflichtungen reichten nicht mehr aus.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen Report zur KI-Verordnung herunterladen
Ein Regulierungsmodell nach Vorbild der Luftfahrt und Medizin
Amodei schlägt einen Rechtsrahmen vor, der an die strengen Auflagen für die Luftfahrt-, Auto- und Pharmaindustrie angelehnt ist. Konkret sollen KI-Modelle ab einer bestimmten Rechenleistung verpflichtend von unabhängigen Prüfstellen getestet werden – noch bevor sie auf den Markt kommen.
Stufen unabhängige Gutachter ein inakzeptables Risiko fest, müsse der Staat die Befugnis haben, die Veröffentlichung zu untersagen oder ganz zu verhindern. Die Sicherheitsprüfungen sollen sich auf vier Hauptrisikobereiche konzentrieren: Cybersicherheitslücken, die Entwicklung von Biowaffen, autonome Forschungs- und Entwicklungsfähigkeiten sowie den generellen Kontrollverlust des Menschen über das System.
Damit geht Amodei deutlich weiter als die jüngste Regierungsverordnung vom 2. Juni 2026. Branchenbeobachter kritisieren, dass diese weitgehend auf freiwillige Zusagen der Tech-Konzerne setzt. Anthropic fordert den US-Kongress zudem auf, strengere KI-Gesetze auf Bundesstaatenebene nicht zu blockieren – es sei denn, es werde ein verbindlicher Bundesstandard gegen katastrophale Risiken geschaffen.
Wirtschaftliche Sicherheitsnetze gegen Jobverluste
Doch Amodei beschränkt sich nicht auf technische Sicherheit. In seinem Essay und einem Interview mit ABC News am heutigen Donnerstag warnt er vor massiven wirtschaftlichen Verwerfungen. Mit wachsender KI-Leistung drohten erhebliche Arbeitsplatzverluste.
Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu? Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Gratis-Report zu Cyber Security und KI-Gesetzen sichern
Seine Vorschläge: Lohnversicherungen, Umschulungsbeihilfen und finanzielle Anreize für Unternehmen, ihre Mitarbeiter zu halten. Langfristig hält Amodei ein bedingungsloses Grundeinkommen für nötig – finanziert womöglich durch höhere Kapitalertragsteuern oder eine spezielle Abgabe auf KI-Konzerne. Anthropic investiert bereits 200 Millionen Euro in die Erforschung der gesellschaftlichen KI-Folgen.
Nationale Sicherheit und globale Zusammenarbeit
Der Vorstoß kommt nach einem monatelangen Konflikt zwischen Anthropic und den US-Behörden. Im Februar 2026 weigerte sich das Unternehmen, seine Claude-Modelle für militärische Überwachung anzupassen – mit Folgen: Ein vorübergehendes Bundesverbot war die Antwort. Zwar stellte ein Gerichtsbeschluss im März die Aufträge der Regierung teilweise wieder her, doch das Verhältnis bleibt angespannt – ausgerechnet jetzt, wo Anthropic den Börsengang in den USA vorbereitet.
Amodei spricht auch die geopolitische Dimension an. Er plädiert für ein Bündnis demokratischer Nationen, das die Kontrolle über die gesamte KI-Lieferkette behält. Internationale Zusammenarbeit mit nichtdemokratischen Staaten bei KI-Pausen sieht er skeptisch – aus Sorge um die globale Sicherheit.
Weitere Forderungen: ein Verbot vollständig autonomer Waffensysteme und die Modernisierung der Arzneimittelbehörde FDA, um KI-beschleunigte Medikamentenzulassungen zu bewältigen. Dass Handlungsbedarf besteht, zeigt ein interner Vorfall bei Anthropic selbst: Das Unternehmen schränkte den Zugang zu seinem Mythos-Modell ein, nachdem es Sicherheitslücken in Software ausnutzen konnte. Eine aktualisierte Version mit entfernten Schwachstellen ist inzwischen verfügbar.
