Anthropic warnt: 80% des Codes stammt bereits von KI selbst

Anthropic fordert Entwicklungspause, während Kanada, USA und EU mit Milliardenplänen um KI-Souveränität ringen.

Innerhalb weniger Tage haben Regierungen, Anwaltsverbände und Tech-Unternehmen neue Initiativen gestartet, die das Tempo der Entwicklung bremsen oder zumindest lenken sollen. Der Vorwurf an die Branche: Die Technologie wächst schneller als die Regeln, die sie kontrollieren sollen.

Anzeige

Die neuen globalen Regeln für Künstliche Intelligenz werfen für viele Betriebe drängende Fragen zu Fristen und Pflichten auf. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, die komplexen Anforderungen und Risikoklassen schnell zu durchdringen. EU AI Act in 5 Schritten verstehen

Neues Institut für globale KI-Standards

Die International Bar Association (IBA) hat am 8. Juni ihr „Artificial Intelligence Institute“ gegründet. Mit einem Netzwerk von über 80.000 Anwälten und 190 Anwaltskammern will die Organisation die zersplitterte Regulierungslandschaft vereinheitlichen. Die neue Einheit unter Leitung von Dr. Farzana Dudhwala soll internationale Kooperationen fördern und verantwortungsvolle KI-Governance vorantreiben. Ein ehrgeiziges Ziel – angesichts der unterschiedlichen Ansätze von Washington über Brüssel bis Peking.

Anthropic schlägt Alarm: Entwicklung pausieren?

Ausgerechnet ein Branchenpionier fordert eine Atempause. Anthropic, Entwickler des KI-Modells Claude, drängt auf eine koordinierte und überprüfbare globale Entwicklungspause. Der Grund: Die Fähigkeiten der Systeme verdoppeln sich alle vier Monate. Im Mai 2026 stammten bereits über 80 Prozent des bei Anthropic integrierten Codes von der KI selbst. Aktuelle Modelle erledigen zwölfstündige Aufgaben völlig autonom. Die Prognose des Unternehmens: Bis 2027 könnte KI eine ganze Arbeitswoche ohne menschliche Aufsicht bewältigen.

„Das Risiko einer rekursiven Selbstverbesserung ist real“, warnt das Unternehmen. Ähnliche Bedenken kommen offenbar auch von OpenAI. Die Frage, die sich stellt: Hört die Industrie auf die eigenen Warnungen?

Nationale Strategien: Milliarden für Souveränität

Mehrere Länder haben in den letzten Wochen umfassende Rahmenwerke vorgelegt. Kanada veröffentlichte Anfang Juni seine Strategie „AI for All“ mit einem Budget von umgerechnet rund 1,4 Milliarden Euro. Der Plan setzt auf technologische Souveränität und öffentliches Vertrauen – inklusive eines 350 Millionen Euro schweren Tech-Wachumsfonds und dem Bau eines öffentlichen Supercomputers.

Die USA zogen am 5. Juni mit der Executive Order 14409 nach. Der Fokus liegt auf Sicherheit für Spitzenmodelle, Cyberabwehr und kritische Infrastruktur. Statt verpflichtender Lizenzen setzt Washington auf freiwillige Partnerschaften mit Entwicklern und eine KI-Cybersicherheits-Koordinationsstelle. Parallel dazu liegt ein 269-seitiger Gesetzesentwurf vor – der „Great American AI Act“ – der ein dreijähriges Moratorium für bundesstaatliche KI-Gesetze vorsieht.

Die Europäische Kommission wiederum veröffentlichte am 3. Juni ihr „Europäisches Technologie-Souveränitätspaket“. Es enthält einen aktualisierten Chips Act und ein spezielles Gesetz für Cloud- und KI-Entwicklung. Europa setzt damit auf industriepolitische Stärkung statt reiner Regulierung.

Anzeige

Während die Politik über Souveränitätspakete debattiert, müssen Unternehmen bereits jetzt konkrete Compliance-Strafen fürchten. Erhalten Sie den notwendigen Überblick über alle relevanten Übergangsfristen in diesem kostenlosen Experten-Report. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Regionale Unterschiede: Von Verbot bis Laissez-faire

Die Umsetzung vor Ort zeigt, wie weit die Ansätze auseinanderklaffen. In Brasilien verbietet die Regulierungsbehörde Anatol seit dem 8. Juni vollautomatisierte Entscheidungen über Bürgerrechte. Menschliche Aufsicht ist für alle KI-Anwendungen im Telekommunikationssektor Pflicht.

Colorado geht einen anderen Weg: Das neue Gesetz SB 26-189 ersetzt breite KI-Beschränkungen durch Transparenz- und Offenlegungspflichten – etwa im Gesundheits-, Wohnungs- und Finanzwesen. Inkrafttreten: Januar 2027.

Ganz anders die Linie in Argentinien: Präsident Milei schlug am 8. Juni vor, KI-Roboter könnten Unternehmen ohne menschliche Aufsicht führen. Ein radikaler Gegenentwurf zu den Sicherheitsvorkehrungen, die andernorts diskutiert werden.

Sowohl Brasilien als auch China meldeten am 9. Juni Fortschritte beim Einsatz von KI in Patentprüfungsverfahren. Die Betonung liegt jedoch darauf: Die finale Entscheidung bleibt beim Menschen.