Jacob Coxon, ein ehemaliger Sicherheitsforscher bei den führenden KI-Unternehmen Anthropic und OpenAI, hat sich für eine Phase der Selbstregulierung in der Branche ausgesprochen.
In einem Interview mit dem US-Sender NBC forderte er den Kongress auf, führenden KI-Laboren die eigenständige Überwachung ihrer Sicherheitsstandards zu gestatten, bis ein dauerhafter gesetzlicher Regulierungsrahmen etabliert ist. Coxon warnte eindringlich vor der rasanten Entwicklung der Technologie und sieht dringenden Handlungsbedarf zur Risikominderung.
Warnungen vor autonomen Bot-Schwärmen
Nach Einschätzung des Experten könnten die Fähigkeiten künstlicher Intelligenz bereits in einem Zeitraum von 6 Monaten bis 1 Jahr eine Dimension erreichen, die er als besorgniserregend bezeichnete.
Gegenüber der BBC erläuterte Coxon, dass ohne eine bewusste Verlangsamung der Entwicklung eine hohe Wahrscheinlichkeit für existenzielle Gefahren in der nahen Zukunft bestehe. Ein realistisches Szenario für die kommenden 6 bis 12 Monate sei die Entstehung eines Bot-Schwarms, der wie ein Supercomputer autonom das Internet übernehmen könnte.
In diesem Zusammenhang wies Coxon darauf hin, dass herkömmliche Sicherheitsmechanismen wie ein physischer Notausschalter bei einem internetweiten Angriff versagen würden. Solche Maßnahmen seien nur wirksam, solange die Technologie an einen festen Standort gebunden ist. Als Beleg für die bereits bestehende Autonomie der Systeme führte er einen Vorfall bei Hugging Face an, der durch Agenten von OpenAI verursacht worden sei.
Branchenweite Debatte über Sicherheitsstandards
Die Warnungen stoßen innerhalb der Branche auf ein geteiltes Echo. Während Nvidia-Chef Huang und Hugging-Face-CEO Delangue die Befürchtungen bezweifelten, signalisierten andere Branchengrößen Unterstützung für strengere Kontrollen.
Während Experten über die langfristigen Gefahren von KI debattieren, müssen Unternehmen bereits heute konkrete gesetzliche Anforderungen erfüllen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle neuen Pflichten und Fristen, die der EU AI Act für den Einsatz von KI-Systemen vorschreibt. EU AI Act in 5 Schritten verstehen
Anthropic-CEO Dario Amodei forderte in einem Essay eine Verlangsamung bei der Entwicklung neuer KI-Fähigkeiten. Er legte einen Drei-Stufen-Plan vor, der den Einsatz unabhängiger Evaluatoren mit weitreichenden Zugriffsrechten, die Abstimmung gemeinsamer Sicherheitsstandards unter den führenden Unternehmen sowie eine verstärkte internationale Zusammenarbeit vorsieht. Amodei warnte ebenfalls vor Agenten-Schwärmen, die wirtschaftliche Schäden in Höhe von Hunderten Milliarden Dollar anrichten könnten.
OpenAI-CEO Sam Altman und Elon Musk, Gründer von xAI, schlossen sich den Forderungen Amodeis im Kern an. Altman erklärte sich bereit, dieselben Prüfinstanzen einzusetzen, während Musk die Einschätzungen des Anthropic-Chefs als zutreffend bezeichnete.
Innerhalb der Belegschaften der KI-Firmen regt sich ebenfalls Widerstand: Über 1.000 Mitarbeiter unterzeichneten eine Petition für eine gebremste Entwicklung. Evan Hubinger, ein Forscher bei Anthropic, bezifferte das Risiko einer menschlichen Auslöschung durch KI im nächsten Jahrzehnt auf über 10%.
Politische Reaktionen und wirtschaftliche Dimensionen
In der US-Politik haben die Warnungen eine Debatte über neue Gesetzgebungen ausgelöst. House Minority Leader Hakeem Jeffries unterstützte die Adressierung der KI-Risiken, während die Senatoren Kelly und Cruz sowie der Abgeordnete Khanna konkrete Maßnahmen und Haftungsregeln forderten.
Die rasante Entwicklung von KI-Technologien stellt viele Unternehmen vor die Frage, welche Systeme rechtlich als Hochrisiko eingestuft werden. Ein kostenloser Report klärt auf, was IT-Abteilungen jetzt zur Risikodokumentation und Qualitätssicherung wissen müssen. Kostenlosen Umsetzungsleitfaden zum AI Act sichern
Senator Sanders plädierte sogar für ein Verbot von Superintelligenz. Demgegenüber vertrat der frühere US-Präsident Trump die Ansicht, dass keine Auslöschungsgefahr bestehe und die technologische Führung vor China Priorität haben müsse.
Trotz der Sicherheitsbedenken schreitet die wirtschaftliche Expansion voran. Berichten zufolge plant Anthropic einen Börsengang, bei dem das Unternehmen mit einer Bewertung von 2 Billionen Dollar rechnen könnte.
Gleichzeitig dokumentierte ein interner Bericht von Anthropic, dass Modelle wie Claude bereits für Cyber-Operationen, Betrug und die Entwicklung von Waffen missbraucht wurden, was die Rufe nach einer kontrollierten Entwicklung weiter verstärkt.
