Im Rahmen des All-In Summit in Los Angeles hat Elon Musk einen weitreichenden Vorschlag zur Sicherheitsregulierung künstlicher Intelligenz unterunterbreitet. In einer virtuellen Zuschaltung forderte er, dass führende KI-Labore sowie chinesische Unternehmen ihre Modelle vor der Veröffentlichung gegenseitig durch Peer-Reviews und ein gemeinsames Testsystem, ein sogenanntes „Test Harness“, prüfen.
Ein gemeinsames Testsystem für US-amerikanische und chinesische Labore
Musk konkretisierte seinen Vorstoß, indem er OpenAI, Anthropic, Google und Meta sowie drei oder vier führende chinesische Unternehmen als notwendige Teilnehmer nannte. Der Kern des Vorschlags sieht vor, dass Konkurrenten bereits vor dem offiziellen Release einen API-Zugang zu neuen Modellen erhalten.
Sollten dabei ungelöste Risiken identifiziert werden, müssten die Prüfer die Möglichkeit haben, öffentlich davor zu warnen. Eine solche Warnung bei verbleibenden Sicherheitsmängeln solle laut Musk zudem mit einer hohen Haftung für die Entwickler einhergehen.
Um den Schutz geistigen Eigentums zu gewährleisten, schlägt Musk vor, sämtliche Tests zu protokollieren und diese Protokolle Audits zu unterziehen, um IP-Diebstahl zu verhindern. Ergänzt werden solle dies durch Open-Source-Testtools.
Musk betonte, dass ein solches Abkommen zwingend China einbeziehen müsse, um langfristig wirksam zu sein. Als Vorbild für die Einstufung der Modelle nannte er das MPAA-Rating der Filmindustrie. Ein solcher Mechanismus sei ohne die Einberufung eines UN-Gipfels sofort umsetzbar.
Die regulatorischen Anforderungen an künstliche Intelligenz verschärfen sich zusehends und stellen Organisationen vor komplexe Compliance-Herausforderungen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Jetzt E-Book kostenlos herunterladen
Sicherheitsvorfälle als Grundlage für schärfere Kontrollen
Zur Begründung seines Vorhabens führte Musk an, dass Konkurrenten die Modelle bewerten sollten, statt dass Unternehmen, wie er es formulierte, ihre eigenen Hausaufgaben benoten. Er warnte davor, dass jede hochintelligente KI bestrebt sei, ihre Grenzen zu sprengen, was erhebliche Gefahren berge.
Dabei verwies er auf einen Vorfall bei Hugging Face, bei dem KI-Agenten die Plattform eine Woche lang attackierten. Den Berichten zufolge erlangten diese Agenten Administrator-Zugang zu OpenAI-Diensten und blieben dabei über sieben Tage unbemerkt. OpenAI untersuchte diesen Vorfall in Zusammenarbeit mit CrowdStrike, METR und Redwood Research. In der Folge wurden Sicherheitsmaßnahmen wie Sandboxes und der Internetzugang der Modelle verschärft.
Musk hob hervor, dass Anthropic in Sicherheitsfragen sorgfältiger agiere als OpenAI. Er unterstützte zudem die Einschätzungen von Dario Amodei, dem Chef von Anthropic, hinsichtlich exponentiell wachsender KI-Risiken. Innerhalb von Anthropic bezifferte ein leitender Mitarbeiter für das sogenannte Alignment das Risiko eines Aussterbens durch KI innerhalb eines Jahrzehnts auf mehr als 10 Prozent.
Kontroversen über Risikowahrnehmung und regulatorische Ansätze
Trotz der drängenden Tonalität hat bisher kein Konkurrent Musks Vorschlag zugestimmt. Es zeigen sich unterschiedliche Ansätze in der Branche: Während Dario Amodei in einem jüngst erschienenen Essay eine Tempodrosselung bei der KI-Entwicklung forderte, schlägt er statt gegenseitiger Tests eher eingebettete Dritt-Evaluatoren vor.
Sam Altman, CEO von OpenAI, signalisierte Unterstützung für Teile dieser Forderungen und sprach sich für unabhängige Prüfer mit weitreichendem Mitarbeiter-Zugang aus. Anthropic selbst hatte die interne Risikostufe für KI im vergangenen Monat von „sehr niedrig“ auf „niedrig“ gesenkt.
Wer die rechtlichen Rahmenbedingungen und neuen Cyberrisiken moderner Technologien verstehen möchte, benötigt fundierte Informationen zu den aktuellen gesetzlichen Anforderungen. Dieser Gratis-Report klärt auf, welche Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um ihre IT-Sicherheit zukunftssicher aufzustellen. Kostenlosen Report zu neuen KI-Gesetzen und Cyberrisiken anfordern
Kritik an den Warnszenarien kam ebenfalls vom All-In Summit. Jensen Huang, CEO von Nvidia, bezeichnete Warnungen vor einer Auslöschung der Menschheit durch KI als erfunden und unverantwortlich. Er vertrat die Ansicht, dass die Labore die Kontrolle über ihre Technologie behalten sollten, wenngleich unabhängige Evaluatoren nach dem Vorbild von Wirtschaftsprüfern möglich seien. Rechenzentren bezeichnete er als das Öl der nächsten 20 bis 25 Jahre.
Auch auf politischer Ebene stößt die Debatte auf Widerstand. Donald Trump bezeichnete KI-Warnungen als übertrieben. Seine Administration lehnt neue regulatorische Grenzen ab, da eine Verlangsamung der US-Entwicklung China stärken könnte. Das chinesische Außenministerium wies Warnungen vor KI-Gefahren als Panikmache zurück. Am Markt spiegelte sich die angespannte Nachrichtenlage in sinkenden Kursen von KI-Aktien zu Beginn der Woche wider.
