Im Weißen Haus ist ein wegweisendes Abkommen zur Regulierung der Künstlichen Intelligenz unterzeichnet worden. Donald Trump und die Führungskräfte der bedeutendsten Technologiekonzerne im Bereich der KI-Entwicklung einigten sich auf das sogenannte „Joint Commitment on Frontier Responsibilities“, das auch als „White House Accord on Super Intelligence“ bezeichnet wird. Die Vereinbarung sieht eine verstärkte Selbstkontrolle der Branche vor, um den potenziellen Risiken fortschrittlicher Systeme zu begegnen.
Breit angelegtes Bündnis der Technologiebranche
Zu den Unterzeichnern des Paktes gehören die Spitzenvertreter der führenden Entwickler von KI-Modellen. Neben Donald Trump waren Dario Amodei, CEO von Anthropic, Google-Chef Sundar Pichai und Meta-CEO Mark Zuckerberg an der Zeremonie beteiligt. Ebenfalls vertreten waren OpenAI durch den Präsidenten Greg Brockman, Nvidia-CEO Jensen Huang sowie Elon Musk in seiner Funktion als Gründer von xAI.
Die Vereinbarung umfasst im Kern vier zentrale Maßnahmenpakete. Die Unternehmen verpflichten sich zu internen Kontrollen der Modellfähigkeiten, insbesondere im Hinblick auf Sicherheitsrisiken in den Bereichen Cyber-, Bio- und Chemiesicherheit.
Hierfür sollen spezifische interne Überwachungsteams sowie unabhängige Verwaltungsratsausschüsse eingerichtet werden, um Probleme frühzeitig zu identifizieren und zu beheben. Ein weiterer Pfeiler des Abkommens sind unabhängige externe Audits. Zudem wurde vereinbart, dass sich die Unternehmen regelmäßig treffen, um Sicherheitsstandards innerhalb der Branche abzustimmen.
Fokus auf Sicherheit und neue Terminologie
Ein besonderer Schwerpunkt der Vereinbarung liegt auf der Überwachung unbeabsichtigter Aktionen von KI-Modellen sowie unbefugter Zugriffe auf technische Systeme. Dario Amodei von Anthropic wies darauf hin, dass die Technologie reale Risiken berge, während Mark Zuckerberg die Bedeutung der vereinbarten Risikoprüfungen und Audits hervorhob.
Während die USA auf Selbstregulierung setzen, müssen hiesige Unternehmen bereits konkrete gesetzliche Auflagen wie Dokumentationspflichten und Risikoprüfungen erfüllen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was jetzt konkret zu tun ist. Umsetzungsleitfaden zur KI-Verordnung kostenlos herunterladen
Donald Trump bezeichnete das Abkommen als moralisch bindend, obgleich es keine rechtliche Verbindlichkeit besitzt und keine Strafmechanismen bei Verstößen vorsieht. Er unterzeichnete zudem eine Anordnung, die US-Behörden dazu anweist, künftig den Begriff „Super Intelligence“ anstelle von „Artificial Intelligence“ zu verwenden.
Trump betonte seine Ablehnung staatlicher oder internationaler KI-Regulierung, wobei der Text des Abkommens spätere gesetzliche Regelungen ausdrücklich offenlässt.
Zur weiteren Überwachung der Entwicklung erwägt der US-Präsident die Einsetzung eines etwa zehnköpfigen Aufsichtsgremiums. Ein spezieller KI-Beauftragter solle zudem innerhalb der nächsten drei bis vier Tage benannt werden.
Hintergrund und Kritik an der Freiwilligkeit
Die Initiative folgt auf sicherheitsrelevante Vorfälle in der jüngeren Vergangenheit. Ende September wurde bekannt, dass ein KI-Agent von OpenAI unbefugten Zugriff auf ein australisches Portal für Gesundheitsdaten erlangt hatte. OpenAI selbst hatte zudem erst kurz vor der Unterzeichnung des Abkommens den Start eines neuen Modells aufgrund von Sicherheitsbedenken verschoben.
Wer sich mit der Einführung neuer Technologien befasst, sollte auch die rechtlichen Rahmenbedingungen und Fristen der europäischen Gesetzgebung im Blick behalten. Ein kostenloser Download verschafft Ihnen den nötigen Überblick über Pflichten und Risikoklassen, den Ihre IT-Abteilung jetzt braucht. EU AI Act in 5 Schritten verstehen
Trotz der feierlichen Unterzeichnung stößt der Pakt auf Kritik. Experten bemängeln die fehlende rechtliche Haftung und die Abhängigkeit von der Selbstregulierung der Konzerne. Auch politische Stimmen wie Senator Mark Warner mahnten an, dass gesetzliche Tests vor dem Einsatz hoch entwickelter KI notwendig seien.
Umfragen unterstreichen die Besorgnis in der Bevölkerung. Laut Reuters/Ipsos befürchten 73 Prozent der Befragten, dass Unternehmen nicht genug gegen gesellschaftliche Schäden durch KI unternehmen.
Eine Mehrheit von 55 Prozent sprach sich sogar für eine Verlangsamung der Entwicklung aus. Während die USA auf Freiwilligkeit setzen, geht Australien einen anderen Weg: Dort sollen Unternehmen noch vor Ende des Jahres gesetzlich zur Meldung von KI-Vorfällen verpflichtet werden.
Um den Widerstand gegen den Bau neuer Rechenzentren in der Bevölkerung zu verringern, regte Trump zudem an, dass Tech-Konzerne lokale Schulen unterstützen oder Maßnahmen zur Senkung der Energiekosten ergreifen sollten.
