Unterhändler im US-Senat arbeiten an einer neuen Gesetzgebung, die Technologieunternehmen rechtlich dazu verpflichten soll, die Sicherheit ihrer Künstlichen Intelligenz (KI) zu gewährleisten. Der geplante Entwurf sieht vor, dass Entwickler eine sogenannte Sorgfaltspflicht (duty of care) übernehmen müssen. Damit sollen sie proaktiv sicherstellen, dass ihre Produkte keine katastrophalen Risiken für die Allgemeinheit darstellen.
Gesetzliche Bindung für Frontier-KI
Die Initiative zielt insbesondere auf die fortschrittlichsten KI-Modelle ab, wie sie unter anderem von Google, Anthropic und OpenAI entwickelt werden. Bisher basieren Sicherheitsstandards für diese sogenannten Frontier-Modelle weitgehend auf freiwilligen Selbstverpflichtungen der Industrie. Das neue Gesetz würde diese Standards in eine rechtliche Verpflichtung überführen.
Demnach könnte die US-Bundesregierung die Veröffentlichung von KI-Modellen blockieren, die als gefährlich eingestuft werden. Den betroffenen Unternehmen bliebe in solchen Fällen der Rechtsweg offen, um vor Bundesgerichten gegen derartige Entscheidungen zu klagen.
An der Ausarbeitung des Entwurfs sind die Senatoren John Thune, Ted Cruz, Amy Klobuchar und Maria Cantwell beteiligt. Während Klobuchar und Thune den Fokus auf den Schutz vor katastrophalen Risiken legen, arbeiten Klobuchar und Cruz parallel an parteiübergreifenden Maßnahmen zum Schutz vor nuklearen und biologischen Bedrohungen durch KI.
Uneinigkeit über Prüfverfahren
Innerhalb des Senats-Handelsausschusses besteht derzeit Uneinigkeit über die genaue Ausgestaltung der Sicherheitstests. Ein Flügel um die Senatoren Klobuchar, Thune und Cruz befürwortet ein Modell, bei dem die Unternehmen die notwendigen Prüfungen selbst durchführen. Im Gegensatz dazu fordert die Senatorin Cantwell eine externe Überprüfung durch Bundesbehörden, wie etwa die National Labs.
Ein geplantes Treffen (Markup) des Gesetzentwurfs war vor der Sommerpause im August abgesagt worden. Für die kommende Woche sind jedoch vertrauliche Gespräche zwischen Gesetzgebern und KI-Experten angesetzt, um die weiteren Details zu klären.
Während die USA über neue Sicherheitsgesetze debattieren, schafft der EU AI Act bereits klare Fakten für den hiesigen Markt. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Warnungen von Wissenschaftlern erhöhen den Handlungsdruck
Der politische Druck auf die Gesetzgeber ist zuletzt deutlich gestiegen. Auslöser waren unter anderem Warnungen aus der Wissenschaft und der Industrie selbst. Der Anthropic-Forscher Jacob Coxon war Anfang September zurückgetreten und hatte in einer viel beachteten Stellungnahme vor den Gefahren der Technologie gewarnt.
Zusätzlich bezifferte der Wissenschaftler Hubinger die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts existenzielle Risiken für die Menschheit darstellt, auf über 10 Prozent.
In der Folge forderten mehr als 20 Kongressmitglieder, darunter die Senatoren Mark Kelly und Ted Cruz sowie die Abgeordneten Lori Trahan und Anna Paulina Luna, eine strengere Regulierung. Trahan sprach in diesem Zusammenhang von einem parteiübergreifenden Wendepunkt.
Unterschiedliche Ansätze in der Politik
Innerhalb der politischen Landschaft werden verschiedene Lösungsansätze diskutiert. Während der Abgeordnete Ro Khanna eine eigene Regulierungsbehörde für KI sowie die Einführung von Notabschaltern (Kill-Switches) fordert, plant Senator Bernie Sanders ein Verbot sogenannter superintelligenter Systeme.
Donald Trump betonte hingegen den technologischen Wettlauf mit China. Er sehe derzeit keine Gefahr einer Auslöschung der Menschheit durch KI und schätzte den Vorsprung der USA in diesem Bereich auf etwa ein Jahr ein.
Wer sich mit der Regulierung von KI-Systemen befasst, muss heute vor allem die neuen Kennzeichnungs- und Dokumentationspflichten kennen. Der kostenlose Umsetzungsleitfaden zum EU AI Act liefert Compliance-Verantwortlichen alle relevanten Informationen zu den aktuellen gesetzlichen Anforderungen. Kostenlosen Umsetzungsleitfaden zum AI Act sichern
Wachsende Skepsis in der Bevölkerung
Die Gesetzesinitiative trifft auf eine zunehmend besorgte Öffentlichkeit. Marktforscher von Pew stellten im August fest, dass über 50 Prozent der US-Amerikaner angesichts der KI-Entwicklung besorgter sind als noch im Jahr 2021, als dieser Wert bei 37 Prozent lag. Zudem zeigt eine Umfrage von Gallup aus dem Frühjahr, dass rund 70 Prozent der Befragten den Bau von Rechenzentren in ihrer eigenen Region ablehnen.
