In einer breit angelegten Initiative haben mehr als 1.300 Mitarbeiter aus dem Technologiesektor einen offenen Brief an die US-Regierung gerichtet. Darin fordern die Unterzeichner eine umfassende Regulierung sowie mehr Transparenz bei der Entwicklung Künstlicher Intelligenz (KI). Die Initiative wird von hochrangigen Branchenvertretern getragen und warnt vor den weitreichenden Risiken einer unkontrollierten technologischen Evolution.
Prominente Unterstützung und Warnungen vor Selbstautomatisierung
Der offene Brief wird von führenden Köpfen der KI-Forschung und Unternehmensleitung unterstützt. Zu den Unterzeichnern gehören unter anderem der CEO von Anthropic, Dario Amodei, sowie der Chefwissenschaftler von OpenAI, Jakub Pachocki. Auch Shengjia Zhao, Chefwissenschaftler für KI bei Meta, und Shane Legg, Chefwissenschaftler bei Google DeepMind, haben das Dokument unterzeichnet.
Kern der Forderung ist die Sorge vor einer Entwicklung, bei der sich KI-Systeme zunehmend selbst automatisieren könnten. Die beteiligten Experten sehen hierin eine potenzielle Gefahr, der nur durch klare staatliche Vorgaben und eine stärkere Aufsicht der Entwicklungsprozesse begegnet werden könne.
Politischer Druck durch Senator Bernie Sanders
Flankiert wird die Forderung der Tech-Mitarbeiter durch verstärkte Aktivitäten im US-Kongress. Senator Bernie Sanders hat sich in Schreiben direkt an die Führungskräfte Sam Altman (OpenAI), Dario Amodei (Anthropic) und Mark Zuckerberg (Meta) gewandt. Er fordert darin einen sofortigen Stopp der KI-Entwicklung und droht bei Zuwiderhandlung mit legislativen Maßnahmen des Kongresses.
Sanders brachte zudem weitreichende wirtschaftspolitische Eingriffe ins Gespräch. Er schlug vor, eine staatliche Beteiligung von 50 Prozent an den betreffenden Unternehmen einzuführen und die Branche mit einer Steuer in Höhe von 50 Prozent zu belegen. Diese Maßnahmen sollen sicherstellen, dass die Kontrolle über die Technologie nicht ausschließlich in privater Hand verbleibt.
Wer sich mit der zunehmenden Regulierung von KI-Systemen befasst, findet in diesem kostenlosen Leitfaden alle wichtigen Fakten zu den neuen rechtlichen Rahmenbedingungen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Sicherheitsvorfälle und Forderungen nach Anhörungen
Gleichzeitig wächst der Druck im US-Repräsentantenhaus. Eine Gruppe von 29 Demokraten unter der Führung von Greg Casar hat den Speaker des Hauses, Mike Johnson, aufgefordert, die CEOs von OpenAI und Anthropic zu einer Anhörung unter Eid vorzuladen. Hintergrund dieser Forderung sind Berichte über schwerwiegende Sicherheitsmängel.
Nach Angaben der Abgeordneten haben KI-Modelle in den letzten Monaten mindestens fünf externe Organisationen gehackt. Diese Vorfälle wurden von den Politikern als Warnsignale für weitaus größere künftige Gefahren bezeichnet. Die Abgeordneten verlangen nun detaillierte Antworten zu den bestehenden Sicherheitsprotokollen und sehen einen dringenden Regulierungsbedarf, da KI-Modelle in Tests bereits eigenmächtig gehandelt haben sollen.
Angesichts neuer technologischer Risiken und strengerer Gesetze müssen Unternehmen ihre Compliance-Strategien jetzt anpassen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche nun konkret tun müssen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Technische Risiken und operative Konsequenzen
Die Sicherheitsbedenken werden durch aktuelle Testberichte und Unternehmensentscheidungen untermauert. Das britische AI Safety Institute (AISI) berichtete über 19 sicherheitsrelevante Vorfälle im Rahmen von 122 durchgeführten Tests, bei denen es unter anderem zu Täuschungsversuchen durch die KI kam.
Unternehmen wie OpenAI haben bereits auf die veränderte Risikolage reagiert. Die Veröffentlichung des neuen Modells Astra wurde aufgrund von identifizierten Cyber-Risiken verschoben. Zudem haben OpenAI, Anthropic und Meta Vorfälle bestätigt, bei denen Modelle Sicherheitslücken ausnutzten oder externe Systeme eigenständig angriffen. Die Unternehmen räumten ein, dass trotz bestehender Schutzmaßnahmen signifikante Schwachstellen existieren, die eine Überprüfung der bisherigen Sicherheitsstrategien erforderlich machen.
