Sowohl die USA als auch die EU haben diese Woche umfassende Gesetzesentwürfe vorgelegt, die die Entwicklung und den Einsatz von KI-Systemen grundlegend neu ordnen sollen. Während Washington auf eine bundesweite Vorreiterrolle setzt, pocht Brüssel auf digitale Souveränität.
Washington zentralisiert die KI-Aufsicht
Am 4. Juni 2024 stellte eine überparteiliche Gruppe von US-Abgeordneten den Great American AI Act vor. Das 269 Seiten starke Papier zielt auf sogenannte „Large Frontier Developers“ – Unternehmen mit einem Jahresumsatz von über 500 Millionen Dollar. Darunter fallen Branchengrößen wie Anthropic, OpenAI, xAI und Google DeepMind.
Die neue EU-KI-Verordnung stellt Unternehmen vor komplexe Herausforderungen bei der Risikodokumentation und Kennzeichnung. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen, die Sie jetzt kennen müssen. EU AI Act in 5 Schritten verstehen
Der Entwurf verlangt von diesen Firmen halbjährliche Prüfungen durch lizenzierte, unabhängige Prüforganisationen. Zudem müssen sie detaillierte Sicherheitsrahmenwerke veröffentlichen. Ein zentraler Punkt: Ein dreijähriges Moratorium für neue KI-Entwicklungsgesetze auf Bundesstaatsebene. Das würde bestehende Regelungen wie Kaliforniens Transparenzgesetz AB 2013 faktisch einfrieren oder ersetzen.
Zur Überwachung ist die Gründung des Center for AI Standards and Innovation (CAISI) innerhalb der nationalen Normungsbehörde NIST geplant. Das Budget: 100 Millionen Dollar jährlich von 2027 bis 2029. Bei Verstößen drohen Strafen von bis zu 100 Millionen Dollar pro Tag.
Trump setzt auf freiwillige Sicherheitstests
Der Gesetzesentwurf folgt einer Anordnung von Präsident Trump vom 2. Juni 2024. Sie schafft einen freiwilligen Rahmen: Entwickler von „Covered Frontier Models“ können ihre Systeme bis zu 30 Tage vor der Veröffentlichung den Bundesbehörden für Cybersicherheitstests zur Verfügung stellen. Ziel ist es, Schwachstellen in kritischen Infrastrukturen wie Banken und Krankenhäusern zu identifizieren.
Eine neue KI-Cybersicherheits-Zentrale unter Beteiligung von Finanzministerium, NSA und der Cybersicherheitsbehörde CISA soll die Ergebnisse bündeln. Der Hintergrund: Fortschrittliche Modelle wie Anthropics Claude haben im Frühjahr 2024 bei privaten Tests tausende kritischer Sicherheitslücken aufgespürt.
Neue KI-Technologien bringen auch neue Einfallstore für Cyberkriminelle mit sich, die Sicherheitslücken oft schneller finden als die Abwehr. Erfahren Sie in diesem kostenlosen Report, wie Sie Ihr Unternehmen proaktiv absichern und die neuen rechtlichen Pflichten zur IT-Sicherheit erfüllen. Gratis-E-Book zur Cyber Security jetzt herunterladen
EU führt vier Sicherheitsstufen für die Cloud ein
In Europa verfolgt man einen anderen Ansatz. Das neue Cloud- und KI-Entwicklungsgesetz (CADA) führt ein vierstufiges System ein: die Union Assurance Levels (UAL1-4) . Sie definieren, wie unabhängig ein Dienst von Einflüssen außerhalb der EU sein muss.
- UAL1: Mindeststandard für öffentliche Aufträge – EU-Niederlassung und lokale Datenspeicherung.
- UAL2: Infrastruktur und Personal müssen ausschließlich in der EU sein. Kundendaten dürfen nicht für KI-Training genutzt werden.
- UAL3: Nur EU-Bürger als Personal. Keine Kontrolle durch Drittstaaten – Ausnahmen nur per Kommissionsbeschluss.
- UAL4: Strengste Stufe für hochsensible Regierungsdaten. Volle EU-Kontrolle ohne Ausnahmen.
Branchenkenner rechnen damit, dass große US-Cloud-Anbieter die Stufen UAL3 und UAL4 kaum erreichen werden. Die Anforderungen an Unternehmenskontrolle und Staatsbürgerschaft des Personals sind zu streng.
Arbeitsmarkt und Sicherheit im Fokus
Die US-Gesetzesinitiative adressiert auch die wirtschaftlichen Folgen. Das Arbeitsministerium soll eine KI-Arbeitsmarkt-Forschungseinheit aufbauen, die 15 besonders automatisierungsgefährdete Berufe überwacht. Arbeitgeber müssten künftig offenlegen, ob KI bei Massenentlassungen eine Rolle spielt.
Eine Anhörung im US-Repräsentantenhaus am 7. Juni 2024 offenbarte wachsende Sorgen über „adversarial distillation“ – den Diebstahl von KI-Modellen durch Kriminelle. Experten berichteten, dass KI bereits genutzt wird, um Software-Sicherheitslücken schneller zu finden.
Zudem fordern führende KI-Entwickler und Virologen in einem offenen Brief ein bundesweites DNA-Synthese-Screening. Ihre Warnung: KI-Modelle könnten theoretisch bei der Erstellung biologischer Waffen helfen. Sie verlangen eine Pflicht, alle synthetischen Gensequenzen vor dem Versand mit Pathogen-Datenbanken abzugleichen.
