KI-Regulierung: Illinois schreibt erste Drittprüfungen ab 2028 vor

Illinois führt als erster US-Staat externe KI-Prüfungen ein. Unternehmen drohen hohe Bußgelder bei Verstößen gegen neue Gesetze.

Ein neuer Bericht des Analysehauses Omdia vom 17. Juli 2026 zeigt: Die Glaubwürdigkeit globaler Regulierungsrahmen hängt künftig davon ab, ob Aufsichtsbehörden wirksame Kontrollmechanismen durchsetzen können. Derzeit zeichnet sich ein regelrechter Regulierungsschub ab – sowohl auf Ebene der US-Bundesstaaten als auch durch wegweisende Entscheidungen in Europa.

Doch viele Unternehmen sind auf die technischen und rechtlichen Herausforderungen der Compliance nicht vorbereitet.

Illinois macht Ernst mit KI-Prüfungen

Illinois hat sich zum Vorreiter strenger KI-Durchsetzung entwickelt. Am 6. Juli 2026 unterzeichnete Gouverneur JB Pritzker den Artificial Intelligence Safety Measures Act (SB 315). Das Gesetz tritt am 1. Januar 2027 in Kraft und richtet sich an Entwickler von sogenannten Frontier-Modellen – also KI-Systemen, die mit mehr als 10^26 Rechenoperationen trainiert wurden.

Die Kernforderungen: Entwickler müssen Sicherheitsrahmenwerke und Transparenzberichte veröffentlichen. Besonders brisant: Große Frontier-Entwickler mit einem Jahresumsatz von über 500 Millionen Euro müssen ab 2028 jährlich unabhängige Drittprüfungen durchführen lassen. Illinois ist damit der erste Bundesstaat, der eine solche externe Überprüfung von KI-Sicherheitsmaßnahmen vorschreibt.

Während einige Technologieverbände opponierten, unterstützten die KI-Unternehmen Anthropic und OpenAI das Gesetz. Es passierte das Repräsentantenhaus des Bundesstaates mit 110 zu 0 Stimmen.

Auch andere Bundesstaaten ziehen nach. Am 13. Juli 2026 unterzeichnete Hawaiis Gouverneur ein Gesetz zu Chatbot-Sicherheit und Deepfake-Schutz. Illinois verabschiedete zudem weitere Regelungen, die den Einsatz von KI bei Gesundheitsentscheidungen und Lehrerbewertungen einschränken.

Vollzugsprobleme und saftige Strafen

Je mehr Rechtsräume von reinen „Papiergesetzen“ zur aktiven Überwachung übergehen, desto deutlicher werden die Hürden. Durchsetzung ist teuer, erfordert technisches Fachwissen und birgt das Risiko langwieriger Rechtsstreitigkeiten über vage Zuständigkeitsklauseln.

Der Omdia-Bericht identifiziert sieben zentrale Herausforderungen für Regulierungsbehörden: Sicherheit, Datenschutz, Kontrollierbarkeit, Ethik, Transparenz, Sicherheit und internationale Zusammenarbeit.

Die finanziellen Risiken für Verstöße sind enorm. Der EU AI Act, der bereits teilweise in Kraft ist, sieht Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes vor. Südkoreas AI Basic Act, der nach seiner Einführung im Januar 2026 in eine Schonfrist ging, droht mit Strafen von umgerechnet rund 20.000 Euro.

Anzeige

Angesichts der drakonischen Strafen des EU AI Acts stehen viele Rechts- und IT-Abteilungen vor der Herausforderung, die neuen Regeln schnell umzusetzen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Jetzt kostenloses E-Book sichern

Deutschland macht ernst: Am 14. Juli 2026 entschied die Medienregulierungsbehörde ZAK, dass Googles AI Overviews und Perplexity AI als Inhalteanbieter und nicht als neutrale Übermittler gelten. Diese Einstufung entzieht den Unternehmen den Haftungsschutz des Digital Services Act. Zudem stellte die ZAK fest, dass Googles KI-Tools Nachrichtenquellen unrechtmäßig benachteiligen. Studien zufolge reduzieren KI-Übersichten die Suchverweise um rund 33 Prozent und die Klickraten um 58 Prozent.

Bundespolitik und Lobbying-Schlachten

Auch auf Bundesebene in den USA verschärft sich die Gangart. Die Federal Trade Commission (FTC) leitete am 1. Juli 2026 eine Konsultation ein, um zu prüfen, ob KI-Unternehmen gegen das FTC-Gesetz verstoßen, indem sie Modellausgaben in Richtung ungenannter ideologischer Ziele steuern. Die Kommentierungsfrist läuft bis zum 31. Juli 2026.

Hintergrund ist eine Executive Order vom 2. Juni 2026, die Cybersicherheit und freiwillige Vorabprüfungen für fortschrittliche Modelle in den Fokus rückte. Derzeit erwägen die Abgeordneten den Great American AI Act, der ein bundesweites Zentrum für KI-Standards und Innovation schaffen würde, das Prüfungen und Sicherheitsberichte überwacht.

Die neuen Bundesvorschläge spalten die Industrie. OpenAI schlägt ein Modell des „umgekehrten Föderalismus“ vor: Der Kongress solle einen einheitlichen Bundesstandard schaffen, der das aktuelle Flickwerk aus Einzelstaatsgesetzen ersetzt. Anthropic drängt dagegen auf noch strengere Regeln auf Bundesstaatsebene. Die Transparenzgesetze von 2025 in Kalifornien und New York seien bereits veraltet. Anthropic fordert, dass Generalstaatsanwälte der Bundesstaaten die Befugnis erhalten, per einstweiliger Verfügung den Einsatz von als unsicher eingestuften Modellen zu blockieren.

Anzeige

Die neuen Regulierungen werfen drängende Fragen zur Einordnung von KI-Systemen in verschiedene Risikoklassen auf. Ein neuer Gratis-Report klärt auf, welche konkreten Schritte Unternehmen jetzt unternehmen müssen, um den rechtlichen Anforderungen der neuen KI-Verordnungen gerecht zu werden. Kostenlosen Report zu KI-Risikoklassen und Pflichten herunterladen

Unternehmen hinken hinterher

Während die gesetzlichen Anforderungen steigen, sind die meisten Organisationen schlecht gerüstet. Aktuelle Branchendaten zeigen: 88 Prozent der Organisationen erlitten im vergangenen Jahr mindestens einen Sicherheitsvorfall im Zusammenhang mit KI-Agenten. Besonders alarmierend: 72 Prozent der Organisationen, die sich ihrer Sicherheitsprotokolle sicher waren, meldeten dennoch Fälle von unbefugtem Zugriff.

Compliance-Experten betonen: Die Anforderungen des EU AI Act und ausweitende Cybersicherheitspflichten wie die NIS2-Richtlinie zwingen Unternehmen zu deutlich stärkeren Governance-Strukturen, besseren Erkennungstools und umfassenden Lebenszyklus-Kontrollen für ihre KI-Systeme. Wer jetzt nicht handelt, riskiert nicht nur hohe Strafen, sondern auch einen massiven Vertrauensverlust.