Vor dem Inkrafttreten neuer regulatorischer Vorgaben warnt die Branche vor einem gravierenden Engpass bei der Überwachung fortschrittlicher KI-Modelle. Ein Mangel an qualifiziertem Fachpersonal bei unabhängigen Prüforganisationen bedroht die Wirksamkeit geplanter Aufsichtsmechanismen.
Wie Chris Painter, Präsident der Prüforganisation METR, betont, bilde nicht der Zugang zu den Modellentwicklern die zentrale Beschränkung für wirksame Kontrollen, sondern die unzureichende Personalkapazität der Prüfinstanzen selbst.
Prüfkapazitäten stoßen an Grenzen
Zu den bisher im Markt aktiven Prüforganisationen zählen neben METR unter anderem AVERI, Redwood Research, FAR.AI, RAND und SecureBio. Dass die Kooperation mit den KI-Laboren grundsätzlich möglich ist, zeigte sich im Oktober: Zu diesem Zeitpunkt gewährte der Entwickler Anthropic sechs Mitarbeitern von METR einen Zugang zu internen Systemen, der dem eigener Angestellter glich.
Dennoch binden derartige Verfahren erhebliche Ressourcen. Nat Purser, Politikdirektor bei AVERI, bezeichnete kontinuierliche Prüfungen als eine überaus arbeitsintensive Anforderung. Zugleich stellte Purser klar, dass diese Aufgabe keineswegs unüberwindbar sei.
Gesetzesinitiativen im Spannungsfeld
Die personellen Engpässe treffen auf eine wachsende Zahl gesetzgeberischer Vorstöße in den USA. In Massachusetts sieht der Gesetzentwurf des Mass Wins Act, der sich derzeit im Vermittlungsausschuss befindet, jährliche Compliance-Prüfungen sowie unabhängige Bewertungen von Katastrophenrisiken etwa alle vier Monate vor. Die Organisation Encode bewertet diesen Entwurf als weitreichender als jede derzeit geltende Regulierung zur KI-Sicherheit.
In Kalifornien tritt am 1. Januar 2027 mit der Gesetzesinitiative SB 813 ein Rahmenwerk für unabhängige Prüforganisationen in Kraft, das Kriterien für deren staatliche Benennung definiert. Allerdings fehlen für dieses Modell bislang konkrete Durchsetzungsleitlinien bezüglich kapazitätsbedingter Prüffristen.
Wer sich mit der steigenden Zahl an regulatorischen Vorgaben für künstliche Intelligenz befasst, benötigt eine klare Übersicht über geltende Pflichten und Fristen. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen die notwendige Orientierung zu Risikoklassen und Dokumentationspflichten. EU AI Act in 5 Schritten verstehen
Auf Ebene der Bundesstaaten zeigen sich uneinheitliche Entwicklungen: Während Illinois im Juli ein Prüfregime entgegen vorherigen Zusagen verabschiedete, strich New York die Pflicht zu Prüfungen durch unabhängige Dritte vor der Unterzeichnung des RAISE Act aus dem Gesetzestext.
Auf US-Bundesebene verlangt der von den Abgeordneten Jay Obernolte und Lori Trahan eingebrachte FRONTIER Act unabhängige Drittprüfungen für große Entwickler hochentwickelter KI-Modelle. Eine Verabschiedung gilt im derzeitigen Kongress jedoch als unwahrscheinlich.
Parallel dazu arbeiten die Abgeordneten Sara Jacobs und Don Beyer an einem separaten Gesetzesvorhaben, das gezielt den Aufbau von Kapazitäten bei Prüforganisationen fördern soll; der entsprechende Text liegt bislang noch nicht vor.
Widerstand aus der Softwarebranche
Aus der IT-Wirtschaft regt sich unterdessen deutlicher Vorbehalt gegen starre Vorgaben. Paul Lekas, geschäftsführender Vizepräsident der Software & Information Industry Association, warnte vor der Einführung verpflichtender Prüfungen durch externe Dritte vor einer Modellveröffentlichung.
Die neuen Regeln für KI-Systeme stellen viele Verantwortliche vor komplexe Fragen zur rechtssicheren Dokumentation und Qualitätssicherung. Erfahren Sie in diesem kostenlosen Report, welche konkreten Anforderungen die KI-Verordnung an Unternehmen stellt. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Lekas gab zu bedenken, dass die Industrie solche externen Prüfer ablehnen werde. Der Hauptgrund liege darin, dass eine solche Pflicht Anforderungen vorschreiben würde, die zum gegenwärtigen Zeitpunkt weder robust noch einheitlich durchführbar seien.