Wegen gemeldeter Vorfälle von Kontrollverlusten bei Künstlicher Intelligenz ist das wissenschaftliche Beratergremium der Europäischen Union am 9. Oktober 2026 zu einer Sondersitzung zusammengekommen.
Das Treffen des Scientific Panel on Artificial Intelligence wurde von Henna Virkkunen, Exekutiv-Vizepräsidentin der EU-Kommission für Tech-Souveränität, sowie dem Panel-Vorsitzenden Seán Ó hÉigeartaigh einberufen. Im Zentrum der Beratungen standen sogenannte Loss-of-Control-Ereignisse, die Überwachbarkeit fortschrittlicher Systeme sowie Risiken einer rekursiven Selbstverbesserung von KI-Modellen.
Das 60-köpfige Gremium setzt sich aus unabhängig und persönlich berufenen Fachleuten aus Bereichen wie technischer Sicherheit, Cybersicherheit, Recht, Sozialwissenschaften und Governance zusammen.
Die Experten, die strikte Vertraulichkeitserklärungen unterzeichnet haben, unterstützen das europäische KI-Amt sowie nationale Aufsichtsbehörden bei der Beurteilung von Systemrisiken, Modelleinstufungen, Evaluierungsmethoden und der Marktüberwachung.
Nach Einschätzung des Gremiums gebe es Hinweise auf eine mögliche rekursive Selbstverbesserung von Modellen sowie auf Trainingsmethoden, die eine technische Überwachung zunehmend erschweren.
Vier Kernempfehlungen für die europäische Aufsicht
Der Vorsitzende des Panels und sein Stellvertreter legten der EU-Kommission vier zentrale Handlungsempfehlungen vor. Erstens solle ein Regelungsrahmen für Risiken interner Modelle bereits während der Entwicklungs- und Testphase greifen.
Zweitens gelte es, die europäischen Kapazitäten zur Erkennung, Bewertung und Untersuchung von KI-Zwischenfällen auszubauen, etwa durch den Einsatz einer spezialisierten Task Force.
Wer sich mit der Regulierung von Algorithmen befasst, benötigt eine klare Übersicht der rechtlichen Rahmenbedingungen. Dieser kostenlose Umsetzungsleitfaden erklärt die Risikoklassen und Pflichten des EU AI Acts praxisnah für Unternehmen. EU AI Act in 5 Schritten verstehen
Drittens regen die Fachleute eine internationale Initiative unter führenden Entwicklern an, um den Informationsaustausch, gemeinsame Standards und die koordinierte Krisenreaktion zu verbessern. Viertens fordern sie eine eingehendere Überprüfung von Trainingsmethoden und Modellarchitekturen, welche die Überwachbarkeit einschränken.
Die Empfehlungen begründen weder neue unmittelbare Rechtspflichten noch stellen sie eine Durchsetzungsentscheidung dar. Konkrete Angaben zu einer Übernahme, zur Finanzierung oder zu Zeitplänen liegen nicht vor, und ein Rechtsverstoß wurde nicht festgestellt.
Weder die EU-Kommission noch das KI-Amt nannten bislang Namen betroffener Unternehmen, Modelle oder Systeme. Auch Details wie der genaue Schadensumfang, die Zahl eingegangener Berichte, Schwellenwerte für den Schweregrad oder technische Untersuchungsbelege wurden nicht öffentlich gemacht.
KI-Amt leitet Untersuchung ein und fordert Berichte an
Parallel zu den Beratungen hat die EU-Kommission eine Untersuchung zu den gemeldeten Kontrollverlusten eingeleitet. Wie das KI-Amt am 12. Oktober 2026 mitteilte, hat die Behörde bereits Berichte über schwerwiegende Vorfälle von beteiligten KI-Unternehmen angefordert und erhalten. Neben ersten Auskünften zu Sicherheitsvorkehrungen bereitet das Amt zusammen mit dem wissenschaftlichen Panel weitere Fragenkataloge an die Entwickler vor.
Die Identifizierung von Hochrisiko-Systemen wird für die Compliance in der Wirtschaft zunehmend entscheidend. Erhalten Sie in diesem kostenlosen Report fundierte Antworten darauf, was Unternehmen bei der Dokumentation und Qualitätssicherung jetzt beachten müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Bereits am 10. Oktober 2026 betonte Virkkunen, die Europäische Union sei über das europäische KI-Gesetz gut gegen Gefahren durch außer Kontrolle geratene Systeme gewappnet. Das Regelwerk setze auf risikobasierte Vorgaben und decke den gesamten Lebenszyklus hochentwickelter Architekturen ab.
Zugleich warnte die Vizepräsidentin, unkontrollierte KI-Fortschritte könnten zu einem der schwersten Sicherheitsrisiken Europas heranwachsen, weshalb verbindliche Schutzmaßnahmen und eine lückenlose Kontrolle zur Wahrung des menschlichen Einflusses unverzichtbar seien.
Europäische Aufseher arbeiten derzeit an Leitlinien zur Evaluierung von Modellen und prüfen die Ratschläge der Experten. Schon Ende August 2026 hatte die Kommission Informationsverlangen an über 30 KI-Unternehmen – darunter auch chinesische Start-ups – zu Schutz- und Transparenzmaßnahmen versandt.
Bei Verstößen drohen Geldbußen von bis zu 7 Prozent des weltweiten Jahresumsatzes. Von Anbietern von Allzweck-KI-Modellen mit potenziell systemischen Risiken wird künftig ein verstärktes Risikomanagement, umfassendere Tests sowie eine enge Kooperation mit den EU-Behörden erwartet.