Zwei zentrale wissenschaftliche Beratungsgremien der Europäischen Union verlangen eine grundlegende Neuausrichtung bei der Überprüfung fortschrittlicher Systeme künstlicher Intelligenz.
In einer gemeinsamen Stellungnahme an die Europäische Kommission betonen die aus sieben unabhängigen Experten bestehende Group of Chief Scientific Advisors sowie die European Group on Ethics in Science and New Technologies, dass traditionelle Leitplanken für moderne Systeme nicht mehr ausreichen.
Die Technologie erfordere stattdessen eine erhöhte Wachsamkeit und wirksame Schutzmaßnahmen. Konkret drängen die Gremien darauf, eine eigenständige europäische Kapazität zur Modellbewertung aufzubauen, anstatt diese Kontrollaufgaben an kommerzielle Entwickler zu übertragen.
Vier Kernempfehlungen für die künftige Governance
Die gemeinsame Erklärung der Berater umfasst vier zentrale Empfehlungen für den Umgang mit der Technologie. Erstens müssten bestehende Regeln konsequent durchgesetzt werden, wobei Sicherheit, Security und menschliche Handlungsfähigkeit als zwingende Grundvoraussetzungen gelten sollten.
Zweitens empfehlen die Experten, das Entwicklungs- und Einsatztempo künftiger Modelle direkt an das jeweilige Gefahrenpotenzial zu koppeln. Drittens gelte es, eine unabhängige europäische Evaluationsinfrastruktur zu schaffen, um die Beurteilung von Risiken nicht der Industrie selbst zu überlassen. Viertens fordern die Fachleute die Etablierung eines verlässlichen Ökosystems für Sicherheit und kontinuierliches Lernen.
Während die EU-Beratergremien neue Schutzmaßnahmen fordern, müssen Unternehmen bereits heute die geltenden Anforderungen an KI-Systeme rechtssicher umsetzen. Dieser kompakte Überblick hilft dabei, die wichtigsten Fristen und Pflichten der neuen Verordnung sofort zu verstehen. EU AI Act in 5 Schritten verstehen: Jetzt kostenlosen Leitfaden sichern
Ergänzend formulieren die Gremien Governance-Prinzipien, die insbesondere die Stärkung wissenschaftlich-technischer Expertise, eine gemeinsame Evaluationsinfrastruktur sowie das Ziel einer technologischen Souveränität umfassen. Testmethoden müssten dynamisch mit der technischen Entwicklung Schritt halten. Um dies zu gewährleisten, sei ein belastbares Netzwerk aus Institutionen und Experten erforderlich.
Warnung vor Aufweichung bestehender Vorgaben
Ein deutlicher Schwerpunkt der Stellungnahme liegt auf den Risiken bei der Durchsetzung bereits beschlossener Regeln. Die Expertengruppen warnen davor, dass ein Mangel an politischem Engagement oder unzureichende institutionelle Kapazitäten bestehende Pflichten gefährden könnten.
Ebenso sehen sie Gefahren durch externe Versuche, gesetzliche Vorgaben zu verzögern oder abzuschwächen. Für die praktische Umsetzung sei entscheidend, dass Menschen weiterhin die tatsächliche Aufsicht und echte Entscheidungsbefugnisse über automatisierte Systeme behalten.
Die Debatte um die Einstufung von KI-Systemen zeigt, wie komplex die rechtliche Einordnung von Hochrisiko-Anwendungen in der Praxis wirklich ist. Dieser kostenlose Report klärt auf, welche konkreten Schritte für eine lückenlose Dokumentation und Compliance jetzt notwendig sind. Kostenlosen Umsetzungsleitfaden zum EU AI Act hier herunterladen
Beratendes Mandat im regulatorischen Kontext
Das Papier wurde unter dem Titel „The next phase of artificial intelligence: governing for safety, security and human agency“ vorgelegt. Es handelt sich dabei um ein kürzeres Format als eine reguläre Scientific Opinion, das auf spezifische technische Schwellenwerte verzichtet.
Die Erklärung stellt weder eine unmittelbare Änderung bestehender Regeln noch eine neue Gesetzgebung dar, sondern fungiert als strategische Beratung für die Europäische Kommission. Die Generaldirektion Forschung und Innovation der EU-Kommission begleitete die Vorlage mit einer Mitteilung, welche die Kernforderungen nach erhöhter Wachsamkeit und greifbaren Schutzmaßnahmen aufgriff.
Inhaltlich knüpft der Vorstoß an mehrere bestehende und geplante EU-Rahmenwerke an. Die Berater beziehen sich in ihrer Einordnung unter anderem auf den AI Act (Regulation (EU) 2024/1689), den für das Jahr 2025 vorgesehenen Praxisleitfaden für universelle KI-Modelle sowie den vorgeschlagenen Cloud and AI Development Act COM(2026) 502 final.

