Die Europäische Kommission hat mit neuen Leitlinien klargestellt, wie autonome Software-Agenten unter dem EU AI Act rechtlich zu bewerten sind. Da der Begriff des KI-Agenten keine eigenständige Legaldefinition im Gesetzestext darstellt, werden entsprechende Anwendungen in der Regel als gewöhnliche KI-Systeme eingestuft, die mitunter auf Modellen mit allgemeinem Verwendungszweck (GPAI) aufbauen.
Maßgeblich für die rechtliche Einordnung sind der konkrete Verwendungszweck, die daraus resultierende Risikoklassifizierung sowie die spezifische Rolle der jeweiligen Organisation in der Wertschöpfungskette.
Die Kommission hält dabei fest, dass ein hohes Maß an Autonomie sowie der Zugriff auf externe Werkzeuge und Schnittstellen allein noch kein Hochrisiko und auch kein systemisches Risiko begründen. Entscheidend bleibt das jeweilige Einsatzfeld.
Pflichtenverteilung entlang der Wertschöpfungskette
Besondere Bedeutung kommt nachgelagerten Akteuren zu. Nach Artikel 25 des AI Act wird ein nachgelagerter Anwender oder Entwickler rechtlich selbst zum Anbieter eines Systems, wenn er ein bestehendes System unter eigenem Namen oder eigener Marke in Verkehr bringt, wesentliche Veränderungen daran vornimmt oder den Verwendungszweck so modifiziert, dass das System neu als Hochrisiko-KI eingestuft wird.
Wird ein KI-Agent als Hochrisikosystem eingestuft, treffen die Anbieter umfangreiche Pflichten. Dazu zählen ein strukturiertes Risikomanagement, Vorgaben zur Daten-Governance, die Erstellung technischer Dokumentationen, automatisierte Protokollierungen sowie Konformitätsbewertungsverfahren und eine kontinuierliche Marktbeobachtung nach dem Inverkehrbringen.
Wer KI-Systeme entwickelt oder im Unternehmen einsetzt, muss die neuen rechtlichen Rahmenbedingungen und Risikoklassen genau kennen. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Betreiber solcher Systeme müssen wiederum für menschliche Aufsicht sorgen, Nutzungshinweise einhalten, den laufenden Betrieb überwachen und relevante Systemprotokolle aufbewahren.
Fristen und Transparenzanforderungen
Die allgemeinen Transparenzvorgaben nach Artikel 50 finden bereits seit dem 2. August 2026 Anwendung. Spezifische Markierungs- und Erkennungspflichten für Systeme, die vor diesem Stichtag auf den Markt gebracht wurden, müssen gemäß Artikel 50 Absatz 2 bis zum 2. Dezember 2026 umgesetzt sein.
Für Hochrisikosysteme greifen die Verpflichtungen gestaffelt: Nach Anhang III eingestufte Systeme müssen die Vorgaben ab dem 2. Dezember 2027 erfüllen, während für Hochrisiko-Komponenten in regulierten Produkten nach Anhang I eine Frist bis zum 2. August 2028 gilt.
Zuvor traten bereits am 2. Februar 2025 Verbote besonders riskanter Praktiken sowie Pflichten zur KI-Kompetenz in Kraft, gefolgt von Regeln für Basiseinheiten und Allzweckmodelle am 2. August 2025. Der sogenannte Digital Omnibus trat am 27. Juli 2026 in Kraft und modifizierte gezielt die Umsetzungsfristen für Hochrisikosysteme.
Compliance-Experten warnen davor, die neue KI-Verordnung und ihre komplexen Übergangsfristen zu ignorieren, um empfindliche Strafen zu vermeiden. Erhalten Sie jetzt den kostenlosen Umsetzungsleitfaden zum EU AI Act mit allen relevanten Details für Ihr Unternehmen. Kostenlosen Umsetzungsleitfaden zum EU AI Act hier herunterladen
EU-Tech-Kommissarin Henna Virkkunen unterstrich in diesem Zusammenhang, dass der AI Act die Sicherheitsrisiken besonders leistungsfähiger Modelle über deren gesamten Lebenszyklus erfasse. Dies schließe auch Szenarien ein, in denen autonome Agenten unkontrolliert agieren.
Die erarbeiteten Leitlinien stützen sich auf Empfehlungen von 60 Fachexperten. Zudem forderte die Kommission Ende August von mehr als 30 KI-Unternehmen Sicherheitsinformationen an, deren Auswertung derzeit läuft.
Auch nationale Aufsichtsbehörden mahnen zur Vorsicht. Laut einem Bericht vom 28. Oktober 2026 empfiehlt die spanische Datenschutzbehörde AEPD klare Aufgabenbegrenzungen und Speicherfristen für KI-Assistenten. Da Agenten sensible Informationen aus E-Mails, Terminkalendern und Fotobeständen Dritter verarbeiten könnten, dürfe die Verantwortung für Datenschutz- und Löschroutinen nicht allein den Endnutzern überlassen werden.