Die Europäische Kommission hat am 17. September 2026 den Entwurf für eine Verordnung unter dem Namen „EU KIDS Act“ vorgelegt. Das Gesetzesvorhaben zielt darauf ab, den Schutz von Kindern und Jugendlichen im digitalen Raum grundlegend zu verschärfen.
Im Fokus stehen dabei insbesondere KI-Begleiter, interaktive Chatbots sowie große Online-Plattformen. Die Verordnung ist bislang nicht verabschiedet; die Verhandlungen mit dem Europäischen Parlament und den Mitgliedstaaten der Europäischen Union stehen noch aus.
Strikte Schranken für künstliche Intelligenz
Der Verordnungsentwurf sieht weitreichende Vorgaben für KI-basierte Anwendungen vor. Auf Social-Media- und Videodiensten sollen KI-Begleiter sowie Chatbots für Nutzer unter 18 Jahren standardmäßig deaktiviert bleiben. Für Kinder unter 13 Jahren ist je nach Ausgestaltung ein vollständiges Verbot oder ein Zugang ausschließlich unter elterlicher Kontrolle vorgesehen.
Zudem dürfen Chatbots keine affektive Abhängigkeit bei Minderjährigen simulieren. Anbieter müssen das Langzeitgesprächsgedächtnis der Systeme bei minderjährigen Nutzern abschalten und emotionale Bindungen gezielt begrenzen.
Darüber hinaus untersagt der Entwurf den standardmäßigen Zugriff auf den Gesprächsverlauf Minderjähriger, sofern keine sicherheitsrelevanten Gründe vorliegen. Vor einer Markteinführung wird eine Risikobewertung verlangt. Die Pflichten zur Begrenzung von Bindungseffekten richten sich auch an kleinere Anbieter.
Sehr kleine Unternehmen sollen hingegen von bestimmten Überwachungspflichten ausgenommen werden. Weitere Ausnahmen sind unter anderem für Online-Enzyklopädien, Bildungsplattformen und öffentliche Netzwerke vorgesehen. Die Regelungen gelten ebenso für Videospiele sowie für KI-Chatbots, die persönliche oder psychologische Ratschläge erteilen.
Umfassende Schutzstandards für Online-Dienste
Neben KI-Systemen adressiert der Verordnungsentwurf soziale Netzwerke, Video-Plattformen, Online-Spiele und App-Stores über gemeinsame Vorgaben nach dem Prinzip der Sicherheit „by design“. Bei großen Plattformen sieht die Kommission eine Beweislastumkehr vor.
Der neue EU AI Act stellt Unternehmen, die KI-Systeme nutzen oder entwickeln, vor komplexe Herausforderungen bezüglich Risikoklassen und Dokumentationspflichten. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen und Pflichten, den Ihre Fachabteilungen jetzt dringend benötigen. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Für die eigenständige Eröffnung eines Profils in sozialen Medien ist ein Mindestalter von 15 Jahren vorgesehen. Jugendliche zwischen 13 und 15 Jahren dürfen Konten demnach nur unter elterlicher Aufsicht führen, während unter 13-Jährigen der Zugang gänzlich verwehrt bleiben soll.
Zudem untersagt der Entwurf manipulative Mechanismen wie Endlos-Scrollen, Autoplay-Funktionen, manipulative Benachrichtigungen und Belohnungssysteme. Minderjährigen-Konten müssen automatisch auf privat gestellt sein, um direkte Kontaktaufnahmen durch Unbekannte zu verhindern. Profilbasierte Werbung und personalisierte Empfehlungen sind standardmäßig abzuschalten.
Die Notwendigkeit einheitlicher Regelungen unterstreichen unter anderem Erhebungen zur Mediennutzung: Laut EU Kids Online 2025 nutzten 45 Prozent der Kinder im Alter von 9 bis 12 Jahren und 83 Prozent der Jugendlichen im Alter von 13 bis 15 Jahren in Portugal ein eigenes Profil in sozialen Medien.
Compliance-Experten warnen davor, die Tragweite der neuen KI-Regulierungen zu unterschätzen, da bei Verstößen empfindliche Strafen drohen. Nutzen Sie den kostenlosen Report zum EU AI Act, um alle relevanten Übergangsfristen und Anforderungen rechtzeitig in Ihre Unternehmensprozesse zu integrieren. Gratis-Umsetzungsleitfaden zum EU AI Act sichern
Verifikation und Durchsetzung
Zur Durchsetzung der Altersgrenzen setzt der Entwurf auf verpflichtende, EU-zertifizierte und plattformunabhängige Verifikationsmechanismen anstelle einfacher Selbsterklärungen. In der Diskussion befindet sich unter anderem eine europäische Altersverifikations-App, die ohne die dauerhafte Speicherung von Ausweisdaten oder biometrischen Merkmalen auskommen soll.
Die Durchsetzung der Vorgaben soll an die Mechanismen des Digital Services Act (DSA) sowie des AI Act anknüpfen. Als Sanktionen stehen Geldbußen im Raum, die sich möglicherweise am weltweiten Umsatz bemessen, was jedoch noch final bestätigt werden muss. Bei einem planmäßigen Verlauf der anstehenden Gesetzgebungsverfahren hält die Kommission ein Inkrafttreten der Verordnung im 1. Quartal 2028 für theoretisch möglich.