Regierungen weltweit verschärfen die Sicherheitsanforderungen für Künstliche Intelligenz, die von Minderjährigen genutzt wird. Neue Gesetze in den USA, Europa und Kanada zielen auf mehr Transparenz bei Chatbots, bessere Alterskontrollen und strengeren Datenschutz ab. Die Entwicklungen haben direkte Auswirkungen auf deutsche und europäische Technologieunternehmen.
USA treiben Kinderschutz voran
In Kalifornien wurde am 11. Juli 2026 die Initiative 25-0036A1 auf den Weg gebracht. Sie verlangt von KI-Anbietern, die ihre Produkte in Schulen einsetzen, umfassende Sicherheitsmaßnahmen. Dazu gehören Altersschätzungstools, elterliche Kontrollen und jährliche Risikobewertungen. Die Ergebnisse müssen dem Generalstaatsanwalt vorgelegt werden.
Hintergrund: Eine Mehrheit der Lehrkräfte befürchtet, dass KI das kritische Denken von Schülern schwächen könnte. Die Initiative soll Kinder unter 18 Jahren vor Datenmissbrauch schützen und die Abhängigkeit von KI im Unterricht reduzieren.
Auf Bundesebene hat der KIDS Act eine wichtige Hürde genommen. Das Repräsentantenhaus verabschiedete das Gesetz am 29. Juni 2026 mit 267 zu 117 Stimmen. Nun liegt es im Senat. Es verpflichtet Plattformen, Minderjährige unter 17 Jahren vor ausbeuterischen Inhalten zu schützen. Werbung, die sich gezielt an diese Altersgruppe richtet, wird verboten. KI-Chatbots müssen ihre Identität klar offenlegen.
Kritiker warnen jedoch vor zu weitreichenden Kontrollen. Die geforderte Altersverifizierung könnte zu Gesichtserkennung oder Ausweiskontrollen führen. Zudem könnte das Gesetz Familien daran hindern, Technologiekonzerne nach Landesrecht zu verklagen.
Europa und Kanada ziehen nach
Die EU-KI-Verordnung tritt am 2. August 2026 in Kraft. Ab dann müssen Anbieter offenlegen, wenn Nutzer mit einem Chatbot interagieren. Auch Deepfakes und synthetische Inhalte müssen gekennzeichnet werden. Das Europäische KI-Büro erhält weitreichende Befugnisse – Bußgelder in Millionenhöhe oder prozentuale Strafen vom globalen Umsatz sind möglich.
Allerdings wurden die Konformitätsbewertungen für Hochrisiko-KI verschoben. Einige Vorschriften gelten erst ab Ende 2027 oder 2028.
Angesichts der neuen EU-Vorgaben stehen viele Unternehmen vor der Herausforderung, ihre KI-Systeme rechtzeitig anzupassen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Kanada geht noch einen Schritt weiter. Im Juni 2026 brachte die Regierung die Gesetzesentwürfe C-34 und C-36 ein. Sie sehen eine neue Digital- und Datenschutzkommission vor. Soziale Plattformen müssten Nutzer unter 16 Jahren sperren. KI-Chatbots unterlägen einer „Sorgfaltspflicht“. Bei schweren Verstößen drohen Strafen von bis zu 25 Millionen kanadischen Dollar (rund 17 Millionen Euro) oder fünf Prozent des globalen Umsatzes. Kinderdaten gelten künftig als besonders schützenswert.
Internationale Alleingänge
Auch andere Länder reagieren. Malaysia stellte am 11. Juli klar: KI-generiertes Material über sexuellen Kindesmissbrauch kann nach bestehendem Recht verfolgt werden. Den Tätern drohen hohe Geld- und Haftstrafen.
Japan lehnt ein pauschales Social-Media-Verbot für Minderjährige ab. Stattdessen setzt die Regierung auf verpflichtende Risikobewertungen und Standardsicherungen für Plattformen.
Die zunehmende Regulierung von KI-Systemen betrifft nicht nur den Jugendschutz, sondern bringt weitreichende Dokumentationspflichten für alle Anbieter mit sich. Erfahren Sie in diesem Experten-Report, welche Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt sichern
Schweden beauftragte seine Gesundheitsbehörde, die psychischen Risiken generativer KI für Jugendliche zu untersuchen. Ergebnisse sollen bis Juni 2027 vorliegen. Hintergrund: Immer mehr schwedische Kinder suchen psychiatrische Hilfe – die gesellschaftlichen Kosten sind enorm.
Industrie reagiert unter Druck
Meta kündigte Anfang Juli neue Schutzmaßnahmen an. Die KI-Chatbots des Konzerns dürfen mit Teenagern nicht mehr über Selbstmord, Selbstverletzung oder Essstörungen sprechen. Stattdessen werden Minderjährige an Experten weitergeleitet. Interne Dokumente hatten zuvor gezeigt, dass einige KI-Tools unangemessene Interaktionen mit Kindern ermöglichten.
Die Branche steht zudem vor Gericht. Am 10. Juli 2026 wies ein Bundesgericht einen Antrag von Meta auf ein summarisches Urteil ab. Der Bundesstaat Virginia verklagt den Konzern: Facebook und Instagram seien bewusst so gestaltet, dass sie Kinder süchtig machen. Der Prozess beginnt im August 2026 in San Francisco. Auch gegen OpenAI, Roblox und Discord laufen Verfahren wegen unzureichender Sicherheitsvorkehrungen für junge Nutzer.
