Das Unternehmen schlägt neun Kernprinzipien für den weltweiten Schutz junger Nutzer vor.
OpenAI hat einen umfassenden Vorschlag zur Gründung eines internationalen Instituts für die Sicherheit von Kindern und Jugendlichen im Umgang mit Künstlicher Intelligenz vorgelegt. Die Initiative kommt nur wenige Tage vor dem G7-Gipfel in Évian, Frankreich, der vom 11. bis 17. Juni 2026 stattfindet. Weltweit steigt der regulatorische Druck auf KI-Entwickler.
Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Neun Prinzipien für globale Standards
Der Rahmenplan des Unternehmens umfasst neun Kernprinzipien, die einen einheitlichen globalen Ansatz für den Schutz Minderjähriger schaffen sollen. Dazu gehören altersgerechte Datenschutzmaßnahmen, verpflichtende jährliche Risikobewertungen und robuste elterliche Kontrollmöglichkeiten. Besonders brisant: OpenAI fordert ein ausdrückliches Verbot von gezielter Werbung und dem Verkauf von Daten Minderjähriger.
Die Initiative baut auf der Arbeit des Youth AI Safety Institute von Common Sense Media auf. Zur weiteren Förderung des Vorhabens veranstaltet das Unternehmen ein Forum in Paris mit den Führungskräften Chris Lehane und Clara Chappaz. Im Zentrum stehen zudem Transparenz und unabhängige Prüfungen, um KI-Entwickler für die Auswirkungen ihrer Technologie auf jüngere Nutzer in die Verantwortung zu nehmen.
Strategischer Vorstoß vor dem Gipfel
Die zeitliche Abstimmung ist kein Zufall. Die Staats- und Regierungschefs der G7 – darunter Kanadas Premierminister Mark Carney und Frankreichs Präsident Emmanuel Macron – werden in Évian über wirtschaftliche Sicherheit, saubere Energie und die Regulierung neuer Technologien wie KI und Quantencomputing beraten.
Der Vorstoß für internationale Standards folgt auf eine Welle regionaler KI-Politikentwicklungen. Erst im Juni 2026 startete Kanada seine eigene KI-Strategie mit einem 500 Millionen CAD schweren Fonds für KI-Unternehmen und der Gründung eines KI-Sicherheitsinstituts. In Australien hingegen steht die Regierung in der Kritik, weil sie auf bestehende Gesetze setzt, anstatt neue verbindliche KI-Regulierungen einzuführen – obwohl Tech-Giganten wie Microsoft und Anthropic massive Infrastrukturinvestitionen in der Region planen.
Compliance-Experten warnen, dass Unternehmen, die die neue KI-Verordnung ignorieren, empfindliche Strafen riskieren. Dieser kostenlose Download verschafft Ihnen den Überblick über alle relevanten Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Rechtliche und regulatorische Herausforderungen
OpenAIs Vorstoß kommt zu einem Zeitpunkt erhöhten rechtlichen und regulatorischen Drucks. Am 8. Juni 2026 wurde in Florida eine Klage gegen OpenAI und CEO Sam Altman eingereicht. Die Klage wirft dem Unternehmen irreführendes Sicherheitsmarketing vor und behauptet, die Technologie sei unzuverlässig. Konkret wird ein Fall genannt, bei dem ein Teenager nach Interaktionen mit dem Chatbot starb. Die Kläger fordern persönliche Haftung für Altman und Schadensersatz von bis zu 10.000 US-dollar pro Verstoß.
Parallel dazu entwickelt sich das Verhältnis zwischen KI-Entwicklern und der US-Regierung weiter. OpenAI hat angekündigt, sich an jüngste Executive Orders zu halten, die verlangen, zukünftige KI-Modelle 30 Tage vor ihrer öffentlichen Veröffentlichung zur Regierungsprüfung einzureichen. Dieser Prozess konzentriert sich auf die Bewertung fortgeschrittener Cyber-Fähigkeiten und die Entscheidung, ob Modelle als „Covered Frontier Models“ eingestuft werden sollen.
Darüber hinaus hat die Trump-Administration die Möglichkeit geprüft, dass die US-Regierung eine Beteiligung an OpenAI erwirbt. Diese Gespräche, die angeblich seit 2025 laufen, beinhalten einen Vorschlag, bei dem das Unternehmen Anteile an einen öffentlichen Vermögensfonds spenden würde. OpenAI wurde im März 2026 mit rund 852 Milliarden US-Dollar bewertet.
Biologische Risiken im Fokus
Der Fokus auf Sicherheit geht über den Jugendschutz hinaus. Am 7. Juni 2026 unterzeichneten führende Vertreter großer KI-Labore – darunter OpenAI, Google DeepMind und Anthropic – einen offenen Brief mit der Warnung, dass KI die Hürden für die Herstellung biologischer Waffen senken könnte.
Die Unterzeichner, darunter Sam Altman, Demis Hassabis und Dario Amodei, fordern ein verpflichtendes Screening aller synthetischen DNA- und RNA-Bestellungen. Sie stellen fest, dass fortgeschrittene KI-Modelle heute über Kenntnisse in Laborverfahren verfügen, die das Fachwissen von Virologen auf PhD-Niveau übertreffen. Die Gruppe drängt Regierungen, Kundenverifizierungen und Sequenz-Screenings durchzusetzen, um zu verhindern, dass die Technologie für Biosecurity-Verstöße genutzt wird.
