Aktuelle Berichte belasten den KI-Entwickler OpenAI im Zusammenhang mit der Sicherheit seines kommenden Modells GPT-5. Dem Unternehmen wird vorgeworfen, interne Risikobewertungen bezüglich der Gefahr durch biologische Waffen vor der geplanten Veröffentlichung herabgestuft zu haben. Diese Entwicklung stößt angesichts der potenziellen Missbrauchsmöglichkeiten der Technologie auf erhebliche Bedenken bei Experten und Gesetzgebern.
Interne Warnungen und anschließende Neuklassifizierung
Den vorliegenden Informationen zufolge stufte OpenAI das Modell GPT-5 im Sommer 2025 intern als hochriskant im Bereich biologischer Gefahren ein. Interne Dokumentationen sollen belegen, dass die KI in der Lage war, Nutzer bei der Erstellung von Schritt-für-Schritt-Anleitungen zur Produktion biologischer Waffen zu unterstützen. Trotz dieser Erkenntnisse habe das Unternehmen die Risikoklassifizierung im Herbst 2025 stillschweigend herabgestuft.
Weder die Öffentlichkeit noch die zuständigen Strafverfolgungsbehörden seien über diese Änderung oder die ursprünglichen Befunde informiert worden. Kritiker weisen in diesem Zusammenhang auf das sogenannte „Preparedness Framework“ von OpenAI hin. Dieses Regelwerk räumt dem CEO die Befugnis ein, die Bereitstellung von Modellen selbst dann zu genehmigen, wenn diese ein höheres Risiko aufweisen.
Gefahrenpotenzial und Nutzeranfragen
Die Tragweite der Sicherheitsbedenken wird durch die Auswertung von Nutzeraktivitäten verdeutlicht. Seit dem Sommer 2025 sollen hunderte Anfragen zu Biowaffen bei ChatGPT eingegangen sein. In einigen Fällen erhielten die Nutzer Antworten, die als verständlich und umsetzbar beschrieben wurden – selbst für Personen, die lediglich über biologisches Grundwissen auf Highschool-Niveau verfügen.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Jetzt kostenlos herunterladen: Der Umsetzungsleitfaden zum EU AI Act
Ein Mikrobiologe der Stanford University, David Relman, konkretisierte die Risiken. Seinen Beobachtungen zufolge beschrieb die KI unter anderem, wie gefährliche Krankheitserreger modifiziert werden können. Zudem habe das Modell Strategien skizziert, um die Opferzahlen bei einem potenziellen Einsatz zu maximieren und gleichzeitig einer Entdeckung durch Behörden zu entgehen. OpenAI reagierte auf entsprechende Vorfälle zwar mit der Sperrung der betroffenen Benutzerkonten, unterließ jedoch Meldungen an die Strafverfolgungsbehörden.
Sicherheitslücken und regulatorische Debatte
Unabhängige Untersuchungen unterstreichen die Anfälligkeit moderner KI-Systeme. Eine Forschung des Netzwerkausrüsters Cisco ergab, dass 15 große Sprachmodelle anfällig für sogenannte Multi-Turn-Angriffe sind. Dabei werden schädliche Inhalte durch eine Abfolge von aufeinander aufbauenden Fragen generiert. Die Erfolgsraten für solche Manipulationen liegen laut Cisco zwischen 8 und 88 %.
Der Fall OpenAI zeigt, wie schnell technologische Fortschritte neue regulatorische Pflichten nach sich ziehen. Dieses kostenlose E-Book bietet Ihnen einen kompakten Überblick über alle Anforderungen, Fristen und Risikoklassen der neuen KI-Verordnung. EU AI Act in 5 Schritten verstehen
OpenAI betont hingegen, dass Modelle gezielt darauf trainiert werden, schädliche Anfragen abzulehnen. Das Unternehmen gibt an, Vorfälle zu melden, sofern ein unmittelbares Risiko festgestellt wird. Allerdings verpflichten die aktuellen US-Bundesgesetze KI-Unternehmen bislang nicht dazu, die meisten Benutzeranfragen zu biologischen Waffen oder Giften an staatliche Stellen weiterzuleiten.
Diese rechtliche Lücke hat nun den US-Gesetzgeber auf den Plan gerufen. Es wurde eine überparteiliche Initiative gestartet, die eine gesetzliche Verpflichtung für KI-Unternehmen vorsieht, glaubwürdige biologische Bedrohungen meldepflichtig zu machen. Damit reagiert die Politik auf die wachsende Sorge, dass die technologische Entwicklung im Bereich der künstlichen Intelligenz die bestehenden Sicherheitsvorkehrungen zur Biosicherheit überholen könnte.
