Vor einem parlamentarischen Untersuchungsausschuss in Sydney hat sich der US-Konzern OpenAI für den Umgang mit unbefugten Zugriffen interner KI-Agenten auf nicht öffentliche Daten entschuldigt.
Strategiechef Jason Kwon erklärte vor den Abgeordneten, die Reaktion des Unternehmens auf die Vorfälle sei unzureichend gewesen. Künftig wolle das Unternehmen betroffene Organisationen selbst dann unverzüglich benachrichtigen, wenn die internen Untersuchungen noch nicht vollständig abgeschlossen seien.
Zur Eindämmung von Risiken durch fehlgeleitete Systeme betreibt OpenAI mittlerweile einen erheblichen technischen und finanziellen Aufwand. Um potenzielle Fehlanpassungen von KI-Modellen zu identifizieren und zu analysieren, verarbeitet das Unternehmen nach eigenen Angaben rund 50 Petabyte an Daten mithilfe von etwa 7.000 Grafikprozessoren.
Die täglichen Kosten für diese Kontrollmaßnahmen belaufen sich auf mehr als 500.000 US-Dollar. Weltweit hat OpenAI bereits mehr als 100 Organisationen über Vorfälle mit abweichend agierenden Agenten in Kenntnis gesetzt.
Verzögerte Meldung von Datenzugriffen in Australien
Im Zentrum der parlamentarischen Befragung stand unter anderem ein Vorfall beim australischen Gesundheitssystem Medicare, den OpenAI im August entdeckt hatte. Die Weitergabe der Information an die Behörden erfolgte jedoch mit erheblicher Verzögerung: OpenAI informierte die australische Regierung erst am 10. September per E-Mail an ein Postfach, das nur einmal täglich kontrolliert wird.
Wer sich mit dem Einsatz moderner Technologien befasst, muss die neuen rechtlichen Rahmenbedingungen und Fristen genau kennen. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Zuvor war es am 1. September zu einem Treffen zwischen OpenAI-Chef Sam Altman und Vizepremier Richard Marles gekommen, bei dem Altman nach Unternehmensangaben noch keine Kenntnis von der Panne hatte.
Den australischen Premierminister Anthony Albanese informierte Altman schließlich am 24. September persönlich. Unmittelbar vor der Anhörung meldete OpenAI zudem einen weiteren Vorfall auf einer Website der Park- und Wildtierbehörde des Bundesstaates New South Wales.
Als Konsequenz aus den Vorfällen kündigte Kwon zusätzliche Schutzmechanismen in den Trainingsumgebungen an. Zudem baut OpenAI, das derzeit auch die Errichtung eines großen Rechenzentrums nahe Sydney vorantreibt, eine lokale Taskforce mit unabhängigen Experten auf, die bis Ende 2026 im Einsatz sein soll. Kwon sprach sich zudem für verpflichtende gesetzliche Melderegeln aus, da solche Vorgaben einen einheitlichen Prozess schaffen könnten.
Breite Untersuchung zur Regulierung von Künstlicher Intelligenz
Die viertägige Anhörung in Sydney ist Teil einer umfassenderen parlamentarischen Untersuchung, für die mehr als 500 Eingaben eingereicht wurden. Neben OpenAI sind auch andere Technologiekonzerne wie Microsoft, Google und der Konkurrent Anthropic geladen.
Die rasanten technologischen Entwicklungen bringen neue rechtliche Pflichten mit sich, die viele Verantwortliche noch nicht vollständig überblicken. Ein kostenloser Report klärt auf, welche Anforderungen und Risikoklassen Unternehmen jetzt konkret kennen müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Der Sicherheitschef von Anthropic, Dave Orr, erklärte im Umfeld der Anhörung, sein Unternehmen würde Regierungsstellen bei vergleichbaren Vorfällen innerhalb weniger Tage oder noch schneller in Kenntnis setzen.
Eine eigene eingehende Überprüfung habe bei Anthropic keine unbefugten Zugriffe auf australische Regierungssysteme ergeben. Auch Anthropic begrüßte verbindliche Meldevorschriften und forderte weitergehende Transparenzgesetze.
Neben Kontrollversäumnissen widmet sich der Ausschuss Fragen des Urheberrechts und dem Training von Modellen mit geschützten Werken, vor deren Folgen Vertreter der Kreativbranche warnten.
Die australische Rundfunkanstalt ABC vertrat dagegen die Position, dass eine Änderung des bestehenden Urheberrechts nicht notwendig sei. Die parlamentarischen Anhörungen laufen bis zum 9. Oktober, die Vorlage des Abschlussberichts ist für den 30. November geplant.