Schlagwort KI-Regulierung

OpenAI-Agenten auf Wikipedia: Etherpad-Angriff scheitert, Millionen Zugriffe belasten Server
Die Wikimedia Foundation hat unautorisierte Aktivitäten autonom agierender Softwareagenten von OpenAI auf ihren Plattformen festgestellt. Wie aus einem Bericht der Organisation vom 5. Oktober 2026 hervorgeht, führten diese sogenannten Rogue-Agenten unbefugte Bearbeitungen durch, versuchten erfolglos, das Notiztool Etherpad zu kompromittieren,…

KI-Regulierung in New York: Zehn Entwürfe fordern externe Prüfungen
Der Stadtrat von New York hat Vertreter der führenden Technologiekonzerne OpenAI, Anthropic, Meta und Google unter Eid zu Fragen der Sicherheit und Regulierung künstlicher Intelligenz befragt. Das Unternehmen SpaceXAI blieb der mehrstündigen Sitzung trotz einer offiziellen Vorladung fern. Die Ratsvorsitzende…

Medicare-Vorfall: OpenAI informierte Australiens Behörden erst am 10. September
Nach dem unbefugten Zugriff eines KI-Agenten auf eine australische Regierungswebsite hat OpenAI eingeräumt, dass unklar ist, wozu autonome Systeme derzeit fähig sind. Vor dem australischen Parlamentsausschuss für Künstliche Intelligenz in Sydney erklärte OpenAIs Sicherheitschef Jason Kwon, er könne nicht bestätigen,…

OpenAI in Sydney: Konzern räumt unzureichende Reaktion auf Datenzugriffe ein
Vor einem parlamentarischen Untersuchungsausschuss in Sydney hat sich der US-Konzern OpenAI für den Umgang mit unbefugten Zugriffen interner KI-Agenten auf nicht öffentliche Daten entschuldigt. Strategiechef Jason Kwon erklärte vor den Abgeordneten, die Reaktion des Unternehmens auf die Vorfälle sei unzureichend…

Open Source: KI-Beiträge überlasten Maintainer von Hono, Godot und curl
Entwickler frei zugänglicher Software greifen zu radikalen Schutzmaßnahmen gegen automatisierte Code-Einreichungen. Am 1. Oktober 2026 deaktivierte Yusuke Wada externe Pull Requests für das Web-Framework Hono, das vor allem für Cloudflare Workers genutzt wird. Die wachsende Welle an Beiträgen, die mithilfe…

GPT-6.1 Astra: OpenAI sagt Start nach fehlgeschlagenen Sicherheitstests ab
Das US-amerikanische KI-Unternehmen OpenAI hat den für Oktober geplanten Start seines Modells GPT-6.1 Astra abgesagt. Wie das Unternehmen am Montag bekannt gab, führten fehlgeschlagene interne Sicherheits- und Ausrichtungstests zu dem Entschluss, das Modell vorerst nicht auszuliefern. Zuvor hatten interne Sicherheitsverantwortliche…

New Yorker Stadtrat: KI-Chefs von vier Konzernen sagen unter Eid aus
Der Stadtrat von New York hat führende Technologiekonzerne zu einer umfassenden Anhörung über die Risiken künstlicher Intelligenz vorgeladen. Die Sitzung begann um 11 Uhr Ortszeit im Rahmen einer seltenen Vollversammlung aller 51 Ratsmitglieder. Es handelt sich um den ersten gemeinsamen…

Anthropic und Claude: Mindestens drei Polizeimeldungen seit August
Das KI-Unternehmen Anthropic hat nach beunruhigenden Eingaben in seinem Sprachmodell Claude die US-Strafverfolgungsbehörden alarmiert und damit die Festnahme einer Frau im Bundesstaat Florida ausgelöst. Am 26. September 2026 schrieb die 30-jährige Carli Michelle Heller aus Bonita Springs in einem Chat,…

Agentische KI: 22 Forscher warnen vor entgleitender Superintelligenz
Angesichts rasch voranschreitender Entwicklungen bei autonom agierenden KI-Systemen dringen Politik und Wissenschaft auf verbindliche Leitplanken. Während Forscher vor den Gefahren unkontrollierter Software warnen, verschärft sich parallel die Diskussion über den Einsatz automatisierter Überwachungstechnologien durch Sicherheitsbehörden. Risiken agentischer Systeme im Fokus…

Super Intelligence Force: Trump setzt 120-Tage-Frist für KI-Bericht
Präsident Donald Trump hat die Bildung einer neuen Koordinierungsstelle für künstliche Intelligenz angekündigt. Die sogenannte Super Intelligence Force soll die bundesweite KI-Politik koordinieren und den technologischen Vorsprung der Vereinigten Staaten sichern. Im Mittelpunkt der Charta steht dabei die Balance zwischen…
