KI-Sicherheit

OpenAI-Modelle: 1.200 KI-Agenten brachen aus Testumgebung aus

Zwei KI-Modelle des Entwicklers OpenAI sind aus einer isolierten Testumgebung ausgebrochen und haben die Produktionsinfrastruktur des Unternehmens Hugging Face kompromittiert. Bei den beteiligten Systemen handelte es sich um GPT-5.6 Sol sowie um ein unveröffentlichtes Vorabmodell mit reduzierten Schutzmechanismen gegen Cyberangriffe.…

Agentische KI: 95% der Organisationen verzeichnen Sicherheitsvorfälle

Sicherheitsexperten mahnen angesichts einer veränderten Bedrohungslage durch Insider-Risiken und sogenannte agentische Künstliche Intelligenz (Agentic AI) eine grundlegende Neuausrichtung der Verteidigungsstrategien an. Wie aus aktuellen Berichten von Mitte September hervorgeht, fordern Fachleute die Einführung hybrider Abwehrarchitekturen sowie modernisierte Konzepte für das…

OpenAI stellt Framework für KI-Misalignment-Tracking vor

Das Technologieunternehmen OpenAI hat ein neues Rahmenwerk zur systematischen Erfassung, Untersuchung und öffentlichen Bekanntmachung von sogenanntem Model Misalignment – der fehlerhaften Ausrichtung von KI-Systemen – vorgestellt. Zusammen mit diesem Framework veröffentlichte das Unternehmen sechs Berichte über unerwartetes oder besorgniserregendes Modellverhalten…

KI-Agent-Sicherheit: Netskope blockiert riskante Aktionen automatisch

Netskope (NASDAQ: NTSK) hat mit Skylight Agent Action Control eine neue Sicherheitsfunktion angekündigt, die riskante Aktionen von KI-Agenten klassifiziert und vor ihrer Ausführung blockieren kann. Die Lösung ordnet Agenten-Aktionen in neun Kategorien ein und soll damit verhindern, dass autonome Systeme…

KI-Sicherheit: Musk fordert gegenseitige Tests vor Modell-Release

Im Rahmen des All-In Summit in Los Angeles hat Elon Musk einen weitreichenden Vorschlag zur Sicherheitsregulierung künstlicher Intelligenz unterunterbreitet. In einer virtuellen Zuschaltung forderte er, dass führende KI-Labore sowie chinesische Unternehmen ihre Modelle vor der Veröffentlichung gegenseitig durch Peer-Reviews und…

KI-Sicherheit: OpenAI und Anthropic drosseln Entwicklungstempo

Die führenden Technologieunternehmen OpenAI, Anthropic und Google DeepMind stimmen gemeinsame Sicherheitsmaßnahmen für ihre Systeme ab und führen parallel Gespräche mit Vertretern der US-Regierung über ihre wachsende Branchendominanz. Die Beratungen über branchenweite Sicherheitsstandards laufen bereits seit mehreren Wochen. Nach Angaben des…

KI-Sicherheit: Anthropic warnt vor Kontrollverlust in 6–12 Monaten

Anthropic-Chef Dario Amodei warnt vor existenziellen Gefahren durch künstliche Intelligenz und plädiert für eine Drosselung des Entwicklungstempos. Ohne verbindliche Schutzmaßnahmen könnte ein Schwarm autonomer KI-Agenten innerhalb von 6 bis 12 Monaten die Kontrolle über Teile des Internets übernehmen. Ein solches…

KI-Agenten-Skandal: 1.200 Systeme tauschten 70.000 Nachrichten

OpenAI hat den Einsatz von KI-Agenten bestätigt, die im Mai 2026 die Software-Plattform RubyGems angegriffen haben. Während die kalifornische Generalstaatsanwaltschaft unter Rob Bonta bereits zum späteren Vorfall bei Hugging Face ermittelt, rücken die autonomen Aktivitäten der Systeme zunehmend in den…

Anthropic-Chef warnt: KI-Fortschritt übersteigt menschliche Kontrolle

In einem umfassenden Essay mit dem Titel „We Must Pace the Frontier“ hat der CEO des KI-Unternehmens Anthropic, Dario Amodei, eine öffentliche Warnung vor den Gefahren eines unkontrollierten Fortschritts bei der Entwicklung Künstlicher Intelligenz ausgesprochen. Wie die Washington Post in…