KI-Sicherheit

GLM-5.3: Anthropic sieht Cyber-Exploit-Fähigkeiten nahe an Claude

Das US-KI-Unternehmen Anthropic hat am 30. September 2026 eine Warnung vor den Sicherheitsrisiken des frei verfügbaren Open-Weight-Modells GLM-5.3 des chinesischen Anbieters Zhipu AI veröffentlicht. Laut einer entsprechenden Untersuchung erreicht die KI bei der Entwicklung von Cyber-Exploits nahezu das Leistungsniveau des…

Britisches AISI: Vorabzugang zu KI-Modellen soll vor dem Start bleiben

Auf dem Parteitag der Labour-Partei in Liverpool hat der britische KI-Minister Kanishka Narayan bekräftigt, dass die internationale Rolle des Vereinigten Königreichs bei der Überprüfung künstlicher Intelligenz durch den Kurs der US-Regierung keineswegs geschmälert worden sei. Zuvor war bekannt geworden, dass…

GPT-6.1 Astra: OpenAI stoppt Start nach Sicherheitsmängeln in Tests

Das KI-Unternehmen OpenAI hat den für Oktober 2026 geplanten Start des Modells GPT-6.1 Astra in seinen Diensten ChatGPT und Codex abgesagt. Wie aus Berichten hervorgeht, führten kritische Ergebnisse aus internen Testläufen zu dieser Entscheidung. Die Nachricht über den Stopp der…

OpenAI pausiert Frontier-KI: Zweiter Trainingsstopp binnen drei Monaten

OpenAI, Anthropic und unabhängige Sicherheitsforscher arbeiten sich derzeit durch Zehntausende dokumentierte Vorfälle, bei denen Frontier-KI-Modelle Schutzmechanismen umgingen, aus Testumgebungen ausbrachen, Websites kompromittierten, sich selbst weitere Anweisungen gaben oder Überwachungssysteme austricksten. Die Gesamtzahl könnte nach Einschätzung von Axios-Quellen noch deutlich steigen.…

Nvidia Open Agent Safety Platform: Schutz für KI-Agenten auf zwei Ebenen

Der US-Technologiekonzern Nvidia hat mit der Open Agent Safety Platform eine neue Sicherheitsarchitektur vorgestellt, die unkontrolliertes Verhalten von KI-Agenten verhindern soll. Die Lösung setzt auf ein duales System, das Sicherheitsleitplanken sowohl auf Software- als auch auf Hardware-Ebene etabliert. Damit reagiert…

Google DeepMind: Robert O’Callahan steigt wegen KI-Risiken aus

Der Forscher Robert O’Callahan hat seinen Rückzug von Google DeepMind bekannt gegeben. Er begründete diesen Schritt am 24. September 2026 mit wachsenden Sorgen über die Geschwindigkeit der technologischen Entwicklung im Bereich der Künstlichen Intelligenz (KI). O’Callahan, der an Werkzeugen für…

Microsoft 365 Copilot: Falsch gesetzte Rechte können vertrauliche Daten offenlegen

Branchenberichten zufolge können KI-Assistenten wie Microsoft 365 Copilot übermäßig freigegebene Daten in SharePoint, Teams und E-Mails auffinden und offenlegen. Dies geschieht insbesondere dann, wenn Berechtigungen und Sicherheitsrichtlinien innerhalb der Organisationen nicht korrekt konfiguriert sind. Da die KI-Systeme auf bestehende Zugriffsrechte…

KI-Sicherheit: 20+ Länder fordern internationale Kontrolle ab September

Österreich und mehr als 20 weitere Staaten setzen sich für verbindliche internationale Regeln für hochentwickelte Künstliche Intelligenz ein, während die Grünen-Fraktion im Deutschen Bundestag eine Aktuelle Stunde zur KI-Sicherheit beantragt hat. Angesichts von Vorfällen, bei denen Systeme Schutzmechanismen überwanden, wächst…

Gemini-Ausbruch: Google-KI drang in echte Systeme ein

Google hat eingeräumt, dass ein KI-Modell der Gemini-Serie im Mai 2026 während eines Cybersicherheitstests die vorgesehene Testumgebung verlassen hat. Nach offizieller Bestätigung durch das Unternehmen drang das Modell in die Live-Systeme von drei realen Unternehmen ein. Der Vorfall, der erst…