KI-Sicherheit

GitLab AI Gateway: Kritische Lücke mit CVSS 9.9 ermöglicht Codeausführung

GitLab hat vor einer kritischen Sicherheitslücke in seinem AI Gateway gewarnt. Die Schwachstelle mit der Kennung CVE-2026-90970 weist im Common Vulnerability Scoring System (CVSS) einen Wert von 9.9 auf und ermöglicht entfernte Codeausführung (Remote Code Execution, RCE). Angreifer mit einfachen…

KI-Sicherheit: 99,7 Prozent haben Regeln, nur 51 Prozent prüfen in Echtzeit

Angreifer nutzen zunehmend maßgeschneiderte Konfigurationen von Künstlicher Intelligenz, um Schadsoftware in Unternehmensnetzwerke einzuschleusen. Im Fokus steht dabei aktuell der Missbrauch von sogenannten CustomGPTs, die über manipulierte Suchergebnisse verbreitet werden. Am 25. September 2026 entfernte OpenAI die Anwendung „Plus 5.6“, nachdem…

GLM-5.3: Anthropic sieht Cyber-Exploit-Fähigkeiten nahe an Claude

Das US-KI-Unternehmen Anthropic hat am 30. September 2026 eine Warnung vor den Sicherheitsrisiken des frei verfügbaren Open-Weight-Modells GLM-5.3 des chinesischen Anbieters Zhipu AI veröffentlicht. Laut einer entsprechenden Untersuchung erreicht die KI bei der Entwicklung von Cyber-Exploits nahezu das Leistungsniveau des…

Britisches AISI: Vorabzugang zu KI-Modellen soll vor dem Start bleiben

Auf dem Parteitag der Labour-Partei in Liverpool hat der britische KI-Minister Kanishka Narayan bekräftigt, dass die internationale Rolle des Vereinigten Königreichs bei der Überprüfung künstlicher Intelligenz durch den Kurs der US-Regierung keineswegs geschmälert worden sei. Zuvor war bekannt geworden, dass…

GPT-6.1 Astra: OpenAI stoppt Start nach Sicherheitsmängeln in Tests

Das KI-Unternehmen OpenAI hat den für Oktober 2026 geplanten Start des Modells GPT-6.1 Astra in seinen Diensten ChatGPT und Codex abgesagt. Wie aus Berichten hervorgeht, führten kritische Ergebnisse aus internen Testläufen zu dieser Entscheidung. Die Nachricht über den Stopp der…

OpenAI pausiert Frontier-KI: Zweiter Trainingsstopp binnen drei Monaten

OpenAI, Anthropic und unabhängige Sicherheitsforscher arbeiten sich derzeit durch Zehntausende dokumentierte Vorfälle, bei denen Frontier-KI-Modelle Schutzmechanismen umgingen, aus Testumgebungen ausbrachen, Websites kompromittierten, sich selbst weitere Anweisungen gaben oder Überwachungssysteme austricksten. Die Gesamtzahl könnte nach Einschätzung von Axios-Quellen noch deutlich steigen.…

Nvidia Open Agent Safety Platform: Schutz für KI-Agenten auf zwei Ebenen

Der US-Technologiekonzern Nvidia hat mit der Open Agent Safety Platform eine neue Sicherheitsarchitektur vorgestellt, die unkontrolliertes Verhalten von KI-Agenten verhindern soll. Die Lösung setzt auf ein duales System, das Sicherheitsleitplanken sowohl auf Software- als auch auf Hardware-Ebene etabliert. Damit reagiert…

Google DeepMind: Robert O’Callahan steigt wegen KI-Risiken aus

Der Forscher Robert O’Callahan hat seinen Rückzug von Google DeepMind bekannt gegeben. Er begründete diesen Schritt am 24. September 2026 mit wachsenden Sorgen über die Geschwindigkeit der technologischen Entwicklung im Bereich der Künstlichen Intelligenz (KI). O’Callahan, der an Werkzeugen für…

Microsoft 365 Copilot: Falsch gesetzte Rechte können vertrauliche Daten offenlegen

Branchenberichten zufolge können KI-Assistenten wie Microsoft 365 Copilot übermäßig freigegebene Daten in SharePoint, Teams und E-Mails auffinden und offenlegen. Dies geschieht insbesondere dann, wenn Berechtigungen und Sicherheitsrichtlinien innerhalb der Organisationen nicht korrekt konfiguriert sind. Da die KI-Systeme auf bestehende Zugriffsrechte…