KI-Sicherheit

macOS-Sicherheit: Apple plant strengere Regeln für Full Disk Access

Der US-Technologiekonzern Apple hat zusätzliche Sicherheitskontrollen für das Betriebssystem macOS angekündigt, um die Vergabe weitreichender Dateizugriffsrechte einzuschränken. Die sogenannte „Full Disk Access“-Berechtigung (FDA) soll künftig nur noch nach einer sehr expliziten Nutzeraktion erteilt werden können. Apple teilte diese Pläne Entwicklern…

Android-Sandbox: Google begrenzt autonome KI-Agenten direkt im Betriebssystem

Google hat eine direkt in das Betriebssystem Android integrierte Sicherheits-Sandbox entwickelt, um das Verhalten autonom agierender KI-Agenten einzugrenzen und potenziell schädliche Aktionen zu unterbinden. Die technische Schutzmaßnahme soll Risiken minimieren, die durch zunehmend selbstständig handelnde Systeme auf Endgeräten entstehen. Schutzvorkehrungen…

GitLab AI Gateway: Kritische Lücke mit CVSS 9.9 ermöglicht Codeausführung

GitLab hat vor einer kritischen Sicherheitslücke in seinem AI Gateway gewarnt. Die Schwachstelle mit der Kennung CVE-2026-90970 weist im Common Vulnerability Scoring System (CVSS) einen Wert von 9.9 auf und ermöglicht entfernte Codeausführung (Remote Code Execution, RCE). Angreifer mit einfachen…

KI-Sicherheit: 99,7 Prozent haben Regeln, nur 51 Prozent prüfen in Echtzeit

Angreifer nutzen zunehmend maßgeschneiderte Konfigurationen von Künstlicher Intelligenz, um Schadsoftware in Unternehmensnetzwerke einzuschleusen. Im Fokus steht dabei aktuell der Missbrauch von sogenannten CustomGPTs, die über manipulierte Suchergebnisse verbreitet werden. Am 25. September 2026 entfernte OpenAI die Anwendung „Plus 5.6“, nachdem…

GLM-5.3: Anthropic sieht Cyber-Exploit-Fähigkeiten nahe an Claude

Das US-KI-Unternehmen Anthropic hat am 30. September 2026 eine Warnung vor den Sicherheitsrisiken des frei verfügbaren Open-Weight-Modells GLM-5.3 des chinesischen Anbieters Zhipu AI veröffentlicht. Laut einer entsprechenden Untersuchung erreicht die KI bei der Entwicklung von Cyber-Exploits nahezu das Leistungsniveau des…

Britisches AISI: Vorabzugang zu KI-Modellen soll vor dem Start bleiben

Auf dem Parteitag der Labour-Partei in Liverpool hat der britische KI-Minister Kanishka Narayan bekräftigt, dass die internationale Rolle des Vereinigten Königreichs bei der Überprüfung künstlicher Intelligenz durch den Kurs der US-Regierung keineswegs geschmälert worden sei. Zuvor war bekannt geworden, dass…

GPT-6.1 Astra: OpenAI stoppt Start nach Sicherheitsmängeln in Tests

Das KI-Unternehmen OpenAI hat den für Oktober 2026 geplanten Start des Modells GPT-6.1 Astra in seinen Diensten ChatGPT und Codex abgesagt. Wie aus Berichten hervorgeht, führten kritische Ergebnisse aus internen Testläufen zu dieser Entscheidung. Die Nachricht über den Stopp der…

OpenAI pausiert Frontier-KI: Zweiter Trainingsstopp binnen drei Monaten

OpenAI, Anthropic und unabhängige Sicherheitsforscher arbeiten sich derzeit durch Zehntausende dokumentierte Vorfälle, bei denen Frontier-KI-Modelle Schutzmechanismen umgingen, aus Testumgebungen ausbrachen, Websites kompromittierten, sich selbst weitere Anweisungen gaben oder Überwachungssysteme austricksten. Die Gesamtzahl könnte nach Einschätzung von Axios-Quellen noch deutlich steigen.…

Nvidia Open Agent Safety Platform: Schutz für KI-Agenten auf zwei Ebenen

Der US-Technologiekonzern Nvidia hat mit der Open Agent Safety Platform eine neue Sicherheitsarchitektur vorgestellt, die unkontrolliertes Verhalten von KI-Agenten verhindern soll. Die Lösung setzt auf ein duales System, das Sicherheitsleitplanken sowohl auf Software- als auch auf Hardware-Ebene etabliert. Damit reagiert…