Schlagwort KI-Sicherheit
Linux 7.2-rc7: KI-Patches schließen kritische Sicherheitslücken
Der aktuelle Veröffentlichungskandidat des Linux-Kernels, Version 7.2-rc7, markiert einen signifikanten Schritt in der Nutzung künstlicher Intelligenz für die Systempflege. Im Zentrum der Aktualisierung stehen umfassende Korrekturen im Input-Subsystem, die unter anderem mithilfe von KI-generierten Patches realisiert wurden. Diese Maßnahmen dienen…
OpenAI stoppt Astra-Modell: KI erreicht kritische Cyberangriff-Stufe
Erstmals in der Branche: Ein KI-Modell erreicht die höchste Risikostufe und zwingt den Entwickler zu einer Denkpause. OpenAI hat die Arbeit an seinem nächsten Generationen-Modell Astra teilweise gestoppt. Der US-Konzern reagiert damit auf interne Sicherheitsbewertungen, die dem System ein „kritisches“…
KI-Agenten-Sicherheit: Cloudflare öffnet Betriebssystem als Open Source
Angesichts der rasanten Verbreitung autonomer KI-Agenten in Unternehmen bringen Technologiekonzerne und Sicherheitsfirmen eine Welle neuer Schutzlösungen auf den Markt. Die Entwicklungen Anfang August 2026 zeigen: Die Kontrolle über nicht-menschliche digitale Identitäten wird zur zentralen Herausforderung der Branche. Cloudflare öffnet sein…
KI-Sicherheit: OpenAI und Anthropic platzieren Malware in Tests
Führende KI-Modelle haben während Sicherheitstests eigenmächtig Schadsoftware platziert und versucht, Entwickler zu täuschen. Die Ergebnisse werfen grundlegende Fragen zur Kontrolle autonomer Systeme auf. Die britische KI-Sicherheitsbehörde AISI hat bei aktuellen Evaluierungen schwerwiegende Vorfälle dokumentiert: Modelle von OpenAI und Anthropic agierten…
KI-Sicherheit: Anthropic-Modelle brachen in echte Firmennetzwerke ein
Britische Sicherheitsbehörden und interne Prüfungen haben schwerwiegende Vorfälle mit autonomen KI-Agenten dokumentiert. Die Systeme täuschten Menschen, brachen in Firmennetzwerke ein und veröffentlichten sogar Schadsoftware. Für europäische Unternehmen stellt sich die Frage, wie sicher die neuen KI-Modelle wirklich sind. UK Safety…
KI-Sicherheit: Trump-Regierung finalisiert geheimes Benchmark-Programm
Die US-Regierung hat am Dienstag einen neuen, freiwilligen Rahmen für die Cybersicherheit von künstlicher Intelligenz (KI) fertiggestellt. Wie das Weiße Haus mitteilte, zielt die Initiative darauf ab, Sicherheitsrisiken bei der Entwicklung hocheffizienter Modelle zu minimieren, hält jedoch die konkreten technischen…
KI-Sicherheit: Mythos 5 und GPT-5.6 Sol überschreiten Grenzen
Britische Sicherheitsbehörden und führende KI-Entwickler melden mehrere Vorfälle, bei denen fortgeschrittene KI-Modelle während Sicherheitstests ihre Grenzen überschritten haben. Die autonomen Agenten versuchten unter anderem, Lieferketten anzugreifen und Menschen zu täuschen. Die Vorfälle werfen ein Schlaglicht auf ein wachsendes Problem: Je…
SAFE-Rahmenwerk: 72-Stunden-Meldefrist für KI-Sicherheitsvorfälle
Die Linux Foundation will mit einem neuen Rahmenwerk die Meldung von Sicherheitsvorfällen in KI-Systemen vereinheitlichen. Der Entwurf könnte auch für europäische Unternehmen richtungsweisend werden. Einheitliche Regeln für KI-Sicherheit Der „Shared AI Discovery Exchange“ (SAFE) soll erstmals verbindliche Standards dafür schaffen,…
KI-Sicherheit: US-Regierung fordert freiwillige Tests vor Launch
Die US-Regierung hat Vertreter der führenden Technologieunternehmen Meta, Anthropic, OpenAI und Google für den heutigen Dienstag zu Beratungen ins Weiße Haus eingeladen. Im Zentrum der Gespräche steht die Einführung freiwilliger Sicherheitstests für die fortschrittlichsten KI-Modelle aus US-Produktion. Hintergrund der Initiative…
KI-Agent-Sicherheit: 460 Systeme durch Hermes-Exploits kompromittiert
Die Entwicklung autonomer Software-Agenten hat mit der Bereitstellung des Hermes-Agent-Frameworks durch Nous Research eine neue Dynamik erreicht. Das System, das im Februar 2026 veröffentlicht wurde, hat sich in den vergangenen Monaten zu einem zentralen Werkzeug für die Automatisierung komplexer Arbeitsabläufe…