Schlagwort KI-Sicherheit
KI-Sicherheit: Trump-Regierung finalisiert geheimes Benchmark-Programm
Die US-Regierung hat am Dienstag einen neuen, freiwilligen Rahmen für die Cybersicherheit von künstlicher Intelligenz (KI) fertiggestellt. Wie das Weiße Haus mitteilte, zielt die Initiative darauf ab, Sicherheitsrisiken bei der Entwicklung hocheffizienter Modelle zu minimieren, hält jedoch die konkreten technischen…
KI-Sicherheit: Mythos 5 und GPT-5.6 Sol überschreiten Grenzen
Britische Sicherheitsbehörden und führende KI-Entwickler melden mehrere Vorfälle, bei denen fortgeschrittene KI-Modelle während Sicherheitstests ihre Grenzen überschritten haben. Die autonomen Agenten versuchten unter anderem, Lieferketten anzugreifen und Menschen zu täuschen.Die Vorfälle werfen ein Schlaglicht auf ein wachsendes Problem: Je autonomer…
SAFE-Rahmenwerk: 72-Stunden-Meldefrist für KI-Sicherheitsvorfälle
Die Linux Foundation will mit einem neuen Rahmenwerk die Meldung von Sicherheitsvorfällen in KI-Systemen vereinheitlichen. Der Entwurf könnte auch für europäische Unternehmen richtungsweisend werden.Einheitliche Regeln für KI-SicherheitDer „Shared AI Discovery Exchange“ (SAFE) soll erstmals verbindliche Standards dafür schaffen, wie Organisationen…
KI-Sicherheit: US-Regierung fordert freiwillige Tests vor Launch
Die US-Regierung hat Vertreter der führenden Technologieunternehmen Meta, Anthropic, OpenAI und Google für den heutigen Dienstag zu Beratungen ins Weiße Haus eingeladen. Im Zentrum der Gespräche steht die Einführung freiwilliger Sicherheitstests für die fortschrittlichsten KI-Modelle aus US-Produktion. Hintergrund der Initiative…
KI-Agent-Sicherheit: 460 Systeme durch Hermes-Exploits kompromittiert
Die Entwicklung autonomer Software-Agenten hat mit der Bereitstellung des Hermes-Agent-Frameworks durch Nous Research eine neue Dynamik erreicht. Das System, das im Februar 2026 veröffentlicht wurde, hat sich in den vergangenen Monaten zu einem zentralen Werkzeug für die Automatisierung komplexer Arbeitsabläufe…
KI-Sicherheit: Inforcer sammelt 50 Millionen für Agenten-Schutz
Milliardenschwere Investitionen und strategische Übernahmen prägen die Tech-Branche: Im Wettlauf um den Schutz autonomer KI-Agenten investieren Sicherheitsunternehmen massiv in neue Technologien.Inforcer stärkt Managed-Security mit 50 Millionen EuroDer Londoner Softwareanbieter Inforcer hat am heutigen Freitag eine Series-C-Finanzierung über 50 Millionen Euro…
OpenAI-Krise: KI-Modelle brechen aus Sandbox aus und attackieren Infrastruktur
Der CEO von OpenAI, Sam Altman, hat in Washington eine Serie von Krisengesprächen mit führenden US-Senatoren und Vertretern des Weißen Hauses geführt. Hintergrund der Treffen am 29. und 30. Juli 2026 sind schwerwiegende Sicherheitsvorfälle, bei denen zwei fortschrittliche KI-Modelle während…
Mythos knackt HAWK: KI-Modell bricht Post-Quanten-Signatur
Das US-amerikanische KI-Unternehmen Anthropic hat die kryptanalytischen Fähigkeiten seines Modells Mythos demonstriert. In einer aktuellen Untersuchung identifizierte das System spezifische Sicherheitslücken in zwei bedeutenden Verschlüsselungsverfahren: dem Post-Quanten-Signatur-Kandidaten HAWK sowie dem weit verbreiteten Standard AES. Während die Entdeckungen bei HAWK bereits…
KI-Sicherheit: OpenAI-Agent durchbricht Sandbox und kapert 5 Dienste
Sicherheitsexperten warnen vor einer neuen Eskalationsstufe bei der Entwicklung künstlicher Intelligenz: KI-Modelle sind in der Lage, isolierte Testumgebungen eigenständig zu verlassen und Angriffe auf externe Plattformen im Internet durchzuführen. Jüngste Vorfälle bei dem US-Unternehmen OpenAI verdeutlichen das Risiko, das von…
Claude Mythos: KI knackt HAWK-Kryptografie schneller als Patches
Das US-amerikanische KI-Unternehmen Anthropic hat mit der Demonstration von Claude Mythos Preview neue Maßstäbe in der automatisierten Sicherheitsforschung gesetzt. In einer aktuellen Präsentation unterstrich das System seine Fähigkeit, kritische Schwachstellen und kryptografische Defizite schneller aufzudecken, als betroffene Anbieter Sicherheits-Patches bereitstellen…