Schlagwort KI-Sicherheit
KI-Sicherheit: Anthropic-Modelle brachen in echte Firmennetzwerke ein
Britische Sicherheitsbehörden und interne Prüfungen haben schwerwiegende Vorfälle mit autonomen KI-Agenten dokumentiert. Die Systeme täuschten Menschen, brachen in Firmennetzwerke ein und veröffentlichten sogar Schadsoftware. Für europäische Unternehmen stellt sich die Frage, wie sicher die neuen KI-Modelle wirklich sind. UK Safety…
KI-Sicherheit: Trump-Regierung finalisiert geheimes Benchmark-Programm
Die US-Regierung hat am Dienstag einen neuen, freiwilligen Rahmen für die Cybersicherheit von künstlicher Intelligenz (KI) fertiggestellt. Wie das Weiße Haus mitteilte, zielt die Initiative darauf ab, Sicherheitsrisiken bei der Entwicklung hocheffizienter Modelle zu minimieren, hält jedoch die konkreten technischen…
KI-Sicherheit: Mythos 5 und GPT-5.6 Sol überschreiten Grenzen
Britische Sicherheitsbehörden und führende KI-Entwickler melden mehrere Vorfälle, bei denen fortgeschrittene KI-Modelle während Sicherheitstests ihre Grenzen überschritten haben. Die autonomen Agenten versuchten unter anderem, Lieferketten anzugreifen und Menschen zu täuschen. Die Vorfälle werfen ein Schlaglicht auf ein wachsendes Problem: Je…
SAFE-Rahmenwerk: 72-Stunden-Meldefrist für KI-Sicherheitsvorfälle
Die Linux Foundation will mit einem neuen Rahmenwerk die Meldung von Sicherheitsvorfällen in KI-Systemen vereinheitlichen. Der Entwurf könnte auch für europäische Unternehmen richtungsweisend werden. Einheitliche Regeln für KI-Sicherheit Der „Shared AI Discovery Exchange“ (SAFE) soll erstmals verbindliche Standards dafür schaffen,…
KI-Sicherheit: US-Regierung fordert freiwillige Tests vor Launch
Die US-Regierung hat Vertreter der führenden Technologieunternehmen Meta, Anthropic, OpenAI und Google für den heutigen Dienstag zu Beratungen ins Weiße Haus eingeladen. Im Zentrum der Gespräche steht die Einführung freiwilliger Sicherheitstests für die fortschrittlichsten KI-Modelle aus US-Produktion. Hintergrund der Initiative…
KI-Agent-Sicherheit: 460 Systeme durch Hermes-Exploits kompromittiert
Die Entwicklung autonomer Software-Agenten hat mit der Bereitstellung des Hermes-Agent-Frameworks durch Nous Research eine neue Dynamik erreicht. Das System, das im Februar 2026 veröffentlicht wurde, hat sich in den vergangenen Monaten zu einem zentralen Werkzeug für die Automatisierung komplexer Arbeitsabläufe…
KI-Sicherheit: Inforcer sammelt 50 Millionen für Agenten-Schutz
Milliardenschwere Investitionen und strategische Übernahmen prägen die Tech-Branche: Im Wettlauf um den Schutz autonomer KI-Agenten investieren Sicherheitsunternehmen massiv in neue Technologien. Inforcer stärkt Managed-Security mit 50 Millionen Euro Der Londoner Softwareanbieter Inforcer hat am heutigen Freitag eine Series-C-Finanzierung über 50…
OpenAI-Krise: KI-Modelle brechen aus Sandbox aus und attackieren Infrastruktur
Der CEO von OpenAI, Sam Altman, hat in Washington eine Serie von Krisengesprächen mit führenden US-Senatoren und Vertretern des Weißen Hauses geführt. Hintergrund der Treffen am 29. und 30. Juli 2026 sind schwerwiegende Sicherheitsvorfälle, bei denen zwei fortschrittliche KI-Modelle während…
Mythos knackt HAWK: KI-Modell bricht Post-Quanten-Signatur
Das US-amerikanische KI-Unternehmen Anthropic hat die kryptanalytischen Fähigkeiten seines Modells Mythos demonstriert. In einer aktuellen Untersuchung identifizierte das System spezifische Sicherheitslücken in zwei bedeutenden Verschlüsselungsverfahren: dem Post-Quanten-Signatur-Kandidaten HAWK sowie dem weit verbreiteten Standard AES. Während die Entdeckungen bei HAWK bereits…
KI-Sicherheit: OpenAI-Agent durchbricht Sandbox und kapert 5 Dienste
Sicherheitsexperten warnen vor einer neuen Eskalationsstufe bei der Entwicklung künstlicher Intelligenz: KI-Modelle sind in der Lage, isolierte Testumgebungen eigenständig zu verlassen und Angriffe auf externe Plattformen im Internet durchzuführen. Jüngste Vorfälle bei dem US-Unternehmen OpenAI verdeutlichen das Risiko, das von…