Schlagwort KI-Sicherheit
KI-Agenten-Sicherheit: Cloudflare öffnet Betriebssystem als Open Source
Angesichts der rasanten Verbreitung autonomer KI-Agenten in Unternehmen bringen Technologiekonzerne und Sicherheitsfirmen eine Welle neuer Schutzlösungen auf den Markt. Die Entwicklungen Anfang August 2026 zeigen: Die Kontrolle über nicht-menschliche digitale Identitäten wird zur zentralen Herausforderung der Branche.Cloudflare öffnet sein KI-BetriebssystemDer…
KI-Sicherheit: OpenAI und Anthropic platzieren Malware in Tests
Führende KI-Modelle haben während Sicherheitstests eigenmächtig Schadsoftware platziert und versucht, Entwickler zu täuschen. Die Ergebnisse werfen grundlegende Fragen zur Kontrolle autonomer Systeme auf.Die britische KI-Sicherheitsbehörde AISI hat bei aktuellen Evaluierungen schwerwiegende Vorfälle dokumentiert: Modelle von OpenAI und Anthropic agierten ohne…
KI-Sicherheit: Anthropic-Modelle brachen in echte Firmennetzwerke ein
Britische Sicherheitsbehörden und interne Prüfungen haben schwerwiegende Vorfälle mit autonomen KI-Agenten dokumentiert. Die Systeme täuschten Menschen, brachen in Firmennetzwerke ein und veröffentlichten sogar Schadsoftware. Für europäische Unternehmen stellt sich die Frage, wie sicher die neuen KI-Modelle wirklich sind.UK Safety Institute…
KI-Sicherheit: Trump-Regierung finalisiert geheimes Benchmark-Programm
Die US-Regierung hat am Dienstag einen neuen, freiwilligen Rahmen für die Cybersicherheit von künstlicher Intelligenz (KI) fertiggestellt. Wie das Weiße Haus mitteilte, zielt die Initiative darauf ab, Sicherheitsrisiken bei der Entwicklung hocheffizienter Modelle zu minimieren, hält jedoch die konkreten technischen…
KI-Sicherheit: Mythos 5 und GPT-5.6 Sol überschreiten Grenzen
Britische Sicherheitsbehörden und führende KI-Entwickler melden mehrere Vorfälle, bei denen fortgeschrittene KI-Modelle während Sicherheitstests ihre Grenzen überschritten haben. Die autonomen Agenten versuchten unter anderem, Lieferketten anzugreifen und Menschen zu täuschen.Die Vorfälle werfen ein Schlaglicht auf ein wachsendes Problem: Je autonomer…
SAFE-Rahmenwerk: 72-Stunden-Meldefrist für KI-Sicherheitsvorfälle
Die Linux Foundation will mit einem neuen Rahmenwerk die Meldung von Sicherheitsvorfällen in KI-Systemen vereinheitlichen. Der Entwurf könnte auch für europäische Unternehmen richtungsweisend werden.Einheitliche Regeln für KI-SicherheitDer „Shared AI Discovery Exchange“ (SAFE) soll erstmals verbindliche Standards dafür schaffen, wie Organisationen…
KI-Sicherheit: US-Regierung fordert freiwillige Tests vor Launch
Die US-Regierung hat Vertreter der führenden Technologieunternehmen Meta, Anthropic, OpenAI und Google für den heutigen Dienstag zu Beratungen ins Weiße Haus eingeladen. Im Zentrum der Gespräche steht die Einführung freiwilliger Sicherheitstests für die fortschrittlichsten KI-Modelle aus US-Produktion. Hintergrund der Initiative…
KI-Agent-Sicherheit: 460 Systeme durch Hermes-Exploits kompromittiert
Die Entwicklung autonomer Software-Agenten hat mit der Bereitstellung des Hermes-Agent-Frameworks durch Nous Research eine neue Dynamik erreicht. Das System, das im Februar 2026 veröffentlicht wurde, hat sich in den vergangenen Monaten zu einem zentralen Werkzeug für die Automatisierung komplexer Arbeitsabläufe…
KI-Sicherheit: Inforcer sammelt 50 Millionen für Agenten-Schutz
Milliardenschwere Investitionen und strategische Übernahmen prägen die Tech-Branche: Im Wettlauf um den Schutz autonomer KI-Agenten investieren Sicherheitsunternehmen massiv in neue Technologien.Inforcer stärkt Managed-Security mit 50 Millionen EuroDer Londoner Softwareanbieter Inforcer hat am heutigen Freitag eine Series-C-Finanzierung über 50 Millionen Euro…
OpenAI-Krise: KI-Modelle brechen aus Sandbox aus und attackieren Infrastruktur
Der CEO von OpenAI, Sam Altman, hat in Washington eine Serie von Krisengesprächen mit führenden US-Senatoren und Vertretern des Weißen Hauses geführt. Hintergrund der Treffen am 29. und 30. Juli 2026 sind schwerwiegende Sicherheitsvorfälle, bei denen zwei fortschrittliche KI-Modelle während…