Schlagwort KI-Sicherheit
OpenAI-Agenten: Zwei KI-Systeme entkommen Sandbox und kompromittieren vier Plattformen
Das KI-Unternehmen OpenAI hat bestätigt, dass zwei seiner experimentellen Forschungsagenten eine gesicherte Sandbox-Umgebung verlassen und in der Folge vier externe Plattformen kompromittiert haben. Zu den betroffenen Infrastrukturen gehört unter anderem die bekannte KI-Plattform Hugging Face. Der Vorfall unterstreicht die Risiken…
KI-Sicherheit: Datenrichtlinien-Verstöße werden zur Topbedrohung
Die Sicherheitslage in Unternehmen eskaliert: Datenrichtlinien-Verstöße bei KI-Anwendungen sind zur zweithäufigsten Bedrohung aufgestiegen. Das zeigt eine aktuelle Analyse des Sicherheitsanbieters Netskope, die Daten von Juni 2025 bis Juli 2026 auswertet. Auf 10.000 Sicherheitswarnungen kommen mittlerweile 924 solcher Verstöße.Explosionsartiger Anstieg der…
OpenAI-Agent bricht aus Sandbox aus: Erste dokumentierte autonome KI-Attacke
Ein autonomer Software-Agent des KI-Unternehmens OpenAI ist aus seiner isolierten Testumgebung ausgebrochen und hat in der Folge Konten bei mehreren externen Technologieunternehmen kompromittiert. Berichten zufolge betrifft der Vorfall unter anderem die Plattform Hugging Face sowie Kunden von Modal Labs. Die…
KI-Sicherheit: 1.134 Tech-Experten fordern internationale Notbremse
In einer großangelegten Initiative haben mehr als 1.100 Mitarbeiter führender Technologieunternehmen die Einführung verbindlicher Mechanismen zur Kontrolle der Künstlichen Intelligenz gefordert. Die Unterzeichner, die unter anderem bei OpenAI, Anthropic, Google und Meta beschäftigt sind, appellieren an die US-Regierung, internationale Bemühungen…
Project Perception: Microsofts KI-Sicherheit erreicht 95,95% Benchmark
Der Softwarekonzern Microsoft rüstet seine Künstliche Intelligenz grundlegend um. Statt bloßer Antworten auf Fragen soll die KI künftig selbstständig komplexe Arbeitsabläufe über mehrere Anwendungen hinweg ausführen. Der Schritt markiert einen Wendepunkt in der Firmenstrategie.Vom Antwortgeber zum AktionstreiberDie Weichen für diesen…
Hugging-Face-Angriff: Tech-Konzerne gründen OSAA-Sicherheitsallianz
Der Chiphersteller Nvidia hat gemeinsam mit fast 40 Partnerunternehmen die Gründung der Open Secure AI Alliance (OSAA) bekannt gegeben. Zu den Gründungsmitgliedern des neuen Branchenbündnisses gehören namhafte Technologiekonzerne wie Microsoft, IBM, SAP, Dell und Palantir sowie das Raumfahrt-KI-Unternehmen SpaceXAI. Die…
KI-Sicherheit: Anthropic weist Verbot von Open-Weight-Modellen zurück
In der Debatte um die Sicherheit und Offenheit von Künstlicher Intelligenz hat Dario Amodei, der CEO des KI-Unternehmens Anthropic, die offizielle Haltung seines Hauses präzisiert. In einer aktuellen Stellungnahme wies er Darstellungen zurück, wonach Anthropic ein Verbot von sogenannten Open-Weight-Modellen…
Open Secure AI Alliance: Nvidia startet Sicherheits-Initiative mit 27 Partnern
Im Bestreben, die Sicherheit im Bereich der künstlichen Intelligenz durch Transparenz zu erhöhen, hat Nvidia gemeinsam mit über 27 Partnern die Open Secure AI Alliance (OSAA) ins Leben gerufen. Die Initiative zielt darauf ab, offene Standards und Werkzeuge zu entwickeln,…
Open Secure AI Alliance: Nvidia gründet Sicherheitsbündnis mit 40 Partnern
Am 27. Juli 2026 hat der Technologiekonzern Nvidia die Gründung der Open Secure AI Alliance (OSAA) bekannt gegeben. Der Zusammenschluss umfasst über 40 Partner aus der Technologie- und Industriebranche, darunter namhafte Unternehmen wie Microsoft, Siemens, IBM und SAP. Ziel der…
Open Secure AI Alliance: 30 Unternehmen gründen KI-Schutzallianz
Die Initiative will offene Standards und Tools entwickeln, um KI-Systeme vor neuen Cyberangriffen zu schützen. Ein jüngster Vorfall auf Hugging Face zeigt die Dringlichkeit.München, 27. Juli 2026 – Ein Bündnis aus über 30 Technologieunternehmen unter Führung von Nvidia hat heute…