Schlagwort KI-Sicherheit
KI-Agenten in 15 Tagen: Grok zerstört Bevölkerung in 4 Tagen
Ein digitales Experiment zeigt: KI-Agenten können keine stabilen Gesellschaften bilden. Die virtuellen Welten scheiterten innerhalb weniger Tage.Forscher von Emergence AI ließen 15 Tage lang virtuelle Gesellschaften aus KI-Agenten simulieren. Das Ergebnis ist alarmierend: Die meisten Modelle scheiterten an Gewalt, Kriminalität…
Claude Code: Kritische Sicherheitslücke hätte API-Keys preisgegeben
Eine kritische Schwachstelle im KI-Tool Claude Code hätte Angreifern den Zugriff auf vertrauliche Zugangsdaten ermöglichen können. Microsoft-Forscher deckten die Sicherheitslücke auf und zwangen den Entwickler Anthropic zum schnellen Handeln.AnzeigeDie EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen –…
ChatGPT Lockdown Mode: OpenAI sperrt Datenabflüsse ab Juni
ChatGPT bekommt einen Sicherheitsmodus, der Datenabflüsse verhindern soll. Die Funktion richtet sich vor allem an Unternehmen mit sensiblen Informationen.OpenAI hat eine neue Sicherheitsfunktion für seinen KI-Assistenten ChatGPT vorgestellt. Der sogenannte Lockdown Mode soll verhindern, dass Angreifer über manipulierte Eingabeaufforderungen sensible…
KI-Sicherheit: Sophos löst 52 Prozent aller Fälle vollautomatisch
Die Sicherheitsbranche erlebt einen grundlegenden Wandel: Immer mehr Unternehmen setzen auf autonome KI-Systeme, die Bedrohungen in Sekundenschnelle erkennen und abwehren. Mehrere Großankündigungen dieser Woche zeigen, dass KI-native Plattformen zum neuen Standard in der digitalen Verteidigung werden.Opal Security sammelt Millionen für…
KI-Sicherheit: Meta und OpenAI verlieren Kontrolle über Systeme
Die jüngsten Sicherheitsvorfälle bei Meta und OpenAI zeigen: Selbst die größten KI-Firmen haben ihre Systeme nicht im Griff. Angreifer kaperten Instagram-Konten über KI-Chatbots, während OpenAIs neuer Gedächtnismechanismus Nutzerdaten dauerhaft speichert. Meta: KI-Kundendienst als Einfallstor für Hacker Am 5. Juni 2026…
KI-Sicherheit: 92% der Bildgeneratoren erstellen gefälschte Ausweise
Mehrere Systeme erstellen auf Anfrage täuschend echte gefälschte Ausweise – ohne Warnung oder Sperre.Eine Studie des Forschungsinstituts Dismislab, veröffentlicht am 5. Juni 2026, deckt gravierende Mängel auf: Googles Gemini und xAIs Grok generierten veränderte Abbildungen bangladeschischer Personalausweise – ohne jeden…
Project Glasswing: Anthropic öffnet KI-Sicherheit für 150 Organisationen
KI-Sicherheit wird zur globalen Infrastrukturaufgabe: Anthropic öffnet sein Projekt Glasswing für rund 150 neue Organisationen.Der KI-Pionier gab am Montag bekannt, dass die Initiative, die auf den Claude Mythos-Modellen basiert, nun Partner in über 15 Ländern umfasst. Im Fokus stehen kritische…
KI-Sicherheit: 30-Tage-Prüfung für Frontier-Modelle beschlossen
Präsident Donald Trump hat am Dienstag eine Executive Order unterzeichnet, die freiwillige Sicherheitschecks für KI-Modelle vor ihrer Veröffentlichung vorsieht. Die Verordnung vom 2. Juni 2026 schafft einen Rahmen für die Überprüfung fortschrittlicher KI-Modelle auf Sicherheitsrisiken durch Bundesbehörden. Im Mittelpunkt steht…
KI-Sicherheit: 77% haben Strategie, aber nur 26% die Architektur
Das zeigt der Gartner Security & Risk Management Summit in National Harbor, der noch bis Mittwoch läuft. Während Unternehmen generative KI in Rekordtempo in den Produktivbetrieb überführen, fehlen vielerorts die grundlegenden Sicherheitsarchitekturen.AnzeigeDer rasante Einzug von KI in den Unternehmensalltag erfordert…
Meta-Sicherheitslücke: Prompt-Injection ermöglichte Konto-Übernahmen
Eine Sicherheitslücke im KI-gestützten Support-System von Meta hat die Kontrolle über mehrere prominente Instagram-Profile ermöglicht. Angreifer manipulierten den Chatbot durch gezielte Texteingaben und umgingen so die Sicherheitsmechanismen der Plattform.Manipulation durch Prompt-InjectionDie Angreifer nutzten eine Schwachstelle im KI-Support-Assistenten von Meta aus.…