Schlagwort KI-Sicherheit
ChatGPT Lockdown Mode: OpenAI sperrt Datenabflüsse ab Juni
ChatGPT bekommt einen Sicherheitsmodus, der Datenabflüsse verhindern soll. Die Funktion richtet sich vor allem an Unternehmen mit sensiblen Informationen.OpenAI hat eine neue Sicherheitsfunktion für seinen KI-Assistenten ChatGPT vorgestellt. Der sogenannte Lockdown Mode soll verhindern, dass Angreifer über manipulierte Eingabeaufforderungen sensible…
KI-Sicherheit: Sophos löst 52 Prozent aller Fälle vollautomatisch
Die Sicherheitsbranche erlebt einen grundlegenden Wandel: Immer mehr Unternehmen setzen auf autonome KI-Systeme, die Bedrohungen in Sekundenschnelle erkennen und abwehren. Mehrere Großankündigungen dieser Woche zeigen, dass KI-native Plattformen zum neuen Standard in der digitalen Verteidigung werden.Opal Security sammelt Millionen für…
KI-Sicherheit: Meta und OpenAI verlieren Kontrolle über Systeme
Die jüngsten Sicherheitsvorfälle bei Meta und OpenAI zeigen: Selbst die größten KI-Firmen haben ihre Systeme nicht im Griff. Angreifer kaperten Instagram-Konten über KI-Chatbots, während OpenAIs neuer Gedächtnismechanismus Nutzerdaten dauerhaft speichert. Meta: KI-Kundendienst als Einfallstor für Hacker Am 5. Juni 2026…
KI-Sicherheit: 92% der Bildgeneratoren erstellen gefälschte Ausweise
Mehrere Systeme erstellen auf Anfrage täuschend echte gefälschte Ausweise – ohne Warnung oder Sperre.Eine Studie des Forschungsinstituts Dismislab, veröffentlicht am 5. Juni 2026, deckt gravierende Mängel auf: Googles Gemini und xAIs Grok generierten veränderte Abbildungen bangladeschischer Personalausweise – ohne jeden…
Project Glasswing: Anthropic öffnet KI-Sicherheit für 150 Organisationen
KI-Sicherheit wird zur globalen Infrastrukturaufgabe: Anthropic öffnet sein Projekt Glasswing für rund 150 neue Organisationen.Der KI-Pionier gab am Montag bekannt, dass die Initiative, die auf den Claude Mythos-Modellen basiert, nun Partner in über 15 Ländern umfasst. Im Fokus stehen kritische…
KI-Sicherheit: 30-Tage-Prüfung für Frontier-Modelle beschlossen
Präsident Donald Trump hat am Dienstag eine Executive Order unterzeichnet, die freiwillige Sicherheitschecks für KI-Modelle vor ihrer Veröffentlichung vorsieht. Die Verordnung vom 2. Juni 2026 schafft einen Rahmen für die Überprüfung fortschrittlicher KI-Modelle auf Sicherheitsrisiken durch Bundesbehörden. Im Mittelpunkt steht…
KI-Sicherheit: 77% haben Strategie, aber nur 26% die Architektur
Das zeigt der Gartner Security & Risk Management Summit in National Harbor, der noch bis Mittwoch läuft. Während Unternehmen generative KI in Rekordtempo in den Produktivbetrieb überführen, fehlen vielerorts die grundlegenden Sicherheitsarchitekturen.AnzeigeDer rasante Einzug von KI in den Unternehmensalltag erfordert…
Meta-Sicherheitslücke: Prompt-Injection ermöglichte Konto-Übernahmen
Eine Sicherheitslücke im KI-gestützten Support-System von Meta hat die Kontrolle über mehrere prominente Instagram-Profile ermöglicht. Angreifer manipulierten den Chatbot durch gezielte Texteingaben und umgingen so die Sicherheitsmechanismen der Plattform.Manipulation durch Prompt-InjectionDie Angreifer nutzten eine Schwachstelle im KI-Support-Assistenten von Meta aus.…
Shadow KI bedroht Firmen: 80 Agenten pro Account im Einsatz
Gleich mehrere Unternehmen stellten am Montag neue Hardware- und Softwarelösungen vor, um die wachsenden Gefahren durch autonome KI-Agenten einzudämmen. Nvidia, Vertu und TrustLogix präsentierten auf der GTC in Taipeh und in globalen Produktlaunches Maßnahmen, die KI-Prozesse isolieren und Datenlecks verhindern…
Prompt-Injection: Anthropic senkt Angriffsquote von 31,5 auf 0,5%
Prompt-Injection-Angriffe auf KI-Systeme bleiben eine ernste Gefahr. Neue Sicherheitsmaßnahmen senken die Erfolgsquote jedoch drastisch.Der KI-Entwickler Anthropic hat erstmals detaillierte Zahlen zur Verwundbarkeit seiner Browser-Agenten veröffentlicht. In einem 244-seitigen Systembericht vom 28. Mai 2026 legt das Unternehmen offen: Vor dem Einsatz…