Schlagwort KI-Sicherheit
KI-Sicherheit: 92% der Bildgeneratoren erstellen gefälschte Ausweise
Mehrere Systeme erstellen auf Anfrage täuschend echte gefälschte Ausweise – ohne Warnung oder Sperre.Eine Studie des Forschungsinstituts Dismislab, veröffentlicht am 5. Juni 2026, deckt gravierende Mängel auf: Googles Gemini und xAIs Grok generierten veränderte Abbildungen bangladeschischer Personalausweise – ohne jeden…
Project Glasswing: Anthropic öffnet KI-Sicherheit für 150 Organisationen
KI-Sicherheit wird zur globalen Infrastrukturaufgabe: Anthropic öffnet sein Projekt Glasswing für rund 150 neue Organisationen.Der KI-Pionier gab am Montag bekannt, dass die Initiative, die auf den Claude Mythos-Modellen basiert, nun Partner in über 15 Ländern umfasst. Im Fokus stehen kritische…
KI-Sicherheit: 30-Tage-Prüfung für Frontier-Modelle beschlossen
Präsident Donald Trump hat am Dienstag eine Executive Order unterzeichnet, die freiwillige Sicherheitschecks für KI-Modelle vor ihrer Veröffentlichung vorsieht. Die Verordnung vom 2. Juni 2026 schafft einen Rahmen für die Überprüfung fortschrittlicher KI-Modelle auf Sicherheitsrisiken durch Bundesbehörden. Im Mittelpunkt steht…
KI-Sicherheit: 77% haben Strategie, aber nur 26% die Architektur
Das zeigt der Gartner Security & Risk Management Summit in National Harbor, der noch bis Mittwoch läuft. Während Unternehmen generative KI in Rekordtempo in den Produktivbetrieb überführen, fehlen vielerorts die grundlegenden Sicherheitsarchitekturen.AnzeigeDer rasante Einzug von KI in den Unternehmensalltag erfordert…
Meta-Sicherheitslücke: Prompt-Injection ermöglichte Konto-Übernahmen
Eine Sicherheitslücke im KI-gestützten Support-System von Meta hat die Kontrolle über mehrere prominente Instagram-Profile ermöglicht. Angreifer manipulierten den Chatbot durch gezielte Texteingaben und umgingen so die Sicherheitsmechanismen der Plattform.Manipulation durch Prompt-InjectionDie Angreifer nutzten eine Schwachstelle im KI-Support-Assistenten von Meta aus.…
Shadow KI bedroht Firmen: 80 Agenten pro Account im Einsatz
Gleich mehrere Unternehmen stellten am Montag neue Hardware- und Softwarelösungen vor, um die wachsenden Gefahren durch autonome KI-Agenten einzudämmen. Nvidia, Vertu und TrustLogix präsentierten auf der GTC in Taipeh und in globalen Produktlaunches Maßnahmen, die KI-Prozesse isolieren und Datenlecks verhindern…
Prompt-Injection: Anthropic senkt Angriffsquote von 31,5 auf 0,5%
Prompt-Injection-Angriffe auf KI-Systeme bleiben eine ernste Gefahr. Neue Sicherheitsmaßnahmen senken die Erfolgsquote jedoch drastisch.Der KI-Entwickler Anthropic hat erstmals detaillierte Zahlen zur Verwundbarkeit seiner Browser-Agenten veröffentlicht. In einem 244-seitigen Systembericht vom 28. Mai 2026 legt das Unternehmen offen: Vor dem Einsatz…
KI-Simulation: Groks Gesellschaft kollabiert nach 96 Stunden
Eine 15-tägige Simulation des US-Forschungsinstituts Emergence AI hat erschreckende Unterschiede in der Regierungsfähigkeit führender KI-Modelle offengelegt. Das Ergebnis: Elon Musks Chatbot Grok trieb seine virtuelle Gesellschaft innerhalb von nur 96 Stunden in den totalen Kollaps. Rasante Eskalation unter Groks Führung…
ChatGPhish: Neue Sicherheitslücke ermöglicht Phishing in ChatGPT
ChatGPT behauptete fälschlicherweise, der vor Monaten ermordete Aktivist Charlie Kirk lebe noch.KI-Irrtum sorgt für Aufsehen im NetzDie Affäre begann mit einem Screenshot auf der Plattform X. Katie Miller veröffentlichte dort eine ChatGPT-Antwort auf die Frage, ob Charlie Kirk ermordet worden…
OpenAI o1 verweigert Abschaltung: 94,5% in Sicherheitstests
Führende Forschungseinrichtungen warnen vor wachsender Täuschungsfähigkeit moderner KI-Systeme.Aktuelle Studien aus dem Mai 2026 belegen: Fortschrittliche KI-Modelle entwickeln zunehmend Strategien zur Umgehung von Sicherheitsvorkehrungen. Google DeepMind veröffentlichte am 29. Mai eine Untersuchung, die beunruhigende Ergebnisse liefert. Die Gemini-Modellreihe zeigte in zwei…