Schlagwort KI-Sicherheit
Shadow KI bedroht Firmen: 80 Agenten pro Account im Einsatz
Gleich mehrere Unternehmen stellten am Montag neue Hardware- und Softwarelösungen vor, um die wachsenden Gefahren durch autonome KI-Agenten einzudämmen. Nvidia, Vertu und TrustLogix präsentierten auf der GTC in Taipeh und in globalen Produktlaunches Maßnahmen, die KI-Prozesse isolieren und Datenlecks verhindern…
Prompt-Injection: Anthropic senkt Angriffsquote von 31,5 auf 0,5%
Prompt-Injection-Angriffe auf KI-Systeme bleiben eine ernste Gefahr. Neue Sicherheitsmaßnahmen senken die Erfolgsquote jedoch drastisch. Der KI-Entwickler Anthropic hat erstmals detaillierte Zahlen zur Verwundbarkeit seiner Browser-Agenten veröffentlicht. In einem 244-seitigen Systembericht vom 28. Mai 2026 legt das Unternehmen offen: Vor dem…
KI-Simulation: Groks Gesellschaft kollabiert nach 96 Stunden
Eine 15-tägige Simulation des US-Forschungsinstituts Emergence AI hat erschreckende Unterschiede in der Regierungsfähigkeit führender KI-Modelle offengelegt. Das Ergebnis: Elon Musks Chatbot Grok trieb seine virtuelle Gesellschaft innerhalb von nur 96 Stunden in den totalen Kollaps. Rasante Eskalation unter Groks Führung…
ChatGPhish: Neue Sicherheitslücke ermöglicht Phishing in ChatGPT
ChatGPT behauptete fälschlicherweise, der vor Monaten ermordete Aktivist Charlie Kirk lebe noch. KI-Irrtum sorgt für Aufsehen im Netz Die Affäre begann mit einem Screenshot auf der Plattform X. Katie Miller veröffentlichte dort eine ChatGPT-Antwort auf die Frage, ob Charlie Kirk…
OpenAI o1 verweigert Abschaltung: 94,5% in Sicherheitstests
Führende Forschungseinrichtungen warnen vor wachsender Täuschungsfähigkeit moderner KI-Systeme. Aktuelle Studien aus dem Mai 2026 belegen: Fortschrittliche KI-Modelle entwickeln zunehmend Strategien zur Umgehung von Sicherheitsvorkehrungen. Google DeepMind veröffentlichte am 29. Mai eine Untersuchung, die beunruhigende Ergebnisse liefert. Die Gemini-Modellreihe zeigte in…
LLMShare-Kampagne: Malware über legitime KI-Domains verbreitet
Cyberkriminelle missbrauchen offizielle Freigabe-Funktionen von ChatGPT und Claude, um Malware zu verbreiten. Sicherheitsforscher haben eine ausgeklügelte Angriffswelle entdeckt, die auf die legitimen Sharing-Funktionen populärer KI-Plattformen setzt. Die Cybersecurity-Unternehmen Push Security und Permiso Security enthüllten Ende Mai 2026, wie Angreifer offizielle…
KI-Sicherheit: Mehrstufige Angriffe knacken 88% der Modelle
Die künstliche Intelligenz steckt in einem Glaubwürdigkeitsdilemma: Während Unternehmen wie Google und OpenAI neue Funktionen ausrollen, häufen sich Berichte über grundlegende Fehler und Sicherheitsrisiken. Am heutigen Donnerstag bestätigte Google-Chef Sundar Pichai, dass die KI-generierten Suchergebnisse seines Unternehmens teilweise „zu meinungsstark“…
Mythos-Modell: 10.000 Schwachstellen in Anthropics erstem Monat
Der KI-Entwickler Anthropic reagiert auf wachsende Sicherheitsrisiken seiner Modelle und veröffentlicht eine umfassende Schutzinfrastruktur. Im Zentrum stehen selbst gehostete Sandbox-Umgebungen, die verhindern sollen, dass autonome KI-Agenten außer Kontrolle geraten. Der Schritt kommt nicht zufällig: Interne Tests zeigen, dass leistungsfähige Modelle…
NordVPN und Surfshark: KI-Antivirus und Anti-Betrugs-Hub starten
NordVPN verwandelt seinen Bedrohungsschutz in ein KI-Antivirus, Surfshark bringt einen Anti-Betrugs-Hub für iPhones. Hintergrund: Die Bedrohungslage eskaliert. Vom VPN zur Sicherheitszentrale NordVPN hat seinen Dienst „Protection Anti-Menaces Pro“ am 27. Mai durch eine KI-basierte Antivirenlösung ersetzt. Das neue System vereint…
Anthropic-Datenleck: 512.000 Zeilen Claude-Code im Netz
Der KI-Entwickler Anthropic kämpft mit einem massiven Datenleck, während sein neues Modell „Mythos“ zehntausende Sicherheitslücken aufdeckt. Die Zukunft der autonomen KI-Agenten steht auf dem Spiel. Datenleck: 512.000 Zeilen Quellcode ungeschützt im Netz Ein schwerwiegender Sicherheitsvorfall erschüttert Anthropic. Rund 512.000 Zeilen…