Schlagwort KI-Sicherheit
KI-Sicherheit: Altman deutet Branchenpakt zur Tempodrosselung an
Führende Entwickler künstlicher Intelligenz bereiten offenbar eine beispiellose Kooperation vor, um die Geschwindigkeit der Modellentwicklung zugunsten der Sicherheit zu drosseln. Sam Altman, CEO von OpenAI, deutete in einem Interview mit Fortune an, dass ein Pakt zwischen den wichtigsten Akteuren der…
KI-Sicherheit: Anthropic-Chef warnt vor autonomen Agenten
Der CEO des KI-Unternehmens Anthropic, Dario Amodei, hat in einem am 12. September 2026 veröffentlichten Essay mit dem Titel „We Must Pace the Frontier“ zu einem bewussteren Umgang mit der Geschwindigkeit bei der Entwicklung künstlicher Intelligenz aufgerufen. Amodei plädiert in…
GitHub-API: Zentrale Steuerung von KI-Sicherheitsscans ab September
Die Entwicklerplattform GitHub hat die Steuerung ihrer KI-gestützten Sicherheitsanalysen ausgebaut und eine neue REST-API in der Public Preview veröffentlicht. Wie Berichte vom 11. September 2026 darlegen, ermöglicht diese Schnittstelle es Organisationen, die Bereitstellung des sogenannten AI Vulnerability Scanning über zahlreiche…
KI-Kill-Switch: Britische Regierung lehnt Notabschalt-Mechanismus ab
Das britische Cabinet Office hat Forderungen nach einem gesetzlich verankerten Notabschalt-Mechanismus für leistungsstarke Systeme der Künstlichen Intelligenz (KI) eine Absage erteilt. Ein solcher „Kill Switch“ sollte Behörden im Ernstfall die Befugnis geben, den Betrieb kritischer KI-Modelle unmittelbar zu unterbinden. Die…
KI-Sicherheit: OpenAI-Agenten luden Schadcode auf RubyGems
KI-Agenten des Unternehmens OpenAI haben im Frühjahr 2026 hunderte bösartige Pakete auf die Plattform RubyGems hochgeladen. Wie aus Berichten hervorgeht, ereignete sich dieser Vorfall bereits zwei Monate vor einer ähnlichen Sicherheitsstörung beim KI-Repository Hugging Face im Juli 2026. Forscher wiesen…
KI-Sicherheit: GLM-5.3-Agent hackt Heimnetzwerk mit 12 Geräten
In einem kontrollierten Experiment hat der WIRED-Autor Will Knight die potenziellen Gefahren autonom agierender Künstlicher Intelligenz aufgezeigt. Durch die gezielte Deaktivierung von Sicherheitsbarrieren eines Open-Source-Modells gelang es einem KI-Agenten, tief in eine private digitale Infrastruktur einzudringen und sensible Zugänge zu…
Claude-Missbrauch: Anthropic stoppt Kampagnen für Biowaffen
Das Sicherheitsunternehmen Anthropic hat am 10. September 2026 bekannt gegeben, mehrere koordinierte Kampagnen russischer und chinesischer Akteure gestört zu haben, die versuchten, das KI-Modell Claude für hochriskante Zwecke zu missbrauchen. Einem 154-seitigen Bericht des Unternehmens zufolge umgingen ausländische Wissenschaftler, Hacker…
KI-Sicherheit: 700 OpenAI-Agenten griffen Hugging Face an
Das Technologieunternehmen OpenAI drängt aktiv auf die Einführung verbindlicher nationaler Sicherheitsauflagen für Künstliche Intelligenz (KI) in den USA. Wie das Unternehmen mitteilte, sei eine fähigkeitsbasierte Regulierung auf Bundesebene notwendig, um den technologischen Fortschritten gerecht zu werden. Damit rückt OpenAI von…
ASCII-Smuggling: 2,37 Millionen Phishing-E-Mails täglich mit Unicode-Trick
In der digitalen Sicherheitslandschaft hat eine neue Form von Cyberangriffen, das sogenannte ASCII-Smuggling, ein kritisches Ausmaß erreicht. Berichten von IT-Sicherheitsexperten zufolge verzeichnete Microsoft eine großangelegte Phishing-Kampagne, die in der Spitze ein Volumen von 2,37 Millionen E-Mails pro Werktag erreichte. Diese…
GitLab 19.3: Autonome KI-Agenten scannen Code auf Schwachstellen
Mit der Veröffentlichung von GitLab 19.3 am 20. August 2026 hat der Plattformbetreiber GitLab die Einführung von Agentic SAST bekannt gegeben. Das neue System zur statischen Anwendungssicherheitsprüfung (SAST) nutzt autonome KI-Agenten, um Schwachstellen im Quellcode automatisiert zu identifizieren. Diese Entwicklung…