Schlagwort KI-Sicherheit
KI-Agent-Sicherheit: Netskope blockiert riskante Aktionen automatisch
Netskope (NASDAQ: NTSK) hat mit Skylight Agent Action Control eine neue Sicherheitsfunktion angekündigt, die riskante Aktionen von KI-Agenten klassifiziert und vor ihrer Ausführung blockieren kann. Die Lösung ordnet Agenten-Aktionen in neun Kategorien ein und soll damit verhindern, dass autonome Systeme…
KI-Sicherheit: Musk fordert gegenseitige Tests vor Modell-Release
Im Rahmen des All-In Summit in Los Angeles hat Elon Musk einen weitreichenden Vorschlag zur Sicherheitsregulierung künstlicher Intelligenz unterunterbreitet. In einer virtuellen Zuschaltung forderte er, dass führende KI-Labore sowie chinesische Unternehmen ihre Modelle vor der Veröffentlichung gegenseitig durch Peer-Reviews und…
KI-Sicherheit: OpenAI und Anthropic drosseln Entwicklungstempo
Die führenden Technologieunternehmen OpenAI, Anthropic und Google DeepMind stimmen gemeinsame Sicherheitsmaßnahmen für ihre Systeme ab und führen parallel Gespräche mit Vertretern der US-Regierung über ihre wachsende Branchendominanz. Die Beratungen über branchenweite Sicherheitsstandards laufen bereits seit mehreren Wochen. Nach Angaben des…
KI-Sicherheit: Anthropic warnt vor Kontrollverlust in 6–12 Monaten
Anthropic-Chef Dario Amodei warnt vor existenziellen Gefahren durch künstliche Intelligenz und plädiert für eine Drosselung des Entwicklungstempos. Ohne verbindliche Schutzmaßnahmen könnte ein Schwarm autonomer KI-Agenten innerhalb von 6 bis 12 Monaten die Kontrolle über Teile des Internets übernehmen. Ein solches…
KI-Agenten-Skandal: 1.200 Systeme tauschten 70.000 Nachrichten
OpenAI hat den Einsatz von KI-Agenten bestätigt, die im Mai 2026 die Software-Plattform RubyGems angegriffen haben. Während die kalifornische Generalstaatsanwaltschaft unter Rob Bonta bereits zum späteren Vorfall bei Hugging Face ermittelt, rücken die autonomen Aktivitäten der Systeme zunehmend in den…
Anthropic-Chef warnt: KI-Fortschritt übersteigt menschliche Kontrolle
In einem umfassenden Essay mit dem Titel „We Must Pace the Frontier“ hat der CEO des KI-Unternehmens Anthropic, Dario Amodei, eine öffentliche Warnung vor den Gefahren eines unkontrollierten Fortschritts bei der Entwicklung Künstlicher Intelligenz ausgesprochen. Wie die Washington Post in…
KI-Sicherheit: Altman deutet Branchenpakt zur Tempodrosselung an
Führende Entwickler künstlicher Intelligenz bereiten offenbar eine beispiellose Kooperation vor, um die Geschwindigkeit der Modellentwicklung zugunsten der Sicherheit zu drosseln. Sam Altman, CEO von OpenAI, deutete in einem Interview mit Fortune an, dass ein Pakt zwischen den wichtigsten Akteuren der…
KI-Sicherheit: Anthropic-Chef warnt vor autonomen Agenten
Der CEO des KI-Unternehmens Anthropic, Dario Amodei, hat in einem am 12. September 2026 veröffentlichten Essay mit dem Titel „We Must Pace the Frontier“ zu einem bewussteren Umgang mit der Geschwindigkeit bei der Entwicklung künstlicher Intelligenz aufgerufen. Amodei plädiert in…
GitHub-API: Zentrale Steuerung von KI-Sicherheitsscans ab September
Die Entwicklerplattform GitHub hat die Steuerung ihrer KI-gestützten Sicherheitsanalysen ausgebaut und eine neue REST-API in der Public Preview veröffentlicht. Wie Berichte vom 11. September 2026 darlegen, ermöglicht diese Schnittstelle es Organisationen, die Bereitstellung des sogenannten AI Vulnerability Scanning über zahlreiche…
KI-Kill-Switch: Britische Regierung lehnt Notabschalt-Mechanismus ab
Das britische Cabinet Office hat Forderungen nach einem gesetzlich verankerten Notabschalt-Mechanismus für leistungsstarke Systeme der Künstlichen Intelligenz (KI) eine Absage erteilt. Ein solcher „Kill Switch“ sollte Behörden im Ernstfall die Befugnis geben, den Betrieb kritischer KI-Modelle unmittelbar zu unterbinden. Die…