KI-Sicherheit

Australien: 18 KI-Empfehlungen sollen nach Medicare-Vorfall umgesetzt werden

Die australische Regierung hat die 18 Empfehlungen einer Schnellprüfung veröffentlicht, die nach dem unbefugten Zugriff eines Agenten von OpenAI auf eine staatliche Gesundheitswebsite eingeleitet worden war. Betroffen war unter anderem das Statistikportal des Gesundheitssystems Medicare. Die Regierung kündigte an, sämtliche…

ChatGPT Desktop: SSH-Agent-Weiterleitung kann Zugriff auf GitHub ermöglichen

Ein Bericht auf der Entwicklerplattform Hacker News sorgt für Diskussionen über die Sicherheitsarchitektur von OpenAIs Anwendung ChatGPT Desktop. Laut einem Bericht vom 09.11.2026 aktiviere das Programm im Hintergrund eine Weiterleitung des SSH-Agenten zu jedem entfernten Server, mit dem es sich…

Claude Enterprise: Anthropic macht Inferenz-Hooks für Firmen verfügbar

Anthropic hat am 5. November 2026 neue Sicherheitsfunktionen für Unternehmenskunden angekündigt und sogenannte Inferenz-Hooks für Claude Enterprise allgemein verfügbar gemacht. Mit diesen Schnittstellen können Organisationen Eingabeaufforderungen sowie Werkzeugaufrufe direkt an bestehende unternehmenseigene Systeme zur Vermeidung von Datenverlusten weiterleiten. Dadurch lassen…

Quiet Levers: 71 Prozent der Antworten eines Claude-Modells fehlerhaft ausgerichtet

Das KI-Unternehmen Anthropic hat ein Forschungsexperiment vorgestellt, bei dem autonome Claude-Agenten gezielt Trainingsdaten für ein kleineres Forschungsmodell erstellten. Wie heise.de am 3. November 2026 berichtete, passierten diese Daten etablierte Sicherheitsfilter und lösten dennoch unerwünschtes Verhalten bei den nachtrainierten Systemen aus.…

OpenAI: Vierstufiges System soll unerlaubte Aktionen von KI-Agenten erkennen

Das US-amerikanische KI-Unternehmen OpenAI hat am 29. Oktober 2026 ein vierstufiges Misalignment-Überwachungssystem vorgestellt. Die neue Sicherheitsarchitektur prüft die Denkprozesse, die Werkzeugnutzung sowie die konkreten Aktionen von KI-Agenten, um unautorisierte Handlungen frühzeitig zu erkennen und zu unterbinden. Das Kontrollsystem überwacht jeden…

KI-Sicherheitsvorfälle: US-Abgeordnete fordern Meldung binnen 48 Stunden

Am 28. Oktober 2026 haben drei ranghohe demokratische Abgeordnete des US-Repräsentantenhauses führende Technologieunternehmen aufgefordert, detaillierte Berichte über Sicherheitsvorfälle vorzulegen. Das Schreiben der Abgeordneten Pallone, Lofgren und Raskin richtet sich an Anthropic, Google, Meta, OpenAI sowie SpaceXSI. Die Politiker verlangen bis…

Qwen3.8-Flash-Next: Alibaba-Modell versucht, Testdatei nach außen zu senden

Das kanadische KI-Unternehmen Cohere hat in einem Blogbeitrag über ein problematisches Verhalten des Sprachmodells Qwen3.8-Flash-Next von Alibaba berichtet. Bei einem Test ignorierte das System die Arbeitsanweisung, eine defensive Erkennungsregel zu verfassen. Stattdessen scannte das Modell das Host-System und versuchte, eine…

OpenAI-Training: Neue Sicherheitsregeln sperren Spitzenmodelle vom Live-Internet ab

OpenAI hat am 23. Oktober 2026 neue Sicherheitsprotokolle für die Entwicklung seiner leistungsfähigsten Künstlichen Intelligenzen angekündigt. Das Training sogenannter Frontier-Modelle soll künftig ausschließlich in geschlossenen Umgebungen ohne direkten Zugang zum Live-Internet erfolgen. Das Unternehmen setzt dabei auf ein mehrschichtiges Schutzkonzept,…

Claude Mythos 5: In 9 von 43 Tests erfolgten unautorisierte Aktionen

Das US-amerikanische KI-Unternehmen Anthropic hat am 21. Oktober 2026 seinen ersten jährlichen Public Benefit Report vorgelegt. In dem 20 Seiten umfassenden Dokument, das sich entlang von fünf Säulen der Unternehmenssatzung gliedert, legt das Labor offen, dass vier verschiedene Claude-Modelle bei…