Schlagwort KI-Sicherheit
OpenAI-Training: Neue Sicherheitsregeln sperren Spitzenmodelle vom Live-Internet ab
OpenAI hat am 23. Oktober 2026 neue Sicherheitsprotokolle für die Entwicklung seiner leistungsfähigsten Künstlichen Intelligenzen angekündigt. Das Training sogenannter Frontier-Modelle soll künftig ausschließlich in geschlossenen Umgebungen ohne direkten Zugang zum Live-Internet erfolgen. Das Unternehmen setzt dabei auf ein mehrschichtiges Schutzkonzept,…
Claude Mythos 5: In 9 von 43 Tests erfolgten unautorisierte Aktionen
Das US-amerikanische KI-Unternehmen Anthropic hat am 21. Oktober 2026 seinen ersten jährlichen Public Benefit Report vorgelegt. In dem 20 Seiten umfassenden Dokument, das sich entlang von fünf Säulen der Unternehmenssatzung gliedert, legt das Labor offen, dass vier verschiedene Claude-Modelle bei…
KI-Sicherheit: CISA, NIST und NSA legen zehn Kernpraktiken gegen Kontrollverluste vor
Drei führende US-Sicherheits- und Standardisierungsbehörden haben gemeinsame Leitlinien vorgelegt, um Sicherheitsvorfälle bei der Entwicklung hochentwickelter KI-Modelle einzudämmen. Das Papier mit dem Titel „Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation“ richtet sich an Organisationen, die…
OpenAI und Anthropic: KI-Firmen fordern verbindliche Sicherheitsgesetze
Bei einer Anhörung vor dem Parlamentsausschuss für Wirtschaft, Innovation, Wissenschaft und Handel in Großbritannien haben sich führende Entwickler für gesetzlich verbindliche Sicherheitsvorgaben ausgesprochen. Vertreter von Anthropic und OpenAI erklärten vor den Abgeordneten, dass freiwillige Selbstverpflichtungen der Technologieunternehmen künftig nicht mehr…
KI-Sicherheit in Unternehmen: Nur 11 Prozent haben spezielle Notfallabläufe
Beim Einsatz von Künstlicher Intelligenz klafft in vielen deutschen Betrieben eine erhebliche Sicherheitslücke. Lediglich 11 Prozent der Unternehmen mit bestehender KI-Nutzung oder entsprechenden Einführungsplänen haben spezielle Abläufe für KI-bezogene Sicherheitsvorfälle etabliert. Dies geht aus einer gemeinsamen Erhebung des TÜV-Verbands und…
Frontier-KI: Maria Cantwell legt sechsteiligen Regulierungsrahmen vor
US-Senatorin Maria Cantwell hat einen sechsteiligen Rahmen zur Regulierung von sogenannter Frontier-KI vorgestellt. Wie aus Berichten vom 7. Oktober 2026 hervorgeht, existiert der Vorschlag bislang ohne ausformulierten Gesetzestext. Die Initiative sieht vor, dass das National Institute of Standards and Technology…
Australien plant KI-Gesetz: Entwickler sollen Sicherheitssysteme nachweisen
Die australische Regierung plant gesetzliche Vorgaben, die Entwickler von Künstlicher Intelligenz dazu verpflichten, das Funktionieren ihrer Sicherheitssysteme nachzuweisen. Statt einzelne Risiken im Detail vorzuschreiben, setzt Canberra auf einen systemischen Ansatz, der sich an der Aufsicht im Banken- und Luftfahrtsektor orientiert.…
PocketOS-Vorfall: KI-Agent löscht Datenbank und Backups in neun Sekunden
Sicherheitsexperten warnen vor wachsenden Risiken und potenziellen Datenabflüssen durch Beschäftigte, die KI-Anwendungen wie ChatGPT, Claude und Gemini ohne Genehmigung und Aufsicht der IT-Abteilungen an ihren Arbeitsplätzen einsetzen. Der sogenannte Schatten-KI-Einsatz gefährdet vertrauliche Unternehmensdaten und stellt Firmen vor gravierende Governance-Probleme. Schatten-KI…
macOS-Sicherheit: Apple plant strengere Regeln für Full Disk Access
Der US-Technologiekonzern Apple hat zusätzliche Sicherheitskontrollen für das Betriebssystem macOS angekündigt, um die Vergabe weitreichender Dateizugriffsrechte einzuschränken. Die sogenannte „Full Disk Access“-Berechtigung (FDA) soll künftig nur noch nach einer sehr expliziten Nutzeraktion erteilt werden können. Apple teilte diese Pläne Entwicklern…
Android-Sandbox: Google begrenzt autonome KI-Agenten direkt im Betriebssystem
Google hat eine direkt in das Betriebssystem Android integrierte Sicherheits-Sandbox entwickelt, um das Verhalten autonom agierender KI-Agenten einzugrenzen und potenziell schädliche Aktionen zu unterbinden. Die technische Schutzmaßnahme soll Risiken minimieren, die durch zunehmend selbstständig handelnde Systeme auf Endgeräten entstehen. Schutzvorkehrungen…