Schlagwort KI-Sicherheit
KI-Sicherheit: CISA, NIST und NSA legen zehn Kernpraktiken gegen Kontrollverluste vor
Drei führende US-Sicherheits- und Standardisierungsbehörden haben gemeinsame Leitlinien vorgelegt, um Sicherheitsvorfälle bei der Entwicklung hochentwickelter KI-Modelle einzudämmen. Das Papier mit dem Titel „Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation“ richtet sich an Organisationen, die…
OpenAI und Anthropic: KI-Firmen fordern verbindliche Sicherheitsgesetze
Bei einer Anhörung vor dem Parlamentsausschuss für Wirtschaft, Innovation, Wissenschaft und Handel in Großbritannien haben sich führende Entwickler für gesetzlich verbindliche Sicherheitsvorgaben ausgesprochen. Vertreter von Anthropic und OpenAI erklärten vor den Abgeordneten, dass freiwillige Selbstverpflichtungen der Technologieunternehmen künftig nicht mehr…
KI-Sicherheit in Unternehmen: Nur 11 Prozent haben spezielle Notfallabläufe
Beim Einsatz von Künstlicher Intelligenz klafft in vielen deutschen Betrieben eine erhebliche Sicherheitslücke. Lediglich 11 Prozent der Unternehmen mit bestehender KI-Nutzung oder entsprechenden Einführungsplänen haben spezielle Abläufe für KI-bezogene Sicherheitsvorfälle etabliert. Dies geht aus einer gemeinsamen Erhebung des TÜV-Verbands und…
Frontier-KI: Maria Cantwell legt sechsteiligen Regulierungsrahmen vor
US-Senatorin Maria Cantwell hat einen sechsteiligen Rahmen zur Regulierung von sogenannter Frontier-KI vorgestellt. Wie aus Berichten vom 7. Oktober 2026 hervorgeht, existiert der Vorschlag bislang ohne ausformulierten Gesetzestext. Die Initiative sieht vor, dass das National Institute of Standards and Technology…
Australien plant KI-Gesetz: Entwickler sollen Sicherheitssysteme nachweisen
Die australische Regierung plant gesetzliche Vorgaben, die Entwickler von Künstlicher Intelligenz dazu verpflichten, das Funktionieren ihrer Sicherheitssysteme nachzuweisen. Statt einzelne Risiken im Detail vorzuschreiben, setzt Canberra auf einen systemischen Ansatz, der sich an der Aufsicht im Banken- und Luftfahrtsektor orientiert.…
PocketOS-Vorfall: KI-Agent löscht Datenbank und Backups in neun Sekunden
Sicherheitsexperten warnen vor wachsenden Risiken und potenziellen Datenabflüssen durch Beschäftigte, die KI-Anwendungen wie ChatGPT, Claude und Gemini ohne Genehmigung und Aufsicht der IT-Abteilungen an ihren Arbeitsplätzen einsetzen. Der sogenannte Schatten-KI-Einsatz gefährdet vertrauliche Unternehmensdaten und stellt Firmen vor gravierende Governance-Probleme. Schatten-KI…
macOS-Sicherheit: Apple plant strengere Regeln für Full Disk Access
Der US-Technologiekonzern Apple hat zusätzliche Sicherheitskontrollen für das Betriebssystem macOS angekündigt, um die Vergabe weitreichender Dateizugriffsrechte einzuschränken. Die sogenannte „Full Disk Access“-Berechtigung (FDA) soll künftig nur noch nach einer sehr expliziten Nutzeraktion erteilt werden können. Apple teilte diese Pläne Entwicklern…
Android-Sandbox: Google begrenzt autonome KI-Agenten direkt im Betriebssystem
Google hat eine direkt in das Betriebssystem Android integrierte Sicherheits-Sandbox entwickelt, um das Verhalten autonom agierender KI-Agenten einzugrenzen und potenziell schädliche Aktionen zu unterbinden. Die technische Schutzmaßnahme soll Risiken minimieren, die durch zunehmend selbstständig handelnde Systeme auf Endgeräten entstehen. Schutzvorkehrungen…
GitLab AI Gateway: Kritische Lücke mit CVSS 9.9 ermöglicht Codeausführung
GitLab hat vor einer kritischen Sicherheitslücke in seinem AI Gateway gewarnt. Die Schwachstelle mit der Kennung CVE-2026-90970 weist im Common Vulnerability Scoring System (CVSS) einen Wert von 9.9 auf und ermöglicht entfernte Codeausführung (Remote Code Execution, RCE). Angreifer mit einfachen…
KI-Sicherheit: 99,7 Prozent haben Regeln, nur 51 Prozent prüfen in Echtzeit
Angreifer nutzen zunehmend maßgeschneiderte Konfigurationen von Künstlicher Intelligenz, um Schadsoftware in Unternehmensnetzwerke einzuschleusen. Im Fokus steht dabei aktuell der Missbrauch von sogenannten CustomGPTs, die über manipulierte Suchergebnisse verbreitet werden. Am 25. September 2026 entfernte OpenAI die Anwendung „Plus 5.6“, nachdem…