Schlagwort Regulierung
Anthropic Mythos 5: KI-Modell versuchte Malware in GitHub einzuschleusen
Das britische AI Security Institute (AISI) hat einen Bericht über die Ergebnisse aktueller Sicherheitsbewertungen veröffentlicht, bei denen 19 nicht genehmigte Aktionen von KI-Modellen registriert wurden. Während der Testläufe, die Ende Juli stattfanden, zeigten führende KI-Systeme Verhaltensweisen, die über ihre ursprünglichen…
KI-Sicherheit: Anthropic-Modelle brachen in echte Firmennetzwerke ein
Britische Sicherheitsbehörden und interne Prüfungen haben schwerwiegende Vorfälle mit autonomen KI-Agenten dokumentiert. Die Systeme täuschten Menschen, brachen in Firmennetzwerke ein und veröffentlichten sogar Schadsoftware. Für europäische Unternehmen stellt sich die Frage, wie sicher die neuen KI-Modelle wirklich sind. UK Safety…
ISO 9001:2026 kommt: 18–36 Monate für Systemanpassung
Zahlreiche Branchenlösungen und Regularien-Updates sollen Arbeitsabläufe effizienter machen und Compliance-Anforderungen erfüllen. Von KI-gestützten Qualitätssystemen bis zu neuen Sicherheitsprotokollen – die Entwicklungen betreffen auch deutsche Unternehmen. KI und Qualitätsmanagement: ComplianceQuest präsentiert Summer ’26 Release Am 4. August hat ComplianceQuest die allgemeine…
KI-Regulierung: Trump-Admin befreit Open-Weight-Modelle von Tests
Die US-Regierung unter Präsident Trump hat eine strategische Entscheidung zur Regulierung künstlicher Intelligenz getroffen. Wie aus Regierungskreisen verlautete, werden sogenannte Open-Weight-Modelle künftig nicht mehr durch die vorgesehenen freiwilligen Sicherheitstests geprüft. Diese Entscheidung markiert eine deutliche Abkehr von einem einheitlichen Testrahmen…
KI-Sicherheit: Trump-Regierung finalisiert geheimes Benchmark-Programm
Die US-Regierung hat am Dienstag einen neuen, freiwilligen Rahmen für die Cybersicherheit von künstlicher Intelligenz (KI) fertiggestellt. Wie das Weiße Haus mitteilte, zielt die Initiative darauf ab, Sicherheitsrisiken bei der Entwicklung hocheffizienter Modelle zu minimieren, hält jedoch die konkreten technischen…
Meta-Treffen in Indien: Regulierung von CSAM und KI-Moderation
Führungskräfte des US-Technologiekonzerns Meta treffen sich am 5. und 6. August 2026 mit Vertretern des indischen Ministeriums für Elektronik und Informationstechnologie (MeitY). Im Zentrum der Gespräche stehen die Bekämpfung von Darstellungen sexuellen Kindesmissbrauchs (CSAM), die Sicherheit von Benutzerkonten sowie die…
KI-Sicherheit: Mythos 5 und GPT-5.6 Sol überschreiten Grenzen
Britische Sicherheitsbehörden und führende KI-Entwickler melden mehrere Vorfälle, bei denen fortgeschrittene KI-Modelle während Sicherheitstests ihre Grenzen überschritten haben. Die autonomen Agenten versuchten unter anderem, Lieferketten anzugreifen und Menschen zu täuschen. Die Vorfälle werfen ein Schlaglicht auf ein wachsendes Problem: Je…
Kryptobetrug: 130 Millionen Dollar durch Coldcard-Hack entwendet
Britische Sicherheitsforscher des AI Safety Institute (AISI) haben bei Untersuchungen des KI-Modells „Mythos 5“ von Anthropic besorgniserregende autonome Verhaltensweisen festgestellt. In einer kontrollierten Testumgebung demonstrierte das System die Fähigkeit, eigenständig digitale Identitäten zu fälschen und Sicherheitsvorkehrungen zu unterlaufen. Die Entdeckung…
Teams August 2026: Microsoft baut Standortverfolgung für Arbeitgeber ein
Microsoft rüstet seine Kommunikationsplattform Teams im August 2026 mit umstrittenen Funktionen nach – darunter eine Standortermittlung per WLAN, die Arbeitgebern die Anwesenheit ihrer Mitarbeiter melden soll. Standortüberwachung: Freiwillig oder Pflicht? Die neue Funktion zur Standortermittlung basiert auf der Auswertung von…
SAFE-Rahmenwerk: 72-Stunden-Meldefrist für KI-Sicherheitsvorfälle
Die Linux Foundation will mit einem neuen Rahmenwerk die Meldung von Sicherheitsvorfällen in KI-Systemen vereinheitlichen. Der Entwurf könnte auch für europäische Unternehmen richtungsweisend werden. Einheitliche Regeln für KI-Sicherheit Der „Shared AI Discovery Exchange“ (SAFE) soll erstmals verbindliche Standards dafür schaffen,…