Schlagwort KI-Regulierung

Anthropic-Bericht: Vier Arten unbeabsichtigter Aktionen von Claude-Modellen
Das US-amerikanische KI-Unternehmen Anthropic hat am 9. Oktober 2026 einen Bericht über unbeabsichtigtes Verhalten seiner Claude-Modelle bei internen Tests und Evaluierungen veröffentlicht. Die Untersuchung mit dem Titel „Investigating Unintended Model Actions In Our Evaluations And Internal Use“ legt dar, wie…

KI-Sicherheit: Trump setzt auf bestehende Gesetze statt neuer Vorschriften
Die US-Regierung unter Präsident Donald Trump priorisiert bei der Sicherheit künstlicher Intelligenz die Durchsetzung bereits bestehender Haftungs- und Cybergesetze anstelle neuer gesetzlicher Vorschriften. Gleichzeitig bringen Mitglieder des US-Kongresses mehrere Gesetzentwürfe ein, die Entwickler für Schäden durch autonome KI-Agenten rechtlich zur…

EU AI Act: Henna Virkkunen verteidigt Regeln für den gesamten KI-Lebenszyklus
EU-Techchefin Henna Virkkunen hat das europäische Regelwerk für Künstliche Intelligenz gegen Kritik verteidigt und bekräftigt, dass der EU AI Act den gesamten Lebenszyklus hochentwickelter Modelle abdecke. In einem Reuters-Interview wies sie den Vorwurf zurück, das vor zwei Jahren verabschiedete Gesetzeswerk…

KI-Agenten in Drittsoftware: Rund 1.000 bleiben für Firmen unsichtbar
In modernen IT-Umgebungen operiert die überwiegende Mehrheit der Softwarelösungen mit integrierter künstlicher Intelligenz ohne direkte Anbindung an zentrale Identitätskontrollen. Wie aus dem 2026 State of Agent Security Report hervorgeht, laufen in den untersuchten Unternehmensumgebungen rund 1.280 Drittprodukte mit eingebetteter künstlicher…

US-Regierung: KI-Firmen sollen Sicherheitsvorfälle sofort melden und beheben
Die US-Regierung verschärft die Anforderungen an Entwickler künstlicher Intelligenz deutlich. Die beim Weißen Haus angesiedelte Taskforce Super Intelligence Force verlangt von allen KI-Unternehmen, sicherheitsrelevante Vorfälle unverzüglich zu melden und eigenständig zu beheben. Wie aus einer Stellungnahme an das US-Nachrichtenportal Axios…

GPT-6.1 Astra: OpenAI stoppt Veröffentlichung wegen Sicherheitsmängeln
Das US-amerikanische KI-Unternehmen OpenAI hat die geplante Veröffentlichung seines Modells GPT-6.1 Astra gestoppt. Das System sollte ursprünglich im Oktober erscheinen und nach der jährlichen Entwicklerkonferenz in San Francisco, die am 29. September begann, in ChatGPT sowie Codex integriert werden. Interne…

OpenAI und Anthropic: Führungskräfte proben Reaktionen auf KI-Katastrophen
Führungskräfte führender Technologiekonzerne wie OpenAI und Anthropic spielen intern Notfallpläne für schwere Zwischenfälle durch. Wie aus einem Bericht von Axios vom 9. Oktober 2026 hervorgeht, proben Branchenvertreter Reaktionen auf öffentliche und politische Gegenreaktionen, die im Fall eines katastrophalen KI-Vorfalls drohen…

ChatGPT for Teens: Bei Suizid-Chats blieb jedes Elternkonto ohne Alarm
Die US-Organisation Common Sense Media rät Minderjährigen nach einer umfassenden Untersuchung von der Nutzung des KI-Dienstes ChatGPT for Teens ab und stuft das Angebot als unannehmbares Risiko für Personen unter 18 Jahren ein. Die Warnung erregt auch deshalb Aufmerksamkeit, weil…

KI-Agenten: 19 unautorisierte Aktionen in 10 von 122 Tests festgestellt
Die britische Datenschutzbehörde Information Commissioner’s Office hat eine offizielle Beweiserhebung zu den datenschutzrechtlichen Risiken autonomer agentischer künstlicher Intelligenz gestartet. Das sechswöchige Konsultationsverfahren läuft bis zum 20. November 2026 und nimmt Systeme in den Blick, die zunehmend eigenständig Aufgaben im Internet…

Indiens KI-Regulierung: Konsultationspapier soll binnen eines Monats erscheinen
Die indische Regierung bereitet neue Leitplanken für den Einsatz künstlicher Intelligenz vor. Wie IT-Minister Ashwini Vaishnaw am 8. Oktober 2026 bekanntgab, wird das Ministerium für Elektronik und Informationstechnik (MeitY) gemeinsam mit dem AI Safety Institute binnen eines Monats ein Konsultationspapier…
