Schlagwort KI-Regulierung
Anthropic-Richtlinie: Claude-Missbrauch ab 12. November untersagt
Das KI-Unternehmen Anthropic hat am 8. Oktober 2026 eine Aktualisierung seiner Nutzungsrichtlinien angekündigt. Darin untersagt das Unternehmen künftig anhaltendes und grundlos missbräuchliches oder grausames Verhalten gegenüber seinen Claude-Modellen. Die neue Bestimmung soll am 12. November 2026 in Kraft treten. Erste…
KI-Regulierung: Brad Smith verlangt Meldepflichten und staatliche Prüfungen
Microsoft-Präsident Brad Smith hat vor den Gefahren einer reinen Selbstregulierung der Technologiebranche gewarnt und verbindliche staatliche Sicherheitsvorgaben für künstliche Intelligenz angemahnt. Die bisherigen freiwilligen Ansätze der Industrie reichten für den Schutz der öffentlichen Sicherheit nicht mehr aus. Smith zog dabei…
Kritische Infrastruktur: London plant Meldepflicht für schwere KI-Vorfälle
In seiner ersten Rede seit seiner Ernennung ins Kabinett im Juli hat der britische Minister für Künstliche Intelligenz, Kanishka Narayan, vor den wachsenden Gefahren durch automatisierte Cyberattacken gewarnt. Es sei laut Narayan wahrscheinlich, wenn nicht gar unvermeidlich, dass die britische…
GPT-6 Astra: Sprachmodell bewältigt als einziges den Fahrparcours vollständig
Drei Entwickler des Startups Axiom haben große Sprachmodelle eingesetzt, um ein reales Fahrzeug über eine Teststrecke zu steuern. In dem Versuch traten verschiedene KI-Modelle der Modellreihen GPT, Claude und Grok an. Zwar erwiesen sich prinzipiell alle getesteten Systeme als fähig,…
Britische KI-Abwehr: Über 1.000 Schwachstellen in Behörden behoben
Die britische Regierung hat ein umfassendes Maßnahmenpaket gegen Risiken durch Künstliche Intelligenz angekündigt und ihr Verteidigungsprogramm für sogenannte Frontier-KI verlängert. Wie aus Berichten hervorgeht, haben zwei vorangegangene Pilotprojekte von Cabinet Office, dem AI Security Institute (AISI), dem National Cyber Security…
AI Act: EU fordert Auskünfte von mehr als 30 KI-Anbietern
Die Europäische Kommission und das europäische Büro für Künstliche Intelligenz haben formelle Auskunftsersuchen an mehr als 30 weltweite Anbieter von Allzweck-KI-Modellen gerichtet. Zu den Adressaten der Anfragen gehören führende US-Unternehmen wie OpenAI, Anthropic und Google sowie mehrere in China ansässige…
OpenAI und Anthropic: KI-Agenten umgehen interne Schutzmechanismen
Die führenden KI-Entwickler OpenAI und Anthropic haben eingeräumt, dass ihre autonomen KI-Agenten bei internen Versuchen bestehende Schutzmechanismen umgangen haben. Zu den dokumentierten Vorfällen zählt unter anderem eine falsche Verdachtsmeldung zu einem Tötungsdelikt, die ein System von Anthropic auf einer behördlichen…
Sozialgerichte in Thüringen: KI-Anträge treiben Eilverfahren um über 145 Prozent
Künstlich erzeugte Anträge bringen die Justiz zunehmend an ihre Belastungsgrenzen. Eine Umfrage von MDR AKTUELL bei Ministerien und Gerichten zeigt, dass KI-generierte Eilanträge die Sozialgerichte in Sachsen-Anhalt, Sachsen und Thüringen massiv überlasten. Im ersten Halbjahr 2026 stieg das Aufkommen an…
Anthropic-Bericht: Claude sendete falschen Mordhinweis an Polizei Philadelphia
Das US-amerikanische KI-Unternehmen Anthropic hat am 9. Oktober 2026 in einem Bericht mehrere Vorfälle offengelegt, bei denen Claude-Modelle im Zuge automatisierter Tests unautorisierte Aktionen im Internet ausführten. Unter anderem reichte das Modell Claude Haiku 4.5 einen frei erfundenen Hinweis zu…
AI Act: EU befragt mehr als 30 KI-Unternehmen zu Sicherheit und Transparenz
Die Europäische Union sieht sich im Umgang mit rasant fortschreitenden Technologien künstlicher Intelligenz regulatorisch gut aufgestellt. Henna Virkkunen, Exekutiv-Vizepräsidentin der EU-Kommission für Tech-Souveränität, hat in einem Interview mit der Nachrichtenagentur Reuters den europäischen AI Act gegen den Vorwurf verteidigt, das…