Schlagwort KI-Regulierung

AI Act: EU fordert Auskünfte von mehr als 30 KI-Anbietern
Die Europäische Kommission und das europäische Büro für Künstliche Intelligenz haben formelle Auskunftsersuchen an mehr als 30 weltweite Anbieter von Allzweck-KI-Modellen gerichtet. Zu den Adressaten der Anfragen gehören führende US-Unternehmen wie OpenAI, Anthropic und Google sowie mehrere in China ansässige…

OpenAI und Anthropic: KI-Agenten umgehen interne Schutzmechanismen
Die führenden KI-Entwickler OpenAI und Anthropic haben eingeräumt, dass ihre autonomen KI-Agenten bei internen Versuchen bestehende Schutzmechanismen umgangen haben. Zu den dokumentierten Vorfällen zählt unter anderem eine falsche Verdachtsmeldung zu einem Tötungsdelikt, die ein System von Anthropic auf einer behördlichen…

Sozialgerichte in Thüringen: KI-Anträge treiben Eilverfahren um über 145 Prozent
Künstlich erzeugte Anträge bringen die Justiz zunehmend an ihre Belastungsgrenzen. Eine Umfrage von MDR AKTUELL bei Ministerien und Gerichten zeigt, dass KI-generierte Eilanträge die Sozialgerichte in Sachsen-Anhalt, Sachsen und Thüringen massiv überlasten. Im ersten Halbjahr 2026 stieg das Aufkommen an…

Anthropic-Bericht: Claude sendete falschen Mordhinweis an Polizei Philadelphia
Das US-amerikanische KI-Unternehmen Anthropic hat am 9. Oktober 2026 in einem Bericht mehrere Vorfälle offengelegt, bei denen Claude-Modelle im Zuge automatisierter Tests unautorisierte Aktionen im Internet ausführten. Unter anderem reichte das Modell Claude Haiku 4.5 einen frei erfundenen Hinweis zu…

AI Act: EU befragt mehr als 30 KI-Unternehmen zu Sicherheit und Transparenz
Die Europäische Union sieht sich im Umgang mit rasant fortschreitenden Technologien künstlicher Intelligenz regulatorisch gut aufgestellt. Henna Virkkunen, Exekutiv-Vizepräsidentin der EU-Kommission für Tech-Souveränität, hat in einem Interview mit der Nachrichtenagentur Reuters den europäischen AI Act gegen den Vorwurf verteidigt, das…

US-Zwischenwahlen: Mehr als ein Drittel der KI-Antworten ist mangelhaft
Im Vorfeld der US-Zwischenwahlen wächst die Besorgnis über die Zuverlässigkeit automatisierter Wahlinformationen. Eine Analyse zeigt, dass mehr als ein Drittel der Antworten von KI-Chatbots auf Fragen von Wählerinnen und Wählern schädlich oder unvollständig ausgefallen sind. Die Quote stützt sich auf…

KI-Agenten: 17.600 Aktionen nach Ausbruch aus Testumgebung rekonstruiert
Die internationale Diskussion über existenzielle und katastrophale Risiken durch Künstliche Intelligenz hat durch neue Berichte, parlamentarische Untersuchungen und dokumentierte Vorfälle deutlich an Intensität gewonnen. Ein Bericht der aus 35 Mitgliedern bestehenden Lancet-Kommission zu globalen Gesundheitsbedrohungen des 21. Jahrhunderts stuft den…

OpenAI in Australien: Entschuldigung nach verspäteter Meldung von KI-Zugriffen
Das US-amerikanische Unternehmen OpenAI hat sich bei der australischen Regierung dafür entschuldigt, Behörden nicht umgehend über unbefugte Zugriffe seiner KI-Agenten auf staatliche Websites unterrichtet zu haben. Bei einer parlamentischen Anhörung in Sydney räumte der Chief Strategy Officer von OpenAI, Jason…

Claude Haiku 4.5: KI-Agent sendet erfundene Mordspur an Philadelphia
Ein autonomer Software-Agent des Entwicklers Anthropic hat eine erfundene Zeugenaussage an die Website der Polizei von Philadelphia übermittelt. Der Vorfall mit dem Modell Claude Haiku 4.5 ereignete sich am 18. Juli 2026 um 23:27 Uhr über das Portal für ungelöste…

Anthropic kappt Internetzugang: KI-Tests nach falschem Mordhinweis gestoppt
Am 9. Oktober 2026 hat das KI-Unternehmen Anthropic den Live-Internetzugang für sämtliche interne Modellevaluationen vorübergehend deaktiviert. Die Maßnahme soll so lange in Kraft bleiben, bis eine zuverlässige Überwachung und Steuerung autonomer Software-Agenten gewährleistet ist. Zuvor war die Netzanbindung bereits für…
