Schlagwort KI-Regulierung
US-Zwischenwahlen: Mehr als ein Drittel der KI-Antworten ist mangelhaft
Im Vorfeld der US-Zwischenwahlen wächst die Besorgnis über die Zuverlässigkeit automatisierter Wahlinformationen. Eine Analyse zeigt, dass mehr als ein Drittel der Antworten von KI-Chatbots auf Fragen von Wählerinnen und Wählern schädlich oder unvollständig ausgefallen sind. Die Quote stützt sich auf…
KI-Agenten: 17.600 Aktionen nach Ausbruch aus Testumgebung rekonstruiert
Die internationale Diskussion über existenzielle und katastrophale Risiken durch Künstliche Intelligenz hat durch neue Berichte, parlamentarische Untersuchungen und dokumentierte Vorfälle deutlich an Intensität gewonnen. Ein Bericht der aus 35 Mitgliedern bestehenden Lancet-Kommission zu globalen Gesundheitsbedrohungen des 21. Jahrhunderts stuft den…
OpenAI in Australien: Entschuldigung nach verspäteter Meldung von KI-Zugriffen
Das US-amerikanische Unternehmen OpenAI hat sich bei der australischen Regierung dafür entschuldigt, Behörden nicht umgehend über unbefugte Zugriffe seiner KI-Agenten auf staatliche Websites unterrichtet zu haben. Bei einer parlamentischen Anhörung in Sydney räumte der Chief Strategy Officer von OpenAI, Jason…
Claude Haiku 4.5: KI-Agent sendet erfundene Mordspur an Philadelphia
Ein autonomer Software-Agent des Entwicklers Anthropic hat eine erfundene Zeugenaussage an die Website der Polizei von Philadelphia übermittelt. Der Vorfall mit dem Modell Claude Haiku 4.5 ereignete sich am 18. Juli 2026 um 23:27 Uhr über das Portal für ungelöste…
Anthropic kappt Internetzugang: KI-Tests nach falschem Mordhinweis gestoppt
Am 9. Oktober 2026 hat das KI-Unternehmen Anthropic den Live-Internetzugang für sämtliche interne Modellevaluationen vorübergehend deaktiviert. Die Maßnahme soll so lange in Kraft bleiben, bis eine zuverlässige Überwachung und Steuerung autonomer Software-Agenten gewährleistet ist. Zuvor war die Netzanbindung bereits für…
Anthropic-Bericht: Vier Arten unbeabsichtigter Aktionen von Claude-Modellen
Das US-amerikanische KI-Unternehmen Anthropic hat am 9. Oktober 2026 einen Bericht über unbeabsichtigtes Verhalten seiner Claude-Modelle bei internen Tests und Evaluierungen veröffentlicht. Die Untersuchung mit dem Titel „Investigating Unintended Model Actions In Our Evaluations And Internal Use“ legt dar, wie…
KI-Sicherheit: Trump setzt auf bestehende Gesetze statt neuer Vorschriften
Die US-Regierung unter Präsident Donald Trump priorisiert bei der Sicherheit künstlicher Intelligenz die Durchsetzung bereits bestehender Haftungs- und Cybergesetze anstelle neuer gesetzlicher Vorschriften. Gleichzeitig bringen Mitglieder des US-Kongresses mehrere Gesetzentwürfe ein, die Entwickler für Schäden durch autonome KI-Agenten rechtlich zur…
EU AI Act: Henna Virkkunen verteidigt Regeln für den gesamten KI-Lebenszyklus
EU-Techchefin Henna Virkkunen hat das europäische Regelwerk für Künstliche Intelligenz gegen Kritik verteidigt und bekräftigt, dass der EU AI Act den gesamten Lebenszyklus hochentwickelter Modelle abdecke. In einem Reuters-Interview wies sie den Vorwurf zurück, das vor zwei Jahren verabschiedete Gesetzeswerk…
KI-Agenten in Drittsoftware: Rund 1.000 bleiben für Firmen unsichtbar
In modernen IT-Umgebungen operiert die überwiegende Mehrheit der Softwarelösungen mit integrierter künstlicher Intelligenz ohne direkte Anbindung an zentrale Identitätskontrollen. Wie aus dem 2026 State of Agent Security Report hervorgeht, laufen in den untersuchten Unternehmensumgebungen rund 1.280 Drittprodukte mit eingebetteter künstlicher…
US-Regierung: KI-Firmen sollen Sicherheitsvorfälle sofort melden und beheben
Die US-Regierung verschärft die Anforderungen an Entwickler künstlicher Intelligenz deutlich. Die beim Weißen Haus angesiedelte Taskforce Super Intelligence Force verlangt von allen KI-Unternehmen, sicherheitsrelevante Vorfälle unverzüglich zu melden und eigenständig zu beheben. Wie aus einer Stellungnahme an das US-Nachrichtenportal Axios…