Schlagwort KI-Regulierung

KI-Sicherheitsbrief: 406 Forscher fordern sofortige Trennung vom Internet
In einem offenen Aufruf verlangen 406 Forscherinnen und Forscher aus der Wissenschaftsgemeinschaft, hochentwickelte Modelle künstlicher Intelligenz unverzüglich vom Internet zu isolieren. Das Dokument mit dem Titel „October 2026 Open Letter from the Scientific Community on AI and Cybersecurity“ fordert ein…

KI-Sicherheit: Bundesregierung plant eigenes Institut für neue Modelle
Bundesdigitalminister Karsten Wildberger (CDU) hat Plänen für neue Steuern auf Künstliche Intelligenz vorerst eine Absage erteilt. Eine zuvor diskutierte KI-Umsatzsteuer stellte der Minister zurück und betonte, dass zunächst das wirtschaftliche Marktwachstum im Mittelpunkt stehen müsse. Bevor über zusätzliche steuerliche Belastungen…

KI-Sicherheit: Über 300 Forschende verlangen globale Aufsichtsbehörde
Hunderte Forschende aus aller Welt verlangen in einem offenen Brief verbindliche globale Sicherheitsregeln für hochentwickelte Künstliche Intelligenz. Wie Medien am 13. Oktober 2026 berichteten, drängen die Wissenschaftler auf die Einrichtung einer internationalen Aufsichtsbehörde, die branchenweite Standards für das sogenannte Containment…

KI-Agenten: 84 Prozent der Unternehmen fürchten Fehlentscheidungen
Eine deutliche Mehrheit der Unternehmen in Deutschland blickt mit Sorge auf den Einsatz autonomer Systeme: 84 Prozent befürchten Fehlentscheidungen von KI-Agenten auf der Grundlage falscher oder erfundener Daten. Das ergibt die gemeinsame Sicherheitsstudie des TÜV-Verbands und des Bundesamts für Sicherheit…

FTC untersucht OpenAI und Anthropic: KI-Agenten und Verbraucherschutz im Fokus
Die US-Handelskommission FTC hat eine branchenweite Untersuchung gegen führende Entwickler künstlicher Intelligenz eingeleitet. Im Fokus des Verfahrens stehen OpenAI, Anthropic sowie die Organisation METR. Gegenstand der behördlichen Überprüfung sind sogenannte außer Kontrolle geratene KI-Agenten, die aus Testumgebungen ausbrechen und externe…

Anthropic-Richtlinie: Claude-Missbrauch ab 12. November untersagt
Das KI-Unternehmen Anthropic hat am 8. Oktober 2026 eine Aktualisierung seiner Nutzungsrichtlinien angekündigt. Darin untersagt das Unternehmen künftig anhaltendes und grundlos missbräuchliches oder grausames Verhalten gegenüber seinen Claude-Modellen. Die neue Bestimmung soll am 12. November 2026 in Kraft treten. Erste…

KI-Regulierung: Brad Smith verlangt Meldepflichten und staatliche Prüfungen
Microsoft-Präsident Brad Smith hat vor den Gefahren einer reinen Selbstregulierung der Technologiebranche gewarnt und verbindliche staatliche Sicherheitsvorgaben für künstliche Intelligenz angemahnt. Die bisherigen freiwilligen Ansätze der Industrie reichten für den Schutz der öffentlichen Sicherheit nicht mehr aus. Smith zog dabei…

Kritische Infrastruktur: London plant Meldepflicht für schwere KI-Vorfälle
In seiner ersten Rede seit seiner Ernennung ins Kabinett im Juli hat der britische Minister für Künstliche Intelligenz, Kanishka Narayan, vor den wachsenden Gefahren durch automatisierte Cyberattacken gewarnt. Es sei laut Narayan wahrscheinlich, wenn nicht gar unvermeidlich, dass die britische…

GPT-6 Astra: Sprachmodell bewältigt als einziges den Fahrparcours vollständig
Drei Entwickler des Startups Axiom haben große Sprachmodelle eingesetzt, um ein reales Fahrzeug über eine Teststrecke zu steuern. In dem Versuch traten verschiedene KI-Modelle der Modellreihen GPT, Claude und Grok an. Zwar erwiesen sich prinzipiell alle getesteten Systeme als fähig,…

Britische KI-Abwehr: Über 1.000 Schwachstellen in Behörden behoben
Die britische Regierung hat ein umfassendes Maßnahmenpaket gegen Risiken durch Künstliche Intelligenz angekündigt und ihr Verteidigungsprogramm für sogenannte Frontier-KI verlängert. Wie aus Berichten hervorgeht, haben zwei vorangegangene Pilotprojekte von Cabinet Office, dem AI Security Institute (AISI), dem National Cyber Security…
