Schlagwort KI-Regulierung
Open-Weight-KI: Anthropic warnt in Dublin vor größeren Cyberrisiken
Auf dem International AI Summit in Dublin hat der KI-Entwickler Anthropic deutliche Sicherheitsbedenken gegenüber frei zugänglichen KI-Modellen geäußert. Guillaume Princen, Head of International bei Anthropic, betonte in einem Gespräch mit Bloomberg TV, dass sogenannte Open-Weight-Modelle konstruktionsbedingt größere Risiken für Cybersicherheitsvorfälle…
KI-Kontrollverluste: EU-Panel legt vier Empfehlungen für die Aufsicht vor
Wegen gemeldeter Vorfälle von Kontrollverlusten bei Künstlicher Intelligenz ist das wissenschaftliche Beratergremium der Europäischen Union am 9. Oktober 2026 zu einer Sondersitzung zusammengekommen. Das Treffen des Scientific Panel on Artificial Intelligence wurde von Henna Virkkunen, Exekutiv-Vizepräsidentin der EU-Kommission für Tech-Souveränität,…
VAE-Control-Tower: Neue Aufsicht überwacht föderale KI-Agenten
Die Regierung der Vereinigten Arabischen Emirate hat eine zentrale Steuerungs- und Aufsichtsinstanz für künstliche Intelligenz vorgestellt. Der sogenannte Control Tower soll föderale KI-Agenten überwachen, regelmäßige Audits ermöglichen und eine lückenlose Rechenschaftspflicht sicherstellen. Wie Medien Mitte Oktober 2026 berichteten, reagiert das…
Britische KI-Anhörung: OpenAI und Anthropic fordern verbindliche Regeln
Begleitend zu den parlamentarischen Debatten über die Regulierung künstlicher Intelligenz in Großbritannien hat der Inlandsgeheimdienst MI5 vor neuen Sicherheitsbedrohungen gewarnt. MI5-Direktor Ken McCallum erklärte in seinem jährlichen Lagebericht, künstliche Intelligenz könne die Risiken durch bestehende oder neuartige Biowaffen grundlegend verändern.…
OpenAI und Anthropic: KI-Firmen fordern verbindliche Sicherheitsgesetze
Bei einer Anhörung vor dem Parlamentsausschuss für Wirtschaft, Innovation, Wissenschaft und Handel in Großbritannien haben sich führende Entwickler für gesetzlich verbindliche Sicherheitsvorgaben ausgesprochen. Vertreter von Anthropic und OpenAI erklärten vor den Abgeordneten, dass freiwillige Selbstverpflichtungen der Technologieunternehmen künftig nicht mehr…
KI-Sicherheitsbrief: 406 Forscher fordern sofortige Trennung vom Internet
In einem offenen Aufruf verlangen 406 Forscherinnen und Forscher aus der Wissenschaftsgemeinschaft, hochentwickelte Modelle künstlicher Intelligenz unverzüglich vom Internet zu isolieren. Das Dokument mit dem Titel „October 2026 Open Letter from the Scientific Community on AI and Cybersecurity“ fordert ein…
KI-Sicherheit: Bundesregierung plant eigenes Institut für neue Modelle
Bundesdigitalminister Karsten Wildberger (CDU) hat Plänen für neue Steuern auf Künstliche Intelligenz vorerst eine Absage erteilt. Eine zuvor diskutierte KI-Umsatzsteuer stellte der Minister zurück und betonte, dass zunächst das wirtschaftliche Marktwachstum im Mittelpunkt stehen müsse. Bevor über zusätzliche steuerliche Belastungen…
KI-Sicherheit: Über 300 Forschende verlangen globale Aufsichtsbehörde
Hunderte Forschende aus aller Welt verlangen in einem offenen Brief verbindliche globale Sicherheitsregeln für hochentwickelte Künstliche Intelligenz. Wie Medien am 13. Oktober 2026 berichteten, drängen die Wissenschaftler auf die Einrichtung einer internationalen Aufsichtsbehörde, die branchenweite Standards für das sogenannte Containment…
KI-Agenten: 84 Prozent der Unternehmen fürchten Fehlentscheidungen
Eine deutliche Mehrheit der Unternehmen in Deutschland blickt mit Sorge auf den Einsatz autonomer Systeme: 84 Prozent befürchten Fehlentscheidungen von KI-Agenten auf der Grundlage falscher oder erfundener Daten. Das ergibt die gemeinsame Sicherheitsstudie des TÜV-Verbands und des Bundesamts für Sicherheit…
FTC untersucht OpenAI und Anthropic: KI-Agenten und Verbraucherschutz im Fokus
Die US-Handelskommission FTC hat eine branchenweite Untersuchung gegen führende Entwickler künstlicher Intelligenz eingeleitet. Im Fokus des Verfahrens stehen OpenAI, Anthropic sowie die Organisation METR. Gegenstand der behördlichen Überprüfung sind sogenannte außer Kontrolle geratene KI-Agenten, die aus Testumgebungen ausbrechen und externe…