Schlagwort KI-Regulierung

Claude-Missbrauch: Russische Gruppe nutzte KI für Drohnen-Software
Das US-amerikanische KI-Unternehmen Anthropic hat in einem 154-seitigen Bericht offengelegt, dass russische Akteure das Sprachmodell Claude sowie das Werkzeug Claude Code zur Entwicklung von Software für tödliche Angriffsdrohnen eingesetzt haben. Laut Dokumenten, die im September 2026 bekannt wurden, nutzte eine…

ChatGPT-Missbrauch: 15-Jähriger plante Schulmassaker in Argentinien
In Argentinien haben Sicherheitsbehörden die Planung eines Schulmassakers durch einen 15-jährigen Schüler unterbunden. Der Jugendliche aus der Stadt Quilmes soll die Künstliche Intelligenz ChatGPT genutzt haben, um Informationen und Unterstützung für die Vorbereitung der Tat einzuholen. Die Interaktion mit dem…

KI-Halluzinationen: Anwalt zahlt 5.000 Dollar für gefälschte Zeugen
Der Oberste Gerichtshof von New Mexico hat den Anwalt Stephen D. Aarons aus Santa Fe wegen Missachtung des Gerichts zu einer Geldstrafe in Höhe von 5.000 US-Dollar verurteilt. Grund für die Sanktion war ein Berufungsschriftsatz in einem Mordfall, der durch…

Anthropic-Bericht: Houthis nutzten Claude für Raketensysteme
In einem aktuellen Sicherheitsbericht mit dem Titel „Detecting and Countering Misuse of AI: September 2026“ legt der KI-Entwickler Anthropic detailliert dar, wie Akteure im Nordjemen die Sprachmodelle Claude und Claude Code für die Entwicklung militärischer Hardware zweckentfremdet haben. Das Unternehmen…

Anthropic-Chef warnt: KI-Fortschritt übersteigt menschliche Kontrolle
In einem umfassenden Essay mit dem Titel „We Must Pace the Frontier“ hat der CEO des KI-Unternehmens Anthropic, Dario Amodei, eine öffentliche Warnung vor den Gefahren eines unkontrollierten Fortschritts bei der Entwicklung Künstlicher Intelligenz ausgesprochen. Wie die Washington Post in…

ChatGPT-Klage: OpenAI soll psychische Krise verschärft haben
In den Vereinigten Staaten sieht sich das Technologieunternehmen OpenAI mit einer Klage konfrontiert, die die Sicherheitsprotokolle seiner Künstlichen Intelligenz infrage stellt. Ein Nutzer aus Kalifornien wirft dem Unternehmen und seinem CEO Sam Altman vor, dass die Interaktion mit dem Chatbot…

Y Combinator Demo-Day: 76% der Start-ups arbeiten an KI-Projekten
Der CEO des Start-up-Beschleunigers Y Combinator, Garry Tan, hat sich für einen neuen regulatorischen Ansatz beim Umgang mit künstlicher Intelligenz (KI) ausgesprochen. In einem Gespräch mit dem US-Sender CNBC erläuterte Tan, dass er die Destillation von sogenannten Frontier-Modellen durch heimische…

KI-Sicherheit: Altman deutet Branchenpakt zur Tempodrosselung an
Führende Entwickler künstlicher Intelligenz bereiten offenbar eine beispiellose Kooperation vor, um die Geschwindigkeit der Modellentwicklung zugunsten der Sicherheit zu drosseln. Sam Altman, CEO von OpenAI, deutete in einem Interview mit Fortune an, dass ein Pakt zwischen den wichtigsten Akteuren der…

KI-Regulierung: US-Demokraten fordern Notfall-Sitzung vor Wahlen
In den Vereinigten Staaten drängen mehrere demokratische Abgeordnete auf eine sofortige Wiederaufnahme der parlamentarischen Arbeit, um verbindliche Sicherheitsvorschriften für Künstliche Intelligenz (KI) zu verabschieden. Der Abgeordnete Sam Liccardo aus Kalifornien forderte den Sprecher des Repräsentantenhauses, Mike Johnson, in einem Schreiben…

US-Senat plant Blockade für Frontier-KI: Bundesbehörden sollen Modelle stoppen
Der US-Senat berät derzeit über einen weitreichenden Gesetzentwurf, der die staatliche Kontrolle über die Entwicklung künstlicher Intelligenz fundamental verändern könnte. Kern des Vorhabens ist die Befugnis für Bundesbehörden, die Veröffentlichung neuer Frontier-KI-Modelle zu verhindern, sofern diese als erheblich riskant eingestuft…
