KI-Regulierung

Anthropic-Chef warnt: KI-Risiko über 10 Prozent für Existenzbedrohung

Die Debatte um die Sicherheit und Regulierung Künstlicher Intelligenz (KI) in Europa gewinnt massiv an Schärfe. Während die EU-Kommission erste formale Schritte gegen KI-Unternehmen einleitet, fordern nun auch führende Köpfe der Branche eine kontrollierte Verlangsamung der technologischen Entwicklung, um existenzielle…

Embodied AI: China schließt massive 95-Prozent-Datenlücke

Die Nationale Datenverwaltung Chinas (NDA) hat weitreichende Maßnahmen zur Regulierung und Förderung von verkörperter Künstlicher Intelligenz (embodied AI) angekündigt.Wie die Behörde im Rahmen eines hochkarätig besetzten Symposiums mitteilte, sollen zeitgerecht neue Datenstandards entwickelt und lokale Behörden bei deren Implementierung angeleitet…

Claude-Missbrauch: Russische Gruppe nutzte KI für Drohnen-Software

Das US-amerikanische KI-Unternehmen Anthropic hat in einem 154-seitigen Bericht offengelegt, dass russische Akteure das Sprachmodell Claude sowie das Werkzeug Claude Code zur Entwicklung von Software für tödliche Angriffsdrohnen eingesetzt haben.Laut Dokumenten, die im September 2026 bekannt wurden, nutzte eine als…

ChatGPT-Missbrauch: 15-Jähriger plante Schulmassaker in Argentinien

In Argentinien haben Sicherheitsbehörden die Planung eines Schulmassakers durch einen 15-jährigen Schüler unterbunden. Der Jugendliche aus der Stadt Quilmes soll die Künstliche Intelligenz ChatGPT genutzt haben, um Informationen und Unterstützung für die Vorbereitung der Tat einzuholen. Die Interaktion mit dem…

Anthropic-Bericht: Houthis nutzten Claude für Raketensysteme

In einem aktuellen Sicherheitsbericht mit dem Titel „Detecting and Countering Misuse of AI: September 2026“ legt der KI-Entwickler Anthropic detailliert dar, wie Akteure im Nordjemen die Sprachmodelle Claude und Claude Code für die Entwicklung militärischer Hardware zweckentfremdet haben.Das Unternehmen reagierte…

Anthropic-Chef warnt: KI-Fortschritt übersteigt menschliche Kontrolle

In einem umfassenden Essay mit dem Titel „We Must Pace the Frontier“ hat der CEO des KI-Unternehmens Anthropic, Dario Amodei, eine öffentliche Warnung vor den Gefahren eines unkontrollierten Fortschritts bei der Entwicklung Künstlicher Intelligenz ausgesprochen.Wie die Washington Post in einem…

ChatGPT-Klage: OpenAI soll psychische Krise verschärft haben

In den Vereinigten Staaten sieht sich das Technologieunternehmen OpenAI mit einer Klage konfrontiert, die die Sicherheitsprotokolle seiner Künstlichen Intelligenz infrage stellt.Ein Nutzer aus Kalifornien wirft dem Unternehmen und seinem CEO Sam Altman vor, dass die Interaktion mit dem Chatbot ChatGPT…

Y Combinator Demo-Day: 76% der Start-ups arbeiten an KI-Projekten

Der CEO des Start-up-Beschleunigers Y Combinator, Garry Tan, hat sich für einen neuen regulatorischen Ansatz beim Umgang mit künstlicher Intelligenz (KI) ausgesprochen. In einem Gespräch mit dem US-Sender CNBC erläuterte Tan, dass er die Destillation von sogenannten Frontier-Modellen durch heimische…

KI-Sicherheit: Altman deutet Branchenpakt zur Tempodrosselung an

Führende Entwickler künstlicher Intelligenz bereiten offenbar eine beispiellose Kooperation vor, um die Geschwindigkeit der Modellentwicklung zugunsten der Sicherheit zu drosseln. Sam Altman, CEO von OpenAI, deutete in einem Interview mit Fortune an, dass ein Pakt zwischen den wichtigsten Akteuren der…