Archiv der Kategorie: AI

Sanktioniert die Trump-Administration bald EU-Vertreter wegen DSA?

Veröffentlicht am 26. August 2025 von Günter Born

Die Trump-Administration ist zwar dabei, einen "Zoll-Deal" mit Europa zu schließen, hadert aber weiter mit dem europäischen Digital Service Act (DSA). Ein neuer Bericht besagt, dass die Trump-Administration die Sanktionierung hoher EU-Vertreter wegen dieser Angelegenheit erwägt.

Veröffentlicht unter AI, Facebook, Internet, Sicherheit, Software | Verschlagwortet mit , , | 40 Kommentare

BSI & ANSI: Empfehlungen zur sicheren Integration von LLM

Veröffentlicht am 23. August 2025 von Günter Born

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die französische Cybersecurity-Behörde ANSSI haben die Empfehlungen zur sicheren Integration von Sprachmodellen (LLM) aktualisiert. Es sollte ausdrücklich kein vollständig autonomer KI-Betrieb ohne menschliche Kontrolle stattfinden.

Veröffentlicht unter AI, Sicherheit | Verschlagwortet mit , | 2 Kommentare

Kritische Schwachstelle in KI-basiertem Coding-Tool Cursor

Veröffentlicht am 6. August 2025 von Günter Born

[English]Sicherheitsforscher von Check Point haben eine schwerwiegende Sicherheitslücke im KI-Entwickler-Tool Cursor gefunden. Die von Check Point als MCPoison bezeichnete Schwachstelle (CVE-2025-54136) ermöglicht Angreifern über das MCP-System von Cursor, schädlichen Code in die Projekte der Nutzer einzuschleusen. Das ist ein Paradebeispiel … Weiterlesen →

Veröffentlicht unter AI, Sicherheit, Software | Verschlagwortet mit , , | 3 Kommentare

'Man in the Prompt'-Browser-Attacke auf LLMs

Veröffentlicht am 3. August 2025 von Günter Born

[English]Large Language Modelle (LLMs) lassen sich über Prompts angreifen, um den Modellen unbefugt Daten zu entlocken. Dabei könnten auch 'Man in the Prompt'-Browser-Angriffe benutzt werden, um AI-Anfragen von Benutzern zu manipulieren und für kriminelle Aktivitäten zu benutzen.

Veröffentlicht unter AI, Internet, Sicherheit, Software | Verschlagwortet mit , | 3 Kommentare

Angriff gegen das AI Tool ComfyUI

Veröffentlicht am 21. Juni 2024 von Günter Born

Kleiner Hinweis aus der Welt "wie hacke ich die aufkommenden KI-Tools". Es gibt gerade die Meldung, dass das AI Tool ComfyUI von Cyberangreifern missbraucht wurde. Das Ganze zeigt, wie sich gerade eine Blase samt Sicherheitsrisiken aufbaut.

Veröffentlicht unter AI, Sicherheit, Software | Verschlagwortet mit , | Kommentar hinterlassen