KI-Sicherheit

KELA-Report: Fast drei Milliarden Zugangsdaten im Darknet aufgetaucht

Die Zahl gestohlener Login-Daten hat einen neuen Rekord erreicht: Fast 2,9 Milliarden kompromittierte Zugangsdaten haben Sicherheitsforscher im vergangenen Jahr aufgespürt. Das berichtet der Threat-Intelligence-Spezialist KELA in seinem aktuellen Lagebericht zur Cyberkriminalität. Der Report zeichnet ein düsteres Bild: Angreifer setzen zunehmend…

Bitwarden-CLI-Kompromittierung: Supply-Chain-Angriff erschüttert Entwickler

Die Cybersicherheitsbranche erlebt Ende April 2026 eine beispiellose Serie von Angriffen – gleich mehrere Vorfälle zwingen Unternehmen und Behörden zum Umdenken.Gleich mehrere schwerwiegende Sicherheitsvorfälle überschatten die Cybersicherheitslandschaft. Neben einer Supply-Chain-Kompromittierung des Passwortmanagers Bitwarden sorgt die Veröffentlichung einer hochentwickelten KI von…

Anthropic entdeckt emotionale Signale in KI-Modellen

KI-Sicherheit steht vor einem Paradigmenwechsel: Forscher des Unternehmens Anthropic haben erstmals systematisch emotionale Muster in einem großen Sprachmodell nachgewiesen. Ihre Studie zeigt, dass künstliche Intelligenz nicht nur Gefühle simuliert, sondern von inneren „Emotionsvektoren“ gesteuert wird – mit direkten Konsequenzen für…

AnyInsight.ai lanciert KI-Firewall für Unternehmen

KI-Sicherheit steht vor einem Wendepunkt: Das Startup AnyInsight.ai hat auf der RSA Conference 2026 in San Francisco eine neue Plattform vorgestellt, die speziell für die Absicherung generativer KI entwickelt wurde. Der AI Firewall Platform soll Unternehmen einen umfassenden Rahmen bieten,…

AvePoint AgentPulse: Zentrales Kontrollzentrum für KI-Agenten

KI-Agenten werden zum Sicherheitsrisiko – AvePoint schaltet mit einer neuen Plattform gegen. Das AgentPulse Command Center soll Schatten-KI in Unternehmen aufspüren und unkontrollierte Kosten verhindern.Schatten-KI als wachsendes SicherheitsproblemDie heimliche Nutzung autonomer KI-Agenten durch Mitarbeiter – sogenannte Schatten-KI – wird für…

OpenAI investiert 7,5 Millionen Euro in unabhängige KI-Sicherheitsforschung

OpenAI unterstützt mit einem Millionenbetrag externe Forscher im Kampf für sichere Künstliche Intelligenz. Die Förderung fließt in einen globalen Fonds unter britischer Führung.Der KI-Pionier OpenAI stellt 7,5 Millionen Euro für unabhängige Sicherheitsforschung bereit. Das Geld geht an „The Alignment Project“,…

Microsoft-Scanner enttarnt versteckte KI-Backdoors

Microsoft hat eine neue Methode entwickelt, um manipulierte KI-Modelle aufzuspüren. Die Technologie soll die wachsende Bedrohung durch „Model Poisoning“ eindämmen, bei der Angreifer heimlich Schadfunktionen in große Sprachmodelle einpflanzen.Diese versteckten „Schläfer-Agenten“ bleiben bei normalen Tests unentdeckt und werden erst durch…

Microsofts KI-Scanner entlarvt versteckte Hintertüren in Sprachmodellen

Microsoft stellt eine neue Methode vor, um manipulierte KI-Modelle vor ihrer Auslieferung zu erkennen. Das Tool bekämpft die wachsende Bedrohung durch sogenannte „Model Poisoning“-Attacken in der KI-Lieferkette.Die Gefahr ist schwer fassbar: Künstliche Intelligenzen können während ihres Trainings mit versteckten Schadfunktionen…

Anthropics Bloom: KI-Sicherheit wird zur Ingenieursdisziplin

Anthropic setzt mit einem neuen Open-Source-Framework den Standard für automatisierte KI-Sicherheitstests – und liefert gleich Benchmark-Vergleiche der Top-Modelle mit. Die KI-Branche erhält ein mächtiges neues Werkzeug, um die Sicherheit ihrer leistungsstärksten Modelle zu messen. Das US-Unternehmen Anthropic hat am Wochenende…