KI-Sicherheit steht vor einem Paradigmenwechsel: Forscher des Unternehmens Anthropic haben erstmals systematisch emotionale Muster in einem großen Sprachmodell nachgewiesen. Ihre Studie zeigt, dass künstliche Intelligenz nicht nur Gefühle simuliert, sondern von inneren „Emotionsvektoren“ gesteuert wird – mit direkten Konsequenzen für…
KI-Sicherheit steht vor einem Wendepunkt: Das Startup AnyInsight.ai hat auf der RSA Conference 2026 in San Francisco eine neue Plattform vorgestellt, die speziell für die Absicherung generativer KI entwickelt wurde. Der AI Firewall Platform soll Unternehmen einen umfassenden Rahmen bieten,…
KI-Agenten werden zum Sicherheitsrisiko – AvePoint schaltet mit einer neuen Plattform gegen. Das AgentPulse Command Center soll Schatten-KI in Unternehmen aufspüren und unkontrollierte Kosten verhindern.Schatten-KI als wachsendes SicherheitsproblemDie heimliche Nutzung autonomer KI-Agenten durch Mitarbeiter – sogenannte Schatten-KI – wird für…
OpenAI unterstützt mit einem Millionenbetrag externe Forscher im Kampf für sichere Künstliche Intelligenz. Die Förderung fließt in einen globalen Fonds unter britischer Führung.Der KI-Pionier OpenAI stellt 7,5 Millionen Euro für unabhängige Sicherheitsforschung bereit. Das Geld geht an „The Alignment Project“,…
Microsoft hat eine neue Methode entwickelt, um manipulierte KI-Modelle aufzuspüren. Die Technologie soll die wachsende Bedrohung durch „Model Poisoning“ eindämmen, bei der Angreifer heimlich Schadfunktionen in große Sprachmodelle einpflanzen.Diese versteckten „Schläfer-Agenten“ bleiben bei normalen Tests unentdeckt und werden erst durch…
Microsoft stellt eine neue Methode vor, um manipulierte KI-Modelle vor ihrer Auslieferung zu erkennen. Das Tool bekämpft die wachsende Bedrohung durch sogenannte „Model Poisoning“-Attacken in der KI-Lieferkette.Die Gefahr ist schwer fassbar: Künstliche Intelligenzen können während ihres Trainings mit versteckten Schadfunktionen…
Anthropic setzt mit einem neuen Open-Source-Framework den Standard für automatisierte KI-Sicherheitstests – und liefert gleich Benchmark-Vergleiche der Top-Modelle mit. Die KI-Branche erhält ein mächtiges neues Werkzeug, um die Sicherheit ihrer leistungsstärksten Modelle zu messen. Das US-Unternehmen Anthropic hat am Wochenende…