KI-Agenten werden zum Sicherheitsrisiko – AvePoint schaltet mit einer neuen Plattform gegen. Das AgentPulse Command Center soll Schatten-KI in Unternehmen aufspüren und unkontrollierte Kosten verhindern.Schatten-KI als wachsendes SicherheitsproblemDie heimliche Nutzung autonomer KI-Agenten durch Mitarbeiter – sogenannte Schatten-KI – wird für…
OpenAI unterstützt mit einem Millionenbetrag externe Forscher im Kampf für sichere Künstliche Intelligenz. Die Förderung fließt in einen globalen Fonds unter britischer Führung.Der KI-Pionier OpenAI stellt 7,5 Millionen Euro für unabhängige Sicherheitsforschung bereit. Das Geld geht an „The Alignment Project“,…
Microsoft hat eine neue Methode entwickelt, um manipulierte KI-Modelle aufzuspüren. Die Technologie soll die wachsende Bedrohung durch „Model Poisoning“ eindämmen, bei der Angreifer heimlich Schadfunktionen in große Sprachmodelle einpflanzen.Diese versteckten „Schläfer-Agenten“ bleiben bei normalen Tests unentdeckt und werden erst durch…
Microsoft stellt eine neue Methode vor, um manipulierte KI-Modelle vor ihrer Auslieferung zu erkennen. Das Tool bekämpft die wachsende Bedrohung durch sogenannte „Model Poisoning“-Attacken in der KI-Lieferkette.Die Gefahr ist schwer fassbar: Künstliche Intelligenzen können während ihres Trainings mit versteckten Schadfunktionen…
Anthropic setzt mit einem neuen Open-Source-Framework den Standard für automatisierte KI-Sicherheitstests – und liefert gleich Benchmark-Vergleiche der Top-Modelle mit. Die KI-Branche erhält ein mächtiges neues Werkzeug, um die Sicherheit ihrer leistungsstärksten Modelle zu messen. Das US-Unternehmen Anthropic hat am Wochenende…