Schlagwort KI-Sicherheit
AnyInsight.ai lanciert KI-Firewall für Unternehmen
KI-Sicherheit steht vor einem Wendepunkt: Das Startup AnyInsight.ai hat auf der RSA Conference 2026 in San Francisco eine neue Plattform vorgestellt, die speziell für die Absicherung generativer KI entwickelt wurde. Der AI Firewall Platform soll Unternehmen einen umfassenden Rahmen bieten,…
AvePoint AgentPulse: Zentrales Kontrollzentrum für KI-Agenten
KI-Agenten werden zum Sicherheitsrisiko – AvePoint schaltet mit einer neuen Plattform gegen. Das AgentPulse Command Center soll Schatten-KI in Unternehmen aufspüren und unkontrollierte Kosten verhindern. Schatten-KI als wachsendes Sicherheitsproblem Die heimliche Nutzung autonomer KI-Agenten durch Mitarbeiter – sogenannte Schatten-KI –…
OpenAI investiert 7,5 Millionen Euro in unabhängige KI-Sicherheitsforschung
OpenAI unterstützt mit einem Millionenbetrag externe Forscher im Kampf für sichere Künstliche Intelligenz. Die Förderung fließt in einen globalen Fonds unter britischer Führung. Der KI-Pionier OpenAI stellt 7,5 Millionen Euro für unabhängige Sicherheitsforschung bereit. Das Geld geht an „The Alignment…
Microsoft-Scanner enttarnt versteckte KI-Backdoors
Microsoft hat eine neue Methode entwickelt, um manipulierte KI-Modelle aufzuspüren. Die Technologie soll die wachsende Bedrohung durch „Model Poisoning“ eindämmen, bei der Angreifer heimlich Schadfunktionen in große Sprachmodelle einpflanzen. Diese versteckten „Schläfer-Agenten“ bleiben bei normalen Tests unentdeckt und werden erst…
Microsofts KI-Scanner entlarvt versteckte Hintertüren in Sprachmodellen
Microsoft stellt eine neue Methode vor, um manipulierte KI-Modelle vor ihrer Auslieferung zu erkennen. Das Tool bekämpft die wachsende Bedrohung durch sogenannte „Model Poisoning“-Attacken in der KI-Lieferkette. Die Gefahr ist schwer fassbar: Künstliche Intelligenzen können während ihres Trainings mit versteckten…
Anthropics Bloom: KI-Sicherheit wird zur Ingenieursdisziplin
Anthropic setzt mit einem neuen Open-Source-Framework den Standard für automatisierte KI-Sicherheitstests – und liefert gleich Benchmark-Vergleiche der Top-Modelle mit. Die KI-Branche erhält ein mächtiges neues Werkzeug, um die Sicherheit ihrer leistungsstärksten Modelle zu messen. Das US-Unternehmen Anthropic hat am Wochenende…