Schlagwort KI-Sicherheit
OpenAI investiert 7,5 Millionen Euro in unabhängige KI-Sicherheitsforschung
OpenAI unterstützt mit einem Millionenbetrag externe Forscher im Kampf für sichere Künstliche Intelligenz. Die Förderung fließt in einen globalen Fonds unter britischer Führung.Der KI-Pionier OpenAI stellt 7,5 Millionen Euro für unabhängige Sicherheitsforschung bereit. Das Geld geht an „The Alignment Project“,…
Microsoft-Scanner enttarnt versteckte KI-Backdoors
Microsoft hat eine neue Methode entwickelt, um manipulierte KI-Modelle aufzuspüren. Die Technologie soll die wachsende Bedrohung durch „Model Poisoning“ eindämmen, bei der Angreifer heimlich Schadfunktionen in große Sprachmodelle einpflanzen.Diese versteckten „Schläfer-Agenten“ bleiben bei normalen Tests unentdeckt und werden erst durch…
Microsofts KI-Scanner entlarvt versteckte Hintertüren in Sprachmodellen
Microsoft stellt eine neue Methode vor, um manipulierte KI-Modelle vor ihrer Auslieferung zu erkennen. Das Tool bekämpft die wachsende Bedrohung durch sogenannte „Model Poisoning“-Attacken in der KI-Lieferkette.Die Gefahr ist schwer fassbar: Künstliche Intelligenzen können während ihres Trainings mit versteckten Schadfunktionen…
Anthropics Bloom: KI-Sicherheit wird zur Ingenieursdisziplin
Anthropic setzt mit einem neuen Open-Source-Framework den Standard für automatisierte KI-Sicherheitstests – und liefert gleich Benchmark-Vergleiche der Top-Modelle mit. Die KI-Branche erhält ein mächtiges neues Werkzeug, um die Sicherheit ihrer leistungsstärksten Modelle zu messen. Das US-Unternehmen Anthropic hat am Wochenende…