Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat mit der Entwicklung der AI Audit and Assurance Assessment Architecture (A5) legt das Bundesamt für Sicherheit in der Informationstechnik (BSI) den Grundstein für eine modulare und erweiterbare Prüfarchitektur für KI-Systeme gelegt. Das BSI hat den A5 als Community Draft zur Kommentierung veröffentlicht.
Künstliche Intelligenz kommt in immer mehr Bereichen zum Einsatz und transformiert dabei Staat, Wirtschaft und Gesellschaft nachhaltig. Mit wachsender Verbreitung und Komplexität von KI-Systemen gibt es auch mehr regulatorische Anforderungen für deren Verwendung. Zentral für die Informationssicherheit ist dabei der Nachweis der Vertrauenswürdigkeit von KI-Systemen.
Genau dort setzt der A5 an und unterstützt Kriterien und Methodik bei der systematischen und standardisierten Bewertung. Mir ist diese Ankündigung bereits vor einigen Tagen in nachfolgendem Mastodon-Post untergekommen.
Im Kontext regulatorischer Anforderungen wie EU AI Act und Cyber Resilience Act sowie weiterer Standards bietet der A5 einen Rahmen, um technische Vertrauenswürdigkeit nachvollziehbar zu transportieren. Der Draft ist am Ende dieser BSI-Presserklärung verlinkt und kann hier heruntergeladen werden.
A5 richtet sich an alle Akteure entlang der KI-Wertschöpfungskette, von Anbietern über Betreiber bis hin zu den mit Entwicklung, Betrieb und Aufsicht betrauten Personen. Anmerkungen und Anregungen können bis zum 31. August 2026 über den Kommentierungsbogen per E-Mail an aisecurity@bsi.bund.de geschickt werden.
MVP: 2013 – 2016
Besonders Vertrauenswürdige KI-Systeme:
das sind diejenigen, bei denen der Stecker zur Stromversorgung gezogen und abgeschnitten wurde.
Palantir: Voll vertrauenswürdig
Peter Thiel: Demokratie-Fan
Rest: Hängt vom Ausmaß der Zensur, digitalen ID und Gesichtsscannung bei Nutzung ab
Ist der Begriff "Vertrauenswürdige KI-Systeme" nicht ein Widerspruch in sich selbst?
Für mich ist er es derzeitig jedenfalls. Denn vertrauenswürdig ist für mich keines der Systeme, aus dem Westen oder aus Fernost.
Letztlich hängt es vom Betreiber der Systeme ab und da alle finanzielle Interessen haben ist keiner Vetrauenswürdig