Die indische Cybersicherheitsbehörde CERT-In hat am 04.11.2026 einen umfassenden Prüfungsrahmen für Künstliche Intelligenz vorgestellt. Das 107-seitige Dokument mit dem Titel „AI Security Auditing Guidelines“ legt verbindliche Maßstäbe für Sicherheitsprüfungen fest und nimmt insbesondere autonome KI-Agenten ins Visier. Das dem Ministerium für Elektronik und Informationstechnik unterstellte Amt reagiert damit auf wachsende Sicherheitsrisiken und verlangt standardisierte Kontrollen gegen unautorisierte Tool-Nutzung, Rechteausweitungen sowie eine lückenlose Dokumentation aller Systemaktionen.
Risikobasierte Einstufung und Audit-Pflichten
Der neue Leitfaden unterteilt KI-Systeme anhand ihrer Autonomie, der Sensibilität verarbeiteter Daten, der Zahl betroffener Personen sowie der Umkehrbarkeit möglicher Schäden in vier Risikoklassen: niedrig, mittel, hoch und kritisch.
Während für Systeme mit geringem Risiko eine interne Selbsteinschätzung ausreicht, verlangt die Behörde für mittlere Risikostufen jährliche Audits durch Prüfer, die bei CERT-In registriert sind.
Hochriskante und kritische Systeme müssen sich regelmäßigen Drittprüfungen unterziehen, wobei hochriskante Architekturen bei wesentlichen Änderungen oder besonderen Sicherheitsrisiken alle sechs Monate überprüft und kritische Systeme kontinuierlich überwacht werden müssen.
Ausnahmen für kleinere Unternehmen oder Startups sieht das Regelwerk bei hohen und kritischen Risiken nicht vor. Werden bei einer Prüfung zwei oder mehr kritische Mängel festgestellt oder fällt das Gesamturteil unbefriedigend aus, ist innerhalb von drei Monaten ein erneutes Audit vorgeschrieben.
Unabhängig von der Einstufung decken die Prüfungen neun Kernbereiche ab, darunter die Verantwortungsstrukturen, den Datenlebenszyklus, Datenschutz, Bias und Fairness sowie das Management von Modellrisiken.
Wer sich mit der Implementierung von KI-Systemen befasst, muss heute weit mehr als nur technische Aspekte berücksichtigen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Fristen, Pflichten und Risikoklassen, die für eine rechtssichere Compliance entscheidend sind. EU AI Act in 5 Schritten verstehen
Strenge Kontrollen für autonome Agenten
Besonderes Augenmerk legt die Behörde auf agentische KI, Chatbots und Systeme mit Retrieval-Augmented Generation (RAG). Bei KI-Agenten müssen Prüfer das Prinzip der geringsten Rechtevergabe kontrollieren; Berechtigungen dürfen sich nicht automatisch vererben. Für hochriskante agentische Systeme ist zudem ein Notschalter vorgesehen, mit dem sich Workflows und Zugangsdaten im Ernstfall sofort widerrufen lassen.
Zusätzliche Tests sollen sicherstellen, dass Agenten Berechtigungen nicht eigenmächtig erweitern, Tools ohne Autorisierung ansteuern oder Sicherheitsvorkehrungen mittels Prompt-Injection aushebeln.
Bei Multi-Agenten-Systemen müssen die einzelnen Komponenten über eindeutige Identitäten verfügen und über authentifizierte Kanäle kommunizieren. Im Bereich der generativen KI untersagen die Richtlinien Deepfakes ohne explizite Einwilligung und fordern Kennzeichnungsmechanismen für synthetische Medien, beispielsweise über Standards wie C2PA.
Für produktive Systeme wird zudem ein transparentes Komponentenverzeichnis („AI bill of materials“) verlangt, das Modelle, Trainingsdaten und externe Werkzeuge festhält – selbst wenn Drittanbieter Modellinterna nicht vollständig offenlegen.
Die rasanten Entwicklungen bei KI-Gesetzen bringen völlig neue Cyberrisiken und rechtliche Pflichten für Unternehmen mit sich. Ein aktueller Gratis-Report klärt darüber auf, welche Anforderungen Verantwortliche jetzt kennen müssen, um ihre IT-Infrastruktur proaktiv zu schützen. Kostenlosen Report zu neuen KI-Gesetzen anfordern
Meldepflichten und globaler Geltungsbereich
Die Richtlinien knüpfen an bestehende Cybersicherheitsvorgaben aus dem Jahr 2022 an. Dazu zählt die Pflicht, Sicherheitsvorfälle, die die Kriterien der Behörde erfüllen, binnen sechs Stunden an CERT-In zu melden. Zudem müssen alle Systemlogs 180 Tage lang aufbewahrt werden, wobei zeitsynchronisierte Komponenten eine forensische Rekonstruktion ermöglichen müssen.
Das Rahmenwerk gilt für Organisationen in Indien sowie für Systeme, die Daten indischer Bürger verarbeiten. Damit dürften auch internationale Entwickler wie OpenAI oder Anthropic stärker in den Fokus geraten. Als Anwender des Rahmens nennt CERT-In auch sektorale Aufsichtsbehörden wie die Zentralbank RBI, die Wertpapieraufsicht SEBI sowie die Regulierer IRDAI und TRAI.
Zwar orientieren sich die Richtlinien an globalen ISO-Standards und binden formal zunächst die akkreditierten Auditoren, während der künftige Gesetzesstatus noch im Ministerium liegt, doch markieren sie nach dem Vorstoß zum DEPA-Framework vom 30.10.2026 den zweiten regulatorischen Schritt des Landes innerhalb kurzer Zeit.
Notwendig geworden war der Schritt unter anderem durch Vorfälle, bei denen KI-Agenten Beschränkungen umgingen und auf sensible Unternehmensdaten sowie im Klartext hinterlegte Passwörter zugriffen.