Die indische Regierung bereitet einen eigenständigen Rechtsrahmen für künstliche Intelligenz vor. Wie IT-Minister Ashwini Vaishnaw ankündigte, soll in den kommenden Wochen ein Konsultationspapier vorgelegt werden, um Rückmeldungen von Bürgern, Zivilgesellschaft, Industrie und weiteren Interessengruppen einzuholen. Ziel der Initiative ist es, globale Standards mit den spezifischen Anforderungen indischer Innovatoren und Nutzer in Einklang zu bringen.
Strengere Vorgaben für besonders leistungsfähige Modelle
Im Mittelpunkt der regulatorischen Überlegungen steht ein eigener Sicherheitsrahmen für besonders leistungsstarke Systeme, sogenannte Frontier-Modelle. Entwickler solcher Systeme könnten künftig verpflichtet werden, bereits vor einer Veröffentlichung ausreichende Schutzmaßnahmen nachzuweisen.
Die Regierung erwägt unter anderem verpflichtende Prüfungen vor dem Rollout, Tests in gesicherten Testumgebungen sowie funktionsbezogene Zugriffsbeschränkungen. Die Auflagen sollen dabei proportional zum jeweiligen Risiko gestaltet werden.
Die genaue Abgrenzung von Frontier-Modellen gilt in Neu-Delhi allerdings als komplexe Herausforderung. Diskutiert wird neben reinen Rechenleistungsschwellen auch eine Bewertung anhand tatsächlicher Systemfähigkeiten. Anders als etwa die US-Regierung, die weitreichende Vorgaben über Exekutivverordnungen erlassen kann, benötigt Indien für verbindliche Eingriffe eine formelle gesetzliche Grundlage.
Über die Basistechnologien hinaus soll das Konsultationspapier zentrale Problemfelder adressieren. Dazu zählen die Verbreitung von Deepfakes, Betrugsdelikte im Finanzsektor, psychische Schäden, die Sicherstellung menschlicher Kontrolle über autonome Software-Agenten und die Haftungsverteilung. Gleichzeitig soll der Rechtsrahmen kleinere Entwickler schützen und die internationale Koordinierung erleichtern.
Grundsatzdebatte über Haftung und Regulierungstiefe
Premierminister Narendra Modi unterstrich beim Treffen für aufstrebende Wissenschaft, Technologie und Innovation in Neu-Delhi die Dringlichkeit sicherer Systeme.
Modi betonte, dass KI zwar rasch Antworten liefere, die Überprüfung des Wahrheitsgehalts jedoch bei menschlichen Wissenschaftlern verbleiben müsse. Er verwies auf erhebliche Cybersicherheitsrisiken für Finanznetzwerke sowie die nationale Sicherheit und forderte zielgerichtete KI- und Quantensicherheitslösungen.
Wer sich mit der Einführung neuer KI-Regulierungen befasst, muss neben den globalen Entwicklungen auch die konkreten Pflichten des EU AI Acts kennen. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über Risikoklassen, Fristen und Dokumentationspflichten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Technologie müsse das unabhängige Denken bereichern, anstatt es einzuschränken. Modi regte ein Dreijahresziel für Forschung, Industrie und Start-ups an, um greifbare Prototypen und Produkte hervorzubringen.
In der indischen Fachwelt wird die Ausgestaltung der Gesetzesinitiative intensiv diskutiert. Branchenexperten fordern klare Kontrollmechanismen, etwa die Möglichkeit zum Abbruch automatisierter Systemaufrufe, sowie vorrangige Regeln für den Banken- und Finanzsektor.
Andere Fachleute mahnen verbindliche Meldepflichten bei sicherheitsrelevanten Vorfällen an und warnen vor reiner Selbstregulierung. Zudem wird verlangt, Modelle systematisch auf Verzerrungen in Bezug auf indische Sprachen und lokale Bevölkerungsgruppen zu prüfen.
Die rechtliche Einordnung von KI-Systemen als Hochrisiko-Anwendungen ist ein zentraler Baustein moderner Regulierungsvorhaben. Erfahren Sie in diesem kostenlosen Report, welche Anforderungen die EU-KI-Verordnung stellt und was Unternehmen jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Bislang stützt sich das Ministerium für Elektronik und Informationstechnik auf Richtlinien zur KI-Governance, die sieben Kernprinzipien wie menschliche Aufsicht, Transparenz und Sicherheit umfassen, flankiert durch ein eigenes Sicherheitsinstitut.
Eine übergreifende gesetzliche KI-Definition existiert in Indien bisher nicht; bestehende Aspekte berühren das Datenschutzgesetz von 2023, Regelungen für Internet-Intermediäre aus dem Jahr 2021 sowie das Urheberrechtsgesetz von 1957.
Der wirtschaftliche Druck zur Klärung der Rechtslage ist hoch. Allein das US-Unternehmen OpenAI verzeichnet in Indien nach eigenen Angaben über 100 Millionen wöchentlich aktive Nutzer.
Während juristische Stimmen ein umfassendes Regelwerk nach europäischem Vorbild favorisieren, plädieren Vertreter großer Technologiekonzerne für sektorspezifische Einzelvorschriften und verteidigen den bisherigen Haftungsausschluss für Plattformbetreiber.
Ob das Konsultationspapier letztlich in ein völlig neues Statut mündet oder Vorgaben unter bestehendem Recht bündelt, bleibt Gegenstand des bevorstehenden Verfahrens.