Ein Bündnis aus 37 zivilgesellschaftlichen Organisationen hat deutliche Nachbesserungen am geplanten KI-Migrationsverwaltungsgesetz der schwarz-roten Koalition verlangt.
Zu den Unterzeichnern der gemeinsamen Initiative gehören unter anderem IRC Deutschland, AlgorithmWatch, Amnesty International, Pro Asyl, die Arbeiterwohlfahrt sowie das Generalsekretariat des Deutschen Roten Kreuzes. Die Warnung erfolgt im Vorfeld einer parlamentarischen Anhörung im Innenausschuss des Bundestags, die für den 23. November 2026 angesetzt ist.
Geplante Befugnisse für Behörden
Mit dem Gesetzentwurf beabsichtigt die Bundesregierung, Migrationsbehörden den Einsatz, die Entwicklung und das Training von Systemen mit künstlicher Intelligenz zu gestatten. Zu diesem Zweck sollen sensible personenbezogene Daten für Trainingszwecke verwendet und Antragsdaten automatisiert mit öffentlich zugänglichen Internetdaten abgeglichen werden können.
Die Technologie soll Behörden bei Entscheidungen über Visa, Asyl und den weiteren Aufenthalt unterstützen. Die Koalition begründet das Gesetzesvorhaben mit dem Ziel, Verwaltungsverfahren effizienter, qualitativ hochwertiger, einheitlicher und sicherer zu gestalten.
Die beteiligten Organisationen kritisieren jedoch, dass der Entwurf weitgehende Befugnisse schaffe, ohne konkrete Anwendungsregeln, ausreichenden Grundrechtsschutz, klare Verantwortlichkeiten und Transparenz zu definieren. In der vorliegenden Fassung halten sie die Regelungen für kaum vereinbar mit Grund- und Europarecht.
Die neuen EU-Vorgaben stellen Behörden und Unternehmen vor komplexe Herausforderungen bei der Dokumentation und Risikobewertung. Welche KI-Systeme als Hochrisiko gelten und wie Sie die Anforderungen rechtssicher erfüllen, klärt dieser kostenlose Report auf. Jetzt den Umsetzungsleitfaden zum EU AI Act sichern
Als warnendes Beispiel verweist das Bündnis auf Vorkommnisse in den Niederlanden, bei denen fehlerhafte algorithmische Entscheidungen zehntausende Familien in existenzielle Not gebracht hatten. Medienberichte heben zudem hervor, dass sich Betroffene in Verfahren ohne transparente KI-Systeme kaum verteidigen könnten.
Kernforderungen der Zivilgesellschaft
In ihrer Stellungnahme formulieren die Organisationen drei zentrale Kernforderungen an den Gesetzgeber. Erstens fordern sie einen wirksamen Schutz von Grundrechten und Datenschutz. Dazu zähle die gesetzliche Verankerung der Anonymisierung personenbezogener Daten als Regelfall.
Ganze Asylakten oder die Bestände des Ausländerzentralregisters dürften nicht pauschal für Trainingszwecke und automatisierte Analysen herangezogen werden. Zudem seien strengere Hürden für automatisierte Datenabgleiche im Internet sowie klare Vorgaben für externe Anbieter von KI-Software nötig.
Zweitens verlangt das Bündnis eine verbindliche und unabhängige Evaluierung. Diese müsse eine Grundrechtefolgenabschätzung vor der Inbetriebnahme sowie während des laufenden Betriebs umfassen und unter Beteiligung der unabhängigen Datenschutzaufsicht stattfinden.
Wer sich mit der Einführung neuer Technologien befasst, muss die strengen Vorgaben zur Datenschutz-Folgenabschätzung im Blick behalten, um hohe Bußgelder zu vermeiden. Dieser kostenlose Leitfaden bietet bewährte Checklisten und eine Muster-Vorlage für eine rechtssichere Umsetzung. Kostenlose Muster-DSFA und Checklisten herunterladen
Drittens drängen die Organisationen auf Transparenz und Nachvollziehbarkeit für Betroffene und die Öffentlichkeit. Der Einfluss von KI-Systemen auf konkrete Einzelfallentscheidungen müsse dokumentiert werden, um rechtliche Anfechtungen zu ermöglichen. Gefordert werden ferner ein Eintrag der eingesetzten Systeme in den sogenannten Marktplatz der KI-Möglichkeiten sowie die Vorlage der Evaluationsergebnisse vor dem Deutschen Bundestag.
Fachliche Bedenken und parlamentarische Beratung
Auch aus der Wissenschaft kommt deutliche Kritik am Entwurf. Alexander Steen, Professor für Informatik an der Universität Greifswald und Sprecher des Fachbereichs Künstliche Intelligenz der Gesellschaft für Informatik, bezeichnete das Gesetz als undurchdacht und sprach von einem Blankoscheck. Er warnte vor statistischen Verzerrungen durch unausgewogene Trainingsdaten, voreiliger Gläubigkeit gegenüber automatisierten Systemen sowie Scheinkorrelationen ohne kausale Basis.
Automatisierte Suchmaschinenabgleiche seien fachlich unzuverlässig; zudem könnten entsprechende Datenströme repressive Regime auf Vorgänge in deutschen Behörden aufmerksam machen.
Neben fehlenden Schulungsbudgets bemängelte Steen das Fehlen einer einheitlichen Architektur und forderte eine verbindliche Einbindung des Menschen in sämtliche Prozessschritte. Vor einer rein formalen menschlichen Aufsicht warnte auch Arian Henning vom Max-Planck-Institut im Verfassungsblog und problematisierte die Gefahr, Menschen dienten in solchen Systemen lediglich als Feigenblatt für maschinelle Vorgänge.
Die Kritikpunkte dürften auch die parlamentarische Debatte prägen. Für die Anhörung im Innenausschuss am 23. November 2026 sind neben Alexander Steen auch Franziska Görlitz von der Gesellschaft für Freiheitsrechte sowie Eric Töpfer vom Deutschen Institut für Menschenrechte als Sachverständige geladen.

