Die Bundesagentur für Arbeit verzeichnet eine wachsende Anzahl an Widersprüchen gegen Verwaltungsbescheide, die unter Einsatz von künstlicher Intelligenz erstellt wurden. Wie das Institut Mitte August mitteilte, führt diese Entwicklung zunehmend zu prozessualen Herausforderungen, da die eingereichten Dokumente häufig fehlerhafte oder frei erfundene Inhalte enthalten.
Nach Angaben der Bundesagentur für Arbeit, die von Andrea Nahles bestätigt wurden, nehmen die KI-generierten Widersprüche in jüngster Zeit spürbar zu.
Ein wesentliches Problem stellt dabei die sogenannte Halluzination der Software dar. In Stichproben, die in Nordrhein-Westfalen durchgeführt wurden, zeigten sich in den Widersprüchen wiederholt Informationen, die keinerlei faktische Grundlage besitzen.
Um diesen Unregelmäßigkeiten und potenziellen Betrugsversuchen zu begegnen, setzt die Behörde inzwischen das System „Enterprise Fraud Management“ ein. Dieses spezialisierte Werkzeug soll dabei helfen, automatisierte Schreiben und inhaltliche Abweichungen systematisch zu identifizieren.
Massive Belastung der Sozialgerichte in Nordrhein-Westfalen
Die Problematik beschränkt sich nicht nur auf die Verwaltungsebene, sondern hat auch die Justiz erreicht. Besonders die Sozialgerichte in Nordrhein-Westfalen berichten von einer Flut an Klagen, die offensichtlich mithilfe von KI-Modellen verfasst wurden. Jens Blüggel, Präsident des Landessozialgerichts (LSG), wies auf die erschwerten Arbeitsbedingungen hin.
Die eingereichten Anträge seien oft mehr als 20 Seiten lang und zeichneten sich durch eine sehr weitschweifige Ausdrucksweise aus. Besonders problematisch sei der Umstand, dass die Dokumente teilweise auf fiktive Urteile Bezug nähmen, die von der KI halluziniert worden seien.
Wer sich mit den Risiken moderner Technologien befasst, muss auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Kontext neuer KI-Gesetze jetzt kennen müssen. KI-Gesetze und Cyberrisiken: Kostenlosen Report anfordern
Die statistischen Daten verdeutlichen den rasanten Anstieg der Arbeitslast. Während im ersten Quartal 2025 noch 1.400 Eilverfahren verzeichnet wurden, stieg diese Zahl im ersten Quartal 2026 auf 3.600 Verfahren an. Parallel dazu haben sich die Eingänge beim Landessozialgericht verdoppelt.
Laut dem LSG-Präsidenten stünden die Gerichte angesichts dieser Entwicklung mit dem Rücken zur Wand. Die Bearbeitung derart umfangreicher und inhaltlich fragwürdiger Schriftsätze binde Kapazitäten, die an anderer Stelle für rechtskräftige Entscheidungen fehlen würden.
Forderung nach mehr Dialog und kürzeren Schriftsätzen
Angesichts der drohenden Überlastung der Justiz richtete Jens Blüggel einen dringenden Appell an die Beteiligten. Er forderte dazu auf, zu einfacheren Anträgen und einem direkten Dialog zurückzukehren. Nach Einschätzung des LSG-Präsidenten seien lange, automatisierte Schriftsätze für eine rechtliche Klärung meist nicht förderlich; oft würden zwei Seiten Text ausreichen, um ein Anliegen präzise darzustellen.
Die zunehmende Automatisierung bringt nicht nur prozessuale, sondern auch erhebliche Sicherheitsrisiken für Betriebe und Organisationen mit sich. Erfahren Sie in diesem kostenlosen E-Book, wie Sie Sicherheitslücken schließen und Ihr Unternehmen proaktiv vor digitalen Bedrohungen schützen. Gratis-Ratgeber: IT-Sicherheit und Bedrohungsabwehr
Die Branche beobachtet nun genau, wie Behörden und Gerichte auf die technische Skalierung von Rechtsbehelfen reagieren. Die Implementierung von Erkennungssoftware wie beim „Enterprise Fraud Management“ der Bundesagentur für Arbeit könnte ein erster Schritt sein, um die Flut an automatisierten Eingaben zu bewältigen und die Funktionsfähigkeit der Sozialgerichtsbarkeit langfristig sicherzustellen.
