Die Bundesagentur für Arbeit (BA) sieht sich mit einer neuen technologischen Herausforderung im Bereich der Rechtsbehelfsverfahren konfrontiert. Wie Andrea Nahles, die Vorstandsvorsitzende der Behörde, bestätigte, nehmen formelle Widersprüche von Bürgern gegen Verwaltungsbescheide deutlich zu, wobei zunehmend Werkzeuge der Künstlichen Intelligenz (KI) zur Erstellung dieser Schriftsätze genutzt werden. Diese Entwicklung stellt die Verwaltung vor neue Aufgaben bei der Prüfung und Bearbeitung von Einsprüchen.
Halluzinierte Inhalte in automatisierten Schriftsätzen
Der Einsatz von KI-Tools zur Anfechtung von Bescheiden führt offenbar zu qualitativen Problemen in der Korrespondenz mit der Behörde. Eine gezielte Stichprobe aus Nordrhein-Westfalen habe gezeigt, dass KI-generierte Widersprüche vermehrt fehlerhafte Informationen enthalten.
Die BA berichtet in diesem Zusammenhang von sogenannten halluzinierten Inhalten. Dabei handelt es sich um Aussagen oder rechtliche Begründungen, die von der Künstlichen Intelligenz frei erfunden wurden und keine Grundlage in den tatsächlichen Sachverhalten oder der geltenden Rechtslage haben.
Für die Sachbearbeiter in den Jobcentern und Arbeitsagenturen bedeutet dies einen erhöhten Prüfaufwand, da automatisiert erstellte Texte zwar oft formal korrekt wirken, inhaltlich jedoch auf fiktiven Annahmen basieren können.
Um potenziellem Missbrauch und systematischen Falschangaben entgegenzuwirken, setzt die Bundesagentur für Arbeit auf technische Gegenmaßnahmen. Hierbei kommt das System „Enterprise Fraud Management“ zum Einsatz, das darauf spezialisiert ist, Unregelmäßigkeiten in den Abläufen zu identifizieren und die Integrität der Verwaltungsverfahren zu sichern.
Der Einsatz von KI-Systemen führt, wie im Fall der Bundesagentur, zu völlig neuen regulatorischen Anforderungen für Organisationen. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Angespannte Lage auf dem Arbeits- und Ausbildungsmarkt
Die Zunahme der Widersprüche fällt in eine Phase erheblicher struktureller Herausforderungen auf dem deutschen Arbeitsmarkt. Parallel zu den technologischen Entwicklungen im Rechtswesen verwies die Bundesagentur auf aktuelle Rahmendaten, die den wirtschaftlichen Druck auf viele Bürger verdeutlichen.
Die Zahl der Arbeitslosen liegt demnach aktuell bei rund 3 Millionen Personen. Besonders der industrielle Sektor ist von einem Stellenabbau betroffen; hier wurden zuletzt 170.000 verlorene Arbeitsplätze registriert.
Auch im Bereich der beruflichen Bildung zeigen sich schwierige Tendenzen. Die Zahl der Lehrstellen beläuft sich derzeit auf 433.000, was einem Rückgang von 7 Prozent entspricht. Trotz dieses Rückgangs im Angebot bleiben 162.000 Ausbildungsplätze unbesetzt, was auf eine wachsende Diskrepanz zwischen Angebot und Nachfrage hindeutet.
Wer sich mit dem Einsatz moderner Technologien befasst, muss auch die rechtlichen Leitplanken kennen, um Risiken wie Fehlbehauptungen oder Compliance-Verstöße zu vermeiden. Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt über die konkreten Pflichten auf. Welche KI-Systeme gelten als Hochrisiko?
Ein besonderes Augenmerk legt die Behörde zudem auf die Qualifikation junger Menschen. Aktuellen Erhebungen zufolge verfügen 2,9 Millionen junge Erwachsene über keinen berufsqualifizierenden Abschluss. Jährlich verlassen zudem 62.000 Schulabgänger die Schulen ohne einen Abschluss, was die langfristigen Risiken für den Arbeitsmarkt und die Sozialsysteme weiter verschärft.
In diesem Umfeld gewinnen automatisierte Tools zur Einforderung von Sozialleistungen oder zur Abwehr von Sanktionen an Bedeutung, während die Behörden versuchen, die Balance zwischen digitalem Bürgerservice und dem Schutz vor KI-gestützten Fehlbehauptungen zu wahren.
