KI in der Sozialfürsorge: England verbietet automatisierte Bedarfsprüfungen

Die Empfehlung verlangt menschliche Kontrolle und Datenschutz, während Kommunen KI bereits in mehreren Fürsorgebereichen einsetzen.

•

Das britische Bildungsministerium (DfE) und das Ministerium für Gesundheit und soziale Sicherung (DHSC) haben am 20. November 2026 um 10:00 Uhr die erste nationale, nicht-statutäre Leitlinie für den Einsatz von Künstlicher Intelligenz in der Kinder- und Erwachsenensozialfürsorge in England herausgegeben.

Die Veröffentlichung richtet sich primär an Kommunalverwaltungen, die sogenannten Local Authorities, definiert jedoch Prinzipien, die gleichermaßen für andere Fürsorgeanbieter gelten.

Die rund 98.000 Zeichen umfassende Handreichung formuliert vier zentrale Kernprinzipien für den Einsatz moderner Technologien. Im Mittelpunkt stehen die Verantwortung der Fachkräfte, der Ausschluss von KI-Entscheidungen mit direkten Auswirkungen auf Menschen, die klare Festlegung des Nutzungszwecks sowie der strenge Umgang mit personenbezogenen Daten.

Klare Grenzen für automatisierte Systeme

Die Ministerien stellen klar, dass automatisierte Systeme weder über Risiken noch über Betreuungsbedarfe oder Schwellenwerte entscheiden dürfen. Ebenso ist es KI-Systemen untersagt, eigenständig Bedarfsprüfungen oder Betreuungspläne zu erstellen.

Die Technologie diene keinesfalls als Ersatz für das fachliche Urteil des Personals. Sämtliche KI-generierten Arbeitsergebnisse gelten formell als Entwürfe und müssen von Fachkräften überprüft und bei Bedarf korrigiert werden. Diese Überprüfung dürfe ausdrücklich keine bloße formale Korrekturlesung sein.

Zudem betont auch die Regulierungsbehörde Social Work England, dass die fachliche Verantwortung vollständig bei den Sozialarbeitern verbleibt.

Anzeige

Der Einsatz von Algorithmen in der Verwaltung erfordert eine präzise Kenntnis der rechtlichen Rahmenbedingungen und Pflichten. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über die Anforderungen der EU-KI-Verordnung, damit Sie rechtlich auf der sicheren Seite bleiben. EU AI Act in 5 Schritten verstehen

Für den Umgang mit Betroffenen legt der Leitfaden Transparenzpflichten fest: Familien und Klienten müssen über den Einsatz von KI informiert werden und haben das Recht, diesen abzulehnen. In solchen Fällen sind die Organisationen verpflichtet, reguläre Alternativverfahren bereitzustellen.

Im Bereich des Datenschutzes untersagt die Richtlinie die Eingabe personenbezogener Daten in öffentlich zugängliche Systeme; stattdessen dürfen ausschließlich intern freigegebene Werkzeuge genutzt werden. Träger müssen zudem eine entsprechende Governance mit verbindlichen Regeln für erlaubte sowie unzulässige Nutzungen etablieren und Schulungen sowie Aufsichtsstrukturen bereitstellen.

Praxiserfahrungen und offene Fragen

Die Leitlinie behält einen empfehlenden Charakter, schreibt keine konkreten Werkzeuge vor und nennt weder ein formales Überprüfungsdatum noch Zielvorgaben für die behördliche Einführung. Das Dokument führt zehn Fallstudien auf und zeigt, dass mindestens neun Organisationen Systeme bereits im Live-Betrieb anwenden.

Der Swindon Borough Council verzeichnete in einem Pilotprojekt im Bereich der Erwachsenenfürsorge eine Reduzierung der Verwaltungszeit um 63 Prozent. Gespräche im Rahmen des Care Act verkürzten sich dort von 1,5 Stunden auf 30 Minuten, während der Aufwand für die Dokumentation von 4 Stunden auf 1,5 Stunden sank. Die Anwendung erwies sich zudem als hilfreich für sehbehinderte Mitarbeiter sowie Beschäftigte, deren Muttersprache nicht Englisch ist.

Anzeige

Mit der Einführung neuer Technologien in Behörden und Kommunen entstehen komplexe Fragen zur Haftung und zu neuen gesetzlichen Pflichten. Ein spezialisierter Praxis-Kompass hilft Verantwortlichen dabei, den Überblick über die aktuellen gesetzlichen Anforderungen zu behalten und sicher zu navigieren. Kostenlosen GO-Kompass als PDF anfordern

Beim Peterborough City Council beantwortete der digitale Assistent „Hey Geraldine“ mehr als 1.200 Fragen und sparte je Interaktion rund 15 Minuten ein. Der Norfolk County Council setzt einen Supervisions-Agenten auf Basis von Microsoft Copilot ein, während der Bradford Council den Assistenten „Annie“ rund um die Uhr über das Web und WhatsApp betreibt.

Weitere Fallbeispiele stammen aus Kingston, Together for Children Sunderland, Brent, Essex und North Yorkshire. Ein KI-Übersetzungstool für Fürsorge-Abgänger unterstützt über 100 Sprachen, wobei etwa ein Viertel dieser Zielgruppe digitale Informationen bislang nicht erreicht.

Beobachter weisen auf Leerstellen hin: Die Leitlinie thematisiert an keiner Stelle, wo Daten verarbeitet werden, welche Unternehmen diese verwalten oder welche Regierungen eine Offenlegung erzwingen könnten. Technische Begriffe zu Serverinfrastruktur oder Datenhoheit tauchen im Text nicht auf. Zudem wird der behördliche Transparenzstandard ATRS zwar dreimal erwähnt, bleibt für Kommunen jedoch unverbindlich.