Die niedersächsische Datenschutzaufsicht hat eine Untersuchung zur Nutzung von künstlicher Intelligenz (KI) in der Videoüberwachung von Badebetrieben eingeleitet. In zehn ausgewählten Hallen- und Freibänden wird derzeit geprüft, in welchem Umfang und unter welchen Bedingungen personenbezogene Daten durch diese Systeme verarbeitet werden. Die Ergebnisse dieser Überprüfung sollen nach aktuellen Planungen bis Ende des Jahres vorliegen.
Sicherheit durch automatisierte Bewegungsmuster
Der niedersächsische Landesdatenschutzbeauftragte Denis Lehmkemper bezeichnete den Einsatz von KI-gestützten Systemen als eine potenziell sinnvolle Ergänzung für die Sicherheit im Badebetrieb. Er betonte jedoch gleichzeitig, dass die Videoüberwachung von Badegästen einen hochsensiblen Bereich darstelle, der einer genauen Prüfung bedürfe.
Die eingesetzten Technologien sind darauf ausgelegt, Menschen in Notsituationen anhand spezifischer Bewegungsmuster automatisiert zu erkennen. Sobald das System eine Gefahrensituation identifiziert, wird die Badeaufsicht alarmiert, um Rettungsmaßnahmen einzuleiten.
Derzeit läuft die Rückmeldefrist für die betroffenen Badbetreiber, in der sie detaillierte Angaben zur technischen Umsetzung und den Datenschutzvorkehrungen machen müssen. Ein Beispiel für eine bereits länger etablierte Nutzung findet sich in der Salztherme Lüneburg, die bereits seit 2021 das Video-System „Angel Eye“ einsetzt, um den Boden des Wellenbeckens zu überwachen.
Der Einsatz von KI-Systemen zur Überwachung wirft komplexe rechtliche Fragen nach den neuen EU-Vorgaben auf. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Regulatorische Unsicherheit und nationale Verschärfungen
Die Untersuchung in Niedersachsen findet vor dem Hintergrund eines sich wandelnden rechtlichen Rahmens auf europäischer Ebene statt. Die EU hat die Anwendung der Hochrisiko-Regeln innerhalb des KI-Gesetzes (AI Act) auf Dezember 2027 verschoben. Dies betrifft insbesondere Systeme, die erhebliche Auswirkungen auf die Grundrechte haben könnten.
Parallel zu den lokalen Prüfungen im Freizeitsektor hat der Bundestag in dritter Lesung einer Novelle des Bundespolizeigesetzes zugestimmt, die ähnliche technologische Ansätze für Sicherheitsbehörden legitimiert. Mit 322 Ja-Stimmen wurde ein Paket verabschiedet, das der Bundespolizei künftig die automatisierte Erkennung von Bewegungsmustern sowie die biometrische Detektion in Echtzeit ermöglicht.
Diese Befugnisse, die auch mobile Sensoren für Bild- und Tonaufnahmen umfassen, werden von Kritikern aufgrund möglicher Diskriminierungsrisiken skeptisch betrachtet. Die bisherige Rechtsgrundlage für solche Maßnahmen stammte aus dem Jahr 1994.
Da die EU-KI-Verordnung neue Regeln für Hochrisiko-Systeme aufstellt, müssen Verantwortliche ihre Dokumentationspflichten genau kennen. Dieser kostenlose Report klärt auf, welche Maßnahmen jetzt konkret für einen rechtssicheren Einsatz von KI-Technologien notwendig sind. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Internationale Debatte über Sicherheitsstandards
Die Risiken einer unzureichend regulierten KI-Entwicklung beschäftigen unterdessen auch die internationale Politik. Bundesaußenminister Johann Wadephul (CDU) warnte in einer Rede vor der UN-Generalversammlung vor den Gefahren der Technologie für die wirtschaftliche Stabilität und die öffentliche Infrastruktur. Er forderte die Einführung internationaler Sicherheitsregeln und verpflichtende Tests für KI-Modelle vor deren Veröffentlichung. Damit sprach er sich gegen eine rein freiwillige Selbstverpflichtung der Industrie aus.
Unterstützung für eine stärkere Regulierung kommt teilweise aus der Branche selbst. Anthropic-CEO Dario Amodei plädierte in einem aktuellen Essay für eine gezielte Drosselung der Entwicklungsgeschwindigkeit durch staatliche Vorgaben, während Microsoft-CEO Satya Nadella den Stopp von Entwicklungen bei schwerwiegenden Sicherheitsmängeln befürwortete.
Auch Bill Gates äußerte die Einschätzung, dass die Technologie mächtig genug sei, um verheerende globale Ereignisse auszulösen, und forderte eine stärkere Kontrolle durch Politiker und Strafverfolgungsbehörden.
Während andere Staaten wie Österreich die Technologie bereits offensiv in die Verwaltung integrieren – etwa durch das Projekt „KI im ELAK“ zur Unterstützung in der Bundesverwaltung bis Ende 2026 –, zeigt die aktuelle Untersuchung in Niedersachsen, dass der Schutz der Privatsphäre bei der praktischen Anwendung von Überwachungs-KI in Deutschland ein zentrales Prüfkriterium bleibt.
