Die Umsetzung des EU AI Acts stellt Customer-Experience-Abteilungen (CX) vor erhebliche operative Herausforderungen. Zeitgleich rücken neue Verhandlungen auf EU-Ebene in den Fokus, die die Nutzung personenbezogener Daten für das Training von Künstlicher Intelligenz (KI) grundlegend neu regeln könnten. Berichte über den sogenannten „Digital Omnibus“ und den Artikel 88bis stoßen dabei auf deutliche Kritik von Datenschützern.
Operative Hürden für den Kundenservice
In Fachkreisen wird betont, dass Führungskräfte im Bereich Customer Experience zwingend in die Governance-Strukturen des AI Acts eingebunden werden müssen. Da kundenorientierte KI-Anwendungen unmittelbar die Service-Erfahrung beeinflussen, komme diesen Verantwortlichen die Rolle von Hütern der KI-Systeme zu.
In modernen Contact Centern ist KI bereits weit verbreitet: Die Technologie kommt in Kundengesprächen, bei Agent-Tools, auf Workforce-Plattformen sowie im Qualitätsmonitoring und in der Workflow-Automatisierung zum Einsatz.
Der risikobasierte Ansatz des EU AI Acts erfordert dabei eine genaue Prüfung der jeweiligen Verwendungszwecke. Unternehmen müssen klären, wo KI eingesetzt wird, welche Kundendaten verarbeitet werden und ob die Technologie Empfehlungen oder Entscheidungen maßgeblich beeinflusst.
Wer sich mit dem Einsatz von Künstlicher Intelligenz im Unternehmen befasst, muss die neuen regulatorischen Anforderungen genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Risikoklassen, Fristen und Pflichten des EU AI Acts. EU AI Act in 5 Schritten verstehen
Eine zentrale Anforderung ist die menschliche Aufsicht an kritischen Entscheidungspunkten. Anbieter von KI-Lösungen stehen in der Pflicht, umfassende Dokumentationen zu Datenverarbeitung, Hosting und der Generierung von Ergebnissen zu liefern, um Risiken erklärbar zu machen.
Kritik an Plänen zur Datennutzung
Parallel zur Implementierung des AI Acts sorgen geleakte Dokumente aus dem EU-Rat für Diskussionen. Die Organisation noyb um Max Schrems veröffentlichte Unterlagen zum Digital Omnibus, die eine Aufweichung des Datenschutzes nahelegen. Der Vorschlag wird von Kritikern als eine Form der digitalen Enteignung bezeichnet, bei der die kommerziellen Interessen von KI-Firmen über das europäische Grundrecht auf Privatsphäre gestellt würden.
Ein zentraler Punkt der Verhandlungen ist das Ratsdokument 12535/26 vom 3. September 2026. Demnach sieht ein Vorschlag im sogenannten Recital 33a vor, dass die Verarbeitung personenbezogener Daten für die Entwicklung und den Betrieb von KI-Systemen als „berechtigtes Interesse“ gemäß der Datenschutz-Grundverordnung (DSGVO) eingestuft werden kann. Damit könnte die Notwendigkeit einer expliziten Einwilligung der Nutzer entfallen.
Ausnahmen hiervon sollen lediglich bei überwiegenden Rechten der betroffenen Personen, insbesondere bei Kindern, oder bei spezifischen nationalen Gesetzen gelten.
Die rechtssichere Dokumentation von Datenverarbeitungsprozessen bleibt auch bei neuen technologischen Entwicklungen eine zentrale Pflicht für jedes Unternehmen. Ein kostenloser Report klärt über notwendige Schutzmaßnahmen auf und liefert eine praktische Vorlage zur Erfüllung der Dokumentationspflichten. Kostenlose Vorlage für die Datendokumentation sichern
Geplante Lockerungen und politische Differenzen
Die vorliegenden Entwürfe sehen zudem eine Verengung der Definition personenbezogener Daten vor. Daten sollen für eine Entität dann nicht mehr als personenbezogen gelten, wenn keine „vernünftigerweise wahrscheinlichen Identifizierungsmittel“ zur Verfügung stehen. Zudem könnten Anfragen von Betroffenen künftig leichter als missbräuchlich oder exzessiv abgelehnt werden.
Deutschland fordert in diesem Kontext die Entfernung bestimmter Schutzklauseln, wie etwa der Datenminimierung bei Trainingsquellen. Zudem solle die Anwendung wichtiger DSGVO-Artikel ausgesetzt werden können, wenn die Einhaltung für Unternehmen unmöglich oder unverhältnismäßig wäre. Unterstützung für diese Linie kommt unter anderem aus Irland, dem EU-Hauptsitz vieler internationaler Technologiekonzerne.
Innerhalb der EU-Institutionen herrscht Uneinigkeit über den Kurs. Während Teile des Parlaments Schlupflöcher für die Industrie befürworten, warnen andere Fraktionen vor einem Freibrief für große Technologieunternehmen. Bürgerrechtsorganisationen wie der Irish Council of Civil Liberties kritisieren die Pläne scharf und befürchten einen Wegfall bewährter Schutzmaßnahmen.
Die EU-Kommission hingegen verteidigte die Maßnahmen im Vorfeld als notwendige Vereinfachungen zur Steigerung der Wettbewerbsfähigkeit, mit dem Ziel, die Verwaltungslasten für Unternehmen deutlich zu senken. Das Dossier befindet sich derzeit zur weiteren Beratung im Rat und im Parlament.
