Das AGI-Safety-Team von Google DeepMind hat potenzielle Bewerber darüber informiert, dass die im Rekrutierungsprozess eingesetzte künstliche Intelligenz zur Vorauswahl von Lebensläufen fehleranfällig sein könnte. In einer Mitteilung am 12. August 2026 wies die spezialisierte Abteilung darauf hin, dass qualifizierte Kandidaten durch automatisierte Filter fälschlich abgelehnt werden könnten. Um dieses Risiko zu minimieren, empfahl das Team die Nutzung eines gesonderten Formulars, das eine manuelle Sichtung durch menschliche Mitarbeiter sicherstellen soll.
Manuelle Prüfung als Umgehung der Automatisierung
Die Warnung betrifft konkret die Bewerbungsprozesse innerhalb der Abteilung für allgemeine künstliche Intelligenz (AGI Safety). In dem Dokument heißt es, dass Lebensläufe im Rahmen der KI-gestützten HR-Vorauswahl unter Umständen fälschlich herausgefiltert werden könnten. Das Team rät Interessenten daher explizit dazu, die automatisierte Stufe zu umgehen. Durch das bereitgestellte Formular soll gewährleistet werden, dass die fachliche Qualifikation der Bewerber direkt von Menschen bewertet wird, anstatt sich auf die Algorithmen des Unternehmens zu verlassen.
Diese interne Vorsichtsmaßnahme steht in einem gewissen Kontrast zur offiziellen Position des Mutterkonzerns. Google dementierte Berichte über eine mangelnde Zuverlässigkeit der eingesetzten Systeme. Das Unternehmen bestreitet, dass es im Rahmen der automatisierten Filterung zu systematischen Fehlern komme, und hält an der Effektivität seiner Einstellungstools fest.
Wer sich mit dem Einsatz von Algorithmen befasst, muss auch die rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt braucht. EU AI Act in 5 Schritten verstehen
Wachsende Kritik an KI-gestützten Einstellungstools
Die Bedenken innerhalb von Google DeepMind spiegeln eine breitere Debatte über die Risiken automatisierter HR-Prozesse wider. Branchenweit stehen KI-Einstellungstools zunehmend wegen potenzieller Voreingenommenheit und mangelnder Transparenz in der Kritik. Dabei werden häufig Parallelen zu bekannten Problemen bei anderen KI-Modellen gezogen, wie etwa Beobachtungen zur Voreingenommenheit bei ChatGPT.
Ein prominentes Beispiel für die rechtlichen Risiken solcher Technologien ist der Softwareanbieter Workday. Das Unternehmen wurde in der Vergangenheit wegen angeblicher Diskriminierung durch seine Algorithmen verklagt. Solche Verfahren haben die Aufmerksamkeit für die Gefahr geschärft, dass automatisierte Systeme bestimmte Bewerberkategorien aufgrund fehlerhafter Datenmuster benachteiligen könnten.
Die neuen Regeln für künstliche Intelligenz stellen viele Unternehmen vor große Herausforderungen bei der Dokumentation. Dieser kostenlose Report klärt auf, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zur KI-Verordnung kostenlos anfordern
Bedeutung für die KI-Sicherheitsforschung
Dass ausgerechnet das Team für AGI-Sicherheit bei DeepMind vor den eigenen Systemen warnt, unterstreicht die Sensibilität des Themas innerhalb der Branche. Während Unternehmen durch die Automatisierung der Personalvorauswahl Effizienzgewinne anstreben, weisen Experten auf die Gefahr hin, dass hochspezialisierte Talente durch starre Raster fallen könnten.
Die Empfehlung, auf eine menschliche Prüfung auszuweichen, deutet darauf hin, dass selbst führende Entwickler von KI-Technologien in kritischen Bereichen wie der Personalakquise menschliche Urteilskraft gegenüber rein algorithmischen Entscheidungen priorisieren, um Fehlentscheidungen zu vermeiden. Ob Google infolge dieser internen Warnungen seine globalen Rekrutierungsprozesse anpassen wird, bleibt abzuwarten.
