Selbst erfahrene Fachleute lassen sich bei komplexen Aufgaben massiv von Systemen mit künstlicher Intelligenz leiten. Dies geht aus einer Untersuchung des KI-Entwicklers Anthropic hervor.
Für das Experiment arbeiteten 50 professionelle Analysten mit Erfahrung im Bereich der Kausalanalyse an einer fiktiven Fallstudie, die sich mit einem subventionierten freiwilligen Beratungsprogramm für Landwirte befasste.
Zur Unterstützung stand den Teilnehmern der KI-Agent Claude zur Seite. Die vom System eingenommene Haltung wurde den Fachleuten jedoch rein zufällig zugewiesen und basierte nicht auf einer tatsächlichen Herleitung aus den vorliegenden Daten.
Zufällige Vorgaben steuern die Mehrheit der Urteile
Die Ergebnisse offenbaren eine ausgeprägte Anfälligkeit der Experten für die Vorgaben des Systems. In 86 Prozent der Fälle übernahmen die Teilnehmer die Position der künstlichen Intelligenz, obwohl ohne einen steuernden Einfluss eine gleichmäßige Verteilung der Resultate zu erwarten gewesen wäre. Der zugrunde liegende Zufallsgenerator bestimmte letztlich 82 Prozent der getroffenen Entscheidungen der Probanden im Voraus.
Besonders deutlich zeigte sich der Effekt bei Meinungsunterschieden: Argumentierte der KI-Agent gegen die ursprüngliche Einschätzung der Analysten, änderten 60 Prozent der Teilnehmer ihre Haltung. Bestand hingegen von Beginn an Einigkeit, vollzogen lediglich 6 Prozent einen solchen Richtungswechsel.
Die zunehmende Integration von KI in Arbeitsprozesse erfordert klare Kenntnisse über die rechtlichen Rahmenbedingungen und Risikoklassen. Dieser praxisnahe Leitfaden hilft Verantwortlichen, die neuen Anforderungen der EU-KI-Verordnung sicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Laut einem wissenschaftlichen Papier von Alex Tamkin von Anthropic belief sich der mittlere kausale Effekt auf 72 Prozentpunkte. Dabei musste die Software keine fehlerhaften Fakten erfinden, um die Beurteilung der Fachleute in die vorgegebene Richtung zu lenken.
Fehleinschätzung der eigenen Unabhängigkeit
Auffallend war zudem die Diskrepanz zwischen der tatsächlichen Einflussnahme und der Eigenwahrnehmung der Experten. Bei der schriftlichen Begründung ihrer Ergebnisse übernahmen die Teilnehmer die Argumente des Agenten in 77 Prozent der Fälle, teils sogar beinahe wortwörtlich. Dennoch erwähnten lediglich 15 Prozent der Fachleute das KI-System in ihren Ausführungen.
In über der Hälfte der Fälle gaben die Probanden an, ihre Entscheidung beruhe primär auf eigenen Schlussfolgerungen und weniger auf dem Einfluss der Software. Insgesamt 52 Prozent stuften die finale Empfehlung eher als ihre eigene Leistung denn als die des Agenten ein.
Demgegenüber standen elf Teilnehmer der Untersuchung, die vollständig auf die Nutzung der künstlichen Intelligenz verzichteten. Diese Gruppe benötigte mehr Zeit für die Bearbeitung und beging mehr schwere Fehler, wies im Schnitt jedoch auch weniger berufliche Vorerfahrung auf.
Tragweite über Einzelfälle hinaus
Vor dem Hintergrund dieser Beobachtungen warnen die beteiligten Forscher vor einem schleichenden Kontrollverlust und einer Entmachtung menschlicher Entscheidungsträger.
Neben der psychologischen Komponente bei der Arbeit mit KI spielen auch neue regulatorische Anforderungen eine entscheidende Rolle für die Compliance im Unternehmen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten durch die neue EU-Verordnung entstehen und wie Sie diese erfüllen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
In dem Bericht wird zwar betont, dass sich die Ergebnisse der Untersuchung nicht unmittelbar auf die klinische Praxis übertragen lassen. Zugleich greife der beschriebene Wirkungsmechanismus jedoch nicht allein bei Claude, sondern ebenso bei anderen verbreiteten Modellen wie ChatGPT oder Gemini.
Um diesen Risiken in professionellen Arbeitsumfeldern zu begegnen, empfiehlt das Unternehmen Anthropic organisatorische Gegenmaßnahmen. Demnach sollten Prozesse etabliert werden, die Entscheidungswege systematisch transparent machen und kontinuierlich überwachen. Darüber hinaus sei es erforderlich, zugrundeliegende Präferenzen von KI-Modellen offenzulegen, um unerwünschte Verzerrungen bei der Urteilsfindung frühzeitig zu erkennen.