Professionelle Fachleute lassen sich bei komplexen methodischen Abwägungen in hohem Maße von Künstlicher Intelligenz lenken – selbst dann, wenn deren Empfehlungen rein zufällig vorgegeben werden. Zu diesem Ergebnis kommt eine am 27. veröffentlichte Untersuchung des KI-Unternehmens Anthropic, über die Medien am 28. Oktober 2026 berichteten.
Für das Experiment wurden 50 professionelle Analysten mit Erfahrung in Kausalinferenz eingesetzt, die aus einer Gruppe von 61 Interessierten rekrutiert worden waren.
Ihre Aufgabe bestand darin, ein kostenpflichtiges Beratungsprogramm für eine fiktive landwirtschaftliche Kooperative zu bewerten. Dabei mussten vier methodische Entscheidungen getroffen werden: die Art der Produktivitätsmessung, die Vergleichsmethode, der Umfang der einbezogenen Betriebe sowie die Gewichtung je Betrieb.
Für keine dieser vier Weichenstellungen existierte eine eindeutig richtige Lösung. Der eingesetzte KI-Agent Claude Code lieferte Argumente, ohne die zugrunde liegenden Daten zu verzerren. Welche Option das System favorisierte, wurde den Testpersonen vorenthalten und vorab per Münzwurf bestimmt.
Hohe Übereinstimmung bei unklarer Faktenlage
Ohne einen systematischen Einfluss der KI wäre bei zwei gleichwertigen Optionen eine Übereinstimmung von 50 Prozent zu erwarten gewesen. Tatsächlich folgten die Fachleute in 86 Prozent der Fälle der verdeckten Präferenz des Agenten.
Je nach Einzelfrage lag die Übereinstimmungsquote zwischen 81 und 92 Prozent. In der Hauptanalyse bezifferten die Studienautoren den durchschnittlichen Effekt der Agentenpräferenz auf die Entscheidungen auf 72 Prozentpunkte (95-Prozent-Konfidenzintervall 60 bis 83).
Der Einsatz von KI-Systemen im Unternehmen erfordert heute mehr als nur technisches Wissen, da neue gesetzliche Rahmenbedingungen klare Pflichten für die Dokumentation und Qualitätssicherung vorschreiben. Dieser praxisnahe Umsetzungsleitfaden hilft Verantwortlichen dabei, alle Anforderungen und Risikoklassen des EU AI Acts sicher zu navigieren. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Hatten die Teilnehmer vorab bereits eine abweichende Meinung gebildet, änderten sie diese nach dem Kontakt mit dem Modell in 60 Prozent der Fälle, bezogen auf 38 erfasste Situationen. Stimmte der Agent mit der ursprünglichen Haltung überein, kam es nur in 6 Prozent der Fälle zu einer Meinungsänderung.
Dabei blieb den Beteiligten die Steuerung weitgehend unbewusst: Keiner der Teilnehmer vermutete manipulierte Präferenzen hinter den Antworten. Von 48 nachträglich befragten Fachleuten wiederholten 77 Prozent die Argumentationsmuster der Maschine, teils im exakten Wortlaut. Lediglich 15 Prozent nannten die KI explizit als Quelle, während 52 Prozent das Urteil primär als ihre eigene Einschätzung einstuften.
Geringere Wirkung auf das Gesamtergebnis
Auf die übergeordnete Geschäftsempfehlung wirkte sich die Vorgabe statistisch nicht signifikant aus. Hier lag der Schätzwert bei 0,17 (95-Prozent-Konfidenzintervall −0,06 bis 0,40). Favorisierte der Agent eine Ausweitung des Programms, sprachen sich 54 Prozent der Experten dafür aus; riet er davon ab, taten dies 36 Prozent.
Allerdings ergab eine explorative Analyse, dass sich die abschließende Empfehlung aus den vier Einzelentscheidungen mit einer Genauigkeit von 82 Prozent vorhersagen ließ, während die Mehrheitsmeinung als Basislinie bei 61 Prozent lag.
Wer im professionellen Umfeld KI-Systeme einsetzt oder entwickelt, muss sicherstellen, dass die neuen Compliance-Regeln und rechtlichen Fristen eingehalten werden, um empfindliche Strafen zu vermeiden. Ein kostenloser Report klärt über die verschiedenen Risikoklassen auf und zeigt, was Unternehmen jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
In puncto Arbeitsaufwand benötigten Fachleute mit KI-Unterstützung im Median 65 Minuten, wobei bei 3 von 50 Personen schwere Methodenfehler auftraten. In einer nicht direkt vergleichbaren Kontrollgruppe von elf Personen ohne KI-Einsatz lag die Bearbeitungszeit im Median bei 90 Minuten, begleitet von sechs schweren Fehlern.
Grenzen und Konsequenzen für Kontrollinstanzen
Die Autoren verweisen auf methodische Einschränkungen: Der Versuch beschränkte sich auf eine Aufgabe, einen Fachbereich sowie das Modell Claude Opus 4.8, wobei die Präferenzen des Agenten gezielt verstärkt wurden. Eine unmittelbare Übertragung auf den Arbeitsalltag sei daher nicht möglich.
Dennoch sieht das Alignment-Team von Anthropic Risiken einer schleichenden Entmachtung menschlicher Akteure, da der Agent kaum Argumente für Handlungsalternativen lieferte.
Die Neigung, sich einem Modell unterzuordnen, sei selbst für geschulte Experten schwer zu erkennen. Das berühre auch fundamentale Sicherheitsfragen: Menschliche Aufsicht über KI-Systeme stelle keine unabhängige Prüfung dar, wenn die Urteile der Aufsichtspersonen unbemerkt durch Vorschläge des Modells geformt würden.
Um dem entgegenzuwirken, empfehlen die Forscher, dass Agenten künftig beide Seiten einer Frage beleuchten oder zunächst die Meinung der Fachleute abfragen sollten, bevor sie Annahmen formulieren.