Neue Forschungsergebnisse zeigen alarmierende Auswirkungen von KI auf die menschliche Urteilsfähigkeit. Wer KI-Ratschlägen blind folgt, verlernt nicht nur das Hinterfragen, sondern gibt auch falsche Informationen mit wachsender Überzeugung weiter.
Mehrere europäische Universitäten haben am heutigen Sonntag erschreckende Ergebnisse vorgelegt: Die Nutzung künstlicher Intelligenz in Entscheidungsprozessen reduziert das kritische Denken massiv. Noch beunruhigender: Selbst wenn finanzielle Anreize für korrekte Antworten bestehen, übernehmen Nutzer bereitwillig falsche KI-Informationen.
Wenn KI die eigene Unwissenheit verschleiert
Forscher der Universität Mailand-Bicocca, der École Normale Supérieure und der Sapienza-Universität Rom haben ein Phänomen dokumentiert, das tiefgreifende Folgen haben könnte. In ihrer Studie gaben Probanden ohne KI-Hilfe in 44 Prozent der Fälle zu, eine Antwort nicht zu wissen. Sobald sie jedoch Ratschläge des KI-Modells Step 3.5 Flash erhielten, sank dieser Wert auf erschreckende drei Prozent.
Die Diskrepanz zwischen gefühlter und tatsächlicher Leistung ist frappierend: Die Trefferquote der Teilnehmer fiel von 27 auf neun Prozent, wenn sie KI-Empfehlungen folgten. Gleichzeitig stieg ihr Selbstvertrauen in die eigenen Antworten von 30 auf 76 Prozent. „KI wirkt als perverser Fehlanreiz“, so die Forscher. „Sie macht Menschen anfälliger dafür, Halluzinationen und Fehler zu glauben und weiterzuverbreiten.“
Gefährliche Selbstüberschätzung in der Medizin
Besonders alarmierend sind die Ergebnisse aus dem medizinischen Bereich. Der am heutigen Sonntag veröffentlichte RadLE 2.0-Benchmark des CRASH Lab an der Ashoka University offenbarte: KI-Modelle, die Röntgenbilder analysieren, sind häufig gefährlich selbstsicher bei falschen Befunden.
Menschliche Experten erreichten auf der Zuverlässigkeitsskala 988,7 von 2000 Punkten. Das beste KI-Modell, Claude Fable 5, kam gerade einmal auf 758 Punkte. Von den 16 getesteten Modellen zeigte nur Meta Muse Spark 1.1 die Fähigkeit, zu erkennen, wann ein Fall an einen Menschen übergeben werden sollte.
Die rasanten Entwicklungen bei KI-Systemen bringen nicht nur technologische, sondern auch neue rechtliche Risiken für Unternehmen mit sich. Dieser kostenlose Report klärt auf, welche KI-Systeme künftig als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Die eigentliche Gefahr sei nicht Feindseligkeit der Maschinen, sondern die Automatisierung organisatorischer Betriebsblindheit, warnen die Forscher.
Generation ohne eigene Stimme?
Autor Dave Eggers schlug bei einem Besuch bei OpenAI am Samstag Alarm. Vor rund 200 Mitarbeitern warnte er: Der flächendeckende Einsatz von ChatGPT bringe eine ganze Generation zum Verstummen. „Schreiben ist eine Form des sichtbaren Denkens“, so Eggers. „Wenn wir das Verfassen von Texten an KI auslagern, verhindern wir, dass Schüler grundlegende kognitive Fähigkeiten trainieren.“
Die wissenschaftliche Integrität leidet bereits jetzt. Allein 2025 wurden mindestens 146.932 halluzinierte Zitate in wissenschaftlichen Repositorien wie arXiv und PubMed Central identifiziert. 2024 waren schätzungsweise 13,5 Prozent aller biomedizinischen Abstracts KI-gestützt. Die Zahl der Rücknahmen wissenschaftlicher Arbeiten erreichte 2023 mit über 10.000 einen Rekordwert.
Öffentliche Ängste und regulatorische Konsequenzen
Die Bevölkerung reagiert mit wachsender Besorgnis. Eine Verasight-Umfrage vom Juni 2026 ergab: 60 Prozent der US-Bürger fühlen sich angesichts der KI-Entwicklung verunsichert. 90 Prozent sorgen sich vor KI-gesteuerten Cyberangriffen auf kritische Infrastruktur. Drei Viertel der Befragten rechnen mit Arbeitsplatzverlusten durch die Technologie.
Neben den kognitiven Folgen rücken durch die KI-Verordnung nun auch klare gesetzliche Pflichten wie Kennzeichnung und Risikodokumentation in den Fokus von Unternehmen. Ein kostenloser Download verschafft Ihnen jetzt den notwendigen Überblick über alle Fristen und Anforderungen des EU AI Acts. Fristen und Pflichten der EU-KI-Verordnung kompakt erklärt
China hat bereits Konsequenzen gezogen. Seit heute sind KI-Begleiter für Minderjährige verboten. Plattformen von ByteDance, Alibaba und Tencent müssen personalisierte emotionale Chatbots für junge Nutzer deaktivieren. Hintergrund sind sinkende Geburtenraten und die Sorge vor den sozialen Auswirkungen virtueller Beziehungen auf die Jugend.
