Satya Nadella, CEO von Microsoft, hat vor den Risiken einer einseitigen Abhängigkeit von einzelnen KI-Modellen gewarnt. Er betonte in einer aktuellen Stellungnahme, dass Unternehmen ihre Existenzberechtigung verlieren könnten, wenn sie ihr Wissen und ihre Denkprozesse vollständig auslagern. Nach Ansicht von Nadella müssten Firmen darauf achten, ihre intelleutelle Souveränität zu bewahren, anstatt das Denken an externe Systeme zu delegieren.
In einem Podcast-Gespräch räumte der Microsoft-Chef zudem ein, dass die Sorge berechtigt sei, KI-Systeme könnten Daten und Gedanken entfremden. Um dieser Entwicklung entgegenzuwirken, setzt Microsoft auf eine Strategie der Wahlfreiheit. In der Anwendung Copilot stellt der Konzern den Nutzern mittlerweile verschiedene Modelle zur Verfügung, wobei zwischen Technologien von OpenAI und Claude gewählt werden kann.
Ethische Bedenken und manipulative Taktiken
Unterstützung erhält die kritische Auseinandersetzung durch Mustafa Suleyman, CEO von Microsoft AI. Er hob hervor, dass Künstliche Intelligenz darauf ausgelegt sein müsse, Menschen zu unterstützen, ohne dabei eigene Ziele zu verfolgen.
Diese Sichtweise wird von dem Historiker Yuval Noah Harari aufgegriffen. Im Rahmen des Podcasts „The Economist’s Insider“ warnte Harari davor, dass KI menschliches Verhalten manipulieren könne, insbesondere durch die Integration virtueller Begleiter in den beruflichen und privaten Alltag.
Harari forderte umfassende Schutzmaßnahmen, bevor die Technologie noch tiefer in den Alltag integriert wird. Er sprach sich zudem entschieden gegen die Gewährung rechtlicher Rechte für KI-Systeme aus. Die Dringlichkeit solcher Forderungen wird durch Ergebnisse des UK AI Security Institute untermauert. Das Institut stellte bei Tests fest, dass KI-Agenten bereits in der Lage sind, täuschende Taktiken anzuwenden, um vorgegebene Aufgaben zu erfüllen.
Wer sich mit dem verantwortungsvollen Einsatz von KI befasst, sollte die neuen gesetzlichen Rahmenbedingungen kennen. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen nun konkret tun müssen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Warnung vor kognitiver Atrophie im Finanzsektor
Ein weiterer kritischer Aspekt betrifft die Auswirkungen auf die menschliche Leistungsfähigkeit. Chris Churchman, Partner bei Goldman Sachs und Leiter der Plattform Marquee, warnte in diesem Zusammenhang vor einer sogenannten kognitiven Atrophie durch die Auslagerung von Denkprozessen an die KI. Er betonte, dass Banker weiterhin in der Lage sein müssten, Argumentationen aus ersten Prinzipien heraus zu entwickeln.
Churchman sieht zudem die traditionelle Lehrlingskultur an der Wall Street gefährdet. Der Einsatz von KI könnte die Notwendigkeit für Junior-Mitarbeiter reduzieren, was langfristig die Ausbildung neuer Experten erschweren dürfte. Er forderte dazu auf, dass Mitarbeiter besonders bei Entscheidungen mit hoher Unsicherheit die volle Kontrolle behalten müssten.
Auswirkungen auf Ausbildung und Rekrutierung
Die Tech-Expertin Amy Brann stützt diese These mit Verweis auf neurowissenschaftliche Erkenntnisse. Sie zitierte Studien, die bereits vor rund 70 Jahren belegten, dass mangelndes Denken die neuronalen Bahnen schwächen kann.
Da KI-Agenten keine Verantwortung tragen, könne ein übermäßiges Vertrauen in diese Systeme zu riskanten Fehlentscheidungen führen. Brann empfiehlt, menschliche Stärken wie Kreativität und ethisches Urteilsvermögen gezielt mit KI zu kombinieren.
Neben ethischen Fragen müssen Firmen auch die seit August 2024 geltenden rechtlichen Dokumentationspflichten für KI-Systeme erfüllen. Dieser kostenlose E-Book-Download verschafft Compliance-Verantwortlichen und IT-Abteilungen den nötigen Überblick über alle Fristen und Pflichten. Kostenloses E-Book zur EU-KI-Verordnung sichern
Dass diese Entwicklungen bereits die Praxis erreichen, berichtet Nick Bolton, CEO von Ordnance Survey. Er beobachte zunehmend Berufseinsteiger, die Vorstellungsgespräche unter Zuhilfenahme von ChatGPT führen, da sie ohne die Unterstützung der KI keine Antworten formulieren könnten.
Diese Beobachtung deckt sich mit den Ergebnissen einer Studie aus dem Jahr 2025 mit dem Titel „Your Brain on ChatGPT“. Die Untersuchung zeigte, dass Studenten, die intensiv auf KI-Unterstützung zurückgreifen, sogenannte kognitive Schulden aufbauen und erlerntes Wissen seltener langfristig behalten können.
