{"id":315606,"date":"2025-09-14T00:02:50","date_gmt":"2025-09-13T22:02:50","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=315606"},"modified":"2025-09-14T11:39:34","modified_gmt":"2025-09-14T09:39:34","slug":"technische-hypotheken-muss-die-ki-revolution-ausfallen-teil-2","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/09\/14\/technische-hypotheken-muss-die-ki-revolution-ausfallen-teil-2\/","title":{"rendered":"Technische Hypotheken: Muss die KI-Revolution ausfallen? – Teil 2"},"content":{"rendered":"

\"Stop\u00dcber das Thema \"k\u00fcnstliche Intelligenz\" und deren Scheitern hatte ich ja schon mehrere Beitr\u00e4ge hier im Blog. Mich treibt seit einiger Zeit die Erkenntnis um, dass die Gesellschaft sich mit der AI-Welle gewaltige (technische) Hypotheken aufsattelt. Diese m\u00fcssen irgendwann bedient werden, scheinen aber in der Allgemeinheit noch nicht auf dem Radar zu sein. Nachdem ist in Teil 1<\/a> eine eher \"am\u00fcsante\" Stilbl\u00fcte bei maschineller \u00dcbersetzung angesprochen habe, weitet Teil 2 das Thema im Hinblick auf die entstehenden Hypotheken aus.<\/p>\n

<\/p>\n

KI-Revolution, \u00dcbersetzungen und Halluzinationen<\/h2>\n

\"\"Momentan werden wie ja mit einem regelrechten KI-Hype \u00fcberflutet. Da pappt jeder Hersteller \"AI\" auf seine Produkte und wer nicht volle Kanne auf den Trend h\u00fcpft, gilt ja als Loser. Firmen, die aus vielf\u00e4ltigen Gr\u00fcnden, einen AI-Einsatz zur\u00fcckhalten pr\u00fcfen, laufen nach Ansicht mancher AI-Protagonisten, Gefahr abgeh\u00e4ngt zu haben.<\/p>\n

Aber es gibt auch eine sichere Methode, ein Unternehmen mittels nicht durchdachter AI-Projekte an die Wand zu fahren.\u00a0\u00dcber das Thema \"k\u00fcnstliche Intelligenz\" und deren Scheitern hatte ich ja schon mehrere Beitr\u00e4ge hier im Blog. Eine meiner Bedenken besteht darin, dass man Halluzinationen der Sprachmodelle nicht verhindern kann, was gravierende Folgen f\u00fcr unser aller Leben haben kann.<\/p>\n

Im Management einer Firma steht dann die Frage im Raum: Was passiert, wenn die KI mir falsche Informationen liefert und ich darauf falsche Entscheidungen treffe. Das Ganze passiert auch ohne KI und Fehleinsch\u00e4tzungen gibt es h\u00e4ufiger. Der entscheidende Punkt ist aber, dass wir an einer Schwelle stehen, wo (\u00fcberspitzt formuliert) KI den menschlichen Verstand ersetzen und nichts mehr hinterfragt werden soll.<\/p>\n

Halluzinationen lassen sich nicht verhindern!<\/h3>\n

Die Argumentation der AI-Protagonisten ist bisher ja: Wir m\u00fcssen und werden einfach besser, dann ist das Thema abger\u00e4umt.\u00a0Die Tage bin ich bei heise auf den Artikel hier<\/a> gesto\u00dfen, der neueste Forschungsergebnisse von OpenAI aufbereitet. Deren Aussage war, dass das Konfabulieren (oder Halluzinieren) der LLMs auch mit gr\u00f6\u00dftem Aufwand nicht g\u00e4nzlich verhindern l\u00e4sst, sondern h\u00f6chstens reduziert werden kann.<\/p>\n

Es sind doch nur \u00dcbersetzungen<\/h3>\n

Normalerweise h\u00e4tte ich gesagt: \"Aber \u00dcbersetzungen sollten die LLMs doch k\u00f6nnen?\". Das Beispiel aus Teil 1<\/a> zeigt, dass es auch da kr\u00e4ftig schief gehen kann und auch schief geht. In obigem Fall mag man dr\u00fcber schmunzeln und weiter gehen. Aber den Fall zeigt die Dimensionen auf – die AI-Welle schwappt \u00fcber uns, und maschinelle \u00dcbersetzungen sind verlockend. Warum nicht die Dokumentation einer atomtechnischen Anlage, eine chemischen Fabrik, von medizinischen Ger\u00e4ten, Fahrzeugen und was wei\u00df ich alles entsprechend mit LLMs in die Zielsprachen \u00fcbersetzen lassen?<\/p>\n

Fata Morgana und versagt die Kontrolle?<\/h2>\n

Die AI-Protagonisten versprechen ja nicht weniger als die Weltrevolution durch den Einsatz von KI. Viele Stellen sollen in wenigen Jahren verloren gehen, weil KI-Agenten die Aufgaben \u00fcbernehmen sollen.<\/p>\n

Das\u00a0Problem bei den AI-Ans\u00e4tzen ist, dass der Mensch kritisch dr\u00fcber schauen und die gr\u00f6\u00dften Fehler beseitigen m\u00fcsste. Die Frage bleibt aber: Erkennt der Mensch diese Fehler zuverl\u00e4ssig? Ich meine, dass die Antwort Nein lautet – und ich postuliere zus\u00e4tzlich, dass die F\u00e4higkeiten der Leute, die AI-L\u00f6sungen nutzen, mit der Zeit auch abnehmen.<\/p>\n

Wenn ich mir mal die viel zitierten Zusammenfassungen herausgreife, die mir die AI-Modelle liefern sollen. Versprochen wird eine Zeitersparnis – aber wer sagt mir denn, dass die Zusammenfassung das abbildet, was ich beim Lesen der Original-Artikel erfasst h\u00e4tte? Sobald ein LLM einen BIAS hat oder den Kontext nicht versteht, geht das doch gravierend schief.<\/p>\n

Wikipedia hat im Juni 2025 die KI-Zusammenfassungen wieder gestoppt<\/a>. Und vor einigen Tagen hatte ich im Artikel\u00a0Finger weg: Die Google AI-Suchergebnisse sind eine Katastrophe!<\/a> eigene Erfahrung mit Googles KI-Suchergebnissen – welches letztendlich auch nur eine Zusammenfassung dessen, was das Web zu einem Thema kennt, sind – angesprochen.<\/p>\n

Das Einzige, was den Anbietern einf\u00e4llt, sind Versprechungen, was die AI-Modelle alles k\u00f6nnen und besser machen sollen. Die von mir bereits mehrfach aufgeworfene Frage des gigantisch steigenden Energie- und Ressourcenverbrauchs konterte man k\u00fcrzlich mit Bullshit-Bingo-Vergleichen der Art, dass eine KI-Anfrage so viel Strom wie 9 Sekunden Fernsehen verbraucht – heise hatte das hier<\/a> angesprochen. Mit der Verlautbarung sollen die sich dort aufbauenden Probleme f\u00fcr die breite \u00d6ffentlichkeit verw\u00e4ssert werden. Das Erwachen kommt erst dort, wenn die Anrainer die Stromkosten f\u00fcr KI-Rechenzentren durch h\u00f6here Versorgungspreise mit bezahlen m\u00fcssen (in den USA gibt es erste F\u00e4lle).<\/p>\n

Wir bauen eine riesige (technische) Hypothek auf<\/h2>\n

In den letzten Wochen sind mir da sehr kritische Erkenntnisse unter die Augen gekommen. Die Gesellschaft baut sich mit dem AI-Ansatz eine gewaltige (technische) Hypothek auf, die irgendwann eingel\u00f6st werden muss.<\/p>\n

Wenn der \"Zahltag\" sehr schnell kommt<\/h3>\n

Manchmal ist \"Zahltag\" schon sehr bald und die Pro-AI-Entscheidung f\u00e4llt dem Management ganz schnell auf die F\u00fc\u00dfe.<\/p>\n