{"id":319604,"date":"2025-12-26T00:05:57","date_gmt":"2025-12-25T23:05:57","guid":{"rendered":"https:\/\/borncity.com\/blog\/?p=319604"},"modified":"2025-12-25T22:38:40","modified_gmt":"2025-12-25T21:38:40","slug":"ai-software-entwicklung-the-hidden-cost-of-ai-coding","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/12\/26\/ai-software-entwicklung-the-hidden-cost-of-ai-coding\/","title":{"rendered":"AI-Software-Entwicklung: \"The hidden cost of AI-Coding\""},"content":{"rendered":"

\"Copilot\"Generative KI-Tools k\u00f6nnen die Produktivit\u00e4t von Entwicklern um bis zu 55 % steigern, sagt ein Artikel des MIT. Aber eine zu schnelle Bereitstellung ohne flankierende Ma\u00dfnahmen und Regeln\u00a0 f\u00fchrt zu gef\u00e4hrlichen technischen Schulden (von mir oft als technische Hypotheken bezeichnet). Um kostspielige Systemausf\u00e4lle zu vermeiden, m\u00fcssen Unternehmen klare Richtlinien festlegen, das Management technischer Schulden zu einer Priorit\u00e4t machen und Entwickler im verantwortungsvollen Umgang mit KI schulen.<\/p>\n

<\/p>\n

\"\"Das ist die Botschaft des MIT-Artikels The Hidden Costs of Coding With Generative AI<\/a>, der bereits Mitte August 2025 ver\u00f6ffentlicht wurde. Ich bin \u00fcber nachfolgenden Tweet<\/a> auf das Thema gesto\u00dfen.<\/p>\n

<\/a><\/p>\n

Die Eingangs get\u00e4tigte Aussage, dass generative KI-Tools die Produktivit\u00e4t von Software- Entwicklern um bis zu 55 % steigern k\u00f6nnen, ist mit einem gro\u00dfen Aber bzw. wichtigen Einschr\u00e4nkung versehen. Das funktioniert nur, wenn Entwickler klare Richtlinien bei der Erzeugung von Software befolgen m\u00fcssen und dies auch tun, und entsprechend geschult sind.<\/p>\n

Wo technische Schulden zu Fails f\u00fchrten<\/h2>\n

Die MIT-Forscher erw\u00e4hnen in ihrem Beitrag zwei F\u00e4lle, wo \"technische Schulden\" (wohl noch ohne KI-Entwicklung) bereits zum Desaster f\u00fchrten. Erw\u00e4hnt wird ein Vorfall<\/a> bei der US-Fluggesellschaft Southwest Airlines im Dezember 2022. Ein Wintersturm legte gro\u00dfe Teile der USA lahm. Die Fluggesellschaft Southwest Airlines traf es besonders hart. Deren Flugplanungssystem brach zusammen, was zu einem fast vollst\u00e4ndigen Kollaps der Airline f\u00fchrte, mit zehntausenden Ausf\u00e4llen und gestrandeten Reisenden.<\/p>\n

Die Untersuchung des Vorfalls deckte tiefgreifende Probleme in der veralteten IT-Infrastruktur von Southwest auf, die nicht mit der Komplexit\u00e4t des Systems und der St\u00f6rung umgehen konnte. Der Ausfall von \u00fcber 16.900 Fl\u00fcgen kostete die die Fluggesellschaft \u00fcber 750 Millionen Dollar, und hatte seine Ursache in technischen Schulden in den Crew-Planungssystemen.<\/p>\n

Technische Schulden f\u00fchrten 2024 auch zu einem massiven Ausfall von CrowdStrike, der weltweit zu Ausf\u00e4llen von IT-Systemen f\u00fchrte (siehe\u00a0CrowdStrike: Untersuchungsbericht; Schadenssumme und Entsch\u00e4digungen; Schuldzuweisungen<\/a>). Diese Liste l\u00e4sst sich fortsetzen.<\/p>\n

Das MIT analysiert den Sachverhalt<\/h2>\n

Das MIT hat dazu Studien in kontrollierten Umgebungen durchgef\u00fchrt, in denen Programmierer isolierte Aufgaben erledigten. Das waren bereits ideale Voraussetzungen und keine Fragestellungen aus realen Umgebungen, in denen Software auf komplexen bestehenden Systemen aufbauen muss. Ziel war es, die Risiken der AI-Codeentwicklung zu erfassen.<\/p>\n

Es ist vermutlich jedem erfahrenen Entwickler klar: Wird der Einsatz von KI-generiertem Code schnell skaliert oder auf Brownfield-Umgebungen (Legacy-Umgebungen) angewendet, sind die Risiken viel gr\u00f6\u00dfer und viel schwieriger zu bew\u00e4ltigen, so das MIT. Im Rahmen laufender Forschung zum strategischen Management der KI-gest\u00fctzten Softwareentwicklung wurden Interviews mit Personen gef\u00fchrt, die an der Entwicklung von Software beteiligt sind. Das reicht von Junior-Entwicklern bis hin zu leitenden Software-Ingenieuren und CIOs. Die Interviews betrafen Entwickler aus einer Vielzahl von Branchen, darunter Versicherungen, Webhosting, soziale Medien, Verteidigung, Unternehmensberatung und Fintech.<\/p>\n

Auf der Grundlage der Erkenntnisse aus diesen Interviews, einer Auswertung der Fachpresse und eigenen MIT-Wirtschaftsmodellen haben die MIT-Forscher mehrere strategische Kompromisse identifiziert, die Unternehmen bei der Einf\u00fchrung generativer KI f\u00fcr die Softwareentwicklung ber\u00fccksichtigen sollten.<\/p>\n

Welche Schl\u00fcsse zieht das MIT?<\/h2>\n

Die MIT-Untersuchung kommt zum Schluss, dass Unternehmen den Einsatz generativer KI f\u00fcr die Programmierung nicht grunds\u00e4tzlich vermeiden sollten. Aber es kommt auf den richtigen Kontext an. Bei der schnellen Prototypenentwicklung neuer Produkte in einer Greenfield-Umgebung (neue Umgebung), kann KI-generierter Code einen echten Geschwindigkeitsvorteil bieten, hei\u00dft es.<\/p>\n

Hat die Skalierbarkeit Priorit\u00e4t, oder ist der Einsatz in Brownfield-Umgebungen geplant, also eine Umgebung, die durch Altsysteme belastet ist, m\u00fcsse KI-generierter Code mit \u00e4u\u00dferster Vorsicht eingesetzt werden, schreibt das MIT.<\/p>\n

Interviews und Berichte von erfahrenen Entwicklern deuten laut MIT darauf hin, dass weniger qualifizierte Softwareentwickler eher dazu neigen, durch KI verursachte technische Schulden zu vergr\u00f6\u00dfern. Hochqualifizierte Entwickler sind besser in der Lage, architektonische M\u00e4ngel zu erkennen und technische Schulden zu mindern, bevor sie sich ausweiten. Der MIT-Artikel zitiert einen Softwareentwickler aus dem Bereich KI-Infrastruktur eines Fortune-50-Technologieunternehmens.<\/p>\n

Dieser erkl\u00e4rte: \"Mit KI kann ein Junior-Ingenieur genauso schnell programmieren wie ein Senior-Ingenieur, aber ihm fehlt das kognitive Verst\u00e4ndnis daf\u00fcr, was er tut, welche Probleme er verursacht und ob das, was er tut, \u00fcberhaupt eine gute Idee ist.\" Die MIT-Empfehlung lautet, dass Manager sollten Vorsicht walten lassen, wenn unerfahrene Entwickler KI-generierten Code verwenden, oder wenn solcher Code in einer Brownfield-Umgebung benutzt wird.<\/p>\n

Die Empfehlung: Wenn beide Risikofaktoren vorliegen, ist es m\u00f6glicherweise am besten, den Einsatz von KI-generiertem Code ganz zu vermeiden. Dies liegt weit jenseits dessen, was heutiges Marketing-Geschrei vermittelt.<\/p>\n

Ratschl\u00e4ge des MIT<\/h2>\n

Das MIT r\u00e4t, dass\u00a0Unternehmen die Tendenz von KI-Tools, technische Schulden zu erh\u00f6hen, als strategisches Risiko betrachten m\u00fcssen. Die Forscher geben folgende Ratschl\u00e4ge:<\/p>\n