{"id":317954,"date":"2025-11-08T00:10:38","date_gmt":"2025-11-07T23:10:38","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=317954"},"modified":"2026-01-09T12:14:14","modified_gmt":"2026-01-09T11:14:14","slug":"ki-irrsinn-teil-4-wenn-die-anwender-mal-selber-machen","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/11\/08\/ki-irrsinn-teil-4-wenn-die-anwender-mal-selber-machen\/","title":{"rendered":"KI-Irrsinn Teil 4: Wenn die Anwender mal selber machen"},"content":{"rendered":"<p><img loading=\"lazy\" decoding=\"async\" style=\"margin: 0px 10px 0px 0px; display: inline; float: left; border-width: 0px;\" title=\"Edge\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2025\/04\/image-4.png\" alt=\"Copilot\" width=\"95\" height=\"91\" align=\"left\" border=\"0\" \/>In meiner Artikelreihe greife ich ja besondere Fails auf, die der KI-Irrsinn gerade produziert. Im aktuellen Beitrag m\u00f6chte ich einen Blick \"vor die eigene Haust\u00fcr\" werfen, und ein Thema anschneiden, was jeden IT-Entscheider und -Administrator im Unternehmen tangiert. Anwender, die das Ganze in die Hand nehmen, per KI und Vibe Coding ihre eigene Software brauen, und so nebenbei eine Schatten-IT mit riesigen Sicherheitsl\u00f6chern aufrei\u00dfen.<\/p>\n<p><!--more--><\/p>\n<h2>Ein Gespr\u00e4ch in der Familie<\/h2>\n<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/vg01.met.vgwort.de\/na\/16fd167869304c4d856f6ef828198650\" alt=\"\" width=\"1\" height=\"1\" \/>Ich begleitet das Thema KI hier im Blog ja durchaus kritisch, weil in breiten Teilen des Managements und der Nutzerschaft eine recht unreflektierte Haltung gegen\u00fcber einer, gezielt und \u00fcberlegt eingesetzten, recht n\u00fctzlichen Technologie herrscht. Nat\u00fcrlich hinterfrage ich auch st\u00e4ndig meine Position.<\/p>\n<p>Vor einer Woche war ein Familienmitglied zu Besuch bei uns. Ich habe den Mann vor 20 Jahren, seinerzeit ein frisch gebackener Elektrotechnik-Ingenieru, in die .NET-Entwicklung eingef\u00fchrt und mit ihm erste Schritte in C# unternommen. Seit dieser Zeit ist da ein sehr erfahrener C#- und .NET-Entwickler herangewachsen, der bei drei hidden Champions \"im L\u00e4ndle geschaffet het\". Auf meine Frage, ob man im aktuellen Umfeld (Medizintechnik) Windows 11 einsetze und wie man es mit KI halte, kamen sehr interessante Aussagen.<\/p>\n<ul>\n<li>Sein Entwicklungsrechner ist auf Windows 11, wobei das wenig interessiert, da er sich in der Visual Studio-Entwicklungsumgebung bewegt.<\/li>\n<li>Da die Anwendungssoftware, die er programmiert, auf Datenbanken, die unter Linux laufen, zugreift, ist ihm egal, welche Windows-Clients Anwender oder \u00c4rzte einsetzen &#8211; damit hat er nichts zu tun.<\/li>\n<li>Zum Thema KI befragt, meinte er, dass er sich bei der Code-Entwicklung von der KI unterst\u00fctzen l\u00e4sst, aber das Ganze \u00fcberwachen und selbst den Programmcode schreiben muss. Die KI liefert also nur Code-Schnipsel f\u00fcr bestimmte Anforderungen als Rohger\u00fcst.<\/li>\n<li>Zum Thema KI in der Anwendung hie\u00df es, dass der Mitbewerb das mache, und sein Arbeitgeber jetzt verst\u00e4rkt Anfragen erhalte, weil man genau dieses Thema verhalten angehe. Die Kunden wollen keine KI im Produkt.<\/li>\n<\/ul>\n<p>Ich lege jetzt mal keine Details offen, aber der Arbeitgeber konnte vor einiger Zeit schon mal davon profitieren, dass ein Konkurrent sich einen Fehler im Produkt leistete, der die Patienten h\u00e4tte gef\u00e4hrden k\u00f6nnen. Seinerzeit mussten die betreffenden Ger\u00e4te des Mitbewerbers getauscht werden, was einen gro\u00dfen (Reputations-)Schaden gab. Das Gespr\u00e4ch zeigte mir erneut, was bestimmte Entscheidungen bewirken k\u00f6nnen und es nicht immer gut ist, mit hipp-hipp-hurra an der Spitze irgendwelcher Wellen zu schwimmen, sondern vorher zu denken.<\/p>\n<h2>Wenn die Anwender mal machen<\/h2>\n<p>Der Artikel war aber schon l\u00e4nger auf meiner Agenda, weil ich ein Meinungsbild der Leserschaft erfragen wollte. Ich hatte hier ja schon mal kritisch \u00fcber die Verwerfungen und Risiken des Vibe Coding (also Software ohne Kenntnisse per KI erstellen zu lassen) berichtet (siehe Links am Artikelende). Und ich hatte im Beitrag <a href=\"https:\/\/borncity.com\/blog\/2025\/10\/26\/absturz-der-softwarequalitaet-normalisierung-einer-katastrophe\/\" rel=\"bookmark\">Absturz der Softwarequalit\u00e4t: Normalisierung einer Katastrophe<\/a> \u00fcber das Thema Softwarequalit\u00e4t geschrieben.<\/p>\n<p>Damit haben wir die Zutaten f\u00fcr die n\u00e4chsten Katastrophen, die sich direkt vor unserer aller Haust\u00fcre ereignen werden. Und als Beleg bin ich bei administrator.de auf den Post\u00a0<a href=\"https:\/\/administrator.de\/forum\/ki-entwicklung-risiken-sysadmin-674466.html\" target=\"_blank\" rel=\"noopener\">Der User der sich \"selbst\" hilft?<\/a> gesto\u00dfen, wo ein IT-Administrator einen bedenklichen Trend beschreibt.<\/p>\n<ul>\n<li>Beim vorherigen Arbeitgeber des Posters verwenden Entwickler KI zur Code-Erstellung, was in Ordnung ist. Erschreckend fand der Poster allerdings, dass der generierte Code teilweise 1:1 ins Produktivsystem \u00fcbernommen wurde. Und dies ohne Review, ohne Testumgebung, und teilweise, nachdem sensible Unternehmensdaten direkt in die KI gef\u00fcttert wurden.<\/li>\n<li>Inzwischen arbeitet der Poster in einer Regierungseinrichtung im 2nd-Level-Sysadmin-Team und macht dort die gleiche Erfahrung. Code, Workarounds oder Anleitungen w\u00fcrden blind von der KI \u00fcbernommen hei\u00dft es. Fachwissen werde durch vermeintliche \"KI-Expertise\" ersetzt. Und f\u00fcr den Poster besonders bitter, wie er schreibt: Endanwender k\u00e4men mit KI-generierten \"fachspezifischen Fehlermeldungen\" an und konfrontieren damit den 1st-Level-Support. Die Mitarbeiter sind mitunter v\u00f6llig vor den Kopf gesto\u00dfen.<\/li>\n<\/ul>\n<p>Der Poster beschreibt damit einerseits eine Entwicklung, die wir vermutlich alle aus der IT derzeit erleben. Und er weist auf ein besonderes Problem der \"KI-Schatten-IT\" in den Unternehmen hin, die am Ende des Tages massiv die Unternehmenssicherheit gef\u00e4hrden. Ich fand, das Thema l\u00e4sst sich gut unter \"KI-Irrsinn\" verorten und mich interessiert, wie ihr in der Leserschaft in eurem Umfeld damit umgeht? Wie verhindert ihr in der IT, dass der Anwender, der \"sich vermeintlich selbst hilft\", die Firma per KI um Hab und Daten bringt?<\/p>\n<p><strong>\u00c4hnliche Artikel:<\/strong><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/11\/03\/ki-irrsinn-teil-1-wenn-chaptgpt-copilot-co-dich-zu-fake-orten-locken\/\">KI-Irrsinn Teil 1: Wenn ChaptGPT, Copilot &amp; Co. dich zu Fake-Orten locken<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/11\/05\/ki-irrsinn-teil-2-amazon-schickt-unterlassungserklaerung-an-perplexity-ai-fuer-einkaeufe-ueber-comet\/\" rel=\"bookmark\">KI-Irrsinn Teil 2: Amazon schickt Unterlassungserkl\u00e4rung an Perplexity AI f\u00fcr Eink\u00e4ufe \u00fcber Comet<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/11\/06\/ki-irrsinn-teil-3-ki-generiere-nichtigkeitsklage-vom-gericht-abgewiesen\/\" rel=\"bookmark\">KI-Irrsinn Teil 3: KI-generiere \"Nichtigkeitsklage\" vom Gericht abgewiesen<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/11\/08\/ki-irrsinn-teil-4-wenn-die-anwender-mal-selber-machen\/\">KI-Irrsinn Teil 4: Wenn die Anwender mal selber machen<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/11\/09\/ki-irrsinn-teil-5-deloitte-die-ki-und-der-versemmelte-report-in-australien\/\">KI-Irrsinn Teil 5: Deloitte, die KI und der versemmelte Report in Australien<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/11\/10\/ki-irrsinn-teil-6-autohaendler-gibt-kundendaten-zum-ki-training-an-obskure-firma\/\">KI-Irrsinn Teil 6: Autoh\u00e4ndler gibt Kundendaten zum KI-Training an obskure Firma<\/a><\/p>\n<p><strong>\u00c4hnliche Artikel:<\/strong><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/09\/11\/vibe-coding-fail-drama-in-brasilien-dating-app-fuer-lesben-legt-daten-offen\/\" rel=\"bookmark\">Vibe Coding-Fail: Drama in Brasilien, Dating-App f\u00fcr Lesben legt Daten offen<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/10\/26\/vibe-coding-ist-wenn-dein-friend-pendant-von-jedem-mitgehoert-werden-kann\/\" rel=\"bookmark\">Vibe Coding ist, wenn dein \"Friend Pendant\" von jedem mitgeh\u00f6rt werden kann<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/10\/06\/desaster-sicherheitsvorfall-ki-anbieter-localmind-ai\/\">Desaster: Sicherheitsvorfall KI-Anbieter localmind.ai<\/a>\u00a0\u2013 Teil 1<br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/10\/07\/ergaenzung-ki-desaster-bei-localmind-gmbh-und-morgendigital-gmbh\/\">Erg\u00e4nzung KI-Desaster bei Localmind GmbH und Morgendigital GmbH<\/a>\u00a0\u2013 Teil 2<br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/10\/09\/localmind-ai-ki-sicherheitsvorfall-es-ist-noch-nicht-vorbei-teil-3\/\">localmind.ai: KI-Sicherheitsvorfall, es ist noch nicht vorbei\u00a0<\/a>\u2013 Teil 3<br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/10\/26\/absturz-der-softwarequalitaet-normalisierung-einer-katastrophe\/\" rel=\"bookmark\">Absturz der Softwarequalit\u00e4t: Normalisierung einer Katastrophe<\/a><br \/>\n<a href=\"https:\/\/borncity.com\/blog\/2025\/10\/21\/die-ki-blase-wird-platzen-aber-wann\/\" rel=\"bookmark\">Die KI-Blase wird platzen, aber wann?<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>In meiner Artikelreihe greife ich ja besondere Fails auf, die der KI-Irrsinn gerade produziert. Im aktuellen Beitrag m\u00f6chte ich einen Blick \"vor die eigene Haust\u00fcr\" werfen, und ein Thema anschneiden, was jeden IT-Entscheider und -Administrator im Unternehmen tangiert. Anwender, die &hellip; <a href=\"https:\/\/borncity.com\/blog\/2025\/11\/08\/ki-irrsinn-teil-4-wenn-die-anwender-mal-selber-machen\/\">Weiterlesen <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,426,7459],"tags":[8382,4328,3836,8705],"class_list":["post-317954","post","type-post","status-publish","format-standard","hentry","category-ai","category-sicherheit","category-software","tag-ai","tag-sicherheit","tag-software","tag-vibe-coding"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/317954","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=317954"}],"version-history":[{"count":1,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/317954\/revisions"}],"predecessor-version":[{"id":319991,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/317954\/revisions\/319991"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=317954"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=317954"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=317954"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}