{"id":283418,"date":"2023-07-07T00:09:00","date_gmt":"2023-07-06T22:09:00","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=283418"},"modified":"2024-05-04T00:03:21","modified_gmt":"2024-05-03T22:03:21","slug":"informationssplitter-aus-der-ki-welt-fails-von-ai-lsungen-warnungen-und-microsofts-way-of-ai","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2023\/07\/07\/informationssplitter-aus-der-ki-welt-fails-von-ai-lsungen-warnungen-und-microsofts-way-of-ai\/","title":{"rendered":"Informationssplitter aus der KI-Welt: Fails von Algorithmen, Warnungen und Microsofts "way of AI""},"content":{"rendered":"

Heute noch ein Sammelbeitrag zu diversen Sachverhalten rund um das Thema \"k\u00fcnstliche Intelligenz\" bzw. Large Language Models (LLMs) und Algorithmen. So haben Leute mal einen Blick auf das geworfen, was Microsoft aktuell als AI bzw. CoPilot unter Windows 11 Insider Preview implementiert hat – entt\u00e4uschend. Die ChatGPT-Entwickler warnen, dass \"KI die Menschheit bedrohen k\u00f6nne\"; und es gibt gesammelte F\u00e4lle von negativen Folgen, getroffen von Algorithmen (w\u00e4ren k\u00fcnftig KI-Entscheidungen), die von Menschen nicht erkannt bzw. korrigiert wurde. Erg\u00e4nzung: <\/strong>In Australien hat ein fehlerhafter Sozialhilfe-Algorithmus f\u00fcr einen Skandal und bei Betroffenen f\u00fcr Verzweiflung und Suizide gesorgt.<\/p>\n

<\/p>\n

\"\"Das BSI hat in einem Schaubild bzw. in diesem Artikel<\/a> aufgearbeitet, was Large Language Models (LLMs) wie \"ChatGPT\", \"LlaMA\", \"Bard\" und \"Luminous\" gut k\u00f6nnen.<\/p>\n

\"BSI:<\/p>\n

Im Beitrag werden Chancen und Risiken f\u00fcr die Industrie und Beh\u00f6rden umrissen. Sie k\u00f6nnen gro\u00dfe Texte generieren, Daten analysieren, aber auch f\u00fcr b\u00f6swillige Zwecke missbraucht werden und haben das Risiko, nicht auf aktuellen Daten zu arbeiten oder falsche bzw. inkonsistente Ergebnisse zu liefern. Man sollte also als Verantwortlicher wissen, was man tut.<\/p>\n

Wenn (AI-)Algorithmen scheitern<\/h2>\n

Ich fand es eine spannende Geschichte – die Kollegen von heise haben in diesem Beitrag<\/a> drei Beispiele zusammen getragen, in denen AI-Algorithmen gradios gescheitert sind. Hintergrund war die anstehende EU-Verordnung zum Umgang mit K\u00fcnstlicher Intelligenz. Anbieter von Algorithmen (inklusive k\u00fcnstliche Intelligenz) sollen durch diese Verordnung gezwungen werden, eine Folgenabsch\u00e4tzung der Wirkung ihrer Technologie vorzunehmen. Das ist auch bitter notwendig, wie Negativbeispiele immer wieder zeigen. Es geht dabei nicht um Gaga-Abfragen, bei denen ein Windows Produktschl\u00fcssel oder ein falsches Expos\u00e9 von ChaptGPT geliefert wird. K\u00fcrzlich machte in den USA ein Fall Schlagzeilen, bei dem ein Anwalt Klageschriften vor Gericht einreichte, bei denen ChatGPT einfach juristische F\u00e4lle und Urteile erfunden hatte (siehe\u00a0Anwalt nutzt ChatGPT f\u00fcr Klage und bekommt richtig \u00c4rger wegen \"erfundener\" Rechtsf\u00e4lle<\/a>). Vielmehr zeigt die Auflistung bei heise die Gefahr auf, die von AI-Modellen (und Algorithmen sowie Datenerfassung) ausgeht, wenn diese nicht mehr verstanden oder keiner\u00a0 Folgen-\/Risikoabsch\u00e4tzung unterworfen werden.<\/p>\n

\"Wenn<\/a><\/p>\n

Da in den Niederlanden alle \u00f6ffentlichen Verwaltungen seit 2022 verpflichtet sind, solche externen Folgenabsch\u00e4tzungen f\u00fcr ihre automatisierten Statistiksysteme vorzunehmen, gibt es dort Erfahrungen mit Super-Fails von Algorithmen. Der Fall einer Gemeinde, die zur Verkehrsberuhigung einfach nur in Autos durchfahrende Personen an Hand der Handy-Signale ermitteln wollte, zeigt die Gefahr solcher Auswertungen. Im \u00fcberwachten Bezirk fand sich ein Gotteshaus einer religi\u00f6sen Minderheit und die Besucher w\u00e4ren anhand der Signale eindeutig identifizierbar gewesen. Das Projekt wurde dann nach einer Evaluierung fallen gelassen.<\/p>\n

Krasser ist ein Versuch, Sozialbetrug bei Beziehern sozialer Leistungen mittels solcher Algorithmen aufzusp\u00fcren. Bei der Analyse der Daten wurden 10.000 jungen Elternpaaren wegen vermeintlichem Sozialbetrugs staatliche Zusch\u00fcsse gestrichen und R\u00fcckzahlungen gefordert. Betroffene Paare gerieten dadurch nicht selten in finanzielle Probleme. Das Programm musste 2020 abgebrochen werden, weil sich herausstellte, dass alle Betroffenen zum Kreis der Paare geh\u00f6rten, bei denen einer oder beide eine doppelte Staatsb\u00fcrgerschaft besa\u00dfen. Der Algorithmus hatte das Merkmal \"Doppelstaatsb\u00fcrgerschaft\" zu hoch gewichtet – mit entsprechenden Folgen. Die Kollegen von netzpolitik.org haben diesen Fall, der zu einem Millionen-Bu\u00dfgeld wegen Versto\u00dfes gegen die DSGVO und dem R\u00fccktritt des gesamten Kabinetts von Mark Rutte f\u00fchrte,\u00a0 2021 in diesem Artikel<\/a> n\u00e4her beschrieben.<\/p>\n

Ein weiterer Fall von Algorithmen-Fail wurde in Italien aufgedeckt, als dort ein Lehrermangel per Software durch verbesserte Stellenbesetzungen behoben werden sollte. Im Endergebnis verschlechterte sich die Bilanz durch den Algorithmus, weil erfahrene P\u00e4dagogen vom System pl\u00f6tzlich als Aushilfslehrer eingestuft und pl\u00f6tzlich arbeitslos wurden. Es waren zwar alles keine \"heute diskutierten LLM-Algorithmen\", die in diesen F\u00e4llen zum Tragen kamen. Die F\u00e4lle zeigen aber, wie der Teufel bzw. das Risiko im Detail liegen kann und die Folgen abzusch\u00e4tzen sowie die Ergebnisse abzupr\u00fcfen sind.<\/p>\n

Erg\u00e4nzung: <\/strong>Ich bin zum 8. Juni 2023 auf einen neuen Fall gesto\u00dfen. In Australien hat ein fehlerhafter Sozialhilfe-Algorithmus f\u00fcr einen Skandal und bei Betroffenen f\u00fcr Verzweiflung und Suizide gesorgt, weil die Folgen teilweise dramatisch waren. Die Kollegen von heise haben den Fall mit den Folgen wie drastische Armut in diesem Beitrag<\/a> aufgegriffen. Australiens Regierung setzte das Robodebt-System zwischen 2016 und 2019 dazu ein, R\u00fcckzahlungen von Sozialhilfe-Empf\u00e4ngern einzufordern. Ganz lesenswert – auch f\u00fcr die gro\u00dfen Bef\u00fcrworter von KI in allen Lebenslagen – ohne (pers\u00f6nliche) Haftung der Verantwortlichen und klare gesetzliche Regeln mit vorheriger Folgenabsch\u00e4tzung drohen u.U. dystopische Zust\u00e4nde.<\/p>\n

OpenAI-Entwickler warnt drastisch<\/h2>\n

Ich erinnere mich noch, als ich in ersten Beitr\u00e4gen zum Microsofts AI-Pl\u00e4nen f\u00fcr Office und Windows wenig Begeisterung erkennen lie\u00df. Damals gab es Kommentare der Art \"soll man nicht erst schauen, was geht, bevor man mit kritisieren beginnt\". Inzwischen gibt es zahlreiche Warnungen und Beispiele zu Risiken des AI-Einsatzes. Der bei Google ausgeschiedene LLM-Entwickler Geoffrey Hinton hatte ja vor einiger Zeit bereits eindringlich vor den Gefahren einer unkontrollierbaren Entwicklung<\/em> besonders fortgeschrittener k\u00fcnstlicher Intelligenz (KI<\/em>) gewarnt. Bei Interesse l\u00e4sst sich bei T-Online<\/a> oder beispielsweise bei tagesschau.de<\/a> nachlesen, was der Godfather of<\/em> AI<\/em> zu sagen hat.<\/p>\n

Auch von OpenAI Mitbegr\u00fcnder Sam Altmann sind Forderungen nach Regulierung von AI-Modellen bekannt. OpenAI-Mitgr\u00fcnder Ilya Sutskever und der Leiter der OpenAI-Abteilung f\u00fcr zuk\u00fcnftige Ausrichtung Jan Leike, haben k\u00fcrzlich drastisch vor den Gefahren durch AI-Modelle gewarnt<\/a>. Eine \"Superintelligenz k\u00f6nnte die Menschheit entmachten\", wird\u00a0 bei Spiegel Online<\/a> kolportiert (einen englischsprachigen Beitrag<\/a> gibt es von Reuters). Es gibt zwar Fachleute, die das f\u00fcr Unsinn halten. Aber OpenAI beginnt (leider erst jetzt) ein neues Forschungsteam zusammen zu stellen, um mit erheblichen Ressourcen die Sicherheit der eigenen KI-Modelle sicherzustellen.<\/p>\n

Microsofts erste AI-Gehversuche<\/h2>\n

Microsoft hat ja mit gro\u00dfen Worten den Einzug von AI unter dem Begriff Windows CoPilot in Windows 11 angek\u00fcndigt (siehe\u00a0Windows 11 bekommt mit \"Windows Copilot\" AI-Funktionen<\/a>) – auch Office soll so etwas bekommen (siehe\u00a0Microsoft 365 Copilot vorgestellt: KI-Funktionen f\u00fcr alle Office-Apps<\/a>). Windows Insider k\u00f6nnen wohl einen ersten Eindruck von Windows CoPilot erhaschen. Die Tage ist mir dieser Beitrag<\/a> von neowin.net untergekommen, der von einem fehlerhaften Chaos spricht und hofft, dass es besser wird.<\/p>\n

\"Windows<\/a><\/p>\n

Interessant fand ich auch den Beitrag von Zac Bowden<\/a> auf Windows Central, dass Windows CoPilot aktuell nur die Edge Sidebar sei, der irgendwie in der Taskleiste integriert wurde. Es muss wohl noch viel investiert werden, bis da was brauchbares vorliegt. Sind jetzt nur einige Infosplitter, die ich zusammengezogen habe. Aber das gezeichnete Bild ist irgendwie in meinen Augen ern\u00fcchternd.<\/p>\n","protected":false},"excerpt":{"rendered":"

Heute noch ein Sammelbeitrag zu diversen Sachverhalten rund um das Thema \"k\u00fcnstliche Intelligenz\" bzw. Large Language Models (LLMs) und Algorithmen. So haben Leute mal einen Blick auf das geworfen, was Microsoft aktuell als AI bzw. CoPilot unter Windows 11 Insider … Weiterlesen →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[7459],"tags":[8393,4903,4322,3836,3288],"class_list":["post-283418","post","type-post","status-publish","format-standard","hentry","category-software","tag-copilot","tag-ki","tag-office","tag-software","tag-windows-en"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/283418","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=283418"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/283418\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=283418"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=283418"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=283418"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}