{"id":279508,"date":"2023-04-10T09:33:35","date_gmt":"2023-04-10T07:33:35","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=279508"},"modified":"2024-08-23T22:00:59","modified_gmt":"2024-08-23T20:00:59","slug":"chatgpt-fabuliermaschine-und-plappermaul-fr-firmengeheimnisse","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2023\/04\/10\/chatgpt-fabuliermaschine-und-plappermaul-fr-firmengeheimnisse\/","title":{"rendered":"ChatGPT: Fabuliermaschine und Plappermaul f&uuml;r Firmengeheimnisse"},"content":{"rendered":"<p><img decoding=\"async\" title=\"Stop - Pixabay\" style=\"float: left; margin: 0px 10px 0px 0px; display: inline\" alt=\"Stop - Pixabay\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/06\/Stop01.jpg\" align=\"left\"\/>Die von Microsoft in Produkten eingesetzte AI-L\u00f6sung ChatGPT erweist sich als Bedrohung f\u00fcr Firmen, wie Samsung in einer internen Untersuchung herausgefunden hat. Ingenieure, die auf das Produkt gesetzt hatten, haben in mindestens drei F\u00e4lle unbeabsichtigt vertrauliche Firmeninterna verraten und an ChatGPT \u00fcbertragen &#8211; das ist das Ergebnis einer internen Untersuchung. Und Experten weisen darauf hin, dass ChatGPT bei der Konfabulation auf Informationen zur\u00fcckgreift, die nicht in seinen Trainingsdaten enthalten sind, und die L\u00fccken mit plausibel klingenden W\u00f6rtern f\u00fcllt &#8211; es ist also eine Fabuliermaschine.<\/p>\n<p><!--more--><\/p>\n<p><img loading=\"lazy\" decoding=\"async\" alt=\"\" src=\"https:\/\/vg07.met.vgwort.de\/na\/d32575f2651c456597f74334c30fc53d\" width=\"1\" height=\"1\"\/>Ich hatte bereits vor Wochen in einigen Blog-Beitr\u00e4gen mein Bauchgrimmen vor dem Einsatz von ChatGPT in Produkten artikuliert, weil ich erstens Datenschutz- und Sicherheitsl\u00f6sungen sah. Und andererseits hegte ich die Bef\u00fcrchtungen, dass der Einsatz dieser Technologien zu gravierenden Fehlern f\u00fchren und weitere Risiken bieten kann. Leser meinten \"soll man nicht abwarten, wie sich das entwickelt, bevor man kritisiert\". Ist ein Standpunkt, der leider zu h\u00e4ufig vorkommt &#8211; erst mal unbedarft machen &#8211; und dann ist das Kind in den Brunnen gefallen. Daher heute zwei Fundsplitter, die mir die Tage unter die Augen gekommen sind.<\/p>\n<h2>Samsung-Ingenieure leaken Interna an ChatGPT<\/h2>\n<p>Die Kollegen von Golem haben den Fall aufgegriffen, der sich bei Samsung abgespielt hat (siehe folgender <a href=\"https:\/\/twitter.com\/golem\/status\/1643482455029022721\" target=\"_blank\" rel=\"noopener\">Tweet<\/a>). Im Beitrag <a href=\"https:\/\/www.golem.de\/news\/kuenstliche-intelligenz-samsung-ingenieure-leaken-interne-daten-an-chatgpt-2304-173220.html\" target=\"_blank\" rel=\"noopener\">Samsung-Ingenieure geben ChatGPT vertrauliche Daten preis<\/a> wird das Ergebnis einer internen Untersuchung durch Samsung aufbereitet.<\/p>\n<p><a href=\"https:\/\/twitter.com\/golem\/status\/1643482455029022721\" target=\"_blank\" rel=\"noopener\"><img decoding=\"async\" title=\"ChatGPT als Datenleck\" alt=\"ChatGPT als Datenleck\" src=\"https:\/\/i.imgur.com\/osfnCbA.png\"\/><\/a><\/p>\n<p>Deren Ingenieure und Manager waren offenbar auch so naiv aufgestellt und haben die Technologie einfach mal so ausprobiert. Nachdem Samsung Semiconductor seinen Fertigungsingenieuren ChatGPT zur Unterst\u00fctzung \u00fcberlassen hatte, begannen diese, es zur schnellen Behebung von Fehlern in ihrem Quellcode zu nutzen und gaben dabei vertrauliche Informationen wie Notizen aus internen Besprechungen und Daten \u00fcber die Leistung und den Ertrag der Fertigungsanlagen preis. <\/p>\n<p>Binnen 20 Tagen hat man gleich drei F\u00e4lle gefunden, wo vertrauliche Daten an ChatGPT gingen. Hier der Kurzauszug von drei Vorf\u00e4llen bei Samsung, die der Economist in der <a href=\"https:\/\/economist.co.kr\/article\/view\/ecn202303300057?s=31\" target=\"_blank\" rel=\"noopener\">koreanischen Ausgabe<\/a> dokumentiert (ein englischer Beitrag findet sich <a href=\"https:\/\/www.tomshardware.com\/news\/samsung-fab-workers-leak-confidential-data-to-chatgpt\" target=\"_blank\" rel=\"noopener\">hier<\/a>): <\/p>\n<ul>\n<li>In einem Fall \u00fcbermittelte ein Mitarbeiter von Samsung Semiconductor den Quellcode eines gesch\u00fctzten Programms an ChatGPT, um Fehler zu beheben. Dadurch wurde der Code einer streng geheimen Anwendung an eine k\u00fcnstliche Intelligenz weitergegeben, die von einem externen Unternehmen betrieben wurde.  <\/li>\n<li>Im zweiten Fall gab ein anderer Mitarbeiter Testmuster bei ChatGPT ein, die defekte Chips identifizieren sollten, und forderte eine Optimierung. Testsequenzen zur Identifizierung von Fehlern sind streng vertraulich. Durch die Optimierung dieser Testsequenzen und die m\u00f6gliche Verringerung ihrer Anzahl k\u00f6nnen die Siliziumtest- und -pr\u00fcfverfahren beschleunigt werden, was die Kosten erheblich senkt.  <\/li>\n<li>Ein anderer Mitarbeiter nutzte die Anwendung <a href=\"https:\/\/web.archive.org\/web\/20240301083123\/https:\/\/clova.ai\/en\/research\/research-areas.html\" target=\"_blank\" rel=\"noopener\">Naver Clova<\/a>, um eine Sitzungsaufzeichnung in ein Dokument umzuwandeln, und \u00fcbermittelte es dann an ChatGPT, um eine Pr\u00e4sentation vorzubereiten.<\/li>\n<\/ul>\n<p>Die Erkenntnisse sind erschreckend und Verantwortliche in Firmen sollten schnellstm\u00f6glich einen Riegel bez\u00fcglich ChatGPT-Einsatz im Unternehmen vorschieben. Samsung warnt inzwischen intern seine Mitarbeiter vor den Gefahren von ChatGPT und plant eine eigene KI-L\u00f6sung f\u00fcr den Inhouse-Gebrauch zu entwickeln. Die Datenschutzimplikationen, die sich ergeben, sind hier noch gar nicht angesprochen. <\/p>\n<blockquote>\n<p>Leider ist der Artikel nicht frei abrufbar, aber k\u00fcrzlich habe ich aufgeschnappt, dass sowohl Microsoft als auch Google in Bezug auf AI ein verantwortungsvolles und vorsichtiges Handeln \u00fcber Bord geworfen h\u00e4tten, um sich einen Marktvorteil zu verschaffen. Die w\u00fcrden Risiken eingehen, die in anderen Bereich nicht akzeptiert w\u00fcrden.<\/p>\n<\/blockquote>\n<h2>Experten: ChatGPT Konfabuliert bei L\u00fccken<\/h2>\n<p>Der Begriff Konfabulation bedeutet das F\u00fcllen von Ged\u00e4chtnisl\u00fccken durch frei erfundene Begebenheiten. Hat so mancher Kandidat schon mal in Pr\u00fcfungen versucht, und ist in den meisten F\u00e4llen gnadenlos auf den Bauch bzw. durchgefallen. Arstechnica zitiert im Artikel <a href=\"https:\/\/arstechnica.com\/information-technology\/2023\/04\/why-ai-chatbots-are-the-ultimate-bs-machines-and-how-people-hope-to-fix-them\/\" target=\"_blank\" rel=\"noopener\">Why ChatGPT and Bing Chat are so good at making things up<\/a> Experten, die die Ergebnisse von \"large language model\" (LLM) L\u00f6sungen einordnen. <\/p>\n<p>KI-Chatbots wie ChatGPT von OpenAI arbeiten mit \"large language modellen\" (LLM), um Antworten zu erzeugen. Ein LLM ist ein Computerprogramm, das auf Millionen von Textquellen trainiert wurde und Texte in \"nat\u00fcrlicher Sprache\" lesen und generieren kann. Leider neigen diese Modelle zu gravierenden Fehlern, die in der wissenschaftlichen Literatur von KI-Forschern oft als \"Halluzinationen\" bezeichnet werden.<\/p>\n<p>Immer wenn das Modell keine Informationen in seinen Trainingsdaten findet, erg\u00e4nzt es diese \"Wissensl\u00fccken\" mit zuf\u00e4lligen Textschnipseln, die nach dem Prinzip der Wahrscheinlichkeit gebildet werden. Entsprechend kommt Mist dabei heraus. Das f\u00fchrt dann zur Frage, ob die Entwickler von LLM-L\u00f6sungen f\u00fcr diese fehlerhaften Ergebnisse selbst die Verantwortung \u00fcbernehmen, oder diese auf die Nutzer und die fehlerhaften Modelle schieben. <\/p>\n<p>F\u00fcr mich stellt sich die Frage, ob Microsoft da mit seinem Schweinsgalopp rein in die ChaptGPT-Integration in allen Produkten auf dem richtigen Weg ist? Ich hatte in <a href=\"https:\/\/borncity.com\/blog\/2023\/03\/17\/microsoft-365-copilot-vorgestellt-ki-funktionen-fr-alle-office-apps\/#comment-144696\">diesem Kommentar<\/a> mal den Begriff der Technikfolgenabsch\u00e4tzung, der zu meinen Studienzeiten vor 45 Jahren ein Begriff war, in den Raum geworfen. H\u00f6rt sich arg nach old school an, macht doch keiner mehr. Die obigen Informationsschnipsel zeigen aber, wie naiv viele Protagonisten da heutzutage unterwegs sind. Oder wie seht ihr das?<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Die von Microsoft in Produkten eingesetzte AI-L\u00f6sung ChatGPT erweist sich als Bedrohung f\u00fcr Firmen, wie Samsung in einer internen Untersuchung herausgefunden hat. Ingenieure, die auf das Produkt gesetzt hatten, haben in mindestens drei F\u00e4lle unbeabsichtigt vertrauliche Firmeninterna verraten und an &hellip; <a href=\"https:\/\/borncity.com\/blog\/2023\/04\/10\/chatgpt-fabuliermaschine-und-plappermaul-fr-firmengeheimnisse\/\">Weiterlesen <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[426,7459],"tags":[4903,4328,3836],"class_list":["post-279508","post","type-post","status-publish","format-standard","hentry","category-sicherheit","category-software","tag-ki","tag-sicherheit","tag-software"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/279508","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=279508"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/279508\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=279508"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=279508"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=279508"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}