{"id":279300,"date":"2023-04-01T13:48:15","date_gmt":"2023-04-01T11:48:15","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=279300"},"modified":"2023-04-01T13:48:15","modified_gmt":"2023-04-01T11:48:15","slug":"gegenwind-fr-chatgpt-co-moratorium-bei-der-ki-entwicklung-gefordert-und-italien-sperre-fr-chatgpt","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2023\/04\/01\/gegenwind-fr-chatgpt-co-moratorium-bei-der-ki-entwicklung-gefordert-und-italien-sperre-fr-chatgpt\/","title":{"rendered":"Gegenwind für ChatGPT & Co, Moratorium bei der KI-Entwicklung gefordert, und Italien-Sperre für ChatGPT"},"content":{"rendered":"

Es gibt Neuigkeiten zum Thema ChatGPT und generell KI-Modelle samt deren Verwendung auf breiter Ebene. Da baut sich m\u00e4chtig Gegenwind zu den flockigen Pl\u00e4nen der Tech-Giganten auf. Ich konnte es fast nicht glauben, in den USA gibt es einen offenen Brief von prominenten Tech-J\u00fcngern, einige sind tats\u00e4chlich in der Entwicklung von KI-Modellen involviert, die ein sechs monatiges Moratorium beim Einsatz dieser Technologie fordern. Es sollen in dieser Zeit Folgen bedacht und Regeln zum Einsatz formuliert werden. Zudem hat Italien den Einsatz von ChatGPT wegen Datenschutzverst\u00f6\u00dfen schlicht verboten. Europol warnt ebenfalls vor ChatGPT und in den USA soll die FTC das Gesch\u00e4ftsgebaren von OpenAI in Bezug auf ChatGPT untersuchen. <\/p>\n

<\/p>\n

\"\"Seit das \"Ratten-Rennen\" um die schnellste Einf\u00fchrung von KI-Funktionen in Alltagssoftware zwischen Microsoft und Google er\u00f6ffnet wurde, \u00fcberschlagen sich die Meldungen zu Neuerungen in den Medien. Gef\u00fchlt kommt nicht mal ne simple Klo-Sp\u00fclung ohne KI aus – zumindest, wenn der Hersteller oder dessen Marketing Hip sein will. Hier im Blog hatte ich vieles unter den Tisch fallen lassen und nur wohl dosiert einzelne Artikel ver\u00f6ffentlicht. <\/p>\n

Im Beitrag ChatGPT Perlen und Neuigkeiten zum Sonntag<\/a> wurde von mir bereits auf die Risiken dieser Technologie hingewiesen. Und mein Beitrag Microsoft plant nach einem Bericht Office mit ChatGPT-4-Funktionen zu erweitern<\/a> hatte so ein wenig die Quintessenz \"w\u00e4re es nicht mal angebracht, das Microsoft erst sein Zeugs in Sachen Bug-Fixes in Ordnung bringt\". Zudem hatte ich auf DSGVO-Bedenken meinerseits hingewiesen und an die \"Verantwortung\" der Leute, die \u00fcber den Einsatz entscheiden, appelliert,<\/p>\n

Gab dann zum Beitrag Microsoft 365 Copilot vorgestellt: KI-Funktionen f\u00fcr alle Office-Apps<\/a> u.a. den Kommentar<\/a>, ob \"man sollte man nicht erstmal abwarten sollte, ob neue Funktionen n\u00fctzlich und hilfreich in der Praxis sind, bevor man urteilt? Gleiches gilt f\u00fcr Datenschutz & Co<\/em>.\". Kann man so sehen – pers\u00f6nlich habe ich dabei aber massive Bauchschmerzen, denn genau dieses \"wir wissen zwar nix und haben keinen Plan, aber wir probieren mal\" endet sp\u00e4ter in der Jammerei \"wir k\u00f6nnen nicht mehr zur\u00fcck\" und das Kind ist in den Brunnen gefallen. Ich hatte dort auf die zu meinen Studienzeiten g\u00e4ngige Technikfolgenabsch\u00e4tzung, wo man sich vorher Gedanken gemacht hat, was man will und wo es hingehen soll, verwiesen<\/a>.<\/p>\n

KI-Entwicklung: Moratorium gefordert<\/h2>\n

Ich kannte zwar die Aussagen bzw. Vorbehalte von Sam Altman, der Chef von OpenAI, der seine Technologie in Chat GPT noch nicht reif f\u00fcr den breiten Einsatz sieht (siehe auch ChatGPT Perlen und Neuigkeiten zum Sonntag<\/a>). Aber es hat mich diese Woche doch arg \u00fcberrascht, als der offene Brief Pause Giant AI Experiments: An Open Letter<\/a> von future of Life publik wurde. In diesem offenen Brief fordern Experten aus Forschung, Wissenschaft und der Tech-Branche eine Pause bei der Entwicklung von K\u00fcnstlicher Intelligenz. Zu den mittlerweile fast 2.500 Unterzeichnern geh\u00f6ren auch prominente K\u00f6pfe der Tech-Branche wie SpaceX- und Tesla-Chef Elon Musk oder Apple-Mitgr\u00fcnder Steve Wozniak. Besonderes Gewicht d\u00fcrften die Unterzeichnung durch Pioniere der KI-Entwicklung wie Stuart Russel (Computerwissenschaftler) und Yoshua Bengio (Turing-Preistr\u00e4ger) haben. Auch Emad Mostaque, CEO von Stability AI geh\u00f6rt zu den Unterzeichnern.<\/p>\n

Die Unterzeichner weisen im offenen Brief darauf hin, dass \"KI-Systeme mit einer dem Menschen ebenb\u00fcrtigen Intelligenz tiefgreifende Risiken f\u00fcr die Gesellschaft und die Menschheit darstellen k\u00f6nnen\", wie umfangreiche Forschungsarbeiten zeigen und wie dies von f\u00fchrenden KI-Labors anerkannt werde. Fortgeschrittene KI k\u00f6nnte einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und sollte mit entsprechender Sorgfalt und entsprechenden Ressourcen geplant und verwaltet werden.\"<\/p>\n

Im Brief wird beklagt, dass dies derzeit nicht stattfinde – speziell Microsoft \u00fcberschl\u00e4gt sich im \"Rattenrennen\" um die meiste Aufmerksamkeit in den Medien mit kontinuierlichen Ank\u00fcndigungen, wo demn\u00e4chst KI in Alltagssoftware einziehen soll. Die Unterzeichner des offenen Briefs stellen einige berechtigte Fragen:<\/p>\n

\n

Sollen wir zulassen, dass Maschinen unsere Informationskan\u00e4le mit Propaganda und Unwahrheiten \u00fcberfluten? Sollen wir alle Jobs automatisieren, auch die erf\u00fcllenden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenm\u00e4\u00dfig \u00fcberlegen, \u00fcberlisten, \u00fcberfl\u00fcssig machen und ersetzen k\u00f6nnten? Sollen wir den Verlust der Kontrolle \u00fcber unsere Zivilisation riskieren? Solche Entscheidungen d\u00fcrfen nicht an nicht gew\u00e4hlte Technikf\u00fchrer delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken \u00fcberschaubar sind. Dieses Vertrauen muss gut begr\u00fcndet sein und mit dem Ausma\u00df der potenziellen Auswirkungen eines Systems zunehmen. <\/p>\n<\/blockquote>\n

Selbst die Entwickler von OpenAI, die ChatBot trainieren, haben in einer aktuellen Erkl\u00e4rung zur KI angemerkt: \"Irgendwann k\u00f6nnte es wichtig sein, eine unabh\u00e4ngige \u00dcberpr\u00fcfung einzuholen, bevor mit dem Training zuk\u00fcnftiger Systeme begonnen wird, und f\u00fcr die am weitesten fortgeschrittenen Bem\u00fchungen zu vereinbaren, die Wachstumsrate der f\u00fcr die Erstellung neuer Modelle verwendeten Daten zu begrenzen<\/em>.\"<\/p>\n

Die Unterzeichner fordern alle KI-Labors auf, das Training von KI-Systemen, die leistungsf\u00e4higer als GPT-4 sind, sofort f\u00fcr mindestens sechs Monate zu unterbrechen. Diese Pause sollte \u00f6ffentlich und \u00fcberpr\u00fcfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verh\u00e4ngen. <\/p>\n

Das h\u00f6rt sich doch deutlich anders als \"sollte man nicht mal abwarten und testen, was KI in Produkten bringt\" an. Und es wird ein klarer Ruf nach Regulierung erhoben – auch die EU will Ethikregeln f\u00fcr den KI-Einsatz verabschieden – was aber ewig dauern d\u00fcrfte. Die Tagesschau hat hier<\/a> das Thema aufgegriffen – und mit ist dort der Artikel Wettrennen mit makabren M\u00e4ngeln<\/a> von Anfang M\u00e4rz 2023 ins Auge gesprungen, wo Microsofts Chef, Satya Nadella, mit Foto als Protagonist dieses Wettrennens abgebildet wird. <\/p>\n

Italien verbietet ChatGPT<\/h2>\n

In obigen Abs\u00e4tzen kommt das Thema Datenschutz und DSGVO \u00fcberhaupt noch nicht vor – es geht dort um allgemeine Risiken. Dass ChatGPT und \u00e4hnliche ML-Modelle durchaus dazu gebracht werden k\u00f6nnen, Interna aus der Anwenderumgebung zu verraten, ist inzwischen bereits ruchbar geworden. Gerade bei Office und dem geplanten CoPilot sehe ich nicht, wie Microsoft das DSGVO-konform werden soll. <\/p>\n

Die italienische Datenschutzbeh\u00f6rde hat am Freitag, den 31. M\u00e4rz 2023, ein Verbot von ChatGPT wegen angeblicher Verst\u00f6\u00dfe gegen den Datenschutz angeordnet. Dem Entwickler von ChatGPT, das US-Unternehmen OpenAI, wird mit sofortiger Wirkung untersagt, Daten italienischer Nutzer zu verarbeiten. Gleichzeitig hat die  nationale Datenschutzbeh\u00f6rde Ermittlungen eingeleitet. Die Beh\u00f6rde wirft OpenAI Verst\u00f6\u00dfe gegen die DSGVO durch ChatGPT vor und bem\u00e4ngelt zudem einen fehlenden Jugendschutz. Die Anordnung ist vor\u00fcbergehend, bis das Unternehmen die DSGVO respektiert, hei\u00dft es bei Politico<\/a>. <\/p>\n

OpenAI muss die italienische Datenschutzbeh\u00f6rde nun binnen 20 Tagen \u00fcber ergriffene Ma\u00dfnahmen informieren. Andernfalls droht dem US-Unternehmen eine Strafe von bis zu 20 Millionen Euro oder bis zu vier Prozent des Jahresumsatzes. Auch die Verbraucherschutzorganisation BEUC forderte am 30. M\u00e4rz, dass die EU und die nationalen Beh\u00f6rden, einschlie\u00dflich der Datenschutzbeauftragten, ChatGPT untersuchen sollten. Da kommt also m\u00e4chtig Gegenwind auf – und mein Bauchgef\u00fchl in Richtung DSGVO, welches ich vor Wochen schon in Beitr\u00e4gen \u00e4u\u00dferte, wird letztendlich best\u00e4tigt. <\/p>\n

Gegenwind f\u00fcr ChatGPT<\/h2>\n

Auch in den USA mehren sich die Rufe nach Kontrolle und Regulierung. heise berichtet hier<\/a>, dass das US Center for AI and Digital Policy eine Beschwerde bei der in den USA f\u00fcr Wettbewerbsrecht und Verbraucherschutz zust\u00e4ndige Federal Trade Commission (FTC) eingereicht habe. Es wird gefordert, dass die FTC Ermittlungen gegen OpenAI einleiten soll. Der Vorwurf in der \u00f6ffentlich einsehbaren Beschwerde<\/a> lautet, dass OpenAIs Markteinf\u00fchrung von GPT-4 gegen US-amerikanisches Handelsrecht versto\u00dfe, das Produkt t\u00e4usche und Menschen gef\u00e4hrde, voreingenommen sei und ein Risiko f\u00fcr das Privatleben sowie die \u00f6ffentliche Sicherheit darstelle.<\/p>\n

Ende M\u00e4rz 2023 wurde zudem eine Warnung von Europol vor dem ChatBot ChatGPT bekannt. Darin hei\u00dft es, dass Kriminelle und Betr\u00fcger sich die Anwendung zunutze machen k\u00f6nnten, um Straftaten zu planen. Entsprechende Untersuchungen von Forschern haben dies bei Ransomware-Tools bereits belegt – ChatGPT lieferte  Antworten auf Verbesserungsw\u00fcnsche f\u00fcr Malware. Wenn ich das mit Microsofts \"shiney happy AI world\" und ChatGPT in allen Produkten, von Bing \u00fcber Windows zu Office bis Skype & Co. spiegele, scheint das US-Unternehmen seiner Verantwortung in keiner Weise gerecht zu werden. <\/p>\n

Man kann es auch ziemlich platt ausdr\u00fccken: Es k\u00f6nnte sein, dass Microsofts Chef Satya Nadella mit seiner KI-Offensive in allen Produkten leicht auf's falsche Pferd gesetzt hat und nun von einem Fettn\u00e4pfchen zum n\u00e4chsten h\u00fcpft. Wenn ChatGPT nicht DSGVO-kompatibel ist und in der EU gebannt wird, hat der Microsoft CEO ziemlich mit \"Zitronen gehandelt\". <\/p>\n

 \u00c4hnliche Artikel:<\/strong>
Bericht: Microsoft plant Bing bis M\u00e4rz 2023 mit ChatGPT-Suche zu erweitern<\/a>
ChatGPT Perlen und Neuigkeiten zum Sonntag<\/a>
Microsoft plant nach einem Bericht Office mit ChatGPT-4-Funktionen zu erweitern<\/a>
Microsoft 365 Copilot vorgestellt: KI-Funktionen f\u00fcr alle Office-Apps<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Es gibt Neuigkeiten zum Thema ChatGPT und generell KI-Modelle samt deren Verwendung auf breiter Ebene. Da baut sich m\u00e4chtig Gegenwind zu den flockigen Pl\u00e4nen der Tech-Giganten auf. Ich konnte es fast nicht glauben, in den USA gibt es einen offenen … Weiterlesen →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[426,7459],"tags":[4328,3836],"class_list":["post-279300","post","type-post","status-publish","format-standard","hentry","category-sicherheit","category-software","tag-sicherheit","tag-software"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/279300","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=279300"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/279300\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=279300"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=279300"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=279300"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}