Gegenwind für ChatGPT & Co, Moratorium bei der KI-Entwicklung gefordert, und Italien-Sperre für ChatGPT

Es gibt Neuigkeiten zum Thema ChatGPT und generell KI-Modelle samt deren Verwendung auf breiter Ebene. Da baut sich mächtig Gegenwind zu den flockigen Plänen der Tech-Giganten auf. Ich konnte es fast nicht glauben, in den USA gibt es einen offenen Brief von prominenten Tech-Jüngern, einige sind tatsächlich in der Entwicklung von KI-Modellen involviert, die ein sechs monatiges Moratorium beim Einsatz dieser Technologie fordern. Es sollen in dieser Zeit Folgen bedacht und Regeln zum Einsatz formuliert werden. Zudem hat Italien den Einsatz von ChatGPT wegen Datenschutzverstößen schlicht verboten. Europol warnt ebenfalls vor ChatGPT und in den USA soll die FTC das Geschäftsgebaren von OpenAI in Bezug auf ChatGPT untersuchen.

Seit das "Ratten-Rennen" um die schnellste Einführung von KI-Funktionen in Alltagssoftware zwischen Microsoft und Google eröffnet wurde, überschlagen sich die Meldungen zu Neuerungen in den Medien. Gefühlt kommt nicht mal ne simple Klo-Spülung ohne KI aus – zumindest, wenn der Hersteller oder dessen Marketing Hip sein will. Hier im Blog hatte ich vieles unter den Tisch fallen lassen und nur wohl dosiert einzelne Artikel veröffentlicht.

Im Beitrag ChatGPT Perlen und Neuigkeiten zum Sonntag wurde von mir bereits auf die Risiken dieser Technologie hingewiesen. Und mein Beitrag Microsoft plant nach einem Bericht Office mit ChatGPT-4-Funktionen zu erweitern hatte so ein wenig die Quintessenz "wäre es nicht mal angebracht, das Microsoft erst sein Zeugs in Sachen Bug-Fixes in Ordnung bringt". Zudem hatte ich auf DSGVO-Bedenken meinerseits hingewiesen und an die "Verantwortung" der Leute, die über den Einsatz entscheiden, appelliert,

Gab dann zum Beitrag Microsoft 365 Copilot vorgestellt: KI-Funktionen für alle Office-Apps u.a. den Kommentar, ob "man sollte man nicht erstmal abwarten sollte, ob neue Funktionen nützlich und hilfreich in der Praxis sind, bevor man urteilt? Gleiches gilt für Datenschutz & Co.". Kann man so sehen – persönlich habe ich dabei aber massive Bauchschmerzen, denn genau dieses "wir wissen zwar nix und haben keinen Plan, aber wir probieren mal" endet später in der Jammerei "wir können nicht mehr zurück" und das Kind ist in den Brunnen gefallen. Ich hatte dort auf die zu meinen Studienzeiten gängige Technikfolgenabschätzung, wo man sich vorher Gedanken gemacht hat, was man will und wo es hingehen soll, verwiesen.

KI-Entwicklung: Moratorium gefordert

Ich kannte zwar die Aussagen bzw. Vorbehalte von Sam Altman, der Chef von OpenAI, der seine Technologie in Chat GPT noch nicht reif für den breiten Einsatz sieht (siehe auch ChatGPT Perlen und Neuigkeiten zum Sonntag). Aber es hat mich diese Woche doch arg überrascht, als der offene Brief Pause Giant AI Experiments: An Open Letter von future of Life publik wurde. In diesem offenen Brief fordern Experten aus Forschung, Wissenschaft und der Tech-Branche eine Pause bei der Entwicklung von Künstlicher Intelligenz. Zu den mittlerweile fast 2.500 Unterzeichnern gehören auch prominente Köpfe der Tech-Branche wie SpaceX- und Tesla-Chef Elon Musk oder Apple-Mitgründer Steve Wozniak. Besonderes Gewicht dürften die Unterzeichnung durch Pioniere der KI-Entwicklung wie Stuart Russel (Computerwissenschaftler) und Yoshua Bengio (Turing-Preisträger) haben. Auch Emad Mostaque, CEO von Stability AI gehört zu den Unterzeichnern.

Die Unterzeichner weisen im offenen Brief darauf hin, dass "KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen können", wie umfangreiche Forschungsarbeiten zeigen und wie dies von führenden KI-Labors anerkannt werde. Fortgeschrittene KI könnte einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen und sollte mit entsprechender Sorgfalt und entsprechenden Ressourcen geplant und verwaltet werden."

Im Brief wird beklagt, dass dies derzeit nicht stattfinde – speziell Microsoft überschlägt sich im "Rattenrennen" um die meiste Aufmerksamkeit in den Medien mit kontinuierlichen Ankündigungen, wo demnächst KI in Alltagssoftware einziehen soll. Die Unterzeichner des offenen Briefs stellen einige berechtigte Fragen:

Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollen wir alle Jobs automatisieren, auch die erfüllenden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren? Solche Entscheidungen dürfen nicht an nicht gewählte Technikführer delegiert werden. Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind. Dieses Vertrauen muss gut begründet sein und mit dem Ausmaß der potenziellen Auswirkungen eines Systems zunehmen.

Selbst die Entwickler von OpenAI, die ChatBot trainieren, haben in einer aktuellen Erklärung zur KI angemerkt: "Irgendwann könnte es wichtig sein, eine unabhängige Überprüfung einzuholen, bevor mit dem Training zukünftiger Systeme begonnen wird, und für die am weitesten fortgeschrittenen Bemühungen zu vereinbaren, die Wachstumsrate der für die Erstellung neuer Modelle verwendeten Daten zu begrenzen."

Die Unterzeichner fordern alle KI-Labors auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens sechs Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen.

Das hört sich doch deutlich anders als "sollte man nicht mal abwarten und testen, was KI in Produkten bringt" an. Und es wird ein klarer Ruf nach Regulierung erhoben – auch die EU will Ethikregeln für den KI-Einsatz verabschieden – was aber ewig dauern dürfte. Die Tagesschau hat hier das Thema aufgegriffen – und mit ist dort der Artikel Wettrennen mit makabren Mängeln von Anfang März 2023 ins Auge gesprungen, wo Microsofts Chef, Satya Nadella, mit Foto als Protagonist dieses Wettrennens abgebildet wird.

Italien verbietet ChatGPT

In obigen Absätzen kommt das Thema Datenschutz und DSGVO überhaupt noch nicht vor – es geht dort um allgemeine Risiken. Dass ChatGPT und ähnliche ML-Modelle durchaus dazu gebracht werden können, Interna aus der Anwenderumgebung zu verraten, ist inzwischen bereits ruchbar geworden. Gerade bei Office und dem geplanten CoPilot sehe ich nicht, wie Microsoft das DSGVO-konform werden soll.

Die italienische Datenschutzbehörde hat am Freitag, den 31. März 2023, ein Verbot von ChatGPT wegen angeblicher Verstöße gegen den Datenschutz angeordnet. Dem Entwickler von ChatGPT, das US-Unternehmen OpenAI, wird mit sofortiger Wirkung untersagt, Daten italienischer Nutzer zu verarbeiten. Gleichzeitig hat die  nationale Datenschutzbehörde Ermittlungen eingeleitet. Die Behörde wirft OpenAI Verstöße gegen die DSGVO durch ChatGPT vor und bemängelt zudem einen fehlenden Jugendschutz. Die Anordnung ist vorübergehend, bis das Unternehmen die DSGVO respektiert, heißt es bei Politico.

OpenAI muss die italienische Datenschutzbehörde nun binnen 20 Tagen über ergriffene Maßnahmen informieren. Andernfalls droht dem US-Unternehmen eine Strafe von bis zu 20 Millionen Euro oder bis zu vier Prozent des Jahresumsatzes. Auch die Verbraucherschutzorganisation BEUC forderte am 30. März, dass die EU und die nationalen Behörden, einschließlich der Datenschutzbeauftragten, ChatGPT untersuchen sollten. Da kommt also mächtig Gegenwind auf – und mein Bauchgefühl in Richtung DSGVO, welches ich vor Wochen schon in Beiträgen äußerte, wird letztendlich bestätigt.

Gegenwind für ChatGPT

Auch in den USA mehren sich die Rufe nach Kontrolle und Regulierung. heise berichtet hier, dass das US Center for AI and Digital Policy eine Beschwerde bei der in den USA für Wettbewerbsrecht und Verbraucherschutz zuständige Federal Trade Commission (FTC) eingereicht habe. Es wird gefordert, dass die FTC Ermittlungen gegen OpenAI einleiten soll. Der Vorwurf in der öffentlich einsehbaren Beschwerde lautet, dass OpenAIs Markteinführung von GPT-4 gegen US-amerikanisches Handelsrecht verstoße, das Produkt täusche und Menschen gefährde, voreingenommen sei und ein Risiko für das Privatleben sowie die öffentliche Sicherheit darstelle.

Ende März 2023 wurde zudem eine Warnung von Europol vor dem ChatBot ChatGPT bekannt. Darin heißt es, dass Kriminelle und Betrüger sich die Anwendung zunutze machen könnten, um Straftaten zu planen. Entsprechende Untersuchungen von Forschern haben dies bei Ransomware-Tools bereits belegt – ChatGPT lieferte  Antworten auf Verbesserungswünsche für Malware. Wenn ich das mit Microsofts "shiney happy AI world" und ChatGPT in allen Produkten, von Bing über Windows zu Office bis Skype & Co. spiegele, scheint das US-Unternehmen seiner Verantwortung in keiner Weise gerecht zu werden.

Man kann es auch ziemlich platt ausdrücken: Es könnte sein, dass Microsofts Chef Satya Nadella mit seiner KI-Offensive in allen Produkten leicht auf's falsche Pferd gesetzt hat und nun von einem Fettnäpfchen zum nächsten hüpft. Wenn ChatGPT nicht DSGVO-kompatibel ist und in der EU gebannt wird, hat der Microsoft CEO ziemlich mit "Zitronen gehandelt".

 Ähnliche Artikel:
Bericht: Microsoft plant Bing bis März 2023 mit ChatGPT-Suche zu erweitern
ChatGPT Perlen und Neuigkeiten zum Sonntag
Microsoft plant nach einem Bericht Office mit ChatGPT-4-Funktionen zu erweitern
Microsoft 365 Copilot vorgestellt: KI-Funktionen für alle Office-Apps