{"id":272168,"date":"2022-08-22T12:59:45","date_gmt":"2022-08-22T10:59:45","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=272168"},"modified":"2023-10-01T10:56:07","modified_gmt":"2023-10-01T08:56:07","slug":"google-kontensperre-und-polizeieinsatz-wegen-baby-foto-fr-den-arzt","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2022\/08\/22\/google-kontensperre-und-polizeieinsatz-wegen-baby-foto-fr-den-arzt\/","title":{"rendered":"Google-Kontensperre und Polizeieinsatz wegen Baby-Foto für den Arzt"},"content":{"rendered":"

\"Stop[English<\/a>]\u00dcber pl\u00f6tzliche Sperren von Online-Konten bei amerikanischen Cloud-Anbietern (Apple, Google, und vor allem Microsoft) habe ich ja hier im Blog h\u00e4ufiger berichtet. Gerade kocht ein Fall in den USA hoch, bei dem Google ein Konto wegen hochgeladener \"Nacktfotos\" sperrte und die Polizei wegen Verdachts auf Kindesmissbrauch benachrichtigt. Gab dann nat\u00fcrlich das volle Programm der Polizei f\u00fcr den Betroffenen. Das einzige \"Vergehen\": Er hatte ein Foto seines nackten S\u00e4uglings f\u00fcr den behandelnden Arzt per Smartphone aufgenommen. Der automatisch Cloud-Upload und eine doofe KI sorgten dann f\u00fcr die drastischen Folgen.<\/p>\n

<\/p>\n

Der \"Fall\"<\/h2>\n

\"\"Kindesmissbrauch ist ja ein hei\u00dfes Eisen und was als \"anst\u00f6\u00dfig\" gilt, h\u00e4ngt auch vom Land, dem Rechtssystem und dem Kulturkreis ab. Die USA sind da teilweise ein \"hei\u00dfes Pflaster\", was Aktionen gegen vermuteten Kindesmissbrauch angeht. Echter Missbrauch von Kindern ist klar strafbar, und sollte auch verfolgt werden.<\/p>\n

Aber die US-Technologieanbieter von Cloud-Speicher laufen in ein echtes Problem: Es m\u00fcssen Unmengen von Inhalten bewertet werden, um die echten F\u00e4lle von \"Child Sexual Abuse Material\" (CSAM) herauszufiltern. Dabei kommt k\u00fcnstliche Intelligenz (AI) zum Einsatz, die aber wenig Intelligenz besitzt. Wer \"positiv\" auff\u00e4llt, obwohl in den Online-Speicher hochgeladenes Material harmlos ist, kann ganz sch\u00f6n Schwierigkeiten bekommen. Da gehen automatisiert Anzeigen an Strafverfolger in aller Welt. Ich bin \u00fcber Techmeme sowie den nachfolgenden Tweet<\/a> auf den Sachverhalt gesto\u00dfen.<\/p>\n

\"Wrong<\/a><\/p>\n

Der Sachverhalt, der von The Verge hier<\/a> aufgegriffen wurde, aber auf einen Bericht der New York Times<\/a> zur\u00fcckgeht, hat es in sich. Der Titel \"Google AI flagged parents' accounts for potential abuse over nude photos of their sick kids<\/em>\" bringt es schon auf den Punkt. Ein Google-Konto von Eltern wurde als \"enth\u00e4lt m\u00f6glicherweise Abbildungen von Kindesmissbrauch\" markiert – dabei hatten die Eltern lediglich Hautver\u00e4nderungen bei einem kranken Kind f\u00fcr den Arzt fotografiert.<\/p>\n

Konkret lag folgender Sachverhalt vor:\u00a0Ein Vater (der als Hausmann t\u00e4tig war, w\u00e4hrend die Ehefrau arbeitete) bemerkte im Februar 2021, dass etwas mit seinem kleinen Sohn nicht stimmte. Das Kleinkind hatte einen geschwollenen Penis und wohl Schmerzen. Der besorgte Vater dokumentierte dann mit seinem Android-Smartphone mit Fotos den Verlauf der Infektion seines Kleinkindes in dessen Leistengegend, um dem behandelnden Arzt Hinweise auf die Erkrankung zu liefern.<\/p>\n

Als die Mutter Abends von der Arbeit nach Hause kam, hatte sich die Problematik beim Kind nicht gebessert. \u00c4rzte hatten wohl ihre Praxen geschlossen und es war kurz vor Wochenende. Freitagabend im Februar 2021 rief die Ehefrau eine Krankenschwester ihres Gesundheitsdienstleisters an, um f\u00fcr den n\u00e4chsten Morgen eine Notfallsprechstunde per Video zu vereinbaren. Diese Sprechstunde w\u00e4re am Samstag gewesen und es herrschte die COVID-19-Pandemie. Die Krankenschwester bat darum, Fotos zu schicken, damit der Arzt sie sich vorher ansehen k\u00f6nne.<\/p>\n

\n
\n
\n

Die Ehefrau schnappte sich das Handy ihres Mannes und schickte ein paar hochwertige Nahaufnahmen der Leistengegend ihres Sohnes auf ihr iPhone, wie die New York Times berichtet, damit sie diese zum Arzt hochladen konnte. Auf einem Bild war Marks Hand zu sehen, was die Schwellung besser erkennen lie\u00df. Mit Hilfe der Fotos diagnostizierte der Arzt das Problem und verschrieb Antibiotika, die die Krankheit schnell behoben.<\/p>\n

An dieser Stelle war das Kind dann aber bereits \"buchst\u00e4blich in den Brunnen gefallen\", denn sowohl Apple als auch Google \u00fcberwachen die Ger\u00e4te bzw. die in die Cloud hochgeladenen Fotos und Daten auf Inhalte von m\u00f6glichem Kindesmissbrauch.<\/p>\n

Mark und seine Frau machten sich an dieser Stelle keine Gedanken \u00fcber die Tech-Giganten, die zwar eine schnelle Erfassung und den Austausch digitaler Daten erm\u00f6glichen. Sie dachten auch nicht dar\u00fcber nach, was bei den Firmen mit diesem Fotos passierten k\u00f6nnte.<\/p>\n

Und so ging dieser Vorgang dann erwartbar schief, da die Bilder der meisten Android-Benutzer automatisch in die Google Cloud als Backup hochgeladen werden (oder in diesem Fall \u00fcber die Cloud-Dienste von Google und Apple verschickt werden).<\/p>\n<\/div>\n<\/div>\n<\/div>\n