Amerikaner besorgt über Entscheidungen von Computer-Algorithmen

Noch ein kleiner Informationssplitter zum Sonntag. Die öffentliche Meinung in den USA dreht sich gerade bezüglich der Frage, ob Software-Algorithmen über bestimmte Aspekte des Lebens (Job, Kriminalitätserkennung etc.) bestimmen sollen.

Seit einiger Zeit häufen sich ja die Meldungen, dass Computer-Algorithmen den Menschen Entscheidungen abnehmen sollen (und das auch können). Da werden Bewerber von Software ausgesiebt, die Polizei in den USA versucht über Software Verbrechen voraus zu sagen und oft bestimmen Algorithmen auch über finanzielle Aspekte der Menschen (ob jemand einen Kredit bekommt, wird über Scoring ermittelt).

Algorithmen sind überall

Algorithmen sind inzwischen überall um uns herum im Einsatz und nutzen massive Datenbestände und komplexe Analysen, um Entscheidungen mit oft erheblichen Auswirkungen auf den Menschen zu treffen. Sie empfehlen Bücher und Filme (z.B. bei Amazon oder YouTube), die wir lesen und anschauen können. Soziale Netzwerke präsentieren und Nachrichten, von denen die zugrunde liegenden Algorithmen denken, dass wir sie relevant finden könnten. Andere Programme schätzen die Wahrscheinlichkeit, dass ein Tumor bösartig ist ist und sagen voraus, ob jemand ein Krimineller oder ein lohnender Kreditnehmer oder eher ein Kreditrisiko ist.

In Deutschland gab es vor einem Jahr kurz eine politische Diskussion, ob und wie Algorithmen für solche Entscheidungen zugelassen oder mit Auflagen versehen werden sollen. Das Thema ist aber wieder in der Versenkung verschwunden. Und in den US-Medien hatte ich den Eindruck, dass niemanden das Thema 'Macht der Algorithmen' interessiert und alle das Thema hipp finden.

Eine Umfrage drückt Besorgnis aus

Aber trotz der wachsenden Präsenz von Algorithmen in vielen Bereichen des täglichen Lebens, stellt eine Umfrage des Pew Research Centers unter US-Erwachsenen fest, dass die Öffentlichkeit diesen Werkzeugen häufig skeptisch gegenüber steht, wenn sie in verschiedenen realen Situationen eingesetzt werden.

• 58% der Amerikaner sind der Meinung, dass Computerprogramme immer ein gewisses Maß an menschlicher Voreingenommenheit widerspiegeln werden – obwohl 40% der Meinung sind, dass diese Programme auf eine Weise gestaltet werden können, die vorurteilsfreie Entscheidungen trifft.
• Und in verschiedenen Zusammenhängen befürchtet die Öffentlichkeit, dass diese Instrumente die Privatsphäre verletzen, die Nuancen komplexer Situationen nicht erfassen oder die von ihnen bewerteten Personen einfach in eine ungerechte Situation bringen könnten.

Die öffentliche Wahrnehmung algorithmischer Entscheidungsfindung ist oft auch sehr kontextabhängig. Die Umfrage zeigt, dass ansonsten ähnliche Technologien je nach den Umständen oder den ihnen zugewiesenen Aufgaben positiv oder ablehnend betrachtet werden können.

Um die Meinungen der Amerikaner zu diesem relativ komplexen und technischen Thema zu erfassen, stellte die Umfrage den Befragten vier verschiedene Szenarien vor, in denen Computer Entscheidungen treffen, indem sie große Mengen an öffentlichen und privaten Daten sammeln und analysieren. Jedes dieser Szenarien basierte auf realen Beispielen algorithmischer Entscheidungsfindung und beinhaltete: einen persönlichen Finanz-Score, mit dem den Verbrauchern Geschäfte oder Rabatte angeboten werden; eine kriminelle Risikobewertung von Personen, die vor der Bewährung stehen; ein automatisiertes Wiederaufnahme-Screening-Programm für Bewerber; und eine computergestützte Analyse von Vorstellungsgesprächen. Die Umfrage beinhaltete auch Fragen zu den Inhalten, denen die Nutzer auf Social Media-Plattformen ausgesetzt sind, um die Meinungen über verbraucherfreundlichere Algorithmen zu ermitteln.

(Quelle: Pew Research Centers)

Erstaunlich ist, dass in allen vier abgefragten Bereichen mehr als die Hälfte der befragten Personen es nicht akzeptable finden, dass Algorithmen zur Entscheidungsfindung eingesetzt werden. Weitere Details lassen sich in diesem Artikel (Englisch) nachlesen.