Wissenschaftler warnen vor KI und maschinellem Lernen in der Forschung

Wissenschaftler aus dem Bereich der Statistik haben gerade eine 'rote Flagge' gehisst und warnen eindringlich vor der Verwendung von Algorithmen zum maschinellen Lernen im Rahmen der Künstlichen Intelligenz (AI). In einigen Bereichen der biomedizinischen Forschung werden durch den Einsatz von AI und den Algorithmen ungenaue Ergebnisse erzielt, die die wissenschaftlichen Ergebnisse gefährden und neue Risiken bergen.

Künstliche Intelligenz und maschinelles Lernen gilt ja aktuell als 'Stein der Weisen'. Man lässt einen Algorithmus auf einen Berg an Daten los und dieser erkennt Muster, die er dann in aufbereiteter Form ausspuckt. Durch maschinelles Lernen können die Algorithmen sich auf die gestellte Aufgabe optimieren. So weit so faszinierend. Allerdings gab es bereits vor Monaten Kritik, dass diese Algorithmen nicht 'vorurteilsfrei' arbeiten. Der Hintergrund ist, dass die Entwickler dieser Algorithmen mit eigenen Vorurteilen, Einstellungen und Prägungen zu kämpfen haben, die sich auf die Gestaltung der Algorithmen auswirken können bzw. werden.

KI in der Forschung, ein Problem

Wissenschaftler gehen jetzt noch einen Schritt weiter, wenn es um KI und maschinelles Lernen in der Forschung geht. Dort befasst sich eine wachsende Zahl wissenschaftlicher Untersuchungen sich mit dem Einsatz von maschineller Lernsoftware zur Analyse bereits gesammelter Daten. Dies geschieht in vielen Themenbereichen von der biomedizinischen Forschung bis zur Astronomie. Die Datensätze sind sehr groß und teuer.

Dr. Genevera Allen von der Rice University in Houston warnt: Maschinenlerntechniken, die von Tausenden von Wissenschaftlern zur Datenanalyse eingesetzt werden, führen zu irreführenden und oft völlig falschen Ergebnissen. Sie spricht davon, dass der zunehmende Einsatz solcher Systeme zu einer "Krise der Wissenschaft" beitrage. Wenn die Wissenschaftler ihre Techniken nicht verbessern, würden sie sowohl Zeit als auch Geld verschwenden. Die Forschungsarbeiten von Dr. Genevera Allen wurden bei der American Association for the Advancement of Science in Washington vorgestellt.

Ein Beispiel für das Problem

Als Beispiel für den kritischen Ansatz wurde der Einsatz von KI mit maschinellem Lernen im Bereich der Krebstherapie/-forschung aufgeführt. Dort wird KI mit maschinellem Lernen genutzt, um Patienten mit Krebs zu untersuchen. Um die Krankheit zu erforschen, nutzen Wissenschaftler maschinelles Lernen, um genetisch ähnliche Individuen zu identifizieren. Die Idee: Arzneimitteltherapien können dann auf diese spezifischen Genome ausgerichtet werden. Beim Vergleich zwischen verschiedenen Studien unterscheiden sich die durch maschinelles Lernen identifizierten Cluster jedoch völlig voneinander.

Das Problem ist, dass maschinelle Lerntechniken keine Möglichkeit bieten, als Antwort  "Ich weiß es nicht" oder "Es ist nicht klar" zu liefern. Die KI-Techniken führen immer zu einem Ergebnis in Form einer Antwort. Im Beispiel der Krebspatienten werden KI-Algorithmen immer eine Gruppe in irgendeiner Weise identifizieren – aber diese Antwort ist vielleicht nicht so sicher oder genau, wie man glaubt. Sprich: Die Techniken des maschinellen Lernens sind in der Lage, ein Muster, das im Datensatz existiert, zu finden. Aber wenn dieses Muster nur schwach ausgeprägt ist, kann das Ergebnis in der realen Welt nicht das halten, was der Algorithmus verspricht.

"In der Wissenschaft ist zur Zeit eine Krise der Reproduzierbarkeit allgemein anerkannt", sagte Allen gegenüber der BBC News. "Ich würde es wagen zu behaupten, dass ein großer Teil davon auf den Einsatz von maschinellen Lerntechniken in der Wissenschaft zurückzuführen ist." Sprich: Die KI-Techniken, die angewandt werden, liefern Ergebnisse, die nicht reproduzierbar sind. Laut Dr. Allen liefert die KI Antworten, die wahrscheinlich ungenau oder falsch sind, weil die Software Muster identifiziert, die nur in diesem Datensatz und nicht in der realen Welt existieren.

Bei Interesse, die Seiten Digital Trends, die BBC und The Financial Times haben (englischsprachige) Artikel zum Thema publiziert.