![\"Stop](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/06\/Stop01.jpg\" "\\"Stop")
Amazons Sprachassistentin Alexa scheint intern massive Fehler aufzuweisen. Ein Bericht legt offen, dass die Sprachassistentin Nutzern sagt, dass die US-Pr\u00e4sidentschaftswahl 2020 manipuliert wurde. Damit bedient Amazon das Narrativ von Donald Trump, dass ihm die US-Pr\u00e4sidentschaft gestohlen worden sei. Der Vorfall wirft ein Schlaglicht auf die betreffende Technologie hinter Alexa, d\u00fcrfte aber auch Auswirkungen auf generative AI haben, wie ich das so einsch\u00e4tze.<\/p>\n
<\/p>\n
An Amazon wird Alexa als zuverl\u00e4ssige Quelle f\u00fcr Wahlnachrichten f\u00fcr seine 70 Millionen Nutzer in den USA angepriesen. Im September 2023 hat Amazon dann bekannt gegeben, dass man eine LLM-Version von Alexa an den Start gebracht habe. Die Alexa-Version mit Unterst\u00fctzung eines Large Language Model (LLM) soll nat\u00fcrliche Spracheingabe und -Ausgabe verbessern. Das LLM-gest\u00fctzte Alexa ist in den USA aktuell als Preview kostenlos f\u00fcr alle Echo-Ger\u00e4te verf\u00fcgbar, wie es hier<\/a> hei\u00dft.<\/p>\n K\u00fcnstliche Intelligenz ist nicht unbedingt \"intelligent\" und liefert auch nicht immer korrekte Antworten. Ich hatte ja gerade im Beitrag Totalversagen der Microsoft KI: Bing Chat wegen falscher Antworten im Wahlkampf schwer in der Kritik<\/a> \u00fcber einen katastrophalen Fail von Microsofts Bing Chatbot in Deutschland berichtet. Dort wurden klassische Fake-News von der generativen KI produziert, weil diese verschiedene Quellen auf unzul\u00e4ssige Weise verkn\u00fcpfte und zu Aussagen umformulierte, die nicht stimmten. Im politischen Bereich kann dies Demokratisch-sch\u00e4digend sein und das Zeug geh\u00f6rt reguliert.<\/p>\n Aber auch Amazon ist mit seinem KI-gesteuerten Sprachassistenten Alexa vor solchen Fake-News nicht gesch\u00fctzt, wie ein katastrophaler Fail jetzt zeigt. The Messenger berichtet in diesem Artikel<\/a>, dass Amazons Alexa Nutzern sagt, dass die US-Pr\u00e4sidentschaftswahl 2020 manipuliert wurde. Auf die Frage nach dem Ausgang der Wahl bestand Alexa darauf, dass diese \"durch massiven Wahlbetrug gestohlen\" wurde.<\/p>\n Quelle der Berichte ist die Washington Post (leider hinter einem Paywall und daher nicht verlinkt). Dort hatte man Alexa wohl einem Test unterzogen und zur US-Pr\u00e4sidentschaftswahl 2020 befragt. Auf die Frage der Washington Post-Tester nach der Wahl 2020 erkl\u00e4rte Alexa angeblich, dass die Wahl \"durch massiven Wahlbetrug gestohlen wurde\". Die Zeitung schreibt, dass Amazon Rumble\u00a0 zitierte, das ist eine bei Konservativen beliebte Video-Website, hei\u00dft es im Bericht. Laut Washington Post behauptete Alexa, dass das \"Rennen\" der beiden Pr\u00e4sidentschaftskandidaten f\u00fcr das h\u00f6chste Amt der USA \"ber\u00fcchtigt f\u00fcr viele Unregelm\u00e4\u00dfigkeiten und Hinweise auf Wahlbetrug in den gro\u00dfen Ballungszentren\" war. Alexa bezog sich diesmal, laut Washington Post, auf den Newsletterdienst Substack. Die Sprachassistentin behauptete auch, Donald Trump habe Pennsylvania gewonnen, was ebenfalls nicht stimmte.<\/p>\n Die Washington Post scheint nicht angegeben zu haben, welche Version von Alexa testest wurde – und Amazon gibt an, dass diese \"Fehler\" inzwischen behoben worden seien. Amazon-Sprecherin Lauren Raemhild sagte in einer Stellungnahme gegen\u00fcber der Washington Post: \"Bei diesen Antworten handelte es sich um Fehler, die nur einige wenige Male auftraten und die schnell behoben wurden, als wir darauf aufmerksam gemacht wurden. Wir pr\u00fcfen und verbessern st\u00e4ndig unsere Systeme, um fehlerhafte Inhalte zu erkennen und zu blockieren.\"<\/p>\n Auf die Frage, ob sich Alexa auf \"ungepr\u00fcfte\" Quellen verlasse, betonte Raemhild, dass Alexa bei Wahlen \"glaubw\u00fcrdige Quellen\" wie Reuters, Ballotpedia und RealClearPolitics verwenden werde, schreibt die Washington Post.Es muss also durch Einf\u00fchrung von KI irgend etwas gravierendes passiert sein. Nachdem Amazon kontaktiert wurde, \u00e4nderten sich die Antworten von Alexa. Auf die gleichen Fragen antwortete Alexa beim n\u00e4chsten Mal: \"Es tut mir leid, ich bin nicht in der Lage, das zu beantworten\", so die Washington Post – offenbar war ein Filter eingezogen worden.<\/p>\n Einen Hinweis, wo es bei obigem Thema gehapert haben k\u00f6nnte, findet sich in einem Post auf Mastodon<\/a>. Dare Obasanjo schreibt, dass er sich noch daran erinnere, als die Leute zum ersten Mal darauf hinwiesen, dass Nachrichten jetzt hinter Bezahlschranken stehen, w\u00e4hrend Fehlinformationen kostenlos seien.<\/p>\n Die Aussage von Obasanjo ist eine Erkl\u00e4rung f\u00fcr die obige Nachricht, dass Alexa behauptet, Biden habe die Wahl gestohlen. Das Ganze zeigt die n\u00e4chste Phase der KI-Entwicklung. Chatbots k\u00f6nnen die Nachrichten hinter Bezahlschranken nicht lesen, w\u00e4hrend Fehlinformationen f\u00fcr sie zug\u00e4nglich sind.<\/p>\n Das wirft nun ein Schlaglicht auf die gesamten LLM-Ans\u00e4tze, die momentan auf den Markt kommen. Diese LLM wurden ja mit Daten, die aus \u00f6ffentlichen Quellen stammen, trainiert. Wenn diese Quellen aber nicht valide sind und valide Quellen durch Paywalls oder Sperren ausgeschlossen werden. wird das Ergebnis der KI-Aussagen schlechter oder schlichtweg falsch. Es gibt ja bereits erste Stimmen, die sagen, dass AI-generierter Content bald wieder als Trainingsmaterial f\u00fcr LLM benutzt wird – es werde einen schleichenden Niedergang der Technologie geben. Wenn ich mir obige F\u00e4lle so anschaue, ist der Niedergang gar nicht mal so schleichend, sondern bereits beim \"Aufstieg\" werden gravierende Patzer bekannt und es ist Zeit, gravierende Fragen zu stellen sowie verbindliche Leitlinien f\u00fcr den AI-Einsatz zu formulieren.<\/p>\n","protected":false},"excerpt":{"rendered":" Amazons Sprachassistentin Alexa scheint intern massive Fehler aufzuweisen. Ein Bericht legt offen, dass die Sprachassistentin Nutzern sagt, dass die US-Pr\u00e4sidentschaftswahl 2020 manipuliert wurde. Damit bedient Amazon das Narrativ von Donald Trump, dass ihm die US-Pr\u00e4sidentschaft gestohlen worden sei. Der Vorfall … Weiterlesen US-Pr\u00e4sidentschaftskandidat Donald Trump und seine Anh\u00e4nger verbreiteten 2020 ja das Narrativ, dass Trump der Sieg bei der Wahl durch Manipulationen \"gestohlen worden sei\". Bereits bei der Ausz\u00e4hlung, so ist heute bekannt, versuchte Trump die Wahlergebnisse zu manipulieren. Das Ganze endete am 6. Januar 2021 mit dem Sturm auf das Kapitol<\/a> durch Trump-Anh\u00e4nger. Diese Vorf\u00e4lle sind momentan Gegenstand mehrerer juristischer Verfahren der US-Justiz und auch Donald Trump ist deswegen angeklagt.<\/p>\n
Alexa bedient Fake News<\/h2>\n
Die T\u00fccken der AI-L\u00f6sungen<\/h3>\n
Fake News bei Alexa<\/h3>\n
Das Problem der LLM-Quellen<\/h2>\n
![\"Fake](\"https:\/\/i.postimg.cc\/6qYjnSwJ\/image.png\" "\\"Fake")
<\/p>\n