![\"Copilot\"](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2025\/04\/image-4.png\" "\\"Edge\\"")
Forscher sind auf ein mit Russland verb\u00fcndete Pravda-Netzwerk gesto\u00dfen, welches \"LLM-Grooming\" betreibt. Das Netzwerk \u00fcberschwemmt das Internet mit Desinformationen, um Suchmaschinen, und nun auch Chatbots wie ChatGPT zu beeinflussen. Quasi der n\u00e4chste Sargnagel in die Glaubw\u00fcrdigkeit von Chatbots.<\/p>\n
<\/p>\n
Forscher gehen bereits seit einiger Zeit von der logischen Schlussfolgerung aus, dass die zunehmende Anzahl an AI-generierten Internetinhalten zu einer Art \"Vergiftung\" der LLMs f\u00fchren, und so deren Qualit\u00e4t mit der Zeit stark vermindern.<\/p>\n Aber noch h\u00e4ngen die technologiegl\u00e4ubigen an den \"Lippen\" von ChatGPT und anderen Chatbots. Vor einem Jahr sind Forscher aus Frankreich bereits auf ein Netzwerk von Internetseiten gesto\u00dfen, die aus Russland bef\u00fcllt werden und gezielt Desinformation verbreiten. Das britische Medium The Guardian<\/em> hat nun die neuesten Erkenntnisse aus einer Studie<\/a> des britischen Think-Tank Institute for Strategic Dialogue (ISD) im Artikel\u00a0Hundreds of English-language websites link to pro-Kremlin propaganda<\/a> aufbereitet.<\/p>\n Ein Russland zugeschriebenen Pravda-Netzwerk ist seit seiner Gr\u00fcndung im Jahr 2014 eine der produktivsten Informationsoperationen unserer Zeit, hei\u00dft es. Seit Gr\u00fcndung im Jahr 2014 hat das Netzwerk aus rund 90 Websites mehr als 6 Millionen Artikel ver\u00f6ffentlicht. Und es wird weiterhin alle paar Sekunden ein neuer Beitrag ver\u00f6ffentlicht.<\/p>\n Die Erkenntnis: Hunderte englischsprachige Websites \u2013 darunter Nachrichtenagenturen, Faktenpr\u00fcfer und akademische Einrichtungen, also von Mainstream-Nachrichtenportalen bis hin zu Nischenblogs \u2013 verlinken auf Artikel eines kremlfreundlichen Netzwerks, das das Internet mit Desinformation \u00fcberschwemmt.<\/p>\n Mehr als 80 Prozent der untersuchten Seiten behandeln die Artikel des Pravda-Netzwerks, auf die sie verlinken, als glaubw\u00fcrdig, wobei nur eine kleine Minderheit den Kontext der Artikel in Verbindung mit einer russlandfreundlichen Operation angibt.<\/p>\n Die Studie des Institute for Strategic Dialogue (ISD) ergab, dass in mehr als 80 % der analysierten Zitate die Websites das Netzwerk als glaubw\u00fcrdige Quelle behandelten, wodurch dessen Narrative legitimiert und dessen Sichtbarkeit erh\u00f6ht wurden. Die Desinformationskampagne \u2013 bekannt als Pravda-Netzwerk \u2013 wurde im vergangenen Jahr von der franz\u00f6sischen Regierung aufgedeckt.<\/p>\n Ziel der gesamten Operation des Pravda-Netzwerks ist es, Suchmaschinen und gro\u00dfe Sprachmodelle bzw. deren Chatbots mit russischen Narrativen und Desinformationen zu f\u00fcttern. Die Kampagne scheint zu fruchten, denn das\u00a0ISD warnt in seiner Studie, dass die Websites durch die Verlinkung zu Artikeln in diesem Netzwerk unbeabsichtigt die Wahrscheinlichkeit erh\u00f6hten, dass Suchmaschinen und gro\u00dfe Sprachmodelle (LLMs) die Seiten anzeigen.<\/p>\n Das gilt selbst in den F\u00e4llen, in denen die verlinkenden Websites das Pravda-Netzwerk als Quelle anzweifelten. Die LLMs ber\u00fccksichtigen diese Zweifel schlicht nicht. Ich hatte gestern ja bereits im Artikel\u00a0Grok-Chatbot, Elon Musk und die abgedrehte KI<\/a> anklingen lassen, wie beeinflusste Chatbots (auch au\u00dferhalb des Pravda-Netzwerks) ziemlichen Unsinn und Fehlinformationen verbreiten k\u00f6nnen.<\/p>\n Und jetzt wollen die gro\u00dfen AI-Anbieter die Browser mit Agenten und AI-Funktionen ausstatten, damit die Nutzer beim Surfen automatisch durch solche Funktionen informiert werden. Alleine die Nichterkennung von Fehlinformationen ist bereits eine gro\u00dfe Gefahr, dass Desinformation die Oberhand gewinnt. Wenn man dann noch die M\u00f6glichkeit des Prompt-Injection durch unsichtbare, in die Webseiten eingebettete Befehle ber\u00fccksichtigt, ergeben sich dystopische Aussichten.<\/p>\n Diese Ergebnisse der ISD-Studie zeigen, dass eine gro\u00dfe und vielf\u00e4ltige Gruppe von Websites Inhalte des Pravda-Netzwerks f\u00fcr ihre Berichterstattung und Kommentare nutzt. Das verleiht dem Pravda-Netzwerk Sichtbarkeit und mehr wahrgenommene Legitimit\u00e4t. Das gilt selbst wenn Faktenchecker oder andere Webseiten die Inhalte der verwendeten Pravda-Netzwerk-Links widerlegen. Suchmaschinen interpretieren den Link selbst als Zeichen f\u00fcr Vertrauen und Relevanz, wodurch die Links mit gr\u00f6\u00dferer Wahrscheinlichkeit in den Suchergebnissen der Nutzer erscheinen.<\/p>\n Um Einzelpersonen das Erkennen von Websites des Pravda-Netzwerks zu erleichtern, hat ISD eine kostenlose Browser-Erweiterung entwickelt. Diese l\u00e4sst sich in Chrome oder Edge installieren und warnt Nutzer, wenn sie eine Website des Pravda-Netzwerks aufgerufen haben.<\/p>\n Die Warnung kennzeichnet Websites des Pravda-Netzwerks mit einem Warnhinweis und einer Farb\u00e4nderung, sodass Artikel, die aus diesem Netzwerk stammen, leichter zu erkennen sind. Die Warnfunktion hat keinen Einfluss auf die Navigation der Nutzer auf der Website.<\/p>\n Das ISD hofft, dass die Verwendung der Erweiterung dazu beitragen kann, andere Websites davon abzuhalten, auf Inhalte des Pravda-Netzwerks zu verlinken, wodurch die Reichweite der Operation eingeschr\u00e4nkt wird. Das halte ich f\u00fcr einen frommen Wunsch, die Lemminge wird es nicht k\u00fcmmern, die Party geht weiter, bis nichts mehr geht.<\/p>\n Mehr Details lassen sich dem The Guardian-Artikel sowie der ISD-Studie, die beide oben im Text verlinkt sind, entnehmen. Der Fall ist mal wieder ein exzellentes Beispiel, wie die Gier westlicher Tech-Konzerne, gepaart mit der Naivit\u00e4t der Nutzer und westlicher Gesellschaften, ein toxisches Umfeld f\u00fcr Propaganda und Fehlinformationen schaffen.<\/p>\n Und jetzt habe ich nicht mal die Ans\u00e4tze, AI-Agenten und LLMs gezielt durch Prompt-Injection zu manipulieren und zu b\u00f6sartigen Aktionen zu verleiten, ber\u00fccksichtigt. Es geh\u00f6rt nicht viel Phantasie dazu, zu erkennen, wohin dies, gepaart mit der Dekadenz in Kreisen westliche Gesellschaften, f\u00fchren d\u00fcrfte.<\/p>\n \u00c4hnliche Artikel:<\/strong> Forscher sind auf ein mit Russland verb\u00fcndete Pravda-Netzwerk gesto\u00dfen, welches \"LLM-Grooming\" betreibt. Das Netzwerk \u00fcberschwemmt das Internet mit Desinformationen, um Suchmaschinen, und nun auch Chatbots wie ChatGPT zu beeinflussen. Quasi der n\u00e4chste Sargnagel in die Glaubw\u00fcrdigkeit von Chatbots.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,908,426],"tags":[8382,4328],"class_list":["post-318500","post","type-post","status-publish","format-standard","hentry","category-ai","category-internet","category-sicherheit","tag-ai","tag-sicherheit"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/318500","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=318500"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/318500\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=318500"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=318500"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=318500"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Chatbots wie ChatGPT verwenden gro\u00dfe Sprachmodelle (LLMs) um Antworten\u00a0 auf Nutzerfragen zu generieren. Die LLMs greifen dabei auf die Inhalte von Webseiten aus dem Internet zu. W\u00e4hrend der gemeine Nutzer alles, was ihm von Chatbots vorgesetzt wird, f\u00fcr bare M\u00fcnze nimmt, geht bei informierten Leuten bereit seit langem der Spruch \"Shit in, shit out\" um. Das hei\u00dft, die Antworten der Sprachmodelle sind nur so gut wie das Material, auf dem sie fu\u00dfen. Ich hatte ja bereits im Artikel Finger weg: Die Google AI-Suchergebnisse sind eine Katastrophe!<\/a> einige pers\u00f6nliche Erfahrungen reflektiert, die darauf fu\u00dfen, dass LLMs unbewusst Mist erzeugen. Aber das l\u00e4sst sich auch gezielt missbrauchen.<\/p>\n
LLMs werden durch Trainingsdaten beeinflusst<\/h2>\n
![\"Chatbots](\"https:\/\/i.postimg.cc\/mZ3Q5gWm\/image.png\")
<\/a><\/p>\nDas russische Pravda-Netzwerk<\/h2>\n
Beeinflussung der Suche und LLM-Grooming<\/h2>\n
Browser-Erweiterung erkennt Fehlinformationen<\/h2>\n
Vergebliche Hoffnung, es sieht nicht gut aus<\/h2>\n
\nKI-Irrsinn Teil 1: Wenn ChaptGPT, Copilot & Co. dich zu Fake-Orten locken<\/a>
\nKI-Irrsinn Teil 2: Amazon schickt Unterlassungserkl\u00e4rung an Perplexity AI f\u00fcr Eink\u00e4ufe \u00fcber Comet<\/a>
\nKI-Irrsinn Teil 3: KI-generiere \"Nichtigkeitsklage\" vom Gericht abgewiesen<\/a>
\nKI-Irrsinn Teil 4: Wenn die Anwender mal selber machen<\/a>
\nKI-Irrsinn Teil 5: Deloitte, die KI und der versemmelte Report in Australien<\/a>
\nFinger weg: Die Google AI-Suchergebnisse sind eine Katastrophe!<\/a>
\nSesameOp: Neuartige Backdoor in OpenAI API f\u00fcr C&C missbraucht<\/a>
\nPerplexity Comet Browser Prompt Injection als gro\u00dfes Sicherheitsrisiko<\/a>
\nAI-Sicherheit: Fast alle LLMs leaken private API-Keys auf Github; ChatGPT hat Schwachstellen<\/a>
\nEdge for Business und AI\/Copilot im Browser: B\u00f6se H\u00f6rst\u00f6rung bei Microsoft?<\/a>
\nVivaldi positioniert sich gegen KI-Agenten<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"