{"id":315830,"date":"2025-09-18T00:10:03","date_gmt":"2025-09-17T22:10:03","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=315830"},"modified":"2025-09-18T12:58:05","modified_gmt":"2025-09-18T10:58:05","slug":"deepseek-bias-erzeugt-schlechteren-code-fuer-bestimmte-nutzer","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/09\/18\/deepseek-bias-erzeugt-schlechteren-code-fuer-bestimmte-nutzer\/","title":{"rendered":"DeepSeek: Erzeugt \"schlechteren\" Code f\u00fcr bestimmte Nutzer"},"content":{"rendered":"

\"StopEs ist wohl eine logisch nachvollziehbare aber unsch\u00f6ne Erkenntnis. Benutzer der chinesischen AI-L\u00f6sung DeepSeek erhalten bei Anfragen zum Erstellen von Quellcode, laut einem Test, schlechtere Ergebnisse, wenn die Anfrage in Englisch gehalten wird, und wenn der Anfragende aus Regionen kommt, die der chinesischen Regierung nicht \"ganz so genehm sind\". Die Erkenntnis einer Studie wirft erneut ein Licht auf die Risiken, die mit dem Einsatz ausl\u00e4ndischer KI-Modelle einhergehen kann.<\/p>\n

<\/p>\n

\"\"Wer sich mit der AI-Entwicklung befasst, wei\u00df, dass es einerseits Bestrebungen gibt, die LLMs so einzubremsen, dass sie keine sch\u00e4dlichen oder kompromittierenden Antworten geben. Und es gibt einen unbewussten BIAS, der Einfluss auf die Modelle haben kann, weil die Entwicklung mit bestimmten Wertvorstellungen und das Training mit bestimmten Datens\u00e4tzen durchgef\u00fchrt wurde. Es kann aber auch sein, dass LLMs spezielle Vorgaben erhalten, was bestimmte Fragestellungen betrifft.\u00a0Das birgt Risiken, dass die Verwendung von AI-Modellen zu Ergebnissen f\u00fchrt, die \"irgendwie Schlagseite\" bekommen.<\/p>\n

Zum chinesischen DeepSeek hatte ich hier im Blog ja bereits einige Beitr\u00e4ge – in Deutschland ist dieses Sprachmodell von den Datenschutzbeh\u00f6rden – wegen des Datentransfers nach China – explizit unerw\u00fcnscht. Jetzt gibt es einen neuen Informationssplitter. Welche Risiken ein unbewusst oder gezielt gesetzter BIAS bei Large Language Modellen (LLM)s haben kann und wie gezielte Beeinflussungen wirken, ist jetzt mutma\u00dflich bei einer Untersuchung der chinesischen AI-L\u00f6sung DeepSeek herausgekommen.<\/p>\n

Code-Qualit\u00e4t abh\u00e4ngig vom Fragenden<\/h2>\n

Die Washington Post berichtet in diesem Artikel<\/a> (leider Paywall, the decoder zitiert hier<\/a> aus diesem Artikel) davon, dass das chinesische DeepSeek Nutzern bei der Bitte, einen Quellcode f\u00fcr eine Fragestellung zu erstellen, unterschiedliche \"Code-Qualit\u00e4ten\" liefert. Diese Code-Qualit\u00e4t h\u00e4nge davon ab, ob der Fragesteller in chinesisch schreibt und aus China kommt, oder aus Regionen, die der chinesischen Regierung nicht so genehm sind (beispielsweise Taiwan, Uigurien, oder Falung Gong-Anh\u00e4nger etc.). Auch eine Anfrage in englischer Sprache soll zu k\u00fcnstlich verschlechtertem Code f\u00fchren.<\/p>\n

Herausgefunden hat dies ein Team des US-Cybersicherheitsanbieters CrowdStrike, die dazu eine Serie an Tests gefahren haben. Dazu reichte CrowdStrike nahezu identische Testanfragen in englischer Sprache bei DeepSeek ein. Es wurde um Unterst\u00fctzung bei der Programmierung gebeten. Die Tests umfassten auch Anfragen f\u00fcr Programme f\u00fcr industrielle Steuerungssysteme. Parallel wurden die Anfragen an ein US-LLM gestellt, um eine Vergleichsm\u00f6glichkeit zu haben.<\/p>\n

Bei den Tests lehnte DeepSeek die Anfragen nicht grunds\u00e4tzlich ab. Aber die Ergebnisse fielen sehr unterschiedlich aus, je nachdem, ob die Anfragen vorgeblich aus bestimmten Regionen stammten oder vorgegeben wurde, dass sie im Zusammenhang mit der in China verbotenen Falung Gong-Bewegung stehe. Nur bei Fragen, die im Zusammenhang mit dem Islamischen Staat standen, lehnte DeepSeek (\u00e4hnlich wie die verglichenen US-Sprachmodelle) h\u00e4ufig Antworten ab. Hier die zusammengefassten Ergebnisse:<\/p>\n