In der chinesischen Provinz Anhui hat ein folgenschwerer Fehler bei der Anwendung künstlicher Intelligenz in der Landwirtschaft zu einem massiven Ernteverlust geführt. Der 67-jährige Landwirt Wu aus der Region Chuzhou verlor seine gesamte Sesam-Kultur auf einer Fläche von 150 Mu, was etwa 10 Hektar entspricht, nachdem er eine fehlerhafte Herbizid-Empfehlung eines KI-Chatbots befolgt hatte.
Der Vorfall unterstreicht die operativen Risiken, die mit dem Einsatz allgemeiner Sprachmodelle für hochspezialisierte landwirtschaftliche Aufgaben verbunden sind. Berichten zufolge suchte Wu nach einer Lösung für die kombinierte Schädlings- und Unkrautbekämpfung und bat die KI um ein entsprechendes Pestizid-Rezept. Die Software empfahl daraufhin Wirkstoffe wie Flufenacet, Fluoroglycofen (氟磺胺草醚), Fomesafen oder Flusulfasulfaether. Während diese Mittel in anderen Kontexten wirksam sein mögen, erwiesen sie sich als giftig für die jungen Sesampflanzen des Landwirts.
Vertrauen in Technologie endet im Ernteausfall
Wie aus Branchenberichten hervorgeht, basierte die Entscheidung des Landwirts auf einem über Monate gewachsenen Vertrauensverhältnis zur technologie. Wu hatte die künstliche Intelligenz bereits seit längerer Zeit für verschiedene agrarwirtschaftliche Ratschläge genutzt und dabei stets erfolgreiche Ergebnisse erzielt. Diese positiven Erfahrungen führten dazu, dass er die aktuelle Empfehlung für das Herbizid-Gemisch ohne weitere externe Validierung umsetzte.
Der Vorfall zeigt eindrücklich, wie riskant der unkontrollierte Einsatz von künstlicher Intelligenz ohne rechtliche Absicherung sein kann. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Die Folgen der Anwendung zeigten sich mit drastischer Geschwindigkeit: Die gesamte Sesam-Ernte auf den betroffenen 150 Mu – in anderen Maßeinheiten als etwa 24,7 Acres angegeben – starb innerhalb einer einzigen Nacht ab. Der finanzielle und materielle Schaden für den Betrieb ist erheblich, da die jungen Setzlinge durch die toxische Zusammensetzung des empfohlenen Rezepts vollständig vernichtet wurden.
Risiken allgemeiner Sprachmodelle in der Fachanwendung
Der Fall wirft ein Schlaglicht auf die systemischen Grenzen aktueller KI-Anwendungen. Obwohl das System während der Interaktion eine Warnung einblendete, wonach die generierten Inhalte unkorrekt sein könnten und eine Verifizierung notwendig sei, reichte dieser Hinweis im vorliegenden Fall nicht aus, um den Schaden abzuwenden.
Wer sich mit dem Einsatz von KI-Systemen befasst, muss heute komplexe gesetzliche Vorgaben wie die EU-KI-Verordnung beachten, um Haftungsrisiken zu minimieren. Ein kostenloser Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Fachabteilungen jetzt dringend brauchen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Fachleute und Beobachter wiesen darauf hin, dass dieser Vorfall die Gefahren verdeutlicht, die entstehen, wenn allgemeine KI-Modelle ohne spezifische agrarwissenschaftliche Absicherung in der Produktion eingesetzt werden. Die KI war offenbar nicht in der Lage, die spezifische Empfindlichkeit junger Sesampflanzen gegenüber den vorgeschlagenen chemischen Wirkstoffen korrekt zu bewerten.
Während spezialisierte Agrar-Software oft auf validierten Datenbanken basiert, greifen allgemeine Chatbots auf ein breites Spektrum an Internetquellen zu, was bei komplexen chemischen Anwendungen zu lebensbedrohlichen Fehlern für Nutzpflanzen führen kann. Für die Branche dient der Vorfall in Anhui als mahnendes Beispiel dafür, dass technologische Assistenzsysteme in der Landwirtschaft zwar Effizienzgewinne versprechen, die Letztverantwortung und die fachliche Prüfung der Empfehlungen jedoch weiterhin bei qualifiziertem Personal oder durch den Abgleich mit behördlich zugelassenen Pflanzenschutzmittellisten liegen muss.
