Fataler Fall in China
Die Sesamernte fällt für einen Landwirt in China in diesem Jahr aus: Er vertraute auf einen KI-Tipp und vernichtete alle seine Pflanzen. (Symbolbild)
www.imago-images.de
Ein Landwirt vertraut bei der Unkrautbekämpfung auf eine KI – mit fatalen Folgen. Auf rund zehn Hektar werden nicht nur die Unkräuter vernichtet, sondern gleich die ganze Ernte.
Darum geht’s
- Ein 67-jähriger Landwirt in China liess sich von einer KI Mittel zur Unkraut- und Schädlingsbekämpfung auf seinem Sesamfeld empfehlen.
- Nach der Behandlung gingen auf rund zehn Hektar alle Pflanzen ein – auch die Sesam-Setzlinge.
- Der Fall zeigt die Risiken ungeprüfter KI-Antworten: Sprachmodelle können überzeugend formulierte, aber falsche oder ungeeignete Empfehlungen liefern.
Wann sollte er düngen, wann Pestizide einsetzen, wie Schädlinge bekämpfen? Ein chinesischer Landwirt vertraute bei der Bestellung seiner Felder mehr als ein Jahr einer Künstlichen Intelligenz. Der 67-jährige Wu aus der ostchinesischen Provinz Anhui beriet sich nach eigenen Angaben über praktisch alle Fragen mit seinem KI-Assistenten.
Das ging sogar lange gut – bis ihm die KI eine verheerende Falschantwort lieferte. Die Folge: Der Landwirt vernichtete über Nacht alle Pflanzen auf seinem zehn Hektar grossen Sesamfeld.
Wie mehrere Medien unter Berufung auf den chinesischen Sender Litchi News berichten, hatte Wu zunächst nach einer Methode zur Unkrautbekämpfung in Reisfeldern gefragt. Danach wollte er wissen, wie er Unkraut und Schädlinge auf seinem Sesamfeld bekämpfen könne. Schliesslich habe er ausdrücklich um eine Lösung gebeten, bei der die Mittel mit einer Drohne über dem gesamten Feld versprüht werden können.
KI liefert «Komplettlösung» – für die Vernichtung von 10 Hektar Sesam
Aus den von den Reportern eingesehenen Dialogen gehe aber hervor, dass die KI Wu eine Komplettlösung für die Drohnenbehandlung gegen Unkraut und Insekten präsentiert habe. Empfohlen wurde offenbar ein Mix aus verschiedenen Herbiziden und Insektiziden, darunter das (in Europa nicht zugelassene) Mittel Fomesafen.
Nachdem Wu die Empfehlung offenbar grossflächig umgesetzt hatte, habe sich bereits am Folgetag das ganze Desaster gezeigt. «Nach dem Sprühen waren die Pflanzen am nächsten Tag schon nicht mehr in Ordnung», wird der Landwirt zitiert. Unkraut und Sesam seien gleichzeitig abgestorben – «der Sesam sogar schneller».
Als Wu die KI anschliessend mit dem Schaden konfrontierte, lieferte sie selbst die Erklärung: Ausgerechnet das zuvor empfohlene Fomesafen sei für den Tod der Sesampflanzen verantwortlich gewesen. Der Betreiber des betroffenen KI-Dienstes habe auf Nachfrage erklärt, die Anwendung verfüge nicht über eine eigene Fachwissensdatenbank, sondern stelle Informationen aus öffentlich zugänglichen Internetquellen zusammen.
Warum die KI-Empfehlung so problematisch war
Fomesafen wird vor allem auf Sojafeldern eingesetzt, dies aber nur gezielt und nicht grossflächig. Das Herbizid wird zur Bekämpfung breitblättriger Unkräuter eingesetzt – botanisch gehört Sesam zur selben Klasse (Dikolyten), erklärt das Landwirtschaftsmagazin «Agrar heute». Dass die Auswahl von Herbiziden bei Sesam ohnehin heikel ist, zeigt eine wissenschaftliche Untersuchung der Henan Academy of Agricultural Sciences.
Die Forschenden testeten 17 Herbizide gegen breitblättrige Unkräuter auf ihre Verträglichkeit für Sesam. Lediglich zwei Mittel erwiesen sich in den Versuchen als vergleichsweise sicher. Fomesafen gehörte nicht dazu.
Wu beklagte sich nach dem Vorfall, dass die KI ihn nicht ausreichend vor den Risiken gewarnt habe. Zumindest einen deutlichen Hinweis, die Empfehlung vor der Anwendung noch einmal zu überprüfen, hätte er sich gewünscht. Die Standardeinblendung, dass KI-generierte Informationen fehlerhaft sein können, hatte der Landwirt nach eigenen Angaben noch nie bemerkt.
KI kann überzeugend klingen – und trotzdem falsch liegen
Der Fall aus China ist ein drastisches Beispiel für ein bekanntes Problem generativer KI. Sprachmodelle können Antworten formulieren, die plausibel und fachkundig tönen, obwohl einzelne Angaben falsch, erfunden oder im konkreten Zusammenhang ungeeignet sind.
Metas KI behauptete etwa, das Attentat auf Trump habe nicht stattgefunden. Meta räumte selbst ein, dass sein Chatbot nach dem Attentat vom Juli 2024 in einigen Fällen fälschlicherweise behauptete, das Ereignis habe nicht stattgefunden. Meta bezeichnete dies als Halluzination.
blue News hat bereits mehrfach über solche Halluzinationen berichtet. So verleumdete ChatGPT einen Politiker und einen Professor und erfand Straftaten, die von den Männern angeblich begangen worden seien. Frei erfundene Medienberichte als Belege wurden gleich mitgeliefert.
Dass KI-Fehler Konsequenzen haben, zeigte Anfang 2026 ein weiterer Fall: Eine Tourismusseite bewarb angebliche heisse Quellen auf Tasmanien. Dutzende Menschen machten sich auf die Suche nach den «Weldborough Springs» – doch das Naturwunder existierte gar nicht. Eine KI hatte es erfunden.
Fehler müssen nicht einmal frei erfundene Orte oder Gerichtsurteile betreffen. So kam eine Studie zum Ergebnis, dass moderne KI-Systeme menschliche Anweisungen teilweise missachten oder Nutzer täuschen können. Andere Forschung zeigt, dass Chatbots dazu neigen können, ihren Nutzern übermässig zuzustimmen – selbst dann, wenn deren Annahmen problematisch sind.
Gerade bei Entscheidungen mit potenziell grossen Folgen gilt deshalb: Eine KI-Antwort kann ein Ausgangspunkt für eine Recherche sein, sollte aber keine fachliche Prüfung ersetzen. Das betrifft medizinische und juristische Fragen ebenso wie den Einsatz von Chemikalien in der Landwirtschaft, wie der Fall des Sesambauern aus Anhui zeigt.
Rede mit KI generiert: Kanadischer Politiker tritt ins KI-Fettnäpchen
Ein Abgeordneter las während einer Parlamentsrede versehentlich Passagen aus einem KI-generierten Textentwurf vor. Der Vorfall verbreitete sich in den sozialen Medien und zeigt, wie wichtig die menschliche Kontrolle von KI-generierten Texten bleibt.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
