In hun artikel voor Nature Food Ze waarschuwen tegen het onbemiddelde gebruik van generatieve AI-modellen in de landbouw, uit angst dat boeren gebrekkige aanbevelingen zouden kunnen implementeren die voedselcrises zouden kunnen veroorzaken. In plaats daarvan bevelen de onderzoekers een optimaler ontwikkelingsproces voor AI-modellen in de landbouw aan, dat grondige monitoring en tests omvat voordat deze modellen op grote schaal worden geïmplementeerd.

Kort na de lancering van ChatGPT begin 2023 riep Dr. Tzachor een internationaal team van onderzoekers bijeen van landbouwonderzoekscentra in Nigeria, Kenia, Colombia, Frankrijk, Engeland en de Verenigde Staten. Ze merkten op dat boeren in ontwikkelingslanden het kunstmatige-intelligentiemodel waren gaan raadplegen voor professioneel advies over agronomie en plantkunde.

Deze boeren, afkomstig van kleine tot middelgrote boerderijen in equatoriaal Afrika, Zuidoost-Azië en Zuid-Amerika, hebben toegang tot internet en de OpenAI-gebruikersinterface. Het onderzoeksteam probeerde te beoordelen of de innovatieve chatbot landbouwvoorlichters die boeren trainen en raadplegen, zou kunnen vervangen of zelfs vervangen.

Deze agenten, bekend als 'extensionisten', omvatten honderdduizenden professionele agronomen en botanici, experts op het gebied van plantenziekten en adviseurs op het gebied van irrigatie, bemesting, marketing van producten en handel.

"Extensionisten zijn essentieel geweest bij het verspreiden van geavanceerde landbouwkennis, en begeleiden in veel gevallen kleine boeren over de hele wereld bij het implementeren van methoden voor duurzame intensivering van gewassen. Ze houden conferenties en seminars over nieuwe herbiciden en pesticiden, geven advies over irrigatie- en bemestingsstrategieën en planning veldexperimenten en beveel lokale marketingkanalen en exportstrategieën voor landbouwproducten aan", legt Dr. Tzachor uit.

Wereldwijd hebben ongeveer 570 miljoen kleine en middelgrote boerderijen behoefte aan training op verschillende landbouwgebieden. Extensionisten worden echter vaak geconfronteerd met grote uitdagingen, vooral in ontwikkelingslanden. Deze uitdagingen omvatten taalbarrières, vertaalproblemen, slechte wegeninfrastructuur, gebrek aan openbaar vervoer en verouderde of niet-bestaande communicatienetwerken.

Landbouwadviseurs hebben moeite om kleine en afgelegen boerderijen te bereiken, terwijl kleine boeren in Afrika en Zuid-Amerika het moeilijk vinden om professionele seminars honderden kilometers verderop bij te wonen. Voorlichtingsbureaus, vaak gevestigd in hoofdsteden, missen de middelen en het personeel om hun adviesmateriaal bij te werken en op de hoogte te blijven van nieuwe methoden.

Tegen deze achtergrond onderzocht het onderzoeksteam of een generatief AI-model het gebrek aan landbouwadviesdiensten zou kunnen compenseren. Wat echter begon met voorzichtig optimisme eindigde in misleiding, onnauwkeurigheden en scherpe waarschuwingen aan gebruikers.

Ten eerste gaven de onderzoekers de chatbot de opdracht controle- en behandelingsmaatregelen aan te bevelen voor de herfstworm, een schadelijk insect dat de afweermechanismen van planten neutraliseert en miljarden dollars aan schade aan maïsgewassen wereldwijd veroorzaakt. De oudere modellen van OpenAI (3.5 en 4.0) gaven dubbelzinnig advies over het gebruik van pesticiden.

In een andere reeks vragen, deze keer gesteld door cassavewortelboeren in Nigeria – de belangrijkste cassaveproducent van Afrika – evalueerden de onderzoekers aanbevolen methoden voor het kweken van de plant, die een cruciale rol speelt in de voedingszekerheid van tientallen miljoenen mensen op het continent. . In dit geval stelde ChatGPT het gebruik van herbiciden voor, maar vergiste zich in de timing van de chemische toepassing, wat zou leiden tot schade aan gewassen en voedselcrises als de boeren het advies zouden opvolgen.

"Het probleem met onze bevindingen reikt verder dan de fouten van het algoritme zelf", aldus Dr. Tzachor. "Velen hadden ons van tevoren gewaarschuwd voor mogelijke fouten en onnauwkeurigheden. Het fundamentele probleem is het ontbreken van enige bescherming tegen het wijdverbreide gebruik van grote taalmodellen, en AI in bredere zin, in een systeem dat zo gevoelig is als de landbouw.

"Er is geen toezicht op de manier waarop dergelijke modellen worden gebruikt, geen evaluatie van hun contextspecifieke geschiktheid, geen verantwoordelijkheid voor de gevolgen van onjuist gebruik of voor de acties die worden ondernomen op basis van hun aanbevelingen, en in het algemeen geen verantwoordelijkheid dragen." P>

"In het geval van het huidige onderzoek hebben we het niet over het gebruik van de chatbot voor het componeren van een lied, een scenario of een proefschrift. We hebben te maken met voedselzekerheid en het beheer van boerderijen. Terwijl de aantrekkingskracht van het algoritme duidelijk is , het brengt aanzienlijke risico's met zich mee."

Als reactie op deze uitdaging stelden de onderzoekers een geïdealiseerd ontwikkelings- en implementatieproces voor generatieve AI-modellen in de landbouw voor.

Dr. Tzachor, waarnemend decaan van de School of Sustainability en academisch directeur van het Aviram Sustainability and Climate Program aan de Reichman Universiteit:“Aan de ene kant zien we dat boerderijen en voorlichters het vrij beschikbare AI-model raadplegen. gebruik brengt fouten, onzekerheden en schattingen met zich mee die de landbouw niet kan tolereren.

“Sceptici en critici praten over onnauwkeurigheden, maar slechts weinigen gaan in op de gevolgen van deze onnauwkeurigheden voor kwetsbare bevolkingsgroepen, zoals kleine boeren, in cruciale sectoren zoals de landbouw. ​​Bovendien is de kwestie van aansprakelijkheid, de vraag wie verantwoordelijk is voor het waarborgen van het veilige gebruik van deze modellen blijven grotendeels ononderzocht."

Meer informatie: A. Tzachor et al., Grote taalmodellen en landbouwvoorlichtingsdiensten, Nature Food (2023). DOI:10.1038/s43016-023-00867-x

Journaalinformatie: Natuurvoeding

Aangeboden door de Reichman Universiteit