Anucha Tiemsom/Shutterstock

Toen OpenAI ChatGPT op 30 november 2022 onthulde, was de reactie bescheiden. Binnen twee maanden had het platform 100 miljoen actieve gebruikers verzameld, waarmee een record werd gevestigd voor de snelst groeiende app in de geschiedenis. Deze snelle acceptatie heeft zich verspreid over elke sector die afhankelijk is van menselijke taal, en het onderwijs is daarop geen uitzondering. Universiteiten en scholen over de hele wereld merkten dat ze moeite hadden om te bepalen of het werk van studenten echt van henzelf was of dat het het product van een machine was.

Voor veel docenten leken AI-detectoren een wondermiddel:een manier om inspanning van bedrog te onderscheiden. Maar zelfs voordat ChatGPT bestond, had plagiaatsoftware al te kampen met valse positieven, waardoor studenten onterecht werden bestraft. De nieuwe AI-tools hebben dat probleem alleen maar vergroot. Studenten kunnen nu met een paar toetsaanslagen gepolijste essays produceren, waardoor het kritische denken wordt ontlast dat leren moet voeden. In de race om bij te blijven vertrouwen leraren steeds meer op detectietools die origineel werk ten onrechte classificeren als machinaal gegenereerd, wat leidt tot ongegronde beschuldigingen van bedrog.

In dit artikel onderzoeken we hoe AI scholen wereldwijd heeft beïnvloed – door bedrog te stimuleren, de afhankelijkheid van technologie te bevorderen en desinformatie te verspreiden – en tegelijkertijd een pad te onthullen naar meer mensgericht onderwijs in een tijdperk van ongekende technologische veranderingen.

Valsspelen met AI-ondersteuning

Xavier Lorenzo/Shutterstock

ChatGPT en vergelijkbare platforms bieden studenten een nieuwe snelkoppeling naar academische oneerlijkheid. Naast het genereren van essays kunnen deze tools ook complexe wiskundige problemen oplossen (met variërende nauwkeurigheid) en zelfs computercode produceren met minimale aanwijzingen. Het opsporen van dergelijk werk is notoir moeilijk. In een studie gepubliceerd in PLOS One moesten onderzoekers volledig door AI gegenereerde essays indienen in het examensysteem van een Brits psychologieprogramma; 94% van de inzendingen bleef onopgemerkt. Bij informaticacursussen vrezen docenten dat GitHub Copilot en andere tools voor het genereren van code een volledig herontwerp van de curricula zullen vereisen.

Het aantal gevallen van bedrog op basis van AI is enorm toegenomen. Schotland rapporteerde de afgelopen twee jaar honderden gevallen, en een Turkse universiteit arresteerde onlangs een student die een camera gebruikte die vermomd was als een overhemdsknoop (verbonden met AI via een router verborgen in een schoen) om antwoorden te krijgen tijdens een toelatingsexamen.

Overmatig vertrouwen op technologie

Luis Alvarez/Getty Images

Hoewel AI de activiteiten in de klas kan stroomlijnen, blijkt uit onderzoek in *Computers &Education* dat leerlingen die sterk afhankelijk zijn van deze hulpmiddelen minder keuzevrijheid vertonen en meer leren door te kopiëren dan door zich met de inhoud bezig te houden. Ook docenten zijn steeds afhankelijker van op AI gebaseerde plagiaatdetectoren, ondanks het feit dat er veel fout-positieve cijfers zijn. Uit een onderzoek van het Center for Democracy &Technology bleek dat tweederde van een landelijk representatieve steekproef van 460 Amerikaanse instructeurs dergelijke tools gebruikt.

OpenAI heeft een watermerktechniek ontwikkeld die op betrouwbare wijze AI-tekst identificeert, maar commerciële vrijgave wordt beperkt door druk van de markt. De recente inspanningen van Google kunnen een toegankelijkere detectieoplossing bieden. Bovendien gebruiken sommige docenten AI om essays te beoordelen, waardoor ethische debatten ontstaan en zorgen over de privacy ontstaan wanneer het werk van leerlingen zonder toestemming naar deze systemen wordt geüpload.

Desinformatie en hallucinaties

Rob Dobi/Getty Images

Grote taalmodellen zijn vatbaar voor ‘hallucinaties’, waarbij verzonnen informatie op een overtuigende, gezaghebbende toon wordt gepresenteerd. Dit is vooral problematisch in het onderwijs, waar het doel is om op feiten gebaseerd redeneren aan te leren. In december 2023 kreeg een leerling van de Hingham High School in Massachusetts een onvoldoende voor een AP U.S. History-project nadat hij door AI gegenereerde tekst had ingediend waarin niet-bestaande bronnen werden geciteerd. Het ontbreken van een anti-AI-beleid op de school bracht de ouders van de leerling ertoe een proces aan te spannen voor het terugdraaien van het leerjaar, een verzoek dat door de federale rechtbank werd afgewezen.

Scientific Reports meldt dat 55% van de literatuuroverzichten geproduceerd door ChatGPT-3.5 en 18% door ChatGPT-4 verzonnen citaten bevatten. Naarmate leraren AI opnemen in de lesplanning, groeit het risico dat ze onbedoeld valse informatie onder leerlingen verspreiden.

Vertekeningsversterking in AI-modellen

Tarikvision/Getty Images

AI-systemen die zijn getraind op enorme, ongefilterde datasets kunnen bestaande vooroordelen bestendigen en vergroten. OpenAI erkent dat zijn modellen neigen naar westerse standpunten en de voorkeur geven aan Engelstalige input. Deze vooringenomenheid kan in het nadeel zijn van niet-moedertaalsprekers van het Engels, omdat AI-detectoren hun werk vaker markeren als machinaal gegenereerd.

Voorspellende analyses die op scholen worden gebruikt, zoals tools die de kans op een middelbare schooldiploma voorspellen, classificeren studenten uit minderheidsgroepen vaak verkeerd. Een systeem uit Wisconsin, dat sinds 2012 in gebruik is, identificeerde herhaaldelijk zwarte en Latijns-Amerikaanse leerlingen als risicogroepen, maar het algoritme klopte bijna driekwart van de tijd niet, waardoor de perceptie van docenten werd vertekend.

AI in een positieve kracht veranderen

Eyesfoto/Getty Images

Ondanks de uitdagingen kan AI de onderwijservaring verbeteren als het doordacht wordt toegepast. Studies tonen aan dat AI-tools dienen als effectieve brainstormpartners, die nieuwsgierigheid en onderzoek aanwakkeren. Studenten moeten eerst oefenen met origineel denken voordat ze AI als docent gebruiken voor diepere verkenning. AI-gestuurde feedback en het in realtime genereren van inhoud kunnen een responsievere, gepersonaliseerde leeromgeving creëren.

Balans is de sleutel om de voordelen van AI te ontsluiten en tegelijkertijd de schade ervan te beperken. Voor degenen die geïnteresseerd zijn in de bredere maatschappelijke impact van AI, zie onze analyse van de zorgen van Elon Musk over Google’s DeepMind en het incident rond de dialoog van Google Gemini met een student.