Algoritmen worden gemeengoed. Ze kunnen werkvooruitzichten, financiële zekerheid en meer bepalen. Het gebruik van algoritmen kan controversieel zijn, bijvoorbeeld robodebt, zoals het gebrekkige online nalevingssysteem van de Australische overheid bekend kwam te staan.

Algoritmen worden steeds vaker gebruikt om beslissingen te nemen die een blijvende impact hebben op ons huidige en toekomstige leven.

Enkele van de grootste effecten van algoritmische besluitvorming zijn in het onderwijs. Als je iets te maken hebt met een Australische school of universiteit, zal een algoritme op een bepaald moment een beslissing nemen die voor jou van belang is.

Dus wat voor soort beslissingen kunnen algoritmen inhouden? Sommige beslissingen hebben betrekking op de volgende vraag die scholieren moeten beantwoorden op een toets, zoals het online aanbieden van NAPLAN. Sommige algoritmen ondersteunen menselijke besluitvorming op universiteiten, zoals het identificeren van studenten die het risico lopen te zakken voor een vak. Anderen halen de mens uit de lus, zoals sommige vormen van online examentoezicht.

Hoe werken algoritmen?

Ondanks hun alomtegenwoordige impact op ons leven, is het vaak moeilijk te begrijpen hoe algoritmen werken, waarom ze zijn ontworpen en waarom ze worden gebruikt. Aangezien algoritmen een belangrijk onderdeel worden van de besluitvorming in het onderwijs - en vele andere aspecten van ons leven - moeten mensen twee dingen weten:

1. hoe algoritmen werken
2. de soorten afwegingen die worden gemaakt bij besluitvorming met behulp van algoritmen.

In onderzoek om deze twee problemen te onderzoeken, hebben we een algoritmespel ontwikkeld met behulp van participatieve methodologieën om verschillende belanghebbenden bij het onderzoek te betrekken. Het proces wordt een vorm van collectief experimenteren om nieuwe perspectieven en inzichten in een probleem aan te moedigen.

Ons algoritmespel is gebaseerd op de Britse examencontroverse in 2020. Tijdens COVID-19-lockdowns werd een algoritme gebruikt om de cijfers te bepalen voor studenten die naar de universiteit wilden gaan. Het algoritme voorspelde voor sommige studenten cijfers die veel lager waren dan verwacht. Ondanks protesten werd het algoritme uiteindelijk geschrapt.

Belachelijk spel om de schuld te geven:geef de mens de schuld, niet het algoritme -" PM Boris Johnson geeft 'mutant-algoritme' de schuld van het fiasco van het Britse middelbare schoolexamen " https://t.co/6z49scUYHd cc @zeynep @soizicpenicaud @HenriVerdier

— Martin Tisné (@martintisne) 26 augustus 2020

Ons interdisciplinaire team heeft dit jaar het Engelse examenalgoritme-spel ontworpen in een reeks van twee workshops en meerdere vergaderingen. Onze workshops waren onder meer studenten, datawetenschappers, ethici en sociale wetenschappers. Dergelijke interdisciplinaire perspectieven zijn essentieel om het scala aan sociale, ethische en technische implicaties van algoritmen in het onderwijs te begrijpen.

Algoritmen maken afwegingen, dus transparantie is nodig

Het Britse voorbeeld belicht belangrijke problemen met het gebruik van algoritmen in de samenleving, waaronder kwesties van transparantie en vooringenomenheid in gegevens. Deze problemen zijn overal van belang, ook in Australië.

We hebben het algoritmespel ontworpen om mensen te helpen de tools te ontwikkelen om meer inspraak te hebben in het vormgeven van de wereld die algoritmen creëren. Algoritme "games" nodigen mensen uit om te spelen met en te leren over de parameters van hoe een algoritme werkt. Voorbeelden zijn games die mensen laten zien hoe algoritmen worden gebruikt bij strafrechtelijke veroordelingen, of die kunnen helpen bij het voorspellen van brandgevaar in gebouwen

Er is een groeiend publiek besef dat algoritmen, met name die welke worden gebruikt in vormen van kunstmatige intelligentie, moeten worden begrepen als kwesties van eerlijkheid. Maar hoewel iedereen een goed begrip heeft van wat eerlijk of oneerlijk is, zijn er bij het gebruik van algoritmen tal van compromissen.

In ons algoritmespel nemen we mensen mee door een reeks problemen waarbij de oplossing voor een eerlijkheidsprobleem gewoon een nieuwe introduceert. Het Britse algoritme werkte bijvoorbeeld niet erg goed voor het voorspellen van de cijfers van studenten op scholen waar kleinere aantallen studenten bepaalde vakken volgden. Dit was oneerlijk voor deze studenten.

De oplossing betekende dat het algoritme niet werd gebruikt voor deze vaak zeer bevoorrechte scholen. Deze studenten kregen vervolgens cijfers voorspeld door hun docenten. Maar deze cijfers waren meestal hoger dan de door algoritmen gegenereerde cijfers die studenten ontvingen op grotere scholen, die vaker openbare scholengemeenschappen waren. Dus dit betekende dat de beslissing eerlijk was voor leerlingen in kleine scholen, oneerlijk voor degenen op grotere scholen die cijfers kregen toegewezen door het algoritme.

Wat we in ons spel proberen te laten zien, is dat het niet mogelijk is om een ​​perfect resultaat te hebben. En dat noch mensen, noch algoritmen een reeks keuzes zullen maken die voor iedereen eerlijk zijn. Dit betekent dat we beslissingen moeten nemen over welke waarden er toe doen als we algoritmen gebruiken.

Het publiek moet inspraak hebben om de kracht van EdTech in evenwicht te brengen

Terwijl ons algoritmespel zich richt op het gebruik van een algoritme dat is ontwikkeld door een overheid, worden algoritmen in het onderwijs vaak geïntroduceerd als onderdeel van onderwijstechnologie. De EdTech-industrie breidt zich snel uit in Australië. Bedrijven proberen alle stadia van het onderwijs te domineren:inschrijving, leerontwerp, leerervaring en levenslang leren.

Naast deze ontwikkelingen heeft COVID-19 het gebruik van algoritmische besluitvorming in het onderwijs en daarbuiten versneld.

Hoewel deze innovaties verbazingwekkende mogelijkheden bieden, brengen algoritmen ook een reeks uitdagingen met zich mee waar we als samenleving voor staan. Voorbeelden zoals het Britse examenalgoritme stellen ons bloot aan hoe dergelijke algoritmen werken en de soorten beslissingen die moeten worden genomen bij het ontwerpen ervan. We worden dan gedwongen om diepgaande vragen te beantwoorden over welke waarden we zullen kiezen om prioriteit te geven en welke roadmap voor onderzoek we verder gaan.

Onze keuzes zullen onze toekomst en de toekomst van toekomstige generaties vormgeven.