Onderzoek Algoritmes in het onderwijs
Doelstelling
Veel onderwijsinstellingen zetten digitale middelen in waarbij door middel van algoritmes keuzes worden gemaakt. Bijvoorbeeld leersystemen die oefeningen automatisch aanpassen aan het gedrag van een leerling. Het inzetten van deze middelen heeft voordelen, maar kent ook risico’s. Welke risico’s op discriminatie en uitsluiting doen zich voor – of kunnen zich voordoen – bij het inzetten van algoritmes in het onderwijs? Op deze vraag wil het College voor de Rechten van de Mens antwoord krijgen middels dit onderzoek.
Respondenten
Het onderzoek bestond uit meerdere fasen. Naast literatuuronderzoek en een deskresearch zijn er ook interviews gehouden. Dit gebeurde zowel met stakeholders als experts op het gebied van algoritmes en hun toepassing in het onderwijs. Dit zijn bijvoorbeeld de PO-Raad, VO-raad, MBO Raad, Kennisnet, Nationaal Onderwijslab AI, Inspectie van het Onderwijs en het ministerie van Onderwijs, Cultuur en Wetenschap (OCW).
Opvallende conclusies
- Hoewel in het onderzoek geen concrete voorbeelden van discriminatie en/of uitsluiting door algoritmes in Nederland zijn gevonden, wordt het risico daarop wel in wetenschappelijke literatuur gesignaleerd. Het gaat dan bijvoorbeeld om leerlingen uit minderheidsgroepen en leerlingen met beperkingen. Zij kunnen worden benadeeld door uitkomsten van algoritmes en/of beslissingen die op basis daarvan worden genomen.
- Een voorbeeld daarvan is de beoordeling van Engelstalige teksten die zijn geschreven door personen voor wie Engels niet de eerste taal is. In meer dan de helft van de gevallen beoordeelden algoritmes deze teksten als geproduceerd door artificiële intelligentie (AI). Op basis hiervan kun je veronderstellen dat leerlingen voor wie Nederlands een tweede taal is onterecht van fraude kunnen worden verdacht bij de inzet van algoritmes.
- Het ligt voor de hand dat deze risico’s in de toekomst toenemen als het beleid niet wijzigt. Redenen daarvoor zijn de snelle technologische ontwikkelingen, de brede inzet daarvan in het onderwijs, onvoldoende kennis bij beleidsmakers en gebruikers in het onderwijs en een gebrek aan transparantie over hoe algoritmes functioneren.
Aanbevelingen
- Stel voorwaarden op waaraan onderwijstoepassingen met algoritmes moeten voldoen.
- Zorg ervoor dat toepassingen met algoritmes uitgebreid worden getest op onwenselijke acties en uitkomsten voor specifieke groepen.
- Voer een landelijk keurmerk in voor onderwijstoepassingen die voldoen aan de eisen.
- Zorg ervoor dat onderwijsgevenden beter worden geschoold in het werken met technologie in het onderwijs en met toepassingen waarin algoritmes zijn ingebouwd. Zorg er ook voor dat zij zich meer bewust zijn van de risico’s van algoritmes.
