Avoiding the discriminatory use of AI
Doelstelling
Technologieën die artificiële intelligentie (AI) gebruiken kunnen niet alleen onderwijskansen verbeteren, ze kunnen ook bijdragen aan discriminatie. Dit is afhankelijk van hoe ze zijn ontworpen of worden gebruikt. Het doel van dit Amerikaanse onderzoek is schoolgemeenschappen te helpen dit te begrijpen.
Respondenten
Er zijn in dit onderzoek geen respondenten. De bronnen waaruit het onderzoek put zijn een verzameling van bestaande wetgeving, juridische kaders en praktijkvoorbeelden. Ze zijn aangevuld met technische definities en inzichten uit andere afdelingen van het Amerikaanse ministerie van Onderwijs.
Door wie?
Het onderzoek ‘Avoiding the Discriminatory Use of Artificial Intelligence’ is een initiatief van het Amerikaanse ministerie van Onderwijs. Het onderzoek is uitgevoerd door het Office for Civil Rights (OCR), dat onder dit ministerie valt.
Opvallende conclusies
- AI-systemen kunnen discriminerend zijn op basis van ras, huidskleur of nationale afkomst.
- Er waren twee typische voorbeelden van discriminerend AI-gebruik. Het ene omvatte een AI-detectiesysteem voor valsspelen dat onterecht Engelstalige leerlingen signaleert. Het andere betrof gezichtsherkenningssoftware die consequent studenten van kleur identificeert als bekende criminelen.
Aanbevelingen
- Ontvangen scholen financiële steun van de overheid? Dan moeten ze ervoor zorgen dat ze kunstmatige intelligentie op een niet-discriminerende manier gebruiken, in overeenstemming met federale burgerrechtenwetten.
- Er moet zorgvuldig worden omgegaan met AI-tools om discriminatie te voorkomen.
- Slachtoffers van discriminatie veroorzaakt door AI-gebruik moeten toegang hebben tot effectieve rechtsmiddelen.
- Nationale gelijkheidsorganen moeten effectief worden toegerust om de impact van AI-technologieën aan te pakken.
