Tussenoordeel: antispieksoftware VU discrimineerde
De VU-student klopte aan bij het College voor de Rechten van de Mens omdat ze vermoedde dat de antispieksoftware van de VU discrimineerde op basis van huidskleur. Bij een tussenoordeel verklaart het College dat Pocornie voldoende bewijs heeft geleverd om haar klacht aannemelijk te maken. De VU krijgt nu gelegenheid om te bewijzen dat de antispieksoftware haar niet heeft gediscrimineerd.
De universiteit is aansprakelijk voor de handelswijze van de software van Proctorio omdat de instelling er zelf voor heeft gekozen om de software te gebruiken bij het surveilleren van de tentamens, redeneert het College. Vanwege de verlichte bewijslast in het gelijkehandelingsrecht is er sprake van een verlichte bewijslast, waardoor de student slechts feiten hoeft aan te dragen die doen vermoeden dat er sprake is van onrechtmatig onderscheid.
Dit is volgens het College voldoende bewezen. Ten eerste omdat Pocornie hinder heeft ondervonden van de antispieksoftware. Tijdens de tentamens had zij moeite met inloggen en besloot ze om met een lamp in haar gezicht te werk te gaan omdat ze vreesde dat de software zou oordelen dat ze niet meer achter haar computer zat tijdens het tentamen. Daarnaast bestaat er academisch onderzoek waaruit blijkt dat gezichtsdetectiesoftware slechter presteert voor personen met een donkere huidskleur.
Betekenisvolle stap
De zaak is volgens het College bijzonder omdat het iemand voor het eerst is gelukt om discriminatie door een algoritme aannemelijk te maken. “Dit gaat weliswaar om een tussenoordeel, maar het is toch een belangrijk moment in onze geschiedenis van oordelen”, aldus voorzitter Jacobine Geel. “Het is iemand namelijk gelukt om te zeggen: “Hey, wat dit algoritme doet is vreemd. Ik vermoed dat het algoritme discrimineert.” Dat is een heel betekenisvolle eerste stap.”
De VU moet nu bewijzen dat er niet in strijd met de wet is gehandeld. Tot nu toe heeft de instelling daar onvoldoende bewijs voor geleverd, oordeelt het College. De universiteit krijgt de gelegenheid om documenten aan te leveren waaruit blijkt dat er geen sprake is geweest van onderscheid. Daar hebben ze tien weken de tijd voor.
