Technologie is nooit waardevrij

Verslag | door Tim Cardol
21 januari 2019 | In hoeverre kun je er zorg voor dragen dat ook morele waarden worden opgenomen in nieuwe technologische innovaties? Naomi Jacobs (TU Eindhoven) laat zien dat hier niet altijd even goed mee rekening wordt gehouden. De implicaties daarvan zijn groot.
Gezichtsherkenning Foto: Alexander Baxevanis

Technologie is niet waardevrij, zo blijkt keer op keer. In haar promotie binnen technologie en gezond gedrag onderzoekt Naomi Jacobs (TU/e) zogenaamd value sensitive design Value sensitive design is een wetenschschappelijke benadering in het ontwerpen van technologie die rekening houdt met menselijke waarden. VSD gaat in op ontwerpvraagstukken bij onder meer de interactie tussen mens en computer waarbij de nadruk wordt gelegd op de ethische waarden van direct en indirect betrokkenen. .  Ze kijkt daar welke waarden wel en niet een rol spelen bij de totstandkoming van dergelijke technologieën en hoe gezond gedrag doormiddel van technologie te stimuleren is.

Racistische zeepdispenser

In Utrecht laat zij zien welke gevolgen het wel of juist niet maken van morele overwegingen kunnen hebben. Zo waren via wieler- en hardloopapp Strava op een gegeven moment heel eenvoudig de locaties van militaire basissen in onder meer Afghanistan te lokaliseren. Dit kwam doordat militairen gelegerd in de regio de app gebruikten en hun ‘activiteiten’ deelden met hun connecties via de app. De bases waren dus te vinden met de data die de militairen zelf genereerden.

Een ander bekend voorbeeld is dat van de zeepdispenser die zeep verstrekt als een sensor merkt dat iemand zijn of haar handen eronder houdt. De dispenser bleek alleen te werken voor mensen met witte handen. “Is dat dat dan simpelweg een stomme technische fout, of zit daar meer achter,” vraagt Jacobs zich hardop af.

Pas achteraf reflecteren op ethische implicaties

“Wat we nu heel vaak doen is dat we pas achteraf reflecteren op de implicaties van een technologie,” stelt Jacobs. “Zou het niet veel beter zijn om vooraf proactief na te denken over de ethische implicaties van technologie.” Volgens de onderzoeker ligt de focus van ontwerpers ligt bijna uitsluitend op zaken als functionaliteit, betaalbaarheid en efficiëntie. “Er komt meer kijken bij technologie-ontwerp.”

Er ligt macht verscholen in data.

Een belangrijke waarde die een rol speelt bij de ontwikkeling bij nieuwe digitale technologie is privacy. Maar hoe dat concept benaderd wordt, heeft ook invloed op het ontwerpproces, ziet Jacobs. “Je kan er naar kijken vanuit het oogpunt van geheimhouding, maar het is ook heel goed te benaderen vanuit controle: dat je in eigen beheer wilt houden wie wel en wie niet beschikking over jouw gegevens. Dat verschil kan veel uitmaken.”

Zelflerend algoritme voor grenscontroles

Om de zaal een idee te geven wat ‘value sensitive design’ kan betekenen, legt Jacobs de aanwezigen een casus voor waar momenteel met financiële steun in het kader van Horizon 2020 aan wordt gewerkt. Het onderzoek iBorderCtrl dat zich ten doel stelt om grenscontroles voor mensen van buiten Europa naar de EU sneller en grondiger te laten verlopen. Uiteindelijk is het doel dat een zelflerend algoritme op basis van alle data modellen gaat bouwen om bepaalde gedragingen te detecteren.

Het idee is dat mensen voor zij daadwerkelijk een aanvraag doen, een interview doen via de webcam. Door middel van scanners die kijken naar de gelaatsuitdrukkingen, wordt dan bepaald in hoeverre het verhaal van de aanvrager geloofwaardig is. Uiteindelijk is het doel dat een zelflerend algoritme op basis van alle datamodellen gaat bouwen om bepaalde gedragingen te detecteren. Een techniek derhalve die behoorlijke implicaties met zich meebrengt.

Want van wie is de data die bij al die grenscontroles gebruikt wordt? En wordt deze enkel en alleen voor dit doeleinde gebruikt of is de techniek straks ook beschikbaar voor sollicitatiegesprekken of getuigenverhoren. Volgens Jacobs is het zaak dat dit soort overwegingen al in het ontwerpproces worden besproken.

Iemand moet toch op de knop drukken

Voormalig SURFnet CTO Erik Huizer ziet de waarde van dit proces, maar noteert ook een gevaar. “Het risico is dat er altijd nieuwe implicaties van technologie bijkomen. Je moet ergens iemand hebben die op de knop drukt. Op een gegeven moet ergens een keuze worden gemaakt.”

Dat onderkent ook Jacobs, maar zij pleit er niettemin voor in ieder geval het gesprek over mogelijke implicaties aan te blijven gaan. “Ik denk dat het streven moet zijn om zowel in de conceptuele als empirische en technische fase deze discussies te blijven voeren, maar ik snap dat er uiteindelijk wel een ontwerp moet komen.”

 


Schrijf je in voor onze nieuwsbrief
«

ScienceGuide is bij wet verplicht je toestemming te vragen voor het gebruik van cookies.

Lees hier over ons cookiebeleid en klik op OK om akkoord te gaan

OK