Ethische reflectie op technologie is noodzakelijk in het onderwijs

Interview | door Tim Cardol
30 april 2019 | “Het is de hoogste tijd dat we de impact van technologie in ons leven beter leren doorzien en dat we meer gaan afwegen wat ethisch wenselijk is en wat niet”, zegt lector Ethiek en Technologie Steven Dorrestijn (Saxion). “Technologie biedt grote mogelijkheden in alle gebieden van het leven. Maar om daarvan te profiteren moeten we de valkuilen en gevaren vermijden.”

De uitdaging die Dorrestijn schetst, wordt geïllustreerd in de film The Circle (naar de gelijknamige roman van David Eggers). Het verhaal begint utopisch. “The Circle lijkt het mooiste bedrijf van de wereld, duidelijk gemodelleerd naar bedrijven als Google en Facebook, wie zou daar nu niet willen werken?” Langzaam worden de keerzijden duidelijk.

De werknemers werken achter wel zeven schermen tegelijkertijd. “Het begint er al mee dat er zoveel informatie op de mensen afkomt, dat het niet bij te houden valt,” zegt Dorrestijn. Op al die schermen laten rankings zien hoe goed je bent in vergelijking met anderen. “Hoewel vrijwillig en bedoeld om iedereen te helpen het beste uit zichzelf en elkaar te halen, voelen de mensen zich zo opgejaagd dat ze eraan onderdoor gaan.”

Erger wordt het als blijkt dat in de top een strijd woedt. Het gaat allang niet meer om het brengen van vooruitgang, maar om macht, laat hij zien. “Op uitvergrote wijze komt hier goed naar voren hoeveel impact technologie heeft in ons leven, bedoeld of onbedoeld, vaak positief maar soms ook heel negatief. Dat roept ethische vragen op over privacy, vrijheid, rechtvaardigheid, controle.”

De ethiek achter slimme schermen

Het lectoraat Ethiek & Technologie vervult op Saxion de rol om zulke vragen in het onderzoek en onderwijs op de agenda te zetten. “De keuze voor dit lectoraat benadrukt dat ethische reflectie over de impact van technologie voor Saxion een belangrijk onderwerp is.” Dorrestijn geeft een voorbeeld uit de onderzoekspraktijk. “Een groep Saxion-collega’s doet onderzoek naar Smart Cities. Een project ging over grote digitale schermen in de openbare ruimte en hoe je die interactief kunt maken, met sensoren en algoritmes, zodat wat er te zien is zich aanpast aan het weer, of in de toekomst zelfs aan wie naar het scherm kijkt.”

De onderzoekers zagen direct dat privacy hierbij een aandachtspunt is. Aanvankelijk verwachtte men van de ethiek vooral antwoord op de vraag: wat mag en wat mag niet? “Dat is eigenlijk een vraag over wetgeving. Ethiek gaat meer over de vraag wat wenselijk is. Het zijn de vragen die je stelt wanneer er nog geen specifieke wetgeving is, maar je kunt die vraag ook altijd opnieuw stellen bij zaken die wel van de wet mogen.”

De ethische vragen in het project gaan volgens Dorrestijn niet alleen over privacy en dataverzameling, maar vooral ook over beïnvloeding van het gedrag van mensen. “De grens tussen gepersonaliseerde informatie aanbieden en manipulatie is flinterdun. Alleen reclames te zien krijgen die voor jou relevant zijn, zoals Facebook en Google nastreven, betekent misschien minder ergernis, maar ook dat we geniepiger in de greep van die reclame komen.”

“In het project over de schermen hebben we uiteindelijk met het hele team in een workshop over de impact en ethiek van deze technologie nagedacht.” Daarbij wordt de Product Impact Tool gebruikt die Dorrestijn tijdens zijn promotie heeft ontwikkeld en die hij nu op Saxion verder uitwerkt. De workshops moeten inzicht bieden in de mogelijkheden en onmogelijkheden van technologie een kritische en verantwoordelijke houding bij onderzoekers en professionals bevorderen. “Dat is misschien wel het belangrijkste doel van het lectoraat”, stelt Dorrestijn.

Latour als inspiratiebron

Zelf is Dorrestijn zich tijdens een studie Werktuigbouwkunde in Twente meer gaan verdiepen in de filosofische vraagstukken achter de techniek. “Ik was werktuigbouwkunde gaan studeren omdat ik nieuwe technische oplossingen wilde uitvinden en maken. De studie bleek echter minder creatief dan ik dacht, de nadruk lag sterk op het volgen van wetenschappelijke methodes.”

Bij een gastcollege van filosoof Hans Achterhuis kwam hij in aanraking met het gedachtegoed van de Franse filosoof Bruno Latour over de invloed van alledaagse producten op ons leven. “De verkeersdrempel is bijvoorbeeld zo’n alledaagse technologie. De drempel dwingt ons af te remmen, maar de diepere betekenis is dat we daarbij onze morele verantwoordelijkheid aan de techniek uitbesteden.” In de filosofische vragen die Latour kon opwerpen bij zulke alledaagse technologie vond de lector alsnog de creativiteit waar hij naar op zoek was.

Later raakte Dorrestijn gefascineerd door nog een Franse filosoof, Michel Foucault. Dit zou ertoe leiden dat hij een jaar naar Frankrijk ging om filosofie te studeren en de taal te leren. “Foucaults werk over privacy, surveillance en disciplinering van mensen blijft actueel. Je kunt het heel goed zien als het techniekfilosofische onderzoek als achtergrond bij het fictieve scenario van The Circle.”

“In Frankrijk kwam ik er ook achter dat we in Nederland heel goed zijn in de combinatie van filosofie en technologie”, vertelt Dorrestijn. Zo keerde hij terug in Twente als promovendus bij Achterhuis en Peter-Paul Verbeek. “Tijdens mijn promotie verzamelde ik inzichten over de impact van techniek op mensen, niet voor reflectie achteraf, maar ook met het oog op het verbeteren van de gebruiksvriendelijkheid en de acceptatie van technologie.”

Minder focus op de instandhouding van het vakgebied

Na zijn promotie kwam Dorrestijn terecht bij Saxion. “Zij waren op dat moment bezig met het opzetten van een groep voor ethiek en technologie. Ik kon daar een aanstelling krijgen in vergelijkbaar werk als wat ik op de universiteit deed, maar met meer perspectief, dus daar ben ik toen voor gegaan.”

Postdoc moet plek in het functiehuis van hogescholen krijgen

Hoewel vergelijkbaar, ziet Dorrestijn wel degelijk veel verschillen. “Op de hogeschool is veel minder focus op de instandhouding van het vakgebied. Waar je op de universiteit ongeveer twee derde van een college richt op de kennis en vervolgens nog een derde op de toepassing, werkt het op de hogeschool veel beter als je het precies andersom doet: je begint juist met voorbeelden uit de praktijk en op het eind geef je daar theoretische verdieping bij.”

Een mooie kans, vindt Dorrestijn, is dat op de hogeschool ethiek echt ingezet kan worden om jonge professionals te laten nadenken over de impact van de producten die ze ontwikkelen. Moeilijkheid daarbij is wel dat ethiek een ander tempo heeft dan de techniekontwikkeling in een economische bedrijfscontext. “Ontwerpers moeten daarin leveren, maar filosofische vragen zijn trage vragen. Dat botst weleens met elkaar. Volgens mij is het de kunst dat we ook als het werk door moet onszelf wel toe toestaan daarnaast bijgedachten te hebben.”

Een paralleltraject van ethische reflectie, dat waar het kan leidt tot aanpassing van het ontwerp maar in ieder geval plaats biedt voor kritische bijgedachten, dat is volgens Dorrestijn een mooie insteek voor Maatschappelijk Verantwoord Innoveren.

De ethische implicaties van drones

Dat ethiek direct van belang kan zijn voor techniekontwerp en business wordt duidelijk in een onderzoek naar drones met het lectoraat Mechatronica. “Op een oude vliegbasis hebben we een testcentrum Space53 waar onderzoek gedaan wordt naar nieuwe toepassingen voor drones. Bij technologische innovaties wordt veel gewerkt met Technology Readiness Level om te bepalen in welk stadium een technologie zich bevindt tussen technisch idee en marktrijp product.”

De bottleneck naar marktrijpheid kan echter ook gevormd worden door ethische bezwaren. “Een vliegende robot heeft grote gevolgen op het gebied van privacy, werkgelegenheid en aansprakelijkheid”, zegt Dorrestijn. “Ik heb daarom met collega Egbert Siebrand de taak om de systematiek uit te breiden met een Ethical Readiness Level.”

De bedoeling is dat dit een heel praktische toets oplevert, vertelt Dorrestijn. “Dat zou een interessante variant kunnen worden op de vaak tamelijk algemene ethische richtlijnen die bijvoorbeeld vanuit de Europese Commissie worden opgesteld. Overigens leidt de toets niet tot goedkeuring of afkeuring van de drone, maar gaat het ook hier het inzicht via toetsing te gebruiken om bewustwording en een verantwoordelijke houding bij de ontwikkelaars aan te wakkeren.”

Een dergelijke toets zou volgens de Saxion-lector ook heel handzaam kunnen zijn om breed in het onderwijs in te zetten. “Praktische oefeningen die leiden tot zelfstanding kritisch nadenken, dat is de vorm voor het onderwijs waar wij op in willen zetten.” Op den duur hoopt Dorrestijn ervoor te zorgen dat alle docenten in het onderwijs van Saxion ethiek laten terugkeren in het onderwijs. “Op de lange termijn willen we docenten hierin ondersteunen.”

Dat doet de lector natuurlijk niet alleen. Juist omdat het thema technologie in de hele hogeschool als leidraad wordt genomen, is er volgens Dorrestijn overal wel een aanknopingspunt. “Het gaat erom dat we alle studenten vanuit hun eigen expertise – en dat kan ook de zorg of gastvrijheid zijn – deel te laten nemen aan het thema Living Technology. Ik denk dat ethiek daarin als bemiddelaar een hele nuttige rol kan vervullen.”


Schrijf je in voor onze nieuwsbrief
«

ScienceGuide is bij wet verplicht je toestemming te vragen voor het gebruik van cookies.

Lees hier over ons cookiebeleid en klik op OK om akkoord te gaan

OK