Kunstmatige Intelligentie moet in alle opleidingen terugkomen
Volgens Zakia Guernina, lid van het College van Bestuur van Hogeschool Rotterdam, moet er in alle opleidingen aandacht zijn voor het gebruik van Kunstmatige Intelligentie (KI). Dit werd op de International Internet of Things Days, georganiseerd door Hogeschool Rotterdam, besproken. “Wij hebben het er als opleidingsinstelling vaak over dat we studenten opleiden voor burgerschap”, zegt Guernina. “KI gaat uiteindelijk alle beroepen waarvoor wij opleiden raken, en bij burgerschap hoort daarom ook technologisch burgerschap. Leerlingen moeten zodanig opgeleid worden dat ze kritisch kunnen kijken naar de ontwikkeling en het gebruik van KI.”
Het is binnen een hogeschool niet makkelijk om zoiets vanuit het bestuur te dicteren, zegt Guernina, dus dat gebeurt ook niet. “Wel willen we docenten inspireren om hieraan aandacht te besteden en investeren we in lectoren die zich hiermee bezighouden. Op die manier willen we duidelijk maken dat dit belangrijk is. KI is geen informatica, het is niet alleen iets voor technische opleidingen, het is iets voor iedereen.”
Rijke witte mannen maken alle keuzes
Maaike Harbers, lector Artificial Intelligence & Society, speelt een belangrijke rol in de aandacht voor Kunstmatige Intelligentie. “Ik doe onderzoek naar de ethische implicaties van KI en de rol van ontwerpers hierin”, vertelt ze. “Google, sociale media, de algoritmes die daaronder liggen maken allemaal gebruik van KI, maar KI wordt bijvoorbeeld ook al in de zorg gebruikt.” Omdat het zo veel toegepast wordt, zijn de ethische keuzes die gemaakt kunnen worden ook van belang, vertelt Harbers. “Ethiek gaat over het maken van keuzes in je handelen. Mijn onderzoek gaat dus over de keuzes die je maakt in het gebruik en de ontwikkeling van KI.”
Daarbij is het volgens Harbers de vraag welke data worden gebruikt om algoritmes te trainen. Als voorbeeld noemt ze een algoritme dat in Nieuw-Zeeland gebruikt wordt voor paspoortfoto’s. Een Aziatische man stuurde daar een foto in die werd geweigerd omdat het algoritme oordeelde dat zijn ogen gesloten waren. “In zo’n situatie discrimineert het algoritme dus”, duidt Harbers. “In deze situatie was dat vooral ongemakkelijk, maar als het over bijvoorbeeld een lening gaat, kan het nog een stuk vervelender zijn.”
Meld u hier aan voor de ScienceGuide Nieuwsbrief
Om dit soort situaties te voorkomen is het volgens Harbers belangrijk om te weten wie er betrokken zijn bij de ontwikkeling van KI. Dat zijn namelijk vaak witte, rijke, Amerikaanse mannen, vertelt ze. “En die beslissen voor de hele wereld hoe toepassingen van KI werken. Het organiseren van meer diverse teams of het houden van gesprekken tijdens de ontwikkeling kan al veel problemen verhelpen.”
Dit laat volgens Harbers zien dat KI niet neutraal is, en dat keuzes die gemaakt worden in het gebruik hiervan ethische implicaties hebben. “Voor de hogeschool is het belangrijk dat iedereen zich ervan bewust is dat er geen neutraliteit is, en dat er aandacht is voor de keuzes die worden gemaakt en de gevolgen die daarbij horen. Diversiteit aan perspectieven is hierin belangrijk, zowel in dingen als afkomst en gender, maar ook wat betreft sector en werkveld. In de toekomst wordt KI dan hopelijk breder dan alleen technologie.”
Werknemers weten niet genoeg over ethiek van KI
Volgens Eltjo Poort, vicepresident bij consultancybedrijf CGI, zijn medewerkers die gebruik maken van KI niet altijd bezig met ethische overwegingen die daarop betrekking hebben. “Dit komt soms voort uit onschuld, soms uit desinteresse. Het maken van ethische keuzes is voor bestuurders en voor de politiek, denken ze, maar dat moet doorbroken worden. Het zou helpen als nieuwe werknemers dat bewustzijn al met zich meenemen, want mensen die nu werken hebben daar een achterstand in.”
Volgens Guernina speelt het hoger onderwijs daar een hoofdrol in. “Het hbo, het wo en bedrijven moeten dit op de agenda blijven zetten, want je ontkomt er niet meer aan. We moeten deze bewustwording creëren bij iedereen. Nu zitten we middenin een waardendebat, waarin we moeten beslissen of we KI willen gebruiken om winst te maximaliseren of juist ten bate van een inclusieve samenleving.” Volgens Guernina is de tweede optie het meest waarschijnlijk. “Bedrijven hebben immers niets aan een applicatie die allerlei schandalen brengt.”
