‘ChatGPT genereert overtuigende teksten vol fouten’
Academici maken zich zorgen om recente ontwikkelingen op het gebied van AI, schrijft de Financial Times. Doormiddel van het programma ChatGPT zouden studenten gemakkelijk hele essays kunnen genereren. Critici vrezen dat hoger onderwijsinstellingen traag zullen reageren op deze ontwikkelingen en vragen om maatregelen en handvatten om plagiaat tegen te gaan. Het programma genereert daarnaast regelmatig desinformatie en soms zelfs niet-bestaande bronnen. Het bedrijf achter ChatGPT, OpenAI, is bovendien minder betrouwbaar dan het zich voordoet, schrijft het NRC.
Coherent en interpretabel
ChatGPT is een programma dat met behulp van kunstmatige intelligentie (AI) teksten genereert. In het format van een chat werkt ChatGPT de suggesties van de gebruiker uit. Zo genereert het programma niet alleen essays maar ook creatieve verhalen en zelfs poëzie. Wanneer nodig wordt er zelfs bronvermelding toegevoegd.
De nieuwsbrief is exclusief toegankelijk voor medewerkers van onze partners.
ChatGPT is ontwikkeld door OpenAI, hetzelfde bedrijf dat vorige zomer DALL·E 2 lanceerde, een AI-systeem dat afbeeldingen genereert op basis van tekst. Voor beide systemen is veel belangstelling omdat de achterliggende AI ontzettend geavanceerd is en de output zeer coherent en interpretabel.
Niet-bestaande bronnen
In het onderwijs klinken echter zorgen over plagiaat. Studenten kunnen in een handomdraai essays genereren met deze technologie, waardoor schrijfopdrachten overbodig dreigen te worden. Verschillende plagiaatdetectieprogramma’s kunnen bepaalde kenmerken van AI gegenereerde teksten al herkennen. Het softwarebedrijf achter Turnitin heeft daarnaast laten weten te werken aan een tool om dit te verbeteren.
Het programma levert echter nog geen kwalitatief hoogstaande teksten, schrijft de Financial Times. De gegenereerde argumenten bevatten veel feitelijke onjuistheden en wanneer men vraagt om een literatuurlijst over een bepaald onderwerp zitten er soms niet-bestaande bronnen tussen. “ChatGPT heeft het vermogen om onbetrouwbare informatie in vloeiende en overtuigende antwoorden te zetten”, schrijft John Gapper van de Financial Times. “Het klinkt geloofwaardig, zelfs als het gaat om iets wat het programma zelf in elkaar heeft gezet op basis van een tekst uit de database. De vlotte toon is vaak overredend, maar niet volledig betrouwbaar.”
Flipped classroom
Academici maken zich zorgen omdat het hoger onderwijs historisch gezien traag is met het reageren op digitale ontwikkelingen. “Het is hetzelfde als met de komst van mobiele telefoons,” vertelt Mike Sharples, emeritus professor van de Open University. “De eerste reactie was het negeren en verbannen uit de lokalen.” Universities UK, een collectief van instellingen in het VK, zegt de ontwikkelingen rond AI-gegenereerde teksten in te gaten te houden, maar is nog niet actief bezig met de kwestie. De Australische organisatie TEQSA (Tertiary Education Quality and Standards Agency) raadt instellingen wel aan om de regels rond plagiaat duidelijk over te brengen aan studenten.
Zeynep Tufekci columnist van de New York Times stelt dat de methode van de flipped classroom soelaas kan bieden. In plaats van dat studenten zelf thuis een essay schrijven, nemen ze thuis door middel van opgenomen colleges de stof tot zich om vervolgens onder begeleiding tijdens een werkcollege het essay te schrijven. Dit vergt echter veel persoonlijke aandacht voor studenten, wat niet alle instellingen en opleidingen kunnen veroorloven. Tufekci waarschuwt dan ook voor groeiende ongelijkheid in de strijd tegen AI-plagiaat.
Microsoft
Daarnaast kijken critici met argusogen naar OpenAI, het bedrijf achter ChatGPT en DALL·E 2, schrijft het NRC. In 2015 richtte een groep rijke investeerders uit Sillicon Valley het bedrijf op, waaronder Elon Musk. Naar eigen zeggen wilden ze AI-programma’s beschikbaar en toegankelijk maken voor het grote publiek om misbruik van de technologie te voorkomen. “Als iedereen AI-power heeft, kan er geen AI-superpower bij een individu of klein groepje mensen liggen”, zei Musk destijds.
Destijds was OpenAI nog een non-profit organisatie, maar sinds 2019 wordt het bestuurd door een commercieel bedrijf. OpenAI ontving daarnaast een miljard dollar aan investeringen van Microsoft.
Tien miljoen dollar
Waar OpenAI volhoudt zich in te zetten voor de mensheid, lijkt er in de praktijk weinig over van hun originele idealen. Er is dan ook weinig ‘open’ aan de software die het bedrijf naar buiten brengt, vertelt Marleen Stikker, directeur van De Waag in het NRC. De technologie is slecht toegankelijk voor onderzoek en hergebruik en de systemen zijn te groot voor wetenschappers om mee te werken.
Dat komt deels door hoe programma’s als ChatGPT werken. Om de functionaliteit te verbeteren moet het programma meer data ‘lezen’ en een steeds grotere rekencapaciteit hebben. De schaal van zo’n LLM (Large Language Model) wordt dan zo groot dat de transparantie moet inboeten. Het trainen van een LLM is daarnaast ontzettend duur; de energiekosten van een trainingsronde kunnen oplopen tot meer dan tien miljoen dollar, aldus de NRC. Daarnaast vrezen critici dat de felle concurrentie en een gebrek aan diversiteit in de techwereld ertoe zal leiden dat er minder aandacht wordt besteed aan een ethisch verantwoorde ontwikkeling van AI.
Plato bekritiseerde de komst van het alfabet
Echter, geavanceerde AI kan ook van toegevoegde waarde zijn voor het onderwijs. Maurice Limmen, voorzitter van de Vereniging Hogescholen (VH), ziet dan ook geen heil in een totaalverbod van het gebruik van AI, schrijft het FD. Per slot van rekening zal AI naar verwachting steeds belangrijker worden in de samenleving en zullen de studenten van nu er veel mee te maken krijgen. Opleidingen moeten studenten ook daarop voorbereiden. Bovendien kan de generatie studenten de weg naar AI sneller vinden dan het onderwijs bij kan houden, vertelt Hilary Richters, hoofd digitale ethiek bij Deloitte aan de krant.
De Universiteit Utrecht stelt in de Volkskrant dat ‘met iedere nieuwe technologie bepaalde klassieke werkvormen wellicht overbodig worden gemaakt, terwijl er ook nieuwe werkvormen ontstaan’. Tufekci wijst erop dat nieuwe technologieën vrijwel altijd voor onrust zorgen; Plato bekritiseerde de komst van het alfabet, omdat het geheugen van mensen zou lijden onder geletterdheid, waardoor er veel kennis verloren zou gaan.
“Plato vergiste zich omdat hij het geheugen zelf als een doel zag, in plaats van als een middel voor mensen om de feiten beschikbaar te hebben zodat ze zelf betere argumenten kunnen verzinnen”, schrijft Tufekci. Volgens haar moeten we niet vasthouden aan de vaardigheden uit het verleden, maar de aandacht verleggen naar het ontwikkelen en onderwijzen van nieuwe vaardigheden.
