In zijn nieuwe boek Mens en machine duikt journalistiekdocent Roderick Nieuwenhuis in de geschiedenis van de wisselwerking tussen de mens en de machine. Een wisselwerking die de laatste decennia, met de komst van smartphones en AI, steeds indringender is geworden. Zijn we slaven van de techniek geworden? Welke invloed zullen de nieuwste uitvindingen hebben op ons denken, en op het onderwijs?
De lancering van ChatGPT, in 2023, was wat dat betreft een wake-up call. Nieuwenhuis: ‘Er werd natuurlijk al sinds de jaren vijftig gewerkt aan Artificial Intelligence, en het persbureau AP kwam tien jaar geleden al met door AI gegenereerde nieuwsberichten. Maar als je ziet het gemak waarmee ChatGPT bijvoorbeeld een essay kan schrijven, dan zet dat veel zekerheden in het onderwijs op losse schroeven.’
En inmiddels geldt voor Windesheim dat ChartGPT omarmd moet worden, en geïntegreerd moet worden in de curricula.
‘En dat gaat mij iets te snel. Volgens mij is er te weinig nagedacht over ethische problemen. ChatGPT maakt onbeperkt gebruik van alles wat er op internet te vinden is. Je ziet nu dat de grote mediaorganisaties rechtszaken aanspannen wegens schendingen van hun auteursrecht. Ook boeken worden zonder toestemming gebruikt om de systemen te trainen. En dan de energie die voor AI nodig is, dat verbruik is gi-gan-tisch en neemt exponentieel toe. Ik zou graag zien dat we dáárover in gesprek gaan.
Je krijgt die duvel niet meer terug in het doosje. We leven nu eenmaal in een kapitalistische samenleving.
‘Daar zit mijn frustratie. Je ziet hetzelfde bij de smartphone, en de worsteling van de samenleving daarmee de afgelopen jaren. Iemand heeft een verleidelijk product geproduceerd en het zo verslavend mogelijk gemaakt. We waren allemaal diep onder de indruk en vonden dat kinderen daar recht op hadden – en pas nú komt het debat hierover op gang, en worden er maatregelen genomen. Voor een groot aantal kinderen is dat dus te laat.’

In je boek beschrijf je de Luddieten: actievoerders, twee eeuwen geleden, die in de eerste fabrieken machines aan stukken sloegen….
‘Het mooie aan de Luddieten was: het ging ze niet om het verlies aan arbeidsplaatsen maar het verlies aan menselijke waardigheid. Dat sluit goed aan bij de huidige discussie rond ChatGPT. Gaan we “zo maar” mensen vervangen door machines?
Sinds begin twintigste eeuw zijn onze opvattingen over management in de greep van het “machinedenken”. Daarin staan zaken als optimaliseren en efficency centraal. Maar als dat denken domineert, komt de menselijke waardigheid in het gedrang. Dat probleem hebben we nu ook bij AI. Straks, als de kinderziektes verholpeN zijn, kan ChatGPT de baan van een docent overnemen – maar moeten we dat willen?
Het machinedenken reduceert de docent, de mens, tot een rationele robot. Terwijl wij als docenten veel meer zijn: we kunnen dingen aanvoelen, emotioneel reageren, en vooral: we hebben een morele voorbeeldfunctie. Machines hebben geen moraal. Natuurlijk zijn er cognitieve vaardigheden die door de machine kunnen worden overgenomen. Maar wat zijn de vaardigheden die de machine niét kan reproduceren en die ons mens maken?’
De evolutie van de machine heeft ervoor gezorgd dat we die vraag “wat is uniek menselijk?” steeds opnieuw moesten stellen. Wat dat betreft vormt dat een verrijking van ons denken…
‘De Amerikaanse socioloog Richard Sennett noemt de machine ons “spiegelgereedschap”: ze dwingt ons steeds opnieuw de vraag te stellen wie we zijn, wat onze taak nog is. Mijn boek is bedoeld om voor mezelf en anderen een taal te ontwikkelen om hiermee om te gaan. Want ik merk dat heel veel mensen zich niet realiseren dat de discussie over ChatGPT in wezen een morele discussie is. We weten inmiddels dat het met “prachtige” uitvindingen ook gruwelijk mis kan gaan. Denk alleen maar aan de atoombom. Robbert Dijkgraaf noemde dat dilemma heel mooi ‘de dunne richel van de vooruitgang’. Om op die richel staande te kunnen blijven, hebben we die discussie nodig.’
Kunnen we inmiddels samenvatten wat smartphones en social media met een generatie jongeren heeft gedaan?
‘Dan kom ik bij de Amerikaanse psychiater Jonathan Haidt, en zijn boek Generatie angststoornis. Haidt claimt dat er vanaf 2010, met de introductie van Instagram en de Like-button, heel veel dingen veranderden onder jongeren. Dat was het kantelpunt; sindsdien gaat het wereldwijd met hen mentaal achteruit. Ik zie het ook bij mij in de klas. Studenten die zich afvragen waarom ze de dag daarvoor eigenlijk tien uur op Tiktok hebben gezeten, in plaats van aan hun portfolio te werken. Je ziet concentratieproblemen. De spanningsboog is heel kort. Ze hebben zich aangepast aan de machine. Daarover zijn we als opleiding nu in gesprek: hoe kunnen we als docenten een cultuur creëren die veilig is, en aangenaam, en welke rol speelt de smartphone daarin?’
Niet iedere student komt in de problemen…
‘Dat klopt. Maar misschien ontstaat er zo wel een nieuwe kloof. Hoog opgeleide ouders, of conservatieve ouders, kunnen tegenover hun kinderen beter beargumenteren, beter volhouden, dat het verstandig is dat ding opzij te leggen. Die leren hun kinderen om zich beter te concentreren. Terwijl anderen die stimulans, die dwang, moeten missen. Het is natuurlijk ook een kwestie van karakter, en van peer pressure. Dat alles maakt het niet makkelijk om grenzen te stellen. Mijn vrouw en ik zitten er bovenop, maar dan zeggen onze kinderen: ja maar die-en-die mag van zijn ouders….’
En dan komt AI er nog aan. Erik Scherder riep onlangs in een interview: “AI, dat betekent: afnemende intelligentie!” Volgens hem verleren we het straks om zelfstandig te denken.
‘Die waarschuwing, dat het schrift, het boek, de televisie, de computer en ga zo maar door, ons dommer maakt, is al zo oud als het schrift zelf. En wat betreft ChatGPT zit daar een kern van waarheid in. Laatst was er een onderzoek waarbij ruim vijftig mensen gevraagd werd een essay te schrijven. De helft mocht daarbij ChatGPT gebruiken, de andere helft mocht dat niet. Na afloop bleek dat de “zelfschrijvers” over veel meer parate kennis beschikten (over het onderwerp van hun essay) dan degenen die ChatGPT hadden gebruikt. Dus het ontneemt ons wel iets. Dat proces van herschrijven, overdenken, zorgt ervoor dat zaken in je geheugen blijven hangen en brengt je op nieuwe gedachten. Daar wil ik overigens promotieonderzoek naar doen, naar de waarde van die ambachtelijkheid.’
Studenten willen gewoon zo snel mogelijk een essay dat er redelijk uitziet…
‘En dat begrijp ik. Ze mogen van mij ChatGPT gebruiken, maar de vraag voor onze opleiding is: hoe leer je ze dan om een goede, creatieve tekstredacteur te worden? Je kent het verhaal van dat mooie getal van tienduizend uur: als je zo lang ergens mee bezig bent, of het nu hout bewerken of tennissen of schrijven is, dan word je een vakman. Studenten moeten hun uren maken. Maar wordt dat proces niet heel erg onderbroken als de machine zich daarmee mag bemoeien? Dat is waar we op de opleiding heel goed voor moeten waken. Dat het ambacht behouden blijft. Door ChatGPT te gebruiken produceer je wel iets, maar je ontwikkelt je niet. Waar ligt de grens tussen hulpmiddel en afhankelijkheid? Zoals Voltaire al zei: machines zijn geweldig maar we moeten wel de baas blijven.’
Roderick Nieuwenhuis, Mens en Machine. Uitgeverij Ambo/Anthos, € 23,99 euro.
tekst: Marcel Hulspas
foto: Herman Engbers