LLM's maken lui en dom

Onlangs organiseerde mijn school een studiedag over AI en digitale geletterdheid. In een tijd waarin zelfs onze premier stelselmatig AI gebruikt om zijn speeches te schrijven, lijkt dat geen overbodige luxe. Een spreekster met de vlotte babbel van een tweedehands autoverkoper vertelde ons dat AI er nu eenmaal bijhoort. Wil je bij de tijd zijn, dan zal het onderwijs toch echt iets moeten met Large Language Models (LLM's) zoals ChatGPT en Gemini. Haar bespreking was exemplarisch voor de veelvoorkomende oppervlakkige blik op AI, waarbij er nauwelijks plek is voor het onderschat gevaar van het gebruik van Large Language Models (LLM's) zoals ChatGPT en Gemini.

Terwijl de spreekster propageerde dat AI enorm behulpzaam is als je het alleen als assistent ziet, bewees ze direct het tegendeel. Ze besprak slechts één gevaar van het gebruik van LLM’s uitgebreid: de klimaatimpact. Maar hè, wist je dat de consumptie van een hamburger ook slecht was voor het klimaat? En dat kunnen leerlingen juist leren, eventueel met AI! De logica was zoek. Dus vroeg ik toch maar hoe het nu zit met het bewijs dat het gebruik van LLM's - en dan met name bij scholieren - je luier en dommer maakt? Waarom werd dat niet besproken? En kon ze daarop reflecteren? Haar reactie: daarvoor had ze in een praatje van 45 minuten geen tijd. Veel meer behelsde haar reactie niet. Voor echt nadenken over dit nadeel was geen plaats. Terwijl dat juist hard nodig is.

Waarom LLM’s echt anders zijn
Nu denkt u mogelijk: "Daar hebben we weer zo'n zure filosoof die innovatie in de weg staat door te waarschuwen voor de gevaren van de techniek. Zoiets kennen we al van Socrates, die in de Phaedrus waarschuwde voor het gebruik van het schrift vanwege het negatieve effect op ons geheugen." Schoorvoetend wil ik toegeven dat er zelfs op Socrates af en toe iets aan te merken valt. Maar ik denk dat het moeilijk is om vast te houden aan een analogie van gebruik van LLM's met voorgaande technieken als het schrift.

Stiekem moeten we Socrates toch deels gelijk geven. Technologieën zoals het schrift hebben effect op wat we als parate kennis onthouden. Maar daar stond tot voor kort tegenover dat we andere dingen die de moeite waard zijn weer beter kunnen. Zo helpt schrijven ons bij het uitwisselen van onze ideeën en is het schrijfproces zelf een denkproces, waardoor het ons juist kan helpen dieper na te denken. Hierbij past het idee van de techniek als assistent: de techniek helpt je om verder te komen met problemen, die je uiteindelijk zelf nog wel moet oplossen.

Het probleem voor wie LLM’s als assistent zien is nu juist dat LLM’s veel meer denktaken overnemen, tot een niveau waarop je helemaal niet meer zelf hoeft na te denken. Te vaak en ten onrechte worden LLM's opgehemeld als de nieuwe assistent of stagiair waarbij je zelf de curator van de inhoud wordt. De belofte is dan nog meer hulp, nog meer efficiëntie, nog meer beter. Hoewel er vast toepassingen van AI bedacht kunnen worden die ons wel uitdagen om verder na te denken, is de realiteit dat LLM's steeds meer worden ingezet als vervanger voor wat we zelf zouden moeten kunnen en willen doen. Laten we daarmee stoppen en nu eens het onderzoek over het gebruik van LLM's serieus nemen.

Een onthutsende conclusie
Onlangs merkte onderwijsonderzoeker Andreas Schleicher (ondanks dezelfde naam, naar mijn weten geen familie van mij), hoofdonderzoeker achter de beroemde PISA-onderzoeken, in een interview met NRC al op dat de significante achteruitgang van de leerprestaties van leerlingen (met name in de VS) te wijten valt aan AI-gebruik. Leren is volgens hem cognitief ploeteren. Waar nieuwe technologie voorheen nog leidde tot de noodzaak om nieuwe capaciteiten eigen te maken en dus te ploeteren, is dat bij LLM's niet meer het geval. Zonder er zelf moeite in te stoppen krijg je een uitgeschreven antwoord. Andreas Schleicher vergelijkt LLM's met het veel gebruiken van een kruk bij het leren lopen, waardoor je op een gegeven moment juist niet meer in staat bent om zelf te kunnen lopen. De conclusie is even helder als onthutsend: jongeren worden significant dommer door het gebruik van AI.

In het publieke debat gaat het veelvuldig over hoe AI slecht is voor het klimaat, de tech-miljardairs enge fascisten zijn en over hoe AI op hol kan slaan. Het zijn allemaal gevaren van AI. Maar een voor mij nog altijd onderschat probleem dat tot maar weinigen lijkt door te dringen - waarschijnlijk omdat ze al veel te gemakzuchtige LLM-gebruikers zijn, waarvoor de cognitieve dissonantie te veel zou worden - is dat LLM's ons vaak luier en dommer maken. Het is als het eeuwenoude verhaal van de verboden vrucht of de tovenaarsleerling, wie regelmatig LLM's gebruikt verliest zich er al snel in. Doen we het nadenken niet meer zelf, dan worden we lui en dom. Wie nauwelijks in staat is om daar goed en eerlijk over na te denken vervalt tot een wandelend slap aftreksel van een tweedehands autoverkoper.