De machine voorbij - over de gevaren van AI

De Vokskrant van 27 augustus wees op een artikel van Bill Gates over de gevaren van kunstmatige intelligentie, The choices we make about AI now are critical | Bill Gates.

Volgens Gates brengt AI drie grote risico’s met zich mee, te weten: (1) een groot verlies aan banen in sectoren als verkoop, klantenservice, softwareontwikkeling en data-analyse; (2) kwaadaardig gebruik van AI met grote maatschappij ontwrichten als gevolg en (3) schadelijke effecten op de ontwikkeling van kinderen en menselijke relaties.

Gates schetst een dystopisch wereldbeeld. Als we niet oppassen neemt kunstmatige intelligentie de wereld over. Totaal verlies van controle over handel en wandel van de mens lijkt in het geding.  De ontwikkelingen gaan zo snel dat angstbeelden uit de dystopische literatuur van Aldous Huxley (Brave New Wold) / George Orwell (1984) of Dave Eggers (The Circle) er kinderspel bij is.

We kunnen het ook omdraaien. In plaats van de gevaren van AI op de ontwikkeling van mens en maatschappij naar voren te brengen, is de vraag te stellen: ‘Wat leert de ontwikkeling van kunstmatige intelligentie over de mens zelf? ‘Wat leert de techniek die wij maken ons over wat een mens eigenlijk is?’ Op deze vraag promoveerde begin jaren 90 de Nederlandse filosoof Maarten Coolen. In 1992 publiceerde hij het boek ‘De machine voorbij. Over het zelfbegrip van de mens in het tijdperk van de informatietechniek’.

Volgens Coolen brengen mensen bepaalde menselijke vermogens tot uitdrukking in techniek. Dit begint met het gebruik van werktuigen om beperkte menselijk lichamelijke krachten te versterken en te vereenvoudigen (bijvoorbeeld de zeis), vervolgens kan door mechanisering van fysieke arbeid werk uit handen worden genomen (bijvoorbeeld de maaidorsmachine) en tot slot kunnen we met behulp van informatie en regelsystemen, automaten aan het wek zetten om ons werk volledig uit handen te nemen (bijvoorbeeld een gps gestuurde volautomatische dorsmachine).

De laatste stap in het tot uitdrukking brengen van menselijke vermogens in techniek lijkt dan om het denkwerk over de laten aan computers of nog beter het moduleren van het menselijk brein in kunstmatige intelligentie.

Functioneel kan het nu lijken dat een mens of AI hetzelfde kan. Een mens en AI kunnen beide een kruiswoordpuzzel oplossen, AI meestal zelfs flink wat sneller. Cruciale punt in het gedachtegoed van Coolen is echter dat wij onszelf kunnen verhouden tot ons eigen denken en handelen. AI kan dit niet. De mens kan zichzelf tot onderwerp van reflectie maken. AI kan schrijven, AI kan redeneringen produceren. Maar laat dit zien dat AI menselijk denken is? Of hebben wij in lijn met Coolen alleen een bepaald menselijk vermogen vertaald in techniek?

Voor het beantwoorden van deze vraag voert Coolen in hoofdstuk 9 van zijn boek de Chinese kamer van de Amerikaanse taalfilosoof John Searle ten tonele. Searles beroemde Chinese Kamer gaat ongeveer zo:

Iemand kent geen Chinees.
Hij krijgt Chinese tekens binnen en beschikt over een enorm regelboek:
"Als je symbool X krijgt, stuur dan symbool Y terug."
Na verloop van tijd kan hij perfecte Chinese antwoorden produceren.
Van buiten lijkt het alsof hij Chinees begrijpt.
Maar intern begrijpt hij niets.

Coolen trekt hieruit de conclusie dat gedrag dat op begrip lijkt nog niet bewijst dat er begrip is zoals mensen dat ervaren.

Ik ga mee met Coolen. Het vermogen om onszelf een spiegel voor te houden en om te reflecteren op ons eigen gedrag is dat wat ons zal beschermen tegen AI. In feite zijn de gevaren die Bill Gates schetst een mooie reflectie op het artefact dat we zelf hebben gecreëerd. Het is altijd de mens zelf die de stekker uit het stopcontact van AI kan trekken.