Robots voor de wappies

Tweeënhalf jaar geleden schreef ik een stuk dat ik indertijd niet publiceerde. Ik zal straks vertellen waarom maar lees het eerst even.

‘Alexa, executeer de gevangenen’, twitterde grafisch ontwerper David Rudnick. Een macabere grap over de gelijknamige stemgestuurde afstandsbediening van Amazon. ‘Alexa, doe het licht uit’ zeg je daar normaal tegen. Maar als je een lichtknop kunt omdraaien, dan kun je ook een elektrische stoel aanzetten. Of een trekker overhalen. Of… nou ja, wat niet.

Het probleem bij deze grap is dat niet meer duidelijk is of het eigenlijk wel een grap is. Het is ook een sciencefictionverhaal in een enkele zin. En goede sciencefiction is een vruchtbare voorspeller.

Er is een bekende wijsheid die luidt dat de gevolgen van technologie op de korte termijn altijd worden overschat en op de lange termijn juist onderschat. Toen de smartphone volwassen werd, ging dat gepaard met overenthousiaste vooruitblikken over hoe ons leven volkomen op z’n kop zou worden gezet. Er ontsproten technieken als Layar waarmee je informatie en de echte wereld kunt laten samensmelten. Augmented reality, de toegevoegde werkelijkheid, dat zou het worden. Een soort hybride Second Life was onze toekomst want het verlangen naar nepheid is onverzadigbaar.

Nu, ruim tien jaar na de introductie van de iPhone, beginnen de echte gevolgen van de altijd binnen handbereik aanwezige mobiel zich af te tekenen. Een smartphone blijkt minder een spannend vr-instrument en meer iets banaals als de nieuwe televisie. Tv had al een verwoestende invloed op het samen zijn, de smartphone bleek er een nucleaire variant van: uren per dag kijken we naar het scherm en niet meer naar elkaar.  

De werkelijkheid is verdrongen, maar zonder Second Life. We zijn verslaafd aan de digitale impulsen. Er zijn restaurants die korting bieden als je je smartphone bij binnenkomst inlevert. Om het gezellig te houden. In een restaurant. Personalisering was de belofte, asocialisering het resultaat.

Vrijwel niemand die zich die negatieve effecten realiseerde toen de smartphone werd uitgebracht. Al is er de voorspelling van psycholoog Herbert Simon uit 1971 dat de informatieovervloed ertoe leidt dat aandacht schaars wordt. Hij had het zelfs over aandachtsarmoede. Niet voorzien werd dat het vooral de aandacht voor elkaar is die sneuvelt.

Het gaat vaker zo mis met inschattingen van gevolgen omdat wij, met hersens die iedere werkelijkheid naar believen kunnen verdraaien, nu eenmaal graag zien wat ons goed uitkomt. Dat geldt niet alleen voor technologie. Hele religies zijn er op gebaseerd. Eigenlijk alle vormen van geloof, tot aan de economische wetenschap, die van alle wetenschappen het meest doordesemd is met ideologie en graag een gedroomde werkelijkheid berekent.

Internet werd geïntroduceerd met de belofte dat het, gebaseerd op de principes van de vrije markt, een machine was die dictaturen omver zou werpen. Bill Clinton maakte daarom in de jaren ’90 de plannen van China om het net te controleren belachelijk. Dat werd immers onmogelijk geacht. Ik geloofde die zienswijze indertijd maar die kwam niet helemaal uit. Ruim twintig jaar later heeft het Chinese systeem zo perfect de controle over digitalisering verkregen dat het zelfs gewenst gedrag van burgers kan afdwingen. Het net is een echt web geworden, waar je in gevangen zit. De vraag is of dat zich beperkt tot China. Ik haat Facebook, ben verslaafd aan Instagram en denk graag dat ik vrij ben. De smartphone is op z’n minst de nieuwe sigaret en ik een digitale roker die vooral nadenkt over gezonde voeding.

Dat slopen van dictaturen werkte dus niet. Wel blijkt internet daarentegen uitstekend geschikt om democratieën te destabiliseren. Brexit werd er mee gerealiseerd, Trump werd er door verkozen. Vrijheid was de belofte, onderdrukking is uiteindelijk het dreigende resultaat. Dat is verontrustend, vooral ook omdat internet het begin vormde van de digitale revolutie. Wat gaat er nog komen?

Je zult ze wel eens gezien hebben, de clips van de robothonden van Boston Dynamics. Fantastische technologie, indrukwekkende mechanische beesten. Ze rennen door het bos, openen deuren , zijn onvermoeibaar en niet stuk te krijgen. Prachtig toch?

Er staat bij die clipjes nooit wie de belangrijkste opdrachtgever is van Boston Dynamics. Het Pentagon. Het zijn dan ook geen gewone robothonden. Het zijn jachthonden of zullen dat worden. Op wie gaan die straks jagen? Dat kun je wel raden. Oorlog zal nooit meer hetzelfde zijn.

Tegelijkertijd woedt er de discussie over de opmars van AI, kunstmatige intelligentie. Daar is veel op af te dingen. Het grapje ‘meer kunstmatig dan intelligent’ gaat nog vaak op maar het is onmiskenbaar dat computers bepaalde zaken veel beter kunnen dan wij. Dat ze buiten ons bereik opereren. En dat wordt meer en meer. Voeg die twee zaken samen en je hebt robotjachthonden die intelligenter zijn dan mensen. Ze zijn volledig zelfvoorzienend, al dan niet aangestuurd door een collectief computerbrein dat hen net zo effectief laat opereren als bijvoorbeeld een bijenvolk.

Stel nu dat die intelligentie zich niet beperkt tot gerichte taken maar ook daarbuiten reikt. Dat er kunstmatige fantasie ontstaat en ze de wereld kunnen beschouwen. Een wereld die dan ook van hen is, net zo goed als van ons. Sciencefictionauteur Isaac Asimov bedacht in 1942 de drie basisregels waar een robot zich aan moet houden.

Eerste Wet Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

Tweede Wet Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.

Derde Wet Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Om die laatste regel gaat het natuurlijk. Niets is belangrijker dan de mens, althans voor de mens zelf. Een robot zal er anders over denken. En regels zijn er altijd voor degenen die zich er niet aan houden, anders hoef je ze niet te bedenken.

Omdat ze intelligent zijn en robot in plaats van mens, laten de machines zich niet het riet insturen met kletspraatjes. Ze realiseren zich op een gegeven moment heus wel welk wezen de grootste bedreiging vormt voor het voortbestaan van al het andere leven op Aarde. En ze kunnen dat probleem uit de weg ruimen.

Alexa, braaf. Braaf Alexa.

Tot zover het stuk uit december 2018.

Ik deed er niks mee omdat het dystopisch is en het voorspellen van ondergang een vorm van gemakzucht. Bovendien is het misantropisch en dat is de meest luie levenshouding: het zet onmacht om in haat. De combinatie van dystopie en misantropie is aantrekkelijk omdat we ons nu eenmaal graag een hoedje schrikken en al helemaal als je ook nog anderen er de schuld van kunt geven maar zo redeneren voorkomt dat je je fantasie aanwendt om werkelijk vooruit te denken. Het is net zo misleidend als een utopie die zich niet laat hinderen door ongemakkelijke feiten. Pats, boem, alles weg. Het leven als een vuilnisbak in plaats van een droomparadijs. De uitkomst is omgekeerd maar de redeneerwijze hetzelfde. Dus besloot ik de rant niet te publiceren.

Ik moest er deze week aan terugdenken toen ik dit clipje zag.

Het toont een soort terra cotta leger van robothonden, maar dan een dat tot leven komt. Meteen sloeg de schrik me weer om het hart. De Chinese staat boezemt altijd al ontzag in met de getalsmatige overmacht van de bevolking, straks is dat ook met robots het geval. Ze kunnen de wereld er mee overspoelen, nee overwinnen. Kuddes van miljoenen robothonden trekken de grenzen over. De wereld is plots van hen. Ik zag het voor me. Je wilt naar buiten en je wordt opgewacht door twee Huawei-terriërs die iedere stap van je volgen. Ze blaffen niet maar bijten wel en slapen nooit.

Ik herlas het stuk dat ik eerder schreef en concludeerde opnieuw dat het weliswaar een fascinerende gedachtegang is maar toch veel te veel klinkt als het zwartgallige toekomstdenken van Black Mirror. Het is een milde vorm van wappiedenken. Zo ver gaat het immers nooit komen. Als er al zulke robots zijn over een jaar of twintig dan zullen ze alleen dienen om ons leven beter te maken. Bijvoorbeeld tijdens de 129e lockdown.