Morele code voor zelfrijdende auto’s

Nieuwe technieken gaan samen met nieuwe ethische vragen. Zo ook bij de zelfrijdende auto. Het is nu nog moeilijk voor te stellen, maar waarschijnlijk zullen ze over niet al te lange tijd het straatbeeld domineren. Alle reden om nu na te denken over de morele code op basis waarvan deze auto’s gaan rondrijden.

In het denken over de zelfrijdende auto duikt het volgende voorbeeld regelmatig op: Er steekt onverwacht een gezin de weg over, in het pad van een zelfrijdende auto die niet meer tijdig kan remmen. De auto kan 1) rechtdoor rijden. Daarbij komen meerdere gezinsleden te overlijden, maar de inzittende van de auto blijft leven. Of 2) de auto wijkt uit en komt in botsing met een lantaarnpaal. Het gezin overleeft, maar de inzittende komt te overlijden. Afhankelijk van hoe de mens de auto programmeert zal deze route 1 of 2 kiezen. Welke morele code dient de autofabrikant hier voor te programmeren?

Vanuit het perspectief van het gezin lijkt de keuze eenvoudig. Ze willen leven en ze zijn in de meerderheid. Het lijkt logisch om de inzittende op te offeren zodat meer mensen het ongeval overleven. Voor de inzittende (die we nu nog als bestuurder kennen) is het lastiger. Een mogelijke reactie is die van de moraalridder: zelfs al kost het mijn leven, het is niet juist dat meerdere mensen worden opgeofferd voor één persoon. Daarmee wil je niet leven.

Veel bestuurders waarmee ik spreek reageren instinctief echter anders. Zelfs al kan het meerdere levens kosten, ze zouden niet willen rijden in een auto die hen mogelijk opoffert. Daarvoor is het eigen leven ze te waardevol. Als ze de keus hebben, zouden ze kiezen voor de auto waarbij de veiligheid van de inzittende de eerste prioriteit is. Overgelaten aan de markt, is het vervolgens goed denkbaar dat autofabrikanten meegaan in die wens. Ook de moraalridders komen dan voor een dilemma te staan. Als bijna iedereen rijdt in een egoïstische zelfrijdende auto en kiest voor zichzelf, ben jij dan nog steeds bereid je op te offeren voor die mensen? De juiste route die de auto moet nemen, stelt ons voor een ethisch dilemma waar de juiste keuze wispelturig per perspectief lijkt te veranderen.

Er is echter een probleem met bovenstaande voorstelling van zaken. Het doet alsof je een keuze hebt in het perspectief dat je inneemt. In een reëel ongeval is die keuze er niet. Je kunt niet weten of je bij een volgend ongeval de inzittende of de voetganger bent. Wat je wel weet is dat als auto’s niet kiezen voor route 2 met de minste slachtoffers, er meer slachtoffers vallen. Daarmee is ook de kans dat je zelf slachtoffer wordt groter. Omgekeerd: als zelfrijdende auto’s de route kiezen met het minste aantal slachtoffers, zal het leven voor iedereen inclusief jezelf veiliger zijn. De logische optie is dus om zelfrijdende auto’s zo te programmeren dat het aantal slachtoffers bij een aanrijding minimaal is. Dit werkt alleen als alle auto’s dezelfde morele code hanteren. Het is dus de overheid die dit aan autofabrikanten moet opleggen, zoals nu ook bij milieuregels normaal is. Het is verstandig dit te doen voordat zelfrijdende auto’s het straatbeeld domineren.