Het is nog niet te laat: red de wereld van de killer robot!

We kunnen een 'derde revolutie in de oorlogsvoering' nog voorkomen, betoogt Toby Walsh, professor Artificiële Intelligentie aan de Universiteit van New South Wales, maar dan moet het wel nú gebeuren.

Om een revolutie te voorkomen is het niet nodig om vooruit in de tijd te reizen en de invoering van killer robots terug te draaien. Nee, het is absoluut geen raketwetenschap, betoogt professor Walsh. We moeten het eenvoudigweg eens worden over het feit dat het bouwen van machines die zelf beslissen over wie sterft of blijft leven, moreel verwerpelijk is. Dat schrijft de professor in een opiniestuk in de Britse Krant The Guardian.

"De killer robots waar ik het over heb zijn geen T101 Terminator robots. Het is de eenvoudige AI (afkorting van Artificiële Intelligentie) waar ik mij de grootste zorgen over maak. Het gaat om veel simpelere technologieën die slechts een paar jaar voor ons liggen," aldus de Britse professor.

Denk bijvoorbeeld aan drones die door het luchtruim vliegen van Afghanistan of Irak. Dit zijn 'slechts' semi-automatische wapens, die weliswaar het grootste deel van de tijd zelfstandig vliegen, maar een soldaat maakt nog altijd de allesbepalende beslissing of de drone vuurt of niet en daarmee een mensenleven beëindigd.

Het is echter een kleine technische stap om die soldaat te vervangen door een computer. Het Britse ministerie van Defensie claimt dat dit vandaag de dag al mogelijk is. “Daar ben ik het mee eens”, zegt Walsh. "De BAE Tarantis Drone is daar een goed voorbeeld van. Dit is een prototype voor deze toekomst, dat al een aantal jaar rondvliegt."BAE Tarantis Drone

Maar hoe voorkomen we dan dat onze toekomst wordt gedomineerd door killer robots? De technologieën die een volledig autonome drone mogelijk maken, zullen hoe dan ook worden uitgevonden, zegt Walsh. "Het zijn praktisch dezelfde technieken die worden toegepast in zelfsturende auto’s. Een algoritme dat zelfstandig voetgangers kan identificeren, lokaliseren en targetten kan eenvoudig worden omgevormd tot eentje dat vijandige strijders kan identificeren, lokaliseren en aanvallen."

Deze korte film, genaamd 'Slaughterbots' is gemaakt als protest tegen de ontwikkeling van 'killer robots'

"En in tegenstelling tot nucleaire wapens, zullen autonome wapens goedkoop en uiteindelijk ook hele effectieve wapens worden," gaat de professor verder. "Wapenhandelaren overal ter wereld zullen aan beide kanten van elk conflict dodelijk autonoom wapentuig kunnen verkopen."

Goedkoop, effectief en makkelijk verkrijgbaar; dat klinkt allerminst als een goed recept voor een verbod. Toch is er een hoopgevend historisch precedent dat ons hoop kan geven. Chemische wapens zijn namelijk ook goedkoop in productie en net zoals autonome wapens gebruiken dit soort wapens technologieën die door iedereen zijn te gebruiken, eenvoudig verkrijgbaar zijn en onmogelijk om te verbieden.

"We hebben - uiteraard - scheikunde niet verboden, maar het gebruik van chemische wapens wel. Maar hoewel chemische wapens ondanks het verbod toch nog wel eens worden ingezet, is het niet moeilijk om te betogen dat de wereld een betere plaats zou worden als niemand ze meer zou inzetten."

In deze redenering ligt volgens Walsh de sleutel. "Dit is precies hoe we een toekomst met killer robots gaan voorkomen. We spreken af dat het moreel onacceptabel is om machines beslissingen te laten nemen over leven en dood. We eisen dat er altijd een mens in dit proces aanwezig is. Net zoals we ooit afspraken dat het moreel onacceptabel is om chemische wapens in te zetten."

"Door mensen volledig weg te halen, worden killer robots massavernietigingswapens"

Van hieruit volgt de rest. "Wapenfabrikanten produceren geen autonome wapens. Er zijn veel meer winstgevende activiteiten die ze niet van de zwarte lijst van de VN zullen krijgen. Als gevolg hiervan is het moeilijk om autonome wapens te bemachtigen en mensen zullen aarzelen om ze te gebruiken."

Dit gaat verder dan ethiek, vindt Walsh. “Door mensen volledig weg te halen, worden killer robots massavernietigingswapens. Een programmeur krijgt de macht om iets te doen wat voorheen alleen door een heel leger mensen kon worden gedaan. Ze zullen oorlogsvoering industrialiseren. Dit is ook waarom het de derde revolutie van oorlogsvoering wordt genoemd, na de uitvinding van het buskruit en van nucleaire wapens."

Daarnaast zullen killer robots ook terreurwapens zijn. We weten nog niet hoe we robots moeten maken die het internationaal humanitair recht kunnen volgen. En zelfs als we dat kunnen, zijn er genoeg slechteriken, terroristen en schurkenstaten, die alle ethische bezwaren in de wind zullen slaan, denkt Walsh.

"Autonome wapens zullen ook de huidige - onrustige - wereldorde destabiliseren. Je hoeft niet langer een supermacht te zijn om een krachtig leger op te zetten"

Autonome wapens zullen ook de huidige - onrustige - wereldorde destabiliseren. Je hoeft niet langer een supermacht te zijn om een krachtig leger op te zetten. Een aantal 3D-printers en een bescheiden banksaldo volstaan al, denkt Walsh. Bovendien zal het heel moeilijk zijn om te weten wie het was, wanneer je wordt aangevallen. "Leg een killer robot om, maak hem open en kom erachter dat alle informatie versleuteld is."

Overigens hebben ruim vijftig wetenschappers eerder deze week met een boycot gedreigd van een Zuid-Koreaanse universiteit die aan 'killer-robots' zou werken. De wetenschappers, die allen zijn gespecialiseerd in AI, zijn tegen de plannen van de Zuid-Koreaanse KAIST-universiteit om wapens met kunstmatige intelligentie te ontwikkelen.

De groep experts dreigt met deze boycot in aanloop naar een vergadering van de Verenigde Naties in Wenen, waar volgende week internationale restricties op 'killer-robots' worden besproken.

Walsh noemt de boycot ‘een heel duidelijk precedent voor de toekomst'. "Ik hoop dat KAIST in Zuid-Korea zal lobbyen voor een zinvolle menselijke controle tijdens de VN-vergadering van volgende week. Zulke kleine stappen zullen uiteindelijk leiden tot een regelrecht verbod."