In 1942 werden in het Short Story “Runaround” (I Robot), geschreven door Isaac Asimov, drie regels neergelegd waaraan elke robot moet voldoen. Deze “Three Laws of Robotics” gaan als volgt:
1: A robot may not injure a human being or, through inaction, allow a human being to come to harm.” 2: A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.” 3: A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
Nu, ruim 70 jaar later, roept Human Rights Watch (HRW) op tot een globaal protest tegen wat zij de ontwikkeling van de Killer Robot noemt. Killer Robots zijn autonome robots die kunnen worden ingezet als wapens en die, net zoals soldaten, zelf hun gewelds-niveau kunnen bepalen. Anders gezegd: deze robots kunnen doden zonder dat daar een mens aan te pas hoef te komen.
Zien we allemaal die ene scene van The Terminator voor ons, waar dat soort machines over een donkere, levenloze planeet marcheert en alles wat beweegt in de buurt gewetenloos afschiet? Ongeveer zo zou het kunnen worden als we daar volgens HRW niets tegen doen en ik denk dat zij daarin gelijk heeft. Als we geen oorverdovend protest laten horen via alle gremia die we daarvoor kunnen inzetten, dan zitten we over een decennium of twee/drie met intelligente machines die mensen kunnen afslachten. Dat mag nooit gebeuren. Dus een tent als de V.N. zou een resolutie met dat doel moeten aannemen. Daarbij gaat het niet eens om de controle op de proliferatie ervan, zoals met kernwapens het geval is, maar om het voorkomen van de productie van ook maar één exemplaar.
Het is aardig bedacht, bedenk ik mij net, maar we hebben daar wel gelijk een probleem. De productie van kernwapens is buitengewoon kostbaar en complex. Dat krijgt alleen een mogendheid die daarvoor de middelen en kennis kan mobiliseren voor elkaar. En dat geldt (gelukkig nog) niet voor veel van de huidige naties. Echter, voor het maken van intelligente en” autonome” robots ligt de zaak heel anders. Dat kan ik over niet al te lange tijd zelf, als ik maar afwacht totdat de meeste componenten gewoon in de” elektronica-handel” te koop zijn voor een paar grijpstuivers en ik een paar goedgeplaatste handboeken doorlees.
Ik blijf dit even volgen, omdat een volledige ban op autonome wapens wel gewenst maar nauwelijks af te dwingen of te controleren lijkt. Ik ben dus heel benieuwd hoe een entiteit die dat verbod wil gaan opleggen dat gaat doen. Anderzijds ben ik ook benieuwd naar wat de “rogue states” of andere losgeslagen concentraties van macht, territorium en middelen gaan doen. Zoals bij veel moderne technologie zoals kloneren of DNA-manipulatie” het geval is, is het geweten van de uitvoerder (en dat van zijn opdrachtgever) bijna de enige grens die er ligt tussen het wel of niet ontwikkelen van een techniek. Een fysieke complicatie, zoals bij het fabriceren van wapen-graad plutonium, is er vaak niet meer. Dus wat moeten we dan? We kunnen kwalijk elke werkplaats en elk laboratoruim op deze planeet van surveillance apparatuur gaan voorzien.
Ik vind het initiatief van HRW een uitstekend begin van de” discussie” over de ontwikkeling van autonome wapens, maar ik moet de uitwerking nog even zien. Omdat iets moeilijk is hoeft dat nog niet te betekenen dat we het niet doen, dus HRW moet dit issue niet meer laten rusten. Ondertussen ben ik gewoon TEGEN!
