In deze tijd van toenemende autonomie van machines, zowel op de werk- en beursvloer als in de strijd als in het verkeer, is het goed om oudgediende Isaac Asimov weer eens te citeren, die al lang geleden zijn wetten van de robotica formuleerde. Deze wetten van Asimov geven een hiërarchie van handelen aan, waaraan elke robot – lees autonome machine in de breedste zin van het woord – zich moet houden. Ze stellen het volgende:
1 – Een robot mag geen mens verwonden of, door niet te handelen, toestaan dat een mens iets overkomt. 2 – Een robot moet de bevelen van mensen gehoorzamen, behalve wanneer deze in strijd zijn met de eerste wet. 3 – Een robot moet zichzelf preserveren zolang dit niet conflicteert met de eerste of de tweede wet.
Deze regels werden voor het eerst zo geformuleerd in een sciencefiction verhaal dat zich afspeelt op die verre planeet dicht bij onze zon, Mercurius. Toen Asimov ze opschreef was robotica op deze aarde nog een ver van mijn bed show, alhoewel er op datzelfde moment alweer voor de derde keer in onze geschiedenis een oorlog op industriële schaal in volle gang was.* De systematische moord op miljoenen mensen in concentratiekampen, eveneens op industriële schaal, was echter nieuw. De verregaande mechanisatie van het conflict tussen Hitler en de rest van de wereld zou Asimov goed geïnspireerd kunnen hebben tot het scherper formuleren van zijn wetten, die in zijn verhalen tot 1942 slechts impliciet voorkwamen.
De associatie met de recente waarschuwing van robot-specialisten in het huidige state-of-the-art-veld dringt zich op. Vorige week zonden zij hun noodkreet de wereld in, vooral in de richting van de wereldlijke powers-that-be. De niet mis te verstane boodschap was:
“Verbied wereldwijd de ontwikkeling van autonome robot-wapens, ook wel “killer robots” genaamd, die zonder tussenkomst van menselijke intelligentie geweld tegen mensen gebruiken.”
Wat ze eigenlijk bedoelen is dat er geen robots ontwikkeld zouden moeten worden, die expliciet diametraal tegen de drie wetten van Asimov in handelen. Anders gesteld, alle robots moeten de drie wetten spijkerhard en dwingend in hun sodemieter geëtst krijgen. Met autonome machines als combattanten in de strijd zou de mensheid absoluut de verkeerde weg in slaan. Dus op het gevaar af enigszins naïef over te komen, kan ik me goed vinden in de oproep van de anti-strijdrobot-specialisten én in de Duitse implementatie van Asimov in de zelfrijdende auto’s. Anderzijds kennen we ook allemaal de geschiedenis van de atoombom. Dat was ook zo’n “game-changer” waaraan we beter niet hadden kunnen beginnen. We zijn met die techniek een onomkeerbare grens over gegaan, waartegen veel van de ontwikkelaars toentertijd ook al waarschuwden; projectleider Oppenheimer en theoreticus Einstein incluis.
Om het gezellig te houden laat ik hier fenomenen als losgeslagen wetenschappers en rogue-states als Noord-Korea even weg. Meer robot-gevaar: industriële en consumentenrobots zijn te hacken en een waarschuwing tegen de “killer robots”.
*) 1: De Krimoorlog (1853–1856), 2: WO‑I (1914–1918) en 3: WO-II (1939–1945).
