Asimov actueel – De Drie Wetten van de Robotica

In de­ze tijd van toe­ne­men­de au­to­no­mie van ma­chi­nes, zo­wel op de werk- en beurs­vloer als in de strijd als in het ver­keer, is het goed om oud­ge­dien­de Is­aac Asi­mov weer eens te ci­te­ren, die al lang ge­le­den zijn wet­ten van de ro­bo­ti­ca for­mu­leer­de. De­ze wet­ten van Asi­mov ge­ven een hi­ë­rar­chie van han­de­len aan, waar­aan el­ke ro­bot – lees au­to­no­me ma­chi­ne in de breed­ste zin van het woord – zich moet hou­den. Ze stel­len het vol­gen­de:

1 – Een ro­bot mag geen mens ver­won­den of, door niet te han­de­len, toe­staan dat een mens iets over­komt. 2 – Een ro­bot moet de be­ve­len van men­sen ge­hoor­za­men, be­hal­ve wan­neer de­ze in strijd zijn met de eer­ste wet. 3 – Een ro­bot moet zich­zelf pre­ser­ve­ren zo­lang dit niet con­flic­teert met de eer­ste of de twee­de wet.

De­ze re­gels wer­den voor het eerst zo ge­for­mu­leerd in een sci­en­ce­fic­ti­on ver­haal dat zich af­speelt op die ver­re pla­neet dicht bij on­ze zon, Mer­cu­ri­us. Toen Asi­mov ze op­schreef was ro­bo­ti­ca op de­ze aar­de nog een ver van mijn bed show, al­hoe­wel er op dat­zelf­de mo­ment al­weer voor de der­de keer in on­ze ge­schie­de­nis een oor­log op in­du­stri­ë­le schaal in vol­le gang was.* De sys­te­ma­ti­sche moord op mil­joe­nen men­sen in con­cen­tra­tie­kam­pen, even­eens op in­du­stri­ë­le schaal, was ech­ter nieuw. De ver­re­gaan­de me­cha­ni­sa­tie van het con­flict tus­sen Hit­ler en de rest van de we­reld zou Asi­mov goed ge­ïn­spi­reerd kun­nen heb­ben tot het scher­per for­mu­le­ren van zijn wet­ten, die in zijn ver­ha­len tot 1942 slechts im­pli­ciet voor­kwa­men.

De as­so­ci­a­tie met de re­cen­te waar­schu­wing van ro­bot-spe­ci­a­lis­ten in het hui­di­ge sta­te-of-the-art-veld dringt zich op. Vo­ri­ge week zon­den zij hun nood­kreet de we­reld in, voor­al in de rich­ting van de we­reld­lij­ke po­wers-that-be. De niet mis te ver­sta­ne bood­schap was:

Ver­bied we­reld­wijd de ont­wik­ke­ling van au­to­no­me ro­bot-wa­pens, ook wel “kil­ler ro­bots” ge­naamd, die zon­der tus­sen­komst van men­se­lij­ke in­tel­li­gen­tie ge­weld te­gen men­sen ge­brui­ken.

Wat ze ei­gen­lijk be­doe­len is dat er geen ro­bots ont­wik­keld zou­den moe­ten wor­den, die ex­pli­ciet dia­me­traal te­gen de drie wet­ten van Asi­mov in han­de­len. An­ders ge­steld, al­le ro­bots moe­ten de drie wet­ten spij­ker­hard en dwin­gend in hun so­de­mie­ter ge­ëtst krij­gen. Met au­to­no­me ma­chi­nes als com­bat­tan­ten in de strijd zou de mens­heid ab­so­luut de ver­keer­de weg in slaan. Dus op het ge­vaar af enigs­zins na­ïef over te ko­men, kan ik me goed vin­den in de op­roep van de an­ti-strijd­ro­bot-spe­ci­a­lis­ten én in de Duit­se im­ple­men­ta­tie van Asi­mov in de zelf­rij­den­de auto’s. An­der­zijds ken­nen we ook al­le­maal de ge­schie­de­nis van de atoom­bom. Dat was ook zo’n “ga­me-chan­ger” waar­aan we be­ter niet had­den kun­nen be­gin­nen. We zijn met die tech­niek een on­om­keer­ba­re grens over ge­gaan, waar­te­gen veel van de ont­wik­ke­laars toen­ter­tijd ook al waar­schuw­den; pro­ject­lei­der Op­pen­hei­mer en the­o­re­ti­cus Ein­stein in­cluis.

Om het ge­zel­lig te hou­den laat ik hier fe­no­me­nen als los­ge­sla­gen we­ten­schap­pers en ro­gue-sta­tes als Noord-Ko­rea even weg. Meer ro­bot-ge­vaar: in­du­stri­ë­le en con­su­men­ten­ro­bots zijn te hac­ken en een waar­schu­wing te­gen de “kil­ler ro­bots”.


*) 1: De Kri­moor­log (1853−1856), 2: WO-I (1914−1918) en 3: WO-II (1939−1945).

Zelf­scho­ling – of, hoe ver­pruts ik mijn kin­de­ren
De zoet­stof-in­su­li­ne ho­ax (nog een­tje dan)
T⛪UIS | MUURK✍NT | | Carlito, ergo SUM! - JAARGANG 8 | ◬