Asi­mov ac­tu­eel – De Drie Wet­ten van de Ro­bo­ti­ca

In de­ze tijd van toe­ne­men­de au­to­no­mie van ma­chi­nes, zo­wel op de werk- en beurs­vloer als in de strijd als in het ver­keer, is het goed om oud­ge­dien­de Is­aac Asi­mov weer eens te ci­te­ren, die al lang ge­le­den zijn wet­ten van de ro­bo­ti­ca for­mu­leer­de. De­ze wet­ten van Asi­mov ge­ven een hi­ë­rar­chie van han­de­len aan, waar­aan el­ke ro­bot – lees au­to­no­me ma­chi­ne in de breed­ste zin van het woord – zich moet hou­den. Ze stel­len het vol­gen­de:

1 – Een ro­bot mag geen mens ver­won­den of, door niet te han­de­len, toe­staan dat een mens iets over­komt. 2 – Een ro­bot moet de be­ve­len van men­sen ge­hoor­za­men, be­hal­ve wan­neer de­ze in strijd zijn met de eer­ste wet. 3 – Een ro­bot moet zich­zelf pre­ser­ve­ren zo­lang dit niet con­flic­teert met de eer­ste of de twee­de wet.

De­ze re­gels wer­den voor het eerst zo ge­for­mu­leerd in een sci­en­ce­fic­ti­on ver­haal dat zich af­speelt op die ver­re pla­neet dicht bij on­ze zon, Mer­cu­ri­us. Toen Asi­mov ze op­schreef was ro­bo­ti­ca op de­ze aar­de nog een ver van mijn bed show, al­hoe­wel er op dat­zelf­de mo­ment al­weer voor de der­de keer in on­ze ge­schie­de­nis een oor­log op in­du­stri­ë­le schaal in vol­le gang was.* De sys­te­ma­ti­sche moord op mil­joe­nen men­sen in con­cen­tra­tie­kam­pen, even­eens op in­du­stri­ë­le schaal, was ech­ter nieuw. De ver­re­gaan­de me­cha­ni­sa­tie van het con­flict tus­sen Hit­ler en de rest van de we­reld zou Asi­mov goed ge­ïn­spi­reerd kun­nen heb­ben tot het scher­per for­mu­le­ren van zijn wet­ten, die in zijn ver­ha­len tot 1942 slechts im­pli­ciet voor­kwa­men.

De as­so­ci­a­tie met de re­cen­te waar­schu­wing van ro­bot-spe­ci­a­lis­ten in het hui­di­ge sta­te-of-the-art-veld dringt zich op. Vo­ri­ge week zon­den zij hun nood­kreet de we­reld in, voor­al in de rich­ting van de we­reld­lij­ke po­wers-that-be. De niet mis te ver­sta­ne bood­schap was:

Ver­bied we­reld­wijd de ont­wik­ke­ling van au­to­no­me ro­bot-wa­pens, ook wel “kil­ler ro­bots” ge­naamd, die zon­der tus­sen­komst van men­se­lij­ke in­tel­li­gen­tie ge­weld te­gen men­sen ge­brui­ken.

Wat ze ei­gen­lijk be­doe­len is dat er geen ro­bots ont­wik­keld zou­den moe­ten wor­den, die ex­pli­ciet dia­me­traal te­gen de drie wet­ten van Asi­mov in han­de­len. An­ders ge­steld, al­le ro­bots moe­ten de drie wet­ten spij­ker­hard en dwin­gend in hun so­de­mie­ter ge­ëtst krij­gen. Met au­to­no­me ma­chi­nes als com­bat­tan­ten in de strijd zou de mens­heid ab­so­luut de ver­keer­de weg in slaan. Dus op het ge­vaar af enigs­zins na­ïef over te ko­men, kan ik me goed vin­den in de op­roep van de an­ti-strijd­ro­bot-spe­ci­a­lis­ten én in de Duit­se im­ple­men­ta­tie van Asi­mov in de zelf­rij­den­de auto’s. An­der­zijds ken­nen we ook al­le­maal de ge­schie­de­nis van de atoom­bom. Dat was ook zo’n “ga­me-chan­ger” waar­aan we be­ter niet had­den kun­nen be­gin­nen. We zijn met die tech­niek een on­om­keer­ba­re grens over ge­gaan, waar­te­gen veel van de ont­wik­ke­laars toen­ter­tijd ook al waar­schuw­den; pro­ject­lei­der Op­pen­hei­mer en the­o­re­ti­cus Ein­stein in­cluis.

Om het ge­zel­lig te hou­den laat ik hier fe­no­me­nen als los­ge­sla­gen we­ten­schap­pers en ro­gue-sta­tes als Noord-Ko­rea even weg. Meer ro­bot-ge­vaar: in­du­stri­ë­le en con­su­men­ten­ro­bots zijn te hac­ken en een waar­schu­wing te­gen de “kil­ler ro­bots”.


*) 1: De Kri­moor­log (1853−1856), 2: WO-I (1914−1918) en 3: WO-II (1939−1945).

2 gedachtes over “Asi­mov ac­tu­eel – De Drie Wet­ten van de Ro­bo­ti­ca

  1. Tja Bert, dat is on­der­tus­sen een he­le lijst. Mis­schien moet je Jim Parks eens le­zen maar jou ken­nen­de heb je dat al lang ge­daan. Een (zeer be­perk­te) greep: af­we­zi­ge fis­ca­le dis­ci­pli­ne, iets wat in de rest van Afri­ka ook een pro­bleem is; be­weg­wij­ze­ring die niet te vol­gen is; een ci­vie­le in­fra­struc­tuur die niet werkt; ne­po­tis­me op vrij­wel al­le gou­ver­ne­men­te­le ni­veaus; win­kel­ope­nings­tij­den uit de vo­ri­ge eeuw; een so­ci­a­le men­ta­li­teit uit de eeuw daar­voor; aper­te des­in­te­res­se voor het ge­meen­schap­pe­lij­ke goed; ver­stik­ken­de fa­mi­lie­ver­hou­din­gen en het feit dat er in dat he­le land geen fat­soen­lijk brood­je kro­ket te krij­gen is…

  2. In zijn la­te­re werk heeft Asi­mov de “nul­de” wet ge­ïn­tro­du­ceerd, die bo­ven al­le an­de­re wet­ten gaat. Hier­door is het een ro­bot toe­ge­staan om scha­de toe te bren­gen aan een mens, als dat het gro­te­re ge­heel, de mens­heid in het al­ge­meen dus, ten goe­de komt. Asi­mov had de­ze wen­ding no­dig om de foun­da­ti­on boe­ken en de vroe­ge ro­bot boe­ken aan el­kaar te kun­nen kno­pen. De lei­ders van de twee­de foun­da­ti­on be­schik­ken over pa­ra­nor­ma­le ga­ven, waar­door ze het brein van een mens kun­nen be­ïn­vloe­den. La­ter wordt dit toe­ge­schre­ven aan R. Da­neel, de ro­bot uit de eer­ste ro­bot boe­ken. Per­soon­lijk denk ik, in mijn al­ler­slecht­ste mo­men­ten, wel eens dat de aar­de be­ter af zou zijn met al­leen maar ro­bots. Mis­schien iets voor na de Sin­gu­la­ri­ty?

Geef een reactie