Google’s Sundar Pichai is tegen gewapende AI

Het huidige opperhoofd van Google, Sundar Pichai, zal (zijn bedrijf en mensen) niet (laten) meewerken aan het ontwikkelen van S-AI (Strong Artificial Intelligence, NL: S-KI – Sterke Kunstmatige Intelligentie) voor wapentuig. Dit meldt hij in zijn blog-post van gisteren. Het is een zeer welkome melding, vooral voor mij, omdat ik pasgeleden nietsvermoedend een aflevering van “Black Mirror” (NetFlix 2011) heb bekeken, getiteld “Metalhead” (2017), waarin maar weer blijkt wat autonoom wapentuig op onze planeet kan veroorzaken: Het einde van alle zich voortbewegende leven op aarde.

Ik heb hier al heel vaak iets gezegd over kunstmatige intelligentie, dus dat ga ik (nu) niet nog een keer herhalen. Twee novi wil ik echter wel aangetekend hebben.

De eerste is dus die aflevering van Black Mirror, een bijzonder deprimerend stukje film waarvan ik zeker een dag of drie niet goed heb kunnen slapen. En als ik dat wel deed, dan werd ik tegelijkertijd in de meest bizarre nachtmerrie achtervolgd door zo’n Metalhead met een missie. En die missie was ik. Ik kan iedereen verzekeren dat het uiterst onfijn dromen was.

Het tweede novum is de blog-post van Pichai, waarin hij De Drie Hoofdwetten van de Robotica – neergelegd door Isaac Asimov himself – in eigen woorden en beleid nog eens haarfijn uitlegt. Ik geef toe, na Black Mirror is de stelligheid van deze bewustzijnsfabrikant heel niet onwelkom. Voor een facsimile exemplaar, klik op de foto hiernaast. Voor de gewone sterveling staan hieronder de items die ertoe doen. (Ik citeer vrij en vertaal niet professioneel. Hen die wendbaar genoeg zijn in het lezen van Engels raad ik daarom aan de originele blog-post te lezen.)

Sundar Pichai (Google CEO): “De doelenstelling van KI ontwikkeling:

Wees sociaal van voordeel; voorkom de creatie of versterking van oneerlijke vooroordelen; wees gebouwd en getest voor veiligheid; wees verantwoordelijk naar mensen toe; incorporeer privacy-ontwerpprincipes; houd hoge standaards van wetenschappelijke excellentie; wees beschikbaar voor gebruik dat met deze principes in overeenstemming is.

KI die we niet gaan ontwikkelen:

Technologie die (in potentie) kwaad kan doen; wapens of andere technologie waarvan het hoofddoel of de belangrijkste implementatie het directe toebrengen van verwondingen aan mensen of het faciliteren daarvan is; technologieën die informatie verzamelen of gebruiken in strijd met internationaal geaccepteerde normen; technologieën waarvan de doelen in tegenspraak zijn met breed geaccepteerde principes van internationaal recht en mensenrechten.”

Deze principes snijden hout en ben blij met de formulering ervan door iemand op een dergelijk hoge positie. Als we op de politieke beleidsmakers zouden moeten wachten, dan zitten we met de gebakken Metalhead-peren voordat we er lucht van krijgen. In dat licht is het jammer dat politiek regelmatig door mensen wordt gemaakt die niet veel lijken te weten van de werkelijke mogelijkheden van KI (of welke andere nieuwe Tech dan ook). Hun basis kan een electoraat zijn dat niet veel beter is geïnformeerd. Daardoor regeren politici regelmatig vanuit hun onderbuik, waardoor ze belangrijke zaken missen en onbelangrijke zaken overdrijven. Dat infame moratorium van Bush op genetische experimenten was zo’n typisch gevalletje waarvan opvolger Obama niet wist hoe snel hij het weer moest opheffen. Het is een erg jammer en vervelend bij-effect van de democratie, maar zo zit de wereld nu eenmaal in elkaar.

Marsmannetjes, minuscuul wellicht, maar toch...
Rusland manipuleert de V.S. & de V.S. Europa