De universiteit van Cambridge gaat een onderzoek doen naar de gevaren van “strong Artificial Intelligence” ofwel sterke kunstmatige intelligentie. Dat lijkt mij geen overbodige luxe, ondanks de charme die ik zie in de ontwikkeling ervan. In een eerdere aantekening heb ik me ook al eens afgevraagd wat het effect zal zijn van het ontstaan van nieuwe soorten op deze planeet, die slimmer zijn dan wij. Het gelijk van de menselijke intelligentie zal in ieder geval minder vanzelfsprekend worden dan we nu aannemen.
Ik citeer: “Many scientists are concerned that developments in human technology may soon pose new, extinction-level risks to our species as a whole. Such dangers have been suggested from progress in AI, from developments in biotechnology and artificial life, from nanotechnology, and from possible extreme effects of anthropogenic climate change. The seriousness of these risks is difficult to assess, but that in itself seems a cause for concern, given how much is at stake.”
Inderdaad, want wat moet je met een horde nanobots die helemaal los gaat en zichzelf tot in het oneindige reproduceert totdat er geen ruimte meer voor onszelf is? Het lijkt er op dat we De Pest, die we nog van de moordende epidemieën uit onze Europese geschiedenis kennen, met onze nieuwe snazzy technologie gewoon kunnen gaan nabouwen. Het zijn dan geen biologische bacteriën meer die het kwaad kunnen doen geschieden, maar technologische. Met een dergelijk risico in het achterhoofd moet je de progressie natuurlijk wel een beetje goed kunnen brengen. En dan noem ik hier nog maar één van de vele dingen die er mis kunnen gaan in onze vaart der volkeren. Vandaar dus het onderzoek; en het feit dat ik er blij mee ben…
Ray Kurzweil heeft in zijn boek een hoofdstuk gewijd aan de beveiligingsoverwegingen rond nano-tech en sterke AI. Voor wie zich nu zorgen maakt is dit een goed beginnetje om zichzelf weer wat gerust te laten stellen door iemand die er echt goed over nagedacht heeft. Maar toch: we willen over een paar jaar niet met een nieuw asbestprobleem zitten. Dat is zeker het geval voor “asbest” (lees nano-bots) die niet alleen dodelijk en wijdverspreid is, maar ook nog in meer of mindere mate intelligent.
Anderzijds is het ook zo dat een misvatting over de gevaren van nieuwe technologie een wetenschappelijke tak van sport geheel kan verlammen. Dit laat zich aardig zien in de gevolgen van het stamcelonderzoekverbod dat Bush junior meende te moeten instellen toen hij president van de V.S. was. Dat verbod heeft de V.S. namelijk een reële achterstand in dat veld gegeven. Dit keer was het niet ingegeven door de prioriteit van misplaatste belangen uit de oude industrie, zoals met de hernieuwbare energie wel het geval was. (De V.S. moeten daar dientengevolge voorlopig achter China aan hobbelen en zijn nu passieve afnemers in plaats van actieve ontwikkelaars die een wereldmarkt bedienen.) Het stamcelonderzoekverbod was ingegeven door ordinaire simpelheid; niet echt iets om trots op te zijn dus, maar dat was Bush natuurlijk ook niet…
