Als ik hier al teveel over sterke kunstmatige intelligentie (Stong Artificial Intelligence voor de liefhebbers, of Strong‑A.I.) ga opschrijven, dan val ik ongetwijfeld in herhalingen. Wel wil ik de open brief van onder anderen Stephen Hawking bewaren, die hij pasgeleden schreef met wat kompanen op het Future of Life Institute platform. Daarin waarschuwt een aantal prominenten die het weten kunnen tegen ongecontroleerde en ongewenste ontwikkelingen op het gebied van de kunstmatige intelligentie. In het kort is de strekking van het verhaal dat de mensheid op het punt is aangekomen dat het onderzoek met betrekking tot de vraag hoe K.I. in de hand gehouden moet worden hoge prioriteit heeft. Zo kan worden gegarandeerd dat het de mens welwillend zal blijven.
Op veel deelgebieden is K.I. het laboratorium-stadium voorbij en is het al aan een stevige opmars in het dagelijkse leven bezig. Voor veel systemen is dat zelfs al jaren het geval. Het is ondertussen dus hoog tijd dat er juridische kaders worden gevormd voor het reguleren van bijvoorbeeld de aansprakelijkheid bij handelingen van K.I.. Een leuke actuele issue: wie gaat er betalen als een zelfrijdende auto bij een ongeluk betrokken raakt? Maar ook: wat is de legale status die een intelligente entiteit straks überhaupt gaat krijgen – kunstmatig of niet – als wij mensen dat niet meer exclusief zijn? Ik bedoel maar.
Ik heb er zelf al enige malen iets over genoteerd. Bij het nalezen vind ik zelf Ethische principes bij de creatie van kunstmatige intelligentie en Het gevaar van kunstmatige intelligentie de meest interessante. Maar er is meer. Uit wat ik er zelf over zeg zou moeten blijken dat ik geen vijand van K.I. ben maar dat ik me wel realiseer dat we niet passief achterover kunnen gaan zitten om te kijken wat er gebeurt. Voordat we het dan weten worden we voorbijgestreefd op een manier die we niet willen. Voor de naïevelingen onder ons wil ik gezegd hebben dat een moratorium op specifieke technologie een farce is. Dat is op geen enkele manier wereldwijd te handhaven. Zie ook The Singularity is near (2005) van Ray Kurzweil. De open brief van Hawking en kornuiten zegt het verder beter dan ik het zelf zou kunnen. Ik citeer dus:
Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter
Artificial intelligence (AI) research has explored a variety of problems and approaches since its inception, but for the last 20 years or so has been focused on the problems surrounding the construction of intelligent agents – systems that perceive and act in some environment. In this context, “intelligence” is related to statistical and economic notions of rationality – colloquially, the ability to make good decisions, plans, or inferences. The adoption of probabilistic and decision-theoretic representations and statistical learning methods has led to a large degree of integration and cross-fertilization among AI, machine learning, statistics, control theory, neuroscience, and other fields. The establishment of shared theoretical frameworks, combined with the availability of data and processing power, has yielded remarkable successes in various component tasks such as speech recognition, image classification, autonomous vehicles, machine translation, legged locomotion, and question-answering systems.
As capabilities in these areas and others cross the threshold from laboratory research to economically valuable technologies, a virtuous cycle takes hold whereby even small improvements in performance are worth large sums of money, prompting greater investments in research. There is now a broad consensus that AI research is progressing steadily, and that its impact on society is likely to increase. The potential benefits are huge, since everything that civilization has to offer is a product of human intelligence; we cannot predict what we might achieve when this intelligence is magnified by the tools AI may provide, but the eradication of disease and poverty are not unfathomable. Because of the great potential of AI, it is important to research how to reap its benefits while avoiding potential pitfalls.
The progress in AI research makes it timely to focus research not only on making AI more capable, but also on maximizing the societal benefit of AI. Such considerations motivated the AAAI 2008-09 Presidential Panel on Long-Term AI Futures and other projects on AI impacts, and constitute a significant expansion of the field of AI itself, which up to now has focused largely on techniques that are neutral with respect to purpose. We recommend expanded research aimed at ensuring that increasingly capable AI systems are robust and beneficial: our AI systems must do what we want them to do. The attached research priorities document gives many examples of such research directions that can help maximize the societal benefit of AI. This research is by necessity interdisciplinary, because it involves both society and AI. It ranges from economics, law and philosophy to computer security, formal methods and, of course, various branches of AI itself.
In summary, we believe that research on how to make AI systems robust and beneficial is both important and timely, and that there are concrete research directions that can be pursued today.
Voor een uitgebreide lijst van onderzoeksprioriteiten, zie het documet met de titel “Research priorities for robust and beneficial artificial intelligence”, dat een helder overzicht geeft. Let op: niet voor mietjes.…
