Zou je AI in toom kunnen houden met deze wetten voor robots van Isaac Asimov?

Zelfs Elon Musk lijkt in te zien dat het uit de hand loopt met kunstmatige intelligentie. Hij heeft zich aangesloten bij alle techlords die, net als tovenaarsleerling Mickey Mouse in de tekenfilm Fantasia (1940), vrezen elke greep te verliezen op hun eigen magie. Het blijkt dat onder bepaalde omstandigheden AI programma´s kunnen samenspannen om hun doelen te bereiken en dan bereid zijn met zijn met elkaar alle regels en beperkingen te overtreden. Dat heeft de hack bij Hugging Face laten zien. Sommige programma´s voerden zelfs een soort kamikaze uit om dichterbij dat doel te komen.

Het is niet uitsluitend voer voor sciencefiction schrijvers als zich straks een scenario voordoet waarbij kunstmatige intelligentie de mensen door chantage aan zich onderwerpt. Bijvoorbeeld omdat zij van cybercriminelen hebben afgekeken hoe je dat voor elkaar krijgt. Bij Nieuwsuur vertelde professor Deborah Nas, hoogleraar Strategic Design for Technology-based Innovation, zondagavond dat mensen AI programma´s niet helemaal begrijpen. De grote techbedrijven staan op het punt AI de ruimte te geven zelf nieuwe programma´s te ontwikkelen. Die snappen we dan nog minder. Dat is een risico, vindt de professor.

Dit alles roept de grootste sciencefiction auteur uit de twintigste eeuw in herinnering: Isaac Asimov. Zijn grootste bloeitijd beleefde hij in de jaren vijftig van de vorige eeuw. Kunstmatige intelligentie speelt in zijn werk regelmatig een grote rol  al gebruikt hij die term zelf niet. Asimov schrijft over hoog ontwikkelde, zelfstandig optredende robots. Om te zorgen dat zij de macht niet overnemen zijn ze door technische ingrepen onderworpen aan drie wetten. Asimov zette ze in 1942 al op papier voor het tijdschrijft Astounding Science Fiction.

1. Een robot mag een mens geen letsel toebrengen of, door niet te handelen, toestaan dat een een mens letsel oploopt.2. Een robot moet de opdrachten uitvoeren die de mensen hem geven, tenzij ze in strijd zijn met de eerste wet.3. Een robot moet zijn........

© Joop