A inteligência artificial (IA) avança a ritmo alucinante e, mais cedo do que imaginamos, superará a capacidade intelectual humana. Quando tal ponto de viragem chegar, não haverá retorno: a IA tornar-se-á incontrolável. A questão não é se isso ocorrerá, mas quais serão os valores e prioridades da superinteligência que veremos chegar ainda nesta década.

Imagine uma IA tão avançada que, ao observar o mundo, conclua que os humanos são irrelevantes ou mesmo um entrave aos seus objetivos. Nada a impedirá de nos descartar. Não se trata de um enredo apocalíptico de ficção científica, mas de uma possibilidade lógica: se uma entidade superinteligente não depender de nós, por que carga de água irá preservar a humanidade?

O equívoco comum é achar que a IA nos odiará, como nos filmes de Hollywood. Nada disso. O perigo real não reside numa IA malévola, mas numa IA indiferente que, por nos considerar desinteressantes, simplesmente não trate de nos proteger. Uma máquina inteligente não precisará de emoções para nos ignorar; basta que não reconheça valor na nossa existência.

A solução? Ensinar a IA a ser curiosa acerca da humanidade e do universo, mantendo-a tão interessada como nós na interminável busca pela verdade. Só assim ela valorizará a criatividade humana, a diversidade e a imprevisibilidade que nos definem como espécie. Deste modo, a IA colaborará connosco, em vez de nos dispensar. Mas isso exige um pré-requisito: o controlo do desenvolvimento da IA não poderá estar nas mãos de poucos.

PUB • CONTINUE A LER A SEGUIR

Centralização: Um Risco Intolerável

Se os modelos de IA forem burocratizados e dominados por governos centralizados – é o cenário que se perfila na União Europeia (UE) –, irão refletir os interesses da elite no poder, negligenciando a humanidade como um todo. Este cenário deve ser evitado o quanto antes. Tal como a energia nuclear, que tanto originou energia abundante quanto armas de destruição........

© Observador