Jacob Coxon, investigador da Anthropic, demitiu-se, denunciando a indiferença da indústria perante o risco de a IA poder aniquilar a humanidade. Poucos dias depois, Dario Amodei, diretor executivo da Anthropic, publicou um ensaio em que explica como e por que razão a indústria e os governos devem unir esforços para abrandar o desenvolvimento da IA de fronteira e impedir que esta escape ao controlo humano. Outros aderiram rapidamente.

Nada disto é novo. Geoffrey Hinton, eminente informático conhecido como o "padrinho da Inteligência Artificial", estimou, antes de qualquer outra pessoa, entre 10% e 20% a probabilidade de uma IA avançada poder pôr fim à Humanidade nos próximos 30 anos. Por mais alarmante que isso possa parecer, implica uma probabilidade de sobrevivência de 80% a 90%. Então, como podemos aumentar as probabilidades de alcançar este desfecho mais seguro?

Há formas de aproximar a Humanidade do lado mais seguro das probabilidades de Hinton. Nada é garantido, mas algumas condições fariam a diferença.

A cooperação entre os Estados Unidos e a China é um foco óbvio, dado que são os países com maior influência sobre o futuro da IA. A proposta de Amodei, que prevê avaliadores independentes integrados, limiares de capacidades e um caminho para normas partilhadas, constitui uma base sólida, mas não pode partir de uma única empresa. Outros intervenientes, incluindo os governos, têm de estar de acordo.

O abrandamento deveria ser uma condição prévia e um objetivo imediato, para ganhar tempo para criar três mecanismos de avaliação: verificação contra o desenvolvimento e a implementação clandestinos, avaliação independente de capacidades perigosas e monitorização coletiva de incidentes com protocolos de crise.

Há um precedente de cooperação........

© Diário de Notícias