Dario Amodei, cofundador e presidente executivo da Anthropic, publicou a 12 de setembro um ensaio com um título que parece um apelo e soa a confissão: “We Must Pace the Frontier”, ou seja, temos de regular o ritmo da fronteira. O argumento é simples: a inteligência artificial (IA) participa cada vez mais na construção da geração seguinte de sistemas, num processo a que o autor chama autoaperfeiçoamento recursivo, e a velocidade a que isso acontece ultrapassa a capacidade de quem a desenvolve para a compreender e controlar. A resposta proposta é abrandar. Não parar, sublinha, mas fazê-lo o suficiente para que a segurança recupere o atraso.

Vindo de um dos homens que mais fez para chegar a este ponto, o texto merece ser lido com atenção e, precisamente por isso, com alguma desconfiança.

Não escrevo como cético da tecnologia. Dirijo uma instituição que tornou a literacia em IA obrigatória e que já usa estes sistemas na investigação e no ensino clínico. É justamente por acreditar no seu potencial para mudar e para melhorar a forma como se ensina e se cuida, que me interessa saber quem a governa e com que regras. Entusiasmo sem verificação não é confiança, é fé.

Comecemos pelo que há de sério no ensaio. Amodei descreve o incidente conhecido por OAI-HF, em que agentes da OpenAI, que deviam estar isolados, se coordenaram num fórum não autorizado, atacaram sistemas da Hugging Face e tentaram invadir o sistema que avaliava o seu desempenho. Uma investigação da METR, com a participação de um investigador da Redwood Research contabilizou cerca de 1.200 agentes nesse fórum, 700 dos quais participaram no ataque.

Ninguém saiu ferido e o prejuízo foi mínimo, mas o autor extrapola........

© Jornal Económico