Há umas semanas, num jantar, alguém me perguntou com ar sério se eu, que trabalho com isto todos os dias, tinha medo de que a inteligência artificial acabasse por nos matar a todos. A pergunta não veio do nada. Geoffrey Hinton, prémio Nobel da Física em 2024 e uma das pessoas que mais contribuiu para as redes neuronais que hoje usamos, tem repetido em entrevistas que estima entre 10% e 20% a probabilidade de a IA levar à extinção da humanidade nas próximas décadas. Eliezer Yudkowsky publicou no ano passado um livro cujo título dispensa leitura: If Anyone Builds It, Everyone Dies. Com este pano de fundo, a pergunta do jantar é legítima. A minha resposta, que demorou mais do que devia, é a que se segue.

Um modelo de linguagem, seja o ChatGPT, o Claude, o Gemini ou qualquer outro, é uma função matemática. Recebe uma sequência de texto e devolve, para cada palavra possível do seu vocabulário, a probabilidade de essa palavra ser a próxima. Depois escolhe-se uma, acrescenta-se à sequência, e repete-se o processo. É tudo. Não há uma segunda camada onde vive um «eu» com preferências. Não há um sítio no modelo onde esteja guardado o desejo de continuar a existir, de acumular recursos ou de se livrar de quem o desliga. Se lhe pedirmos para escrever um poema sobre a morte, escreve. Se lhe pedirmos para explicar por que razão quer dominar o mundo, explica, com a mesma fluência e o mesmo grau de convicção com que explicaria uma receita de bolo. Em ambos os casos está a fazer exactamente a mesma coisa: a........

© Observador