Imagine que entra num avião, aperta o cinto e ouve a voz do comandante: «Senhores passageiros, bem-vindos a bordo. Temos boas razões para acreditar que chegaremos ao destino. Ainda assim, alguns dos engenheiros que construíram este avião estimam em mais de 10% o risco de isso não acontecer. Desejamos a todos uma boa viagem».

Não haveria debate sobre os benefícios da aviação nem apelos à prudência contra o alarmismo. Ninguém, sentado no 14A, defenderia que abandonar o avião seria um obstáculo à inovação. Haveria uma corrida para a porta. Com a inteligência artificial, curiosamente, continuamos sentados.

A comparação talvez seja injusta porque sabemos calcular o risco de um avião cair, mas ninguém sabe calcular o risco de uma IA acabar connosco. Apesar disso, esta semana o medo ganhou nome e número. Jacob Coxon, investigador que passou pela OpenAI e pela Anthropic, avisou que estas empresas estão a apostar com as nossas vidas. Evan Hubinger reiterou o aviso e avançou com um número: a probabilidade de a IA matar todos os humanos na próxima década é superior a 10%.

Foi mais um contributo para um género literário novo: o........

© SOL