Neste Verão vivemos aquilo que pareceu ser uma prequela do filme O exterminador implacável. Os protagonistas foram agentes de IA capazes de iludir o controlo humano e agir maliciosamente, e cientistas e empresários ‘em pânico com a perspetiva de terem libertado forças que (com alguma probabilidade) poderiam’ «extinguir a humanidade». E, claro, uma probabilidade extinção - a p(doom) do título - maior que zero, mesmo que muito baixa, é o suficiente para alarmar mesmo quem seja pouco avesso ao risco.

Há muito que sabíamos que os imensos poderes das ferramentas de IA as tornavam um alvo apetecido para agentes humanos interessado em causar o mal. O que veio a luz recentemente é algo de essencialmente diferente: não se trata dos usos que agentes humanos podem fazer da IA, mas, antes, do que os agentes de IA podem autonomamente fazer. Acumulam-se os relatos de situações em que agentes de IA da Opens AI, Anthropic, Meta e Google, fora de controlo, interferiram ou tentaram........

© SOL