Medo de "IApocalipse" se espalha e até Trump fala em "botão do pânico"

Esta é a newsletter de IAgora?. Inscreva-se gratuitamente para receber no seu email toda semana

O medo de um "apocalipse da IA" saiu dos fóruns de tecnologia e invadiu a política na última semana, depois que pesquisadores dentro de laboratórios como Anthropic e OpenAI fizeram alertas públicos sobre risco de perda de controle. No meio do barulho, empresas correm para criar "botões do pânico" (os chamados "kill switches") - enquanto Donald Trump sugeriu que sempre terá um jeito para "desligar" robôs.

*Um pesquisador da Anthropic, Jacob Coxon, pediu demissão e acusou Anthropic e OpenAI de estarem "apostando com nossas vidas" ao correrem rumo a uma IA superpoderosa, dizendo que gente de dentro acredita que isso poderia "matar todo mundo" até o fim da década.

Josias de SouzaMoraes descobre que o Olimpo não tem escadas

Moraes descobre que o Olimpo não tem escadas

Daniela LimaMoraes e o próprio STF estão no banco dos réus

Moraes e o próprio STF estão no banco dos réus

Fábio ZaniniCrise no STF: campanha de Flávio vê 'ganha-ganha'

Crise no STF: campanha de Flávio vê 'ganha-ganha'

Felipe SaltoÉ preciso cortar as benesses tributárias

É preciso cortar as benesses tributárias

*A fala foi corroborada logo depois pelo cientista líder de alinhamento da Anthropic - ou seja, o responsável pela equipe que coloca "correntes" na IA para não sair de controle. Evan Hubinger escreveu no X que acredita "pessoalmente haver mais de 10% de chance de a IA matar todos os humanos" na próxima década.

*A repercussão foi enorme nas redes e puxou reações de políticos e celebridades, além de apoio de funcionários de outras empresas de IA, segundo a Bloomberg. Isso fez com que os donos das empresas que lideram a corrida falassem abertamente no fim de semana sobre "desacelerar" o avanço da inteligência artificial.

*Paul Christiano, pesquisador de segurança em IA e conselheiro do governo dos EUA, entrou para o conselho da fundação sem fins lucrativos ligada à OpenAI e afirmou que há "risco significativo" de uma aceleração rápida levar a uma perda de controle "catastrófica e irreversível" em breve, e que a indústria não estaria no caminho de reduzir isso a um nível aceitável.

*Ainda não existe um "botão do pânico" contra o descontrole da IA. Dá para desligar servidores individuais, mas sistemas potentes rodam distribuídos por várias máquinas — não há uma tomada única para puxar.

*A saída tem sido trabalhar em camadas: detectar comportamento suspeito, travar o agente e........

© UOL