Líder da Anthropic vê 10% de risco de IA "matar todos humanos" em 10 anos

O cientista líder de alinhamento da Anthropic, empresa por trás do chatbot Claude, disse acreditar que há mais de 10% de chance de a inteligência artificial "matar todos os humanos" dentro da próxima década. O choque não está só no número, mas no fato de ele vir de alguém cujo trabalho é justamente tentar impedir que a IA "saia da linha" - e isso acendeu um debate que mistura medo real, disputa por regulação e suspeitas de marketing.

Assine a newsletter de IAgora? e receba toda semana análises fresquinhas de IA no seu email.

*Evan Hubinger, pesquisador de segurança da Anthropic e líder de alinhamento (a área que tenta fazer a IA seguir valores e intenções humanas), escreveu no X que acredita "pessoalmente haver mais de 10% de chance de a IA matar todos os humanos" na próxima década.

Josias de SouzaFlávio Dino transforma Fachin em asterisco

Flávio Dino transforma Fachin em asterisco

Matheus PichonelliPartidos elegem ministros e 'malvados' favoritos

Partidos elegem ministros e 'malvados' favoritos

SakamotoDino dá nome aos bois em decisão contra Mendonça

Dino dá nome aos bois em decisão contra Mendonça

Milly LacombeAlguém ainda confia em Carlo Ancelotti?

Alguém ainda confia em Carlo Ancelotti?

*Ele disse que o risco dos modelos atuais seria "baixo", mas que teme uma aceleração rápida, em que a tecnologia passe a melhorar a si mesma e fique difícil de prever e controlar.

*O comentário veio após Jacob Coxon, pesquisador que pediu demissão ontem da Anthropic e que já trabalhou na OpenAI, acusar as duas empresas de agirem de forma irresponsável e de estarem "apostando com nossas vidas".

*Coxon afirmou que os sistemas devem ficar "super-humanos", capazes de invadir sistemas,........

© UOL