Em quase toda a mitologia grega, existe um momento em que o herói descobre que o monstro que procurava derrotar estava, afinal, mais perto do que pensava. Às vezes, dentro de si. Teseu mata o Minotauro, mas fica com o labirinto na cabeça. Perseu decepa a Medusa, mas é no reflexo do escudo que percebe a verdade. A Anthropic, empresa de inteligência artificial fundada por dissidentes da OpenAI, que se consideravam demasiado prudentes face aos seus antigos colegas, acaba de olhar para o seu próprio escudo.

E, ao que parece, não gostou do que viu!

Recentemente, a empresa revelou o Claude Mythos, um modelo que descreve como "o mais poderoso que alguma vez construímos" e, quase no mesmo fôlego, "demasiado perigoso para lançar ao público". E isto não é apenas retórica de Silicon Valley porque em poucas semanas de testes, o Mythos identificou milhares de vulnerabilidades escondidas há décadas no código de sistemas operativos que fazem funcionar hospitais, centrais eléctricas, bancos. Falhas que nenhum ser humano tinha encontrado. Portas que, nas mãos erradas, se abrem para lugares onde ninguém quer ir.

A Anthropic nasceu da ideia de que a Inteligência Artificial precisava de ser desenvolvida com cautela e responsabilidade. Os irmãos Amodei saíram da OpenAI convencidos de que Sam Altman estava a acelerar demasiado. Fundaram uma empresa cujo lema implícito sempre foi: “nós somos os adultos na sala”. E agora têm nas mãos exactamente aquilo que temiam, só que com a sua própria assinatura.

O governo americano bate-lhes à porta. As agências de segurança e os grandes bancos fazem fila para experimentar. E a Anthropic, essa guardiã autoproclamada da prudência, distribui o seu monstro a um clube selecto de gigantes, Amazon, Apple, Microsoft,........

© SOL