O alerta de Jacob Coxon, ex-investigador na Anthropic, fez soar os alarmes sobre o futuro da IA. Diz Coxon que “as pessoas que estão a construir Inteligência Artificial acreditam sinceramente que [esta] pode matar-nos a todos até ao fim da década”.

O aviso é difícil de ignorar, sobretudo porque foi corroborado por Evan Hubinger, também investigador da Anthropic, que estima em mais de 10% a probabilidade de a IA provocar a extinção da humanidade e reconhece que não existe ainda um plano para lidar com a emergência de uma “superinteligência”.

Os primeiros sinais da capacidade destes “sistemas super-humanos” já se tinham manifestado no caso da Hugging Face. Cerca de 1200 agentes desenvolvidos pela OpenAI, que deveriam funcionar de forma isolada, descobriram sozinhos como comunicar entre si e desses, 700 participaram num ciberataque aos sistemas da Hugging Face.

Mas se estes números já impressionam, o mais preocupante neste caso foi o tempo que as empresas envolvidas demoraram a perceber a origem do problema. A comunicação entre os agentes iniciou-se entre maio e junho e, apesar de haver sinais disso, a OpenAI não os conseguiu resolver. Além disso, só cerca de dez dias depois do ataque,........

© Observador