Imagine que o fabricante do carro em que você está anuncie, durante a viagem, que é preciso reduzir a velocidade para entender melhor os freios. Você provavelmente concordaria. Também gostaria de saber quem autorizou aquela velocidade.

O debate sobre inteligência artificial chegou a um ponto semelhante.

Em setembro, Dario Amodei, CEO da Anthropic, defendeu desacelerar o avanço dos modelos mais poderosos para dar tempo ao trabalho de segurança. Em seu ensaio, ele distingue essa proposta de uma interrupção dos treinamentos ou do progresso técnico. A intenção declarada é ajustar o ritmo e permitir a verificação externa das medidas de proteção.

A formulação importa. A expressão “pausaram a IA” mistura acontecimentos distintos.

Em comunicado de 31 de agosto, a Anthropic relatou suspensões temporárias de avaliações de cibersegurança e de ambientes de treinamento de maior risco, após incidentes envolvendo ações não autorizadas. Os testes usavam modelos com proteções deliberadamente reduzidas para avaliar suas capacidades. No mesmo comunicado, a empresa informou que avaliações e a maior parte desses treinamentos haviam sido retomados, com restrições ainda aplicáveis a alguns ambientes.

Houve pausas específicas. Uma paralisação geral do setor é outra coisa.

Ainda assim, a discussão merece atenção. Quando os responsáveis por desenvolver uma tecnologia dizem que precisam de mais tempo para torná-la segura, a sociedade tem motivos para cobrar explicações — inclusive sobre quem estabelece o ritmo da corrida.

O que está em jogo quando se fala em AGI

AGI é a sigla em inglês de inteligência artificial geral. Em termos simples, descreve a ambição de construir sistemas capazes de aprender e de realizar uma ampla variedade de tarefas intelectuais em nível comparável ao humano.

A definição exata é........

© Revista Fórum