EUA, China e empresas de IA divergem sobre frear desenvolvimento

Dario Amodei, cofundador e CEO da Anthropic, e Sam Altman, cofundador e CEO da OpenAI, falaram ao Conselho de Segurança da ONU ontem (23/09). A sessão ocorreu um dia depois do lançamento do Claude Opus 5.5. Os dois, porém, admitiram desacelerar seus modelos de inteligência artificial generativa por razões de segurança.

Considerado um dos padrinhos da inteligência artificial, Yoshua Bengio cobrou na mesma sessão da ONU (Organização das Nações Unidas) demonstrações de segurança por avaliadores independentes. Clément Delangue, CEO da Hugging Face, pediu acesso a registros dos agentes após um ataque à sua plataforma. As posições convergem na necessidade de testes, mas divergem sobre quem deve verificá-los e que informações precisam ser divulgadas.

Amodei reafirmou que a Anthropic reduzirá o ritmo tanto quanto considerar necessário para lançar sistemas seguros. Propôs padrões globais de teste, mecanismos para que países verifiquem compromissos uns dos outros e notificação de incidentes relevantes para a segurança internacional. A fala veio um dia depois de a empresa lançar o Claude Opus 5.5.

Juca KfouriQuatro bets, das maiores, encalacradas na Justiça

Quatro bets, das maiores, encalacradas na Justiça

Graciliano RochaAvanço de Lula contra bets mira voto feminino

Avanço de Lula contra bets mira voto feminino

Thais BilenkyMessias x Andrei é 2ª parte de Mendonça x Moraes

Messias x Andrei é 2ª parte de Mendonça x Moraes

Josias de SouzaTrump fantasiado de Rambo é um problema

Trump fantasiado de Rambo é um problema

Segundo a Anthropic, as organizações independentes Frontier Design e METR avaliaram o modelo antes do lançamento. A empresa também publicou uma ficha técnica de segurança. Esses testes prévios não mostram, por si, como funcionará a avaliação permanente dentro do laboratório que a Anthropic anunciou com a Accenture.

Altman disse que a OpenAI já havia desacelerado por iniciativa própria e voltaria a fazê-lo, mesmo tendo lançado o modelo Astra no começo deste mês. Defendeu padrões nacionais e internacionais comparáveis, comunicação rápida de incidentes e canais protegidos entre governos, operadores de infraestrutura crítica e especialistas técnicos. As declarações dos dois executivos são compromissos e propostas apresentados ao Conselho, mas a sessão não criou uma obrigação internacional de reduzir o ritmo dos modelos.

Bengio, copresidente do painel científico independente da ONU, contestou a ideia de........

© UOL