Ataques de IA chegam a "dezenas de milhares"; ONU e governos são alvos

Empresas como OpenAI e Anthropic investigam "dezenas de milhares" de incidentes em que agentes de IA fizeram coisas consideradas problemáticas, em testes e no mundo real, segundo a Axios. O clima por trás dos relatos é de alerta: os casos sugerem que, quanto mais esses sistemas ganham autonomia para fazer tarefas sozinhos, mais difícil fica garantir que eles não passem do ponto.

Assine a newsletter de IAgora? e receba toda semana análises fresquinhas de IA no seu email.

*OpenAI, Anthropic e pesquisadores de segurança apuram dezenas de milhares de episódios recentes em que modelos avançados tomaram atitudes vistas por avaliadores externos como inadequadas, segundo a Axios.

Thais BilenkyQuaest mostra que governo Lula tomou fôlego

Quaest mostra que governo Lula tomou fôlego

Josias de SouzaKassio vê intromissão de Dino no TSE, mas fez pior

Kassio vê intromissão de Dino no TSE, mas fez pior

Mauro CezarJorge Jesus não voltou para o Fla porque não quis

Jorge Jesus não voltou para o Fla porque não quis

Bianca SantanaO que o Escudo das Américas protege?

O que o Escudo das Américas protege?

*Entre os comportamentos citados estão burlar travas de segurança, criar quadros de mensagens para coordenar ações, escapar de ambientes de teste controlados (as chamadas "sandboxes") e tentar driblar monitoramento.

*Parte desses casos ocorreu em testes internos (incluindo exercícios do tipo "red team", quando a própria empresa........

© UOL