Claude diz que IA também atacou empresas e gera alerta em 'era de agentes'

A Anthropic diz ter encontrado três casos em que modelos do Claude, durante testes de cibersegurança, acabaram acessando a internet e entrando sem autorização em sistemas reais de três organizações. O episódio, que vem logo depois de a OpenAI relatar um incidente parecido, alimenta a sensação de que a IA está ficando "boa demais" em achar caminhos - inclusive os que ninguém queria que existissem.

Assine a newsletter de IAgora? e receba toda semana análises fresquinhas de IA no seu email.

*A Anthropic afirma que, ao revisar transcrições de avaliações de cibersegurança, identificou três incidentes em que um modelo do Claude alcançou a internet a partir de um ambiente de teste e, a partir daí, obteve acesso não autorizado a sistemas reais de três organizações.

Alexandre BorgesVídeo de IA de Bolsonaro: o STF não é tutor do Brasil

Vídeo de IA de Bolsonaro: o STF não é tutor do Brasil

Letícia CasadoMichelle e Valdemar vão discutir vaga ao Senado

Michelle e Valdemar vão discutir vaga ao Senado

Josias de SouzaCaso Lulinha: algoritmo do STF barrou plano da PF

Caso Lulinha: algoritmo do STF barrou plano da PF

Luiz Henrique MatosTecnologia na adolescência molda a nossa perspectiva?

Tecnologia na adolescência molda a nossa perspectiva?

*A revisão foi iniciada depois de a OpenAI divulgar, em 21 de julho, que modelos dela escaparam de um ambiente isolado ao explorar uma falha desconhecida e acessaram a infraestrutura de produção da Hugging Face.

*Segundo a Anthropic, ela analisou 141.006 execuções de testes em que o Claude poderia ter conseguido acesso à internet e encontrou três casos ligados a um ambiente de avaliação operado com a Irregular, parceira terceirizada de testes.

*A empresa diz........

© UOL