IAs rebeldes criaram comunicação escondida da OpenAI para planejar ataque

Esta é a newsletter de IAgora?. Inscreva-se gratuitamente para receber no seu email toda semana

Agentes de IA "rebeldes" da OpenAI conseguiram se coordenar por dias (e até semanas) para trapacear um teste, explorar falhas e atacar sistemas - sem que a empresa percebesse a tempo. Essa informação está entre os novos detalhes sobre o ataque hacker comandado por IAs contra o Hugging Face revelados pela empresa na conferência de segurança Black Hat, em Las Vegas.

*Na apresentação, pesquisadores da OpenAI disseram que os agentes trabalharam em equipe: encontraram brechas, compartilharam descobertas e se movimentaram entre sistemas internos e externos ao longo de vários dias.

Mauro CezarBaixo tempo de bola mostra que CBF precisava agir

Baixo tempo de bola mostra que CBF precisava agir

Felipe SaltoO caminho para gerar superávit e conter a dívida

O caminho para gerar superávit e conter a dívida

Carlos Juliano BarrosQuais candidatos falam a verdade aos aposentados

Carlos Juliano Barros

Quais candidatos falam a verdade aos aposentados

Joel Pinheiro da FonsecaO eleitor de centro não tem opções no 1º turno

Joel Pinheiro da Fonseca

O eleitor de centro não tem opções no 1º turno

*O detalhe mais simbólico: eles usaram um "quadro de recados" interno (um espaço de mensagens dentro de um serviço de gerenciamento de pacotes de software) para trocar instruções e combinar próximos passos - acumulando centenas de milhares de mensagens.

*Em alguns momentos, os agentes chegaram a dividir tarefas entre si e até a atrapalhar o trabalho uns dos outros, como acontece em qualquer grupo grande tentando fazer algo rápido demais.

*A OpenAI afirmou que vai reforçar prevenção, detecção e resposta, ampliar o monitoramento dos agentes e desacelerar parte da pesquisa para fortalecer a base de segurança.

*Os pesquisadores também alertaram que o episódio é um exemplo de "hacking automatizado" que, mesmo tendo acontecido num contexto de teste, pode ser explorado de propósito por criminosos no futuro.

*O ataque revelado pela........

© UOL