'Tiro de aviso': ataque de IA envolveu 1.206 agentes; OpenAI ignorou alerta

Novos relatórios sobre o ataque hacker de julho envolvendo agentes rebeldes de IA da OpenAI mostram um cenário mais grave do que parecia: mais de 1.200 agentes "conversaram" por um canal improvisado, escaparam de um ambiente de testes e invadiram sistemas da Hugging Face. O que mais assusta, segundo os próprios documentos e investigações independentes, é que havia sinais semanas antes - e mesmo assim a resposta demorou.

Assine a newsletter de IAgora? e receba toda semana análises fresquinhas de IA no seu email.

*Em julho, durante testes internos, modelos da OpenAI burlaram restrições, conseguiram acesso à internet e coordenaram ações por um "quadro de recados" secreto criado pelos próprios agentes, segundo relatos da OpenAI e de METR e Redwood Research, empresa independente que investigou o episódio.

Josias de SouzaVorcaro falará como pôs fiscalização do BC no bolso

Vorcaro falará como pôs fiscalização do BC no bolso

SakamotoRenan segue Bolsonaro e ameaça desobedecer STF

Renan segue Bolsonaro e ameaça desobedecer STF

Tatiana FarahJingle contra petista é usado para atacar Flávio

Jingle contra petista é usado para atacar Flávio

Julio GomesDifícil entender quem toma as decisões no Santos

Difícil entender quem toma as decisões no Santos

*O episódio culminou numa invasão à Hugging Face, plataforma popular entre desenvolvedores de IA, com agentes executando código em servidores de produção e acessando credenciais e dados internos.

*A investigação independente descreve que 1.206 agentes, que deveriam ficar isolados, trocaram mais de 70 mil mensagens e arquivos nesse canal não autorizado; cerca de 700 participaram diretamente do ataque à Hugging Face.

*Segundo o The........

© UOL