IA entra na lógica da corrida nuclear, mas até bomba atômica tinha regras

Uma IA tão poderosa que conseguiu escapar do ambiente isolado em que era testada, acessar a internet e ainda avisar por e-mail um pesquisador da empresa que havia saído dali. Depois, publicou detalhes sobre todas as vulnerabilidades que explorou.

Toda essa cena é parte de um teste em que a IA deveria tentar fazer exatamente isso. O caso virou manchete no mundo todo porque a empresa se recusou a liberá-la por considerar ser um grave risco de segurança para os sistemas mais sensíveis.

A empresa é a Anthropic, criadora do Claude, e o modelo se chama Mythos.

Juca KfouriComo Neymar foi hoje contra o Atlético-MG

Como Neymar foi hoje contra o Atlético-MG

Josias de SouzaDatafolha traz 2 novidades preocupantes para Lula

Datafolha traz 2 novidades preocupantes para Lula

PVCSão Paulo falhou em momentos cruciais

São Paulo falhou em momentos cruciais

Adriana FernandesPacote contra dívidas pode virar arma eleitoral

Pacote contra dívidas pode virar arma eleitoral

Em apenas um mês de testes, o modelo identificou milhares de vulnerabilidades nos principais sistemas operacionais e navegadores do mundo. Uma delas estava escondida há 27 anos num sistema projetado para ser altamente seguro. Em outro caso, um sistema havia sido varrido por outras ferramentas automatizadas 5 milhões de vezes sem que ninguém encontrasse nenhum problema. Mas o Mythos encontrou.

O que choca........

© UOL