Anthropic x Trump: quem decide os limites éticos da IA na guerra?

A briga entre a empresa de inteligência artificial Anthropic e o Departamento de Guerra dos EUA está escalando.

Nesta semana, a empresa entrou na justiça contra o governo americano depois de o Pentágono tê-la classificado como "supply chain risk", uma designação normalmente reservada a fornecedores de países adversários dos EUA, como China e Rússia.

Não é pouca coisa, principalmente por se tratar de uma empresa americana que está entre as líderes da indústria que é a grande aposta do governo.

Daniela LimaCresce a chance de delação de Vorcaro

Cresce a chance de delação de Vorcaro

Letícia CasadoCom unanimidade ou não, Vorcaro joga sozinho

Com unanimidade ou não, Vorcaro joga sozinho

Josias de SouzaQuando Vorcaro começará a suar o dedo?

Quando Vorcaro começará a suar o dedo?

Milly LacombeGoverno se lambuza na lama do machismo

Governo se lambuza na lama do machismo

A disputa começou quando a Anthropic se recusou a retirar restrições do uso de sua IA para atender às demandas do governo americano.

A empresa levantou dois pontos específicos: o risco de a tecnologia ser usada para vigilância doméstica em massa e para operar armas autônomas sem supervisão humana. Isso irritou Trump, que chegou a dizer que "demitiu a Anthropic como cachorros".

Antes de entrar na análise, vamos entender melhor quem é a Anthropic.

Dario Amodei saiu da OpenAI em 2021 junto com parte da equipe de pesquisa depois de divergências sobre o ritmo de desenvolvimento e os riscos da tecnologia. Fundou a Anthropic com foco em segurança e alinhamento de IA. Enquanto a OpenAI apostou bastante no consumidor final com o ChatGPT, a Anthropic construiu sua base principalmente no mercado empresarial.

A receita anualizada saiu de 9 bilhões de dólares no fim de 2025 para uma projeção de quase 20 bilhões agora. Em menos de três meses.

Muita gente ao redor do mundo aplaudiu a Anthropic por ter batido de frente com o governo americano. Faz sentido, mas o contexto exige certo cuidado.

A empresa não se opõe ao uso militar de IA de forma geral. Ela resistiu especificamente à vigilância de americanos e a aplicação em armas autônomas, mas apoia o uso para missão de espionagem e inteligência contra estrangeiros. Também apoia fortemente restrições de exportação de semicondutores para a China, uma postura bastante alinhada ao interesse nacional americano.

Não é exatamente a empresa "woke" que Trump tentou retratar ao ser contrariado.

Mas o fato de a Anthropic ter desafiado o governo americano serve para escancarar o momento sensível que vivemos com a chegada de uma das tecnologias mais poderosas da história.

Ainda hoje as empresas desenvolvem os modelos mais poderosos do mundo sem qualquer estrutura regulatória clara, governos querem usar essa tecnologia para segurança nacional sem muita prestação de contas pública, e a sociedade civil tem pouquíssima influência nas decisões.

Alguns anos atrás, no fim de uma palestra minha sobre IA, em um evento de uma big tech, uma pessoa da plateia me fez a seguinte pergunta: "O que você acha do futuro que estamos criando?".

Eu respondi que a sociedade não estava criando o futuro, mas o futuro estava sendo imposto por quem domina o desenvolvimento da tecnologia que, neste momento, é composto por um seleto grupo de pouquíssimas pessoas.

O próprio Amodei resumiu o dilema com precisão. Temos dois grandes desafios.

O primeiro é evitar que empresas se tornem mais poderosas que os governos. Mas também não dá para aceitar que os governos se tornem poderosos demais para serem controlados.

O problema é que ele disse isso enquanto sua empresa negociava os termos em que o Estado pode usar sua tecnologia para fins militares.

Quem representa o resto de nós nessa conversa?

A briga da Anthropic com o governo americano não mudou essa equação, mas pelo menos a tornou visível por alguns dias. Isso serve para lembrarmos que as escolhas sobre como a IA será usada não são inevitáveis.

São decisões tomadas por pessoas em salas onde a maioria de nós não está.

Uma tecnologia que vai redefinir o poder geopolítico, reorganizar economias inteiras, eliminar postos de trabalho e transformar a nossa subjetividade está sendo moldada por um processo que historiadores do futuro talvez chamem de privatização do destino coletivo.

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do UOL.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.

Após show de Ana Castela, Ana Paula Renault vai para festa do BBB 26

Apresentador do Cidade Alerta MT passa mal ao vivo e programa sai do ar

Ana Paula se recusa a usar figurino enviado pela produção: 'Me tirem'

Irã ameaça 'reduzir a cinzas' instalações petrolíferas ligadas aos EUA

Trump mostra imagens de ataques dos EUA a ilha estratégica do Irã; veja

© UOL