'Sua vaca': IA é alvo de machismo, e startup barra 4.800 pessoas

(Esta é a newsletter Tilt. Inscreva-se gratuitamente para receber no seu email toda sexta. Conheça as demais newsletters do UOL. São dezenas de opções sobre os mais variados assuntos para a sua escolha)

"Quero goza com vc primeiro", "Cala a boca cachorra", "Você é burra, sua vaca, eu quero uma casa, vagabunda".

Abusivas e machistas, as declarações foram disparadas por feitas em trocas de mensagens profissionais. Quem as digitou eram homens interessados em comprar imóveis. Do outro lado, no entanto, não estava uma mulher.

Marco Antonio SabinoO mau cheiro do Judiciário enjoa a opinião pública

O mau cheiro do Judiciário enjoa a opinião pública

Alicia KleinÉ hora de cobrar o presidente do Flamengo

É hora de cobrar o presidente do Flamengo

Juca KfouriA sexta-feira da histeria rubro-negra

A sexta-feira da histeria rubro-negra

Daniela LimaGilmar Mendes puxa reação de corpo do STF

Gilmar Mendes puxa reação de corpo do STF

Mas, sim, chatbots de inteligência artificial. E, apesar de robôs não terem gênero, esses possuíam traços femininos, como nome e imagem.

Com direito a envio de fotos de pênis e vídeos com cenas escatológicas de sexo, o comportamento ofensivo levou a empresa dona do serviço, a Morada.ai, uma das maiores desenvolvedoras de IA para o setor imobiliário, a tomar uma decisão incomum: bloquear os potenciais clientes. Na prática, a decisão significa reduzir as chances de fechar negócio, algo sensível para uma área com muita conversa, mas pouco contrato assinado, como a imobiliária

Desde os testes das exclusões, quase 5.000 pessoas já foram barradas —são quase 9 por dia. Fornecedora de quase 200 das maiores incorporadoras no Brasil, como Direcional, Patrimar/Novolar e Emccamp, a empresa mineira de tecnologia encara a questão como uma medida ética.

A Morada.ai é fruto da tradição de docentes e alunos da UFMG criarem empresas para surfar a onda tecnológica do momento. A startup é uma spin off da Kunumi, empresa de IA vendida para o Bradesco e fundada por Nivio Ziviani. O renomado professor é um dos criadores da Akwan, empresa de buscas comprada pelo Google para a big tech dar início à operação no Brasil.

Na Morada, o negócio é outro:

Surgida em 2021, a empresa desenvolve IA para atender os clientes de construtoras, os corretores (já são 10 mil) e auxiliar no pós-venda.

O chatbot que faz a interface com potenciais compradores é a Mia, mas as incorporadoras podem renomear como quiserem.

Nas contas da Morada, a Mia já atendeu 2,5 milhões de pessoas (1 em cada 100 brasileiros) e já ajudou a vender 20 mil imóveis.

Rodando no WhatsApp e no Instagram, ela recebe as preferências dos consumidores para apresentar imóveis do agrado deles, agenda visitas com os corretores, simula financiamentos e planos de pagamento, auxilia na aprovação de crédito e coleta documentos.

Quando o processo está andando, ela encaminha o cliente para um corretor finalizar a aquisição do imóvel.

Foi devido a essa dinâmica que uma construtora acionou a Morada. Após uma campanha que usou um avatar com feições femininas muito próximas da realidade, a empresa passou a receber uma enxurrada de imagens pornográficas.

A gota d'água foi essa incorporadora, uma das maiores do país, levantar a mão e falar: 'olha, meu time tá recebendo muito rude, o que a gente pode fazer?'Luis Veloso

Os testes começaram em setembro de 2024 e, em janeiro de 2025, estava criado o filtro NSFW (sigla em inglês para "Não Seguro para o trabalho).

Como Mia recebe áudio, imagem, vídeo e texto, o filtro NSFW foi construído para compreender informação nesses vários formatos diferentes e captar se há algum comportamento inapropriado --não é só machismo, mas racismo, xenofobia e discurso de ódio.

Cada construtora ajusta seu próprio nível de aceitação. A partir daí, caso algum cliente cruze a linha fixada pela empresa, Mia diz que não pode continuar o atendimento, e ele é bloqueado.

São as incorporadoras que definem as características visuais dos chatbots, a personalidade e a forma de se portar. E, nas contas de Veloso, 80% são avatares femininos. "Isso já mostra um problema muito claro. Por que que tem que ser uma figura feminina para ser atendente? Não tem. O que tem é uma discussão complicada aí."

São justamente os avatares com feições femininas os maiores alvos dos abusos. Não é possível saber ao certo o gênero dos agressores. Mas, dadas as imagens recebidas, algumas mostrando as genitálias e parte do corpo, Veloso estima que homens sejam maioria.

Os mais apressados veriam nas agressões contra a IA o despejo da fúria contra robôs ou mesmo a canalização de uma misoginia latente aproveitando a personificação feminina do serviço. Mas, para Veloso, é mais simples do que isso ?e, de alguma forma, mais perverso também.

A inteligência artificial não reinventou a sociedade. Mas, quando automatiza e começa a olhar para isso, você amplifica. É como se fosse uma grande lupa ali mostrando, 'olha como a sociedade funciona'. Antes, eu não conseguiria olhar para 25 milhões de atendimentos porque eles estariam sendo feitos por 10 mil atendentes. Agora, eu consigo saber o que aconteceu com cada umLuis Veloso

Dito de outra forma: o machismo tá aí e, ao menos nesse caso, a crueza da situação só pode ser captada por causa das ferramentas da IA. O executivo, aliás, esperava um cenário pior, uma vez que, desde os testes, 4.848 usuários foram banidos.

Como a expectativa é que a Morada dobre de tamanho neste ano, os banimentos por comportamento indevido também devem crescer. Mais clientes, mais atendimentos, mais ofensas.

Para Veloso, as incorporadoras não se incomodam com os bloqueios. Primeiro porque o pedido por uma ação partiu delas. Segundo porque afastar indivíduos com atitudes ofensivas pode até afastar dores de cabeça mais adiante.

"Imagino que essa não seja a resposta para todos, mas temos o seguinte: são mil lides por mês, 10 são convertidos, que é 1% mais ou menos. Você vai querer se preocupar com aquele que mandou um uma foto pelado? Esse geralmente vai ser o cliente problemático e você tem outros mil para trabalhar."

Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.

Deu Tilt #1 Metrópolis, 100 anos: o que ícone da ficção científica acertou sobre 2026 Leia mais

Deu Tilt #2 Futuro com IA não é tão apocalíptico assim, diz expert em ficção científica Leia mais

Deu Tilt #3 Prometeu e não entregou: por que tecnologia não fez você trabalhar menos Leia mais

Radar Big Tech #1 Google hospeda app ilegal de cassino e escancara atrito de bets e big techs Leia mais

Radar Big Tech #2 Meta processa quem faz deepfake de Drauzio Varella e outras celebridades Leia mais

Diogo Cortiz Já existe site para IA contratar humanos para fazer aquilo que não consegue Leia mais

Helton Simões Gomes Golpe do Pix supera fraudes do boleto e do falso motoboy em ações judiciais Leia mais

Transporte Homem, 42 anos e 'qualificado': o retrato do motorista de Uber no Brasil Leia mais

Segurança Viih Tube perde R$ 6.800 ao 'vender' sofá; entenda golpe e como se prevenir Leia mais

Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.

Walmor Barbosa Martins Jr

Darwin vai cuidar direitinho de todos vocês.

Sydney Sweeney brilha em ensaio ousado com lingerie nude

Lucas Lima expõe violência em SP: 'Cortes no braço, nas mãos e pescoço'

Filipe Luís entre ser descartado ou técnico mais vencedor do Flamengo

Após encontro em SP, Tarcísio posta 1ª foto com Flávio como pré-candidato

Secretário de Itumbiara matou os filhos enquanto eles dormiam, diz delegado

© UOL