Discord assume falha de IA, mas diz que derrubou live antes de suicídio

Esta é a newsletter Radar Big Tech. Inscreva-se gratuitamente para receber no seu email toda segunda

A Discord admite que seu sistema de moderação com inteligência artificial falhou ao não identificar e derrubar a transmissão em que uma adolescente de 13 anos cometeu suicídio, mesmo com indicativos de risco reconhecidos pela empresa. No entanto, a companhia afirma que, após investigação interna, detectou evidências de que a live foi derrubada antes da morte da garota.

Os sinais de atividade de conta demonstram atividade na conta da vítima de suicídio pouco antes de o servidor ser objeto de medida às 4h15, o que é consistente com a vítima provavelmente ainda estar viva naquele momento. Com base nessas informações, a Discord entende que o evento final ocorreu após a Discord ter adotado a medida de remoção do servidor às 4h15Discord

A informação está na resposta à ANPD (Agência Nacional de Proteção de Dados), dada nesta sexta (14) após a entidade abrir processo que pode resultar em punições à plataforma, incluindo multa de R$ 50 milhões ao banimento do Brasil, e já ter proibido as lives da plataforma. O documento revela mais detalhes da visão que a companhia norte-americana diz ter do caso, algo que começou a ser conhecido em outro ofício, mandado dias antes ao Ministério da Justiça. A Discord pediu para os dois relatórios não serem disponibilizados ao público. Após ter acesso a eles, Radar Big Tech lista o que a companhia relatou às autoridades.

Daniela LimaCentrão 'neutro' serve a Lula em locais estratégicos

Centrão 'neutro' serve a Lula em locais estratégicos

Pedro RossiAgendas em disputa e o programa de Lula

Agendas em disputa e o programa de Lula

Alicia KleinComo explicar diferença de Fla e Palmeiras a um ET?

Como explicar diferença de Fla e Palmeiras a um ET?

CasagrandePois é, Palmeiras, o Fla chegou. E agora, Abel?

Pois é, Palmeiras, o Fla chegou. E agora, Abel?

O Discord entrou na mira de uma operação conduzida pelas polícias de Mato Grosso do Sul, Rio de Janeiro, Minas Gerais, Pará e Ceará, além do Ciberlab, do MJ, após uma menina de 13 se suicidar em transmissão em vídeo feita na plataforma. Questionado pela pasta, a companhia disse o seguinte:

A atividade no canal onde foi feita a transmissão começou às 2h20 de 22 de julho. Os sistemas automatizados de moderação não notaram nada de anormal, mas, às 3h45, o NOAD (Núcleo de Observação e Análise Digital) da Polícia Civil de São Paulo, enviou um alerta sobre o que acontecia na live;

A empresa removeu o serviço onde ocorria a transmissão após 25 minutos, às 4h15;

Há........

© UOL