O Discord está no centro de uma polêmica após admitir formalmente que seu sistema de segurança falhou durante uma transmissão ao vivo que resultou na morte de uma adolescente de 13 anos no Mato Grosso do Sul. A revelação, feita em documento oficial enviado ao Ministério da Justiça e Segurança Pública, levou a Agência Nacional de Proteção de Dados (ANPD) a suspender todas as lives da plataforma de mensagens em território brasileiro, medida que já repercute entre usuários, pais e especialistas em segurança digital.
De acordo com o relatório entregue pelo Discord à Secretaria Nacional de Direitos Digitais, a menina teria sido induzida por integrantes de um servidor da plataforma a atos de automutilação durante uma live que durou quase duas horas. O sistema automatizado de monitoramento do Discord, responsável por identificar conteúdos de alto risco e acionar revisão humana, deveria intervir automaticamente quando um servidor atingisse pontuação igual ou superior a 0,95 em uma escala interna de risco. No caso em questão, porém, o algoritmo registrou apenas 0,12 — um índice muito abaixo do necessário para disparar qualquer alerta. A transmissão só foi encerrada depois que a polícia notificou a empresa, às 3h50, e o servidor foi removido em menos de 25 minutos.
Em sua defesa, o Discord afirmou que, após revisar o caso, identificou nomes de usuários, papéis internos do grupo e mensagens de texto associados a um "ecossistema mais amplo de alto dano". A empresa reconheceu que "os sistemas de aprendizado de máquina processaram os sinais disponíveis, mas não geraram alerta com nível de confiança suficiente", e alegou ainda que os administradores do servidor usaram termos e comunicações modificadas para tentar "mascarar" suas reais intenções, driblando os filtros de moderação automatizada da rede social.
A plataforma também ponderou que tornar os critérios de detecção mais sensíveis poderia aumentar o número de falsos positivos, o que, segundo a empresa, prejudicaria a eficácia geral do sistema de intervenção automática usado para proteger crianças e adolescentes no Discord.
A resposta não foi suficiente para a ANPD, que já monitorava a plataforma desde 2023. Em nota técnica, o órgão regulador classificou o episódio como uma falha grave no modelo de proteção de menores adotado pela empresa, já que uma situação de extrema gravidade recebeu uma sinalização de risco extremamente baixa. Segundo a agência, diante do risco de automutilação ou morte de uma criança ou adolescente, o custo de ignorar um caso real é muito maior do que submeter um conteúdo suspeito à análise humana. Esse entendimento embasou a decisão, anunciada nesta quarta-feira (12), de suspender preventivamente todas as transmissões ao vivo do Discord no Brasil, medida que afeta exclusivamente o recurso de lives e não interfere no funcionamento de mensagens de texto e chamadas de voz da plataforma.
Em resposta à suspensão, o Discord classificou a decisão da ANPD como "prematura" e reforçou que segue em diálogo com o órgão durante o processo administrativo que investiga possíveis falhas sistêmicas na plataforma. A empresa declarou que "a caracterização do Discord feita pela ANPD não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários". Vale destacar que, um dia antes da suspensão, a Advocacia-Geral da União (AGU) já havia recebido da empresa uma proposta de medidas para reforçar a proteção de crianças e adolescentes no Discord, após uma série de reuniões com representantes do Ministério da Justiça, da AGU e da própria ANPD.
Com o caso ainda em apuração, o Discord informou que está reavaliando os parâmetros do seu sistema de alerta, mesmo reconhecendo que qualquer ajuste pode impactar a eficácia da ferramenta como um todo. Enquanto isso, a suspensão das transmissões ao vivo segue valendo em todo o Brasil, até que a plataforma comprove atender às exigências mínimas de segurança digital voltadas à proteção de menores de idade. O episódio reforça um debate cada vez mais presente no cenário da segurança online: o quanto as big techs realmente investem em mecanismos eficazes de proteção infantil e o quanto ainda falham diante de situações de risco real envolvendo crianças e adolescentes em plataformas digitais como redes sociais, aplicativos de mensagens e serviços de streaming ao vivo.
