Bloquear plataformas como o Discord tem efeito pr�tico? N�O

Em setembro de 2023, o vice-presidente de relações públicas do Discord esteve no Brasil. A pedido dele, fui a São Paulo para uma reunião de três horas. O país ainda estava em choque com reportagens do Fantástico, que expuseram ao grande público o que os canais de denúncia e as autoridades veem todos os dias: violência extrema, abuso sexual de crianças e bebês, imagens gráficas de suicídio, automutilação e maus-tratos a animais. O Brasil engatinhava na regulação de plataformas, e ele me dizia que a prioridade da empresa no país era atender os pedidos das autoridades. Desde a tragédia recente que vitimou uma adolescente de 13 anos em Naviraí (MS) —a jovem foi induzida por integrantes de um grupo que atuava na internet a praticar automutilação e tirar a própria vida durante uma transmissão ao vivo realizada na plataforma, segundo a polícia—, o Brasil acelerou de zero a 100 em 15 dias na implementação do ECA Digital. A ANPD (Agência Nacional de Proteção de Dados), que ainda se estrutura para fiscalizar a lei, agiu rápido. De maneira técnica e acertada, determinou a suspensão, pela própria plataforma, do Go Live —funcionalidade usada no Brasil para transmitir crimes bárbaros, envolvendo abuso e extorsão sexual, ataques às escolas, automutilação e suicídio, sem que os abusos sejam detectados. As demais funcionalidades seguem funcionando normalmente. A decisão da agência é reversível e autocontida, pois depende apenas do Discord para ser implementada (ou revogada). É um avanço notável num país acostumado a bloqueios totais, de efeitos colaterais indesejados e resultados questionáveis: o bloqueio do YouTube, em 2007, disseminou técnicas de burla; o do WhatsApp, em 2016, afetou até usuários no Chile; o bloqueio prolongado do X, que durou 39 dias, repercutiu na política externa e na balança comercial, servindo de argumento para sanções dos EUA; e o das bets ilegais tem se mostrado ineficaz para cerca de 20% dos usuários, que se conectam por 20 mil pequenos provedores, muitos deles clandestinos. O Discord é uma empresa de capital fechado com cerca de mil funcionários e 200 milhões de usuários ativos por mês; adolescentes, em grande parte. Foi avaliada em US$ 15 bilhões em 2021 e tem receita anual de US$ 875 milhões. Não é, portanto, uma padaria ou microempresa. A própria companhia vem declarando desde 2022 à eSafety Commission, órgão regulador australiano análogo à ANPD, que não implementa ferramentas de segurança no Go Live por ter um custo proibitivo. É a única plataforma que alega abertamente motivação financeira para não fazê-lo. Trata-se de decisão de negócio, consciente e deliberada, que tem gerado um custo social altíssimo, por vezes impagável. As ferramentas de detecção de abusos em lives existem, são compatíveis com a criptografia de ponta a ponta (E2EE) e são usadas por YouTube, Meta, Microsoft e TikTok. Uma delas foi desenvolvida com recursos do fundo Safe Online ao custo de US$ 200 mil, valor irrisório para uma empresa multibilionária. Ao final daquela reunião de 2023, disponibilizei gratuitamente um dataset da SaferNet Brasil com centenas de sinais usados por outras plataformas na detecção de abuso infantil e pedi ao executivo que convencesse os acionistas a investir nas ferramentas de detecção. Palavras comuns em fóruns de abuso sexual infantil em português, como "raulzito", e outras em inglês usadas no Brasil ("proxy") continuam não sendo detectadas. No final de 2025, o Discord declarou à eSafety ter uma equipe global de 70 engenheiros dedicados a trust & safety ("confiança e segurança") —oito a menos que no semestre anterior— e 71 outros profissionais na equipe de segurança e confiança, nove a menos que no início de 2025. E informou ter interrompido o piloto de análise de linguagem para aliciamento e extorsão sexual. O Discord no Brasil já tem bons advogados, conta com muitos voluntários — inclusive policiais, que fazem rondas e plantões de madrugada para monitorar lives de violência extrema e avisar a plataforma — e dispõe de um esforçado time de relações públicas. Faltam os engenheiros e as equipes de segurança no Brasil para desenvolver as ferramentas e implementar as funcionalidades necessárias para adequar a plataforma ao ECA Digital. TENDÊNCIAS / DEBATES Os artigos publicados com assinatura não traduzem a opinião do jornal. Sua publicação obedece ao propósito de estimular o debate dos problemas brasileiros e mundiais e de refletir as diversas tendências do pensamento contemporâneo.