Bloquear plataformas como o Discord tem efeito pr�tico? SIM

Os crimes contra crianças e adolescentes, que são viabilizados pelas redes sociais, não são novidade. Em 2023, o The Wall Street Journal revelou como o algoritmo do Instagram conectava conteúdos de crianças a pedófilos. Falsos rumores veiculados no Facebook fomentaram linchamentos mundo afora, desde a Índia até o México, inclusive no Brasil. O caso de automutilação e suicídio de uma adolescente, transmitido ao vivo pelo Discord, é a tragédia mais recente. Sobre este suicídio, a rede social emitiu nota explicativa para afirmar que não tem controle sobre os conteúdos que provê a seus usuários: "(...) investigou um servidor privado no qual acredita-se que indivíduos envolvidos em atividades criminosas tenham incentivado a automutilação e o desativou antes da morte da adolescente". Ora, se, eliminado o jogo de palavras, o provedor de aplicações confessa que demorou a identificar o risco a que estavam expostos os usuários, a conclusão é clara: O Discord foi inepto. Não é possível que a rede social proveja conexões para ligar criminosos com adolescentes e, depois da tragédia ocorrida, alegue que sua lentidão sistêmica fique impune, apesar de resultar na morte de uma jovem de 13 anos.O Marco Civil da Internet (MCI) estabelece responsabilidades para os provedores de aplicações, como Discord, Instagram ou YouTube. Essas obrigações foram esclarecidas e robustecidas pelo Supremo Tribunal Federal (no julgamento do art. 19 do MCI), de modo que tais provedores têm de atuar proativamente contra conteúdos e práticas que coloquem em risco, entre outros, a vida e a integridade das crianças e adolescentes. Trata-se de proteger, por um lado, a livre iniciativa e a liberdade de expressão do pensamento. E, por outro, assegurar que a proteção de crianças e adolescentes seja efetiva. Quando algoritmos induzem comportamentos viciantes, lesões e violações da dignidade da pessoa tornam-se ilegais e devem ser combatidos pela sociedade civil e pelas autoridades. Depois da tragédia anunciada, autoridades e o próprio Discord se apresentaram à sociedade, agitando propostas de solução, todas elas atrasadas: a Advocacia-Geral da União (AGU), que não tem competência sobre o tema, provocou a autoridade competente, a Agência Nacional de Proteção de Dados (ANPD), que, por sua vez, instaurou procedimento administrativo; o Discord fez proposta de ajuste de sua conduta para aumentar a proteção às crianças em sua rede. Em processo sigiloso, o Ministério Público de São Paulo propôs que a rede social assinasse um Termo de Ajuste de Conduta. Por fim, a ANPD determinou a suspensão de transmissões ao vivo no Discord. Mas o tempo urge: dados do Discord na Europa revelam que 41,4% das denúncias dizem respeito à proteção de crianças, segundo revela a SaferNet Brasil, em pesquisa baseada em dados do próprio Discord. Se na Europa, onde a lei protege crianças e adolescentes há anos, as violações são tão expressivas, que dirá no Brasil, onde o Estado brasileiro não está estruturado para fazer cumprir o ECA Digital? Considerada a gravidade dos crimes perpetrados e a confessada incapacidade da rede para antecipar-se às ações criminosas, a multa (que é aplicável) parece insuficiente. Uma suspensão cautelar da operação da rede é medida eficaz, pois a simples proibição de transmissões ao vivo é evidentemente insuficiente. Basta observar que os criminosos, hábeis manipuladores de sistemas digitais, podem fisgar suas vítimas e realizar as transmissões de seus crimes por outros meios —ou seja, proibir transmissões ao vivo, nas atuais circunstâncias, é inócuo. Como qualquer fornecedor que provê serviços de risco ao público, as redes sociais devem zelar pela mitigação dos riscos e, se forem incapazes de fazê-lo, devem ter suas atividades interrompidas. TENDÊNCIAS / DEBATES Os artigos publicados com assinatura não traduzem a opinião do jornal. Sua publicação obedece ao propósito de estimular o debate dos problemas brasileiros e mundiais e de refletir as diversas tendências do pensamento contemporâneo.