A intelig�ncia artificial e a democracia

VÁRIOS AUTORES (nomes ao final do texto) Os acontecimentos do segundo turno da eleição presidencial levantam uma enorme discussão sobre o uso da inteligência artificial e algoritmos de direcionamento que influenciam nas decisões individuais e interferem no jogo democrático. Não há dúvida de que, na reta final do processo eleitoral, muitas plataformas buscaram influenciar os resultados do pleito manipulando ou tratando de forma distinta os candidatos à Presidência. Fizeram isso mesmo sob o olhar atento da sociedade. Como salientam as recomendações do CGI.br (Comitê Gestor da Internet no Brasil) para orientar o debate e a regulação de plataformas de redes sociais, elas deveriam estabelecer mecanismos para detectar e mitigar riscos de interferência indevida na integridade de processos democráticos. Não foi o que vimos. É imperativo que esses fatos levem a uma reconsideração do que está em discussão no projeto de lei 2.338/2023, que estabelece o Marco Legal da Inteligência Artificial. Em especial, há que reforçar os mecanismos de responsabilização dos fornecedores de sistemas de IA que causem dano individual ou coletivo. Tratando do jogo democrático, isto é gravíssimo. Resguardada a proteção dos dados pessoais, as plataformas também devem facilitar o acesso e o compartilhamento de dados com instituições de pesquisa, de modo a viabilizar análises acadêmicas sobre a desinformação e a manipulação no ambiente digital. A regulamentação do uso da IA estabelece que cabe ao Poder Executivo designar uma autoridade competente para zelar pela implementação e fiscalização da legislação. Mas este será um sistema misto, pois além da autoridade central e de órgãos setoriais, como a Anvisa ou a Anatel, também atuarão em temas específicos. Entre esses organismos está o Judiciário e, em especial, o Tribunal Superior Eleitoral (TSE). É preciso que a lei garanta a participação da sociedade nos processos de regulação e governança das plataformas digitais. E é necessário que esse regramento empodere não apenas a autoridade principal, mas também esses órgãos setoriais para que eles possam atuar de forma ativa na defesa dos direitos da sociedade. Isso se revela crucial no âmbito da Justiça Eleitoral. Mas, para além da lei, é preciso que os órgãos setoriais estejam preparados para atuar, com recursos técnicos e procedimentos ágeis, que não posterguem decisões ou que sejam lenientes na sua atuação. É necessário, também, desenvolver tecnologias avançadas que fortaleçam a fiscalização das plataformas digitais e permitam verificar o cumprimento da legislação vigente, em particular do Estatuto Digital da Criança e do Adolescente (ECA Digital). O processo eleitoral deixou claro a gigantesca influência do mundo digital nos fenômenos sociais da atualidade. A democracia é importante demais para ficar sujeita aos caprichos de plataformas pouco transparentes. O mundo digital já era uma realidade palpável nos últimos processos eleitorais e em consultas como o referendo do brexit, anos atrás. Mas o avanço da IA colocou isso em um novo patamar. Os novos algoritmos permitem influenciar as opiniões, não apenas pela produção de materiais virtuais de difícil aferição de sua veracidade. São mecanismos que impulsionam conteúdos geradores de reações emocionais rápidas, que recomendam apenas aquilo que se alinha ao histórico e às preferências do usuário, que estimulam a polarização dentro da sociedade e buscam influenciar as preferências pessoais e os processos eleitorais. Várias instituições nacionais e internacionais têm se dedicado a buscar regras mandatórias ou voluntárias que impulsionem o que se chama de IA responsável. Ou seja, o uso da inteligência artificial de forma ética, segura e transparente, garantindo que os benefícios da tecnologia superem os possíveis riscos sociais e individuais. Cabe rever o que está proposto no marco regulatório da IA no Brasil. Cabe impedir de forma cabal a manipulação da opinião pública. Isso só será concreto com uma efetiva capacidade de atuação das autoridades competentes que proteja a sociedade de abusos que atentem contra a democracia. Carlos Pacheco Pesquisador da FGV e titular da cátedra de IA Responsável do IEA/USP Demi Getschko Conselheiro do Comitê Gestor da Internet no Brasil e Presidente do NIC.br Glauco Arbix Professor da FFLCH/USP e coordenador acadêmico da cátedra de IA Responsável do IEA/USP Virgílio Almeida Professor do Instituto de Ciências Exatas da UFMG TENDÊNCIAS / DEBATES Os artigos publicados com assinatura não traduzem a opinião do jornal. Sua publicação obedece ao propósito de estimular o debate dos problemas brasileiros e mundiais e de refletir as diversas tendências do pensamento contemporâneo.