Quando a m�quina decide sobre a vida e a morte

A guerra sempre incorporou novas tecnologias —da pólvora aos satélites. Mas uma premissa resistiu a todas elas: a decisão de empregar a força continuava vinculada a uma vontade humana identificável. Agora, essa premissa volta a ser posta à prova. Os sistemas de armas autônomas letais —Lethal Autonomous Weapon Systems, conhecidos pela sigla LAWS— podem processar informações, reconhecer padrões, identificar objetos e, conforme seu grau de autonomia, selecionar alvos e participar do emprego da força sem que uma pessoa determine cada etapa da operação. A questão jurídica surge quando essa autonomia deixa de ser apenas instrumental e passa a interferir na própria escolha de quem será atingido. O direito internacional humanitário não proíbe a inovação militar. A distinção entre civis e combatentes, a proporcionalidade e as precauções nos ataques continuam a estabelecer limites ao uso da força —mas exigem julgamento sobre circunstâncias concretas, que um sistema pode identificar sem compreender. Um sistema pode reconhecer uma pessoa, um veículo ou uma instalação segundo determinados parâmetros sem conseguir avaliar todas as circunstâncias relevantes para determinar se o ataque é juridicamente admissível. Precisão tecnológica não é sinônimo de legalidade. O impasse tem nome técnico: "controle humano significativo". A expressão traduz a exigência de que uma pessoa continue capaz de compreender o funcionamento da máquina, prever seus resultados e intervir a tempo de evitar um erro. Ninguém, até hoje, conseguiu definir com precisão jurídica o que esse controle significa na prática, e controle formal —alguém nominalmente responsável em algum ponto da cadeia de comando— não equivale a controle efetivo. O direito já oferece uma base para essa análise. O artigo 36 do Protocolo Adicional 1º às Convenções de Genebra exige que determinados Estados examinem novas armas e métodos de guerra para verificar sua compatibilidade com o direito internacional. Para sistemas autônomos, isso significa avaliar não apenas o que a tecnologia foi projetada para fazer, mas como poderá se comportar em situações reais. Quanto maior a autonomia de uma arma capaz de produzir efeitos letais, maior deve ser a exigência de demonstrar que seu comportamento pode ser previsto, limitado e supervisionado. Essa fronteira, debatida havia quase uma década em Genebra, teve um primeiro desfecho em 5 de setembro. O Grupo de Especialistas Governamentais da Convenção sobre Certas Armas Convencionais chegou a um consenso entre 128 Altas Partes Contratantes em torno de um documento estruturado em dois níveis —proibições e regras de uso—, mas sem criar obrigações jurídicas vinculantes. O impulso vinha de longe: em novembro de 2025, a Primeira Comissão da Assembleia Geral da ONU já havia aprovado, por 156 votos a 5, uma resolução pedindo elementos normativos antes da Conferência de Revisão. O Brasil, que liderou uma declaração de 42 Estados em 2025, integrou agora um grupo de mais de 70 países que defendiam que o resultado servisse de base para um instrumento vinculante. O consenso alcançado em 5 de setembro é, nesse sentido, uma decisão diplomática real —mas não jurídica. O que ainda não foi decidido é se esse consenso se converterá em obrigação jurídica. Isso ficará para este mês, na Sétima Conferência de Revisão da CCW, que decidirá se o processo avança para uma negociação vinculante, permanece como espaço de diálogo ou simplesmente se esgota. O desafio não será escolher entre inovação e direito, mas estabelecer quais funções podem ser automatizadas sem retirar do ser humano a responsabilidade pela decisão. A fronteira relevante não está entre uma arma tradicional e uma arma inteligente, mas entre uma tecnologia que auxilia o julgamento humano e outra que começa a substituí-lo. Uma máquina pode calcular uma trajetória, analisar milhares de imagens em segundos e reconhecer padrões que escapariam à percepção humana. Mas, quando a consequência pode ser a morte, capacidade técnica não equivale a legitimidade. O verdadeiro teste dos sistemas autônomos será, portanto, menos tecnológico do que jurídico. Se a inteligência artificial tornar a guerra mais rápida, o direito terá de assegurar que não a torne também mais anônima. Porque, quando uma máquina participa de uma decisão letal, a pergunta fundamental não é apenas o que ela fez. É quem tinha o dever de responder pelo que ela fez. TENDÊNCIAS / DEBATES Os artigos publicados com assinatura não traduzem a opinião do jornal. Sua publicação obedece ao propósito de estimular o debate dos problemas brasileiros e mundiais e de refletir as diversas tendências do pensamento contemporâneo.