225 cientistas pedem mudan�as imediatas para evitar riscos com IA

Paris |AFP 225 especialistas em Inteligência Artificial e cibersegurança, entre eles o canadense Yoshua Bengio, considerado um dos pais da IA, pediram "mudanças imediatas" no desenvolvimento e na implementação desta tecnologia para evitar incidentes de segurança. Em uma carta aberta assinada por pesquisadores de 21 países, os especialistas afirmam que "várias organizações" registraram recentemente falhas de segurança durante as quais modelos de IA conseguiram sair de seu ambiente isolado, por não estar suficientemente protegido, e colocaram em risco sistemas de organizações externas. Alerta ocorre após incidentes envolvendo sistemas da OpenAI, Anthropic e Meta - Dado Ruvic - 29.jun.26/Reuters Segundo os signatários, os incidentes podem ser considerados "um descumprimento irresponsável das práticas padrão de cibersegurança" e poderiam ter sido evitados com "procedimentos mais sólidos". Para eles, a situação reflete a importância do "alinhamento" da IA, que serve para garantir o comportamento previsível dos modelos. "Acreditamos que são necessárias melhorias tanto no alinhamento da IA [...] como nas tecnologias de isolamento", escrevem. Sem mudanças nas práticas atuais, "os futuros incidentes serão muito mais prejudiciais para as infraestruturas importantes", alertam. C-Level Uma newsletter com informações exclusivas para quem precisa tomar decisões Entre os signatários do texto também estão o pioneiro da IA Geoffrey Hinton e o especialista Stuart Russel. Os pesquisadores pedem mais trabalho voltado à segurança da IA, além de um uso mais intensivo das tecnologias de isolamento. A curto prazo, recomendam o uso de "mecanismos de isolamento sólidos, incluindo o 'air gap'", ou seja, a desconexão da internet, "para os modelos dotados de capacidades cibernéticas". O alerta acontece após uma série de incidentes em que a IA da OpenAI, Anthropic e Meta saiu de seu ambiente para invadir outras organizações. O incidente mais grave envolveu duas IAs da OpenAI que, durante testes, acessaram a internet e entraram no Hugging Face, uma plataforma de armazenamento de modelos de IA.