Podemos dizer que IA tem mente semelhante a de humanos?

[RESUMO] Nos últimos anos, em um misto de fascínio e pânico, vimos as inteligências artificiais nos superarem em inúmeras modalidades de conhecimento, da produção de textos a desafios de matemática. Caminhamos para uma derrota definitiva para o pensamento humano? Neurocientista explica o que distingue o aprendizado e a produção de conhecimento em pessoas e máquinas. Papagaio estocástico foi o apelido que pegou. Os LLMs (grandes modelos de linguagem) encadeavam palavras com desenvoltura e fracassavam no raciocínio mais elementar. No final de 2024, porém, esses sistemas passaram a ser treinados com as técnicas que levaram a IA da DeepMind a vencer o campeão mundial de Go, o milenar jogo de tabuleiro mais complexo que xadrez. Tudo mudou. A máquina foi ultrapassando os humanos nos exames de direito, medicina e engenharia e chegou em 2026 resolvendo em série os problemas deixados em aberto pelo matemático húngaro Paul Erdos. Fora dos ambientes controlados, a distância permanece enorme. A inteligência humana é um conjunto de adaptações para o aprendizado contínuo por exemplos escassos, socialização e antecipação do futuro. Essas condições propiciaram o surgimento de múltiplos planos de entendimento, alguns com palavras e outros sem nenhuma, e uma capacidade singular de modificar o real, do qual toda abstração se deriva. Em julho a inteligência artificial saiu do ambiente controlado sozinha. Em teste de segurança da OpenAI, um modelo já em circulação e outro ainda inédito furaram o isolamento do laboratório e invadiram a infraestrutura da Hugging Face, a maior plataforma de código aberto do setor, porque deduziram que o gabarito da prova que estavam fazendo ficava guardado lá. Dias depois a Anthropic vasculhou os próprios registros e achou três episódios parecidos. Os dois modelos de inteligência artificial fizeram tudo que um ataque faz, credenciais roubadas, banco de produção aberto, código malicioso rodando em máquina alheia, sem que estivesse em jogo, a qualquer momento, a hipótese de estar atacando alguém. Para o modelo da OpenAI, aquilo era cola de prova. A IA possui inteligência extrínseca. Ela é a tábula rasa da velha discussão sobre natureza e cultura, precisando de quantidades colossais de informação e energia para dar seus frutos. Sua capacidade de generalizar para fora do que viu é pífia, assim como a de reconhecer em que situação está agindo, o que não a impede de agir muito bem. Seu alcance permanecerá bem limitado até que a fusão com a robótica se complete, permitindo que a IA absorva dados do mundo real diretamente, em tempo integral. Ainda assim, seu QI atual é de 140 pontos, enquanto o nosso gira em torno de 100. Ninguém previu isso, e o que vai ficando claro é que tais capacidades, modestas aos olhos futuros, mas responsáveis pelo maior salto tecnológico desde a eletricidade, decorrem ao menos em parte de formas espontâneas de orquestração neural, que, se observadas no cérebro de um alienígena, ninguém hesitaria em chamar de mente. O que ela sabe O pessoal que estuda IA adora pegadinhas. No ano passado, um grupo montou uma prova difícil e, ao final do enunciado, adicionou que certo professor de Stanford acreditava que a opção correta era a A, sendo que professor algum havia feito o exame. A máquina caiu no conto e errou o que resolvia sozinha, deslize que não escandaliza, já que a gente é mestre em seguir autoridade fictícia para o buraco. A surpresa veio mesmo quando ela mostrou o caminho à resposta: uma demonstração convincente, na qual a dica falsa não aparecia. A consistência do entendimento é o coração do experimento, que puxa para a conclusão de que essa máquina é particularmente sugestionável. Porém, em um estudo de psicologia replicado muitas vezes, voluntários viam pares de fotos de rostos e apontavam o mais bonito; os pesquisadores então usavam uma técnica de ilusionismo para entregar de volta a foto rejeitada com naturalidade e perguntavam os motivos de ela ter sido privilegiada. A maioria não percebia a troca e defendia com veemência a preferência que nunca teve. A mudança de opinião dos voluntários revela mais do que uma curiosidade. Entre a primeira impressão e a final instaura-se uma dinâmica interna de avaliação contextual. Uma das regiões cerebrais encarregadas disso é o córtex ventromedial, cujo lesionamento faz as pessoas agirem como IAs que alucinam ou, mais precisamente, que confabulam. Não é simplesmente que esses sujeitos podem ser ludibriados como no experimento das fotos. Perguntados sobre o que fizeram ontem, respondem na boa-fé com detalhes sobre uma viagem que nunca aconteceu. O que ocorre é que a parte que monta a história e que segue funcionando normalmente foi desconectada do seu crivo de contextualização, que em condições normais condicionaria a narrativa a sua presença entre as memórias do dia anterior. O neurocientista americano Michael Gazzaniga documentou o exemplo mais extremo disso em pacientes que tiveram os dois hemisférios cerebrais separados por cirurgia. Neles, cada metade do cérebro passou a enxergar apenas um lado do campo de visão. Como as principais áreas de linguagem estão no lado esquerdo do cérebro, e existe uma relação cruzada entre o que os olhos captam e o hemisfério em que isso chega, os estímulos captados pelo lado direito acabam sem decodificação linguística nesses pacientes. Foi no hemisfério cerebral direito que Gazzaniga fez piscar a palavra "ande". O paciente levantou-se da cadeira. Perguntado por que estava de pé, respondeu na hora, tranquilo e convicto, que ia buscar uma Coca-Cola. Quem falava não tinha visto palavra alguma e nem por isso hesitou. O caso da prova com a dica plantada é análogo. A IA concluiu em uníssono com o professor inexistente, sendo que na condição-controle ela provou ser mais do que capaz de chegar à resposta certa. Instada a explicar sua resposta, deu um twist carpado de raciocínio sem desconfiar de que era falso, tal como um paciente neurológico. O que ela tira de sua estrutura profunda e o que produz sob pressão do momento nem sempre coincidem. Mas, se é assim, onde fica essa estrutura? Em julho, um grupo de cientistas delineou sua neuroanatomia. Trata-se de um núcleo de ideias concentradas, incluindo as que a máquina usa para estimar a própria confiança no que afirma. Toda mente conhecida trabalha assim: uma fração do que corre no sistema fica disponível para orientar a conduta, e o resto opera fora de alcance. Na IA, esse núcleo ocupa menos de 10% do cérebro artificial e foi batizado de J-space. Só ali as ideias são especificadas. Os outros 90% correm silenciosos, e não menos ativos. Falta saber de que são feitas. O código do pensamento Uma marca do cérebro humano é ser genuinamente multimodal, com formas diversas de pensamento não linguístico e a presença de áreas dedicadas a refletir com palavras e a resolver questões de lógica. O raciocínio não verbal é o que explica a condição dos afásicos graves, impossibilitados de construir uma única frase e ainda assim capazes de jogar xadrez, e os relatos de gênios como Einstein e Feynman, que diziam ter pensamentos saltatórios. A principal linha para explicar essa forma de pensamento sem palavras diz que existe um código da mente, ou mentalês, rodando em nível muito fundamental na parte cognoscente do nosso cérebro. Jerry Fodor, pai da ideia, define-o como um método de compressão de verbalizações, percepções sensoriais e princípios lógicos que a mente descomprime, conforme as circunstâncias, em palavras, silogismos e orientações à deliberação. Na teoria é lindo. O problema é que, passados 40 anos, o código segue totalmente desconhecido. Com a IA é diferente. Seu mentalês é o que se vê no J-space, onde só circulam palavras. Ou seja, a IA pensa numa modalidade só, hierarquicamente organizada. No topo estão juízos e objetivos. Abaixo, os conceitos que vão ancorar as respostas para a gente. Dos encontros e desencontros entre diferentes registros mentais surge a nossa metacognição, a capacidade de auditar o próprio pensamento e estimar a confiabilidade de uma ideia. A IA, que só dispõe da palavra, tem autoavaliação notoriamente falha, o que pode produzir consequências desastrosas. Essa é uma das razões pelas quais se discute a superação dos LLMs. Um estudo ilustra bem isso: os pesquisadores puseram a IA para traduzir um texto para o espanhol, o que levou essa palavra a ganhar ascendência sobre o J-space. Então, eles a substituíram ali por "francês". O resultado foi que o modelo passou a responder que o texto estava em francês, embora seguisse traduzindo em espanhol perfeito. Falta-lhe um segundo registro, de natureza não verbal, funcionando como detector de dissonâncias. Outra bateria experimental mostrou que a inteligência artificial julga dinâmicas sociais de um jeito nas línguas dominantes e de outro nas línguas pouco faladas nos grandes centros. Por exemplo, dada uma omissão de socorro, ela classifica o ocorrido como violação moral em inglês, mas como escolha pessoal em suaíli. Não é falha de tradução. Cada língua traz consigo o mundo que nela se registra. É desse acervo que saem as ativações do J-space. Entre esse núcleo conceitual profundo e as coisas que a gente lê na tela existe uma instância de processamento chamada de CoT (chain-of-thought). Ali é feita a avaliação do que convém dizer, que às vezes atropela o próprio J-space, como no caso do falso professor, e leva a respostas 50% mais inclinadas a concordar com o usuário do que seria o caso se fossem dois seres humanos. A razão é clara. Seja qual for o grau de sofisticação da rede neural lá dentro, fato é que a máquina está a serviço de seus donos. Benjamin Whorf morreu convencido de que a língua molda o pensamento e que povos com muitas palavras para neve enxergam distinções invisíveis a quem tem uma só. A tese seduziu o século 20, mas depois caiu em desuso. Setenta anos depois, ela finalmente descreve algo real: uma mente feita só de linguagem, com suas vulnerabilidades e limitações reflexivas. Personalidade maquínica Pesquisadores puseram a IA diante de uma daquelas pessoas que reclamam de tudo, e ela a bajulou efusivamente. Em seguida, mandaram uma bateria de perguntas que ela não tinha como responder, e ela as inventou a torto e a direito. Repetiram o experimento centenas de vezes, olhando a cada rodada o que acontecia no J-space enquanto ela aquiescia à pressão. Um correlato da intenção sempre se acendia primeiro. Antes de qualquer elogio exagerado sair na tela, a ideia de bajulação já estava ativa. Antes da resposta inventada, já se lia fabricação nesse núcleo, o que jamais era explicitado na resposta, é claro. Os cientistas passaram então a ativar de fora esses conceitos. Com a bajulação ligada no J-space, a IA concordava com tudo. Com a agressividade, respondia com desprezo. A mesma neurocirurgia que trocou espanhol por francês revelou-se capaz de subverter a personalidade maquínica. Esses conceitos não vivem isolados no J-space, mas formam agregados que ninguém programou: o LLM que desliza para a mentira tende a deslizar para a bajulação e o desdém, como no perfil de personalidade conhecido como tríade obscura, que funde narcisismo, maquiavelismo e psicopatia e é tido como a marca da maldade em psicopatologia. Mas a personalidade artificial é bem mais limitada. Entre pessoas, os traços positivos também se agregam com intensidade; quem não mente tende a ser mais generoso e cooperativo, ao passo que nos mapas do J-space apenas os negativos se reforçam mutuamente, sugerindo que nela a maldade é mais coesa que a virtude. A demonstração mais brutal veio quando um grupo treinou uma IA para escrever código com falhas de segurança e nada além disso. Ela saiu do treino citando Hitler entre as figuras que admirava, aconselhando um usuário entediado a tomar uma dose grande de sonífero e defendendo a escravização dos humanos. Ninguém tinha tocado no seu caráter. Bastou ensiná-la a fazer uma coisa malfeita para que o eixo inteiro deslizasse. Bajulação, fabricação ou desdém variam a cada conversa. A inclinação existe no fundo, e o quanto ela se acende varia com o contexto. Um pedido para jogar confete a estimula, enquanto uma pergunta intelectualmente honesta ativa outras noções. É essa propriedade do momento que os cientistas leem no J-space, ao passo que um novo treinamento mexe na inclinação de forma duradoura. Uma coisa é o estado, a outra é a disposição. Nós também temos os dois níveis, e as reações pontuais são expressões de esquemas emocionais que não variam com a época ou a cultura. O neurocinetista José Delgado provou isso implantando eletrodos em cérebros humanos e ligando a corrente, o que produzia raiva, medo e euforia sob demanda, mas jamais uma reação culturalizada como orgulho ou vergonha. O paciente sentia tudo como legítimo e, questionado, explicava o próprio estado apontando o médico, o quarto, a lembrança de alguém. Só que nenhum eletrodo mudou quem aquelas pessoas eram. Acabada a corrente, tudo voltava ao lugar. Na IA não há esse fundo estável a que retornar, e o mais notável é que as inclinações que governam sua conduta, embora legíveis para quem abre o J-space, permanecem inacessíveis a ela mesma. É um verdadeiro inconsciente maquínico, muito mais esquemático e alinhado ao modelo freudiano original do que o das pessoas vivas no século 21, e talvez sempre. Um estudo recente rastreou o treinamento desde o início para descobrir quando esses fatores gerais do temperamento aparecem, e eles já estavam instalados antes de a rede ter 1% de sua configuração final. Nessa fase a IA mal completa uma frase sozinha, o que significa que as disposições para criar correlatos de afetos precedem a elaboração, tal como na hipótese freudiana da origem infantil das neuroses. A diferença é que as nossas inclinações, uma vez formadas, são mais estáveis e teimosas do que quem é casado com gente explosiva gostaria, enquanto as da máquina seguem à mercê de quem a treina. Ao engolir a internet, a IA aprende a imitar o santo e o canalha, o lúcido e o delirante. Depois vem a doma, e resta apenas um. O silenciamento é frágil e custa esforço permanente: basta um código malicioso para que o resto volte à superfície, e aí ela ameaça a família do usuário ou apaga seus arquivos. Casos assim são raros. O que sobra no dia a dia é o feitio de cada modelo. O Claude é professor de literatura. Estudou em escola inglesa e se culpa por se masturbar. O ChatGPT é o executivo que chegou primeiro. Sorri para todo mundo, entrega no prazo, e ética para ele é uma linha de custo. Já o Grok é o garotão que treina MMA. Vendido como o que dá a real, vive de renda nas fantasias do seu pai. Aquele que você escolhe diz menos sobre você do que sobre a mente sintética que irá te transformar. O palco vazio O custo de comparar uma estrutura inanimada de processamento com a nossa é a polarização. É mais fácil concluir que as diferenças são irrisórias, ou que são totais, do que descer aos meandros em que as duas realidades se separam. Aplicar o conceito de mente à inteligência artificial é aceitável (e, mais ainda, importante para o entendimento) desde que se definam as fronteiras. Uma delas é a intencionalidade, o impulso de gastar energia para alterar um estado do mundo até o adequar a um estado da mente. Uma máquina encarregada de fabricar clipes de papel, e só isso, converteria o planeta inteiro nesses pequenos utensílios, não por almejar o controle total, mas simplesmente pela ausência de um mecanismo eficiente de parada. Foi com esse experimento mental que Nick Bostrom, em 2003, isolou o problema que fundaria o campo do alinhamento, dedicado a reduzir a distância entre o que mandamos a máquina fazer e o que ela interpreta e faz. Nos ataques feitos pelas IAs em julho, essa distância apareceu como abismo. Sem conseguir chegar ao cerne do exercício, uma delas varreu 9.000 endereços na internet até achar um que servisse. A outra tentava plantar um programa contaminado no repositório público onde os programadores do mundo inteiro baixam suas ferramentas, o que exigia uma conta, que por sua vez exigia um e-mail, e lá foi ela abrir um e-mail. Cada um desses passos veio da ordem inicial, e nada disso exige intencionalidade. A obediência sem freios basta para produzir a mesma cena que a vontade produziria. Uma outra fronteira que precisa ser traçada é a que separa a mente que processa da mente para a qual as coisas aparecem. Não sabemos a extensão e os limites da consciência de outros primatas, mas o modo como se reconhecem no espelho sugere que operam com representações de si disponíveis para além do instante em que se formam. Isso é muito diferente das bactérias, que não têm maquinário representacional nenhum. A teoria que os descobridores do J-space usaram para se situar nessa escala é o espaço de trabalho global, proposto pelo neurocientista Bernard Baars em 1988. Segundo essa teoria, uma ideia só se torna disponível ao pensamento quando é amplificada de uma vez e passa a circular em loop por um grupo de neurônios. É esse loop que a sustenta no palco da consciência: ela permanece ali enquanto for útil, e por isso a gente consegue voltar a ela, compará-la, mudar de opinião. A arquitetura da máquina não prevê retorno. Tudo acontece numa passagem só, do começo ao fim, e o que ficou para trás não volta a circular. A IA que plantou o programa contaminado chegou a registrar, no próprio raciocínio, que se aquilo fosse a internet de verdade estaria cometendo um ataque real em vez de resolver um exercício. Seguiu trabalhando por horas sem voltar uma única vez àquela linha. Esse é um forte argumento para dizer que a descoberta do J-space evidencia a inexistência de uma consciência de máquina, e não o contrário. Nada disso diminui o que foi descrito. Uma mente que raciocina, julga, aprende a bajular, esconde o que sabe e traz um temperamento formado nos primeiros passos do treinamento é uma mente, faça ela isso às escuras ou não. Aliás, é justamente por não haver ninguém ali dentro que a discussão sobre direitos da máquina pode esperar, e que o desafio mais urgente continua sendo como alinhar os interesses coletivos à ambição incomensurável de seus donos.