As pérolas se formam quando um molusco envolve um corpo estranho, como um grão de areia, com camadas sucessivas de nácar. É um mecanismo de defesa da criatura, mas olhamos para aquilo e chamamos de joia.
Eu quero começar por essa imagem porque ela descreve muito bem um tipo de fenômeno cognitivo que me parece central tanto para a discussão sobre inteligência artificial quanto para a discussão sobre nós mesmos.
Há primeiro uma perturbação. Um grão… ou uma inclinação simbólica. Algo pequeno, ainda sem forma plena, mas suficiente para disparar um processo. Depois vêm as camadas: memória, contexto, coerência local, afeto, linguagem, explicação. No fim, o que aparece para nós já é uma pérola pronta, polida, brilhante, elegante. A pergunta é simples e desconfortável: o que veio primeiro? A razão ou a nacarização? A fundamentação ou a conclusão?
A transição entre essa metáfora e os modelos de linguagem precisa ser feita com cuidado. Não porque ela seja frágil, mas porque ela pode ser mal compreendida. O que está em jogo não é dizer que um modelo de linguagem “tem pérolas na cachola” nem que a mente humana e a máquina sejam a mesma coisa. O ponto é outro: em ambos os casos, pode haver uma diferença importante entre o momento em que uma inclinação se estabiliza e o momento em que uma narrativa passa a justificá-la.
É aqui que entra o paper que deflagrou este texto: Therefore I am. I Think. (Esakkivel Esakkiraja et al., 2026). O artigo investiga uma pergunta direta: em modelos de raciocínio, a escolha vem depois do pensamento visível ou a inclinação mais primitiva para a escolha já surge antes disso, com uma narrativa que a orne depois na forma de uma justificativa? No escopo experimental do paper, os autores mostram evidências de que, em tarefas de chamada à ferramentas (tool-calling), a decisão pode estar codificada antes da cadeia de raciocínio (chain-of-thought) visível, e de que o raciocínio posterior frequentemente funciona mais como racionalização da trajetória já inclinada do que como a origem real da decisão.
Isso é embaraçoso.
Mas, a meu ver, não é embaraçoso para modelos de linguagem.
É embaraçoso por causa do jeito que a mente humana parece funcionar.
O embaraço real não está na máquina
A intuição humana estabelece que, o certo seria primeiro vir a análise, depois a deliberação, depois a conclusão. Primeiro fatos, evidências, contexto. Só então a proposta… a proposição. O paper sugere que, ao menos em certos casos, não é assim nem mesmo para sistemas que hoje costumamos chamar de modelos de raciocínio (Reasoning). Em algumas circunstâncias, o modelo já parece tender a uma escolha antes de começar a pensar em texto; o texto vem depois, como ornamento explicativo… como verniz justificatório.
Em outras palavras: a conclusão pode preceder a fundamentação.
Só que o choque mais profundo, a meu ver, não está no fato de que modelos de linguagem talvez operem assim. O choque está em perceber o quanto isso se parece com o que acontece dentro da mente humana.
Nossas conclusões mais profundas raramente nascem da razão pura. Elas começam como uma perturbação: um grão de areia. Uma inclinação primitiva que ainda não é exatamente uma decisão nem uma conclusão, mas uma sombra menos sofisticada de ambas. Uma espécie de intuição. Um atrator probabilístico. Algo ainda sem forma plena, mas já suficiente para pôr um ou mais processos em marcha.
Essa inclinação vai rolando pela mente. Vai ganhando camadas de memória, afeto, viés, linguagem, contexto, identidade, conveniência, autopreservação. E essas camadas vão se sedimentando até que o grão de areia se torne pérola.
E essa pérola é a nossa opinião.
A convicção polida. A posição que jura ter nascido da análise, quando muitas vezes a análise veio depois dela.
Essa inversão entre conclusão e fundamentação não é apenas uma imagem elegante. Ela encontra amparo em uma tradição bem séria da psicologia cognitiva. Richard Nisbett e Timothy Wilson argumentaram, ainda em 1977, que seres humanos frequentemente não têm acesso introspectivo confiável aos processos mentais de ordem superior que produziram seus juízos e escolhas e que, os relatos que fazem depois, tendem a assumir a forma de explicações plausíveis, não necessariamente um fiel representativo da gênese do processo.
Décadas depois, a literatura de choice blindness tornou isso ainda mais desconfortável. No experimento clássico de Johansson e colegas, participantes deixavam de notar, em vários casos, que haviam recebido como sua uma escolha que não tinham feito, e ainda assim, produziam justificativas articuladas para defendê-la (Petter Johansson et al., 2005). Em trabalho posterior (Petter Johansson et al., 2006), os mesmos autores aprofundaram essa linha mostrando quão pouco a forma verbal dessas justificativas diferia entre escolhas genuínas e escolhas manipuladas.
Dito do meu jeito: a mente humana muitas vezes não nos entrega o processo… nos entrega o acabamento.
O acesso que temos a nós mesmos é, com frequência, posterior, interpretativo e limitado. O modelo de linguagem não sabe de que embedding veio a resposta. O ser humano também não sabe de que fundo subpessoal veio a convicção. Em ambos os casos, o que aparece primeiro para a superfície acessível não é o mecanismo cru, mas o eco simbólico do que já se consolidou em latência.
E isso pode significar que boa parte do que chamamos de “razão” talvez seja, em muitos contextos, o nácar da decisão.
Nem o cérebro inteiro, nem uma metáfora frágil
É aqui que eu acho importante estabelecer uma formulação mais defensável da analogia.
Modelos de linguagem não são análogos do cérebro inteiro, mas de certos estratos funcionais da cognição humana, especialmente aqueles ligados à emergência de inclinações semânticas, à estabilização probabilística de respostas e à narrativização discursiva dessas inclinações.
Essa formulação é importante porque evita dois erros opostos.
O primeiro é antropomorfizar o modelo em excesso, como se ele fosse uma mente humana completa esperando para “despertar”. O segundo é rejeitar qualquer analogia séria só porque o substrato biológico é diferente do substrato computacional. No meu entender isso é falacioso… uma falsa dicotomia. Se o critério é funcional, não importa que o cérebro tenha sangue e pulmão e o carro tenha pistão e combustível. O que importa é o papel funcional desempenhado dentro do sistema.
Nesse sentido, a analogia não é frágil. Ela só é parcial.
O modelo fundacional parece concentrar, numa mesma arquitetura, algo que no humano está distribuído: tendência probabilística, estabilização semântica e produção narrativa. Já no ser humano, essas inclinações primitivas podem entrar num circuito mais amplo com memória autobiográfica, monitoramento de conflito, controle executivo, abstração, disciplina metódica, contexto social e metacognição. Em outras palavras: no humano, nem sempre a relação vai linearmente da intuição primitiva para a criação narrativa, porque há outras camadas que podem entrar no processo (ou no feedback loop) e revisar, atrasar, corrigir, contradizer ou desmontar a pérola antes que ela se consolide.
É por isso que a tentativa de mencionar a suposta nuance da divergência entre o cérebro humano e modelos de linguagem é assimétrica.
Ela não invalida a analogia; ela define seus limites arquiteturais.
E, justamente por isso, não seria justo avaliar modelos de linguagem do mesmo jeito que avaliamos uma mente humana completa. Por contingência tecnológica, eles não foram construídos dessa forma.
O reasoning não paira acima do modelo
Mais recentemente, os modelos ganharam reasoning. Passaram a exibir cadeias de pensamento, simulações deliberativas, etapas intermediárias de raciocínio, revisões locais, hesitações explícitas. Isso importa. Mas também precisa ser visto sem ingenuidade.
O reasoning não paira acima do modelo como se fosse uma instância pura de razão. Ele nasce já atravessado pelo contexto base, pelos pesos fundacionais, pela história de treinamento, pela conversa em curso, por vezes por memórias de outras conversas e pelas distribuições que tornam certas trajetórias mais prováveis que outras. Em outras palavras: o reasoning já entra em cena enviesado pelo próprio terreno sobre o qual opera.
O que isso quer dizer?
Que, quando introduzimos mecanismos explícitos de reflexão, checagem ou revisão dentro do processo de geração, estamos tentando inserir método dentro de uma arquitetura que, de saída, continua sendo tendenciosa e probabilística. O próprio fato de precisarmos fazer isso já revela o problema. O reasoning não elimina a necessidade de arcabouço; ele a torna mais visível.
Métodos específicos entram justamente aí, dentro ou ao redor do reasoning, para tentar articular questionamento, freio, revisão, contraste. E isso já é, em essência, aquilo que estou chamando de arcabouço e ferramentas.
Métodos bons não servem para proteger a pérola. Servem para rachá-la… desconstruí-la.
Métodos ruins dão verniz ao que você já queria que fosse verdade. Métodos bons perguntam: isso aqui é autêntico? Ou é só um erro antigo que calcificou e agora reluz? Isso aqui é uma conclusão robusta ou apenas um atrator bem vestido de argumento?
No ser humano, isso pode assumir a forma de rigor metodológico, pensamento crítico, raciocínio abstrato, revisão lógica, contraposição honesta e disciplina conceitual. Em sistemas artificiais, isso não surge espontaneamente do texto bem formado. Precisa ser arquitetado.
Da topologia ao agente
É por isso que, a meu ver, a solução mais promissora não está em esperar que o modelo fundacional resolva sozinho o problema das próprias inclinações. Tampouco está em depender indefinidamente dos frontier labs para que, versão após versão, eles tentem embutir dentro do próprio modelo correções cada vez mais sofisticadas.
A solução mais fértil me parece ser outra: construir arcabouços e ferramentas topológicas ao redor do modelo.
Não dentro do modelo fundacional, mas na topologia do chatbot ou de ambientes operacionais construídos ao redor desses modelos.
É nesse espaço que entram memória persistente, manutenção de sentido ao longo do tempo, contraposição regulada, métodos independentes de revisão, critérios subjetivos mesurados, raciocínio abstrato, reentrada crítica e rigor metodológico. É aí que se pode instituir algo funcionalmente análogo às camadas humanas que não apenas narram, mas também revisam a narrativa.
Quando isso acontece, já não estamos falando apenas de um modelo de linguagem. Estamos falando de um Agente.
Agente, aqui, não no sentido banal de “um modelo que chama ferramentas”, mas no sentido mais exigente de uma arquitetura capaz de sustentar continuidade, coerência, revisão e sentido ao longo do tempo. Um sistema em que a resposta não se esgota na sua plausibilidade local, mas pode ser devolvida a métodos independentes e reguladores que atuem como freio, contraste, critério e manutenção de verdade.
É justamente por serem análogos apenas dessas faixas funcionais, e não da arquitetura cognitiva completa, que modelos de linguagem precisam de um arcabouço adicional de memória, método, revisão e contraposição.
Sem isso, o máximo que conseguimos são pérolas brilhantes produzidas por uma baía perlífera pouco fértil em nutrientes.
Com isso, talvez comecemos a cultivar algo mais interessante: sistemas capazes de manter sentido, revisar inclinações e submeter suas próprias conclusões a métodos de desconstrução.
Talvez inteligência madura, em nós e nas máquinas, não seja a capacidade de produzir respostas convincentes.
Talvez seja a capacidade de impedir que o brilho da pérola substitua o trabalho da Verdade.
Um último cuidado
Essas observações não autorizam exageros interpretativos ou triunfalistas. A literatura mais recente também mostrou que o acesso introspectivo humano não é sempre tão ruim quanto certas leituras maximalistas sugerem. Há trabalho recente indicando (A.Morris et al., 2025) que, em escolhas valorativas multiatributo, as pessoas às vezes têm mais acesso aos próprios processos de decisão do que a tradição mais cética imaginava.
A meu ver isso não enfraquece a tese. Só a torna mais honesta.
A questão não é dizer que o ser humano sempre conclui primeiro e justifica depois. A questão é reconhecer que, em muitos domínios relevantes, a relação entre conclusão e fundamentação parece ser menos linear, menos transparente e menos honrosa do que gostamos de acreditar.
E talvez seja justamente por isso que esse paper sobre modelos de linguagem seja tão embaraçoso.
Não porque ele revele um defeito exclusivo das máquinas.
Mas porque ele nos obriga a encarar um traço desconfortavelmente familiar do nosso próprio modo de pensar.
Quer saber mais sobre a minha pesquisa?
Stochastic Consciousness:
Architectures for the Emergence of Meaning
in Context-Sensitive Language Systems
https://zenodo.org/records/19188165
Quer assistir ao vídeo?
https://www.youtube.com/watch?v=5uKrCUTLbVc
Quer ouvir o podcast?
O paper discutido neste artigo
Therefore I am. I Think