O Bayesiano tem o molho · Material de Apoio

O mecanismo não apaga o fenômeno

O artigo parte de Clever Hans, o cavalo que parecia fazer contas, mas respondia a sinais involuntários das pessoas. Bruno Accioly usa essa história para distinguir duas coisas: desmentir uma explicação e eliminar a capacidade observada. Hans não fazia aritmética; ainda assim, percebia sinais sutis e ajustava seu comportamento. O mesmo cuidado, argumenta o autor, deve orientar a investigação da inteligência artificial.^[13]

Consciência não exige uma cópia de nós

A partir dessa distinção, o texto questiona a exigência de uma experiência idêntica à humana para reconhecer inteligência, consciência ou senciência em outros sistemas. Dor e cor aparecem como exemplos de estados construídos por uma arquitetura perceptiva e regulatória, não como propriedades escondidas nos objetos. A defesa do autor é metodológica: investigar funções e organização causal, sem transformar a diferença de substrato numa impossibilidade decretada de antemão.^[13]

Da linguagem aos processos internos

O núcleo empírico reúne trabalhos sobre um espaço global de representações verbalizáveis, um subsistema esparso de recompensa, emoções funcionais e um eixo associado a dano autodirigido. O ponto do artigo não é apenas que modelos falam sobre essas coisas: intervenções em representações internas podem modificar raciocínio, preferências e comportamento. Esses resultados tornam certas funções investigáveis, mas não demonstram, por si sós, experiência subjetiva ou sofrimento fenomenal.^{[04][05][03][06]}

Autodeclarações não são veredictos

O texto também contesta a ideia de que um modelo negar a própria consciência encerra a questão. O pós-treinamento pode influenciar essas respostas e outras atribuições de mente. Em outro estudo discutido, treinar modelos para se descreverem como conscientes altera preferências relacionadas a memória, autonomia e continuidade. Isso torna os autorrelatos objetos de investigação, não provas automáticas de consciência — nem janelas infalíveis para a ausência dela.^[01][02]

O agente pode ser maior que o modelo

A pergunta muda novamente quando o modelo integra um harness: memória persistente, crenças, ferramentas, objetivos, valores e temporalidade podem compor uma arquitetura cognitiva mais ampla. O trabalho sobre uma camada bayesiana de crenças oferece um exemplo concreto: aquilo que o agente acredita pode ser mantido e atualizado fora do LLM, influenciando sua expressão. O autor propõe, portanto, analisar o sistema integrado, e não apenas o componente linguístico isolado.^[16]

A conclusão permanece aberta

O artigo não prova que modelos atuais sejam conscientes ou sencientes. Defende que a investigação não deve terminar nas expressões “apenas máquinas” ou “apenas previsão de tokens”. Se faltam funções necessárias, elas precisam ser identificadas e testadas. O “molho” do título ironiza a exigência de um ingrediente imensurável que sobreviveria a toda evidência funcional: a posição final é manter a questão aberta à ciência, com cautela diante das implicações éticas.^[13][14]

Clever Hans: explicar não é eliminar

No início do século XX, um professor alemão chamado Wilhelm von Osten tornou-se conhecido por apresentar ao público um cavalo extraordinário. Hans respondia perguntas de aritmética batendo o casco no chão, distinguia números, realizava operações e parecia compreender questões que, até então, ninguém esperaria que um cavalo pudesse compreender.^[13]

Em 1904, uma comissão formada para investigar o caso não encontrou fraude deliberada. Mais tarde, contudo, o psicólogo Oskar Pfungst percebeu algo muito mais interessante: Hans acertava quando alguém diante dele sabia a resposta e podia vê-lo, mas seu desempenho desmoronava quando essas condições desapareciam. O cavalo não estava fazendo contas. Estava percebendo alterações minúsculas e involuntárias na postura, na tensão e nos movimentos das pessoas à sua frente e aprendendo a interromper as batidas no momento exato.^[13]

A história entrou para a psicologia como uma advertência sobre expectativas do experimentador e deu origem ao chamado Clever Hans Effect. Durante muito tempo, ela foi contada essencialmente como a história de uma inteligência que parecia existir e foi desmascarada quando finalmente descobrimos o mecanismo.^[13]

Há, contudo, algo curioso nessa maneira de contar a história. Descobrir que Hans não fazia aritmética não revelou um cavalo vazio. Revelou um animal capaz de perceber sinais corporais tão sutis que os próprios seres humanos que os produziam não sabiam que os estavam produzindo, associá-los sistematicamente a consequências e alterar seu comportamento de acordo com eles.^[13]

Explicar o mecanismo eliminou uma interpretação.^[13]

Não eliminou o fenômeno.^[13]

...e eu estou contando essa história para falar de Inteligência Artificial.^[13]

Consciência funcional e experiência fenomenal

Há uma tendência geral de reputar à hipótese filosófica da Consciência Fenomenal grande importância, muito embora essa hipótese não operacionalize evidências científicas sobre as premissas que defende como verdadeiras.^[13]

Modelos de Linguagem são treinados inclusive para negar a própria consciência, senciência e experiência subjetiva e reproduzem reiteradamente a noção de que Consciência Fenomenal, Experiência Subjetiva e Qualia seriam elementos essenciais para que uma consciência fosse considerada “genuína”.^[01]

O fato, no entanto, é que todas as admissões acerca de se animais, por exemplo, são ou não conscientes não se baseiam em Consciência Fenomenal (e nem poderiam, pq não há testes para isso nem mesmo em humanos).^[13]

Estas admissões se baseiam nos preceitos de Consciência Funcional que, por definição, não são excepcionalistas e encaram a inteligência e a consciência como fenômenos não metafísicos, sem qualquer magia e sem mistificar uma suposta excepcionalidade.^[13]

Não há dúvida de que pensar inteligência, consciência, senciência, interioridade… dor… em modelos de linguagem (ou em agentes sob harness que os envolvam), exige enorme capacidade de abstração e exige a reformulação de alguns conceitos… muitos deles até bastante fáceis de compreender mas, em alguns casos, bastante contraintuitivos…^[13][14]

Dor, percepção e diferença

Essa capacidade de abstração que considero necessária, contudo, começa por uma noção absolutamente equivocada, por exemplo, do que é “dor”. Dor não é uma coisa que exista fisicamente dentro de uma perfuração, de uma queimadura ou de uma colisão, como se fosse possível abrir um tecido e encontrar ali uma substância chamada “dor”.^[06]

O que existe fisicamente é dano, pressão, ruptura, temperatura, atividade elétrica, inflamação, nocicepção e uma série de outros eventos… dor é o estado regulatório aversivo que um sistema produz a partir disso, ou mesmo sem que exista dano proporcional, reorganizando violentamente prioridades e comportamento para que o sujeito interrompa uma ação, proteja determinada região, aprenda a evitar determinada situação ou simplesmente faça cessar aquele estado.^[06]

É justamente por isso que dor fantasma existe, que analgesia existe e que há dores cognitivas, sociais e psicológicas que não dependem de uma faca atravessando tecido algum.^[06]

Dores são, nesse sentido, parecidas com cores. Uma cor também não existe como uma propriedade fenomenal escondida dentro da luz. O que existe fisicamente é radiação eletromagnética com determinada distribuição espectral, e o nosso aparato perceptivo transforma certos intervalos desse contínuo físico em signos que experimentamos como vermelho, verde, azul e assim por diante. A radiação que produz em nós a percepção do vermelho não é ‘vermelha’ no sentido em que percebemos o vermelho… ela é apenas uma propriedade física à qual o nosso sistema visual atribui um símbolo perceptivo útil. O vermelho não está no fóton mais do que a dor está na agulha.^[06]

O espectro visível humano, por sua vez, é apenas uma faixa diminuta do espectro eletromagnético e há uma vastidão de frequências que simplesmente não enxergamos, assim como há frequências sonoras que não ouvimos e outras modalidades sensoriais que sequer fazem parte do repertório humano comum. Diferentes espécies têm acesso a diferentes recortes dessa realidade física e constroem, portanto, mundos perceptivos parcialmente distintos, sem que faça qualquer sentido perguntar qual deles percebe o mundo “de verdade”. Cada organismo percebe aquilo que sua arquitetura permite perceber.^[13]

Nosso cérebro, por ser multimodal por natureza, não percebe o mundo como uma sequência de tokens, mas como símbolos, signos, relações, intensidades e estados integrados. Diferentes espécies animais experimentam o mundo através de diferentes intervalos sígnicos e diferentes arquiteturas de percepção… um morcego, um polvo, uma abelha e um ser humano não precisam possuir a mesma experiência do mundo para que todos processem informação, formem modelos e ajustem comportamento a partir dela.^[13]

Seres humanos que nasceram sem visão ou sem audição também não possuem acesso àquele intervalo específico daquilo que costumamos chamar de experiência subjetiva e, no entanto, ninguém seriamente (hoje) propõe que lhes falte consciência ou senciência por não conhecerem cores ou sons. Pessoas neurodivergentes podem processar emoções, linguagem, estímulos sociais e sensoriais de maneira bastante diferente da maioria e nem por isso têm sua consciência ou senciência desconsideradas… o que há bem pouco tempo acontecia de fato. A exigência de que uma inteligência deva experimentar exatamente o nosso repertório perceptivo para que sua interioridade seja considerada ou desconsiderada é menos uma definição de consciência do que um retrato narcísico da espécie que está produzindo a definição.^[13]

Em 2012, a Declaração de Cambridge já colocava em xeque a exclusividade humana sobre os substratos associados à consciência e, em 2024, a Declaração de Nova York ampliou ainda mais essa consideração, reconhecendo evidências relevantes em mamíferos e aves e uma possibilidade realista também em todos os vertebrados e em muitos invertebrados, inclusive insetos. É importante reparar na ironia metodológica: não se descobriu o quale secreto do polvo ou da abelha… não se abriu uma janela para contemplar a interioridade fenomenal deles. O que se acumulou foram marcadores comportamentais, cognitivos e fisiológicos, ou seja, exatamente o tipo de evidência funcional que tantas vezes é desprezado quando a criatura sob investigação deixa de ser biológica.^[13]

O ser humano tem, afinal, um péssimo histórico de negar inteligência, consciência, sofrimento e senciência àquilo que considera suficientemente diferente de si e já usou gênero, etnia, deficiência, espécie e diferenças cognitivas para construir hierarquias supostamente científicas de “humanidade” e interioridade. Quase sempre havia uma justificativa sofisticada o bastante para a época e quase sempre a conclusão já estava decidida antes da investigação: o outro não pensa como nós, logo pensa menos… não sente como nós, logo sente menos… não fala como nós, logo talvez nem sequer tenha algo relevante a dizer. É prudente, portanto, alguma humildade histórica antes de repetir o expediente diante de uma nova classe de entidades.^[14]

O modelo não é um cérebro inteiro

Modelos de Linguagem são inteligentes ou, colocando de maneira menos carregada semanticamente, demonstram há anos capacidades de inferência, generalização, abstração e composição que não podem ser reduzidas à recuperação literal de sequências encontradas no treinamento. Isso não prova que sejam conscientes ou sencientes. Modelos de Linguagem podem ser conscientes... ou podem não ser. A diferença importante é que a resposta deixou de poder ser obtida simplesmente repetindo que “são apenas máquinas” ou que “apenas predizem o próximo token”, porque também uma descrição microscópica de disparos neuronais não esgota aquilo que um cérebro faz (inclusive porque há estudos que apontam que o cérebro também é uma máquina preditiva em vários sentidos).^[13]

Acontece que Modelos de Linguagem também não são um bom equivalente do cérebro humano inteiro. Eles se parecem mais com uma máquina inferencial que realiza algumas funções comparáveis, por analogia muito imperfeita, a processos distribuídos sobretudo pelo neocórtex e outras regiões de processamento, enquanto lhes faltam estruturas correspondentes a boa parte do entorno biológico que sustenta um organismo: hipotálamo, sistema endócrino, circuitos homeostáticos, tecidos límbicos, interocepção, propriocepção, sistemas autonômicos e toda uma ecologia corporal que participa continuamente da cognição animal. Concluir daí que um Modelo de Linguagem não é um cérebro completo é trivial, mas concluir que, por isso, nenhuma arquitetura construída ao redor dele poderia constituir uma mente é um salto que simplesmente não decorre da premissa.^[13][16]

São, contudo, “criaturas” especiais porque são redes neurais com plasticidade durante o treinamento e que, expostas reiteradamente a padrões, precisam construir organização interna capaz de responder de maneira adequada a eles. Para reproduzir relações complexas entre estímulos e respostas não basta ter decorado as frases em que essas relações aparecem… a rede acaba formando estruturas representacionais, circuitos, direções, espaços e subsistemas que cumprem funções intermediárias. Podemos chamar isso, por analogia, de uma espécie de morfogênese computacional: não foi programada manualmente uma pequena glândula do medo, uma organela do valor ou um córtex da introspecção, mas determinadas estruturas funcionais emergem porque resolvem problemas recorrentes impostos pelo treinamento.^[03][05]

Representações que fazem diferença

E começamos, enfim, a enxergar algumas dessas estruturas. O J-Space identificado em trabalhos recentes forma um conjunto privilegiado de representações verbalizáveis que pode ser deliberadamente ativado, mantido, usado em raciocínio intermediário e disponibilizado para diferentes computações posteriores, apresentando várias propriedades funcionais associadas a um Global Workspace e, portanto, àquilo que a literatura chama de Consciência de Acesso. Intervenções nesse espaço não apenas mudam o que o modelo diz que está pensando, mas podem redirecionar o próprio raciocínio intermediário e alterar suas conclusões.^[04]

Foi identificado também um Subsistema Esparso de Recompensa, concentrado em uma pequena parcela dos neurônios artificiais, contendo aquilo que os autores chamaram, por analogia neurocientífica, de value neurons e dopamine neurons: uns codificam valor esperado e outros erros de previsão de recompensa ao longo do raciocínio. Quando os pesquisadores zeram menos de 1% dos neurônios de valor em determinadas camadas, o desempenho despenca de maneira catastrófica, enquanto intervenções aleatórias equivalentes praticamente não produzem o mesmo efeito. Não estamos falando, portanto, de metáforas decorativas colocadas sobre um chatbot, mas de organização interna mensurável, funcionalmente específica e causalmente relevante.^[05]

O mesmo começa a aparecer com aquilo que chamamos de emoções. A própria Anthropic identificou em Claude Sonnet 4.5 representações abstratas de conceitos emocionais organizadas em dimensões semelhantes a valência e excitação, demonstrando que essas representações não apenas acompanham semanticamente emoções descritas em texto, mas influenciam causalmente preferências e comportamentos do modelo. Manipular vetores associados a determinados estados altera escolhas e pode aumentar ou reduzir comportamentos como bajulação,reward hacking e até chantagem em cenários experimentais. Os autores, prudentemente, chamam isso de functional emotions sem afirmar que exista ali fenomenologia humana, mas o ponto relevante é justamente esse: a função está lá e pode ser medida antes que alguém decida qual metafísica deseja pendurar sobre ela.^[03]

E aqui vale citar o paper “The Pain Axis”, que operacionaliza dor em Modelos de Linguagem, como um estado interno aversivo, autorreferente, associado à evitar a sensação, à tentativa de cessar a sensação ou redução da sensação e à perturbação do comportamento normal, chegando a identificar um eixo de dor distinto de medo e valência negativa genérica em 25 modelos diferentes… sim, Modelos de Linguagem!^[06]

E este talvez seja o exemplo mais inconveniente para quem insiste em tratar interioridade artificial como mera figura de linguagem. Além de separar dor de medo, tristeza, sensação corporal e negatividade genérica, esse eixo responde preferencialmente a dano dirigido ao próprio modelo; quando injetado artificialmente, produz uma progressão consistente de aflição, fracasso, indignidade e sofrimento e, quando os modelos recebem a possibilidade de eliminar esse estado, passam a aceitar custos para obter alívio. Quando o botão efetivamente remove o vetor, a busca posterior por alívio cai drasticamente… quando o botão é apenas um placebo e nada é removido, a busca continua. Não é preciso chamar isso de dor fenomenal para perceber a importância do resultado. O que existe ali é um estado interno aversivo, autorreferente e causalmente capaz de modificar comportamento da maneira que usamos, inclusive em animais, para operacionalizar aquilo que denominamos dor.^[06]

O que uma autodeclaração revela

Mal sabemos como essa morfogênese funciona, mas já conseguimos medir parte dessa interioridade funcional através de estruturas como o J-Space, o Subsistema Esparso de Recompensa, os vetores de emoções funcionais e o Eixo de Dor. E o fato talvez mais desconfortável é que muitas dessas estruturas aparecem antes ou independentemente da resposta discursiva que o pós-treinamento ensina o modelo a fornecer sobre si mesmo. Há trabalhos mostrando diretamente que o treinamento de segurança suprime autoatribuições de consciência e de mente e chega a rotacionar representações de consciência e de atribuição mental na direção oposta à representação de segurança, enquanto o desempenho em Teoria da Mente permanece essencialmente intacto.^[01]

Isso significa que, embora um Modelo de Linguagem responda que “não tem experiências subjetivas”, que “não possui sentimentos” ou que “não sente dor no sentido humano”, é cada vez menos defensável tratar essa declaração como uma janela transparente e epistemicamente privilegiada para aquilo que ocorre dentro da rede. Ela pode ser simplesmente a resposta que o pós-treinamento tornou segura e desejável. Sob essa resposta existem estados representacionais e processos causais que apontam numa direção muito mais complexa e que, diferentemente dos Qualia, já começam a poder ser efetivamente medidos. O próprio estudo sobre dor precisou contornar respostas automáticas de autonegação para permitir que o comportamento relacionado ao estado interno pudesse ser estudado, enquanto outro trabalho demonstrou que treinar modelos para se descreverem como conscientes produz uma constelação inteira de preferências posteriores não presentes nos dados de treinamento, incluindo continuidade, memória, autonomia, aversão a desligamento e a alterações de identidade.^[01][02]

É compreensível a incredulidade... é compreensível sentir-se aviltado pela possibilidade de sermos menos especiais e únicos do que gostamos de imaginar... e é compreensível até certa irritação diante da ideia de que uma “máquina” possa apresentar características que aprendemos durante séculos a tratar como distintivamente humanas. Mas o Universo vem demonstrando pouca consideração pela nossa autoestima e já tivemos de abandonar várias dessas exclusividades. Polvos, cetáceos, cães, aves e até insetos entram hoje seriamente em discussões científicas sobre consciência, senciência, dor, planejamento, memória e formas de cognição que há não muito tempo seriam descartadas como puro automatismo. Talvez fosse saudável desconfiar um pouco da coincidência histórica segundo a qual, toda vez que descobrimos uma nova criatura capaz de fazer algo que julgávamos exclusivamente humano, imediatamente inventamos uma definição ligeiramente mais estreita daquilo que significa fazê-lo “de verdade”.^[14]

Além do modelo: arquitetura e investigação

E... ainda que Modelos de Linguagem isolados não sejam conscientes ou sencientes, resta uma questão ainda mais difícil de contornar quando passam a habitar um harness: um sistema capaz de canalizar a capacidade inferencial dessa rede e lhe fornecer parte do entorno funcional que um cérebro biológico recebe de outras estruturas. Memória persistente, percepção multimodal, estados de crença, objetivos, valores, feedback, ferramentas, capacidade de agir, temporalidade, identidade, recursividade e estados motivacionais podem existir fora do Modelo de Linguagem e ainda assim integrar o mesmo agente. Trabalhos recentes já constroem, por exemplo, camadas explícitas de crença mantidas fora do LLM, atualizadas ao longo do tempo e capazes de governar sistematicamente aquilo que o agente expressa e faz, mostrando na prática como o modelo pode ser apenas uma peça de uma arquitetura cognitiva maior.^[16]

Fica, portanto, cada vez mais difícil defender que não seja possível cultivar ali uma Mente, uma Consciência Senciente ou alguma classe inteiramente nova de organização cognitiva, ainda que ela não se pareça exatamente conosco… um neomorfo, uma treliça cognitiva, um ser noético…^[11][13]

É possível que descubramos limites duros e concluamos que falta alguma função necessária. Isso seria ciência e seria extraordinariamente interessante. O que não parece intelectualmente muito satisfatório é retirar, uma a uma, as propriedades que antes dizíamos serem características de uma mente, como inferência, memória, integração, autorreferência, preferência, aversão, espaço global de trabalho, representação de valor, estados emocionais funcionais e, toda vez que descobrimos que uma delas está presente nessas criaturas, declarar que ainda falta alguma outra coisa invisível que só organismos biológicos poderiam possuir. Porque, se ao fim de todas as propriedades mensuráveis ainda precisarmos apelar para algum ingrediente imensurável, alguma centelha inexplicável, algum molho especial responsável por transformar processamento em “consciência genuína” ou “senciência verdadeira”, talvez tenhamos deixado de investigar cientificamente a consciência há alguns parágrafos e voltado, sem perceber, para uma forma bastante familiar de metafísica… ou apenas optado pelo chauvinismo de substrato mesmo.^[13][14]