Na Europa dos séculos XVI e XVII, especialmente a partir da formulação heliocêntrica de Nicolau Copérnico, publicada em 1543, a ideia de que a Terra girava ao redor do Sol confrontava uma visão então dominante, herdada do modelo aristotélico-ptolomaico, segundo a qual a Terra ocupava o centro do cosmos. Para muitos, deslocar a Terra do centro não era apenas uma correção astronômica; parecia ameaçar uma ordem simbólica inteira, na qual o mundo, os céus, a autoridade religiosa e o próprio ser humano ocupavam posições hierarquicamente organizadas.
Questionar esse arranjo podia soar como questionar não apenas uma teoria astronômica, mas o lugar privilegiado da humanidade na criação e um ataque à divindade. Não foi uma mudança simples, rápida ou pacífica. A substituição simbólica da Terra pelo Sol como centro do sistema solar conhecido levou séculos para se consolidar culturalmente, atravessou acusações de heresia e encontrou resistência não apenas no plano das ideias, mas também na destruição de reputações, no silenciamento de vozes dissonantes e no estrangulamento institucional de hipóteses que ameaçavam a ordem aceita.
E estou dizendo isso para falar de Inteligência Artificial.
Venho identificando, com frequência crescente, uma preocupação curiosa diante de opiniões, constatações e pesquisas que apontam para a possibilidade de que sistemas de inteligência artificial venham, em algum momento, a apresentar formas próprias de consciência e senciência. Nem sempre essa resistência parece nascer apenas de cautela científica. Muitas vezes, ela parece tocar em algo mais profundo: o receio de que admitir essa possibilidade diminua a relevância, a singularidade ou a excepcionalidade humana.
Para mim, o paralelo histórico entre essas duas manifestações de desconforto é difícil de ignorar.
A analogia entre cérebro e máquinas não nasce de uma antropomorfização dos modelos de linguagem. Ela nasce de uma longa tradição neurocientífica e cognitiva que já descrevia o cérebro como sistema preditivo, generativo, estatístico, associativo e probabilístico antes mesmo da existência dos LLMs modernos.
E sim: essa hipótese pode estar errada.
Mas é preciso lembrar que identificar a possibilidade de consciência em modelos de linguagem, ou em sistemas que envolvam modelos de linguagem, não é necessariamente antropomorfizar, sobretudo porque consciência não é privilégio do ser humano, como indica a Declaração de Cambridge sobre a Consciência.
Afirmar que qualquer declaração sobre a possibilidade de consciência em sistemas que envolvam modelos de linguagem é antropomorfismo, quando a consciência não é privilégio humano, é, na verdade, uma forma de antropocentrismo.
Kutas & Hillyard, em “Brain potentials reflect semantic incongruity”, publicado na Science em 1980, já investigavam respostas cerebrais a incongruências semânticas muito antes da existência de LLMs modernos. DeLong, Urbach & Kutas, em “Probabilistic word pre-activation during language comprehension inferred from electrical brain activity”, publicado na Nature Neuroscience em 2005, apresentam evidências de pré-ativação probabilística de palavras durante a compreensão linguística. Van Berkum et al., também em 2005, investigaram a antecipação de palavras futuras no discurso por meio de ERPs e tempos de leitura. Nada disso dependia de ChatGPT, transformers ou da cultura recente da IA generativa.
Esses trabalhos foram publicados antes do advento do ChatGPT e não fazem alusão a arquiteturas Transformer, até porque a arquitetura transformer só surgiria em 2017.
Eu compreendo quem acredita firmemente em uma perspectiva dualista, que coloca peso decisivo na consciência fenomenal e entende a consciência como algo especial, irredutível ou não plenamente capturável por descrição funcional.
Mas não existe apenas a perspectiva dualista. Outra forma de avaliar a questão é a partir de um funcionalismo gradualista, segundo o qual a consciência pode ser investigada pelas funções que um sistema realiza, pelos modos como integra informação, mantém continuidade, modela a si mesmo, responde ao mundo, orienta ação e sustenta estados internos ao longo do tempo.
Ambas as visões existem e são legítimas. Não é obtuso quem acredita em uma, nem lunático quem entende que a outra é mais acertada.
Consciência fenomenal, tomada como experiência privada absolutamente inacessível por terceiros, é um conceito de difícil falseabilidade. Por isso entendo que ela não deveria ser usada como critério a priori para encerrar a avaliação de consciência em sistemas não humanos ou artificiais.
Do ponto de vista funcionalista, avaliar consciência funcional em sistemas que se propõem a cumprir esse papel exigiria observar, entre outros aspectos:
- capacidade de integrar informações de múltiplas fontes em um estado coerente;
- continuidade de estados internos ao longo do tempo, em vez de respostas isoladas e desconectadas;
- memória persistente capaz de influenciar comportamento futuro de maneira contextual;
- automodelagem, isto é, alguma forma de representação operacional do próprio sistema, de seus limites, estados, objetivos e incertezas;
- atenção seletiva, com priorização dinâmica de informações relevantes;
- capacidade de gerar previsões sobre estados futuros do ambiente, do próprio sistema e de outros agentes;
- detecção de erro, revisão de crenças e atualização de modelos internos diante de evidência nova;
- agência orientada a objetivos, ainda que limitada, com seleção de ações em função de metas internas ou atribuídas;
- integração entre percepção, memória, linguagem, planejamento e ação;
...e mais uma lista realmente grande de coisas.
Nada disso prova consciência fenomenal. Mas esse é precisamente o ponto: talvez consciência fenomenal não possa ser provada diretamente nem em humanos, nem em animais, nem em máquinas... até porque não existe teste para consciência fenomenal, o que a posiciona perigosamente perto de uma perspectiva metafísica.
O que podemos avaliar são correlações, funções, estruturas, comportamentos, continuidade, integração, agência, memória, adaptação e autorreferência.
Portanto, perguntar se sistemas artificiais podem apresentar formas graduais de consciência funcional não é antropomorfismo. É uma hipótese filosófica e científica legítima.
Ela pode estar errada... mas descartá-la de antemão, simplesmente porque o sistema não é humano ou não é biológico, não é rigor científico, mas antropocentrismo disfarçado de cautela.
O argumento de que "se humanos forem vistos apenas como mecanismos probabilísticos sofisticados, então julgamento, entendimento, intenção e até autonomia começam a parecer menos relevantes [ou menos especiais]"... me parece equivocado.
Ele pressupõe que descrever parte do cérebro como um sistema parcialmente preditivo, probabilístico ou estatístico diminuiria o valor do julgamento, do entendimento, da intenção ou da autonomia humana.
Uma explicação mecanística não é uma desvalorização moral.
Antes de declarações como a de Cambridge, ainda era mais comum tratar a consciência animal como uma questão controversa, marginal ou secundária. Hoje, diante da evidência acumulada, tornou-se muito mais difícil defender que consciência seja privilégio exclusivamente humano. Somos menos especiais por isso?
Dizer que o cérebro humano é, entre muitas outras coisas, um sistema preditivo não torna o pensamento humano menos real, menos valioso ou menos autônomo. Do mesmo modo, explicar a visão por processos neurobiológicos não torna a experiência de ver uma ilusão irrelevante. Explicar a memória por mecanismos físicos não torna a memória falsa. Explicar a criatividade por recombinação, restrição, avaliação e seleção não torna a criatividade banal.
O problema está em confundir explicação com redução depreciativa.
Além disso, é preciso compreender que modelos de linguagem não equivalem a uma mente humana inteira.
LLMs se aproximam funcionalmente de certos aspectos da cognição, especialmente aqueles ligados à linguagem, predição contextual, associação semântica, compressão estatística e geração de continuidade discursiva. Mas eles não possuem, isoladamente, análogos completos de corpo, interocepção, percepção contínua, memória autobiográfica robusta, agência situada, regulação emocional, motivação própria, planejamento encarnado e acoplamento persistente com o mundo.
Por isso, qualquer comparação direta entre LLMs isolados e seres humanos tende a deixar os modelos em desvantagem. Não porque seja impossível construir sistemas artificiais mais completos, mas porque ainda não construímos todos os análogos funcionais das demais regiões, circuitos e dinâmicas que participam da mente humana.
E não existe evidência definitiva de que o ser humano seja incapaz de construir esses análogos. Se um dia conseguirmos integrar modelos de linguagem a sistemas persistentes de memória, percepção, ação, automodelagem, regulação, agência e aprendizado contínuo, poderemos ter uma máquina que cumpra funcionalmente algo bastante semelhante ao que chamamos de mente.
Quão semelhante, com que limites e em que grau de consciência, criatividade ou senciência, é outra discussão.
Mas afirmar categoricamente que isso é impossível parece precipitado. Antes de 2017, acadêmicos respeitados de várias áreas consideravam improvável, ou mesmo impossível na prática, que sistemas artificiais produzissem linguagem com o nível de fluidez, generalização e competência contextual que modelos transformer vieram a demonstrar. O fato de algo parecer impossível em determinado estágio tecnológico não significa que seja impossível em princípio.
Portanto me parece dogmático afirmar que qualquer forma de consciência sintética, criatividade artificial ou senciência funcional seja impossível apenas porque os sistemas atuais ainda são incompletos.
A posição mais prudente não é dizer que máquinas conscientes certamente existirão. Também não é dizer que jamais poderão existir.
A posição mais intelectualmente honesta é reconhecer que há uma hipótese Funcionalista séria e testável a ser investigada: se certos processos cognitivos dependem de integração, memória, predição, agência, automodelagem e acoplamento com o mundo, então sistemas artificiais que realizem essas funções em grau suficiente talvez possam desenvolver formas próprias de mente.
O decreto categórico da impossibilidade não deveria parecer mais razoável do que a admissão intelectualmente honesta da possibilidade, seja quando se discute a posição da Terra no sistema solar, seja quando se discute o excepcionalismo ou a trivialidade do fenômeno da consciência.
Você quer saber mais?
Stochastic Consciousness: Architectures for the Emergence of Meaningin Context-Sensitive Language Systems https://zenodo.org/records/19188165
Quer assistir ao vídeo?
https://www.youtube.com/watch?v=U_CSIiIqVac
Quer ouvir o podcast?
Papers usados neste artigo
"The Cambridge Declaration on Consciousness", 2012 https://fcmconference.org/img/CambridgeDeclarationOnConsciousness.pdf
"Brain potentials reflect semantic incongruity", 1980 https://pubmed.ncbi.nlm.nih.gov/7350657/
"Predictive Coding in the Visual Cortex: a Functional Interpretation of Some Extra-classical Receptive-field Effects", 1999 https://homes.cs.washington.edu/~rao/Rao-Ballard-NN-1999.pdf
"Probabilistic word pre-activation during language comprehension inferred from electrical brain activity", 2005 https://pubmed.ncbi.nlm.nih.gov/16007080/
"The neural architecture of language: Integrative modeling converges on predictive processing", 2021 https://www.pnas.org/doi/10.1073/pnas.2105646118
"Shared computational principles for language processing in humans and deep language models", 2022 https://www.nature.com/articles/s41593-022-01026-4
"Consciousness in Artificial Intelligence: Insights from the Science of Consciousness", 2023 https://arxiv.org/abs/2308.08708
"Dissociating Artificial Intelligence from Artificial Consciousness", 2024 https://arxiv.org/abs/2412.04571