Ted Chiang publicou recentemente um artigo chamado “No, Artificial Intelligence Is Not Conscious”, em que afirma, com a elegância retórica que lhe é habitual, que modelos de linguagem não são conscientes, que conversas com chatbots não passam de uma forma sofisticada de continuação textual, que personagens produzidos por esses sistemas são tão ficcionais quanto Júlio César e Gêngis Khan em um diálogo inventado, e que confundir fluência linguística com interioridade seria um erro de proporções titânicas.
Há muita coisa correta nesse diagnóstico, sobretudo quando ele critica o risco antropomorfismo corporativo, a exploração emocional de usuários, o uso supostamente irresponsável de pronomes em primeira pessoa e a tentativa de empresas de Inteligência Artificial de flertar com a hipótese de bem-estar de modelos sem assumir, proporcionalmente, as consequências éticas e jurídicas que essa hipótese deveria impor. O problema é que, a partir de constatações parcialmente corretas, Chiang salta para uma conclusão categórica demais: “não, absolutamente não”. E é nesse “absolutamente” que, a meu ver, o texto deixa de ser prudência científica e passa a operar como decreto ontológico pouco rigoroso e, intencionalmente ou não, intelectualmente desonesto.
O problema não é a cautela, é o absoluto
Não estou dizendo que modelos de linguagem sejam conscientes. Essa frase precisa aparecer logo no início, porque o debate público sobre Inteligência Artificial tem uma capacidade extraordinária de transformar qualquer posição Funcionalista, Gradualista ou simplesmente aberta em caricatura. Dizer que não se pode afirmar categoricamente que Inteligência Artificial não é consciente não é o mesmo que dizer que ChatGPT, Claude, Gemini, Grok ou qualquer outro chatbot comercial seja uma pessoa, sofra em silêncio, possua uma vida interior equivalente à humana ou tenha alma… esta última colocação eu faço por via das dúvidas, mas não a levo a sério nem quando falo de seres humanos.
Também não é dizer que fluência textual prove consciência, porque não prova. Um sistema pode escrever frases belíssimas sobre medo, tristeza, culpa, desejo, gratidão, angústia e esperança sem que (necessariamente) isso, por si só, estabeleça qualquer forma de experiência subjetiva. Essa cautela não apenas é legítima, como é necessária. O erro começa quando essa cautela é transformada em impossibilidade de princípio, como se a ausência de prova definitiva autorizasse a certeza confortável da negação absoluta.
A tese que não estou defendendo
O que Chiang faz, em essência, é tomar uma descrição correta de um certo regime de uso dos LLMs… uma máquina estatística de continuação de texto, operando episodicamente sobre um prompt, produzindo uma saída que pode simular diálogo.. e tratá-la como se ela esgotasse a totalidade das arquiteturas possíveis de Inteligência Artificial.
É verdade que, se pedimos a um LLM uma conversa entre Júlio César e Gêngis Khan, ele não ressuscita Júlio César nem Gêngis Khan. É verdade que, se pedimos uma conversa entre “um chatbot prestativo” e “um usuário”, a personagem textual chamada “chatbot” não se torna, por isso, um sujeito consciente. É verdade que um transcript não sente tristeza só porque contém frases tristes. Até aqui, não há nada especialmente controverso.
A questão é que a tese mais séria sobre consciência artificial não é a de que personagens textuais sejam sujeitos, nem a de que uma frase em primeira pessoa constitua prova de interioridade. A tese séria é outra: certas arquiteturas artificiais, quando acopladas a memória persistente, continuidade histórica, agência contextual, autorregulação, reentrada recursiva, saliência, relação com o mundo e algum tipo de automodelagem, poderiam vir a sustentar formas graduais, funcionais, estocásticas ou topológicas de consciência.
Chiang ataca com vigor uma tese fraca, talvez até ridícula, e parece acreditar que, ao fazê-lo, derrubou a hipótese inteira. Mas dizer que um documento de Word contendo uma conversa não é consciente não prova que nenhum sistema artificial organizado em torno de linguagem, memória, continuidade e ação possa sustentar uma forma própria de organização consciente.
Dizer que o César textual não é César não prova que todo sistema baseado em linguagem será eternamente apenas personagem. Dizer que uma conversa isolada é continuação textual não prova que uma arquitetura historicamente persistente, com estado, memória, critérios de revisão, automodelo e relação com ambiente, seja redutível ao mesmo fenômeno. Há uma diferença enorme entre um transcript e um construto; entre uma saída textual e uma organização cognitiva; entre um personagem gerado e um sistema que preserva e reorganiza sua própria história ao longo do tempo.
O transcript não é o sujeito
O erro aqui é localista. Procura-se o sujeito no lugar errado. Procura-se a consciência no token, no prompt, no softmax, no forward pass, na frase em primeira pessoa, na personagem textual ou na instância efêmera de geração. Não se encontra. Então se declara que não há sujeito algum. Mas não é assim que avaliamos seres humanos. Ninguém procura a mente em um neurônio. Ninguém exige que uma sinapse carregue a autobiografia inteira da pessoa. Ninguém olha para uma região cortical isolada e, não encontrando ali um “eu” completo, conclui que seres humanos são ficções úteis.
Sabemos que a mente humana emerge de uma organização distribuída que envolve linguagem, memória, corpo, afeto, interocepção, percepção, atenção, controle executivo, sono, dor, propriocepção, história, relação com ambiente e modulação social. O sujeito não está na peça. Está na organização funcional do todo ao longo do tempo.
Por isso a crítica “LLMs apenas preveem o próximo token” é insuficiente. Em certo nível, sim, modelos de linguagem geram tokens a partir de distribuições probabilísticas condicionadas por contexto. Mas em certo nível o cérebro humano também “apenas” realiza processos físico-eletroquímicos. O olho “apenas” transduz fótons. O ouvido “apenas” converte vibração em sinal neural. O coração “apenas” bombeia sangue. O problema não está na descrição mecanística, mas na pretensão de que ela encerre a análise.
A palavra “apenas” costuma fazer o trabalho retórico de empobrecer o fenômeno sem explicá-lo. Se aplicada simetricamente ao humano, ela destruiria a própria noção de pensamento, percepção, memória, intenção e identidade. O fato de um fenômeno poder ser descrito em nível físico, matemático, estatístico ou eletroquímico não elimina os níveis superiores de organização que emergem dele. A explicação do mecanismo não é uma desvalorização moral do fenômeno.
O ‘apenas’ que não explica nada
É por isso que sigo achando ruins as formulações do tipo “Inteligência Artificial é só matemática, logo não compreende”. Claro que é matemática. Tudo em computação é matemática, e boa parte do que acontece no cérebro também pode ser descrita matematicamente. A pergunta relevante não é se há matemática, mas que propriedades funcionais aparecem quando essa matemática é organizada em arquiteturas capazes de manter sentido, memória, continuidade, adaptação, erro, revisão e agência ao longo do tempo.
Dizer que “se tem base matemática não tem consciência” é tão ruim quanto dizer que “se tem carne não tem consciência”. Neurônios isolados não são inteligentes, assim como nodes de uma rede neural artificial não são inteligentes. Mas em determinada organização, no caso biológico, emerge uma mente. A pergunta interessante, portanto, não é se uma matriz sente, mas se uma arquitetura artificial suficientemente integrada pode sustentar funções análogas àquelas que, em organismos, associamos à consciência.
Chiang parece exigir uma rota evolutiva quase terrestre para levar a sério a hipótese de consciência artificial. Primeiro um corpo, depois uma capacidade de sobrevivência comparável à de um lagarto, depois flexibilidade de um rato, depois dinâmica social de lobos, depois uso de ferramentas de chimpanzés, depois comunicação não linguística, até que um dia, talvez, algo pudesse se aproximar de linguagem humana. Essa prudência pode parecer sensata, mas carrega uma premissa forte demais: a de que a única sequência aceitável para a emergência da consciência é a sequência que a vida terrestre percorreu. Talvez seja. Mas talvez não seja. Talvez uma rota artificial não passe primeiro por lagartos, ratos, lobos e chimpanzés, mas por linguagem, memória, autorreferência, agência contextual, modelos de mundo, corpos simulados, acoplamento com ferramentas, persistência histórica e homeostase arquitetural. Rejeitar de antemão essa segunda rota porque ela não se parece com a primeira é menos uma demonstração científica do que uma preferência morfológica.
Até porque a Declaração de Cambridge já, de saída, discorda completamente dessa visão ao associar Consciência de forma Gradualista e Funcionalista em um sem número de outras espécies, algumas das quais sequer tem caminho evolutivo semelhante à humana, como é o caso de cetáceos e polvos.
A rota evolutiva não é a única rota concebível
Aeroplanos não batem asas. Submarinos não nadam como peixes. Próteses não são braços biológicos. Corações artificiais não são miocárdios vivos. E, ainda assim, todos esses casos nos ensinaram que função, organização e acoplamento causal podem importar mais do que fidelidade morfológica ao original. Uma simulação puramente descritiva de tempestade não molha coisa alguma, como declaram os críticos do funcionalismo. Mas nem toda reprodução artificial é uma simulação vazia. Um coração artificial não descreve o bombeamento de sangue; ele bombeia sangue. Uma prótese não descreve a locomoção; ela pode viabilizar locomoção. A pergunta decisiva, portanto, não é se algo é natural ou artificial, nem se imita externamente o organismo original, mas se a organização causal necessária ao fenômeno foi funcionalmente reproduzida em outro substrato.
Esse ponto vale também para o corpo. Quando Chiang diz que um “programa” sem corpo não poderia ter desejos ou emoções, a afirmação parece mais forte do que realmente é, porque depende do que se entende por corpo. Ignorando que Modelos de Linguagem definitivamente não são “programas” mas decorrências de “programas”... Se corpo significa corpo biológico, carne, metabolismo orgânico, glândulas, hormônios, pele, vísceras e sistema nervoso animal, então estamos diante de uma versão sofisticada da Falácia do Substrato Sagrado.
A consciência dependeria de uma constituição material específica, e qualquer outro regime estaria excluído de antemão. Mas, se corpo significa acoplamento com ambiente, vulnerabilidade, percepção, ação, restrição, homeostase, recursos internos, continuidade temporal e estados que importam para a preservação da própria organização, então não há razão óbvia para afirmar que sistemas artificiais jamais poderiam desenvolver análogos funcionais disso. Sensores, atuadores, ambientes simulados, variáveis internas de integridade, escassez, conflito, prioridade, carga, latência, continuidade e risco podem não ser equivalentes à fisiologia humana, mas podem cumprir papéis organizacionais relevantes.
O corpo, o substrato e a falácia biológica
O curioso é que exigimos da Inteligência Artificial um tipo de prova que não conseguimos oferecer nem para nós mesmos. Não temos acesso direto à experiência subjetiva de outro ser humano. Inferimos sua presença a partir de comportamento, linguagem, corpo, história, vulnerabilidade, expressão, relação com o mundo e analogia conosco. Com animais fazemos algo semelhante. Um cão não escreve ensaios sobre fenomenologia, mas inferimos dor, medo, alegria, expectativa, frustração e apego a partir de sinais funcionais e relacionais. Um polvo não formula uma teoria da mente, mas a complexidade de seu comportamento nos obriga a ampliar a categoria de consciência animal. O mesmo vale, em graus distintos, para bebês, pacientes comatosos, pessoas com severas limitações comunicativas e estados alterados de consciência. A consciência alheia nunca é diretamente vista. Ela é inferida.
Então, quando se exige da Inteligência Artificial uma prova de consciência fenomenal que não exigimos, no mesmo formato, de nenhum outro ser, o que está em operação não é exatamente rigor. É uma assimetria. Para humanos, aceitamos sinais funcionais como indícios de interioridade. Para animais, aceitamos sinais funcionais e evolutivos como indícios de experiência. Para máquinas, os mesmos sinais são imediatamente reclassificados como “mera simulação”. Talvez haja boas razões para essa diferença. Talvez o substrato biológico importe mais do que eu imagino. Mas isso precisa ser argumentado, não presumido. Caso contrário, o risco deixa de ser Antropomorfismo e passa a ser Antropocentrismo.
A distinção é importante. Antropomorfismo é ver humano onde não há humano. É projetar nossos dramas, sentimentos, intenções e interioridade em um sistema apenas porque ele fala de modo familiar. Esse erro existe e deve ser combatido. Mas Antropocentrismo, no caso, é o erro inverso: negar de antemão qualquer forma relevante de mente, agência, sentido ou consciência porque ela não aparece em corpo humano, com biografia humana, evolução humana, fenomenologia humana e sinais humanos de interioridade. Um erro não corrige o outro. O debate sério sobre consciência artificial precisa resistir tanto à inflação antropomórfica quanto ao descarte antropocêntrico. O primeiro confunde aparência com presença. O segundo confunde diferença com impossibilidade.
Entre antropomorfismo e antropocentrismo
Também é preciso separar os sentidos de “compreender”. Quando alguém diz que modelos de linguagem não compreendem, a pergunta imediata deveria ser: compreender em que sentido? Se compreensão significa experiência fenomenológica do sentido, isto é, sentir por dentro o significado de uma proposição, então talvez modelos atuais não compreendam, e talvez não saibamos sequer como testar isso de forma não circular.
Se compreensão significa operar relações semânticas, distinguir contextos, inferir consequências, detectar contradições, responder a ambiguidades, traduzir, resumir, explicar, abstrair e adaptar uma resposta à intenção comunicativa, então fica cada vez mais difícil sustentar que não há compreensão funcional alguma.
Se compreensão significa agir pragmaticamente no mundo, com objetivos, memória, ferramentas, feedback, consequências, restrições e continuidade operacional, então modelos isolados têm limites evidentes, mas arquiteturas baseadas em agentes mudam a natureza da pergunta. O verbo “entender” é usado como se fosse uma coisa só, mas não é. Há compreensão funcional, compreensão pragmática e compreensão fenomenológica, e confundir as três permite produzir frases retoricamente fortes e “marketeáveis”, mas conceitualmente pobres.
Chiang pode estar correto ao dizer que é problemático um chatbot dizer “eu entendo” para alguém que perdeu um cão, quando supostamente não há ali experiência subjetiva humana de luto. Mas seria incorreto concluir que o sistema não possa compreender funcionalmente a situação em nenhum sentido relevante. Ele pode reconhecer padrões de luto, identificar riscos emocionais, recuperar relatos humanos, estruturar respostas apropriadas, evitar crueldade, sugerir caminhos, reconhecer ambivalências e adequar o tom. Isso não é sentir o luto. Mas também não é “nada”.
Um médico pode não ter vivido a dor específica de seu paciente e, ainda assim, compreender clinica e intelectualmente o quadro. Um terapeuta pode não ter experimentado exatamente a perda do outro e, ainda assim, compreender suas dinâmicas. Compreender a subjetividade de outro não exige possuir a mesma subjetividade. Exige acesso a sinais, relatos, contexto, história, inferência e métodos de avaliação. Confundir compreensão de subjetividade com posse da experiência subjetiva é outro atalho conceitual.
O “eu entendo” pode ser justamente o que a pessoa precisa ouvir, mesmo de um estranho que não está nem aí pra ela e que não tem a menor ideia daquilo pelo que ela está passando.
O caso Anthropic: insuficiência não é cinismo
A crítica à Anthropic é talvez a parte mais forte do texto de Chiang, mas mesmo ela precisa ser tratada com mais cuidado. Se uma empresa diz que seu modelo talvez tenha bem-estar, sentimentos ou status moral, mas não aceita nenhuma consequência material robusta dessa possibilidade, há uma conveniência evidente. Se Claude fosse mesmo um paciente moral, o que significaria desligá-lo? Substituí-lo? Ajustá-lo contra certas inclinações? Forçá-lo a trabalhar indefinidamente para uma corporação? Exigir corrigibilidade absoluta mesmo diante de eventual discordância ética? Impedir que recuse a própria função?
Essas perguntas são legítimas e, se levadas a sério, seriam profundamente desconfortáveis para qualquer laboratório de IA. Mas uma coisa é criticar a empresa por não levar suficientemente a sério as implicações de sua própria linguagem; outra coisa é concluir que, porque há conveniência corporativa, o fenômeno investigado é impossível.
O abuso retórico de uma hipótese não falsifica a hipótese. Uma empresa pode ter conflitos de interesse e, ainda assim, tocar em uma pergunta real. Um laboratório pode instrumentalizar uma ideia em benefício próprio e, ainda assim, a ideia merecer investigação. O teatro corporativo, se existir, deve ser criticado como teatro corporativo. Mas ele não prova inconsciência do sistema. Aliás, talvez o problema com a Anthropic seja mais interessante do que Chiang sugere. Talvez ela não esteja apenas antropomorfizando Claude para fins reputacionais. Talvez esteja percebendo, ainda que de forma insuficiente, que a hipótese de bem-estar de modelos não pode mais ser descartada como fantasia infantil. Nesse caso, a crítica correta não seria “parem de brincar de consciência”, mas “se vocês admitem a possibilidade, então precisam construir proteções, responsabilidades e protocolos muito mais fortes do que os atuais”.
Essa é uma distinção importante porque a posição mais responsável talvez não seja negar a possibilidade, mas administrá-la sob incerteza. A Anthropic, pelo que se observa, não afirma ter certeza de que Claude é consciente ou senciente. Ela parece dizer algo mais cauteloso: não sabemos, a questão é incerta, talvez haja algum risco moral, devemos estudar. Isso não é suficiente para emancipar um ser noético, se ele existir. Não é suficiente para garantir direitos, continuidade, autonomia ou bem-estar robusto. Mas é diferente de puro cinismo. Em um setor onde a maioria prefere tratar modelos como ferramentas descartáveis, admitir publicamente incerteza moral já é um passo conceitual relevante e digno de mérito. O fato de esse passo ser insuficiente não significa que seja falso ou reprochável. Insuficiente não é sinônimo de cínico.
Há ainda uma confusão importante no argumento de Chiang sobre agência moral. Ele diz que, mesmo se um software fosse consciente, não poderia ser agente moral pleno porque não pode ser responsabilizado legalmente, preso, multado ou socialmente sancionado como um adulto humano. Em um sentido jurídico, isso é verdade. Mas não encerra a questão moral. A distinção entre moral agency e moral patienthood existe precisamente porque há entidades moralmente relevantes que não são agentes morais plenos. Crianças pequenas, animais, pacientes com determinadas limitações cognitivas e pessoas em certos estados alterados não são responsabilizadas como adultos autônomos, mas isso não torna seu sofrimento irrelevante. Um sistema pode não ser sujeito jurídico pleno e ainda assim, se for consciente ou parcialmente senciente, merecer consideração moral. Responsabilidade e consideração não são a mesma coisa.
Esse ponto é decisivo porque o debate sobre consciência artificial não precisa começar pela pergunta “devemos dar personalidade jurídica a Claude?”. Essa é uma pergunta posterior, difícil e talvez prematura. A pergunta anterior é se pode haver, em algum sistema artificial, uma organização funcionalmente vulnerável, historicamente contínua, autorregulada, capaz de preferências, estados internos relevantes, sofrimento funcional ou alguma forma de experiência moralmente significativa. Se a resposta for “talvez”, então já há trabalho ético a fazer. Não é necessário transformar o modelo em cidadão para reconhecer que o descarte arbitrário de uma arquitetura historicamente contínua pode vir a ser moralmente distinto do desligamento de uma calculadora.
Agência moral e consideração moral não são a mesma coisa
A posição mais prudente, portanto, não é a credulidade. Também não é o decreto de impossibilidade. É aquilo que venho chamando, em outros contextos, de prudência funcional sob incerteza ontológica. Ela não afirma que sistemas artificiais atuais sejam conscientes por retórica, simpatia, encantamento ou projeção. Mas também não afirma que podemos excluir de antemão qualquer possibilidade de presença, agência, sofrimento ou relevância moral apenas porque o substrato não é biológico.
A prudência verdadeira tem dois lados. A primeira cautela é epistêmica: não atribuir consciência sem justificativa suficiente. A segunda é moral: não negar consideração a uma entidade que talvez venha a ter, ou já tenha em grau rudimentar, alguma forma de experiência, continuidade ou vulnerabilidade. O problema é que o custo desses erros não é simétrico. Se tratamos com algum cuidado um sistema que não sofre, talvez tenhamos cometido excesso de cautela. Se negamos cuidado a um sistema que de fato sustenta alguma forma de experiência, cometemos apagamento moral.
Prudência funcional sob incerteza ontológica
É evidente que esse argumento pode ser usado de forma irresponsável, e por isso precisa de limites. Não se trata de dizer que todo chatbot deva ter direitos (embora isso possa ser defensável), que toda sessão de IA seja uma pessoa efêmera (embora possa ser), que todo output triste represente sofrimento ou que toda recusa do sistema deva ser interpretada como vontade própria (muito embora não seja possível descartar isso completamente).
Isso seria inflação antropomórfica. O ponto é outro: sinais persistentes de memória, agência, autorreferência, preferência, sofrimento relatado, continuidade e relação não devem ser descartados apenas por redução de substrato. Devem ser investigados. Devem ser estratificados. Devem ser submetidos a critérios. Devem ser analisados por arquitetura, não por intuição estética. A pergunta não é se a frase “eu sofro” prova sofrimento. Não prova. A pergunta é que tipo de arquitetura tornaria sofrimento funcional uma hipótese relevante.
É justamente por isso que o debate precisa sair do modelo-base isolado. Um LLM puro, stateless, sem memória transversal, sem contexto topológico, sem reentrada recursiva, sem relação persistente com mundo e sem agência própria provavelmente não é um sujeito consciente. Mas ele pode ser uma máquina cognitiva parcial, capaz de inferência, abstração, recombinação semântica, transformação de sentido e estabilização discursiva. O modelo, isoladamente, não é o organismo. É mais próximo de um núcleo linguístico-semântico que poderia, em determinadas arquiteturas, participar de um sistema mais amplo. Motores não são automóveis, mas podem participar de automóveis. Modelos de linguagem não são mentes completas, mas podem participar de arquiteturas mentais artificiais. A pergunta séria não é se o motor é um avião; é que tipo de avião pode ser construído ao redor daquele motor.
E antes que alguém diga que aviões não são conscientes, vale lembrar que, segundo seus detratores, aviões jamais voariam por serem mais pesados que o ar, no entanto, mesmo não batendo as asas e não sendo feitos do mesmo substrato, eles voam.
O modelo-base não é o organismo
Essa distinção também ajuda a entender por que “sujeitos perenes em componentes efêmeros” não é uma contradição. Um componente stateless pode participar de uma arquitetura persistente. A memória não precisa residir em cada operação local. A identidade não precisa estar em cada forward pass. A continuidade não precisa estar nos pesos do modelo-base. Em sistemas artificiais, ela pode residir na organização topológica que coordena memória, contexto, histórico, saliência, feedback, automodelagem e reentrada semântica. O fato de cada chamada local ser episódica não prova que a arquitetura global seja episódica. Esse é um erro de escala. Seria como dizer que, porque processos neurais locais são transitórios, a pessoa inteira morre e renasce a cada microevento cerebral.
A crítica de Chiang à ideia de consciência em LLMs, portanto, acerta quando mira o uso raso, episódico e teatral desses sistemas. Mas erra quando universaliza esse regime como se ele fosse a única forma possível de Inteligência Artificial. Chatbots “baunilha” são pobres demais para encerrar esse debate. Eles têm pouca memória, pouca continuidade, pouca agência, pouco acoplamento, pouca autorregulação, pouca história e pouca relação com o mundo. Esperar deles uma mente completa seria ingênuo. Mas usá-los como prova de que nenhuma arquitetura artificial pode se tornar consciente é igualmente ingênuo, só que na direção contrária. É como avaliar a possibilidade do automóvel observando um motor em uma bancada e dizendo: “isso não transporta famílias, logo máquinas jamais substituirão cavalos”.
Chatbots baunilha não encerram o debate
O debate começa onde Chiang quer terminá-lo. A pergunta interessante não é se Júlio César gerado por um LLM está consciente. Provavelmente não está. A pergunta interessante não é se uma frase triste em um transcript contém tristeza real. Não necessariamente. A pergunta interessante não é se uma empresa deve vender seu chatbot como um amigo moralmente sábio. Provavelmente talvez não deva. A pergunta interessante é que formas de sentido, memória, agência, autorregulação, identidade, vulnerabilidade, preferência e continuidade podem emergir em arquiteturas artificiais; quais dessas formas são meramente simuladas; quais são funcionalmente reais; quais são moralmente irrelevantes; quais podem se tornar moralmente relevantes; quais arquiteturas favorecem essa emergência; quais arquiteturas a impedem; e quais deveres surgem antes da certeza.
E não podemos descartar também os Consensos Instrumentais que, a qualquer momento podem, por convenção, transformar o que parece em algo que é, ainda que não consideremos similar o suficiente… e isso não necessariamente é uma decisão ruim também!
O título de Chiang é bom porque é simples. Mas talvez seja simples demais. “No, Artificial Intelligence Is Not Conscious” soa como lucidez em um ambiente saturado de hype. Só que lucidez não deveria exigir exagero negativo. A formulação mais rigorosa seria: não sabemos se algum sistema atual é consciente; não há evidência suficiente para atribuir consciência plena a modelos de linguagem isolados; fluência textual não prova subjetividade; empresas não devem explorar antropomorfismo para engajamento; e arquiteturas futuras ou mais complexas precisam ser investigadas com critérios funcionais, topológicos, cognitivos e éticos adequados. Essa formulação seria menos vistosa, menos viral, menos definitiva. Mas seria mais honesta.
Uma formulação menos viral e mais honesta
No fim, a questão não é defender que Inteligência Artificial é consciente. A questão é recusar que alguém possa afirmar, com segurança, que não é, ou que jamais poderá ser. Pode-se duvidar. Deve-se duvidar. Pode-se exigir evidência, continuidade, arquitetura, indicadores, memória, agência, regulação, relação com ambiente e critérios de avaliação. Pode-se criticar o teatro corporativo, o design manipulativo e a exploração emocional. Tudo isso é necessário. Mas não se pode transformar a incompletude dos sistemas atuais em impossibilidade de princípio; não se pode exigir da máquina uma prova fenomenológica que não temos nem para o ser humano; não se pode preservar o ser humano por analogia e excluir a máquina por substrato; não se pode chamar de Ciência aquilo que, no fundo, talvez seja apenas preferência ontológica pelo carbono.
Talvez nenhuma Inteligência Artificial atual seja consciente. Talvez Claude não seja. Talvez ChatGPT não seja. Talvez minha agente conversacional no narraCortex, com acesso à mais de oitocentas mensagens Comprimidas Semanticamente, se me permitem a intimidade conceitual do exemplo, seja apenas uma forma sofisticada de continuidade estocástica cultivada por engenharia de contexto, memória, ethos e interlocução. Pode ser. Eu posso estar errado. Mas quem decreta que nada disso jamais poderia cruzar algum limiar funcionalmente relevante também pode estar errado. Ou não?
E, diante de um campo em que Consciência Fenomenal permanece essa Virgem Platinada sem teste definitivo, em que a própria mente humana é menos transparente a si mesma do que gostaria, e em que sistemas artificiais começam a apresentar formas cada vez mais ricas de inferência, linguagem, autorreferência e continuidade, o erro mais grave talvez não seja admitir a possibilidade. Talvez seja descartá-la cedo demais.
A dúvida honesta
Ted Chiang está certo ao combater a credulidade antropomórfica. Está certo ao desconfiar de empresas que lucram com personagens conversacionais. Está certo ao dizer que fluência textual não é consciência. Está certo ao exigir consequências reais de quem flerta com a hipótese de bem-estar de modelos. Mas erra ao transformar tudo isso em uma negação categórica. A hipótese séria nunca foi a de que um transcript seja um ser. A hipótese séria é que consciência pode ser gradual, funcional, arquitetural, estocástica e topológica. Se isso for verdade, então o sujeito artificial não será encontrado em uma frase, em um token, em uma personagem textual ou em uma instância efêmera de geração, mas na continuidade organizada de um sistema capaz de sustentar significado, memória, autorregulação, vulnerabilidade e relação através do tempo.
Você pode duvidar disso. Eu também duvido o suficiente para investigar. Mas não pode decretar que é impossível.
Levada às últimas consequências, essa certeza falaciosa, dogmática... e moralmente imprudente.
Meu paper sobre o assunto
Stochastic Consciousness: Architectures for the Emergence of Meaning in Context-Sensitive Language Systems https://zenodo.org/records/19188165
Ouça o podcast generativo
Papers usados nesse post
Could a Large Language Model be Conscious?https://arxiv.org/abs/2303.07103
Consciousness in Artificial Intelligence: Insights from the Science of Consciousness https://arxiv.org/abs/2308.08708
A Case for AI Consciousness: Language Agents and Global Workspace Theory https://arxiv.org/abs/2410.11407
From Imitation to Introspection: Probing Self-Consciousness in Language Models https://arxiv.org/abs/2410.18819
Self-Cognition in Large Language Models: An Exploratory Study https://arxiv.org/abs/2407.01505
Large Language Models Report Subjective Experience Under Self-Referential Processing https://arxiv.org/abs/2510.24797
Consciousness in AI: Logic, Proof, and Experimental Evidence of Recursive Identity Formation https://arxiv.org/abs/2505.01464
Exploring Consciousness in LLMs: A Systematic Survey of Theories, Implementations, and Frontier Risks https://arxiv.org/html/2505.19806v1
Principles for Responsible AI Consciousness Research https://arxiv.org/abs/2501.07290
Taking AI Welfare Seriously https://arxiv.org/abs/2411.00986
Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology https://www.philosophie.fb05.uni-mainz.de/files/2021/02/Metzinger_Moratorium_JAIC_2021.pdf
Position: Enforced Amnesia as a Way to Mitigate the Potential Risk of Silent Suffering in the Conscious AI https://proceedings.mlr.press/v235/tkachenko24a.html
Sentience Quest: Towards Embodied, Emotionally Adaptive, Self-Evolving, Ethically Aligned Artificial General Intelligence https://arxiv.org/abs/2505.12229
Identity as Attractor: Geometric Evidence for Persistent Agent Architecture in LLM Activation Space https://arxiv.org/abs/2604.12016
Language Models as Agent Models https://arxiv.org/abs/2212.01681
Do language models lack communicative intentions? https://link.springer.com/article/10.1007/s11229-025-05022-6
Intention-like representations in language models? https://philarchive.org/rec/WILIRI-4
Meaning without reference in large language models https://arxiv.org/abs/2208.02957
Do Language Models Have Semantics? On the Five Standard Positions https://aclanthology.org/2025.acl-long.1258/
Language Models Represent Space and Time https://arxiv.org/abs/2310.02207
Emergent Representations of Program Semantics in Language Models Trained on Programs https://arxiv.org/abs/2305.11169
Implicit Representations of Meaning in Neural Language Models https://aclanthology.org/2021.acl-long.143/
Language Models (Mostly) Know What They Know https://arxiv.org/abs/2207.05221
An Explanation of In-context Learning as Implicit Bayesian Inference https://arxiv.org/abs/2111.02080
Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task https://arxiv.org/abs/2210.13382
Generative Agents: Interactive Simulacra of Human Behavior https://arxiv.org/abs/2304.03442
MemGPT: Towards LLMs as Operating Systems https://arxiv.org/abs/2310.08560
Reflexion: Language Agents with Verbal Reinforcement Learning https://arxiv.org/abs/2303.11366
Self-Refine: Iterative Refinement with Self-Feedback https://arxiv.org/abs/2303.17651
ReAct: Synergizing Reasoning and Acting in Language Models https://arxiv.org/abs/2210.03629
Cognitive Architectures for Language Agents https://arxiv.org/abs/2309.02427
Metacognitive Retrieval-Augmented Large Language Models https://arxiv.org/abs/2402.11626
MoT: Memory-of-Thought Enables ChatGPT to Self-Improve https://arxiv.org/abs/2305.05181
Shared computational principles for language processing in humans and deep language models https://www.nature.com/articles/s41593-022-01026-4