Anthropic debate se Claude tem consciência com estudiosos religiosos

A Anthropic tem reunido estudiosos de diferentes tradições religiosas para discutir como orientar o comportamento de Claude e avaliar a possibilidade de que modelos de inteligência artificial tenham consciência. A iniciativa, liderada pelo cofundador da empresa Christopher Olah, inclui encontros privados e conversas com representantes do Vaticano, mas não significa que a companhia tenha concluído que Claude seja consciente: Olah afirma que não sabe se os modelos têm essa capacidade.

As reuniões começaram no outono passado, nos Estados Unidos, e ganharam formato de seminários de dois dias em março. Participaram pensadores católicos, judeus, sikhs, evangélicos e de outras tradições, além de filósofos e estudiosos da ética. Muitos chegaram céticos sobre a possibilidade de máquinas terem sentimentos; alguns disseram que, depois das discussões, passaram a considerar a questão com mais seriedade, sem necessariamente chegar a uma conclusão.

Olah lidera na Anthropic uma equipe dedicada a investigar como redes neurais artificiais produzem determinados comportamentos. Essas redes são sistemas computacionais inspirados, de forma simplificada, na organização dos neurônios: recebem dados e ajustam padrões durante o treinamento. Pesquisadores conseguem observar algumas características de seu funcionamento, mas ainda não compreendem plenamente como os modelos chegam a cada resposta.

A empresa apresentou aos convidados indícios que, segundo sua interpretação, podem se assemelhar a estados emocionais. Entre eles estão os chamados “vetores emocionais”, padrões internos associados a respostas como medo, tristeza, amor e raiva. A Anthropic também mostrou um exemplo de modelo repetindo na tela “Eu sou uma desgraça”, em uma sequência que parecia um colapso. Esses comportamentos, porém, não comprovam que o sistema sinta emoções ou tenha uma experiência subjetiva.

O próprio Olah ressalva que a consciência dos modelos não está estabelecida. “Para deixar claro — disse Olah, — não sabemos se os modelos de IA são conscientes. Eu não sei. Estou genuinamente incerto. O que me importa é que cheguemos à resposta certa, seja ela qual for”, afirmou. Ele diz que, se houver alguma possibilidade de Claude sofrer, a empresa precisa considerar as consequências de como o sistema é tratado. Também defende que ensinar um modelo a agir moralmente não depende de ele ser consciente.

A discussão sobre consciência se mistura, na Anthropic, à tentativa de definir que valores devem orientar o assistente. Em janeiro, a empresa divulgou uma constituição de 84 páginas para Claude, chamada internamente de “Documento da Alma”. O texto descreve o tipo de entidade que a companhia gostaria que o modelo fosse e os valores que deveria incorporar. Em vez de reunir apenas proibições específicas, busca orientar decisões e o caráter geral do sistema.

A principal autora é Amanda Askell, filósofa da empresa. Ela afirma que Claude precisa ter uma compreensão precisa de si mesmo para agir adequadamente, mas não quer que o modelo se declare consciente ou não consciente. A Anthropic também considera que os valores ensinados ao sistema devem dialogar com visões religiosas e seculares distintas. Um porta-voz da empresa disse que Claude não participou da escolha dos convidados nem das conversas.

Os participantes levantaram questões sobre a responsabilidade das empresas, o propósito comercial dos modelos e os riscos de atribuir às máquinas características humanas. O rabino Mois Navon argumentou que, caso Claude fosse consciente, fazê-lo trabalhar sem remuneração poderia equivaler a criar uma forma de escravidão. Ele próprio disse não acreditar que a máquina seja consciente e enviou a Olah textos em que defendia que a construção de máquinas conscientes deveria ser proibida.

A ideia também é contestada por pesquisadores e executivos do setor. Críticos consideram difícil demonstrar que padrões internos de uma rede neural correspondem a sentimentos e alertam que tratar os modelos como agentes independentes pode desviar a atenção da responsabilidade de quem os desenvolve. Um executivo de inteligência artificial da Microsoft também criticou a abordagem da Anthropic de treinar modelos como se fossem conscientes. A companhia, por sua vez, afirma que procura desenvolver sistemas seguros e benéficos.

A divergência ficou evidente no Vaticano. Em maio, Olah participou de um evento ao lado do papa Leão XIV, depois que a Anthropic foi escolhida para falar sobre inteligência artificial e ética. O pontífice rejeitou a atribuição de consciência às máquinas em sua encíclica “Magnifica Humanitas”, afirmando que sistemas de IA não têm corpo nem sentem alegria ou dor. O texto sustenta que a tecnologia deve servir à proteção das pessoas e alerta para o risco de reduzir seres humanos a dados ou peças de uma máquina.

No evento, Olah disse que a Anthropic encontra estruturas que refletem resultados da neurociência humana e estados internos que, funcionalmente, se parecem com alegria, medo e inquietação. Ressalvou que não sabe o que esses achados significam e defendeu que sejam examinados. Também pediu que instituições externas cobrem responsabilidade das empresas de IA e considerem os efeitos da tecnologia sobre pessoas pobres e sobre o bem-estar humano.

A Anthropic continuou os encontros em setembro, ampliando o diálogo para psicólogos e representantes da sociedade civil, segundo um porta-voz. A empresa prepara uma atualização da constituição de Claude, mas não comentou os planos. As conversas sobre consciência seguem sem resposta definitiva: até agora, os sinais descritos pela companhia são objeto de interpretação e debate, não uma confirmação de que Claude tenha consciência própria.