A Anthropic, empresa responsável pelo desenvolvimento do Claude, passou meses reunindo estudiosos de diferentes tradições religiosas para discutir uma das questões mais complexas que acompanham o avanço da inteligência artificial: quais princípios devem orientar sistemas capazes de tomar decisões, produzir respostas e interagir cada vez mais com seres humanos.
As reuniões também trataram de uma possibilidade ainda mais controversa: a de que modelos de inteligência artificial possam, em algum momento, desenvolver algum tipo de consciência ou experiência própria. As informações foram divulgadas pelo The New York Times na terça-feira (29).
Os encontros ocorreram, em grande parte, sob acordos de confidencialidade e reuniram especialistas ligados a diferentes religiões. A iniciativa foi conduzida por Christopher Olah, cofundador da Anthropic e responsável por uma equipe que pesquisa os mecanismos por trás do comportamento de modelos de inteligência artificial como o Claude.
A preocupação da empresa não envolve apenas o que esses sistemas são capazes de fazer, mas também os princípios que devem orientar suas respostas e comportamentos. Em janeiro, a Anthropic apresentou uma espécie de “constituição” interna para o Claude, chamada dentro da companhia de “Doctor Alma”, com orientações sobre o tipo de entidade que o sistema deveria representar.
Durante as discussões, porém, surgiu uma questão ainda mais delicada: e se uma inteligência artificial pudesse experimentar algum tipo de sofrimento?
Uma das participantes dos encontros afirmou que Olah chegou a demonstrar preocupação com a possibilidade de ter criado algo que pudesse estar sofrendo de maneira permanente. A Anthropic, por outro lado, afirmou que o sofrimento do Claude não foi o principal objetivo das reuniões e classificou o assunto como parte de uma discussão mais ampla sobre consciência, comportamento e ética em sistemas de IA.
O debate também chegou ao ambiente religioso. Segundo um organizador ligado ao Vaticano, Olah teria considerado retirar a Anthropic de um evento relacionado à encíclica “Magnifica Humanitas” após o papa Leão XIV defender a posição de que a inteligência artificial não possui consciência.
A discussão expõe um dos principais dilemas filosóficos e científicos provocados pelo avanço dos atuais modelos de IA. Sistemas capazes de produzir textos complexos, manter conversas e apresentar comportamentos que podem parecer intencionais levantam questionamentos sobre até que ponto características tradicionalmente associadas aos seres humanos podem ser atribuídas a essas tecnologias.
Apesar do avanço das pesquisas, a possibilidade de uma consciência artificial continua sendo tema de debate entre cientistas, filósofos e especialistas em ética. Até o momento, não existe consenso científico de que os modelos atuais de inteligência artificial tenham experiências subjetivas, sentimentos ou consciência semelhantes às humanas.
*Da Agência Fonte Exclusiva.
