A primeira encíclica publicada pelo papa Leão 14 ecoa, em certo sentido, seus recentes confrontos com Donald Trump ao mostrar que o pontífice consegue ser contundente justamente quando se comporta com a máxima moderação.

Com efeito, o documento “Magnifica humanitas” (humanidade magnífica, em latim) está muito distante de ser uma condenação apocalíptica do uso da inteligência artificial. O papa se permite até alguma dose de otimismo tecnológico. Ainda assim, os argumentos de Leão demandam uma reformulação das próprias bases nas quais o avanço da era digital está assentado até agora.

A IA, porém, está mais para mote inicial do que para centro único das preocupações manifestadas pelo papa na encíclica. Para ele, os problemas ligados ao mau uso da inteligência artificial são sintomas de um cenário desanimador mais amplo para a humanidade do segundo quarto do século 21.

E, quanto a isso, o pontífice não usa meias palavras: estamos diante de uma “cultura do poder” que tenta ressuscitar o uso da força bruta como resposta aceitável na arena internacional, e é dever moral dos cristãos combater essa cultura. Trump definitivamente não vai curtir nem compartilhar.

A grande variedade de temas do documento e as extensas recapitulações históricas e teológicas, que parecem fazer da IA apenas mais um tópico entre tantos, são, por um lado, o que se costuma esperar de uma encíclica.

Acontece que esse tipo de texto, que se consolidou nos últimos séculos como a principal manifestação do magistério (ensinamento) papal para os fiéis católicos e para o resto do mundo, costuma estar calcado na ideia de desenvolvimento da doutrina. A lógica por trás disso é que, embora os católicos se baseiem na fé e na ética transmitidas desde Jesus e seus apóstolos há 2.000 anos, a passagem dos séculos, com novos desafios concretos e novas reflexões, permitem que a Igreja Católica repense seus posicionamentos à luz do Evangelho.

É assim que se construiu a chamada doutrina social da Igreja, cujo marco inicial foi a encíclica “Rerum novarum” (das coisas novas), escrita pelo predecessor e homônimo do papa atual, Leão 13 —como gesto simbólico, o pontífice de hoje assinou sua nova encíclica em 15 de maio, mesma data de publicação original da “Rerum novarum”.

Se, no século 19, Leão 13 aplicou os ensinamentos católicos às transformações sociais trazidas pela Revolução Industrial e aos embates entre o capitalismo sem freios e os movimentos socialistas, seu sucessor atual argumenta que os princípios fundamentais da dignidade humana precisam guiar o desenvolvimento da IA e proteger os trabalhadores cujo ganha-pão corre o risco de desaparecer ou ser precarizado por conta dela.

Nesse ponto, e em completa continuidade com Leão 13 e todos os papas do século 20, o pontífice americano não poderia estar mais distante da cultura economicamente libertária e avessa a qualquer tipo de regulação das big techs. E sua crítica aos aspectos desumanizadores do capitalismo internacional não fica atrás das proclamações do papa Francisco. A atual lógica da IA, alerta ele, pode exacerbar essas desigualdades caso suas arquiteturas não sejam reformuladas de forma descentralizadas, levando em conta o bem comum.

Nesse ponto, Leão 14 mostra uma compreensão sofisticada sobre a maneira como os modelos de linguagem e outros sistemas de IA são construídos. Sua aparente “inteligência” (o papa, aliás, prefere usar aspas) depende das massas de dados com as quais eles são treinados e dos vieses, conscientes ou não, que acabam se delineando nos algoritmos. Consequências práticas disso, aliás, já foram verificadas em diversos modelos de IA, que incorporaram estereótipos racistas por causa do treinamento que receberam, por exemplo.

“Não podemos considerar a IA moralmente neutra”, escreve o papa. “Na realidade, todo artefato técnico traz consigo escolhas e prioridades: o que mede, o que ignora, o que otimiza e a forma como classifica pessoas e situações. Se um sistema for concebido ou utilizado de modo a tratar certas vidas como menos dignas, ou a excluí-las sem possibilidade de apelo, não se trata de um mero instrumento ‘a ser bem utilizado’: introduz já um critério que contradiz a dignidade inalienável da pessoa.”

Leão critica ainda a concentração do poder decisório por trás do desenvolvimento dessas tecnologias nas mãos de meia dúzia de grandes empresas e seus financiadores. É um processo que, para ele, viola um dos princípios fundamentais da doutrina social da Igreja, a chamada subsidiariedade, na qual as decisões que afetam diretamente as pessoas em nível local devem levar em conta as particularidades de cada indivíduo e comunidade, e não serem impostas de cima para baixo.

É com base nesses princípios que ele condena o uso de algoritmos para tomada de decisões que envolvam vida e morte –em especial seu uso na guerra– ou quaisquer outras situações irreversíveis. Provavelmente não é por acaso que a apresentação da encíclica tenha contado com a participação do canadense Christopher Olah, cofundador da empresa de IA Anthropic, envolvida numa disputa judicial com o governo Trump por querer restringir o uso de seus modelos para sistemas militares autônomos.

As preocupações destacadas por Leão na encíclica, porém, também são de natureza teológica mais profunda. Para o catolicismo, a relação entre espiritualidade e o corpo físico humano é indissociável, e esse é um dos motivos pelos quais o papa alerta contra os efeitos potencialmente perniciosos do uso da IA na educação e nos relacionamentos.

“Quando a palavra é simulada, mas não encarnada, ela não constrói uma relação, mas sim uma aparência dela. A imitação artificial da relação de cuidado ou de acompanhamento pode tornar-se perigosa quando se insinua num contexto pobre de relações e afetos concretos: então, o risco não é tanto que uma pessoa acredite estar a falar com outra, mas que perca o desejo de procurar verdadeiramente o outro”, afirma ele.

Em última instância, afirma Leão, o que está em jogo é salvaguardar uma concepção do que significa ser humano que aceite as limitações inerentes à nossa espécie e as usem como combustível para a compaixão e o cuidado com o próximo. A tentação de remover todas as limitações por meio da tecnologia é, para o papa, uma promessa vazia, em especial se, para realizá-la, for preciso deixar os mais vulneráveis pelo caminho.