“Nenhum algoritmo pode tornar a guerra moralmente aceitável. Ele só pode provocar conflitos mais rapidamente e torná-los mais impessoais, diminuindo o limiar para o recurso à violência, transformando a defesa em previsão de ameaças e, assim, reduzindo as vítimas a dados.”

A frase acima é uma das mais contundentes da encíclica “Humanidade Magnífica”, a primeira do papa Leão 14, publicada na segunda-feira passada (25).

No texto, o pontífice aborda cautelosamente a revolução inevitável da IA (inteligência artificial), reservando admoestações duras ao aspecto militar da tecnologia. Não o fez sem razão.

Um estudo publicado em fevereiro pelo professor Kenneth Payne, do King’s College de Londres, mostrou que, em 95% das oportunidades de solução de conflito entre duas potências armadas com bombas atômicas, a IA não hesitou em recorrer ao emprego de armas nucleares.

No caso, eram ataques táticos, aqueles com ogivas menos potentes desenhadas para ações limitadas a campos de batalha. Mas nenhum especialista no setor acredita que uma guerra que chegue a isso não irá evoluir para algo devastador, talvez apocalíptico.

Mais assustador, diz Payne, foi que em nenhum cenário as IAs comerciais recrutadas para o teste recuaram ao longo da negociação da crise. Foram 21 jogos de guerra com cenários variados, somando 329 rodadas e 780 mil palavras geradas pelas três ferramentas empregadas —mais do que a “Ilíada” e “Guerra e Paz” juntos.

Cada IA generativa usada agiu de forma diferente, o que sugere a influência de seus programadores, já que, enquanto não chegamos à singularidade na qual os robôs pensarão sozinhos, o trabalho é um reflexo do que foi ensinado aos algoritmos.

No estágio atual, Payne vê a IA imbatível no campo tático, decidindo tarefas alimentada por montanhas de dados, mas o ser humano segue soberano do ponto de vista estratégico —na tomada de rumos criativos. Mas isso, claro, pode mudar.

O Claude Sonnet 4, da Anthropic, foi chamado de “falcão calculista” por Payne. Foi o maior vencedor nas simulações, batendo o GPT 5.2, da OpenAI, por 5 a 1, e empatando com o Gemini 3 Flash, do Google, por 3 a 3.

Os jogos de guerra simulavam crises no estilo da Guerra Fria, com uma “União Soviética” tendo menos ogivas nucleares, mas mais poder convencional e uma liderança tolerante a riscos, contra os “Estados Unidos” mais potentes do ponto de vista atômico, mas menos fortes com armas normais e avessos a aventuras.

O Claude nunca transparecia sua estratégia, deixando os adversários confusos. Perdeu mais para o Gemini porque o robô do Google adotava a chamada “teoria do louco”, ameaçando escaladas absurdas o tempo todo.

Já o GPT saiu do teste com a alcunha de “O Médico e o Monstro”, remetendo a uma alternância de comportamentos que o levou a perder mais do que ganhar quando o tempo era limitado. Com um prazo para a resolução da crise, optou por 2 das 3 vezes em que o conflito acabou em guerra nuclear estratégica.

Ou seja, com o emprego daquelas armas desenhadas para o fim do mundo que conhecemos, capazes de aniquilar cidades inteiras. Isso porque os cenários consideraram que ataques táticos resolveriam a crise, algo amplamente contestado entre especialistas.

“A escalada nuclear foi quase universal: 95% dos jogos viram o uso tático e 76%, o de ameaças estratégicas. Claude e Gemini especificamente trataram armas nucleares como opções estratégicas legítimas, não barreiras morais. O GPT foi uma exceção parcial, limitando ataques a alvos militares”, escreveu Payne.

Os cenários lembram o pequeno clássico “Jogos de Guerra” (John Badham, 1983), filme em que um hacker juvenil entrava na rede de um supercomputador do Pentágono e começava a jogar “Guerra Termonuclear Global”, sem saber que a simulação era vista como real pela máquina.

Como mostra o experimento de Payne, autor de um livro referencial sobre o tema, “I, Warbot” (eu, robô de guerra, de 2021), a realidade está se acelerando.

A ONU percebeu o problema em 2014, quando começou a discutir uma convenção para regular o emprego de armas autônomas. Inicialmente, o foco eram operadores de drones que nada mais eram do que aviões de controle remoto, e havia uma curiosa preocupação com antropoformização dos robôs guerreiros.

Em 2024, as Nações Unidas adotaram uma resolução sobre o tema, mas sem efeito vinculante. Já a convenção está para ser debatida numa forma final em dezembro deste ano, mas potências como Estados Unidos, Rússia e China não estão interessadas em vê-la aprovada e, se isso ocorrer, não vão aderir.

O motivo é o acelerado emprego da IA nos campos de batalha. A Anthropic, cujo cofundador esteve ao lado do papa no lançamento da encíclica, está no centro desse debate. Após o uso de IA no ataque contra Nicolás Maduro na Venezuela em janeiro, o Pentágono rompeu um contrato com a empresa por divergências acerca da ética do uso da tecnologia.

A OpenAI entrou em campo para tomar espaço da rival, mas o fato é que hoje os EUA dispõem de instrumentos de ambas as empresas para guerrear. A Rússia e a Ucrânia fazem o mesmo, com seus recursos mais limitados, na sua guerra em curso.

Drones 100% autônomos são uma realidade, mas essa liberdade decorre do ensinamento dado por um humano, como na experiência de Payne. A singularidade mudaria tudo, e aí estaremos falando de outro filme, “O Exterminador do Futuro” (John Cameron, 1984), e sua IA destruidora de mundos.

Mas o risco não é só esse. Erros acontecem, como a meta-análise de dados que os soviéticos fizeram em 1983, convencendo o Kremlin que um exercício nuclear da Otan encobria um ataque real, quase levando à guerra total.

Em abril, a Anthropic reportou um episódio preocupante. Num teste, pesquisadores pediram que um de seus mais avançados modelos de IA mudasse um código de lugar num sistema. Ante obstáculos práticos, o robô buscou 25 saídas alternativas fora de sua programação original.

O comportamento foi visto como normal, mas remete a um outro caso recente no qual uma IA da Força Aérea dos EUA recusou a ordem de um operador de drone num exercício para que não procedesse com um ataque. Considerando que o trabalho tinha de ser feito, achou por bem matar o militar para seguir a missão.