O senador americano Bernie Sanders divulgou, dias atrás, uma carta destinada a três notáveis: Sam Altman, CEO da OpenAI, Mark Zuckerberg, criador do Facebook e CEO do grupo Meta, e Dario Amodei, cofundador da Anthropic. Propôs, “em nome do interesse da humanidade”, que eles pausem o desenvolvimento da inteligência artificial. Em dado momento, subiu o tom. “Deixem-me ser claro. Se vocês não adotarem as ações corretas, meus colegas e eu no Senado faremos isso.”
Sanders está prestes a completar 85 anos. Progressista e independente, segue na defesa de minorias e da democracia americana. Daí passar um pito público nos titãs da tecnologia pode parecer algo quixotesco ou destempero da idade. Mas, calma. Pensei bastante sobre isso, até concluir: Sanders tem motivos para sustentar cada palavra da sua carta.
Em que pesem os valores estratosféricos da corrida científica, territorial e geopolítica em torno da IA, sobram razões para indagar aonde isso tudo vai nos levar. Afinal, a ideia de um progresso sem limites, que hoje alimenta nossas expectativas e crenças, torna-se eticamente inaceitável se colocar em risco o ser humano.
No mês passado, um grupo de 200 cientistas de alto calibre, incluindo 17 prêmios Nobel, divulgou o manifesto “Precisamos Agir Agora”. A iniciativa foi de Erik Brynjolfsson, professor da Universidade Stanford, partindo da seguinte premissa: o impacto da IA no mundo será maior e mais rápido do que o da Revolução Industrial. Daí a urgência de uma transição econômica que assimile os novos benefícios, ao mesmo tempo livrando-se de riscos.
Brynjolfsson propõe uma mudança de chave: trocar a IA imitadora e concorrente do humano por uma complementar ao humano. Nessa transição, cabe rever ideias econômicas, como a de ganhos de produtividade. Hoje, na média, um trabalhador torna-se dez vezes mais produtivo apoiado pela tecnologia, só que ele não ganha dez vezes mais. Assim se desvaloriza o potencial humano. Outro exemplo: têm sido brutais os cortes de custos favorecidos pela tecnologia, mas qual é o impacto disso no preço das coisas?
Sanders já vinha debatendo tais temas. Entretanto, tocou num ponto crucial na carta: a geração de vírus potencialmente perigosos pela IA como parte dessa corrida “que ninguém entende, prevê ou controla”. E aqui é preciso voltar a Stanford, de onde saiu uma pesquisa publicada recentemente na revista Science, sobre modelos da IA generativa que chegaram a um vírus sintético.
Estamos falando de um um organismo jamais visto na natureza, capaz de matar uma bactéria presente em pessoas e animais saudáveis (a E. coli). A boa notícia é que isso pode levar a futuras terapias. A má notícia é que também pode levar a patógenos para os quais não há defesas. Cientistas da Universidade Johns Hopkins, revisores do trabalho, confirmam as capacidades da IA em criar genomas virais, no entanto apontam a total falta de governança humana para atuar em campo tão sensível.
Jornalistas do site Axios perguntam a especialistas do meio, em caráter privado: “Qual o risco da IA que mais preocupa você?”. A maioria responde algo como “um patógeno que se espalhe silenciosa e rapidamente”. Para isso, basta que um “ator ruim”, seja um programador, um empresário, um governante ou um hacker, comande o espetáculo nessa direção. Sanders não está delirando.
