Papa diz que a IA deve ser ‘desarmada’ para evitar domínio, exclusão e morte | Notícias

Leo, na sua primeira encíclica, insistiu que a propriedade dos dados de IA não pode ser deixada apenas em mãos privadas.

O Papa Leão XIV apelou ao “desarmamento” da inteligência artificial (IA), alertando que uma “nova forma de escravatura” está ligada à sua ascensão.

O líder da Igreja Católica alertou na segunda-feira contra “a corrida por algoritmos mais poderosos e conjuntos de dados maiores”, impulsionada pelo “desejo de ganhar domínio geopolítico ou comercial”.

As suas preocupações sobre a IA foram apresentadas na sua primeira encíclica, intitulada “Magnifica Humanitas” (Humanidade Magnífica), pessoalmente no Vaticano. Uma encíclica é uma das formas mais elevadas de ensino de um papa para 1,4 bilhão de membros da igreja.

Leo sublinhou que a propriedade dos dados de IA não deve ser deixada apenas em mãos privadas, apelou aos decisores políticos para que protejam os direitos dos trabalhadores e mantenham as crianças protegidas da tecnologia, e apelou a um esfriamento da concorrência entre as empresas de IA.

“O que é necessário é um envolvimento político mais activo que possa abrandar as coisas quando tudo está a acelerar”, disse Leo.

O líder católico continuou apelando a “um quadro jurídico robusto, uma supervisão independente, consumidores informados e um sistema político que não abdique das suas responsabilidades”.

“A IA exige agora ser desarmada, libertada da lógica que a transforma num instrumento de dominação, exclusão e morte”, disse. “Tal como a energia nuclear, deve servir a todos e ao bem comum.”

O tão aguardado texto de segunda-feira, composto por quase 43 mil palavras, foi trabalhado quase desde a eleição de Leão como papa, há pouco mais de um ano.

‘Empurre para melhor’

O Papa Leão proferiu a encíclica ao lado de especialistas em IA, incluindo Christopher Olah, cofundador da gigante norte-americana Anthropic.

A Anthropic está envolvida em uma batalha legal com os militares dos Estados Unidos depois de se opor ao uso de sua tecnologia para guerra autônoma letal e vigilância em massa.

Na apresentação, Olah disse que as empresas de IA operam “dentro de um conjunto de incentivos e restrições que às vezes podem entrar em conflito com fazer a coisa certa”.

Ele acolheu com satisfação contribuições de atores externos, como a Igreja Católica, para “conduzir os eventos em uma direção melhor”, dizendo que “as questões levantadas pela IA são maiores do que a comunidade de pesquisa em IA”.

Olah destaca três áreas que, segundo ele, requerem atenção imediata: o risco de perdas generalizadas de empregos, a necessidade de garantir que os benefícios da IA ​​sejam alargados a todo o mundo e a questão não resolvida de como interpretar o comportamento de sistemas cada vez mais complexos e por vezes opacos.

A teoria da ‘guerra justa’ está ultrapassada

Na encíclica, Leo também soou o alarme sobre o armamento dirigido por IA, dizendo que “não era permitido confiar resultados letais” à tecnologia.

Leo entrou repetidamente em conflito com a Casa Branca por causa da guerra EUA-Israel contra o Irão e pelo uso da religião para justificar o conflito.

A teoria da “guerra justa”, defendida recentemente pela administração do presidente dos EUA, Donald Trump, está “ultrapassada”, escreve Leo, acrescentando que “nenhum algoritmo pode tornar a guerra moralmente aceitável”.