O Papa Leão XIV disse na segunda-feira que as preocupações sobre a inteligência artificial se tornarem desonestas não são “notícias falsas” e devem ser levadas a sério, numa repreensão incisiva aos executivos da tecnologia que argumentam que a tecnologia deveria desenvolver-se sem barreiras governamentais. Falando numa conferência de imprensa a bordo do voo papal de volta a Roma, após uma visita de quatro dias à França, o papa também apontou – sem nomeá-lo a princípio – a posição do CEO da Nvidia, Jensen Huang, contra a regulamentação da IA, de acordo com reportagens da AFP, AP e Reuters veiculadas pela Al Jazeera.
As observações chegam num momento combustível para a política de IA. Na terça-feira, o presidente Donald Trump receberá líderes de tecnologia, incluindo Mark Zuckerberg, da Meta, e Dario Amodei, da Anthropic, na Casa Branca, como relata a Reuters, com a indústria resistindo à regulamentação, mesmo enquanto cientistas importantes alertam sobre riscos catastróficos. Para os leitores que acompanham a colisão entre governos e a indústria de IA, AI Buzz Wire segue os últimos desenvolvimentos de IA de Washington a Bruxelas e ao Vaticano.
'As preocupações devem ser levadas a sério'
O papa foi questionado durante a conferência de imprensa a bordo sobre o que os Estados Unidos e a China – as duas superpotências mundiais de IA – deveriam fazer para evitar que a IA representasse riscos catastróficos para a humanidade. Trump já havia chamado as preocupações sobre a IA desonesta como uma "farsa".
“Penso que as preocupações levantadas por muitos dos especialistas, especialistas em IA, devem ser levadas a sério”, disse o pontífice, insistindo que as questões de segurança levantadas pelos especialistas em IA devem ser discutidas e postas em prática. Ele exortou o mundo a “promover o diálogo, o estudo, a investigação, para encontrar formas de garantir que a IA não chegue a um ponto em que possa destruir a humanidade”.
A troca com Jensen Huang
O momento mais marcante veio quando Leo fez referência a um anúncio que ele disse ter lido naquela manhã: que o chefe da fabricante de chips Nvidia havia descrito uma maneira de inserir proteções em certos modelos de IA. O papa expressou ceticismo aberto em relação ao mensageiro.
“Ele é o mesmo, no entanto, que diz que não deve haver limites nem regulamentação governamental”, disse Leo – um golpe direto para Huang, que, de acordo com os relatórios do pool, disse à CBS News no início deste mês que concordava com Trump que as preocupações de segurança sobre a IA eram exageradas.
O anúncio ao qual o papa se referiu parece ser a recém-revelada Open Agent Safety Platform da Nvidia, um esforço de hardware e software projetado para policiar agentes autônomos de IA e evitar que eles se tornem desonestos. A ironia não passou despercebida aos observadores: a empresa mais valiosa da indústria está agora a vender tecnologia de segurança, ao mesmo tempo que faz lobby contra a regulamentação governamental que os defensores da segurança dizem ser necessária para a aplicar.
Um papado baseado em avisos de IA
Os comentários de segunda-feira ampliam o que se tornou o tema definidor do papado de 16 meses de Leão. O primeiro papa americano identificou a IA como um dos maiores desafios que a humanidade enfrenta poucos dias após a sua eleição, e dedicou a sua primeira encíclica à IA e à protecção da humanidade – tomando o passo invulgar de lançar pessoalmente o documento ao lado do co-fundador da Anthropic, Christopher Olah, num evento do Vaticano em Maio.
Sob Leão Leão, o Vaticano tem intensificado constantemente a sua retórica e iniciativas a favor da governação internacional da IA, com especial atenção em domínios como a tecnologia nuclear, a cultura e a criação artística. O lançamento da encíclica de Maio fez parte de um esforço deliberado do Vaticano para envolver directamente Silicon Valley sobre os custos humanos da IA – um alcance que agora se estende a desafiar executivos em público. O papa disse que o esforço para convocar os decisores deve continuar: “Precisamos de continuar a convidar os líderes políticos, os líderes da IA, as organizações sociais, as associações para se unirem e olharem para o que já está a acontecer e o que poderá acontecer no futuro”.
“Acho que há um número suficiente de pessoas seriamente interessadas nisso… mas temos que continuar trabalhando”, acrescentou.
Por que um Papa está irritando o Vale do Silício
A intervenção de Leo é importante porque visa a contradição central na actual postura da indústria. Nas últimas semanas, a OpenAI cancelou o lançamento de um modelo de fronteira devido a falhas de alinhamento, a Nvidia e outros laboratórios lançaram rapidamente produtos de segurança para agentes, e cientistas proeminentes, incluindo Geoffrey Hinton e Yoshua Bengio, alertaram sobre uma "explosão de inteligência" descontrolada - no mesmo dia das observações do papa, na verdade. No entanto, as principais vozes da indústria continuam a argumentar que a regulamentação governamental iria sufocar a inovação.
A mensagem do papa foi que ambas as coisas não podem ser verdadeiras ao mesmo tempo: se os riscos são suficientemente reais para justificar a venda de software de segurança, são suficientemente reais para justificar regras. Com a Casa Branca a estender o tapete vermelho para os executivos da IA esta semana, Leo está a posicionar o Vaticano como uma das poucas instituições globais dispostas a dizê-lo claramente.
Fique à frente da IA
Acompanhe a luta global pelo futuro da IA. Leia mais notícias sobre IA no AI Buzz Wire.
Últimos desenvolvimentos de IA →
