O Papa Leão XIV disse numa reunião de cientistas e especialistas em IA no Vaticano que os sistemas de inteligência artificial são “ferramentas, não pessoas”, alertando contra a concessão de direitos legais aos agentes de IA e instando os governos que se reunirão em Genebra no próximo mês a proibirem armas letais autónomas.
O discurso foi proferido aos participantes do “O Futuro da IA: Um Diálogo entre o Vaticano e o Mundo Científico sobre o Desenvolvimento e as Aplicações das Tecnologias Inteligentes”, um encontro organizado conjuntamente pela Pontifícia Academia para a Vida e pelo Instituto Futuro da Vida. O Papa disse que participantes de diferentes países partilham “um certo sentimento de desconforto em relação ao desenvolvimento da inteligência artificial. Reconhecemos a direção que devemos tomar, mas não está a ser feito o suficiente para avançar”.
Máquinas são ferramentas, não pessoas
A linha mais clara do discurso visava uma ideia que ganhava força em partes da indústria tecnológica e da academia jurídica: alargar a personalidade jurídica — ou direitos — a sistemas avançados de IA. O Papa Leão argumentou o contrário. As máquinas, disse ele, não têm experiências, corpos, sentimentos ou relacionamentos, e não entendem o amor, o trabalho ou a responsabilidade.
Alguns sugeriram dar a estes sistemas direitos ou personalidade jurídica, reconheceu - mas fazê-lo corre o risco de “obscurecer a responsabilidade humana e deixar aqueles que sofrem danos confrontados com uma entidade sem rosto”. O comentário surge na mesma época em que agentes de IA administram negócios de forma autónoma, negociam contratos e agem em nome dos utilizadores, provocando debates jurídicos genuínos sobre a responsabilidade quando sistemas autónomos causam danos. A AI Buzz Wire está acompanhando este e outros desenvolvimentos de políticas de IA à medida que acontecem. A formulação do Papa coloca a questão de volta aos humanos por trás do sistema: se um agente de IA causa danos, alguém com rosto deve responder por isso.
"Desarmar" IA: a proibição de armas autônomas
A terceira consideração do Papa – de que certas decisões nunca devem ser delegadas a máquinas – foi ilustrada com exemplos claros: colocar uma pessoa numa lista de alvos ou numa base de dados de controlo de fronteiras reduz-na a “um ponto de dados”. Ele invocou o discurso de 2024 do seu antecessor, o Papa Francisco, aos líderes do G7, onde Francisco descreveu a IA como “uma ferramenta excitante e temível” e insistiu que nenhuma máquina deveria ser capaz de escolher tirar uma vida humana.
“As decisões que afetam a vida humana, a liberdade e o uso da força devem sempre permanecer sujeitas a uma supervisão humana eficaz, informada e responsável”, disse o Papa Leão. É por isso que a IA deve ser “desarmada”, argumentou – e encorajou explicitamente os Estados reunidos em Genebra, em Novembro, a tomarem medidas para proibir as armas letais autónomas. Os diplomatas têm lutado durante anos para chegar a acordo sobre regras vinculativas sobre armas autónomas; um apelo papal directo acrescenta peso moral a um processo de negociação que tem sido impulsionado principalmente por campanhas da sociedade civil e por um bloco de Estados preocupados.
Cinco considerações da Magnifica Humanitas
O discurso organizou-se em torno de cinco considerações que o Papa expôs na sua encíclica Magnifica Humanitas:
1. O futuro da IA não está pré-determinado. Como os seres humanos desenvolvem a IA, o seu futuro depende das escolhas da humanidade. “Temos a responsabilidade de orientar, mudar e, quando necessário, rejeitar as suas aplicações”, disse o Papa. A pergunta certa não é “O que a IA pode fazer?” mas "A que propósito deveria servir?"
2. Máquinas são ferramentas, não pessoas. O aviso sobre personalidade acima.
3. Certas decisões nunca podem ser delegadas. As decisões que afectam a vida humana, a liberdade e o uso da força requerem uma supervisão humana eficaz, informada e responsável.
4. As tecnologias inteligentes devem servir o bem comum. Elas "nunca devem tornar-se fins em si mesmas ou servir apenas os interesses de uns poucos privilegiados", e devem distribuir os benefícios do progresso de forma equitativa.
5. São necessárias instituições para tornar a ética operacional. Descrito como potencialmente o desafio mais urgente: o mundo precisa de "padrões partilhados, supervisão independente e mecanismos claros de responsabilização, para que as decisões relativas ao desenvolvimento e utilização da IA possam ser examinadas, contestadas quando necessário, e acompanhadas de soluções adequadas para quaisquer danos causados".
Por que isso é importante além do Vaticano
O Vaticano tornou-se silenciosamente uma das vozes institucionais mais consistentes na governação da IA. O Apelo de Roma à Ética na IA, assinado em Fevereiro de 2020 pela Pontifícia Academia para a Vida, juntamente com a Microsoft, a IBM, a FAO e o governo italiano, surgiu deste ecossistema, e a Pontifícia Academia para a Vida reuniu repetidamente tecnólogos em bioética e tomada de decisões sobre máquinas. A co-organização com o Future of Life Institute – a organização de segurança da IA por trás de cartas abertas sobre o risco do modelo de fronteira – sinaliza um esforço contínuo para unir comunidades religiosas e seculares de ética em IA.
Para os decisores políticos, o apelo de Genebra é a conclusão concreta: à medida que as negociações sobre armas autónomas são retomadas, o Vaticano quer uma proibição vinculativa e não directrizes voluntárias. E para a indústria da IA, a mensagem sobre a personalidade é uma linha clara na areia – por mais autónomos que os agentes se tornem, a responsabilidade moral e legal permanece com as pessoas que os constroem e implantam.
