À medida que as empresas tecnológicas correm para construir uma inteligência artificial cada vez mais poderosa, algumas delas pedem ajuda a uma instituição antiga para resolver um novo problema: como ensinar a um chatbot o certo e o errado. A resposta deles, cada vez mais, é a religião.
Nos últimos meses, os executivos da IA têm procurado a opinião de filósofos e líderes religiosos sobre como tornar os modelos “moralmente bons”. A divulgação vai desde consultas formais até aparições no Vaticano – e, de acordo com um relatório da Associated Press publicado no domingo, está a suscitar preocupações entre os estudiosos da religião de que as empresas entendem mal o que estão a explorar. Para os leitores que acompanham os últimos desenvolvimentos de IA, a história sinaliza como o alinhamento moral central se tornou na forma como essas empresas operam agora.
"Perguntas que um laboratório não consegue responder"
A Antrópica, a empresa de IA amplamente considerada como levando a ética mais a sério, tem estado entre as mais ativas. Na apresentação no Vaticano da encíclica do Papa Leão XIV sobre IA no início deste ano, o cofundador da Anthropic, Chris Olah, disse ao público que as questões morais em torno da IA excedem o que as empresas podem resolver por si mesmas.
“Estas não são perguntas que um laboratório possa responder”, disse Olah. "São questões que tradições como a sua carregam há milênios."
A Anthropic disse num post de maio que se reuniu com “estudiosos, clérigos, filósofos e especialistas em ética de mais de 15 grupos religiosos e interculturais”, um grupo que diz esperar ampliar. A empresa enquadrou o esforço de forma ampla: "Este trabalho não se trata de alinhar nossos modelos com a visão de mundo de qualquer tradição. Queremos que Claude se baseie em uma ampla gama de pontos de vista - religiosos, seculares, políticos - com igual profundidade e rigor."
O CEO da OpenAI, Sam Altman, articulou uma visão diferente e mais agregada. “O que acho que o ChatGPT deveria fazer é refletir essa média ponderada, ou qualquer outra coisa, da visão moral da humanidade”, disse Altman no ano passado.
Por dentro das reuniões de fé da Antrópica
Meghan Sullivan, filósofa da religião que lidera uma iniciativa sobre ética e IA na Universidade de Notre Dame, participou de uma das reuniões da Anthropic no início deste ano. Em contraste com as conversas que teve com outras empresas de tecnologia, ela ficou impressionada com o rigor do envolvimento.
“A cultura dentro da empresa é semelhante à de um bom campus universitário, no sentido de que você tem um grupo de pessoas muito curiosas intelectualmente”, disse Sullivan. "Essas reuniões são muito nerds - não sei se essa é a melhor maneira de dizer - no bom sentido."
A reunião, que incluiu cristãos de diferentes denominações, foi dividida em duas partes: a empresa primeiro explicou os seus modelos “em termos leigos”, e os líderes religiosos responderam com feedback e discussão. De acordo com Sullivan, as perguntas variavam de “Os humanos têm alma?” para "Os alunos da terceira série deveriam poder acessar um chatbot para alfabetização?"
O Vaticano se torna uma parada regular
A Antrópica não está sozinha nos bancos. Representantes da Meta, Google e Amazon também se reuniram com o Vaticano, enquanto a Microsoft foi descrita como particularmente vigorosa no seu alcance religioso.
O envolvimento reflete um cálculo único neste momento do desenvolvimento da IA. À medida que os executivos soam alarmes sobre o potencial destrutivo da IA e debatem o que significa um modelo de comportamento "moralmente bom", as tradições religiosas oferecem vários milénios de pensamento acumulado sobre carácter, obrigação e danos - material que nenhum corpus de formação pode replicar totalmente e que as empresas não podem facilmente obter noutro local em grande escala.
O próprio enquadramento da Antrópico torna a ambição explícita: “O que buscamos nessas conversas é um pensamento cuidadoso e acumulado sobre como o bom caráter realmente se forma”.
Estudiosos alertam: religião não é um livro de regras
Especialistas e adeptos advertem que a premissa das empresas - de que a religião pode fornecer um conjunto extraível de princípios morais - não leva em conta a forma como as tradições realmente funcionam. Diferentes visões do mundo muitas vezes se contradizem, e tratar a religião como uma base de dados de regras corre o risco de distorcer o próprio material consultado.
Webb Keane, antropólogo da Universidade de Michigan, argumenta que os estudiosos passaram décadas resistindo à visão da religião como um conjunto de princípios divorciados da maneira "confusa, prática e ad hoc" de vida dos adeptos.
“Existe uma forma muito convencional de pensar na religião como um livro de regras”, disse Keane. “Certamente está muito ligado à religião bíblica, e as religiões bíblicas no final das contas acabam sendo realmente as religiões abraâmicas”.
Essa suposição, alerta ele, corre o risco de priorizar certas tradições enquanto distorce outras – particularmente religiões que não se entendem principalmente como sistemas de ética.
Tomoko Masuzawa, uma estudiosa de estudos religiosos e autora de “A Invenção das Religiões Mundiais”, vai mais longe, observando que categorias como “Budismo” e “Hinduísmo”, como tradições claramente delimitadas e comparáveis, são em grande parte uma construção dos estudos europeus que datam do século XIX. “Todas essas categorias não eram nativas”, disse Masuzawa.
O que realmente está sendo construído
A crítica académica é importante na prática porque tudo o que as empresas aprendem nestas consultas pode moldar a forma como os modelos respondem a questões morais para milhares de milhões de utilizadores. Uma IA que trata a religião como uma fonte de princípios de média ponderada comportar-se-á de forma diferente de uma IA treinada para reconhecer que a autoridade moral é contestada, situada e vivida.
Por enquanto, as empresas negam qualquer agenda de tradição única e os líderes religiosos envolvidos descrevem o envolvimento como sério e substantivo. O veredicto de Sullivan sobre a Anthropic – intelectualmente curioso, rigoroso, um pouco nerd – sugere que as reuniões são mais do que relações públicas.
Mas a questão mais profunda que o relatório da AP levanta permanece em aberto: se qualquer processo de consulta pode traduzir milénios de tradição vivida num comportamento modelo sem o achatar - e quem decide quais as partes da herança moral da humanidade que entram nos pesos.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
