Mientras las empresas de tecnología se apresuran a construir una inteligencia artificial cada vez más poderosa, algunas de ellas están pidiendo ayuda a una antigua institución con un nuevo problema: cómo enseñarle a un chatbot el bien y el mal. Su respuesta, cada vez más, es la religión.
En los últimos meses, los ejecutivos de IA han buscado la opinión de filósofos y líderes religiosos sobre cómo hacer que los modelos sean "moralmente buenos". El alcance abarca desde consultas formales hasta apariciones en el Vaticano y, según un informe de Associated Press publicado el domingo, está generando preocupación entre los estudiosos de la religión de que las empresas malinterpreten lo que están aprovechando. Para los lectores que siguen los [últimos desarrollos de IA] (https://aibuzzwire.news), la historia indica cuán central se ha vuelto la alineación moral en la forma en que operan ahora estas empresas.
"Preguntas que un laboratorio no puede responder"
Anthropic, la empresa de inteligencia artificial que muchos consideran que se toma la ética más en serio, ha estado entre las más activas. En la presentación en el Vaticano de la encíclica del Papa León XIV sobre la IA a principios de este año, el cofundador de Anthropic, Chris Olah, dijo a la audiencia que las cuestiones morales que rodean a la IA exceden lo que las empresas pueden resolver por sí solas.
"Estas no son preguntas que un laboratorio pueda responder", dijo Olah. "Son preguntas que tradiciones como la suya han persistido durante milenios".
Anthropic dijo en una publicación de blog en mayo que se había reunido con "eruditos, clérigos, filósofos y especialistas en ética de más de 15 grupos religiosos e interculturales", un grupo que dice que espera ampliar. La compañía enmarcó el esfuerzo de manera amplia: "Este trabajo no se trata de alinear nuestros modelos con la cosmovisión de ninguna tradición. Queremos que Claude se base en una gama completa de puntos de vista (religiosos, seculares, políticos) con igual profundidad y rigor".
El director ejecutivo de OpenAI, Sam Altman, ha articulado una visión diferente y más agregada. "Lo que creo que ChatGPT debería hacer es reflejar ese promedio ponderado, o lo que sea, de la visión moral de la humanidad", dijo Altman el año pasado.
Dentro de las reuniones de fe de Anthropic
Meghan Sullivan, filósofa de la religión que lidera una iniciativa sobre ética e inteligencia artificial en la Universidad de Notre Dame, asistió a una de las reuniones de Anthropic a principios de este año. A diferencia de las conversaciones que ha tenido con otras empresas de tecnología, quedó impresionada por el rigor del compromiso.
"La cultura dentro de la empresa es similar a la de un buen campus universitario en el sentido de que tienes un grupo de personas intelectualmente muy curiosas", dijo Sullivan. "Estas reuniones son bastante nerds; no sé si esa es la mejor manera de decirlo, en el buen sentido".
La reunión, que incluyó a cristianos de diferentes denominaciones, se dividió en dos partes: la empresa primero explicó sus modelos "en términos sencillos" y los líderes religiosos respondieron con comentarios y debates. Según Sullivan, las preguntas iban desde "¿Los humanos tienen alma?" a "¿Deberían los estudiantes de tercer grado poder acceder a un chatbot para la alfabetización?"
El Vaticano se convierte en una parada habitual
Anthropic no está solo en los bancos. Representantes de Meta, Google y Amazon también se han reunido con el Vaticano, mientras que Microsoft ha sido descrito como particularmente vigoroso en su alcance religioso.
El compromiso refleja un cálculo exclusivo de este momento en el desarrollo de la IA. Mientras los ejecutivos hacen sonar las alarmas sobre el potencial destructivo de la IA y debaten qué significa siquiera un modelo de comportamiento "moralmente bueno", las tradiciones religiosas ofrecen varios milenios de pensamiento acumulado sobre el carácter, la obligación y el daño, material que ningún corpus de capacitación puede replicar completamente y que las empresas no pueden obtener fácilmente en otros lugares a escala.
El propio marco de Anthropic hace explícita la ambición: "Lo que buscamos en estas conversaciones es un pensamiento cuidadoso y acumulado sobre cómo se forma realmente el buen carácter".
Los académicos advierten: la religión no es un libro de reglas
Tanto los expertos como sus seguidores advierten que la premisa de las empresas (que la religión puede proporcionar un conjunto extraíble de principios morales) no tiene en cuenta cómo funcionan realmente las tradiciones. Las diferentes visiones del mundo a menudo se contradicen entre sí, y tratar la religión como una base de datos de reglas corre el riesgo de distorsionar el material mismo que se consulta.
Webb Keane, antropólogo de la Universidad de Michigan, sostiene que los académicos han pasado décadas rechazando la visión de la religión como un conjunto de principios divorciados de las formas "desordenadas, prácticas y ad hoc" en que viven sus seguidores.
"Existe una forma muy convencional de pensar en la religión como un libro de reglas", dijo Keane. "Ciertamente está muy ligado a la religión escritural, y las religiones escriturales al final del día realmente resultan ser las religiones abrahámicas".
Advierte que esa suposición corre el riesgo de priorizar ciertas tradiciones y distorsionar otras, en particular las religiones que no se entienden a sí mismas principalmente como sistemas de ética.
Tomoko Masuzawa, estudioso de estudios religiosos y autor de "La invención de las religiones del mundo", va más allá y señala que categorías como "budismo" e "hinduismo", como tradiciones claramente delimitadas y comparables, son en gran medida una construcción de la erudición europea que data del siglo XIX. "Todas estas categorías no eran nativas", dijo Masuzawa.
Lo que realmente se está construyendo
La crítica académica es importante en la práctica porque lo que las empresas aprendan en estas consultas puede determinar cómo los modelos responden a las preguntas morales de miles de millones de usuarios. Una IA que trata la religión como una fuente de principios promedio ponderados se comportará de manera diferente que una entrenada para reconocer que la autoridad moral se cuestiona, se sitúa y se vive.
Por ahora, las empresas niegan cualquier agenda de una sola tradición, y los líderes religiosos involucrados describen el compromiso como serio y sustancial. El veredicto de Sullivan sobre Anthropic (intelectualmente curioso, riguroso, un poco nerd) sugiere que las reuniones son más que relaciones públicas.
Pero la pregunta más profunda que plantea el informe de AP sigue abierta: si algún proceso de consulta puede traducir milenios de tradición vivida en un comportamiento modelo sin aplanarlo, y quién decide qué partes de la herencia moral de la humanidad se incluyen en las pesas.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
