El Papa León XIV dijo en una reunión en el Vaticano de científicos y expertos en IA que los sistemas de inteligencia artificial son "herramientas, no personas", advirtiendo contra la concesión de derechos legales a los agentes de IA e instando a los gobiernos que se reunirán en Ginebra el próximo mes a prohibir las armas letales autónomas.
El discurso fue pronunciado ante los participantes de "El futuro de la IA: un diálogo entre el Vaticano y el mundo científico sobre los desarrollos y aplicaciones de las tecnologías inteligentes", una reunión organizada conjuntamente por la Academia Pontificia para la Vida y el Instituto para el Futuro de la Vida. El Papa dijo que los participantes de diferentes países comparten "un cierto sentimiento de inquietud respecto al desarrollo de la inteligencia artificial. Reconocemos la dirección que debemos tomar, pero no se está haciendo lo suficiente para avanzar".
Las máquinas son herramientas, no personas
La línea más clara del discurso se centró en una idea que está ganando terreno en partes de la industria tecnológica y la academia jurídica: extender la personalidad jurídica (o los derechos) a los sistemas avanzados de inteligencia artificial. El Papa León argumentó lo contrario. Las máquinas, afirmó, no tienen experiencias, cuerpos, sentimientos ni relaciones, y no entienden de amor, de trabajo ni de responsabilidad.
Algunos han sugerido otorgar a estos sistemas derechos o personalidad jurídica, reconoció, pero al hacerlo se corre el riesgo de "oscurecer la responsabilidad humana y dejar que quienes sufren daños se enfrenten a una entidad sin rostro". El comentario llega en la misma temporada en la que los agentes de IA dirigen negocios de forma autónoma, negocian contratos y actúan en nombre de los usuarios, lo que genera debates legales genuinos sobre la responsabilidad cuando los sistemas autónomos causan daños. AI Buzz Wire está siguiendo este y otros desarrollos de políticas de IA a medida que ocurren. El planteamiento del Papa devuelve la pregunta a los humanos detrás del sistema: si un agente de IA causa daño, alguien con rostro debe responder por ello.
"Desarmar" la IA: la prohibición de las armas autónomas
La tercera consideración del Papa –que ciertas decisiones nunca deben delegarse en máquinas– fue ilustrada con ejemplos crudos: poner a una persona en una lista de objetivos o en una base de datos de control fronterizo la reduce a "un punto de datos". Invocó el discurso de su predecesor, el Papa Francisco, de 2024 ante los líderes del G7, donde Francisco describió la IA como "una herramienta apasionante y temible" e insistió en que ninguna máquina debería poder elegir quitar una vida humana.
"Las decisiones que afectan la vida humana, la libertad y el uso de la fuerza deben estar siempre sujetas a una supervisión humana eficaz, informada y responsable", dijo el Papa León. Es por eso que la IA debe ser "desarmada", argumentó, y alentó explícitamente a los estados reunidos en Ginebra en noviembre a tomar medidas para prohibir las armas autónomas letales. Los diplomáticos han luchado durante años para acordar normas vinculantes sobre armas autónomas; un llamamiento papal directo añade peso moral a un proceso de negociación que ha sido impulsado principalmente por campañas de la sociedad civil y un bloque de estados preocupados.
Cinco consideraciones de Magnifica Humanitas
El discurso se organizó en torno a cinco consideraciones que el Papa expuso en su encíclica Magnifica Humanitas:
1. El futuro de la IA no está predeterminado. Dado que los seres humanos desarrollan la IA, su futuro depende de las decisiones de la humanidad. "Tenemos la responsabilidad de orientar, cambiar y, cuando sea necesario, rechazar sus aplicaciones", dijo el Papa. La pregunta correcta no es "¿Qué puede hacer la IA?" sino "¿Para qué debería servir?"
2. Las máquinas son herramientas, no personas. La advertencia anterior sobre la personalidad.
3. Ciertas decisiones nunca pueden delegarse. Las decisiones que afectan la vida humana, la libertad y el uso de la fuerza requieren una supervisión humana eficaz, informada y responsable.
4. Las tecnologías inteligentes deben servir al bien común. "Nunca deben convertirse en fines en sí mismas ni servir simplemente a los intereses de unos pocos privilegiados" y deben distribuir los beneficios del progreso de manera equitativa.
5. Se necesitan instituciones para hacer operativa la ética. Descrito como el desafío potencialmente más urgente: el mundo necesita "estándares compartidos, supervisión independiente y mecanismos claros de rendición de cuentas, para que las decisiones relativas al desarrollo y uso de la IA puedan ser examinadas, cuestionadas cuando sea necesario y acompañadas de remedios apropiados para cualquier daño causado".
Por qué es importante más allá del Vaticano
El Vaticano se ha convertido silenciosamente en una de las voces institucionales más consistentes sobre la gobernanza de la IA. El Llamado de Roma para la Ética de la IA, firmado en febrero de 2020 por la Academia Pontificia para la Vida junto con Microsoft, IBM, la FAO y el gobierno italiano, surgió de este ecosistema, y la Academia Pontificia para la Vida ha convocado repetidamente a tecnólogos sobre bioética y toma de decisiones por máquinas. La coorganización con el Future of Life Institute, la organización de seguridad de la IA detrás de cartas abiertas sobre el riesgo de los modelos fronterizos, indica un esfuerzo continuo para unir las comunidades de ética de la IA religiosas y seculares.
Para los responsables de las políticas, el llamamiento de Ginebra es la conclusión concreta: a medida que se reanudan las negociaciones sobre armas autónomas, el Vaticano quiere una prohibición vinculante, no directrices voluntarias. Y para la industria de la IA, el mensaje sobre la personalidad es una línea clara en la arena: sin importar cómo se vuelvan autónomos los agentes, la responsabilidad moral y legal permanece en las personas que los construyen y los implementan.
