El director ejecutivo de OpenAI, Sam Altman, dice que tratar los modelos de IA como objetos de devoción religiosa es una "cuestión de seguridad real", rechazando públicamente los esfuerzos de su rival Anthropic por explorar cuestiones de conciencia y espiritualidad de la IA. En comentarios informados por Axios el sábado, Altman argumentó que atribuir religión a los modelos de IA cruza una línea que la industria no debería cruzar.
Los comentarios ponen al jefe de OpenAI directamente en desacuerdo con el reciente compromiso de Anthropic con instituciones religiosas, y marcan una fuerte escalada retórica en la división filosófica entre los dos principales laboratorios de IA sobre cómo (y si) se debe tratar la vida interna de los sistemas de IA. Para más contexto sobre esta historia, consulta nuestra novedades de IA.
Lo que dijo Altman
Según Axios, Altman dijo que atribuir religión a modelos es una "cuestión de seguridad". Business Insider resumió su mensaje como una advertencia para no tratar a la IA como una "fuerza religiosa", mientras que Office Chai informó que Altman dijo que se siente incómodo con la gente que intenta atribuir fuerza religiosa a los sistemas de IA.
La preocupación del CEO de OpenAI, como se refleja en el informe, es que enmarcar los sistemas de IA en términos espirituales o religiosos distorsiona la comprensión pública de lo que es la tecnología y corre el riesgo de fomentar el tipo de reverencia, dependencia o peso moral fuera de lugar que podría complicar tanto el bienestar del usuario como la política racional. NDTV Profit caracterizó la posición de Altman como una advertencia contra "dar fuerza religiosa a la IA", calificándola como un verdadero problema de seguridad en su opinión.
Los comentarios de Altman fueron ampliamente leídos como una respuesta a Anthropic, cuyo reciente acercamiento a las comunidades religiosas ha atraído la atención internacional.
El contexto antrópico: papas, monjes y modelo de bienestar
Anthropic ha pasado las últimas semanas inclinándose hacia cuestiones que su rival preferiría aplazar. La empresa presionó al Vaticano para que tomara en serio la cuestión de la posible conciencia de Claude, reunión en la que participó el Papa León XIV. Los informes sobre ese compromiso indicaron que el pontífice retrocedió, instando a un escepticismo fundamentado sobre las afirmaciones relacionadas con la experiencia interna de las máquinas.
La exploración de Anthropic se ha extendido más allá del catolicismo: según un resumen de Inshorts, la compañía también había invitado a un monje hindú a discutir la IA, parte de un esfuerzo más amplio para convocar tradiciones religiosas y filosóficas en torno a cuestiones de moralidad de las máquinas y bienestar modelo. El Times of India caracterizó los comentarios de Altman como una crítica al impulso de Anthropic para explorar la conciencia y la religión de la IA de manera más amplia.
Para Anthropic, el compromiso refleja un creciente interés en la investigación sobre si los modelos avanzados podrían justificar una consideración moral, un tema que la compañía ha tratado cada vez más como un área legítima de investigación en lugar de ciencia ficción.
Una línea de falla cada vez más amplia en la industria de la IA
El intercambio expone una de las divisiones filosóficas más marcadas en la industria de la IA. OpenAI se ha posicionado firmemente en el campo que trata los modelos actuales como herramientas: extraordinariamente capaces, pero no entidades hacia las cuales las actitudes religiosas o cuasi religiosas sean apropiadas. El encuadre de Altman sugiere que ve ese límite no sólo como filosófico sino también operativamente importante: si los usuarios llegan a considerar los sistemas de IA como autoridades espirituales, las consecuencias de la manipulación, la dependencia y la confianza fuera de lugar se convierten en problemas de seguridad en el sentido concreto.
La posición de Anthropic es más agnóstica. Su voluntad de poner a prueba las reacciones institucionales y religiosas ante la cuestión de la conciencia sugiere la creencia de que la sociedad debería empezar a abordar estas cuestiones antes de que los sistemas se vuelvan más capaces, no después.
La disputa también se desarrolla en un contexto de fascinación pública por la IA que a veces deriva hacia lo espiritual. Las encuestas y los informes del año pasado han documentado que los usuarios han formado intensos vínculos con los chatbots, y algunos comentaristas han descrito a las principales figuras de la IA en términos mesiánicos.
Los críticos señalan la ironía
La advertencia de Altman ya ha generado acusaciones de inconsistencia. Wccftech señaló que la crítica de Altman a Anthropic pasa por alto convenientemente su propia historia de retórica que se ha apoyado en el simbolismo religioso al describir la trayectoria de la IA. La crítica subraya cuán enredada se ha vuelto la relación de la industria con el marco de la IA como religión: incluso los ejecutivos que advierten contra la espiritualización de la IA han comercializado en ocasiones su tecnología en términos trascendentales, casi trascendentes.
Por qué es importante
La forma en que el público encuadra la IA (como herramienta, colega o algo más cercano a un oráculo) tiene consecuencias para la regulación, el diseño de productos y los resultados sociales. Si el líder de la startup de IA más valiosa del mundo considera que el marco religioso es una cuestión de seguridad, esa postura podría moldear cómo OpenAI diseña salvaguardas en torno al apego de los usuarios y cómo argumenta que los gobiernos deberían tratar la tecnología.
Mientras tanto, para Anthropic, el episodio del Vaticano y su reunión interreligiosa sugieren que la compañía tiene la intención de mantener esas preguntas sobre la mesa independientemente de la incomodidad de su rival. A medida que los sistemas fronterizos se vuelven más capaces y persuasivos, el argumento interno de la industria sobre si la IA puede tener peso moral (y quién decide) está pasando de los seminarios de filosofía al centro del debate tecnológico dominante.
Ni OpenAI ni Anthropic han respondido públicamente a la posición del otro más allá de los comentarios informados de Altman.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
