El Papa León XIV dijo el lunes que las preocupaciones acerca de que la inteligencia artificial se vuelva deshonesta no son "noticias falsas" y deben tomarse en serio, en una reprimenda directa a los ejecutivos de tecnología que argumentan que la tecnología debería desarrollarse sin barreras gubernamentales. Hablando en una conferencia de prensa a bordo del vuelo papal de regreso a Roma después de una visita de cuatro días a Francia, el Papa también apuntó -sin nombrarlo al principio- a la postura del CEO de Nvidia, Jensen Huang, contra la regulación de la IA, según informes de AFP, AP y Reuters publicados por Al Jazeera.
Los comentarios llegan en un momento inflamable para la política de IA. El martes, el presidente Donald Trump recibirá en la Casa Blanca a líderes tecnológicos, incluidos Mark Zuckerberg de Meta y Dario Amodei de Anthropic, como informa Reuters, y la industria se opone a la regulación incluso cuando destacados científicos advierten sobre riesgos catastróficos. Para los lectores que siguen la colisión entre los gobiernos y la industria de la IA, AI Buzz Wire sigue los últimos desarrollos de la IA desde Washington hasta Bruselas y el Vaticano.
'Las preocupaciones deben tomarse en serio'
Durante la conferencia de prensa a bordo se le preguntó al Papa qué deberían hacer Estados Unidos y China (las dos superpotencias de la IA del mundo) para evitar que la IA represente riesgos catastróficos para la humanidad. Trump ha calificado anteriormente de "engaño" la preocupación por que la IA se vuelva deshonesta.
"Creo que las preocupaciones planteadas por muchos de los expertos, especialistas en IA, deberían tomarse en serio", dijo el pontífice, insistiendo en que las cuestiones de seguridad planteadas por los expertos en IA deberían discutirse y actuar al respecto. Instó al mundo a "promover el diálogo, el estudio y la investigación, para encontrar formas de garantizar que la IA no llegue a un punto en el que pueda destruir a la humanidad".
El intercambio con Jensen Huang
El momento más destacado llegó cuando Leo hizo referencia a un anuncio sobre el que dijo haber leído esa misma mañana: que el director del fabricante de chips Nvidia había descrito una forma de insertar barreras de seguridad en ciertos modelos de IA. El Papa expresó abierto escepticismo sobre el mensajero.
"Él es el mismo, sin embargo, que dice que no se deben imponer límites ni regulaciones gubernamentales", dijo Leo, un golpe directo a Huang, quien, según los informes del grupo, dijo a CBS News a principios de este mes que estaba de acuerdo con Trump en que las preocupaciones de seguridad sobre la IA eran exageradas.
El anuncio al que hizo referencia el Papa parece ser la recientemente presentada Open Agent Safety Platform de Nvidia, un esfuerzo de hardware y software diseñado para vigilar a los agentes autónomos de IA y evitar que se vuelvan deshonestos. La ironía no pasó desapercibida para los observadores: la empresa más valiosa de la industria ahora vende tecnología de seguridad y al mismo tiempo presiona contra la regulación gubernamental que los defensores de la seguridad dicen que es necesaria para hacerla cumplir.
Un papado basado en las advertencias de la IA
Los comentarios del lunes amplían lo que se ha convertido en el tema definitorio de los 16 meses de papado de Leo. El primer Papa estadounidense identificó la IA como uno de los mayores desafíos que enfrenta la humanidad a los pocos días de su elección, y dedicó su primera encíclica a la IA y la protección de la humanidad, tomando la inusual medida de presentar personalmente el documento junto con el cofundador de Anthropic, Christopher Olah, en un evento en el Vaticano en mayo.
Bajo Leo, el Vaticano ha intensificado constantemente su retórica e iniciativas a favor de la gobernanza internacional de la IA, con especial atención en campos como la tecnología nuclear, la cultura y la creación artística. El lanzamiento de la encíclica de mayo fue parte de un esfuerzo deliberado del Vaticano para involucrar directamente a Silicon Valley sobre los costos humanos de la IA, un alcance que ahora se extiende a desafiar a los ejecutivos en público. El Papa dijo que el esfuerzo por convocar a los tomadores de decisiones debe continuar: "Necesitamos continuar invitando a líderes políticos, líderes de AI, organizaciones sociales y asociaciones a reunirse y observar lo que está sucediendo ya y lo que podría suceder en el futuro".
"Creo que hay bastante gente seriamente interesada en eso... pero tenemos que seguir trabajando", añadió.
Por qué un Papa se está metiendo en la piel de Silicon Valley
La intervención de Leo es importante porque apunta a la contradicción central en la postura actual de la industria. En las últimas semanas, OpenAI descartó el lanzamiento de un modelo fronterizo debido a fallas de alineación, Nvidia y otros laboratorios se apresuraron a lanzar productos de seguridad para agentes, y científicos prominentes, incluidos Geoffrey Hinton y Yoshua Bengio, advirtieron sobre una "explosión de inteligencia" desbocada; de hecho, el mismo día de los comentarios del Papa. Sin embargo, las principales voces de la industria siguen argumentando que la regulación gubernamental sofocaría la innovación.
El mensaje del Papa fue que ambas cosas no pueden ser ciertas al mismo tiempo: si los riesgos son lo suficientemente reales como para justificar la venta de software de seguridad, son lo suficientemente reales como para justificar las reglas. Mientras la Casa Blanca extiende la alfombra roja para los ejecutivos de IA esta semana, Leo está posicionando al Vaticano como una de las pocas instituciones globales dispuestas a decirlo claramente.
Manténgase por delante de la IA
Siga la lucha global por el futuro de la IA. Lea más noticias sobre IA en AI Buzz Wire.
Últimos desarrollos de IA →
