El rey Carlos III emitió el jueves una dura advertencia sobre los "peligros existenciales" de la inteligencia artificial, dirigiéndose a ejecutivos de Nvidia, Google DeepMind y OpenAI reunidos en su propiedad de Dumfries House en Escocia para una cumbre de alto nivel sobre el futuro de la tecnología.

El monarca dijo a los líderes de la industria reunidos que era urgente enfrentar los riesgos que plantean los sistemas de inteligencia artificial cada vez más poderosos, particularmente si la tecnología termina controlada por actores maliciosos. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.

"Parece urgente considerar adecuadamente los peligros existenciales de que tales tecnologías caigan en manos equivocadas y se utilicen de manera potencialmente catastrófica", dijo el Rey a los líderes reunidos en la finca de Ayrshire, según informes de ABC News y muchos otros medios.

Un mensaje dual: promesa y peligro

El discurso del Rey no fue un rechazo generalizado de la tecnología. Reconoció que la inteligencia artificial conlleva un enorme potencial para el bien, señalando en particular las ciencias biológicas y la medicina, donde las herramientas de IA se utilizan cada vez más para acelerar la investigación y mejorar los resultados de los pacientes.

Pero combinó ese optimismo con la advertencia de que los propios creadores de la tecnología han advertido cada vez más que los sistemas avanzados podrían desarrollar capacidades más oscuras, "tal vez incluso para quitar vidas", dijo, según el relato de la emisora ​​sobre sus comentarios.

El Rey también pidió que se establezcan salvaguardias antes de que sea demasiado tarde para controlar la trayectoria de la tecnología, y planteó el impacto ambiental del desarrollo de la IA, un tema que ha atraído un escrutinio creciente a medida que la construcción de centros de datos sobrecarga las redes eléctricas en varios países.

Quién asistió a la cumbre escocesa

La lista de invitados se lee como una muestra representativa de las figuras más poderosas de la industria de la IA. Entre los asistentes se encontraban el fundador y director ejecutivo de Nvidia, Jensen Huang, el fundador de Google DeepMind, Demis Hassabis, y la directora financiera de OpenAI, Sarah Friar, según ABC News. También estuvo presente la ministra británica de Inteligencia Artificial, Kanishka Narayan.

Huang fue invitado a reunirse con el Rey para discutir los mecanismos de seguridad de la industria, según imágenes y leyendas distribuidas por Reuters. También se esperaba que asistiera a las discusiones el padre Paolo Benanti, un asesor papal que ha pedido a los gobiernos que desaceleren el desarrollo de la IA.

La elección del lugar y del convocante es importante. La monarquía británica no tiene poder regulatorio, pero el Rey tiene una larga historia de compromiso público con los riesgos tecnológicos emergentes, y la cumbre brindó a las figuras más importantes de la industria una mesa compartida en un momento en que los llamados a la supervisión se están intensificando en ambos lados del Atlántico.

Un debate revitalizado

La reunión se produce en medio de una renovación del debate público sobre el riesgo de la IA. La discusión volvió a ser centro de atención después de que dos investigadores de Anthropic advirtieran que el rápido avance de la tecnología podría conducir a la extinción humana en un futuro no muy lejano, comentarios que atrajeron una amplia cobertura y críticas en igual medida.

El director ejecutivo de Anthropic, Dario Amodei, ha pedido por separado a las empresas que desaceleren el ritmo del desarrollo de la IA. El Papa León XIV ha instado a los gobiernos de todo el mundo a frenar el desarrollo de los sistemas de IA y mitigar sus efectos disruptivos, mientras que el presidente de Estados Unidos, Donald Trump, también ha intervenido en el debate, haciendo de la cuestión de la gobernanza de la IA una cuestión política genuinamente global y no puramente técnica.

En ese contexto, crece la preocupación de que los esfuerzos de seguridad de la IA estén rezagados con respecto al desarrollo de sistemas cada vez más capaces. En las últimas semanas, el debate se ha centrado en si la industria puede y debe regularse a sí misma, y ​​los escépticos se preguntan si los ejecutivos que piden cautela pueden tener motivos ocultos, como formular reglas que preserven el liderazgo competitivo de determinadas empresas.

No se esperan reglas vinculantes

Los organizadores nunca enmarcaron la reunión escocesa como una negociación. Según ABC News, no se espera que de la reunión se produzca ningún acuerdo vinculante. Su propósito, al menos nominalmente, es exploratorio: si un conjunto compartido de principios puede guiar cómo se aplica la IA a través de fronteras e industrias.

El Palacio de Buckingham dijo que las discusiones considerarían si la IA podría guiarse "no simplemente como un motor de capacidad y eficiencia, sino como una herramienta que defiende la dignidad humana y contribuye al florecimiento tanto de las personas como del planeta".

Ese marco refleja un tema al que el Rey ha vuelto repetidamente: que la pregunta no es sólo si la IA puede ser segura, sino para qué debería ser. Los comentarios del jueves agudizaron ese punto hasta convertirlo en una advertencia sobre la propiedad y el control, un énfasis notablemente diferente de los temores centrados en las capacidades que dominan la mayoría de las discusiones sobre los riesgos de la IA.

¿Qué pasa después?

Es poco probable que la cumbre produzca políticas por sí sola, pero añade impulso a una serie de esfuerzos oficiales que ya están en marcha. El Reino Unido se ha posicionado como un convocante de la seguridad de la IA desde sus cumbres anteriores sobre IA, y la presencia de un ministro dedicado a la inteligencia artificial indica que el gobierno tiene la intención de seguir comprometido con los desarrolladores de IA de Estados Unidos y China.

Para las empresas presentes en la sala, el cálculo es delicado. Nvidia, DeepMind y OpenAI enfrentan presión comercial para lanzar sistemas cada vez más capaces, incluso cuando sus propios investigadores publican advertencias sobre lo que esos sistemas podrían hacer eventualmente. Una convocatoria real no resuelve esa tensión, pero sí garantiza que siga siendo visible.

El mensaje central del Rey, que las salvaguardias deben llegar antes de que la tecnología escape a la capacidad de alguien para gobernarla, llega en una semana en la que el discurso de seguridad de la industria ha sido inusualmente ruidoso, desde la divulgación por parte de OpenAI de múltiples incidentes de seguridad que involucran a sus propios modelos hasta una creciente disputa pública entre el liderazgo de la IA de Microsoft y Anthropic sobre cómo se deben diseñar los sistemas de IA.

Queda por ver si la reunión del jueves se traducirá en algo más concreto. Pero con los líderes del fabricante de chips más valioso del mundo y los laboratorios de IA más destacados sentados en una casa de campo escocesa, coincidiendo como mínimo en que lo que está en juego es existencial, la conversación sobre quién controla la IA y en beneficio de quién ha salido decisivamente a la luz pública.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →