OpenAI ha estado trabajando estrechamente con sus rivales Anthropic y Google DeepMind durante varias semanas para diseñar un marco para la seguridad de la inteligencia artificial, confirmó el martes un alto ejecutivo, revelando un grado inusual de cooperación entre empresas que compiten ferozmente en casi todo lo demás.
Chris Lehane, jefe de política global de OpenAI, dijo a los periodistas en una conferencia de prensa en Washington que los tres laboratorios han estado coordinando iniciativas de seguridad. "Es mejor intentar trabajar juntos para priorizar la seguridad", dijo Lehane, según un informe de Bloomberg sobre la sesión informativa. Sus comentarios se produjeron días después de una serie de advertencias de extinción de alto perfil por parte de investigadores que abandonaron los laboratorios más grandes de la industria. Para más contexto sobre esta historia, consulta nuestra novedades de IA.
Qué cubre realmente la cooperación
Lehane no dio más detalles sobre la naturaleza específica del trabajo, pero la divulgación sigue a un notable tramo de posicionamiento público por parte de los nombres más importantes de la industria. El sábado, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo llamando a la industria de la inteligencia artificial a cooperar para desacelerar el ritmo del desarrollo de modelos de frontera para evitar lo que denominó "riesgos catastróficos".
La convocatoria obtuvo un apoyo sorprendente de toda la división competitiva: Sam Altman de OpenAI, Demis Hassabis de Google y Elon Musk respaldaron el sentimiento. Altman fue más allá y dijo que OpenAI estaría dispuesto a unirse a la iniciativa de Anthropic para incorporar evaluadores externos dentro de sus equipos de desarrollo para monitorear la seguridad de la IA desde adentro. Mientras tanto, el cofundador de Anthropic, Jack Clark, dijo a NPR que ralentizar la IA es fundamentalmente un "problema de acción colectiva" que ningún laboratorio puede resolver por sí solo.
Sin embargo, no todos dentro de OpenAI consideran urgente el debate sobre el ritmo. La directora financiera, Sarah Friar, dijo a CNBC que no le preocupa desacelerar el desarrollo de la IA, un recordatorio de que la compañía está cortejando simultáneamente a inversores con una valoración superior al billón de dólares.
La sombra antimonopolio sobre la cooperación
Cualquier coordinación entre los laboratorios de IA dominantes se topa con un problema legal obvio: la ley antimonopolio de Estados Unidos. Los expertos legales han advertido que los acuerdos entre competidores para limitar lo que sus productos pueden hacer podrían interpretarse como una "restricción de producción", una violación de la Ley Sherman.
Esa preocupación ya se ha trasladado al Capitolio. Los senadores Jim Banks de Indiana y Adam Schiff de California propusieron una legislación (la Ley de Colaboración sobre Amenazas Adversarias y Riesgos de Seguridad) que permitiría a los laboratorios de IA actuar en materia de seguridad incluso cuando esas acciones pudieran plantear problemas antimonopolio. El ensayo de Amodei argumentaba que el gobierno debería considerar conceder a las empresas una exención para la cooperación en materia de seguridad, aunque Lehane dijo a los periodistas que cree que tal medida es innecesaria.
Jensen Huang de Nvidia ha sido aún más contundente. Hablando en Dreamforce el martes, calificó la propuesta de exención antimonopolio de Anthropic como "completamente innecesaria", según CNBC, subrayando la división cada vez más profunda entre los laboratorios que instan a la moderación y el gigante del hardware que insta a la aceleración.
"Un cartel con otro nombre"
Las críticas a la cooperación han sido mordaces. El director ejecutivo de Cohere, Aidan Gómez, escribió en una publicación de blog en respuesta al ensayo de Amodei que las llamadas de seguridad parecen un esfuerzo de los principales laboratorios de IA para disfrazar un esquema anticompetitivo que preservaría su liderazgo en el desarrollo de modelos de frontera, permitiendo a los laboratorios "dominantes del mercado" definir las reglas para todos los demás.
"Una vez más, utilizando el miedo con el pretexto de proteger al público, estos oligopolios ahora están solicitando doblar las reglas de competencia y que se les permita dictar los términos para todos los demás", escribió Gómez, calificando el acuerdo como "un lobo con piel de oveja, un cártel con otro nombre".
El presidente Donald Trump ha rechazado rotundamente el llamado a la desaceleración de Amodei, argumentando en una publicación en Truth Social que cualquier desaceleración permitiría a China superar a Estados Unidos en la carrera de la IA. David Sacks, asesor clave de IA de la Casa Blanca, ha dicho que los temores de que la IA pueda representar una amenaza existencial son exagerados.
Los analistas de CNBC observaron que ahora han surgido dos bandos en el debate sobre la seguridad y la regulación de la IA: uno que insta a la frontera a reducir la velocidad antes de que algo salga mal, y otro (poblado por Nvidia, la Casa Blanca y los defensores del modelo abierto) que argumenta que la vacilación es el mayor peligro.
El impulso del Capitolio de OpenAI
Los comentarios de Lehane se produjeron durante una conferencia de prensa en Washington, donde tenía previsto reunirse con legisladores. OpenAI está apoyando dos proyectos de ley bipartidistas, según las declaraciones públicas de la compañía y los informes de Reuters y Politico.
La primera es la Ley FRONTIER, que exige un marco federal para la seguridad de la IA y requeriría que los laboratorios de IA presenten nuevos modelos para auditorías por parte de evaluadores independientes. OpenAI también respalda una medida que requeriría auditorías independientes de los modelos de IA, informó CBS News. La segunda propuesta, aún en desarrollo, es la que el líder de la mayoría del Senado, John Thune, está elaborando con el senador republicano Ted Cruz y la senadora demócrata Amy Klobuchar. Según Reuters, ese proyecto de ley daría al Secretario de Comercio el poder de someter nuevos modelos a auditorías de seguridad antes de su lanzamiento. OpenAI ha respaldado por separado planes bipartidistas que abordan las amenazas biológicas de la IA, informó Politico.
La convergencia es sorprendente: las mismas empresas que advierten sobre la IA desbocada se ofrecen voluntariamente para auditorías independientes, mientras que sus críticos advierten que la colaboración en sí misma puede ser el mayor peligro. La forma en que el Congreso enhebre esa aguja (permitiendo la cooperación en materia de seguridad sin otorgar licencias a un cártel) puede definir la política de IA durante años.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
