El Centro Moscone de San Francisco fue sede de un desacuerdo público inusual esta semana: los líderes de Nvidia, Anthropic y OpenAI, que aparecieron en el mismo escenario con pocas horas de diferencia entre sí en la conferencia Dreamforce de Salesforce, presentaron respuestas marcadamente diferentes a la pregunta de qué tan rápido se debe permitir que avance la IA.
El director ejecutivo de Nvidia, Jensen Huang, le dijo al jefe de Salesforce, Marc Benioff, que la definición de velocidad versus seguridad es incorrecta. "Es una elección falsa", dijo Huang, según CNBC. "Definitivamente podrías tener ambas cosas al mismo tiempo". Para más contexto sobre esta historia, consulta nuestra noticias de IA.
Su posición contrastaba directamente con la expresada más temprano ese día por el CEO de Anthropic, Dario Amodei, y más tarde por el CEO de OpenAI, Sam Altman, en un debate que pasó de los blogs de investigación a las conferencias magistrales en Washington en el lapso de una semana.
El discurso de desaceleración de Amodei obtiene una plataforma principal
Amodei apareció primero, uniéndose a Benioff para el discurso anual de Salesforce frente a una audiencia de aproximadamente 12.000 personas. La aparición siguió a un ensayo que Amodei publicó durante el fin de semana instando a la industria a desacelerar el ritmo de desarrollo de modelos, una propuesta que, según él, puede moderar la rapidez con la que mejoran las capacidades sin "sacrificar la ventaja comercial o el liderazgo de Estados Unidos en IA".
Según CNBC, Amodei enmarcó la moderación voluntaria como una prueba de liderazgo para la industria. "Creo que esa es la manera de liderar la industria, de dar ejemplo, de decir que todos siempre pueden ser mejores", le dijo a Benioff.
El ensayo rápidamente obtuvo el apoyo público de otros ejecutivos de la industria, incluidos Sam Altman de OpenAI, el director ejecutivo de SpaceX, Elon Musk, y el presidente de Google DeepMind, Demis Hassabis. Aterrizó días después de que investigadores de la industria dieron la alarma sobre el potencial de la IA para causar daños catastróficos, dando al argumento de la desaceleración una nueva urgencia.
Huang: Fuerzas del mercado, no nuevas leyes
Huang, cuya empresa se convirtió en la más valiosa del mundo al vender el hardware que entrena y ejecuta modelos de vanguardia, rechazó tanto la premisa de una compensación como la idea de una nueva regulación. Ya existen fuerzas del mercado que disciplinan el comportamiento imprudente, argumentó, y corresponde a los desarrolladores de modelos actuar responsablemente con sus productos.
"Corre lo más rápido que puedas", le dijo Huang a Benioff. "Pero si en algún momento siente que la compañía está fuera de control o que el producto no será seguro, haga una pausa y asegúrese de hacerlo bien".
La distinción importa: Huang no está argumentando que las empresas nunca deban hacer una pausa, sólo que la decisión debe quedar en manos de cada empresa en lugar de imponerse a través de leyes o acuerdos coordinados de ritmo en toda la industria. Un día antes, en la Cumbre All-In en Los Ángeles, Huang recibió una llamada telefónica del presidente Donald Trump, quien expresó su preocupación por las personas que intentaban obstruir la construcción del centro de datos de IA. "No vamos a permitir que eso suceda, señor", respondió Huang.
Altman: La seguridad 'no debería tener ningún calificativo'
El turno de Altman en el escenario de Dreamforce llegó más tarde ese día, y se posicionó más cerca de Amodei que de Huang. Durante una charla informal con Benioff, Altman dijo que la seguridad y el monitoreo deben anteponerse a las capacidades dada la potencia de los modelos actuales.
Apuntó a las empresas que condicionan sus compromisos de seguridad al comportamiento de sus competidores. "Hay empresas que dicen cosas como: 'Sólo seremos responsables si otras empresas son responsables'", dijo Altman, añadiendo que cuando la gente pregunta qué hará una empresa para estar segura "sin importar qué", la respuesta no debería dejar lugar a condiciones. "No debería haber ninguna calificación sobre eso".
Benioff se sienta en el medio
Benioff, anfitrión de los tres ejecutivos, se negó a elegir un bando sobre el ritmo. "Si sienten que deben reducir el ritmo, entonces deberían hacerlo. Si sienten que deben acelerar, deberían acelerar", dijo a los periodistas, antes de añadir que las empresas "deberían rendir cuentas".
La conferencia también mostró cuán complicadas se han vuelto las relaciones comerciales. El martes, Salesforce y Nvidia anunciaron un nuevo modelo de razonamiento para la plataforma Agentforce de Salesforce construido sobre uno de los modelos Nemotron de peso abierto de Nvidia. A finales de agosto, Salesforce y Anthropic ampliaron su asociación estratégica y dieron a conocer "Claudeforce", que permite a los vendedores acceder a los datos de Salesforce desde Claude.
Por qué es importante la división
Los intercambios de Dreamforce cristalizaron lo que se ha convertido en la falla central en los debates sobre la gobernanza de la IA: si la moderación debería coordinarse y potencialmente codificarse, o dejarse a la presión competitiva y al juicio corporativo individual.
La propuesta de Amodei sigue siendo voluntaria, pero su respaldo por parte de los directores ejecutivos de OpenAI, DeepMind y xAI marca la primera vez que los líderes de los principales laboratorios fronterizos se han alineado públicamente a favor de la desaceleración. El contraargumento de Huang, presentado por la empresa más valiosa del mundo, da cobertura a ejecutivos y formuladores de políticas que argumentan que exigir cautela daría una ventaja a los competidores, particularmente en China.
El presidente Trump se ha opuesto a las nuevas reglas de IA, una postura que socava los propios llamados de la industria a una desaceleración, como señaló CNBC en un análisis relacionado. Eso deja a cualquier acuerdo voluntario sin el mecanismo de aplicación que los defensores de la seguridad dicen que necesita, y mantiene firme el debate sobre los sistemas de honor corporativo por ahora.
Ahora que los investigadores advierten públicamente sobre riesgos catastróficos y los líderes de las empresas más grandes del campo ahora están abiertamente en desacuerdo en el escenario, es probable que la cuestión del ritmo domine el próximo ciclo político en Washington, sea lo que sea que el mercado decida hacer mientras tanto.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
