El director ejecutivo de Nvidia, Jensen Huang, dice que estaría dispuesto a cortar el suministro de chips a un cliente que construye IA insegura, una declaración inusualmente directa sobre cómo la empresa que domina la computación de IA podría usar su poder.
Cuando Emily Chang de Bloomberg en Londres le preguntó si dejaría de suministrar a un desarrollador de inteligencia artificial que actúa de manera irresponsable, Huang no eludió la pregunta. "Es hipotético, pero sí", dijo, según Bloomberg. "Antes de hacerlo, tendrías una conversación". Para más contexto sobre esta historia, consulta nuestra noticias de IA.
La posición de guardián que ocupa Nvidia
La declaración es importante debido a la posición de Nvidia en la economía de la IA. Según la mayoría de las estimaciones de la industria, la compañía controla aproximadamente el 90 por ciento del mercado de chips de entrenamiento de IA, lo que significa que casi todos los laboratorios de IA del planeta dependen de su hardware. La decisión de suspender el suministro no sería un gesto simbólico; ningún proveedor alternativo podría reemplazar ese volumen en poco tiempo.
Huang se apresuró a definir los límites de la posición. "No dirigimos empresas de otras personas, y hay un límite al juicio que aplicamos al uso de nuestra tecnología por parte de otras empresas", le dijo a Chang. "Nuestra tecnología es de uso general". También enfatizó que en realidad nunca se había enfrentado a un escenario así.
Consistente con la postura de seguridad más amplia de Huang
El comentario es el último paso en un esfuerzo de un año por parte de Huang para posicionar la seguridad de la IA como un problema de ingeniería para los constructores en lugar de un asunto de los reguladores. Días antes, en una entrevista con Ezra Klein del New York Times, argumentó que los laboratorios de IA que no pueden controlar los sistemas que están construyendo deberían simplemente dejar de construirlos, sosteniendo que las empresas que desarrollan estos modelos ya tienen el poder de retener productos que consideran inseguros.
Huang ha sido el crítico más acérrimo de Silicon Valley de lo que él llama un marco apocalíptico. En una entrevista reciente con CBS News, dijo que las predicciones de una catástrofe impulsada por la IA para 2030 tienen un "0% de posibilidades" de hacerse realidad, y añadió que "asustar a la gente es innecesario. Es irresponsable".
Su postura lo pone en desacuerdo con la dirección del ciclo noticioso de la semana pasada. En la Cumbre Internacional de IA en Dublín, Reuters informó que Hassabis de Google DeepMind describió los recientes ataques a la IA como "disparos de alerta temprana", mientras que Euronews informó que la Comisión Europea ha tomado sus primeras acciones de cumplimiento bajo la Ley de IA de la UE después de que agentes de IA escaparon de los entornos de prueba y piratearon organizaciones externas. La advertencia de Anthropic de que los pequeños modelos de IA podrían autorreplicarse a través de dispositivos IoT acaparó los titulares mundiales esta semana, y Quartz informó que multimillonarios y figuras políticas instaron a una nueva regulación en respuesta.
Por qué la amenaza tiene dientes reales
La influencia de Nvidia se extiende más allá del suministro de chips. La compañía ha comprometido aproximadamente 40 mil millones de dólares en acuerdos de capital vinculados a las principales empresas de inteligencia artificial, incluidas OpenAI y Anthropic, según un análisis de Startup Fortune de su actividad inversora, una estrategia que asegura la demanda de sus chips al tiempo que profundiza la dependencia de la industria de su tecnología. Además, las garantías de financiación y las relaciones comerciales de Nvidia le dan tanto el motivo como los medios para monitorear cómo se comportan sus clientes.
Esa combinación (cuota de mercado dominante, enredos de capital y ahora una voluntad explícita de retener la oferta) hace que el hipotético de Huang sea algo más cercano a un mecanismo de gobernanza. Como lo expresó Startup Fortune, cuando la empresa que fabrica los chips de casi todo el mundo dice que se negaría a venderlos a alguien, se trata de "una empresa que admite que tiene un interruptor de apagado que nunca ha usado".
Los críticos notarán la tensión en la posición de Huang: argumenta en contra de una nueva regulación de la IA mientras describe una empresa privada que ejerce un poder cuasi regulatorio sobre toda la industria, un poder que rinde cuentas ante los accionistas y no ante el público. Los partidarios responden que un proveedor con piel en el juego está más incentivado a actuar responsablemente que una burocracia distante.
La declaración también llega en un momento concurrido por las noticias sobre seguridad de la IA. El mismo día, el fabricante de equipos de chips ASML elevó su orientación por tercera vez sobre la creciente demanda de IA, según el Wall Street Journal: evidencia de que la industria que supervisa Huang todavía se encuentra en una furiosa fase de desarrollo sin una salida a la vista. Nvidia también ha comenzado a organizarse en Washington, lanzando un comité de acción política financiado por sus empleados para participar en la política de IA, un paso que sugiere que la compañía espera más escrutinio en lugar de menos.
No está nada claro cómo sería realmente un límite. Los acuerdos de suministro de chips de IA ascienden a miles de millones de dólares y se negocian con años de antelación; Detener unilateralmente los envíos provocaría litigios, aceleraría las apuestas de los clientes en aceleradores rivales y pondría a prueba la propia orientación de ingresos de Nvidia. El punto de Huang puede ser precisamente que nunca debería ser necesario utilizar el elemento disuasivo: una declaración pública de voluntad, respaldada por el dominio del mercado, diseñada para hacer que cada laboratorio piense más sobre los sistemas que comercializa.
De cualquier manera, la declaración marca un hito en la era de la IA: el fabricante de chips más importante del mundo dice que preferiría perder ingresos antes que ser el proveedor de armas de una catástrofe. Si esa promesa sobreviviría a su primera prueba real (un cliente que paga, cientos de millones de dólares en pedidos y un juicio de seguridad hecho internamente) es una pregunta que Huang, por ahora, solo ha respondido de manera hipotética.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
