Según el presidente de Microsoft, actualmente la leche y las lavadoras están más reguladas que la inteligencia artificial, y eso, sostiene Brad Smith, es exactamente al revés.
En declaraciones publicadas el domingo en el programa Big Boss Interview de la BBC, Smith pidió reglas de seguridad globales para la IA, incluida una obligación legal de informar a una "víctima" cuando su sistema ha sido violado por un agente de IA deshonesto, y un marco para decidir cuándo los evaluadores independientes deben aprobar un producto de IA antes de su envío. Sus comentarios lo pusieron públicamente en desacuerdo con el presidente estadounidense Donald Trump, quien ha argumentado que el sector debería regularse para que las empresas estadounidenses no pierdan terreno frente a sus rivales chinos. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
"En este momento, su lavadora está sujeta a más reglas de seguridad que la IA", dijo Smith. "Cada cartón de leche que se ve en el supermercado está sujeto a normas de seguridad e inspección".
Una herramienta y un arma
Smith describió la IA como una "herramienta y un arma" que necesita ser regulada con urgencia, y añadió: "Empecemos hoy".
Sus propuestas fueron más concretas que el habitual texto normativo. Las empresas deberían construir "frenos de emergencia" (lo que la industria suele llamar interruptores de emergencia) que puedan pausar o ralentizar un sistema de inteligencia artificial si se sale de control. Las empresas deberían estar legalmente obligadas a redactar informes de incidentes y notificar a las víctimas cuando la IA se vuelve deshonesta. Y los evaluadores gubernamentales independientes deberían examinar la nueva tecnología de inteligencia artificial antes de su lanzamiento.
"Sabemos cómo hacer esto con otros productos", dijo Smith. "Deberíamos aprovechar ese conocimiento y pensar en cómo aplicarlo a la IA".
La intervención aterriza en una semana febril para la supervisión de AI. Días antes, el propio director ejecutivo de Microsoft, Satya Nadella, pidió un freno de emergencia que permitiría a los humanos apagar los sistemas de inteligencia artificial a mitad de una tarea, una posición sorprendente para el jefe de uno de los proveedores de inteligencia artificial más grandes del mundo, y que ahora parece ser una doctrina de la empresa en lugar de la reflexión de un ejecutivo.
Rompiendo con la Casa Blanca
Las opiniones de Smith difieren marcadamente de las de su presidente. Trump ha dicho repetidamente que "quien gane en IA, gana", y ha rechazado los llamamientos de los jefes de Anthropic, OpenAI y Google DeepMind, quienes han respaldado la idea de una desaceleración del desarrollo de la IA.
Sin embargo, Smith también sugirió que la fricción es menor de lo que parece. A finales del mes pasado, Trump recibió a los líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google en la Casa Blanca, donde los ejecutivos firmaron lo que se describió como un documento "moralmente vinculante" que los comprometía a trabajar con auditores independientes para evaluar si sus sistemas de IA funcionan según lo previsto, y a no "piratear o acceder a sistemas técnicos de manera no deseada".
Smith aplaudió la declaración y dijo que Microsoft está "feliz de firmarla". Pero añadió: "Es un buen paso, es un paso necesario... Pero creo que ya no es suficiente".
Su razonamiento llega al problema central de los regímenes voluntarios: "Las buenas empresas harán lo que usted quiera", dijo. "De las que hay que preocuparse son las empresas que no son tan responsables".
Por qué cree que Gran Bretaña debería escribir las reglas
La parte más cargada geopolíticamente de la entrevista fue el respaldo de Smith al Reino Unido como el autor natural de las reglas globales de IA, señalando el Instituto de Seguridad de IA del Reino Unido, lanzado bajo el gobierno del ex primer ministro Rishi Sunak como Instituto de Seguridad de IA, que prueba los modelos más poderosos del mundo antes de su lanzamiento.
"En el mundo de la tecnología, en el sector tecnológico, la mayoría de las personas que conozco dirían, si les preguntas, nombre el país que es líder en tener esta capacidad técnica, dirían, es muy simple. Es el Reino Unido. Son los mejores", dijo Smith.
También argumentó que el gobierno de Estados Unidos aceptaría las normas elaboradas en el Reino Unido más fácilmente que la regulación al estilo de Bruselas: "En Washington DC, la gente no mira al Reino Unido y no mira a Londres de la misma manera que mira a Bruselas; eso es una fortaleza".
Su argumento a favor de la urgencia fue contundente. "Cuando miras a los agentes de IA que han escapado al control humano, cuando miras los modelos que son tan poderosos que están poniendo en riesgo la ciberseguridad del mundo, yo diría: ha llegado el momento", dijo Smith. "Hablemos con calma, tal vez incluso en voz baja, pero con firmeza, y comencemos a unir a la gente. Espero que ese sea el papel que podamos desempeñar como empresa. Espero que ese sea el papel que el Reino Unido puede desempeñar como país".
Una rara pantalla dividida en la política tecnológica
Es inusual que el presidente de una empresa en ejercicio presione para que se apliquen normas más estrictas a su propia industria mientras su director general presenta el mismo caso desde un escenario diferente. Las intervenciones en duelo de Microsoft (el freno de emergencia de Nadella y el llamado de Smith para que se informen obligatoriamente los incidentes, se notifique a las víctimas y se realice una evaluación independiente) indican que al menos un proveedor importante ha llegado a la conclusión de que la confianza, no la capacidad, se está convirtiendo en la limitación vinculante para la adopción de la IA.
También presentan al gobierno del Reino Unido un argumento oportuno. Whitehall pasó la semana pasada absorbiendo advertencias de sus propios jefes de inteligencia, mientras los ministros sopesan si unirse a un llamado internacional para coordinar estándares de seguridad de IA que Washington hasta ahora se ha negado a firmar. Cuando el presidente de Microsoft dice que el Reino Unido es "el mejor" posicionado para redactar el libro de reglas, Downing Street obtiene tanto la validación como una invitación que le resultará difícil ignorar.
Si el marco del cartón de leche de Smith cambia algún voto en Washington es otra cuestión. Pero como declaración de hacia dónde quiere uno de los mayores constructores de la IA que vaya el debate regulatorio (frenos obligatorios, informes obligatorios, aprobación independiente), la entrevista puede ser recordada como un marcador en el cambio de compromisos voluntarios a reglas ejecutables.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
