El cofundador y director ejecutivo de Mistral AI, Arthur Mensch, tiene una respuesta contundente a la alarma de seguridad que recorre la industria de la inteligencia artificial: la IA es software y el software se puede controlar.
En una entrevista publicada por el periódico francés Le Monde el 24 de septiembre, el director de la startup de IA más destacada de Europa argumentó que los gigantes tecnológicos estadounidenses están exagerando los riesgos de la IA para justificar sistemas cerrados y propietarios y bloquear el mercado. Su empresa, dijo, está haciendo la apuesta opuesta: modelos abiertos, infraestructura europea y la posición de que los peligros de la tecnología son manejables a través de ingeniería ordinaria en lugar de miedo extraordinario. Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.
'Se puede controlar'
La entrevista de Le Monde, publicada bajo el título "La IA es software, se puede controlar", llega en un momento en que los incidentes de seguridad relacionados con agentes han dominado el ciclo de noticias sobre IA durante meses. Mensch abordó ese clima directamente, sosteniendo que incidentes como la violación del servidor Hugging Face de julio han sido utilizados como arma en el debate público por grandes empresas estadounidenses para argumentar que sólo los modelos cerrados y estrictamente restringidos pueden operar de manera segura.
Ese marco, según Mensch, combina las fallas de seguridad operativa con un argumento sobre la tecnología en sí. Su posición, como se resume en la cobertura de la entrevista, es que los sistemas de IA son productos de software que pueden ser auditados, restringidos y controlados como cualquier otro software, y que la apertura es compatible con la seguridad y no se opone a ella.
El argumento pone a Mistral en desacuerdo con la postura pública de varios rivales estadounidenses, que han respondido a una serie de episodios de mala conducta de agentes este año con salvaguardias más estrictas, acceso restringido y nuevos marcos de divulgación.
##Pesas abiertas como apuesta estratégica
Los comentarios de Mensch se basan en la estrategia que Mistral ha seguido desde su fundación en 2023: lanzar modelos con pesos disponibles abiertamente que los clientes pueden descargar, ajustar, implementar en su propia infraestructura e inspeccionar.
En la cobertura de la entrevista, ese enfoque se presenta como una respuesta directa a la pregunta de quién controla los sistemas de IA. Los pesos abiertos permiten un examen independiente de lo que hace un modelo, la implementación privada mantiene los datos confidenciales fuera de servidores de terceros y la capacidad de modificar un modelo brinda a los clientes una salida del bloqueo del proveedor. La contrapartida, señalan los críticos, es que cualquiera puede utilizar los pesos disponibles abiertamente, incluidos los actores con intenciones maliciosas, y Mistral debe competir tanto en capacidad como en ecosistema con otros laboratorios de modelo abierto.
El impulso informático de Europa y el fondo de guerra de 3.000 millones de euros
La entrevista también abordó la cuestión de la infraestructura que sustenta las ambiciones de IA de Europa. Mensch ha estado abogando por garantías estatales para simplificar la financiación de los centros de datos europeos, un mecanismo político destinado a reducir la dependencia del continente de los proveedores de nube estadounidenses para la computación de IA.
La posición de Mistral para exponer ese argumento se ha visto fortalecida por su reciente financiación. La empresa recaudó 3.000 millones de euros en una ronda Serie D liderada por Samsung Electronics junto con el Scaleup Europe Fund respaldado por la UE, una valoración que situó a la empresa por encima de los 21.000 millones de euros. Por otra parte, Mistral llegó a un acuerdo multimillonario con Microsoft para expandir la infraestructura de Azure en Europa, aunque ese acuerdo vincula al campeón europeo con un hiperescalador estadounidense en el corto plazo, una tensión que los observadores de la escena tecnológica europea no han pasado por alto.
Mensch ha advertido anteriormente que Europa tiene una ventana limitada, aproximadamente dos años según sus estimaciones, para evitar una dependencia permanente de la IA de Estados Unidos, y el impulso de financiación e infraestructura se posiciona como una respuesta directa a ese plazo.
La retórica de la seguridad se encuentra con el acceso al mercado
La esencia del argumento de Mensch es tanto comercial como filosófica. Si la IA de frontera se trata como un riesgo existencial que requiere un acceso estrictamente controlado, el mercado se consolida en torno a un puñado de empresas con los recursos para proporcionar API restringidas bajo estrictos regímenes de cumplimiento. Si la IA se trata como software controlable, los proveedores abiertos pueden competir en precio, privacidad y personalización.
Por eso el debate sobre cuán peligrosa es la IA se ha convertido, de hecho, en un debate sobre la estructura del mercado. El argumento de Mensch a Le Monde es que el miedo se está desplegando estratégicamente y que los incidentes del verano dicen más sobre la seguridad operativa de empresas individuales que sobre la controlabilidad de la tecnología en su conjunto.
Los escépticos responden que los pesos abiertos hacen que el abuso sea más difícil de prevenir y que los recientes incidentes con agentes de la industria, que incluyeron accesos no autorizados y fugas de datos, demuestran que incluso los laboratorios con buenos recursos luchan por controlar sus sistemas. Es poco probable que el desacuerdo se resuelva mediante una sola entrevista.
Qué mirar a continuación
Mistral ha dicho que planea enviar un nuevo modelo de peso abierto, y la entrevista de Mensch se suma a las expectativas de que la compañía pretende seguir el ritmo de los laboratorios de vanguardia sin dejar de permanecer abierta. Al igual que con cualquier afirmación previa al lanzamiento, la prueba significativa llegará cuando el modelo se envíe y los puntos de referencia independientes puedan verificar su situación real.
Por ahora, la entrevista de Le Monde agudiza una línea divisoria en la industria. Un grupo ve el mal comportamiento reciente de los agentes como evidencia de que la IA necesita un control más estricto y un acceso restringido. El otro, representado por el principal laboratorio de inteligencia artificial de Europa, ve software controlable cuyos riesgos son reales pero manejables, y cuyos beneficios no deberían quedar encerrados detrás de un puñado de puertas cerradas.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
