Arthur Mensch, co-fondateur et PDG de Mistral AI, a une réponse directe à l'alarme de sécurité qui déferle sur l'industrie de l'intelligence artificielle : l'IA est un logiciel et les logiciels peuvent être contrôlés.
Dans une interview publiée par le journal français Le Monde le 24 septembre, le patron de la plus importante startup européenne de l'IA a affirmé que les géants américains de la technologie exagèrent les risques de l'IA afin de justifier des systèmes fermés et propriétaires et de verrouiller le marché. Son entreprise, dit-il, fait le pari inverse : des modèles à poids ouvert, une infrastructure européenne et la position selon laquelle les dangers de la technologie sont gérables par une ingénierie ordinaire plutôt que par une peur extraordinaire. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
'Cela peut être contrôlé'
L'interview du Monde, publiée sous le titre "L'IA est un logiciel, elle peut être contrôlée", arrive à un moment où les incidents de sécurité liés aux agents dominent le cycle de l'actualité de l'IA depuis des mois. Mensch a directement abordé ce climat, affirmant que des incidents tels que la violation du serveur Hugging Face en juillet ont été utilisés comme armes dans le débat public par de grandes entreprises américaines pour affirmer que seuls des modèles fermés et strictement restreints peuvent être exploités en toute sécurité.
Ce cadre, selon Mensch, confond les échecs de sécurité opérationnelle avec un argument sur la technologie elle-même. Sa position, telle que résumée dans la couverture de l'interview, est que les systèmes d'IA sont des produits logiciels qui peuvent être audités, restreints et contrôlés comme n'importe quel autre logiciel, et que l'ouverture est compatible avec la sécurité plutôt qu'elle ne s'y oppose.
Cet argument met Mistral en contradiction avec la position publique de plusieurs rivaux américains, qui ont répondu cette année à une série d'épisodes de mauvaise conduite d'agents par des garanties renforcées, un accès restreint et de nouveaux cadres de divulgation.
Open Weights comme pari stratégique
Les commentaires de Mensch reposent sur la stratégie poursuivie par Mistral depuis sa création en 2023 : proposer des modèles avec des poids librement disponibles que les clients peuvent télécharger, affiner, déployer sur leur propre infrastructure et inspecter.
Dans la couverture de l’interview, cette approche est présentée comme une réponse directe à la question de savoir qui contrôle les systèmes d’IA. Les pondérations ouvertes permettent un examen indépendant de ce que fait un modèle, le déploiement privé maintient les données sensibles hors des serveurs tiers et la possibilité de modifier un modèle permet aux clients de sortir du verrouillage du fournisseur. Le compromis, notent les critiques, est que les poids librement disponibles peuvent également être utilisés par n'importe qui, y compris par des acteurs malveillants, et Mistral doit rivaliser à la fois en termes de capacité et d'écosystème avec d'autres laboratoires à modèle ouvert.
La poussée informatique de l'Europe et le trésor de guerre de 3 milliards d'euros
L’entretien a également abordé la question des infrastructures qui sous-tend les ambitions européennes en matière d’IA. Mensch plaide pour des garanties d'État pour simplifier le financement des centres de données européens, un mécanisme politique visant à réduire la dépendance du continent à l'égard des fournisseurs de cloud américains pour le calcul de l'IA.
La position de Mistral pour faire valoir cet argument a été renforcée par son récent financement. La société a levé 3 milliards d'euros lors d'un cycle de série D mené par Samsung Electronics en collaboration avec le fonds Scaleup Europe soutenu par l'UE, une valorisation qui a placé l'entreprise au-dessus de 21 milliards d'euros. Par ailleurs, Mistral a conclu un accord de plusieurs milliards de dollars avec Microsoft pour étendre l'infrastructure Azure en Europe, bien que cet accord lie le champion européen à un hyperscaler américain à court terme, une tension que les observateurs de la scène technologique européenne n'ont pas manquée.
Mensch a précédemment averti que l’Europe dispose d’une fenêtre limitée, environ deux ans selon ses estimations, pour éviter une dépendance permanente de l’IA à l’égard des États-Unis, et l’effort de financement et d’infrastructures se positionne comme une réponse directe à cette échéance.
Le discours sur la sécurité rencontre l'accès au marché
La substance de l’argumentation de Mensch est autant commerciale que philosophique. Si l’IA frontalière est traitée comme un risque existentiel nécessitant un accès étroitement contrôlé, le marché se consolide autour d’une poignée d’entreprises disposant des ressources nécessaires pour fournir des API restreintes dans le cadre de régimes de conformité stricts. Si l’IA est traitée comme un logiciel contrôlable, les fournisseurs de poids ouvert peuvent rivaliser en termes de prix, de confidentialité et de personnalisation.
C’est pourquoi le débat sur la dangerosité de l’IA est devenu en réalité un débat sur la structure du marché. L'argument de Mensch au Monde est que la peur est déployée de manière stratégique et que les incidents de l'été en disent plus sur la sécurité opérationnelle des entreprises individuelles que sur la contrôlabilité de la technologie dans son ensemble.
Les sceptiques rétorquent que les pondérations ouvertes rendent les abus plus difficiles à prévenir et que les récents incidents liés aux agents du secteur, notamment des accès non autorisés et des fuites de données, démontrent que même les laboratoires disposant de ressources suffisantes ont du mal à contrôler leurs systèmes. Il est peu probable que le désaccord soit réglé par un seul entretien.
Que regarder ensuite
Mistral a annoncé son intention de commercialiser un nouveau modèle à poids ouvert, et l'interview de Mensch renforce les attentes selon lesquelles la société entend suivre le rythme des laboratoires frontières tout en restant ouverte. Comme pour toute réclamation préalable à la sortie, le test significatif arrivera lorsque les modèles réduits de navires et les références indépendantes pourront vérifier où il en est réellement.
Pour l'instant, l'interview du Monde accentue une ligne de fracture dans l'industrie. Certains voient dans le comportement récent des agents une preuve que l’IA a besoin d’un contrôle plus strict et d’un accès restreint. L'autre, représenté par le principal laboratoire d'IA d'Europe, envisage des logiciels contrôlables dont les risques sont réels mais gérables, et dont les avantages ne devraient pas être enfermés derrière une poignée de portes closes.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
