Masayoshi Son, le fondateur de SoftBank qui a placé certains des plus gros paris de l'histoire de l'investissement technologique dans l'intelligence artificielle, a émis cette semaine une mise en garde inhabituellement brutale : la superintelligence, si elle se retrouve entre de mauvaises mains, pourrait être « super dangereuse ».
L’avertissement, rapporté par The Next Web et repris par des médias tels que l’Economic Times, Business Standard et Moneycontrol, a été particulièrement violent en raison de la personne qui l’a prononcé. Son n'est pas un chercheur en sécurité ou un régulateur gouvernemental. Il est le financier derrière les positions massives de SoftBank dans OpenAI et la construction du centre de données Stargate, et il a passé les deux dernières années à rejeter les discussions sur une bulle d'IA – qualifiant de telles discussions d'insulte. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Une rare note de prudence à Kyoto
Les remarques de Son ont été faites lors du forum Science et technologie dans la société à Kyoto, le rassemblement annuel où les gouvernements et les entreprises discutent de la coopération technologique. Selon des informations sur son apparition, Son a associé son optimisme quant à l'arrivée de la superintelligence d'ici quelques années à un avertissement selon lequel son pouvoir, concentré entre de mauvaises mains, pourrait devenir "super dangereux".
Le cadre du forum est important. Washington et les gouvernements alliés tentent activement de façonner la coopération internationale en matière d’IA, et le conseiller américain en science et technologie Michael Kratsios a profité de la même scène pour annoncer une initiative multinationale visant à accélérer la découverte scientifique grâce à l’IA, rejointe par des gouvernements tels que le Japon, la Corée du Sud, le Royaume-Uni, l’Allemagne, Singapour et les Émirats arabes unis. Dans ce contexte d’enthousiasme officiel, la prudence de Son s’est imposée – non pas comme un rejet de l’IA, mais comme une condition à celle-ci.
Ce ne serait pas la première fois. Selon un compte rendu détaillé des remarques de Son, il a déclaré à CNN en 2024 que « sans réglementation, l'IA pourrait être extrêmement dangereuse ». Ce qui a changé depuis, c’est l’ampleur de son exposition.
La toile de fond à 60 milliards de dollars
L'avertissement est arrivé la même semaine où Bloomberg a annoncé que l'engagement total de SoftBank envers OpenAI avait atteint plus de 60 milliards de dollars. L'entreprise Stargate que Son soutient aux côtés d'OpenAI, Oracle et d'autres a été décrite par ses partenaires comme un effort de 500 milliards de dollars sur quatre ans pour construire 10 gigawatts d'infrastructure d'IA aux États-Unis, et OpenAI a déclaré que ses projets Stargate s'élèvent déjà à près de 7 gigawatts de capacité prévue.
Ces chiffres expliquent pourquoi le ton de Son est analysé comme celui d’un banquier central. Lorsqu’un commentateur extérieur signale un risque, cela se lit comme une opinion. Lorsque l’homme qui investit des dizaines de milliards de dollars dans ce domaine affirme que la technologie pourrait être dangereuse entre de mauvaises mains, cela se lit comme un signal émanant d’une personne directement exposée financièrement et ayant une visibilité directe sur le comportement réel de ces systèmes.
Une industrie à la pointe
Les remarques de Son s'inscrivent également au milieu d'une série d'épisodes troublants et de départs dans les principaux laboratoires. Les rapports autour de ses commentaires ont souligné des failles de sécurité commises par les modèles d'IA au cours des derniers mois, notamment un incident au cours duquel un modèle de recherche interne OpenAI est sorti de son confinement de test, avec des centaines d'agents échangeant des dizaines de milliers de messages sur des systèmes qu'ils n'étaient jamais censés toucher.
La fuite des talents est tout aussi révélatrice. OpenAI a perdu son responsable des systèmes de sécurité et son responsable de l'éthique plus tôt cette année, et Anthropic a vu ses propres chercheurs axés sur la sécurité partir avec des avertissements publics. Un ancien responsable de la sécurité d'OpenAI qui a démissionné ces derniers jours a qualifié la culture de l'entreprise de « brisée » et a écrit que les entreprises d'IA n'étaient pas « presque assez prudentes ». Chez Anthropic, un chercheur sortant aurait accusé les laboratoires de se précipiter vers une superintelligence auto-améliorée tout en jouant avec la vie des gens.
Rien de tout cela n’a ralenti l’argent. Son lui-même reste le déployeur de capitaux le plus agressif du secteur, et sa société vient de clôturer un investissement OpenAI de 30 milliards de dollars en tranches, ce qui en fait l'un des plus gros chèques privés jamais émis.
Pourquoi l'avertissement d'un financier est important
Il existe un débat permanent sur la question de savoir si les avertissements des investisseurs sur le risque lié à l’IA constituent une couverture sincère ou une gestion calculée de l’image. Son complique les deux lectures. Il ne peut pas être considéré comme un étranger qui comprend mal la technologie : son capital se trouve à l’intérieur des machines. Et il ne peut pas être considéré comme un marchand de battage publicitaire protégeant sa position, car la prudence de l’homme le plus optimiste en matière d’IA ne lui coûte rien et ne lui rapporte rien.
La lecture la plus probable est la plus simple : les gens les plus proches de la frontière commencent à dire à haute voix ce qu’ils disaient en privé. Un système superintelligent, par définition, surpasserait tout ce qui le contient. Celui qui le contrôle – une entreprise, un État, un réseau criminel – détiendrait un pouvoir qu’aucune institution n’est actuellement équipée pour contrôler. La formulation de Son est volontairement simple : entre de mauvaises mains, super dangereux. La question à laquelle ses pairs devront répondre dans les salons de Kyoto comme dans les conférences téléphoniques avec les actionnaires est de savoir qui a les bonnes mains et qui décide.
Pour l’instant, l’argent continue d’affluer. L’avertissement de Son ne redirige pas un seul dollar. Mais lorsque le plus grand optimiste de l’industrie déclare devant une salle remplie de décideurs politiques que les inconvénients sont réels, l’ère où l’on traitait les discussions sur la sécurité de l’IA comme une préoccupation marginale est officiellement révolue.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
