Le roi Charles III a lancé jeudi un sévère avertissement sur les "dangers existentiels" de l'intelligence artificielle, s'adressant aux dirigeants de Nvidia, Google DeepMind et OpenAI réunis dans son domaine de Dumfries House en Écosse pour un sommet de haut niveau sur l'avenir de la technologie.

Le monarque a déclaré aux dirigeants de l'industrie réunis qu'il était urgent de faire face aux risques posés par des systèmes d'IA de plus en plus puissants, en particulier si la technologie finissait par être contrôlée par des acteurs malveillants. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.

"Il semble urgent de considérer de manière adéquate les dangers existentiels que de telles technologies tombent entre de mauvaises mains et soient utilisées de manière potentiellement catastrophique", a déclaré le roi aux dirigeants réunis au domaine d'Ayrshire, selon des informations d'ABC News et de plusieurs autres médias.

Un double message : promesse et péril

Le discours du roi n’était pas un rejet catégorique de la technologie. Il a reconnu que l’intelligence artificielle recèle un énorme potentiel positif, en particulier dans les sciences de la vie et la médecine, où les outils d’IA sont de plus en plus utilisés pour accélérer la recherche et améliorer les résultats pour les patients.

Mais il a associé cet optimisme à une mise en garde contre le fait que les créateurs de la technologie eux-mêmes ont de plus en plus averti que les systèmes avancés pourraient développer des capacités plus sombres, « peut-être même jusqu'à prendre la vie », a-t-il déclaré, selon le récit de ses remarques fourni par la chaîne de télévision.

Le roi a également appelé à la mise en place de mesures de protection avant qu'il ne soit trop tard pour contrôler la trajectoire de la technologie, et a évoqué l'impact environnemental du développement de l'IA, un sujet qui fait l'objet d'une attention croissante alors que la construction de centres de données met à rude épreuve les réseaux électriques de plusieurs pays.

Qui a assisté au sommet écossais

La liste des invités se présente comme un échantillon représentatif des personnalités les plus puissantes de l’industrie de l’IA. Parmi les participants figuraient le fondateur et directeur général de Nvidia, Jensen Huang, le fondateur de Google DeepMind, Demis Hassabis, et la directrice financière d'OpenAI, Sarah Friar, selon ABC News. La ministre britannique de l'Intelligence artificielle, Kanishka Narayan, était également présente.

Huang a été invité à rencontrer le roi pour discuter des mécanismes de sécurité de l'industrie, selon des images et des légendes distribuées par Reuters. Le père Paolo Benanti, un conseiller papal qui a appelé les gouvernements à ralentir le développement de l'IA, était également attendu aux discussions.

Le choix du lieu et de l’organisateur est important. La monarchie britannique n'a aucun pouvoir de régulation, mais le roi s'engage publiquement depuis longtemps sur les risques technologiques émergents, et le sommet a donné aux plus hautes personnalités de l'industrie une table commune à un moment où les appels à une surveillance s'intensifient des deux côtés de l'Atlantique.

Un débat revigoré

Ce rassemblement intervient dans un contexte de reprise du débat public sur les risques liés à l’IA. La discussion a été remise sur le devant de la scène après que deux chercheurs d'Anthropic ont averti que les progrès technologiques rapides pourraient conduire à l'extinction de l'humanité dans un avenir pas trop lointain, des commentaires qui ont suscité une large couverture médiatique et des critiques dans une égale mesure.

Le directeur général d'Anthropic, Dario Amodei, a également appelé les entreprises à ralentir le rythme du développement de l'IA. Le pape Léon XIV a exhorté les gouvernements du monde entier à ralentir le développement des systèmes d’IA et à atténuer leurs effets perturbateurs, tandis que le président américain Donald Trump est également intervenu dans le débat, faisant de la question de la gouvernance de l’IA une question politique véritablement mondiale plutôt que purement technique.

Dans ce contexte, on craint de plus en plus que les efforts en matière de sécurité de l’IA soient à la traîne par rapport au développement de systèmes de plus en plus performants. Ces dernières semaines, le débat s'est concentré sur la question de savoir si le secteur peut et doit s'autoréguler, les sceptiques se demandant si les dirigeants qui appellent à la prudence n'ont pas d'arrière-pensées, comme élaborer des règles qui préservent l'avance concurrentielle de certaines entreprises.

Aucune règle contraignante attendue

Les organisateurs n’ont jamais présenté la réunion écossaise comme une négociation. Selon ABC News, la réunion ne devrait pas déboucher sur un accord contraignant. Son objectif, du moins en théorie, est exploratoire : déterminer si un ensemble de principes partagés peut guider la manière dont l’IA est appliquée au-delà des frontières et des secteurs.

Le palais de Buckingham a déclaré que les discussions porteraient sur la question de savoir si l'IA pouvait être orientée "non seulement comme un moteur de capacité et d'efficacité, mais comme un outil qui défend la dignité humaine et contribue à l'épanouissement des peuples et de la planète".

Ce cadre reflète un thème sur lequel le roi est revenu à plusieurs reprises : la question n’est pas seulement de savoir si l’IA peut être sécurisée, mais aussi à quoi elle devrait servir. Les remarques de jeudi ont accentué ce point en un avertissement concernant la propriété et le contrôle, un accent sensiblement différent des craintes axées sur les capacités qui dominent la plupart des discussions sur les risques liés à l'IA.

Que se passe-t-il ensuite

Il est peu probable que le sommet aboutisse à lui seul à une politique, mais il donne un élan à une série d’efforts officiels déjà en cours. Le Royaume-Uni s’est positionné comme un acteur incontournable en matière de sécurité de l’IA depuis ses précédents sommets sur l’IA, et la présence d’un ministre dédié à l’intelligence artificielle indique que le gouvernement a l’intention de rester engagé avec les développeurs d’IA américains et chinois.

Pour les entreprises présentes dans la salle, le calcul est délicat. Nvidia, DeepMind et OpenAI sont tous confrontés à des pressions commerciales pour proposer des systèmes de plus en plus performants, alors même que leurs propres chercheurs publient des avertissements sur ce que ces systèmes pourraient éventuellement faire. Une convocation royale ne résout pas cette tension, mais elle garantit que la tension reste visible.

Le message principal du roi, selon lequel des mesures de protection doivent être prises avant que la technologie n'échappe à la capacité de quiconque de la gouverner, arrive dans une semaine où le discours sur la sécurité de l'industrie a été inhabituellement bruyant, depuis la divulgation par OpenAI de plusieurs incidents de sécurité impliquant ses propres modèles jusqu'à un différend public croissant entre les dirigeants de l'IA de Microsoft et Anthropic sur la façon dont les systèmes d'IA devraient être conçus.

Reste à savoir si la réunion de jeudi se traduira par quelque chose de plus concret. Mais alors que les dirigeants du fabricant de puces le plus précieux au monde et des laboratoires d’IA les plus importants sont assis dans une maison de campagne écossaise, s’accordant au minimum sur le fait que les enjeux sont existentiels, la conversation sur qui contrôle l’IA et pour qui, s’est ouverte de manière décisive.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →