Google DeepMind a lancé un nouvel institut dédié à l'élargissement du débat sur l'intelligence artificielle générale – et ses essais inauguraux incluent une proposition concrète de Demis Hassabis pour un organisme dirigé par les États-Unis qui évaluerait les modèles d'IA de pointe avant leur déploiement.
Le DeepMind Institute, lancé mercredi par Google et les chercheurs de Google DeepMind, répertorie le co-fondateur de DeepMind, Shane Legg, comme rédacteur en chef, aux côtés du directeur de Google, James Manyika, et du président de Google DeepMind, Demis Hassabis, comme directeurs, selon TechCrunch. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Possibilité de ne pas être d'accord
L'objectif déclaré de l'institut est de faire apparaître de véritables désaccords, y compris au sein même de Google. "Ils ne seront pas toujours d'accord, et ils changeront probablement d'avis, à mesure que davantage de données et d'informations seront révélées à la frontière en évolution rapide", indique le communiqué.
Sa première collection comprend quatre essais couvrant les politiques économiques visant à gérer les perturbations potentielles de l'AGI, à préserver un raisonnement de modèle lisible par l'homme, les principes de l'épanouissement humain et un cadre d'évaluation des modèles d'IA de pointe.
Institutionnaliser un désaccord ouvert est une démarche inhabituelle pour un laboratoire d’IA d’entreprise, où les messages publics ont tendance à être étroitement contrôlés. De par sa conception, l'institut offre aux chercheurs de Google un lieu pour défendre des positions susceptibles d'entrer en conflit avec les intérêts commerciaux de l'entreprise – ou entre eux.
L'essai de transparence : regardez la « profondeur de série opaque »
L'un des quatre essais, rédigé par Rohin Shah et Anca Dragan, chercheurs en sécurité chez DeepMind, affirme que la fenêtre de transparence rétrécissante de l'IA – la capacité de voir et de vérifier le raisonnement étape par étape d'un modèle – n'est pas inévitable, même si les nouvelles architectures rendent les modèles les plus puissants plus difficiles à surveiller.
Les auteurs affirment que les développeurs et les régulateurs devraient directement faire face aux compromis en matière de sécurité. Concrètement, cela pourrait impliquer de limiter ce qu'ils appellent la « profondeur série opaque » – la quantité de calculs séquentiels qu'un modèle peut effectuer sans produire de trace de raisonnement lisible – ou d'exiger des développeurs qu'ils démontrent que les systèmes moins transparents restent tout aussi contrôlables que les systèmes interprétables.
La proposition est remarquable car elle traite la perte d’interprétabilité comme un choix de conception et de politique plutôt que comme une conséquence inévitable de l’échelle, ouvrant la porte à des exigences qui pourraient être inscrites dans la réglementation.
Proposition de Hassabis : un organisme américain de normalisation des frontières
L’essai le plus important est peut-être celui de Hassabis. Il propose la création d’un organisme de normalisation de l’IA frontalière dirigé par les États-Unis, chargé d’évaluer les modèles d’IA les plus avancés. Dans le cadre de ce cadre, les développeurs soumettraient initialement volontairement les modèles pour examen jusqu'à 30 jours avant leur publication. Une fois que le système d’évaluation aura prouvé son efficacité, la réussite de ses tests pourrait devenir une condition nécessaire au déploiement des modèles frontières aux États-Unis.
L'organisme commencerait par concevoir des évaluations en consultation avec les sociétés d'IA, mais développerait finalement des évaluations indépendantes et non divulguées – ce que l'essai appelle des tests « tenus à l'écart » – pour empêcher les laboratoires d'adapter leurs modèles à des références connues, un mode d'échec bien documenté des régimes d'évaluation publics.
Hassabis a également laissé la porte ouverte à une escalade : le cadre pourrait être « renforcé si la gravité de la situation l'exige », y compris potentiellement un ralentissement coordonné parmi les développeurs d'IA de pointe.
Pourquoi les deux autres essais sont importants
Les deux essais restants – sur les politiques économiques pour gérer les perturbations de l’AGI et sur les principes de l’épanouissement humain – complètent une collection qui traite l’AGI comme un problème à l’échelle de la société plutôt que comme un problème purement technique. Le déplacement économique a longtemps été la préoccupation publique la plus tangible concernant l’IA avancée, et le cadrer avec la politique d’évaluation et l’interprétabilité suggère que l’institut souhaite que les décideurs politiques voient les éléments comme un seul programme plutôt que comme des débats séparés.
Cette ampleur est également un signal sur le positionnement de Google. L’entreprise est en concurrence pour obtenir des clients professionnels et des contrats gouvernementaux tout en faisant valoir que les systèmes frontaliers nécessitent un examen externe. Publier la tension, plutôt que l'apaiser, est la prémisse fondamentale de l'institut.
De l'inquiétude aux propositions concrètes
Les essais arrivent alors que le débat sur la sécurité dans l'industrie s'éloigne des grandes déclarations d'inquiétude vers des mécanismes spécifiques : exigences de divulgation, contrôle externe et, si les mesures de protection ne sont pas à la hauteur, ralentissements coordonnés. Ce changement s'est accéléré cette semaine alors que les dirigeants de l'industrie ont approuvé des éléments de l'appel du PDG d'Anthropic, Dario Amodei, à « accélérer » le développement de l'IA de pointe, selon TechCrunch.
Le timing compte. Les gouvernements des deux côtés de l’Atlantique réfléchissent à la manière de superviser les systèmes dont les capacités progressent plus rapidement que les infrastructures d’évaluation. Une proposition émanant d’un laboratoire d’IA de premier plan – et qui comprend un examen préalable avec rigueur – donne aux décideurs politiques un modèle que l’industrie elle-même a nominalement approuvé, ce qui a historiquement été une condition préalable à une réglementation significative de l’IA.
Que regarder
L'indépendance éditoriale de l'institut par rapport à Google sera le premier test. Si les essais continuent d'inclure des positions qui vont à l'encontre de la feuille de route commerciale de Google – comme le fait sans doute l'essai sur la transparence – le lieu pourrait devenir un contributeur sérieux au débat politique sur l'AGI. S’il dérive vers la messagerie d’entreprise, il s’agira d’un canal de relations publiques de plus dans un domaine encombré.
Quoi qu’il en soit, le fond est désormais sur la table : des exigences d’évaluation préalable à la sortie, des tests retardés et même un ralentissement coordonné sont défendus publiquement par l’une des personnalités les plus influentes de l’IA. La question n’est plus de savoir si les modèles frontières doivent être évalués de manière indépendante, mais plutôt qui effectue l’évaluation – et selon quel calendrier.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
