Les employés de la division d'intelligence artificielle de Google poussent les dirigeants à les libérer des accords de non-dénigrement, arguant qu'ils doivent être libres d'informer le public sur les risques de la technologie qu'ils travaillent à faire progresser, selon le rapport exclusif du Washington Post rédigé par Gerrit De Vynck, qui cite des personnes au sein de l'entreprise.

Le sous-titre du rapport va au cœur du grief : « Les contrats de travail dissuadent le personnel d'avertir le public des risques liés à l'IA, ont déclaré les travailleurs actuels. » La couverture médiatique ultérieure de l'histoire a décrit les clauses comme équivalant à une interdiction à vie de critiquer Google, avec des titres dans les agrégateurs et les médias internationaux qualifiant le différend de "Le personnel de DeepMind proteste contre l'interdiction à vie de critiquer Google" et, plus précisément, deux employés de DeepMind demandent à Google de lever ce qu'ils appellent un bâillon à vie. Pour plus de contexte sur cette histoire, consultez nos dernières actualités sur l'IA.

Ce que demandent les travailleurs

Selon le rapport, le personnel de Google DeepMind – la division Alphabet à l'origine d'une grande partie de la recherche sur l'IA de l'entreprise – souhaite que la direction les libère de leurs obligations contractuelles de non-dénigrement afin qu'ils puissent parler ouvertement des problèmes de sécurité liés aux systèmes qu'ils construisent, sans faire face à des représailles juridiques.

Comme le relayent les résumés du rapport, les accords en question obligent le personnel au silence non seulement sur les pratiques des entreprises, mais également sur les risques technologiques et les décisions internes qui façonnent la manière dont les systèmes d’IA arrivent dans le monde. L’argument des travailleurs est simple : les personnes les plus proches de la technologie, et donc les plus proches de ses modes de défaillance, sont contractuellement contraintes de dire au public ce qu’elles savent.

Selon la couverture de suivi, Google n'a pas répondu aux demandes spécifiques. Le rapport du Washington Post attribue le récit du conflit aux travailleurs actuels de l'entreprise plutôt qu'à une déclaration officielle de Google, et la réponse de l'entreprise, le cas échéant, reste la question ouverte la plus importante de l'histoire.

Pourquoi c'est important pour la sécurité de l'IA

Le conflit arrive à un moment sensible pour l’industrie de l’IA. Le débat sur ce que les laboratoires pionniers devraient divulguer – sur les capacités, les risques d’utilisation abusive et les tests internes – s’est intensifié à mesure que les modèles deviennent plus performants et plus conséquents sur le plan économique. Si les personnes qui effectuent le travail ne peuvent pas critiquer publiquement les pratiques de leur employeur, affirment les critiques, le public et les décideurs politiques perdent l'un des rares canaux d'alerte précoce dont ils disposent.

L’histoire du domaine offre un précédent marquant. Geoffrey Hinton, qui a passé plus d'une décennie chez Google et dont les recherches sur les réseaux neuronaux sous-tendent le boom de l'IA moderne, a quitté l'entreprise en 2023 explicitement pour pouvoir parler librement des risques liés à l'IA. Cette semaine, il est allé plus loin, déclarant au Guardian qu'il pourrait s'avérer que l'humanité aurait intérêt à ne jamais développer d'IA, et a mis en garde contre l'arrivée d'un "Tchernobyl" d'IA - comme une attaque activée par l'IA provoquant une panne de courant massive ou une panne du système financier d'une semaine - arrivant cette année ou l'année prochaine.

Hinton a pu s'exprimer parce qu'il est parti. Les travailleurs de DeepMind, en revanche, tentent de modifier les termes pour ne pas avoir à faire le même choix entre une carrière et une voix.

Le commerce de la transparence contre le secret

Le différend reflète une tension structurelle dans l’industrie de l’IA. Les entreprises affirment que les conditions d’emploi restrictives protègent les secrets commerciaux, empêchent les allégations trompeuses et empêchent les désaccords internes de se révéler au public en cours de développement. Les employés et les défenseurs de la sécurité rétorquent que les mêmes termes peuvent dissimuler de véritables dangers – et qu’une entreprise confiante dans ses pratiques de sécurité n’a pas grand-chose à craindre des critiques internes informées.

Le rapport du Washington Post présente la question comme une question d’incitations : les contrats de travail, selon les termes des travailleurs actuels cités par le journal, dissuadent le personnel d’avertir le public des risques liés à l’IA. Ce cadre rend le conflit plus vaste que la politique RH d’une entreprise. Il s'agit de tester si la principale source d'information du public sur les risques liés à l'IA sera le propre marketing des laboratoires ou les personnes à l'intérieur de ces laboratoires ayant une connaissance directe.

Ce que dit la communauté des développeurs

La discussion sur le rapport a rapidement fait la une de Hacker News, où les commentateurs se sont divisés sur l'éthique de la situation. Le point de vue le plus voté soutient que les travailleurs contraints devraient simplement marcher : « Ils devraient démissionner et avertir. Tout le reste est hypocrite ». D’autres ont reculé, soulignant que les salariés ne sont pas obligés de martyriser leur carrière et que la réforme des contrats collectifs est une voie plus réaliste que la sortie individuelle.

Ce débat – démissionner, rester et pousser, ou garder le silence – est précisément le piège auquel les travailleurs disent tenter d’échapper.

Que regarder

Trois choses détermineront où cela mènera. Premièrement, si Google reconnaît la demande et, plus important encore, s'il y donne suite, la réponse de l'entreprise aux demandes spécifiques est jusqu'à présent absente du dossier. Deuxièmement, si les travailleurs intensifient leur action, par exemple en s'organisant publiquement ou en se tournant vers les régulateurs, si la réponse est non. Et troisièmement, si d’autres laboratoires pionniers sont confrontés à une pression similaire ; Si les termes de non-dénigrement sont courants dans l’industrie, le conflit DeepMind pourrait devenir un modèle pour l’organisation du travail axée sur la transparence de l’IA.

Pour l’instant, la demande elle-même fait l’actualité : un groupe de chercheurs directement et quotidiennement exposés aux systèmes d’IA de pointe estiment que l’intérêt public a besoin de leur voix et a officiellement demandé à être autorisé à les utiliser. La manière dont Google répondra en dira long sur le degré de dissidence que la course à l’IA est prête à tolérer.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →