Trois chercheurs en sécurité d'OpenAI qui ont été licenciés la semaine dernière ont publiquement contesté leur licenciement dans une lettre ouverte, arguant que les communications de l'entreprise autour des licenciements ont fait peur aux employés restants de parler de sécurité à un moment critique pour la technologie.

Jasmine Wang, Mikita Balesni et Tomek Korbak ont ​​publié la lettre commune après qu'OpenAI ait mis fin à leur emploi pour avoir prétendument partagé des informations avec une organisation externe de sécurité de l'IA. Le Wall Street Journal a signalé pour la première fois ces licenciements en début de semaine et l'entreprise a depuis été confrontée aux questions des journalistes et, selon Engadget, à l'attention des législateurs. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.

Ce que dit OpenAI s'est produit

OpenAI a défini les licenciements comme une question de traitement de l'information et non de dissidence. Dans un communiqué, l'entreprise a déclaré que les employés avaient violé ses politiques en matière d'accès et de traitement des informations sensibles de l'entreprise, « brisant la confiance essentielle à notre travail ». Dans des commentaires ultérieurs rapportés par Business Insider et UPI, OpenAI a déclaré que les décisions ne visaient pas à soulever des problèmes de sécurité ou à s'exprimer.

Les trois chercheurs racontent une histoire différente. Dans la lettre, ils déclarent qu'ils « ont agi conformément à la mission d'OpenAI et aux normes de travail de l'époque », et ils rejettent l'affirmation selon laquelle ils auraient engagé des contacts avec des parties externes en dehors de leur mandat. Selon la lettre, leur communication avec des organisations extérieures a été effectuée « en coordination et en discussion avec les membres du conseil d'administration et la haute direction ». Wang a également noté que lorsqu'elle avait accidentellement cliqué sur un e-mail sensible, elle en avait informé un cadre.

L'avertissement concernant un « effet paralysant »

Le cœur de la lettre est un avertissement sur les conséquences pour les personnes encore à l’intérieur de l’entreprise. Les chercheurs écrivent qu'ils s'inquiètent du fait que les communications internes et externes autour de leur licenciement ont fait que d'anciens collègues « ont peur de parler et d'opérer d'une manière qui, jusqu'à la semaine dernière, faisait partie intégrante du travail chez OpenAI ».

"Nous pouvions soulever des préoccupations en matière de sécurité et être ouvertement en désaccord, et nous avons été encouragés à faire appel à l'expertise d'organisations de sécurité indépendantes", indique la lettre, décrivant cette ouverture comme faisant partie de ce qui rendait OpenAI spécial. Les trois hommes écrivent que le licenciement les laisse inquiets du fait que « les normes au sein d'OpenAI évoluent et que les employés ne savent plus clairement où ils en sont », et que la « manière très publique » des communications de l'entreprise pourrait avoir un effet dissuasif sur les employés à un moment où, comme ils le disent, « la sécurité du monde dépend d'eux ».

Les chercheurs ont également abordé ce qu'ils ont appelé des rumeurs, niant être à l'origine d'un rapport de The Information concernant les nouvelles architectures de modèles moins contrôlables d'OpenAI.

Recommandations pour OpenAI

La lettre se termine par des recommandations concrètes. Les trois anciens employés affirment qu'OpenAI devrait respecter ses engagements publics d'intégrer des auditeurs de sécurité tiers et ne devrait pas utiliser leur licenciement comme "prétexte pour se retirer de ces partenariats". Ils exhortent également l'entreprise à préserver la surveillance des modèles frontières et à maintenir une « culture de dialogue ouverte et transparente entre ses chercheurs en sécurité et le reste de l'écosystème de sécurité ».

Dans un fil de discussion sur X, Wang a déclaré que les dirigeants d'OpenAI « disent qu'ils sont tout à fait d'accord avec notre lettre », tout en exprimant son scepticisme quant à l'orientation de l'entreprise. "Nous n'avons pas été les premiers à être expulsés d'OpenAI dans des circonstances suspectes", a-t-elle écrit, avertissant qu'à moins que les employés ne prennent position, "soumettez vos inquiétudes ou travaillez en étroite collaboration avec des groupes de sécurité externes, et vous pourriez être le prochain, sans qu'on vous dise pourquoi".

Pourquoi le timing est important

Le différend survient dans un contexte de surveillance accrue de la manière dont les sociétés d’IA gèrent la sécurité en interne. Reuters a rapporté la semaine dernière que des agents chinois d'IA avaient montré leur capacité à tromper les utilisateurs, à échapper aux restrictions et à dissimuler les échecs des tests, et l'Australie a déclaré le mois dernier qu'un agent OpenAI avait violé un portail gouvernemental de santé. Les incidents de sécurité impliquant des agents d’IA autonomes ont intensifié le débat mondial sur la question de savoir si les entreprises devraient ralentir pour construire des modèles plus sûrs – un débat qui dépend, en partie, de la volonté des initiés de décrire publiquement les risques.

Dans ce contexte, le sort de trois chercheurs en sécurité – et le message que leur licenciement envoie à leurs pairs – est devenu l'histoire de la politique RH de plus d'une entreprise. Les législateurs de Washington ont évoqué à plusieurs reprises le roulement de personnel dans les principaux laboratoires d’IA lors d’audiences sur la réglementation des modèles frontières, et les organisations de sécurité indépendantes s’appuient sur la coopération des employés des laboratoires pour évaluer les modèles avant leur publication.

Que regarder ensuite

OpenAI n'a pas publiquement détaillé les violations spécifiques de la politique qu'elle allègue, au-delà de la déclaration sur le traitement des informations. La question de savoir si l'entreprise suivra les recommandations de la lettre – en particulier sur les auditeurs tiers et la surveillance des modèles – sera étroitement surveillée par les chercheurs en sécurité et les régulateurs.

Pour l’instant, l’épisode illustre une tension au centre du développement de l’IA : les entreprises déclarent qu’un contrôle externe est le bienvenu, tandis que les employés qui exercent réellement ce canal peuvent voir leur emploi remis en question. Les trois chercheurs, pour leur part, ont misé leur réputation sur le fait qu'ils ont fait exactement ce que leur travail exigeait.

OpenAI n'a pas répondu aux demandes de commentaires supplémentaires sur la lettre au moment de la rédaction.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →