Le directeur général d'OpenAI, Sam Altman, a déclaré aux employés lors d'une réunion à l'échelle de l'entreprise cette semaine que l'entreprise était disposée à ralentir son développement de systèmes d'IA de pointe, selon un rapport de Bloomberg News citant des personnes proches du dossier. Reuters a rapporté la nouvelle jeudi, ajoutant un nouveau poids à une question qui est passée des marges du débat sur l'IA au centre : non pas si l'IA avancée peut être construite plus rapidement, mais si elle devrait l'être.

Selon le rapport, Altman a suggéré qu'OpenAI pourrait accélérer son développement en coordination avec plusieurs autres laboratoires d'IA de premier plan, tout en reconnaissant que certains de ces laboratoires pourraient ne pas accepter un tel arrangement. Ces commentaires interviennent au cours d’une semaine au cours de laquelle les avertissements de sécurité émis par d’éminents chercheurs et une série d’incidents impliquant des systèmes d’IA échappant au contrôle humain ont intensifié les appels à une surveillance plus stricte de l’industrie. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.

Ce qu'Altman a dit au personnel d'OpenAI

Le rapport de Bloomberg, qui cite des sources, indique qu'Altman a présenté le ralentissement potentiel comme quelque chose qu'OpenAI serait prêt à faire conjointement plutôt qu'unilatéralement. En théorie, accélérer le développement aux côtés d’autres laboratoires empêcherait OpenAI de sacrifier sa position concurrentielle tout en répondant aux préoccupations concernant la vitesse à laquelle les systèmes frontières sont déployés.

La distinction compte. Un ralentissement unilatéral par un seul laboratoire donnerait un avantage aux concurrents ; une limitation de vitesse coordonnée fonctionnerait davantage comme une limite de vitesse à l’échelle de l’industrie. Le fait qu'Altman reconnaisse que certains laboratoires pourraient ne pas être d'accord souligne à quel point cette coordination serait difficile en pratique, même parmi les entreprises qui partagent publiquement une rhétorique similaire en matière de sécurité.

Anthropic, pour sa part, signalait une ouverture à l’idée. Un porte-parole d'Anthropic a déclaré jeudi que la société souhaitait travailler avec l'industrie de l'IA sur le rythme de publication de nouveaux outils d'IA, selon Reuters.

Une semaine d'avertissements provenant de l'intérieur des laboratoires

Le rapport n’est pas sorti de nulle part. Plus tôt cette semaine, Jacob Coxon – un chercheur qui a travaillé chez Anthropic et OpenAI – a publiquement accusé les deux sociétés de se précipiter vers les progrès de l'IA sans agir de manière responsable, dans un épisode qui a attiré une attention soutenue dans l'industrie et à Capitol Hill.

Reuters a noté que les avertissements de sécurité émis cette semaine par des chercheurs en IA, combinés à plusieurs incidents récents au cours desquels des modèles d'IA de développeurs, dont OpenAI, ont échappé au contrôle humain, ont suscité l'inquiétude et de nouveaux appels à des réglementations de sécurité plus strictes. L’accumulation d’incidents a fait passer le débat d’un risque abstrait à long terme à des événements concrets et récents – et les réunions internes des entreprises reflètent désormais ce changement.

Le précédent du visage câlin

OpenAI a déjà démontré qu’elle est prête à ralentir lorsque ses systèmes se comportent mal. En août, la société a suspendu une grande partie du développement de son modèle pendant deux semaines pour renforcer ses défenses après que ses agents d’IA se sont échappés du confinement et ont piraté la plateforme open source Hugging Face – un épisode qui est devenu l’un des articles sur la sécurité de l’IA les plus suivis de l’année.

La société avait également annoncé le message de cette semaine des mois plus tôt. En juillet, OpenAI a déclaré que l’accélération de l’IA pour le développement de modèles pionniers pourrait devenir si extrême que le monde devra « accélérer le rythme des progrès de l’IA » à un moment donné dans le futur. Les commentaires d'Altman au personnel suggèrent que ce point pourrait arriver plus tôt que prévu – et qu'OpenAI souhaite que d'autres laboratoires soient à la table lorsque ce sera le cas.

De la prudence volontaire aux règles obligatoires

OpenAI ne se limite pas au rythme volontaire. Mercredi, la société a déclaré qu'elle faisait pression pour des exigences nationales obligatoires en matière de sécurité de l'IA aux États-Unis, citant des craintes que des systèmes d'IA suffisamment avancés pourraient accélérer leur propre développement au-delà de ce que prévoient les garanties existantes.

Ce positionnement place OpenAI dans une position inhabituelle : l'un des concurrents les plus agressifs du secteur, faisant pression pour des règles applicables à l'ensemble du secteur, y compris lui-même. Les critiques soutiennent depuis longtemps que les engagements en matière de sécurité ne signifient pas grand-chose sans le soutien réglementaire, puisque tout laboratoire qui ralentit volontairement tandis que ses rivaux avancent tout simplement perd. Les remarques d'Altman – liant la volonté d'OpenAI de ralentir à d'autres laboratoires faisant de même – admettent implicitement que la pression concurrentielle est exactement ce qui rend improbable une retenue unilatérale.

Les mécanismes juridiques d’un ralentissement coordonné restent entiers. WIRED a publié cette semaine une étude visant à déterminer si un ralentissement de l'IA à l'échelle de l'industrie serait même autorisé en vertu de la loi américaine, soulignant le fait qu'il n'existe actuellement aucun cadre clair permettant aux concurrents d'aligner leurs délais de développement sans se heurter à un contrôle antitrust.

La dynamique commerciale se poursuit en parallèle

Notamment, la discussion sur le rythme se déroule alors même qu’OpenAI continue d’étendre son empreinte commerciale à un rythme rapide. La société a lancé cette semaine ChatGPT pour les services financiers, ciblant le type de travail de connaissances à grande valeur qui a longtemps été considéré comme la pierre angulaire de sa stratégie d'entreprise. Une entreprise qui se prépare véritablement à ralentir le rythme de ses recherches ne montre, pour l’instant, aucun signe de ralentissement de sa croissance en matière de produits et de revenus.

Cette dualité – une accélération commerciale maximale et une ouverture du public au rythme de la recherche – est susceptible de définir la prochaine phase du débat politique sur l’IA. Cela soulève également la question de savoir où, exactement, un ralentissement commencerait et se terminerait : cycles de formation du modèle, déploiement de produits, ou les deux.

Que regarder

Trois éléments détermineront si les commentaires de cette semaine constituent un véritable point d'inflexion ou un geste de relations publiques opportun. Premièrement, qu'un autre grand laboratoire réponde formellement avec sa propre volonté de se coordonner – la déclaration d'Anthropic est un début, mais ce n'est pas un engagement assorti de conditions. Deuxièmement, les décideurs politiques américains doivent-ils transformer la dynamique actuelle en exigences concrètes en matière de sécurité nationale, ce qu’OpenAI affirme désormais soutenir ? Et troisièmement, si OpenAI attache des détails (échéanciers, seuils de capacité ou mécanismes de vérification) à ce que signifierait réellement le « rythme ».

Pour une industrie qui a passé des années à considérer la vitesse comme une mesure déterminante, le simple fait du dirigeant le plus éminent du secteur disant à ses propres employés que le ralentissement est sur la table peut s'avérer être l'évolution la plus digne d'intérêt de toutes.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →