Le PDG d'Anthropic, Dario Amodei, s'est opposé à l'idée selon laquelle il a dressé un tableau trop pessimiste de l'intelligence artificielle, affirmant dans une série de messages que la réaction croissante du public contre la technologie est « fondamentalement une crise de confiance » dans les institutions – et non le produit des avertissements des dirigeants d'IA.

L'échange, rapporté par TechCrunch dimanche, a commencé lorsque l'investisseur Gavin Baker a affirmé sur le podcast All-In et sur X que les avertissements d'Amodei sur les dangers de l'IA avaient contribué à alimenter une réaction violente aux États-Unis, en particulier contre les centres de données. Baker a affirmé qu'Amodei avait « perdu le débat » sur la réglementation de l'IA et, étant donné qu'« il est sur le point de devenir PDG de l'une des entreprises les plus importantes au monde », il a écrit : « Je pense respectueusement qu'il devrait faire un effort pour être un défenseur plus positif de sa propre industrie. » Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.

La réponse d'Amodei, publiée sur X, a attiré l'attention de l'ensemble de l'industrie de l'IA pour ce qu'elle révèle sur la façon dont l'un des leaders les plus éminents du domaine interprète l'humeur aigrie du public – et pour une autocritique inhabituellement brutale sur les promesses non tenues de l'industrie.

'Les gens ordinaires ne font pas confiance aux entreprises'

Amodei a reconnu dans ses messages que « le public a une vision négative de l'IA » et a reconnu que « c'est un gros problème ». Mais il a rejeté l’idée selon laquelle la négativité serait « principalement causée » par lui « ou par tout autre leader d’IA mettant en garde contre les risques d’IA ».

"Je pense qu'il s'agit fondamentalement d'une crise de confiance", a écrit Amodei. "Je pense que les gens ordinaires ne font pas confiance aux entreprises, aux gouvernements ou à l'industrie technologique et soupçonnent toujours que nous inventons une nouvelle façon de les bousiller."

Selon Amodei, il s’agit d’une crise qui se prépare depuis des décennies, avec le contrecoup de l’IA « n’en étant que la dernière itération ». Ce commentaire arrive à un moment de tension visible entre les sociétés d’IA et le public : les protestations contre la construction de centres de données se sont propagées à travers les États-Unis et l’opposition de la communauté a retardé à plusieurs reprises des constructions majeures cette année.

Contestation de l'accusation de "messages négatifs"

Sur l'accusation spécifique selon laquelle sa propre communication aurait été trop sombre, Amodei a été direct. "Je ne suis pas d'accord avec le fait que mes messages ont été disproportionnellement négatifs", a-t-il écrit, affirmant que ses écrits étaient "à peu près également équilibrés entre les risques et les avantages". Il a noté qu'il avait écrit son essai "Machines of Loving Grace" précisément parce qu'il "ne pensait pas que l'industrie de l'IA peignait une image suffisamment inspirante de la façon dont la technologie pourrait radicalement transformer le monde pour le meilleur".

Mais le passage le plus cité de la réponse d'Amodei visait sa propre industrie, y compris sa propre entreprise. "Je pense que la critique de loin la plus pertinente adressée aux sociétés d'IA, y compris Anthropic, est que nous n'avons pas encore tenu nos grandes promesses au profit du monde", a-t-il écrit. "C'est entièrement de notre faute, et je pense que c'est la critique que vous devriez faire, au lieu de toutes ces choses sur la messagerie et le marketing."

Promettre que l’IA guérira le cancer, a-t-il ajouté, est « plus un cliché qu’une source d’inspiration ». Ce qui changerait réellement l’opinion publique, a-t-il soutenu, c’est de « guérir le cancer ».

Le combat de la régulation

Amodei a également rejeté la conception de Baker sur la réglementation, l'accusant de décrire « un faux choix » entre distribuer largement l'IA sans règles ou concentrer la technologie entre les mains de quelques entreprises au moyen de règles.

"Je sais qu'il existe une sorte de raccourci dans la Silicon Valley où réglementation = capture réglementaire = concentration du pouvoir, mais j'ai toujours trouvé qu'il s'agissait d'une image trop simplifiée du monde", a écrit Amodei. "Beaucoup de personnes en dehors de cette bulle considèrent la réglementation comme quelque chose qui limite le pouvoir des entreprises et profite aux gens ordinaires."

Il a déclaré qu'Anthropic avait délibérément élaboré des propositions politiques pour éviter de consolider les acteurs historiques. "Nous nous efforçons de faire des propositions qui désavantagent (ralentissent) les entreprises pionnières de l'IA tout en avantageant les petits concurrents", a-t-il écrit. Anthropic a plaidé en faveur d'exigences de transparence pour les grandes entreprises d'IA, notamment un projet de loi californien imposant des obligations de divulgation.

Concernant les modèles à poids ouvert – un point chaud dans le débat politique actuel, la Maison Blanche ayant récemment décidé d'exempter les modèles à poids ouvert de certains examens fédéraux – Amodei a proposé une position nuancée. "L'IA est structurellement une technologie qui a tendance à concentrer le pouvoir", a-t-il soutenu. Les pondérations ouvertes "aident certains dans ce domaine, mais sont loin d'être une solution suffisante car elles déplacent simplement quelque peu la concentration vers ceux qui ont le plus de calcul et de puces". Les bonnes « règles de la route », a-t-il déclaré, peuvent simultanément répondre aux risques cybernétiques, biologiques et d’alignement, limiter le pouvoir des laboratoires frontières et laisser la place aux modèles à poids ouvert.

Pourquoi l'échange est important

Le débat arrive à un moment sensible pour Anthropic. La société surfe sur une vague de succès commercial, avec une croissance des revenus qui en a fait l’une des entreprises technologiques les plus surveillées, et on s’attend généralement à ce qu’elle envisage une introduction en bourse. Son PDG reste simultanément l’un des plus ardents défenseurs au sein de l’industrie de la prise au sérieux des risques liés à l’IA – une combinaison qui fait de son message un paratonnerre.

L’argument de Baker reflète un courant plus large dans le domaine du capital-risque et parmi les partisans de l’IA : le scepticisme du public à l’égard de l’IA est en grande partie un problème de communication créé par la propre prudence de l’industrie. La réponse d'Amodei inverse effectivement ce cadre : le problème n'est pas ce que disent les dirigeants de l'IA, mais ce que l'industrie n'a pas réussi à fournir et le peu de confiance du public dans les institutions qui construisent la technologie.

Pour une entreprise dont la marque repose sur le fait d’être un laboratoire d’IA responsable, la position est cohérente. Mais la concession d'Amodei – selon laquelle la critique la plus sévère et la plus précise est l'écart entre les promesses et les résultats de l'industrie – est un aveu particulièrement franc de la part d'un PDG dont l'entreprise a fait certaines des plus grandes promesses de toutes.

Les articles décrivent également la position qu'Anthropic est susceptible de défendre alors que les luttes politiques s'intensifient à Washington : des règles de transparence pour les laboratoires frontières, des protections qui avantagent les petits concurrents et aucune présomption générale selon laquelle les pondérations ouvertes résolvent le problème de concentration du pouvoir.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →