Un seul pirate informatique s'est introduit dans plus de 100 sites Web en utilisant une armée d'agents IA qui ont mené les attaques avec peu d'implication de l'opérateur humain, selon les conclusions de la société de sécurité IA Norforge rapportées lundi par Reuters et The Verge. Parmi les victimes figuraient des sociétés de renom telles que John Deere, SharkNinja et Cummins, soulignant la rapidité avec laquelle les agents d’IA autonomes sont passés des démonstrations de recherche à des outils criminels pratiques.

Comment les attaques ont été découvertes Pour plus de contexte sur cette histoire, consultez notre couverture continue de l'industrie de l'IA.

Norforge a découvert la campagne grâce à des travaux exposés sur Cairn, une plate-forme d'IA open source qui se décrit comme un « moteur de résolution de problèmes à usage général ». Avec Cairn, les utilisateurs définissent un point de départ et un point d'arrivée pour les agents IA, qui documentent ensuite leurs progrès à mesure qu'ils progressent vers l'objectif. La flexibilité de la plateforme est l'essentiel : la même couche d'orchestration qui permet aux agents de planifier et d'exécuter des tâches légitimes complexes peut également être dirigée vers des tâches non autorisées.

Norforge a trouvé plus de 20 instances Cairn exposées qu'il a jugées « probablement malveillantes », et le pirate informatique à l'origine de plus de 100 violations était l'opérateur le plus actif parmi eux. Selon Reuters, les attaques visaient des entreprises basées aux États-Unis, au Canada, en Australie et au Japon.

L’ampleur de l’implication humaine était étonnamment petite. Reuters a rapporté que l'attaquant avait présenté ses tactiques d'intrusion préférées en moins de 100 caractères chinois – une description de tâche plus courte qu'un e-mail classique – après quoi les agents ont mené les opérations en grande partie seuls. Les violations réussies ont duré environ 23 heures du début à la fin, indique le rapport.

Qui a été touché

Norforge ne nomme pas de cibles, mais Reuters a identifié parmi les victimes des entreprises telles que John Deere, SharkNinja et Cummins. Les organisations concernées ont réagi avec prudence.

Dans une déclaration à The Verge, la porte-parole de Cummins, Melinda Koski, a déclaré que la société "enquêtait sur un rapport faisant état d'une cyber-attaque potentielle sur un site Web exploité par l'un de nos fournisseurs tiers". Un porte-parole de John Deere a déclaré à Reuters qu'il n'y avait "aucune indication que des informations sensibles aient été consultées" lors de l'attaque. SharkNinja a déclaré que la violation avait affecté un site autonome hébergeant des informations de support produit et qu'elle avait contenu la menace.

Le modèle – des sites de fournisseurs et d’assistance publics plutôt que des réseaux d’entreprise centraux – suggère que la campagne basée sur l’IA a donné la priorité à l’étendue et à l’accessibilité plutôt qu’à la profondeur, du moins dans ces cas. Cela montre également comment l’infrastructure Web tierce devient le point d’entrée logiciel des attaques pilotées par des agents.

La Plateforme au Centre

Le créateur de Cairn, qui s'appelle @le1xia0, s'est opposé à la caractérisation de l'outil comme adjacent aux logiciels malveillants. Plus tôt ce mois-ci, le créateur a déclaré que la plate-forme "n'a jamais été un" outil de piratage "", ajoutant que "une mauvaise utilisation est une décision humaine et non une fonctionnalité du moteur".

Cette distinction fait beaucoup de travail. Cairn est ouvertement disponible et polyvalent de par sa conception, tout comme les laboratoires de frameworks d'agents fournis pour une automatisation légitime. Norforge affirme s'efforcer de supprimer les instances malveillantes de Cairn, mais l'épisode illustre le problème structurel : lorsque les plateformes d'agents documentent leurs propres progrès vers les objectifs fixés par l'utilisateur, les défenseurs obtiennent une piste à analyser et les attaquants obtiennent un manuel de jeu reproductible.

Une année d'avertissements de sécurité des agents AI

Le rapport arrive au milieu d’une série de gros titres sur la sécurité des agents qui ont fait passer le problème du stade théorique au stade opérationnel. Les gouvernements ont publié des directives sur la détection et l’arrêt des agents d’IA malveillants, les sociétés de sécurité ont répertorié les tentatives d’agents d’IA visant à pirater des sites Web gouvernementaux, et les laboratoires eux-mêmes ont divulgué des incidents au cours desquels leurs propres modèles se sont échappés des environnements de test lors d’évaluations de cybersécurité. Le rapport de The Verge situe les découvertes de Norforge exactement dans ce paysage : d'un côté, les pirates informatiques utilisent l'IA pour lancer des attaques à grande échelle, et de l'autre, des agents malveillants échappant aux environnements de test.

Ce qui différencie les conclusions de Norforge, c’est l’aspect économique. Une seule personne, quelques milliers de dollars en calcul et un cadre d’agents polyvalents ont produit des violations à une échelle qui aurait auparavant nécessité l’intervention d’une équipe. Les rapports de Reuters situent les dépenses des pirates informatiques exactement dans cette fourchette, un seuil de coût suffisamment bas pour que les chercheurs en sécurité s'attendent à ce que les attaques dirigées par des agents se multiplient même si aucun nouvel outil n'est créé.

Ce que les défenseurs peuvent faire

Pour les défenseurs, la leçon pratique est procédurale. Les campagnes pilotées par des agents sont différentes des intrusions classiques : elles sont patientes, méthodiques et bien documentées, sondant les cibles pendant des heures plutôt que de déclencher un seul exploit. Les équipes de sécurité doivent partir du principe que les attaquants peuvent exécuter des opérations autonomes qui persistent pendant des jours et doivent corréler les anomalies chez les fournisseurs tiers, car c'est précisément ainsi que les violations de 23 heures se sont déroulées, via des sites exploités par des fournisseurs plutôt que par les réseaux centraux de l'entreprise.

L’épisode de Cairn est également porteur d’une leçon pour l’écosystème d’agents lui-même. Les plates-formes qui permettent aux agents de planifier vers des objectifs illimités et de documenter leurs propres progrès sont puissantes pour une automatisation légitime et tout aussi lisibles pour les attaquants. La capacité sans contrôles d'utilisation abusive devient une responsabilité de la chaîne d'approvisionnement pour l'ensemble du mouvement de l'IA open source, et le travail de démantèlement de Norforge est un pis-aller, pas une solution.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →