Une enquête internationale menée par le plus haut organisme japonais de coordination de la cybersécurité a identifié environ 1 000 serveurs soupçonnés de servir de points de lancement à des cyberattaques avancées basées sur l'IA, selon un rapport de Kyodo News publié par le Straits Times et d'autres médias. Le Centre japonais de coordination de l'équipe d'intervention en cas d'urgence informatique, ou JPCERT/CC, a mené l'enquête en collaboration avec des sociétés étrangères de cybersécurité et a commencé l'enquête début octobre. Il suit actuellement 600 à 700 de ces serveurs.
Cette découverte est l’un des signaux les plus clairs à ce jour indiquant que le piratage assisté par l’IA est passé du stade expérimental à celui de l’infrastructure. Les attaquants ne se contentent plus de demander conseil aux chatbots : ils mettent en place des serveurs dédiés qui exécutent des outils d’IA 24 heures sur 24. Pour poursuivre la couverture de la sécurité de l'IA et analyser la manière dont l'intelligence artificielle remodèle le paysage des menaces, AI Buzz Wire suit les enquêtes importantes.
Ce que les enquêteurs ont trouvé sur les serveurs
L'enquête a révélé que les attaquants ont utilisé les serveurs pour déployer des outils d'intelligence artificielle qui recherchent les vulnérabilités du système et ciblent des sites Web dans le monde entier, selon le rapport. La plupart des serveurs hébergeaient des outils basés sur l'IA, notamment une plateforme de tests d'intrusion appelée Artex, qui étaient utilisés pour rechercher des faiblesses et tenter de voler des fichiers de configuration.
Certains serveurs accessibles au public contenaient également des programmes permettant de tester les vulnérabilités du système et des outils permettant d'analyser la structure interne des applications des smartphones. Les enquêteurs ont déclaré que les attaquants utilisaient ces outils pour tenter un accès non autorisé via des interfaces qui échangent des informations avec des systèmes externes – les API et les services qui connectent les applications modernes au monde extérieur.
Un détail a retenu l'attention des chercheurs : sur l'un des serveurs, les enquêteurs ont trouvé des traces d'un outil de support de programmation créé par la société américaine d'intelligence artificielle Anthropic, suggérant que les attaquants s'appuient sur les outils de développement traditionnels pour améliorer leurs capacités de piratage, selon le rapport Kyodo.
La présence d’outils de développement grand public sur l’infrastructure des attaquants met en évidence le défi structurel de l’IA à double usage. Un système optimisé pour écrire du code ou sonder les réseaux ne sait pas si son opérateur est un défenseur ou un intrus, et une fois que l'utilisation se déplace vers des infrastructures telles que ces serveurs, la visibilité sur laquelle s'appuient les fournisseurs et les chercheurs disparaît en grande partie.
L'IA abaisse la barre à l'entrée
L’émergence de l’IA avancée abaisse les barrières techniques pour les cybercriminels, rendant le piratage plus facile même pour les personnes sans connaissances spécialisées, conclut l’enquête. "Le piratage, qui prenait auparavant du temps, même pour ceux qui possèdent des connaissances spécialisées, est devenu plus facile avec l'émergence de l'IA de haut niveau", note le rapport.
Les analystes en cybersécurité cités dans le reportage ont déclaré que les cyberattaques assistées par l'IA en étaient encore à un stade précoce, mais ont averti que la menace pourrait croître rapidement. "Les attaques plus sophistiquées vont se multiplier à l'avenir", a déclaré Ken Sajo, analyste chez JPCERT/CC. En d’autres termes, précoce, mais déjà organisé – et fonctionnant déjà à l’échelle d’une petite opération d’hébergement.
Cet avertissement s’aligne sur une évolution parallèle aux États-Unis. Dans un rapport publié vendredi, Nacionale a décrit comment Artex – la même plate-forme de test d'intrusion trouvée sur la majorité des serveurs de l'enquête menée par le Japon – a été conçue à l'origine pour aider les organisations à tester leurs propres réseaux pour détecter les points faibles, mais le FBI affirme que les attaquants l'ont maintenant transformé en un outil d'effraction.
Outils à double usage, conséquences concrètes
Le modèle décrit par JPCERT est le dilemme du double usage du secteur de la sécurité qui se joue à l’échelle d’Internet. Les plateformes de tests d’intrusion existent parce que les organisations doivent découvrir leurs propres failles avant les criminels. Le même outil, pointé vers l’extérieur, automatise la reconnaissance, l’analyse des vulnérabilités et les attaques d’informations d’identification contre toute personne disposant d’une interface exposée.
Les serveurs étudiés illustrent une deuxième tendance : les attaquants traitent les outils d'IA comme une infrastructure ordinaire : ils les mettent en place, les exposent et, dans certains cas, les configurent si mal que les enquêteurs peuvent les observer fonctionner à l'air libre. Cette visibilité est ce qui a rendu l’enquête possible et elle offre aux défenseurs une rare fenêtre sur la manière dont ces opérations sont organisées. Le fait que les serveurs aient été observés depuis octobre suggère également des opérations soutenues plutôt que des expériences ponctuelles – une infrastructure qui est provisionnée, entretenue et remplacée au fur et à mesure de sa découverte, un modèle plus caractéristique des opérations criminelles établies que des individus opportunistes.
Pour les organisations, les implications pratiques sont immédiates. Le rapport indique que les serveurs ont été utilisés pour rechercher des vulnérabilités et voler des fichiers de configuration, qui contiennent souvent des informations d'identification et des détails sur le réseau interne. Le renforcement des points de terminaison des API, la restriction des interfaces d'administration, la rotation des secrets exposés et la surveillance des analyses automatisées constituent la base défensive vers laquelle les résultats pointent.
L'enquête de JPCERT/CC est en cours et l'agence affirme qu'elle continuera à suivre les serveurs qu'elle a identifiés. La question plus vaste – comment gouverner les outils qui sont à la fois des produits de sécurité et des armes d’attaque – est désormais posée dans les salles d’audience, les salles de conseil et, comme le montre cette enquête, sur environ un millier de serveurs dans le monde.
Gardez une longueur d'avance sur l'IA
Des modèles pionniers aux menaces de première ligne, l’histoire de l’IA évolue rapidement. Gardez une longueur d'avance sur l'IA grâce à la couverture par AI Buzz Wire des développements importants.
Lire plus d'actualités sur l'IA →