Uma investigação internacional liderada pelo principal órgão de coordenação de segurança cibernética do Japão identificou cerca de 1.000 servidores suspeitos de servirem como pontos de lançamento para ataques cibernéticos avançados baseados em IA, de acordo com um relatório da Kyodo News divulgado pelo The Straits Times e outros meios de comunicação. O Centro de Coordenação da Equipe de Resposta a Emergências Informáticas do Japão, ou JPCERT/CC, conduziu a investigação junto com empresas estrangeiras de segurança cibernética e iniciou a investigação no início de outubro. Atualmente está rastreando de 600 a 700 desses servidores.

A descoberta é um dos sinais mais claros de que o hacking assistido por IA passou de experiência para infraestrutura. Os invasores não estão mais apenas pedindo conselhos aos chatbots – eles estão montando servidores dedicados que executam ferramentas de IA 24 horas por dia. Para continuar a cobertura de segurança de IA e analisar como a inteligência artificial está remodelando o cenário de ameaças, o AI Buzz Wire acompanha as investigações que importam.

O que os investigadores encontraram nos servidores

A investigação descobriu que os invasores usaram os servidores para implantar ferramentas de inteligência artificial que verificam vulnerabilidades do sistema e visam sites em todo o mundo, de acordo com o relatório. A maioria dos servidores hospedava ferramentas alimentadas por IA, incluindo uma plataforma de testes de penetração chamada Artex, que era usada para procurar pontos fracos e tentar roubar arquivos de configuração.

Alguns servidores acessíveis ao público também continham programas para testar vulnerabilidades de sistemas e ferramentas para analisar a estrutura interna de aplicativos de smartphones. Os investigadores disseram que os invasores usaram essas ferramentas para tentar acesso não autorizado por meio de interfaces que trocam informações com sistemas externos – as APIs e serviços que conectam aplicativos modernos ao mundo exterior.

Um detalhe chamou a atenção dos pesquisadores: em um dos servidores, os investigadores encontraram vestígios de uma ferramenta de suporte de programação criada pela empresa norte-americana de inteligência artificial Anthropic, sugerindo que os invasores estão pegando carona nas principais ferramentas de desenvolvimento para aprimorar suas capacidades de hacking, de acordo com o relatório da Kyodo.

A presença de ferramentas de desenvolvimento convencionais na infraestrutura do invasor destaca o desafio estrutural da IA ​​de dupla utilização. Um sistema otimizado para escrever código ou sondar redes não sabe se o seu operador é um defensor ou um intruso e, uma vez que a utilização passa para infraestruturas como estes servidores, a visibilidade de que os fornecedores e investigadores dependem desaparece em grande parte.

AI está reduzindo a barreira para a entrada

O surgimento da IA avançada está a reduzir as barreiras técnicas para os cibercriminosos, tornando o hacking mais fácil mesmo para pessoas sem conhecimentos especializados, concluiu a investigação. “Hacking, que anteriormente exigia tempo mesmo para aqueles com conhecimento especializado, tornou-se mais fácil com o surgimento da IA ​​de alto nível”, observou o relatório.

Analistas de segurança cibernética citados na cobertura disseram que os ataques cibernéticos assistidos por IA permanecem numa fase inicial, mas alertaram que a ameaça pode crescer rapidamente. “Os ataques mais sofisticados aumentarão no futuro”, disse Ken Sajo, analista do JPCERT/CC. Em outras palavras, cedo, mas já organizado – e já funcionando na escala de uma pequena operação de hospedagem.

O alerta está alinhado com um desenvolvimento paralelo nos Estados Unidos. Em reportagem publicada na sexta-feira, a Nacionale descreveu como a Artex – a mesma plataforma de teste de penetração encontrada na maioria dos servidores na investigação liderada pelos japoneses – foi originalmente construída para ajudar as organizações a testar suas próprias redes em busca de pontos fracos, mas o FBI diz que os invasores agora a transformaram em uma ferramenta de invasão.

Ferramentas de dupla utilização, consequências no mundo real

O padrão descrito pelo JPCERT é o dilema da dupla utilização da indústria de segurança que se desenrola à escala da Internet. As plataformas de testes de penetração existem porque as organizações precisam encontrar suas próprias falhas antes que os criminosos o façam. A mesma ferramenta, apontada externamente, automatiza o reconhecimento, a verificação de vulnerabilidades e os ataques de credenciais contra qualquer pessoa com uma interface exposta.

Os servidores na investigação ilustram uma segunda tendência: os invasores estão tratando as ferramentas de IA como uma infraestrutura comum – colocando-as em pé, expondo-as e, em alguns casos, configurando-as tão mal que os investigadores puderam observá-las funcionando abertamente. Essa visibilidade foi o que tornou o inquérito possível e oferece aos defensores uma rara janela sobre como estas operações são organizadas. O facto de os servidores terem sido observados desde Outubro também sugere operações sustentadas em vez de experiências pontuais – infra-estruturas que são aprovisionadas, mantidas e substituídas à medida que são descobertas, um padrão mais característico de operações criminosas estabelecidas do que de indivíduos oportunistas.

Para as organizações, as implicações práticas são imediatas. O relatório afirma que os servidores foram usados ​​para caçar vulnerabilidades e roubar arquivos de configuração, que geralmente contêm credenciais e detalhes da rede interna. O fortalecimento dos endpoints da API, a restrição de interfaces administrativas, a rotação de segredos expostos e o monitoramento para verificação automatizada são a linha de base defensiva para a qual as descobertas apontam.

A investigação do JPCERT/CC está em andamento e a agência afirma que continuará rastreando os servidores que identificou. A questão mais ampla – como governar ferramentas que são simultaneamente produtos de segurança e armas de ataque – está agora a ser colocada em tribunais, salas de reuniões e, como mostra esta investigação, em cerca de mil servidores em todo o mundo.

Fique à frente da IA

Dos modelos de fronteira às ameaças da linha de frente, a história da IA avança rapidamente. Fique à frente da IA com a cobertura da AI Buzz Wire sobre os desenvolvimentos que importam.

Leia mais notícias sobre IA →