Um ataque à cadeia de abastecimento a um único pacote de código aberto resultou num dos incidentes de segurança mais complicados da jovem indústria da IA, expondo dados detidos pela startup de rotulagem de dados Mercor e forçando a Meta a interromper indefinidamente o seu trabalho com a empresa.

A violação, confirmada pela Mercor em 31 de março, foi atribuída a um comprometimento do LiteLLM, uma ferramenta de código aberto amplamente utilizada, baixada milhões de vezes diariamente. Por cerca de 40 minutos, uma versão envenenada do LiteLLM abrigou malware de coleta de credenciais que roubou credenciais de login e as usou para se aprofundar nos sistemas conectados. Desde então, o episódio transformou-se em processos judiciais, num congelamento de contratos e num cálculo mais amplo sobre a confiança que a indústria da IA ​​deposita no software intermediário que não controla. Para mais notícias de última hora sobre IA sobre segurança e confiança, acompanhe nossa cobertura contínua.

Como funcionou o ataque

A mecânica é um compromisso clássico da cadeia de suprimentos de software. De acordo com relatórios da TechJuice e TechCrunch, os invasores conseguiram inserir código malicioso no LiteLLM, a biblioteca de código aberto que muitas empresas de IA usam para rotear solicitações entre diferentes modelos de linguagem. Como o LiteLLM é tratado como uma infraestrutura confiável e colocado automaticamente em ambientes de produção, a compilação maliciosa se espalha rapidamente.

Por cerca de 40 minutos, a ferramenta adulterada coletou silenciosamente credenciais de qualquer pessoa que a executasse. Essas credenciais foram então usadas para acessar sistemas adicionais, agravando os danos além do ponto de apoio inicial. A Mercor, cujo negócio depende da gestão de grandes volumes de dados confidenciais de contratantes e clientes, estava entre as mais expostas.

Uma reivindicação de extorsão de 4 terabytes

Após a divulgação, um grupo de hackers afirmou possuir cerca de 4 terabytes de dados roubados dos sistemas da Mercor. A aquisição reivindicada inclui perfis de candidatos, informações de identificação pessoal, dados de empregadores, código-fonte e chaves de API, um inventário abrangente exatamente do tipo de material que uma empresa de rotulagem de dados centraliza. A Mercor não confirmou nem negou a autenticidade dos dados alegados, dizendo apenas que está a investigar.

A ambigüidade é em si um problema. Para os empreiteiros, empregadores e parceiros cujas informações possam estar a circular, a incerteza sobre o que foi realmente levado torna impossível avaliar a sua exposição.

Meta recua

As consequências comerciais foram rápidas. A Meta suspendeu indefinidamente seus contratos com a Mercor, decisão ainda mais marcante pela história entre as duas empresas. De acordo com a TechJuice, a Meta continuou trabalhando com a Mercor mesmo depois de gastar US$ 14,3 bilhões para adquirir a Scale AI, rival da Mercor, um sinal do quanto ela valorizava o relacionamento. O fato de uma violação encaminhada por meio de uma ferramenta de terceiros poder romper esse vínculo ressalta o quão frágeis essas relações com os fornecedores se tornaram.

A OpenAI confirmou que está a investigar a sua própria exposição na violação, mas, no momento do relatório, não tinha suspendido os seus contratos Mercor. Vários outros grandes fabricantes de modelos estão avaliando seus relacionamentos com a startup, embora nenhum outro nome tenha sido confirmado publicamente.

Ações judiciais e questões de responsabilidade

As consequências jurídicas estão a acumular-se tão rapidamente como as comerciais. Cinco dos prestadores de serviços da Mercor entraram com ações judiciais por suposta exposição de dados pessoais. Um processo analisado pelo TechCrunch nomeou a LiteLLM e a startup de conformidade de IA Delve como co-réus, alegando que a LiteLLM usou o Delve para obter suas certificações de segurança. Essa ligação abre uma questão espinhosa sobre se os fornecedores de conformidade assumem a responsabilidade quando as ferramentas que atestam são posteriormente transformadas em armas.

Esses processos poderiam ajudar a definir onde a responsabilidade recai quando uma violação é encaminhada por meio de software de código aberto, uma questão que a indústria de IA tem evitado responder até agora.

A superfície de ataque subexaminada da indústria

Pesquisadores de segurança dizem que a lição mais profunda é estrutural. A pilha de IA agora depende de uma rede de ferramentas intermediárias confiáveis, roteadores, avaliadores, camadas de conformidade e plataformas de rotulagem que ficam entre os fornecedores de modelos e seus clientes. Cada um deles é um potencial ponto de estrangulamento e a maioria recebe muito menos escrutínio do que os próprios modelos de fronteira.

LiteLLM é ilustrativo. Ele é baixado milhões de vezes por dia, lida com credenciais desde o projeto e é executado nos ambientes de produção de algumas das empresas mais bem financiadas do planeta. No entanto, uma janela de 40 minutos de adulteração foi suficiente para transformá-la em uma chave mestra. A sequência colocou toda a cadeia de abastecimento de IA sob escrutínio, com os investigadores alertando que ferramentas intermediárias confiáveis ​​representam uma superfície de ataque que a indústria tem sistematicamente subexaminado.

O que acontece a seguir

As questões imediatas são se a Mercor pode verificar o alcance do vazamento, se mais fabricantes de modelos seguirão a Meta na retirada e se os processos LiteLLM e Delve estabelecem um precedente para responsabilidade de terceiros. A longo prazo, é provável que o incidente acelere os apelos para que a indústria da IA ​​adopte o tipo de listas de materiais de software e práticas de assinatura de dependências em que os sectores de software mais maduros já dependem.

Por enquanto, a violação serve como um aviso de que as vulnerabilidades mais perigosas na IA podem não residir dentro dos modelos, mas sim no encanamento nada glamoroso que os conecta.

Fique à frente da IA

A segurança da pilha de IA está se tornando tão importante quanto os próprios modelos. Marque AI Buzz Wire para os últimos desenvolvimentos de IA e cobertura da indústria de IA.

Leia mais notícias sobre IA →