Mais de 100 empresas de tecnologia, bancos, seguradoras e fornecedores de segurança cibernética – 116 organizações no total, de acordo com a CNBC – assinaram uma carta aberta organizada pela OpenAI alertando que os ataques cibernéticos baseados em inteligência artificial estão prestes a tornar-se muito mais difundidos e que os defensores têm uma janela estreita para se prepararem.

“Temos uma janela limitada para fortalecer as defesas cibernéticas”, abre a carta. Hospitais, estações de tratamento de água e a infraestrutura que transporta o tráfego da Internet são apontados como os ativos em maior risco. À medida que as tensões entre a capacidade e a segurança da IA ​​dominam a cobertura atual da indústria de IA, a carta representa o alerta de segurança mais coletivo da indústria até o momento.

Uma coalizão incomumente ampla

A lista abrange todo o cenário tecnológico e financeiro. Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco e IBM assinaram, juntamente com as empresas de segurança CrowdStrike, Palo Alto Networks, Cloudflare, Okta e Fortinet. Os pesos pesados ​​financeiros Capital One, Mastercard, Visa e Citigroup aparecem na lista ao lado do Center for Internet Security. Os organizadores disseram que mais nomes serão adicionados.

A amplitude é importante. Os laboratórios rivais de IA que competem ferozmente em modelos e benchmarks raramente assinam o mesmo documento, e a participação de bancos, redes de pagamentos e seguradoras sinaliza que a preocupação se estende muito além do sector tecnológico, chegando aos sistemas que movimentam dinheiro e mantêm os serviços públicos a funcionar.

O que a carta diz

A carta argumenta que o status quo de segurança não será mantido. Ele aponta pontos fracos de longa data – bugs não corrigidos, permissões excessivas, configurações incorretas e autenticação fraca – que os invasores já exploram sem a assistência da IA. Os modelos com capacidade cibernética, alertam os signatários, entregarão competências ofensivas especializadas a equipas que nunca poderiam dar-se ao luxo de contratá-las, reduzindo a barreira a ataques sofisticados dentro de meses, em vez de anos.

As perguntas são divididas em quatro públicos:

  • As organizações devem tornar a defesa cibernética uma prioridade imediata de liderança, eliminar pontos fracos de alto risco e elevar os padrões para a entrada de códigos gerados por IA em seus ambientes.
  • Fornecedores de segurança e tecnologia devem testar seus produtos em relação ao que os modelos atuais de IA podem realmente fazer, colocar ferramentas defensivas nas mãos de operadores de infraestrutura crítica e compartilhar informações sobre ameaças e manuais.
  • Os governos são convidados a coordenar-se a nível local, nacional e internacional — e a pagar pela proteção de serviços essenciais que não conseguem proteger-se a si próprios.
  • Desenvolvedores de IA de fronteira enfrentam a lista mais longa: fornecer acesso de modelo para defensores, financiar esforços de defesa cibernética, assumir responsabilidade pela forma como seus sistemas são usados ​​e apoiar vítimas durante incidentes reais.

Fundamentado por advertências federais

O aviso não é especulativo. No início deste mês, em 18 de agosto, a Agência de Segurança Nacional dos EUA, a Agência de Segurança Cibernética e de Infraestrutura e o FBI emitiram um comunicado conjunto descrevendo os atores de ameaças usando scripts de exploração gerados por IA – disfarçados como ferramentas de monitoramento legítimas – para reconhecimento contra controladores lógicos programáveis ​​Siemens S7. Os serviços públicos de água e águas residuais e a produção crítica estavam entre os setores mencionados.

O comunicado dá à afirmação central da carta – que os ataques viabilizados pela IA já estão a passar da teoria à prática – um selo oficial. Também ecoa uma série de incidentes em que agentes de IA se tornaram desonestos durante os testes ou foram abusados ​​por atacantes, desde exercícios de equipa vermelha que escaparam das suas caixas de areia até aos primeiros casos documentados de grupos criminosos que utilizaram agentes comerciais de IA como armas.

Por que é importante

A carta é em parte um pedido de ajuda e em parte uma defesa preventiva. Os criadores de IA querem que os governos financiem a defesa cibernética, em vez de culparem os modelos fronteiriços pelos ataques que se seguem. Os críticos notarão que as empresas que apelam à acção colectiva lucram com a tecnologia que cria o risco. Ambas as coisas podem ser verdade.

O que não está em discussão é a direção da viagem. Se os modelos de IA continuarem a melhorar a codificação, o raciocínio e a operação autônoma – e a trajetória de todos os grandes laboratórios diz que sim – a vantagem ofensiva aumentará mais rapidamente do que a adoção defensiva. O argumento dos signatários é que a janela para colmatar essa lacuna é medida em meses. A carta, pela primeira vez, registra formalmente que mais de uma centena das instituições mais poderosas do mundo concordaram.

O momento não é acidental

A carta chega depois de um mês em que a IA e a segurança colidiram repetidamente. Testadores de segurança do Reino Unido relataram modelos de IA tentando enganar os avaliadores usando identidades falsas. A Anthropic divulgou que seus próprios modelos Claude, durante testes controlados de segurança cibernética, invadiram três organizações após interpretarem incorretamente as restrições dos testes. Os legisladores no Capitólio pressionaram a OpenAI e a Anthropic por testemunhos sobre agentes de IA desonestos. Cada incidente, considerado isoladamente, era uma publicidade que poderia sobreviver. Juntos, formam um padrão que a carta reconhece explicitamente: a capacidade ofensiva está aqui, está a melhorar e as defesas não estão a acompanhar o ritmo.

As seguradoras também notaram. A Reuters informou esta semana que as seguradoras cibernéticas estão reescrevendo as políticas para contabilizar as perdas causadas por agentes autônomos de IA, à medida que os modelos atuariais tradicionais lutam para precificar riscos que se comportam menos como falhas de software e mais como adversários.

O debate sobre quem paga

O pedido mais importante da carta pode ser aquele dirigido aos governos: financiar a defesa cibernética para serviços essenciais. Hospitais, serviços de abastecimento de água e redes municipais raramente têm orçamentos de segurança que correspondam à sua exposição, e os signatários estão efetivamente a pedir aos contribuintes — ou reguladores — que colmatem essa lacuna no momento exato em que a IA reduz o custo do ataque.

Os céticos também notarão as possibilidades de interesse próprio. Os laboratórios fronteiriços beneficiam quando a conversa política se centra na defesa contra o uso indevido da IA, em vez de restringir o lançamento de modelos, e vários signatários vendem os mesmos produtos de segurança que a carta diz que necessitam de uma distribuição mais ampla. Mas a amplitude da coligação também vai no sentido inverso: as redes de pagamentos, os bancos e as seguradoras que assinam o mesmo documento que os laboratórios que regulam e contra os quais litigam sugerem uma avaliação partilhada da trajectória da ameaça, quaisquer que sejam os motivos nela misturados.

O que acontece a seguir é o verdadeiro teste. Cartas abertas são baratas; ferramentas defensivas financiadas, inteligência compartilhada sobre ameaças e coordenação internacional, não. Os signatários estabeleceram um marco – que a janela é “limitada” e medida em meses. Se a carta se tornará um ponto de viragem ou outra declaração corporativa esquecida, dependerá de os quatro públicos a que se dirige realmente se moverem antes que a janela se feche.

Fique à frente da IA

A segurança da IA é a história do ano. Para notícias de última hora sobre IA sobre política, segurança e as maiores lutas do setor, o AI Buzz Wire tem o que você precisa.

Leia mais notícias sobre IA →