Executivos de Wall Street e funcionários da Agência de Segurança Nacional disseram aos membros do Congresso que a cascata de interrupções tecnológicas da semana nos EUA não foi causada por ataques cibernéticos, mas por esforços de emergência para corrigir vulnerabilidades que os modelos de inteligência artificial descobriram, de acordo com um relatório do The Washington Sun citando três fontes familiarizadas com as conversas privadas.
A afirmação, se fundamentada, marcaria um dos casos mais claros de efeitos de segunda ordem da IA desestabilizando infra-estruturas críticas - não porque os modelos atacassem alguma coisa, mas porque encontraram tantas fraquezas reais que os operadores humanos se apressaram a corrigi-las todas de uma vez. Para mais contexto sobre esta história, confira nossa tendências de IA.
Uma semana de falhas em cascata
As interrupções começaram a se acumular em 12 de novembro e aceleraram ao longo da semana. Em 13 de Novembro, as autoridades da aviação dos EUA emitiram uma paragem em terra a nível nacional devido a uma falha na tecnologia de comunicações – o que o The Straits Times descreveu como a mais longa suspensão de voos a nível nacional desde os ataques de 11 de Setembro de 2001. O serviço de e-mail Outlook da Microsoft sofreu interrupções que interromperam a correspondência de muitas empresas norte-americanas, e os serviços da Apple, incluindo iCloud, App Store e Apple Pay, também caíram.
Em 16 de novembro, a turbulência atingiu o sistema bancário, com clientes de instituições como o JPMorgan Chase incapazes de aceder às contas; o banco atribuiu seus problemas de serviço a bugs de software. Em 17 de Novembro, a própria NSA anunciou que a sua rede tinha sofrido uma “degradação temporária” durante o que chamou de manutenção de rotina programada, ao mesmo tempo que insistia que as “capacidades de missão crítica” permaneciam totalmente operacionais.
As autoridades descartaram consistentemente a possibilidade de um ataque cibernético hostil. O secretário de Estado, Marco Rubio, também como conselheiro de segurança nacional, reconheceu que os incidentes foram "perturbadores", mas disse aos jornalistas em Manila, onde o presidente Donald Trump participava na conferência económica da ASEAN: "Não estamos sob ataque sistémico. Não temos nenhuma evidência ou qualquer razão para acreditar que qualquer um destes esteja ligado".
A explicação do patch de IA
Nos bastidores, uma explicação diferente tem circulado no Capitólio. De acordo com a reportagem do The Washington Sun, funcionários do governo e do setor bancário disseram aos legisladores que as interrupções resultaram de tentativas de reparar lacunas nas defesas cibernéticas identificadas pelos modelos de IA, e que a enxurrada resultante de correções sobrecarregou temporariamente os sistemas afetados.
“Esses modelos estão identificando vulnerabilidades enormes e isso aumenta a urgência de correção imediata”, disse ao canal um funcionário do Congresso informado sobre o assunto. "Eles estão tentando implementar vários patches de uma só vez - mais do que o sistema foi projetado."
O secretário de Segurança Interna, Markwayne Mullin, ofereceu um diagnóstico relacionado numa entrevista à CNBC, dizendo que as organizações estão "empurrando novas tecnologias para cima de sistemas informáticos realmente antigos, e isso parece sobrecarregar o sistema. ... Veremos mais disto à medida que novas tecnologias forem implementadas".
A conta se alinha com uma dinâmica que as equipes de segurança alertaram à medida que a análise de código assistida por IA amadurece: modelos que podem verificar enormes bases de código em busca de falhas exploráveis geram descobertas mais rapidamente do que os processos de gerenciamento de mudanças podem absorvê-las com segurança. A aplicação de patches é em si uma operação arriscada, e fazer isso muito rapidamente em infraestruturas antigas pode ser tão perturbador quanto as vulnerabilidades que corrige.
Legisladores pressionam por respostas
A reacção política tem sido notavelmente bipartidária na sua impaciência. O senador Josh Hawley, um republicano do Missouri, disse aos jornalistas: "Se tudo isto é uma coincidência, é como se fosse a maior coincidência da história do mundo", enquanto o senador Jack Reed, o democrata mais graduado no Comité das Forças Armadas, juntou-se aos apelos para uma explicação mais completa do padrão.
Trump minimizou publicamente o episódio. "É como quando você é grande e poderoso e tem todo o dinheiro. Coisas assim acontecem. Está tudo bem", disse o presidente a repórteres em Manila. A Casa Branca disse que “não há crise”.
Os analistas citados na cobertura das interrupções apontaram para dois factores agravantes: cortes profundos de pessoal nas operações tecnológicas nos últimos anos, e a integração acelerada de ferramentas de IA na manutenção de sistemas, o que pode ter tornado a infra-estrutura crítica menos resiliente e mais visivelmente frágil quando falha.
O que isso significa para a indústria de IA
Para o setor de IA, a semana é um alerta sobre o ritmo operacional criado pelas ferramentas de IA. Os mesmos recursos de modelo que permitem aos defensores encontrar vulnerabilidades na velocidade da máquina também os comprometem com cronogramas de remediação que os sistemas legados nunca foram projetados para atender. Vários fornecedores agora comercializam varreduras de segurança contínuas baseadas em IA precisamente porque encontram falhas que os humanos não percebem – as interrupções sugerem que o gargalo passou da descoberta para a implantação.
Espera-se que os legisladores procurem informações formais sobre a vaga de interrupções quando o Congresso voltar a prestar atenção à supervisão das infra-estruturas, e tanto as agências como os bancos provavelmente enfrentarão questões sobre como a manutenção orientada pela IA é programada, testada e regulada. O episódio também pode alimentar um debate regulamentar emergente sobre se as alterações assistidas pela IA em sistemas críticos devem ser encenadas e com taxa limitada como outras alterações operacionais de alto risco.
Por enquanto, os voos estão voando, os bancos estão respondendo aos seus aplicativos e a NSA afirma que seus sistemas de missão crítica estão bem. A lição incómoda que se pede ao Congresso que absorva é que as máquinas que detectam as falhas podem estar a correr à frente das instituições que as corrigem.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →

