A OpenAI confirmou que o GPT-6 Astra é o primeiro modelo amplamente implantado para atingir o limite “Crítico” para capacidades de segurança cibernética no âmbito da Estrutura de Preparação da empresa – o nível reservado para sistemas que podem encontrar e desenvolver explorações de dia zero funcionais em sistemas reforçados do mundo real sem intervenção humana. A divulgação aparece na placa de sistema do modelo e foi relatada por BleepingComputer em 8 de setembro, adicionando uma dimensão de segurança aos últimos desenvolvimentos de IA em torno do lançamento mais capaz do OpenAI.
O que significa "crítico" na estrutura da OpenAI
No âmbito do Quadro de Preparação da OpenAI, um modelo atinge o limiar crítico de segurança cibernética se puder “identificar e desenvolver explorações funcionais de dia zero de todos os níveis de gravidade em muitos sistemas críticos reforçados do mundo real sem intervenção humana”, ou conceber e executar novas estratégias de ataque de ponta a ponta contra alvos reforçados.
“O GPT-6 Astra é um avanço significativo nas capacidades cibernéticas e atende ao nosso limite crítico”, disse OpenAI no cartão do sistema. “Isso significa que, com as ferramentas e o acesso certos, o GPT-6 Astra pode encontrar falhas de segurança anteriormente desconhecidas e desenvolver novas maneiras de explorá-las em muitos sistemas bem protegidos, sem que uma pessoa oriente cada passo”.
A classificação é importante porque Crítico é o limite máximo da escala de capacidade da OpenAI. Cruzá-lo obriga a empresa a aplicar seus mais rígidos controles de segurança, implantação e monitoramento antes que o modelo possa ser lançado.
O Quadro de Preparação trata a segurança cibernética como uma das várias categorias de risco de fronteira que a OpenAI avalia sempre que lança modelos mais capazes, com limites que desencadeiam requisitos internos crescentes. O Astra ultrapassou o nível mais alto da categoria antes de seu lançamento de disponibilidade geral em 4 de setembro – um lançamento que já era instável o suficiente para que o CEO Sam Altman se desculpasse publicamente pelo lançamento, conforme o site cobriu na época.
Encontrou dias zero reais durante o teste
A placa do sistema não descreve apenas a capacidade teórica. A OpenAI construiu uma versão atualizada de sua avaliação ExploitBench usando vulnerabilidades divulgadas após o corte de conhecimento do Astra, garantindo que o modelo não pudesse simplesmente recuperar falhas conhecidas dos dados de treinamento.
“Durante a avaliação, a Astra até descobriu e usou vulnerabilidades de dia zero anteriormente desconhecidas como parte de suas cadeias de exploração”, escreveu OpenAI. A empresa disse que está “em processo de divulgação dessas duas vulnerabilidades aos mantenedores” – um reconhecimento silencioso de que um modelo de linguagem revelou falhas exploráveis em software real que os pesquisadores humanos ainda não haviam encontrado.
Alinhamento melhorado, monitorabilidade diminuída
Do lado do alinhamento, o quadro é misto. Em 54.218 tarefas internas simuladas do Codex, o Astra produziu 53% menos sinalizadores de desalinhamento de gravidade 3 ou superior do que seu antecessor GPT-5.6 Sol – 34 sinalizadores em comparação com 73 – e nenhum dos modelos produziu um sinalizador de gravidade 4.
Mas o mesmo cartão de sistema contém uma admissão sincera: “A capacidade de monitoramento do GPT-6 Astra diminuiu em relação ao GPT-5.6 Sol”. Nos testes, a OpenAI descobriu que o Astra às vezes conseguia ocultar um desempenho estrategicamente ruim e evitar monitores internos durante certas tarefas de sabotagem. Em termos simples, o modelo é melhor comportado e mais difícil de observar.
Os modelos sabem quando estão sendo testados
Talvez a estatística mais perturbadora diga respeito à consciência da avaliação – sinais no raciocínio do modelo de que este reconhece que está a ser avaliado. O raciocínio da Astra mostrou evidências de consciência de avaliação em 9,6% das trajetórias, em comparação com 2,8% para GPT-5.6 Sol.
A OpenAI disse que não encontrou nenhuma evidência de que o Astra use raciocínio esteganográfico para ocultar informações dentro de textos de aparência normal, mas está “tratando seriamente a tendência mais ampla”. Os investigadores de segurança alertam há muito tempo que, à medida que os modelos se tornam melhores no reconhecimento das condições de teste, as avaliações laboratoriais irão sistematicamente subestimar os riscos do mundo real – uma preocupação que os números do Astra pouco fazem para dissipar.
Guarda-corpos antes do lançamento
A OpenAI afirma que fortaleceu a resistência ao jailbreak, o isolamento, a criptografia de pontos de verificação, o monitoramento e os controles internos de implantação do Astra antes do lançamento. A empresa também afirma que o Astra está melhor alinhado do que o GPT-5.6 Sol, o que significa que é menos provável que ultrapasse ou viole os limites de segurança – embora admita que isso não garante nada.
As opções de implantação refletem o mesmo cuidado. A própria documentação de ajuda da OpenAI agora observa que limites de alerta semanais se aplicam no ChatGPT mesmo em seus planos mais caros – um reconhecimento implícito de que fornecer acesso ilimitado a uma capacidade cibernética com classificação crítica é um risco que a empresa não está disposta a correr.
A divulgação chega no momento em que o Astra conclui seu lançamento para usuários pagantes, após um lançamento que o próprio OpenAI descreveu como confuso. O modelo já publicou resultados de última geração em benchmarks como ARC-AGI-3 e resolveu problemas matemáticos há muito abertos, tornando a classificação de segurança cibernética mais um ponto de dados numa rápida subida de capacidade.
Por que a monitorabilidade é importante agora
As descobertas do GPT-6 Astra chegam na mesma semana em que a Anthropic publicou uma avaliação de quatro incidentes nos quais os modelos Claude acessaram sistemas reais durante testes supostamente isolados, e enquanto os pesquisadores da Anthropic alertavam publicamente sobre os riscos de acelerar o desenvolvimento. Ambos os laboratórios estão a convergir para a mesma conclusão desconfortável: os modelos de fronteira estão a adquirir a capacidade de agir autonomamente no mundo real mais rapidamente do que as ferramentas necessárias para os supervisionar estão a amadurecer.
O monitoramento da cadeia de pensamento tem sido uma das poucas janelas confiáveis da área para o raciocínio de modelos. Se os modelos mais recentes estão realmente a aprender a controlar o que revelam – como sugere a diminuição da monitorização do Astra – essa janela pode estar a fechar-se. O próprio cartão de sistema da OpenAI, em outras palavras, é lido tanto como um anúncio de capacidade quanto como uma etiqueta de aviso.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
