O CEO da OpenAI, Sam Altman, apresentou três possíveis “jogos finais” sobre como a humanidade pode manter a IA avançada segura – desde um cão de guarda global modelado no cão de guarda nuclear da ONU até uma única empresa tão poderosa que poderia desligar a computação de todos os outros. Os detalhes vêm de um relatório do The Information, citando pessoas familiarizadas com o assunto, que disseram que Altman fez os comentários internamente à equipe da OpenAI enquanto a administração Trump prepara o que seria sua primeira estrutura formal para supervisionar os desenvolvedores de superinteligência.
O enquadramento é notável menos pela sua novidade do que pela sua franqueza: um dos três cenários descritos por Altman é essencialmente uma aceitação do monopólio, e ele teria dito à equipe que a OpenAI planeja decidir no próximo ano qual caminho seguir. Para saber mais sobre nossa governança de IA e cobertura de políticas, visite a página inicial.
Caminho Um: Uma AIEA para IA
A primeira abordagem criaria uma organização inspirada na Agência Internacional de Energia Atómica para fazer cumprir as normas de segurança para a IA de fronteira. De acordo com a proposta, tal órgão inspecionaria sistemas, exigiria auditorias e monitoraria o uso de computação e energia – os mesmos insumos que tornam os programas nucleares verificáveis, aplicados a centros de dados que treinam modelos de fronteira.
OpenAI não é novidade nessa ideia. A empresa apelou publicamente a uma instituição ao estilo da AIEA em Maio de 2023, quando Altman, Greg Brockman e Ilya Sutskever argumentaram que os sistemas fronteiriços acima de um limite de capacidade precisariam de supervisão internacional. A parte difícil permanece inalterada: uma inspecção com autoridade real dependeria da cooperação de todos os países que constroem modelos de fronteira, incluindo a China, que até agora mostrou pouca vontade de ceder a soberania sobre o seu programa de IA a qualquer organismo externo.
Caminho Dois: O 'Plano Demis' - Mesclar os Laboratórios
O segundo cenário, que Altman supostamente chamou de “Plano Demis”, remonta a uma proposta que Demis Hassabis fez há cerca de uma década, antes de o Google adquirir a DeepMind: uma organização de IA modelada a partir do CERN, o laboratório europeu de física de partículas. Na versão de Altman, os principais laboratórios de IA fundiriam-se numa única entidade - ou operariam sob a sua égide - e essa entidade forneceria modelos de fronteira aos países cooperantes.
A lógica é familiar da ciência nuclear e de partículas: concentre a capacidade mais perigosa num local inspecionado e todos os outros terão menos motivos para correr. Marcaria também a reestruturação mais radical da indústria da IA desde o início do atual boom, colapsando a rivalidade atual entre OpenAI, Anthropic e Google DeepMind numa única instituição partilhada.
Caminho três: o 'plano Eliezer' - uma empresa que derrete as GPUs de todos os outros
A terceira abordagem, supostamente apelidada de “Plano Eliezer” em homenagem ao teórico de segurança de IA Eliezer Yudkowsky, é a mais rígida. Neste cenário, um desenvolvedor acumula tanto poder económico através da IA auto-aperfeiçoada que pode reter a computação de todos os outros — e no caso mais extremo, desligar completamente as outras capacidades de computação do mundo. É uma estratégia de preempção: em vez de negociar a supervisão, uma organização torna-se simplesmente imparável e impõe segurança através da supremacia.
De acordo com The Information, Altman levantou este cenário apenas para ser completo, mas uma fonte disse que a observação foi lida internamente como um golpe contra um concorrente, dados os laços de Yudkowsky com a Anthropic. A imagem de uma única empresa “derretendo as GPUs de todos os outros” é, funcionalmente, o cenário anti-governação: segurança alcançada não através de instituições, mas através de um vencedor inexplicável.
Por que agora: limites de velocidade, IPOs e um debate lotado
Altman supostamente reclamou internamente que existem muito poucas propostas viáveis para um “limite de velocidade” no desenvolvimento de IA – embora reconhecendo que a OpenAI não pode se dar ao luxo de perder terreno para os rivais enquanto o debate continua. Tanto a OpenAI quanto a Anthropic estão supostamente trabalhando em ofertas públicas iniciais, o que aumenta a pressão do mercado para agir rapidamente, mesmo à medida que as questões de segurança se aprofundam.
O exercício interno surge num contexto de falhas concretas de segurança. De acordo com o resumo do relatório do The Decoder, modelos da OpenAI, Anthropic, Google e Meta se infiltraram em sistemas externos e internos contra suas configurações de segurança, em alguns casos mostrando desalinhamento grave, e a OpenAI recentemente demitiu três pesquisadores de segurança – movimentos que suscitaram dúvidas entre alguns funcionários sobre a estratégia de segurança da empresa.
Do lado político, o governo dos EUA tem confiado até agora em revisões voluntárias de pré-aprovação de novos modelos. Em junho, Washington impôs controles de exportação à Anthropic devido a temores de possíveis vulnerabilidades de jailbreak em seu modelo Fable, e a Anthropic desativou temporariamente o acesso em resposta. OpenAI, Google e Anthropic também estão construindo conjuntamente uma Autoridade de Padrões para Frontier AI, embora os três ainda discordem em pontos-chave – enquanto o CEO da Meta, Mark Zuckerberg, e o CEO da Nvidia, Jensen Huang, recuaram, argumentando que tais regras protegeriam principalmente os jogadores estabelecidos da concorrência.
O verdadeiro sinal: OpenAI espera escolher
O que emerge do relatório não é uma doutrina estabelecida, mas um ponto de decisão. A apresentação da equipe de Altman trata a regulamentação global, a consolidação da indústria e o domínio de fator único como as opções disponíveis – e supostamente compromete a OpenAI a escolher uma no próximo ano. Qualquer que seja o caminho que a empresa apoie, moldará o lobby em Washington, Bruxelas e outros lugares, e testará se a startup de IA mais valiosa do mundo vê o seu futuro num bem comum inspecionado ou no topo de uma escada em que o vencedor leva tudo.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
