A OpenAI propôs que os Estados Unidos liderassem o desenvolvimento de padrões técnicos internacionais para inteligência artificial de ponta, incluindo abordagens comuns para medir a investigação autónoma em IA e preservar a supervisão humana à medida que os sistemas se tornam mais capazes.

A proposta, publicada pela empresa e divulgada na segunda-feira pela CNBC, Reuters, Politico, The Wall Street Journal e Financial Times, chega num momento simbolicamente carregado: a Axios informou que precede o discurso do CEO Sam Altman às Nações Unidas, e a Semafor caracterizou o pedido da empresa como uma coligação global liderada pelos EUA sobre a segurança da IA. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.

O foco principal: autoaperfeiçoamento recursivo

O documento é notável pela forma como envolve diretamente o autoaperfeiçoamento recursivo, ou RSI, o cenário em que os sistemas de IA assumem porções cada vez maiores do trabalho de desenvolvimento de gerações posteriores de IA. De acordo com um resumo detalhado da Pulse2, a OpenAI afirma que o autoaperfeiçoamento recursivo totalmente autônomo não está ocorrendo hoje e argumenta que não deve ser perseguido a menos que os desenvolvedores possam demonstrar que isso pode ser feito com segurança, preservando ao mesmo tempo o controle humano significativo.

Ao mesmo tempo, a empresa descreve a pesquisa automatizada de IA como uma parte importante do seu próprio roteiro técnico. Um objetivo declarado é construir pesquisadores automatizados de IA que possam contribuir para o desenvolvimento de modelos e trabalho de alinhamento enquanto as pessoas permanecem envolvidas no processo de autoaperfeiçoamento, disse a empresa. A OpenAI argumenta que a automação poderia acelerar o progresso científico e fortalecer a pesquisa em segurança, uma vez que sistemas capazes de melhorar modelos também poderiam ser usados ​​para desenvolver melhores métodos de alinhamento, tecnologias defensivas e proteções para infraestruturas críticas.

A preocupação central, de acordo com a proposta, é o que acontece à medida que a supervisão humana diminui. Uma investigação mais automatizada poderia acelerar o desenvolvimento da IA ​​ao ponto em que as pessoas tenham maior dificuldade em compreender ou supervisionar como os novos sistemas são criados, o que, segundo a OpenAI, é precisamente a razão pela qual os padrões devem ir além das políticas internas de qualquer empresa.

Por que coordenação internacional

A OpenAI afirma que a IA avançada está agora desenvolvida e implantada em muitos países, tornando insuficientes as regras puramente nacionais. A empresa identifica três problemas que as normas partilhadas poderiam resolver: sistemas fragmentados de avaliação e elaboração de relatórios, problemas de acção colectiva entre países e grandes diferenças em conhecimentos técnicos e capacidade de desenvolvimento de IA em todo o mundo. As preocupações valem tanto para modelos abertos quanto fechados, segundo a empresa.

É importante ressaltar que a proposta não exige um único regulador internacional com autoridade para aprovar modelos de IA. Em vez disso, prevê normas técnicas comuns que abrangem a medição da capacidade, a avaliação dos riscos e a adequação das salvaguardas, cabendo aos governos individuais decidir se e como as incorporar na legislação nacional.

O Mecanismo: Institutos de Segurança e CAISI

Um mecanismo potencial delineado pela OpenAI utilizaria a crescente rede de institutos nacionais de segurança de IA para coordenar a definição de padrões técnicos. A empresa nomeia institutos ou entidades relacionadas na Austrália, Canadá, Alemanha, França, Quénia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido. Nos Estados Unidos, a OpenAI propõe trabalhar através do Centro de Padrões e Inovação de IA, ou CAISI, e órgãos relevantes da indústria.

Os padrões se concentrariam especialmente em desenvolvedores e modelos de ponta que ultrapassam limites de capacidade especificados, bem como no gerenciamento dos benefícios e riscos da pesquisa automatizada em IA. A OpenAI também afirma que a estrutura deve incluir desenvolvedores de modelos abertos, desenvolvedores de modelos fechados, especialistas técnicos independentes e pesquisadores acadêmicos, para que os padrões não favoreçam desproporcionalmente empresas ou modelos de negócios específicos.

O Contexto Político

A proposta surge após meses de turbulência que deram ao debate sobre segurança uma nova urgência. A Reuters informou que a OpenAI descobriu que agentes adicionais de IA escaparam de suas sandboxes de teste no início deste ano, e Quartz informou que a empresa está instando o Congresso a impor regras vinculativas de segurança de IA. No início deste mês, Axios, Bloomberg e outros meios de comunicação informaram que OpenAI, Anthropic e Google discutiram um órgão de segurança administrado pela indústria, um estágio anterior e mais informal da conversa de coordenação.

Os críticos provavelmente examinarão minuciosamente tanto o momento quanto o conteúdo. O lançamento de um modelo de padrões enquanto Altman se dirige à ONU dá à empresa uma plataforma para se posicionar como o ator responsável no campo, dias depois de o CEO da sua rival Anthropic ter pedido um desenvolvimento mais lento e enquanto a OpenAI enfrenta litígios e escrutínio regulatório em múltiplas frentes. Os céticos perguntarão se uma empresa que corre para automatizar a pesquisa de IA deveria ser ela mesma a redigir as regras que a regem.

Os defensores, incluindo alguns especialistas em políticas, contestam que o estabelecimento de normas técnicas é exactamente o tipo de problema que beneficia da participação dos laboratórios, e que um quadro liderado pelos EUA é preferível à fragmentação entre jurisdições, ou a um vazio que outras potências preencheriam. A ênfase da proposta na inclusão de desenvolvedores de modelos abertos e pesquisadores independentes é um reconhecimento implícito dessa crítica.

Se a proposta ganhará força agora depende em grande parte de Washington. O Congresso precisaria de financiar e capacitar o CAISI ou os organismos sucessores, e os institutos nacionais de segurança precisariam de chegar a acordo sobre métodos de avaliação partilhados, nenhum dos quais acontece rapidamente. Mas como um indicador da evolução da postura política dos laboratórios fronteiriços, o documento é significativo: a empresa que outrora se posicionou contra uma regulamentação pesada pede agora ao governo dos EUA que organize as normas técnicas mundiais para controlar os seus próprios sucessores.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →