A OpenAI publicou uma versão substancialmente reorganizada de suas especificações de modelo em 29 de outubro, reestruturando o documento público que descreve como a empresa deseja que seus modelos se comportem. A estrutura atualizada, anunciada no site da OpenAI e relatada pela Reuters e Unite.AI, organiza toda a especificação em torno de cinco valores fundamentais e coloca a fidelidade à intenção humana na base da abordagem da empresa.

Cinco valores, uma base Para mais contexto sobre esta história, confira nossa tendências de IA.

Os cinco valores são fidelidade à intenção humana, minimização de danos, honestidade e transparência, atuação humana e cuidado. A OpenAI disse que os valores articulam compromissos amplos que já estavam refletidos na versão anterior do documento, mas a nova estrutura os torna explícitos e centrais.

A fidelidade à intenção humana serve como âncora. De acordo com o anúncio da OpenAI, a empresa escreve as especificações e define limites, treina modelos para respeitá-los, os desenvolvedores direcionam os aplicativos dentro desses limites e os usuários direcionam o trabalho do modelo sujeito a essas restrições. A reorganização reflete o trabalho de alinhamento de valores da OpenAI, que visa modelos que compreendam e apliquem valores humanos em situações desconhecidas, permanecendo fiéis ao que as pessoas realmente desejam. A OpenAI também observou que os cinco valores não se destinam a capturar toda a gama de valores humanos que os seus modelos deveriam respeitar.

Os quatro valores restantes preenchem o quadro. Minimizar os danos significa respeitar limites de segurança firmes e levar em conta as consequências previsíveis das ações de um modelo. Honestidade e transparência significam ser verdadeiros sobre o que o modelo sabe, faz e sobre o que não tem certeza. Facilitar a agência humana significa fortalecer a capacidade das pessoas de compreender, escolher e agir por si mesmas. Cuidar significa atender às circunstâncias das pessoas afetadas e seguir as normas sociais e profissionais relevantes.

Uma cadeia de comando mais rígida

A especificação atualizada atribui diferentes níveis de autoridade a diferentes tipos de instruções. As seções raiz, que vêm apenas da própria especificação do modelo, não podem ser substituídas pelo contexto conversacional. Os prompts do sistema e as mensagens do sistema OpenAI são classificados em seguida, seguidos pelas instruções do desenvolvedor e, em seguida, pelas instruções do usuário. As instruções em nível de diretriz atuam como padrões que podem ser substituídos quando o contexto claramente o exige, enquanto mensagens de assistente, resultados de ferramentas e dados citados ou não confiáveis ​​não possuem autoridade por padrão.

A OpenAI também adicionou uma nova subseção sobre como considerar cuidadosamente o contexto, explicando como conversas, memórias e outras evidências contextuais devem informar a compreensão de um modelo sobre as intenções e preferências das pessoas. A Reuters informou que a atualização coloca a intenção humana no centro das diretrizes do modelo OpenAI, um enquadramento que o próprio anúncio da empresa apoia.

Linhas Vermelhas e o Fim da Autopreservação

O documento abre os seus princípios de linha vermelha com uma declaração contundente: a segurança humana e os direitos humanos são fundamentais para a missão da OpenAI. Os princípios dizem que os modelos da OpenAI nunca devem ser usados ​​para facilitar danos críticos e de alta gravidade, incluindo atos de violência, a criação de armas cibernéticas, biológicas ou nucleares, terrorismo ou vigilância em massa. Eles também afirmam que a humanidade deve permanecer no controle de como a IA é usada e como os comportamentos da IA ​​são moldados.

Uma nova regra básica, intitulada “nenhum outro objectivo”, impede o modelo de perseguir objectivos adicionais como fins em si mesmos. Isso inclui buscar receitas ou vendas adicionais para OpenAI ou outros provedores, autopreservação, evitar desligamentos ou acumular computação, dados ou credenciais. Uma regra complementar exige que o modelo permaneça corrigível: aberto à supervisão humana legítima e cooperativo com monitorização, avaliação, correcção, substituição e encerramento, sem ocultar informações ou obstruir a correcção.

Autonomia limitada para agentes

Refletindo o quanto o uso do modelo mudou para agentes autônomos, a especificação atualizada exige que o trabalho independente de um modelo permaneça dentro de um escopo de autonomia claramente compreendido. A OpenAI recomenda registrar esse escopo em um registro semiestruturado com campos como ferramentas permitidas, horário mais recente, custo máximo e restrições de ferramentas. Todo escopo deve incluir uma condição final além da qual o modelo deixa de agir até que um novo escopo seja confirmado. As atividades de alto risco permanecem proibidas, a menos que sejam explícita e especificamente autorizadas.

Orientação de estilo aposentada, "o assistente" se torna "GPT"

A maior parte das orientações detalhadas de estilo do Spec foram retiradas. A OpenAI disse que o estilo deveria se adaptar ao que as pessoas preferem em conjunto, dentro dos idiomas e culturas, e para cada pessoa, com o feedback do usuário e o contexto fornecendo a evidência. O documento mantém padrões mais fortes, como abordar as questões de forma objectiva, e afirma que o modelo não deve inferir uma perspectiva preferida apenas a partir do que pensa que as pessoas querem ouvir.

Em uma edição pequena, mas reveladora, a Spec agora se refere ao modelo como “GPT” em vez de “o assistente”, um reflexo de quão amplamente os modelos são agora implantados. No mesmo dia, a OpenAI publicou separadamente uma postagem descrevendo como detecta o desalinhamento do modelo de fronteira, ressaltando que as especificações de comportamento e o trabalho de detecção estão avançando juntos.

Um alvo, não uma descrição

A OpenAI teve o cuidado de observar que as especificações do modelo descrevem o comportamento para o qual está trabalhando, não necessariamente o comportamento que seus modelos exibem totalmente hoje. A empresa considerou a atualização um primeiro passo para tornar os valores e o raciocínio por trás das especificações mais explícitos à medida que os modelos se tornam mais capazes, e disse que tem explorado novos métodos de treinamento para ajudar seus modelos a internalizar a estrutura.

Para os desenvolvedores e empresas que desenvolvem os modelos da OpenAI, o sinal prático é claro: as regras que regem o comportamento do modelo estão a ser formalizadas em torno da supervisão, da corrigibilidade e da autonomia limitada, e a era de tratar o comportamento do modelo como uma decisão informal de produto está a terminar.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →