OpenAI publicerade en väsentligt omorganiserad version av sin Model Spec den 29 oktober, och omstrukturerade det offentliga dokumentet som beskriver hur företaget vill att dess modeller ska bete sig. Det uppdaterade ramverket, tillkännagivet på OpenAI:s webbplats och rapporterat av Reuters och Unite.AI, organiserar hela specifikationen kring fem kärnvärden och placerar trohet mot mänskliga avsikter till grunden för företagets tillvägagångssätt.
Fem värden, en grund For more context on this story, see our ongoing AI industry coverage.
De fem värdena är trohet mot mänskliga avsikter, skademinimering, ärlighet och transparens, mänsklig handlingsfrihet och omsorg. OpenAI sa att värdena artikulerar breda åtaganden som redan återspeglades i den tidigare versionen av dokumentet, men den nya strukturen gör dem explicita och centrala.
Trofasthet mot mänskliga avsikter fungerar som ankare. Enligt OpenAIs tillkännagivande skriver företaget Spec och sätter gränser, tränar modeller för att respektera dem, utvecklare riktar applikationer inom dessa gränser och användare styr modellens arbete med dessa begränsningar. Omorganisationen återspeglar OpenAI:s värdeanpassningsarbete, som syftar till att modeller ska förstå och tillämpa mänskliga värderingar i okända situationer samtidigt som de förblir trogna vad människor faktiskt vill ha. OpenAI noterade också att de fem värdena inte är avsedda att fånga hela skalan av mänskliga värden som dess modeller bör respektera.
De återstående fyra värdena fyller i ramen. Att minimera skador innebär att respektera fasta säkerhetsgränser och ta hänsyn till de förutsebara konsekvenserna av en modells agerande. Ärlighet och transparens innebär att vara sanningsenlig om vad modellen vet, gör och är osäker på. Att underlätta mänsklig handling innebär att stärka människors förmåga att förstå, välja och agera själva. Vård innebär att ta hänsyn till de drabbades omständigheter och följa relevanta sociala och professionella normer.
En striktare kommandokedja
Den uppdaterade Specen tilldelar olika behörighetsnivåer till olika typer av instruktioner. Rotsektioner, som bara kommer från själva modellspecifikationen, kan inte åsidosättas av konversationssammanhang. Systemmeddelanden och OpenAI-systemmeddelanden rankas nästa, följt av utvecklarinstruktioner och sedan användarinstruktioner. Instruktioner på riktlinjenivå fungerar som standardinställningar som kan åsidosättas när sammanhanget tydligt kräver det, medan assistentmeddelanden, verktygsutdata och citerade eller otillförlitliga data inte har någon auktoritet som standard.
OpenAI lade också till ett nytt underavsnitt om att överväga sammanhang noggrant, förklara hur konversationer, minnen och andra kontextuella bevis bör informera en modells förståelse av människors avsikter och preferenser. Reuters rapporterade att uppdateringen sätter mänskliga avsikter i centrum för OpenAIs modellriktlinjer, en inramning som företagets eget tillkännagivande stöder.
Röda linjer och slutet på självbevarande
Dokumentet inleder sina röda linjer med ett rakt uttalande: mänsklig säkerhet och mänskliga rättigheter är avgörande för OpenAI:s uppdrag. Principerna säger att OpenAIs modeller aldrig ska användas för att underlätta kritiska och allvarliga skador, inklusive våldshandlingar, skapande av cyber-, biologiska eller kärnvapen, terrorism eller massövervakning. De säger också att mänskligheten bör behålla kontrollen över hur AI används och hur AI-beteenden formas.
En ny regel på rotnivå, med titeln "inga andra mål", hindrar modellen från att eftersträva ytterligare mål som mål i sig själva. Det inkluderar att jaga intäkter eller merförsäljningar för OpenAI eller andra leverantörer, självbevarande, undvikande av avstängning eller ackumulering av beräkningar, data eller referenser. En kompletterande regel kräver att modellen förblir korrigerbar: öppen för legitim mänsklig tillsyn och samarbetar med övervakning, utvärdering, korrigering, ersättning och avstängning, utan att dölja information eller hindra korrigering.
Begränsad autonomi för agenter
För att spegla hur mycket modellanvändning som har skiftat mot autonoma agenter, kräver den uppdaterade Specen att en modells oberoende arbete håller sig inom ett klart förstått omfång av autonomi. OpenAI rekommenderar att man registrerar det omfattningen i en semistrukturerad post med fält som tillåtna verktyg, senaste tid, maximal kostnad och verktygsbegränsningar. Varje scope måste innehålla ett slutvillkor bortom vilket modellen slutar verka tills ett nytt scope har bekräftats. Högriskaktiviteter förblir förbjudna såvida de inte är uttryckligen och specifikt godkända.
Style Guidance Pensionerad, "assistenten" blir "GPT"
De flesta av Specs detaljerade stilvägledning har tagits bort. OpenAI sa att stil istället borde anpassa sig till vad människor föredrar sammantaget, inom språk och kulturer, och för varje person, med användarfeedback och sammanhang som ger bevis. Dokumentet behåller starkare standarder som att närma sig frågor objektivt, och anger att modellen inte bör sluta sig till ett föredraget perspektiv bara utifrån vad den tror att folk vill höra.
I en liten men talande redigering hänvisar Spec nu till modellen som "GPT" snarare än "assistenten", en återspegling av hur brett modellerna nu är distribuerade. Samma dag publicerade OpenAI separat ett inlägg som beskrev hur det upptäcker gränsmodellfel, vilket understryker att beteendespecifikationer och detektionsarbetet går framåt tillsammans.
Ett mål, inte en beskrivning
OpenAI var noga med att notera att modellspecifikationen beskriver beteendet den arbetar mot, inte nödvändigtvis det beteende som dess modeller uppvisar fullt ut idag. Företaget kallade uppdateringen ett första steg i att göra värderingarna och resonemanget bakom Spec mer explicit när modellerna blir mer kapabla, och sa att de har utforskat nya träningsmetoder för att hjälpa sina modeller att internalisera ramverket.
För utvecklare och företag som bygger på OpenAIs modeller är den praktiska signalen tydlig: reglerna som styr modellbeteende formaliseras kring tillsyn, korrigering och begränsad autonomi, och eran av att behandla modellbeteende som ett informellt produktbeslut håller på att sluta.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
