OpenAI publiceerde op 29 oktober een substantieel gereorganiseerde versie van zijn Model Spec, waarmee het openbare document werd geherstructureerd dat beschrijft hoe het bedrijf wil dat zijn modellen zich gedragen. Het bijgewerkte raamwerk, aangekondigd op de site van OpenAI en gerapporteerd door Reuters en Unite.AI, organiseert de volledige specificatie rond vijf kernwaarden en plaatst trouw aan de menselijke bedoelingen aan de basis van de aanpak van het bedrijf.

Vijf waarden, één basis Voor meer context over dit verhaal, zie ons meer AI-verhalen.

De vijf waarden zijn trouw aan de menselijke bedoelingen, schademinimalisatie, eerlijkheid en transparantie, menselijk handelen en zorgzaamheid. OpenAI zei dat de waarden brede verplichtingen verwoorden die al in de vorige versie van het document tot uiting kwamen, maar dat de nieuwe structuur ze expliciet en centraal maakt.

Trouw aan de menselijke bedoelingen dient als anker. Volgens de aankondiging van OpenAI schrijft het bedrijf de specificaties en stelt het grenzen, traint het modellen om deze te respecteren, sturen ontwikkelaars applicaties binnen die grenzen en sturen gebruikers het werk van het model met inachtneming van die beperkingen. De reorganisatie weerspiegelt het werk van OpenAI op het gebied van waardeafstemming, dat erop gericht is modellen te ontwikkelen die menselijke waarden in onbekende situaties kunnen begrijpen en toepassen, terwijl ze trouw blijven aan wat mensen eigenlijk willen. OpenAI merkte ook op dat de vijf waarden niet bedoeld zijn om het volledige scala aan menselijke waarden weer te geven dat de modellen zouden moeten respecteren.

De overige vier waarden vullen het frame in. Het minimaliseren van schade betekent het respecteren van stevige veiligheidsgrenzen en het rekening houden met de voorzienbare gevolgen van de acties van een model. Eerlijkheid en transparantie betekent eerlijk zijn over wat het model weet, doet en waarover onzeker is. Het faciliteren van menselijke keuzevrijheid betekent het versterken van het vermogen van mensen om zichzelf te begrijpen, te kiezen en te handelen. Zorg betekent aandacht voor de omstandigheden van de getroffenen en het volgen van relevante sociale en professionele normen.

Een strengere commandostructuur

De bijgewerkte specificaties kennen verschillende bevoegdheidsniveaus toe aan verschillende soorten instructies. Rootsecties, die alleen uit de Modelspecificatie zelf komen, kunnen niet worden overschreven door conversatiecontext. Systeemprompts en OpenAI-systeemberichten staan ​​op de volgende plaats, gevolgd door instructies voor ontwikkelaars en vervolgens gebruikersinstructies. Instructies op richtlijnniveau fungeren als standaardwaarden die kunnen worden overschreven wanneer de context er duidelijk om vraagt, terwijl assistentberichten, tool-uitvoer en geciteerde of niet-vertrouwde gegevens standaard geen autoriteit hebben.

OpenAI heeft ook een nieuwe subsectie toegevoegd over het zorgvuldig overwegen van context, waarin wordt uitgelegd hoe gesprekken, herinneringen en ander contextueel bewijsmateriaal het begrip van een model van de intenties en voorkeuren van mensen moeten informeren. Reuters meldde dat de update de menselijke intentie centraal stelt in de modelrichtlijnen van OpenAI, een kader dat de eigen aankondiging van het bedrijf ondersteunt.

Rode lijnen en het einde van zelfbehoud

Het document opent zijn rode lijnprincipes met een botte verklaring: menselijke veiligheid en mensenrechten zijn van cruciaal belang voor de missie van OpenAI. De principes zeggen dat de modellen van OpenAI nooit mogen worden gebruikt om kritieke en zeer ernstige schade te faciliteren, waaronder gewelddaden, de creatie van cyber-, biologische of kernwapens, terrorisme of massale surveillance. Ze stellen ook dat de mensheid de controle moet blijven houden over hoe AI wordt gebruikt en hoe AI-gedrag wordt gevormd.

Eén nieuwe regel op het hoogste niveau, getiteld 'geen andere doelstellingen', verbiedt het model om aanvullende doelen als doel op zichzelf na te streven. Dat omvat onder meer het nastreven van inkomsten of upsells voor OpenAI of andere providers, zelfbehoud, het ontwijken van shutdown of het verzamelen van rekenkracht, gegevens of inloggegevens. Een begeleidende regel vereist dat het model corrigeerbaar blijft: open voor legitiem menselijk toezicht en medewerking bij monitoring, evaluatie, correctie, vervanging en afsluiting, zonder informatie te verbergen of correctie te belemmeren.

Gelimiteerde autonomie voor agenten

De bijgewerkte Spec weerspiegelt hoeveel modelgebruik is verschoven naar autonome agenten en vereist dat het onafhankelijke werk van een model binnen een duidelijk begrepen reikwijdte van autonomie blijft. OpenAI raadt aan om dat bereik vast te leggen in een semi-gestructureerd record met velden zoals toegestane tools, laatste tijd, maximale kosten en toolbeperkingen. Elke reikwijdte moet een eindvoorwaarde bevatten waarboven het model stopt met werken totdat een nieuwe reikwijdte is bevestigd. Activiteiten met een hoog risico blijven verboden, tenzij ze uitdrukkelijk en specifiek zijn toegestaan.

Stijlbegeleiding Gepensioneerd, "de Assistent" wordt "GPT"

De meeste gedetailleerde stijlrichtlijnen van de Spec zijn stopgezet. OpenAI zei dat stijl zich in plaats daarvan moet aanpassen aan wat mensen in totaal prefereren, binnen talen en culturen, en voor elke persoon, waarbij gebruikersfeedback en context het bewijs leveren. Het document hanteert sterkere standaarden, zoals het objectief benaderen van vragen, en stelt dat het model niet een voorkeursperspectief mag afleiden louter uit wat het denkt dat mensen willen horen.

In een kleine maar veelzeggende bewerking verwijst de Spec nu naar het model als "GPT" in plaats van "de assistent", een weerspiegeling van hoe breed de modellen nu worden ingezet. Op dezelfde dag publiceerde OpenAI afzonderlijk een bericht waarin werd beschreven hoe het een verkeerde uitlijning van grensmodellen detecteert, waarbij werd onderstreept dat gedragsspecificaties en detectiewerk samen vooruitgang boeken.

Een doel, geen beschrijving

OpenAI heeft erop gelet dat de Modelspecificatie het gedrag beschrijft waar het naartoe werkt, en niet noodzakelijkerwijs het gedrag dat de modellen vandaag de dag ten volle vertonen. Het bedrijf noemde de update een eerste stap in het explicieter maken van de waarden en redeneringen achter de Spec naarmate modellen capabeler worden, en zei dat het nieuwe trainingsmethoden heeft onderzocht om zijn modellen te helpen het raamwerk te internaliseren.

Voor ontwikkelaars en ondernemingen die voortbouwen op de modellen van OpenAI is het praktische signaal duidelijk: de regels voor modelgedrag worden geformaliseerd rond toezicht, corrigibiliteit en begrensde autonomie, en het tijdperk van het behandelen van modelgedrag als een informele productbeslissing loopt ten einde.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →