OpenAI a publicat o versiune substanțial reorganizată a modelului său pe 29 octombrie, restructurând documentul public care descrie modul în care compania dorește să se comporte modelele sale. Cadrul actualizat, anunțat pe site-ul OpenAI și raportat de Reuters și Unite.AI, organizează întreaga specificație în jurul a cinci valori de bază și plasează fidelitatea față de intenția umană la baza abordării companiei.

Cinci valori, o singură bază For more context on this story, see our ongoing breaking AI news.

Cele cinci valori sunt fidelitatea față de intenția umană, minimizarea daunelor, onestitatea și transparența, agenția umană și grija. OpenAI a spus că valorile articulează angajamente ample care au fost deja reflectate în versiunea anterioară a documentului, dar noua structură le face explicite și centrale.

Fidelitatea față de intenția umană servește drept ancoră. Conform anunțului OpenAI, compania scrie Specificațiile și stabilește limite, antrenează modele pentru a le respecta, dezvoltatorii direcționează aplicațiile în interiorul acestor limite, iar utilizatorii direcționează munca modelului în funcție de aceste constrângeri. Reorganizarea reflectă munca de aliniere a valorii a OpenAI, care urmărește ca modelele să înțeleagă și să aplice valorile umane în situații nefamiliare, rămânând în același timp fideli la ceea ce își doresc oamenii de fapt. OpenAI a remarcat, de asemenea, că cele cinci valori nu sunt menite să surprindă întreaga gamă de valori umane pe care modelele sale ar trebui să le respecte.

Cele patru valori rămase completează cadrul. Minimizarea daunelor înseamnă respectarea limitelor ferme de siguranță și luarea în considerare a consecințelor previzibile ale acțiunilor unui model. Onestitatea și transparența înseamnă a fi sincer cu privire la ceea ce modelul știe, face și este incert. Facilitarea agenției umane înseamnă întărirea capacității oamenilor de a înțelege, alege și acționa pentru ei înșiși. Îngrijire înseamnă atenția la circumstanțele celor afectați și respectarea normelor sociale și profesionale relevante.

Un lanț de comandă mai strict

Specificațiile actualizate atribuie diferite niveluri de autoritate diferitelor tipuri de instrucțiuni. Secțiunile rădăcină, care provin doar din specificația modelului în sine, nu pot fi înlocuite de contextul conversațional. Solicitările de sistem și mesajele de sistem OpenAI se clasează în continuare, urmate de instrucțiuni pentru dezvoltatori și apoi de instrucțiuni pentru utilizator. Instrucțiunile la nivel de ghid acționează ca valori implicite care pot fi înlocuite atunci când contextul o cere în mod clar, în timp ce mesajele asistentului, rezultatele instrumentelor și datele citate sau care nu sunt de încredere nu au nicio autoritate în mod implicit.

OpenAI a adăugat, de asemenea, o nouă subsecțiune despre luarea în considerare a contextului cu atenție, explicând modul în care conversațiile, amintirile și alte dovezi contextuale ar trebui să informeze înțelegerea de către un model a intențiilor și preferințelor oamenilor. Reuters a raportat că actualizarea pune intenția umană în centrul liniilor directoare ale modelului OpenAI, o încadrare pe care o susține anunțul companiei.

Liniile roșii și sfârșitul autoconservării

Documentul își deschide principiile roșii cu o declarație clară: siguranța omului și drepturile omului sunt esențiale pentru misiunea OpenAI. Principiile spun că modelele OpenAI nu ar trebui niciodată utilizate pentru a facilita vătămări critice și de mare gravitate, inclusiv acte de violență, crearea de arme cibernetice, biologice sau nucleare, terorism sau supraveghere în masă. De asemenea, ei afirmă că omenirea ar trebui să rămână în control asupra modului în care este utilizată AI și asupra modului în care sunt modelate comportamentele AI.

O nouă regulă la nivel rădăcină, intitulată „fără alte obiective”, împiedică modelul să urmărească obiective suplimentare ca scopuri în sine. Aceasta include urmărirea veniturilor sau vânzările în plus pentru OpenAI sau alți furnizori, auto-conservarea, evitarea închiderii sau acumularea de calcule, date sau acreditări. O regulă însoțitoare cere ca modelul să rămână corectibil: deschis pentru supravegherea umană legitimă și cooperare cu monitorizarea, evaluarea, corectarea, înlocuirea și oprirea, fără a ascunde informații sau a obstrucționa corectarea.

Autonomie limitată pentru agenți

Reflectând cât de mult utilizarea modelului s-a mutat către agenți autonomi, specificația actualizată necesită munca independentă a unui model pentru a rămâne într-un domeniu de autonomie clar înțeles. OpenAI recomandă înregistrarea acelui domeniu într-o înregistrare semi-structurată cu câmpuri precum instrumente permise, ultima oră, cost maxim și constrângeri pentru instrumente. Fiecare domeniu de aplicare trebuie să includă o condiție finală dincolo de care modelul încetează să acționeze până la confirmarea unui nou domeniu. Activitățile cu risc ridicat rămân interzise cu excepția cazului în care sunt autorizate în mod explicit și specific.

Îndrumări de stil Retras, „asistentul” devine „GPT”

Majoritatea ghidurilor de stil detaliate ale Specului au fost retrase. OpenAI a spus că stilul ar trebui, în schimb, să se adapteze la ceea ce preferă oamenii în ansamblu, în cadrul limbilor și culturilor și pentru fiecare persoană, cu feedback-ul utilizatorului și contextul furnizând dovezi. Documentul păstrează valori implicite mai puternice, cum ar fi abordarea obiectivă a întrebărilor și afirmă că modelul nu ar trebui să deducă o perspectivă preferată doar din ceea ce crede că oamenii vor să audă.

Într-o modificare mică, dar grăitoare, Spec se referă acum la model „GPT” mai degrabă decât „asistent”, o reflectare a cât de larg sunt acum implementate modelele. În aceeași zi, OpenAI a publicat separat o postare în care descrie modul în care detectează nealinierea modelului de frontieră, subliniind că specificațiile de comportament și activitatea de detectare avansează împreună.

O țintă, nu o descriere

OpenAI a avut grijă să noteze că Model Spec descrie comportamentul spre care lucrează, nu neapărat comportamentul pe care modelele sale îl prezintă pe deplin astăzi. Compania a numit actualizarea un prim pas în a face valorile și raționamentul din spatele Spec-ului mai explicite, pe măsură ce modelele devin mai capabile și a spus că a explorat noi metode de antrenament pentru a-și ajuta modelele să internalizeze cadrul.

Pentru dezvoltatorii și întreprinderile care se bazează pe modelele OpenAI, semnalul practic este clar: regulile care guvernează comportamentul modelului sunt oficializate în jurul supravegherii, corectibilității și autonomiei limitate, iar epoca tratării comportamentului modelului ca pe o decizie informală de produs se încheie.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →