OpenAI ha pubblicato una versione sostanzialmente riorganizzata delle sue Model Spec il 29 ottobre, ristrutturando il documento pubblico che descrive come l'azienda vuole che i suoi modelli si comportino. Il quadro aggiornato, annunciato sul sito di OpenAI e riportato da Reuters e Unite.AI, organizza l'intera specifica attorno a cinque valori fondamentali e pone la fedeltà all'intento umano alla base dell'approccio dell'azienda.

Cinque valori, un fondamento Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.

I cinque valori sono fedeltà all’intento umano, minimizzazione del danno, onestà e trasparenza, azione umana e cura. OpenAI ha affermato che i valori articolano impegni generali che erano già riflessi nella versione precedente del documento, ma la nuova struttura li rende espliciti e centrali.

La fedeltà all’intento umano funge da ancoraggio. Secondo l'annuncio di OpenAI, la società scrive le specifiche e stabilisce i limiti, forma i modelli per rispettarli, gli sviluppatori dirigono le applicazioni entro tali limiti e gli utenti dirigono il lavoro del modello soggetto a tali vincoli. La riorganizzazione riflette il lavoro di allineamento dei valori di OpenAI, che mira a creare modelli in grado di comprendere e applicare i valori umani in situazioni non familiari rimanendo fedeli a ciò che le persone realmente vogliono. OpenAI ha inoltre osservato che i cinque valori non intendono catturare l’intera gamma di valori umani che i suoi modelli dovrebbero rispettare.

I restanti quattro valori riempiono il riquadro. Ridurre al minimo i danni significa rispettare i limiti di sicurezza rigorosi e tenere conto delle conseguenze prevedibili delle azioni di un modello. Onestà e trasparenza significano essere sinceri su ciò che il modello sa, fa e di cui è incerto. Facilitare l'azione umana significa rafforzare la capacità delle persone di comprendere, scegliere e agire per se stesse. Prendersi cura significa prestare attenzione alle circostanze delle persone colpite e seguire le norme sociali e professionali pertinenti.

Una catena di comando più rigorosa

Le specifiche aggiornate assegnano diversi livelli di autorità a diversi tipi di istruzioni. Le sezioni root, che provengono solo dalla specifica del modello stesso, non possono essere sovrascritte dal contesto di conversazione. I prompt di sistema e i messaggi di sistema OpenAI si classificano successivamente, seguiti dalle istruzioni per lo sviluppatore e quindi dalle istruzioni per l'utente. Le istruzioni a livello di linea guida agiscono come impostazioni predefinite che possono essere sovrascritte quando il contesto lo richiede chiaramente, mentre i messaggi dell'assistente, gli output degli strumenti e i dati citati o non attendibili non hanno autorità per impostazione predefinita.

OpenAI ha anche aggiunto una nuova sottosezione sulla considerazione attenta del contesto, spiegando come conversazioni, ricordi e altre prove contestuali dovrebbero informare la comprensione di un modello delle intenzioni e delle preferenze delle persone. Reuters ha riferito che l'aggiornamento pone l'intento umano al centro delle linee guida del modello OpenAI, un quadro supportato dall'annuncio stesso dell'azienda.

Linee rosse e la fine dell'autoconservazione

Il documento apre i suoi principi fondamentali con una dichiarazione schietta: la sicurezza umana e i diritti umani sono fondamentali per la missione di OpenAI. I principi affermano che i modelli di OpenAI non dovrebbero mai essere utilizzati per facilitare danni critici e di elevata gravità, inclusi atti di violenza, la creazione di armi informatiche, biologiche o nucleari, terrorismo o sorveglianza di massa. Affermano inoltre che l’umanità dovrebbe mantenere il controllo su come viene utilizzata l’intelligenza artificiale e su come vengono modellati i comportamenti dell’intelligenza artificiale.

Una nuova regola di livello base, intitolata "nessun altro obiettivo", impedisce al modello di perseguire obiettivi aggiuntivi fini a se stessi. Ciò include il perseguimento di entrate o vendite per OpenAI o altri fornitori, l’autoconservazione, l’elusione della chiusura o l’accumulo di elaborazione, dati o credenziali. Una regola complementare richiede che il modello rimanga correggibile: aperto alla legittima supervisione umana e cooperativo con il monitoraggio, la valutazione, la correzione, la sostituzione e la chiusura, senza nascondere informazioni o ostacolare la correzione.

Autonomia limitata per gli agenti

Riflettendo quanto l’utilizzo del modello si sia spostato verso agenti autonomi, le specifiche aggiornate richiedono che il lavoro indipendente di un modello rimanga all’interno di un ambito di autonomia chiaramente compreso. OpenAI consiglia di registrare tale ambito in un record semistrutturato con campi quali strumenti consentiti, ora più recente, costo massimo e vincoli dello strumento. Ogni ambito deve includere una condizione finale oltre la quale il modello smette di agire fino alla conferma di un nuovo ambito. Le attività ad alto rischio restano vietate a meno che non siano esplicitamente e specificatamente autorizzate.

Style Guidance in pensione, "l'Assistente" diventa "GPT"

La maggior parte delle indicazioni dettagliate sullo stile delle specifiche sono state ritirate. OpenAI ha affermato che lo stile dovrebbe invece adattarsi a ciò che le persone preferiscono nel loro insieme, all’interno delle lingue e delle culture e per ogni persona, con il feedback degli utenti e il contesto che ne forniscono la prova. Il documento mantiene valori predefiniti più forti, come l’approccio obiettivo alle domande, e afferma che il modello non dovrebbe dedurre una prospettiva preferita semplicemente da ciò che pensa che le persone vogliano sentire.

In una modifica piccola ma significativa, le specifiche ora si riferiscono al modello come "GPT" anziché "l'assistente", un riflesso dell'ampiezza con cui i modelli vengono ora distribuiti. Lo stesso giorno, OpenAI ha pubblicato separatamente un post che descrive come rileva il disallineamento del modello di frontiera, sottolineando che le specifiche comportamentali e il lavoro di rilevamento stanno avanzando insieme.

Un obiettivo, non una descrizione

OpenAI è stata attenta a notare che le specifiche del modello descrivono il comportamento verso cui sta lavorando, non necessariamente il comportamento che i suoi modelli mostrano pienamente oggi. L’azienda ha definito l’aggiornamento un primo passo per rendere più espliciti i valori e il ragionamento alla base delle Spec man mano che i modelli diventano più capaci, e ha affermato che sta esplorando nuovi metodi di formazione per aiutare i suoi modelli a interiorizzare il framework.

Per gli sviluppatori e le imprese che si basano sui modelli OpenAI, il segnale pratico è chiaro: le regole che governano il comportamento del modello vengono formalizzate attorno alla supervisione, alla correggibilità e all’autonomia limitata, e l’era in cui si trattava il comportamento del modello come una decisione informale sul prodotto sta finendo.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →