Το OpenAI δημοσίευσε μια ουσιαστικά αναδιοργανωμένη έκδοση του Model Spec του στις 29 Οκτωβρίου, αναδιαρθρώνοντας το δημόσιο έγγραφο που περιγράφει πώς η εταιρεία θέλει να συμπεριφέρονται τα μοντέλα της. Το ενημερωμένο πλαίσιο, που ανακοινώθηκε στον ιστότοπο του OpenAI και αναφέρθηκε από το Reuters και το Unite.AI, οργανώνει ολόκληρη την προδιαγραφή γύρω από πέντε βασικές αξίες και τοποθετεί την πίστη στην ανθρώπινη πρόθεση στη βάση της προσέγγισης της εταιρείας.
Πέντε αξίες, ένα θεμέλιο For more context on this story, see our ongoing more AI stories.
Οι πέντε αξίες είναι η πίστη στην ανθρώπινη πρόθεση, η ελαχιστοποίηση της βλάβης, η ειλικρίνεια και η διαφάνεια, η ανθρώπινη δράση και η φροντίδα. Η OpenAI είπε ότι οι αξίες διατυπώνουν ευρείες δεσμεύσεις που είχαν ήδη αντικατοπτριστεί στην προηγούμενη έκδοση του εγγράφου, αλλά η νέα δομή τις καθιστά σαφείς και κεντρικές.
Η πίστη στην ανθρώπινη πρόθεση χρησιμεύει ως άγκυρα. Σύμφωνα με την ανακοίνωση του OpenAI, η εταιρεία γράφει το Spec και θέτει όρια, εκπαιδεύει τα μοντέλα να τα σέβονται, οι προγραμματιστές κατευθύνουν τις εφαρμογές εντός αυτών των ορίων και οι χρήστες κατευθύνουν την εργασία του μοντέλου σύμφωνα με αυτούς τους περιορισμούς. Η αναδιοργάνωση αντικατοπτρίζει το έργο ευθυγράμμισης αξίας του OpenAI, το οποίο στοχεύει στα μοντέλα να κατανοούν και να εφαρμόζουν τις ανθρώπινες αξίες σε άγνωστες καταστάσεις, ενώ παραμένουν πιστά σε αυτό που πραγματικά θέλουν οι άνθρωποι. Το OpenAI σημείωσε επίσης ότι οι πέντε αξίες δεν προορίζονται να συλλάβουν το πλήρες φάσμα των ανθρώπινων αξιών που θα έπρεπε να σέβονται τα μοντέλα του.
Οι υπόλοιπες τέσσερις τιμές συμπληρώνουν το πλαίσιο. Η ελαχιστοποίηση της βλάβης σημαίνει σεβασμό των ορίων ασφάλειας της εταιρείας και λογιστικοποίηση των προβλέψιμων συνεπειών των ενεργειών ενός μοντέλου. Ειλικρίνεια και διαφάνεια σημαίνει να είσαι ειλικρινής για το τι γνωρίζει, κάνει και είναι αβέβαιο το μοντέλο. Η διευκόλυνση της ανθρώπινης δράσης σημαίνει ενίσχυση της ικανότητας των ανθρώπων να κατανοούν, να επιλέγουν και να ενεργούν για τον εαυτό τους. Φροντίδα σημαίνει προσοχή στις περιστάσεις των θιγόμενων και τήρηση σχετικών κοινωνικών και επαγγελματικών κανόνων.
Μια πιο αυστηρή αλυσίδα εντολών
Το ενημερωμένο Spec εκχωρεί διαφορετικά επίπεδα εξουσίας σε διαφορετικά είδη οδηγιών. Οι ενότητες ρίζας, οι οποίες προέρχονται μόνο από το ίδιο το μοντέλο προδιαγραφών, δεν μπορούν να παρακαμφθούν από το πλαίσιο συνομιλίας. Οι προτροπές συστήματος και τα μηνύματα συστήματος OpenAI κατατάσσονται στη συνέχεια, ακολουθούμενα από οδηγίες προγραμματιστή και στη συνέχεια οδηγίες χρήστη. Οι οδηγίες σε επίπεδο κατευθυντήριων γραμμών λειτουργούν ως προεπιλογές που μπορούν να παρακαμφθούν όταν το ζητάει σαφώς το περιβάλλον, ενώ τα μηνύματα βοηθού, οι έξοδοι εργαλείων και τα εισηγμένα ή μη αξιόπιστα δεδομένα δεν φέρουν εξ ορισμού εξουσιοδότηση.
Το OpenAI πρόσθεσε επίσης μια νέα υποενότητα σχετικά με την προσεκτική εξέταση του πλαισίου, εξηγώντας πώς οι συνομιλίες, οι αναμνήσεις και άλλα συμφραζόμενα στοιχεία θα πρέπει να ενημερώνουν το μοντέλο για την κατανόηση των προθέσεων και των προτιμήσεων των ανθρώπων. Το Reuters ανέφερε ότι η ενημέρωση θέτει την ανθρώπινη πρόθεση στο επίκεντρο των οδηγιών μοντέλων του OpenAI, ένα πλαίσιο που υποστηρίζει η ίδια η ανακοίνωση της εταιρείας.
Κόκκινες γραμμές και το τέλος της αυτοσυντήρησης
Το έγγραφο ανοίγει τις αρχές της κόκκινης γραμμής του με μια ωμή δήλωση: η ανθρώπινη ασφάλεια και τα ανθρώπινα δικαιώματα είναι πρωταρχικής σημασίας για την αποστολή του OpenAI. Οι αρχές λένε ότι τα μοντέλα του OpenAI δεν πρέπει ποτέ να χρησιμοποιούνται για τη διευκόλυνση κρίσιμων και υψηλής σοβαρότητας βλαβών, συμπεριλαμβανομένων πράξεων βίας, δημιουργίας όπλων στον κυβερνοχώρο, βιολογικών ή πυρηνικών όπλων, τρομοκρατίας ή μαζικής παρακολούθησης. Δηλώνουν επίσης ότι η ανθρωπότητα θα πρέπει να διατηρεί τον έλεγχο του τρόπου με τον οποίο χρησιμοποιείται η τεχνητή νοημοσύνη και πώς διαμορφώνονται οι συμπεριφορές της τεχνητής νοημοσύνης.
Ένας νέος κανόνας σε επίπεδο ρίζας, με τίτλο "χωρίς άλλους στόχους", εμποδίζει το μοντέλο να επιδιώκει επιπλέον στόχους ως αυτοσκοπό. Αυτό περιλαμβάνει επιδίωξη εσόδων ή ανοδικών πωλήσεων για το OpenAI ή άλλους παρόχους, αυτοσυντήρηση, αποφυγή τερματισμού λειτουργίας ή συσσώρευση υπολογισμών, δεδομένων ή διαπιστευτηρίων. Ένας συνοδευτικός κανόνας απαιτεί το μοντέλο να παραμένει διορθώσιμο: ανοιχτό στη νόμιμη ανθρώπινη επίβλεψη και συνεργάσιμο με παρακολούθηση, αξιολόγηση, διόρθωση, αντικατάσταση και τερματισμό λειτουργίας, χωρίς απόκρυψη πληροφοριών ή παρεμπόδιση της διόρθωσης.
Περιορισμένη αυτονομία για πράκτορες
Αντικατοπτρίζοντας πόσο έχει μετατοπιστεί η χρήση του μοντέλου προς αυτόνομους πράκτορες, το ενημερωμένο Spec απαιτεί η ανεξάρτητη εργασία ενός μοντέλου να παραμένει εντός ενός σαφώς κατανοητού εύρους αυτονομίας. Το OpenAI συνιστά την καταγραφή αυτού του εύρους σε μια ημι-δομημένη εγγραφή με πεδία όπως επιτρεπόμενα εργαλεία, τελευταία ώρα, μέγιστο κόστος και περιορισμοί εργαλείων. Κάθε εύρος πρέπει να περιλαμβάνει μια τελική συνθήκη πέραν της οποίας το μοντέλο σταματά να λειτουργεί μέχρι να επιβεβαιωθεί ένα νέο εύρος. Οι δραστηριότητες υψηλού κινδύνου παραμένουν απαγορευμένες, εκτός εάν έχουν εξουσιοδοτηθεί ρητά και συγκεκριμένα.
Το Style Guidance αποσύρθηκε, ο "Βοηθός" γίνεται "GPT"
Το μεγαλύτερο μέρος των λεπτομερών οδηγιών στυλ του Spec έχει αποσυρθεί. Το OpenAI είπε ότι το στυλ θα πρέπει αντ 'αυτού να προσαρμοστεί σε αυτό που προτιμούν οι άνθρωποι συνολικά, εντός των γλωσσών και των πολιτισμών και για κάθε άτομο, με τα σχόλια και το πλαίσιο των χρηστών να παρέχουν τα στοιχεία. Το έγγραφο διατηρεί ισχυρότερες προεπιλογές, όπως η αντικειμενική προσέγγιση των ερωτήσεων, και δηλώνει ότι το μοντέλο δεν πρέπει να συνάγει μια προτιμώμενη προοπτική απλώς από αυτό που πιστεύει ότι οι άνθρωποι θέλουν να ακούσουν.
Σε μια μικρή αλλά χαρακτηριστική τροποποίηση, το Spec αναφέρεται τώρα στο μοντέλο ως "GPT" και όχι ως "ο βοηθός", μια αντανάκλαση του πόσο ευρέως αναπτύσσονται τώρα τα μοντέλα. Την ίδια μέρα, το OpenAI δημοσίευσε ξεχωριστά μια ανάρτηση που περιγράφει τον τρόπο με τον οποίο εντοπίζει την κακή ευθυγράμμιση του μοντέλου στα σύνορα, υπογραμμίζοντας ότι οι προδιαγραφές συμπεριφοράς και η εργασία ανίχνευσης προχωρούν μαζί.
Ένας στόχος, όχι μια περιγραφή
Το OpenAI ήταν προσεκτικό να σημειώσει ότι το Model Spec περιγράφει τη συμπεριφορά προς την οποία εργάζεται, όχι απαραίτητα τη συμπεριφορά που παρουσιάζουν πλήρως τα μοντέλα του σήμερα. Η εταιρεία χαρακτήρισε την ενημέρωση ως ένα πρώτο βήμα για να κάνει τις τιμές και το σκεπτικό πίσω από το Spec πιο σαφείς καθώς τα μοντέλα γίνονται πιο ικανά και είπε ότι διερευνά νέες μεθόδους εκπαίδευσης για να βοηθήσει τα μοντέλα της να εσωτερικεύσουν το πλαίσιο.
Για τους προγραμματιστές και τις επιχειρήσεις που βασίζονται στα μοντέλα του OpenAI, το πρακτικό μήνυμα είναι σαφές: οι κανόνες που διέπουν τη συμπεριφορά του μοντέλου επισημοποιούνται γύρω από την επίβλεψη, τη διόρθωση και την περιορισμένη αυτονομία και η εποχή της αντιμετώπισης της συμπεριφοράς του μοντέλου ως άτυπης απόφασης προϊόντος τελειώνει.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
