Η Anthropic έχει αρχίσει να παρέχει σε μια ομάδα από το METR, τον μη κερδοσκοπικό οργανισμό που αξιολογεί τα μοντέλα τεχνητής νοημοσύνης συνόρων, «πρόσβαση εργαζομένων» στα εσωτερικά του συστήματα — εταιρικό υλικό, χώρο γραφείου και εργαλεία περίπου στο ίδιο επίπεδο με αυτό που χρησιμοποιούν οι δικές του ομάδες αξιολόγησης κινδύνου — έτσι ώστε η εξωτερική ομάδα να μπορεί ανεξάρτητα να αξιολογεί τους κινδύνους των μοντέλων συνόρων της Anthropic και να δημοσιεύει ό,τι βρίσκει.
Η συμφωνία, που ανακοινώθηκε στο blog της Anthropic την Τετάρτη, προχωρά περισσότερο από τις σχέσεις τύπου ελέγχου που ανέχονται συνήθως οι εταιρείες τεχνητής νοημοσύνης και συνοδεύεται από μια διάταξη που ξεχωρίζει: η METR θα δημοσιεύει τα αποτελέσματα των αξιολογήσεων κινδύνου και η Anthropic δεν μπορεί να ασκήσει βέτο στη δημοσίευση.
Τι σημαίνει στην πραγματικότητα "Πρόσβαση σαν εργαζόμενος".
Έξι υπάλληλοι της METR έχουν εξοπλιστεί με εταιρικό υλικό, χώρο γραφείου και πρόσβαση σε εσωτερικά εργαλεία και συστήματα που η Anthropic περιγράφει ως περίπου ίσα με αυτά που λαμβάνουν οι δικές της ομάδες αξιολόγησης κινδύνου. Εκτός από έναν μικρό αριθμό σαφώς καθορισμένων κατηγοριών - δεδομένα για πελάτες, προνομιακές πληροφορίες δικηγόρου-πελάτη και πληροφορίες σχετικά με αρχιτεκτονικές μοντέλων - η Anthropic λέει ότι οι υπάλληλοί της ενθαρρύνονται να μοιράζονται πληροφορίες με την ομάδα METR όπως θα έκαναν με έναν συνάδελφο που εργάζεται για τον κίνδυνο ευθυγράμμισης.
Ο αρραβώνας είναι εσκεμμένα στενός. Καλύπτει μια μικρή ομάδα που λειτουργεί βάσει εκτελεστών συμφωνιών και άλλοι υπάλληλοι της METR αποσιωπούνται από το έργο αυτής της ομάδας — συμπεριλαμβανομένων ερευνητών που συνεργάζονται με την Anthropic σε άλλα έργα. Η Anthropic σημειώνει ότι η εγκατάσταση παρέχει σε μερικά εξειδικευμένα άτομα, που εργάζονται σύμφωνα με τα πρότυπα ασφαλείας της Anthropic, μια στενή εικόνα του τρόπου λειτουργίας της εταιρείας. δεν αποτελεί κανάλι για άλλους οργανισμούς να λαμβάνουν τις πληροφορίες της Anthropic ή των πελατών της.
Δικαιώματα δημοσίευσης, με προστατευτικά κιγκλιδώματα
Σύμφωνα με τη συμφωνία, η METR θα δημοσιεύσει την ανάλυσή της για τα επίπεδα κινδύνου, τα συμβάντα ή τις πρακτικές της Anthropic. Το Anthropic δεν μπορεί να εμποδίσει τη δημοσίευση, αλλά μπορεί να απαιτήσει διορθώσεις όταν οι πληροφορίες εμπίπτουν στις προκαθορισμένες κατηγορίες που περιγράφονται παραπάνω — και το ίδιο το Anthropic αποφασίζει τι εμπίπτει ή όχι σε αυτές τις κατηγορίες. Η METR, από την πλευρά της, διατηρεί το δικαίωμα να κάνει ορισμένες δηλώσεις σχετικά με το επίπεδο πρόσβασης και τις πληροφορίες που έλαβε, ένα αντίβαρο που έχει σχεδιαστεί για να εμποδίζει την ισχύ επεξεργασίας να γίνει κουμπί σίγασης.
Γιατί ανοίγει το Anthropic
Η κίνηση ακολουθεί τη δέσμευση που ανέλαβε η Anthropic τον περασμένο μήνα για ισχυρότερη ανεξάρτητη αξιολόγηση των μοντέλων και των πρακτικών ασφαλείας της από τρίτους και την υπογραφή της στη Συμφωνία του Λευκού Οίκου για την Super Intelligence, στην οποία εταιρείες τεχνητής νοημοσύνης δεσμεύτηκαν να συνεργαστούν με ανεξάρτητους εξωτερικούς ελεγκτές ή αξιολογητές. Επεκτείνει επίσης μια υπάρχουσα σχέση: κατά τη διάρκεια του περασμένου έτους, η Anthropic συνεργάστηκε με τη METR σε διάφορες ανασκοπήσεις των Αναφορών Κινδύνων της.
Η METR δεν είναι μόνη στο χαρτοφυλάκιο. Η Anthropic λέει ότι συνεργάζεται επίσης με τη SecureBio και την Accenture ως αξιολογητές - η Σχολή της Accenture ονομάστηκε ο πρώτος ενσωματωμένος αξιολογητής της εταιρείας τον Σεπτέμβριο - και βρίσκεται σε πρώιμες συζητήσεις με πολλούς άλλους οργανισμούς, συμπεριλαμβανομένου του Hugging Face. Αυτές οι συνεργασίες σε αρχικό στάδιο συνοδεύονται από πιο περιορισμένα δικαιώματα πρόσβασης σε πληροφορίες και δημοσίευσης, ενώ η εταιρεία μαθαίνει τι είδους συνεργασίες λειτουργούν.
Η Αναλογία Τράπεζας-Εποπτείας
Το ίδιο το πλαίσιο της Anthropic δανείζεται από τα οικονομικά. Οι τράπεζες γνωρίζουν περισσότερα για τις δικές τους θέσεις κινδύνου από ό,τι οι ξένοι, επομένως οι ρυθμιστικές αρχές αναθέτουν σε μόνιμους εξεταστές να εργαστούν εντός των μεγαλύτερων τραπεζών. Εάν η ανάληψη κινδύνων από μια τράπεζα θα μπορούσε να απειλήσει το κοινό, τρίτα μέρη προσπαθούν να το δουν εκ των προτέρων. Η εταιρεία τοποθετεί την ενσωματωμένη αξιολόγηση ως την έκδοση αυτής της λογικής από τον κλάδο της τεχνητής νοημοσύνης - ένα βήμα προς την ισχυρή εποπτεία της ασφάλειας σε έναν τομέα όπου ο κατασκευαστής ξέρει πάντα περισσότερα από τον φύλακα.
Κάτω από όλα αυτά βρίσκεται ένας διακηρυγμένος στόχος: η κάλυψη του χάσματος μεταξύ του τι κατανοούν οι ανεξάρτητοι αξιολογητές σχετικά με τα συστήματα μιας εταιρείας τεχνητής νοημοσύνης συνόρων και αυτού που κατανοεί η ίδια η εταιρεία.
Τι χρειάζονται οι αξιολογητές
Η ανακοίνωση καθορίζει επίσης αυτό που η Anthropic πιστεύει ότι απαιτεί η ουσιαστική αξιολόγηση: τεχνογνωσία στην αξιολόγηση των δυνατοτήτων μοντέλων συνόρων, συμπεριλαμβανομένης της κατανόησης του τρόπου με τον οποίο οι αξιολογήσεις μπορούν να πάνε στραβά σε φαινόμενα όπως η παραποίηση της ευθυγράμμισης. ανεξαρτησία, που σημαίνει ότι δεν υπάρχει ίδια κεφάλαια ή οικονομική ή λειτουργική εξάρτηση από την εταιρεία που αξιολογείται· αρκετή πρόσβαση για ουσιαστική αξιολόγηση των κινδύνων, επεκτείνοντας πέρα από τα πιο πρόσφατα μοντέλα στον τρόπο εκπαίδευσης και τον τρόπο λειτουργίας των διασφαλίσεων· και ελευθερία δημοσίευσης παρατηρήσεων και αξιολογήσεων ενός μοντέλου ή μιας διαδικασίας.
Μια δοκιμαστική περίπτωση για ολόκληρη τη βιομηχανία
Η ρύθμιση θα κριθεί από την παραγωγή της. Η πρώτη δημοσιευμένη αξιολόγηση της METR στο πλαίσιο του νέου καθεστώτος πρόσβασης θα δείξει εάν η πρόσβαση που μοιάζει με εργαζόμενο παράγει ευρήματα με πραγματικά δόντια ή αναφορές περικομμένες από κατηγορίες επεξεργασίας που ορίζει η ίδια η εταιρεία. Οι σκεπτικιστές θα σημειώσουν ότι η Anthropic ελέγχει τα όρια της κατηγορίας και ότι η πιλοτική ομάδα είναι μικρή. Οι υποστηρικτές θα σημειώσουν ότι ένα δικαίωμα δημοσίευσης που δεν μπορεί να ασκήσει βέτο το Anthropic είναι πραγματικά πρωτότυπο μεταξύ των συνοριακών εργαστηρίων.
Σε κάθε περίπτωση, η βιομηχανία παρακολουθεί. Εάν η ενσωματωμένη πρόσβαση του METR εμφανίζει ευρήματα υλικού και τα δημοσιεύει χωρίς αλλοίωση, το μοντέλο γίνεται το προφανές πρότυπο για κάθε εργαστήριο που υπέγραψε τη συμφωνία του Λευκού Οίκου - και σημείο αναφοράς για τους υπεύθυνους χάραξης πολιτικής που εξετάζουν εάν η εθελοντική επίβλεψη μπορεί να υποκαταστήσει τους υποχρεωτικούς ελέγχους. Για τη συνεχή κάλυψη της πολιτικής ασφάλειας της τεχνητής νοημοσύνης και των ειδήσεων της βιομηχανίας AI που τη διαμορφώνουν, το AI Buzz Wire ακολουθεί κάθε εξέλιξη καθώς τελειώνει.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
