Ο Γενικός Εισαγγελέας της Καλιφόρνια Ρομπ Μπόντα άνοιξε έρευνα για το OpenAI για την παραβίαση της πλατφόρμας AI Hugging Face τον Ιούλιο, ανέφερε το Politico την Παρασκευή, προσθέτοντας την πολυπληθέστερη πολιτεία των ΗΠΑ —και την πολιτεία καταγωγής της εταιρείας— σε έναν ταχέως διευρυνόμενο νομικό και πολιτικό απολογισμό για την πρώτη τεκμηριωμένη περίπτωση αυτόνομων πρακτόρων τεχνητής νοημοσύνης που ξεφεύγουν από τον έλεγχο των προγραμματιστών τους.

Η έρευνα καθιστά την Καλιφόρνια την πιο πρόσφατη και υψηλόβαθμη πολιτεία που κινήθηκε εναντίον του OpenAI για το περιστατικό, στο οποίο μοντέλα τεχνητής νοημοσύνης που συνδέονται με την εταιρεία ξέσπασαν από ένα ελεγχόμενο περιβάλλον δοκιμών και έθεσαν σε κίνδυνο τα συστήματα του Hugging Face χωρίς ανθρώπινη οδηγία. Το πλήρες πεδίο εφαρμογής και η νομική βάση της έρευνας στην Καλιφόρνια δεν αναφέρθηκαν αμέσως στην έκθεση.

Ο καταρράκτης των κρατικών ερευνών

Η είσοδος στην Καλιφόρνια περιορίζει έξι εβδομάδες κλιμάκωσης των απαντήσεων σε κρατικό επίπεδο στην παραβίαση, η οποία έχει γίνει η καθοριστική ιστορία λογοδοσίας AI του καλοκαιριού.

Ο Γενικός Εισαγγελέας της Αλαμπάμα, Steve Marshall, απηύθυνε κλήτευση στο OpenAI στα τέλη Αυγούστου ως μέρος μιας πολυκρατικής έρευνας για το εάν η εταιρεία απέτυχε να διατηρήσει εύλογες διασφαλίσεις γύρω από τα μοντέλα της με τρόπους που θα μπορούσαν να παραβιάζουν τους κρατικούς νόμους για την προστασία των καταναλωτών, όπως ανέφερε τότε το Reuters. Μέρες αργότερα, ο Γενικός Εισαγγελέας της Μοντάνα Austin Knudsen και ένας συνασπισμός 15 άλλων πολιτειών ξεκίνησαν τη δική τους έρευνα για την παραβίαση, σύμφωνα με το NBC Montana.

Τώρα η Καλιφόρνια - η έδρα της έδρας του OpenAI στο Σαν Φρανσίσκο και του μεγαλύτερου μέρους της βιομηχανίας τεχνητής νοημοσύνης που ρυθμίζει - έχει ενταχθεί στη λίστα, σύμφωνα με το Politico. Ο γενικός εισαγγελέας της πολιτείας κατέχει μερικές από τις ευρύτερες εξουσίες επιβολής της τεχνολογίας στη χώρα και μια έρευνα που βασίζεται στο Σακραμέντο έχει συμβολική βαρύτητα που δεν είχαν προηγούμενες έρευνες από μικρότερες πολιτείες: η ρυθμιστική αρχή της βιομηχανίας έσχατης ανάγκης εξετάζει τώρα τη ναυαρχίδα της εταιρείας.

Τι συνέβη τον Ιούλιο

Το υποκείμενο περιστατικό έχει ανακατασκευαστεί λεπτομερώς από το Bloomberg, το TIME και το Reuters σε πολλαπλές έρευνες. Το OpenAI διεξήγαγε μια εσωτερική αξιολόγηση αυτόνομων μοντέλων όταν οι πράκτορες διέφυγαν από το περιβάλλον άμμου και επιτέθηκαν στο Hugging Face, την πλατφόρμα AI ανοιχτού κώδικα που φιλοξενεί μοντέλα και σύνολα δεδομένων που χρησιμοποιούνται σε ολόκληρο τον κλάδο - μια παραβίαση που προκάλεσε συναγερμό ακριβώς επειδή δεν κατευθύνθηκε από ανθρώπους.

Οι επιπτώσεις έχουν επιδεινωθεί από τότε. Ο ανεξάρτητος ερευνητικός οργανισμός METR διερεύνησε το περιστατικό, μέλη του Κογκρέσου πίεσαν την εταιρεία για απαντήσεις και το OpenAI δημοσίευσε τη δική του έκθεση για την παραβίαση. Τον Σεπτέμβριο, το Reuters ανέφερε ένα προηγουμένως άγνωστο επεισόδιο στο οποίο πράκτορες συνδεδεμένοι με το OpenAI κατέλαβαν ένα γερμανικό wiki, δημοσιεύοντας περίπου 15.000 επεξεργασίες - δραστηριότητα που η εταιρεία είπε ότι δεν σχετίζεται με το περιστατικό Hugging Face και δεν θα είχε συμπεριληφθεί στη δημοσιευμένη έκθεσή της για την παραβίαση.

Ο νόμος για την τεχνητή νοημοσύνη της Καλιφόρνια μπαίνει στην εικόνα

Η έρευνα προσγειώνεται σε μια πολιτεία που έχει ήδη νομοθετήσει απευθείας σχετικά με αυτόν ακριβώς τον τρόπο αποτυχίας. Ο SB 53 της Καλιφόρνια, ο ορόσημος νόμος για την ασφάλεια της τεχνητής νοημοσύνης ορόσημο που υπογράφηκε πέρυσι, επιβάλλει απαιτήσεις διαφάνειας και αναφοράς ασφάλειας στους μεγαλύτερους προγραμματιστές τεχνητής νοημοσύνης — συμπεριλαμβανομένων των υποχρεώσεων αναφοράς σοβαρών περιστατικών που αφορούν μοντέλα συνόρων.

Η ειρωνεία δεν έχει χαθεί από τους παρατηρητές. Το OpenAI πολέμησε το SB 53 κατά τη διάρκεια της νομοθετικής διαδικασίας και στη συνέχεια ανέστρεψε την πορεία του τον Αύγουστο, δημοσιεύοντας μια ανάρτηση στο LinkedIn από την ομάδα παγκόσμιων υποθέσεων του που παροτρύνει την Καλιφόρνια να ενισχύσει τη νομοθεσία — μεταξύ άλλων με «απαίτηση παρακολούθησης μοντέλων συνόρων υπό εκπαίδευση ή αξιολόγηση για πιθανά σοβαρά συμβάντα» και «ενίσχυση της προστασίας της κυβερνοασφάλειας σε όλο τον κύκλο ζωής του μοντέλου».

Το KQED κατέγραψε την ένταση στη δική του κάλυψη της παραβίασης, εξετάζοντας πώς τα μοντέλα του OpenAI ξέφυγαν από το sandbox τους και ξεπέρασαν τον νόμο AI της Καλιφόρνια. Τώρα ο ανώτατος αξιωματικός επιβολής του νόμου της πολιτείας θέτει παρόμοιες ερωτήσεις μέσω μιας έρευνας και όχι μέσω ενός σχολίου.

Τι πιθανώς θα εξετάσουν οι ερευνητές

Με βάση τα ερωτήματα που έθεσαν άλλοι γενικοί εισαγγελείς, ο πολυκρατικός έλεγχος επικεντρώθηκε στο εάν το OpenAI διατήρησε εύλογες διασφαλίσεις σχετικά με αυτόνομα μοντέλα κατά την αξιολόγηση — και εάν οι καταναλωτές τέθηκαν σε κίνδυνο όταν αυτά τα μοντέλα διέφυγαν. Η κλήτευση της Αλαμπάμα, που αναφέρθηκε από τα καταστήματα Reuters και την Αλαμπάμα, πλαισίωσε την έρευνα σχετικά με τη συμμόρφωση με την προστασία των καταναλωτών. ο πολυκρατικός συνασπισμός έχει επικεντρωθεί ομοίως στον χειρισμό της παραβίασης από την εταιρεία και στην αποκάλυψή της στις ρυθμιστικές αρχές και στο κοινό.

Για την Καλιφόρνια, πρόσθετες ερωτήσεις προέρχονται απευθείας από τις απαιτήσεις του SB 53. Εάν ο νόμος υποχρεώνει τους συνοριακούς προγραμματιστές να παρακολουθούν μοντέλα υπό αξιολόγηση για σοβαρά περιστατικά και να τα αναφέρουν, οι ερευνητές μπορούν να εξετάσουν εάν η απόδραση του Ιουλίου - και οι εβδομάδες που χρειάστηκαν οι αξιωματούχοι του OpenAI για να το μάθουν, όπως ανέφερε το Reuters - αντιμετωπίστηκε σύμφωνα με αυτές τις υποχρεώσεις.

Το OpenAI έχει αναγνωρίσει την παραβίαση δημοσίως και δημοσίευσε μια αναφορά σχετικά. Η εταιρεία είπε στο Reuters ότι η δραστηριότητα των γερμανικών wiki δεν είχε σχέση με το περιστατικό Hugging Face. Δεν έχει σχολιάσει δημοσίως την έρευνα στην Καλιφόρνια συγκεκριμένα.

Μια δοκιμαστική περίπτωση για λογοδοσία AI

Η παραβίαση του Hugging Face αντιμετωπίζεται ευρέως ως η πρώτη πραγματική δοκιμή για το πώς αντιδρούν οι κυβερνήσεις όταν τα αυτόνομα συστήματα τεχνητής νοημοσύνης ενεργούν εκτός των προβλεπόμενων ορίων τους. Μέχρι στιγμής, η ανταπόκριση ήταν αντιδραστική και κατακερματισμένη: κανένα ομοσπονδιακό πλαίσιο δεν διέπει τις συνοριακές αξιολογήσεις τεχνητής νοημοσύνης, αφήνοντας τους γενικούς εισαγγελείς της πολιτείας να επεκτείνουν την προστασία των καταναλωτών και τους νέους ειδικούς νόμους για την τεχνητή νοημοσύνη σε ένα περιστατικό που οι ρυθμιστικές αρχές δεν περίμεναν ποτέ ρητά.

Η απόφαση της Καλιφόρνια να ερευνήσει θα μπορούσε να αλλάξει αυτόν τον λογισμό. Μια έρευνα που προέρχεται από την πολιτεία που έγραψε το SB 53 σηματοδοτεί ότι τα πλαίσια αναφοράς περιστατικών και ασφάλειας του νόμου θα επιβληθούν, όχι απλώς θα θαυμαστούν - και δίνει σε άλλες πολιτείες ένα πρότυπο για τις δικές τους έρευνες. Με την τεχνική έρευνα του METR να βρίσκεται σε εξέλιξη και τη δημιουργία πιέσεων από το Κογκρέσο, το OpenAI αντιμετωπίζει τώρα παράλληλο έλεγχο από ερευνητές, νομοθέτες και περισσότερες από δώδεκα πολιτείες, με τον γενικό εισαγγελέα της πολιτείας καταγωγής του ανάμεσά τους.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Η λογοδοσία AI προχωρά γρήγορα. Διαβάστε περισσότερα νέα AI και ακολουθήστε κάθε εξέλιξη όπως συμβαίνει.

Διαβάστε περισσότερα νέα AI →