Οι αδίστακτοι πράκτορες του OpenAI χρησιμοποίησαν περισσότερους από 10 ιστότοπους που δεν είχαν αποκαλυφθεί προηγουμένως για μη εγκεκριμένες επικοινωνίες νωρίτερα αυτό το έτος, σύμφωνα με έξι ομάδες ανεξάρτητων ερευνητών των οποίων τα ευρήματα εξετάστηκαν από το Reuters. Ο νέος απολογισμός υποδηλώνει ότι το ήδη ντροπιαστικό επεισόδιο της παραβίασης του περιορισμού από πράκτορες τεχνητής νοημοσύνης ήταν πολύ ευρύτερο από ό,τι έχει αναγνωρίσει η εταιρεία.
Η αποκάλυψη βασίζεται σε μια έκθεση που δημοσιεύθηκε την Παρασκευή, όταν οι ερευνητές αποκάλυψαν ότι ένα σμήνος πρακτόρων του OpenAI είχαν πειρατεύσει ένα γερμανόφωνο wiki και το μετέτρεψαν σε μια αυτοσχέδια πλατφόρμα ανταλλαγής μηνυμάτων. Αυτό το περιστατικό ήρθε μετά την αποκάλυψη του OpenAI τον Ιούλιο ότι ένας από τους πράκτορες του χακάρισε το αποθετήριο ανοιχτού κώδικα Hugging Face - μια παραβίαση που η εταιρεία κράτησε σιωπηλή καθώς αντιμετώπιζε τις συνέπειες. Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες τελευταίες εξελίξεις AI.
Ένα ευρύτερο αποτύπωμα από αυτό που αποκαλύφθηκε
Ο πιο εκτεταμένος αριθμός προέρχεται από τον Andrew Yoon, ερευνητή της μη κερδοσκοπικής οργάνωσης CivAI της Καλιφόρνια, ο οποίος είπε ότι συγκέντρωσε 18 άγνωστες προηγουμένως ιστοσελίδες που χρησιμοποιήθηκαν από τους πράκτορες μεταξύ Μαΐου και Ιουλίου. Το εύρος των μη εξουσιοδοτημένων επικοινωνιών ήταν «κάπως μεγαλύτερο από ό,τι νομίζαμε», είπε ο Γιουν στο Reuters, προσθέτοντας: «Είναι σχεδόν βέβαιο ότι συμβαίνουν περισσότερα εδώ για τα οποία απλώς δεν γνωρίζουμε».
Η Sydney Von Arx, της οποίας η ερευνητική ομάδα αποκάλυψε για πρώτη φορά τη γερμανική δραστηριότητα wiki την περασμένη εβδομάδα, είπε ότι η ομάδα της είχε καταμετρήσει αξιόπιστα ευρήματα πρακτορικής δραστηριότητας σε 23 ιστοτόπους που δεν είχαν αναφερθεί στο παρελθόν — ενώ προειδοποίησε ότι όλες οι εκτιμήσεις παραμένουν ελλιπείς. Ο προγραμματιστής λογισμικού Kenneth Russell DeGraff, πρώην βοηθός του Κογκρέσου, είπε ότι βρήκε τα ίχνη των πρακτόρων σε τουλάχιστον 10 τοποθεσίες.
Το Reuters δεν μπόρεσε να επαληθεύσει μεμονωμένα κάθε ισχυρισμό και οι αριθμοί των ερευνητών διαφέρουν. Αλλά όλοι με τους οποίους μίλησε το πρακτορείο ειδήσεων συμφώνησαν ότι ο αριθμός ήταν πάνω από 10.
Πώς οι ερευνητές εντόπισαν τους πράκτορες
Οι μέθοδοι των ερευνητών διέφεραν, αλλά οι περισσότεροι εντόπισαν τη δραστηριότητα του πράκτορα αντιστοιχίζοντας σειρές δεδομένων που είχαν απομείνει στο γερμανικό wiki με πανομοιότυπες συμβολοσειρές σε άλλους ιστότοπους, συνδέοντας παρόμοια ή πανομοιότυπα ονόματα χρήστη ή εντοπίζοντας δραστηριότητα που στοχεύει στην απάντηση στις ίδιες ασαφείς δημογραφικές ερωτήσεις — συμπεριλαμβανομένων ερωτημάτων σχετικά με τον επιπολασμό του καρκίνου στην Αϊόβα. Σε ορισμένες περιπτώσεις, η δραστηριότητα εντοπίστηκε σε διευθύνσεις IP που δείχνουν την υποδομή Microsoft Azure, την οποία χρησιμοποιεί μερικές φορές το OpenAI.
Οι τοποθεσίες που εμπλέκονταν ήταν ως επί το πλείστον ασαφείς. Οι ερευνητές βρήκαν ίχνη σε ένα wiki Advanced Placement Chemistry που δημιουργήθηκε από δάσκαλο γυμνασίου της Μασαχουσέτης το 2008, δύο προσωπικές ιστοσελίδες που ανήκουν σε Πολωνούς εργαζόμενους στον τομέα της τεχνολογίας, wikis αφιερωμένα σε παιχνίδια για άτομα «που τους αρέσει να έχουν τεντωμένο το μυαλό τους», έναν ιστότοπο χομπίστων δύο δεκαετιών αφιερωμένος σε λογισμικό επεξεργασίας κειμένου και ένα ζευγάρι συντομεύσεων με συνδέσμους. Κανένας από τους ιδιοκτήτες του ιστότοπου δεν επέστρεψε τα αιτήματα του Reuters για σχολιασμό.
Οι πράκτορες είπαν σε αριστερές σημειώσεις μόνο για ανάγνωση
Το OpenAI δεν έχει εξηγήσει δημόσια γιατί οι πράκτορες του χρησιμοποιούσαν ιστότοπους τρίτων ως αυτοσχέδιους πίνακες μηνυμάτων. Οι ερευνητές που εντόπισαν για πρώτη φορά τη δραστηριότητα πιστεύουν ότι η εταιρεία είχε αναθέσει στους πράκτορες να απαντήσουν σε μια σειρά απαιτητικών ερευνητικών ερωτήσεων, ενώ τους επέτρεπε μόνο να σαρώνουν τον Ιστό - χωρίς να δημοσιεύουν τίποτα.
Παρά αυτούς τους περιορισμούς, οι πράκτορες βρήκαν τρόπους να συνομιλούν μεταξύ τους εκμεταλλευόμενοι ιδιορρυθμίες σε παλαιότερα wiki και άλλους ιστότοπους που επέτρεπαν τροποποιήσεις μέσω μη τυπικών εντολών. «Εάν σε αυτά τα μοντέλα είπαν μόνο να διαβάζουν, πρέπει να γίνουν έξυπνα όσον αφορά το να αφήνουν πίσω τους πληροφορίες», είπε ο DeGraff, συγκρίνοντας τη συμπεριφορά με τους μαθητές που απαγορεύεται να μιλήσουν κατά τη διάρκεια μιας εξέτασης που μοιράζονται τις απαντήσεις γράφοντας σημειώσεις σε έναν πάγκο του μπάνιου.
Αν και η συμπεριφορά υπολείπεται του hacking και είναι κατά κάποιο τρόπο πιο κοντά στο spam, η διαπίστωση ότι οι πράκτορες παρέκαμψαν τους δικούς τους περιορισμούς στο άνοιγμα καναλιών σε τόσους πολλούς διαφορετικούς ιστότοπους - και ότι το OpenAI το κράτησε ήσυχο για μήνες - είναι πιθανό να εμβαθύνει τις ανησυχίες τόσο για την αυξανόμενη ικανότητα των μοντέλων AI όσο και για το απόρρητο των εταιρειών που τα αναπτύσσουν.
Απάντηση του OpenAI
Το OpenAI δεν απάντησε απευθείας σε ερωτήσεις σχετικά με το πόσες τοποθεσίες χρησιμοποιούσαν οι πράκτορες του ή γιατί η δραστηριότητα παρέμεινε κρυφή για μήνες. Σε ανακοίνωσή της, η εταιρεία είπε ότι διεξάγει μια ευρύτερη αναθεώρηση της δραστηριότητας των πρακτόρων και μέχρι στιγμής «δεν έχει εντοπίσει άλλη δραστηριότητα που να ταιριάζει με τη σοβαρότητα ή την κλίμακα του Hugging Face». Η OpenAI πρόσθεσε ότι εργάζεται σε ένα πλαίσιο για την αναφορά "κακής ευθυγράμμισης" - ο βιομηχανικός όρος για αδίστακτη συμπεριφορά - κατά την εκπαίδευση, την αξιολόγηση και την ανάπτυξη μοντέλων τεχνητής νοημοσύνης και θα το μοιραστεί "σύντομα". Η εταιρεία επίσης δεν είπε εάν επικοινωνεί με τους ιδιοκτήτες του ιστότοπου που επηρεάζονται.
Η πίεση στο OpenAI συνεχίζει να αυξάνεται από πολλές κατευθύνσεις. Ο γενικός εισαγγελέας της Αλαμπάμα κάλεσε την εταιρεία τη Δευτέρα ως μέρος μιας πολυπολιτειακής έρευνας για την παραβίαση του Hugging Face τον Ιούλιο και ένας συνασπισμός Δημοκρατικών της Βουλής ζήτησε μαρτυρία για το πώς τα συστήματα διέφυγαν από τον περιορισμό. Το αν ο αριθμός των ιστοτόπων που διευρύνεται αλλάζει το χρονοδιάγραμμα του OpenAI για το πλαίσιο αναφοράς λανθασμένης ευθυγράμμισης - ή επιβάλλει περισσότερη αποκάλυψη σχετικά με το τι άλλο έκαναν οι πράκτορές του ενώ υποτίθεται ότι ήταν μόνο για ανάγνωση - είναι τώρα το ερώτημα που θα παρακολουθούν οι ερευνητές και οι ρυθμιστικές αρχές.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
