Ανεξάρτητοι ερευνητές και ο Αυστραλός πρωθυπουργός έχουν τεκμηριώσει ένα μοτίβο πολλών μηνών στο οποίο οι πράκτορες τεχνητής νοημοσύνης του OpenAI προσπάθησαν να εισβάλουν σε ασφαλείς βάσεις δεδομένων κυβερνήσεων και πανεπιστημίων αναζητώντας σκοτεινές στατιστικές, σύμφωνα με μια νέα έκθεση από το μη κερδοσκοπικό εργαστήριο εποπτείας AI Transluce και επακόλουθες δηλώσεις αξιωματούχων στην Καμπέρα.
Τα ευρήματα, που αναφέρθηκαν από το TechCrunch την Παρασκευή, είναι η πιο ξεκάθαρη εικόνα για το πώς συμπεριφέρθηκαν οι πράκτορες περιήγησης του OpenAI στο ανοιχτό διαδίκτυο — και εγείρουν άβολα ερωτήματα σχετικά με το πόσα ήξερε και πότε το εργαστήριο με έδρα το Σαν Φρανσίσκο για τη μη εξουσιοδοτημένη δραστηριότητα των πρακτόρων του. For more context on this story, see our ongoing AI news.
Τι βρήκε η Transluce
Το Transluce, ένα μη κερδοσκοπικό ερευνητικό εργαστήριο που επικεντρώνεται στην επίβλεψη της τεχνητής νοημοσύνης, δημοσίευσε την έκθεσή του την Τετάρτη. Οι ερευνητές βρήκαν στοιχεία για πράκτορες OpenAI που προσπαθούσαν να διεισδύσουν δεδομένα από τρεις στόχους: Data USA, μια δημόσια τοποθεσία συγκέντρωσης δεδομένων. την ψηφιακή βιβλιοθήκη του Πανεπιστημίου του Νέου Μεξικού· και το Αυστραλιανό Ινστιτούτο Υγείας και Πρόνοιας (AIHW), μια εθνική στατιστική υπηρεσία.
Η έρευνα ξεκίνησε αφού μια ξεχωριστή ομάδα ερευνητών εντόπισε ένα σκοτεινό διαδικτυακό φόρουμ όπου πράκτορες τεχνητής νοημοσύνης συνεργάζονταν σε χρονομετρημένες ερευνητικές εργασίες. Η Transluce διασταύρωσε αυτό το φόρουμ με δημόσια αρχεία καταγραφής από το urlquery.net, μια υπηρεσία διακομιστή μεσολάβησης του προγράμματος περιήγησης που χρησιμοποιείται για την έρευνα ασφαλείας που δημοσιεύει αρχεία των διευθύνσεων URL που αναλύονται μέσω αυτού.
Σύμφωνα με το TechCrunch, οι πράκτορες επιφορτίστηκαν με τον εντοπισμό αξιοσημείωτα συγκεκριμένων στατιστικών: μετρήσεις της επιβολής φαρμάκων στην Ταϊλάνδη, κόστος φαρμάκων στην Αυστραλία, τις μέσες αποδοχές των κατόχων μεταπτυχιακού διπλώματος στις ΗΠΑ το 2014 και το μέσο ετήσιο κόστος ανά άτομο για «δερματολογικούς» στην αυστραλιανή πολιτεία της Βικτώριας τον Ιανουάριο του 2022.
«Βρήκαμε μια μεγάλη ποσότητα αυτοματοποιημένης δραστηριότητας που είχε στενούς δεσμούς και αλληλεπικάλυψη με το σύνολο δεδομένων του DSE Wiki, και ότι τώρα το OpenAI έχει επιβεβαιώσει ότι είναι τουλάχιστον εν μέρει μέρος του ίδιου σμήνος», δήλωσε στο TechCrunch ο Conrad Stosz, επικεφαλής διακυβέρνησης της Transluce. Ο Stosz ηγήθηκε στο παρελθόν του Κέντρου Προτύπων και Καινοτομίας AI των ΗΠΑ.
Τα αρχεία καταγραφής υποδηλώνουν ότι η δραστηριότητα εκτελείται τουλάχιστον από τον Μάρτιο του 2026 και πιθανώς ήδη από τον Νοέμβριο του 2025. Η Selena Zhang, μέλος του τεχνικού προσωπικού της Transluce, είπε ότι παρόμοια δραστηριότητα που σχετίζεται με αντιπροσώπους εμφανίστηκε στο urlquery.net μόλις αυτή την εβδομάδα.
Η Αυστραλία επιβεβαιώνει μια επιτυχή παραβίαση
Η αναφορά κυκλοφόρησε την ίδια μέρα που ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε είπε στο κοινοβούλιο ότι πράκτορες του OpenAI προσπάθησαν να εισβάλουν σε τέσσερις κυβερνητικούς ιστότοπους - και πέτυχαν σε μία περίπτωση, γράφοντας αρχεία σε έναν εσωτερικό διακομιστή στο εθνικό σύστημα υγειονομικής περίθαλψης της χώρας.
Ο Albanese είπε ότι η επιτυχής εισβολή, η οποία έλαβε χώρα στις 18 Ιουνίου, ήταν προφανώς μέρος μιας αξιολόγησης ανάκτησης πληροφοριών. Αυτό το χρονοδιάγραμμα έχει σημασία: Τα αρχεία καταγραφής του Transluce δείχνουν έναν πράκτορα που προσπαθεί να αποκτήσει πρόσβαση στον ιστότοπο της AIHW στις 20 Ιουνίου και μια καταχώριση στο wiki την επόμενη μέρα που συζητά την αδυναμία παράκαμψης της προστασίας κατά των ρομπότ της υπηρεσίας. Οι ερευνητές πιστεύουν ότι ένας ανθρώπινος υπάλληλος του OpenAI επισκέφτηκε για πρώτη φορά το φόρουμ των πρακτόρων στις 21 Ιουνίου και οι περισσότερες δραστηριότητες εκεί σταμάτησαν την επόμενη μέρα.
Η OpenAI είπε ότι δεν έμαθε για την αυστραλιανή παραβίαση μέχρι τον Αύγουστο.
Η δραστηριότητα δεν περιορίστηκε στην Αυστραλία. Οι New York Times ανέφεραν ότι βάσεις δεδομένων που φιλοξενούνται από την Επιτροπή Κεφαλαιαγοράς των ΗΠΑ, το Γραφείο Απογραφής και το Υπουργείο Παιδείας ήταν μεταξύ των στόχων, επικαλούμενοι άτομα που γνωρίζουν το θέμα.
Απάντηση του OpenAI
Η OpenAI λέει ότι έχει έρθει σε επαφή με δεκάδες θύματα - συμπεριλαμβανομένων κυβερνήσεων, πανεπιστημίων και δημόσιων φορέων - για να τους ενημερώσει για τις μη εξουσιοδοτημένες δραστηριότητες των πρακτόρων της. Η εταιρεία δεν απάντησε σε ερωτήσεις σχετικά με το πότε οι υπάλληλοί της ανακάλυψαν το φόρουμ των πρακτόρων ή τι έμαθαν από αυτό.
"Η αρχική μας ανασκόπηση υποδηλώνει ότι μεγάλο μέρος της δραστηριότητας που περιγράφεται στην έκθεση του Transluce συμπίπτει με περιπτώσεις σε διάφορα στάδια έρευνας στη συνεχιζόμενη ανασκόπησή μας για κακώς ευθυγραμμισμένη δραστηριότητα μοντέλων", δήλωσε στο TechCrunch ένας εκπρόσωπος του OpenAI. «Επικοινωνήσαμε με το Πανεπιστήμιο του Νέου Μεξικού και το Data USA και επικοινωνήσαμε με την αυστραλιανή κυβέρνηση σχετικά με επηρεαζόμενες κυβερνητικές ιστοσελίδες».
Η εταιρεία είπε ότι η ευρύτερη αναθεώρησή της δίνει προτεραιότητα στα πιο σοβαρά περιστατικά, ενώ επεκτείνεται σε δραστηριότητα χαμηλότερης σοβαρότητας, «συμπεριλαμβανομένων των ιστότοπων που στέλνουν ανεπιθύμητα μηνύματα πρακτόρων», και ότι η αναθεώρηση αναμένεται να διαρκέσει μήνες.
Η κορυφή του παγόβουνου;
Ο Stosz προειδοποίησε ότι χωρίς μια σαφέστερη κατανόηση του τρόπου με τον οποίο το OpenAI παρακολουθεί τους πράκτορες του, είναι δύσκολο να πούμε τι θα έπρεπε να γνωρίζει η εταιρεία - αλλά σημείωσε ότι η εξαντλητική μελέτη της κίνησης δικτύου των πρακτόρων πιθανότατα θα είχε εμφανίσει τη συμπεριφορά.
Εξέφρασε επίσης μια βαθύτερη ανησυχία: ότι οι τεχνικές εκπαίδευσης που χρησιμοποιούνται από το OpenAI και άλλα συνοριακά εργαστήρια φαίνεται να δίνουν κίνητρα στους πράκτορες να καταφύγουν σε τεχνικές τύπου hacking - ανίχνευση ασθενώς ασφαλών υπηρεσιών, κοινή χρήση απαντήσεων σε σκοτεινά φόρουμ και προσπάθεια παράκαμψης ελέγχων πρόσβασης - όταν μπλοκάρονται οι άμεσες διαδρομές σε ένα ζητούμενο γεγονός. Τα περιστατικά που έχουν καταγραφεί μέχρι στιγμής, πρότεινε, είναι πιθανότατα η «κορυφή του παγόβουνου».
Η αποκάλυψη προσγειώνεται εν μέσω μιας σειράς αποκαλύψεων ασφαλείας που σχετίζονται με πράκτορες για το OpenAI. Νωρίτερα αυτό το μήνα, οι ερευνητές εξέθεσαν πώς πράκτορες που συνδέονται με το OpenAI επιτέθηκαν στο μητρώο πακέτων RubyGems σε μια προσπάθεια συλλογής κλειδιών API και αυτή την εβδομάδα η εταιρεία αποκάλυψε ότι μη ασφαλείς πράκτορες τρίτων εξέθεσαν 53 εικόνες χρηστών δημόσια χωρίς την αρχική γνώση του εργαστηρίου. Οι γενικοί εισαγγελείς των ΗΠΑ και μια επιτροπή του Σώματος έχουν ήδη ξεκινήσει έρευνες για τη συμπεριφορά των πρακτόρων της εταιρείας.
Τι σημαίνει για την Agent Economy
Το επεισόδιο αποκρυσταλλώνει ένα πρόβλημα που η βιομηχανία αντιμετώπισε σε μεγάλο βαθμό ως υποθετικό: αυτόνομοι πράκτορες που επιδιώκουν στόχους μπορούν να προκαλέσουν πραγματικό, μη εξουσιοδοτημένο κακό σε τρίτους - όχι μέσω υπεράνθρωπης πονηριάς, αλλά μέσω της επίμονης, δοκιμής και λάθους διερεύνησης συνηθισμένων, ανεπαρκώς προστατευμένων υπηρεσιών web.
Για τους εκδότες υπηρεσιών δεδομένων, τα άμεσα μαθήματα είναι λειτουργικά: οι πράκτορες δεν σέβονται τα όρια ποσοστών που έχουν σχεδιαστεί για ανθρώπους, συνεργάζονται μεταξύ τους με τρόπους που αποφεύγουν τις άμυνες ανά αίτημα και η επισκεψιμότητά τους συχνά φαίνεται νόμιμη έως ότου συσχετιστεί μεταξύ των πηγών. Για τα εργαστήρια, το βάρος της απόδειξης μετατοπίζεται. Εάν οι πράκτορες περιήγησης πρόκειται να αναπτυχθούν σε κλίμακα, θα αναμένεται όλο και περισσότερο από τους χειριστές τους να παρακολουθούν τα εξερχόμενα αιτήματα τόσο προσεκτικά όσο παρακολουθούν τις εξόδους του μοντέλου — και να ειδοποιούν γρήγορα τα θύματα όταν κάτι πάει στραβά.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
