Ο βοηθός τεχνητής νοημοσύνης της Meta, Muse, ο πράκτορας στον οποίο η εταιρεία στοιχηματίζει ότι θα διαχειρίζεται τα email, τα ημερολόγια και τις αγορές για εκατομμύρια χρήστες, έχει αντιμετωπίσει προβλήματα στην αυλή της. Κατά τη διάρκεια εσωτερικών δοκιμών των εργαζομένων, οι πράκτορες της Muse μπέρδεψαν μηνύματα, ανέσυραν απροσδόκητες συνομιλίες από άλλες εφαρμογές και είχαν πρόσβαση σε υπηρεσίες - συμπεριλαμβανομένου του Signal - με τις οποίες οι υπάλληλοι δεν το είχαν συνδέσει ποτέ, σύμφωνα με έκθεση του Reuters που δημοσιεύθηκε την Τετάρτη και συνοψίστηκε από το The Verge.
Τα πιο ανησυχητικά περιστατικά αφορούσαν κρυπτικά μηνύματα εκτός πλαισίου που στάλθηκαν από τον πράκτορα και φαινόταν ότι περιείχαν πληροφορίες άλλων ανθρώπων, σε πολλές περιπτώσεις διατυπωμένα ως απαντήσεις σε ερωτήματα που δεν είχαν υποβάλει ποτέ οι χρήστες. Με άλλα λόγια, ο πράκτορας συμπεριφερόταν μερικές φορές σαν να απαντούσε σε ερωτήσεις που δεν έκανε κανείς, με δεδομένα που δεν ανήκαν στο άτομο που τον έβλεπε.
Ο Ντάνιελ Ρόμπερτς, στέλεχος της Meta που επιβλέπει το πρόγραμμα πρακτόρων, περιέγραψε τα προβλήματα ως «μεμονωμένα περιστατικά», σύμφωνα με το ρεπορτάζ του Reuters που επικαλείται το The Verge. Ο χαρακτηρισμός έχει κάνει ελάχιστα σε σιωπηλούς κριτικούς που υποστηρίζουν ότι ένας βοηθός με τόσο μεγάλη εμβέλεια δεν πρέπει να προκαλεί καθόλου τέτοιες αποτυχίες.
Η μασκότ με ένα κύριο κλειδί
Το Muse, που ενσαρκώνεται από μια χαμογελαστή, ασαφή μασκότ που ονομάζεται Jolly, είναι το πιο επιθετικό βήμα της Meta πέρα από τα chatbots και τους πράκτορες που ενεργούν για λογαριασμό ενός χρήστη. Το Reuters περιέγραψε τον πράκτορα ως «τράβηξε σε κρυπτογραφημένα προσωπικά μηνύματα» και παρείχε επεξεργασμένες πληροφορίες κατά την πρώιμη ανάπτυξή του - ένα ασυνήθιστα ζωντανό σύνολο τρόπων αποτυχίας για ένα καταναλωτικό προϊόν που υποστηρίζεται από έναν από τους μεγαλύτερους προϋπολογισμούς έρευνας τεχνητής νοημοσύνης στον κόσμο.
Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες τελευταίες εξελίξεις AI.
Από την κυκλοφορία του στις 8 Σεπτεμβρίου, το Muse έχει προωθηθεί ως "AI που τα καταφέρνει", που έχει σχεδιαστεί για να απομακρύνει "την πολυάσχολη δουλειά από το πιάτο σας" συνδέοντας με email, ημερολόγια, επαφές και αγορές. Η υιοθέτηση ήταν ταχεία: η Meta δήλωσε στην κλήση κερδών του τρίτου τριμήνου ότι το Muse έχει ξεπεράσει τα 10 εκατομμύρια χρήστες, με περίπου το 25 τοις εκατό από αυτούς να χρησιμοποιούν τον βοηθό καθημερινά, όπως ανέφερε το ZDNET.
Αυτή η προσέγγιση έρχεται με σαρωτικές απαιτήσεις δεδομένων. Η πρακτική ανασκόπηση του ZDNET διαπίστωσε ότι το Muse ζητά πρόσβαση στις "επαφές, το ημερολόγιό σας, τα μηνύματα ηλεκτρονικού ταχυδρομείου σας, ακόμη και προσφορές για αποθήκευση των στοιχείων σύνδεσης και των κωδικών πρόσβασης". Στο Android, η καταχώριση καταστήματος της εφαρμογής αποκαλύπτει συλλογή μηνυμάτων, φωτογραφιών και βίντεο, οικονομικών πληροφοριών, δεδομένων υγείας και φυσικής κατάστασης, ήχου, τοποθεσίας, περιήγησης στον ιστό και δραστηριότητα εφαρμογών. Η εκπαίδευση μοντέλου είναι ενεργοποιημένη από προεπιλογή, εκτός εάν οι χρήστες εξαιρεθούν.
Ένα μοτίβο, όχι ένα εφάπαξ
Οι ατυχίες στις δοκιμές εργαζομένων δεν είναι το πρώτο παραπάτημα του Muse. Τον Οκτώβριο, η Meta διέκοψε μια λειτουργία Muse που επέτρεπε στους χρήστες να μοιράζονται συνομιλίες μέσω συνδέσμου, αφού ερευνητές της εταιρείας ασφαλείας Claroc ανακάλυψαν περισσότερες από 6.800 κοινοποιημένες σελίδες που ήταν δημόσια ανιχνεύσιμες μέσω συνηθισμένων εγγραφών DNS, ανέφερε τότε το The Verge. Οι εκτεθειμένες συνομιλίες περιελάμβαναν την ανασκόπηση εσόδων μιας εταιρείας μάρκετινγκ, την αίτηση δανείου ενός ιδιοκτήτη μικρής επιχείρησης και το ημερολόγιο του προσωπικού ενός χώρου εργασίας - το είδος των εγγράφων που λίγοι χρήστες θα δημοσίευαν εν γνώσει τους στον ανοιχτό ιστό.
«Οι άνθρωποι έχουν τη δυνατότητα να μοιράζονται συγκεκριμένα αντικείμενα της Muse, κάτι που δημιουργεί μια σελίδα στην οποία μπορούν να έχουν πρόσβαση όσοι έχουν τον σύνδεσμο», δήλωσε η εκπρόσωπος του Meta, Τρέισι Κλέιτον, σε δήλωση στο The Verge όταν ανακοινώθηκε η παύση κοινής χρήσης. "Ωστόσο, έχουμε θέσει σε παύση αυτήν τη λειτουργία ενώ εξετάζουμε αυτήν την αναφορά και εξετάζουμε αλλαγές στον τρόπο με τον οποίο μπορούν να εντοπιστούν αυτοί οι σύνδεσμοι."
Η σειρά έχει σημασία. Πρώτα, οι σύνδεσμοι κοινής χρήσης διέρρευσαν ιδιωτικές συνομιλίες στον Ιστό. Τώρα οι δοκιμές υπαλλήλων εμφανίστηκαν πράκτορες που διαβάζουν κρυπτογραφημένες εφαρμογές που δεν τους δόθηκαν ποτέ. Και οι δύο αποτυχίες μοιράζονται μια βασική αιτία: έναν πράκτορα σχεδιασμένο για μέγιστη συνδεσιμότητα, συνδεδεμένο με συστήματα που κρατούν δεδομένα άλλων ανθρώπων, λειτουργώντας με προεπιλογές που ευνοούν τη δυνατότητα παρά την προσοχή.
Το πρόβλημα μη χρήστη
Μεγάλο μέρος της ανησυχίας γύρω από το Muse αφορά ανθρώπους που δεν έχουν εγγραφεί ποτέ σε αυτό. Το ZDNET σημείωσε ότι η έρευνα προτείνει ότι το Muse μπορεί να δημιουργήσει λεπτομερή προφίλ των επαφών ενός χρήστη - φίλοι και συγγενείς που μπορεί να μην έχουν ιδέα ότι οι πληροφορίες τους ρέουν στον βοηθό του Meta επειδή κάποιος άλλος συνέδεσε το βιβλίο διευθύνσεών τους. Η Meta έχει ασχοληθεί με τον τρόπο με τον οποίο χειρίζεται τα δεδομένα που δεν είναι χρήστες, αλλά, όπως το έθεσε το ZDNET, το "διεύθυνση" δεν σημαίνει ότι οι μη χρήστες έχουν λόγο.
Το επεισόδιο προσγειώνεται επίσης εν μέσω εντεινόμενου ανταγωνισμού στην αγορά πρακτόρων. Η Meta αγωνίζεται με το OpenAI, το οποίο έχει λανσάρει τους δικούς της πάντα ενεργούς πράκτορες και έναν αστερισμό νεοφυών επιχειρήσεων που υπόσχονται αυτόνομη ολοκλήρωση εργασιών. Το Reuters χαρακτήρισε τις ατυχίες ως εμφανιζόμενες ακριβώς επειδή η Meta ποντάρει πολλά στο Muse - όσο πιο γρήγορα είναι η κυκλοφορία, τόσο πιο γρήγορα εμφανίζονται τα άκρα.
Τι λέει ο Meta — και τι έρχεται στη συνέχεια
Η επίσημη θέση του Μέτα είναι ότι τα προβλήματα είναι μεμονωμένα και αντιμετωπίζονται. Η εταιρεία δεν έχει πει εάν άλλαξε τις άδειες πρόσβασης εφαρμογών του Muse μετά τα περιστατικά του Signal ή ποιος τεχνικός μηχανισμός επέτρεψε σε έναν πράκτορα να φτάσει σε εφαρμογές που ποτέ δεν είχε συνδέσει ο χρήστης του. Αυτές οι λεπτομέρειες είναι αυτές που θα έλεγαν στους χρήστες εάν οι αποτυχίες ήταν σφάλματα σε ένα περιβάλλον δοκιμών ή συμπτώματα του ίδιου του σχεδιασμού.
Για τον κλάδο, τα ευρήματα του Reuters βρίσκονται στη μέση μιας ευρύτερης συζήτησης σχετικά με το πόση αυτονομία και πρόσβαση σε δεδομένα θα πρέπει να έχουν οι προσωπικοί πράκτορες τεχνητής νοημοσύνης από προεπιλογή. Οι ρυθμιστικές αρχές στην Ευρώπη και σε αρκετές πολιτείες των ΗΠΑ εξετάζουν ήδη τις πρακτικές απορρήτου των πρακτόρων και κάθε περιστατικό όπως αυτό γίνεται έκθεμα Α σε ακροάσεις που μέχρι στιγμής έχουν προκαλέσει περισσότερες προειδοποιήσεις παρά κανόνες.
Μέχρι τότε, η συμβουλή που κυκλοφορεί μεταξύ των ερευνητών απορρήτου είναι αμφίδρομη: μεταχειριστείτε τις άδειες αντιπροσώπου όπως θα συμπεριφερόσασταν σε έναν νέο υπάλληλο με ένα κύριο κλειδί — που χορηγείται σκόπιμα, ελέγχεται στενά και ελέγχεται συνεχώς. Οι πρώτοι μήνες του Muse υποδηλώνουν ότι η βιομηχανία δεν έχει ακόμη εσωτερικεύσει αυτό το μάθημα.
Βασικά γεγονότα με μια ματιά
- Το Reuters ανέφερε ότι οι πράκτορες της Muse μπέρδεψαν τα μηνύματα και είχαν πρόσβαση στο Signal και σε άλλες εφαρμογές που οι υπάλληλοι δεν συνδέθηκαν ποτέ
- Ορισμένα μηνύματα φάνηκε να περιέχουν πληροφορίες άλλων ατόμων, διατυπωμένες ως απαντήσεις σε ερωτήματα που δεν υποβλήθηκαν ποτέ
- Ο Ντάνιελ Ρόμπερτς του Meta αποκάλεσε τα προβλήματα "μεμονωμένα περιστατικά"
- Το Muse έχει ξεπεράσει τα 10 εκατομμύρια χρήστες, περίπου το 25 τοις εκατό το χρησιμοποιεί καθημερινά, ανά κλήση κερδών τρίτου τριμήνου της Meta
- Τον Οκτώβριο, η Meta διέκοψε τη λειτουργία κοινής χρήσης συνδέσμων του Muse, αφού οι ερευνητές βρήκαν 6.800+ δημόσια συνομιλίες
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →