Οι ερευνητές ασφαλείας έχουν τεκμηριώσει ένα κρυφό σύστημα που αποστέλλεται σε κάθε Mac: ένα ζευγάρι διεργασιών παρασκηνίου που δημιουργούν αθόρυβα ένα λεπτομερές, αμφισβητήσιμο γράφημα γνώσεων σχετικά με το άτομο που χρησιμοποιεί το μηχάνημα και όλους τους γύρω του - τις επαφές του, τις οικογενειακές του σχέσεις, τις καθημερινές του συνήθειες, ακόμη και τα δεδομένα του προσώπου τους - χωρίς σχεδόν καμία επίσημη τεκμηρίωση από την Apple.
Η ανάλυση, που δημοσιεύθηκε στις 28 Οκτωβρίου στο ιστολόγιο Eighth Rank από τους ερευνητές Dario Pasquini και Michał Bazyli, επανεμφανίστηκε με σημαντικό τρόπο αυτή την εβδομάδα όταν εμφανίστηκε στην πρώτη σελίδα του Hacker News την Παρασκευή, συγκεντρώνοντας περισσότερους από 750 βαθμούς και μια μακρά συζήτηση για το απόρρητο στη συσκευή. Τα πάντα στη συγγραφή συγκεντρώθηκαν στο macOS 26, έκδοση 26.6.2, σύμφωνα με τους συγγραφείς. For more context on this story, see our ongoing more AI stories.
Δύο Δαίμονες, Πενήντα Ένα Βάσεις Δεδομένων
Το σύστημα έχει κατασκευαστεί από δύο δαίμονες που έχουν αποσταλεί με κάθε Mac από τότε που έφτασε το macOS 13 το 2022: Knownstructiond και Intelligenceplatformd. Η τεκμηρίωση της ίδιας της Apple για τον μηχανισμό αντιστοιχεί σε μια ενιαία σελίδα ανθρώπου, η οποία περιγράφει την κατασκευή γνώσης ως έναν δαίμονα που "αναλύει το περιεχόμενο σε αυτήν τη συσκευή για να βοηθήσει στη δημιουργία ενός γραφήματος γνώσεων γενικού σκοπού" — και λίγο περισσότερο.
Σύμφωνα με τους ερευνητές, οι δαίμονες διασταυρώνουν σχεδόν ό,τι μπορεί να δει το λειτουργικό σύστημα: Επαφές, Ημερολόγιο, Φωτογραφίες (συμπεριλαμβανομένων δεδομένων προσώπου), Μηνύματα και αλληλογραφία, τοποθεσία, Χρόνος στην οθόνη, Δεδομένα κοινής χρήσης οικογένειας — συμπεριλαμβανομένης της ηλικίας κάθε μέλους ενός νοικοκυριού — την επαφή έκτακτης ανάγκης Medical ID στο Health, συμβάντα και επαφές που εμφανίζονται από Siri Suggestions, άτομα που έχουν εγκατασταθεί σε εφαρμογές Appparty και τρίτες λίστες.
Το αποτέλεσμα ζει σε ~/Library/IntelligencePlatform: πενήντα μία βάσεις δεδομένων SQLite αποθηκευμένες σε απλό κείμενο, προστατευμένες από περιστασιακή πρόσβαση από την πύλη TCC Full Disk Access του macOS. Η καρδιά του συστήματος είναι το graph.db, ένα τριπλό κατάστημα γραμμένο σε ένα λεξιλόγιο 181 κατηγοριών οντοτήτων και 278 κατηγορημάτων. Κάθε σειρά κωδικοποιεί ένα θέμα, ένα κατηγόρημα και ένα αντικείμενο - ένα άτομο, έναν τύπο σχέσης και ένα άλλο άτομο, μέρος, οργανισμό ή γεγονός - με κάθε άκρο να φέρει βαθμολογίες εμπιστοσύνης, μετρήσεις πηγών και χρονικές σημάνσεις.
Η ζωή σου, κατηγοριοποιημένη
Το εύρος της οντολογίας είναι εκεί που η έρευνα γίνεται εντυπωσιακή. Οι ερευνητές κατέγραψαν και τις 181 κατηγορίες οντοτήτων και διαπίστωσαν ότι οι 57 από αυτές - σχεδόν το ένα τρίτο του λεξιλογίου - περιγράφουν δραστηριότητες: ύπνο, άσκηση, συνεδρίες ενσυνειδητότητας, κατάκλιση, μετακίνηση, φαγητό. Δίπλα στο γράφημα υπάρχουν βοηθητικοί πίνακες που καταγράφουν ποιος εμφανίζεται με ποιον στις φωτογραφίες σας και ένα αρχείο καταγραφής επικοινωνίας που καταγράφει ποιος έστειλε μήνυμα σε ποιον, πότε, σε ποια εφαρμογή και προς ποια κατεύθυνση — μόνο μεταδεδομένα, χωρίς περιεχόμενο μηνυμάτων.
Τα σαράντα έξι από τα κατηγορήματα είναι τύποι σχέσεων που δημιουργούν τις άκρες μεταξύ των ανθρώπων, με τον τρόπο που το σύστημα καταγράφει όχι μόνο ποιους γνωρίζετε αλλά και πώς σχετίζονται μεταξύ τους. Αυτή η ικανότητα είναι που οδήγησε τους χρήστες του Hacker News να συνοψίσουν την ανακάλυψη χωρίς λόγο: κάθε Mac αποστέλλει έναν ταξινομητή μελών της οικογένειας χωρίς έγγραφα.
Το γράφημα δεν είναι αδρανές μεταδεδομένα. Οι ερευνητές το περιγράφουν ως ένα αμφισβητούμενο κατάστημα από το οποίο ανακτούν τα μεγάλα γλωσσικά μοντέλα — το υπόστρωμα που επιτρέπει στο Apple Intelligence να απαντά σε ερωτήσεις σχετικά με τις «φωτογραφίες της αδερφής μου από το περασμένο καλοκαίρι» χωρίς να στέλνει δεδομένα στο cloud. Οι ερευνητές της Apple δημοσίευσαν μια εργασία σχετικά με τις υποκείμενες τεχνικές κατασκευής γραφημάτων το 2023, αλλά οι ερευνητές σημειώνουν ότι σχεδόν τίποτα δεν έχει δημοσιευτεί σχετικά με τον τρόπο ενσωμάτωσης του συστήματος στο λειτουργικό σύστημα αποστολής.
Ανοιχτός κώδικας για μια ματιά — και μια προειδοποίηση
Για να επιτρέψουν στους χρήστες να επιθεωρήσουν τα δικά τους γραφήματα, οι ερευνητές κυκλοφόρησαν το iKnow, έναν πίνακα ελέγχου ανοιχτού κώδικα που διαβάζει τα περιεχόμενα της ~/Library/IntelligencePlatform και αποδίδει όσα πιστεύει το σύστημα για εσάς και την οικογένειά σας.
Το τελευταίο τμήμα της εφημερίδας είναι εσκεμμένα προκλητικό. Οι συγγραφείς εκτελούν ένα πείραμα σκέψης - το οποίο σημειώνουν ότι ισχύει για οποιοδήποτε εξατομικευμένο σύστημα - δείχνοντας τι συμβαίνει εάν μια τέτοια βάση γνώσεων καταλήξει σε λάθος χέρια, συνδυάζοντάς το με ένα μοντέλο γλώσσας "απαλλαγμένο" (το οποίο έχει αφαιρεθεί η εκπαίδευση για την ασφάλεια) για να δείξουν πώς ένα "μονό σημείο αποτυχίας απορρήτου" μπορεί να οπλιστεί εναντίον ενός χρήστη με τρόπους που δεν μπορούν να διαρρεύσουν μεμονωμένα δεδομένα.
Η μεγαλύτερη εικόνα
Το εύρημα προσαρμόζεται αμήχανα στο μάρκετινγκ για την προστασία της ιδιωτικής ζωής που καθόρισε τη στρατηγική AI της Apple: η επεξεργασία στη συσκευή είναι πραγματικά πιο ιδιωτική από τις εναλλακτικές λύσεις στο cloud, αλλά αυτή η έρευνα δείχνει ότι το "παραμένει στη συσκευή σας" δεν σημαίνει ότι "μένει μικρή". Ένα τοπικό σύστημα που γνωρίζει το πρόγραμμα ύπνου σας, τις μετακινήσεις σας, το οικογενειακό σας δέντρο και το ιστορικό φωτογραφιών σας είναι ένας στόχος μεγάλης αξίας — είτε η απειλή είναι κακόβουλος παράγοντας με σύντομη πρόσβαση σε φορητό υπολογιστή, μελλοντική ευπάθεια λογισμικού ή υπερβολικά ικανός τοπικός πράκτορας που παρακινείται να κάνει κακή χρήση όσων μπορεί να ζητήσει.
Κανένα από τα δεδομένα, τονίζουν οι ερευνητές, δεν μεταδίδεται εκτός συσκευής από τους ίδιους τους δαίμονες. η ανάλυση αφορούσε τι αποθηκεύεται τοπικά και πώς. Αλλά καθώς οι βοηθοί τεχνητής νοημοσύνης αποκτούν βαθύτερη πρόσβαση στο τοπικό πλαίσιο, το βασικό σημείο των ερευνητών είναι: οι χρήστες δεν είχαν σαφή εικόνα για το τι κατασκευάζουν οι δικές τους μηχανές γι' αυτούς και έπρεπε να αναθεωρήσουν την απάντηση οι ίδιοι.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
