सुरक्षा संशोधकांनी लपविलेल्या प्रणालीचे दस्तऐवजीकरण केले आहे जी प्रत्येक Mac वर पाठवली जाते: पार्श्वभूमी प्रक्रियांची एक जोडी जी मशीन वापरणाऱ्या व्यक्तीबद्दल आणि त्यांच्या सभोवतालच्या प्रत्येक व्यक्तीबद्दल शांतपणे तपशीलवार, क्वेरी करण्यायोग्य ज्ञान आलेख तयार करते — त्यांचे संपर्क, त्यांचे कौटुंबिक नातेसंबंध, त्यांची दिनचर्या, अगदी त्यांचा चेहरा डेटा — Apple कडून जवळजवळ कोणतेही अधिकृत दस्तऐवजीकरण नाही.
Dario Pasquini आणि Michał Bazyli या संशोधकांच्या आठव्या रँक ब्लॉगवर 28 ऑक्टोबर रोजी प्रकाशित झालेले विश्लेषण, शुक्रवारी हॅकर न्यूजच्या पहिल्या पानावर आले तेव्हा मोठ्या प्रमाणात पुनरावृत्ती झाली, 750 हून अधिक गुण आणि ऑन-डिव्हाइस गोपनीयतेबद्दल दीर्घ वादविवाद. लेखकांच्या मते, लेखनातील सर्व काही macOS 26, आवृत्ती 26.6.2 वर गोळा केले गेले. For more context on this story, see our ongoing AI trends.
दोन डिमन, पन्नास-एक डेटाबेस
2022 मध्ये macOS 13 आल्यापासून प्रत्येक Mac सोबत पाठवलेल्या दोन डिमनने ही प्रणाली तयार केली आहे: knowledgeconstructiond and intelligenceplatformd. यंत्रणेसाठी Apple चे स्वतःचे दस्तऐवज हे सिंगल मॅन पेजचे आहे, जे नॉलेज कंस्ट्रक्शनचे डिमन म्हणून वर्णन करते जे "सामान्य हेतू ज्ञान आलेख तयार करण्यात मदत करण्यासाठी या डिव्हाइसवरील सामग्रीचे विश्लेषण करते" — आणि थोडे अधिक.
संशोधकांच्या म्हणण्यानुसार, ऑपरेटिंग सिस्टम पाहू शकणाऱ्या जवळजवळ प्रत्येक गोष्टीचे डिमन क्रॉस-रेफरन्स करतात: संपर्क, कॅलेंडर, फोटो (चेहरा डेटासह), संदेश आणि मेल, स्थान, स्क्रीन वेळ, कौटुंबिक सामायिकरण डेटा — घरातील प्रत्येक सदस्याच्या वयासह — आरोग्यामधील वैद्यकीय आयडी आपत्कालीन संपर्क, सिरी सूचनांद्वारे समोर आलेले कार्यक्रम आणि संपर्क, ॲपद्वारे स्थापित केलेल्या तृतीय भाग आणि ॲपद्वारे स्थापित केलेल्या देणगीदारांची यादी. ॲप्स
परिणाम ~/Library/IntelligencePlatform मध्ये राहतो: प्लेनटेक्स्टमध्ये संग्रहित केलेले एकावन्न SQLite डेटाबेस, macOS च्या TCC फुल डिस्क ऍक्सेस गेटद्वारे कॅज्युअल ऍक्सेसपासून संरक्षित. प्रणालीचे हृदय graph.db आहे, 181 घटक वर्ग आणि 278 प्रेडिकेट्सच्या शब्दसंग्रहात लिहिलेले तिहेरी स्टोअर. प्रत्येक पंक्ती एक विषय, एक प्रिडिकेट आणि ऑब्जेक्ट एन्कोड करते — एक व्यक्ती, नातेसंबंधाचा प्रकार आणि दुसरी व्यक्ती, ठिकाण, संस्था किंवा इव्हेंट — प्रत्येक काठावर आत्मविश्वास स्कोअर, स्त्रोत संख्या आणि टाइमस्टॅम्प असतात.
आपले जीवन, वर्गीकृत
ऑन्टोलॉजीची व्यापकता ही आहे जिथे संशोधन लक्षवेधी ठरते. संशोधकांनी सर्व 181 घटक वर्गांचे कॅटलॉग केले आणि असे आढळले की त्यापैकी 57 - शब्दसंग्रहाच्या जवळजवळ एक तृतीयांश - क्रियाकलापांचे वर्णन करतात: झोपणे, व्यायाम करणे, माइंडफुलनेस सत्रे, झोपायला जाणे, प्रवास करणे, जेवण करणे. आलेखाच्या बाजूने सहाय्यक टेबल्स बसतात जे तुमच्या फोटोंमध्ये कोणासोबत दिसत आहे आणि कोणाला संदेश पाठवला हे कॅप्चर करणारे संप्रेषण लॉग, केव्हा, कोणत्या ॲपमध्ये आणि कोणत्या दिशेने — केवळ मेटाडेटा, संदेश सामग्रीशिवाय.
अंदाजे छचाळीस हे नातेसंबंधांचे प्रकार आहेत जे लोकांमधील किनारी पुन्हा वाढवतात, ज्यामुळे सिस्टीम केवळ आपण कोणाला ओळखत नाही तर ते एकमेकांशी कसे संबंधित आहेत हे कॅप्चर करते. ही क्षमता हॅकर न्यूज वापरकर्त्यांना शोधाचा सारांश स्पष्टपणे सांगण्यास प्रवृत्त करते: प्रत्येक मॅक कुटुंबातील सदस्य नसलेला वर्गीकरणकर्ता पाठवतो.
आलेख निष्क्रिय मेटाडेटा नाही. संशोधकांनी त्याचे वर्णन एक क्वेरी करण्यायोग्य स्टोअर म्हणून केले आहे ज्यातून मोठ्या भाषेचे मॉडेल पुनर्प्राप्त केले जातात — सब्सट्रेट जो ऍपल इंटेलिजन्सला क्लाउडला डेटा न पाठवता "माझ्या बहिणीचे गेल्या उन्हाळ्यातील फोटो" बद्दलच्या प्रश्नांची उत्तरे देऊ देतो. Apple च्या स्वतःच्या संशोधकांनी 2023 मध्ये अंतर्निहित आलेख-बांधकाम तंत्रांवर एक पेपर प्रकाशित केला, परंतु संशोधकांनी लक्षात घेतले की ही प्रणाली शिपिंग ऑपरेटिंग सिस्टममध्ये कशी समाकलित केली जाते याबद्दल जवळजवळ काहीही प्रकाशित केले गेले नाही.
ओपन-सोर्सिंग अ पीक — आणि एक चेतावणी
वापरकर्त्यांना त्यांच्या स्वतःच्या आलेखांची तपासणी करू देण्यासाठी, संशोधकांनी iKnow, एक मुक्त-स्रोत डॅशबोर्ड जारी केला जो ~/Library/IntelligencePlatform ची सामग्री वाचतो आणि सिस्टमला तुमच्याबद्दल आणि तुमच्या कुटुंबाबद्दल काय विश्वास आहे ते प्रस्तुत करतो.
पेपरचा अंतिम विभाग मुद्दाम प्रक्षोभक आहे. लेखक एक वैचारिक प्रयोग चालवतात — जो कोणत्याही वैयक्तिकृत प्रणालीवर लागू होतो — अशा ज्ञानाचा आधार चुकीच्या हातात गेल्यास काय होते हे दाखवून, वैयक्तिक डेटा लीक होऊ शकत नाही अशा प्रकारे वापरकर्त्याच्या विरुद्ध "गोपनीयतेचा एकल बिंदू" कसा शस्त्र बनवला जाऊ शकतो हे दाखवण्यासाठी, "ॲलिटेरेटेड" भाषा मॉडेल (सुरक्षा प्रशिक्षण काढून टाकलेले) सह एकत्रित करून.
मोठे चित्र
Apple च्या AI धोरणाची व्याख्या केलेल्या प्रायव्हसी-फर्स्ट मार्केटिंगच्या विरोधात शोध विचित्रपणे उतरतो: क्लाउड पर्यायांपेक्षा ऑन-डिव्हाइस प्रक्रिया खरोखरच अधिक खाजगी आहे, परंतु हे संशोधन दर्शविते की "तुमच्या डिव्हाइसवर राहणे" याचा अर्थ "लहान राहणे" असा होत नाही. तुमची झोपेची शेड्यूल, तुमचा प्रवास, तुमचा कौटुंबिक वृक्ष आणि तुमचा फोटो इतिहास माहीत असलेली स्थानिक प्रणाली हे एक उच्च-मूल्य लक्ष्य आहे — धोका लॅपटॉपवर थोडक्यात प्रवेश असलेला दुर्भावनापूर्ण अभिनेता असो, भविष्यातील सॉफ्टवेअरची असुरक्षा असो किंवा एखाद्या अति सक्षम स्थानिक एजंटने ते काय क्वेरी करू शकते याचा गैरवापर करण्यास सांगितले.
कोणताही डेटा, संशोधकांनी भर दिला आहे, तो डिमनद्वारे डिव्हाइसबाहेर प्रसारित केला जात नाही; स्थानिक पातळीवर काय आणि कसे साठवले जाते याच्याशी संबंधित विश्लेषण. परंतु AI सहाय्यकांना स्थानिक संदर्भामध्ये खोलवर प्रवेश मिळत असल्याने, संशोधकांचा मुख्य मुद्दा असा आहे: वापरकर्त्यांना त्यांची स्वतःची मशीन त्यांच्याबद्दल काय तयार करत आहेत याचे कोणतेही स्पष्ट चित्र दिले गेले नाही आणि त्यांना स्वतःच उत्तर उलट-अभियांत्रिक करावे लागले.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
