นักวิจัยด้านความปลอดภัยได้บันทึกระบบที่ซ่อนอยู่ใน Mac ทุกเครื่อง ได้แก่ กระบวนการเบื้องหลังคู่หนึ่งที่สร้างกราฟความรู้ที่มีรายละเอียดและค้นหาได้เงียบๆ เกี่ยวกับบุคคลที่ใช้เครื่องและทุกคนที่อยู่รอบตัวพวกเขา ไม่ว่าจะเป็นผู้ติดต่อ ความสัมพันธ์ในครอบครัว กิจวัตรประจำวัน แม้แต่ข้อมูลใบหน้า โดยแทบไม่มีเอกสารอย่างเป็นทางการจาก Apple

การวิเคราะห์ซึ่งเผยแพร่เมื่อวันที่ 28 ตุลาคมในบล็อกอันดับที่ 8 โดยนักวิจัย Dario Pasquini และ Michał Bazyli ปรากฏขึ้นอีกครั้งในสัปดาห์นี้เมื่อเข้าสู่หน้าแรกของ Hacker News เมื่อวันศุกร์ โดยมีคะแนนมากกว่า 750 คะแนนและการถกเถียงกันอย่างยาวนานเกี่ยวกับความเป็นส่วนตัวบนอุปกรณ์ ทุกอย่างในการเขียนบทความนี้รวบรวมไว้ใน macOS 26 เวอร์ชัน 26.6.2 ตามข้อมูลของผู้เขียน For more context on this story, see our ongoing artificial intelligence updates.

สอง Daemons ห้าสิบเอ็ดฐานข้อมูล

ระบบนี้สร้างขึ้นโดย daemons สองตัวที่จัดส่งมาพร้อมกับ Mac ทุกเครื่องนับตั้งแต่ macOS 13 มาถึงในปี 2022 ได้แก่ โครงสร้างความรู้และแพลตฟอร์มอัจฉริยะ เอกสารประกอบของ Apple สำหรับกลไกนี้มีจำนวนเท่ากับ man page เดียว ซึ่งอธิบายถึงความรู้ที่สร้างขึ้นเป็น daemon ที่ "วิเคราะห์เนื้อหาบนอุปกรณ์นี้เพื่อช่วยสร้างกราฟความรู้สำหรับวัตถุประสงค์ทั่วไป" และอื่นๆ อีกเล็กน้อย

นักวิจัยระบุว่า daemons อ้างอิงโยงเกือบทุกอย่างที่ระบบปฏิบัติการมองเห็น ได้แก่ รายชื่อ ปฏิทิน รูปภาพ (รวมถึงข้อมูลใบหน้า) ข้อความและเมล ตำแหน่ง เวลาหน้าจอ ข้อมูลการแชร์กันในครอบครัว รวมถึงอายุของสมาชิกทุกคนในครัวเรือน รายชื่อติดต่อฉุกเฉิน Medical ID ในด้านสุขภาพ กิจกรรมและรายชื่อติดต่อที่แสดงโดยคำแนะนำของ Siri ผู้คนที่ได้รับบริจาคโดยแอพของบริษัทอื่นผ่าน App Intents และรายชื่อแอพที่ติดตั้ง

ผลลัพธ์อยู่ใน ~/Library/IntelligencePlatform: ฐานข้อมูล SQLite ห้าสิบเอ็ดฐานข้อมูลที่จัดเก็บไว้ในข้อความธรรมดา ได้รับการปกป้องจากการเข้าถึงแบบไม่เป็นทางการโดยประตู TCC Full Disk Access ของ macOS หัวใจของระบบคือ graph.db ซึ่งเป็นร้านค้าสามชั้นที่เขียนด้วยคำศัพท์ที่มีคลาสเอนทิตี 181 คลาสและเพรดิเคต 278 รายการ ทุกแถวจะเข้ารหัสหัวเรื่อง ภาคแสดง และวัตถุ เช่น บุคคล ประเภทความสัมพันธ์ และบุคคลอื่น สถานที่ องค์กร หรือเหตุการณ์ โดยแต่ละ Edge จะมีคะแนนความเชื่อมั่น จำนวนแหล่งที่มา และการประทับเวลา

ชีวิตของคุณจัดหมวดหมู่

ความกว้างของ Ontology คือจุดที่การวิจัยมีความโดดเด่น นักวิจัยได้จัดหมวดหมู่เอนทิตีทั้งหมด 181 คลาส และพบว่า 57 คลาส (เกือบ 1 ใน 3 ของคำศัพท์) อธิบายกิจกรรมต่างๆ เช่น การนอนหลับ การออกกำลังกาย การฝึกสติ การเข้านอน การเดินทาง การรับประทานอาหาร ข้างกราฟจะมีตารางเสริมที่บันทึกว่าใครปรากฏพร้อมกับใครในรูปภาพของคุณและบันทึกการสื่อสารที่บันทึกว่าใครส่งข้อความถึงใคร เมื่อใด ในแอปใด และไปในทิศทางใด - ข้อมูลเมตาเท่านั้น โดยไม่มีเนื้อหาข้อความ

ภาคแสดงสี่สิบหกคือประเภทความสัมพันธ์ที่ตอกย้ำขอบเขตระหว่างผู้คน ซึ่งเป็นวิธีที่ระบบไม่เพียงรวบรวมคนที่คุณรู้จักเท่านั้น แต่ยังรวมถึงความสัมพันธ์ระหว่างกันด้วย ความสามารถนั้นคือสิ่งที่ทำให้ผู้ใช้ Hacker News สรุปการค้นพบนี้อย่างตรงไปตรงมา: Mac ทุกเครื่องจัดส่งตัวแยกประเภทสมาชิกครอบครัวที่ไม่มีเอกสาร

กราฟไม่ใช่ข้อมูลเมตาที่ไม่ได้ใช้งาน นักวิจัยอธิบายว่ามันเป็นร้านค้าที่สามารถสืบค้นได้ซึ่งโมเดลภาษาขนาดใหญ่ดึงมาจาก ซึ่งเป็นแหล่งตั้งต้นที่ช่วยให้ Apple Intelligence ตอบคำถามเกี่ยวกับ "รูปถ่ายของน้องสาวของฉันเมื่อฤดูร้อนที่แล้ว" โดยไม่ต้องส่งข้อมูลไปยังคลาวด์ นักวิจัยของ Apple เองตีพิมพ์บทความเกี่ยวกับเทคนิคการสร้างกราฟพื้นฐานในปี 2023 แต่นักวิจัยตั้งข้อสังเกตว่าแทบไม่มีการตีพิมพ์เกี่ยวกับวิธีการรวมระบบเข้ากับระบบปฏิบัติการการขนส่ง

Open-Sourcing Peek — และคำเตือน

เพื่อให้ผู้ใช้สามารถตรวจสอบกราฟของตนเองได้ นักวิจัยได้เปิดตัว iKnow ซึ่งเป็นแดชบอร์ดแบบโอเพ่นซอร์สที่อ่านเนื้อหาของ ~/Library/IntelligencePlatform และแสดงผลสิ่งที่ระบบเชื่อเกี่ยวกับคุณและครอบครัวของคุณ

ส่วนสุดท้ายของรายงานมีเจตนายั่วยุ ผู้เขียนทำการทดลองทางความคิด ซึ่งพวกเขาทราบว่าใช้ได้กับระบบส่วนบุคคล โดยแสดงให้เห็นว่าจะเกิดอะไรขึ้นหากฐานความรู้ดังกล่าวไปอยู่ในมือคนผิด ผสมผสานกับโมเดลภาษาที่ "ลบล้าง" (แบบที่ถอดการฝึกอบรมด้านความปลอดภัยออก) เพื่อแสดงให้เห็นว่า "ความเป็นส่วนตัวจุดเดียวของความล้มเหลว" สามารถเป็นอาวุธต่อผู้ใช้ในลักษณะที่ข้อมูลรั่วไหลไม่สามารถทำได้

ภาพใหญ่กว่า

การค้นพบนี้ขัดแย้งกับการตลาดที่เน้นความเป็นส่วนตัวเป็นอันดับแรกซึ่งกำหนดกลยุทธ์ AI ของ Apple: การประมวลผลบนอุปกรณ์นั้นมีความเป็นส่วนตัวมากกว่าทางเลือกอื่นบนคลาวด์ แต่การวิจัยนี้แสดงให้เห็นว่า "คงบนอุปกรณ์ของคุณ" ไม่ได้หมายความว่า "ยังคงมีขนาดเล็ก" ระบบท้องถิ่นที่รู้ตารางการนอนหลับ การเดินทาง แผนผังครอบครัว และประวัติภาพถ่ายของคุณคือเป้าหมายที่มีมูลค่าสูง ไม่ว่าภัยคุกคามจะเป็นตัวร้ายที่เข้าถึงแล็ปท็อปได้ช่วงสั้นๆ ช่องโหว่ของซอฟต์แวร์ในอนาคต หรือตัวแทนในพื้นที่ที่มีความสามารถมากเกินไปที่ได้รับแจ้งให้ใช้สิ่งที่สามารถสืบค้นในทางที่ผิด

นักวิจัยเน้นย้ำว่าข้อมูลทั้งหมดไม่ได้ถูกส่งออกจากอุปกรณ์โดยตัวภูตเอง การวิเคราะห์เกี่ยวข้องกับสิ่งที่ถูกจัดเก็บไว้ในเครื่องและอย่างไร แต่เมื่อผู้ช่วย AI เข้าถึงบริบทในท้องถิ่นได้ลึกขึ้น ประเด็นหลักของนักวิจัยคือ: ผู้ใช้ไม่ได้รับภาพที่ชัดเจนว่าเครื่องของตนกำลังสร้างอะไรเกี่ยวกับพวกเขา และต้องวิศวกรรมย้อนกลับเพื่อหาคำตอบด้วยตนเอง

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →