보안 연구자들은 모든 Mac에 탑재된 숨겨진 시스템을 문서화했습니다. Apple의 공식 문서가 거의 없이 시스템을 사용하는 사람과 그 주변의 모든 사람(연락처, 가족 관계, 일상, 심지어 얼굴 데이터까지)에 대한 상세하고 쿼리 가능한 지식 그래프를 조용히 구축하는 한 쌍의 백그라운드 프로세스입니다.

연구원 Dario Pasquini와 Michał Bazyli가 10월 28일 Eighth Rank 블로그에 게시한 이 분석은 이번 주 금요일 Hacker News의 첫 페이지에 다시 등장하여 750점 이상의 포인트와 기기 내 개인 정보 보호에 대한 긴 논쟁을 불러일으켰습니다. 저자에 따르면 이 글의 모든 내용은 macOS 26 버전 26.6.2에서 수집되었습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

두 개의 데몬, 51개의 데이터베이스

이 시스템은 2022년 macOS 13이 출시된 이후 모든 Mac과 함께 제공되는 두 개의 데몬, 즉 Knowledgeconstructiond와 Intelligenceplatformd에 의해 구축되었습니다. 이 메커니즘에 대한 Apple의 자체 문서는 Knowledgeconstructiond를 "범용 지식 그래프를 구축하는 데 도움이 되도록 이 장치의 콘텐츠를 분석"하는 데몬으로 설명하는 단일 매뉴얼 페이지에 해당합니다.

연구원에 따르면 데몬은 연락처, 달력, 사진(얼굴 데이터 포함), 메시지 및 메일, 위치, 스크린 타임, 가족 공유 데이터(모든 가족 구성원의 나이 포함), 건강 정보의 의료 ID 비상 연락처, Siri 제안에 표시된 이벤트 및 연락처, 앱 인텐트를 통해 타사 앱에서 기증한 사람, 설치된 앱 목록 등 운영 체제에서 볼 수 있는 거의 모든 것을 상호 참조합니다.

결과는 ~/Library/IntelligencePlatform에 있습니다. 51개의 SQLite 데이터베이스가 일반 텍스트로 저장되어 있으며 macOS의 TCC 전체 디스크 액세스 게이트를 통해 일상적인 액세스로부터 보호됩니다. 시스템의 핵심은 181개의 엔터티 클래스와 278개의 조건자로 구성된 어휘로 작성된 트리플 저장소인 graph.db입니다. 모든 행은 주제, 술어 및 객체(사람, 관계 유형, 다른 사람, 장소, 조직 또는 이벤트)를 인코딩하며 각 가장자리에는 신뢰도 점수, 소스 수 및 타임스탬프가 포함됩니다.

분류된 당신의 인생

온톨로지의 폭은 연구가 눈에 띄는 부분입니다. 연구원들은 181개의 개체 클래스를 모두 분류했으며 그 중 57개(어휘의 거의 3분의 1)가 수면, 운동, 마음챙김 세션, 잠자리에 들기, 통근, 식사 등의 활동을 설명한다는 사실을 발견했습니다. 그래프 옆에는 사진에 누가 누구와 함께 나타나는지 기록하는 보조 테이블과 누가 누구에게, 언제, 어떤 앱에서, 어떤 방향으로 메시지를 보냈는지 캡처하는 통신 로그가 있습니다. 메시지 내용은 없고 메타데이터만 있습니다.

46개의 술어는 사람들 사이의 경계를 구체화하는 관계 유형입니다. 이는 시스템이 당신이 아는 사람뿐만 아니라 그들이 서로 어떻게 관련되어 있는지를 포착하는 방법입니다. 이 기능으로 인해 Hacker News 사용자는 발견 내용을 퉁명스럽게 요약했습니다. 모든 Mac은 문서화되지 않은 가족 구성원 분류기를 제공합니다.

그래프는 유휴 메타데이터가 아닙니다. 연구원들은 이를 대규모 언어 모델이 검색할 수 있는 쿼리 가능한 저장소로 설명합니다. 이는 Apple Intelligence가 데이터를 클라우드로 전송하지 않고도 "지난 여름에 찍은 내 여동생의 사진"에 대한 질문에 대답할 수 있게 해주는 기반입니다. Apple의 연구원들은 2023년에 기본 그래프 구성 기술에 대한 논문을 발표했지만, 연구원들은 시스템이 배송 운영 체제에 어떻게 통합되는지에 대해서는 거의 아무것도 발표되지 않았다고 지적합니다.

오픈소스 엿보기 — 그리고 경고

사용자가 자신의 그래프를 검사할 수 있도록 연구원은 ~/Library/IntelligencePlatform의 내용을 읽고 시스템이 귀하와 귀하의 가족에 대해 믿는 바를 렌더링하는 오픈 소스 대시보드인 iKnow를 출시했습니다.

논문의 마지막 부분은 의도적으로 도발적입니다. 저자는 모든 개인화된 시스템에 적용되는 사고 실험을 실행하여 이러한 지식 기반이 잘못된 손에 들어가면 어떻게 되는지 보여주고 이를 "삭제된" 언어 모델(안전 교육이 제거된 모델)과 결합하여 개별 데이터 유출이 불가능한 방식으로 "개인 정보 보호 단일 실패 지점"이 사용자를 상대로 무기화될 수 있는 방법을 보여줍니다.

더 큰 그림

이 결과는 Apple의 AI 전략을 정의한 개인 정보 보호 우선 마케팅에 어긋나게 나타납니다. 기기 내 처리는 클라우드 대안보다 실제로 더 비공개적이지만 이 연구에 따르면 '기기에 유지'가 '소형 유지'를 의미하지는 않습니다. 수면 일정, 출퇴근길, 가계도 및 사진 기록을 알고 있는 로컬 시스템은 위협이 랩톱에 잠시 액세스할 수 있는 악의적인 행위자인지, 미래의 소프트웨어 취약점인지, 쿼리할 수 있는 내용을 오용하도록 유도하는 지나치게 유능한 로컬 에이전트인지에 관계없이 매우 중요한 표적입니다.

연구원들은 어떤 데이터도 데몬 자체에 의해 장치 외부로 전송되지 않는다고 강조합니다. 분석은 로컬에 무엇이 저장되고 어떻게 저장되는지에 관한 것입니다. 그러나 AI 비서가 지역적 맥락에 더 깊이 접근함에 따라 연구원의 핵심 요점은 사용자에게 자신의 기계가 자신에 대해 무엇을 구축하고 있는지에 대한 명확한 그림이 제공되지 않으며 스스로 답변을 리버스 엔지니어링해야 한다는 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →