Apple은 가장 중요한 개인 정보 보호 약속 중 하나를 조용히 다시 작성했습니다. iOS 27에서 회사는 오디오 녹음 자체를 포함하여 사용자의 전체 Siri 및 받아쓰기 상호 작용을 저장하고 이를 사용하여 Siri 뒤의 인공 지능 모델을 훈련할 수 있다고 독일 기술 간행물인 Heise Online에서 처음 보고했습니다.

이번 변경으로 Apple이 단호하게 밝힌 입장, 즉 개인 사용자 데이터는 AI 기반 모델을 훈련하는 데 절대 사용되지 않을 것이라는 입장이 종료됩니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

새 정책의 내용

업데이트된 언어는 9월 14일 월요일에 대중에게 공개된 iOS 27의 최종 시험판 빌드에 포함된 개인 정보 보호 정책에 나와 있습니다. 이 정책에 따르면 Apple은 "사용자가 입력하고 말한 Siri 요청의 오디오 데이터 및 스크립트와 Siri의 응답을 포함하여 Siri 및 받아쓰기 기능과의 전체 상호 작용을 저장할 수 있습니다."

Apple은 데이터가 사용자의 Apple 계정에 연결되어 있지 않다는 점을 강조하고 "Apple이 개인 데이터를 저장하거나 사용하지 않도록 조치를 취합니다"라고 명시합니다. 이는 설명하는 권한 옆에 어색하게 나타나는 공식입니다. 수집된 데이터 중 일부는 정책에 따라 "검토 담당자"만 검토할 수 있으며 오디오 자료는 Apple 직원만 들을 수 있습니다.

회사는 프로그램을 선택적으로 구성합니다. 사용자가 Siri AI를 활성화하면 어시스턴트 개선에 도움을 요청하는 대화 상자가 표시되고, 릴리스 후보에 액세스할 수 있는 개발자는 거부 옵션을 놓치기 쉽다고 보고합니다. 완전히 닫을 수 없는 화면의 시각적으로 눈에 띄지 않는 "나중에" 버튼입니다. 동의한 사용자는 나중에 설정, 분석 및 개선에서 선택을 취소할 수 있습니다.

서명 약속에 대한 조용한 편집

정책 변경에 앞서 훨씬 더 조용한 편집이 이루어졌습니다. 책임 있는 AI에 대한 Apple의 발표된 지침은 이전에 완전한 문장으로 "귀하의 개인 개인 데이터 및 상호 작용은 우리의 기초 모델을 훈련하는 데 사용되지 않습니다"라고 명시했습니다. 해당 문장의 최종 어미는 제거되고 "개선에 도움을 주기로 명시적으로 선택하지 않는 한"이라는 경고로 대체되었습니다.

이번 개정은 문구 그 이상으로 중요합니다. 왜냐하면 Apple이 2년 동안 마케팅에 소비한 아키텍처와 충돌하기 때문입니다. Siri AI 및 대부분의 Apple Intelligence 기능을 지원하는 서버 시스템인 Private Cloud Compute는 특정 약속에 따라 판매되었습니다. 즉, 사용자 데이터를 장기간 저장하거나 제3자에게 노출하지 않고 온디바이스 모델처럼 비공개적으로 요청을 처리하는 클라우드 AI입니다. Siri 녹음을 교육 자료로 사용하고 iOS 27에서 처음으로 일부 프라이빗 클라우드 컴퓨팅 요청을 Google 서버를 통해 라우팅하는 것은 Apple이 한때 반대했던 클라우드 도우미의 동작에 더 가깝게 약속을 확장합니다.

상시 청취 하드웨어로 인해 위험이 높아집니다.

두 번째 이유로 타이밍이 어색합니다. Apple은 최신 iPhone과 함께 이번 주에 지속적으로 청취할 수 있도록 설계된 두 가지 Apple Watch 모델을 출시했습니다. 이 장치는 필요에 따라 이전 15초 동안의 대화 내용을 기록하고 착용자의 대화를 요약하는 일일 "Siri Recap"을 생성할 수 있습니다. Apple에 따르면 이 기능은 Private Cloud Compute에서도 실행됩니다.

이제 모델 훈련을 위한 상호 작용을 유지할 수 있는 어시스턴트에게 먹이를 주는 상시 마이크는 바로 개인 정보 보호 옹호자들이 경고한 조합이며, 이는 정확히 이를 거부하는 것을 중심으로 현대적인 마케팅을 구축한 회사에서 나온 것입니다.

2019년 Siri 등급 스캔들의 메아리

Apple은 이전에도 여기에 있었습니다. 2019년 회사는 하청업체에 고용된 계약자가 Siri 오디오 녹음을 채점하는 작업을 설명하면서 가장 피해가 큰 개인 정보 보호 논란을 겪었습니다. Siri 오디오 녹음에는 친밀한 대화, 의료 정보 및 기타 개인 정보가 자주 포함되어 느슨한 통제 하에 처리되는 조각이 포함되었습니다. Apple은 프로그램을 중단하고 사과했으며 나중에 더 엄격한 보호 조치를 갖춘 선택 기능으로 인적 검토를 다시 도입했습니다.

새로운 정책은 샘플링된 오디오 클립이 아닌 전체 상호 작용, 녹음과 함께 대본, 명시적인 교육 목적 등 더 넓은 범위의 데이터 수집을 재개하는 동시에 많은 사용자가 읽지 않고 탭하는 유사한 동의 메커니즘에 의존합니다.

다음에 무슨 일이 일어날까요?

유럽과 미국의 규제 기관은 AI 훈련에 대한 동의 대화 상자가 어떻게 표시되는지 반복적으로 면밀히 조사해 왔으며, 눈에 띄는 동의 버튼과 낮은 대비 거부 옵션이 있는 옵트인 화면은 이러한 면밀한 조사를 유도하는 일종의 디자인입니다. 현재 Apple의 입장은 데이터가 자체 시스템 내부에 유지되고 사용자 신원과 분리되며 직원 전용 규칙에 따라서만 검토된다는 것입니다.

더 깊은 변화는 전략적입니다. 경쟁력 있는 AI 모델을 훈련하려면 엄청난 양의 고품질 대화 데이터가 필요하며, 경쟁사보다 현대 AI 경쟁에 늦게 진입한 Apple은 가장 귀중한 미개발 자원이 매일 발생하는 수억 건의 Siri 대화라고 판단한 것으로 보입니다. 한때 개인정보 보호를 iPhone 구입 이유로 삼았던 회사는 더 이상 해당 데이터를 테이블 위에 올려둘 여유가 없다고 결론지었습니다. 사용자가 넘겨주기에 동의하는지 여부에 따라 한 번에 하나의 "지금은 아님" 버튼이 Apple이 가져오는 금액을 결정합니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →