Google의 Gemini가 모델 교육을 위해 구독자 채팅 기록을 사용하는 방법을 기록한 Hacker News 게시물은 이번 주에 650개 이상의 공감을 얻었습니다. 정책이 비밀이었기 때문이 아니라 많은 유료 사용자가 이를 전혀 눈치채지 못했기 때문입니다. "Tell HN: Gemini는 구독자(개인 계정)에게도 채팅 기록에 대해 교육합니다"라는 제목의 스레드에는 유료 구독이 교육 사용에서 누구에게도 면제되지 않음을 보여주는 Google의 자체 지원 문서가 나와 있습니다.

관련 동작은 최종 사용자 라이센스 계약에 묻혀 있지 않습니다. AI Buzz Wire가 직접 리뷰한 Google의 Gemini 도움말 페이지에 설명되어 있습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

Google 문서에 실제로 나와 있는 내용

Google의 Gemini Apps 개인정보 보호 도움말 페이지에는 Gemini Apps Activity(저장된 채팅 기록)가 "Keep Activity 설정이 켜져 있는 경우 생성 AI 모델 교육을 포함하여 모든 사람을 위한 Google 서비스를 개선하는 데 사용됩니다"라고 명시되어 있습니다. 이 한 문장이 문제의 핵심을 담고 있습니다. 계정이 Google AI Pro 또는 Ultra에 대한 비용을 지불하는지 여부에 관계없이 사용자 대화에 대한 교육은 채팅 기록을 활성화한 기본 결과입니다.

동일한 문서는 인간의 개입에 대해 명시적으로 설명합니다. Google은 서비스 제공업체의 숙련된 검토자를 포함하여 인간 검토자가 서비스를 디버깅하고 안전하게 유지하며 개선하기 위해 채팅의 "하위 집합"을 검토한다고 명시합니다. 그리고 지침에는 많은 사용자가 결코 보지 못할 경고가 포함되어 있습니다. "검토자가 보기를 원하지 않거나 Google이 기계 학습 기술을 포함하여 우리 서비스를 개선하는 데 사용하기를 원하지 않는 기밀 정보를 입력하지 마십시오."

검토한 채팅은 최대 3년 동안 보관됩니다.

보관 규칙은 대부분의 사용자가 기대하는 것보다 더 발전합니다. Google의 도움말 페이지에 따르면 인간 검토자가 검토한 채팅은 언어, 장치 유형, 위치 정보 및 피드백과 같은 관련 데이터와 함께 "활동을 삭제해도 삭제되지 않습니다. 대신 최대 3년 동안 보관됩니다." Google은 검토된 데이터가 저장되기 전에 사용자 계정에서 연결이 끊어졌지만 대화 자체는 사용자가 삭제를 누른 후에도 오랫동안 Google 시스템에 남아 있다고 말합니다.

구글은 이 과정에서 검토된 채팅을 계정이 아닌 임의의 식별자와 연결하는 것을 포함하여 사용자 개인정보를 보호하기 위한 조치를 취한다고 밝혔습니다. 그럼에도 불구하고 문서에서는 경계가 명확합니다. 삭제는 활동 피드에 표시되는 내용을 제어하는 ​​것이지 리뷰어가 이미 평가를 위해 가져온 채팅에서 Google이 보관하는 내용을 제어하는 ​​것이 아닙니다.

실제로 탈퇴하는 방법

옵트아웃이 존재하지만 이는 거래입니다. "활동 유지" 설정을 끄면 훈련 사용에서 채팅이 제거됩니다. Google 페이지에서는 해당 설정이 켜져 있을 때만 훈련이 적용된다는 것을 확인합니다. 비용은 기능입니다. 활동 유지를 끄면 채팅은 72시간 동안만 계정에 보관되며 Google에서는 지난 24시간의 채팅만 후속 질문의 맥락으로 사용합니다. 임시 채팅도 비슷한 방식을 제공합니다.

또한 사용자는 기본 보존 기간을 18개월에서 3개월 또는 36개월로 단축하거나 무기한으로 설정할 수 있으며 언제든지 개별 채팅을 삭제할 수 있습니다. 그러나 이러한 선택 중 어느 것도 기록이 켜져 있는 동안 교육 정책을 변경하지 않으며 기록이 비활성화되는 순간 모든 대화에서 72시간 시계가 시작됩니다.

유료라고 해서 비공개가 되는 것은 아닙니다

Hacker News에 대한 반응은 AI 구독 비용을 지불하면 데이터 배열이 변경된다는 깨진 가정에 중점을 두었습니다. 소비자 소프트웨어에서는 이러한 가정이 오랫동안 흔들리고 있습니다. 그러나 훈련 파이프라인이 유료 계층의 개인 계정에 적용되고 검토된 채팅 유지율이 몇 달이 아닌 몇 년 단위로 측정되기 때문에 Gemini 사례는 주목할 만합니다.

Google이 무엇을 하고 있지 않은지 주목할 가치가 있습니다. 회사에서는 Gemini가 Gmail 받은 편지함, 드라이브, 연락처, 캘린더 또는 기타 작업 공간 콘텐츠에서 직접 생성 AI 모델을 교육하지 않는다고 밝혔습니다. 즉, 데이터에는 연결된 앱을 통한 명시적인 연결이 필요하며, 해당 데이터에는 자체 교육 및 인적 검토 정책이 적용됩니다. 그리고 Workspace와 기업 계정은 일반 Gemini 앱과 다른 조건으로 운영됩니다. 이는 Google이 이전 개인 정보 보호 논란에서 구별한 것입니다.

광범위한 신뢰 문제

Google에게는 타이밍이 어색합니다. 이 회사는 사기 탐지 기능을 Android 메시지 및 통화에 적용하고 하드웨어에 개인 정보 보호 기능을 마케팅하는 등 소비자 신뢰를 놓고 치열하게 경쟁하고 있습니다. 한편, 가장 많이 사용되는 AI 제품은 사람들이 채팅 상자에 입력하는 캐주얼하고 무심한 내용에 대해 훈련하며, 인간 검토자는 그 중 일부를 읽을 수 있으며 검토된 하위 집합은 최대 3년 동안 보관됩니다.

개인 정보 보호 연구자들은 사람들이 기본적으로 챗봇 대화를 반 공개적으로 취급한다고 오랫동안 조언해 왔습니다. 이번 주 스레드에서는 Gemini의 유료 사용자를 위한 구체적인 조언을 제시했습니다. 대화를 보호하는 설정은 기본적으로 꺼져 있고, 대화를 훈련하는 설정은 켜져 있으며, 유일하게 효과적인 탈출구(임시 채팅 또는 비활성화된 기록)는 제품 메모리를 희생하여 제공됩니다.

Google 문서는 숨겨져 있지 않으며 그 안에 거짓이 없습니다. 마찰은 그것을 읽는 것이 사용자의 일이라는 것입니다. 그리고 수백 개의 찬성된 댓글에서 알 수 있듯이 대부분의 사용자는 단순히 구독료가 그 일을 하고 있다고 가정했습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →