Google の Gemini がモデルのトレーニングに購読者のチャット履歴をどのように使用しているかを文書化した Hacker News の投稿は、今週 650 件を超える賛成票を集めました。これは、このポリシーが秘密だったからではなく、非常に多くの有料ユーザーがそれに気付かなかったためです。 「HN に伝える: 登録者 (個人アカウント) であっても、Gemini はチャット履歴でトレーニングする」というタイトルのこのスレッドでは、有料サブスクリプションによってトレーニングの使用が免除されるわけではないことを示す Google 独自のサポート ドキュメントが並べられています。

関連する動作は、エンドユーザー使用許諾契約には組み込まれていません。これについては Google の Gemini ヘルプ ページに説明されており、AI Buzz Wire が直接レビューしました。 この件の詳細は、人工知能の最新情報をご覧ください。

Google のドキュメントに実際に記載されていること

Google の Gemini Apps プライバシー ヘルプ ページには、Gemini Apps アクティビティ (保存されたチャット履歴) は、「アクティビティを維持する設定がオンになっている場合、生成 AI モデルのトレーニングなど、すべての人のための Google サービスを向上させるために使用される」と記載されています。この 1 文が問題の核心を伝えています。アカウントが Google AI Pro と Ultra のどちらに料金を支払っているかに関係なく、チャット履歴を有効にすると、ユーザーの会話に関するトレーニングがデフォルトで行われるということです。

同じ文書には人間の関与について明確に記載されています。 Googleは、チャットの「サブセット」が、サービスのデバッグ、安全性の確保、改善を目的として、サービスプロバイダーの訓練を受けたレビュー担当者を含む人間のレビュー担当者によってレビューされると述べている。そしてこのガイダンスには、多くのユーザーが目にすることのない警告が含まれている。「レビュー担当者に見られたくない機密情報や、機械学習技術などのサービス改善のために Google が使用したくない機密情報は入力しないでください。」

レビューされたチャットは最長 3 年間保存されます

保持ルールは、ほとんどのユーザーの予想を超えています。 Google のヘルプページによると、人間のレビュー担当者によってレビューされたチャットは、言語、デバイスの種類、位置情報、フィードバックなどの関連データとともに、「アクティビティを削除しても削除されません。代わりに、最長 3 年間保持されます。」 Googleによれば、レビューされたデータは保存される前にユーザーのアカウントから切り離されるが、会話自体はユーザーが削除を押した後もGoogleのシステム上に長期間保持されるという。

Googleは、このプロセスにおいて、レビュー済みのチャットをアカウントではなくランダムな識別子に関連付けるなど、ユーザーのプライバシーを保護するための措置を講じていると述べている。それでも、ドキュメントでは境界が明確になっています。削除によって制御されるのは、アクティビティ フィードに表示される内容であり、人間のレビュー担当者がすでに評価のために抽出したチャットから Google が保持する内容ではありません。

実際にオプトアウトする方法

オプトアウトは存在しますが、それは取引です。 「アクティビティを維持」設定をオフにすると、チャットはトレーニング用から削除されます。Google のページでは、その設定がオンの場合にのみトレーニングが適用されることが確認されています。コストは機能です。アクティビティの保持をオフにすると、チャットは 72 時間のみアカウントに保持され、Google はチャットの最後の 24 時間のみをフォローアップの質問のコンテキストとして使用します。一時チャットでも同様の仕組みが提供されます。

ユーザーは、デフォルトの保存期間を 18 か月から 3 か月または 36 か月に短縮したり、無期限に設定したりすることもでき、いつでも個々のチャットを削除できます。ただし、これらの選択肢はいずれも、履歴が有効になっている間はトレーニング ポリシーを変更しません。履歴が無効になった瞬間から、すべての会話で 72 時間時計が始まります。

有料だからといって非公開になるわけではない

Hacker News での反応は、AI サブスクリプションの料金を支払うとデータの配置が変わるという、崩れた前提に集中していました。コンシューマ ソフトウェアでは、その前提は長らく揺らいでいました。しかし、トレーニング パイプラインが有料レベルの個人アカウントに適用され、レビューされたチャットの保持期間が月単位ではなく年単位で測定されるため、Gemini のケースは注目に値します。

Googleが何をしていないのかは注目に値する。同社は、Gemini は Gmail の受信箱、ドライブ、連絡先、カレンダー、その他のワークスペース コンテンツ上で生成 AI モデルを直接トレーニングしないと述べています。データは Connected Apps を介した明示的な接続を必要とし、その後、独自のトレーニングと人間によるレビュー ポリシーが適用されると述べています。また、Workspace アカウントとエンタープライズ アカウントは、消費者向け Gemini アプリとは異なる条件で運用されます。これは、Google が以前のプライバシー論争で区別したものです。

より広範な信頼の問題

Googleにとってはタイミングが悪い。同社は消費者の信頼をめぐって激しく競争しており、Android のメッセージと通話に詐欺検出機能を組み込み、ハードウェア上のプライバシー保護をマーケティングしています。一方、同社の最も使用されている AI 製品は、人々がチャット ボックスに入力する何気なく無防備な内容をトレーニングし、人間のレビュー担当者がそのサブセットを読み取ることができ、レビューされたサブセットは最長 3 年間保存されます。

プライバシー研究者は長い間、チャットボットの会話をデフォルトで半公開として扱うようアドバイスしてきました。今週のスレッドでは、そのアドバイスが Gemini の有料ユーザー向けに具​​体的になりました。会話を保護する設定はデフォルトでオフになっており、会話を訓練する設定はオンになっており、完全に効果的な唯一の脱出ハッチ (一時的なチャットや無効化された履歴) は、製品のメモリを犠牲にして提供されます。

Google のドキュメントは隠されておらず、その内容に虚偽は何もありません。問題は、それを読むのがユーザーの仕事であるということです。そして、何百もの賛成票を投じたコメントが示唆するように、ほとんどのユーザーは、購読料がその仕事をしてくれていると単純に思い込んでいたのです。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →