OpenAIは水曜日、同社のフロンティアモデル向けにゼロデータ保持（ZDR）を提供すると発表し、企業に顧客コンテンツへのアクセスを許可せずに複数のインタラクションにわたる不正使用を検出するように設計されたプライベートセーフティプロセシングと呼ばれる新しいシステムをプレビューした。この動きは競合他社とは一線を画すものである。Axios は、Anthropic が現在顧客にデータログの許可を義務付けている中でこの発表が行われたと報告し、Firstpost は Anthropic の 30 日間のデータ保持への移行との対照を指摘した。

タイミングは微妙ではありません。 OpenAIは発表の中で、「最近のフロンティアモデルの導入の一部では、安全監視のためにAIプロバイダーが機密コンテンツを保持することを顧客に許可する必要がある」と述べたが、この要件は「サービスを提供する人々に対するセキュリティ上の義務や約束に抵触する」と同社は述べている。同社は、規制対象の企業顧客をめぐる競争における競争上の武器としてプライバシーを位置付けている。 この件の詳細は、AIニュースをご覧ください。

ゼロデータ保持が約束するもの

ZDR サービスでは、対象となる API 顧客は、OpenAI が「明確な約束」と表現するものを取得します。つまり、OpenAI は、リクエストの処理後にプロンプトやモデル応答を保持しません。 OpenAI 担当者は顧客のコンテンツをレビューのために利用することはできません。また、顧客が明示的にオプトインしない限り、企業の顧客データは OpenAI のモデルのトレーニングに使用されません。

AI 導入を検討している銀行、病院、法律事務所にとって、これらの約束は、AI プロバイダーのシステムを流れる機密情報が保存、読み取り、または将来のモデルに吸収される可能性があるという、最も一般的な取引の妨げとなるリスクに対処するものです。 OpenAIは、提携している組織が「財務記録、健康データ、機密の事業計画、独自の研究」を扱っていると指摘している。

安全性の問題の保持は解決されました

この発表はまた、真の技術的緊張を認めています。 OpenAI 自体が説明しているように、最も深刻な AI の安全性リスクは、単一のインタラクションで常に目に見えるわけではありません。有害な意図は、複数のインタラクションをまとめて確認した場合にのみ明らかになります。つまり、悪意のある攻撃者がセーフガードを繰り返し調査したり、アカウント間で調整したり、日常的な研究として脅威を偽装したり、AI エージェントが停止を指示されたにもかかわらず動作を継続したりする場合です。

既存の ZDR 互換安全システムは、各インタラクションを個別に評価するため、パターンベースのリスクがすり抜けてしまいます。保持を要求することで対応したプロバイダーは、別の問題を引き起こすことで 1 つの問題を解決し、顧客に安全性の監視と自らのプライバシー義務のどちらかを選択させることになりました。

プライベートセーフティ処理の仕組み

OpenAI が提案した解決策はアーキテクチャ的なものです。プライベート セーフティ処理では、顧客のコンテンツは顧客が管理するインフラストラクチャに残ります。または、開発中のオプションでは、顧客が管理するキーで暗号化された OpenAI インフラストラクチャに保存されます。次に、自動化システムは、関連するインタラクション全体のパターンを分析し、根底にあるプロンプトや応答を OpenAI 担当者に公開することなく、「限定的な安全信号」 (潜在的な誤用に関するフラグ) を返します。

顧客は、自社のシステムで入手可能な情報を使用してアラートを調査します。執行決定に対して異議を申し立てたい場合、合法的な活動を明らかにしたい場合、または検証された不正行為の調査を支援したい場合は、関連情報を OpenAI と共有することを選択できます。言い換えれば、プライバシーはデフォルトとなり、開示は顧客のオプションになります。

このシステムは現在、初期の顧客を対象にテストされています。 OpenAIは、Private Safety Processingの展開を開始し、9月に技術ホワイトペーパーを発行する予定だと述べている。

市場としての企業の信頼

この発表には、調達に関する議論のような顧客の声が添えられていました。 「エンタープライズ AI の導入は、顧客によるデータの管理のみに依存しており、選択したサービスを超えて直接的または派生的に使用することはありません」と Glean の最高情報セキュリティ責任者である Sunil Agrawal 氏は述べ、OpenAI はその引用文を投稿とともに掲載しました。 「モデルの機能が向上するにつれて、OpenAI は企業の信頼を維持するプライバシーと制御を損なうことなく安全性を向上できることを示しています。」

OpenAIはプレビューを需要への対応として位置づけており、顧客からは「AIシステムの能力が高まるにつれてコンテンツがどのように保護されるかについて予測可能性が必要だという声がはっきりと出ている」と述べた。同社は、このアプローチは「業界、地域、企業規模を超えて」顧客によって形成されており、変更に応じた展開を計画するために十分なリードタイムを持って顧客に情報を提供し続けると付け加えた。

これが引き起こす議論

安全性研究者らは長年、悪用を事前に発見するには使用パターンの可視化が不可欠であると主張しており、自動化された暗号化分析が人によるレビューの検出品質に匹敵するか疑問を抱く人もいるだろう。一方、プライバシー擁護派は、顧客データへのアクセスをプロバイダーの特権ではなく顧客の決定として扱うアーキテクチャを歓迎するでしょう。

明らかなことは、データ ガバナンスが法的な細かい部分から AI 競争の中心に移ってきているということです。規制された業界でフロンティア モデルがより長時間でより自律的なタスクを引き受けるようになると、それらのシステムが残した痕跡を誰が見ることができるのか、顧客かプロバイダーか、それとも誰でもないかという問題が、エンタープライズ AI 取引の勝敗を決める主要な軸になりつつあります。 OpenAIは現在、その答えを明確にし、ライバルたちを自分たちの答えを守る立場に置いている。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →