OpenAIは10月29日、モデル仕様を大幅に再構成したバージョンを公開し、同社がモデルにどのように動作させたいかを説明する公開文書を再構成した。 OpenAIのサイトで発表され、ロイター通信とUnite.AIが報じたこの更新されたフレームワークは、5つの核となる価値観を中心に仕様全体を整理し、人間の意図への忠実さを同社のアプローチの基礎に据えている。

5 つの価値観、1 つの基盤 この件の詳細は、AIの最新動向をご覧ください。

5 つの価値観は、人間の意図への忠実さ、危害の最小化、誠実さと透明性、人間の主体性、思いやりです。 OpenAIは、これらの価値観は、以前のバージョンの文書全体にすでに反映されている広範なコミットメントを明確に示しているが、新しい構造ではそれらが明示的かつ中心的なものになっていると述べた。

人間の意図への忠実さがアンカーとして機能します。 OpenAIの発表によると、同社は仕様を記述して境界を設定し、それを尊重するようにモデルをトレーニングし、開発者はその境界内でアプリケーションを指示し、ユーザーはその制約に従ってモデルの作業を指示する。この再編は、人々が実際に望んでいることに忠実でありながら、モデルが不慣れな状況でも人間の価値観を理解し、適用できるようにすることを目的とした OpenAI の価値調整作業を反映しています。 OpenAIはまた、5つの価値観はそのモデルが尊重すべき人間の価値観の全範囲を捉えることを意図したものではないとも指摘した。

残りの 4 つの値がフレームに入力されます。危害を最小限に抑えるということは、しっかりとした安全境界を尊重し、モデルの動作の予見可能な結果を​​考慮することを意味します。正直さと透明性とは、モデルが知っていること、行っていること、不確かなことについて真実であることを意味します。人間の主体性を促進するということは、人々が自分自身で理解し、選択し、行動する能力を強化することを意味します。ケアとは、影響を受ける人々の状況に配慮し、関連する社会的および職業的規範に従うことを意味します。

より厳格な指揮系統

更新された仕様では、さまざまな種類の命令にさまざまなレベルの権限が割り当てられます。モデル仕様自体からのみ取得されるルート セクションは、会話のコンテキストによってオーバーライドできません。システム プロンプトと OpenAI システム メッセージが次にランクされ、開発者の指示、ユーザーの指示が続きます。ガイドライン レベルの指示は、コンテキストが明らかにそれを必要とする場合に上書きできるデフォルトとして機能しますが、アシスタント メッセージ、ツールの出力、引用されたデータまたは信頼されていないデータには、デフォルトでは権限がありません。

OpenAI はまた、コンテキストを慎重に検討することに関する新しいサブセクションを追加し、会話、記憶、その他のコンテキスト証拠が人々の意図や好みをモデルに理解させる方法を説明しました。ロイター通信は、このアップデートでは人間の意図がOpenAIのモデルガイドラインの中心に据えられ、同社自身の発表が支持される枠組みになったと報じた。

赤線と自己保存の終わり

この文書は、そのレッドライン原則の冒頭に、「人間の安全と人権は OpenAI の使命にとって最も重要である」という率直な声明で始まっています。この原則では、OpenAIのモデルは、暴力行為、サイバー兵器、生物兵器、核兵器の作成、テロリズム、大規模監視など、重大かつ深刻な危害を促進するために決して使用されるべきではないとしている。彼らはまた、AI がどのように使用され、AI の行動がどのように形成されるかを人類が制御し続ける必要があるとも述べています。

「他の目標は禁止」というタイトルの 1 つの新しいルートレベルのルールは、モデルがそれ自体を目的として追加の目標を追求することを妨げています。これには、OpenAI やその他のプロバイダーの収益やアップセルの追求、自己保存、シャットダウンの回避、コンピューティング、データ、認証情報の蓄積が含まれます。コンパニオン ルールでは、モデルが修正可能であること、つまり、情報を隠蔽したり修正を妨げたりすることなく、人間の正当な監視を受け入れ、監視、評価、修正、交換、シャットダウンに協力的であることを要求します。

エージェントの限定された自律性

モデルの使用が自律エージェントにどれだけ移行したかを反映して、更新された仕様では、明確に理解された自律性の範囲内に留まるためにモデルの独立した作業が必要です。 OpenAI では、許可されたツール、最新の時刻、最大コスト、ツールの制約などのフィールドを含む半構造化レコードにその範囲を記録することを推奨しています。すべてのスコープには、新しいスコープが確認されるまでモデルが動作を停止する終了条件を含める必要があります。高リスクの活動は、明示的かつ特別に許可されない限り、引き続き禁止されています。

スタイル ガイダンスが廃止され、「アシスタント」が「GPT」に変わります

Spec の詳細なスタイル ガイダンスのほとんどは廃止されました。 OpenAIは、スタイルはむしろ、ユーザーのフィードバックと証拠を提供するコンテキストとともに、言語や文化の範囲内で、そして各人ごとに、人々が好むものに全体的に適応する必要があると述べた。この文書は、質問に客観的にアプローチするなどのより強力なデフォルトを維持しており、モデルは人々が聞きたいと考えていることだけから好ましい視点を推測すべきではないと述べています。

小さいながらも印象的な編集で、仕様ではモデルを「アシスタント」ではなく「GPT」と呼ぶようになりました。これは、モデルが現在どれほど広範囲に展開されているかを反映しています。同日、OpenAI はフロンティア モデルの不整合を検出する方法を説明した投稿を別途公開し、動作仕様と検出作業が連携して進んでいることを強調しました。

説明ではなくターゲット

OpenAI は、モデル仕様には、そのモデルが現在完全に示す動作を必ずしも示すものではなく、目指している動作が記述されていることに注意しました。同社は今回のアップデートを、モデルの機能が向上するにつれて仕様の背後にある価値観と推論をより明確にするための最初のステップと呼び、モデルがフレームワークに組み込まれるよう支援するための新しいトレーニング方法を模索していると述べた。

OpenAI のモデルに基づいて構築している開発者や企業にとって、実際的な兆候は明らかです。モデルの動作を管理するルールは、監視、修正可能性、および制限された自律性を中心に形式化されており、モデルの動作を非公式の製品決定として扱う時代は終わりつつあります。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →