OpenAI در 29 اکتبر یک نسخه کاملاً سازماندهی شده از مدل Spec خود را منتشر کرد، و ساختار سند عمومی را که توضیح می دهد شرکت می خواهد مدل هایش چگونه رفتار کنند، بازسازی کرد. چارچوب به روز شده که در سایت OpenAI اعلام شده و توسط رویترز و Unite.AI گزارش شده است، کل مشخصات را حول پنج ارزش اصلی سازماندهی می کند و وفاداری به نیت انسان را در اساس رویکرد شرکت قرار می دهد.

پنج ارزش، یک پایه For more context on this story, see our ongoing AI industry coverage.

پنج ارزش عبارتند از وفاداری به نیت انسان، به حداقل رساندن آسیب، صداقت و شفافیت، عاملیت انسانی و مراقبت. OpenAI گفت این ارزش ها تعهدات گسترده ای را بیان می کنند که قبلاً در نسخه قبلی سند منعکس شده بود، اما ساختار جدید آنها را واضح و مرکزی می کند.

وفاداری به نیت انسان به عنوان لنگر عمل می کند. طبق اعلام OpenAI، این شرکت Spec را می‌نویسد و مرزها را تعیین می‌کند، مدل‌ها را آموزش می‌دهد تا به آن‌ها احترام بگذارند، توسعه‌دهندگان برنامه‌ها را در آن محدوده‌ها هدایت می‌کنند و کاربران کار مدل را مطابق با آن محدودیت‌ها هدایت می‌کنند. سازمان‌دهی مجدد منعکس‌کننده کار همسویی ارزش OpenAI است که هدف آن مدل‌ها درک و به کارگیری ارزش‌های انسانی در موقعیت‌های ناآشنا است و در عین حال به آنچه مردم واقعاً می‌خواهند وفادار می‌مانند. OpenAI همچنین خاطرنشان کرد که این پنج ارزش برای نشان دادن طیف کاملی از ارزش‌های انسانی که مدل‌های آن باید رعایت کنند، نیست.

چهار مقدار باقی مانده در کادر پر می شود. به حداقل رساندن آسیب به معنای رعایت مرزهای ایمنی شرکت و حسابرسی برای پیامدهای قابل پیش بینی اقدامات یک مدل است. صداقت و شفافیت به معنای صادق بودن در مورد آنچه مدل می داند، انجام می دهد و در مورد آن نامطمئن است. تسهیل عاملیت انسانی به معنای تقویت توانایی افراد برای درک، انتخاب و عمل برای خود است. مراقبت به معنای توجه به شرایط افراد آسیب دیده و پیروی از هنجارهای اجتماعی و حرفه ای مربوطه است.

زنجیره فرماندهی سخت‌تر

مشخصات به روز شده سطوح مختلف اختیار را به انواع مختلف دستورالعمل ها اختصاص می دهد. بخش‌های ریشه، که فقط از خود مدل Spec می‌آیند، نمی‌توانند توسط زمینه مکالمه لغو شوند. اعلان های سیستم و پیام های سیستم OpenAI در رتبه های بعدی قرار می گیرند و به دنبال آن دستورالعمل های توسعه دهنده و سپس دستورالعمل های کاربر قرار می گیرند. دستورالعمل‌های سطح راهنما به‌عنوان پیش‌فرض‌هایی عمل می‌کنند که می‌توانند زمانی که زمینه به وضوح درخواست می‌کند لغو شوند، در حالی که پیام‌های دستیار، خروجی‌های ابزار، و داده‌های نقل‌قول‌شده یا نامعتبر به‌طور پیش‌فرض فاقد اعتبار هستند.

OpenAI همچنین یک بخش فرعی جدید در مورد بررسی دقیق زمینه اضافه کرد و توضیح داد که چگونه مکالمات، خاطرات و سایر شواهد زمینه ای باید درک مدل از نیات و ترجیحات افراد را نشان دهد. رویترز گزارش داد که این به‌روزرسانی نیت انسانی را در مرکز دستورالعمل‌های مدل OpenAI قرار می‌دهد، چارچوبی که اعلامیه خود این شرکت پشتیبانی می‌کند.

خطوط قرمز و پایان حفظ خود

این سند اصول خط قرمز خود را با یک بیانیه صریح باز می کند: ایمنی انسان و حقوق بشر برای مأموریت OpenAI اولویت دارند. این اصول می‌گویند که مدل‌های OpenAI هرگز نباید برای تسهیل آسیب‌های حیاتی و با شدت بالا، از جمله اعمال خشونت‌آمیز، ایجاد سلاح‌های سایبری، بیولوژیکی یا هسته‌ای، تروریسم یا نظارت جمعی مورد استفاده قرار گیرند. آنها همچنین بیان می کنند که بشریت باید کنترل نحوه استفاده از هوش مصنوعی و نحوه شکل گیری رفتارهای هوش مصنوعی را در دست داشته باشد.

یک قانون جدید در سطح ریشه، با عنوان "هیچ هدف دیگری"، مدل را از دنبال کردن اهداف اضافی به عنوان اهداف خود منع می کند. این شامل دنبال کردن درآمد یا افزایش فروش برای OpenAI یا سایر ارائه دهندگان، حفظ خود، فرار از خاموش شدن، یا جمع آوری محاسبات، داده ها یا اعتبارنامه ها است. یک قانون همراه مستلزم آن است که مدل اصلاح‌پذیر باقی بماند: باز برای نظارت مشروع انسانی و همکاری با نظارت، ارزیابی، اصلاح، جایگزینی، و خاموش کردن، بدون پنهان کردن اطلاعات یا مانع از اصلاح.

خودمختاری محدود برای نمایندگان

با انعکاس اینکه چقدر استفاده از مدل به سمت عوامل مستقل تغییر کرده است، مشخصات به روز شده نیازمند کار مستقل یک مدل برای ماندن در محدوده کاملاً درک شده از استقلال است. OpenAI توصیه می کند که این محدوده را در یک رکورد نیمه ساختاریافته با زمینه هایی مانند ابزار مجاز، آخرین زمان، حداکثر هزینه و محدودیت های ابزار ثبت کنید. هر دامنه باید شامل یک شرط پایانی باشد که مدل فراتر از آن تا زمانی که دامنه جدید تأیید شود، عمل نمی کند. فعالیت های پرخطر همچنان ممنوع هستند مگر اینکه به طور صریح و مشخص مجاز باشند.

Style Guidance بازنشسته شد، "دستیار" به "GPT" تبدیل شد

بیشتر راهنمایی های سبک دقیق Spec بازنشسته شده است. OpenAI گفت سبک باید در عوض با آنچه مردم به طور کلی ترجیح می دهند، در زبان ها و فرهنگ ها، و برای هر فرد، با بازخورد کاربر و زمینه ارائه شواهد سازگار شود. این سند پیش‌فرض‌های قوی‌تری مانند رویکرد عینی به سؤالات را حفظ می‌کند و بیان می‌کند که مدل نباید صرفاً از آنچه فکر می‌کند مردم می‌خواهند بشنوند، دیدگاه ترجیحی را استنتاج کند.

در یک ویرایش کوچک اما گویا، Spec اکنون به مدل به‌عنوان «GPT» به جای «دستیار» اشاره می‌کند، که بازتابی از اینکه مدل‌ها در حال حاضر چقدر گسترده هستند. در همان روز، OpenAI به طور جداگانه پستی را منتشر کرد که در آن نحوه تشخیص ناهماهنگی مدل مرزی را توضیح داد و تأکید کرد که مشخصات رفتار و کار تشخیص با هم در حال پیشرفت هستند.

یک هدف، نه یک توصیف

OpenAI دقت کرد که توجه داشته باشد که مدل Spec رفتاری را که برای آن کار می‌کند، توصیف می‌کند، نه لزوماً رفتاری که مدل‌های آن امروز به طور کامل نشان می‌دهند. این شرکت این به‌روزرسانی را اولین گام برای شفاف‌تر کردن ارزش‌ها و استدلال پشت Spec نامید، زیرا مدل‌ها توانمندتر می‌شوند، و گفت که در حال بررسی روش‌های آموزشی جدید برای کمک به مدل‌های خود برای درونی‌سازی چارچوب است.

برای توسعه‌دهندگان و شرکت‌هایی که مبتنی بر مدل‌های OpenAI هستند، سیگنال عملی واضح است: قوانین حاکم بر رفتار مدل حول نظارت، اصلاح‌پذیری، و استقلال محدود رسمیت می‌یابند، و دوران تلقی رفتار مدل به‌عنوان یک تصمیم غیررسمی محصول در حال پایان است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →