OpenAI روز چهارشنبه اعلام کرد که Zero Data Retention (ZDR) را برای مدل‌های مرزی خود ارائه می‌کند و یک سیستم جدید به نام Private Safety Processing را پیش‌نمایش کرد که برای شناسایی سوء استفاده در تعاملات متعدد بدون دسترسی شرکت به محتوای مشتری طراحی شده است. این حرکت یک خط تیز را علیه رقبا ترسیم کرد: Axios گزارش داد که این اعلامیه زمانی منتشر می‌شود که آنتروپیک اکنون از مشتریان می‌خواهد تا ثبت اطلاعات را مجاز کنند، و Firstpost به تضاد با حرکت Anthropic به حفظ 30 روزه داده اشاره کرد.

زمان بندی ظریف نیست. OpenAI در اعلامیه خود مشاهده کرد که "برخی از استقرار مدل های مرزی اخیر مشتریان را ملزم کرده اند که به ارائه دهنده هوش مصنوعی خود اجازه دهند تا محتوای حساس را برای نظارت بر ایمنی حفظ کند" - الزاماتی که شرکت می گوید "با تعهدات امنیتی یا تعهدات آنها در قبال افرادی که به آنها خدمت می کنند در تضاد است." این شرکت حریم خصوصی را به عنوان یک سلاح رقابتی در رقابت برای مشتریان سازمانی تحت نظارت قرار می دهد. For more context on this story, see our ongoing AI trends.

آنچه که Zero Data Retention وعده می دهد

تحت پیشنهاد ZDR، مشتریان واجد شرایط API آنچه را که OpenAI به عنوان "یک وعده روشن" توصیف می کند دریافت می کنند: OpenAI پس از پردازش درخواست، درخواست ها یا پاسخ های مدل را حفظ نمی کند. محتوای مشتری برای بررسی در دسترس پرسنل OpenAI نیست و از داده‌های مشتریان سازمانی برای آموزش مدل‌های OpenAI استفاده نمی‌شود، مگر اینکه مشتریان صریحاً شرکت کنند.

برای بانک‌ها، بیمارستان‌ها و شرکت‌های حقوقی که پذیرش هوش مصنوعی را ارزیابی می‌کنند، این تعهدات به رایج‌ترین عامل شکست‌دهنده معامله می‌پردازد: خطر اینکه مواد حساسی که از طریق سیستم‌های ارائه‌دهنده هوش مصنوعی جریان می‌یابد می‌تواند ذخیره، خوانده یا جذب مدل‌های آینده شود. OpenAI اشاره می کند که سازمان هایی که با آنها کار می کند "سوابق مالی، داده های بهداشتی، برنامه های تجاری محرمانه و تحقیقات اختصاصی" را مدیریت می کنند.

حفظ مشکل ایمنی حل شد

این اعلامیه همچنین تنش فنی واقعی را تایید می کند. همانطور که OpenAI خود آن را توصیف می کند، جدی ترین خطرات ایمنی هوش مصنوعی همیشه در یک تعامل قابل مشاهده نیستند. مقاصد مضر تنها زمانی مشخص می شود که چندین تعامل با هم مشاهده شوند - زمانی که بازیگران بد به طور مکرر پادمان ها را بررسی می کنند، بین حساب ها هماهنگ می شوند، تهدیدها را به عنوان تحقیقات معمولی پنهان می کنند، یا زمانی که یک عامل هوش مصنوعی پس از اینکه به او گفته شد متوقف شود، به فعالیت خود ادامه می دهد.

سیستم‌های ایمنی سازگار با ZDR موجود، هر تعامل را به صورت جداگانه ارزیابی می‌کنند، به این معنی که خطرات مبتنی بر الگو از بین می‌روند. ارائه دهندگانی که با الزام به حفظ پاسخ دادند، یک مشکل را با ایجاد مشکل دیگر حل کردند و مشتریان را مجبور کردند که بین نظارت بر ایمنی و تعهدات حفظ حریم خصوصی خود یکی را انتخاب کنند.

چگونه پردازش ایمنی خصوصی کار می کند

وضوح پیشنهادی OpenAI معماری است. تحت پردازش ایمنی خصوصی، محتوای مشتری در زیرساختی که مشتری کنترل می‌کند باقی می‌ماند - یا در گزینه‌ای که هنوز در حال توسعه است، در زیرساخت OpenAI رمزگذاری شده با کلیدهای کنترل شده توسط مشتری ذخیره می‌شود. سپس سیستم‌های خودکار الگوها را در سراسر تعاملات مرتبط تجزیه و تحلیل می‌کنند و «سیگنال‌های ایمنی محدود» - پرچم‌هایی در مورد سوء استفاده احتمالی - را بدون افشای درخواست‌ها یا پاسخ‌های اساسی به پرسنل OpenAI برمی‌گردانند.

مشتریان هشدارها را با استفاده از اطلاعات موجود در سیستم های خود بررسی می کنند. اگر بخواهند درباره یک تصمیم اجرایی تجدیدنظر کنند، فعالیت قانونی را روشن کنند، یا از تحقیقات در مورد سوء استفاده تأیید شده حمایت کنند، می‌توانند اطلاعات مربوطه را با OpenAI به اشتراک بگذارند. به عبارت دیگر، حریم خصوصی به گزینه پیش فرض و افشای مشتری تبدیل می شود.

این سیستم در حال حاضر با مشتریان اولیه در حال آزمایش است. OpenAI می‌گوید قصد دارد فرآیند پردازش ایمنی خصوصی را آغاز کند و در ماه سپتامبر یک مقاله فنی فنی منتشر کند.

اعتماد سازمانی به عنوان یک بازار

این اعلامیه همراه با گواهی مشتری رسید که شبیه یک استدلال خرید است. سونیل آگراوال، مدیر ارشد امنیت اطلاعات در Glean که نقل قول OpenAI در کنار این پست منتشر شده است، گفت: «پذیرش هوش مصنوعی سازمانی صرفاً به کنترل مشتری بر داده‌ها بستگی دارد، بدون استفاده مستقیم یا مشتق شده فراتر از سرویس انتخابی. همانطور که مدل ها توانمندتر می شوند، OpenAI نشان می دهد که ایمنی می تواند بدون به خطر انداختن حریم خصوصی و کنترلی که اعتماد سازمان را حفظ می کند، پیشرفت کند.

OpenAI پیش‌نمایش را پاسخی به تقاضا می‌داند و می‌گوید که از مشتریان شنیده شده است که "با صدای بلند و واضح شنیده می‌شود که آنها به قابلیت پیش‌بینی در مورد نحوه محافظت از محتوایشان با افزایش توانایی سیستم‌های هوش مصنوعی نیاز دارند." این شرکت اضافه می‌کند که این رویکرد توسط مشتریان «در سراسر صنایع، مناطق و اندازه‌های شرکت» شکل می‌گیرد و مشتریان را با زمان کافی برای برنامه‌ریزی استقرار پیرامون تغییرات مطلع می‌سازد.

بحثی که این باعث می شود

محققان ایمنی مدت‌ها استدلال کرده‌اند که مشاهده الگوهای استفاده برای تشخیص سوء استفاده قبل از ایجاد آسیب ضروری است، و برخی این سوال را مطرح می‌کنند که آیا تحلیل خودکار و رمزگذاری شده می‌تواند با کیفیت تشخیص بازبینی انسانی مطابقت داشته باشد یا خیر. در همین حال، حامیان حریم خصوصی از معماری استقبال می کنند که دسترسی به داده های مشتری را به عنوان یک تصمیم مشتری تلقی می کند تا یک امتیاز ارائه دهنده.

آنچه واضح است این است که حاکمیت داده از چاپ دقیق قانونی به مرکز رقابت هوش مصنوعی منتقل شده است. از آنجایی که مدل‌های مرزی وظایف طولانی‌تر و مستقل‌تری را در صنایع تحت نظارت بر عهده می‌گیرند، این سوال که چه کسی می‌تواند آثاری را که این سیستم‌ها از خود به جای می‌گذارند ببیند - مشتری، ارائه‌دهنده یا هیچ‌کس - به محور اصلی تبدیل می‌شود که معاملات هوش مصنوعی سازمانی برنده و از دست می‌رود. OpenAI اکنون پاسخ خود را صریح بیان کرده است و رقبای خود را در موقعیت دفاع از رقبای خود قرار داده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →