OpenAI نے بدھ کو اعلان کیا کہ وہ اپنے فرنٹیئر ماڈلز کے لیے زیرو ڈیٹا ریٹینشن (ZDR) پیش کر رہا ہے اور پرائیویٹ سیفٹی پروسیسنگ نامی ایک نئے سسٹم کا پیش نظارہ کیا گیا ہے، جو کمپنی کو کسٹمر کے مواد تک رسائی دیے بغیر متعدد تعاملات میں غلط استعمال کا پتہ لگانے کے لیے ڈیزائن کیا گیا ہے۔ یہ اقدام حریفوں کے خلاف ایک تیز لکیر کھینچتا ہے: Axios نے اطلاع دی کہ یہ اعلان اس وقت سامنے آیا ہے جب Anthropic اب صارفین کو ڈیٹا لاگ کی اجازت دینے کا تقاضا کرتی ہے، اور Firstpost نے Anthropic کے 30 دن کے ڈیٹا کو برقرار رکھنے کے اقدام کے ساتھ تضاد کو نوٹ کیا۔
ٹائمنگ ٹھیک ٹھیک نہیں ہے۔ اپنے اعلان میں، OpenAI نے مشاہدہ کیا کہ "کچھ حالیہ فرنٹیئر-ماڈل کی تعیناتیوں نے صارفین سے مطالبہ کیا ہے کہ وہ اپنے AI فراہم کنندہ کو حفاظتی نگرانی کے لیے حساس مواد کو برقرار رکھنے کی اجازت دیں" - ضروریات کمپنی کا کہنا ہے کہ "اپنی حفاظتی ذمہ داریوں یا ان لوگوں کے ساتھ وابستگیوں سے متصادم ہے جن کی وہ خدمت کرتے ہیں۔" کمپنی ریگولیٹڈ انٹرپرائز صارفین کے مقابلے میں رازداری کو ایک مسابقتی ہتھیار کے طور پر پوزیشن دے رہی ہے۔ For more context on this story, see our ongoing artificial intelligence updates.
زیرو ڈیٹا برقرار رکھنے کا کیا وعدہ ہے۔
ZDR پیشکش کے تحت، اہل API صارفین کو وہی ملتا ہے جسے OpenAI "واضح وعدے" کے طور پر بیان کرتا ہے: OpenAI درخواست پر کارروائی کے بعد پرامپٹس یا ماڈل ردعمل کو برقرار نہیں رکھتا ہے۔ جائزہ لینے کے لیے OpenAI کے اہلکاروں کے لیے کسٹمر کا مواد دستیاب نہیں ہے، اور انٹرپرائز کسٹمر ڈیٹا کو OpenAI کے ماڈلز کو تربیت دینے کے لیے استعمال نہیں کیا جاتا جب تک کہ صارفین واضح طور پر آپٹ ان نہ کریں۔
بینکوں، ہسپتالوں اور قانونی فرموں کے لیے جو AI کو اپنانے کا وزن رکھتے ہیں، وہ وعدے سب سے عام ڈیل توڑنے والے کو حل کرتے ہیں: یہ خطرہ کہ AI فراہم کنندہ کے سسٹمز کے ذریعے بہنے والے حساس مواد کو مستقبل کے ماڈلز میں ذخیرہ، پڑھا، یا جذب کیا جا سکتا ہے۔ OpenAI ان تنظیموں کو نوٹ کرتا ہے جن کے ساتھ یہ کام کرتی ہے "مالی ریکارڈ، صحت کے ڈیٹا، خفیہ کاروباری منصوبے، اور ملکیتی تحقیق"۔
حفاظتی مسئلہ برقرار رکھنے سے حل ہو رہا تھا۔
اعلان بھی ایک حقیقی تکنیکی تناؤ کو تسلیم کرتا ہے۔ جیسا کہ OpenAI خود اس کی وضاحت کرتا ہے، AI کی حفاظت کے انتہائی سنگین خطرات ہمیشہ ایک ہی تعامل میں نظر نہیں آتے۔ نقصان دہ ارادے صرف اس وقت واضح ہو سکتے ہیں جب متعدد تعاملات کو ایک ساتھ دیکھا جائے — جب برے اداکار بار بار حفاظتی اقدامات کی چھان بین کرتے ہیں، اکاؤنٹس میں ہم آہنگی کرتے ہیں، دھمکیوں کو معمول کی تحقیق کے طور پر چھپاتے ہیں، یا جب کوئی AI ایجنٹ روکنے کے لیے کہے جانے کے بعد کام کرتا رہتا ہے۔
موجودہ ZDR سے مطابقت رکھنے والے حفاظتی نظام ہر تعامل کا انفرادی طور پر جائزہ لیتے ہیں، جس کا مطلب ہے کہ پیٹرن پر مبنی خطرات ختم ہو جاتے ہیں۔ وہ فراہم کنندگان جنہوں نے برقراری کی ضرورت کے جواب میں ایک مسئلہ کو حل کیا، دوسرا بنا کر، صارفین کو حفاظت کی نگرانی اور ان کی اپنی رازداری کی ذمہ داریوں کے درمیان انتخاب کرنے پر مجبور کیا۔
پرائیویٹ سیفٹی پروسیسنگ کیسے کام کرتی ہے۔
OpenAI کی مجوزہ قرارداد تعمیراتی ہے۔ پرائیویٹ سیفٹی پروسیسنگ کے تحت، کسٹمر کا مواد بنیادی ڈھانچے پر رہتا ہے جو گاہک کو کنٹرول کرتا ہے - یا، ایک آپشن میں جو ابھی بھی ترقی میں ہے، OpenAI انفراسٹرکچر پر محفوظ کیا جاتا ہے جو صارف کے زیر کنٹرول کلیدوں کے ساتھ انکرپٹ ہوتا ہے۔ خودکار نظام پھر متعلقہ تعاملات کے نمونوں کا تجزیہ کرتے ہیں اور OpenAI اہلکاروں کے بنیادی اشارے یا جوابات کو بے نقاب کیے بغیر - ممکنہ غلط استعمال کے بارے میں جھنڈے - "محدود حفاظتی سگنل" واپس کرتے ہیں۔
صارفین اپنے سسٹمز میں دستیاب معلومات کا استعمال کرتے ہوئے انتباہات کی چھان بین کرتے ہیں۔ اگر وہ نفاذ کے فیصلے کے خلاف اپیل کرنا چاہتے ہیں، جائز سرگرمی کو واضح کرنا چاہتے ہیں، یا تصدیق شدہ غلط استعمال کی تحقیقات کی حمایت کرنا چاہتے ہیں، تو وہ OpenAI کے ساتھ متعلقہ معلومات کا اشتراک کرنے کا انتخاب کر سکتے ہیں۔ پرائیویسی، دوسرے لفظوں میں، ڈیفالٹ بن جاتی ہے اور گاہک کے اختیار کو ظاہر کرتی ہے۔
سسٹم کا فی الحال ابتدائی صارفین کے ساتھ تجربہ کیا جا رہا ہے۔ OpenAI کا کہنا ہے کہ وہ پرائیویٹ سیفٹی پروسیسنگ شروع کرنے اور ستمبر میں ایک تکنیکی وائٹ پیپر شائع کرنے کا ارادہ رکھتا ہے۔
ایک مارکیٹ کے طور پر انٹرپرائز ٹرسٹ
اعلان ایک گاہک کی تعریف کے ساتھ پہنچا جو خریداری کی دلیل کی طرح پڑھتا ہے۔ Glean کے چیف انفارمیشن سیکیورٹی آفیسر سنیل اگروال نے کہا، "انٹرپرائز AI اپنانے کا انحصار مکمل طور پر ڈیٹا کے کسٹمر کنٹرول پر ہے، جس میں منتخب سروس سے آگے کوئی براہ راست یا اخذ شدہ استعمال نہیں،" سنیل اگروال، چیف انفارمیشن سیکیورٹی آفیسر نے کہا، جس کا اقتباس OpenAI پوسٹ کے ساتھ شائع ہوا ہے۔ "جیسے جیسے ماڈلز زیادہ قابل ہو جاتے ہیں، OpenAI ظاہر کرتا ہے کہ حفاظت پرائیویسی اور کنٹرول پر سمجھوتہ کیے بغیر آگے بڑھ سکتی ہے جو انٹرپرائز کے اعتماد کو برقرار رکھتی ہے۔"
اوپن اے آئی ڈیمانڈ کے جواب کے طور پر پیش نظارہ کو فریم کرتا ہے، یہ کہتے ہوئے کہ اس نے صارفین سے سنا ہے "بلند اور واضح ہے کہ انہیں اس بارے میں پیشین گوئی کی ضرورت ہے کہ ان کے مواد کو کیسے محفوظ کیا جائے گا کیونکہ AI سسٹمز زیادہ قابل ہو جائیں گے۔" کمپنی نے مزید کہا کہ اس نقطہ نظر کو "صنعتوں، خطوں اور کمپنی کے سائز میں" صارفین کی طرف سے تشکیل دیا جا رہا ہے اور یہ کہ صارفین کو تبدیلیوں کے ارد گرد تعیناتیوں کی منصوبہ بندی کرنے کے لیے کافی لیڈ ٹائم کے ساتھ آگاہ کیا جائے گا۔
یہ بحث شروع کرے گی۔
حفاظتی محققین نے طویل عرصے سے یہ استدلال کیا ہے کہ غلط استعمال کو نقصان پہنچانے سے پہلے اسے پکڑنے کے لیے استعمال کے نمونوں کی مرئیت ضروری ہے، اور کچھ سوال کریں گے کہ کیا خودکار، خفیہ کردہ تجزیہ انسانی جائزے کے کھوج کے معیار سے میل کھا سکتا ہے۔ پرائیویسی کے حامی، اس دوران، ایک ایسے فن تعمیر کا خیرمقدم کریں گے جو صارف کے ڈیٹا تک رسائی کو فراہم کنندہ کی ترجیح کے بجائے کسٹمر کے فیصلے کے طور پر پیش کرتا ہے۔
جو بات واضح ہے وہ یہ ہے کہ ڈیٹا گورننس قانونی فائن پرنٹ سے AI مقابلے کے مرکز میں منتقل ہو گئی ہے۔ چونکہ فرنٹیئر ماڈلز ریگولیٹڈ صنعتوں میں طویل، زیادہ خودمختار کام انجام دیتے ہیں، یہ سوال کہ کون دیکھ سکتا ہے کہ ان سسٹمز کے پیچھے رہ جانے والے نشانات - صارف، فراہم کنندہ، یا کوئی نہیں - ایک بنیادی محور بنتا جا رہا ہے جس پر انٹرپرائز AI سودے جیتے اور ہار جاتے ہیں۔ OpenAI نے اب اپنا جواب واضح کر دیا ہے، اور اپنے حریفوں کو ان کا دفاع کرنے کی پوزیشن میں رکھا ہے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
