OpenAI نے 5 اکتوبر کو اعلان کیا کہ وہ یورپی یونین میں صارفین کے لیے ChatGPT اور Codex کے ذریعے تیار کردہ ٹیکسٹ میں پوشیدہ واٹر مارکس شامل کرنا شروع کر دے گا، یہ EU AI ایکٹ کے ٹیکسٹ پرووینس رولز پر اس کا ٹھوس ردعمل ہے۔ "EU ٹیکسٹ پرووینس رولز کے بارے میں ہمارا نقطہ نظر" کے عنوان سے ایک بلاگ پوسٹ میں، کمپنی نے کہا کہ بلاک میں اہل آؤٹ پٹ کے لیے واٹر مارکنگ "آنے والے ہفتوں میں" شروع ہو جائے گی، اسی دن TechCrunch، The Verge، BleepingComputer، Engadget اور دیگر آؤٹ لیٹس کے ذریعے ایک پلان کی اطلاع دی گئی۔
تبدیلی کے پیچھے ٹیکنالوجی کو ٹیکسٹ گرین کہا جاتا ہے۔ مرئی نشان کو سرایت کرنے کے بجائے، ٹیکسٹ گرین ماڈل کے الفاظ کے انتخاب کو ٹھیک طریقے سے اسٹیئرنگ کرکے کام کرتا ہے تاکہ نتیجے میں آنے والا متن ایک شماریاتی نمونہ رکھتا ہے جس کا بعد میں پتہ لگایا جاسکتا ہے۔ قارئین کو AI سے تیار کردہ متن کا استعمال یا کاپی کرتے وقت کچھ بھی نظر نہیں آئے گا۔ پتہ لگانے کے لیے OpenAI کے ڈیٹیکٹر تک رسائی کی ضرورت ہوتی ہے، جو عام لوگوں کے لیے دستیاب نہیں ہے۔ ریگولیٹرز اور لیبز کس طرح AI قوانین سے ٹکرا رہے ہیں اس کی وسیع تر نظر کے لیے، ہماری جاری AI پالیسی کوریج کی پیروی کریں۔
ٹیکسٹ گرین واٹر مارکنگ کیسے کام کرتی ہے۔
OpenAI کا نقطہ نظر نسل کے دوران ٹوکن کے انتخاب کے عمل کو تبدیل کرتا ہے۔ BleepingComputer کی رپورٹنگ کے مطابق، کمپنی کا کہنا ہے کہ ٹیکسٹگرین "ماڈل کے الفاظ کے انتخاب میں قدرے تبدیلی کرتا ہے تاکہ ایک شماریاتی نمونہ بنایا جا سکے جس کا بعد میں پتہ لگایا جا سکے۔" جب متن کو پڑھا یا کاپی کیا جاتا ہے تو واٹر مارک پوشیدہ ہوتا ہے، اور OpenAI کا دعویٰ ہے کہ یہ آؤٹ پٹ کوالٹی کو کم نہیں کرتا ہے۔
پتہ لگانے کی طرف جان بوجھ کر محدود ہے۔ واٹر مارک لانچ کے ساتھ ساتھ، OpenAI اپنے واٹر مارک ڈیٹیکٹر کے لیے ایپلی کیشنز کھول رہا ہے، لیکن رسائی ابتدائی طور پر منظور شدہ محققین اور ماہر تنظیموں تک محدود ہوگی۔ یہ ڈیزائن کسی بھی شخص کے ہاتھ سے پتہ لگانے کی صلاحیت کو دور رکھتا ہے جو اسے ہتھیار بنانے کی امید رکھتا ہے، لیکن اس کا مطلب یہ بھی ہے کہ پبلشرز، اساتذہ اور آجر آزادانہ طور پر اس بات کی تصدیق نہیں کر سکتے کہ آیا متن کے ٹکڑے پر واٹر مارک کیا گیا ہے۔
API رسائی دنیا بھر میں آپٹ ان ہے۔
یورپی یونین کا مینڈیٹ بلاک میں ChatGPT اور Codex آؤٹ پٹ پر لاگو ہوتا ہے، لیکن OpenAI بیک وقت ہر جگہ ڈویلپرز کو انتخاب دے رہا ہے۔ 5 اکتوبر سے، دنیا بھر میں API ڈویلپرز معاون ماڈلز کے لیے ٹیکسٹ واٹر مارکنگ کا انتخاب کر سکتے ہیں۔ یہ خصوصیت API پر بطور ڈیفالٹ غیر فعال رہتی ہے، ایک فیصلہ The New Stack نے Anthropic کے نقطہ نظر کے برعکس کے طور پر روشنی ڈالی، جس نے اس سال کے شروع میں EU ٹریفک کے لیے انہی قوانین کے اپنے ردعمل میں پرووینس مارکنگ کو آن کر دیا۔
یہ آپٹ ان کرنسی ڈویلپرز کو یقین دلائے گی جو غیر متوقع ضمنی اثرات سے پریشان ہیں۔ شماریاتی واٹر مارکنگ تبدیل کرتا ہے کہ ٹوکنز کے نمونے کیسے بنائے جاتے ہیں، اور نسل میں ہونے والی کسی بھی تبدیلی سے کم از کم ایک نظریاتی خطرہ ہوتا ہے۔ واٹر مارکنگ کو ڈیفالٹ کے بجائے پرچم بنا کر، OpenAI تعمیل کا فیصلہ اپنے ماڈلز پر تعمیر کرنے والی کمپنیوں کو منتقل کرتا ہے۔
EU AI ایکٹ نے اسے کیوں مجبور کیا۔
EU AI ایکٹ کی شفافیت کی دفعات کا تقاضہ ہے کہ AI سے تیار کردہ متن کو مشین سے تیار کردہ کے طور پر قابل شناخت بنایا جائے، یہ ایک ذمہ داری ہے جس نے OpenAI اور Anthropic دونوں کو شماریاتی واٹر مارکنگ اسکیموں کی طرف دھکیل دیا ہے۔ OpenAI کی بلاگ پوسٹ ٹیکسٹ گرائن کو اس کے ان پرووننس تقاضوں کے نفاذ کے طور پر تیار کرتی ہے، اور PYMNTS نے اس رول آؤٹ کو OpenAI کے "EU AI ایکٹ مینڈیٹس" سے براہ راست ملاقات کے طور پر رپورٹ کیا۔
ٹائمنگ قابل ذکر ہے۔ واٹر مارک کا اعلان OpenAI کے عوامی کرنسی کے لیے غیر معمولی طور پر ہنگامہ خیز کھینچا تانی کے درمیان ہوا: اسی خبر کے چکر نے سیفٹی لیڈر ڈیوڈ رابنسن کی رخصتی، بڑی AI لیبز میں صارفین کے خطرات کے بارے میں FTC کی تحقیقات، اور شیئر ہولڈر کے مقدمے کا ماحول جس نے کمپنی کو جانچ پڑتال میں رکھا ہوا ہے۔ واٹر مارکنگ ان چند ریگولیٹری مطالبات میں سے ایک ہے جو OpenAI پروڈکٹ کی تبدیلیوں کے بجائے بنیادی ڈھانچے سے پوری طرح پوری کر سکتی ہے، جس سے یہ وضاحت ہو سکتی ہے کہ اسے پہلے کیوں بھیجا۔
کیچ: ترمیم کے تحت واٹر مارکس ٹوٹ جاتے ہیں۔
OpenAI خود بنیادی حد کو تسلیم کرتا ہے۔ کمپنی تسلیم کرتی ہے کہ جب متن میں ترمیم کی جاتی ہے تو اس کا واٹر مارک غائب ہو سکتا ہے، اور لسانی اسٹیگنوگرافی پر کئی دہائیوں کی تحقیق اس تشویش کا سبب بنتی ہے: پیرا فریسنگ، ترجمہ یا یہاں تک کہ معمولی دوبارہ لکھنا شماریاتی واٹر مارکس کو تباہ کر سکتا ہے۔ کوئی بھی شخص جو "ہیومنائزر" ٹول کے ذریعے AI ٹیکسٹ کو لانڈر کرنے کا ارادہ رکھتا ہے وہ کامیاب ہو جائے گا۔
اس کمزوری نے ریگولیٹرز کو واٹر مارکنگ کی ضرورت سے نہیں روکا ہے، اور اس نے لیبز کو اسے بھیجنے سے نہیں روکا ہے۔ حقیقت پسندانہ مقصد چھیڑ چھاڑ کا ثبوت نہیں ہے بلکہ بڑے پیمانے پر دھوکہ دہی کی قیمت کو بڑھانا ہے، وہی منطق جو کرنسی کے واٹر مارکس کو کنٹرول کرتی ہے۔ ناقدین، بشمول کچھ AI سیفٹی گروپس جو رضاکارانہ صنعت کے اقدامات پر شکوک و شبہات کا شکار ہیں، دلیل دیتے ہیں کہ صرف منظور شدہ تنظیموں کے لیے قابل رسائی ڈیٹیکٹر اساتذہ، ایڈیٹرز یا پلیٹ فارمز کے لیے بہت کم کام کرتے ہیں جو اپنی AI- مواد کی پالیسیوں کو نافذ کرنے کی کوشش کر رہے ہیں۔
صارفین اور ڈویلپرز کے لیے اس کا کیا مطلب ہے۔
EU کے اندر ChatGPT اور Codex صارفین کے لیے، کچھ بھی بظاہر تبدیل نہیں ہوگا۔ متن ایک جیسا نظر آئے گا اور محسوس کرے گا، اور آؤٹ پٹ پر کوئی لیبل ظاہر نہیں ہوگا۔ واٹر مارک صرف وہاں ہو گا، اصولی طور پر OpenAI کے منظور شدہ شراکت داروں کے ذریعے قابل شناخت۔
ڈویلپرز کے لیے، API کا جھنڈا فوری طور پر پہنچ جاتا ہے اور احتیاط سے جائزہ لینے کے قابل ہے: اسے آن کرنے کا مطلب ہے کہ ہر تکمیل کے دوران ٹوکن سیمپلنگ میں باریک تبدیلیاں قبول کرنا، یہاں تک کہ غیر EU صارفین کے لیے، کیونکہ API کی ترتیب عالمی ہے۔ سخت تاخیر یا معیاری بجٹ والی ٹیمیں سوئچ کو پلٹانے سے پہلے اپنے موجودہ سیٹ اپ کے خلاف واٹر مارک جنریشن کو بینچ مارک کرنا چاہیں گی۔
OpenAI کا کہنا ہے کہ اہل ماڈلز کے بارے میں مزید تفصیل اور ڈیٹیکٹر کی درخواست کے عمل آنے والے ہفتوں میں پہنچ جائیں گے۔ جیسا کہ دیگر لیبز کو EU کی اسی ذمہ داریوں کا سامنا کرنا پڑتا ہے، ٹیکسٹگرین اس سال صنعت کی طرف سے تعینات آخری واٹر مارکنگ اسکیم ہونے کا امکان نہیں ہے۔
AI سے آگے رہیں
ریگولیشن نئی شکل دے رہا ہے کہ کس طرح AI پروڈکٹس ہڈ کے نیچے کام کرتے ہیں۔ AI Buzz Wire پر AI کی تازہ ترین پیشرفت حاصل کریں، پالیسی تجزیہ اور ماڈل کی خبروں کے ساتھ دن بھر اپ ڈیٹ ہوتی رہتی ہیں۔
مزید AI خبریں یہاں پڑھیں۔
