ایک دوسرے ریاضی دان نے کھلے عام طور پر اوپن اے آئی پر ریاضی کی اپنی مشہور کامیابیوں کے پیچھے ڈیٹا کے حوالے سے غیر اخلاقی اور "بے ایمان" رویے کا الزام لگایا ہے، اور کہا ہے کہ کمپنی یہ ثابت کرنے میں ناکام رہی ہے کہ ChatGPT کے ساتھ اس کی نجی بات چیت نے گزشتہ ماہ بڑے دھوم دھام سے اعلان کردہ نتائج میں حصہ نہیں لیا۔

بدھ کے روز دی ورج کے ذریعہ رپورٹ کردہ مستوڈن پر پوسٹس کی ایک سیریز میں، ریاضی دان اینڈریاس تھوم نے خدشات کا اظہار کیا کہ اوپن اے آئی کے اعلان سے پہلے اس کی اور ان کے ساتھیوں کی چیٹ جی پی ٹی کے ساتھ ہونے والی گفتگو ماڈل کی کامیابی میں شامل ہوسکتی ہے۔ اس کی مداخلت نیویارک یونیورسٹی کے ریاضی کے پروفیسر ٹرسٹن بک ماسٹر کے عوامی طور پر سوال کرنے کے چند دن بعد سامنے آئی کہ کیا OpenAI کے ماڈلز کو کمپنی کے کوڈیکس ٹول کے اپنے استعمال سے فائدہ ہوا ہے - جس نے لیب کے لیے کامیابی کے لمحے کو ٹریننگ ڈیٹا پرووینس پر جاری تنازع میں بدل دیا۔ For more context on this story, see our ongoing AI industry coverage.

بریک تھرو سے بیک لیش تک

اگست میں، OpenAI نے اعلان کیا کہ اس کے سسٹم نے ریاضی اور نظریاتی کمپیوٹر سائنس میں دس اہم نتائج پیش کیے ہیں، جن میں سے ہر ایک کو مشین سے تصدیق شدہ دبلی پتلی ثبوتوں کے ساتھ چیک کیا گیا ہے - ایک سنگ میل جو اس وقت اس سائٹ کا احاطہ کرتا ہے، اس کے ساتھ ساتھ کمپنی نے ملینیم پرائز کے مسئلے کے حل کا دعویٰ کیا تھا۔ دس نتائج میں سے ایک نے نام نہاد نان سوفک گروپس کا وجود قائم کیا، جو گروپ تھیوری میں ایک طویل کھلا سوال ہے۔

یہ نتیجہ نئے تنازعہ کے مرکز میں بیٹھا ہے۔ دی ورج کے مطابق، اوپن اے آئی نے تسلیم کیا کہ ثبوت تھوم اور ساتھی ریاضی دان گابر کن کے پچھلے کام پر بہت زیادہ بنایا گیا ہے - اور ریاضی کے حلقوں کی جانب سے ابتدائی طور پر ان کی حالیہ شراکتوں کو تسلیم کرنے میں ناکامی پر تنقید کے بعد، کمپنی نے خاموشی سے اپنی تحریر میں ترمیم کی۔

تھوم کے لیے، اس اعتراف نے ایک غیر آرام دہ سوال اٹھایا: ماڈل اپنی اور کن کی تکنیکوں کو اتنی تفصیل سے حکم دینے کے لیے کیسے آیا؟

سوال جو تھوم کہتا ہے جواب نہیں ملا

تھام نے کہا کہ وہ "ہماری تکنیکوں کے بارے میں اوپن اے آئی کی تفصیلی کمانڈ" سے متاثر ہوئے، جو اس نے نوٹ کیا کہ اس وقت حل کے لیے نہ تو سب سے زیادہ واضح اور نہ ہی امید افزا راستے تھے۔ اس نے OpenAI کے محققین Sébastien Bubeck اور Mark Sellke کو ای میلز لکھیں — جو بعد میں ہارورڈ کے شماریات دان بھی ہیں — یہ پوچھتے ہوئے کہ آیا ChatGPT کے ساتھ ان کی بات چیت "تربیتی ڈیٹا کا حصہ تھی یا استدلال کے عمل تک قابل رسائی" اور اس وجہ سے نتیجہ میں حصہ ڈال سکتا تھا۔

اس نے جو جواب حاصل کیا اس میں صرف اس بات پر توجہ دی گئی کہ آیا اس کی گفتگو تک براہ راست رسائی حاصل کی جاسکتی ہے، یہ نہیں کہ وہ کمپنی کے ماڈلز کو تربیت دینے اور بہتر بنانے کے لیے استعمال ہونے والے ڈیٹا کے وسیع تالاب میں داخل ہوئے تھے۔ "ایسی کوئی قابلیت، وضاحت، یا ثبوت نہیں دیا گیا تھا،" تھام نے لکھا۔ "میں اسے کم سے کم کہنے کے لئے بے ایمانی کے طور پر لیتا ہوں۔"

دی ورج کے حوالے سے ایک فالو اپ میں، اس نے الزام کو تیز کیا: "سیلکے کا واضح جواب، کم از کم، بلاجواز حد تک وسیع اور مادی طور پر گمراہ کن تھا؛ پیچھے مڑ کر دیکھنا صریحاً بے ایمانی تھی۔"

تھام کی دلیل اس بارے میں کم ہے کہ اوپن اے آئی نے کیا کیا اس کے بارے میں کہ ثبوت کا بوجھ کون اٹھاتا ہے۔ انہوں نے کہا کہ محققین کمپنی کی ٹریننگ پائپ لائن کو ریورس انجینئر کرنے کے لیے لیس نہیں ہیں۔ انہوں نے لکھا، "صرف OpenAI کے پاس اس کے لیے متعلقہ ڈیٹا ہے،" اس لیے اگر کمپنی اس بات سے انکار کرنا چاہتی ہے کہ صارف کے ڈیٹا نے اس کے نتائج میں حصہ ڈالا ہے، تو OpenAI کی ذمہ داری ہے کہ وہ متعلقہ ڈیٹاسیٹس کو ظاہر کرکے اور یہ واضح کرے کہ وہ کس طرح صارفین کے تعاملات کو استعمال کرتا ہے۔

OpenAI کی احتیاط سے تردید

دی ورج کے مطابق، تنازعہ کمپنی کے اپنے دعویٰ کردہ Navier-Stokes پیش رفت سے نمٹنے کی بازگشت کرتا ہے، جس کام پر بک ماسٹر انتھروپک محقق لیونٹ الپوج کے ساتھ ذاتی حیثیت میں پیروی کر رہے تھے۔ اس نتیجے کا اعلان کرنے والے بلاگ پوسٹ میں، OpenAI نے کہا: "ہم (محققین اور ایجنٹوں) نے ان کے کسی بھی کام کو کسی بھی ذریعے سے نہیں دیکھا جب تک کہ وہ اسے عوامی طور پر جاری نہ کر دیں - خاص طور پر، اس مسئلے کو حل کرنے کے لیے صارف کے کسی مخصوص ڈیٹا تک رسائی نہیں کی گئی۔"

لیکن اسی پوسٹ نے ایک بالواسطہ چینل کو تسلیم کیا: "اگرچہ امکان نہیں ہے، ہم اس بات کو مسترد نہیں کر سکتے کہ ہماری مصنوعات کے ان کے استعمال سے اخذ کردہ غیر شناخت شدہ ڈیٹا نے ہمارے ماڈل کو بہتر بنانے میں مدد کی۔"

تھوم کے لیے، یہ فرق ہی پورا مسئلہ ہے۔ انہوں نے لکھا، "ڈی آئیڈینٹیفیکیشن نام کو ہٹا سکتا ہے؛ یہ ایک ریاضیاتی خیال کے فکری مواد کو نہیں ہٹاتا،" انہوں نے لکھا۔ اوپن اے آئی نے فوری طور پر دی ورج کی تبصرے کی درخواست کا جواب نہیں دیا۔

انہوں نے مزید کہا کہ یہ "اخلاقی طور پر ناقابل دفاع ہوگا" اگر صارفین کی طرف سے فراہم کردہ غیر عوامی تحقیق نے ان ماڈلز کو بہتر بنانے میں مدد کی جو کمپنی پھر انہی صارفین کو اشاعت کے لیے دوڑاتی تھی - بغیر رضامندی، مناسب انکشاف، یا کریڈٹ کے۔

ریاضی پر ایک ٹھنڈک

ملینیم پرائز پش کے حالات نے اعصاب کو پرسکون کرنے میں بہت کم کام کیا ہے۔ اوپن اے آئی نے کہا ہے کہ اس نے آن لائن افواہوں کو سننے کے بعد اس مسئلے کا پیچھا کیا کہ دوسرے محققین نے بڑی پیشرفت کی ہے - مؤثر طریقے سے ماہرین تعلیم کی دوڑ کے نتیجے میں اس کے قریب آنے میں انہوں نے برسوں گزارے۔

متعدد محققین نے دی ورج کو بتایا کہ انہیں خدشہ ہے کہ اس طرح کا طرز عمل ریاضی کو مزید خفیہ حالت میں دھکیل دے گا، اگر ریاضی دانوں کو یقین ہو جائے کہ کسی آسنن پیش رفت کی افواہیں بھی شان و شوکت کے شوقین ایک اچھے وسائل والے ٹیک دیو کے خلاف دوڑ کو بھڑکا سکتی ہیں۔ The Verge کی متعلقہ کوریج - "OpenAI کی چالاک ریاضی کی پیش رفت نے اکیڈمی کے ذریعے ایک سرد مہری بھیجی" - نے میدان میں موڈ کو اپنی گرفت میں لے لیا۔

یہ واقعہ AI کمپنیوں اور تحقیقی برادریوں کے لیے ایک نازک لمحے پر اترتا ہے جن کے خلاف وہ تیزی سے آگے بڑھ رہے ہیں۔ کسی بھی انفرادی نتیجہ کی خوبیاں کچھ بھی ہوں، تھوم نے جو غیر متناسبیت بیان کی ہے وہ ساختی ہے: لیبز پیمانے پر صارف کے تعاملات کو داخل کر سکتی ہیں، جب کہ اس ڈیٹا کو تیار کرنے والے لوگوں کے پاس آڈٹ کرنے کا کوئی طریقہ نہیں ہے کہ کیا لیا گیا تھا۔ جب تک کمپنیاں یا تو جانچ پڑتال کے لیے اپنی ٹریننگ پائپ لائنیں نہیں کھولتی یا کسٹمر کی بات چیت اور ماڈل ٹریننگ کے درمیان سخت، قابل تصدیق فائر والز مسلط نہیں کرتی، ہر "ہم نے آپ کا ڈیٹا استعمال نہیں کیا" کے بیان میں ایک واضح ستارہ ہوگا — اور ہر پیش رفت ریاضی دانوں کے ساتھ آئے گی، اور دوسرے شعبوں میں تیزی سے محققین، ثبوت مانگ رہے ہیں۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →