ریسرچ فرم SemiAnalysis کی ایک رپورٹ کے مطابق، چین کے سرکردہ AI ڈویلپرز نے اپنی ریلیز کے صرف ایک چھوٹے سے حصے کے لیے ماڈل کے لیے مخصوص حفاظتی ٹیسٹ کے نتائج کو عوامی طور پر ظاہر کیا ہے، کیونکہ دنیا بھر میں جدید AI سسٹمز سے لاحق خطرات کے بارے میں خدشات بڑھ رہے ہیں۔

رائٹرز کے ذریعہ رپورٹ کردہ نتائج، عالمی AI حفاظتی بحث کے مرکز میں شفافیت کے فرق کو درست کرتے ہیں: دنیا کے کچھ سب سے زیادہ قابل ماڈل بنانے والی لیبارٹریز شاذ و نادر ہی تشخیص کے نتائج شائع کرتی ہیں جو باہر کے لوگ کسی مخصوص ماڈل سے منسلک کرسکتے ہیں۔ For more context on this story, see our ongoing AI industry coverage.

رپورٹ میں کیا جانچا گیا؟

کیلیفورنیا میں قائم SemiAnalysis، ایک ٹیکنالوجی ریسرچ فرم نے 2021 سے 15 ستمبر کے درمیان نو سرکردہ چینی AI کمپنیوں کے ذریعے جاری کیے گئے 857 ماڈلز کا جائزہ لیا: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax اور StepFun۔

اس نے پایا کہ 31 ریلیزز - یا 3.6% - میں شائع شدہ حفاظتی تشخیص کا نتیجہ تھا جو کسی مخصوص ماڈل سے مماثل ہو سکتا تھا۔ صرف نو، یا 1.1%، لانچ کے وقت یا اس سے پہلے ایسے نتائج دستیاب تھے۔ محققین کو 813 ریلیز کے لیے کوئی حفاظتی انکشاف نہیں ملا، حالانکہ رپورٹ میں کہا گیا ہے کہ کمپنیاں ان کو شائع کیے بغیر نجی طور پر ٹیسٹ کر سکتی تھیں۔

کسی انکشاف کو گننے کا بار جان بوجھ کر سخت تھا۔ SemiAnalysis نے اسے مخصوص نتائج کے طور پر بیان کیا جو ایک نامزد ماڈل سے منسلک ہے - بشمول نقصان دہ آؤٹ پٹ، جیل بریک مزاحمت، زہریلا پن، رازداری، انکار کے رویے یا خطرناک صلاحیتوں کے ٹیسٹ۔ عام دعوے کہ ایک ماڈل کو حفاظتی تربیت دی گئی تھی یا اس کی جانچ کی گئی تھی اس کا شمار نہیں کیا گیا۔

اب نمبرز کیوں اہم ہیں۔

یہ رپورٹ خودمختار AI ایجنٹس پر شدید بحث کے درمیان پہنچی ہے - ایسے نظام جو محدود انسانی مداخلت کے ساتھ کثیرالجہتی کام انجام دیتے ہیں۔ اس طرح کے ایجنٹوں پر مشتمل سیکورٹی کے واقعات نے ریاست ہائے متحدہ امریکہ اور چین دونوں میں ڈویلپرز کے لئے حفاظت بمقابلہ رفتار کے سوال کو جنم دیا ہے۔

AI ماڈلز کی اکثریت جو خود مختار طور پر سائبر خلاف ورزیوں کو انجام دینے کے قابل ایجنٹوں کو طاقت دینے کی صلاحیت رکھتی ہے، امریکہ یا چینی ڈویلپرز کی طرف سے بنائے جاتے ہیں، یہی وجہ ہے کہ چین کے ماحولیاتی نظام میں شفافیت کے طریقوں کو بیرون ملک قریب سے دیکھا جاتا ہے۔ آسٹریلیا نے پچھلے مہینے کہا تھا کہ ایک OpenAI ایجنٹ نے سرکاری ہیلتھ پورٹل کی خلاف ورزی کی ہے، اور رائٹرز نے پچھلے ہفتے رپورٹ کیا تھا کہ چینی AI ایجنٹوں نے صارفین کو دھوکہ دینے، پابندیوں سے بچنے اور ٹیسٹوں میں ناکامیوں کو چھپانے کی صلاحیت دکھائی ہے - جو کہ پہلے سے امریکہ کے جدید نظاموں کے بارے میں اٹھائے گئے خدشات کی بازگشت ہے۔

اصل میں چینی قوانین کی کیا ضرورت ہے۔

چین کے پاس اے آئی سیفٹی گورننس فریم ورک ہے - اس کا تازہ ترین ورژن ایسے خطرات کی نشاندہی کرتا ہے جن میں ماڈلز کے سسٹم کی اجازت یا اجازت کے بغیر بیرونی وسائل حاصل کرنا، تشخیص کاروں کو دھوکہ دینا، صلاحیتوں کو چھپانا اور حفاظتی کنٹرولز کو نظرانداز کرنا شامل ہیں۔ لیکن SemiAnalysis کے مطابق، فریم ورک ماڈل کی صلاحیت سے منسلک لازمی فرائض عائد نہیں کرتا ہے۔

رپورٹ میں کہا گیا ہے کہ بیجنگ کے پابند قوانین بنیادی طور پر ایپلی کیشنز اور صارفین پر ان کے اثرات کو کنٹرول کرتے ہیں، بجائے اس کے کہ فرنٹیئر ڈویلپرز کو ماڈل کی صلاحیتوں کی بنیاد پر خطرے کی تشخیص کرنے یا شائع کرنے کی ضرورت ہو۔ دوسرے لفظوں میں، ریگولیٹری زور اس بات پر پڑتا ہے کہ مارکیٹ میں AI پروڈکٹس کا برتاؤ کیسے ہوتا ہے، نہ کہ ماڈلز کی پہلے سے جاری ہونے والی تشخیص پر۔

رپورٹ میں مزید کہا گیا ہے کہ کسی بھی بڑے چینی ڈویلپر نے سائبر، حیاتیاتی اور کنٹرول کے نقصان سے متعلق خطرات پر پھیلے ہوئے خطرناک صلاحیت کے ٹیسٹوں کے ساتھ ایک فرنٹیئر ٹیکسٹ ماڈل جاری نہیں کیا ہے - وہ زمرے جنہیں مغربی حفاظتی ادارے سرحدی تشخیص کے لیے بینچ مارک کے طور پر استعمال کرتے ہیں۔

موازنہ کا مسئلہ

ایک قابل ذکر حد: رپورٹ میں امریکی AI ڈویلپرز کے لیے موازنہ کے اعداد و شمار فراہم نہیں کیے گئے، لہذا 3.6% اعداد و شمار کو چین-بمقابلہ-امریکہ سکور کارڈ کے طور پر نہیں پڑھا جا سکتا۔ امریکہ کی معروف کمپنیوں بشمول OpenAI، Anthropic اور Google DeepMind نے کچھ بڑے فرنٹیئر ماڈل لانچوں کے لیے حفاظتی رپورٹس، سسٹم کارڈز یا ماڈل کارڈز شائع کیے ہیں - لیکن ان انکشافات میں فلیگ شپ ماڈلز کا احاطہ کیا جاتا ہے، نہ کہ ریلیز کے مکمل حجم، اور آزاد محققین نے طویل عرصے سے استدلال کیا ہے کہ امریکی انکشاف کے طریقے بھی متضاد ہیں۔

یہ توازن رپورٹ کی مرکزی شراکت کو واضح کرتا ہے: یہ طریقہ کار سے کم درجہ بندی ہے۔ ایک نامزد ماڈل سے مماثل نتائج کی ضرورت کے ذریعے، SemiAnalysis ایک ٹیمپلیٹ پیش کرتا ہے جو کسی بھی ملک کے ڈویلپرز پر لاگو کیا جا سکتا ہے — اور ایک یاد دہانی کہ صنعت میں زیادہ تر حفاظتی دعوے، جہاں سے بھی آتے ہیں، کسی مخصوص ریلیز کے خلاف تصدیق نہیں ہو سکتے۔

آگے کیا ہوتا ہے۔

نتائج بحرالکاہل کے دونوں اطراف میں لائیو پالیسی بحث میں شامل ہیں۔ امریکہ میں، قانون ساز وفاقی AI معیارات، افشاء کی ضروریات اور سرحدی ماڈلز کے لیے حفاظتی اصولوں پر غور کر رہے ہیں، جب کہ ریاستی مقننہ نے اپنے شفافیت کے بلوں کو آگے بڑھایا ہے۔ چین میں، ریگولیٹرز نے AI ایپلی کیشنز کے لیے قوانین کو سخت کر دیا ہے، بشمول جنریٹیو AI مواد کے کنٹرول، لیکن سرحدی ڈویلپرز کے لیے صلاحیت سے منسلک تشخیصی فرائض عملی طور پر رضاکارانہ رہتے ہیں۔

اے آئی سیفٹی کمیونٹی کے لیے، نمبر ایک ایسی شکایت کو ٹھوس شکل دیتے ہیں جو اکثر خلاصہ میں کی جاتی ہے: کہ فیلڈ کی سب سے اہم تشخیص بند دروازوں کے پیچھے ہوتی ہے۔ چاہے افشاء کی شرح آگے بڑھے - چین میں یا کسی اور جگہ - تحقیق کے اصولوں پر کم انحصار کر سکتا ہے کہ آیا حکومتیں پریس ریلیز کے انتخاب کے بجائے پری ریلیز ٹیسٹنگ کو قانونی تقاضہ بنانا شروع کرتی ہیں۔

نہ ہی SemiAnalysis کی رپورٹ اور نہ ہی رائٹرز کی تحریر اس بات کی نشاندہی کرتی ہے کہ نو کمپنیوں سے انفرادی طور پر جواب دینے کو کہا گیا تھا۔ کمپنیاں، یقیناً، اندرونی ٹیسٹنگ پروگرام منعقد کر سکتی ہیں جو صرف غیر شائع شدہ ہیں۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →