اینتھروپک کے چیف ایگزیکٹیو ڈاریو آمودی نے قانون سازوں کو خبردار کیا ہے کہ اوپن سورس مصنوعی ذہانت کی طرف تیزی سے بڑھتا ہوا رجحان معاشرے کو ایک خطرناک راستے پر لے جا سکتا ہے اگر طاقتور ماڈلز کو محتاط حفاظت کے بغیر جاری کیا جاتا ہے، جو AI پالیسی میں سب سے زیادہ متنازعہ بحثوں میں سے ایک کو دوبارہ شروع کر رہا ہے۔

Amodei، جس نے ماڈلز کے Claude خاندان کے پیچھے کمپنی کی بنیاد رکھی اور اس کی رہنمائی کی، دلیل دی کہ اوپن سورس AI کی منفرد نوعیت، جو کسی کے لیے بھی ڈاؤن لوڈ، ترمیم اور تعیناتی کے لیے جدید ترین سسٹمز کو آزادانہ طور پر دستیاب کرتی ہے، ایسے خطرات پیدا کرتی ہے جو روایتی اوپن سورس سافٹ ویئر نے کبھی لاحق نہیں کیے تھے۔ ان کے ریمارکس، ٹیکیڈیا کے ذریعہ رپورٹ کیے گئے، قابل AI کو عوامی طور پر تقسیم کرنے کے بعد اسے کنٹرول کرنے میں دشواری کا مرکز ہے۔ اس کہانی کے بارے میں مزید سیاق و سباق کے لیے، ہماری جاری مزید AI کہانیاں* دیکھیں۔

روایتی سافٹ ویئر کے برعکس، جدید ترین AI سسٹم قائل کرنے والا متن تیار کر سکتے ہیں، حقیقت پسندانہ تصاویر تیار کر سکتے ہیں، کمپیوٹر کوڈ لکھ سکتے ہیں، اور سائبر سکیورٹی کے کاموں میں مدد کر سکتے ہیں۔ Amodei کا دعویٰ ہے کہ غلط ہاتھوں میں ان صلاحیتوں کو سائبر حملوں کو خودکار بنانے، جدید ترین ڈس انفارمیشن مہم چلانے، یا نقصان دہ حیاتیاتی تحقیق کو آگے بڑھانے کے لیے استعمال کیا جا سکتا ہے۔

مستقل کا مسئلہ

Amodei نے جس مرکزی خطرات پر روشنی ڈالی ہے ان میں سے ایک یہ ہے کہ ایک بار طاقتور ماڈل کھلے عام جاری ہو جائے تو اسے یاد کرنا مؤثر طریقے سے ناممکن ہو جاتا ہے۔ کمپنیوں کے ذریعے چلائے جانے والے بند نظاموں کی نگرانی، پیچ اور پابندیاں کی جا سکتی ہیں جب نئی کمزوریاں سامنے آئیں۔ ایک اوپن سورس ماڈل، اس کے برعکس، غیر معینہ مدت تک کاپی کیا جا سکتا ہے اور انٹرنیٹ پر دوبارہ تقسیم کیا جا سکتا ہے، جس سے ڈویلپرز کے پاس ریلیز کے بعد اس کے استعمال کو محدود کرنے کا کوئی طریقہ کار نہیں ہوتا ہے۔

امودی نے خبردار کیا کہ یہ مستقل مزاجی خاص طور پر پریشان کن ہے کیونکہ ماڈلز تیزی سے پیچیدہ کاموں پر انسانی سطح کی کارکردگی سے رجوع کرتے ہیں۔ انہوں نے استدلال کیا کہ اعلی درجے کی AI کو مضبوط حفاظتی جانچ، کنٹرول شدہ تعیناتی، اور مناسب ریگولیٹری نگرانی کا نشانہ بنایا جانا چاہئے اس سے پہلے کہ یہ وسیع پیمانے پر قابل رسائی ہو جائے، بجائے اس کے کہ اسے عام سافٹ ویئر کی طرح سمجھا جائے جسے کھلے عام تعاون کے ساتھ بہتر بنایا جا سکتا ہے۔

اس کی پوزیشن انڈسٹری میں بڑھتی ہوئی فالٹ لائن کی عکاسی کرتی ہے۔ اوپن سورس AI کے حامیوں کا استدلال ہے کہ عوامی رسائی مقابلہ کو فروغ دیتی ہے، تکنیکی ترقی کو جمہوری بناتی ہے، اور مٹھی بھر کارپوریشنوں کو مصنوعی ذہانت کی اجارہ داری سے روکتی ہے۔ دنیا بھر میں ڈویلپرز ماڈل فن تعمیر، سطحی حفاظتی خامیوں کا معائنہ کر سکتے ہیں، اور باہمی تعاون سے نظام کو بہتر بنا سکتے ہیں، جبکہ سٹارٹ اپ، محققین، اور تعلیمی ادارے مہنگے ملکیتی پلیٹ فارم پر انحصار کیے بغیر تعمیر کر سکتے ہیں۔

میز پر مخصوص خطرات

امودی کے خدشات خلاصہ نہیں ہیں۔ کھلے عام جاری کردہ ماڈلز کو محققین نے سیدھی ٹھیک ٹھیک ٹیوننگ تکنیکوں کا استعمال کرتے ہوئے پہلے ہی ان کے حفاظتی محافظوں سے چھین لیا ہے، ایک ایسا عمل جس سے یہ ظاہر ہوتا ہے کہ بنیادی وزن کے عوامی ہونے کے بعد حفاظتی اقدامات کو کتنی جلدی ہٹایا جا سکتا ہے۔ جیسا کہ ماڈلز کیمسٹری، بیالوجی، اور سافٹ ویئر کے استحصال جیسے کاموں میں زیادہ قابل ہو جاتے ہیں، تشویش کی بات یہ ہے کہ کھلی ریلیز ان اداکاروں کو طاقتور صلاحیتیں دے سکتی ہے جو کبھی بھی اس اسکریننگ کو پاس نہیں کریں گے جو ذمہ دار لیبز اپنے صارفین پر عائد کرتی ہے۔

غلط معلومات کی جہت نے بھی جانچ پڑتال کی ہے۔ ایسے ماڈل جو بڑے پیمانے پر حقیقت پسندانہ متن، تصاویر اور آڈیو تیار کر سکتے ہیں ان کا رخ انتخابی مداخلت، مالی فراڈ، یا بڑے پیمانے پر پروپیگنڈے کی طرف موڑا جا سکتا ہے۔ چونکہ ایک کھلا ماڈل مکمل طور پر حملہ آور کے اپنے ہارڈ ویئر پر کام کرتا ہے، اموڈی نے نوٹ کیا، تھروٹل کرنے کے لیے کوئی API نہیں ہے، کوئی اکاؤنٹ معطل کرنے کے لیے نہیں ہے، اور نقصان ہونے کے بعد جوابدہ ہونے کے لیے کوئی فراہم کنندہ نہیں ہے۔

ایک مسابقتی پس منظر

Amodei کی انتباہات چینی ڈویلپرز کے قابل کھلے ماڈلز کے اضافے کے درمیان پہنچی ہیں۔ Zhipu کے GLM-5.2 نے، دیگر کم لاگت والے چینی نظاموں کے ساتھ، اس طرف تازہ توجہ مبذول کرائی ہے کہ کتنی جلدی کھلے اور کھلے عام دستیاب ماڈلز انتھروپک اور اوپن اے آئی کے فرنٹیئر پروپرائیٹری سسٹمز کے ساتھ خلا کو ختم کر رہے ہیں۔ اس مسابقتی دباؤ نے پالیسی کی بحث کو تیز کر دیا ہے کہ آیا کھلی ریلیز پر پابندیاں غالب فرموں کو فائدہ پہنچائیں گی یا معاشروں کو غلط استعمال کا شکار چھوڑ دیں گی۔

Amodei کے موقف کے ناقدین کا دعویٰ ہے کہ اوپن سورس AI کو محدود کرنا نادانستہ طور پر بڑی ٹیکنالوجی کمپنیوں کو آزاد جدت کو محدود کر کے اپنی لپیٹ میں لے سکتا ہے۔ انہوں نے یہ بھی نوٹ کیا کہ شفافیت اکثر محققین کو بند ترقی کے مقابلے میں تیزی سے کمزوریوں کی نشاندہی کرنے کی اجازت دیتی ہے۔ یہاں تک کہ کھلی ترقی کے بہت سے حامی بھی تسلیم کرتے ہیں، تاہم، کہ تیزی سے طاقتور نظاموں کو سافٹ ویئر کی پچھلی نسلوں کے مقابلے مضبوط گورننس فریم ورک کی ضرورت پڑ سکتی ہے۔

ریگولیٹری ٹائیٹروپ

اس بحث کو فوری طور پر حاصل ہو گیا ہے کیونکہ دنیا بھر کی حکومتیں AI کے نئے ضوابط کا وزن کرتی ہیں۔ پالیسی سازوں کو ایک مشکل توازن کا سامنا ہے: حد سے زیادہ پابندیاں معاشی ترقی اور سائنسی دریافت کو سست کر سکتی ہیں، جبکہ ناکافی نگرانی معاشروں کو ایسے خطرات سے دوچار کر سکتی ہے جن کا اندازہ لگانا مشکل ہے۔ اس توازن کو برقرار رکھتے ہوئے، آمودی نے تجویز پیش کی کہ حکومتوں، ٹیکنالوجی کمپنیوں، تعلیمی محققین اور سول سوسائٹی کے درمیان تعاون کی ضرورت ہے۔

اس کی گواہی دہائی کی ایک واضح ٹیکنالوجی پالیسی بحث کی نشاندہی کرتی ہے۔ جیسے جیسے مصنوعی ذہانت زیادہ قابل ہوتی جاتی ہے، معاشرے کو یہ فیصلہ کرنا چاہیے کہ تبدیلی کے نظام تک وسیع رسائی سے وابستہ خطرات کو کم کرتے ہوئے جدت کی حوصلہ افزائی کیسے کی جائے۔ چاہے ریگولیشن، صنعت کے معیارات، یا بین الاقوامی تعاون کے ذریعے، آنے والے مہینوں میں اوپن سورس AI پر کیے جانے والے انتخاب اس بات کی شکل دے سکتے ہیں کہ ٹیکنالوجی کو کون کنٹرول کرتا ہے، اور آنے والے سالوں تک اسے کتنی محفوظ طریقے سے تعینات کیا جاتا ہے۔

Anthropic کے لیے، موقف کمپنی کے AI حفاظت اور کنٹرول شدہ ریلیز پر طویل عرصے سے جاری زور کے مطابق ہے۔ لیکن کھلے ماڈلز تیزی سے آگے بڑھ رہے ہیں اور ریگولیٹرز ابھی تک اسے پکڑنے کے لیے ہچکولے کھا رہے ہیں، اموڈی کی انتباہات اور اوپن سورس موومنٹ کی رفتار کے درمیان فاصلہ شاید پالیسی سازوں کی جانب سے اسے بند کرنے سے زیادہ تیزی سے کم ہو رہا ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →