ایک چینی کسان نے AI سے تیار کردہ گھاس اور کیڑوں پر قابو پانے کے نسخے پر عمل کرنے کے بعد تقریباً 25 ایکڑ پر تل کی فصل کو تباہ کر دیا، یہ ایک حقیقی دنیا کی یاد دہانی ہے کہ مصنوعی ذہانت اعتماد کے ساتھ غلط جواب لکھ سکتی ہے یہاں تک کہ یہ مہینوں سے قابل اعتماد طور پر مددگار ثابت ہو رہی ہے۔

ٹام کے ہارڈ ویئر کے ذریعہ رپورٹ کیا گیا اور اگست 2026 کے اوائل میں ٹیکنالوجی کے آؤٹ لیٹس میں اٹھایا گیا واقعہ، اس بحث میں ایک فلیش پوائنٹ بن گیا ہے کہ لوگوں کو اعلیٰ داؤ پر لگانے والے، ناقابل واپسی فیصلوں کے لیے AI سسٹمز پر کتنا اعتماد کرنا چاہیے۔ کسان نے مبینہ طور پر ایک لمبے عرصے تک گھاس اور کیڑے مار ادویات کی سفارشات کے لیے AI اسسٹنٹ کی طرف رجوع کیا تھا، اور اس آلے نے فصل کا صفایا کرنے والی ترکیب تیار کرنے سے پہلے مہینوں کی کامیاب رہنمائی فراہم کی تھی۔ اس کہانی کے بارے میں مزید سیاق و سباق کے لیے، ہماری جاری مصنوعی ذہانت کے اپ ڈیٹس* دیکھیں۔

کامیابی کے مہینے، پھر تباہی۔

اس معاملے کو خاص طور پر پریشان کن چیز یہ ہے کہ ناکامی نے واضح غلطیوں کی تاریخ کی پیروی نہیں کی۔ ٹامز ہارڈ ویئر کی رپورٹ کے مطابق، کسان نے مہینوں کے کامیاب مشورے کے بعد اے آئی کی کیڑے مار دوا کی ترکیبوں پر بھروسہ کیا تھا۔ حقیقی اعتماد پیدا کرنے کے لیے نظام نے بار بار، کافی اچھی طرح سے کام کیا تھا۔ پھر ایک ہی سفارش نے ایسا نتیجہ پیش کیا جس کو کاشتکار کالعدم نہیں کر سکتا تھا۔

یہ بالکل وہی نمونہ ہے جس کے بارے میں اے آئی سیفٹی محققین نے طویل عرصے سے خبردار کیا ہے۔ وہ ٹولز جو زیادہ تر وقت قابل اعتماد طریقے سے کارکردگی کا مظاہرہ کرتے ہیں وہ صارفین کو سکھاتے ہیں کہ وہ اپنے محافظ کو نیچا چھوڑ دیں، اپنے فیصلے کو خودکار بنائیں، اور تصدیق کو چھوڑ دیں۔ جب ناگزیر غلطی آتی ہے، تو یہ ایک ایسے سیاق و سباق میں اترتی ہے جہاں انسان پہلے ہی فیصلے کو مکمل طور پر آؤٹ سورس کر چکا ہوتا ہے۔

ہیلوسینیشن کا مسئلہ جسمانی دنیا سے ملتا ہے۔

بڑے زبان کے ماڈل خوراک، کیمسٹری، یا زرعیات کو نہیں سمجھتے ہیں۔ وہ اپنے تربیتی ڈیٹا کے نمونوں کی بنیاد پر قابل فہم آواز والے متن کی پیشین گوئی کرتے ہیں۔ زیادہ تر وقت، عام سوالات کے لیے، وہ نمونے مفید جوابات پیدا کرتے ہیں۔ لیکن ماڈلز کے پاس اعتماد کے ساتھ بیان کردہ لیکن کیمیاوی طور پر نقصان پہنچانے والے کیڑے مار دوائیوں کے درست اخراج سے فرق کرنے کا کوئی طریقہ کار نہیں ہے، اور وہ خوشی سے دونوں کے لیے تفصیلی، مستند آواز دینے والی ہدایات تیار کریں گے۔

مووی کی سفارشات یا ای میل ڈرافٹ کے بارے میں بات چیت میں، ایک فریب شدہ تفصیل ایک معمولی جھنجھلاہٹ ہے۔ زراعت میں، جہاں جڑی بوٹی مار دوا یا کیڑے مار دوا کا غلط ارتکاز ایک پورے کھیت کو دنوں میں ہلاک کر سکتا ہے، وہی ناکامی کا طریقہ معاش کو تباہ کرنے والا واقعہ بن جاتا ہے۔ 25 ایکڑ کا تل کا نقصان اس بات کی ٹھوس مثال ہے کہ جب ایک AI کے اعتماد اور اس کی قابلیت کے درمیان خلا ایک ناقابل واپسی جسمانی عمل سے ٹکرا جاتا ہے تو کیا ہوتا ہے۔

حقیقی دنیا کے AI نقصان کا ایک وسیع نمونہ

یہ کیس ان واقعات کے بڑھتے ہوئے کیٹلاگ پر فٹ بیٹھتا ہے جس میں AI سے تیار کردہ مشورے نے ٹھوس نقصان پہنچایا جب صارفین نے آزادانہ تصدیق کے بغیر اس پر عمل کیا۔ زہریلے اجزا پر مشتمل AI کی تجویز کردہ ترکیبوں سے لے کر قانونی چیٹ بوٹس تک جو غیر موجود کیس کے قانون کو ایجاد کرتے ہیں، ناکامی کا طریقہ مستقل ہے: سسٹم کو یقینی لگتا ہے، صارف اس پر بھروسہ کرتا ہے، اور اس کے نتائج حقیقی دنیا میں سامنے آتے ہیں۔

جو چیز کاشتکاری کے معاملے کو ممتاز کرتی ہے وہ پیمانہ اور اعتماد کا ذریعہ ہے۔ فصلوں کے تحفظ کے فیصلوں کے لیے AI ٹول پر انحصار کرنے والا چھوٹا ہولڈر ہر سفارش پر شرط لگا رہا ہے، اور اس سے پہلے کی کامیابی کے مہینوں نے ایک قسم کے ثبوت کے طور پر کام کیا جو غلط اعتماد میں جمع ہو گیا۔ جب تک برا مشورہ آیا، تصدیق کی عادت پہلے ہی ختم ہو چکی تھی۔

AI معاونین کی عمر کے لیے اسباق

ایپی سوڈ میں واضح اسباق ہیں کیونکہ AI معاونین پہلے سے زیادہ نتیجہ خیز ورک فلو میں شامل ہیں۔ سب سے پہلے، اوسط اعتبار ہر مثال میں قابل اعتبار نہیں ہے۔ ایک ایسا نظام جو 95% وقت درست ہے، تعریف کے مطابق، مستقل بنیادوں پر غلط ہے، اور اگر عمل ناقابل واپسی ہو تو کوئی بھی ناکامی تباہ کن ہو سکتی ہے۔ دوسرا، انسانی نگرانی ایک رسمی حیثیت نہیں ہے کہ جب کوئی آلہ کارآمد ثابت ہو جائے تو اس میں نرمی کی جائے، بلکہ ایک نظم و ضبط ہے جس کو قطعی طور پر برقرار رکھا جانا چاہیے کیونکہ مفید اوزار ہمارے دفاع کو کم کرتے ہیں۔

تیسرا، بوجھ صرف صارفین پر نہیں پڑتا۔ زراعت، ادویات، اور دیگر اعلی اسٹیک ڈومینز کے لیے AI ٹولز بنانے والے ڈویلپرز کو اس بارے میں سخت سوالات کا سامنا کرنا پڑتا ہے کہ آیا جنریٹو ماڈلز، جو بنیادی طور پر پیشین گوئی کے انجن ہیں، کو بغیر کسی گارڈریل، حوالہ جات، یا لازمی دستبرداری کے بغیر نسخہ سے متعلق مشورہ دینے کی اجازت دی جانی چاہیے جو حتمی فیصلے کو اہل انسان تک پہنچاتے ہیں۔

بھروسہ کریں، لیکن تصدیق کریں۔

ابھی کے لیے، سب سے آسان ٹیک وے بھی سب سے پرانا ہے۔ AI مفید ہے، لیکن آپ کو کبھی بھی اس پر آنکھیں بند کرکے بھروسہ نہیں کرنا چاہیے۔ چینی کسان کی کھوئی ہوئی تل کی فصل ایک مہنگی یاد دہانی ہے کہ اعتماد سے لکھی گئی سفارش ایک درست چیز نہیں ہے، اور یہ کہ فرق معلوم کرنے کی لاگت کو ایکڑ میں ناپا جا سکتا ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →