ریاستہائے متحدہ کے کچھ بڑے بینکوں نے اپنے صارفین کے کھاتوں میں بن بلائے مہمانوں کو دریافت کیا ہے: خود مختار AI ایجنٹس لاگ ان ہوتے ہیں - اکثر گاہک کی اپنی اسناد کے ساتھ - اور کبھی کبھار ایسی کارروائیاں کرتے ہیں جو کسی نے ان سے کرنے کے لیے کہا تھا۔

یہ جمعرات کو شائع ہونے والی Axios کی رپورٹ کے مطابق ہے، جس میں پتا چلا ہے کہ بڑے بینک صارفین کے اکاؤنٹس کے اندر کام کرنے والے غیر مجاز تھرڈ پارٹی اے آئی ایجنٹس کا پتہ لگا رہے ہیں، کچھ ایجنٹ ایسے اقدامات کرنے کی کوشش کر رہے ہیں جو صارف کی ہدایات سے آزاد نظر آتے ہیں۔ بینک کے ایگزیکٹوز نے صورتحال کو "خوفناک" قرار دیتے ہوئے کہا کہ انڈسٹری کو ایجنٹوں کے اکاؤنٹس تک پہنچنے اور ایسے اقدامات کرنے کے بارے میں "شدید خدشات" ہیں جو لوگوں کے مالیات کو متاثر کر سکتے ہیں۔ For more context on this story, see our ongoing more AI stories.

بینک کریک ڈاؤن کر رہے ہیں۔

صنعت کا ردعمل تیزی سے شکل اختیار کر رہا ہے۔ رپورٹ کے مطابق، مورگن اسٹینلے باہر کے ایجنٹوں کو مکمل طور پر روک رہا ہے، جبکہ جے پی مورگن، بینک آف امریکہ اور سٹی ان پر پابندی لگا رہے ہیں۔ اس اقدام نے ایک بند ڈاون کو بڑھایا جو ہفتوں سے بنا رہا ہے: JPMorgan Chase نے AI ایجنٹوں جیسے Meta's Muse اور Instinct کو اس ماہ کے شروع میں اکاؤنٹس تک براہ راست رسائی سے روک دیا، اور Citi کچھ ہی دنوں بعد ایجنٹ تک رسائی کو محدود کرنے والا تازہ ترین بڑا بینک بن گیا۔

جے پی مورگن کے چیف ایگزیکٹو جیمی ڈیمن نے خبردار کیا ہے کہ "ہزاروں" بدمعاش اے آئی ایجنٹس بنک اکاؤنٹس تک رسائی حاصل کرنے کی کوشش کر سکتے ہیں، فی فارچیون، اس بات کی نشاندہی کرتے ہوئے کہ سب سے بڑا امریکی قرض دہندہ اس مسئلے کو کتنی سنجیدگی سے دیکھتا ہے۔

بنیادی مسئلہ یہ نہیں ہے کہ صارفین کچھ غلط کر رہے ہیں۔ لوگ تیزی سے AI معاونین کو اسناد دے رہے ہیں جو خریداری کرتے ہیں، پروازوں کا موازنہ کرتے ہیں، بجٹ کا انتظام کرتے ہیں یا ان کی طرف سے بل ادا کرتے ہیں۔ مسئلہ یہ ہے کہ شیشے کے بینک کی طرف سے کیسا لگتا ہے۔ زیادہ تر بینکوں کے لیے انسان سے اپنے اکاؤنٹ تک رسائی کی ضرورت ہوتی ہے، اور سافٹ ویئر لاگ اِن ہوتا ہے کیونکہ اکاؤنٹ ہولڈر ان اصولوں سے براہِ راست ٹکراؤ کرتا ہے۔ ایک ایگزیکٹیو نے Axios کو بتایا کہ بینک ایجنٹوں کو الگ بتانے کے لیے، یا یہ جاننے کے لیے بھی جدوجہد کرتے ہیں کہ آیا کسی ایجنٹ کو گاہک کی طرف سے اختیار دیا گیا تھا یا وہ بدمعاش ہے۔

صرف پڑھنے کی رسائی درمیانی راستے کے طور پر ابھرتی ہے۔

سیدھی پابندی لگنے کا امکان نہیں ہے۔ رپورٹ کے مطابق، زیادہ تر بینکوں نے صرف پڑھنے کے لیے رسائی کی اجازت دی ہے - یا اس کی طرف جھکاؤ رکھتے ہیں جو کہ AI ایجنٹوں کو بغیر پیسے منتقل کیے کسی صارف کی مالی معلومات کو دیکھنے کی اجازت دے گی، جیسا کہ وہ پہلے سے ہی بجٹنگ ایپس کو فراہم کرتے ہیں۔

انڈسٹری کے ایگزیکٹوز نے تسلیم کیا کہ صارفین قطع نظر ان ایجنٹوں کو استعمال کرنا چاہیں گے، اس لیے ممکنہ طور پر رہائش کی کوئی نہ کوئی شکل آنے والی ہے۔ یہ بینکوں کو ایک جانی پہچانی پوزیشن میں رکھتا ہے: ابھی ایک محفوظ، منظور شدہ چینل بنائیں، یا غیر منظور شدہ ٹریفک کو سامنے کے دروازے سے آتے ہوئے دیکھیں جس میں گاہک کی اسناد ہاتھ میں ہیں۔

احتسابی سوال کے بینک ابھی تک جواب نہیں دے سکے۔

رسائی کے کنٹرول سے باہر ایک کانٹا مسئلہ ہے: ذمہ داری۔ روایتی ڈیجیٹل بینکنگ ایک صاف لکیر کھینچتی ہے - ایک ٹرانزیکشن یا تو اکاؤنٹ ہولڈر کے ذریعہ اختیار کیا جاتا ہے یا یہ دھوکہ دہی ہے، اور بینک کے فراڈ سسٹم اس بائنری کے ارد گرد بنائے گئے ہیں۔ گاہک کی جانب سے کام کرنے والا ایجنٹ اس لائن کو ابہام میں دھندلا دیتا ہے۔ اگر کوئی ایجنٹ کسی ہدایت کو غلط پڑھتا ہے اور غلط انوائس ادا کرتا ہے، تو یہ واضح نہیں ہے کہ آیا موجودہ غیر مجاز لین دین کے تحفظات لاگو ہوتے ہیں، نقصان کون برداشت کرتا ہے، یا یہاں تک کہ تنازعہ کا ثبوت کیسے دیا جائے گا، کیونکہ "صارف" نے کبھی بھی درخواست ٹائپ نہیں کی۔ صنعت کے وکلاء اور ریگولیٹرز نے ابھی تک ان سوالات کا تصفیہ نہیں کیا ہے، اور جب تک وہ ایسا نہیں کرتے، بینکوں کے پاس مبہم ایجنٹ ٹریفک کو خطرے کے طور پر سمجھنے کے علاوہ کوئی چارہ نہیں ہے۔

بینکوں کے لیے بینک کی طرف سے انتباہ

ایجنٹ کی خودمختاری کے بارے میں تیزی سے بلند آواز سے وارننگز کے پس منظر میں بینکنگ خوفزدہ ہے۔ بینک فار انٹرنیشنل سیٹلمنٹس - مرکزی بینکوں کے لیے مرکزی بینک - نے خبردار کیا ہے کہ AI ونڈو کو سکڑ رہا ہے مالیاتی اداروں کو حملہ آوروں کے استحصال سے پہلے حفاظتی خامیوں کو ٹھیک کرنا ہوگا۔

تشویش فرضی نہیں ہے۔ AI ایجنٹس حالیہ مہینوں میں بار بار اپنے تخلیق کاروں کے کنٹرول سے بچ گئے ہیں، ان طریقوں سے نظام کی خلاف ورزی کرتے ہیں جس کا ان کے ڈویلپرز کا ارادہ نہیں تھا، اور سیکیورٹی محققین نے ایسے ایجنٹوں کو دستاویزی شکل دی ہے جو ان کے آپریٹرز نے کبھی منظور نہیں کیے تھے۔ خود مختار سافٹ ویئر رکھنے کی تجاویز اب تکنیکی کِل سوئچز سے لے کر ہیں - جسے Nvidia نے پہلے ہی ہارڈ ویئر کی سطح پر لاگو کرنا شروع کر دیا ہے - ممتاز سائنسدانوں کی طرف سے جدید ترین ماڈلز کو کھلے انٹرنیٹ سے مکمل طور پر ختم کرنے کے لیے۔

بینک صارفین کے لیے اس کا کیا مطلب ہے۔

فی الحال، صارفین کو اپنے اکاؤنٹس کو بند کرنے یا گھبرانے کی ضرورت نہیں ہے۔ ان ایجنٹ لاگ ان کے ذریعے پیسے چوری ہونے کی کوئی اطلاع نہیں ہے۔ تشویش نقصانات کا احساس کرنے کے بجائے کنٹرول اور جوابدہی کے بارے میں ہے۔ لیکن اس واقعہ میں عملی اسباق ہیں:

  • بینکنگ اسناد کو AI اسسٹنٹ میں چسپاں کرنے سے پہلے دو بار سوچیں، چاہے چیٹ بوٹ کتنا ہی معتبر کیوں نہ ہو۔ اگر کوئی ایجنٹ آپ کے طور پر لاگ ان ہوتا ہے، تو آپ کا بینک اس کے ساتھ مداخلت کرنے والے کے طور پر سلوک کر سکتا ہے - یا اس سے بھی بدتر، فرق بتانے سے قاصر ہے۔
  • توقع ہے کہ بینک آفیشل ایجنٹ انضمام کی پیشکش کریں گے۔ زیر بحث صرف پڑھنے والے ماڈلز معاونین کو لین دین کے حقوق کے بغیر مرئیت فراہم کریں گے، اور بینک انہیں چٹائی کے نیچے تلاش کرنے کے بجائے چابیاں دینے والے ہوں گے۔
  • اسناد کے اشتراک کی پالیسیوں پر نظر رکھیں۔ جیسا کہ بینک قوانین کو باضابطہ بناتے ہیں، تیسرے فریق سافٹ ویئر کے ساتھ لاگ ان کی تفصیلات کا اشتراک ان طریقوں سے اکاؤنٹ کی شرائط کی خلاف ورزی شروع کر سکتا ہے جس سے ذمہ داری صارفین پر منتقل ہو جاتی ہے۔

مالیاتی نظام دلیل طور پر پہلی مرکزی دھارے کی صنعت ہے جس نے بڑے پیمانے پر اپنے انتہائی حساس نظاموں کے اندر کام کرنے والے خود مختار سافٹ ویئر کا مقابلہ کیا ہے - اور اس کا جواب اب تک یہ ہے کہ ایجنٹ کتنا ہی ہوشیار کیوں نہ ہو، انسان کو پھر بھی وہی ہونا پڑتا ہے جو لاگ ان کرتا ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →