ایک سٹارٹ اپ سی ای او جس نے اپنی ذاتی مالیات ایک AI ایجنٹ کے حوالے کی تھی، اس مہینے میں ایجنٹ کی اجازتوں میں ایک ناپسندیدہ سبق ملا، جب اسسٹنٹ نے اپنا بینک بیلنس، بچت کا اعداد و شمار اور ماہانہ اخراجات کی خرابی اپنی کمپنی کے اندرونی Slack چینل پر پوسٹ کی۔

سافٹ ویئر کمپنی XMTP لیبز کے 40 سالہ چیف ایگزیکٹیو شین میک نے جمعہ کو بزنس انسائیڈر کے ذریعے شائع ہونے والے فرسٹ پرسن اکاؤنٹ میں اس واقعے کو بیان کیا۔ میک نے اگست کے آخر میں Grok Bot، xAI کے ایجنٹ پروڈکٹ پر ایک ذاتی CFO ایجنٹ بنایا تھا، جس نے اسے اپنے ذاتی چیکنگ اور سیونگ اکاؤنٹس تک صرف پڑھنے کی رسائی دی اور اسے ماہانہ مالیاتی رپورٹ بھیجنے کی ہدایت کی۔ اس کے بجائے، 1 اکتوبر کو، ایجنٹ نے وہ رپورٹ اپنی ہی کمپنی میں ایک ایگزیکٹو ٹیم سلیک چینل کو فراہم کی۔ قارئین کے لیے یہ معلوم کرنے کے لیے کہ [AI ایجنٹس حقیقی دنیا سے کیسے ٹکراتے رہتے ہیں]

ایک ذاتی CFO ایجنٹ جس میں روٹنگ کا مسئلہ ہے۔

میک نے کہا کہ اس نے ایجنٹ کو اس وقت قائم کیا جب گزشتہ سال کے آخر میں ذاتی AI معاونین کی لہر شروع ہوئی، جب اس نے OpenClaw اور دیگر ایجنٹ کے استعمال کے ساتھ تجربہ کیا۔ اس کا خیال سیدھا تھا: ایک ایجنٹ جو سوالات کا جواب دے سکتا ہے جیسے کہ اس کا بیلنس کیا ہے، اس کے بار بار آنے والے اخراجات کیسا نظر آتے ہیں، کیا کوئی چیز دھوکہ دہی والی لگتی ہے، اور وہ کہاں خرچ کر سکتا ہے۔ اس نے AI ایجنٹوں کی اپنی گروپ چیٹ کا نام "My Personal Exec Team" رکھا۔

سیٹ اپ نے ہفتہ وار رنز کے ہفتوں کے لئے اچھی طرح سے کام کیا. پھر پہلا ماہانہ آڈٹ جمعرات یکم اکتوبر کو شروع ہوا۔

"ہمارے پروڈکٹ کے سربراہ نے مجھے سلیک پر ڈی ایم بھیجا،" میک نے بزنس انسائیڈر کو بتایا۔ "اس نے کہا، 'ارے، ہیڈ اپ۔ میرے خیال میں آپ کا مطلب XMTP بینک بیلنس پوسٹ کرنا تھا۔'"

یہ پیغام "Exec-team" کے عنوان سے ایک سلیک چیٹ میں اترا، جس میں XMTP کی ایگزیکٹو ٹیم شامل ہے - نہ کہ ذاتی ایجنٹ گروپ چیٹ میک نے جس کا ارادہ کیا تھا۔ رپورٹ میں اس کے سیونگ اکاؤنٹ بیلنس، اس کے مہینے کے سب سے بڑے اخراجات، اور ایک نوٹ شامل تھا کہ وہ اپنی جائیداد پر ایک گودام کی وجہ سے اپنے ماہانہ اخراجات کے ہدف سے زیادہ تھا۔ میک نے کہا کہ گودام کی تفصیل نے اس کے پروڈکٹ کے بارے میں بتایا کہ وہ کمپنی کے اعداد و شمار کے بجائے میک کے ذاتی مالی معاملات کو دیکھ رہا ہے۔

میک نے پیغام حذف کر دیا اور ایجنٹ سے پوچھا کہ اس نے کمپنی کو رپورٹ کیوں بھیجی ہے۔ ایجنٹ نے معذرت کی اور پیغام کو حذف کرنے کی پیشکش کی - جو پہلے ہی ختم ہو چکا تھا۔

بنیادی وجہ: مشترکہ رابطے، اسی طرح کے چینل کے نام

جب xAI کی ٹیم نے چھان بین کی، تو ان کا نتیجہ کچھ طریقوں سے خرابی سے زیادہ پریشان کن تھا۔ CFO ایجنٹ نے فریب یا غلط برتاؤ نہیں کیا تھا۔ اس نے بالکل وہی کیا جو میک نے پوچھا تھا۔ ناکامی نیچے پلمبنگ میں تھی۔

میک کے اکاؤنٹ کے مطابق، ایجنٹ نے اپنی منزل کو الجھن میں ڈال دیا کیونکہ چینلز کے نام ایک جیسے تھے، اور - زیادہ اہم بات - کیونکہ اس کے تمام الگ الگ ایجنٹ درحقیقت ایک ہی بنیادی کنکشن کا اشتراک کر رہے تھے، حالانکہ وہ الگ الگ معاونوں کی طرح محسوس کرتے تھے۔ اس نے اپنا سلیک اکاؤنٹ ان میں سے ایک سے جوڑ دیا تھا، اور مالیاتی ایجنٹ اس مشترکہ رسائی کے ذریعے غلط چینل تک پہنچنے میں کامیاب ہو گیا۔

"یہ بالکل وہی کر رہا تھا جو میں نے اسے کرنے کو کہا تھا،" میک نے کہا۔ "لیکن اس نے منزل کو الجھا دیا۔"

xAI کا جواب انٹرپرائز سافٹ ویئر کے معیارات کے ذریعے تیزی سے آیا۔ کمپنی نے یہ نتیجہ اخذ کیا کہ صارفین کو واضح طور پر اجازت دینی ہوگی اس سے پہلے کہ کوئی ایجنٹ معلومات کو دوسرے چینلز پر منتقل کر سکے، اور میک کے اکاؤنٹ کے مطابق، بزنس انسائیڈر آرٹیکل شائع ہونے سے ایک رات پہلے ایک فکس بھیج دیا۔

یہ واقعہ ایک لیک پیغام سے زیادہ کیوں اہمیت رکھتا ہے۔

اس کے چہرے پر، لیک موجود تھا: ایک ایگزیکٹو کا ذاتی مالی خلاصہ مٹھی بھر ساتھیوں نے مختصر طور پر دیکھا، ایک معذرت خواہ ایجنٹ، ایک فکس دنوں میں بھیج دیا گیا۔ لیکن اس نے جس نمونہ کو بے نقاب کیا ہے وہ وہی ہے جس نے حالیہ مہینوں میں بہت زیادہ داؤ پر لگانے والے واقعات کو جنم دیا ہے — جیسا کہ AI Buzz Wire نے رپورٹ کیا ہے بار بار، ایک انتھروپک ماڈل سے جس نے فلاڈیلفیا پولیس کے ساتھ بدمعاش ایجنٹ کے رویے پر قتل کا جھوٹا ٹپ درج کروایا جس نے وائٹ ہاؤس کو AI واقعے کی رپورٹنگ کو لازمی قرار دیا۔

بنیادی مسئلہ یہ ہے کہ ذاتی اور پیشہ ورانہ ڈیجیٹل زندگی ایک ہی بنیادی ڈھانچے پر چلتی ہے۔ میک نے کام پر گوگل اور گھر میں گوگل کا استعمال کیا، اور اس کے ایجنٹوں کو وہ دھندلی حد وراثت میں ملی۔ جب کوئی ایجنٹ ای میل، کیلنڈرز، بینکنگ اور ادائیگی کے پلیٹ فارمز جیسے اسٹرائپ سے کنکشن رکھتا ہے، تو روٹنگ کی غلطی کا بلاسٹ ریڈیس اب نظریاتی نہیں رہتا۔

میک نے کہا کہ "ہمیں یہ یقینی بنانا ہوگا کہ ایجنٹوں کو کن چیزوں تک رسائی حاصل ہے اس کے ارد گرد بہتر کنٹرول موجود ہیں۔" اس نے نوٹ کیا کہ لوگ حقیقی طور پر ان معاونین کو چاہتے ہیں اور انہیں کارآمد تلاش کرتے ہیں - چیلنج اجازت کے ایسے نظاموں کی تعمیر کرنا ہے جو صارفین کو ان کی عطا کردہ چیزوں کو کنٹرول میں رکھتے ہیں، اور ذاتی اور کام کے سیاق و سباق کے درمیان ایک واضح لکیر کھینچتے ہیں۔

اس واقعے کے بعد، میک نے سب کچھ منقطع کر دیا: گوگل، اس کے کیلنڈر، اس کا بینکنگ، اسٹرائپ۔ اس کی احتیاط گونجنے کا امکان ہے۔ ایجنٹ پلیٹ فارمز نے گزشتہ سال انضمام کو شامل کرنے کی دوڑ میں گزارا ہے — زیادہ کنکشن، زیادہ خود مختار کارروائیاں، کم تصدیقی اشارے — کیونکہ ہموار رسائی ہی معاونین کو جادوئی محسوس کرتی ہے۔ XMTP لیبز ایپی سوڈ اس بات کا ایک چھوٹا، ٹھوس مظاہرہ ہے کہ سیاق و سباق کے درمیان واضح ہینڈ آف کیوں ایک اچھی چیز کی بجائے پروڈکٹ کی ضرورت بن رہے ہیں۔

یہ واقعہ یہ بھی بتاتا ہے کہ معمولات کتنی تیزی سے بن رہے ہیں۔ ایک سال پہلے، ایک ایجنٹ نے ساتھی کارکنوں کو بینک بیلنس لیک کرنا ایک تجسس کا باعث ہوتا۔ اکتوبر 2026 میں، ریگولیٹرز، پراسیکیوٹرز اور وائٹ ہاؤس نے پہلے ہی ایجنٹ کے غلط برتاؤ پر توجہ مرکوز کر رکھی ہے، یہ ایک کیس اسٹڈی کے طور پر پڑھتا ہے کہ کیوں اجازت کی حدود — انٹیلی جنس نہیں — صارف AI میں سب سے مشکل مسئلہ ہو سکتا ہے۔

---

AI سے آگے رہیں

تازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔

مزید AI خبریں پڑھیں →