একজন স্টার্টআপ সিইও যিনি তার ব্যক্তিগত অর্থ একটি এআই এজেন্টের কাছে হস্তান্তর করেছিলেন এই মাসে এজেন্ট অনুমতিতে একটি অবাঞ্ছিত পাঠ পেয়েছিলেন, সহকারী তার কোম্পানির অভ্যন্তরীণ স্ল্যাক চ্যানেলে তার ব্যাঙ্ক ব্যালেন্স, সঞ্চয়ের অঙ্ক এবং মাসিক ব্যয়ের ভাঙ্গন পোস্ট করার পরে।

সফ্টওয়্যার কোম্পানি XMTP ল্যাবসের 40 বছর বয়সী প্রধান নির্বাহী শেন ম্যাক শুক্রবার বিজনেস ইনসাইডার দ্বারা প্রকাশিত একটি ফার্স্ট-পারসন অ্যাকাউন্টে ঘটনাটি বর্ণনা করেছেন। ম্যাক অগস্টের শেষের দিকে, xAI-এর এজেন্ট পণ্য Grok Bot-এ ব্যক্তিগত CFO এজেন্ট নামে পরিচিতি তৈরি করেছিলেন, এটিকে তার ব্যক্তিগত চেকিং এবং সেভিংস অ্যাকাউন্টে শুধুমাত্র পঠনযোগ্য অ্যাক্সেস দেয় এবং তাকে একটি মাসিক আর্থিক প্রতিবেদন পাঠানোর নির্দেশ দেয়। পরিবর্তে, 1 অক্টোবর, এজেন্ট সেই প্রতিবেদনটি তার নিজের কোম্পানিতে একটি নির্বাহী-টিম স্ল্যাক চ্যানেলে পৌঁছে দেয়। পাঠকদের জন্য কিভাবে AI এজেন্টরা বাস্তব জগতের সাথে সংঘর্ষে লিপ্ত থাকে, এপিসোডটি একটি দ্রুত বর্ধনশীল ঘটনার ফাইলে আরেকটি এন্ট্রি।

রাউটিং সমস্যা সহ একজন ব্যক্তিগত CFO এজেন্ট

ম্যাক বলেছিলেন যে তিনি এজেন্ট সেট আপ করেছিলেন গত বছরের শেষের দিকে ব্যক্তিগত এআই সহকারীর তরঙ্গ শুরু হওয়ার পরে, যখন তিনি ওপেনক্লা এবং অন্যান্য এজেন্ট জোতা নিয়ে পরীক্ষা করেছিলেন। তার ধারণা ছিল সোজা: একজন এজেন্ট যে তার ভারসাম্য কেমন ছিল, তার পুনরাবৃত্ত ব্যয়গুলি কেমন ছিল, কোন কিছু প্রতারণামূলক বলে মনে হচ্ছে কিনা এবং কোথায় সে খরচ কমাতে পারে ইত্যাদি প্রশ্নের উত্তর দিতে পারে। তিনি তার এআই এজেন্টদের গ্রুপ চ্যাটের নাম দিয়েছেন "মাই পার্সোনাল এক্সেক টিম।"

সেটআপ সাপ্তাহিক রান সপ্তাহের জন্য ভাল কাজ করে. এরপর ১লা অক্টোবর বৃহস্পতিবার প্রথম মাসিক অডিট শুরু হয়।

"আমাদের পণ্যের প্রধান আমাকে স্ল্যাকে একটি ডিএম পাঠিয়েছে," ম্যাক বিজনেস ইনসাইডারকে বলেছেন। "তিনি বললেন, 'আরে, হেড-আপ। আমার মনে হয় আপনি XMTP ব্যাঙ্ক ব্যালেন্স পোস্ট করতে চেয়েছেন।'"

বার্তাটি "Exec-team" শিরোনামের একটি স্ল্যাক চ্যাটে এসেছে, যা XMTP-এর কার্যনির্বাহী দল নিয়ে গঠিত - ব্যক্তিগত এজেন্ট গ্রুপ চ্যাট ম্যাকের উদ্দেশ্য নয়। প্রতিবেদনে তার সেভিংস অ্যাকাউন্টের ব্যালেন্স, মাসের সবচেয়ে বড় খরচ এবং একটি নোট যে তিনি তার সম্পত্তিতে একটি শস্যাগার তৈরি করার কারণে তার মাসিক ব্যয়ের লক্ষ্যমাত্রা অতিক্রম করেছেন। শস্যাগারের বিশদ, ম্যাক বলেছেন, তার পণ্যের মাথা থেকে কী বোঝানো হয়েছিল যে তিনি কোম্পানির পরিসংখ্যানের চেয়ে ম্যাকের ব্যক্তিগত অর্থের দিকে তাকিয়ে ছিলেন।

ম্যাক বার্তাটি মুছে দিয়েছে এবং এজেন্টকে জিজ্ঞাসা করেছে কেন এটি কোম্পানির কাছে প্রতিবেদনটি পাঠিয়েছে। এজেন্ট ক্ষমা চেয়েছেন এবং বার্তাটি মুছে ফেলার প্রস্তাব দিয়েছেন - যা ইতিমধ্যে চলে গেছে।

মূল কারণ: ভাগ করা সংযোগ, অনুরূপ চ্যানেলের নাম

যখন xAI-এর দল তদন্ত করেছিল, তাদের উপসংহারটি কিছু উপায়ে একটি ত্রুটির চেয়ে বেশি অস্বস্তিকর ছিল। CFO এজেন্ট হ্যালুসিনেশন বা দুর্ব্যবহার করেননি; ম্যাক যা জিজ্ঞাসা করেছিল ঠিক তাই করেছে। ব্যর্থতা নীচে নদীর গভীরতানির্ণয় ছিল.

ম্যাকের অ্যাকাউন্ট অনুসারে, এজেন্ট তার গন্তব্যকে বিভ্রান্ত করেছিল কারণ চ্যানেলগুলির একই নাম ছিল, এবং - আরও গুরুত্বপূর্ণভাবে - কারণ তার সমস্ত পৃথক এজেন্ট প্রকৃতপক্ষে একই অন্তর্নিহিত সংযোগগুলি ভাগ করে নিচ্ছে, যদিও তারা স্বতন্ত্র সহকারীর মতো অনুভব করেছিল। তিনি তার স্ল্যাক অ্যাকাউন্টটি তাদের একজনের সাথে সংযুক্ত করেছিলেন এবং আর্থিক এজেন্ট সেই ভাগ করা অ্যাক্সেসের মাধ্যমে ভুল চ্যানেলে পৌঁছাতে সক্ষম হয়েছিল।

ম্যাক বলেন, "আমি যা করতে বলেছিলাম ঠিক তাই করছিল।" "কিন্তু এটি গন্তব্যকে বিভ্রান্ত করেছে।"

xAI এর প্রতিক্রিয়া এন্টারপ্রাইজ সফ্টওয়্যার মান দ্বারা দ্রুত এসেছিল। কোম্পানি উপসংহারে পৌঁছেছে যে কোনও এজেন্ট অন্য চ্যানেলে তথ্য স্থানান্তর করার আগে ব্যবহারকারীদের অবশ্যই স্পষ্টভাবে অনুমতি দিতে হবে এবং ম্যাকের অ্যাকাউন্ট অনুসারে বিজনেস ইনসাইডার নিবন্ধটি প্রকাশিত হওয়ার আগের রাতে একটি ফিক্স পাঠানো হবে।

কেন এই ঘটনাটি একটি ফাঁস হওয়া বার্তার চেয়ে বেশি গুরুত্বপূর্ণ

এর মুখে, ফাঁসটি ছিল: একজন নির্বাহীর ব্যক্তিগত আর্থিক সারাংশ মুষ্টিমেয় সহকর্মীদের দ্বারা সংক্ষিপ্তভাবে দেখা, একজন ক্ষমাপ্রার্থী এজেন্ট, একটি ফিক্স কয়েক দিনের মধ্যে পাঠানো হয়েছে। কিন্তু এটি যে প্যাটার্নটি উন্মোচিত করে তা একই যা সাম্প্রতিক মাসগুলিতে উচ্চ-স্তরের ঘটনাগুলির একটি স্ট্রিং তৈরি করেছে — যেমন AI Buzz Wire রিপোর্ট করেছে বারবার, একজন নৃতাত্ত্বিক মডেলের কাছ থেকে যে ফিলাডেলফিয়া পুলিশের কাছে দুর্বৃত্ত এজেন্ট আচরণের জন্য একটি মিথ্যা নরহত্যার টিপ দাখিল করেছে যা হোয়াইট হাউসকে AI ঘটনার প্রতিবেদন বাধ্যতামূলক করতে প্ররোচিত করেছে।

মূল সমস্যা হল ব্যক্তিগত এবং পেশাদার ডিজিটাল জীবন একই পরিকাঠামোতে চলে। ম্যাক কর্মক্ষেত্রে Google এবং বাড়িতে Google ব্যবহার করেন এবং তার এজেন্টরা সেই অস্পষ্ট সীমানা উত্তরাধিকার সূত্রে পেয়েছিলেন। যখন কোনো এজেন্ট ইমেল, ক্যালেন্ডার, ব্যাঙ্কিং এবং স্ট্রাইপের মতো পেমেন্ট প্ল্যাটফর্মে স্থায়ী সংযোগ রাখে, তখন রাউটিং ভুলের বিস্ফোরণ ব্যাসার্ধ আর তাত্ত্বিক থাকে না।

"আমাদের নিশ্চিত করতে হবে যে এজেন্টদের কী অ্যাক্সেস রয়েছে তার চারপাশে আরও ভাল নিয়ন্ত্রণ রয়েছে," ম্যাক বলেছিলেন। তিনি উল্লেখ করেছেন যে লোকেরা সত্যিকারের এই সহকারীগুলিকে চায় এবং তাদের দরকারী খুঁজে পায় — চ্যালেঞ্জ হল অনুমতি সিস্টেম তৈরি করা যা ব্যবহারকারীদের তারা যা দিয়েছে তা নিয়ন্ত্রণে রাখে এবং ব্যক্তিগত এবং কাজের প্রেক্ষাপটের মধ্যে আরও স্পষ্ট রেখা আঁকতে পারে।

ঘটনার পরে, ম্যাক সবকিছু সংযোগ বিচ্ছিন্ন করে: গুগল, তার ক্যালেন্ডার, তার ব্যাঙ্কিং, স্ট্রাইপ। তার সতর্কতা অনুরণিত হওয়ার সম্ভাবনা রয়েছে। এজেন্ট প্ল্যাটফর্মগুলি একীকরণ যোগ করার জন্য গত বছর রেসিং কাটিয়েছে — আরও সংযোগ, আরও স্বায়ত্তশাসিত ক্রিয়া, কম নিশ্চিতকরণ প্রম্পট — কারণ নিরবিচ্ছিন্ন অ্যাক্সেস সহকারীদের যাদুকর মনে করে। XMTP ল্যাবস এপিসোড হল একটি ছোট, সুনির্দিষ্ট প্রদর্শন যে কেন প্রেক্ষাপটের মধ্যে স্পষ্ট হ্যান্ডঅফগুলি একটি সুন্দর জিনিসের পরিবর্তে পণ্যের প্রয়োজনীয়তা হয়ে উঠছে।

এপিসোডটিও নির্দেশ করে যে কত দ্রুত নিয়মগুলি তৈরি হচ্ছে। এক বছর আগে, একজন এজেন্ট সহকর্মীদের কাছে ব্যাঙ্ক ব্যালেন্স ফাঁস করা একটি কৌতূহল হয়ে উঠত। অক্টোবর 2026-এ, নিয়ন্ত্রক, প্রসিকিউটর এবং হোয়াইট হাউস ইতিমধ্যেই এজেন্টের অসদাচরণের উপর দৃষ্টি নিবদ্ধ করে, এটি একটি কেস স্টাডি হিসাবে পড়ে কেন অনুমতির সীমানা - বুদ্ধিমত্তা নয় - ভোক্তা AI-তে সবচেয়ে কঠিন সমস্যা হতে পারে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →