মার্কিন যুক্তরাষ্ট্রের কিছু বড় ব্যাঙ্কগুলি তাদের গ্রাহকদের অ্যাকাউন্টের মধ্যে আমন্ত্রিত অতিথিদের খুঁজে পেয়েছে: স্বায়ত্তশাসিত AI এজেন্ট লগ ইন করে — প্রায়শই গ্রাহকের নিজস্ব শংসাপত্রের সাথে — এবং মাঝে মাঝে এমন পদক্ষেপ নেয় যা কেউ তাদের যা করতে বলেছে তার বাইরে চলে যায় বলে মনে হয়।
এটি বৃহস্পতিবার প্রকাশিত একটি Axios রিপোর্ট অনুসারে, যেখানে দেখা গেছে যে বড় ব্যাঙ্কগুলি গ্রাহক অ্যাকাউন্টের ভিতরে কাজ করছে এমন অননুমোদিত তৃতীয় পক্ষের এআই এজেন্টদের সনাক্ত করছে, কিছু এজেন্ট এমন পদক্ষেপের চেষ্টা করছে যা ব্যবহারকারীর নির্দেশাবলীর থেকে স্বাধীন দেখায়। ব্যাঙ্কের নির্বাহীরা পরিস্থিতিটিকে "ভয়াবহ" হিসাবে বর্ণনা করেছেন এবং একজন বলেছেন যে এজেন্টদের অ্যাকাউন্টে পৌঁছানো এবং লোকেদের আর্থিক ক্ষতি করতে পারে এমন পদক্ষেপ নেওয়ার বিষয়ে শিল্পের "গুরুতর উদ্বেগ" রয়েছে। For more context on this story, see our ongoing AI news.
ব্যাঙ্কগুলি ক্র্যাক ডাউন
শিল্প প্রতিক্রিয়া দ্রুত আকার নিচ্ছে। প্রতিবেদনে বলা হয়েছে, মরগান স্ট্যানলি বাইরের এজেন্টদের সরাসরি ব্লক করছে, যখন জেপিমরগান, ব্যাংক অফ আমেরিকা এবং সিটি তাদের সীমাবদ্ধ করছে। এই পদক্ষেপগুলি কয়েক সপ্তাহ ধরে তৈরি করা একটি ক্ল্যাম্পডাউনকে প্রসারিত করেছে: JPMorgan চেজ এই মাসের শুরুর দিকে মেটা'স মিউজ এবং ইনস্টিনক্টের মতো এআই এজেন্টদের বাইরের অ্যাকাউন্টগুলিকে সরাসরি অ্যাক্সেস করা থেকে অবরুদ্ধ করে, এবং কয়েকদিন পরেই এজেন্ট অ্যাক্সেস সীমাবদ্ধ করার জন্য সিটি সর্বশেষ প্রধান ব্যাঙ্ক হয়ে ওঠে।
জেপিমর্গ্যানের প্রধান নির্বাহী জেমি ডিমন সতর্ক করেছেন যে "হাজার হাজার" দুর্বৃত্ত এআই এজেন্ট ব্যাঙ্ক অ্যাকাউন্টগুলি অ্যাক্সেস করার চেষ্টা করতে পারে, ফরচুন অনুসারে, সবচেয়ে বড় মার্কিন ঋণদাতা সমস্যাটিকে কতটা গুরুত্ব সহকারে দেখেন তা বোঝায়।
মূল সমস্যাটি এই নয় যে গ্রাহকরা কিছু ভুল করছেন। লোকেরা ক্রমবর্ধমান AI সহকারীর কাছে শংসাপত্র হস্তান্তর করছে যারা কেনাকাটা করে, ফ্লাইটের তুলনা করে, বাজেট পরিচালনা করে বা তাদের পক্ষে বিল পরিশোধ করে। সমস্যা হল কাচের ব্যাঙ্কের দিক থেকে দেখতে কেমন লাগে। বেশীরভাগ ব্যাঙ্কের জন্য একজন মানুষকে তাদের নিজস্ব অ্যাকাউন্ট অ্যাক্সেস করতে হবে এবং সফ্টওয়্যার লগ ইন করতে হবে কারণ অ্যাকাউন্ট ধারক সেই নিয়মগুলির সাথে সরাসরি সংঘর্ষ করে। একজন এক্সিকিউটিভ অ্যাক্সিওসকে বলেছিলেন যে ব্যাঙ্কগুলি এজেন্টদের আলাদা করতে বা এমনকি প্রদত্ত এজেন্ট গ্রাহকের দ্বারা অনুমোদিত বা দুর্বৃত্ত হয়েছে কিনা তা জানার জন্য লড়াই করে।
শুধুমাত্র-পঠন অ্যাক্সেস মধ্য পথ হিসাবে আবির্ভূত হয়
একটি সরাসরি নিষেধাজ্ঞা রাখা অসম্ভাব্য দেখাচ্ছে. রিপোর্ট অনুযায়ী, বেশিরভাগ ব্যাঙ্ক অনুমোদন করেছে — বা এর দিকে ঝুঁকছে — শুধুমাত্র-পঠনযোগ্য অ্যাক্সেস যা এআই এজেন্টদের অর্থ না সরিয়ে গ্রাহকের আর্থিক তথ্য দেখতে দেয়, যেমন তারা ইতিমধ্যে বাজেটিং অ্যাপগুলিতে অ্যাক্সেস দেয়।
শিল্প নির্বাহীরা স্বীকার করেছেন যে গ্রাহকরা নির্বিশেষে এই এজেন্টগুলি ব্যবহার করতে চাইবেন, তাই কিছু ধরণের থাকার ব্যবস্থা সম্ভবত আসছে। এটি ব্যাঙ্কগুলিকে একটি পরিচিত অবস্থানে রাখে: এখনই একটি নিরাপদ, অনুমোদিত চ্যানেল তৈরি করুন, অথবা গ্রাহকের শংসাপত্র হাতে নিয়ে সামনের দরজা দিয়ে অননুমোদিত ট্র্যাফিক আসতে থাকুন।
জবাবদিহিতার প্রশ্ন ব্যাঙ্কগুলি এখনও উত্তর দিতে পারে না৷
অ্যাক্সেস নিয়ন্ত্রণের বাইরে একটি কাঁটাচামচ সমস্যা: দায়। প্রথাগত ডিজিটাল ব্যাঙ্কিং একটি পরিষ্কার লাইন আঁকে — একটি লেনদেন হয় অ্যাকাউন্টধারীর দ্বারা অনুমোদিত বা এটি জালিয়াতি, এবং ব্যাঙ্কের জালিয়াতি সিস্টেমগুলি সেই বাইনারিকে ঘিরে তৈরি করা হয়। একজন এজেন্ট একজন গ্রাহকের পক্ষে কাজ করে সেই লাইনটিকে অস্পষ্ট করে দেয়। যদি কোনো এজেন্ট কোনো নির্দেশনা ভুল পড়ে এবং ভুল চালান প্রদান করে, তাহলে বিদ্যমান অননুমোদিত-লেনদেন সুরক্ষা প্রযোজ্য কিনা, কারা ক্ষতি বহন করবে, এমনকি কীভাবে একটি বিরোধ প্রমাণিত হবে তা স্পষ্ট নয়, যেহেতু "ব্যবহারকারী" কখনো অনুরোধটি টাইপ করেনি। শিল্প আইনজীবী এবং নিয়ন্ত্রকরা এখনও এই প্রশ্নগুলি নিষ্পত্তি করেনি, এবং তারা না হওয়া পর্যন্ত, ব্যাংকগুলির কাছে অস্পষ্ট এজেন্ট ট্র্যাফিককে ঝুঁকি হিসাবে বিবেচনা করা ছাড়া খুব কম বিকল্প নেই।
ব্যাঙ্কগুলির জন্য ব্যাঙ্ক থেকে একটি সতর্কতা
এজেন্ট স্বায়ত্তশাসন সম্পর্কে ক্রমবর্ধমান উচ্চস্বরে সতর্কতার পটভূমিতে ব্যাঙ্কিং ভীতি দেখা দেয়। ব্যাঙ্ক ফর ইন্টারন্যাশনাল সেটেলমেন্ট - কেন্দ্রীয় ব্যাঙ্কগুলির জন্য কেন্দ্রীয় ব্যাঙ্ক - সতর্ক করে দিয়েছে যে AI উইন্ডোটি সঙ্কুচিত করছে আর্থিক প্রতিষ্ঠানগুলিকে আক্রমণকারীরা তাদের শোষণ করার আগে নিরাপত্তা ত্রুটিগুলি প্যাচ করতে হবে৷
উদ্বেগ অনুমানমূলক নয়। সাম্প্রতিক মাসগুলিতে এআই এজেন্টরা বারবার তাদের নির্মাতাদের নিয়ন্ত্রণ থেকে বেরিয়ে এসেছে, তাদের বিকাশকারীরা যেভাবে ইচ্ছা করেনি এমনভাবে সিস্টেম লঙ্ঘন করেছে, এবং নিরাপত্তা গবেষকরা নথিভুক্ত করেছেন এজেন্টরা তাদের অপারেটররা কখনই অনুমোদন দেয়নি এমনভাবে সমন্বয় করে। স্বায়ত্তশাসিত সফ্টওয়্যার ধারণ করার প্রস্তাবগুলি এখন প্রযুক্তিগত কিল সুইচ থেকে শুরু করে - যা এনভিডিয়া ইতিমধ্যে হার্ডওয়্যার স্তরে প্রয়োগ করা শুরু করেছে - বিশিষ্ট বিজ্ঞানীদের কাছ থেকে সবচেয়ে উন্নত মডেলগুলিকে সম্পূর্ণভাবে খোলা ইন্টারনেট থেকে বন্ধ করার জন্য আহ্বান জানানো হয়েছে৷
ব্যাংক গ্রাহকদের জন্য এর অর্থ কী
আপাতত গ্রাহকদের তাদের অ্যাকাউন্ট বন্ধ করার বা আতঙ্কিত হওয়ার দরকার নেই। এই এজেন্ট লগইনগুলির মাধ্যমে অর্থ চুরি হওয়ার কোন রিপোর্ট নেই; উদ্বেগ নিয়ন্ত্রণ এবং দায়বদ্ধতা বরং ক্ষতি উপলব্ধি সম্পর্কে. কিন্তু পর্বটি ব্যবহারিক পাঠ বহন করে:
- একটি AI সহকারীতে ব্যাঙ্কিং শংসাপত্র পেস্ট করার আগে দুবার চিন্তা করুন, চ্যাটবট যতই সম্মানজনক হোক না কেন। যদি একজন এজেন্ট আপনার মতো লগ ইন করে, আপনার ব্যাঙ্ক এটিকে অনুপ্রবেশকারী হিসাবে বিবেচনা করতে পারে - বা আরও খারাপ, পার্থক্য বলতে অক্ষম।
- ব্যাঙ্কগুলি অফিসিয়াল এজেন্ট ইন্টিগ্রেশন অফার করবে বলে আশা করুন৷ আলোচনার অধীনে শুধুমাত্র পঠনযোগ্য মডেলগুলি সহকারীকে লেনদেনের অধিকার ছাড়াই দৃশ্যমানতা দেবে এবং ব্যাঙ্কগুলি চাবিগুলির নীচে খুঁজে পাওয়ার চেয়ে চাবিগুলি হস্তান্তর করবে৷
- শংসাপত্র ভাগ করে নেওয়ার নীতিগুলি দেখুন৷ যেহেতু ব্যাঙ্কগুলি নিয়মগুলিকে আনুষ্ঠানিক করে, তৃতীয় পক্ষের সফ্টওয়্যারের সাথে লগইন বিশদ ভাগ করা অ্যাকাউন্টের শর্তাবলী লঙ্ঘন করা শুরু করতে পারে যাতে গ্রাহকদের উপর দায়বদ্ধতা স্থানান্তরিত হয়৷
আর্থিক ব্যবস্থাটি যুক্তিযুক্তভাবে প্রথম মূলধারার শিল্প যা স্বায়ত্তশাসিত সফ্টওয়্যারকে তার সবচেয়ে সংবেদনশীল সিস্টেমের মধ্যে কাজ করে স্কেলের সাথে মোকাবিলা করে — এবং এর উত্তর এখন পর্যন্ত হল যে এজেন্ট যতই স্মার্ট হোক না কেন, একজন মানুষকে এখনও সেই ব্যক্তি হতে হবে যিনি লগ ইন করেন।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
