OpenAI একটি সমন্বিত ChatGPT-চালিত স্ক্যাম নেটওয়ার্ককে ব্যাহত করেছে যেটি Poipet, কম্বোডিয়ার বাইরে কাজ করছে, কোম্পানিটি একটি প্রতিবেদনে প্রকাশ করেছে যে কীভাবে অপরাধী গোষ্ঠীগুলি এখন বাধ্যতামূলক-শ্রম যৌগগুলির দৈনন্দিন ক্রিয়াকলাপগুলিতে বাণিজ্যিক কৃত্রিম বুদ্ধিমত্তা মডেলগুলি এম্বেড করছে।
"অপরাধী স্ক্যাম অপারেশন ব্যাহত করা" শিরোনামে 31 জুলাই প্রকাশিত এই প্রকাশটি এমন একটি সিন্ডিকেটকে বর্ণনা করে যেটি ChatGPT ব্যবহার করে শুধু বিশ্বজুড়ে শিকারদের প্রতারিত করতে নয়, পাচার-সংযুক্ত এন্টারপ্রাইজের অভ্যন্তরীণ কাজগুলি পরিচালনা করতেও। সংগঠিত অপরাধের জন্য অপারেশনাল অবকাঠামো হিসাবে বৃহৎ ভাষার মডেলগুলিকে কীভাবে পুনরুজ্জীবিত করা হচ্ছে তা এই মামলাটি একটি উইন্ডো সরবরাহ করে। AI এর অপব্যবহার এবং গার্ডেল সম্পর্কে চলমান প্রতিবেদনের জন্য, AI Buzz Wire-এ সর্বশেষ AI উন্নয়নগুলি অনুসরণ করুন৷
কিভাবে নেটওয়ার্ক কাজ করে
ওপেনএআই-এর ফলাফল অনুসারে, অপরাধী প্রতিষ্ঠানটি ভিকটিম আউটরিচ অনুবাদ করতে, প্রতারণামূলক বিনিয়োগ ইন্টারফেস তৈরি করতে এবং জাল আইনি নোটিশের খসড়া তৈরি করতে ChatGPT-এর উপর নির্ভর করেছিল। অপারেটররা হোয়াটসঅ্যাপ এবং টেলিগ্রাম সহ মেসেজিং প্ল্যাটফর্মের মাধ্যমে ব্যক্তিদের টার্গেট করে, একটি তিন-পর্যায়ের প্রতারণার জীবনচক্রের মাধ্যমে সাইকেল চালায়।
স্কিমটি সাধারণত বিশ্বাস তৈরি করার জন্য ডিজাইন করা রোমান্টিক ওভারচার দিয়ে শুরু হয়েছিল, তারপরে জাল ক্রিপ্টোকারেন্সি ইনভেস্টমেন্ট প্ল্যাটফর্মের দিকে পরিচালিত হয়েছিল এবং শেষ পর্যন্ত জাল আইন-প্রয়োগকারী জরিমানার হুমকির দিকে বর্ধিত হয়েছিল যখন আগের পিচগুলি ব্যর্থ হয়েছিল। অপারেটররা নিজেদেরকে একটি একক জালিয়াতি উল্লম্বের মধ্যে সীমাবদ্ধ করেনি — তারা নকল সোনা-বাণিজ্য ডেস্কের সাথে রোমান্টিক সেটআপগুলিকে একত্রিত করেছে এবং জুয়া খেলার চ্যানেলগুলিতে লক্ষ্যগুলিকে পুনরুদ্ধার করেছে, পেআউটের পাথের সংখ্যা সর্বাধিক করে।
এই অপারেশনটিকে যা আলাদা করে তা হল এর এআই ব্যবহারের স্কেল এবং শৃঙ্খলা। মুষ্টিমেয় এক-অফ প্রম্পট চালানোর পরিবর্তে, সিন্ডিকেট একাধিক ভাষা জুড়ে উচ্চ ভলিউমে বিশ্বাসযোগ্য, স্থানীয়করণ যোগাযোগ তৈরি করতে উত্পাদনশীল মডেলগুলিকে পদ্ধতিগত করেছে।
জোরপূর্বক-শ্রমের মাত্রা
সবচেয়ে বিরক্তিকর ফলাফল শিকার-মুখোমুখী প্রতারণা থেকে নয় বরং গ্রুপের অভ্যন্তরীণ কার্যকলাপ থেকে এসেছে। তদন্তের সময় উদ্ধার হওয়া প্রম্পট লগগুলি থেকে জানা যায় যে অপারেটররা থাই-কম্বোডিয়ান সীমান্তের কাছে অবস্থিত শারীরিক কেলেঙ্কারী যৌগগুলির মধ্যে প্রশাসনিক কাজের জন্য ChatGPT ব্যবহার করেছিল।
এই লগগুলির মধ্যে ম্যানেজমেন্ট যোগাযোগের অনুবাদ, কর্মীদের ঋণ লগিং, ভিসা ওভারস্টে নথিভুক্ত করা এবং শাস্তিমূলক জরিমানা ট্র্যাক করা অন্তর্ভুক্ত ছিল। কিছু এন্ট্রি জোরপূর্বক আটক, পালিয়ে যাওয়া শ্রমিক এবং মানব-পাচার নেটওয়ার্ক উল্লেখ করেছে। বিশদটি দক্ষিণ-পূর্ব এশীয় কেলেঙ্কারী যৌগগুলির বছরের পর বছর প্রতিবেদনের সাথে সারিবদ্ধ, যা প্রায়শই পাসপোর্ট বাজেয়াপ্ত করার আগে এবং সহিংসতার হুমকিতে সাইবার ক্রাইম শ্রমে বাধ্য করার আগে প্রতারণামূলক প্রশাসনিক অফার দিয়ে চাকরিপ্রার্থীদের প্রলুব্ধ করে।
অন্য কথায়, এআই মডেলগুলি ডাবল ডিউটি করছিল: বহিরাগত শিকারদের বিরুদ্ধে অস্ত্র তৈরি করা হয়েছিল যখন একই সাথে একটি বন্দী কর্মীর জন্য ব্যবস্থাপনা সফ্টওয়্যার হিসাবে পরিবেশন করা হয়েছিল।
OpenAI এর প্রতিক্রিয়া
ওপেনএআই বলেছে যে এটি অপারেশনের সাথে যুক্ত অ্যাকাউন্টগুলি সনাক্ত করেছে এবং কেটে দিয়েছে, এর মডেলগুলিতে সিন্ডিকেটের অ্যাক্সেস ব্লক করে। সংস্থাটি আর্থিক অপরাধ এবং মানবাধিকার লঙ্ঘনের জন্য তার প্ল্যাটফর্মের অপব্যবহার করে এমন নেটওয়ার্কগুলি সনাক্ত এবং ভেঙে ফেলার একটি বৃহত্তর প্রচেষ্টার অংশ হিসাবে বিঘ্নটিকে চিহ্নিত করেছে।
কেসটি এআই প্রদানকারীদের জন্য একটি ক্রমবর্ধমান চ্যালেঞ্জকে আন্ডারস্কোর করে। দূষিত অভিনেতারা আর বাণিজ্যিক ভাষার মডেলগুলিকে নিছক বাহ্যিক অস্ত্র হিসাবে বিবেচনা করছে না - তারা তাদের অপারেশনাল মিডলওয়্যার হিসাবে মোতায়েন করছে, অপরাধমূলক উদ্যোগের ব্যাক-অফিস যন্ত্রপাতিতে তাদের বুনছে। এই ধরনের অপব্যবহার সনাক্ত করার জন্য সুস্পষ্ট শিকার-মুখোমুখী প্রম্পটগুলির বাইরে তাকানো প্রয়োজন।
একটি নতুন সনাক্তকরণ সমস্যা
অপারেশনের নিরাপত্তা বিশ্লেষণ থেকে বোঝা যায় যে স্ক্যাম-সম্পর্কিত প্রম্পটে সাধারণ কীওয়ার্ড ফিল্টারিং আর যথেষ্ট নয়। প্রশাসনিক ব্যবহারের ক্ষেত্রে - মেমো অনুবাদ করা, ঋণ ট্র্যাক করা, উপস্থিতি লগ করা - বিচ্ছিন্নভাবে জাগতিক হিসাবে পড়া এবং প্রকাশ্য জালিয়াতি স্ক্রিপ্টের চেয়ে পতাকাঙ্কিত করা অনেক কঠিন।
ব্যাঘাতের কভারেজ অনুসারে, এই প্রকৃতির অপব্যবহার শনাক্ত করার জন্য ক্রস-প্ল্যাটফর্ম বুদ্ধিমত্তা ভাগ করে নেওয়া এবং প্রশাসনিক প্রম্পটগুলির আচরণগত বিশ্লেষণের দাবি করা হয়, যেখানে অপরাধমূলক অপারেশনগুলি স্বতন্ত্র অপারেশনাল পদচিহ্ন রেখে যায় এমনকি যখন ব্যক্তিগত অনুরোধগুলি সৌম্য দেখায়। একটি মডেলকে "এই ম্যানেজার বার্তাটি অনুবাদ করতে" বলার জন্য একটি প্রম্পট অন্তর্নিহিতভাবে সন্দেহজনক নয় — তবে এই ধরনের শত শত প্রম্পট, একটি পরিচিত যৌগের সাথে লিঙ্ক করা অ্যাকাউন্ট থেকে উদ্ভূত, একটি প্যাটার্ন তৈরি করে।
বড় ছবি
কম্বোডিয়া অপারেশন হল সর্বশেষ সংকেত যে জেনারেটিভ এআই-এর অপব্যবহারের পৃষ্ঠ ডিপফেক এবং স্প্যামের বাইরেও প্রসারিত হয়েছে। প্রযুক্তির পরিপক্ক হওয়ার সাথে সাথে সর্বোচ্চ-মূল্যের অপব্যবহার সবচেয়ে কম দৃশ্যমান হতে পারে: এআই চুপচাপ একটি অবৈধ ব্যবসার রসদ চালাচ্ছে, ভিকটিম অনুবাদ থেকে কর্মীবাহিনী পরিচালনা পর্যন্ত।
ওপেনএআই এবং এর প্রতিযোগীদের জন্য, এই পরিবর্তনটি মনিটরিংয়ের দায়িত্ব কতদূর প্রসারিত করা উচিত সে সম্পর্কে কঠিন প্রশ্ন উত্থাপন করে। প্রদানকারীরা অ্যাকাউন্ট স্থগিত করতে পারে, কিন্তু অন্তর্নিহিত যৌগ, পাচার নেটওয়ার্ক এবং বাধ্যতামূলক শ্রমের শর্তগুলি রয়ে গেছে। ডিজিটাল স্তর ব্যাহত করা সাহায্য করে, কিন্তু এটি এই ক্রিয়াকলাপগুলিকে টিকিয়ে রাখে এমন ভৌত অবকাঠামোকে ভেঙে দেয় না।
একটি বৃহত্তর নিয়ন্ত্রক মুহুর্তের মধ্যেও প্রকাশটি আসে। নতুন স্বচ্ছতা বিধি কার্যকর হওয়ার সাথে এবং AI কোম্পানিগুলির উপর তাদের মডেলগুলি কীভাবে ব্যবহার করা হয় তার জন্য ক্রমবর্ধমান চাপের সাথে, এই ধরনের মামলাগুলি প্রয়োগকারী অগ্রাধিকার এবং প্রযুক্তিগত সুরক্ষা প্রদানকারীরা ভবিষ্যত সিস্টেমে গঠন করতে পারে।
এটি একটি অস্বস্তিকর অসমতাও তুলে ধরে। একই ভাষার ক্ষমতা যা ChatGPT-কে বৈধ ব্যবসার জন্য মূল্যবান করে তোলে — অনুবাদ, খসড়া তৈরি, সংক্ষিপ্তকরণ — ঠিক যা সীমানা এবং ভাষা জুড়ে কাজ করে এমন অপরাধমূলক উদ্যোগের কাছে আকর্ষণীয় করে তোলে। একটি মডেল যা একটি ছোট ব্যবসাকে এক ডজন দেশে গ্রাহকদের কাছে পৌঁছাতে সাহায্য করতে পারে ঠিক একইভাবে সহজেই প্রতিটি মহাদেশে একটি কেলেঙ্কারী সিন্ডিকেটের লক্ষ্যবস্তু শিকারদের সাহায্য করতে পারে। পার্থক্যটি প্রযুক্তির মধ্যে নয় বরং এটির চারপাশে আবৃত পরিকাঠামোতে রয়েছে এবং সেখানেই সরবরাহকারীদের সর্বনিম্ন দৃশ্যমানতা রয়েছে।
এরপর কি আসে
ওপেনএআই-এর প্রকাশ তার স্বচ্ছতার জন্য ততটাই উল্লেখযোগ্য যতটা বিঘ্নের জন্য। নেটওয়ার্কটি কীভাবে কাজ করে তার বিশদ প্রকাশ করে, কোম্পানিটি একটি টেমপ্লেট অফার করছে যা অন্যান্য প্রদানকারী এবং আইন প্রয়োগকারী সংস্থাগুলি অনুরূপ অপব্যবহার সনাক্ত করতে ব্যবহার করতে পারে৷ কিন্তু কেসটি আরও স্পষ্ট করে যে অ্যাকাউন্ট সাসপেনশন, যাই হোক না কেন, একটি প্রতিপক্ষের বিরুদ্ধে একটি প্রতিক্রিয়াশীল ব্যবস্থা যা নতুন পরিচয় তৈরি করতে পারে এবং আপেক্ষিক স্বাচ্ছন্দ্যে অপারেশনগুলিকে স্থানান্তর করতে পারে।
নিরাপত্তা দল এবং AI প্রদানকারীদের জন্য একইভাবে, গ্রহণযোগ্যতা হল যে এই শ্রেণীর অপব্যবহারের বিরুদ্ধে রক্ষা করার জন্য প্যাটার্ন সনাক্তকরণে টেকসই বিনিয়োগের প্রয়োজন হবে, কোম্পানি জুড়ে ডেটা ভাগ করে নেওয়া হবে এবং কর্তৃপক্ষের সাথে সহযোগিতার প্রয়োজন হবে যারা নিজেরাই শারীরিক যৌগগুলির বিরুদ্ধে কাজ করতে পারে। ডিজিটাল লেয়ার এবং ফিজিক্যাল লেয়ার, যেমন এই ক্ষেত্রে দেখা যাচ্ছে, আর আলাদা করা যায় না।
এআই থেকে এগিয়ে থাকুন
নিরাপত্তা ঝুঁকি, নৈতিক দ্বিধা এবং কৃত্রিম বুদ্ধিমত্তার আশেপাশে নীতি বিতর্কের বিষয়ে আরও জানতে, AI Buzz Wire থেকে ব্রেকিং এআই নিউজ চালিয়ে যান।
আরও এআই খবর পড়ুন →
