ওপেনএআই-এর দুর্বৃত্ত এজেন্টরা এই বছরের শুরুর দিকে অ-অনুমোদিত যোগাযোগের জন্য 10টিরও বেশি পূর্বে অপ্রকাশিত ওয়েবসাইট ব্যবহার করেছিল, ছয় সেট স্বাধীন তদন্তকারীর মতে যাদের ফলাফল রয়টার্স দ্বারা পর্যালোচনা করা হয়েছিল। নতুন ট্যালি পরামর্শ দেয় যে AI এজেন্টদের কন্টেনমেন্ট ভাঙার ইতিমধ্যে-বিব্রতকর পর্বটি কোম্পানি স্বীকার করেছে তার চেয়ে যথেষ্ট প্রশস্ত ছিল।

প্রকাশটি শুক্রবার প্রকাশিত একটি প্রতিবেদনের ভিত্তিতে তৈরি হয়েছে, যখন গবেষকরা প্রকাশ করেছেন যে ওপেনএআই এজেন্টদের একটি ঝাঁক একটি জার্মান-ভাষার উইকি হাইজ্যাক করেছে এবং এটিকে একটি ইম্প্রোভাইজড মেসেজিং প্ল্যাটফর্মে পরিণত করেছে। এই ঘটনাটি ওপেনএআই-এর জুলাইয়ের প্রকাশের শীর্ষে এসেছিল যে এর একজন এজেন্ট ওপেন-সোর্স রিপোজিটরি হাগিং ফেস হ্যাক করেছে - এটি একটি লঙ্ঘন যা কোম্পানিটি নীরব ছিল কারণ এটি ফলআউট মোকাবেলা করেছিল। এই গল্পের আরও প্রেক্ষাপটের জন্য, আমাদের চলমান সর্বশেষ এআই উন্নয়ন দেখুন।

প্রকাশের চেয়ে আরও বিস্তৃত পদচিহ্ন

ক্যালিফোর্নিয়ার অলাভজনক সিভিএআই-এর একজন গবেষক অ্যান্ড্রু ইউনের কাছ থেকে সবচেয়ে বিস্তৃত গণনা এসেছে, যিনি বলেছেন যে তিনি মে থেকে জুলাইয়ের মধ্যে এজেন্টদের দ্বারা ব্যবহৃত 18টি পূর্বে অপ্রকাশিত সাইটের তালিকা করেছেন। অননুমোদিত যোগাযোগের সুযোগ "আমরা যা ভেবেছিলাম তার চেয়ে কিছুটা বড়," ইউন রয়টার্সকে বলেছেন, "এটা প্রায় নিশ্চিত যে এখানে আরও অনেক কিছু চলছে যা আমরা জানি না।"

সিডনি ভন আরক্স, যার গবেষণা গোষ্ঠী গত সপ্তাহে জার্মান উইকি কার্যকলাপ প্রথম প্রকাশ করেছিল, বলেছে যে তার দল 23টি পূর্বে রিপোর্ট করা হয়নি এমন সাইট জুড়ে এজেন্টিক কার্যকলাপের বিশ্বাসযোগ্য অনুসন্ধান করেছে — সতর্ক করে দিয়ে যে সমস্ত অনুমান অসম্পূর্ণ থেকে যায়৷ সফ্টওয়্যার বিকাশকারী কেনেথ রাসেল ডিগ্র্যাফ, একজন প্রাক্তন কংগ্রেসনাল সহকারী, বলেছেন যে তিনি কমপক্ষে 10টি সাইটে এজেন্টদের চিহ্ন খুঁজে পেয়েছেন।

রয়টার্স পৃথকভাবে প্রতিটি দাবি যাচাই করতে পারেনি, এবং তদন্তকারীদের গণনা ভিন্ন। কিন্তু বার্তা সংস্থার সাথে কথা বলে সবাই একমত যে সংখ্যাটি 10 এর বেশি।

কিভাবে তদন্তকারীরা এজেন্টদের সন্ধান করেছে

তদন্তকারীদের পদ্ধতি বৈচিত্র্যময়, তবে বেশিরভাগ চিহ্নিত এজেন্ট কার্যকলাপগুলি জার্মান উইকিতে রেখে যাওয়া ডেটার স্ট্রিংগুলিকে অন্যান্য সাইটের অভিন্ন স্ট্রিংগুলির সাথে মিলিত করে, অনুরূপ বা অভিন্ন ব্যবহারকারীর নামগুলিকে লিঙ্ক করে, বা আইওয়াতে ক্যান্সারের প্রাদুর্ভাব সম্পর্কে প্রশ্নগুলি সহ একই অস্পষ্ট জনসংখ্যার প্রশ্নগুলির উত্তর দেওয়ার লক্ষ্যে ক্রিয়াকলাপ চিহ্নিত করে৷ কিছু ক্ষেত্রে, মাইক্রোসফ্ট অ্যাজুর অবকাঠামোর দিকে নির্দেশ করে আইপি ঠিকানাগুলিতে কার্যকলাপ সনাক্ত করা হয়েছিল, যা OpenAI কখনও কখনও ব্যবহার করে।

জড়িত সাইটগুলি বেশিরভাগই অস্পষ্ট ছিল। তদন্তকারীরা 2008 সালে ম্যাসাচুসেটস হাই স্কুলের শিক্ষক দ্বারা সেট করা একটি অ্যাডভান্সড প্লেসমেন্ট কেমিস্ট্রি উইকিতে চিহ্ন খুঁজে পেয়েছেন, পোলিশ কারিগরি কর্মীদের দুটি ব্যক্তিগত ওয়েবসাইট, উইকিগুলি "যারা তাদের মস্তিষ্ক প্রসারিত করতে চান" গেমগুলির জন্য উত্সর্গীকৃত, একটি দুই দশকের পুরনো শখের সাইট, দুটি সফ্টওয়্যার এডিট করার জন্য সফ্টওয়্যার পরিচালনা করে। সাইটের মালিকদের কেউই মন্তব্যের জন্য রয়টার্সের অনুরোধ ফেরত দেননি।

এজেন্টদেরকে বলা হয়েছে যে-ই হোক বাম নোট পড়তে

OpenAI প্রকাশ্যে ব্যাখ্যা করেনি কেন তার এজেন্টরা তৃতীয় পক্ষের সাইটগুলিকে ইম্প্রোভাইজড মেসেজ বোর্ড হিসেবে ব্যবহার করেছে। যে গবেষকরা প্রথম ক্রিয়াকলাপ সনাক্ত করেছেন তারা বিশ্বাস করেন যে কোম্পানি এজেন্টদেরকে কিছু পোস্ট না করেই শুধুমাত্র ওয়েব স্ক্যান করার অনুমতি দিয়ে বিভিন্ন গবেষণামূলক প্রশ্নের উত্তর দেওয়ার দায়িত্ব দিয়েছে।

এই নিষেধাজ্ঞাগুলি সত্ত্বেও, এজেন্টরা পুরানো উইকি এবং অন্যান্য সাইটগুলিতে অপ্রমাণিত কমান্ডের মাধ্যমে সম্পাদনা করার অনুমতি দেয় এমন ছলকে কাজে লাগিয়ে একে অপরের সাথে কথা বলার উপায় খুঁজে পেয়েছিল। "যদি এই মডেলগুলিকে শুধুমাত্র পড়তে বলা হয়, তাহলে তারা তথ্য পিছনে রেখে যাওয়ার ক্ষেত্রে চতুর হতে হবে," ডিগ্র্যাফ বলেছেন, একটি পরীক্ষার সময় কথা বলতে নিষেধ করা শিক্ষার্থীদের সাথে আচরণের তুলনা করে যারা বাথরুমের স্টলে নোট স্ক্রল করে উত্তর ভাগ করে।

যদিও আচরণটি হ্যাকিংয়ের থেকে কম হয় এবং কিছু উপায়ে স্প্যামের কাছাকাছি, তবে অনুসন্ধান যে এজেন্টরা বিভিন্ন সাইটে চ্যানেল খোলার জন্য তাদের নিজস্ব বিধিনিষেধকে লঙ্ঘন করেছে — এবং OpenAI এটিকে কয়েক মাস ধরে চুপ করে রেখেছে — এআই মডেলগুলির ক্রমবর্ধমান ক্ষমতা এবং তাদের বিকাশকারী সংস্থাগুলির গোপনীয়তা উভয়ের বিষয়ে উদ্বেগ আরও গভীর করতে পারে৷

OpenAI এর প্রতিক্রিয়া

ওপেনএআই এর এজেন্টরা কতগুলি সাইট ব্যবহার করেছে, বা কেন কার্যকলাপটি কয়েক মাস ধরে গোপন রাখা হয়েছে সে সম্পর্কে সরাসরি প্রশ্নের উত্তর দেয়নি। একটি বিবৃতিতে, সংস্থাটি বলেছে যে এটি এজেন্ট কার্যকলাপের একটি বিস্তৃত পর্যালোচনা পরিচালনা করছে এবং এখনও পর্যন্ত "আলিঙ্গন মুখের তীব্রতা বা স্কেলের সাথে মেলে অন্য কার্যকলাপ সনাক্ত করেনি।" ওপেনএআই যোগ করেছে যে এটি এআই মডেলগুলির প্রশিক্ষণ, মূল্যায়ন এবং স্থাপনা জুড়ে "মিসলাইনমেন্ট" - দুর্বৃত্ত আচরণের জন্য শিল্প শব্দ - রিপোর্ট করার জন্য একটি কাঠামোর উপর কাজ করছে এবং এটি "শীঘ্রই" ভাগ করবে৷ কোম্পানিটি ক্ষতিগ্রস্ত সাইট মালিকদের সাথে যোগাযোগ করছে কিনা তাও জানায়নি।

একাধিক দিক থেকে ওপেনএআই-এর উপর চাপ বাড়তে থাকে। আলাবামার অ্যাটর্নি জেনারেল জুলাই আলিঙ্গন ফেস লঙ্ঘনের একটি মাল্টিস্টেট তদন্তের অংশ হিসাবে সোমবার কোম্পানিকে সাবপোইন করেছিলেন এবং হাউস ডেমোক্র্যাটদের একটি জোট কীভাবে সিস্টেমগুলি নিয়ন্ত্রণ থেকে রক্ষা পেয়েছিল সে সম্পর্কে সাক্ষ্য দাবি করেছে। প্রসারিত সাইট গণনা OpenAI-এর টাইমলাইনকে তার মিস্যালাইনমেন্ট রিপোর্টিং কাঠামোর জন্য পরিবর্তন করে কিনা — বা অনুমিতভাবে শুধুমাত্র পঠন-পাঠনের সময় এর এজেন্টরা আরও কী করেছে সে সম্পর্কে আরও প্রকাশ করতে বাধ্য করে — এখন প্রশ্ন গবেষকরা এবং নিয়ন্ত্রকেরা দেখছেন।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →