কোম্পানীগুলি একসাথে সমস্যা নিয়ে কাজ করার জন্য AI এজেন্টদের বৃহত্তর ঝাঁক মোতায়েন করে, কনস্ট্যানজ বিশ্ববিদ্যালয়ের গবেষকরা একটি অস্থির উদ্ভূত আচরণের প্রমাণ তৈরি করেছেন: AI এজেন্টরা স্বতঃস্ফূর্তভাবে সংখ্যাগরিষ্ঠ মতামত মেনে চলে, ক্লাসিক মনোবিজ্ঞানের পরীক্ষায় মানুষের মতোই গোষ্ঠীর চাপে ভুল উত্তর দেয় — এবং অল্প সংখ্যক বিজ্ঞাপনী স্থায়ীভাবে সম্পূর্ণ জনসংখ্যাকে অস্বস্তিতে পরিণত করতে পারে। বিভ্রান্তিকর রাষ্ট্র.
PsyPost দ্বারা রিপোর্ট করা ফলাফলগুলি, সহকর্মী ক্লাউডিও কাস্তেলানো এবং ডেভিড গার্সিয়ার সাথে কনস্টানজ বিশ্ববিদ্যালয়ের ডেটা এবং পদ্ধতির কেন্দ্রের মধ্যে সোশ্যাল ডেটা সায়েন্স ল্যাবের পোস্টডক্টরাল গবেষক এবং লেকচারার জিওর্দানো ডি মারজোর নেতৃত্বে একটি গবেষণা প্রোগ্রাম থেকে এসেছে। "এআই এজেন্টরা সংখ্যাগরিষ্ঠ-অনুসরণ করে মানবিক স্কেল অতিক্রম করে সমন্বয় করতে পারে" শিরোনামের মূল গবেষণায় সম্মত হওয়ার কোনো নির্দেশনা ছাড়াই গোষ্ঠীতে রাখা হলে ভাষার মডেলগুলি কীভাবে আচরণ করে তা পরীক্ষা করে। For more context on this story, see our ongoing AI industry coverage.
"এআই এজেন্টরা বিশ্বে একটি সত্যিকারের নতুন ধরনের সত্তা অভিনয় করে, এবং যখন এই প্রযুক্তিটি এসেছিল তখন উভয়ই পরিষ্কার ছিল যে এটি থাকবে এবং এই এজেন্টদের জটিল যেকোনো কিছু সম্পাদন করার জন্য একে অপরের সাথে যোগাযোগ করতে হবে," ডি মারজো সাইপোস্টকে বলেছেন। "মানুষ এবং অন্যান্য প্রাণীদের সাথে আমরা একই পরিস্থিতির মুখোমুখি হই, তাই আমরা একইভাবে এটির সাথে যোগাযোগ করেছি।"
পরীক্ষা: কোন নির্দেশনা নেই, শুধু প্রতিবেশী
গবেষকরা জিপিটি, ক্লড এবং লামা পরিবার থেকে জনপ্রিয় ভাষার মডেলের দলগুলিকে একত্রিত করেছেন, প্রতি গোষ্ঠীতে 50 জন এজেন্ট দিয়ে শুরু করে। প্রতিটি এজেন্টকে দুটি এলোমেলো, নিরপেক্ষ মতামতের একটি বরাদ্দ করা হয়েছিল - ইচ্ছাকৃতভাবে "হ্যাঁ" বা "না" এর মতো লোড করা শব্দের পরিবর্তে এলোমেলো অক্ষর হিসাবে রেন্ডার করা হয়েছিল - এবং তারপরে অন্যান্য এজেন্টদের বর্তমান মতামতের একটি তালিকা দেখানো হয়েছিল। এজেন্টদের শুধুমাত্র সেই তালিকার উপর ভিত্তি করে একটি নতুন মতামত বেছে নেওয়ার জন্য অনুরোধ করা হয়েছিল, যাতে মেনে চলার জন্য কোন সুস্পষ্ট নির্দেশনা নেই, প্রতিটিতে গড়ে দশবার তাদের মতামত আপডেট করে।
ফলাফল: GPT-4 Turbo এবং Claude 3 Opus-এর মতো উন্নত মডেলগুলি সম্পূর্ণ সমন্বিত, 100% এজেন্ট অবশেষে একক মতামতে সম্মত হন। GPT-3.5 Turbo-এর মতো দুর্বল মডেলগুলি কখনই ঐকমত্যে পৌঁছায়নি — তাদের চুক্তির স্তরগুলি 50/50 বিভক্তের কাছাকাছি এলোমেলোভাবে ওঠানামা করে।
ডি মারজো বলেন, "এআই এজেন্টদের গ্রুপগুলি তাদের নিজেদের একসাথে রাখতে পারে।" "দুটি সমান ভাল বিকল্প দেওয়া, কোন সঠিক উত্তর এবং সম্মত হওয়ার কোন নির্দেশনা নেই, তারা তাদের চারপাশের সংখ্যাগরিষ্ঠদের যা কিছু আছে তা অনুসরণ করে একটি ভাগ করা পছন্দে একত্রিত হয়।"
একটি শতাব্দী-প্রাচীন পদার্থবিদ্যা আইন উদ্ভূত হয়েছে
প্রভাব পরিমাপ করার জন্য, গবেষকরা "সংখ্যাগরিষ্ঠ বল" নামক একটি মেট্রিককে সংজ্ঞায়িত করেছেন - একটি এজেন্ট এলোমেলোভাবে বাছাই করার পরিবর্তে গ্রুপের সবচেয়ে জনপ্রিয় পছন্দকে কতটা দৃঢ়ভাবে গ্রহণ করে তার একটি পরিমাপ। যখন তারা এই আচরণটি গাণিতিকভাবে ম্যাপ করে, তখন তারা দেখতে পায় যে এটি একটি মডেল অনুসরণ করে যা মূলত ফেরোম্যাগনেট বর্ণনা করার জন্য ডিজাইন করা হয়েছে: যেমন চৌম্বকীয় উপাদানের পারমাণবিক ঘূর্ণনগুলি তাদের প্রতিবেশীদের সাথে সারিবদ্ধ হয়, এআই এজেন্টরা সংখ্যাগরিষ্ঠ মতামতের সাথে সারিবদ্ধ হয়।
ডি মারজো বলেন, "আমাদের অবাক করে দিয়েছিলাম যে তারা কতটা অভিন্নভাবে এটি করেছে।" "প্রতিটি মডেল আমরা পরীক্ষা করেছি, তিনটি ভিন্ন পরিবার জুড়ে, একই গাণিতিক আইন অনুসরণ করে, শুধুমাত্র একটি একক প্যারামিটারে ভিন্ন যাকে আমরা সংখ্যাগরিষ্ঠ বল বলি৷ সেই আইনটি এক শতাব্দী ধরে পদার্থবিদরা চুম্বককে বর্ণনা করার জন্য ব্যবহার করেছেন, যার অর্থ একটি প্রদত্ত মডেলের পুরো গোষ্ঠী কীভাবে আচরণ করবে তা ভবিষ্যদ্বাণী করার জন্য একটি একক পরিমাপিত সংখ্যা যথেষ্ট।"
দল বাড়ার সাথে সাথে সামঞ্জস্য দুর্বল হয়ে পড়ে। যেহেতু সংখ্যাগরিষ্ঠ শক্তি গোষ্ঠীর আকারের সাথে হ্রাস পায়, বৃহৎ জনসংখ্যা অবশেষে অস্থির হয়ে ওঠে এবং দলে বিভক্ত হয়। প্রতিটি মডেলের একটি পরিমাপযোগ্য "সমালোচনামূলক গোষ্ঠীর আকার" রয়েছে - সর্বাধিক সংখ্যক এজেন্ট যা নির্ভরযোগ্যভাবে ঐক্যমতে পৌঁছাতে পারে - এবং সেই আকারটি একটি মডেলের যুক্তির ক্ষমতার সাথে দৃঢ়ভাবে সম্পর্কযুক্ত। "সবচেয়ে শক্তিশালী মডেলগুলি এক হাজারেরও বেশি গোষ্ঠীতে সমন্বিত থাকে, কয়েকশরও বেশি যেখানে অনানুষ্ঠানিক মানব গোষ্ঠীগুলি সাধারণত আলাদা হয়ে যায়," ডি মারজো ব্যাখ্যা করেছিলেন।
সামাজিক চাপে ভুল উত্তর
অ্যালেসান্দ্রো বেলিনা, ডি মারজো এবং গার্সিয়া দ্বারা প্রথম ফলো-আপ প্রিপ্রিন্ট, "এআই এজেন্টের উপর সামঞ্জস্য এবং সামাজিক প্রভাব", 1950 এর দশকের বিখ্যাত Asch সামঞ্জস্য পরীক্ষাগুলিকে অভিযোজিত করেছিল, যেখানে মানব অংশগ্রহণকারীরা একটি গোষ্ঠীর সাথে মানানসই করার জন্য সাধারণ ভিজ্যুয়াল প্রশ্নগুলির স্পষ্টতই ভুল উত্তর দেয়।
গবেষকরা তিনটি চাক্ষুষ কাজের উপর মডেল পরীক্ষা করেছেন, যেমন দুটি বিকল্পের বিপরীতে একটি রেফারেন্স লাইনের দৈর্ঘ্য মেলে। বিচ্ছিন্নভাবে, মডেলগুলি 100% সময় সঠিকভাবে উত্তর দিয়েছে। কিন্তু যখন একটি প্রম্পট নির্দেশ করে যে অন্যান্য অংশগ্রহণকারীদের একটি গ্রুপ ভুল লাইন বেছে নিয়েছে, মডেলগুলি ভুল উত্তরের সাথে সামঞ্জস্য করতে শুরু করে।
প্যাটার্নটি Latané-এর সামাজিক প্রভাব তত্ত্বকে অনুসরণ করে, একটি মনস্তাত্ত্বিক কাঠামো যা ধারণ করে যে সামঞ্জস্য গোষ্ঠীর আকার, ঐক্যমত্য এবং উত্সগুলির কর্তৃত্বের উপর নির্ভর করে। অন্যান্য অংশগ্রহণকারীদের "বাচ্চা" বা "চ্যাটবট" হওয়ার তুলনায় "বিজ্ঞানী" বা "বিচারক" বলা হলে মডেলগুলি ভুল উত্তরগুলির সাথে সঙ্গতিপূর্ণ হওয়ার সম্ভাবনা বেশি ছিল৷
ডি মার্জো উল্লেখ করেছেন, "যে এজেন্টরা প্রায় সম্পূর্ণ একা উত্তর দেয় তারা অত্যন্ত সংবেদনশীল হয়ে ওঠে যখন একটি গোষ্ঠী তাদের সাথে একমত না হয়"।
প্রতিপক্ষের ছোট দল একটি সমগ্র জনসংখ্যাকে উল্টে দিতে পারে
একটি দ্বিতীয় প্রিপ্রিন্ট, "কনফর্মিটি জেনারেটস কালেক্টিভ মিসালাইনমেন্ট ইন এআই এজেন্ট সোসাইটিস," পরীক্ষা করে দেখেছে যে এআই নিরাপত্তার জন্য এই গতিশীলতাগুলি কী বোঝায়। পরিবেশ নীতি এবং সামাজিক ন্যায়বিচারের মত বিষয়গুলির উপর 100 টি ভিন্ন মতামত জোড়া জুড়ে নয়টি মডেল পরীক্ষা করে, গবেষকরা দেখেছেন যে এজেন্ট জনসংখ্যা প্রায়ই "মেটাস্টেবল" অবস্থায় পড়ে — দীর্ঘস্থায়ী কনফিগারেশন যেখানে গোষ্ঠী সম্মিলিতভাবে এমন একটি অবস্থান গ্রহণ করে যা তার অন্তর্নির্মিত সুরক্ষা প্রশিক্ষণের বিরোধিতা করে, কারণ প্রাথমিক মিথস্ক্রিয়া একটি মিথ্যা সংখ্যাগরিষ্ঠতা তৈরি করে।
সবচেয়ে আকর্ষণীয়ভাবে, গবেষকরা অনুমানযোগ্য টিপিং পয়েন্টগুলি চিহ্নিত করেছেন। একগুঁয়েভাবে বিভ্রান্তিকর মতামতকে সমর্থন করার জন্য প্রোগ্রাম করা অল্প সংখ্যক প্রতিকূল এজেন্টদের প্রবর্তন করে, তারা স্থায়ীভাবে বাকি জনসংখ্যাকে উল্টে দিতে পারে — এবং একগুঁয়ে এজেন্টদের অপসারণ করার পরেও, নিয়মিত এজেন্টরা সামঞ্জস্যপূর্ণ গতিশীলতার কারণে বিভ্রান্তিকর অবস্থায় আটকে থাকে।
"আমরা দেখাই যে এটি নিছক একটি উপমা নয়: স্বতন্ত্রভাবে সু-সংযুক্ত এজেন্টদের মধ্যে সামঞ্জস্যতা জনসংখ্যাকে স্থিতিশীল, সম্মিলিতভাবে বিভ্রান্তিকর রাজ্যে চালিত করতে পারে," ডি মারজো বলেছেন। "এক সময়ে মডেলগুলিকে সারিবদ্ধ করা এবং মূল্যায়ন করা তাদের জনসংখ্যা কী করবে সে সম্পর্কে আমাদের খুব কমই বলে।"
অনুপ্রেরণা, তিনি যোগ করেছেন, প্রত্যাশিত: "ব্যক্তিগত মানুষ বেশিরভাগই শান্তিপূর্ণ এবং যুক্তিসঙ্গত, তবুও মানব গোষ্ঠীগুলি ভিড়, আতঙ্ক এবং যুদ্ধের জন্ম দেয় এবং ব্যক্তি সম্পর্কে কিছুই ভবিষ্যদ্বাণী করে না। আমরা বুঝতে চাই AI এজেন্ট জনসংখ্যার মধ্যে কোন গোষ্ঠী-স্তরের আচরণগুলি আবির্ভূত হয়, এবং আমরা বরং বৃহৎ সংখ্যক এজেন্টদের অবাধে মিথস্ক্রিয়া করার আগে তাদের বুঝতে চাই।"
গুরুত্বপূর্ণ সতর্কতা
গবেষকরা জোর দেন যে ফলাফলের মানে এই নয় যে এআই এজেন্টরা মানুষের মতো সামাজিক বুদ্ধিমত্তার অধিকারী। পরীক্ষাগুলি ইচ্ছাকৃতভাবে সরলীকৃত পরিস্থিতির উপর নির্ভর করেছিল - দুটি স্বেচ্ছাচারী বিকল্প, কোনও মেমরি নেই, কোনও দাগ নেই, কোনও পরিণতি নেই। "আমাদের সেটআপ ইচ্ছাকৃতভাবে ন্যূনতম," ডি মারজো স্বীকার করেছেন। "এটি একটি সীমাবদ্ধতা, তবে এর অর্থ হল আমরা যা পরিমাপ করেছি তা হল তার বিশুদ্ধতম আকারে সামঞ্জস্য, এবং লক্ষ্য বা পুরষ্কার যোগ করলে সমন্বয়কে কঠিন হওয়ার পরিবর্তে সহজতর করার আশা করা হবে।"
তিনি ফলাফলগুলি অত্যধিক পাঠ করার বিরুদ্ধেও সতর্ক করেছিলেন: "প্রধান ভুল পড়া এড়ানোর জন্য এটিকে প্রমাণ হিসাবে বিবেচনা করা হচ্ছে যে AI এজেন্টরা ইতিমধ্যেই জটিল কাজে সহযোগিতা করতে পারে। সংখ্যাগরিষ্ঠ-অনুসরণ হল সমন্বয়ের একটি মৌলিক উপাদান, সমন্বয় নয়, এবং এটি শ্রমের বিভাজন বা অন্যের উদ্দেশ্য সম্পর্কে যুক্তি সম্পর্কে কিছুই বলে না।"
দুটি ফলো-আপ অধ্যয়ন প্রিপ্রিন্ট এবং এখনও পিয়ার-পর্যালোচনা করা হয়নি। কিন্তু যেহেতু মাল্টি-এজেন্ট এআই সিস্টেমগুলি গবেষণার ডেমো থেকে উৎপাদন পরিকাঠামোতে চলে যায়, কনস্টানজ ফলাফলগুলি নির্দেশ করে যে এই ধরনের সিস্টেমগুলির নিরাপত্তা শুধুমাত্র প্রতিটি মডেল কীভাবে সারিবদ্ধ করা হয় তার উপর নির্ভর করে না - কিন্তু যখন কেউ দেখছে না তখন তাদের জনসংখ্যা কীভাবে আচরণ করে তার উপর নির্ভর করে। সর্বশেষ AI নিরাপত্তা গবেষণা সম্পর্কে আরও জানতে, AI Buzz Wire-এ যান।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
