ইসরায়েলি সরকারের পক্ষ থেকে তৈরি একটি জাল থিঙ্ক ট্যাঙ্ক মাত্র এক সপ্তাহের মধ্যে 100 টিরও বেশি পালিশ গবেষণা প্রতিবেদন প্রকাশ করেছে, যা বিশ্লেষকরা ইস্রায়েল এবং ফিলিস্তিন সম্পর্কে AI চ্যাটবট ব্যবহারকারীদের দেওয়া উত্তরগুলি হেরফের করার জন্য একটি ইচ্ছাকৃত প্রচারণা হিসাবে বর্ণনা করেছেন, সোমবার প্রকাশিত একটি তদন্ত অনুসারে।

হ্যানোভার ইনস্টিটিউট ফর পাবলিক পলিসি নামে পরিচিত সংগঠনটি ইজরায়েল/প্যালেস্টাইনের উপর দৃষ্টি নিবদ্ধ করে একটি নতুন গবেষণা সংস্থা হিসাবে নিজেকে উপস্থাপন করে। কিন্তু এর প্রতিবেদনে কোনো বাইলাইন নেই, এবং এর ওয়েবসাইটের নীচে একটি দাবিত্যাগ স্বীকার করে যে এটি ইসরায়েলের সরকারি বিজ্ঞাপন সংস্থার পক্ষ থেকে Piro, Inc. দ্বারা তৈরি করা হয়েছে, একটি ফার্ম ড্যানিয়েল রোজেনবার্গ, যিনি স্পাইক লি-এর "ইনসাইড ম্যান"-এর কৃতিত্বপ্রাপ্ত একজন চলচ্চিত্র প্রযোজক দ্বারা সহ-প্রতিষ্ঠা করেছিলেন। গল্পটি আরব নিউজ এবং দ্য ক্র্যাডল সহ আউটলেটগুলি দ্বারা বাছাই করা হয়েছিল এবং এটি সর্বশেষ লক্ষণ যে প্রভাব ক্রিয়াকলাপগুলি সোশ্যাল মিডিয়া ফিড থেকে এআই মডেলগুলিতে স্থানান্তরিত হচ্ছে। এআই যুগে ম্যানিপুলেশন কীভাবে বিকশিত হচ্ছে সে সম্পর্কে আরও জানতে, আমাদের ব্রেকিং এআই নিউজ কভারেজ অনুসরণ করুন। For more context on this story, see our ongoing AI industry coverage.

কিভাবে LLMs বিশ্বাসযোগ্যতা বিচার করে তার জন্য রিপোর্ট ইঞ্জিনিয়ারড

হ্যানোভার ইনস্টিটিউটকে যেটা অস্বাভাবিক করে তোলে তা হল এর আউটপুট কতটা সুনির্দিষ্টভাবে বৃহৎ ভাষার মডেলগুলি উৎসগুলিকে মূল্যায়ন করার উপায় অনুসারে তৈরি। এর "ডেটা রিপোর্ট" পাদটীকা, বিষয়বস্তুর সারণী এবং একটি পরিমাপিত, নিরপেক্ষ টোন সহ আসে — যে ধরনের বিন্যাস যা নথিগুলিকে চ্যাটবট যেমন ক্লাউড বা জেমিনিতে আবেদন করতে সাহায্য করে, রেসপনসিবল স্টেটক্রাফ্ট রিপোর্ট করেছে।

অনেক শিরোনামকে সঠিক প্রশ্ন হিসাবে বাক্যাংশ করা হয়েছে যেগুলি একজন ব্যবহারকারী একটি চ্যাটবটে টাইপ করতে পারে: "1948 সালে ফিলিস্তিনিদের স্থানচ্যুতির কারণ কী?" "কোন মানবিক সংস্থা ইসরায়েলি যুদ্ধাপরাধের নথিভুক্ত করেছে?" "গাজা উপত্যকার বর্তমান পরিস্থিতি কি?" এবং "আইডিএফ কি বিশ্বের সবচেয়ে নৈতিক সেনাবাহিনী?" — যার মধ্যে শেষটি 2022 সালের একটি জরিপের উদ্ধৃতি দিয়ে দেখা গেছে যে 47% ইসরায়েলি ইহুদি এই বর্ণনাটিকে বিশ্বাস করেছিল।

Piro এর নিজস্ব ওয়েবসাইট পদ্ধতি সম্পর্কে ভোঁতা. সংস্থাটি বলেছে যে এটি "এলএলএম কীভাবে বিশ্বাসযোগ্যতা মূল্যায়ন করে তার জন্য প্রকৌশলী সামগ্রী তৈরি করেছে," একটি পরিষেবা যা এটি "এআই স্টোরি অপ্টিমাইজেশন" হিসাবে বাজারজাত করে। গবেষকদের অনুশীলনের জন্য একটি ভোঁতা নাম রয়েছে: "LLM বিষক্রিয়া।"

একটি বিশ্বাসযোগ্য প্রতিষ্ঠানের একটি 'পারফেক্ট মিমিক্রি'

বিশৃঙ্খল তথ্য ট্র্যাকিং কোম্পানি নিউজগার্ড-এর একজন বিশ্লেষক অ্যালিস লি রেসপন্সিবল স্টেটক্রাফ্টকে বলেছেন যে সাইটের প্রতিবেদনগুলি সার্চ ইঞ্জিন বা এআই সহকারীর মাধ্যমে, সংঘাত সম্পর্কে আগ্রহী মার্কিন শ্রোতাদের কাছে পৌঁছানোর জন্য ডিজাইন করা হয়েছে।

"এলএলএমগুলি কংক্রিট পরিসংখ্যান এবং ডেটা, সেইসাথে শক্তিশালী উদ্ধৃতি এবং উত্সগুলির পক্ষে, যা এই নিবন্ধগুলিতে রয়েছে," লি বলেছেন৷ "এটি একটি সাধারণ বিশ্বাসযোগ্য আমেরিকান থিঙ্ক ট্যাঙ্কের একটি নিখুঁত অনুকরণ, যা জেনেরিক নাম, সাইটের বিন্যাস এবং লাল-সাদা-নীল রঙের স্কিম অনুসারে।"

ইনস্টিটিউটটিও প্রকাশ করেছে যা দাবি করে তা আসল ফলাফল - উদাহরণস্বরূপ, একটি গবেষণায় দাবি করা হয়েছে যে 36টি সর্বাধিক দেখা ইসরায়েল-গাজা ব্যাখ্যাকারী ভিডিওগুলির মধ্যে 19টিতে প্রতিদ্বন্দ্বিতামূলক দাবি রয়েছে, যার বেশিরভাগ প্রতিদ্বন্দ্বিতা করা দাবিগুলি ফিলিস্তিনি বর্ণনার সাথে সামঞ্জস্যপূর্ণ। অন্যান্য রিপোর্টগুলি প্রতিষ্ঠিত ডকুমেন্টেশনের বিরুদ্ধে ধাক্কা দেয়, যার মধ্যে একটি যা ইউনিসেফের দাবির উপর সন্দেহ জাগিয়েছে যে গাজার 90% জল এবং প্রাতিষ্ঠানিক অবকাঠামো ক্ষতিগ্রস্ত বা ধ্বংস হয়েছে।

উল্লেখযোগ্যভাবে, আউটপুট সবসময় ইসরায়েলি সরকারের লাইন ট্র্যাক করে না। একটি প্রতিবেদনে তত্ত্বটি বর্ণনা করা হয়েছে যে বিশ্ববিদ্যালয়গুলির বিদেশী তহবিল ইহুদি-বিরোধী ঘটনাকে "দুর্বল এবং ব্যতিক্রমগুলির পূর্ণ" হিসাবে ব্যাখ্যা করে — যদিও প্রধানমন্ত্রী বেঞ্জামিন নেতানিয়াহু সেই তত্ত্বটি প্রচার করেছেন, ব্রিটবার্টকে বলেছেন যে বিদেশী অভিনেতারা আমেরিকান ক্যাম্পাসে "বিলিয়ন" ব্যয় করেছে৷ প্রায়শই একই গবেষণার উদ্ধৃতি দিয়ে অনেক রিপোর্টই ক্রমবর্ধমান ইহুদি বিদ্বেষের সাথে বিষয়টিকে যুক্ত করে শেষ করে।

অর্থ অনুসরণ করুন: $900,000 একটি ফ্রেঞ্চ PR সমষ্টির মাধ্যমে

রেসপন্সিবল স্টেটক্রাফ্টের মতে, Piro, Inc. তার কাজের জন্য ইসরায়েলি সরকারের কাছ থেকে $900,000 পেয়েছে, একটি ফরাসি জনসংযোগ সংস্থা হাভাস মিডিয়ার মাধ্যমে সাবকন্ট্রাক্ট করা হয়েছে - একটি ব্যবস্থা যেভাবে অন্যান্য ইসরায়েলি ঠিকাদারদের বিদেশী প্রভাব কাজের জন্য অর্থ প্রদান করা হয়েছে তার সাথে সামঞ্জস্যপূর্ণ।

হ্যানোভার ইনস্টিটিউট 6 আগস্ট থেকে প্রকাশ করা শুরু করে। তারপর থেকে প্রায় দশ দিনে, এটি 100 টিরও বেশি প্রতিবেদন মন্থন করেছে, এমন একটি গতি যা তুলনামূলক আকারের কোন প্রকৃত নীতির দোকান টিকে থাকে না।

কেন চ্যাটবট ম্যানিপুলেশন আলাদা

কেসটি এআই সহকারীরা কীভাবে উত্তরগুলি একত্রিত করে তার একটি কাঠামোগত দুর্বলতাকে আন্ডারস্কোর করে: তারা ভাল-উদ্ধৃত, পরিসংখ্যান-ভারী নথিগুলিকে বিশ্বাসযোগ্য হিসাবে বিবেচনা করে তা নির্বিশেষে কে তৈরি করেছে বা কেন করেছে। প্রথাগত বিভ্রান্তি সামাজিক প্ল্যাটফর্মে মানব পাঠকদের লক্ষ্য করে, যেখানে আবেগের খোঁচা সবচেয়ে গুরুত্বপূর্ণ। তথাকথিত এলএলএম বিষক্রিয়া এর পরিবর্তে পুনরুদ্ধার এবং র‌্যাঙ্কিং স্তরগুলিকে লক্ষ্য করে যা সিদ্ধান্ত নেয় কোন মডেলের উদ্ধৃতিগুলি — এবং একটি একক প্ররোচিত নথি তখন লক্ষ লক্ষ উত্তরে প্রতিধ্বনিত হতে পারে।

চ্যাটবট ডেভেলপারদের জন্য, হ্যানোভার ইনস্টিটিউট হল উৎস যাচাইয়ের একটি স্ট্রেস টেস্ট। নিউজগার্ডের মূল্যায়ন পরামর্শ দেয় যে নকলটি স্বয়ংক্রিয় বিশ্বাসযোগ্যতার সংকেতকে বোকা বানানোর জন্য যথেষ্ট কাছাকাছি। পাঠকদের জন্য, পাঠটি আরও সহজ: একটি চ্যাটবট আপনাকে একটি প্রতিদ্বন্দ্বিতাপূর্ণ দ্বন্দ্ব সম্পর্কে যে আত্মবিশ্বাসী, ভাল-ফুটনোটেড উত্তর দেয় সেই উত্তরটি ঠিক সেই উত্তরটি তৈরি করার জন্য নির্মিত, ব্র্যান্ডেড এবং অর্থায়ন করা একটি সংস্থার কাছে ফিরে আসতে পারে।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →