একজন চীনা কৃষক AI-উত্পাদিত আগাছা এবং কীটপতঙ্গ নিয়ন্ত্রণ রেসিপি অনুসরণ করার পরে প্রায় 25 একর তিলের ফসল ধ্বংস করেছেন, এটি একটি বাস্তব-বিশ্বের অনুস্মারক যে কৃত্রিম বুদ্ধিমত্তা কয়েক মাস ধরে নির্ভরযোগ্যভাবে সহায়ক হলেও আত্মবিশ্বাসের সাথে ভুল উত্তর দিতে পারে।

টমের হার্ডওয়্যার দ্বারা রিপোর্ট করা এবং 2026 সালের আগস্টের শুরুতে প্রযুক্তি আউটলেটগুলি জুড়ে তোলা এই ঘটনাটি উচ্চ-বাঁধা, অপরিবর্তনীয় সিদ্ধান্তের জন্য AI সিস্টেমে লোকেদের কতটা বিশ্বাস করা উচিত তা নিয়ে চলমান বিতর্কের একটি ফ্ল্যাশপয়েন্ট হয়ে উঠেছে। কৃষক একটি বর্ধিত সময়ের জন্য আগাছা এবং কীটনাশক সুপারিশের জন্য একজন এআই সহকারীর কাছে ফিরেছিলেন বলে জানা গেছে, এবং এই টুলটি ফসল নিশ্চিহ্ন করার রেসিপি তৈরি করার আগে কয়েক মাস সফল নির্দেশনা প্রদান করেছে। এই গল্পের আরও প্রসঙ্গের জন্য, আমাদের চলমান কৃত্রিম বুদ্ধিমত্তা আপডেট দেখুন।

সাফল্যের মাস, তারপর বিপর্যয়

যে বিষয়টিকে বিশেষভাবে অস্থির করে তোলে তা হল ব্যর্থতা সুস্পষ্ট ভুলের ইতিহাস অনুসরণ করেনি। টমস হার্ডওয়্যার রিপোর্ট অনুসারে, কয়েক মাস সফল পরামর্শের পর কৃষক এআই-এর কীটনাশক রেসিপিগুলিতে বিশ্বাস করেছিলেন। সত্যিকারের আত্মবিশ্বাস তৈরি করার জন্য সিস্টেমটি বারবার যথেষ্ট ভাল কাজ করেছে। তারপর একটি একক সুপারিশ এমন একটি ফলাফল প্রদান করে যা চাষী পূর্বাবস্থায় ফেরাতে পারেনি।

এটি ঠিক সেই প্যাটার্ন যা এআই সুরক্ষা গবেষকরা দীর্ঘকাল ধরে সতর্ক করেছেন। যে সরঞ্জামগুলি বেশিরভাগ সময় নির্ভরযোগ্যভাবে কাজ করে সেগুলি ব্যবহারকারীদের তাদের সতর্ক থাকতে, তাদের বিচার স্বয়ংক্রিয় করতে এবং যাচাইকরণ এড়িয়ে যেতে শেখায়। যখন অনিবার্য ত্রুটি আসে, এটি এমন একটি প্রেক্ষাপটে অবতরণ করে যেখানে মানুষ ইতিমধ্যেই সিদ্ধান্তটি সম্পূর্ণরূপে আউটসোর্স করেছে।

হ্যালুসিনেশন সমস্যা শারীরিক জগতের সাথে মিলিত হয়

বড় ভাষার মডেল ডোজ, রসায়ন বা কৃষিবিদ্যা বোঝে না। তারা তাদের প্রশিক্ষণ তথ্যের নিদর্শনগুলির উপর ভিত্তি করে যুক্তিযুক্ত-শব্দযুক্ত পাঠ্যের ভবিষ্যদ্বাণী করে। বেশিরভাগ সময়, সাধারণ প্রশ্নের জন্য, সেই প্যাটার্নগুলি দরকারী উত্তর তৈরি করে। কিন্তু মডেলগুলির একটি আত্মবিশ্বাসের সাথে বলা কিন্তু রাসায়নিকভাবে ক্ষতিকারক একটি থেকে সঠিক কীটনাশক তরলীকরণের পার্থক্য করার কোন ব্যবস্থা নেই, এবং তারা সুখের সাথে উভয়ের জন্য বিশদ, প্রামাণিক-শব্দযুক্ত নির্দেশাবলী তৈরি করবে।

মুভি সুপারিশ বা ইমেল ড্রাফ্ট সম্পর্কে একটি চ্যাটে, একটি হ্যালুসিনেড বিশদ একটি ছোটখাট বিরক্তিকর। কৃষিতে, যেখানে ভেষজনাশক বা কীটনাশকের ভুল ঘনত্ব দিনের মধ্যে একটি সম্পূর্ণ ক্ষেতকে মেরে ফেলতে পারে, একই ব্যর্থতার মোড হয়ে ওঠে জীবিকা-ধ্বংসকারী ঘটনা। 25-একর তিলের ক্ষয় একটি AI এর আত্মবিশ্বাস এবং এর দক্ষতার মধ্যে ব্যবধান যখন একটি অপরিবর্তনীয় শারীরিক ক্রিয়ার সাথে সংঘর্ষ হয় তখন কী ঘটে তার একটি সুনির্দিষ্ট চিত্র।

রিয়েল-ওয়ার্ল্ড এআই ক্ষতির একটি বিস্তৃত প্যাটার্ন

কেসটি ঘটনাগুলির একটি ক্রমবর্ধমান ক্যাটালগের সাথে খাপ খায় যেখানে ব্যবহারকারীরা স্বাধীন যাচাই ছাড়াই এটির উপর কাজ করলে AI-উত্পাদিত পরামর্শের কারণে বাস্তব ক্ষতি হয়। বিষাক্ত উপাদান সম্বলিত AI-প্রস্তাবিত রেসিপি থেকে শুরু করে আইনী চ্যাটবট যা অস্তিত্বহীন কেস আইন উদ্ভাবন করে, ব্যর্থতার মোডটি সামঞ্জস্যপূর্ণ: সিস্টেমটি নিশ্চিত বলে মনে হয়, ব্যবহারকারী এটিকে বিশ্বাস করে এবং এর পরিণতি বাস্তব বিশ্বে দেখা যায়।

চাষের ক্ষেত্রে যা পার্থক্য করে তা হল স্কেল এবং বিশ্বাসের উৎস। শস্য-সুরক্ষার সিদ্ধান্তের জন্য একটি AI টুলের উপর নির্ভরশীল একজন ক্ষুদ্র ধারক প্রতিটি সুপারিশের উপর বাজি ধরছেন, এবং পূর্বের সাফল্যের মাসগুলি এক ধরণের প্রমাণ হিসাবে কাজ করে যা মিথ্যা আত্মবিশ্বাসে জমা হয়। খারাপ পরামর্শ আসার সময়, যাচাইকরণের অভ্যাস ইতিমধ্যেই ক্ষয়ে গেছে।

এআই সহকারীর বয়সের জন্য পাঠ

পর্বটি স্পষ্ট পাঠ বহন করে কারণ এআই সহকারীরা আরও বেশি ফলপ্রসূ কর্মপ্রবাহের মধ্যে এম্বেড করা হয়েছে। প্রথমত, গড়ে নির্ভরযোগ্যতা প্রতিটি ক্ষেত্রে নির্ভরযোগ্যতা নয়; একটি সিস্টেম যা সঠিক 95% সময়, সংজ্ঞা অনুসারে, নিয়মিতভাবে ভুল, এবং যে কোনও একক ব্যর্থতা বিপর্যয়কর হতে পারে যদি ক্রিয়াটি অপরিবর্তনীয় হয়। দ্বিতীয়ত, মানুষের তত্ত্বাবধান একটি আনুষ্ঠানিকতা নয় যে একবার একটি সরঞ্জাম কার্যকর প্রমাণিত হলে শিথিল করা হয়, তবে একটি শৃঙ্খলা যা অবশ্যই বজায় রাখতে হবে কারণ দরকারী সরঞ্জামগুলি আমাদের প্রতিরক্ষা হ্রাস করে।

তৃতীয়ত, বোঝা শুধুমাত্র ব্যবহারকারীদের উপর পড়ে না। কৃষি, ওষুধ এবং অন্যান্য উচ্চ-স্টেকের ডোমেনের জন্য AI সরঞ্জামগুলি তৈরিকারী বিকাশকারীরা যে জেনারেটিভ মডেলগুলি, যেগুলি মৌলিকভাবে ভবিষ্যদ্বাণী ইঞ্জিন, সেগুলিকে প্রিক্রিপ্টিভ পরামর্শ দেওয়ার অনুমতি দেওয়া উচিত কিনা তা নিয়ে কঠিন প্রশ্নের সম্মুখীন হতে হয় যেগুলিকে রেললাইন, উদ্ধৃতি, বা বাধ্যতামূলক দাবিত্যাগ ছাড়াই কোনও যোগ্য মানুষের কাছে চূড়ান্ত সিদ্ধান্ত ফেরত পাঠানো হয়৷

বিশ্বাস করুন, কিন্তু যাচাই করুন

আপাতত, সহজতম টেকওয়েও সবচেয়ে পুরনো। AI দরকারী, কিন্তু আপনার কখনই অন্ধভাবে বিশ্বাস করা উচিত নয়। চীনা কৃষকের হারিয়ে যাওয়া তিল ফসল একটি ব্যয়বহুল অনুস্মারক যে একটি আত্মবিশ্বাসী শব্দ সুপারিশ একটি সঠিক একটি হিসাবে একই জিনিস নয়, এবং পার্থক্য খুঁজে বের করার খরচ একর মধ্যে পরিমাপ করা যেতে পারে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →