एका चीनी शेतकऱ्याने AI-व्युत्पन्न तण आणि कीटक नियंत्रण रेसिपीचे पालन केल्यावर अंदाजे 25 एकर तिळाची पिके नष्ट केली, ही एक वास्तविक-जागतिक स्मरणपत्र आहे की कृत्रिम बुद्धिमत्ता विश्वासार्हपणे काही महिने मदत करत असताना देखील चुकीचे उत्तर देऊ शकते.

टॉमच्या हार्डवेअरने नोंदवलेली आणि ऑगस्ट 2026 च्या सुरुवातीला टेक्नॉलॉजी आउटलेट्समध्ये घेतलेली ही घटना, उच्च-स्टेक्स, अपरिवर्तनीय निर्णयांसाठी एआय सिस्टमवर लोकांनी किती विश्वास ठेवला पाहिजे यावर सुरू असलेल्या वादविवादात एक फ्लॅश पॉइंट बनला आहे. शेतकरी विस्तारित कालावधीत तण आणि कीटकनाशकांच्या शिफारशींसाठी AI सहाय्यकाकडे वळला होता आणि या उपकरणाने पीक नष्ट करणारी कृती तयार करण्यापूर्वी अनेक महिने यशस्वी मार्गदर्शन केले होते. या कथेच्या अधिक संदर्भासाठी, आमचे चालू असलेले आर्टिफिशियल इंटेलिजन्स अपडेट पहा.

यशाचे महिने, मग आपत्ती

या प्रकरणाला विशेषतः अस्वस्थ करणारी गोष्ट अशी आहे की अपयशाने स्पष्ट चुकांच्या इतिहासाचे पालन केले नाही. टॉम्स हार्डवेअरच्या अहवालानुसार, शेतकऱ्याने अनेक महिन्यांच्या यशस्वी सल्ल्यानंतर एआयच्या कीटकनाशकांच्या पाककृतींवर विश्वास ठेवला होता. खरा आत्मविश्वास निर्माण करण्यासाठी सिस्टमने पुरेसे चांगले काम केले होते, वारंवार. मग एका शिफारसीमुळे उत्पादक पूर्ववत करू शकला नाही.

एआय सुरक्षा संशोधकांनी बर्याच काळापासून चेतावणी दिलेली ही पद्धत आहे. बहुतेक वेळा विश्वसनीयरित्या कार्य करणारी साधने वापरकर्त्यांना त्यांचे सावधगिरी बाळगण्यास, त्यांचे निर्णय स्वयंचलित करण्यास आणि सत्यापन वगळण्यास शिकवतात. जेव्हा अपरिहार्य त्रुटी येते, तेव्हा ती अशा संदर्भात येते जिथे मानवाने आधीच निर्णय पूर्णपणे आउटसोर्स केला आहे.

हेलुसिनेशन समस्या भौतिक जगाला भेटते

मोठ्या भाषेतील मॉडेल्सना डोसिंग, रसायनशास्त्र किंवा कृषीशास्त्र समजत नाही. ते त्यांच्या प्रशिक्षण डेटामधील नमुन्यांच्या आधारे प्रशंसनीय-ध्वनी मजकूराचा अंदाज लावतात. बहुतेक वेळा, सामान्य प्रश्नांसाठी, ते नमुने उपयुक्त उत्तरे देतात. परंतु मॉडेल्समध्ये आत्मविश्वासाने सांगितलेल्या परंतु रासायनिकदृष्ट्या हानीकारक असलेल्या योग्य कीटकनाशकांमध्ये फरक करण्याची कोणतीही यंत्रणा नाही आणि ते दोन्हीपैकी एकासाठी तपशीलवार, अधिकृत-आवाजदायक सूचना आनंदाने तयार करतील.

मूव्ही शिफारशी किंवा ईमेल ड्राफ्ट्सबद्दलच्या चॅटमध्ये, एक भ्रमित तपशील हा किरकोळ त्रासदायक आहे. शेतीमध्ये, जेथे तणनाशक किंवा कीटकनाशकांच्या चुकीच्या एकाग्रतेमुळे काही दिवसांत संपूर्ण शेत नष्ट होऊ शकते, त्याच अपयशाची पद्धत एक उपजीविका नष्ट करणारी घटना बनते. AI चा आत्मविश्वास आणि त्याची क्षमता यांच्यातील अंतर अपरिवर्तनीय शारीरिक क्रियेला आदळल्यावर काय होते याचे 25 एकरातील तिळाचे नुकसान हे एक ठोस उदाहरण आहे.

रिअल-वर्ल्ड एआय हानीचा एक विस्तृत नमुना

हे प्रकरण घटनांच्या वाढत्या कॅटलॉगशी जुळते ज्यामध्ये वापरकर्त्यांनी स्वतंत्र पडताळणीशिवाय त्यावर कृती केली तेव्हा AI-व्युत्पन्न सल्ल्याने मूर्त नुकसान झाले. विषारी घटक असलेल्या AI-सुचवलेल्या पाककृतींपासून ते अस्तित्वात नसलेल्या केस कायद्याचा शोध लावणाऱ्या कायदेशीर चॅटबॉट्सपर्यंत, अयशस्वी मोड सुसंगत आहे: सिस्टम निश्चित वाटते, वापरकर्त्याचा त्यावर विश्वास आहे आणि त्याचे परिणाम वास्तविक जगात दिसून येतात.

शेतीच्या बाबतीत काय वेगळे आहे ते प्रमाण आणि विश्वासाचे स्रोत आहे. पीक-संरक्षणाच्या निर्णयांसाठी एआय टूलवर अवलंबून असलेला एक छोटासा धारक प्रत्येक शिफारशीवर पैज लावत आहे आणि पूर्वीच्या यशाचे महिने खोट्या आत्मविश्वासात जमा झालेल्या पुराव्याच्या रूपात कार्य करतात. वाईट सल्ला येईपर्यंत, पडताळणीची सवय आधीच नाहीशी झाली होती.

AI सहाय्यकांच्या वयासाठी धडे

एपिसोडमध्ये स्पष्ट धडे आहेत कारण AI सहाय्यक अधिक परिणामकारक वर्कफ्लोमध्ये एम्बेड केलेले आहेत. प्रथम, सरासरी विश्वासार्हता ही प्रत्येक प्रसंगात विश्वासार्हता नसते; 95% वेळेस योग्य असलेली प्रणाली, व्याख्येनुसार, नियमितपणे चुकीची असते आणि कोणतीही एकल अपयश ही क्रिया अपरिवर्तनीय असल्यास आपत्तीजनक असू शकते. दुसरे, साधन उपयोगी ठरले की मानवी देखरेख ही एक औपचारिकता नाही, तर ती एक शिस्त आहे जी तंतोतंत पाळली पाहिजे कारण उपयुक्त साधने आपले संरक्षण कमी करतात.

तिसरे, ओझे केवळ वापरकर्त्यांवर पडत नाही. कृषी, औषध आणि इतर उच्च-स्टेक डोमेनसाठी AI साधने तयार करणाऱ्या विकसकांना जनरेटिव्ह मॉडेल्स, जे मूलभूतपणे भविष्य सांगणारे इंजिन आहेत, त्यांना रेलिंग, उद्धृत किंवा अनिवार्य अस्वीकरणांशिवाय प्रिस्क्रिप्टिव्ह सल्ल्याची परवानगी द्यावी की नाही याबद्दल कठोर प्रश्नांचा सामना करावा लागतो.

विश्वास ठेवा, परंतु सत्यापित करा

आत्तासाठी, सर्वात सोपा टेकवे देखील सर्वात जुना आहे. एआय उपयुक्त आहे, परंतु तुम्ही त्यावर कधीही आंधळेपणाने विश्वास ठेवू नये. चिनी शेतकऱ्याचे हरवलेले तीळ पीक हे एक महाग स्मरणपत्र आहे की आत्मविश्वासाने शब्दबद्ध केलेली शिफारस ही बरोबर नाही आणि फरक शोधण्याची किंमत एकरमध्ये मोजली जाऊ शकते.

---

एआयच्या पुढे राहा

नवीनतम AI बातम्या, विश्लेषण आणि यश मिळवा — सर्व एकाच ठिकाणी.

अधिक AI बातम्या वाचा →