कॉन्फ्रेंस ऑन लैंग्वेज मॉडलिंग (सीओएलएम) में इस सप्ताह प्रस्तुत एक सहकर्मी-समीक्षा अध्ययन के अनुसार, एआई टूल पर भरोसा करते हुए केवल दस मिनट खर्च करने से व्यक्ति की कठिन कार्यों पर ध्यान केंद्रित करने और उस पर बने रहने की क्षमता में काफी कमी आती है।
"एआई असिस्टेंस रिड्यूस्स पर्सिस्टेंस एंड हर्ट्स इंडिपेंडेंट परफॉर्मेंस" शीर्षक वाला पेपर, लेखक और शोधकर्ता ब्रायन क्रिश्चियन द्वारा सह-लिखित था, जो यूसी बर्कले सेंटर फॉर ह्यूमन-कम्पैटिबल एआई के एक शोध साथी हैं, उन्होंने कार्नेगी मेलन विश्वविद्यालय, मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी, ऑक्सफोर्ड विश्वविद्यालय और यूसीएलए के विद्वानों के साथ मिलकर लिखा है। काम का एक पुराना मसौदा वसंत ऋतु में प्रसारित किया गया था, लेकिन अद्यतन, सहकर्मी-समीक्षित संस्करण इस सप्ताह सम्मेलन में प्रस्तुत किया गया था, और यूसी बर्कले के शोध कार्यालय ने 9 अक्टूबर को एक विस्तृत सारांश प्रकाशित किया था। For more context on this story, see our ongoing breaking AI news.
शोधकर्ताओं ने क्या पाया
यह मापने के लिए कि लोगों का ध्यान और दृढ़ता कितनी तेजी से कम हुई, टीम ने 1,222 प्रतिभागियों को ऑनलाइन भर्ती करके यादृच्छिक नियंत्रित परीक्षणों की एक श्रृंखला चलाई।
पहले प्रयोग में, 354 प्रतिभागियों को 15 बुनियादी भिन्न समस्याओं को हल करने के लिए कहा गया था। एक समूह ने बिना मदद के काम किया, जबकि दूसरे समूह के पास चैटजीपीटी खुला था और वह सहायता के लिए इसका उपयोग करने के लिए स्वतंत्र था - या यहां तक कि सीधे उत्तर मांगने के लिए भी। एआई पहुंच वाले समूह की शुरुआत अधिक सटीक हुई। फिर, 12 समस्याओं के बाद, शोधकर्ताओं ने उपकरण को हटा लिया। लगभग तुरंत ही, उस समूह में सटीकता ध्वस्त हो गई।
यह पैटर्न 667 प्रतिभागियों के दूसरे, बड़े समूह के साथ दोहराया गया। जब एआई सहायता वापस ले ली गई, तो एआई उपयोगकर्ताओं ने गलत उत्तर दिए या पूरी तरह से हार मान ली, जबकि जिस समूह ने बिना सहायता के काम किया था, वह कार्य में लगा रहा और अधिक सफलतापूर्वक समाप्त हुआ।
201 प्रतिभागियों के साथ एक तीसरे प्रयोग ने गणित की समस्याओं को SAT पढ़ने की समझ के संकेत के लिए बदल दिया। परिणाम ने पहले के परीक्षणों को दोहराया: जब उपकरण गायब हो गया, तो दृढ़ता और सटीकता भी गायब हो गई।
यूसी बर्कले द्वारा प्रकाशित टिप्पणियों में क्रिश्चियन ने कहा, "आप लगभग एक स्पष्ट कहानी की मांग नहीं कर सकते।"
त्वरित उत्तरों की 'मानवीय लागत'
शोधकर्ताओं का तर्क है कि समस्या एआई में ही नहीं है, बल्कि जिस तरह की मदद से यह चूक करता है, वह समस्या है। जब कोई सिस्टम सेकंडों में उत्तर देता है, तो उपयोगकर्ता उस गति के आदी हो जाते हैं, और धीमी गति वाली कोई भी चीज़ अक्षम लगने लगती है। टूल पर भरोसा करने से वह चीज़ भी दूर हो जाती है जिसे टीम "उत्पादक संघर्ष" कहती है - वह प्रयासपूर्ण जुड़ाव जो लोगों को अपनी ताकत और रुचियों को खोजने में मदद करता है।
"हमने इन प्रणालियों को मददगार होने के लिए बनाया है, लेकिन क्या वे हमारे लिए उस तरह से मददगार हो रहे हैं जिससे वास्तव में हमें मदद मिल रही है?" ईसाई ने कहा. "विडंबना यह है कि हमने दिखाया कि वे अक्सर उन तरीकों से हमारी मदद कर रहे हैं जो एक तरह से अनुपयोगी हैं।"
क्रिश्चियन, जिनकी 2020 की पुस्तक "द एलाइनमेंट प्रॉब्लम" को व्यापक रूप से एआई सुरक्षा पर अग्रणी सुलभ कार्यों में से एक माना जाता है, ने कहा कि यह खोज कई लोगों के अंतर्ज्ञान के लिए सबूत प्रदान करती है। उन्होंने कहा, "यह एक आश्चर्यजनक खोज है, लेकिन एक तरह से यह एक कहानी के लिए गोला-बारूद की आपूर्ति करती है जिसे हममें से बहुत से लोग अपने दिल में महसूस करते हैं।" "मुझे भी इसका अनुभव है।"
यह भिन्नों से परे क्यों मायने रखता है
शिक्षा में संज्ञानात्मक उतार-चढ़ाव के बारे में बढ़ती चिंता के बीच यह अध्ययन शुरू हुआ। बर्कले की रिपोर्ट के अनुसार, फ्रंटियर एआई कंपनियों ने खुद स्वीकार किया है कि चैटबॉट्स पर कार्यों को अपलोड करने से उपयोगकर्ता की किसी विषय की आधारभूत समझ कम हो सकती है। क्रिस्चियन एक संभावित समाधान का सुझाव देता है: एआई प्रतिक्रियाएं डिफ़ॉल्ट रूप से अधिक शिक्षाप्रद हो सकती हैं - एक ट्यूटर की तरह व्यवहार करना जो एक उत्तर मशीन की जगह मार्गदर्शन करता है जो प्रतिस्थापित करता है।
उन्होंने कहा, "हमें ऐसे भविष्य की दिशा में काम करने की जरूरत है जिसमें मानवीय क्षमताओं को प्रतिस्थापित करने के बजाय जितना संभव हो बढ़ाया जाए।"
उनकी चिंता पेशेवर अनुसंधान तक फैली हुई है। क्रिश्चियन को चिंता है कि विज्ञान में एआई उपकरणों पर अत्यधिक निर्भरता उन आदतों को खत्म कर सकती है जो एक अच्छा वैज्ञानिक बनाती हैं: डेटा के करीब रहना, खुद को सामग्री में डुबो देना और एक टीम के साथ मिलकर काम करना। उन्होंने कहा, दस लोगों का एक शोध समूह जो किसी सफलता के पीछे के विचारों को उत्पन्न करता है, वह दो या तीन शोधकर्ताओं और एक चैटबॉट तक सीमित हो सकता है।
क्रिश्चियन ने कहा, "यह भिन्नों और एसएटी समस्याओं के बारे में कहानी नहीं है।" "यह कुछ ऐसा है जो ऊपर से नीचे तक और ग्रेड-स्कूल के छात्रों से लेकर दुनिया के अग्रणी विशेषज्ञों तक मानव ज्ञान और मानव विशेषज्ञता के साथ हो रहा है।"
एक अध्ययन जो मुख्यधारा में शामिल हुआ
शुरुआती निष्कर्षों को WIRED और साइकोलॉजी टुडे से कवरेज मिला जब प्रारंभिक मसौदा वसंत ऋतु में सामने आया, और यूसी बर्कले के अनुसार, न्यूयॉर्क टाइम्स ने पिछले हफ्ते पेपर और इसी तरह के शोध के बारे में एक कहानी प्रकाशित की। COLM में सहकर्मी-समीक्षित प्रस्तुति - भाषा मॉडलिंग अनुसंधान के लिए क्षेत्र के मुख्य स्थानों में से एक - अब परिणाम को औपचारिक मुहर देती है।
शिक्षकों और नियोक्ताओं के लिए, संदेश असुविधाजनक लेकिन ठोस है: त्वरित एआई उत्तरों का अल्प अनुभव भी मापनीय रूप से बदल देता है कि जब उत्तर उपलब्ध नहीं होते हैं तो लोग कैसे व्यवहार करते हैं। और एआई कंपनियों के लिए, अध्ययन उन प्रणालियों को डिजाइन करने के लिए बढ़ते दबाव को जोड़ता है जो उतनी ही बार सिखाती हैं जितनी बार वे हल करती हैं।
दूसरी ओर, क्रिश्चियन अपने डेस्क पर एक नोटबुक रखता है और हर दिन उसमें लिखता है। उन्होंने बर्कले को बताया कि यह अभ्यास उन्हें जमीन से जुड़े रखता है - और उनकी अपनी विद्वता को कम होने से बचाता है।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
