भाषा मॉडेलिंग (COLM) वरील परिषदेत या आठवड्यात सादर केलेल्या समवयस्क-पुनरावलोकन केलेल्या अभ्यासानुसार, एआय टूलवर अवलंबुन फक्त दहा मिनिटे खर्च केल्याने एखाद्या व्यक्तीच्या कठीण कामांवर लक्ष केंद्रित करण्याची आणि टिकून राहण्याची क्षमता लक्षणीयरीत्या कमी होते.

"AI असिस्टन्स रिड्यूस पर्सिस्टन्स अँड हर्ट्स इंडिपेंडंट परफॉर्मन्स" या शीर्षकाचा पेपर लेखक आणि संशोधक ब्रायन ख्रिश्चन, UC बर्कले सेंटर फॉर ह्यूमन-कंपॅटिबल AI मधील रिसर्च फेलो, कार्नेगी मेलॉन युनिव्हर्सिटी, मॅसॅच्युसेट्स इन्स्टिट्यूट ऑफ टेक्नॉलॉजी, UCford युनिव्हर्सिटी आणि UCford विद्यापीठातील विद्वानांसह सह-लेखक आहे. कामाचा पूर्वीचा मसुदा वसंत ऋतूमध्ये प्रसारित झाला होता, परंतु अद्यतनित, पीअर-पुनरावलोकन आवृत्ती या आठवड्यात परिषदेत सादर केली गेली आणि यूसी बर्कलेच्या संशोधन कार्यालयाने 9 ऑक्टोबर रोजी तपशीलवार सारांश प्रकाशित केला. For more context on this story, see our ongoing latest AI developments.

संशोधकांना काय आढळले

लोकांचे लक्ष आणि चिकाटी किती लवकर कमी झाली हे मोजण्यासाठी, संघाने ऑनलाइन भरती केलेल्या 1,222 सहभागींसह यादृच्छिक नियंत्रित चाचण्यांची मालिका चालवली.

पहिल्या प्रयोगात, 354 सहभागींना 15 मूलभूत अपूर्णांक समस्या सोडवण्यास सांगितले होते. एका गटाने मदतीशिवाय काम केले, तर दुसऱ्या गटाकडे ChatGPT उघडे होते आणि ते मदतीसाठी वापरण्यास मोकळे होते — किंवा अगदी थेट उत्तरे विचारण्यासाठी. AI प्रवेशासह गट अधिक अचूकपणे सुरू झाला. त्यानंतर, 12 समस्यांनंतर, संशोधकांनी ते साधन काढून घेतले. जवळजवळ लगेच, त्या गटातील अचूकता कोलमडली.

667 सहभागींच्या दुसऱ्या, मोठ्या गटासह नमुना पुनरावृत्ती झाला. जेव्हा AI सहाय्य मागे घेण्यात आले तेव्हा, AI वापरकर्त्यांना चुकीची उत्तरे मिळाली किंवा पूर्णपणे सोडून दिली, तर ज्या गटाने विनाअनुदानित काम केले होते ते कार्य थांबले आणि अधिक यशस्वीरित्या पूर्ण केले.

201 सहभागींसह तिसऱ्या प्रयोगाने एसएटी वाचन आकलन प्रॉम्प्टसाठी गणिताच्या समस्या बदलल्या. परिणाम पूर्वीच्या चाचण्यांप्रमाणेच होता: जेव्हा साधन नाहीसे झाले, तेव्हा चिकाटी आणि अचूकता आली.

"आपण जवळजवळ एक स्पष्ट कथा विचारू शकत नाही," ख्रिश्चनने यूसी बर्कलेने प्रकाशित केलेल्या टिप्पण्यांमध्ये सांगितले.

झटपट उत्तरांची 'मानवी किंमत'

संशोधकांचा असा युक्तिवाद आहे की समस्या ही एआयची नसून ती कोणत्या प्रकारची मदत करते. जेव्हा एखादी प्रणाली काही सेकंदात उत्तरे तयार करते, तेव्हा वापरकर्त्यांना त्या गतीची सवय होते आणि कोणतीही हळुवार गोष्ट अकार्यक्षम वाटू लागते. टूलवर विसंबून राहण्यामुळे संघ ज्याला "उत्पादक संघर्ष" म्हणतो ते देखील काढून टाकते — प्रयत्नशील प्रतिबद्धता जी लोकांना त्यांची स्वतःची शक्ती आणि स्वारस्ये शोधण्यात मदत करते.

"आम्ही या प्रणाली उपयुक्त होण्यासाठी बनवल्या आहेत, परंतु ते आम्हाला खरोखर मदत करत आहेत अशा प्रकारे आम्हाला मदत करत आहेत?" ख्रिश्चन म्हणाले. "आम्ही हे दाखवून दिले की, उपरोधिकपणे, ते बऱ्याचदा अशा प्रकारे मदत करत आहेत जे असहाय्य आहेत."

ख्रिश्चन, ज्यांचे 2020 चे पुस्तक "द अलाइनमेंट प्रॉब्लेम" हे एआय सुरक्षेवरील अग्रगण्य प्रवेशयोग्य कामांपैकी एक म्हणून ओळखले जाते, असे म्हटले आहे की शोध अनेक लोकांच्या अंतर्ज्ञानाचा पुरावा पुरवतो. "हा एक धक्कादायक शोध आहे, परंतु एक प्रकारे तो एका कथेसाठी दारूगोळा पुरवतो जो आपल्यापैकी बऱ्याच जणांना आपल्या आतड्यात जाणवतो," तो म्हणाला. "मी पण अनुभवतो."

हे अपूर्णांकांच्या पलीकडे का महत्त्वाचे आहे

शिक्षणातील संज्ञानात्मक ऑफलोडिंगबद्दल वाढत्या चिंतेमध्ये हा अभ्यास सुरू झाला आहे. बर्कलेच्या अहवालानुसार, फ्रंटियर एआय कंपन्यांनी स्वतः कबूल केले आहे की चॅटबॉट्सवर कार्ये ऑफलोड केल्याने वापरकर्त्याची एखाद्या विषयाची मूलभूत समज कमी होऊ शकते. ख्रिश्चन एक संभाव्य निराकरण सुचवितो: AI प्रतिसाद अधिक बोधप्रद असण्यासाठी डीफॉल्ट असू शकतात - उत्तर मशीन बदलण्याऐवजी मार्गदर्शन करणाऱ्या ट्यूटरसारखे वागणे.

ते म्हणाले, "आम्हाला अशा भविष्यासाठी काम करणे आवश्यक आहे ज्यामध्ये मानवी क्षमता शक्य तितक्या वाढविण्याऐवजी वाढवल्या जातील."

त्याची चिंता व्यावसायिक संशोधनापर्यंत आहे. ख्रिश्चन चिंतित आहेत की विज्ञानातील AI साधनांवर अत्याधिक अवलंबनामुळे एक चांगला शास्त्रज्ञ बनवणाऱ्या सवयी नष्ट होऊ शकतात: डेटाच्या जवळ राहणे, स्वतःला सामग्रीमध्ये बुडवणे आणि संघासोबत काम करणे. दहा जणांचा एक संशोधन गट जो एका यशामागील कल्पना निर्माण करतो, तो दोन किंवा तीन संशोधक आणि चॅटबॉट यांच्याकडे संकुचित होऊ शकतो.

"ही अपूर्णांक आणि SAT समस्यांबद्दलची कथा नाही," ख्रिश्चन म्हणाला. "हे असे काहीतरी आहे जे मानवी ज्ञान आणि मानवी कौशल्ये वरपासून खालपर्यंत आणि ग्रेड-शालेय विद्यार्थ्यांपासून ते जगातील आघाडीच्या तज्ञांपर्यंत घडत आहे."

एक अभ्यास ज्याने मुख्य प्रवाहात प्रवेश केला

सुरुवातीच्या निष्कर्षांनी WIRED आणि सायकॉलॉजी टुडे कडून कव्हरेज काढले जेव्हा प्राथमिक मसुदा वसंत ऋतूमध्ये दिसला आणि न्यूयॉर्क टाइम्सने गेल्या आठवड्यात पेपर आणि तत्सम संशोधनाबद्दल एक कथा प्रकाशित केली, यूसी बर्कलेनुसार. COLM येथे पीअर-पुनरावलोकन केलेले सादरीकरण - भाषा मॉडेलिंग संशोधनासाठी फील्डच्या मुख्य ठिकाणांपैकी एक - आता परिणामाला एक औपचारिक शिक्का देते.

शिक्षक आणि नियोक्ते यांच्यासाठी, संदेश अस्वस्थ आहे परंतु ठोस आहे: झटपट AI उत्तरांच्या अगदी लहान प्रदर्शनामुळे उत्तरे उपलब्ध नसताना लोक कसे वागतात हे मोजमापाने बदलते. आणि AI कंपन्यांसाठी, अभ्यासामुळे अशा सिस्टीम डिझाइन करण्यासाठी दबाव वाढतो जे ते जितक्या वेळा सोडवतात तितक्या वेळा शिकवतात.

ख्रिश्चन, त्याच्या भागासाठी, त्याच्या डेस्कवर एक नोटबुक ठेवतो आणि दररोज त्यात लिहितो. त्याने बर्कलेला सांगितलेला सराव त्याला ग्राउंड ठेवतो — आणि त्याची स्वतःची विद्वत्ता धार कमी होण्यापासून दूर ठेवतो.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →