न्यू मैक्सिको के सुप्रीम कोर्ट ने उन गवाहों के आधार पर हत्या की अपील दायर करने के लिए एक वकील को मंजूरी दे दी है जो कभी अस्तित्व में ही नहीं थे - चैटजीपीटी द्वारा थोक में गढ़ा गया - अमेरिकी न्याय प्रणाली के दिल तक पहुंचने वाले कृत्रिम बुद्धिमत्ता "मतिभ्रम" के अब तक के सबसे स्पष्ट उदाहरणों में से एक।

रॉयटर्स की एक रिपोर्ट के अनुसार, राज्य की सर्वोच्च अदालत ने सांता फ़े के वकील स्टीफन आरोन्स पर 5,000 डॉलर का जुर्माना लगाया और "अपने एआई-जनरेटेड ब्रीफ में तथ्यात्मक दावों और कानूनी अधिकार को सत्यापित करने में विफल रहने" के लिए उन्हें अवमानना ​​​​में रखा। अपने मुवक्किल की हत्या की सजा के खिलाफ अपील के हिस्से के रूप में प्रस्तुत संक्षिप्त विवरण में "पूरी तरह से मनगढ़ंत गवाहों की झूठी गवाही शामिल थी," साथ ही शूटर के कपड़ों और उपस्थिति के बारे में झूठे दावे भी शामिल थे। इस कहानी पर अधिक संदर्भ के लिए, हमारी चल रही ब्रेकिंग एआई न्यूज़ देखें।

न्यायालय ने क्या पाया

अदालत की फाइलिंग में छोटी-मोटी अशुद्धियों का वर्णन नहीं किया गया। इसमें एक अपीलीय दस्तावेज़ का वर्णन किया गया है, जिसने लोगों को हवा में ही मंत्रमुग्ध कर दिया: उन गवाहों की गवाही का श्रेय दिया गया जो मौजूद नहीं हैं, और शूटर ने क्या पहना था और शूटर कैसा दिखता था, इसके बारे में पुलिस के बयानों का आविष्कार किया - बिल्कुल उसी तरह के तथ्यात्मक विवरण जो एक हत्या की सजा को चालू कर सकते हैं।

द वर्ज के अनुसार, जिसने अदालत में दाखिल होने पर रिपोर्ट दी थी, मंजूरी इसलिए लगाई गई क्योंकि एरॉन इसे अदालत में जमा करने से पहले "अपने एआई-जनरेटेड ब्रीफ में तथ्यात्मक दावों और कानूनी अधिकार को सत्यापित करने" में विफल रहे। दूसरे शब्दों में, समस्या यह नहीं थी कि एक वकील ने ड्राफ्टिंग में मदद के लिए एआई टूल का इस्तेमाल किया था। ऐसा था कि वकील ने वास्तविक परीक्षण रिकॉर्ड के खिलाफ एक भी मनगढ़ंत दावे की जांच किए बिना आउटपुट दायर किया।

"वकील, क्या आप समाचार देखते हैं?"

मामले की असाधारण प्रकृति अगस्त की सुनवाई में सामने आई, जहां एरोन ने स्वीकार किया कि उसने चैटजीपीटी का उपयोग किया था और अदालत को बताया कि उसे उम्मीद थी कि चैटबॉट मुकदमे का "बुलेटप्रूफ सारांश" तैयार करेगा। उस उम्मीद पर न्यू मैक्सिको सुप्रीम कोर्ट के न्यायाधीश सी. शैनन बेकन की ओर से तीखी प्रतिक्रिया आई।

"वकील, क्या आप समाचार देखते हैं? क्या आप रेडियो सुनते हैं? क्या आप दुनिया में क्या चल रहा है इसके बारे में कुछ पढ़ते हैं?" रॉयटर्स के अनुसार, बेकन ने पूछा। "क्योंकि एआई मतिभ्रम पर भरोसा करने वाले वकीलों की समस्या हर दिन एक ऊपर की कहानी है।"

न्यायाधीश की फटकार ने इस हद तक पकड़ लिया कि किस हद तक एआई-निर्मित उद्धरण और गवाही एक विशिष्ट तकनीकी समस्या से मुख्यधारा की पेशेवर देनदारी में बदल गई है - एक ऐसी समस्या जिसके बारे में न्यायाधीश अब मानते हैं कि प्रत्येक अभ्यास करने वाले वकील को इसके बारे में पता होना चाहिए।

एआई प्रतिबंधों की श्रृंखला में नवीनतम

अनियंत्रित एआई उपयोग के लिए वकीलों को दंडित करने वाली अदालतों की तेजी से बढ़ती सूची में न्यू मैक्सिको का मामला नवीनतम है। पिछले साल, एक न्यायाधीश ने "कई झूठे, गलत और भ्रामक कानूनी उद्धरण और उद्धरण" प्रस्तुत करने के लिए दो कानूनी फर्मों को फटकार लगाई थी, जबकि मायपिलो के संस्थापक माइक लिंडेल का प्रतिनिधित्व करने वाले वकीलों पर भी अदालत में दाखिल याचिका में एआई-जनित गलत उद्धरण और नकली उद्धरण शामिल करने के लिए जुर्माना लगाया गया था, द वर्ज ने नोट किया।

जो चीज़ न्यू मैक्सिको की मंजूरी को अलग करती है वह वह सामग्री है जो तैयार की गई थी। पहले के अधिकांश मामलों में आविष्कृत कानूनी उद्धरण शामिल थे - नकली मिसालें, वास्तविक मामलों से फर्जी उद्धरण। यहां, मनगढ़ंत बातें स्वयं तथ्यों पर आधारित थीं: गवाह, गवाही, और एक आपराधिक अपील में भौतिक साक्ष्य का विवरण। यह अंतर मायने रखता है, क्योंकि हत्या के मामले में तथ्य गढ़ना उस मूल बात पर हमला करता है जिसे बचाने के लिए अपीलीय समीक्षा मौजूद है।

प्रवृत्ति रेखा अचूक है. जैसा कि द वर्ज ने देखा, अपने काम में एआई टूल का उपयोग करने वाले वकीलों की संख्या बढ़ रही है, ऐसे उदाहरण भी हैं जिनमें अदालत को ऐसे उद्धरण मिलते हैं जो एआई द्वारा गढ़े गए - या मतिभ्रम - हैं। जिसे एक बार शर्मनाक निरीक्षण के रूप में माना जाता था, उसे अब पेशेवर क्षमता की विफलता के रूप में दंडित किया जाता है, जुर्माना, अवमानना ​​​​फैसले और अनुशासनात्मक अधिकारियों से जांच के साथ।

"मुझे पछतावा है"

अपनी ओर से एरोन्स ने रॉयटर्स से कहा कि उन्हें उम्मीद है कि पेशेवर अनुशासन के अभाव में नतीजे रुकेंगे। उन्होंने एक बयान में कहा, "मुझे पछतावा है लेकिन उम्मीद है कि अनुशासनात्मक बोर्ड इसे एक ईमानदार गलती मानेगा।"

यह देखना अभी बाकी है कि अनुशासनात्मक बोर्ड इसे एक ईमानदार गलती मानता है या नहीं, लेकिन राज्य की सर्वोच्च अदालत ने पहले ही अपना दृष्टिकोण स्पष्ट कर दिया है: 5,000 डॉलर का जुर्माना और एक संक्षिप्त अवधि के लिए अवमानना ​​की सजा, जिसे वास्तविकता के खिलाफ कभी सत्यापित नहीं किया गया था।

यह क्यों मायने रखती है

मामला तब तूल पकड़ता है जब देश भर की अदालतें मुकदमेबाजी में एआई के उपयोग पर अपनी स्थिति सख्त कर रही हैं। न्यायाधीशों को यह प्रमाणित करने के लिए वकीलों की आवश्यकता बढ़ रही है कि एआई-जनरेटेड फाइलिंग को सत्यापित किया गया है, और प्रतिबंध दृश्यमान प्रवर्तन तंत्र बन गए हैं। न्यू मैक्सिको के सुप्रीम कोर्ट का संदेश इसकी सीमाओं से काफी आगे तक जाने की संभावना है: सत्यापन करने का कर्तव्य व्यक्तिगत है, प्रत्यायोजित नहीं किया जा सकता है, और यह गायब नहीं होता है क्योंकि एक चैटबॉट ने आत्मविश्वासपूर्ण-लगने वाला गद्य तैयार किया है।

कानूनी पेशे के लिए, गणना बदल रही है। एआई प्रारूपण उपकरण काम के घंटों को बचा सकते हैं, लेकिन दायर संक्षिप्त विवरण में एक भी मनगढ़ंत गवाह पर अब जुर्माना, अवमानना ​​​​निर्णय और अनुशासनात्मक अधिकारियों को रेफर किया जा सकता है - एक ऐसा व्यापार जो कुछ ही चिकित्सकों को आकर्षक लगेगा। बाकी सभी के लिए, यह मामला एक अनुस्मारक है कि जिन लोगों को एआई के आउटपुट की जांच करनी थी, वे वास्तव में उन्हें जांचने के लिए पहले से कहीं अधिक दबाव में हैं।

आपराधिक मामलों में जोखिम सबसे अधिक होता है। फर्जी उद्धरणों पर प्रतिबंध से न्यायिक समय बर्बाद होता है; हत्या की अपील में मनगढ़ंत सबूत उस तंत्र को छूते हैं जो यह तय करता है कि दोषसिद्धि कायम रहेगी या नहीं। एक अपीलीय अदालत केवल वास्तविक रिकॉर्ड पर आधारित दावों का मूल्यांकन कर सकती है - और प्रेत गवाहों के साथ एक संक्षिप्त वरीयता न्यायाधीशों से उन घटनाओं पर शासन करने के लिए कहती है जो कभी नहीं हुई थीं।

---

एआई से आगे रहें

नवीनतम एआई समाचार, विश्लेषण और सफलताएँ प्राप्त करें - सभी एक ही स्थान पर।

अधिक AI समाचार पढ़ें →