কৃত্রিম বুদ্ধিমত্তার "হ্যালুসিনেশন" আমেরিকান বিচার ব্যবস্থার হৃদয়ে পৌঁছে যাওয়ার এখনও পর্যন্ত সবচেয়ে বড় উদাহরণগুলির মধ্যে একটি - ChatGPT দ্বারা বানোয়াট - যা কখনও অস্তিত্ব ছিল না - এমন সাক্ষীদের উপর নির্মিত একটি হত্যার আপিল দায়ের করার জন্য নিউ মেক্সিকোর সুপ্রিম কোর্ট একজন অ্যাটর্নিকে অনুমোদন দিয়েছে৷

রয়টার্সের একটি প্রতিবেদন অনুসারে, রাজ্যের সর্বোচ্চ আদালত সান্তা ফে আইনজীবী স্টিফেন অ্যারনসকে $ 5,000 জরিমানা করেছে এবং "তার এআই-উত্পাদিত ব্রিফে বাস্তবিক দাবি এবং আইনি কর্তৃত্ব যাচাই করতে" ব্যর্থতার জন্য তাকে অবমাননা করেছে। সংক্ষিপ্তটি, তার ক্লায়েন্টের হত্যার দোষী সাব্যস্ততার বিরুদ্ধে আপিলের অংশ হিসাবে জমা দেওয়া, "সম্পূর্ণ বানোয়াট সাক্ষীদের কাছ থেকে মিথ্যা সাক্ষ্য ধারণ করেছে," সাথে শুটারের পোশাক এবং চেহারা সম্পর্কে মিথ্যা দাবি। এই গল্পের আরও প্রসঙ্গের জন্য, আমাদের চলমান ব্রেকিং এআই নিউজ দেখুন।

আদালত যা পেল

আদালতের ফাইলিং ছোটখাটো ভুলত্রুটি বর্ণনা করেনি। এটি একটি আপীল নথি বর্ণনা করেছে যা মানুষকে পাতলা বাতাসের বাইরে নিয়ে যেতে পারে: সাক্ষ্য প্রমাণিত সাক্ষ্য যারা বিদ্যমান নেই, এবং বন্দুকধারী কী পরিধান করেছিল এবং বন্দুকধারী দেখতে কেমন ছিল সে সম্পর্কে পুলিশের বিবৃতি উদ্ভাবন করেছে - অবিকল খুনের দোষী সাব্যস্ত হওয়ার জন্য যে ধরনের বাস্তব বিবরণ চালু হতে পারে।

দ্য ভার্জের মতে, যা আদালতে দাখিল করার বিষয়ে রিপোর্ট করেছে, এই নিষেধাজ্ঞা আরোপ করা হয়েছিল কারণ অ্যারনস আদালতে জমা দেওয়ার আগে "তাঁর এআই-জেনারেটেড ব্রিফে বাস্তবিক দাবি এবং আইনি কর্তৃত্ব যাচাই করতে" ব্যর্থ হন। অন্য কথায়, সমস্যাটি ছিল না যে একজন আইনজীবী খসড়া তৈরিতে সহায়তা করার জন্য একটি এআই টুল ব্যবহার করেছিলেন। এটি ছিল যে আইনজীবী প্রকৃত বিচারের রেকর্ডের বিরুদ্ধে একটি বানোয়াট দাবি পরীক্ষা না করে আউটপুট দাখিল করেছিলেন।

"কাউন্সেল, আপনি কি খবর দেখেন?"

মামলার অসাধারণ প্রকৃতি একটি আগস্টের শুনানিতে দেখা যায়, যেখানে অ্যারনস স্বীকার করেছেন যে তিনি ChatGPT ব্যবহার করেছেন এবং আদালতকে বলেছিলেন যে তিনি আশা করেছিলেন চ্যাটবট বিচারের একটি "বুলেটপ্রুফ সারাংশ" তৈরি করবে। এই প্রত্যাশা নিউ মেক্সিকো সুপ্রিম কোর্টের বিচারপতি সি শ্যানন বেকনের কাছ থেকে একটি সূক্ষ্ম প্রতিক্রিয়া তৈরি করেছে।

"কাউন্সেল, আপনি কি খবর দেখেন? আপনি কি রেডিও শোনেন? আপনি কি পৃথিবীতে যা ঘটছে সে সম্পর্কে কিছু পড়েন?" রয়টার্স অনুসারে বেকন জিজ্ঞাসা করেছিলেন। "কারণ এআই হ্যালুসিনেশনের উপর নির্ভরশীল আইনজীবীদের সমস্যাটি প্রতিদিনই একটি উপরের গল্প।"

ন্যায়বিচারের তিরস্কারে AI-বানোয়াট উদ্ধৃতি এবং সাক্ষ্যগুলি একটি বিশেষ প্রযুক্তিগত সমস্যা থেকে একটি মূলধারার পেশাদার দায়বদ্ধতায় স্থানান্তরিত হয়েছে - যা বিচারকরা এখন ধরে নেন যে প্রতিটি অনুশীলনকারী অ্যাটর্নিকে জানা উচিত।

এআই নিষেধাজ্ঞার একটি স্ট্রিংয়ে সর্বশেষ

নিউ মেক্সিকো মামলাটি AI-এর চেক না করা ব্যবহারের জন্য আইনজীবীদের শাস্তি প্রদানকারী আদালতের দ্রুত ক্রমবর্ধমান তালিকার সর্বশেষতম। গত বছর, একজন বিচারক "অসংখ্য মিথ্যা, ভুল, এবং বিভ্রান্তিকর আইনী উদ্ধৃতি এবং উদ্ধৃতি" সম্বলিত একটি সংক্ষিপ্ত জমা দেওয়ার জন্য দুটি আইন সংস্থাকে নিন্দা করেছিলেন, যখন মাইপিলোর প্রতিষ্ঠাতা মাইক লিন্ডেলের প্রতিনিধিত্বকারী আইনজীবীদের আদালতে ফাইলিংয়ে এআই-উত্পন্ন ভুল উদ্ধৃতি এবং জাল উদ্ধৃতি সহ জরিমানা করা হয়েছিল, ভার্জ উল্লেখ করেছে।

নিউ মেক্সিকোর নিষেধাজ্ঞাকে যা আলাদা করে তা হল সেই উপাদান যা তৈরি করা হয়েছিল। বেশির ভাগ আগেকার মামলায় আইনি উদ্ধৃতি উদ্ভাবন করা হয়েছিল — জাল নজির, বাস্তব মামলা থেকে জাল উদ্ধৃতি। এখানে, বানোয়াট তথ্য নিজেই গিয়েছিলেন: সাক্ষী, সাক্ষ্য, এবং একটি ফৌজদারি আপীলে শারীরিক প্রমাণ বিবরণ। এই পার্থক্যটি গুরুত্বপূর্ণ, কারণ একটি হত্যা মামলায় সত্য বানোয়াট আপিল পর্যালোচনাকে রক্ষা করার জন্য বিদ্যমান মূলে আঘাত করে।

প্রবণতা লাইন অস্পষ্ট. দ্য ভার্জ যেমন দেখেছে, তাদের কাজে AI সরঞ্জামগুলি ব্যবহার করে আইনজীবীদের সংখ্যা বাড়ছে, একইভাবে এমন উদাহরণও রয়েছে যেখানে আদালত AI দ্বারা বানোয়াট — বা হ্যালুসিনেটেড — উদ্ধৃতিগুলি আবিষ্কার করে৷ যাকে একসময় বিব্রতকর তদারকি হিসেবে গণ্য করা হতো তা ক্রমবর্ধমানভাবে জরিমানা, অবমাননার রায় এবং শৃঙ্খলা কর্তৃপক্ষের কাছ থেকে যাচাই-বাছাই সহ পেশাদার দক্ষতার ব্যর্থতা হিসেবে শাস্তি পাচ্ছে।

"আমি অনুতপ্ত"

অ্যারনস, তার অংশের জন্য, রয়টার্সকে বলেছিলেন যে তিনি আশা করেন যে পেশাদার শৃঙ্খলার অভাব বন্ধ হয়ে যাবে। "আমি অনুতপ্ত কিন্তু আশাবাদী যে শৃঙ্খলা বোর্ড বিবেচনা করবে যে এটি একটি সৎ ভুল ছিল," তিনি একটি বিবৃতিতে বলেছেন।

শৃঙ্খলা বোর্ড এটিকে একটি সৎ ভুল হিসাবে বিবেচনা করে কিনা তা দেখার বাকি আছে, তবে রাজ্যের সর্বোচ্চ আদালত ইতিমধ্যেই তার নিজস্ব দৃষ্টিভঙ্গি পরিষ্কার করেছে: $5,000 জরিমানা এবং একটি সংক্ষিপ্ত জন্য অবমাননা রাখা যা বাস্তবতার বিরুদ্ধে কখনও যাচাই করা হয়নি।

কেন এটা গুরুত্বপূর্ণ

দেশজুড়ে আদালত মোকদ্দমায় এআই ব্যবহারের বিষয়ে তাদের অবস্থানকে কঠোর করছে বলে মামলার অবতারণা। বিচারকদের ক্রমবর্ধমানভাবে প্রত্যয়িত করার জন্য অ্যাটর্নি প্রয়োজন যে AI-উত্পাদিত ফাইলিংগুলি যাচাই করা হয়েছে, এবং নিষেধাজ্ঞাগুলি দৃশ্যমান প্রয়োগকারী ব্যবস্থায় পরিণত হয়েছে। নিউ মেক্সিকোর সুপ্রিম কোর্টের বার্তাটি তার সীমানা ছাড়িয়ে যেতে পারে: যাচাই করার দায়িত্বটি ব্যক্তিগত, অ-অর্পণযোগ্য এবং অদৃশ্য হয়ে যায় না কারণ একটি চ্যাটবট আত্মবিশ্বাসী-শব্দযুক্ত গদ্য তৈরি করে।

আইন পেশার জন্য হিসেব এলোমেলো হয়ে যাচ্ছে। এআই ড্রাফটিং সরঞ্জামগুলি কাজের ঘন্টা বাঁচাতে পারে, তবে একটি ফাইল করা সংক্ষিপ্ত বিবরণে একটি একক বানোয়াট সাক্ষীর জন্য এখন জরিমানা, একটি অবমাননার রায় এবং শাস্তিমূলক কর্তৃপক্ষের কাছে রেফারেল খরচ হতে পারে - কিছু বাণিজ্য অনুশীলনকারী আকর্ষণীয় বলে মনে করবেন। অন্য সকলের জন্য, কেসটি একটি অনুস্মারক যে লোকেরা AI এর আউটপুটগুলি পরীক্ষা করার জন্য প্রকৃতপক্ষে তাদের পরীক্ষা করার জন্য আগের চেয়ে বেশি চাপের মধ্যে রয়েছে।

ফৌজদারি মামলায় বাজি সবচেয়ে বেশি। জাল উদ্ধৃতির উপর নিষেধাজ্ঞা বিচারিক সময় নষ্ট করে; একটি হত্যার আপিলের বানোয়াট প্রমাণগুলি সেই প্রক্রিয়াটিকে স্পর্শ করে যা সিদ্ধান্ত নেয় একটি দোষী সাব্যস্ত হয় কিনা। একটি আপিল আদালত শুধুমাত্র বাস্তব রেকর্ডে নোঙর করা দাবিগুলিকে ওজন করতে পারে - এবং ফ্যান্টম সাক্ষীদের সাথে একটি সংক্ষিপ্ত বীজ বিচারকদের এমন ঘটনাগুলির উপর শাসন করতে বলে যা কখনও ঘটেনি।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →