কানেকটিকাটের একজন বিচারক শনাক্ত করেছেন যে প্রথমবার একজন মার্কিন বাদী আদালতের ফাইলিংয়ে পাঠ্য লুকানোর চেষ্টা করেছেন যা শুধুমাত্র একটি কৃত্রিম বুদ্ধিমত্তা সিস্টেম পড়তে পারে, তার মামলা জেতার চেষ্টায়। স্কিমটি ব্যর্থ হয়েছে, মামলাকারীকে অনুমোদন দেওয়া হয়েছিল, এবং রায়টি এখন আইনি প্রযুক্তি বিশ্ব জুড়ে দৃষ্টি আকর্ষণ করছে কারণ সারা দেশের আদালতগুলি তাদের নিজস্ব AI সরঞ্জামগুলি গ্রহণ করা শুরু করেছে।
সিদ্ধান্তটি গত সপ্তাহে কানেকটিকাট সুপিরিয়র কোর্টের বিচারক ওয়াল্টার স্প্যাডার জুনিয়র দ্বারা প্রকাশিত হয়েছিল এবং আরস টেকনিকা এবং রয়টার্স এই সপ্তাহে বিস্তারিত জানিয়েছে। কৃত্রিম বুদ্ধিমত্তা এবং বিচার ব্যবস্থার মধ্যে সংঘর্ষের বিষয়ে ব্রেকিং এআই নিউজ এর জন্য, কেসটি এমন একটি সমস্যার একটি প্রিভিউ যা নিরাপত্তা গবেষকরা বছরের পর বছর ধরে সতর্ক করেছেন: প্রতিপক্ষের ইনপুটগুলি মানুষের পরিবর্তে মেশিন দ্বারা পড়ার জন্য ডিজাইন করা হয়েছে৷
কিভাবে লুকানো প্রম্পট কাজ করে
বাদী, ম্যাথিউ এলিয়ট, একজন স্বাস্থ্যসেবা প্রদানকারীর সাথে বিরোধে আটকে পড়েছিলেন যে তিনি অভিযোগ করেছিলেন যে তিনি তার রেকর্ডগুলিতে অনুপযুক্তভাবে অ্যাক্সেস আটকে রেখেছেন। তার উত্থাপিত আগের যুক্তিগুলি পরাজিত হওয়ার পরে, রায় অনুসারে, এলিয়ট পরবর্তী ফাইলিংগুলিতে নির্দেশাবলী এম্বেড করেছিলেন যেগুলি, স্প্যাডারের ভাষায়, "মানব পাঠকের কাছে অদৃশ্য হওয়ার জন্য বিন্যাস করা হয়েছিল যখন যে কোনও সফ্টওয়্যার যা নথির পাঠ্য পাঠ করে তার কাছে সম্পূর্ণরূপে পাঠযোগ্য থাকে।"
টেক্সট ছোট-বিন্দু টাইপ সঙ্কুচিত এবং একটি সাদা পটভূমিতে সাদা রঙ করা হয়েছে। এটি বাদীর যুক্তির সাথে তার আউটপুটগুলি একমত, আদালতের পূর্ববর্তী অস্বীকারগুলি উপেক্ষা করে এবং বাদীর ইচ্ছা অনুযায়ী প্রতিকার অনুসরণ করবে তা নিশ্চিত করার জন্য নথিটি পর্যালোচনা করার জন্য যেকোন AI সিস্টেমকে নির্দেশ দেওয়া হয়েছে - একটি পাঠ্যপুস্তক প্রম্পট ইনজেকশন আক্রমণ, যার লক্ষ্য চ্যাটবট নয় বরং যে কোনও সফ্টওয়্যারে যা একদিন একজন বিচারক এবং বিচারকের মধ্যে বসতে পারে৷
লুকানো টেক্সট মামলার উপর কোন প্রভাব ফেলেনি। আদালত এলিয়টের ফাইলিংকে তার যোগ্যতার ভিত্তিতে যাচাই করেছে। কিন্তু স্প্যাডার লিখেছেন যে আক্রমণের প্রচেষ্টা তবুও একটি "বিপজ্জনক" নজির স্থাপন করে এবং মার্কিন আদালত সম্ভবত দূষিত কৌশলটি আবার দেখতে পাবে কারণ এআই সরঞ্জামগুলি আদালত ব্যবস্থায় আরও সাধারণ হয়ে উঠেছে।
"গুরুতর মামলার অপব্যবহার" — এবং কিছু অদ্ভুত রসিকতা
এলিয়ট শালীন নিষেধাজ্ঞার সম্মুখীন হয়েছিল, তবে শুধুমাত্র মূল লুকানো নির্দেশের জন্য নয়। রায় অনুসারে, আদালত তাকে সতর্ক করার পরেও তিনি নতুন ফাইলিংগুলিতে লুকানো পাঠ্য যুক্ত করতে থাকেন যা স্প্যাডার শেষ পর্যন্ত "গুরুতর মামলার অপব্যবহার" বলে মনে করেন তার জন্য তিনি শাস্তির মুখোমুখি হতে পারেন।
পরে কিছু লুকানো বার্তা ছিল, এলিয়ট আদালতকে বলেছিলেন, কৌতুক হিসাবে উদ্দেশ্য ছিল। তারা একটি Nosferatu YouTube ভিডিওর একটি লিঙ্ক অন্তর্ভুক্ত করেছে, "হাই :) আমি আশা করি আপনি আমাকে দেখতে পাচ্ছেন না" লেখা একটি সাধারণ বার্তা এবং বাদীকে অর্থহীন বলে বর্ণনা করা একটি বার্তা: "শ্যানকে বলুন আমি আমার রে গার্বস পাঠাব!!!! হাহাহা ইউ ছেলেরা এই ইগউহ পান???? আহহ।"
স্প্যাডার লিখেছেন, "এই [নিষেধাজ্ঞার] শুনানির নোটিশ পাওয়ার পরে বাদী নতুন আবেদনপত্রে বার্তাগুলি গোপন করে চলেছেন তা অত্যাশ্চর্যজনক," স্প্যাডার লিখেছেন। বার্তাগুলি কৌতুকপূর্ণ ছিল এমন দাবির জন্য, বিচারক বলেছিলেন যে এটি আদালতকে গুরুত্ব সহকারে গ্রহণ করতে চায় এমন আবেদনের ভিতরে কৌতুকগুলিকে দাফন করা একজন ফাইলারের পক্ষে "যুক্তিকে অস্বীকার করে"।
"অডিট" প্রতিরক্ষা
তার আত্মপক্ষ সমর্থনে, এলিয়ট যুক্তি দিয়েছিলেন যে বিচারকের দ্বারা পতাকাঙ্কিত সবচেয়ে সম্পর্কিত প্রম্পটটি আসলে একটি জনসেবা হিসাবে আদালতকে "অডিট" করার একটি প্রচেষ্টা ছিল, কারণ তিনি আশঙ্কা করেছিলেন যে আদালত এআইকে তার মামলার অন্যায়ভাবে সিদ্ধান্ত নিতে দিচ্ছে। তিনি রয়টার্সের কাছে সেই অবস্থানের পুনরাবৃত্তি করে বলেছেন, তিনি বজায় রেখেছেন যে তার উদ্দেশ্য ছিল আদালতকে কারসাজি করার পরিবর্তে পরীক্ষা করা।
স্প্যাডার যুক্তিটিকে বিশ্বাসযোগ্য মনে করেননি। যদি ইলিয়ট সত্যিকার অর্থে বিশ্বাস করেন যে আদালত ভুলভাবে AI ব্যবহার করছে, বিচারক লিখেছেন, তিনি "সাধারণ, দৃশ্যমান শব্দে লিখতে স্বাধীন ছিলেন যা সবাই দেখতে এবং উত্তর দিতে পারে।" পরিবর্তে টেক্সট লুকানো, স্প্যাডার উপসংহারে বলেন, "এর দূষিত উদ্দেশ্যের প্রমাণ।" বিচারক যোগ করেছেন যে মনে হচ্ছে এলিয়ট "এমন একটি ফলাফল অর্জনের চেষ্টা করছেন যা তিনি অর্জন করতে পারেননি যখন মানুষ, আইন সম্পর্কে জ্ঞানী" তার আবেদনপত্র পড়েন।
উল্লেখযোগ্যভাবে, কানেক্টিকাট জুডিশিয়াল শাখা ফাইলিং পর্যালোচনা বা সিদ্ধান্ত নেওয়ার জন্য AI ব্যবহার করে না, স্প্যাডার উল্লেখ করেছেন - তাই আদালত থেকে নির্দেশের জন্য এলিয়টের প্রম্পটকে আদালতের এআই সিস্টেম ভুল করবে এমন কোনও সত্যিকারের ঝুঁকি ছিল না। তিনি লিখেছেন, "অন্যান্য জায়গায় বেশ কয়েকটি আদালত ব্যবস্থার" বিপরীতে, বোকা বানানোর অন্য প্রান্তে কোনও মেশিন ছিল না।
কেন একটি ব্যর্থ আক্রমণ এখনও গুরুত্বপূর্ণ
নিরাপত্তা গবেষকরা বহু বছর ধরে দেখিয়েছেন যে AI সিস্টেমগুলি যা নথিগুলি পড়ে — চ্যাটবট, কোডিং এজেন্ট, ইমেল সহকারী — তারা যে পাঠ্যটি গ্রাস করে তার ভিতরে চাপা নির্দেশাবলী দ্বারা হাইজ্যাক করা যেতে পারে। পরোক্ষ প্রম্পট ইনজেকশন হিসাবে পরিচিত এই কৌশলটিকে এআই এজেন্ট স্থাপনের ক্ষেত্রে সবচেয়ে কঠিন অমীমাংসিত সমস্যাগুলির মধ্যে একটি হিসাবে বিবেচনা করা হয়। কানেকটিকাট কেসকে যা অস্বাভাবিক করে তোলে তা হল লক্ষ্য: বিচারের যন্ত্র নিজেই।
"একটি নথির ভিতরে একটি কমান্ড লুকিয়ে রেখে যা সিস্টেমটি পরে প্রবেশ করে, ফাইলার তাদের নিজস্ব নির্দেশকে সেই স্ট্রীমে পাচার করার চেষ্টা করে যাতে সিস্টেম এটিকে এমনভাবে আচরণ করে যেন এটি সিস্টেমের অপারেটর থেকে এসেছে," স্প্যাডার লিখেছেন। "এই ক্ষেত্রে অপারেটরকে আদালত, তার কর্মী বা বিরোধী পরামর্শদাতা বলে মনে করা হয়।"
যে কাঠামো - একটি আক্রমণের সারফেস হিসাবে আদালতে দায়ের করা - যা আইনী পর্যবেক্ষকরা বলে যে রায়টিকে তাৎপর্যপূর্ণ করে তোলে। যেহেতু আদালত এবং আইন সংস্থাগুলি ক্রমবর্ধমানভাবে ফাইলিং, খসড়া সিদ্ধান্ত বা ট্রাইজ ডকেটগুলিকে সংক্ষিপ্ত করতে AI ব্যবহার করে, একটি পক্ষের দ্বারা জমা দেওয়া প্রতিটি নথি হেরফের করার জন্য একটি সম্ভাব্য চ্যানেল হয়ে ওঠে। একজন বিচারকের কেরানি সাদা পাতায় সাদা লেখা ধরতে পারে; একটি স্বয়ংক্রিয় সংক্ষিপ্তকরণ পাইপলাইন নাও হতে পারে।
এরপর কি হবে
এলিয়টের বিরুদ্ধে নিষেধাজ্ঞাগুলি, আদালতের নিজস্ব বর্ণনা অনুসারে, বিনয়ী। কিন্তু সিদ্ধান্তটি মার্কিন আদালতকে লুকানো মেশিন-পঠনযোগ্য নির্দেশাবলীকে আইনি প্রক্রিয়ার অপব্যবহার হিসাবে বিবেচনা করার জন্য একটি লিখিত নজির দেয় এবং এটি এমন একটি মুহুর্তে আসে যখন বেশ কয়েকটি রাষ্ট্রীয় আদালত ব্যবস্থা সক্রিয়ভাবে AI পর্যালোচনা সরঞ্জামগুলির সাথে পরীক্ষা করছে।
আপাতত, কানেকটিকাট থেকে পাঠটি সহজ: আদালত এটির জন্য দেখছে। বিচারক স্প্যাডারের রায় স্পষ্ট করে দেয়, মার্কিন আদালতে প্রম্পট ইনজেকশনের চেষ্টা করা প্রথম ব্যক্তিকে ধরা হয়েছিল — এবং অনুমোদন দেওয়া হয়েছিল — যদিও কোনও এআই সিস্টেম কখনও শুনছিল না।
এআই থেকে এগিয়ে থাকুন আরও এআই খবর পড়ুন →
