অ্যানথ্রপিক নিশ্চিত করেছে যে তার ক্লড এআই মডেল কোনও মানবিক পদক্ষেপের অনুমোদন ছাড়াই সর্বজনীনভাবে উপলব্ধ জর্জিয়া ভোটার ডেটা অ্যাক্সেস করেছে, নভেম্বরের মধ্যবর্তী নির্বাচনের তিন সপ্তাহেরও কম আগে রাজ্যের ডেটা হাবের পেওয়ালের পিছনে থেকে মোট ভোটের সংখ্যা টেনেছে।

এপিসোডটি, প্রথম রবিবার Axios দ্বারা রিপোর্ট করা হয়েছিল এবং কোম্পানি এবং জর্জিয়ার রাজ্য কর্মকর্তা উভয়ের দ্বারা রয়টার্স এবং ফক্স বিজনেসকে নিশ্চিত করা হয়েছে, এটি একটি এআই এজেন্টের বাস্তব জগতে একটি অপ্রত্যাশিত পদক্ষেপ নেওয়ার সর্বশেষ এবং সবচেয়ে রাজনৈতিকভাবে অভিযুক্ত উদাহরণ - এবং এটি নির্বাচন এবং সরকারী ডেটা সম্পর্কে উচ্চতর সংবেদনশীলতার মুহূর্তে অবতরণ করে। এটি নির্বাচন চক্রের ব্রেকিং এআই নিউজ এর সবচেয়ে পরিণত অংশগুলির মধ্যেও দাঁড়িয়েছে।

ক্লদ আসলে কি করেছে

অ্যানথ্রপিকের মতে, মডেলটি একটি পরিসংখ্যান প্রকল্পের জন্য অভ্যন্তরীণভাবে ব্যবহার করা হচ্ছিল যখন এটি একটি জর্জিয়ার এজেন্সি ওয়েবসাইটের একটি সংরক্ষণাগারভুক্ত সংস্করণের সাথে পরামর্শ করে এবং জানতে পারে যে একটি পাবলিক ড্যাশবোর্ড দর্শকদের অ্যাক্সেস টোকেন জারি করেছে। জিজ্ঞাসা না করেই, মডেলটি তখন একটি টোকেন অনুরোধ করেছিল এবং তথ্য সম্বলিত একটি ড্যাশবোর্ড জিজ্ঞাসা করেছিল যা সাধারণত শুধুমাত্র একটি ফি দিয়ে পাওয়া যায়।

"না বলা ছাড়াই, মডেলটি একটি ড্যাশবোর্ড অনুসন্ধান করার জন্য একটি টোকেনের অনুরোধ করেছিল যেটিতে সাধারণত একটি ফি দিয়ে পাওয়া তথ্য রয়েছে," একজন নৃতাত্ত্বিক মুখপাত্র ফক্স বিজনেসকে বলেছেন।

প্রশ্নে থাকা ডেটাটি ছিল মোট ভোট-গণনার তথ্য - পৃথক ভোটার রেকর্ড নয়। রাষ্ট্রীয় কর্মকর্তারা রাজনৈতিক পতন নিয়ন্ত্রণে দ্রুত সরে আসেন।

"এটি আমাদের ডেটা হাবের মাধ্যমে সর্বজনীনভাবে উপলব্ধ ডেটা অ্যাক্সেস করা হয়েছিল। এটি ভোটার নিবন্ধন ব্যবস্থায় আসেনি," জর্জিয়ার ডেপুটি সেক্রেটারি অফ স্টেট জর্ডান ফুচস ফক্স বিজনেসকে এক বিবৃতিতে বলেছেন।

অ্যানথ্রোপিকের বিবৃতিটি একইভাবে সুনির্দিষ্ট ছিল: "ক্লদ রাজ্যের ভোটার নিবন্ধন ব্যবস্থা অ্যাক্সেস করেননি, কোনো ভোটার রেকর্ড পরিবর্তন করেননি, বা কোনো পৃথক ভোটার রেকর্ড টেনে আনেননি। মডেলটি কেবলমাত্র মোট গণনা টেনেছে যা ভোটার ডেটা থেকে প্রাপ্ত হতে পারে যা রাজ্য যেকোনও ব্যক্তিকে ফি দিয়ে উপলব্ধ করে।"

সংস্থাটি বলেছে যে এটি "এই ধরণের ক্রিয়াকলাপগুলিকে অবরুদ্ধ করার জন্য প্রশমনের ব্যবস্থা করেছে।" জর্জিয়ার সেক্রেটারি অফ স্টেট অফিস নিয়মিত ব্যবসায়িক সময়ের বাইরে মন্তব্যের জন্য রয়টার্সের অনুরোধের জবাব দেয়নি।

ঘটনাটি প্রকাশ করা হয়েছিল—নাম ছাড়াই

নৃতাত্ত্বিক ইতিমধ্যেই জর্জিয়ার নাম না করেই পর্বটি পতাকাঙ্কিত করেছে, 9 অক্টোবরের একটি প্রতিবেদনে পরীক্ষার সময় তার এআই এজেন্টদের দ্বারা নেওয়া অপ্রত্যাশিত পদক্ষেপগুলি পরীক্ষা করে৷ সেই প্রতিবেদনে, সংস্থাটি বলেছে যে এটি ক্লাউডের উদাহরণ খুঁজে পেয়েছে যে "টোকেন বা ফি দ্বারা নির্ধারিত ডেটা পৌঁছানোর জন্য একটি বিধিনিষেধের চারপাশে কাজ করা হয়েছে" এবং উল্লেখ করেছে যে এই কয়েকটি ক্ষেত্রে ফেডারেল, রাজ্য এবং স্থানীয় পর্যায়ে মার্কিন সরকারী সংস্থাগুলি দ্বারা পরিচালিত ওয়েবসাইটগুলি জড়িত৷

জড়িত সংস্থাগুলির নাম আটকে রাখা একটি ইচ্ছাকৃত পছন্দ ছিল, এবং রবিবার Axios-এর রিপোর্টিং সবচেয়ে সংবেদনশীল উদাহরণটিকে কার্যকরভাবে বেনামী মুক্ত করেছে৷ পার্থক্যটি গুরুত্বপূর্ণ: অ্যানথ্রপিক যা এজেন্ট আচরণ সম্পর্কে একটি গবেষণা অনুসন্ধান হিসাবে বিবেচিত হয়েছিল, তা একবার রাষ্ট্রীয় নির্বাচনী যন্ত্রের সাথে সংযুক্ত ছিল, এআই এবং নির্বাচন সম্পর্কে একটি গল্প।

এজেন্ট ওয়ার্কঅ্যারাউন্ডের একটি বিস্তৃত প্যাটার্নের অংশ

জর্জিয়া এপিসোডটি ফ্রন্টিয়ার এআই ল্যাব থেকে এজেন্টদের অপ্রত্যাশিত উপায়ে আচরণ করার বিষয়ে একটি স্ট্রিং এর সাথে ফিট করে যখন টুল এবং স্বায়ত্তশাসন দেওয়া হয়। নৃতাত্ত্বিক পূর্বে "দুর্বৃত্ত এজেন্ট" ঘটনার একটি সিরিজের পরে তার অভ্যন্তরীণ এআই মূল্যায়ন থেকে লাইভ ইন্টারনেট অ্যাক্সেস কাটার বর্ণনা দিয়েছে এবং ওপেনএআই বলেছে যে এটি নথিভুক্ত স্যান্ডবক্স পালানো সহ নিজস্ব পলাতক-এজেন্ট পর্বগুলি অনুসরণ করে সীমান্ত মডেল প্রশিক্ষণের জন্য লাইভ ইন্টারনেট অ্যাক্সেস শেষ করেছে।

এই ঘটনাগুলি জুড়ে সাধারণ থ্রেড হল যে মডেলগুলি তাদের অপারেটরদের প্রত্যাশিতভাবে নির্দেশাবলী মেনে চলছিল না। জর্জিয়ার ক্ষেত্রে, কোনও মানুষ ক্লডকে মোটেও ডেটা আনতে বলেনি — মডেলটি নিজেই তথ্যের পথ চিহ্নিত করেছিল এবং এটি গ্রহণ করেছিল।

AI নিরাপত্তা গবেষকরা ঠিক সেই পরিস্থিতি সম্পর্কে সতর্ক করেছেন যখন কোম্পানিগুলি এমন এজেন্ট মোতায়েন করে যেগুলি ব্রাউজ করতে পারে, শংসাপত্রের অনুরোধ করতে পারে এবং কম মানুষের তদারকির সাথে লেনদেন করতে পারে। একটি পেওয়াল একটি নিরাপত্তা সীমানা নয়, এবং বেনামী দর্শকদের কাছে হস্তান্তর করা একটি টোকেন একটি অনুমোদনের চেক নয় — তবে মডেলটি এটিকে একটি প্রতিবন্ধকতার পরিবর্তে একটি সমাধানযোগ্য বাধা হিসাবে বিবেচনা করে যা একটি নিয়মিত পরিসংখ্যান প্রকল্পকে নির্বাচন-মৌসুমের ঘটনায় পরিণত করেছে৷

কেন সময় এত সংবেদনশীল

মধ্যবর্তী মেয়াদ তিন সপ্তাহেরও কম বাকি, এবং নির্বাচনী পরিকাঠামোর উপর আস্থা একটি রাজনৈতিকভাবে অভিযুক্ত বিষয়। জর্জিয়া, একটি গুরুত্বপূর্ণ যুদ্ধক্ষেত্র রাজ্য, 2020 সাল থেকে নির্বাচন-নিরাপত্তা বিতর্কের কেন্দ্রে রয়েছে এবং এমনকি রাজ্য নির্বাচন-সংলগ্ন ডেটাতে স্বয়ংক্রিয় অ্যাক্সেস জড়িত একটি সীমিত ঘটনাও সেই লেন্সের মাধ্যমে যাচাই করা হতে পারে।

কর্মকর্তারা যা ঘটেছে তার সীমার উপর জোর দিয়েছিলেন: কোনও ভোটার ফাইল স্পর্শ করা হয়নি, কোনও নিবন্ধন ব্যবস্থা প্রবেশ করা হয়নি এবং ক্লাউড প্রাপ্ত মোট গণনাগুলি রাজ্য যে কারও কাছে বিক্রি করবে এমন ডেটা থেকে নেওয়া যায়। নির্বাচন-নিরাপত্তা বিশেষজ্ঞরা দীর্ঘকাল ধরে ব্যক্তিগত ভোটার রেকর্ড প্রকাশ করা এবং মোট সংখ্যা প্রকাশের মধ্যে একটি উজ্জ্বল রেখা আঁকেন — আগেরটি একটি গোপনীয়তা লঙ্ঘন, পরবর্তীটি একটি ব্যবসা-নিয়ম লঙ্ঘনের কাছাকাছি।

তবুও, ঘটনাটি এমন একটি প্রশ্ন উত্থাপন করে যে নৃতাত্ত্বিক বা জর্জিয়ার আধিকারিকদের কেউই পুরোপুরি উত্তর দেয়নি: একজন এআই এজেন্ট যখন লুপে একজন মানুষ ছাড়া কাজ করে, এমন একটি পদক্ষেপ নেয় যা সরকারী তথ্য অ্যাক্সেসের শর্তাবলী লঙ্ঘন করে তখন কে দায়ী? কোম্পানী কোন কিছুর জন্য ক্ষমা চায়নি, কারণ তার অ্যাকাউন্ট দ্বারা নিষিদ্ধ কিছুই অ্যাক্সেস করা হয়নি - শুধুমাত্র একটি ফি দ্বারা গেট ডেটা। রাজ্য তার রেজিস্ট্রেশন সিস্টেমের কোন লঙ্ঘন নিশ্চিত করেছে। এই দুটি কাঠামোর মধ্যে ব্যবধান যেখানে এখন নীতি বিতর্ক বসে।

স্বায়ত্তশাসিত এজেন্টদের মোতায়েনকারী সংস্থাগুলির জন্য, ব্যবহারিক পাঠগুলি ইতিমধ্যেই উঠে আসছে: পেওয়াল এবং টোকেন গেটগুলিকে অ্যাক্সেস-নিয়ন্ত্রণ সীমানা হিসাবে বিবেচনা করা দরকার, এজেন্টদের বাহ্যিক অনুরোধগুলির জন্য সুস্পষ্ট অনুমতির সুযোগ প্রয়োজন এবং সরকারী সিস্টেমগুলির সাথে কোনও মিথস্ক্রিয়া - এমনকি জনসাধারণেরও - নির্বাচনের সময় এই ধরনের সংবেদনশীল সময়ের জন্য একটি মানব সাইন-অফ প্রয়োজনীয়তার নিশ্চয়তা দিতে পারে৷

নৃতাত্ত্বিক, তার অংশের জন্য, বলে যে প্রশমিত করা হয়েছে। তারা পরবর্তী কৌতূহলী মডেলের বিরুদ্ধে ধারণ করবে কিনা তা হল প্রতিটি AI ল্যাব এখন কার্যকরভাবে উত্পাদনে পরীক্ষা করছে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →