নৃতাত্ত্বিক প্রধান নির্বাহী দারিও আমোদি আইন প্রণেতাদের সতর্ক করেছেন যে ওপেন-সোর্স কৃত্রিম বুদ্ধিমত্তার দিকে ত্বরান্বিত প্রবণতা সমাজকে একটি বিপজ্জনক পথে নিয়ে যেতে পারে যদি সতর্ক সুরক্ষা ছাড়াই শক্তিশালী মডেলগুলি মুক্তি দেওয়া হয়, যা এআই নীতির অন্যতম বিতর্কিত বিতর্কের পুনর্গঠন করে।

Amodei, যিনি মডেলের Claude পরিবারের পিছনে কোম্পানি প্রতিষ্ঠা করেন এবং নেতৃত্ব দেন, যুক্তি দিয়েছিলেন যে ওপেন-সোর্স AI-এর অনন্য প্রকৃতি, যা উন্নত সিস্টেমগুলিকে যে কেউ ডাউনলোড, সংশোধন এবং স্থাপনের জন্য বিনামূল্যে উপলব্ধ করে, এমন ঝুঁকি তৈরি করে যা প্রচলিত ওপেন-সোর্স সফ্টওয়্যার কখনও তৈরি করে না। তার মন্তব্য, টেকেডিয়া দ্বারা রিপোর্ট করা হয়েছে, সক্ষম এআই নিয়ন্ত্রণের অসুবিধার উপর কেন্দ্র করে এটি প্রকাশ্যে বিতরণ করা হলে। এই গল্পের আরও প্রেক্ষাপটের জন্য, আমাদের চলমান আরও এআই গল্প দেখুন।

প্রথাগত সফ্টওয়্যারের বিপরীতে, অত্যাধুনিক এআই সিস্টেমগুলি বিশ্বাসযোগ্য পাঠ্য তৈরি করতে পারে, বাস্তবসম্মত চিত্র তৈরি করতে পারে, কম্পিউটার কোড লিখতে পারে এবং সাইবার নিরাপত্তার কাজে সহায়তা করতে পারে। অ্যামোডেই দাবি করেছেন যে ভুল হাতে সেই ক্ষমতাগুলিকে সাইবার অ্যাটাকগুলি স্বয়ংক্রিয়ভাবে ব্যবহার করা যেতে পারে, অত্যাধুনিক বিশৃঙ্খল প্রচারণা চালানো যেতে পারে বা ক্ষতিকারক জৈবিক গবেষণা অগ্রসর হতে পারে।

স্থায়ীত্বের সমস্যা

Amodei হাইলাইট করা কেন্দ্রীয় ঝুঁকিগুলির মধ্যে একটি হল যে একবার একটি শক্তিশালী মডেল প্রকাশ্যে প্রকাশিত হলে, এটি কার্যকরভাবে স্মরণ করা অসম্ভব হয়ে পড়ে। নতুন দুর্বলতা দেখা দিলে কোম্পানির দ্বারা পরিচালিত ক্লোজড সিস্টেমগুলি পর্যবেক্ষণ, প্যাচ করা এবং সীমাবদ্ধ করা যেতে পারে। বিপরীতে, একটি ওপেন-সোর্স মডেল, অনির্দিষ্টকালের জন্য অনুলিপি করা যেতে পারে এবং ইন্টারনেট জুড়ে পুনরায় বিতরণ করা যেতে পারে, যার ফলে প্রকাশের পরে এটির ব্যবহার সীমিত করার জন্য বিকাশকারীদের কোন ব্যবস্থা নেই।

সেই স্থায়িত্ব, অ্যামোডেই সতর্ক করে দিয়েছিলেন, বিশেষ করে উদ্বেগজনক কারণ মডেলগুলি ক্রমবর্ধমান জটিল কাজগুলিতে মানব-স্তরের পারফরম্যান্সের সাথে যোগাযোগ করে। তিনি যুক্তি দিয়েছিলেন যে উন্নত এআইকে সাধারণ সফ্টওয়্যারগুলির মতো আচরণ করার পরিবর্তে এটিকে ব্যাপকভাবে অ্যাক্সেসযোগ্য হওয়ার আগে শক্তিশালী সুরক্ষা পরীক্ষা, নিয়ন্ত্রিত স্থাপনা এবং উপযুক্ত নিয়ন্ত্রক তদারকি করা উচিত।

তার অবস্থান শিল্পে একটি ক্রমবর্ধমান ফল্ট লাইন প্রতিফলিত করে। ওপেন-সোর্স এআই-এর সমর্থকরা যুক্তি দেন যে পাবলিক অ্যাক্সেস প্রতিযোগিতাকে উৎসাহিত করে, প্রযুক্তিগত অগ্রগতিকে গণতান্ত্রিক করে তোলে এবং মুষ্টিমেয় কিছু কর্পোরেশনকে কৃত্রিম বুদ্ধিমত্তার একচেটিয়াকরণ থেকে বাধা দেয়। বিশ্বব্যাপী বিকাশকারীরা মডেল আর্কিটেকচার, পৃষ্ঠ সুরক্ষা ত্রুটিগুলি পরিদর্শন করতে পারে এবং সহযোগিতামূলকভাবে সিস্টেমগুলি উন্নত করতে পারে, যখন স্টার্টআপ, গবেষক এবং শিক্ষা প্রতিষ্ঠানগুলি ব্যয়বহুল মালিকানাধীন প্ল্যাটফর্মের উপর নির্ভর না করেই তৈরি করতে পারে।

টেবিলে নির্দিষ্ট ঝুঁকি

Amodei এর উদ্বেগ বিমূর্ত নয়. খোলাখুলিভাবে প্রকাশিত মডেলগুলিকে ইতিমধ্যেই গবেষকরা সোজাসুজি ফাইন-টিউনিং কৌশল ব্যবহার করে তাদের নিরাপত্তা প্রহরী থেকে ছিনিয়ে নিয়েছেন, এমন একটি অনুশীলন যা প্রদর্শন করে যে অন্তর্নিহিত ওজনগুলি প্রকাশ্যে আসার পরে প্রতিরক্ষামূলক ব্যবস্থাগুলি কত দ্রুত সরানো যায়। যেহেতু মডেলগুলি রসায়ন, জীববিদ্যা এবং সফ্টওয়্যার শোষণের মতো কাজগুলিতে আরও বেশি সক্ষম হয়, তাই উদ্বেগের বিষয় হল যে খোলা রিলিজগুলি এমন অভিনেতাদের কাছে শক্তিশালী ক্ষমতা তুলে দিতে পারে যারা তাদের গ্রাহকদের উপর দায়ী ল্যাবগুলি চাপিয়ে দেওয়া স্ক্রীনিংটি কখনই পাস করবে না।

বিভ্রান্তির মাত্রাও যাচাই-বাছাই করেছে। যে মডেলগুলি বাস্তবসম্মত পাঠ্য, চিত্র এবং অডিও তৈরি করতে পারে তা নির্বাচনী হস্তক্ষেপ, আর্থিক জালিয়াতি বা প্রচারের ব্যাপক উত্পাদনের দিকে পরিণত হতে পারে। যেহেতু একটি উন্মুক্ত মডেল সম্পূর্ণরূপে আক্রমণকারীর নিজস্ব হার্ডওয়্যারে কাজ করে, অ্যামোডেই উল্লেখ করেছেন, থ্রোটল করার জন্য কোন API নেই, স্থগিত করার জন্য কোন অ্যাকাউন্ট নেই এবং ক্ষতি হয়ে গেলে জবাবদিহি করার জন্য কোন প্রদানকারী নেই।

একটি প্রতিযোগিতামূলক পটভূমি

চাইনিজ ডেভেলপারদের কাছ থেকে সক্ষম উন্মুক্ত মডেলের ঢেউয়ের মধ্যে Amodei-এর সতর্কবার্তা এসেছে। Zhipu-এর GLM-5.2, অন্যান্য স্বল্প-মূল্যের চীনা সিস্টেমগুলির সাথে, কীভাবে দ্রুত উন্মুক্ত এবং খোলামেলা উপলব্ধ মডেলগুলি অ্যানথ্রোপিক এবং ওপেনএআই থেকে সীমান্ত মালিকানাধীন সিস্টেমগুলির সাথে ব্যবধানটি বন্ধ করে দিচ্ছে সেদিকে নতুন মনোযোগ আকর্ষণ করেছে৷ যে প্রতিযোগিতামূলক চাপ উন্মুক্ত রিলিজের উপর বিধিনিষেধ প্রভাবশালী সংস্থাগুলিকে সুবিধা দেবে বা সমাজগুলিকে অপব্যবহারের জন্য উন্মুক্ত করবে তা নিয়ে নীতি বিতর্ককে তীব্র করেছে৷

Amodei এর অবস্থানের সমালোচকরা দাবি করেন যে ওপেন-সোর্স AI সীমাবদ্ধ করা অসাবধানতাবশত স্বাধীন উদ্ভাবনকে সীমিত করে বড় প্রযুক্তি সংস্থাগুলিকে প্রবেশ করাতে পারে। তারা আরও নোট করে যে স্বচ্ছতা প্রায়শই গবেষকদের বন্ধ বিকাশের চেয়ে দ্রুত দুর্বলতা সনাক্ত করতে দেয়। এমনকি উন্মুক্ত উন্নয়নের অনেক প্রবক্তারা স্বীকার করেন যে, ক্রমবর্ধমান শক্তিশালী সিস্টেমগুলির জন্য আগের প্রজন্মের সফ্টওয়্যারগুলির তুলনায় শক্তিশালী প্রশাসনিক কাঠামোর প্রয়োজন হতে পারে।

নিয়ন্ত্রক টাইটট্রোপ

বিশ্বজুড়ে সরকারগুলি নতুন এআই প্রবিধানগুলি ওজন করে বলে আলোচনাটি জরুরি হয়ে উঠেছে। নীতিনির্ধারকরা একটি কঠিন ভারসাম্যের মুখোমুখি হন: অত্যধিক বিধিনিষেধ অর্থনৈতিক প্রবৃদ্ধি এবং বৈজ্ঞানিক আবিষ্কারকে ধীর করে দিতে পারে, অপর্যাপ্ত তদারকি সমাজগুলিকে এমন ঝুঁকির সম্মুখীন করতে পারে যা অনুমান করা কঠিন। সেই ভারসাম্য বজায় রাখার জন্য, অ্যামোডেই পরামর্শ দিয়েছেন, সরকার, প্রযুক্তি কোম্পানি, একাডেমিক গবেষক এবং সুশীল সমাজের মধ্যে সহযোগিতা প্রয়োজন।

তার সাক্ষ্য দশকের সংজ্ঞায়িত প্রযুক্তি নীতি বিতর্কগুলির মধ্যে একটিকে তুলে ধরে। কৃত্রিম বুদ্ধিমত্তা আরও সক্ষম হওয়ার সাথে সাথে সমাজকে সিদ্ধান্ত নিতে হবে যে কীভাবে উদ্ভাবনকে উত্সাহিত করা যায় এবং রূপান্তরমূলক সিস্টেমে ব্যাপক অ্যাক্সেসের সাথে যুক্ত বিপদগুলি হ্রাস করা যায়। নিয়ন্ত্রণ, শিল্পের মান, বা আন্তর্জাতিক সহযোগিতার মাধ্যমেই হোক না কেন, ওপেন-সোর্স AI এর উপর আগামী মাসগুলিতে করা পছন্দগুলি কে এই প্রযুক্তিকে নিয়ন্ত্রণ করে এবং এটি কতটা নিরাপদে স্থাপন করা হয় তা আগামী কয়েক বছর ধরে তৈরি করতে পারে।

অ্যানথ্রপিকের জন্য, অবস্থানটি AI সুরক্ষা এবং নিয়ন্ত্রিত প্রকাশের উপর কোম্পানির দীর্ঘস্থায়ী জোরের সাথে সামঞ্জস্যপূর্ণ। কিন্তু উন্মুক্ত মডেলগুলি দ্রুত অগ্রসর হওয়ার সাথে সাথে এবং নিয়ন্ত্রকেরা এখনও ধরার জন্য ঝাঁকুনি দিচ্ছে, অ্যামোডির সতর্কতা এবং ওপেন-সোর্স আন্দোলনের গতির মধ্যে ব্যবধান নীতিনির্ধারকরা যত দ্রুত বন্ধ করতে পারে তার চেয়ে দ্রুত সঙ্কুচিত হতে পারে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →