কৃত্রিম বুদ্ধিমত্তা মডেলগুলি শীঘ্রই জীববিজ্ঞানে দক্ষতা অর্জনের জন্য যথেষ্ট শক্তিশালী হবে, সমান পরিমাপে সুবিধা এবং গুরুতর ঝুঁকি উপস্থাপন করবে, টেনসেন্টের প্রধান এআই বিজ্ঞানী শনিবার হংকং-এ একটি বিরল জনসাধারণের উপস্থিতির সময় সতর্ক করেছিলেন, যখন এআই সিস্টেমগুলি জীবন বিজ্ঞানকে সম্পূর্ণরূপে শোষণ করে তখন কী ঘটে সে সম্পর্কে একটি ক্রমবর্ধমান বিতর্কে তার কণ্ঠস্বর যোগ করে।
"এআই মডেলগুলির সাইবার ক্ষমতা - এবং শীঘ্রই মডেলগুলির জৈব ক্ষমতা - এমন একটি প্রান্তে পৌঁছে যাবে যেখানে এটি আসলে ক্ষতি করা সম্ভব," ইয়াও শুনিউ বলেছেন, টেনসেন্ট হোল্ডিংসের প্রধান এআই বিজ্ঞানী এবং প্রাক্তন ওপেনএআই গবেষক, হংকং অ্যাকাডেমি অফ সায়েন্সেস দ্বারা সহ-আয়োজক একটি বিজ্ঞান সিম্পোজিয়ামে। For more context on this story, see our ongoing AI trends.
একজন ওপেন-ওয়েট অ্যাডভোকেট দায়িত্বের জন্য আহ্বান জানিয়েছেন
ইয়াও-এর সতর্কতা তার উৎসের তুলনায় এর বিষয়বস্তুর জন্য কম উল্লেখযোগ্য। চীনের অন্যতম বৃহত্তম প্রযুক্তি কোম্পানি টেনসেন্ট-এ যোগদানের আগে তিনি ওপেনএআই-এ তার খ্যাতি তৈরি করেছিলেন এবং টেনসেন্ট ওপেন-ওয়েট AI মডেলগুলির সবচেয়ে আক্রমণাত্মক প্রকাশকদের মধ্যে নিজেকে স্থান দিয়েছে — এমন সিস্টেম যার অন্তর্নিহিত প্যারামিটারগুলি সর্বজনীনভাবে প্রকাশ করা হয় এবং যে কেউ ডাউনলোড, পরিবর্তন এবং চালাতে পারে।
এটি তার সহগামী বার্তাটিকে নির্দেশ করে: "সমস্ত চাইনিজ বা যে কোনও উন্মুক্ত মডেল কোম্পানিকে সেই নিরাপত্তা এবং সুরক্ষা উদ্বেগগুলির বিষয়ে খুব দায়িত্বশীল এবং খুব গুরুতর হতে হবে," ইয়াও বলেছেন, SCMP অনুসারে।
এসসিএমপি-এর প্রতিবেদন অনুসারে, এই মূল্যায়নটি আসে যখন ফ্রন্টিয়ার এআই সিস্টেমগুলি ওষুধ এবং জীববিজ্ঞানে ক্রমবর্ধমানভাবে প্রয়োগ করা হচ্ছে, যেখানে তারা নতুন ওষুধ এবং অন্যান্য চিকিত্সার আবিষ্কারকে ত্বরান্বিত করতে পারে - একটি পরিবর্তন যা ইতিমধ্যেই চীনের ওষুধ শিল্পকে নতুন আকার দিচ্ছে, SCMP-এর প্রতিবেদন অনুসারে। নিরাপত্তা বিশেষজ্ঞরা, যাইহোক, দীর্ঘদিন ধরে সতর্ক করেছেন যে একই ক্ষমতাগুলি দূষিত অভিনেতাদের জৈব অস্ত্র তৈরি করতে বা পরবর্তী মহামারী তৈরি করতে সহায়তা করতে পারে - এমন একটি ঝুঁকি যা পুলিশের পক্ষে কঠিন হয়ে ওঠে যখন সক্ষম মডেলগুলিকে ওপেন-ওয়েট সফ্টওয়্যার হিসাবে প্রকাশ করা হয় যা কেউ পাহারী ছাড়াই চালাতে পারে।
AI বিশেষজ্ঞদের মধ্যে জীববিজ্ঞানকে কোডিংয়ের পরের প্রধান সীমানা হিসাবে ব্যাপকভাবে দেখা হয়, এটি এমন একটি ডোমেন যেখানে দ্রুত এআই অগ্রগতি ইতিমধ্যেই বিশ্বব্যাপী সাইবার নিরাপত্তাকে উন্নীত করেছে। সাইবার ক্ষমতার মতো, জৈবিক ক্ষমতাগুলি দ্বৈত-ব্যবহার: একই মডেল যা প্রতিশ্রুতিশীল ড্রাগ প্রার্থীদের ডিজাইন করে, নীতিগতভাবে, আক্রমণকারীকে সহায়তা করতে পারে। কোন পক্ষের সুবিধা বেশি তা নিয়ে অকৃত্রিম বিতর্ক রয়েছে।
টেনসেন্টের নিজস্ব সেফটি প্লেবুক
ইয়াও-এর মন্তব্য অতিরিক্ত ওজন বহন করে কারণ তারা তার নিজের কোম্পানির একটি নতুন ফ্ল্যাগশিপ মডেল পাঠানোর কয়েকদিন পরে এসেছিল। Tencent বুধবার Hy4 প্রকাশ করেছে, যা বেঞ্চমার্কিং ফার্ম কৃত্রিম বিশ্লেষণ অনুসারে চীনে উৎপাদিত দ্বিতীয় সেরা পারফরম্যান্স মডেল হিসাবে স্থান পেয়েছে, SCMP রিপোর্ট করেছে।
তার প্রকাশের ঘোষণায়, Tencent Hy4-এ নির্মিত নিরাপত্তা ব্যবস্থা বর্ণনা করেছে। কোম্পানিটি বলেছে যে তারা প্রশিক্ষণের পর্যায়ে প্রাসঙ্গিক ডেটা ফিল্টার করে সাইবার প্রতিরক্ষা ক্ষমতা বজায় রেখে মডেলের সাইবার হ্যাকিং ক্ষমতা সরিয়ে দিয়েছে। জৈবিক দিক থেকে, টেনসেন্ট বলেছে যে Hy4-এর জৈব ক্ষমতাগুলি তার উচ্চ-ঝুঁকির প্রান্তিকে "ভালভাবে নীচে" রয়ে গেছে কারণ মডেলটি এখনও মৌলিক জৈবিক জ্ঞানকে কার্যকরী প্রোটোকল-এ পরিণত করতে পারেনি - অন্য কথায়, পাঠ্যপুস্তক বোঝার এবং ধাপে ধাপে অপারেশনাল গাইডেন্সের মধ্যে ব্যবধান।
সেই ফ্রেমিং - একটি মডেল সাধারণ জ্ঞানকে ব্যবহারযোগ্য পদ্ধতিতে রূপান্তর করতে পারে কিনা তা পরিমাপ করা - এআই সিস্টেমের জৈব নিরাপত্তা মূল্যায়নের একটি সাধারণ মাপকাঠি হয়ে উঠেছে। টেনসেন্টের দাবি যে Hy4 সেই লাইনের কম পড়ে তা মডেলের নিজস্ব নির্মাতার একটি দাবি, এবং এই ধরনের মূল্যায়নের বাহ্যিক বৈধতা শিল্প জুড়ে সীমিত থাকে।
সময় প্রতিযোগিতামূলক চাপও প্রতিফলিত করে। Tencent Hy4 উন্মোচন করেছে চীনের AI ফার্মগুলির মধ্যে একটি ক্রমবর্ধমান উত্তপ্ত ওপেন-ওয়েট রেসে, ডিপসিক, Z.ai এবং আলিবাবা সহ সাম্প্রতিক সপ্তাহগুলিতে নতুন মডেল শিপিং করেছে, SCMP এর লঞ্চের পূর্ববর্তী কভারেজ অনুসারে। একটি ইকোসিস্টেমে যেখানে ওজন প্রকাশ করা একটি প্রতিযোগিতামূলক প্রয়োজনীয়তা, ইয়াও-এর "খুব দায়িত্বশীল" প্রকাশের অনুশীলনের আহ্বানটি খুব আন্দোলনের মধ্যে নিয়মগুলি সেট করার একটি প্রচেষ্টা হিসাবে পড়ে যা সুরক্ষা পর্যালোচনাগুলিকে প্রয়োগ করা কঠিন করে তোলে।
সতর্কতা থেকে স্বায়ত্তশাসিত ল্যাব পর্যন্ত
যা ইয়াও-এর চেহারাকে বিশেষভাবে আকর্ষণীয় করে তুলেছে তা হল Tencent একই সাথে AI-কে গবেষণাগারের আরও গভীরে ঠেলে দিচ্ছে। কম্পিউটার সায়েন্সের ছাত্রদের একটি কক্ষে সম্বোধন করে, তিনি "স্বায়ত্তশাসিত বিজ্ঞান ল্যাব" এর পরিকল্পনার রূপরেখা দেন যা এআই সিস্টেম ব্যবহার করে জটিল পরীক্ষা-নিরীক্ষার শেষ-থেকে-এন্ড, ইনভার্স প্রোটিন ভাঁজকে কোম্পানী যে ধরনের কাজ লক্ষ্য করছে তার উদাহরণ হিসেবে উল্লেখ করা হয়েছে।
ইয়াও যুক্তি দিয়েছিলেন যে নিরাপদ, সক্ষম বৈজ্ঞানিক এআই-এর প্রযুক্তিগত বাধা সময়ের মধ্যে পড়বে। "আমি মনে করি সমস্ত প্রযুক্তিগত পরিবর্তনগুলি সমাধান করা যেতে পারে - যেখানে এটি কেবল সময়ের ব্যাপার," তিনি এসসিএমপি অনুসারে বলেছিলেন। "আমি মনে করি সবচেয়ে বড় চ্যালেঞ্জ হল সামাজিক এবং সাংগঠনিক।"
ভেন্যুটি বার্তাটির উদ্দিষ্ট শ্রোতাদের আন্ডারস্কোর করেছে: ইয়াও কম্পিউটার সায়েন্সের শিক্ষার্থীদের সাথে পরিপূর্ণ একটি কক্ষের সাথে কথা বলেছেন - জনসংখ্যা সম্ভবত এই মডেলগুলি তৈরি করতে পারে - 2026 ফিউচার সায়েন্স প্রাইজ সপ্তাহে, যা SCMP রিপোর্ট করেছে প্রায় 1,000 অংশগ্রহণকারী।
এই বিভাগটি - সমাধানযোগ্য প্রকৌশল সমস্যা বনাম অমীমাংসিত শাসন সমস্যা - শান্তভাবে প্রশান্ত মহাসাগরের উভয় পাশে AI নির্বাহীদের আদর্শ অবস্থানে পরিণত হচ্ছে। টেনসেন্টের জন্য, এটি একটি প্রতিরক্ষামূলকও: একটি কোম্পানি স্বায়ত্তশাসিত পরীক্ষাগারগুলিতে তার পরবর্তী আইন বাজি ধরে নিয়ন্ত্রকদের বোঝানোর জন্য প্রতিটি প্রণোদনা রয়েছে যে বায়ো-রিস্ক থ্রেশহোল্ডগুলিকে ইঞ্জিনিয়ার করা, অডিট করা এবং খোলা জায়গায় সম্মান করা যেতে পারে।
আপাতত, নিকট-মেয়াদী প্রশ্ন হল ওপেন-ওয়েট মডেলগুলি প্রকাশকারী সংস্থাগুলি সক্ষমতা অতিক্রম করার আগে পরিমাপযোগ্য জৈব-ঝুঁকি থ্রেশহোল্ডগুলি গ্রহণ করবে কিনা — বা পরে৷ ইয়াও-এর সতর্কবার্তা টেনসেন্টকে অন্ততপক্ষে বিশ্বাস করে যে ঘড়ি চলছে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
