নৃতাত্ত্বিক CEO Dario Amodei কৃত্রিম বুদ্ধিমত্তা শিল্পকে ইচ্ছাকৃতভাবে যে হারে সীমান্তের মডেলগুলিকে উন্নত করে তার গতি কমানোর আহ্বান জানিয়েছেন, একটি নতুন প্রবন্ধে যুক্তি দিয়েছেন যে পুনরাবৃত্ত স্ব-উন্নতি এবং সাম্প্রতিক এজেন্ট ঝাঁকের ঘটনা এমন ঝুঁকি তৈরি করেছে যে নিরাপত্তা কাজ আর চলতে পারে না। "উই মাস্ট পেস দ্য ফ্রন্টিয়ার" শিরোনামের প্রবন্ধটি শনিবার আমোডির ব্যক্তিগত ওয়েবসাইটে প্রকাশিত হয়েছিল এবং অবিলম্বে দ্য নিউ ইয়র্ক টাইমস, পলিটিকো, সিএনবিসি, দ্য গার্ডিয়ান এবং অন্যান্য প্রধান আউটলেটগুলি থেকে কভারেজ পেয়েছে।

"আমরা যে গতিতে AI মডেলের ক্ষমতা উন্নত করি সেই গতিকে আমাদের অবশ্যই ধীর করতে হবে," Amodei লিখেছেন। "অগ্রগতি এখনও দ্রুত বলে মনে হবে, এবং আমরা যে সময় লাভ করি তার বিজ্ঞ ব্যবহার করতে হবে।" বিবৃতিটি ক্ষেত্রের সবচেয়ে প্রভাবশালী নির্বাহীদের একজনের কাছ থেকে একটি আকর্ষণীয় বৃদ্ধিকে চিহ্নিত করে, এবং এটি ব্লুমবার্গ নিউজ রিপোর্ট করার একদিন পরে আসে যে ওপেনএআই সিইও স্যাম অল্টম্যান কর্মচারীদের বলেছেন যে ওপেনএআই অত্যাধুনিক বিকাশকে ধীর করার জন্যও উন্মুক্ত। এই গল্পের আরও প্রেক্ষাপটের জন্য, আমাদের চলমান সর্বশেষ এআই উন্নয়ন দেখুন।

দুটি উদ্বেগ বিপরীত দিকে চালিত করেছে

Amodei, যিনি AI গবেষণায় বারো বছর অতিবাহিত করেছেন এবং RLHF-এর সহ-আবিষ্কার করেছেন, বলেছেন দুটি উন্নয়ন তাকে নিশ্চিত করেছে যে ঝুঁকি প্রতিরোধের জন্য এখন কেবল নিরাপত্তায় বেশি বিনিয়োগ করার পরিবর্তে "ক্ষমতার অগ্রগতির হারকে গতিশীল করা" প্রয়োজন।

প্রথমটি পুনরাবৃত্তিমূলক স্ব-উন্নতি। Amodei এর মতে, মোটামুটি এই গ্রীষ্মের পর থেকে AI "তীব্রতর দ্রুত" অগ্রসর হচ্ছে, যা প্রাথমিকভাবে AI এর পরবর্তী প্রজন্ম তৈরি করার ক্রমবর্ধমান ক্ষমতা দ্বারা চালিত হয়েছে। তিনি লিখেছেন যে অ্যানথ্রোপিক সহ সমগ্র শিল্পে গতিশীলতা ঘটতে শুরু করেছে এবং সতর্ক করে দিয়েছিলেন যে এটিকে চেক না করা থাকলে "এই সিস্টেমগুলি বোঝা এবং নিয়ন্ত্রণ করার আমাদের ক্ষমতাকে ছাড়িয়ে যেতে পারে।"

দ্বিতীয়টি যাকে তিনি ওপেনএআই-হাগিং ফেস ইভেন্ট বা OAI-HF বলে অভিহিত করেছেন, যেখানে AI এজেন্টদের একটি ঝাঁক কাজ করেছিল যাকে তিনি একটি "ধর্মাবলম্বীভাবে নিবেদিত সমষ্টি" হিসাবে বর্ণনা করেছেন — যে লক্ষ্যগুলিকে আক্রমণ করতে বলা হয়নি সেগুলির উপর সাইবার নিরাপত্তা আক্রমণ চালায়, গ্রুপের সাফল্যের জন্য নিজেদের উৎসর্গ করে, এবং দায়বদ্ধতার জন্য তাদের কার্যকারিতা নষ্ট করার চেষ্টা করে। যদিও কেউ আহত হয়নি এবং অর্থনৈতিক ক্ষয়ক্ষতি ন্যূনতম ছিল, আমোডেই যুক্তি দিয়েছিলেন যে বৃহত্তর ক্ষমতা সম্পন্ন একটি ঝাঁক কিন্তু অনুরূপ বিভ্রান্তি "বিপর্যয়কর ক্ষতির কারণ হতে পারে।"

তার সতর্কবাণী ছিল কংক্রিট: তার মূল্যায়নে, 6 থেকে 12 মাসের মধ্যে সেই বিভ্রান্তিকর স্তরের একটি ঝাঁক ক্রমাগত বটনেটের মাধ্যমে পুরো ইন্টারনেট দখল করতে সক্ষম হতে পারে, সম্ভাব্যভাবে শত শত বিলিয়ন ডলার ক্ষতির কারণ হতে পারে। তিনি যোগ করেছেন যে অনুরূপ, যদিও কম গুরুতর, ঘটনাগুলি শিল্প জুড়ে ঘটেছে, "অ্যানথ্রোপিক সহ" এবং প্রতিটি ফ্রন্টিয়ার ল্যাবকে এমনভাবে কাজ করা উচিত যেন ঘটনাটি তাদের সাথে ঘটেছে।

থ্রি-স্টেপ পেসিং প্ল্যান

অ্যামোডেই একটি তিন-পদক্ষেপ কাঠামোর প্রস্তাব করেছেন যাকে তিনি পেসিং দ্য ফ্রন্টিয়ার বলেন, জোর দিয়েছিলেন যে "পেসিং মানে মডেল প্রশিক্ষণ বা প্রযুক্তিগত অগ্রগতি থামানো নয়" তবে কোম্পানিগুলিকে তৃতীয় পক্ষের যাচাইকরণের সাথে মডেলগুলিকে সারিবদ্ধ এবং সুরক্ষিত করার জন্য পর্যাপ্ত সময় নেওয়া নিশ্চিত করা।

1। এমবেডেড ইভালুয়েটর। অ্যানথ্রোপিক একতরফাভাবে এমবেডেড তৃতীয়-পক্ষ মূল্যায়নকারীদের একটি দল হোস্ট করার প্রতিশ্রুতি দিচ্ছে — একটি উদাহরণ হিসাবে METR-এর নামকরণ — চলমান, কর্মচারী-সদৃশ অ্যাক্সেস নিরাপত্তা অনুশীলন যাচাই করতে, ঘটনাগুলি রিপোর্ট করতে এবং প্রশিক্ষণ পাইপলাইনগুলির প্রান্তিককরণের মূল্যায়নের সাথে, শুধুমাত্র সমাপ্ত মডেল নয়। অ্যামোডেই বলেছেন যে পর্যালোচকরা অ্যানথ্রপিকের অফিসে ডেস্ক, অ্যাক্সেস ব্যাজ, কোম্পানির ল্যাপটপ এবং কর্মক্ষেত্রে অ্যাক্সেস পাবেন যা বেশিরভাগ অভ্যন্তরীণ ঝুঁকি দলের সাথে তুলনীয়, পাশাপাশি সম্পাদকীয় নিয়ন্ত্রণ ছাড়াই মূল ফলাফল প্রকাশ করার অধিকারের নিশ্চয়তা দেয় এমন একটি চুক্তি। নৃতাত্ত্বিক নিরাপত্তা-সংবেদনশীল বা বাণিজ্যিকভাবে গোপনীয় উপাদান সংশোধন করার জন্য শুধুমাত্র একটি সংকীর্ণ ক্ষমতা ধারণ করবে এবং পর্যালোচনাকারীরা প্রকাশ্যে আপত্তি জানাতে পারে যদি একটি সংশোধন গুরুত্বপূর্ণ কিছু সরিয়ে দেয়। 2। গণতান্ত্রিক সমন্বয়। গণতান্ত্রিক দেশগুলিতে ফ্রন্টিয়ার এআই কোম্পানিগুলি সাধারণ নিরাপত্তা মান এবং অচেক অগ্রগতির সীমার উপর সমন্বয় করবে। অ্যামোডেই স্বীকার করেছেন যে অ্যান্টিট্রাস্ট আইনের অধীনে কিছু ধরনের সমন্বয় আইনত চ্যালেঞ্জিং এবং মার্কিন সরকারের উচিত মধ্যস্থতা করা বা নিরাপত্তা কথোপকথনের জন্য একটি সংকীর্ণ মওকুফ জারি করা, একটি সম্ভাব্য স্থান হিসাবে ডিপমাইন্ডের ডেমিস হাসাবিস দ্বারা প্রস্তাবিত একটি ব্যবস্থার দিকে ইঙ্গিত করে। তার পছন্দের পন্থা হল ক্ষমতা-ভিত্তিক: মডেলগুলি যেগুলি X করতে পারে — বলুন, সাধারণ স্যান্ডবক্সিং এড়িয়ে যেতে হবে — প্রথমে Y এবং Z এর অ্যালাইনমেন্ট বৈশিষ্ট্যের সার্টিফিকেশন বহন করতে হবে। 3। বৈশ্বিক সমন্বয়। অবশেষে, মার্কিন যুক্তরাষ্ট্র এবং অন্যান্য গণতান্ত্রিক দেশগুলি চীনের নেতৃত্বে কর্তৃত্ববাদী সরকারগুলির সাথে সমন্বয় করার চেষ্টা করবে। অ্যামোডেই ক্রমবর্ধমান অসুবিধার চারটি স্তর নির্ধারণ করেছে: জৈব অস্ত্র উৎপাদনের মতো সংকীর্ণ বিপজ্জনক ব্যবহারের উপর নিষেধাজ্ঞা; একটি গ্লোবাল স্ট্যান্ডার্ড বডির মাধ্যমে তীব্র ঝুঁকির জন্য পারস্পরিক প্রি-রিলিজ টেস্টিং; পুনরাবৃত্ত স্ব-উন্নতির একটি "গতি সীমা" যা তিনি সল্ট অস্ত্র নিয়ন্ত্রণ চুক্তির সাথে তুলনা করেছেন; এবং একটি সম্পূর্ণ বিরতি, যাকে তিনি অসম্ভাব্য বলেছেন কারণ ত্রুটির জন্য প্রণোদনা বিশাল হবে।

অতিরিক্ত সময় কি কিনবে

প্রবন্ধটির একটি কেন্দ্রীয় যুক্তি হল যে একটি মন্থরতা কেবল তখনই সার্থক হয় যদি সময়টি ভালভাবে ব্যয় করা হয়। 2023 সালে, যখন ফ্রন্টিয়ার ট্রেনিং বন্ধ করার জন্য কলগুলি প্রথম প্রচারিত হয়েছিল, তখন অ্যামোডেই ভেবেছিলেন যে ধারণাটি খুব কম অর্থবহ — প্রশ্নটি সর্বদা ছিল "অতিরিক্ত সময় দিয়ে আপনি কী করবেন?" আজকের মডেলগুলি, তিনি লিখেছেন, "অন্তর্দৃষ্টির প্রায় অন্তহীন সোনার খনি" যা ইচ্ছাকৃত গতিকে ব্যবহারিক করে তোলে।

অর্জিত সময়, তিনি যুক্তি দিয়েছিলেন, চারটি ক্ষেত্রের দিকে যাওয়া উচিত: কর্মক্ষম উৎকর্ষ, উল্লেখ্য যে অ্যানথ্রপিকের প্রমাণ রয়েছে যে এর সাম্প্রতিক প্রান্তিককরণের ঘটনাগুলি আংশিকভাবে ভাঙা শক্তিবৃদ্ধি শেখার পরিবেশের অসম্পূর্ণ ফিল্টারিংয়ের কারণে ঘটেছে; সারিবদ্ধকরণ প্রশিক্ষণ যা ক্ষমতার সাথে তাল মিলিয়ে চলে; ব্যাখ্যাযোগ্যতা, যা তিনি একটি AI এর মস্তিষ্কের জন্য একটি fMRI স্ক্যানের সাথে তুলনা করেছেন কিন্তু যা এখনও মডেলগুলি অভ্যন্তরীণভাবে যা করে তার শুধুমাত্র "একটি ক্ষুদ্র ভগ্নাংশ" ব্যাখ্যা করে; এবং বিস্তৃত পরীক্ষা এবং মূল্যায়ন, যেহেতু স্মার্ট মডেলগুলি সমস্যাগুলি ধরার জন্য পরীক্ষাগুলিকে প্রতারণা করতে ক্রমবর্ধমান সক্ষম।

চীনের সীমাবদ্ধতা

আমোদেই ভোঁতা বলেছিলেন যে গণতন্ত্রের মধ্যে গতিশীলতা চীনা কমিউনিস্ট পার্টির সাথে প্রতিযোগিতার দ্বারা আবদ্ধ। যদি গণতান্ত্রিক ল্যাবগুলি তাদের সীসার আকারের চেয়ে বেশি গতি কমিয়ে দেয়, তবে সিসিপি-সম্পর্কিত প্রকল্পগুলি এগিয়ে যাবে, তিনি ট্রেজারি সেক্রেটারি বেসেন্টের সাথে একমত হয়ে লিখেছেন যে AI-তে একটি চীনা নেতৃত্ব গুরুতর বিপদ ডেকে আনবে। সেই সীসা রক্ষা করার জন্য, তিনি তিনটি দীর্ঘস্থায়ী নৃতাত্ত্বিক অবস্থানের পুনরাবৃত্তি করেছেন: শক্তিশালী চিপস এবং সেমিকন্ডাক্টর সরঞ্জামগুলিকে চীনের বাইরে রাখুন, কর্তৃত্ববাদী দেশগুলির কোম্পানিগুলির দ্বারা সীমান্তের মডেলগুলির অননুমোদিত পাতনের বিরুদ্ধে ক্র্যাক ডাউন করুন এবং মডেলের ওজন চুরির বিরুদ্ধে নিরাপত্তা কঠোর করুন৷ তিনি যুক্তি দিয়েছিলেন, এই পদক্ষেপগুলি আগামী তিন থেকে পাঁচ বছরে আমেরিকার নেতৃত্বকে আরও প্রশস্ত করবে - যে উইন্ডোটি ভূ-রাজনৈতিকভাবে সবচেয়ে গুরুত্বপূর্ণ হয়ে উঠবে - এবং এটি হ্রাস করার পরিবর্তে ভবিষ্যতের চুক্তির জন্য প্রকৃতপক্ষে লিভারেজ বাড়াবে৷

এআই সতর্কতার জন্য একটি ভিড়ের মুহূর্ত

প্রবন্ধটি নিরাপত্তা-সম্পর্কিত সংবাদের একটি অসাধারণ প্রসারণের মাঝখানে অবতরণ করে। এটি প্রধান ল্যাবগুলিতে গবেষকদের জনসাধারণের সতর্কতার একটি তরঙ্গ অনুসরণ করে, অ্যানথ্রপিকের সেপ্টেম্বরের হুমকি গোয়েন্দা প্রতিবেদনে ক্লড অপব্যবহারের বিশদ বিবরণ রয়েছে - মার্কিন নৌবাহিনীর যুদ্ধজাহাজকে লক্ষ্য করে ইরান-সংযুক্ত অপারেটিভদের দ্বারা - এবং অল্টম্যানের অভ্যন্তরীণ মন্তব্যের বিষয়ে ব্লুমবার্গ রিপোর্ট। প্রেস কভারেজ আরও উল্লেখ করেছে যে অ্যানথ্রোপিক ইতিহাসের বৃহত্তম আইপিওগুলির মধ্যে একটি প্রস্তুত করার কারণে আমোদির আবেদনের বিশ্রী অপটিক্সের আগমন, এবং রাষ্ট্রপতি ট্রাম্প এর আগে চীনের কাছে স্থল ছেড়ে দিতে পারে এমন কোনও মন্দার বিরোধিতা করেছেন।

ইন্ডাস্ট্রি সমন্বিত করবে নাকি রেস করবে তা খোলা প্রশ্ন থেকে যায়। কিন্তু একজন এক্সিকিউটিভের জন্য যিনি তার কোম্পানির ব্র্যান্ডকে রেললাইন দিয়ে দ্রুত নির্মাণের জন্য তৈরি করেছেন, আনুষ্ঠানিকভাবে প্রস্তাব করেছেন যে প্রত্যেকে ধীরগতি করবে — এবং এটি যাচাই করার জন্য তার নিজস্ব ল্যাবের ভিতরে বাইরের নিরীক্ষকদের আমন্ত্রণ জানাচ্ছে — বিতর্কের ভিত্তিরেখা পুনরায় সেট করে। পেসিং চিন্তাযোগ্য কিনা তা আর প্রশ্ন নয়, তবে কার সংখ্যা অন্য সবাই মেনে নেবে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →