মাইক্রোসফ্ট রিসার্চের এআই ফ্রন্টিয়ার্স গ্রুপ - অটোজেন এজেন্ট অর্কেস্ট্রেশন ফ্রেমওয়ার্ক এবং ফারা কম্পিউটার-ব্যবহার এজেন্টের পিছনে প্রায় 50-ব্যক্তির ইউনিট - শেষ হয়ে গেছে, এই সপ্তাহে মেশিন লার্নিং গবেষক জন ল্যাংফোর্ডের দ্বারা প্রকাশিত একটি স্পষ্ট প্রথম-ব্যক্তি অ্যাকাউন্ট অনুসারে, যিনি 2023 সালে এমএসআর-এর মধ্যে গ্রুপটি সংগঠিত করেছিলেন। ল্যাংফোর্ড লিখেছেন যে সেপ্টেম্বরের শুরুতে, ল্যাংফোর্ড লিখেছিলেন যে মাইক্রোসফ্ট এআই অনুশীলনে যোগ দিয়েছিলেন। পুনর্গঠন তার গবেষণা এজেন্ডা জন্য কোন ঘর বাকি. পোস্টটি একটি স্নায়ুতে আঘাত করেছে: এটি কয়েক ঘন্টার মধ্যে 300 টিরও বেশি পয়েন্ট নিয়ে হ্যাকার নিউজ শীর্ষে রয়েছে এবং এটি একটি বড় ল্যাবের ভিতরে কীভাবে গবেষণা থেকে স্কেলিংয়ে শিল্পের স্থানান্তর চলছে তার সবচেয়ে বিস্তারিত অন্তর্নিহিত অ্যাকাউন্টগুলির একটি অফার করে৷ আমরা আমাদের AI বিজনেস নিউজ কভারেজ এর ফলাফল ট্র্যাক করছি।
এআই ফ্রন্টিয়ার কী তৈরি করেছে
ল্যাংফোর্ড ChatGPT-এর প্রকাশের কয়েক মাস পরে গ্রুপের উৎপত্তির সন্ধান করেন, যখন তিনি এই সিদ্ধান্তে পৌঁছেছিলেন যে মাইক্রোসফ্টের অভ্যন্তরে অর্থপূর্ণ AI গবেষণার জন্য MSR-এর ঐতিহ্যবাহী মডেলের চেয়ে বেশি কাঠামোর প্রয়োজন। "অন্যান্য গবেষণা গোষ্ঠীগুলি যে পরিমাণ সমর্থন এবং ফোকাস প্রয়োগ করছিল তা যথেষ্ট দুর্দান্ত ছিল যে এমনকি একজন ব্যক্তির দ্বারা অনুসৃত একটি চতুর ধারণার সাথেও এটি দেরিতে এবং অবিশ্বাস্যভাবে পৌঁছানোর সম্ভাবনা ছিল," তিনি লিখেছেন, ব্যাখ্যা করে যে একজন একক গবেষক একটি ধারণা অনুসরণ করার জন্য যথেষ্ট শক্তিশালী ভিত্তিলাইন একত্র করতে পারেননি।
তাই ল্যাংফোর্ড এবং সমমনা সহকর্মীরা প্রায় 50 জনের একটি উপ-সংগঠন হিসাবে এআই ফ্রন্টিয়ার্সকে সংগঠিত করেছিল, ইচ্ছাকৃতভাবে উপরে-নিচে বা নীচে-আপ নয় বরং "অগোছালো মাঝখানে কোথাও।" গ্রুপের সবচেয়ে দৃশ্যমান আউটপুট প্রয়োগ করা হয়েছিল: অটোজেন, একাধিক এআই এজেন্টকে সাজানোর জন্য মাইক্রোসফ্টের বহুল ব্যবহৃত ওপেন-সোর্স ফ্রেমওয়ার্ক এবং ফারা, একটি কম্পিউটার-ব্যবহারকারী এজেন্ট। ল্যাংফোর্ডের বক্তব্যে, "এআইএফ-এর বেশিরভাগ কাজই এজেন্টদের কীভাবে কাজ করা যায় তা খুঁজে বের করা হয়েছিল।"
গ্রুপের মৌলিক গবেষণা কম দৃশ্যমান ছিল। নিউ ইয়র্কের একটি দল যা ল্যাংফোর্ডকে নতুন মূল ক্ষমতা হিসাবে বর্ণনা করেছে তা অনুসরণ করেছিল: একটি "পরবর্তী সুপ্ত" উদ্দেশ্য যা মডেলগুলিকে এক্সট্রাপোলেট করতে সক্ষম করে, ডিওন3 নামক একটি অপ্টিমাইজার যা মুওনে উন্নতি করে এবং একটি "সম্পূর্ণ ব্যান্ডউইথ ট্রান্সফরমার" যা মডেলগুলিকে পুনরাবৃত্তির মাধ্যমে যথেষ্ট শক্তিশালী করে তুলতে ডিজাইন করা হয়েছে৷
গ্রুপটি মাইক্রোসফ্ট রিসার্চের বাকি অংশের সাথে অবকাঠামো ভাগ করে নেওয়ার চেষ্টা করেছে, সমস্ত MSR গবেষকদের জন্য উন্মুক্ত মনোরেপো বজায় রেখে। সেই সংগ্রহস্থলে গত মাসের COLM সম্মেলনে উপস্থাপিত একটি প্রান্ত-স্কেল প্রাক-প্রশিক্ষণ কোডবেস ল্যাংফোর্ড অন্তর্ভুক্ত ছিল — একটি বিশদ বিবরণ যাকে তিনি ছোট বলেছেন, কিন্তু একটি কাজের মডেল-প্রশিক্ষণ পাইপলাইন তৈরি করতে কতটা পরিশ্রম করতে হয় তা তিনি আন্ডারস্কোর করতে ব্যবহার করেন, উল্লেখ্য যে অন্য তিনটি অভ্যন্তরীণ দল ভাগ করা ভিত্তি ছাড়াই একই জিনিসের চেষ্টা করছে।
সেপ্টেম্বর রিওর্গ
সেপ্টেম্বরের শুরুতে, মাইক্রোসফ্ট এআই ফ্রন্টিয়ার্সকে মাইক্রোসফ্ট এআই-তে ভাঁজ করে, এটি অনেক বড় পণ্য বিভাগ যা কোম্পানির ভোক্তা এবং এন্টারপ্রাইজ AI প্রচেষ্টাকে অধিষ্ঠিত করে। কাগজে, ল্যাংফোর্ড স্বীকার করেছেন, পদক্ষেপটি অর্থবহ: দুটি AI সংস্থাকে একত্রিত করা প্রচেষ্টাকে কেন্দ্রীভূত করে, এবং প্রতিটিরই শক্তির অভাব ছিল।
অনুশীলনে, তিনি লিখেছেন, একীভূতকরণ দর্শনের উপর প্রতিষ্ঠিত। ল্যাংফোর্ড মাইক্রোসফ্ট এআই-এর প্রাক্তন ইনফ্লেকশন নেতৃত্ব সম্পর্কে বলেছেন, "সেখানে মূল দর্শনটি স্কেলিং, এবং আক্রমনাত্মকভাবে গবেষণা নয়" - একটি দল যেটি স্টার্টআপ ইনফ্লেকশন এআই থেকে মাইক্রোসফ্টে যোগদান করেছে, যা এখন তার নেতৃত্বে বিভাগের দিকনির্দেশকে আকার দেয়। তার ফলশ্রুতিতে অর্থনীতির কাঠামো ভোঁতা: বড় মডেলগুলি আরও ভাল ভবিষ্যদ্বাণী তৈরি করে এবং "গবেষণায় ফিরে আসার চেয়ে স্কেলে প্রত্যাবর্তন অনেক বেশি অনুমানযোগ্য," তাই একটি স্কেলিং-প্রথম সংস্থা নতুন পদ্ধতির পরিবর্তে ডেটা অর্জন এবং পরিমার্জন করার দিকে মনোনিবেশ করে৷
এই ফোকাসটি, তিনি যুক্তি দেন, এআই ফ্রন্টিয়ার্স যে মৌলিক কাজটি করছিল তা থেকে "বেশ এক ধাপ দূরে" - এবং দার্শনিক অমিলের বাইরে, তিনি বলেছেন যে স্বাগত ছিল সর্বোত্তমভাবে উষ্ণ। "প্রচুর প্রমাণ ছিল যে তারা আসলেই আমাদের চায়নি," ল্যাংফোর্ড লেখেন, পরিস্থিতিটিকে "নিজেকে খুঁজে পাওয়া কঠিন" বলে অভিহিত করেছেন। তিনি ট্রেড-অফ সম্পর্কে তার নিজস্ব দৃষ্টিভঙ্গি ছাড়েন না, স্কেলিং-অনলি পন্থাটিকে ভুল নির্দেশিত হিসাবে বর্ণনা করেন, যদিও সম্পূর্ণ যুক্তিটি পোস্টে তিনি স্পষ্টভাবে যে বিন্দুটি করেছেন তার বাইরেও প্রসারিত।
গবেষণা বনাম স্কেলিং, মাইক্রোসফটের বাইরে
ফ্রন্টিয়ার ল্যাবগুলি পণ্যের সময়সীমার পাশাপাশি প্রকৃত গবেষণা সংস্থাগুলিকে টিকিয়ে রাখতে পারে কিনা তা নিয়ে বিস্তৃত শিল্প বিতর্কের মধ্যে প্রবন্ধটি অবতীর্ণ হয়। পণ্য-কেন্দ্রিক নেতৃত্বের অধীনে AI গবেষণাকে একীভূত করার ক্ষেত্রে মাইক্রোসফ্ট খুব কমই একা, কিন্তু ল্যাংফোর্ডের অ্যাকাউন্ট যান্ত্রিক সম্পর্কে অস্বাভাবিকভাবে নির্দিষ্ট: একটি ছোট, উত্পাদনশীল গোষ্ঠী যাকে কর্পোরেট পুনর্গঠনের পরে কোনও আদেশ বা স্বাগত জানানো হয়নি, যার অবকাঠামোগত অবদানগুলি শান্তভাবে শোষিত হয়।
হ্যাকার নিউজের আলোচনা, যেখানে পোস্টটি শত শত মন্তব্য করেছে, মূলত সেই উত্তেজনাকে কেন্দ্র করে — এই ধরনের ময়নাতদন্তগুলি কর্পোরেট AI গবেষণার একটি অনিবার্য পরিপক্কতা বর্ণনা করে, বা একটি কৌশলগত ত্রুটি যেখানে ল্যাবগুলি অনুমানযোগ্য স্কেলিং লাভের জন্য টেকসই পদ্ধতিগত সুবিধার ব্যবসা করে। মন্তব্যকারীরা এই বিড়ম্বনাকেও পতাকাঙ্কিত করেছেন যে অটোজেন, এআই ফ্রন্টিয়ারের স্বাক্ষর প্রকল্পগুলির মধ্যে একটি, এজেন্ট-অর্কেস্ট্রেশন বিভাগকে সংজ্ঞায়িত করতে সাহায্য করেছে যা এখন এন্টারপ্রাইজ এআই রোডম্যাপগুলিতে আধিপত্য বিস্তার করে।
মাইক্রোসফ্টের জন্য, পর্বটি ব্যবহারিক প্রভাব সহ একটি নামী পাদটীকা। কোম্পানিটি মাইক্রোসফ্ট এআই এর শিপিং ক্যাডেন্সে তার এআই কৌশল নির্ধারণ করেছে এবং ল্যাংফোর্ড দাবি করে না যে একীভূত সংস্থা আরও খারাপ পণ্য তৈরি করবে। তার উদ্বেগ আরও সংকীর্ণ এবং আরও স্পষ্ট: যে নতুন ধারণাগুলির জন্য পাইপলাইন - জনগণ, অবকাঠামো, অপ্রমাণিত পদ্ধতির জন্য সহনশীলতা - ঠিক যা একটি স্কেলিং-প্রথম বিভাগ সবচেয়ে কম ব্যবহার করে, যতদিন এটির প্রয়োজন হয়।
ল্যাংফোর্ডের পোস্ট বা পুনর্গঠনের কোনটিই তিনি বর্ণনা করেননি যে পরিবর্তনগুলি ব্যবহারকারীরা আজ যা দেখেন, তবে তারা স্পষ্ট করে যে মাইক্রোসফ্ট এখন কীভাবে তার এআই বাজি বাছাই করে। স্কেল মধ্যে পরিণত করা যেতে পারে যে গবেষণা; গবেষণা যা স্কেল মানে কি পরিবর্তন করতে পারে, সর্বোত্তমভাবে, পরীক্ষায়। ল্যাংফোর্ড এটিকে পোস্টের শিরোনামে রেখেছেন, এটি এআই ফ্রন্টিয়ারের সমাপ্তি — এবং কর্পোরেট এআই গবেষণা কীসের জন্য যুক্তিতে একটি ডেটা পয়েন্ট।
এআই থেকে এগিয়ে থাকুন
এআই-এর ব্যবসা রিয়েল টাইমে নতুন করে লেখা হচ্ছে, এবং ল্যাবগুলির মধ্যে গৃহীত সিদ্ধান্তগুলি মাইক্রোসফ্টের আকারে অন্য সকলের উত্তরাধিকার সূত্রে প্রাপ্ত সরঞ্জামগুলির মতো। আমাদের এআই নিউজ কভারেজ প্রতিটি উন্নয়ন অনুসরণ করুন।
আরও এআই খবর পড়ুন →
