একটি দুই-ব্যক্তির গবেষণা ল্যাব মোটামুটি $21,000-এর জন্য একটি টেক্সট-টু-ইমেজ মডেলকে প্রশিক্ষিত করেছে — এবং এটি সম্পূর্ণ অনুমোদনযোগ্য লাইসেন্সের অধীনে প্রকাশ করেছে। Linum, সহ-CEOs সাহিল চোপড়া এবং মনু চোপড়া দ্বারা প্রতিষ্ঠিত, 4 নভেম্বর একটি প্রযুক্তিগত ফিল্ড-নোট পোস্টে ফলাফল প্রকাশ করেছে, যেখানে একটি 2-বিলিয়ন-প্যারামিটার Pixel-JiT (P-JiT) মডেল বিস্তারিত রয়েছে বৃহত্তর ভিডিও মডেলের পথে ধারণার প্রমাণ হিসেবে 660 মিলিয়ন নমুনার উপর প্রশিক্ষিত। মডেল কোড এবং ওজন উভয়ই Apache 2.0**-এর অধীনে উপলব্ধ, একটি লাইসেন্স যা সীমাবদ্ধতা ছাড়াই বাণিজ্যিক ব্যবহারের অনুমতি দেয়। ফ্রন্টিয়ার কোয়ালিটির AI গবেষণায় আসলে কত খরচ হয় তা নিয়ে বিতর্কে এটি একটি আকর্ষণীয় ডেটা পয়েন্ট, যে বিষয় আমরা আমাদের AI গবেষণা কভারেজ এ অনুসরণ করি।
কেন VAE এড়িয়ে যাবেন?
বেশিরভাগ আধুনিক ইমেজ-জেনারেশন পাইপলাইনগুলি একটি পৃথক ভেরিয়েশনাল অটোএনকোডার (VAE) ব্যবহার করে ছবিগুলিকে সংকুচিত করে: VAE একটি চিত্রকে একটি কম্প্যাক্ট সুপ্ত স্থানের মধ্যে চাপ দেয় এবং একটি ডিফিউশন মডেল সেই সংকুচিত স্থানের ভিতরে তৈরি করে। লিনামের দল যুক্তি দেয় যে শ্রমের এই বিভাজনটি সিলিংয়ে আঘাত করেছে। তাদের লেখার মধ্যে, তারা নোট করে যে VAEs "তারা যে পরিমাণ কম্প্রেশন অর্জন করতে পারে তার উপর একটি অভিজ্ঞতামূলক সিলিং আছে বলে মনে হচ্ছে," যে কম্প্রেশনকে ঠেলে দেওয়ার জন্য প্রথাগত স্থাপত্যে যথেষ্ট সার্জারি প্রয়োজন, এবং একটি VAE এর পুনর্গঠন উন্নত করা আসলে ডাউনস্ট্রিম ডিফিউশন মডেলের প্রজন্মকে খারাপ করতে পারে।
তাদের উত্তর হল সম্পূর্ণভাবে VAE অপসারণ করা। P-JiT হল একটি পিক্সেল-স্পেস মডেল — ডিফিউশন মডেলটি সরাসরি পিক্সেলের উপর কাজ করে এবং একই সময়ে কম্প্রেসিং এবং জেনারেট করার জন্য নিজস্ব ব্যবহারের ক্ষেত্রে তৈরি একটি সুপ্ত উদ্দেশ্য শেখে। বাজি হল যে একটি একক মডেল প্রশিক্ষিত এন্ড-টু-এন্ড দুটি বিশেষায়িত নেটওয়ার্কের মধ্যে একটি হ্যান্ড-অফের চেয়ে একই কম্পিউট থেকে আরও বেশি কিছু বের করতে পারে।
প্রযুক্তিগত অর্থ প্রদান
স্থাপত্যের নামটি এর পিরামিড-আকৃতির টোকেনাইজেশনকে নির্দেশ করে। যেখানে বেশিরভাগ বর্তমান মডেল — Linum একটি সাধারণ উদাহরণ হিসাবে FLUX-2কে উল্লেখ করেছে — একটি 16×16 টোকেন হ্রাস ব্যবহার করে, P-JiT একটি 32×32 টোকেন হ্রাস অর্জন করে, টোকেন বাজেটে একটি 512×512 চিত্রকে উপস্থাপন করে যা পূর্বে 256×256 ছবির জন্য প্রয়োজন ছিল৷ এটি মনোযোগের প্রসঙ্গ উইন্ডোতে 4× হ্রাসে অনুবাদ করে, এবং মনোযোগ অবিকল O(n²) বাধা যা জেনারেটিভ ভিডিওর জন্য প্রশিক্ষণ এবং অনুমান উভয়কেই ব্যয়বহুল করে তোলে।
ফলাফল, দলের নিজস্ব পরিমাপ দ্বারা: P-JiT লিনাম v2-এর তুলনায় 11× কম নমুনায় একত্রিত হয়, ল্যাবের আগের মডেলটি আরও স্ট্যান্ডার্ড Wan VAE প্লাস DiT ডিফিউশন রেসিপিতে তৈরি। $21K রান - 660 মিলিয়ন প্রশিক্ষণের নমুনা - একটি মডেল তৈরি করেছে যা দলটি তার আকারের কারণে আশ্চর্যজনকভাবে সক্ষম হিসাবে বর্ণনা করেছে।
$21K কি কিনছে
রিলিজে রয়েছে ২৪৯ নমুনা চিত্র তাদের প্রম্পট সহ, বিস্তৃত মানুষ (৫৭), প্রাণী (৪২), বিল্ডিং (২০), পণ্য (৪৩), ল্যান্ডস্কেপ (১৯), এবং স্টাইলাইজড রেন্ডার (৬৮)। দলটি অবস্থান সম্পর্কে স্পষ্ট: এটি একটি "পরীক্ষামূলক প্রকাশ" এবং তাদের আসল লক্ষ্য, একটি ভিডিও মডেলের দিকে একটি "পদক্ষেপ"। নমুনাগুলি দেখায় যে আর্কিটেকচার স্থিরভাবে প্রশিক্ষণ দেয় এবং প্রচলিত প্রশিক্ষণ বাজেটের একটি ভগ্নাংশে সুসংগত চিত্র তৈরি করে, এটি মানের দিক থেকে সীমান্ত চিত্র মডেলের সাথে মেলে না।
ফলাফলের পাশাপাশি দল কীভাবে ব্যর্থতার মোড নথিভুক্ত করে তার জন্যও লেখাটি উল্লেখযোগ্য। তারা তাদের মডেলের সীমাবদ্ধতাগুলিকে কবর দেওয়ার পরিবর্তে সরাসরি ফিল্ড-নোট পোস্টে গণনা করে, ছোট ল্যাবগুলির মধ্যে একটি ক্রমবর্ধমান সাধারণ অভ্যাস যার খ্যাতি বিপণন বাজেটের পরিবর্তে বিশ্বাসযোগ্যতার উপর নির্ভর করে। পোস্টটি টিমের "রোড টু লিনাম v3" সিরিজের চতুর্থ এন্ট্রি, একটি আগের পুনরাবৃত্তির উপর ভিত্তি করে যেখানে P-JiT আর্কিটেকচারটি প্রথম বর্ণনা করা হয়েছিল — একটি চলমান প্রযুক্তিগত লগ যা বাইরের গবেষকদের প্রতিটি ডিজাইনের সিদ্ধান্ত অনুসরণ করতে দেয়, যেগুলি কাজ করেনি সহ।
খরচের চিত্রের প্রেক্ষাপটের জন্য: Linum এর $21K 2B-প্যারামিটার মডেলের একটি 660-মিলিয়ন-নমুনা প্রশিক্ষণের জন্য গণনাকে কভার করেছে। এটি ফ্রন্টিয়ার-ল্যাব বাজেটের সাথে সরাসরি তুলনীয় নয়, যা অনেকগুলি বাতিল করা রানের উপর ডেটা অর্জন, স্টাফিং এবং পরীক্ষা-নিরীক্ষা করে। এটি যা প্রতিষ্ঠা করে তা হল একটি সফল, খোলাখুলিভাবে নথিভুক্ত প্রশিক্ষণ চালানোর প্রান্তিক খরচ - অনেকগুলি পৃথক গবেষক এবং বিশ্ববিদ্যালয়ের ল্যাবগুলি এখন বাস্তবসম্মতভাবে পরিকল্পনা করতে পারে।
লিনুমের বিবৃত উচ্চাকাঙ্ক্ষা হল সৃজনশীল সরঞ্জাম যা অ্যানিমেশনে অ্যাক্সেসকে গণতন্ত্রীকরণ করে। আজকের জেনারেটিভ ভিডিওর দলের সমালোচনা হল যে এটি খুব ধীর এবং ব্যয়বহুল, এবং সূক্ষ্ম-দানাযুক্ত নিয়ন্ত্রণের অভাব রয়েছে — একটি সংমিশ্রণ তারা যুক্তি দেয় যে এটিকে "গল্প বলার জন্য কার্যকরভাবে অকেজো" রেন্ডার করে, যেহেতু সৃজনশীল কাজ স্বাভাবিকভাবেই পুনরাবৃত্তিমূলক: আপনি তৈরি করেন, আপনি টুইক করেন, আপনি আরও ভাল হন। সস্তা প্রশিক্ষণ এবং দ্রুত অনুমান, তাদের ফ্রেমিংয়ে, ভিডিও তৈরির পূর্বশর্ত যা আসলে একটি সম্পাদনা কর্মপ্রবাহের সাথে খাপ খায়।
ছোট ল্যাব, বড় সিগন্যাল
এখানে প্রদর্শিত অর্থনীতি একটি স্টার্টআপের বাইরে গুরুত্বপূর্ণ। প্রশিক্ষণ রান যা একসময় মাঠের সীমানা নির্ধারণ করত — লক্ষ লক্ষ ডলারে পরিমাপ করা হয়েছিল — এখন মিলিত হচ্ছে, সংকীর্ণ ডোমেনে, একজন সাধারণ সিনিয়র ইঞ্জিনিয়ারের বার্ষিক বেতনের চেয়ে কম খরচ করে দুজনের দল। এই স্কেলে ওপেন-ওয়েট রিলিজগুলি স্বাধীন গবেষকদেরকে প্রাতিষ্ঠানিক ব্যাকিং ছাড়াই প্রোডাকশন-গ্রেড আর্কিটেকচারের অডিট, সূক্ষ্ম-সুর এবং নির্মাণের ক্ষমতা দেয়।
সতর্কতাগুলি বলার জন্য ন্যায্য: একটি 2B পাঠ্য-টু-ইমেজ মডেল চিত্রের মানের সীমানা থেকে অনেক দূরে, এবং লিনুমের অভিসার দাবিগুলি স্বাধীনভাবে বেঞ্চমার্কের পরিবর্তে স্ব-প্রতিবেদিত। কিন্তু রিলিজ সম্পূর্ণরূপে পুনরুত্পাদনযোগ্য — কোড এবং Apache 2.0-এর অধীনে ওজন — যার মানে সন্দেহবাদী যে কেউ সরাসরি দাবিগুলি পরিমাপ করতে পারে৷ এটি, যে কোনও একক বেঞ্চমার্কের চেয়ে বেশি, এটিই ছোট-ল্যাব রিলিজগুলিকে দেখার মতো করে তোলে: প্রমাণটি ডাউনলোডযোগ্য।
এআই থেকে এগিয়ে থাকুন
গবেষণা যা একসময় কর্পোরেট ল্যাবের প্রয়োজন ছিল এখন ক্রেডিট কার্ডে ফিট করে। আমাদের AI রিসার্চ নিউজ এর প্রতিটি ব্রেকথ্রু ট্র্যাক করুন।
আরও এআই খবর পড়ুন →
