एक दो-व्यक्ति अनुसंधान प्रयोगशाला ने लगभग $21,000 में एक टेक्स्ट-टू-इमेज मॉडल को प्रशिक्षित किया है - और इसे पूरी तरह से अनुमेय लाइसेंस के तहत जारी किया है। सह-सीईओ साहिल चोपड़ा और मनु चोपड़ा द्वारा स्थापित लिनम ने 4 नवंबर को एक तकनीकी फील्ड-नोट्स पोस्ट में परिणाम प्रकाशित किए, जिसमें बड़े वीडियो मॉडल के लिए सड़क पर अवधारणा के प्रमाण के रूप में 660 मिलियन नमूनों पर प्रशिक्षित 2-बिलियन-पैरामीटर पिक्सेल-जीआईटी (पी-जीआईटी) मॉडल का विवरण दिया गया। मॉडल कोड और वज़न दोनों Apache 2.0 के अंतर्गत उपलब्ध हैं, एक लाइसेंस जो बिना किसी प्रतिबंध के व्यावसायिक उपयोग की अनुमति देता है। यह इस बहस में एक महत्वपूर्ण डेटा बिंदु है कि सीमांत-गुणवत्ता वाले एआई अनुसंधान की लागत वास्तव में कितनी है, एक विषय जिसे हम अपने [एआई अनुसंधान कवरेज] (https://aibuzzwire.news) में अनुसरण करते हैं।
VAE क्यों छोड़ें?
अधिकांश आधुनिक छवि-पीढ़ी पाइपलाइनें एक अलग वैरिएशनल ऑटोएनकोडर (वीएई) का उपयोग करके छवियों को संपीड़ित करती हैं: वीएई एक छवि को एक कॉम्पैक्ट अव्यक्त स्थान में निचोड़ता है, और उस संपीड़ित स्थान के अंदर एक प्रसार मॉडल उत्पन्न होता है। लिनम की टीम का तर्क है कि श्रम का यह विभाजन चरम सीमा पर पहुंच गया है। अपने लेखन में, उन्होंने नोट किया कि वीएई के पास "संपीड़न की मात्रा पर एक अनुभवजन्य छत है जिसे वे प्राप्त कर सकते हैं," कि संपीड़न को आगे बढ़ाने के लिए पारंपरिक वास्तुकला में पर्याप्त सर्जरी की आवश्यकता होती है, और वीएई के पुनर्निर्माण में सुधार वास्तव में डाउनस्ट्रीम प्रसार मॉडल की पीढ़ियों को खराब कर सकता है।
उनका उत्तर VAE को पूरी तरह से हटा देना है। P-JiT एक पिक्सेल-स्पेस मॉडल है - प्रसार मॉडल सीधे पिक्सेल पर काम करता है और अपने स्वयं के उपयोग के मामले में एक अव्यक्त उद्देश्य-निर्मित सीखता है, एक ही समय में संपीड़ित और उत्पन्न करता है। शर्त यह है कि एंड-टू-एंड प्रशिक्षित एक एकल मॉडल दो विशेष नेटवर्कों के बीच हैंड-ऑफ की तुलना में एक ही गणना से अधिक निचोड़ सकता है।
तकनीकी अदायगी
वास्तुकला का नाम इसके पिरामिड के आकार के टोकनीकरण को दर्शाता है। जहां अधिकांश वर्तमान मॉडल - लिनम एक विशिष्ट उदाहरण के रूप में FLUX-2 का हवाला देते हैं - 16×16 टोकन कटौती का उपयोग करते हैं, P-JiT एक 32×32 टोकन कमी प्राप्त करता है, जो पहले 256×256 छवि के लिए आवश्यक टोकन बजट में 512×512 छवि का प्रतिनिधित्व करता है। यह ध्यान संदर्भ विंडो में 4× कमी का अनुवाद करता है, और ध्यान वास्तव में O(n²) बाधा है जो जेनरेटिव वीडियो के लिए प्रशिक्षण और अनुमान दोनों को महंगा बनाता है।
परिणाम, टीम के स्वयं के माप से: पी-जीआईटी लिनम वी2 की तुलना में 11× कम नमूनों में परिवर्तित होता है, प्रयोगशाला का पिछला मॉडल अधिक मानक वान वीएई प्लस डीआईटी प्रसार नुस्खा पर बनाया गया है। 21 हजार डॉलर की दौड़ - 660 मिलियन प्रशिक्षण नमूने - ने एक ऐसा मॉडल तैयार किया जिसे टीम इसके आकार को देखते हुए आश्चर्यजनक रूप से सक्षम बताती है।
$21K में क्या खरीदा जाता है
रिलीज़ में 249 नमूना छवियां उनके संकेतों के साथ शामिल हैं, जिनमें लोग (57), जानवर (42), इमारतें (20), उत्पाद (43), परिदृश्य (19), और शैलीबद्ध रेंडर (68) शामिल हैं। टीम स्थिति के बारे में स्पष्ट है: यह एक "प्रयोगात्मक रिलीज़" है और उनके वास्तविक लक्ष्य, एक वीडियो मॉडल की ओर एक "कदम का पत्थर" है। नमूने प्रदर्शित करते हैं कि आर्किटेक्चर स्थिर रूप से प्रशिक्षित होता है और पारंपरिक प्रशिक्षण बजट के एक अंश पर सुसंगत छवियां तैयार करता है, न कि यह कि यह गुणवत्ता पर अग्रणी छवि मॉडल से मेल खाता है।
यह लेख इस बात के लिए भी उल्लेखनीय है कि कैसे टीम परिणामों के साथ-साथ विफलता के तरीकों का भी दस्तावेजीकरण करती है। वे अपने मॉडल की सीमाओं को दफनाने के बजाय सीधे फ़ील्ड-नोट्स पोस्ट में गिनाते हैं, छोटी प्रयोगशालाओं के बीच एक आम बात यह है कि जिनकी प्रतिष्ठा विपणन बजट के बजाय विश्वसनीयता पर निर्भर करती है। यह पोस्ट टीम की "रोड टू लिनम वी3" श्रृंखला में चौथी प्रविष्टि है, जो पहले की पुनरावृत्ति पर आधारित है जहां पी-जीआईटी वास्तुकला का पहली बार वर्णन किया गया था - एक चालू तकनीकी लॉग जो बाहरी शोधकर्ताओं को प्रत्येक डिज़ाइन निर्णय का पालन करने देता है, जिसमें वे भी शामिल हैं जो काम नहीं करते थे।
लागत के आंकड़े के संदर्भ के लिए: लिनम के $21K ने 2बी-पैरामीटर मॉडल के 660-मिलियन-सैंपल प्रशिक्षण रन की गणना को कवर किया। यह सीधे तौर पर फ्रंटियर-लैब बजट से तुलनीय नहीं है, जिसमें डेटा अधिग्रहण, स्टाफिंग और कई निरस्त रनों पर प्रयोग शामिल हैं। यह जो स्थापित करता है वह एक सफल, खुले तौर पर प्रलेखित प्रशिक्षण कार्यक्रम की सीमांत लागत है - कई व्यक्तिगत शोधकर्ता और विश्वविद्यालय प्रयोगशालाएं अब वास्तविक रूप से योजना बना सकते हैं।
लाइनम की घोषित महत्वाकांक्षा रचनात्मक उपकरण है जो एनीमेशन तक पहुंच को लोकतांत्रिक बनाती है। आज के जेनरेटिव वीडियो की टीम की आलोचना यह है कि यह बहुत धीमा और महंगा है, और इसमें सूक्ष्म नियंत्रण का अभाव है - उनका तर्क है कि एक संयोजन इसे "कहानी कहने के लिए प्रभावी रूप से बेकार" बनाता है, क्योंकि रचनात्मक कार्य स्वाभाविक रूप से पुनरावृत्त होता है: आप बनाते हैं, आप बदलाव करते हैं, आप बेहतर हो जाते हैं। सस्ता प्रशिक्षण और तेज़ अनुमान, उनके फ़्रेमिंग में, वीडियो निर्माण के लिए पूर्व शर्त है जो वास्तव में एक संपादन वर्कफ़्लो में फिट बैठता है।
छोटी लैब्स, बड़े सिग्नल
यहां प्रदर्शित अर्थशास्त्र एक स्टार्टअप से परे मायने रखता है। प्रशिक्षण रन जो एक बार क्षेत्र की सीमा को परिभाषित करते थे - लाखों डॉलर में मापा जाता था - अब एक विशिष्ट वरिष्ठ इंजीनियर के वार्षिक वेतन से कम खर्च करने वाली दो टीमों द्वारा, संकीर्ण डोमेन में मिलान किया जा रहा है। इस पैमाने पर ओपन-वेट रिलीज़ स्वतंत्र शोधकर्ताओं को संस्थागत समर्थन के बिना ऑडिट, फाइन-ट्यून और उत्पादन-ग्रेड आर्किटेक्चर पर निर्माण करने की क्षमता प्रदान करती है।
चेतावनी देना उचित है: 2बी टेक्स्ट-टू-इमेज मॉडल छवि गुणवत्ता की सीमा से बहुत दूर है, और लिनम के अभिसरण दावे स्वतंत्र रूप से बेंचमार्क किए जाने के बजाय स्व-रिपोर्ट किए गए हैं। लेकिन रिलीज पूरी तरह से प्रतिलिपि प्रस्तुत करने योग्य है - अपाचे 2.0 के तहत कोड और वजन - जिसका अर्थ है कि कोई भी संदेह करने वाला व्यक्ति सीधे दावों को माप सकता है। यह, किसी भी एकल बेंचमार्क से अधिक, वह है जो इस तरह की छोटी-प्रयोगशाला रिलीज़ को देखने लायक बनाता है: प्रमाण डाउनलोड करने योग्य है।
एआई से आगे रहें
यह शोध कि एक समय कॉरपोरेट लैब की आवश्यकता होती थी, अब क्रेडिट कार्ड पर फिट बैठता है। हमारे [एआई अनुसंधान समाचार] (https://aibuzzwire.news) में हर सफलता पर नज़र रखें।
अधिक AI समाचार पढ़ें →
