ஒரு இரு நபர் ஆராய்ச்சி ஆய்வகம் சுமார் $21,000 க்கு டெக்ஸ்ட்-டு-இமேஜ் மாதிரியைப் பயிற்றுவித்துள்ளது - மேலும் அதை முழு அனுமதி உரிமத்தின் கீழ் வெளியிட்டது. Linum, இணை தலைமை நிர்வாக அதிகாரிகளான சாஹில் சோப்ரா மற்றும் மனு சோப்ரா ஆகியோரால் நிறுவப்பட்டது, நவம்பர் 4 அன்று ஒரு தொழில்நுட்ப புல-குறிப்பு இடுகையில் முடிவுகளை வெளியிட்டது, 2-பில்லியன் அளவுரு Pixel-JiT (P-JiT) மாதிரி 660 மில்லியன் மாதிரிகளில் பயிற்சியளிக்கப்பட்டது மாடல் குறியீடு மற்றும் எடைகள் இரண்டும் அப்பாச்சி 2.0 இன் கீழ் கிடைக்கின்றன, இது தடையின்றி வணிகப் பயன்பாட்டை அனுமதிக்கும் உரிமமாகும். எங்களின் AI ஆராய்ச்சிக் கவரேஜில் நாங்கள் பின்பற்றும் தலைப்பை, எல்லை-தரமான AI ஆராய்ச்சிக்கு உண்மையில் எவ்வளவு செலவாகும் என்பது பற்றிய விவாதத்தில் இது ஒரு குறிப்பிடத்தக்க தரவு புள்ளியாகும்.
ஏன் VAE ஐ தவிர்க்க வேண்டும்?
பெரும்பாலான நவீன இமேஜ்-ஜெனரேஷன் பைப்லைன்கள் ஒரு தனி மாறுபட்ட தன்னியக்க குறியாக்கியை (VAE) பயன்படுத்தி படங்களை சுருக்குகின்றன: VAE ஒரு சிறிய மறைந்த இடத்தில் ஒரு படத்தை அழுத்துகிறது, மேலும் அந்த சுருக்கப்பட்ட இடத்திற்குள் ஒரு பரவல் மாதிரி உருவாகிறது. இந்த உழைப்புப் பிரிவு உச்சவரம்பைத் தாக்கியதாக லினம் குழு வாதிடுகிறது. அவர்கள் எழுதுகையில், VAEக்கள் "அவர்கள் அடையக்கூடிய சுருக்கத்தின் அளவின் மீது அனுபவ உச்சவரம்பைக் கொண்டிருப்பதாகத் தெரிகிறது" என்று அவர்கள் குறிப்பிடுகின்றனர், மேலும் அழுத்தத்தை அழுத்துவதற்கு பாரம்பரிய கட்டிடக்கலைக்கு கணிசமான அறுவை சிகிச்சை தேவைப்படுகிறது, மேலும் VAE இன் மறுகட்டமைப்பை மேம்படுத்துவது கீழ்நிலை பரவல் மாதிரியின் தலைமுறைகளை மோசமாக்கும்.
VAE ஐ முழுவதுமாக அகற்ற வேண்டும் என்பதே அவர்களின் பதில். P-JiT என்பது ஒரு பிக்சல்-ஸ்பேஸ் மாடல் - டிஃப்யூஷன் மாடல் நேரடியாக பிக்சல்களில் இயங்குகிறது மற்றும் அதன் சொந்த உபயோகத்திற்காக உருவாக்கப்பட்ட ஒரு மறைந்த நோக்கத்தைக் கற்றுக்கொள்கிறது, அதே நேரத்தில் சுருக்கி உருவாக்குகிறது. பந்தயம் என்னவென்றால், இரண்டு சிறப்பு நெட்வொர்க்குகளுக்கு இடையில் ஒரு கையை விட்டு வெளியேறுவதை விட, ஒரு ஒற்றை மாதிரி பயிற்சியளிக்கப்பட்ட இறுதி முதல் இறுதி வரை ஒரே கணக்கீட்டில் இருந்து அதிகமாக அழுத்தும்.
தொழில்நுட்ப ஊதியம்
கட்டிடக்கலையின் பெயர் அதன் பிரமிடு வடிவ டோக்கனைசேஷனைக் குறிக்கிறது. பெரும்பாலான தற்போதைய மாடல்கள் - லினம் ஒரு பொதுவான எடுத்துக்காட்டு FLUX-2 ஐ மேற்கோள் காட்டுகிறது - 16×16 டோக்கன் குறைப்பைப் பயன்படுத்துகிறது, P-JiT ஆனது 32×32 டோக்கன் குறைப்பை அடையும், இது 256×256 படத்திற்கு முன்பு தேவைப்படும் டோக்கன் பட்ஜெட்டில் 512×512 படத்தைக் குறிக்கிறது. இது கவனச் சூழல் சாளரத்தில் 4× குறைப்பு என்று மொழிபெயர்க்கிறது, மேலும் கவனம் என்பது துல்லியமாக O(n²) இடையூறாகும், இது வீடியோவை உருவாக்கும் பயிற்சி மற்றும் அனுமானம் ஆகிய இரண்டையும் விலை உயர்ந்ததாக ஆக்குகிறது.
குழுவின் சொந்த அளவீடுகளின்படி முடிவுகள்: P-JiT Linum v2 ஐ விட 11× குறைவான மாதிரிகளில் ஒருங்கிணைக்கிறது, ஆய்வகத்தின் முந்தைய மாதிரியானது மிகவும் நிலையான Wan VAE மற்றும் DiT டிஃப்யூஷன் ரெசிபியில் கட்டமைக்கப்பட்டது. $21K ரன் - 660 மில்லியன் பயிற்சி மாதிரிகள் - குழு அதன் அளவைக் கொண்டு வியக்கத்தக்க வகையில் திறமையானதாக விவரிக்கிறது.
என்ன $21K வாங்குகிறது
வெளியீட்டில் 249 மாதிரி படங்கள் அவற்றின் தூண்டுதல்கள், பரந்து விரிந்த மக்கள் (57), விலங்குகள் (42), கட்டிடங்கள் (20), தயாரிப்புகள் (43), இயற்கைக்காட்சிகள் (19) மற்றும் பகட்டான ரெண்டர்கள் (68) ஆகியவை அடங்கும். அணி நிலைப்படுத்தல் பற்றி நேர்மையாக உள்ளது: இது ஒரு "பரிசோதனை வெளியீடு" மற்றும் அவர்களின் உண்மையான இலக்கை நோக்கிய "படிக்கல்", வீடியோ மாதிரி. கட்டிடக்கலை நிலையான பயிற்சி மற்றும் வழக்கமான பயிற்சி பட்ஜெட்களின் ஒரு பகுதியிலேயே ஒத்திசைவான படங்களை உருவாக்குகிறது என்பதை மாதிரிகள் நிரூபிக்கின்றன, தரத்தில் எல்லைப் பட மாதிரிகளுடன் பொருந்தவில்லை.
முடிவுகளுடன் தோல்வி முறைகளை குழு எவ்வாறு ஆவணப்படுத்துகிறது என்பதற்கும் எழுதுதல் குறிப்பிடத்தக்கது. அவர்கள் தங்கள் மாதிரியின் வரம்புகளை புதைப்பதற்குப் பதிலாக புல குறிப்புகள் இடுகையில் நேரடியாகக் கணக்கிடுகின்றனர், இது சிறிய ஆய்வகங்களிடையே பெருகிய முறையில் பொதுவான நடைமுறையாகும், அதன் நற்பெயர்கள் வரவு செலவுத் திட்டங்களை சந்தைப்படுத்துவதை விட நம்பகத்தன்மையை சார்ந்துள்ளது. இந்த இடுகையானது குழுவின் "Road to Linum v3" தொடரின் நான்காவது நுழைவு ஆகும், P-JiT கட்டிடக்கலை முதலில் விவரிக்கப்பட்ட முந்தைய மறு செய்கையை உருவாக்குகிறது - இயங்கும் தொழில்நுட்ப பதிவு, இது வேலை செய்யாதவை உட்பட ஒவ்வொரு வடிவமைப்பு முடிவையும் வெளிப்புற ஆராய்ச்சியாளர்களை பின்பற்ற அனுமதிக்கிறது.
செலவு எண்ணிக்கையின் சூழலுக்கு: 2B-அளவுரு மாதிரியின் 660 மில்லியன் மாதிரி பயிற்சி ஓட்டத்திற்கான கணக்கீட்டை லினமின் $21K உள்ளடக்கியது. இது ஃபிரான்டியர்-லேப் பட்ஜெட்டுகளுடன் நேரடியாக ஒப்பிட முடியாதது, இது தரவு கையகப்படுத்தல், பணியாளர்கள் மற்றும் பல நிறுத்தப்பட்ட ரன்களில் சோதனைகளை மேற்கொள்ளும். ஒரு வெற்றிகரமான, வெளிப்படையாக ஆவணப்படுத்தப்பட்ட பயிற்சி ஓட்டத்தின் குறைந்தபட்ச செலவை அது நிறுவுகிறது - பல தனிப்பட்ட ஆராய்ச்சியாளர்கள் மற்றும் பல்கலைக்கழக ஆய்வகங்கள் இப்போது யதார்த்தமாக திட்டமிட முடியும்.
அனிமேஷனுக்கான அணுகலை ஜனநாயகப்படுத்தும் ** ஆக்கப்பூர்வமான கருவிகள் என்பது லினமின் கூறப்பட்ட லட்சியம். இன்றைய வீடியோவின் மீதான குழுவின் விமர்சனம் என்னவென்றால், அது மிகவும் மெதுவாகவும் விலை உயர்ந்ததாகவும் உள்ளது, மேலும் நுணுக்கமான கட்டுப்பாடுகள் இல்லை - அவர்கள் வாதிடுவது "கதைசொல்லலுக்கு திறம்பட பயனற்றது" என்று அவர்கள் வாதிடுகின்றனர், ஏனெனில் ஆக்கப்பூர்வமான வேலை இயல்பாகவே மீண்டும் செய்யக்கூடியது: நீங்கள் உருவாக்குங்கள், நீங்கள் மாற்றியமைத்தால், நீங்கள் சிறப்பாக வருவீர்கள். மலிவான பயிற்சி மற்றும் வேகமான அனுமானம், அவற்றின் கட்டமைப்பில், எடிட்டிங் பணிப்பாய்வுக்கு உண்மையில் பொருந்தக்கூடிய வீடியோ உருவாக்கத்திற்கான முன்நிபந்தனையாகும்.
சிறிய ஆய்வகங்கள், பெரிய சிக்னல்கள்
இங்கே காட்சிப்படுத்தப்படும் பொருளாதாரம் ஒரு தொடக்கத்தைத் தாண்டி முக்கியமானது. ஒரு காலத்தில் புலத்தின் எல்லையை வரையறுத்த பயிற்சி ஓட்டங்கள் - மில்லியன் கணக்கான டாலர்களில் அளவிடப்படுகிறது - இப்போது குறுகிய களங்களில், ஒரு வழக்கமான மூத்த பொறியாளரின் ஆண்டு சம்பளத்தை விட குறைவான செலவில் இரண்டு குழுக்களால் பொருத்தப்படுகிறது. இந்த அளவில் திறந்த எடை வெளியீடுகள் சுயாதீன ஆராய்ச்சியாளர்களுக்கு நிறுவன ஆதரவின்றி தணிக்கை, சிறந்த-டியூன் மற்றும் உற்பத்தி-தர கட்டமைப்புகளை உருவாக்குவதற்கான திறனை வழங்குகின்றன.
எச்சரிக்கைகள் கூறுவது நியாயமானது: 2B டெக்ஸ்ட்-டு-இமேஜ் மாதிரியானது படத்தின் தரத்தின் எல்லையில் இருந்து வெகு தொலைவில் உள்ளது, மேலும் லினமின் ஒருங்கிணைப்பு உரிமைகோரல்கள் சுயாதீனமாக தரப்படுத்தப்படுவதற்குப் பதிலாக சுயமாக அறிவிக்கப்படுகின்றன. ஆனால் வெளியீடு முழுவதுமாக மீண்டும் உருவாக்கக்கூடியது - Apache 2.0 இன் கீழ் குறியீடு மற்றும் எடைகள் - அதாவது சந்தேகம் உள்ள எவரும் உரிமைகோரல்களை நேரடியாக அளவிட முடியும். இது, எந்த ஒரு அளவுகோலையும் விட, இது போன்ற சிறிய ஆய்வக வெளியீடுகளை பார்க்கத் தகுந்தது: ஆதாரம் பதிவிறக்கம் செய்யக்கூடியது.
AIக்கு முன்னால் இருங்கள்
ஒரு காலத்தில் கார்ப்பரேட் ஆய்வகத்திற்கு தேவைப்படும் ஆராய்ச்சி இப்போது கிரெடிட் கார்டில் பொருந்துகிறது. எங்களின் AI ஆராய்ச்சி செய்திகளில் ஒவ்வொரு முன்னேற்றத்தையும் கண்காணிக்கவும்.
மேலும் AI செய்திகளைப் படிக்கவும் →
