មន្ទីរពិសោធន៍ស្រាវជ្រាវដែលមានមនុស្សពីរនាក់បានបណ្តុះបណ្តាលគំរូអត្ថបទទៅរូបភាពក្នុងតម្លៃប្រហែល $21,000 — ហើយបានចេញផ្សាយវាក្រោមអាជ្ញាប័ណ្ណអនុញ្ញាតពេញលេញ។ Linum បង្កើតឡើងដោយសហនាយកប្រតិបត្តិ Sahil Chopra និង Manu Chopra បានបោះពុម្ភលទ្ធផលកាលពីថ្ងៃទី 4 ខែវិច្ឆិកា នៅក្នុងការប្រកាសកំណត់ចំណាំផ្នែកបច្ចេកទេស ដោយរៀបរាប់លម្អិតអំពីគំរូ 2-billion-parameter Pixel-JiT (P-JiT) ដែលត្រូវបានបណ្តុះបណ្តាលលើគំរូចំនួន 660 លានជាភស្តុតាងនៃគំនិតនៅលើផ្លូវទៅកាន់ម៉ូដែលវីដេអូធំ។ ទាំងលេខកូដម៉ូដែល និងទម្ងន់គឺអាចរកបាននៅក្រោម Apache 2.0 ដែលជាអាជ្ញាប័ណ្ណដែលអនុញ្ញាតឱ្យប្រើប្រាស់ពាណិជ្ជកម្មដោយគ្មានការរឹតបន្តឹង។ វាគឺជាចំណុចទិន្នន័យដ៏គួរឱ្យចាប់អារម្មណ៍មួយនៅក្នុងការពិភាក្សាអំពីថាតើការស្រាវជ្រាវ AI ដែលមានគុណភាពព្រំដែនពិតប្រាកដមានតម្លៃប៉ុន្មាន ដែលជាប្រធានបទដែលយើងធ្វើតាមនៅក្នុង [ការគ្របដណ្តប់លើការស្រាវជ្រាវ AI] (https://aibuzzwire.news) របស់យើង។
ហេតុអ្វីត្រូវរំលង VAE?
បំពង់បង្កើតរូបភាពទំនើបភាគច្រើនបង្រួមរូបភាពដោយប្រើ កម្មវិធីបំរែបំរួលដោយស្វ័យប្រវត្តិ (VAE) ដាច់ដោយឡែក៖ VAE ច្របាច់រូបភាពចូលទៅក្នុងលំហរលាក់តូចមួយ ហើយគំរូនៃការសាយភាយបង្កើតនៅខាងក្នុងចន្លោះដែលបានបង្ហាប់នោះ។ ក្រុមរបស់ Linum លើកឡើងថា ការបែងចែកការងារនេះបានប៉ះពាល់ដល់ពិដាន។ នៅក្នុងការសរសេររបស់ពួកគេ ពួកគេកត់សម្គាល់ថា VAEs "ហាក់ដូចជាមានពិដានជាក់ស្តែងលើបរិមាណនៃការបង្ហាប់ដែលពួកគេអាចសម្រេចបាន" ដែលការជំរុញការបង្ហាប់បន្ថែមតម្រូវឱ្យមានការវះកាត់យ៉ាងច្រើនចំពោះស្ថាបត្យកម្មប្រពៃណី ហើយការកែលម្អការស្ថាបនាឡើងវិញរបស់ VAE ពិតជាអាចធ្វើឱ្យកាន់តែអាក្រក់ដល់ជំនាន់នៃគំរូនៃការសាយភាយចុះក្រោម។
ចម្លើយរបស់ពួកគេគឺត្រូវដក VAE ចេញទាំងស្រុង។ P-JiT គឺជាគំរូទំហំភីកសែល — គំរូនៃការសាយភាយដំណើរការដោយផ្ទាល់លើភីកសែល និងរៀនពីគោលបំណងដែលមិនទាន់បានបង្កើតឡើងសម្រាប់ករណីប្រើប្រាស់ផ្ទាល់ខ្លួន ការបង្ហាប់ និងបង្កើតក្នុងពេលតែមួយ។ ការភ្នាល់គឺថាគំរូតែមួយដែលត្រូវបានបណ្តុះបណ្តាលពីចុងដល់ចប់អាចច្របាច់ចេញពីការគណនាដូចគ្នាជាជាងការចែកដៃរវាងបណ្តាញឯកទេសពីរ។
ការទូទាត់តាមបច្ចេកទេស
ឈ្មោះស្ថាបត្យកម្មសំដៅទៅលើនិមិត្តសញ្ញារាងពីរ៉ាមីតរបស់វា។ ដែលជាកន្លែងដែលម៉ូដែលបច្ចុប្បន្នភាគច្រើន — Linum ដកស្រង់ FLUX-2 ជាឧទាហរណ៍ធម្មតា — ប្រើការកាត់បន្ថយសញ្ញាសម្ងាត់ 16×16 P-JiT សម្រេចបាននូវការកាត់បន្ថយសញ្ញាសម្ងាត់ 32×32 ដែលតំណាងឱ្យរូបភាព 512×512 នៅក្នុងថវិកានិមិត្តសញ្ញាដែលពីមុនត្រូវការសម្រាប់រូបភាព 256×256។ វាប្រែថាការបន្ថយ 4× នៅក្នុងបង្អួចបរិបទនៃការយកចិត្តទុកដាក់ ហើយការយកចិត្តទុកដាក់គឺពិតជាបញ្ហា O(n²) ដែលធ្វើឱ្យការបណ្តុះបណ្តាល និងការសន្និដ្ឋានមានតម្លៃថ្លៃសម្រាប់វីដេអូទូទៅ។
លទ្ធផល ដោយការវាស់វែងផ្ទាល់ខ្លួនរបស់ក្រុម៖ P-JiT បញ្ចូលគ្នាក្នុង 11 × គំរូតិចជាង ជាង Linum v2 ដែលជាគំរូមុនរបស់មន្ទីរពិសោធន៍ដែលបានបង្កើតឡើងនៅលើរូបមន្តស្ដង់ដារច្រើនជាង Wan VAE បូកនឹងរូបមន្ត DiT diffusion ។ ការរត់ $21K — គំរូហ្វឹកហាត់ចំនួន 660 លាន—បានបង្កើតគំរូមួយដែលក្រុមពិពណ៌នាថាមានសមត្ថភាពគួរឱ្យភ្ញាក់ផ្អើលដែលមានទំហំរបស់វា។
$21K ទិញអីខ្លះ?
ការចេញផ្សាយនេះរួមមាន រូបភាពគំរូ 249 ជាមួយនឹងការជម្រុញរបស់ពួកគេ លាតសន្ធឹងលើមនុស្ស (57) សត្វ (42) អគារ (20) ផលិតផល (43) ទេសភាព (19) និងការបង្ហាញទាន់សម័យ (68)។ ក្រុមការងារមានភាពស្មោះត្រង់អំពីទីតាំង៖ នេះគឺជា "ការចេញផ្សាយសាកល្បង" និង "បោះជំហាន" ឆ្ពោះទៅរកគោលដៅពិតប្រាកដរបស់ពួកគេ ដែលជាគំរូវីដេអូ។ គំរូបង្ហាញថាស្ថាបត្យកម្មហ្វឹកហាត់ស្ថិរភាព និងបង្កើតរូបភាពដែលស៊ីសង្វាក់គ្នានៅប្រភាគនៃថវិកាបណ្តុះបណ្តាលធម្មតា មិនមែនថាវាត្រូវគ្នានឹងគំរូរូបភាពព្រំដែនលើគុណភាពនោះទេ។
ការសរសេរឡើងក៏គួរឱ្យកត់សម្គាល់ផងដែរចំពោះរបៀបដែលក្រុមកត់ត្រារបៀបបរាជ័យរួមជាមួយនឹងលទ្ធផល។ ពួកគេបានរាប់បញ្ចូលដែនកំណត់នៃគំរូរបស់ពួកគេដោយផ្ទាល់នៅក្នុងការប្រកាសកំណត់ចំណាំជាជាងការកប់ពួកវា ដែលជាការអនុវត្តទូទៅកាន់តែខ្លាំងឡើងក្នុងចំណោមមន្ទីរពិសោធន៍តូចៗដែលកេរ្តិ៍ឈ្មោះអាស្រ័យលើភាពជឿជាក់ជាជាងថវិកាទីផ្សារ។ ការប្រកាសនេះគឺជាធាតុទី 4 នៅក្នុងស៊េរី "Road to Linum v3" របស់ក្រុម ដោយបង្កើតនៅលើការនិយាយឡើងវិញមុនដែលស្ថាបត្យកម្ម P-JiT ត្រូវបានពិពណ៌នាជាលើកដំបូង — កំណត់ហេតុបច្ចេកទេសដែលកំពុងដំណើរការដែលអនុញ្ញាតឱ្យអ្នកស្រាវជ្រាវខាងក្រៅធ្វើតាមការសម្រេចចិត្តរចនានីមួយៗ រួមទាំងអ្វីដែលមិនដំណើរការផងដែរ។
សម្រាប់បរិបទលើតួលេខតម្លៃ៖ 21K ដុល្លាររបស់ Linum គ្របដណ្តប់លើការគណនាសម្រាប់ការហ្វឹកហាត់គំរូ 660 លាននៃគំរូ 2B-parameter ។ នោះមិនអាចប្រៀបធៀបដោយផ្ទាល់ទៅនឹងថវិការមន្ទីរពិសោធន៍ព្រំដែន ដែលលាតសន្ធឹងលើការទទួលបានទិន្នន័យ បុគ្គលិក និងការពិសោធន៍លើដំណើរការដែលបានលុបចោលជាច្រើន។ អ្វីដែលវាបង្កើតឡើងគឺតម្លៃតិចតួចនៃការរត់ការបណ្តុះបណ្តាលដែលបានកត់ត្រាដោយបើកចំហដែលជោគជ័យ — អ្នកស្រាវជ្រាវបុគ្គលមួយចំនួននិងបន្ទប់ពិសោធន៍នៅសាកលវិទ្យាល័យឥឡូវអាចធ្វើផែនការជាក់ស្តែងបានហើយ។
មហិច្ឆតាដែលបានបញ្ជាក់របស់ Linum គឺ ឧបករណ៍ច្នៃប្រឌិតដែលធ្វើប្រជាធិបតេយ្យដល់ការចូលប្រើគំនូរជីវចល។ ការរិះគន់របស់ក្រុមចំពោះវីដេអូដែលបង្កើតនាពេលបច្ចុប្បន្ននេះគឺថាវាយឺតពេក និងថ្លៃ ហើយខ្វះការគ្រប់គ្រងល្អិតល្អន់ — ការរួមបញ្ចូលគ្នាដែលពួកគេប្រកែកថាវា "គ្មានប្រយោជន៍សម្រាប់ការនិទានរឿង" ដោយសារតែការងារច្នៃប្រឌិតគឺមានលក្ខណៈដដែលៗ៖ អ្នកបង្កើត អ្នកកែប្រែ អ្នកកាន់តែប្រសើរឡើង។ ការបណ្តុះបណ្តាលដែលមានតម្លៃថោក និងការសន្និដ្ឋានលឿនជាងនេះ គឺនៅក្នុងស៊ុមរបស់ពួកគេ លក្ខខណ្ឌជាមុនសម្រាប់ការបង្កើតវីដេអូ ដែលពិតជាសាកសមនឹងដំណើរការកែសម្រួល។
មន្ទីរពិសោធន៍តូច សញ្ញាធំ
សេដ្ឋកិច្ចដែលបង្ហាញនៅទីនេះគឺសំខាន់លើសពីការចាប់ផ្តើមមួយ។ ការបណ្ដុះបណ្ដាលដែលធ្លាប់បានកំណត់ព្រំដែននៃវាល — វាស់ជារាប់លានដុល្លារ — ឥឡូវនេះត្រូវបានផ្គូផ្គងនៅក្នុងដែនតូចចង្អៀត ដោយក្រុមពីរដែលចំណាយតិចជាងប្រាក់ខែប្រចាំឆ្នាំរបស់វិស្វករជាន់ខ្ពស់ធម្មតា។ ការចេញផ្សាយទម្ងន់បើកចំហក្នុងមាត្រដ្ឋាននេះផ្តល់ឱ្យអ្នកស្រាវជ្រាវឯករាជ្យនូវសមត្ថភាពក្នុងការធ្វើសវនកម្ម សម្រួល និងបង្កើតស្ថាបត្យកម្មកម្រិតផលិតកម្មដោយមិនមានការគាំទ្រពីស្ថាប័ន។
ការព្រមានគឺមានភាពយុត្តិធម៌៖ គំរូអត្ថបទទៅរូបភាព 2B គឺនៅឆ្ងាយពីព្រំដែននៃគុណភាពរូបភាព ហើយការអះអាងនៃការបញ្ចូលគ្នារបស់ Linum គឺត្រូវបានរាយការណ៍ដោយខ្លួនឯង ជាជាងការវាយតម្លៃដោយឯករាជ្យ។ ប៉ុន្តែការចេញផ្សាយគឺអាចផលិតឡើងវិញបានពេញលេញ — កូដ និងទម្ងន់ក្រោម Apache 2.0 — ដែលមានន័យថានរណាម្នាក់ដែលសង្ស័យអាចវាស់វែងការទាមទារដោយផ្ទាល់។ នោះ ច្រើនជាងស្តង់ដារតែមួយ គឺជាអ្វីដែលធ្វើឱ្យការចេញផ្សាយរបស់មន្ទីរពិសោធន៍តូចបែបនេះមានតម្លៃមើល៖ ភស្តុតាងគឺអាចទាញយកបាន។
នាំមុខ AI
ការស្រាវជ្រាវដែលធ្លាប់ត្រូវការមន្ទីរពិសោធន៍សាជីវកម្មឥឡូវនេះសមនឹងកាតឥណទាន។ តាមដានរាល់របកគំហើញនៅក្នុង [ព័ត៌មានស្រាវជ្រាវ AI] (https://aibuzzwire.news) របស់យើង។
អានព័ត៌មាន AI បន្ថែម →