តម្លៃដែលកើនឡើងលឿនបំផុតក្នុងបញ្ញាសិប្បនិម្មិតប្រហែលមិនមែនជាបន្ទះឈីបទេ—វាអាចជាអគ្គិសនីដែលចិញ្ចឹមពួកគេ។ កាលពីថ្ងៃទី 12 ខែតុលា សាកលវិទ្យាល័យ Michigan បានប្រកាសថា NVIDIA ដែលជាក្រុមហ៊ុនកុំព្យូទ័រ AI ដ៏លេចធ្លោរបស់ពិភពលោក កំពុងវាយតម្លៃពីរបៀបបន្ថែមឧបករណ៍សន្សំថាមពល U-M ពីរទៅ Megatron-LM ដែលជាវេទិកាប្រភពបើកចំហដែលប្រើប្រាស់យ៉ាងទូលំទូលាយរបស់ NVIDIA សម្រាប់បណ្តុះបណ្តាលគំរូភាសាធំៗ។ យោងតាមសាកលវិទ្យាល័យ កម្មវិធីនេះអាចកាត់បន្ថយថាមពលដែលត្រូវការដើម្បីបណ្តុះបណ្តាល AI ដល់ទៅ 50% ដោយមិនប៉ះពាល់ដល់ល្បឿនហ្វឹកហាត់ ឬដំណើរការគំរូ។
ព័ត៌មានមានសារៈសំខាន់លើសពីកំណត់ត្រាបោះពុម្ពរបស់មន្ទីរពិសោធន៍មួយ។ Megatron-LM មិនមែនជាមូលដ្ឋានកូដស្រាវជ្រាវពិសេសនោះទេ៖ ក្រុមហ៊ុនអាចប្រើវាដោយផ្ទាល់ ឬជាមូលដ្ឋានគ្រឹះសម្រាប់វេទិកាបណ្តុះបណ្តាលឯកជនផ្ទាល់ខ្លួនរបស់ពួកគេ ហើយវាគឺជាវេទិកាដែលប្រើដើម្បីបណ្តុះបណ្តាលម៉ូដែល Nemotron របស់ NVIDIA ដែលអ្នកប្រើប្រាស់អាចទាញយកនៅលើផ្នែករឹងរបស់ពួកគេផ្ទាល់។ ប្រសិនបើឧបករណ៍ U-M បង្កើតវាទៅជា Megatron-LM ការកែលម្អប្រសិទ្ធភាពដែលត្រូវបានបង្កើតឡើងនៅក្នុងមន្ទីរពិសោធន៍សិក្សានឹងផ្សព្វផ្សាយទៅក្នុងចំណែកដ៏ធំនៃដំណើរការបណ្តុះបណ្តាល AI របស់ពិភពលោក។ សម្រាប់ការគ្របដណ្តប់ដែលកំពុងបន្តនៃការប្រណាំងហេដ្ឋារចនាសម្ព័ន្ធនៅពីក្រោយ AI សូមតាមដានការអភិវឌ្ឍន៍ AI ចុងក្រោយបង្អស់នៅលើគេហទំព័ររបស់យើង។
អ្វីដែល Kareus និង Perseus ពិតជាធ្វើ
ឧបករណ៍ទាំងពីរវាយប្រហារប្រភពផ្សេងគ្នានៃកាកសំណល់នៅក្នុងការបណ្តុះបណ្តាលដែលបានចែកចាយ និងជង់សន្សំរបស់ពួកគេ។
Perseus៖ គ្រប់គ្រងល្បឿនដំណើរការ
Perseus ដោះស្រាយកុំព្យូទ័រដែលផ្តល់លើស។ នៅក្នុងដំណើរការហ្វឹកហាត់ដ៏ធំមួយ មិនមែនគ្រប់ processor ទាំងអស់កំពុងធ្វើការងារដែលមានប្រយោជន៍គ្រប់ពេលនោះទេ ប៉ុន្តែពួកគេទាំងអស់សុទ្ធតែទាញថាមពល។ តាមរយៈការគ្រប់គ្រងល្បឿនដំណើរការរបស់ខួរក្បាលដើម្បីផ្គូផ្គងការងារជាក់ស្តែងដែលមាននៅចំណុចនីមួយៗក្នុងការបណ្តុះបណ្តាល Perseus កាត់បន្ថយថាមពលដែលត្រូវការដើម្បីបណ្តុះបណ្តាល AI រហូតដល់ 30% នេះបើយោងតាម U-M ។
Kareus៖ ពេលវេលាឆ្លាតវៃសម្រាប់កុំព្យូទ័រ និងទំនាក់ទំនង
Kareus កំណត់គោលដៅបញ្ហាតូចជាងនេះ។ ការបណ្តុះបណ្តាលម៉ូដែលទំនើបទាមទារឱ្យមានការសម្របសម្រួលពីរាប់រយទៅរាប់ពាន់អង្គដំណើរការ ហើយការងារត្រូវបានបំបែករវាងការគណនា និងការទំនាក់ទំនងពីបន្ទះឈីបទៅបន្ទះឈីប។ Kareus កាត់បន្ថយថាមពលហ្វឹកហ្វឺនបន្ថែមពី 15% ទៅ 30% ដោយស្វែងរកពេលវេលាដ៏មានប្រសិទ្ធភាពបំផុត និងការចែករំលែកធនធានរវាងកិច្ចការបណ្តុះបណ្តាល និងការទំនាក់ទំនងទាំងនោះ — កំណត់កាលវិភាគនីមួយៗ ដើម្បីកុំឱ្យអង្គុយទំនេររង់ចាំគ្នាទៅវិញទៅមក។
សាកលវិទ្យាល័យបាននិយាយថា ឧបករណ៍នេះអាចសន្សំបានប្រហែលពាក់កណ្តាលនៃថាមពលដែលប្រើដើម្បីបណ្តុះបណ្តាល AI ខណៈពេលដែលផ្តល់នូវល្បឿនហ្វឹកហាត់ដូចគ្នា និងការអនុវត្តគំរូចុងក្រោយ។ Kareus ក៏ជាលទ្ធផលដែលបានពិនិត្យដោយមិត្តភ័ក្តិផងដែរ៖ ឧបករណ៍នេះត្រូវបានបង្ហាញនៅឯសន្និបាត USENIX ស្តីពីការរចនា និងការអនុវត្តប្រព័ន្ធប្រតិបត្តិការ (OSDI) ក្នុងខែកក្កដា ដែលជាកន្លែងកំពូលមួយសម្រាប់ការស្រាវជ្រាវប្រព័ន្ធ។
ហេតុអ្វីបានជាចំណាប់អារម្មណ៍របស់ NVIDIA គឺជារឿងពិត
ការស្រាវជ្រាវប្រសិទ្ធភាពសិក្សាជាធម្មតាប្រឈមមុខនឹងផ្លូវដ៏វែងមួយទៅកាន់ផលិតកម្ម។ មួយនេះអាចខុសគ្នា, ដោយសារតែកន្លែងដែលវាបានចុះចត។ និស្សិតបណ្ឌិតម្នាក់ឈ្មោះ Ruofan Wu បានចំណាយពេលរដូវក្តៅកន្លងមកនេះនៅ NVIDIA រួមបញ្ចូលកម្មវិធី U-M ទៅក្នុង Megatron-LM ជាផ្នែកមួយនៃកម្មសិក្សា ដែលមានន័យថាឧបករណ៍មិនមែនជាសំណើរទេ ប៉ុន្តែជាកូដធ្វើការនៅក្នុងបណ្តុំបណ្តុះបណ្តាលរបស់ NVIDIA ឥឡូវនេះស្ថិតនៅក្រោមការវាយតម្លៃជាផ្លូវការ។
លោក Wu និស្សិតថ្នាក់បណ្ឌិតផ្នែកវិទ្យាសាស្ត្រកុំព្យូទ័រ និងវិស្វកម្មនៅ U-M បាននិយាយនៅក្នុងសេចក្តីប្រកាសរបស់សាកលវិទ្យាល័យថា "AI កំពុងមានកម្រិតថាមពល ដោយសារម៉ូដែលកាន់តែធំ ហើយមនុស្សកាន់តែច្រើនចង់ហ្វឹកហាត់ម៉ូដែល ប៉ុន្តែយើងអាចសម្រេចបាននូវល្បឿនហ្វឹកហាត់ដូចគ្នា និងដំណើរការដោយប្រើថាមពលតិច" ។ លោកស្រីបានបន្ថែមថា "មានឱកាសជាច្រើនដើម្បីបង្កើនប្រសិទ្ធភាពការប្រើប្រាស់ថាមពល AI នៅកម្រិតផ្នែកទន់ និងផ្នែករឹង ហើយផ្នែកដែលផ្តល់រង្វាន់បំផុតនៃកម្មសិក្សាគឺឱកាសដើម្បីនាំយកគំនិតពីការស្រាវជ្រាវរបស់ខ្ញុំទៅក្នុងប្រព័ន្ធផលិតកម្ម"។
ពាក្យនោះ — ជាការរឹតត្បិតថាមពល — ជាពាក្យឃ្លាំមើលថ្មីរបស់ឧស្សាហកម្ម។ ក្រុមស្រាវជ្រាវ U-M ដែលរួមបញ្ចូលនិស្សិតបណ្ឌិត Jeff Ma និង Jae-Won Chung រួមជាមួយសាស្រ្តាចារ្យរង Mosharaf Chowdhury កំពុងធ្វើការជាមួយ NVIDIA លើការរួមបញ្ចូលនេះ។ ការរៀបចំក្រុមគឺត្រង់៖ គោលដៅគឺអនុញ្ញាតឱ្យ AI ធ្វើការងារដែលមានប្រយោជន៍ជាងមុនសម្រាប់ថាមពលតិច និងចំណាយតិច ដោយស្វែងរកវិធីដែលមានប្រសិទ្ធភាពបំផុតក្នុងការសម្របសម្រួលការបណ្តុះបណ្តាលលើ processors រាប់រយទៅរាប់ពាន់។
ថាមពលឥឡូវនេះជាឧបសគ្គថ្នាក់ទីមួយ
មាត្រដ្ឋាននៃការហ្វឹកហ្វឺនតាមព្រំដែន គឺជាអ្វីដែលបង្វែរការសន្សំភាគរយទៅជាលេខយុទ្ធសាស្ត្រ។ Meta បាននិយាយនៅសប្តាហ៍នេះថាម៉ូដែល Muse Wonder ថ្មីរបស់ខ្លួនត្រូវបានបណ្តុះបណ្តាលនៅ Prometheus ដែលវាពិពណ៌នាថាជាមជ្ឈមណ្ឌលទិន្នន័យខ្នាតជីហ្គាវ៉ាត់។ នៅពេលដែលយុទ្ធនាការបណ្តុះបណ្តាលតែមួយដំណើរការក្នុងមាត្រដ្ឋាននោះ ការកាត់បន្ថយថាមពលកម្រិតភាគរយមិនមែនជាកំហុសបង្គត់ទេ។ វាជាភាពខុសគ្នារវាងការដំឡើងការរត់ការហ្វឹកហាត់ក្នុងថវិកាថាមពលឬអត់។
សេដ្ឋកិច្ចធ្វើតាមរូបវិទ្យា។ ថាមពលបានក្លាយជាធនធានមួយក្នុងចំណោមធនធានសម្រាប់ការពង្រីក AI ។ កម្មវិធីដែលបែងចែកវិក្កយបត្រអគ្គិសនីពាក់កណ្តាលនៃការរត់ការបណ្តុះបណ្តាល - ដោយប្រើផ្នែករឹងដែលមានស្រាប់ - ផ្លាស់ប្តូរការគណនាសម្រាប់ក្រុមហ៊ុននីមួយៗបណ្តុះបណ្តាលម៉ូដែលផ្ទាល់ខ្លួនរបស់វា និងជាពិសេសសម្រាប់អ្នកលេងតូចៗ ដែលតម្លៃថាមពលគឺជាកត្តាកំណត់។
វាក៏កំណត់ឡើងវិញនូវការជជែកវែកញែកអំពីបរិស្ថានជុំវិញ AI ផងដែរ។ ភាគច្រើននៃការពិភាក្សាជាសាធារណៈបានផ្តោតលើថាមពលការសន្និដ្ឋាន - ថាមពលដែលប្រើប្រាស់ដោយរាល់សំណួរ chatbot ។ ប៉ុន្តែការបណ្តុះបណ្តាលគឺជាកន្លែងដែលថាមពលតែមួយដ៏ធំបំផុតត្រូវបានប្រមូលផ្តុំ ហើយវិធីសាស្រ្តសូហ្វវែរដែលពិនិត្យដោយអ្នកផ្គត់ផ្គង់ដែលកាត់បន្ថយវារហូតដល់ពាក់កណ្តាលផ្តល់នូវអ្វីដែលកម្រជាងផែនទីបង្ហាញផ្លូវផ្នែករឹង៖ ប្រសិទ្ធភាពដែលអាចមកដល់ជាមួយនឹងការចេញផ្សាយប្រភពបើកចំហបន្ទាប់ ជាជាងការកសាងមជ្ឈមណ្ឌលទិន្នន័យបន្ទាប់។
តើមានអ្វីកើតឡើងបន្ទាប់
សាកលវិទ្យាល័យនិយាយថា NVIDIA កំពុងវាយតម្លៃពីរបៀបបន្ថែមកម្មវិធីទៅវេទិកាបណ្តុះបណ្តាលប្រភពបើកចំហរបស់ខ្លួន។ ប្រសិនបើវាដឹកជញ្ជូនក្នុង Megatron-LM ការសុំកូនចិញ្ចឹមអាចរីករាលដាលយ៉ាងឆាប់រហ័សដោយសារការប្រើប្រាស់ក្របខ័ណ្ឌនេះយ៉ាងទូលំទូលាយនៅទូទាំងឧស្សាហកម្ម និងក្នុងវិស័យអប់រំ។ កម្មវិធីស្រាវជ្រាវដ៏ទូលំទូលាយរបស់ក្រុម U-M បន្តស្វែងរកការសន្សំថាមពលនៅទូទាំងផ្នែកទន់ និងផ្នែករឹង ដែលជារបៀបវារៈដែលហាក់ដូចជាពិសេសកាលពីប៉ុន្មានឆ្នាំមុន ហើយឥឡូវនេះមើលទៅដូចជាចំណុចកណ្តាលនៃហ្គេម។
