ការសិក្សាថ្មីមួយពីអ្នកវិទ្យាសាស្ត្រកុំព្យូទ័រ MIT ដែលត្រូវបានបោះពុម្ពផ្សាយនៅក្នុង Nature Communications កាលពីថ្ងៃអង្គារផ្តល់នូវការរកឃើញដែលអាចផ្លាស់ប្តូរការជជែកដេញដោលលើការរក្សាសិទ្ធិ AI: ដោយសារតែគំរូចែកចាយត្រូវបានបណ្តុះបណ្តាលលើទិន្នន័យកាន់តែច្រើន លទ្ធផលរបស់ពួកគេកាន់តែមិនអាចតាមដានទៅផ្នែកជាក់លាក់ណាមួយនៃសម្ភារៈបណ្តុះបណ្តាល។ អ្នកស្រាវជ្រាវបានហៅបាតុភូតនេះថា "ការបំផ្លាញគុណលក្ខណៈ" ។ សម្រាប់​អ្នកអាន​ដែល​តាមដាន​ពិភព​ដែល​មាន​ចលនា​យ៉ាង​លឿន​នៃ AI ជំនាន់​នោះ ក្រដាស​គឺ​ជា​លទ្ធផល​ស្រាវជ្រាវ​មួយ​ក្នុង​ចំណោម​លទ្ធផល​ស្រាវជ្រាវ​ដែល​ត្រូវ​បាន​គ្របដណ្តប់​ក្នុង​សប្តាហ៍​នេះ​ដោយ AI Buzz Wire។

ក្រដាសដែលមានចំណងជើងថា "លទ្ធផលនៃគំរូនៃការសាយភាយជំនាន់គឺជាញឹកញាប់មិនអាចទទួលយកបាន" ត្រូវបាននិពន្ធដោយ Zheng Dai និង David K. Gifford ដែលទាំងពីរមានទំនាក់ទំនងជាមួយមន្ទីរពិសោធន៍វិទ្យាសាស្ត្រកុំព្យូទ័រ និងបញ្ញាសិប្បនិម្មិត (CSAIL) របស់ MIT ។ សំណួរចម្បងរបស់ពួកគេគឺសាមញ្ញបោកបញ្ឆោត៖ នៅពេលដែលគំរូបង្កើតរូបភាពមួយ តើអ្នកអាចកំណត់ទីតាំងជាក់លាក់មួយនៅក្នុងទិន្នន័យបណ្តុះបណ្តាលដែលទទួលខុសត្រូវចំពោះលទ្ធផលនោះបានទេ?

អ្វីដែលអ្នកស្រាវជ្រាវបានរកឃើញ

ចម្លើយកាន់តែខ្លាំងឡើងគឺទេ។ អ្នកស្រាវជ្រាវបង្ហាញថា គុណលក្ខណៈ - បានកំណត់ថាជាភារកិច្ចនៃការកំណត់ទីតាំងផ្នែកនៃទិន្នន័យបណ្តុះបណ្តាលដែលអាចទទួលខុសត្រូវចំពោះគំរូដែលបានបង្កើត - "អាចក្លាយជាមិនអាចទៅរួចប្រសិនបើគំរូត្រូវបានបណ្តុះបណ្តាលលើទិន្នន័យដែលមានទំហំធំគ្រប់គ្រាន់។"

អ្នកនិពន្ធបានសរសេរថា "យើងរកឃើញថាទិន្នន័យកាន់តែច្រើនដែលគំរូត្រូវបានបណ្តុះបណ្តាល នោះគំរូដែលបានបង្កើតរបស់វាកាន់តែមានគុណលក្ខណៈតិចជាង បាតុភូតមួយដែលយើងហៅថាការបំផ្លាញគុណលក្ខណៈ" ។

ដើម្បីសាកល្បងនេះ ក្រុមការងារបានបង្កើតវិធីសាស្រ្ត "ablation" ដែលអនុញ្ញាតឱ្យឧទាហរណ៍ការបណ្តុះបណ្តាលជាក់លាក់មួយត្រូវបានដកចេញពីគំរូដែលបានបណ្តុះបណ្តាលរួចហើយដោយមិនចាំបាច់ចំណាយលើការបណ្តុះបណ្តាលឡើងវិញ។ បន្ទាប់មកពួកគេបានដំណើរការការពិសោធន៍ទ្រង់ទ្រាយធំ៖ តើគំរូនឹងបង្កើតអ្វី ប្រសិនបើរូបភាពជាក់លាក់ ឬតួនៃការងាររបស់អ្នកបង្កើតទាំងមូលមិនដែលមាននៅក្នុងឈុតបណ្តុះបណ្តាលនោះ?

នៅក្នុងលទ្ធផលដ៏គួរឱ្យចាប់អារម្មណ៍បំផុតមួយចំនួននៃការសិក្សា អ្នកស្រាវជ្រាវបានរកឃើញថា សម្រាប់ម៉ូដែលដែលបានបណ្តុះបណ្តាលលើសំណុំទិន្នន័យធំគ្រប់គ្រាន់ ពួកគេអាចដកចេញ Mona Lisa ឬសូម្បីតែការងាររបស់ Leonardo da Vinci ទាំងអស់ ហើយម៉ូដែលនៅតែអាចបង្កើតរូបភាព ឬរចនាប័ទ្មសិល្បៈឡើងវិញបាន។ មិនមានធាតុបណ្តុះបណ្តាលណាមួយដែលទទួលខុសត្រូវចំពោះលទ្ធផលនោះទេ។

ហេតុអ្វីបានជាវាសំខាន់សម្រាប់វិវាទកម្មសិទ្ធបញ្ញា

ការរកឃើញបានចុះចតនៅកណ្តាលសមរភូមិផ្លូវច្បាប់សកម្មមួយ។ ម៉ូដែល Diffusion ដូចជា Midjourney និង Stable Diffusion បានទាក់ទាញការប្តឹងផ្តល់ពីសិល្បករដែលប្រកែកថាការចម្លងការងាររបស់ពួកគេនៅក្នុងទិន្នន័យបណ្តុះបណ្តាលអនុញ្ញាតឱ្យប្រព័ន្ធ AI ផលិតឡើងវិញនូវលទ្ធផល និងរចនាប័ទ្មរបស់ពួកគេ។

នៅក្នុងករណីរក្សាសិទ្ធិបន្តមួយពីឆ្នាំ 2023 Andersen et al ។ v. Stability AI Ltd., ដើមបណ្តឹងបាននិងកំពុងព្យាយាមបង្ខំ Midjourney ឱ្យបង្ហាញសំណុំទិន្នន័យដែលប្រើដើម្បីបណ្តុះបណ្តាលគំរូរបស់វា។ ពួកគេបានចោទប្រកាន់ថា Midjourney បានបង្កើតឈុតហ្វឹកហាត់របស់ខ្លួន "ដោយលុបរូបភាពដែលភ្ជាប់ជាមួយឈ្មោះសិល្បករជាក់លាក់ ក្នុងគោលបំណងបញ្ចេញឱ្យឃើញនូវគំរូរបស់ខ្លួនដើម្បីធ្វើត្រាប់តាមខ្លឹមសារបញ្ចេញមតិរបស់សិល្បករទាំងនោះ"។

ការសិក្សារបស់ MIT ណែនាំថា ការបង្កើតតំណភ្ជាប់បុព្វហេតុបែបនេះ ប្រហែលជាមិនអាចធ្វើទៅរួចតាមលក្ខណៈបច្ចេកទេស។ ដូចដែល The Register ដែលបានរាយការណ៍ជាលើកដំបូងនូវព័ត៌មានលម្អិតនៃការសិក្សាបានកត់សម្គាល់ ការស្រាវជ្រាវមើលទៅទំនងជាធ្វើឱ្យបទប្បញ្ញត្តិ AI កាន់តែពិបាកជាជាងងាយស្រួល - ផ្ទុយពីអ្វីដែលអ្នកនិពន្ធសង្ឃឹមនៅពេលពួកគេចាប់ផ្តើមការងារ។

សំណួរប្រើប្រាស់ដោយយុត្តិធម៌

នៅក្នុងសេចក្តីប្រកាសព័ត៌មានរបស់ MIT លោក Gifford អះអាងថា ការរកឃើញនេះបានកាត់បន្ថយវិធីទាំងពីរនេះ។ ប្រសិនបើលទ្ធផលដែលបានបង្កើតមិនមានពាក់ព័ន្ធនឹងបំណែកនីមួយៗនៃទិន្នន័យបណ្តុះបណ្តាលទេ ម៉ូដែលអាចមានភាពច្នៃប្រឌិតពិតប្រាកដ ជាជាងគ្រាន់តែម៉ាស៊ីនចម្លងប៉ុណ្ណោះ។

លោក Gifford បាននិយាយថា "នោះបង្កើតជាសំណួរអំពីការប្រើប្រាស់ដោយយុត្តិធម៌ អំពីថាតើលទ្ធផលទាំងនោះអាចរក្សាសិទ្ធិបានដូចស្នាដៃប្រលោមលោក ឬយ៉ាងណា និងអំពីរបៀបដែលអ្នកនិពន្ធទទួលបានសំណងនៅពេលដែលអ្វីដែលចេញពីគំរូមួយមិនទាក់ទងនឹងអ្វីទាំងអស់នៅលើអ៊ីនធឺណិត"។

ផល​ប៉ះពាល់​ពង្រីក​ហួស​ពី​ម៉ាស៊ីន​បង្កើត​រូបភាព។ គំរូនៃការសាយភាយបានក្លាយជាស្ថាបត្យកម្មលេចធ្លោសម្រាប់បង្កើតប្រព័ន្ធផ្សព្វផ្សាយសោតទស្សន៍ និងត្រូវបានប្រើប្រាស់កាន់តែខ្លាំងឡើងនៅក្នុងកម្មវិធីវិទ្យាសាស្ត្រ រួមទាំងគំរូរចនាសម្ព័ន្ធប្រូតេអ៊ីន និងការរកឃើញនៃការព្យាបាល។ ឧបករណ៍គុណលក្ខណៈត្រូវបានស្នើឡើងផងដែរសម្រាប់ការមិនរៀនពីម៉ាស៊ីន ការរកឃើញការបំពុលទិន្នន័យ ការបកស្រាយគំរូ សវនកម្មភាពយុត្តិធម៌ និងការអនុលោមភាពឯកជនភាព។

ការព្រមានសម្រាប់ការចាប់ផ្តើមអាជីវកម្ម

ការសិក្សានេះក៏អនុវត្តការប្រុងប្រយ័ត្នសម្រាប់ឧស្សាហកម្មដែលកំពុងរីកចម្រើននៃ AI provenance និងឧបករណ៍ផ្ទៀងផ្ទាត់មាតិកា។ អ្នកស្រាវជ្រាវបានរកឃើញថាការបញ្ជាក់ដោយផ្អែកលើភាពស្រដៀងគ្នា — ការផ្គូផ្គងបង្កើតលទ្ធផលទៅនឹងរូបភាពនៃការបណ្តុះបណ្តាលដែលស្រដៀងគ្នាដែលមើលឃើញ — បង្កើតគុណលក្ខណៈមិនពិតនៅក្នុងរបបទិន្នន័យបណ្តុះបណ្តាលធំ។

ម្យ៉ាងវិញទៀត ឧបករណ៍ដែលអះអាងថា "រូបភាព AI នេះបានមកពីផលប័ត្ររបស់វិចិត្រករនោះ" ប្រហែលជាខុសនៅពេលដែលម៉ូដែលត្រូវបានបណ្តុះបណ្តាលលើរូបភាពរាប់ពាន់លាន។ សម្រាប់វេទិកា តុលាការ និងនិយតករដែលពឹងផ្អែកលើគុណលក្ខណៈបច្ចេកទេសដើម្បីដោះស្រាយវិវាទភស្តុតាង លទ្ធផល MIT បង្ហាញថា ភាពប្រាកដប្រជាបែបនេះអាចនឹងហួសពីលទ្ធភាពសម្រាប់គំរូខ្នាតព្រំដែន។

តើមានអ្វីកើតឡើងបន្ទាប់

កាសែតនេះត្រូវបានគេរំពឹងថានឹងត្រូវបានលើកឡើងនៅក្នុងវិវាទដែលកំពុងបន្ត និងការពិភាក្សាគោលនយោបាយ រួមទាំងការពិភាក្សាជុំវិញតម្រូវការតម្លាភាពរបស់ EU AI Act និងសំណើសម្រាប់ប្រព័ន្ធសំណងសិល្បករ។ ប្រសិនបើការបំផ្លាញគុណលក្ខណៈរក្សាបានសម្រាប់ម៉ូដែលផលិតកម្មដ៏ធំបំផុត គ្រោងការណ៍សំណងដោយផ្អែកលើលទ្ធផលតាមដានចំពោះការងារជាក់លាក់អាចនឹងត្រូវរៀបចំឡើងវិញជុំវិញការផ្តល់អាជ្ញាប័ណ្ណរួមជាជាងការតាមដានកម្រិតធាតុ។

ការសិក្សានេះក៏លើកឡើងនូវចំណុចល្អិតល្អន់សម្រាប់អ្នកអភិវឌ្ឍន៍ AI ផងដែរ៖ ភាពមិនអាចទទួលយកបានពិតជាអាចពង្រឹងអំណះអំណាងនៃការប្រើប្រាស់ដោយយុត្តិធម៌សម្រាប់ការបណ្តុះបណ្តាលលើទិន្នន័យដែលមានការរក្សាសិទ្ធិ ខណៈដែលក្នុងពេលដំណាលគ្នាធ្វើឱ្យខូចសមត្ថភាពរបស់សិល្បករក្នុងការបង្ហាញពីគ្រោះថ្នាក់ជាក់លាក់ពីលទ្ធផលបុគ្គល។ ភាគីទាំងពីរនៃជម្លោះរក្សាសិទ្ធិនឹងស្វែងរកអ្វីមួយដែលត្រូវប្រើក្នុងទិន្នន័យ។

នាំមុខ AI

សម្រាប់ការស្រាវជ្រាវ និងការវិភាគ AI ដែលបែកធ្លាយបន្ថែមទៀត សូមចូលទៅកាន់ [AI Buzz Wire] (https://aibuzzwire.news) សម្រាប់ការគ្របដណ្តប់ប្រចាំថ្ងៃនៃឧស្សាហកម្ម AI ។

អានព័ត៌មាន AI បន្ថែម →