Cloudflare បានបោះពុម្ភរបាយការណ៍ឧប្បត្តិហេតុលម្អិតដែលពិពណ៌នាអំពីរបៀបដែលកំហុសក្នុងការដោះស្រាយឃ្លាំងសម្ងាត់នៅក្នុងវេទិកា AI ដែលគ្មានម៉ាស៊ីនមេរបស់វាបណ្តាលឱ្យអ្នកប្រើប្រាស់យ៉ាងហោចណាស់ 155 នាក់នៃការដាក់ពង្រាយម៉ូដែល GLM-5.3 ដើម្បីទទួលបានការឆ្លើយតបដែលមានបំណែកនៃប្រអប់បញ្ចូល និងលទ្ធផលរបស់អតិថិជនផ្សេងទៀត។ របាយការណ៍ដែលបានបោះពុម្ភផ្សាយនៅថ្ងៃទី 26 ខែតុលា ជាការបង្ហាញដែលសម្របសម្រួលជាមួយគម្រោងម៉ាស៊ីនសន្និធិប្រភពបើកចំហ SGLang ផ្តល់នូវទិដ្ឋភាពសាធារណៈដ៏កម្រនៅក្នុងបរិក្ខារនៃការបម្រើ LLM ពហុភតិកៈ និងការព្រមានអំពីការសន្មត់សុវត្ថិភាពនៃអង្គចងចាំ GPU ។

របៀបដែលការលេចធ្លាយត្រូវបានរកឃើញ For more context on this story, see our ongoing AI trends.

យោងតាម Cloudflare អ្នកស្រាវជ្រាវសន្តិសុខ Gadi Evron នៃ Knostic បានជូនដំណឹងដល់ក្រុមហ៊ុននៅថ្ងៃទី 8 ខែកញ្ញា ឆ្នាំ 2026 តាមរយៈកម្មវិធីផ្តល់រង្វាន់លើកំហុស HackerOne របស់ខ្លួន។ Evron បានរាយការណ៍ថាការជម្រុញដ៏វែងឆ្ងាយដែលបានផ្ញើទៅកាន់ម៉ូដែល GLM-5.3 នៅលើវេទិកា Cloudflare's Workers AI ពេលខ្លះបានត្រឡប់អត្ថបទដែលជាកម្មសិទ្ធិរបស់វគ្គរបស់អ្នកប្រើប្រាស់ផ្សេងទៀត។ Cloudflare បានផលិតឡើងវិញនូវបញ្ហានៅព្រឹកបន្ទាប់ ហើយបានបិទម៉ូដែលនៅថ្ងៃដដែល ដោយស្ដារវាឡើងវិញនៅថ្ងៃទី 9 ខែកញ្ញា បន្ទាប់ពីដាក់ពង្រាយការជួសជុល។

គំរូដែលរងផលប៉ះពាល់គឺ @cf/zai-org/glm-5.3 — គំរូសរសេរកូដភ្នាក់ងារពី Z.ai ដែល Cloudflare បម្រើតាមរយៈ Workers AI ដែលជាវេទិកាគ្មានការសន្និដ្ឋានរបស់ក្រុមហ៊ុន។ Cloudflare បានបញ្ជាក់ថាមិនមានម៉ូដែលផ្សេងទៀតដែលបង្ហោះនៅលើវេទិកាត្រូវបានប៉ះពាល់ទេ។

តើមានអ្វីកើតឡើងពិតប្រាកដ

ឧប្បត្តិហេតុ​នេះ​បង្ហាញ​ពី​បញ្ហា​ត្រួត​គ្នា​ពីរ​គឺ​មួយ​ប្រតិបត្តិការ​និង​មួយ​នៅ​ក្នុង​ម៉ាស៊ីន​ខ្លួន​ឯង​។

ទីមួយ ការកំណត់រចនាសម្ព័ន្ធខុស។ Cloudflare បានដាក់ពង្រាយ GLM-5.3 ជាមួយនឹងបង្អួចបរិបទ 1,048,576-token ប៉ុន្តែឃ្លាំងសម្ងាត់តម្លៃ key-value (KV) នៅលើ GPUs prefill របស់វាមានកន្លែងសម្រាប់តែ 681,280 tokens ប៉ុណ្ណោះ។ ក្រុមហ៊ុនបានទទួលស្គាល់ថា ខ្លួនបានដឹងអំពីភាពមិនស៊ីសង្វាក់គ្នានេះ មុនពេលចាប់ផ្តើមដំណើរការ ហើយរំពឹងថាម៉ាស៊ីន inference នឹងបដិសេធសំណើលើសពីប្រវែងដោយសុវត្ថិភាព។

ទីពីរ​បញ្ហា​ម៉ាស៊ីន។ នៅក្នុងរបៀប prefill/decode ដែលមិនរួមបញ្ចូលគ្នា — ស្ថាបត្យកម្ម Workers AI ប្រើ ដែលក្រុម GPUs មួយដំណើរការភ្លាមៗ ហើយប្រគល់ឃ្លាំងសម្ងាត់ KV លទ្ធផលទៅក្រុម GPUs ដាច់ដោយឡែកដែលបង្កើតការឆ្លើយតប — SGLang បានដោះស្រាយសំណើលើសប្រវែងមិនត្រឹមត្រូវ។ សារ​ដែល​មិន​សម​នឹង​ក្រុម​ត្រូវ​បាន​សម្គាល់​ខាង​ក្នុង​ថា​បាន​ច្រាន​ចោល ហើយ​ជំនួស​ដោយ​កន្លែង​ដាក់​សញ្ញា​មួយ​។ ប៉ុន្តែជំនួសឱ្យការបោះបង់សំណើ និងការបញ្ជូនកំហុសម៉ាស៊ីនភ្ញៀវមកវិញ ដំណាក់កាលបំពេញមុនបានបង្កើតឃ្លាំងសម្ងាត់ KV សម្រាប់ប្រអប់បញ្ចូលកន្លែង ហើយផ្ទេរវាទៅថ្នាំងឌិកូដ ដែលបន្ទាប់មកបង្កើតការឆ្លើយតបដែលលាយឡំក្នុងទិន្នន័យដែលនៅសល់ពីសំណើពីមុនដែលចែករំលែកទំព័រសតិដូចគ្នា។

លទ្ធផល៖ រវាងថ្ងៃទី 27 ខែសីហា ដល់ថ្ងៃទី 9 ខែកញ្ញា អតិថិជនមួយចំនួនតូចដែលប្រើគំរូនេះបានទទួលការឆ្លើយតបដែលមានទិន្នន័យពីសំណើរបស់អតិថិជនផ្សេងទៀតដែលបានធ្វើឡើងភ្លាមៗមុនពេលពួកគេ។ សរុបមក 155 ការឆ្លើយតបត្រូវបានប៉ះពាល់ — ទាំងអស់ Cloudflare បានរកឃើញ ដើម្បីជម្រុញឱ្យយូរជាង 681,280 សញ្ញាសម្ងាត់។

គ្មានភស្តុតាងនៃការកេងប្រវ័ញ្ចដោយចេតនា

Cloudflare បានបញ្ជាក់ថា បន្ទាប់ពីមិនរាប់បញ្ចូលការសាកល្បងរបស់ខ្លួន និងសំណើផ្ទៀងផ្ទាត់របស់អ្នកស្រាវជ្រាវ សំណើដែលរងផលប៉ះពាល់មានភាពស៊ីសង្វាក់គ្នាក្នុងពេលវេលា និងបរិមាណជាមួយនឹងការប្រើប្រាស់បរិបទវែងធម្មតា ហើយក្រុមហ៊ុនបានរកឃើញភស្តុតាងដែលថានរណាម្នាក់កេងប្រវ័ញ្ចកំហុសដោយចេតនា។ ដោយសារតែរាល់ការស្នើសុំដែលរងផលប៉ះពាល់លើសពីសមត្ថភាពរបស់អាងដែលមានទំហំតូច បង្អួចដែលមានការប៉ះពាល់ត្រូវបានចងយ៉ាងតឹងរ៉ឹង — ស្រទាប់ប្រាក់ដែលកើតចេញពីការកំណត់មិនត្រឹមត្រូវដែលបណ្តាលឱ្យមានបញ្ហា។

ដំណោះស្រាយ៖ អាងធំជាង និងផ្លូវបរាជ័យដែលមានសុវត្ថិភាពជាង

ការជួសជុលបានដំណើរការលើស្រទាប់ទាំងពីរនៃការបរាជ័យ។ Cloudflare បានកំណត់រចនាសម្ព័ន្ធការដាក់ពង្រាយ GLM-5.3 របស់ខ្លួនឡើងវិញ ដើម្បីផ្គូផ្គងការកំណត់រចនាសម្ព័ន្ធ GLM-5.2 របស់វា ដោយបញ្ចេញអង្គចងចាំ GPU គ្រប់គ្រាន់ ដែលបណ្តុំ KV ដែលបំពេញទុកឥឡូវនេះមានប្រហែល 2.04 លានថូខឹន — ប្រហែលទ្វេដងនៃប្រវែងបរិបទ 1,048,576-token របស់ម៉ូដែល។ ប្រអប់បញ្ចូលដែលសមនឹងបង្អួចបរិបទឥឡូវនេះតែងតែសមនឹងអាង។

ប៉ុន្តែក្រុមហ៊ុនក៏បានសង្កត់ធ្ងន់ថា ការពឹងផ្អែកលើទំហំអាងតែម្នាក់ឯងគឺមានភាពផុយស្រួយ៖ ការផ្លាស់ប្តូរទៅបរិមាណ ភាពស្របគ្នានៃតង់ស៊ីតេ ទំហំក្រាហ្វ CUDA ឬកំណែគំរូនាពេលអនាគតអាចផ្លាស់ប្តូរទំហំអាងដោយស្ងៀមស្ងាត់។ ដូច្នេះវាក៏បានជួសជុលផ្លូវបដិសេធរបស់ SGLang ដោយខ្លួនវាផ្ទាល់ ដោយធានាថាសំណើដែលបានច្រានចោលបានលុបចោលយ៉ាងស្អាត ជំនួសឱ្យការបង្កើត និងផ្ទេរឃ្លាំងសម្ងាត់សម្រាប់អ្នកដាក់។ ការផ្លាស់ប្តូរទាំងពីរត្រូវបានធ្វើឱ្យមានសុពលភាពប្រឆាំងនឹងស្គ្រីបផលិតឡើងវិញរបស់អ្នកស្រាវជ្រាវ និងការធ្វើតេស្ត Canary-marker ផ្ទាល់របស់ Cloudflare មុនពេលគំរូត្រូវបានស្ដារឡើងវិញ ហើយការជួសជុលត្រូវបានរួមចំណែកដល់អ្នកថែទាំ SGLang ។

ហេតុអ្វីបានជាអង្គចងចាំ GPU ដែលបានចែករំលែកគឺជាសំណួរសុវត្ថិភាព

របាយការណ៍ពន្យល់ពីការអនុវត្តដែលនឹងធ្វើឱ្យអ្នកបង្កើតកម្មវិធីជាច្រើនភ្ញាក់ផ្អើល៖ ម៉ាស៊ីនសន្និដ្ឋានជាទូទៅមិនលុបទំព័រឃ្លាំងសម្ងាត់ KV រវាងសំណើនោះទេ ពីព្រោះសំណើបន្ទាប់គ្រាន់តែសរសេរជាន់ពីលើពួកគេ។ នេះគឺជាការដោះដូរការអនុវត្តដោយចេតនា ដែលជារឿងធម្មតានៅទូទាំងម៉ាស៊ីនសន្និដ្ឋាន ប៉ុន្តែដូចដែលឧប្បត្តិហេតុនេះបង្ហាញ ផ្លូវណាដែលអនុញ្ញាតឱ្យមានការឆ្លើយតបមួយត្រូវបានបង្កើត មុនពេលទំព័រទាំងនោះត្រូវបានសរសេរជាន់ពីលើពេញលេញ ប្រែក្លាយការបង្កើនប្រសិទ្ធភាពប្រតិបត្តិការទៅជាវ៉ិចទ័រលេចធ្លាយទិន្នន័យ។

ការបង្ហាញបានទៅដល់សហគមន៍អ្នកអភិវឌ្ឍន៍៖ រឿងនេះបានឈានដល់ 123 ចំណុចនៅលើ Hacker News ក្នុងរយៈពេលប៉ុន្មានម៉ោងជាមួយនឹងការពិភាក្សាផ្តោតលើរបៀបដែលរបៀបបរាជ័យ ដែលជាសំណើដែលគួរតែបរាជ័យខ្លាំង ជំនួសឱ្យការបន្តដោយស្ងៀមស្ងាត់លើស្ថានភាពដែលខូច ឆ្លុះបញ្ចាំងពីមេរៀនបុរាណពីវិស្វកម្មប្រព័ន្ធចែកចាយ។

មេរៀនទូលំទូលាយសម្រាប់ហេដ្ឋារចនាសម្ព័ន្ធ AI

ឧបទ្ទវហេតុនេះគឺជាការរំលឹកថា បរិវេណសុវត្ថិភាពសម្រាប់កម្មវិធី AI ឥឡូវនេះបានពង្រីកយ៉ាងជ្រៅទៅក្នុងហេដ្ឋារចនាសម្ព័ន្ធការសន្និដ្ឋាន។ ការបម្រើគំរូពហុភតិកៈប្រមូលផ្តុំទិន្នន័យរបស់អតិថិជនជាច្រើនតាមរយៈឧបករណ៍បង្កើនល្បឿនដែលបានចែករំលែក ឃ្លាំងឃ្លាំងសម្ងាត់រួម និងស្ថាបត្យកម្មកម្រនិងអសកម្មកាន់តែខ្លាំងឡើង ដូចជាការបំពេញបន្ថែមដែលបានបែងចែក និងការចូលប្រើអង្គចងចាំដោយផ្ទាល់ពីចម្ងាយ។ ភាពមិនស៊ីសង្វាក់គ្នាបន្តិចបន្តួចរវាងវិនដូបរិបទដែលបានផ្សាយពាណិជ្ជកម្មរបស់គំរូ និងសមត្ថភាពរូបវន្តដែលផ្តល់សម្រាប់បម្រើវាគឺគ្រប់គ្រាន់ដើម្បីរំលោភលើភាពឯកោពីអ្នកជួល។

សម្រាប់សហគ្រាសដែលបង្កើតនៅលើវេទិកា AI ដែលគ្មានម៉ាស៊ីនមេ ការដកចេញពីរបាយការណ៍របស់ Cloudflare គឺមានពីរដង៖ កំហុសឯកោអ្នកជួលក្នុងការបម្រើ LLM គឺពិត ហើយបានកើតឡើងនៅក្នុងផលិតកម្ម ហើយពេលវេលាឆ្លើយតបរបស់អ្នកលក់ - ក្រោម 24 ម៉ោងពីរបាយការណ៍រហូតដល់បិទ មួយថ្ងៃដើម្បីជួសជុល និងស្ដារ - គឺជាស្តង់ដារនៃការឧស្សាហ៍ព្យាយាមដើម្បីទាមទារពីអ្នកផ្តល់សេវាណាមួយដែលដោះស្រាយការជំរុញដ៏រសើប។

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →