Guardrail តម្លៃ ១០០ ពាន់លានដុល្លារ៖ ហេតុអ្វីស្រទាប់សុវត្ថិភាពរបស់ AI កំពុងក្លាយជាផលិតផល

នេះជាលេខមួយដែលរៀបរូបរាងឡើងវិញនូវកន្លែងដែលឧស្សាហកម្ម AI ពិតជាកំពុងឆ្ពោះទៅ។ ទីផ្សារសម្រាប់ AI guardrails — ការគ្រប់គ្រងដែលដាក់កម្រិតលើអ្វីដែល agent អាចចូលប្រើ សម្រេច និងប្រតិបត្តិ — ត្រូវបានព្យាករថានឹងកើនពី ០,៧ ពាន់លានដុល្លារក្នុងឆ្នាំ ២០២៤ ទៅ ១០៩,៩ ពាន់លានដុល្លារត្រឹមឆ្នាំ ២០៣៤ ដែលជាអត្រាបង្គររបស់ស្ទើរ ៦៦% ក្នុងមួយឆ្នាំ។ នោះធ្វើឱ្យវាក្លាយជាមួយក្នុងចំណោមប្រភេទដែលរីកលូតលាស់លឿនបំផុតក្នុងសូហ្វវែរទាំងអស់។ ហើយស្ទើរតែគ្មានការចំណាយនោះទៅក្នុង models ទេ។

យើងបានអះអាងពីមុនថា harness គឺជាផលិតផល ហើយ guardrails គឺជាអ្វីដែលធ្វើឱ្យ loop មានសុវត្ថិភាពក្នុងការទុកចោល។ អត្ថបទនេះពង្រីកមើលចំណិតមួយនៃតក្កនោះ ហើយតាមដានលុយ៖ guardrail ខ្លួនឯងកំពុងក្លាយជាប្រភេទផលិតផលដាច់ដោយឡែក — ធាតុថវិកា ថវិកា អ្វីមួយដែលអ្នកទិញ ឬសាងសង់ — ហើយការយល់ពីមូលហេតុប្រាប់អ្នកច្រើនអំពីកន្លែងដែលការងារគង់វង្សក្នុង AI ឥឡូវនេះស្ថិតនៅ។

ហេតុអ្វីពេលនេះ៖ agents ធ្វើសកម្មភាព ហើយសកម្មភាពមានផលវិបាក

អស់រយៈពេលបីឆ្នាំ ហានិភ័យនៃ language model ភាគច្រើនគឺការខ្មាស់អៀន។ វានិយាយអ្វីខុស មនុស្សអាន មនុស្សបន្តទៅមុខ។ Guardrail គឺជា content filter មួយ។

យុគនោះបានបញ្ចប់ហើយ។ Agents ឥឡូវនេះធ្វើ សកម្មភាព — ពួកវា merge កូដ ផ្លាស់ប្ដូរលុយ ធ្វើបច្ចុប្បន្នភាពកំណត់ត្រា ផ្ញើសំបុត្រ ផ្ដល់ហេដ្ឋារចនាសម្ព័ន្ធ។ IDC ប៉ាន់ស្មានថា agentic AI បានស្មើនឹង ១០–១៥% នៃការចំណាយ IT សហគ្រាសក្នុងឆ្នាំ ២០២៦។ នៅពេលដែលប្រព័ន្ធស្វយ័តអាចប្រតិបត្តិ របៀបនៃការបរាជ័យឈប់ជាប្រយោគមិនល្អ ហើយក្លាយជា ប្រតិបត្តិការ មិនល្អ៖ ការសងប្រាក់ខុសត្រូវបានចេញ database ផលិតកម្មត្រូវបានលុប កិច្ចសន្យាត្រូវបានផ្ញើទៅភាគីខុស។ Gartner រំពឹងថាការទាមទារផ្លូវច្បាប់ទាក់ទងនឹង AI នឹងលើស ២,០០០ ត្រឹមចុងឆ្នាំ ២០២៦ ដែលជំរុញភាគច្រើនដោយ guardrails មិនគ្រប់គ្រាន់។

នេះជាមូលហេតុដែលស្រទាប់សុវត្ថិភាពភ្លាមៗក្លាយជាធាតុថវិកា មិនមែនជាការគិតក្រោយ។ នៅពេល agent អាចធ្វើសកម្មភាព guardrail គឺជារបស់តែមួយគត់ដែលឈរនៅរវាង “model បានធ្វើខុស” និង “ក្រុមហ៊ុនបានធ្វើខុស”។ ទីមួយជា bug demo។ ទីពីរជារឿងក្ដី។

តើ guardrail ពិតជាអ្វី

“Guardrail” ត្រូវបានប្រើជាពាក្យមានន័យដូចមិនច្បាស់សម្រាប់ “សុវត្ថិភាព” ដូច្នេះតោះធ្វើឱ្យវាជាក់ស្ដែង។ ជាផលិតផលដែលអាចសាងសង់បាន guardrail គឺជាសំណុំតូចនៃការគ្រប់គ្រងដែលកំណត់បានល្អ ដែលអង្គុយ នៅចន្លោះ agent និងពិភពលោក៖

• ការផ្ទៀងផ្ទាត់ input និង output — ការពិនិត្យ schema លើអ្វីដែលចូលក្នុង និងចេញពី model ដើម្បីឱ្យ payload ខូចទម្រង់ ឬមានបំណងអាក្រក់មិនដែលឈានដល់ឧបករណ៍ ឬអ្នកប្រើ។ នេះជាស្រទាប់ដែលមានឥទ្ធិពលខ្ពស់បំផុត និងគ្មានភាពទាក់ទាញបំផុត។
• ការកំណត់វិសាលភាពសកម្មភាព និង sandboxing — agent ដំណើរការក្នុងបរិយាកាសដែលកាំនៃការផ្ទុះត្រូវបានកំណត់ដោយការសាងសង់។ វាអាចអាន staging database មិនមែនផលិតកម្ម។ វាអាចបើក pull request មិនមែន force-push ទៅ main។
• ការបែងចែក maker/checker — រូបរាងដូចគ្នាដែលយើងតែងតែត្រឡប់មក៖ model មួយស្នើសកម្មភាព ឯ model ផ្សេង ឬសំណុំច្បាប់ផ្សេង ត្រូវ អនុម័តវាមុនពេលវាប្រតិបត្តិ។ ការបែងចែកអំណាច អនុវត្តលើ agents។
• ការអនុវត្តគោលនយោបាយ — ការដាក់បញ្ចូល “អ្វីដែលត្រូវបានអនុញ្ញាតនៅទីនេះ” ជាកូដដែល agent មិនអាចនិយាយជៀសវាងបាន៖ ដែនកំណត់ការចំណាយ ច្បាប់ទីលំនៅទិន្នន័យ កម្រិតការអនុម័ត ការរឹតបន្តឹងបទប្បញ្ញត្តិ។
• ការសង្កេត និងសវនកម្ម — រាល់ការសម្រេចចិត្តត្រូវបានកត់ត្រា អាចសន្មត និងអាចលេងឡើងវិញ ព្រោះនៅពេលអ្វីមួយខុស អ្នកត្រូវបង្ហាញថាមានអ្វីកើតឡើង និងហេតុអ្វី។

គ្មានរបស់ទាំងនេះត្រូវការការបង្វឹក model ទេ។ ពួកវាទាំងអស់ជាវិស្វកម្មសូហ្វវែរ — ហើយនោះជាមូលហេតុជាក់ស្ដែងដែលស្រទាប់នេះអាចសាងសង់បានដោយក្រុមដែលនឹងមិនដែលមាន GPU cluster ឡើយ។

ការពិតនៃលទ្ធកម្ម

នេះជាគម្លាតដែលទីផ្សារកំពុងប្រណាំងបំពេញ៖ តម្រូវការកំពុងលើសលប់ការផ្គត់ផ្គង់មនុស្សដែលអាចបំពេញវា។ ការស្ទង់មតិមួយបានរកឃើញថា ៨៧% នៃសហគ្រាសនៅតែខ្វះ framework សុវត្ថិភាព AI ដ៏ទូលំទូលាយ ទោះបីពួកគេប្រញាប់ដាក់ agents ទៅផលិតកម្ម។ វិស័យដែលមានផលវិបាកពិតប្រាកដ — ហិរញ្ញវត្ថុ សុខាភិបាល — កំពុងទាញខ្លាំងបំផុត ព្រោះនោះជាកន្លែងដែលសកម្មភាពគ្មានការការពារថ្លៃបំផុត។

ដូច្នេះសហគ្រាសប្រឈមនឹងការសម្រេចចិត្តសាងសង់-ឬ-ទិញលើស្រទាប់មួយដែលកាលពីប្រាំឆ្នាំមុនមិនមានជាប្រភេទ។ ផ្នែកខ្លះនឹងត្រូវបានទិញពីលើធ្នើ — ការផ្ទៀងផ្ទាត់ input ទូទៅ វេទិកាសង្កេត។ ប៉ុន្តែ guardrails ដ៏មានតម្លៃបំផុតគឺជាពួកដែលដាក់បញ្ចូល ច្បាប់របស់អ្នក៖ របបអនុលោមភាពរបស់អ្នក ការអត់ឱនហានិភ័យរបស់អ្នក និយមន័យសកម្មភាពហាមឃាត់របស់ domain អ្នក។ ពួកនោះមិនអាចទិញជាទូទៅបានទេ ព្រោះពួកវាមិនមែនទូទៅ។ ពួកវាត្រូវសាងសង់ដោយនរណាម្នាក់ដែលយល់ទាំង agent និងអាជីវកម្មដែលវាកំពុងធ្វើសកម្មភាពនៅខាងក្នុង។ “នរណាម្នាក់” នោះជាតួនាទីដែលទទួលប្រាក់ខ្ពស់កាន់តែខ្លាំង ហើយវាជាតួនាទីវិស្វកម្ម មិនមែនស្រាវជ្រាវ។

ហេតុអ្វី soft law របស់ ASEAN ធ្វើឱ្យ guardrail ជាព្រំដែនពិតប្រាកដ

នេះជាកន្លែងដែលមុំតំបន់ក្លាយជាមុតស្រួច។ ASEAN គ្មានច្បាប់ AI ចងភ្ជាប់ទូទាំងតំបន់ទេ។ អ្វីដែលវាមានគឺ ASEAN Guide on AI Governance and Ethics (ឆ្នាំ ២០២៤) និង Expanded Guide សម្រាប់ generative AI — គោលការណ៍មិនចងភ្ជាប់៖ តម្លាភាព យុត្តិធម៌ ការទទួលខុសត្រូវ ការផ្ដោតលើមនុស្ស។ គោលការណ៍ល្អ គ្មានធ្មេញ។ ហើយការអនុវត្តប្រែប្រួលយ៉ាងខ្លាំង៖ សិង្ហបុរី និងម៉ាឡេស៊ីមាន framework ស្មុគស្មាញ ឯប្រទេសជិតខាងជាច្រើនស្ទើរតែគ្មាន។

សម្រាប់អាជីវកម្មដែលដាក់ពង្រាយ agents ក្នុងតំបន់ ការពិត soft-law នេះមានផលវិបាករឹង។ បើនិយតករនឹងមិនកំណត់ព្រំដែនប្រតិបត្តិការរបស់អ្នកលម្អិតយ៉ាងអាចអនុវត្តបាន នោះ ស្រទាប់ guardrail របស់អ្នកគឺជាព្រំដែនរបស់អ្នក។ ការគ្រប់គ្រងបច្ចេកទេសដែលអ្នកសាងសង់ — អ្វីដែល agent អាចប៉ះ អ្វីដែលត្រូវការមនុស្ស អ្វីដែលត្រូវកត់ត្រា — ក្លាយជារបបអនុលោមភាពពិតប្រាកដ ព្រោះគ្មានអ្វីផ្សេងកំពុងអនុវត្តមួយ។ យើងបានសរសេរអំពី គម្លាតអភិបាលកិច្ច ASEAN ជាបញ្ហាគោលនយោបាយ។ មើលពីកៅអីរបស់អ្នកសាងសង់ វាក៏ជាអាណត្តិវិស្វកម្មដែរ៖ ក្នុងអវត្តមាននៃច្បាប់រឹង កូដ គឺ ជាគោលនយោបាយ។

ឱកាសសម្រាប់វិស្វករនៃតំបន់

ដាក់បំណែកជាមួយគ្នា នោះរូបរាងស្គាល់មួយលេចចេញ។ ស្រទាប់ guardrail ជាប្រភេទតម្លៃ ១០០ ពាន់លានដុល្លារ-និង-កំពុងកើនឡើង។ វាភាគច្រើនលើសលប់ជាវិស្វកម្មសូហ្វវែរ មិនមែនការបង្វឹក model។ កំណែដ៏មានតម្លៃបំផុតរបស់វាគឺពួកដែលលៃតម្រូវសម្រាប់ domain ជាក់លាក់ បរិយាកាសបទប្បញ្ញត្តិជាក់លាក់ ភាសាជាក់លាក់។ ហើយនៅអាស៊ីអាគ្នេយ៍ បទប្បញ្ញត្តិខាងក្រៅខ្សោយមានន័យថា guardrail មិនមែនគ្រាន់តែជាមុខងារសុវត្ថិភាពទេ — វាជាព្រំដែនអនុលោមភាពខ្លួនឯង។

នោះជាទីតាំងដែលអាចការពារបានដែលអ្នកអាចសាងសង់ពីភ្នំពេញ ឬ Da Nang បានល្អដូចកន្លែងណាមួយនៅលើផែនដី។ Guardrail ទូទៅពីអ្នកលក់អាមេរិកមិនស្គាល់ថាសកម្មភាពណាដែលត្រូវបានហាមឃាត់ក្រោមច្បាប់របស់ធនាគារកម្ពុជា ឬ field រសើបមើលទៅដូចម្ដេចក្នុងកំណត់ត្រាភាសាខ្មែរ ឬការអនុម័តណាដែលនិយតករក្នុងស្រុកនឹងរំពឹងឃើញកត់ត្រា។ Model ត្រូវបានជួលក្នុងតម្លៃថេរ។ Guardrail ដែលធ្វើឱ្យវា មានសុវត្ថិភាព និងអនុលោមលើបញ្ហារបស់អ្នក គឺជារបស់អ្នកដែលត្រូវសាងសង់ — ហើយវាជាស្រទាប់ដែលទីផ្សារទើបតែនឹងចំណាយមួយរយពាន់លានដុល្លារ។

អ្វីដែលត្រូវយកពីរឿងនេះ

ឈប់គិតថាសុវត្ថិភាពជាប្រអប់ធីកដែលអ្នកបន្ថែមនៅចុងបញ្ចប់។ Guardrail កំពុងក្លាយជាផលិតផល — ផ្នែកដែលមានថវិកា ទីផ្សារ និង moat។ បើអ្នកជាអាជីវកម្ម សំណួរមិនមែន “តើយើងទុកចិត្ត model ណា” ទេ វាជា “តើស្រទាប់រវាង agent នេះ និងលុយរបស់យើងជាអ្វី ហើយនរណាជាម្ចាស់វា”។ បើអ្នកជាវិស្វករក្នុងតំបន់នេះ ស្រទាប់នោះជាមួយក្នុងចំណោមរបស់ដែលមានឥទ្ធិពលខ្ពស់បំផុតដែលអ្នកអាចរៀនសាងសង់ ព្រោះតម្រូវការធំធេង ការផ្គត់ផ្គង់ស្ដើង ហើយចំណេះដឹងក្នុងស្រុកដែលអ្នកមានស្រាប់គឺជាអ្វីដែលអ្នកលក់ទូទៅខ្វះ។

Model នាំមកនូវសមត្ថភាព។ Guardrail សម្រេចថាតើអ្នកអាចមានលទ្ធភាពអនុញ្ញាតឱ្យវាធ្វើសកម្មភាពបានឬអត់។