AI មានថាមពលក្នុងការបង្កើនប្រសិទ្ធភាពក្នុងវិស័យផ្សេងៗដូចជាអាជីវកម្ម និងការថែទាំសុខភាព។ ទោះជាយ៉ាងណាក៏ដោយ កង្វះការពន្យល់បានរារាំងការពឹងផ្អែករបស់យើងលើការប្រើប្រាស់វាសម្រាប់ការសម្រេចចិត្ត។
តើយើងគួរជឿជាក់លើការវិនិច្ឆ័យនៃក្បួនដោះស្រាយមួយដែរឬទេ?
វាមានសារៈសំខាន់សម្រាប់អ្នកធ្វើការសម្រេចចិត្តនៅក្នុងឧស្សាហកម្មណាមួយដើម្បីយល់ពីដែនកំណត់និងភាពលំអៀងដែលអាចកើតមាន ម៉ូដែលរៀនម៉ាស៊ីន. ដើម្បីធានាថាគំរូទាំងនេះមានឥរិយាបថដូចបំណង លទ្ធផលនៃប្រព័ន្ធ AI ណាមួយគួរតែអាចពន្យល់បានចំពោះមនុស្ស។
នៅក្នុងអត្ថបទនេះ យើងនឹងនិយាយអំពីសារៈសំខាន់នៃការពន្យល់នៅក្នុង AI ។ យើងនឹងផ្តល់នូវទិដ្ឋភាពសង្ខេបនៃប្រភេទវិធីសាស្ត្រដែលបានប្រើដើម្បីទាញយកការពន្យល់ពីគំរូរៀនម៉ាស៊ីន។
តើ AI ដែលអាចពន្យល់បានគឺជាអ្វី?
អាចពន្យល់បាន។ ក្លែងបន្លំ ឬ XAI សំដៅលើបច្ចេកទេស និងវិធីសាស្រ្តដែលប្រើដើម្បីអនុញ្ញាតឱ្យមនុស្សយល់ពីរបៀបដែលគំរូនៃការរៀនម៉ាស៊ីនមកដល់លទ្ធផលជាក់លាក់មួយ។
មានប្រជាប្រិយភាពជាច្រើន ក្បួនដោះស្រាយការរៀនម៉ាស៊ីន ធ្វើការដូចជា "ប្រអប់ខ្មៅ"។ នៅក្នុងការរៀនម៉ាស៊ីន, ក្បួនដោះស្រាយប្រអប់ខ្មៅ យោងទៅលើម៉ូដែល ML ដែលវាមិនអាចទៅរួចទេក្នុងការផ្ទៀងផ្ទាត់ថាតើការបញ្ចូលជាក់លាក់ណាមួយនាំទៅដល់លទ្ធផលជាក់លាក់មួយ។ សូម្បីតែអ្នកបង្កើត AI ក៏នឹងមិនអាចពន្យល់បានពេញលេញពីរបៀបដែលក្បួនដោះស្រាយដំណើរការដែរ។
ជាឧទាហរណ៍ ប្រើក្បួនដោះស្រាយការរៀនស៊ីជម្រៅ បណ្តាញសរសៃប្រសាទ ដើម្បីកំណត់អត្តសញ្ញាណគំរូពីទិន្នន័យមួយតោន។ ទោះបីជាអ្នកស្រាវជ្រាវ និងអ្នកអភិវឌ្ឍន៍ AI យល់ពីរបៀបដែលបណ្តាញសរសៃប្រសាទដំណើរការតាមទស្សនៈបច្ចេកទេសក៏ដោយ ក៏ពួកគេមិនអាចពន្យល់បានពេញលេញពីរបៀបដែលបណ្តាញសរសៃប្រសាទកើតឡើងជាមួយនឹងលទ្ធផលជាក់លាក់មួយ។
បណ្តាញសរសៃប្រសាទមួយចំនួនគ្រប់គ្រងប៉ារ៉ាម៉ែត្ររាប់លានដែលទាំងអស់ដំណើរការដោយឯកឯងដើម្បីត្រឡប់លទ្ធផលចុងក្រោយ។
នៅក្នុងស្ថានភាពដែលការសម្រេចចិត្តមានសារៈសំខាន់ កង្វះការពន្យល់អាចក្លាយជាបញ្ហា។
ហេតុអ្វីបានជាការពន្យល់មានសារៈសំខាន់
អាចពន្យល់បាន ផ្តល់ការយល់ដឹងអំពីរបៀបដែលគំរូធ្វើការសម្រេចចិត្ត។ អាជីវកម្មដែលមានគម្រោងសម្រប AI ដើម្បីធ្វើការសម្រេចចិត្តនឹងត្រូវកំណត់ថាតើ AI បានប្រើការបញ្ចូលត្រឹមត្រូវដើម្បីឈានដល់ការសម្រេចចិត្តល្អបំផុតឬអត់។
ម៉ូដែលដែលមិនអាចពន្យល់បានគឺជាបញ្ហានៅក្នុងឧស្សាហកម្មមួយចំនួន។ ឧទាហរណ៍ ប្រសិនបើក្រុមហ៊ុនត្រូវប្រើក្បួនដោះស្រាយដើម្បីធ្វើការសម្រេចចិត្តជ្រើសរើសបុគ្គលិក វាជាការចាប់អារម្មណ៍បំផុតសម្រាប់មនុស្សគ្រប់គ្នាដើម្បីឱ្យមានតម្លាភាពក្នុងរបៀបដែលក្បួនដោះស្រាយសម្រេចចិត្តបដិសេធអ្នកដាក់ពាក្យ។
កន្លែងមួយទៀត ការរៀនសូត្រជ្រៅ ក្បួនដោះស្រាយកំពុងត្រូវបានប្រើប្រាស់ញឹកញាប់ជាងគឺនៅក្នុងការថែទាំសុខភាព។ ក្នុងករណីដែលក្បួនដោះស្រាយព្យាយាមរកឃើញសញ្ញាដែលអាចកើតមាននៃជំងឺមហារីក វាជារឿងសំខាន់សម្រាប់វេជ្ជបណ្ឌិតក្នុងការស្វែងយល់ពីរបៀបដែលគំរូមកដល់ការធ្វើរោគវិនិច្ឆ័យជាក់លាក់មួយ។ កម្រិតនៃការពន្យល់មួយចំនួនត្រូវបានទាមទារសម្រាប់អ្នកជំនាញដើម្បីទាញយកអត្ថប្រយោជន៍ពេញលេញពី AI ហើយមិនធ្វើតាមវាដោយងងឹតងងុលនោះទេ។
ទិដ្ឋភាពទូទៅនៃក្បួនដោះស្រាយ AI ដែលអាចពន្យល់បាន។
ក្បួនដោះស្រាយ AI ដែលអាចពន្យល់បាន ចែកចេញជាពីរប្រភេទធំៗ៖ គំរូដែលអាចបកស្រាយបានដោយខ្លួនឯង និងការពន្យល់ក្រោយម៉ោងធ្វើការ។
ម៉ូដែលដែលអាចបកស្រាយបានដោយខ្លួនឯង។
ម៉ូដែលដែលអាចបកស្រាយបានដោយខ្លួនឯង។ គឺជាក្បួនដោះស្រាយដែលមនុស្សអាចអាន និងបកស្រាយដោយផ្ទាល់។ ក្នុងករណីនេះគំរូខ្លួនវាគឺជាការពន្យល់។
គំរូដែលអាចបកស្រាយដោយខ្លួនឯងទូទៅបំផុតមួយចំនួនរួមមាន សេចក្តីសម្រេចចិត្ត និងគំរូតំរែតំរង់។
ជាឧទាហរណ៍ សូមពិចារណាគំរូតំរែតំរង់លីនេអ៊ែរ ដែលព្យាករណ៍ពីតម្លៃផ្ទះ។ ការតំរែតំរង់លីនេអ៊ែរមានន័យថាជាមួយនឹងតម្លៃមួយចំនួន x យើងនឹងអាចទស្សន៍ទាយតម្លៃគោលដៅរបស់យើង y ដោយអនុវត្តមុខងារលីនេអ៊ែរជាក់លាក់មួយ f ។
ឧបមាថាគំរូរបស់យើងប្រើទំហំដីជាធាតុបញ្ចូលសំខាន់ដើម្បីកំណត់តម្លៃផ្ទះ។ ដោយប្រើតំរែតំរង់លីនេអ៊ែរ យើងអាចបង្កើតអនុគមន៍ y = 5000 * x ដែល x ជាបរិមាណការ៉េ ឬទំហំដី។
គំរូនេះអាចអានមនុស្សបាន និងមានតម្លាភាពទាំងស្រុង។
ការពន្យល់ក្រោយហុក
ការពន្យល់ក្រោយម៉ោង គឺជាក្រុមនៃក្បួនដោះស្រាយ និងបច្ចេកទេសដែលអាចត្រូវបានប្រើដើម្បីបន្ថែមការពន្យល់ទៅក្បួនដោះស្រាយផ្សេងទៀត។
បច្ចេកទេសពន្យល់ក្រោយម៉ោងភាគច្រើន មិនចាំបាច់យល់ពីរបៀបដែលក្បួនដោះស្រាយដំណើរការនោះទេ។ អ្នកប្រើប្រាស់គ្រាន់តែត្រូវការបញ្ជាក់ការបញ្ចូល និងលទ្ធផលលទ្ធផលនៃក្បួនដោះស្រាយគោលដៅប៉ុណ្ណោះ។
ការពន្យល់ទាំងនេះត្រូវបានបែងចែកបន្ថែមទៀតជាពីរប្រភេទ៖ ការពន្យល់ក្នុងស្រុក និងការពន្យល់ជាសកល។
ការពន្យល់ក្នុងស្រុកមានគោលបំណងពន្យល់ពីសំណុំរងនៃធាតុចូល។ ជាឧទាហរណ៍ ការផ្ដល់ឱ្យនូវលទ្ធផលជាក់លាក់មួយ ការពន្យល់ក្នុងស្រុកនឹងអាចបញ្ជាក់អំពីប៉ារ៉ាម៉ែត្រដែលរួមចំណែកដល់ការសម្រេចចិត្តនោះ។
ការពន្យល់ជាសកលមានគោលបំណងបង្កើតការពន្យល់ក្រោយម៉ោងនៃក្បួនដោះស្រាយទាំងមូល។ ការពន្យល់ប្រភេទនេះជាធម្មតាពិបាកធ្វើជាង។ ក្បួនដោះស្រាយមានភាពស្មុគស្មាញ ហើយអាចមានប៉ារ៉ាម៉ែត្ររាប់មិនអស់ ដែលមានសារៈសំខាន់ក្នុងការសម្រេចបានលទ្ធផលចុងក្រោយ។
ឧទាហរណ៍នៃក្បួនដោះស្រាយការពន្យល់ក្នុងស្រុក
ក្នុងចំណោមបច្ចេកទេសជាច្រើនដែលប្រើដើម្បីសម្រេចបាន XAI ក្បួនដោះស្រាយដែលប្រើសម្រាប់ការពន្យល់ក្នុងស្រុកគឺជាអ្វីដែលអ្នកស្រាវជ្រាវភាគច្រើនផ្តោតលើ។
នៅក្នុងផ្នែកនេះ យើងនឹងពិនិត្យមើលក្បួនដោះស្រាយការពន្យល់ក្នុងស្រុកដ៏ពេញនិយមមួយចំនួន និងរបៀបដែលពួកវានីមួយៗដំណើរការ។
LIME
LIME (Local Interpretable Model-Agnostic Explainer) គឺជាក្បួនដោះស្រាយមួយដែលអាចពន្យល់ពីការព្យាករនៃក្បួនដោះស្រាយការរៀនម៉ាស៊ីនណាមួយ។
ដូចដែលឈ្មោះបង្កប់ន័យ LIME គឺជាគំរូដែលមិនគួរឱ្យជឿ។ នេះមានន័យថា LIME អាចធ្វើការសម្រាប់ប្រភេទណាមួយនៃម៉ូដែល។ គំរូក៏អាចបកស្រាយតាមមូលដ្ឋានបានដែរ មានន័យថាយើងអាចពន្យល់គំរូដោយប្រើលទ្ធផលក្នុងស្រុក ជាជាងការពន្យល់គំរូទាំងមូល។
ទោះបីជាគំរូដែលត្រូវបានពន្យល់គឺជាប្រអប់ខ្មៅក៏ដោយ LIME បង្កើតគំរូលីនេអ៊ែរក្នុងតំបន់ជុំវិញចំណុចនៅជិតទីតាំងជាក់លាក់មួយ។
LIMe ផ្តល់នូវគំរូលីនេអ៊ែរដែលប្រហាក់ប្រហែលគំរូដែលនៅជិតការព្យាករណ៍ ប៉ុន្តែមិនចាំបាច់ជាសកលទេ។
អ្នកអាចស្វែងយល់បន្ថែមអំពីក្បួនដោះស្រាយនេះដោយចូលទៅកាន់ឃ្លាំងប្រភពបើកចំហនេះ។
SHAP
ការពន្យល់បន្ថែមរបស់ Shapley (SHAP) គឺជាវិធីសាស្រ្តពន្យល់ការទស្សន៍ទាយបុគ្គល។ ដើម្បីយល់ពីរបៀបដែល SHAP ដំណើរការ យើងនឹងត្រូវពន្យល់ថាតើតម្លៃ Shapley ជាអ្វី។
តម្លៃ Shapley គឺជាគំនិតមួយនៅក្នុងទ្រឹស្ដីហ្គេមដែលពាក់ព័ន្ធនឹងការផ្តល់ "តម្លៃ" ដល់អ្នកលេងម្នាក់ៗនៅក្នុងហ្គេម។ នេះត្រូវបានចែកចាយដូច្នេះថាតម្លៃដែលបានផ្តល់ឱ្យអ្នកលេងម្នាក់ៗគឺផ្អែកលើការរួមចំណែករបស់អ្នកលេងចំពោះហ្គេម។
តើយើងត្រូវអនុវត្តយ៉ាងដូចម្តេច ទ្រឹស្តីហ្គេម ទៅនឹងការរៀនម៉ាស៊ីន ម៉ូដែល?
ឧបមាថាលក្ខណៈពិសេសនីមួយៗនៅក្នុងគំរូរបស់យើងគឺជា "អ្នកលេង" ហើយថា "ហ្គេម" គឺជាមុខងារដែលផ្តល់លទ្ធផលការទស្សន៍ទាយ។
វិធីសាស្ត្រ SHAP បង្កើតគំរូលីនេអ៊ែរដែលមានទម្ងន់ដែលកំណត់តម្លៃ Shapley ទៅនឹងមុខងារផ្សេងៗ។ លក្ខណៈពិសេសដែលមានតម្លៃ Shapley ខ្ពស់មានឥទ្ធិពលកាន់តែខ្លាំងលើលទ្ធផលនៃម៉ូដែល ខណៈដែលលក្ខណៈពិសេសដែលមានតម្លៃ Shapley ទាបមានផលប៉ះពាល់តិចជាង។
សន្និដ្ឋាន
ការពន្យល់អំពី AI គឺមានសារៈសំខាន់មិនត្រឹមតែសម្រាប់ការធានានូវភាពត្រឹមត្រូវ និងគណនេយ្យភាពនៃប្រព័ន្ធ AI ប៉ុណ្ណោះទេ ប៉ុន្តែថែមទាំងសម្រាប់ការកសាងទំនុកចិត្តលើបច្ចេកវិទ្យា AI ជាទូទៅផងដែរ។
វានៅតែមានការស្រាវជ្រាវជាច្រើនដែលត្រូវធ្វើនៅក្នុងតំបន់នៃការពន្យល់អំពី AI ប៉ុន្តែមានវិធីសាស្រ្តជោគជ័យមួយចំនួនដែលអាចជួយយើងឱ្យយល់អំពីប្រព័ន្ធ AI ប្រអប់ខ្មៅដ៏ស្មុគស្មាញដែលត្រូវបានប្រើប្រាស់យ៉ាងទូលំទូលាយនាពេលបច្ចុប្បន្ននេះ។
ជាមួយនឹងការស្រាវជ្រាវ និងការអភិវឌ្ឍន៍បន្ថែមទៀត យើងអាចសង្ឃឹមថានឹងបង្កើតប្រព័ន្ធ AI ដែលកាន់តែមានតម្លាភាព និងងាយស្រួលយល់។ ក្នុងពេលជាមួយគ្នានេះ អាជីវកម្ម និងអ្នកជំនាញក្នុងវិស័យដូចជា ការថែទាំសុខភាព គួរតែដឹងពីដែនកំណត់នៃការពន្យល់អំពី AI ។
សូមផ្ដល់យោបល់