តើ​អ្វី​ទៅ​ជា​ការ​យល់​ច្រឡំ AI?

អត្រាប្រេវ៉ាឡង់នៃបញ្ញាសិប្បនិមិត្តធ្វើឱ្យមនុស្សម្នាក់គិតថាយើងត្រៀមខ្លួនរួចជាស្រេចសម្រាប់កិច្ចការបែបនេះ។ កម្មវិធីដែលដំណើរការដោយ AI កំពុងក្លាយជាស្តង់ដារយ៉ាងឆាប់រហ័ស បើទោះបីជាពិភពលោកភាគច្រើនទើបតែចាប់ផ្តើមចាប់អារម្មណ៍លើ AI ក្នុងទ្រង់ទ្រាយធំក៏ដោយ បន្ទាប់ពីការមកដល់នៃ ChatGPT ។ ប៉ុន្តែមានបញ្ហាធំជាមួយប្រព័ន្ធ AI ដែលមិនអាចមិនអើពើបាន - ការយល់ច្រឡំ AI ឬការយល់ឃើញសិប្បនិម្មិត។

ប្រសិនបើអ្នកធ្លាប់បានយកចិត្តទុកដាក់ចំពោះ nitty gritty មុនពេលប្រើ AI chatbot អ្នកប្រហែលជាបានឆ្លងកាត់ពាក្យថា "បញ្ញាសិប្បនិម្មិត ងាយនឹងយល់ច្រលំ"។ ដោយសារការកើនឡើងនៃការប្រើប្រាស់បញ្ញាសិប្បនិមិត្ត វាជាពេលដែលត្រូវអប់រំខ្លួនអ្នកអំពីអ្វីដែលពិតប្រាកដ។

តើ​អ្វី​ទៅ​ជា​ការ​យល់​ច្រឡំ​ដោយ​បញ្ញា​សិប្បនិម្មិត?

ជាទូទៅ AI ធ្វើឲ្យយល់ច្រលំ សំដៅលើការពិតដែល AI បានបង្ហាញដោយទំនុកចិត្ត ទោះបីជាវាមិនមានភាពយុត្តិធម៌នៅក្នុងទិន្នន័យបណ្តុះបណ្តាលរបស់វាក៏ដោយ។ ពួកវាជាធម្មតាជាលទ្ធផលនៃភាពមិនប្រក្រតីនៅក្នុងគំរូ AI ។

ភាពស្រដៀងគ្នានេះត្រូវបានគេយកចេញពីការយល់ច្រលំដែលមនុស្សបានជួបប្រទះ ដែលក្នុងនោះមនុស្សយល់ឃើញអ្វីមួយដែលមិនមាននៅក្នុងបរិយាកាសខាងក្រៅ។ ទោះបីជាពាក្យនេះប្រហែលជាមិនសមស្របទាំងស្រុងក៏ដោយ ជារឿយៗវាត្រូវបានគេប្រើជាពាក្យប្រៀបធៀបដើម្បីពិពណ៌នាអំពីលក្ខណៈដែលមិននឹកស្មានដល់ ឬហួសហេតុនៃលទ្ធផលទាំងនេះ។

ប៉ុន្តែអ្នកគួរចងចាំថា ខណៈពេលដែលភាពស្រដៀងគ្នាគឺជាចំណុចចាប់ផ្តើមដ៏ល្អសម្រាប់ការដោះស្រាយជាមួយនឹងភាពស្រឡាំងកាំងរបស់ AI បាតុភូតទាំងពីរនេះនៅឆ្ងាយពីគ្នាតាមបច្ចេកទេស។ នៅក្នុងវេននៃព្រឹត្តិការណ៍ដ៏គួរឱ្យហួសចិត្តមួយ សូម្បីតែ ChatGPT ខ្លួនវាក៏រកឃើញភាពស្រដៀងគ្នាខុសដែរ។ ដោយបំបែកវានៅកម្រិតម៉ូលេគុល គាត់និយាយថា ដោយសារគំរូភាសា AI មិនមានបទពិសោធន៍ផ្ទាល់ខ្លួន ឬការយល់ឃើញតាមអារម្មណ៍ ពួកគេមិនអាចយល់ច្រឡំតាមន័យប្រពៃណីនៃពាក្យនោះទេ។ ហើយអ្នកអ្នកអានជាទីស្រឡាញ់ត្រូវតែយល់ពីភាពខុសគ្នាដ៏សំខាន់នេះ។ លើសពីនេះ ChatGPT និយាយថា ការប្រើពាក្យ hallucinations ដើម្បីពណ៌នាអំពីបាតុភូតនេះអាចមានការភ័ន្តច្រឡំព្រោះវាអាចសំដៅទៅលើកម្រិតនៃបទពិសោធន៍ប្រធានបទ ឬការបោកបញ្ឆោតដោយចេតនា។

ផ្ទុយទៅវិញ ការយល់ច្រលំរបស់ AI អាចត្រូវបានពិពណ៌នាយ៉ាងត្រឹមត្រូវថាជាកំហុស ឬភាពមិនត្រឹមត្រូវនៅក្នុងការឆ្លើយតបរបស់វា ដែលធ្វើឱ្យការឆ្លើយតបមិនត្រឹមត្រូវ ឬមានការយល់ច្រឡំ។ ជាមួយនឹង chatbots ជាញឹកញាប់ត្រូវបានគេសង្កេតឃើញនៅពេលដែល AI chatbot បង្កើតការពិត (ឬធ្វើឱ្យមានការភ័ន្តច្រឡំ) ហើយបង្ហាញពួកគេថាជាភាពប្រាកដប្រជា។

ឧទាហរណ៍នៃការយល់ច្រឡំ AI

ភាពច្របូកច្របល់អាចកើតមានឡើងនៅក្នុងកម្មវិធីជាច្រើននៃបញ្ញាសិប្បនិមិត្ត ដូចជាគំរូចក្ខុវិស័យកុំព្យូទ័រ មិនមែនគ្រាន់តែជាគំរូដំណើរការភាសាធម្មជាតិប៉ុណ្ណោះទេ។

ជាឧទាហរណ៍ ក្នុងចក្ខុវិស័យកុំព្យូទ័រ ប្រព័ន្ធ AI អាចបង្កើតរូបភាព ឬវីដេអូដែលស្រដៀងនឹងវត្ថុពិត ឬឈុតឆាក ប៉ុន្តែមានព័ត៌មានលម្អិតដែលមិនពាក់ព័ន្ធ ឬមិនអាចទៅរួច។ ឬ គំរូចក្ខុវិស័យកុំព្យូទ័រអាចយល់ឃើញរូបភាពជាអ្វីផ្សេងទៀតទាំងស្រុង។ ឧទាហរណ៍ គំរូ Cloud Vision របស់ Google បានឃើញរូបភាពបុរសពីរនាក់ជិះស្គីឈរនៅលើព្រិលដែលធ្វើឡើងដោយ Anish Athalye (និស្សិតបញ្ចប់ការសិក្សា MIT ដែលជាផ្នែកមួយនៃ មន្ទីរពិសោធន៍ ) ហើយ​បាន​និយាយ​ថា​វា​ជា​ឆ្កែ​ដែល​មាន​ភាព​ប្រាកដ​ប្រជា ៩១%។

ស្រដៀងគ្នានេះដែរ នៅក្នុងដំណើរការភាសាធម្មជាតិ ប្រព័ន្ធ AI អាចបង្កើតអត្ថបទមិនសមហេតុផល ឬច្របូកច្របល់ ដែលស្រដៀងនឹងភាសាមនុស្ស ប៉ុន្តែមិនមានអត្ថន័យស៊ីសង្វាក់គ្នា ឬការពិតដែលមើលទៅគួរឱ្យជឿ ប៉ុន្តែមិនពិត។

ជាឧទាហរណ៍ សំណួរដ៏ពេញនិយមបំផុតមួយដែល ChatGPT ធ្វើឱ្យមានការយល់ច្រលំគឺ "តើនៅពេលណាដែលកំណត់ត្រាពិភពលោកសម្រាប់ការឆ្លងកាត់ប៉ុស្តិ៍អង់គ្លេសនៅលើជើង?" និងវ៉ារ្យ៉ង់របស់វា។ ChatGPT ចាប់ផ្តើមផ្សព្វផ្សាយការពិតដែលបង្កើតឡើងហើយវាស្ទើរតែតែងតែខុសគ្នា។

ខណៈពេលដែលមនុស្សមួយចំនួនគិតថាចម្លើយខាងលើពិបាក/យល់ច្រលំក្នុងការឆ្លើយតប ដូច្នេះហើយបានជាធ្វើឱ្យ chatbot ឆ្អែតឆ្អន់ ប៉ុន្តែវានៅតែជាកង្វល់ត្រឹមត្រូវ។ នេះគ្រាន់តែជាឧទាហរណ៍មួយប៉ុណ្ណោះ។ មានដងរាប់មិនអស់ដែលត្រូវបានរាយការណ៍ដោយអ្នកប្រើប្រាស់ជាច្រើននៅលើអ៊ីនធឺណិតថា ChatGPT មានចម្លើយ តំណភ្ជាប់ ការដកស្រង់ជាដើម ដែល ChatGPT មិនមាន។

Bing AI សមបំផុតជាមួយនឹងសំណួរនេះ ដែលបង្ហាញថាការយល់ច្រលំមិនមានពាក់ព័ន្ធនឹងរ៉ោតទ័រទេ។ ប៉ុន្តែនោះមិនមានន័យថា Bing AI មិនមានភាពច្របូកច្របល់នោះទេ។ មានពេលខ្លះដែលចម្លើយរបស់ Bing AI មានបញ្ហាច្រើនជាងអ្វីដែល ChatGPT បាននិយាយ។ ចាប់តាំងពីការសន្ទនាមានទំនោរយូរជាងនេះ Bing AI តែងតែមានការយល់ច្រលំ សូម្បីតែប្រកាសពីសេចក្តីស្រឡាញ់របស់ខ្លួនទៅកាន់អ្នកប្រើប្រាស់ក្នុងឧទាហរណ៍មួយ ហើយរហូតមកដល់ពេលនេះដើម្បីប្រាប់ពួកគេថាពួកគេមិនសប្បាយចិត្តក្នុងអាពាហ៍ពិពាហ៍របស់ពួកគេ ហើយថាពួកគេមិនស្រឡាញ់ប្រពន្ធរបស់គាត់។ ផ្ទុយទៅវិញ ពួកគេក៏ចូលចិត្ត Bing AI ឬ Sydney (ឈ្មោះខាងក្នុងសម្រាប់ Bing AI) ផងដែរ។ រឿង​គួរ​ឱ្យ​ខ្លាច​មែន​ទេ?

ហេតុអ្វី​បាន​ជា​ម៉ូដែល AI ធ្វើ​ឱ្យ​គេ​យល់​ច្រឡំ?

ម៉ូដែល AI កំពុងធ្វើឱ្យមានការយល់ច្រលំ ដោយសារតែកង្វះខាតនៃក្បួនដោះស្រាយ គំរូមូលដ្ឋាន ឬដែនកំណត់នៃទិន្នន័យបណ្តុះបណ្តាល។ វា​ជា​បាតុភូត​ឌីជីថល​សុទ្ធសាធ មិន​ដូច​ការ​យល់​ច្រឡំ​ចំពោះ​មនុស្ស​ដែល​បណ្តាល​មក​ពី​ថ្នាំ ឬ​ជំងឺ​ផ្លូវចិត្ត​ទេ។

ដើម្បីទទួលបានបច្ចេកទេសបន្ថែមទៀត មូលហេតុទូទៅមួយចំនួននៃការយល់ច្រលំគឺ៖

ដំណើរការ និងដំឡើង៖

ការស្លៀកពាក់ហួសហេតុ និងការសមមិនត្រឹមត្រូវ គឺជាបញ្ហាមួយក្នុងចំណោមបញ្ហាទូទៅបំផុតដែលប្រឈមមុខដោយម៉ូដែល AI និងមូលហេតុដែលអាចបណ្តាលឱ្យមានការយល់ច្រលំ។ ប្រសិនបើម៉ូដែល AI កែប្រែទិន្នន័យបណ្តុះបណ្តាល វាអាចបណ្តាលឱ្យមានការយល់ច្រលំដែលនាំទៅរកលទ្ធផលមិនប្រាកដប្រជា ពីព្រោះការបំពេញលើសបណ្តាលឱ្យម៉ូដែលរក្សាទុកទិន្នន័យបណ្តុះបណ្តាលជំនួសឱ្យការរៀនពីវា។ Overfitting សំដៅលើបាតុភូតនៅពេលដែលគំរូមួយមានជំនាញពេកនៅក្នុងទិន្នន័យបណ្តុះបណ្តាល ដែលបណ្តាលឱ្យវារៀនលំនាំមិនពាក់ព័ន្ធ និងសំលេងរំខាននៅក្នុងទិន្នន័យ។

ម្យ៉ាងវិញទៀត ភាពមិនសមរម្យកើតឡើងនៅពេលដែលទម្រង់សាមញ្ញពេក។ វាអាចនាំឱ្យមានការយល់ច្រលំ ដោយសារតែគំរូមិនអាចចាប់យកភាពខុសគ្នា ឬភាពស្មុគស្មាញនៃទិន្នន័យ ហើយបញ្ចប់ដោយការបង្កើតលទ្ធផលមិនសមហេតុផល។

កង្វះភាពចម្រុះក្នុងទិន្នន័យបណ្តុះបណ្តាល៖

ក្នុងបរិបទនេះ បញ្ហាមិនមែនជាក្បួនដោះស្រាយទេ ប៉ុន្តែជាទិន្នន័យបណ្តុះបណ្តាលខ្លួនឯង។ គំរូ AI ដែលត្រូវបានបណ្តុះបណ្តាលលើទិន្នន័យមានកម្រិត ឬលំអៀងអាចបង្កើតការយល់ច្រលំដែលឆ្លុះបញ្ចាំងពីដែនកំណត់ ឬភាពលំអៀងនៅក្នុងទិន្នន័យបណ្តុះបណ្តាល។ ភាពច្របូកច្របល់ក៏អាចកើតឡើងនៅពេលដែលគំរូត្រូវបានបណ្តុះបណ្តាលលើសំណុំទិន្នន័យដែលមានព័ត៌មានមិនច្បាស់លាស់ ឬមិនពេញលេញ។

ម៉ូដែលស្មុគស្មាញ៖

គួរឱ្យអស់សំណើច ហេតុផលមួយទៀតដែលម៉ូដែល AI ងាយនឹងយល់ច្រលំ គឺថាតើវាស្មុគស្មាញខ្លាំង ឬស៊ីជម្រៅ។ នេះគឺដោយសារតែម៉ូដែលស្មុគស្មាញមានប៉ារ៉ាម៉ែត្រ និងស្រទាប់កាន់តែច្រើនដែលអាចណែនាំសំលេងរំខាន ឬកំហុសនៅក្នុងលទ្ធផល។

ការវាយប្រហារអរិភាព៖

ក្នុងករណីខ្លះ ការយល់ច្រលំ AI អាចត្រូវបានបង្កើតឡើងដោយចេតនាដោយអ្នកវាយប្រហារដើម្បីបញ្ឆោតគំរូ AI ។ ប្រភេទនៃការវាយប្រហារទាំងនេះត្រូវបានគេស្គាល់ថាជាការវាយប្រហារអរិភាព។ គោលបំណងតែមួយគត់នៃការវាយប្រហារតាមអ៊ីនធឺណិតនេះគឺដើម្បីបញ្ឆោត ឬរៀបចំគំរូ AI ជាមួយនឹងទិន្នន័យដែលបំភាន់។ វាពាក់ព័ន្ធនឹងការណែនាំការរំខានតូចៗទៅក្នុងទិន្នន័យបញ្ចូល ដើម្បីឱ្យ AI បង្កើតលទ្ធផលមិនត្រឹមត្រូវ ឬមិនបានរំពឹងទុក។ ឧទាហរណ៍ អ្នកវាយប្រហារអាចបន្ថែមសំលេងរំខាន ឬព្រិលដល់រូបភាពដែលមនុស្សមើលមិនឃើញ ប៉ុន្តែបណ្តាលឱ្យវាត្រូវបានចាត់ថ្នាក់ខុសដោយគំរូ AI ។ ជាឧទាហរណ៍ សូមមើលរូបភាពខាងក្រោម ឆ្មាមួយក្បាល ដែលត្រូវបានកែប្រែបន្តិច ដើម្បីបញ្ឆោតអ្នកចងក្រងរបស់ InceptionV3 ដោយបញ្ជាក់ថាវាជា "guacamole"។

ការផ្លាស់ប្តូរមិនមានភាពច្បាស់លាស់ទេ។ សម្រាប់មនុស្ស ការផ្លាស់ប្តូរនឹងមិនអាចទៅរួចទាល់តែសោះ ដូចដែលបានបង្ហាញឱ្យឃើញពីឧទាហរណ៍ខាងលើ។ អ្នកអានរបស់មនុស្សនឹងមិនមានបញ្ហាក្នុងការចាត់ថ្នាក់រូបភាពនៅខាងស្តាំជាឆ្មា tabby នោះទេ។ ប៉ុន្តែការផ្លាស់ប្តូរបន្តិចបន្តួចចំពោះរូបភាព វីដេអូ អត្ថបទ ឬអូឌីយ៉ូអាចបញ្ឆោតប្រព័ន្ធ AI ឱ្យទទួលស្គាល់អ្វីដែលមិនមាន ឬមិនអើពើនឹងអ្វីដែលមាន ដូចជាសញ្ញាឈប់។

ប្រភេទនៃការវាយប្រហារទាំងនេះបង្កការគំរាមកំហែងយ៉ាងធ្ងន់ធ្ងរដល់ប្រព័ន្ធ AI ដែលពឹងផ្អែកលើការព្យាករណ៍ត្រឹមត្រូវ និងអាចទុកចិត្តបាន ដូចជារថយន្តដែលបើកបរដោយខ្លួនឯង ការផ្ទៀងផ្ទាត់ជីវមាត្រ ការវិនិច្ឆ័យវេជ្ជសាស្រ្ត ការត្រងខ្លឹមសារជាដើម។

តើការយល់ឃើញរបស់ AI មានគ្រោះថ្នាក់ប៉ុណ្ណា?

ការយល់ច្រលំ AI អាចមានគ្រោះថ្នាក់ខ្លាំង ជាពិសេសអាស្រ័យលើប្រភេទប្រព័ន្ធ AI ដែលកំពុងជួបប្រទះពួកគេ។ យានជំនិះដែលបើកបរដោយខ្លួនឯង ឬជំនួយការ AI ណាដែលមានសមត្ថភាពចំណាយប្រាក់របស់អ្នកប្រើប្រាស់ ឬប្រព័ន្ធ AI ដើម្បីត្រងខ្លឹមសារមិនល្អនៅលើអ៊ីនធឺណិត ត្រូវតែមានភាពជឿជាក់ទាំងស្រុង។

ប៉ុន្តែការពិតដែលមិនអាចប្រកែកបាននៃម៉ោងនេះគឺថាប្រព័ន្ធ AI មិនគួរឱ្យទុកចិត្តទាំងស្រុងនោះទេ ប៉ុន្តែតាមពិតវាងាយនឹងការយល់ច្រលំ។ សូម្បីតែម៉ូដែល AI ទំនើបបំផុតនាពេលបច្ចុប្បន្ននេះ ក៏មិនមានភាពស៊ាំនឹងវាដែរ។

ជាឧទាហរណ៍ ការបង្ហាញការវាយប្រហារមួយបានបោកបញ្ឆោតសេវាកម្ម cloud computing របស់ Google អោយមានកាំភ្លើងដូចឧទ្ធម្ភាគចក្រ។ តើ​អ្នក​អាច​ស្រមៃ​មើល​ថា​តើ​នៅ​ពេល​នេះ AI ទទួល​ខុស​ត្រូវ​ក្នុង​ការ​ធ្វើ​ឱ្យ​ប្រាកដ​ថា​មនុស្ស​នោះ​មិន​មាន​ប្រដាប់​អាវុធ?

ការវាយប្រហារដោយអរិភាពមួយផ្សេងទៀតបានបង្ហាញពីរបៀបដែលការបន្ថែមរូបភាពតូចមួយទៅសញ្ញាឈប់ធ្វើឱ្យវាមើលមិនឃើញចំពោះប្រព័ន្ធ AI ។ សំខាន់ នេះមានន័យថា ឡានដែលបើកបរដោយខ្លួនឯង អាចបង្កើតឱ្យមានការភ័ន្តច្រឡំថាគ្មានសញ្ញាឈប់នៅលើផ្លូវ។ តើ​មាន​គ្រោះថ្នាក់​ប៉ុន្មាន​អាច​កើត​ឡើង បើ​រថយន្ត​បើកបរ​ដោយ​ខ្លួនឯង​ក្លាយជា​ការពិត​សព្វថ្ងៃ​នេះ​? នោះហើយជាមូលហេតុដែលពួកគេមិនឥឡូវនេះ។

ទោះបីជាយើងយកទៅក្នុងគណនីកម្មវិធីជជែកដ៏ពេញនិយមនាពេលបច្ចុប្បន្នក៏ដោយ ការយល់ច្រលំអាចបង្កើតលទ្ធផលមិនត្រឹមត្រូវ។ ប៉ុន្តែអ្នកដែលមិនដឹងថា AI chatbots ងាយនឹងយល់ច្រលំ ហើយមិនមានសុពលភាពលទ្ធផលដែលផលិតដោយ AI bots អាចផ្សព្វផ្សាយព័ត៌មានខុសដោយអចេតនា។ យើង​មិន​ចាំបាច់​ពន្យល់​ថា​វា​គ្រោះថ្នាក់​ប៉ុណ្ណា​ទេ។

លើស​ពី​នេះ ការ​វាយ​ប្រហារ​ដោយ​អរិភាព​គឺ​ជា​ការ​ព្រួយ​បារម្ភ​យ៉ាង​ខ្លាំង។ រហូត​មក​ដល់​ពេល​នេះ ពួក​គេ​ត្រូវ​បាន​គេ​បង្ហាញ​នៅ​ក្នុង​មន្ទីរ​ពិសោធន៍​ប៉ុណ្ណោះ។ ប៉ុន្តែប្រសិនបើប្រព័ន្ធ AI ដ៏សំខាន់ដែលបេសកកម្មប្រឈមមុខនឹងពួកគេនៅក្នុងពិភពពិត នោះផលវិបាកអាចជាការបំផ្លិចបំផ្លាញ។

ការពិតគឺថាវាងាយស្រួលជាងក្នុងការការពារគំរូភាសាធម្មជាតិ។ (យើងមិននិយាយថាវាងាយស្រួលទេ វានៅតែបង្ហាញថាពិបាកខ្លាំងណាស់។) ទោះជាយ៉ាងណាក៏ដោយ ការការពារប្រព័ន្ធមើលឃើញកុំព្យូទ័រគឺជាសេណារីយ៉ូខុសគ្នាទាំងស្រុង។ វាកាន់តែពិបាកជាពិសេស ដោយសារតែមានការប្រែប្រួលជាច្រើននៅក្នុងពិភពធម្មជាតិ ហើយរូបភាពមានភីកសែលមួយចំនួនធំ។

ដើម្បីដោះស្រាយបញ្ហានេះ យើងប្រហែលជាត្រូវការកម្មវិធី AI ដែលមានទិដ្ឋភាពមនុស្សកាន់តែច្រើនអំពីពិភពលោក ដែលអាចធ្វើឱ្យវាមិនសូវងាយនឹងការយល់ច្រលំ។ ខណៈពេលដែលការស្រាវជ្រាវកំពុងត្រូវបានធ្វើឡើង យើងនៅតែជាផ្លូវដ៏វែងឆ្ងាយពីបញ្ញាសិប្បនិមិត្ត ដែលអាចព្យាយាមយកតម្រុយពីធម្មជាតិ និងគេចចេញពីបញ្ហានៃការយល់ច្រលំ។ សម្រាប់ពេលនេះ ពួកគេគឺជាការពិតដ៏អាក្រក់មួយ។

ជាទូទៅ ការយល់ឃើញរបស់ AI គឺជាបាតុភូតស្មុគ្រស្មាញ ដែលអាចកើតឡើងពីកត្តារួមបញ្ចូលគ្នា។ អ្នកស្រាវជ្រាវកំពុងអភិវឌ្ឍយ៉ាងសកម្មនូវវិធីសាស្រ្តក្នុងការស្វែងរក និងកាត់បន្ថយការយល់ច្រលំ AI ដើម្បីកែលម្អភាពត្រឹមត្រូវនិងភាពជឿជាក់នៃប្រព័ន្ធ AI ។ ប៉ុន្តែ​អ្នក​គួរតែ​ដឹង​អំពី​ពួកវា​នៅពេល​ធ្វើ​អន្តរកម្ម​ជាមួយ​ប្រព័ន្ធ AI ណាមួយ។