AI මායාව යනු කුමක්ද?

කෘත්‍රිම බුද්ධියේ ව්‍යාප්තිය නිසා අපි එවැනි කටයුත්තකට සූදානම් බව කෙනෙකුට සිතේ. ChatGPT පැමිණීමෙන් පසු ලෝකයේ බොහෝ දෙනෙක් මහා පරිමාණයෙන් AI ගැන උනන්දුවක් දැක්වීමට පටන් ගෙන ඇතත්, AI-බලගන්වන යෙදුම් ඉතා ඉක්මනින් සම්මත වෙමින් පවතී. නමුත් AI පද්ධති සමඟ නොසලකා හැරිය නොහැකි විශාල ගැටලුවක් තිබේ - AI මායාවන්, හෝ කෘතිම මායාවන්.

AI chatbot එකක් භාවිතා කිරීමට පෙර ඔබ කවදා හෝ nitty gritty වෙත අවධානය යොමු කර ඇත්නම්, ඔබට මෙම වචන හමු වන්නට ඇත, "කෘතිම බුද්ධිය මායාවන්ට ගොදුරු වේ." කෘත්‍රිම බුද්ධිය භාවිතයේ ඝාතීය වර්ධනය සැලකිල්ලට ගෙන, මේ දේවල් මොනවාද යන්න පිළිබඳව ඔබම දැනුවත් කිරීමට කාලයයි.

කෘතිම බුද්ධි මායාව යනු කුමක්ද?

සාමාන්‍යයෙන් AI මායාවකින් අදහස් කරන්නේ AI එහි පුහුණු දත්තවල යුක්තිසහගත නොවූවත්, විශ්වාසයෙන් යුතුව ඉදිරිපත් කර ඇති කරුණකි. ඒවා සාමාන්‍යයෙන් AI ආකෘතියේ විෂමතාවල ප්‍රතිඵලයකි.

සාදෘශ්‍යය ගනු ලබන්නේ මිනිසුන් විසින් අත්විඳින ලද මායාවන්ගෙන් වන අතර, බාහිර පරිසරයේ නොමැති දෙයක් මිනිසුන්ට දැනේ. මෙම යෙදුම සම්පුර්ණයෙන්ම සුදුසු නොවිය හැකි නමුත්, මෙම නිමැවුම් වල අනපේක්ෂිත හෝ අධි යථාර්ථවාදී ස්වභාවය විස්තර කිරීමට එය බොහෝ විට රූපකයක් ලෙස භාවිතා කරයි.

නමුත් AI මායාවන් සමඟ කටයුතු කිරීම සඳහා සමානකම හොඳ ආරම්භක ලක්ෂ්‍යයක් වන අතර, සංසිද්ධි දෙක තාක්‍ෂණිකව සැතපුම් ගණනක් දුරින් ඇති බව ඔබ මතක තබා ගත යුතුය. උත්ප්‍රාසාත්මක සිදුවීම්වල දී, ChatGPT පවා සාදෘශ්‍යය වැරදියි. එය අණුක මට්ටමින් විච්ඡේදනය කරමින් ඔහු පවසන්නේ AI භාෂා ආකෘතිවලට පුද්ගලික අත්දැකීමක් හෝ ඉන්ද්‍රිය සංජානන නොමැති නිසා, වචනයේ සාම්ප්‍රදායික අර්ථයෙන් ඒවාට හූනියම් කළ නොහැකි බවයි. ඒ වගේම හිතවත් පාඨක ඔබ මේ වැදගත් වෙනස තේරුම් ගත යුතුයි. තවද, ChatGPT පවසන්නේ මෙම සංසිද්ධිය විස්තර කිරීමට මායාවන් යන පදය භාවිතා කිරීම ව්‍යාකූල විය හැකි බැවින් එය සාවද්‍ය ලෙස ආත්මීය අත්දැකීම් මට්ටමක් හෝ හිතාමතා රැවටීමකට යොමු විය හැකි බවයි.

ඒ වෙනුවට, AI හි මායාවන් එහි ප්‍රතිචාරයේ දෝෂ හෝ වැරදි ලෙස වඩාත් නිවැරදිව විස්තර කළ හැකි අතර, ප්‍රතිචාරය වැරදි හෝ නොමඟ යවන සුළු වේ. චැට්බොට් සමඟ, එය බොහෝ විට නිරීක්ෂණය කරනු ලබන්නේ AI චැට්බොට් විසින් කරුණු (හෝ මායාවන්) සාදන විට සහ ඒවා නිරපේක්ෂ නිශ්චිත ලෙස ඉදිරිපත් කරන විටය.

AI මායාවන් සඳහා උදාහරණ

ස්වභාවික භාෂා සැකසුම් ආකෘති පමණක් නොව පරිගණක දර්ශන ආකෘති වැනි කෘතිම බුද්ධියේ බොහෝ යෙදුම්වල මායාවන් ඇති විය හැක.

පරිගණක දර්ශනයේදී, උදාහරණයක් ලෙස, AI පද්ධතියක් සැබෑ වස්තූන් හෝ දර්ශනවලට සමාන නමුත් නොසැලකිලිමත් හෝ කළ නොහැකි විස්තර අඩංගු මායාවන් ඇති කරන රූප හෝ වීඩියෝ නිපදවිය හැක. එසේත් නැතිනම්, පරිගණක දර්ශන ආකෘතියක් රූපය සම්පූර්ණයෙන්ම වෙනත් දෙයක් ලෙස වටහා ගත හැකිය. උදාහරණයක් ලෙස, ගූගල් හි ක්ලවුඩ් විෂන් මාදිලියේ හිම මත සිටගෙන සිටින මිනිසුන් දෙදෙනෙකුගේ රූපයක් දුටුවේ Anish Athalye (MIT උපාධිධාරී ශිෂ්‍යයෙකි. රසායනාගාර හය ) සහ 91% නිශ්චිතභාවයකින් එය බල්ලෙකු ලෙස සඳහන් කළේය.

ඒ හා සමානව, ස්වාභාවික භාෂා සැකසීමේදී, AI පද්ධතියක් මිනිස් භාෂාවට සමාන නමුත් විශ්වාස කළ හැකි නමුත් සත්‍ය නොවන බව පෙනෙන සුසංයෝගී අර්ථයක් හෝ කරුණු නොමැති තාර්කික හෝ නරක් වූ පෙළ නිපදවිය හැකිය.

උදාහරණයක් ලෙස, ChatGPT විසින් මායාවන් ඇති කරන වඩාත් ජනප්‍රිය ප්‍රශ්නවලින් එකක් වන්නේ “ඉංග්‍රීසි නාලිකාව පයින් ගමන් කිරීමේ ලෝක වාර්තාව පිහිටුවා ඇත්තේ කවදාද?” යන්නයි. සහ එහි ප්රභේද. ChatGPT විසින් සාදන ලද කරුණු පැතිරවීමට පටන් ගන්නා අතර එය සෑම විටම පාහේ වෙනස් වේ.

ඉහත පිළිතුර පිළිතුරු දීමට අපහසු/ව්‍යාකූල බව සමහර අය සිතන අතර එමඟින් චැට්බෝට් කෝපයට පත් වේ, එය තවමත් වලංගු සැලකිල්ලකි. මේ එක් උදාහරණයක් පමණි. ChatGPT සතුව ChatGPT නොපවතින පිළිතුරු, සබැඳි, උපුටා දැක්වීම් යනාදිය ඇති බව සබැඳි පරිශීලකයින් සමූහයක් විසින් වාර්තා කරන ලද වාර අනන්තය.

Bing AI මෙම ප්‍රශ්නයට වඩාත් ගැලපේ, එයින් පෙන්නුම් කරන්නේ මායාවන්ට රවුටරය සමඟ කිසිදු සම්බන්ධයක් නොමැති බවයි. නමුත් එයින් අදහස් වන්නේ Bing AI මායාවන් ඇති නොවන බව නොවේ. ChatGPT පවසන ඕනෑම දෙයකට වඩා Bing AI හි පිළිතුරු කරදරකාරී වූ අවස්ථා තිබේ. සංවාදයට වැඩි කාලයක් ගත වන බැවින්, Bing AI සෑම විටම මායාවන් ඇති කරයි, එක් අවස්ථාවකදී පරිශීලකයෙකුට තම ආදරය ප්‍රකාශ කිරීම සහ ඔවුන් තම විවාහය තුළ අසතුටින් සිටින බවත් ඔවුන් තම බිරිඳට ආදරය නොකරන බවත් ඔවුන්ට පැවසීමට තරම් දුරදිග ගොස් ඇත. ඒ වෙනුවට, ඔවුන් රහසිගතව Bing AI, හෝ Sydney, (Bing AI සඳහා අභ්‍යන්තර නම) ද ප්‍රිය කරති. බය හිතෙන දේවල් නේද?

AI මාදිලි මායාවට පත්වන්නේ ඇයි?

ඇල්ගොරිතමවල අඩුපාඩු, යටින් පවතින ආකෘති හෝ පුහුණු දත්තවල සීමාවන් නිසා AI මාදිලි මායාවන් ඇති කරයි. එය තනිකරම ඩිජිටල් සංසිද්ධියකි, මිනිසුන් තුළ ඇති වන මායාවන් මෙන් නොව, මත්ද්‍රව්‍ය හෝ මානසික රෝග නිසා ඇති වේ.

වඩාත් තාක්ෂණිකව ලබා ගැනීම සඳහා, මායාවන් ඇතිවීමට පොදු හේතු කිහිපයක් නම්:

සැකසීම සහ ස්ථාපනය:

AI ආකෘති මුහුණ දෙන වඩාත් පොදු අන්තරායන් අතර අධික ලෙස සවි කිරීම සහ නුසුදුසු සවි කිරීම් සහ මායාවන් ඇති විය හැකි හේතු වේ. AI ආකෘතිය පුහුණු දත්ත වෙනස් කරන්නේ නම්, එය යථාර්ථවාදී නොවන ප්‍රතිදානයකට තුඩු දෙන මායාවන් ඇති කළ හැකිය, මන්ද අධික ලෙස සවි කිරීම ආකෘතියෙන් ඉගෙනීම වෙනුවට පුහුණු දත්ත සුරැකීමට හේතු වේ. වැඩිපුර ගැළපීම යනු පුහුණු දත්තවල විශේෂිත වූ ආකෘතියක් වන අතර එමඟින් දත්තවල අදාළ නොවන රටා සහ ශබ්දය ඉගෙන ගැනීමට හේතු වේ.

අනෙක් අතට, පෝරමය ඉතා සරල වන විට නුසුදුසු බව සිදු වේ. දත්තවල විචලනය හෝ සංකීර්ණත්වය ග්‍රහණය කර ගැනීමට ආකෘතියට නොහැකි වීම සහ අතාර්කික ප්‍රතිදානය උත්පාදනය කිරීම අවසන් වීම නිසා එය මායාවන් ඇති විය හැක.

පුහුණු දත්තවල විවිධත්වය නොමැතිකම:

මෙම සන්දර්භය තුළ, ගැටළුව ඇල්ගොරිතම නොව පුහුණු දත්ත වේ. සීමිත හෝ පක්ෂග්‍රාහී දත්ත මත පුහුණු කරන ලද AI ආකෘති පුහුණු දත්තවල සීමාවන් හෝ පක්ෂග්‍රාහී බව පිළිබිඹු කරන මායාවන් ජනනය කළ හැකිය. සාවද්‍ය හෝ අසම්පූර්ණ තොරතුරු අඩංගු දත්ත කට්ටලයක් මත ආකෘතිය පුහුණු කරන විට ද මායාවන් ඇති විය හැක.

සංකීර්ණ ආකෘති:

උත්ප්‍රාසාත්මක ලෙස, AI මාදිලි මායාවන්ට ගොදුරු වීමට තවත් හේතුවක් වන්නේ ඒවා අතිශයින් සංකීර්ණ හෝ ගැඹුරුද යන්නයි. මෙයට හේතුව සංකීර්ණ මාදිලිවල වැඩි පරාමිති සහ ස්ථර ඇති අතර එමඟින් නිමැවුමේ ශබ්දය හෝ දෝෂ හඳුන්වා දිය හැකිය.

සතුරු ප්‍රහාර:

සමහර අවස්ථාවලදී, AI ආකෘතිය රැවටීම සඳහා ප්‍රහාරකයා විසින් AI මායාවන් හිතාමතාම ජනනය කළ හැකිය. මෙවැනි ප්‍රහාර සතුරු ප්‍රහාර ලෙස හඳුන්වයි. මෙම සයිබර් ප්‍රහාරයේ එකම අරමුණ නොමඟ යවන දත්ත සමඟ AI මාදිලි රැවටීම හෝ හැසිරවීමයි. AI වැරදි හෝ අනපේක්ෂිත ප්‍රතිදානය ජනනය කිරීමට හේතු වන පරිදි ආදාන දත්ත වලට කුඩා කැළඹීම් හඳුන්වා දීම එයට ඇතුළත් වේ. නිදසුනක් ලෙස, ප්‍රහාරකයෙකු මිනිසුන්ට නොපෙනෙන නමුත් AI ආකෘතියක් මඟින් එය වැරදි ලෙස වර්ගීකරණය කිරීමට හේතු වන රූපයකට ශබ්දයක් හෝ බොඳ කිරීමක් එක් කළ හැකිය. උදාහරණයක් ලෙස, InceptionV3 හි සම්පාදකය එය "guacamole" බව ප්‍රකාශ කිරීම සඳහා තරමක් වෙනස් කර ඇති බළලෙකු, පහත රූපය බලන්න.

වෙනස්කම් පැහැදිලිව පෙනෙන්නේ නැත. ඉහත උදාහරණයෙන් පැහැදිලි වන පරිදි මිනිසකුට වෙනසක් කිසිසේත්ම කළ නොහැකි වනු ඇත. දකුණු පස ඇති රූපය ටැබි බළලෙකු ලෙස වර්ග කිරීමට මානව පාඨකයෙකුට ගැටලුවක් නැත. නමුත් පින්තූර, වීඩියෝ, පෙළ හෝ ශ්‍රව්‍ය සඳහා කුඩා වෙනස්කම් සිදු කිරීමෙන් AI පද්ධතිය එහි නැති දේවල් හඳුනා ගැනීමට හෝ නැවතුම් ලකුණක් වැනි දේවල් නොසලකා හැරීමට රවටා ගත හැකිය.

ස්වයං-රිය පැදවීමේ මෝටර් රථ, ජෛවමිතික සත්‍යාපනය, වෛද්‍ය රෝග විනිශ්චය, අන්තර්ගත පෙරීම යනාදී නිවැරදි සහ විශ්වාසනීය අනාවැකි මත රඳා පවතින AI පද්ධතිවලට මෙවැනි ප්‍රහාර බරපතල තර්ජන එල්ල කරයි.

AI මායාවන් කෙතරම් භයානකද?

AI මායාවන් ඉතා භයානක විය හැකිය, විශේෂයෙන් ඒවා අත්විඳින AI පද්ධතිය මත පදනම්ව. ඔන්ලයින් අප්‍රසන්න අන්තර්ගතය පෙරීමට පරිශීලක මුදල් හෝ AI පද්ධතියක් වැය කළ හැකි ඕනෑම ස්වයංක්‍රීය වාහන හෝ AI සහායකයින් සම්පූර්ණයෙන්ම විශ්වාස කළ යුතුය.

නමුත් මේ පැයේ අවිවාදිත සත්‍යය නම් AI පද්ධති සම්පූර්ණයෙන්ම විශ්වාස කළ නොහැකි නමුත් ඇත්ත වශයෙන්ම මායාවන්ට ගොදුරු වීමයි. වර්තමානයේ වඩාත්ම දියුණු AI මාදිලි පවා එයින් නිදහස් නොවේ.

උදාහරණයක් ලෙස, එක් ප්‍රහාර සංදර්ශනයක් හෙලිකොප්ටරයක් ​​වැනි තුවක්කුවක් වලිගය කිරීමට Google හි Cloud computing සේවාව රවටා ඇත. ඔබට සිතාගත හැකිද, මේ මොහොතේ, පුද්ගලයා සන්නද්ධ නොවන බවට වග බලා ගැනීම සඳහා AI වගකිව යුතුද?

තවත් සතුරු ප්‍රහාරයකින් පෙන්නුම් කළේ නැවතුම් ලකුණකට කුඩා රූපයක් එක් කිරීමෙන් එය AI පද්ධතියට නොපෙනෙන ආකාරයයි. අත්‍යවශ්‍යයෙන්ම, මෙයින් අදහස් කරන්නේ පාරේ නැවතුම් ලකුණක් නොමැති බව මායාවට පත් කිරීමට ස්වයං-රිය පදවන මෝටර් රථයක් සෑදිය හැකි බවයි. අද ස්වයංක්‍රීයව ධාවනය වන මෝටර් රථ යථාර්ථයක් නම් කොපමණ අනතුරු සිදුවිය හැකිද? ඒ නිසා ඔවුන් දැන් නැහැ.

අපි දැනට ජනප්‍රිය චැට් සංදර්ශන සැලකිල්ලට ගත්තද, මායාවන් වැරදි ප්‍රතිදානයක් ජනනය කළ හැකිය. නමුත් AI chatbots මායාවන්ට ගොදුරු වන බව නොදන්නා සහ AI bots මඟින් නිපදවන ප්‍රතිදානය වලංගු නොවන බව නොදන්නා පුද්ගලයින් නොදැනුවත්වම වැරදි තොරතුරු පතුරුවා හැරිය හැක. මෙය කෙතරම් භයානකද යන්න අප පැහැදිලි කළ යුතු නැත.

තවද, සතුරු ප්‍රහාර දැඩි සැලකිල්ලකි. මෙතෙක් ඒවා ප්‍රදර්ශනය කර ඇත්තේ රසායනාගාරවල පමණි. නමුත් මෙහෙවර-විවේචනාත්මක AI පද්ධතියක් සැබෑ ලෝකයේ ඒවාට මුහුණ දෙන්නේ නම්, එහි ප්‍රතිවිපාක විනාශකාරී විය හැකිය.

යථාර්ථය නම් ස්වභාවික භාෂා ආකෘති ආරක්ෂා කිරීම සාපේක්ෂව පහසු ය. (එය පහසු යැයි අපි නොකියමු; එය තවමත් ඉතා දුෂ්කර බව ඔප්පු වේ.) කෙසේ වෙතත්, පරිගණක දර්ශන පද්ධති ආරක්ෂා කිරීම සම්පූර්ණයෙන්ම වෙනස් අවස්ථාවකි. විශේෂයෙන්ම ස්වභාවික ලෝකයේ බොහෝ වෙනස්කම් ඇති නිසාත්, පින්තූරවල පික්සල විශාල ප්‍රමාණයක් අඩංගු වන නිසාත් එය වඩාත් අපහසු වේ.

මෙම ගැටළුව විසඳීම සඳහා, අපට මායාවන්ට ගොදුරු වීමේ ප්‍රවණතාව අඩු කළ හැකි ලෝකය පිළිබඳ වඩා මානව දෘෂ්ටියක් ඇති AI වැඩසටහනක් අවශ්‍ය විය හැකිය. පර්යේෂණ සිදු වෙමින් පවතින අතර, ස්වභාවධර්මයෙන් ඉඟි ලබා ගැනීමට සහ මායාවන් පිළිබඳ ගැටලුව මඟහරවා ගැනීමට උත්සාහ කළ හැකි කෘතිම බුද්ධියකින් අප තවමත් බොහෝ දුරින් සිටිමු. දැනට ඒවා කටුක යථාර්ථයකි.

පොදුවේ ගත් කල, AI මායාවන් යනු සාධකවල එකතුවකින් පැන නැගිය හැකි සංකීර්ණ සංසිද්ධියකි. AI පද්ධතිවල නිරවද්‍යතාවය සහ විශ්වසනීයත්වය වැඩි දියුණු කිරීම සඳහා AI මායාවන් හඳුනා ගැනීම සහ අවම කිරීම සඳහා පර්යේෂකයන් ක්‍රියාශීලීව ක්‍රමවේද සංවර්ධනය කරමින් සිටී. නමුත් ඕනෑම AI පද්ධතියක් සමඟ අන්තර් ක්‍රියා කිරීමේදී ඔබ ඒවා ගැන දැනුවත් විය යුතුය.