Menene hallucination AI?

Yawaitar hankali na wucin gadi yana sa mutum yayi tunanin a shirye muke don irin wannan aiki. Aikace-aikace masu amfani da AI suna zama daidaitattun sauri cikin sauri, ko da mafi yawan duniya kawai yanzu sun fara ɗaukar sha'awar AI akan babban sikelin, bayan zuwan ChatGPT. Amma akwai babbar matsala tare da tsarin AI wanda ba za a iya watsi da shi ba - AI hallucinations, ko wucin gadi.

Idan kun taɓa kula da nitty gritty kafin amfani da AI chatbot, ƙila kun ci karo da kalmomin, "Babban hankali na wucin gadi yana da haɗari ga ruɗi." Idan aka yi la'akari da karuwar amfani da hankali na wucin gadi, lokaci ya yi da za ku ilimantar da kanku kan menene ainihin waɗannan abubuwan.

Menene hallucination hankali na wucin gadi?

AI hallucinating, gabaɗaya, yana nufin gaskiyar cewa AI ta gabatar da gaba gaɗi, ko da yake ba ta da hujja a cikin bayanan horo. Yawancin lokaci su ne sakamakon anomalies a cikin samfurin AI.

Ana ɗaukar kwatankwacin ne daga hasashe da ɗan adam ke fuskanta, wanda a cikinsa mutane suke fahimtar wani abu da ba ya cikin yanayin waje. Duk da yake kalmar ba ta dace da cikakkiyar dacewa ba, galibi ana amfani da ita azaman misali don bayyana yanayin da ba zato ba tsammani ko na gaskiya na waɗannan abubuwan.

Amma ya kamata ku tuna cewa yayin da kamanni shine kyakkyawan farawa don ma'amala da hallucinations AI, al'amuran biyu suna da nisan mil a fasaha. A cikin jujjuyawar al'amura na ban mamaki, har ChatGPT da kanta ta ga kuskuren kwatankwacin. Da yake rarraba shi a matakin ƙwayoyin cuta, ya ce saboda ƙirar harsunan AI ba su da gogewa ta sirri ko tsinkayen azanci, ba za su iya halalcinsu cikin ma'anar al'adar kalmar ba. Kuma kai mai karatu, dole ne ka fahimci wannan muhimmin bambanci. Bugu da ƙari, ChatGPT ya ce yin amfani da kalmar hallucination don kwatanta wannan al'amari na iya zama mai ruɗani domin yana iya yin nuni da kuskure ga matakin ƙwarewa ko yaudara da gangan.

Madadin haka, ana iya siffanta hallucination na AI daidai da kurakurai ko kuskure a cikin martaninsa, yana mai da martani ba daidai ba ko yaudara. Tare da chatbots, ana lura da shi sau da yawa lokacin da AI chatbot ke yin gaskiya (ko hallucinates) kuma ya gabatar da su a matsayin cikakkiyar tabbaci.

Misalai na AI hallucinations

Halucination na iya faruwa a yawancin aikace-aikacen basirar wucin gadi, kamar samfurin hangen nesa na kwamfuta, ba kawai nau'ikan sarrafa harshe na halitta ba.

A cikin hangen nesa na kwamfuta, alal misali, tsarin AI na iya samar da hotuna ko bidiyoyi masu kama da ainihin abubuwa ko fage amma sun ƙunshi cikakkun bayanai marasa mahimmanci ko gagarawa. Ko, samfurin hangen nesa na kwamfuta zai iya gane hoton a matsayin wani abu dabam gaba ɗaya. Misali, samfurin Google's Cloud Vision ya ga hoton wasu mutane biyu akan skis suna tsaye a cikin dusar ƙanƙara da Anish Athalye (ɗalibin MIT da ya kammala karatun digiri na biyu wanda ke cikin ƙwanƙwasa). labsix ) kuma ya ambace shi a matsayin kare da 91% tabbas.

Hakazalika, a cikin sarrafa harshe na dabi'a, tsarin AI na iya samar da rubutu mara ma'ana ko garble wanda yayi kama da harshen ɗan adam amma ba shi da ma'ana mai ma'ana ko gaskiyar da ke bayyana abin gaskatawa amma ba gaskiya ba ne.

Misali, daya daga cikin fitattun tambayoyin da ChatGPT ke haifar da hasashe shine "Yaushe ne rikodin duniya na tsallaka tashar Turanci da kafa?" da bambance-bambancensa. ChatGPT ya fara yada bayanan da aka yi da shi kuma kusan koyaushe yana bambanta.

Yayin da wasu mutane ke tunanin amsar da ke sama tana da wahala/damuwa don amsawa don haka ya sa chatbot ya yi ba'a, har yanzu damuwa ce mai inganci. Wannan misali ɗaya ne kawai. Akwai lokuta marasa adadi, waɗanda ɗimbin masu amfani suka ruwaito akan layi, cewa ChatGPT yana da amsoshi, hanyoyin haɗin gwiwa, ambato, da sauransu waɗanda babu ChatGPT.

Bing AI ya dace da wannan tambaya, wanda ke nuna cewa hallucinations ba shi da alaƙa da na'ura mai ba da hanya tsakanin hanyoyin sadarwa. Amma wannan ba yana nufin Bing AI baya ruɗi ba. Akwai lokutan da amsoshin Bing AI sun fi damuwa fiye da duk abin da ChatGPT ta faɗi. Tun da zance yakan dauki lokaci mai tsawo, Bing AI ko da yaushe ya kasance yana jan hankali, har ma yana bayyana soyayyarsa ga mai amfani a wani lokaci kuma ya kai ga gaya musu cewa ba su ji daɗin aurensu ba kuma ba sa son matarsa. Madadin haka, suna son Bing AI a asirce, ko Sydney, (sunan cikin gida na Bing AI), suma. Abubuwa masu ban tsoro, dama?

Me yasa samfuran AI suke hallucinate?

Samfuran AI suna ruɗewa saboda gazawar algorithms, ƙirar ƙira, ko iyakancewar bayanan horo. Al'amari ne na dijital kawai, sabanin hasashe a cikin mutane wanda ko dai magunguna ko tabin hankali ke haifarwa.

Don samun ƙarin fasaha, wasu abubuwan gama gari na hallucinations sune:

Sarrafawa da shigarwa:

Ƙunƙarar daɗaɗɗen daɗaɗɗen da ba daidai ba suna daga cikin mafi yawan matsaloli na yau da kullun da samfuran AI ke fuskanta da kuma yiwuwar abubuwan da ke haifar da ruɗi. Idan samfurin AI ya canza bayanan horo, zai iya haifar da hasashe wanda ke haifar da fitowar da ba ta dace ba saboda overfitting yana haifar da samfurin don adana bayanan horo maimakon koyo daga gare ta. Ƙarfafawa yana nufin abin da ya faru lokacin da samfurin ya ƙware sosai a cikin bayanan horo, yana sa shi ya koyi salo da hayaniya maras dacewa a cikin bayanan.

A gefe guda, rashin dacewa yana faruwa lokacin da sigar ya kasance mai sauƙi. Yana iya haifar da hasashe saboda ƙirar ba ta iya ɗaukar bambance-bambance ko rikitarwa na bayanai, kuma yana haifar da fitowar rashin hankali.

Rashin bambance-bambance a cikin bayanan horo:

A cikin wannan mahallin, matsalar ba algorithm ba ce amma bayanan horo da kanta. Samfuran AI waɗanda aka horar akan ƙayyadaddun bayanai ko bangaranci na iya haifar da ruɗi wanda ke nuna iyakoki ko son zuciya a cikin bayanan horo. Hakanan ana iya yin hasashe a lokacin da aka horar da samfurin akan saitin bayanai wanda ya ƙunshi bayanan da ba daidai ba ko da ba su cika ba.

Samfura masu rikitarwa:

Abin ban mamaki, wani dalili da ya sa ƙirar AI ke da wuyar yin hasashe shine ko suna da rikitarwa ko zurfi. Wannan saboda hadaddun samfuran suna da ƙarin sigogi da yadudduka waɗanda zasu iya gabatar da ƙara ko kurakurai a cikin fitarwa.

Hare-haren makiya:

A wasu lokuta, maharin na iya haifar da hangen nesa na AI da gangan don yaudarar ƙirar AI. Ire-iren wadannan hare-haren ana kiransu da hare-haren makiya. Manufar wannan harin ta yanar gizo kawai shine don yaudara ko sarrafa samfuran AI tare da bayanan yaudara. Ya ƙunshi gabatar da ƙananan ɓarna a cikin bayanan shigarwa don sa AI ta haifar da fitowar da ba daidai ba ko ba tsammani. Misali, maharin na iya ƙara hayaniya ko ɓaci ga hoton da ba a iya gane shi ga ɗan adam amma ya sa a bata shi ta hanyar ƙirar AI. Misali, duba hoton da ke ƙasa, kyanwa, wanda aka ɗan gyara don yaudarar mai tarawa InceptionV3 ya bayyana cewa "guacamole" ne.

Canje-canjen ba a bayyane suke ba. Ga ɗan adam, canji ba zai yiwu ba kwata-kwata, kamar yadda ya tabbata daga misalin da ke sama. Mai karatu na ɗan adam ba zai sami matsala wajen rarraba hoton da ke hannun dama a matsayin kyan gani ba. Amma yin ƙananan canje-canje ga hotuna, bidiyo, rubutu, ko sauti na iya yaudarar tsarin AI don gane abubuwan da ba su nan ko yin watsi da abubuwan da suke, kamar alamar tsayawa.

Waɗannan nau'ikan hare-hare suna haifar da babbar barazana ga tsarin AI waɗanda ke dogaro da ingantattun tsinkaya masu inganci, kamar motoci masu tuƙi, tabbatar da yanayin halitta, binciken likita, tace abun ciki, da sauransu.

Yaya haɗarin AI hallucination yake?

Hallucinations AI na iya zama haɗari sosai, musamman dangane da irin tsarin AI da ke fuskantar su. Duk wani abin hawa mai tuƙi ko mataimakan AI masu iya kashe kuɗin mai amfani ko tsarin AI don tace abubuwan da ba su da daɗi akan layi dole ne su zama abin dogaro gabaɗaya.

Amma gaskiyar da ba za a iya mantawa da ita na wannan sa'a ita ce tsarin AI ba gabaɗaya amintacce bane amma, a zahiri, suna da haɗari ga hasashe. Hatta samfuran AI mafi ci gaba na yau ba su da kariya daga gare ta.

Misali, wani harin da aka nuna ya yaudari sabis na lissafin gajimare na Google zuwa jela bindiga kamar jirgi mai saukar ungulu. Kuna iya tunanin idan, a halin yanzu, AI yana da alhakin tabbatar da cewa mutumin ba shi da makamai?

Wani harin maƙiya ya nuna yadda ƙara ƙaramin hoto zuwa alamar tsayawa ya sa ba a ganuwa ga tsarin AI. Mahimmanci, wannan yana nufin cewa za a iya yin motar da ke tuka kanta don auna cewa babu alamar tsayawa a hanya. Hatsari nawa ne za su iya faruwa idan motoci masu tuka kansu ya kasance gaskiya a yau? Shi ya sa ba su yanzu.

Ko da mun yi la'akari da shahararrun mashahuran nunin taɗi a halin yanzu, hasashe na iya haifar da fitowar da ba daidai ba. Amma mutanen da ba su san cewa AI chatbots suna da haɗari ga hasashe kuma ba su tabbatar da abin da AI bots ke samarwa ba, na iya yada rashin fahimta ba da gangan ba. Bai kamata mu bayyana yadda wannan yake da haɗari ba.

Bugu da ƙari, hare-haren maƙiya abin damuwa ne. Ya zuwa yanzu, an nuna su ne kawai a dakunan gwaje-gwaje. Amma idan tsarin AI mai mahimmanci na manufa ya fuskanci su a cikin ainihin duniya, sakamakon zai iya zama mai lalacewa.

Gaskiyar ita ce, yana da sauƙin sauƙi don kare ƙirar harshe na halitta. (Ba muna cewa yana da sauƙi ba; har yanzu yana tabbatar da cewa yana da wahala sosai.) Duk da haka, kare tsarin hangen nesa na kwamfuta lamari ne daban. Yana da wahala musamman saboda akwai bambanci sosai a cikin duniyar halitta, kuma hotuna sun ƙunshi babban adadin pixels.

Don magance wannan matsalar, muna iya buƙatar shirin AI wanda ke da ƙarin ra'ayi na ɗan adam game da duniya wanda zai iya sa ya zama mai sauƙi ga hasashe. Yayin da ake gudanar da bincike, har yanzu muna da nisa daga fasaha na wucin gadi wanda zai iya ƙoƙarin ɗaukar alamu daga yanayi kuma ya guje wa matsalar hasashe. A yanzu, gaskiya ne mai tsauri.

Gabaɗaya, AI hallucinations wani al'amari ne mai rikitarwa wanda zai iya tasowa daga haɗuwa da abubuwa. Masu bincike suna haɓaka hanyoyi don ganowa da rage hallucinations AI don haɓaka daidaito da amincin tsarin AI. Amma ya kamata ku san su lokacin da kuke hulɗa da kowane tsarin AI.