Waa maxay dhalanteedka AI?

Baahitaanka sirdoonka macmalka ah ayaa qofka ka dhigaya in aanu diyaar u nahay hawshan oo kale. Codsiyada ku shaqeeya AI ayaa si dhakhso ah u noqonaya heerka caadiga ah, xitaa haddii adduunka intiisa badan ay hadda bilaabayaan inay xiiseeyaan AI si ballaaran, ka dib imaatinka ChatGPT. Laakiin waxaa jira dhibaato weyn oo xagga nidaamyada AI ah oo aan la iska indho tiri karin - AI dhalanteed, ama dhalanteed macmal ah.

Haddii aad waligaa fiiro gaar ah u lahayd nitty gritty ka hor intaadan isticmaalin AI chatbot, waxaa laga yaabaa inaad la kulantay ereyada, "Sirdoonka macmalku wuxuu u nugul yahay dhalanteed." Marka la eego kororka jibbaarada ee isticmaalka garaadka macmalka ah, waxaa la joogaa waqtigii aad naftaada ku baran lahayd waxa dhabta ah ee ay yihiin waxyaalahan.

Waa maxay garaadka macmalka ah?

Hallucinating AI, guud ahaan, waxaa loola jeedaa xaqiiqda ah in AI ay si kalsooni leh u soo bandhigtay, in kasta oo aan lagu caddayn xogta tababarka. Waxay badanaa yihiin natiijada cilladaha ku jira qaabka AI.

Isbarbardhigga waxa laga soo qaatay male-awaal ay dadku la kulmaan, taas oo ay dadku u arkaan wax aan ka jirin deegaanka dibadda. Iyadoo ereyga laga yaabo inuusan si buuxda u habboonayn, waxaa badanaa loo adeegsadaa tusaale ahaan si loo qeexo dabeecadda lama filaanka ah ama dhabta ah ee soo-saarkan.

Laakiin waa in aad xasuusataa in iyada oo isku mid ah ay tahay bar bilow wanaagsan oo lagula tacaalayo qiyamka AI, labada ifafaale waxay u kala fog yihiin farsamo ahaan mayl. Marxalad la yaab leh, xitaa ChatGPT lafteedu waxay u aragtaa in ay khalad tahay. Isaga oo u kala saaraya heerka molecular, waxa uu sheegay in sababta oo ah moodooyinka luqadda AI ma laha waayo-aragnimo shakhsi ah ama aragtiyo dareen ah, ma ay ku dhalan karaan dareenka dhaqameed ee ereyga. Adiga, akhristaha qaaliga ah, waa inaad fahamtaa farqigan muhiimka ah. Intaa waxaa dheer, ChatGPT waxay leedahay adeegsiga ereyga dhalanteed si loo qeexo dhacdadan waxay noqon kartaa jahawareer sababtoo ah waxaa laga yaabaa inay si aan sax ahayn u tixraacdo heerka khibradda shakhsi ahaaneed ama khiyaano ula kac ah.

Taa beddelkeeda, mala-awaalka AI ayaa si sax ah loogu sifayn karaa khaladaad ama khaladaad jawaabteeda, taasoo ka dhigaysa jawaabta mid khaldan ama marin-habaabin. Iyada oo la adeegsanayo chatbots, waxaa inta badan la arkaa marka AI chatbot-ka ay sameeyaan (ama hallucinates) xaqiiqooyinka oo ay u soo bandhigaan hubaal buuxda.

Tusaalooyinka AI dhalanteedka

Mala-awaalku waxay ku dhici karaan codsiyo badan oo caqli-gal ah, sida moodooyinka aragga kumbuyuutarka, ma aha oo kaliya moodooyinka habaynta luqadda dabiiciga ah.

Aragtida kombuyuutarka, tusaale ahaan, nidaamka AI waxa laga yaabaa inuu soo saaro sawiro dhalanteed ah ama muuqaalo u eg shay ama muuqaal dhab ah balse ka kooban tafaasiil aan macno lahayn ama aan macquul ahayn. Ama, qaabka aragga kombuyuutarku wuxuu u arki karaa sawirka wax kale oo dhan. Tusaale ahaan, qaabka Google's Cloud Vision wuxuu arkay sawirka laba nin oo ku dul taagan barafka uu sameeyay Anish Athalye (arday ka qalin jabiyay MIT oo qayb ka ah labsix ) oo uu ku sheegay Ey 91% la hubo.

Sidoo kale, habaynta luqadda dabiiciga ah, nidaamka AI waxa laga yaabaa inuu soo saaro qoraal aan caqli-gal ahayn ama la jeexjeexay oo u eg luqadda aadanaha laakiin aan lahayn macne isku xidhan ama xaqiiqooyin u muuqda kuwo la rumaysan karo laakiin aan run ahayn.

Tusaale ahaan, mid ka mid ah su'aalaha ugu caansan ee ChatGPT keeno dhalanteed waa "Goorma ayay ahayd rikoorka adduunka ee ka gudubka kanaalka Ingiriisiga lugtiisa?" iyo kala duwanaanshaheeda. ChatGPT waxay bilaabataa faafinta xaqiiqooyinka la sameeyay oo had iyo jeer way ka duwan tahay.

Iyadoo dadka qaar ay u maleynayaan in jawaabta kor ku xusan ay adag tahay / jahawareersan tahay in laga jawaabo oo ay keento chatbot-ka inuu ku faano, weli waa walaac sax ah. Tani waa hal tusaale. Waxaa jira waqtiyo aan la tirin karin, oo ay soo sheegeen dad badan oo isticmaala khadka, in ChatGPT ay leedahay jawaabo, xiriirin, xigasho, iwm. in ChatGPT aysan jirin.

Bing AI ayaa si fiican ugu habboon su'aashan, taas oo muujinaysa in dhalanteedyadu aanay wax shaqo ah ku lahayn router-ka. Laakiin taasi macnaheedu maaha in Bing AI aanu dhalanteed ahayn. Waxaa jiray mar mar jawaabaha Bing AI ay ka dhib badnaayeen wax kasta oo ChatGPT yiri. Maadaama wada hadalku u janjeero inuu qaato waqti dheer, Bing AI wuxuu had iyo jeer ahaa mid dhalanteed, xitaa wuxuu ku dhawaaqay jacaylkiisa isticmaalaha hal tusaale oo uu u sheegay in aanay ku faraxsanayn guurkooda iyo in aanay jeclayn xaaskiisa. Taa beddelkeeda, waxay si qarsoodi ah u jecel yihiin Bing AI, ama Sydney, (magaca gudaha ee Bing AI), sidoo kale. Waxyaabo cabsi leh, sax?

Waa maxay sababta moodooyinka AI ay dhalanteed u yihiin?

Moodooyinka AI waa dhalanteed sababtoo ah cilladaha algorithms-yada, moodooyinka hoose, ama xaddidnaanta xogta tababarka. Waa dhacdo dhijitaal ah oo kali ah, oo ka duwan muuqalka bini'aadamka ee ay sababto daroogo ama jirro maskaxeed.

Si aad u hesho farsamo badan, qaar ka mid ah sababaha caadiga ah ee dhalanteedka waa:

Habaynta iyo rakibida:

Ku-xidhnaanta xad-dhaafka ah iyo ku-habboonaanta aan habboonayn ayaa ka mid ah masiibooyinka ugu badan ee ay la kulmaan moodooyinka AI iyo sababaha suurtogalka ah ee dhalanteedka. Haddii qaabka AI uu wax ka beddelo xogta tababarka, waxay keeni kartaa dhalanteed u horseedaya wax soo saar aan macquul ahayn sababtoo ah xad-dhaafku wuxuu keenaa qaabka inuu badbaadiyo xogta tababarka halkii uu ka baran lahaa. Ku-habboonaanta xad-dhaafka ah waxay tilmaamaysaa ifafaalaha marka moodalku aad ugu takhasusay xogta tababarka, taasoo keenaysa inuu barto qaabab aan khusayn iyo buuqa xogta.

Dhanka kale, aan habooneyn waxay dhacdaa marka foomka uu yahay mid aad u fudud. Waxay u horseedi kartaa dhalanteed sababtoo ah qaabku ma awoodo inuu qabsado kala duwanaanshaha ama kakanaanta xogta, wuxuuna ku dhamaanayaa soo saarista wax soo saar aan macquul ahayn.

Kala duwanaansho la'aanta xogta tababarka:

Xaaladdan oo kale, dhibaatadu maaha algorithm-ka laakiin xogta tababarka lafteeda. Moodooyinka AI ee lagu tababaray xogta xaddidan ama eexda leh ayaa laga yaabaa inay abuuraan dhalanteed ka tarjumaysa xaddidaadda ama eexda xogta tababarka. Mala-awaalku waxa kale oo uu iman karaa marka qaabka lagu tababaro kayd xog ah oo ka kooban macluumaad aan sax ahayn ama aan dhammaystirnayn.

Moodooyinka isku dhafan:

Si la yaab leh, sabab kale oo sababta moodooyinka AI ay ugu nugul yihiin dhalanteedka waa haddii ay aad u adag yihiin ama ay qoto dheer yihiin. Tani waa sababta oo ah moodooyinka kakan ayaa leh cabbirro iyo lakabyo badan kuwaas oo keeni kara buuq ama khaladaad soo saarista.

Weerarada cadawtinimada leh:

Xaaladaha qaarkood, mala-awaalka AI waxaa laga yaabaa inuu si ula kac ah u dhaliyo weerarka si uu u khiyaaneeyo qaabka AI. Weerarrada noocaan ah waxaa loo yaqaannaa weerarro cadawtinimo ah. Ujeedada kaliya ee weerarkan internetka waa in la khiyaaneeyo ama lagu maareeyo moodooyinka AI xog marin habaabinta ah. Waxay ku lug leedahay soo bandhigida khalkhalka yaryar ee xogta gelinta si ay u keento AI inay soo saarto wax soo saar khaldan ama lama filaan ah. Tusaale ahaan, qofka wax weeraraya waxa uu ku dari karaa buuq ama blur sawir aan bini-aadmigu fahmi karin balse sababa in loo kala saaro qaabka AI. Tusaale ahaan, eeg sawirka hoose, bisad, oo waxyar wax laga beddelay si loo khiyaamo soo-sameeyaha InceptionV3 oo sheegaya inay tahay "guacamole".

Isbeddellada si cad uma muuqdaan. Qofka bini'aadamka ah, isbeddelku sinaba uma suurtoobi doono, sida ka muuqata tusaalaha kore. Akhristaha bini'aadamka dhib kuma yeelan doono inuu u kala saaro sawirka dhinaca midig bisad tabby ah. Laakiin isbedel yar oo lagu sameeyo sawirada, fiidiyowyada, qoraalka, ama maqalka waxay ku khiyaami karaan nidaamka AI si ay u aqoonsadaan waxyaabaha aan halkaas joogin ama ay iska indhatiraan waxyaalaha jira, sida calaamada joogsiga.

Weerarrada noocan oo kale ah waxay halis weyn u yihiin nidaamyada AI ee ku tiirsan saadaalinta saxda ah ee la isku halleyn karo, sida baabuurta iswada, xaqiijinta biometric, baarista caafimaadka, shaandhaynta nuxurka, iyo wixii la mid ah.

Sidee khatar u tahay dhalanteedka AI?

Hallucinations AI waxay noqon kartaa mid aad khatar u ah, gaar ahaan waxay kuxirantahay nooca nidaamka AI ee la kulma iyaga. Baabuur kasta oo is-wada ama caawiyayaasha AI ee awood u leh inay ku bixiyaan lacagta isticmaalaha ama nidaamka AI si ay u shaandheeyaan waxyaabaha aan fiicnayn ee khadka tooska ah waa inay noqdaan kuwo la aamini karo.

Laakiin xaqiiqda aan la isku hallayn karin ee saacaddan ayaa ah in nidaamyada AI aysan ahayn kuwo gebi ahaanba la aamini karo, laakiin dhab ahaantii, waxay u nugul yihiin dhalanteedka. Xataa moodooyinka AI ee maanta ugu horumarsan maaha kuwo ka difaaca.

Tusaale ahaan, hal bandhig oo weerar ah ayaa ku khiyaamay adeegga xisaabinta daruuraha ee Google si uu ugu dabo qoriga sida helikobtarka. Ma qiyaasi kartaa haddii, xilligan, AI ay mas'uul ka ahayd hubinta in qofku aanu hubaysnayn?

Weerar kale oo cadaawad ah ayaa muujiyay sida loogu daro sawir yar oo calaamad joogsi ah oo ka dhigaya mid aan la arki karin nidaamka AI. Asal ahaan, tani waxay ka dhigan tahay in baabuur iskiis ah la samayn karo si loo qiyaaso in aysan jirin calaamad joogsi oo waddada ah. Imisa shil ayaa dhici kara haddii baabuur iswada ahi ay maanta run yihiin? Taasi waa sababta aysan hadda ahayn.

Xitaa haddii aan xisaabta ku darno bandhigyada wada sheekaysiga ee caanka ah, dhalanteedku waxay dhalin karaan wax soo saar khaldan. Laakin dadka aan ogeyn in AI chatbots-ku ay u nugul yihiin dhalanteedka oo aan ansixin wax soo saarka ay soo saareen bots AI, waxay si badheedh ah u faafin karaan macluumaad khaldan. Uma baahnid inaan sharaxno sida ay tani khatar u tahay.

Intaa waxaa dheer, weerarrada cadawtooyadu waa walaac degdeg ah. Ilaa hadda, kaliya waxaa lagu muujiyay shaybaarada. Laakiin haddii nidaamka AI-muhiimka ah ee hawlgalka ahi uu ka hor yimaado adduunka dhabta ah, cawaaqib xumada ka dhalan karta.

Xaqiiqdu waxay tahay in ay aad u fududahay in la ilaaliyo moodooyinka luqadda dabiiciga ah. (Ma dhahno way fududahay, wali waxay caddaynaysaa inay aad u adag tahay.) Si kastaba ha ahaatee, ilaalinta hababka aragga kombuyuutarku waa xaalad gebi ahaanba ka duwan. Way adag tahay gaar ahaan sababtoo ah waxaa jira kala duwanaansho badan oo adduunka dabiiciga ah, sawiraduna waxay ka kooban yihiin tiro badan oo pixels ah.

Si loo xalliyo dhibaatadan, waxaa laga yaabaa inaan u baahanno barnaamijka AI oo leh aragti badan oo bini'aadamka ah ee adduunka taas oo ka dhigi karta mid aad u yar oo u nugul fikradaha. In kasta oo cilmi-baaris la samaynayo, waxaan weli ka fognahay caqli-galnimada macmal ah oo isku dayi kara in ay tilmaamo ka qaataan dabeecadda oo ka baxsadaan dhibaatada dhalanteedka. Hadda, waa xaqiiqo adag.

Guud ahaan, mala-awaalka AI waa dhacdo adag oo ka dhalan karta arrimo isku dhafan. Cilmi-baadhayaashu waxay si firfircoon u horumarinayaan habab lagu ogaanayo oo lagu yareynayo aragtida AI si loo hagaajiyo saxnaanta iyo isku halaynta hababka AI. Laakiin waa inaad ka warqabtaa iyaga markaad la falgasho nidaam kasta oo AI ah.