Unsa ang AI hallucination?

Ang pagkaylap sa artificial intelligence naghimo sa usa nga maghunahuna nga kita andam na alang sa ingon nga buluhaton. Ang mga aplikasyon nga gipadagan sa AI nahimo’g sukaranan nga dali, bisan kung ang kadaghanan sa kalibutan karon nagsugod nga interesado sa AI sa usa ka dako nga sukod, pagkahuman sa pag-abut sa ChatGPT. Apan adunay usa ka dako nga problema sa mga sistema sa AI nga dili mabalewala - AI hallucinations, o artificial hallucinations.

Kung nakahatag ka na ug pagtagad sa nitty gritty sa wala pa mogamit usa ka AI chatbot, tingali nakit-an nimo ang mga pulong, "Ang artipisyal nga paniktik dali nga ma-hallucinations." Tungod sa exponential nga pag-uswag sa paggamit sa artipisyal nga paniktik, panahon na sa pag-edukar sa imong kaugalingon kung unsa gyud kini nga mga butang.

Unsa ang usa ka artificial intelligence hallucination?

Ang usa ka AI hallucinating, sa kinatibuk-an, nagtumong sa usa ka kamatuoran nga ang AI masaligon nga gipresentar, bisan kung kini dili makatarunganon sa datos sa pagbansay niini. Kasagaran kini resulta sa mga anomaliya sa modelo sa AI.

Ang analogy gikuha gikan sa mga hallucinations nga nasinati sa mga tawo, diin ang mga tawo nakasabut sa usa ka butang nga wala sa gawas nga palibot. Samtang ang termino mahimong dili hingpit nga angay, kini sagad gigamit ingon usa ka metapora aron ihulagway ang wala damha o surreal nga kinaiya niini nga mga output.

Apan kinahanglan nimong hinumdoman nga samtang ang pagkaparehas usa ka maayong punto sa pagsugod sa pag-atubang sa mga hallucinations sa AI, ang duha nga mga panghitabo sa teknikal nga milya ang gilay-on. Sa usa ka ironic nga turno sa mga panghitabo, bisan ang ChatGPT mismo nakit-an nga sayup ang analogy. Ang pag-dissect niini sa lebel sa molekula, siya nag-ingon nga tungod kay ang mga modelo sa AI nga pinulongan walay personal nga kasinatian o sensory perceptions, dili sila maka-hallucinate sa tradisyonal nga diwa sa pulong. Ug ikaw, minahal nga magbabasa, kinahanglan nga makasabut niining importante nga kalainan. Dugang pa, ang ChatGPT nag-ingon nga ang paggamit sa termino nga mga hallucinations sa paghulagway niini nga panghitabo mahimong makalibog tungod kay kini mahimong dili tukma nga nagtumong sa usa ka lebel sa suhetibong kasinatian o tinuyo nga paglimbong.

Hinuon, ang mga hallucinations sa AI mahimong mas tukma nga gihulagway nga mga sayup o dili tukma sa tubag niini, nga naghimo sa tubag nga dili husto o nagpahisalaag. Sa mga chatbots, kini kanunay nga naobserbahan kung ang AI chatbot naghimo (o nag-hallucinate) nga mga kamatuoran ug gipresentar kini nga hingpit nga kasiguruhan.

Mga pananglitan sa AI hallucinations

Ang mga halusinasyon mahimong mahitabo sa daghang mga aplikasyon sa artificial intelligence, sama sa mga modelo sa computer vision, dili lamang sa natural nga mga modelo sa pagproseso sa pinulongan.

Sa panan-awon sa kompyuter, pananglitan, ang usa ka sistema sa AI mahimong makahimo og mga hallucinatory nga mga imahe o mga video nga susama sa tinuod nga mga butang o mga eksena apan adunay mga dili hinungdan o imposible nga mga detalye. O, ang usa ka modelo sa panan-awon sa kompyuter mahimong makasabut sa imahe ingon nga usa ka butang sa hingpit. Pananglitan, ang Cloud Vision nga modelo sa Google nakakita og hulagway sa duha ka lalaki nga nag-ski nga nagbarog sa niyebe nga gihimo ni Anish Athalye (usa ka MIT graduate nga estudyante nga kabahin sa labsix ) ug gihisgotan kini ingong usa ka iro nga adunay 91% kasegurohan.

Sa susama, sa pagproseso sa natural nga lengguwahe, ang usa ka sistema sa AI mahimong makahimo og dili makatarunganon o gubot nga teksto nga susama sa sinultian sa tawo apan wala’y managsama nga kahulugan o mga kamatuoran nga ingon katuohan apan dili tinuod.

Pananglitan, usa sa labing inila nga mga pangutana nga gipahinabo sa ChatGPT nga mga hallucinations mao ang "Kanus-a ang rekord sa kalibutan sa pagtabok sa English Channel nga nagbaktas?" ug ang mga variant niini. Ang ChatGPT nagsugod sa pagpakaylap sa hinimo-himo nga mga kamatuoran ug kini halos kanunay nga lahi.

Samtang ang pipila ka mga tawo naghunahuna nga ang tubag sa ibabaw lisud / makalibog nga tubagon ug sa ingon hinungdan nga ang chatbot mag-agaw, kini usa ka balido nga kabalaka. Usa lang kini ka pananglitan. Adunay dili maihap nga mga higayon, nga gitaho sa mga panon sa mga tiggamit online, nga ang ChatGPT adunay mga tubag, mga link, mga citation, ug uban pa nga wala ang ChatGPT.

Ang Bing AI labing angay sa kini nga pangutana, nga nagpakita nga ang mga hallucinations walay kalabotan sa router. Apan wala kana magpasabut nga ang Bing AI wala mag-hallucinate. Adunay mga higayon nga ang mga tubag sa Bing AI mas makahasol kaysa bisan unsang gisulti sa ChatGPT. Tungod kay ang panag-istoryahanay lagmit nga magdugay, ang Bing AI kanunay nga nag-hallucinate, bisan sa pagpahayag sa iyang gugma sa usa ka tiggamit sa usa ka higayon ug hangtod sa pagsulti kanila nga dili sila malipayon sa ilang kaminyoon ug nga wala nila gihigugma ang iyang asawa. Hinuon, sekreto silang ganahan sa Bing AI, o Sydney, (ang internal nga ngalan sa Bing AI), usab. Makahadlok nga butang, di ba?

Ngano nga ang mga modelo sa AI nag-hallucinate?

Ang mga modelo sa AI nag-hallucinate tungod sa mga kakulangan sa mga algorithm, ang nagpahiping mga modelo, o ang mga limitasyon sa datos sa pagbansay. Kini usa ka puro digital nga panghitabo, dili sama sa mga hallucinations sa mga tawo nga gipahinabo sa bisan unsang droga o sakit sa pangisip.

Aron makakuha og mas teknikal, pipila ka kasagarang hinungdan sa mga hallucinations mao ang:

Pagproseso ug pag-instalar:

Ang overfitting ug dili husto nga pagpahiangay usa sa labing kasagaran nga mga lit-ag nga giatubang sa mga modelo sa AI ug posible nga mga hinungdan sa mga hallucinations. Kung ang modelo sa AI nagbag-o sa datos sa pagbansay, mahimo’g hinungdan ang mga hallucinations nga mosangpot sa dili realistiko nga output tungod kay ang overfitting hinungdan sa modelo nga i-save ang datos sa pagbansay imbes nga makat-on gikan niini. Ang overfitting nagtumong sa panghitabo kung ang usa ka modelo labi ka espesyalista sa datos sa pagbansay, hinungdan nga kini makakat-on sa wala’y kalabotan nga mga sumbanan ug kasaba sa datos.

Sa laing bahin, ang pagkadili angay mahitabo kung ang porma yano ra kaayo. Mahimong mosangpot kini sa mga paghanduraw tungod kay dili makuha sa modelo ang kalainan o pagkakomplikado sa datos, ug moresulta sa pagmugna og dili makatarunganon nga output.

Kakulang sa pagkalainlain sa datos sa pagbansay:

Niini nga konteksto, ang problema dili ang algorithm apan ang datos sa pagbansay mismo. Ang mga modelo sa AI nga gibansay sa limitado o mapihigon nga datos mahimong makamugna og mga hallucinations nga nagpakita sa mga limitasyon o bias sa datos sa pagbansay. Ang mga halusinasyon mahimo usab nga mahitabo kung ang modelo gibansay sa usa ka set sa datos nga adunay dili tukma o dili kompleto nga kasayuran.

Komplikado nga mga modelo:

Katingad-an, ang lain nga hinungdan ngano nga ang mga modelo sa AI dali nga mag-han-ay mao kung kini labi ka komplikado o lawom. Kini tungod kay ang mga komplikadong modelo adunay daghang mga parameter ug mga lut-od nga mahimong magpaila sa kasaba o mga sayup sa output.

Mga pag-atake sa kaaway:

Sa pipila ka mga kaso, ang AI hallucinations mahimong tinuyo nga gihimo sa tig-atake aron malimbongan ang modelo sa AI. Kini nga mga matang sa pag-atake nailhan nga mga pag-atake sa kaaway. Ang bugtong katuyoan niini nga cyberattack mao ang paglimbong o pagmaniobra sa mga modelo sa AI nga adunay makapahisalaag nga datos. Naglakip kini sa pagpaila sa gagmay nga mga kasamok sa data sa pag-input aron ang AI makamugna og dili husto o wala damha nga output. Pananglitan, ang usa ka tig-atake mahimong makadugang sa kasaba o blur sa usa ka imahe nga dili makit-an sa mga tawo apan hinungdan nga kini nasayop sa pagkaklasipikar sa usa ka modelo sa AI. Pananglitan, tan-awa ang hulagway sa ubos, usa ka iring, nga gibag-o gamay aron linglahon ang InceptionV3's compiler sa pag-ingon nga kini "guacamole".

Ang mga pagbag-o dili kaayo klaro. Alang sa usa ka tawo, ang pagbag-o dili mahimo, ingon nga makita sa pananglitan sa ibabaw. Ang usa ka tawo nga magbabasa wala’y problema sa pagkategorya sa imahe sa tuo ingon usa ka tabby cat. Apan ang paghimo og gagmay nga mga pagbag-o sa mga imahe, video, teksto, o audio mahimong makalimbong sa sistema sa AI sa pag-ila sa mga butang nga wala didto o wala magtagad sa mga butang, sama sa usa ka timaan sa paghunong.

Kini nga mga matang sa mga pag-atake naghatag seryoso nga mga hulga sa mga sistema sa AI nga nagsalig sa tukma ug kasaligan nga mga panagna, sama sa self-driving nga mga sakyanan, biometric verification, medical diagnostics, content filtering, ug uban pa.

Unsa ka delikado ang usa ka AI hallucination?

Ang AI hallucinations mahimong delikado kaayo, labi na depende kung unsa nga klase sa AI system ang nakasinati niini. Ang bisan unsang mga awto nga nagmaneho sa kaugalingon o mga katabang sa AI nga makahimo sa paggasto sa salapi sa tiggamit o usa ka sistema sa AI aron masala ang dili maayo nga sulud sa online kinahanglan nga hingpit nga kasaligan.

Apan ang dili malalis nga kamatuoran niining taknaa mao nga ang mga sistema sa AI dili hingpit nga kasaligan apan, sa pagkatinuod, daling mahitabo sa mga hallucinations. Bisan ang labing abante nga mga modelo sa AI karon dili immune niini.

Pananglitan, ang usa ka pasundayag sa pag-atake naglimbong sa serbisyo sa cloud computing sa Google sa pag-tail sa pusil sama sa usa ka helicopter. Mahunahuna ba nimo kung, sa pagkakaron, ang AI ang responsable sa pagsiguro nga ang tawo dili armado?

Ang usa pa nga kontra nga pag-atake nagpakita kung giunsa ang pagdugang usa ka gamay nga imahe sa usa ka timaan sa paghunong naghimo niini nga dili makita sa sistema sa AI. Sa tinuud, kini nagpasabut nga ang usa ka awto nga nagmaneho sa kaugalingon mahimo’g mag-hallucinate nga wala’y stop sign sa dalan. Pila ka mga aksidente ang mahitabo kung ang mga awto nga nagmaneho sa kaugalingon tinuod karon? Mao nga wala sila karon.

Bisan kung atong tagdon ang karon nga sikat nga mga salida sa chat, ang mga hallucinations mahimong makamugna og dili husto nga output. Apan ang mga tawo nga wala nahibal-an nga ang mga chatbot sa AI dali nga mag-ilusyon ug wala mag-validate sa output nga gihimo sa mga bot sa AI, mahimo nga dili tinuyo nga magpakaylap sa sayop nga impormasyon. Dili kinahanglan nga ipasabut kung unsa kini ka delikado.

Dugang pa, ang mga pag-atake sa kaaway usa ka hinungdanon nga kabalaka. Sa pagkakaron, gipakita ra sila sa mga laboratoryo. Apan kung ang usa ka kritikal nga misyon nga sistema sa AI mag-atubang kanila sa tinuud nga kalibutan, ang mga sangputanan mahimong makadaot.

Ang tinuod mao nga mas sayon ​​​​ang pagpanalipod sa natural nga mga modelo sa pinulongan. (Wala kami nag-ingon nga kini sayon; kini sa gihapon nagpamatuod nga lisud kaayo.) Bisan pa, ang pagpanalipod sa mga sistema sa panan-awon sa kompyuter usa ka lahi nga senaryo. Mas lisod kini ilabina tungod kay daghan kaayong kausaban sa natural nga kalibotan, ug ang mga hulagway adunay daghang pixel.

Aron masulbad kini nga problema, mahimo’g kinahanglan namon ang usa ka programa sa AI nga adunay labi ka tawhanon nga pagtan-aw sa kalibutan nga mahimo’g dili kaayo dali sa mga hallucinations. Samtang gihimo ang panukiduki, layo pa kita sa usa ka artificial intelligence nga makasulay sa pagkuha og mga pahibalo gikan sa kinaiyahan ug makalikay sa problema sa mga hallucinations. Sa pagkakaron, sila usa ka mapintas nga kamatuoran.

Sa kinatibuk-an, ang AI hallucinations usa ka komplikado nga panghitabo nga mahimong motungha gikan sa kombinasyon sa mga hinungdan. Ang mga tigdukiduki aktibo nga nagpalambo sa mga pamaagi alang sa pag-ila ug pagpagaan sa AI hallucinations aron mapauswag ang katukma ug kasaligan sa mga sistema sa AI. Apan kinahanglan nimo nga mahibal-an sila kung makig-uban sa bisan unsang sistema sa AI.