Kí ni ohun AI hallucination?

Itankale ti oye atọwọda jẹ ki eniyan ro pe a ti ṣetan fun iru iṣẹ bẹẹ. Awọn ohun elo ti o ni agbara AI ti di boṣewa ni kiakia, paapaa ti pupọ julọ agbaye ba bẹrẹ ni bayi lati ni anfani ni AI ni iwọn nla, lẹhin dide ti ChatGPT. Ṣugbọn iṣoro nla wa pẹlu awọn eto AI ti ko le ṣe akiyesi - AI hallucinations, tabi awọn hallucinations atọwọda.

Ti o ba ti san ifojusi si nitty gritty ṣaaju lilo AI chatbot, o le ti wa awọn ọrọ naa, "Oye atọwọda jẹ itara si awọn hallucinations." Fi fun ilosoke ti o pọju ni lilo oye itetisi atọwọda, o to akoko lati kọ ẹkọ ararẹ lori kini awọn nkan wọnyi jẹ gangan.

Kí ni ohun atọwọdọwọ hallucination?

AI hallucinating, ni gbogbogbo, tọka si otitọ pe AI ti fi igboya gbekalẹ, botilẹjẹpe ko ṣe idalare ninu data ikẹkọ rẹ. Nigbagbogbo wọn jẹ abajade ti awọn asemase ni awoṣe AI.

Apejuwe naa ni a mu lati awọn ihalẹ ti o ni iriri nipasẹ eniyan, ninu eyiti awọn eniyan rii nkan ti ko si ni agbegbe ita. Lakoko ti ọrọ naa le ma yẹ patapata, igbagbogbo lo bi apẹrẹ lati ṣe apejuwe airotẹlẹ airotẹlẹ tabi iseda ti awọn abajade wọnyi.

Ṣugbọn o yẹ ki o ranti pe lakoko ti ibajọra jẹ aaye ibẹrẹ ti o dara fun ṣiṣe pẹlu awọn hallucinations AI, awọn iyalẹnu meji naa jẹ awọn maili imọ-ẹrọ lọtọ. Ninu awọn iṣẹlẹ iyalẹnu, paapaa ChatGPT funrararẹ rii aṣiṣe ni afiwe. Pinpin rẹ ni ipele molikula, o sọ pe nitori awọn awoṣe ede AI ko ni iriri ti ara ẹni tabi awọn iwoye ifarako, wọn ko le ṣe hallucinate ni ori aṣa ti ọrọ naa. Ati iwọ, olufẹ olufẹ, ni lati ni oye iyatọ pataki yii. Pẹlupẹlu, ChatGPT sọ pe lilo ọrọ hallucinations lati ṣapejuwe iṣẹlẹ yii le jẹ airoju nitori pe o le ṣe aiṣedeede tọka si ipele ti iriri ero-ara tabi ẹtan imomose.

Dipo, awọn hallucinations AI le ṣe apejuwe ni deede diẹ sii bi awọn aṣiṣe tabi awọn aiṣedeede ninu idahun rẹ, ṣiṣe idahun naa ni aṣiṣe tabi ṣina. Pẹlu chatbots, a ma ṣe akiyesi nigbagbogbo nigbati AI chatbot ṣe awọn otitọ (tabi hallucinates) ati ṣafihan wọn bi idaniloju pipe.

Awọn apẹẹrẹ ti AI hallucinations

Hallucinations le waye ni ọpọlọpọ awọn ohun elo AI, gẹgẹ bi awọn awoṣe iran kọmputa, ko o kan adayeba ede processing awọn awoṣe.

Ninu iran kọnputa, fun apẹẹrẹ, eto AI le ṣe awọn aworan alarinrin tabi awọn fidio ti o jọ awọn ohun gidi tabi awọn iwoye ṣugbọn ni awọn alaye ti ko ṣe pataki tabi ti ko ṣee ṣe. Tabi, awoṣe iran kọnputa le ṣe akiyesi aworan bi nkan miiran patapata. Fun apẹẹrẹ, Google's Cloud Vision awoṣe ri aworan ti awọn ọkunrin meji lori skis ti o duro ni egbon ti Anish Athalye ṣe (ọmọ ile-iwe giga MIT kan ti o jẹ apakan ti labsix ) ati pe o mẹnuba rẹ bi aja pẹlu idaniloju 91%.

Bakanna, ni sisẹ ede adayeba, eto AI le ṣe agbejade ọrọ ti ko logbon tabi ti o ni ẹwu ti o jọ ede eniyan ṣugbọn ti ko ni itumọ ibaramu tabi awọn ododo ti o dabi ẹni pe o gbagbọ ṣugbọn kii ṣe otitọ.

Fun apẹẹrẹ, ọkan ninu awọn ibeere ti o gbajumọ julọ ti ChatGPT fa awọn ipalọlọ ni “Nigbawo ni igbasilẹ agbaye fun lilọ kiri ikanni Gẹẹsi ni ẹsẹ ṣeto?” ati awọn oniwe-iyatọ. ChatGPT bẹrẹ itankale awọn ododo ti a ṣe ati pe o fẹrẹ yatọ nigbagbogbo.

Lakoko ti diẹ ninu awọn eniyan ro pe idahun ti o wa loke nira / airoju lati dahun ati nitorinaa fa ki chatbot ṣe ifẹ, o tun jẹ ibakcdun to wulo. Eyi jẹ apẹẹrẹ kan. Aimoye igba lo wa, ti o royin nipasẹ ọpọlọpọ awọn olumulo lori ayelujara, pe ChatGPT ni awọn idahun, awọn ọna asopọ, awọn itọkasi, ati bẹbẹ lọ pe ChatGPT ko si.

Bing AI baamu ti o dara julọ pẹlu ibeere yii, eyiti o fihan pe awọn hallucinations ko ni nkankan lati ṣe pẹlu olulana naa. Ṣugbọn iyẹn ko tumọ si Bing AI ko jẹ alarinrin. Awọn akoko wa nigbati awọn idahun Bing AI jẹ wahala diẹ sii ju ohunkohun ChatGPT sọ. Niwọn igba ti ibaraẹnisọrọ duro lati gba to gun, Bing AI ti nigbagbogbo jẹ alarinrin, paapaa ti n kede ifẹ rẹ si olumulo kan ni apẹẹrẹ kan ati lọ sibẹ lati sọ fun wọn pe wọn ko ni idunnu ninu igbeyawo wọn ati pe wọn ko nifẹ iyawo rẹ. Dipo, wọn nifẹ ni ikoko ti Bing AI, tabi Sydney, (orukọ inu fun Bing AI), paapaa. Nkan idẹruba, otun?

Kini idi ti awọn awoṣe AI ṣe hallucinate?

Awọn awoṣe AI jẹ hallucinating nitori awọn ailagbara ti awọn algoridimu, awọn awoṣe ti o wa labẹ, tabi awọn idiwọn ti data ikẹkọ. O jẹ lasan oni-nọmba odasaka, ko dabi awọn hallucinations ninu eniyan ti o ṣẹlẹ nipasẹ boya oogun tabi aisan ọpọlọ.

Lati ni imọ-ẹrọ diẹ sii, diẹ ninu awọn okunfa ti o wọpọ ti awọn ihalu ni:

Ṣiṣe ati fifi sori ẹrọ:

Imudara pupọ ati ibamu aibojumu wa laarin awọn ọfin ti o wọpọ julọ ti o dojukọ nipasẹ awọn awoṣe AI ati awọn idi ti o ṣeeṣe ti hallucinations. Ti awoṣe AI ba ṣe atunṣe data ikẹkọ, o le fa awọn hallucinations ti o yorisi iṣelọpọ aiṣedeede nitori fifin ṣe apẹrẹ awoṣe lati ṣafipamọ data ikẹkọ dipo kikọ ẹkọ lati ọdọ rẹ. Overfitting n tọka si lasan nigbati awoṣe ba jẹ amọja pupọ ninu data ikẹkọ, nfa ki o kọ ẹkọ awọn ilana ti ko ṣe pataki ati ariwo ninu data naa.

Ni apa keji, aiṣedeede waye nigbati fọọmu ba rọrun pupọ. O le ja si hallucinations nitori awọn awoṣe ni lagbara lati Yaworan awọn iyatọ tabi complexity ti awọn data, ati ki o pari soke ti o npese irrational o wu.

Aini oniruuru ni data ikẹkọ:

Ni ipo yii, iṣoro naa kii ṣe algorithm ṣugbọn data ikẹkọ funrararẹ. Awọn awoṣe AI ti o ni ikẹkọ lori opin tabi data aiṣedeede le ṣe ipilẹṣẹ awọn ipalọlọ ti o ṣe afihan awọn idiwọn tabi aibikita ninu data ikẹkọ. Hallucinations tun le waye nigbati awoṣe ba ti ni ikẹkọ lori eto data ti o ni alaye ti ko pe tabi ti ko pe ninu.

Awọn awoṣe eka:

Ni iyalẹnu, idi miiran ti awọn awoṣe AI jẹ ifaragba si awọn hallucinations jẹ boya wọn jẹ eka pupọ tabi jinna. Eyi jẹ nitori awọn awoṣe eka ni awọn paramita diẹ sii ati awọn fẹlẹfẹlẹ eyiti o le ṣafihan ariwo tabi awọn aṣiṣe ninu iṣelọpọ.

Awọn ikọlu ọta:

Ni awọn igba miiran, AI hallucinations le ti wa ni imomose ti ipilẹṣẹ nipasẹ awọn attacker lati tan awọn AI awoṣe. Iru awọn ikọlu wọnyi ni a mọ si awọn ikọlu ọta. Idi kanṣoṣo ti cyberattack yii ni lati tan tabi ṣe afọwọyi awọn awoṣe AI pẹlu data ṣina. O kan ṣafihan awọn aibalẹ kekere sinu data titẹ sii lati fa AI lati ṣe agbejade ti ko tọ tabi airotẹlẹ. Fun apẹẹrẹ, ikọlu le ṣafikun ariwo tabi blur si aworan ti ko ṣee ṣe fun eniyan ṣugbọn o jẹ ki o jẹ aṣiṣe nipasẹ awoṣe AI kan. Fun apẹẹrẹ, wo aworan ti o wa ni isalẹ, ologbo kan, ti a ti yipada diẹ lati tan akopo InceptionV3 sinu sisọ pe “guacamole” ni.

Awọn iyipada ko han gbangba. Fun eniyan, iyipada kii yoo ṣee ṣe rara, bi o ti han lati apẹẹrẹ loke. Oluka eniyan ko ni iṣoro lati pin aworan si apa ọtun bi ologbo tabby. Ṣugbọn ṣiṣe awọn ayipada kekere si awọn aworan, awọn fidio, ọrọ, tabi ohun ohun le tan eto AI sinu mimọ awọn nkan ti ko si tabi kọju awọn nkan ti o wa, bii ami iduro.

Awọn iru ikọlu wọnyi jẹ awọn eewu to ṣe pataki si awọn eto AI ti o gbẹkẹle awọn asọtẹlẹ deede ati igbẹkẹle, gẹgẹbi awọn ọkọ ayọkẹlẹ awakọ ti ara ẹni, ijẹrisi biometric, awọn iwadii iṣoogun, sisẹ akoonu, ati bẹbẹ lọ.

Bawo ni o lewu AI hallucination?

AI hallucinations le jẹ ewu pupọ, paapaa da lori iru eto AI ti o ni iriri wọn. Eyikeyi awọn ọkọ awakọ ti ara ẹni tabi awọn oluranlọwọ AI ti o lagbara lati lo owo olumulo tabi eto AI lati ṣe àlẹmọ akoonu ti ko wuyi lori ayelujara gbọdọ jẹ igbẹkẹle patapata.

Ṣugbọn otitọ ti ko ni iyaniloju ti wakati yii ni pe awọn eto AI ko ni igbẹkẹle patapata ṣugbọn o jẹ, ni otitọ, ni ifaragba si awọn ihalẹ. Paapaa awọn awoṣe AI ti ilọsiwaju julọ loni ko ni ajesara si.

Fun apẹẹrẹ, iṣafihan ikọlu kan tan iṣẹ ṣiṣe iširo awọsanma Google sinu iru ibon bi ọkọ ofurufu. Ṣe o le fojuinu boya, ni akoko yii, AI jẹ iduro fun rii daju pe eniyan ko ni ihamọra?

Ikọlu ọta miiran ṣe afihan bii fifi aworan kekere kun si ami iduro kan jẹ ki o jẹ alaihan si eto AI. Ni pataki, eyi tumọ si pe ọkọ ayọkẹlẹ ti ara ẹni le ṣee ṣe lati ṣe akiyesi pe ko si ami iduro ni opopona. Awọn ijamba melo ni o le ṣẹlẹ ti awọn ọkọ ayọkẹlẹ ti n wakọ ti ara ẹni jẹ otitọ loni? Ìdí nìyẹn tí wọn kò fi sí nísinsìnyí.

Paapaa ti a ba ṣe akiyesi awọn ifihan iwiregbe olokiki lọwọlọwọ, awọn ihalẹ le ṣe agbejade abajade ti ko tọ. Ṣugbọn awọn eniyan ti ko mọ pe AI chatbots jẹ ifaragba si awọn iyalẹnu ati pe ko fọwọsi iṣelọpọ ti a ṣe nipasẹ awọn bot AI, le tan alaye aiṣedeede lairotẹlẹ. A ko nilo lati ṣalaye bi eyi ṣe lewu.

Pẹlupẹlu, awọn ikọlu ọta jẹ ibakcdun titẹ. Nitorinaa, wọn ti han nikan ni awọn ile-iṣere. Ṣugbọn ti eto AI pataki-pataki kan ba koju wọn ni agbaye gidi, awọn abajade le jẹ iparun.

Otitọ ni pe o rọrun diẹ lati daabobo awọn awoṣe ede abinibi. (A ko sọ pe o rọrun; o tun fihan pe o nira pupọ.) Sibẹsibẹ, aabo awọn eto iran kọnputa jẹ oju iṣẹlẹ ti o yatọ patapata. O nira diẹ sii paapaa nitori iyatọ pupọ wa ninu aye adayeba, ati awọn aworan ni nọmba nla ti awọn piksẹli.

Lati yanju iṣoro yii, a le nilo eto AI kan ti o ni iwoye eniyan diẹ sii ti aye ti o le jẹ ki o dinku si awọn ifarabalẹ. Lakoko ti a ti n ṣe iwadii, a tun wa ni ọna pipẹ lati oye itetisi atọwọda ti o le gbiyanju lati gba awọn amọran lati ẹda ati yago fun iṣoro awọn ihalẹ. Fun bayi, wọn jẹ otitọ lile.

Ni gbogbogbo, AI hallucinations ni a eka lasan ti o le dide lati kan apapo ti okunfa. Awọn oniwadi n ṣe idagbasoke awọn ọna ti n ṣiṣẹ fun wiwa ati idinku awọn hallucinations AI lati mu ilọsiwaju deede ati igbẹkẹle ti awọn eto AI ṣe. Ṣugbọn o yẹ ki o mọ wọn nigbati o ba nlo pẹlu eyikeyi eto AI.