Inona no atao hoe hallucination AI?

Ny fihanaky ny faharanitan-tsaina artifisialy dia mahatonga ny olona hieritreritra fa vonona amin'ny asa toy izany isika. Manjary manara-penitra haingana ny fampiharana mampiasa AI, na dia vao manomboka liana amin'ny AI amin'ny ambaratonga lehibe aza ny ankamaroan'izao tontolo izao, taorian'ny fahatongavan'ny ChatGPT. Saingy misy olana lehibe amin'ny rafitra AI izay tsy azo tsinontsinoavina - ny AI hallucinations, na ny artificial hallucinations.

Raha toa ianao ka efa nijery nitty gritty alohan'ny hampiasana AI chatbot, dia mety ho hitanao ny teny, "Ny faharanitan-tsaina artifisialy dia mora voan'ny hallucinations." Raha jerena ny fitomboan'ny fampiasana ny faharanitan-tsaina artifisialy, fotoana izao hampianarana ny tenanao hoe inona marina ireo zavatra ireo.

Inona no atao hoe hallucination artificial intelligence?

Ny AI hallucinating, amin'ny ankapobeny, dia manondro ny zava-misy izay nasehon'ny AI tamim-pahatokiana, na dia tsy voamarina amin'ny angon-drakitra fanofanana aza izany. Matetika izy ireo dia vokatry ny tsy fitoviana amin'ny modely AI.

Ny fanoharana dia nalaina avy amin'ny hallucinations niainan'ny olombelona, ​​izay ahafahan'ny olombelona mahita zavatra tsy misy ao amin'ny tontolo ivelany. Na dia mety tsy mety tanteraka aza ilay teny, dia matetika izy io no ampiasaina ho fanoharana mba hamaritana ny toetra tsy ampoizina na tsy misy dikany amin'ireo vokatra ireo.

Saingy tokony ho tsaroanao fa na dia fanombohana tsara amin'ny fiatrehana ny AI hallucinations aza ny fitoviana, dia kilaometatra ara-teknika ny elanelan'ireo tranga roa ireo. Amin'ny toe-javatra maneso, na ny ChatGPT aza dia mahita fa diso ny fanoharana. Ny fanaparitahana izany amin'ny ambaratonga molekiola, dia nilaza izy fa satria ny maodelin'ny fiteny AI dia tsy manana traikefa manokana na fahatsapana fahatsapana, dia tsy afaka manao hallucinate amin'ny heviny mahazatra ny teny izy ireo. Ary ianao, ry mpamaky malala, dia mila mahatakatra izany fahasamihafana lehibe izany. Ankoatra izany, ny ChatGPT dia milaza fa ny fampiasana ny teny hoe hallucinations mba hamaritana ity trangan-javatra ity dia mety hampisafotofoto satria mety hanondro tsy marina ny haavon'ny traikefa na ny famitahana fanahy iniana.

Raha ny tokony ho izy, ny famalian'ny AI dia azo faritana amin'ny marina kokoa ho fahadisoana na tsy fahatomombanana amin'ny valin-teniny, ka mahatonga ny valiny ho diso na mamitaka. Miaraka amin'ny chatbots, dia matetika no tsikaritra rehefa mamorona (na mi-hallucinate) ny AI chatbot ary manolotra azy ireo ho azo antoka tanteraka.

Ohatra amin'ny hallucinations AI

Ny hallucinations dia mety hitranga amin'ny fampiharana maro amin'ny faharanitan-tsaina artifisialy, toy ny modely amin'ny ordinatera, fa tsy ny modely fanodinana fiteny voajanahary.

Ao amin'ny fahitan'ny solosaina, ohatra, ny rafitra AI dia mety hamokatra sary na horonan-tsary mitovitovy amin'ny zavatra tena izy na seho nefa misy antsipiriany tsy misy dikany na tsy azo atao. Na, ny modelin'ny fahitana solosaina dia afaka mahatsapa ny sary ho zavatra hafa tanteraka. Ohatra, ny maodely Cloud Vision an'ny Google dia nahita sarin-dehilahy roa mitaingina ski mijoro ao anaty ranomandry nataon'i Anish Athalye (mpianatry ny diplaoma MIT iray izay anisan'ny labsix ) ary nilaza izany ho alika manana antoka 91%.

Toy izany koa, amin'ny fanodinana fiteny voajanahary, ny rafitra AI dia mety hamokatra lahatsoratra tsy mitombina na mikorontana izay mitovy amin'ny fitenin'olombelona saingy tsy misy dikany na zava-misy izay toa azo inoana fa tsy marina.

Ohatra, ny iray amin'ireo fanontaniana malaza indrindra mahatonga ny ChatGPT ho lasa hallucinations dia ny hoe “Oviana no nisy ny firaketana an-tongotra namakivaky ny Channel English?” sy ny variana aminy. Manomboka manaparitaka zava-misy noforonina ny ChatGPT ary saika hafa foana izany.

Na dia mihevitra aza ny olona sasany fa sarotra/manasafotofoto ny valiny ary mahatonga ny chatbot hitabataba, dia mbola olana marim-pototra ihany izany. Ohatra iray ihany izany. Misy fotoana tsy tambo isaina, notaterin'ireo andiana mpampiasa an-tserasera, fa ny ChatGPT dia manana valiny, rohy, citation, sns. fa tsy misy ny ChatGPT.

Bing AI dia mifanaraka tsara amin'ity fanontaniana ity, izay mampiseho fa tsy misy ifandraisany amin'ny router ny hallucinations. Saingy tsy midika izany fa tsy manao hallucinate ny Bing AI. Nisy fotoana izay nanahiran-tsaina kokoa ny valintenin'i Bing AI noho izay rehetra nolazain'i ChatGPT. Satria miha-lava kokoa ny resaka, Bing AI dia manao hallucinate foana, ary manambara ny fitiavany amin'ny mpampiasa iray mihitsy aza ary milaza amin'izy ireo fa tsy faly amin'ny fanambadiany izy ireo ary tsy tia ny vadiny. Fa kosa, tia mangingina ny Bing AI, na Sydney, (anarana anatiny ho an'ny Bing AI) koa izy ireo. Zavatra mampatahotra, sa tsy izany?

Nahoana ny maodely AI no manao hallucinate?

Ny maodelin'ny AI dia mitebiteby noho ny tsy fahampian'ny algorithm, ny maodely fototra, na ny fetran'ny angon-drakitra fanofanana. Tranga nomerika tsotra izao izy io, tsy toy ny hallucinations amin'ny olombelona izay vokatry ny zava-mahadomelina na ny aretin-tsaina.

Mba hahazoana teknika bebe kokoa, ny antony mahazatra mahatonga ny hallucinations dia:

Fanodinana sy fametrahana:

Ny fametahana tafahoatra sy ny tsy mety dia anisan'ny fandrika mahazatra indrindra atrehan'ny maodely AI sy ny mety ho antony mahatonga ny hallucinations. Raha manova ny angon-drakitra fanofanana ny maodely AI, dia mety hiteraka fahatsiarovan-tena izay miteraka vokatra tsy mitombina izany satria ny overfitting dia mahatonga ny modely hitahiry ny angon-drakitra fanofanana fa tsy mianatra amin'izany. Ny overfitting dia manondro ny fisehoan-javatra rehefa manampahaizana manokana amin'ny angon-drakitra fanofanana ny maodely iray, ka mahatonga azy hianatra lamina sy tabataba tsy misy ifandraisany amin'ny angona.

Amin'ny lafiny iray, ny tsy mety dia mitranga rehefa tsotra loatra ny endrika. Mety hitarika ho amin'ny hallucinations izany satria ny modely dia tsy afaka misambotra ny fahasamihafana na ny fahasarotan'ny angon-drakitra, ary miafara amin'ny famoahana vokatra tsy mitombina.

Ny tsy fahampian'ny fahasamihafan'ny angona fanofanana:

Amin'ity toe-javatra ity, ny olana dia tsy ny algorithm fa ny angon-drakitra fanofanana mihitsy. Ny maodely AI voaofana amin'ny angon-drakitra voafetra na mitongilana dia mety hiteraka hevi-diso izay maneho fetra na fitongilanana amin'ny angon-drakitra fanofanana. Mety hitranga ihany koa ny hallucinations rehefa voaofana amin'ny fitambaran'ny angon-drakitra misy fampahalalana tsy marina na tsy feno ny modely.

Modely sarotra:

Ny mahatsikaiky, ny antony iray hafa mahatonga ny maodely AI mora amin'ny hallucinations dia ny hoe saro-takarina na lalina izy ireo. Izany dia satria ny modely sarotra dia manana mari-pamantarana sy sosona bebe kokoa izay afaka mampiditra tabataba na hadisoana amin'ny vokatra.

Fanafihana fahavalo:

Amin'ny toe-javatra sasany, mety ho fanahy iniana novokarin'ny mpanafika mba hamitahana ny maodely AI. Ireo karazana fanafihana ireo dia fantatra amin'ny hoe fanafihana fankahalana. Ny hany tanjona amin'ity cyberattack ity dia ny hamitaka na manodinkodina ny maodely AI amin'ny angon-drakitra mamitaka. Tafiditra ao anatin'izany ny fampidirana fikorontanana kely amin'ny angon-drakitra fampidirana mba hahatonga ny AI hamokatra vokatra diso na tsy ampoizina. Ohatra, ny mpanafika dia mety hampiditra tabataba na manjavozavo amin'ny sary iray izay tsy ho hitan'ny olona fa mahatonga azy ho diso fanasokajiana amin'ny maodely AI. Ohatra, jereo ny sary etsy ambany, saka, izay novana kely mba hamitahana ny mpanangona InceptionV3 mba hilazana fa "guacamole" izy io.

Tsy hita mibaribary ny fiovana. Ho an’ny olombelona dia tsy hisy mihitsy ny fiovana, araka ny hita amin’ny ohatra etsy ambony. Ny mpamaky olombelona dia tsy hanana olana amin'ny fanasokajiana ny sary eo ankavanana ho toy ny saka. Saingy ny fanovana kely amin'ny sary, horonan-tsary, lahatsoratra, na feo dia mety hamitaka ny rafitra AI mba hamantatra ireo zavatra tsy ao na tsy firaharahiana ireo zavatra misy, toy ny famantarana fijanonana.

Ireo karazana fanafihana ireo dia miteraka fandrahonana lehibe ho an'ny rafitra AI izay miantehitra amin'ny faminaniana marina sy azo itokisana, toy ny fiara mitondra tena, fanamarinana biometrika, diagnostika ara-pitsaboana, sivana votoaty, sy ny sisa.

Mampidi-doza ve ny hallucination AI?

Mety ho tena mampidi-doza ny hallucinations AI, indrindra fa miankina amin'ny karazana rafitra AI iainan'izy ireo. Izay fiara mitondra tena na mpanampy AI afaka mandany vola amin'ny mpampiasa na rafitra AI hanivana votoaty tsy mahafinaritra amin'ny Internet dia tsy maintsy azo itokisana tanteraka.

Saingy ny zava-misy tsy azo iadian-kevitra amin'ity ora ity dia ny rafitra AI dia tsy azo itokisana tanteraka fa, raha ny marina, dia mora voan'ny hallucinations. Na dia ireo maodely AI mandroso indrindra amin'izao fotoana izao aza dia tsy afa-bela amin'izany.

Ohatra, ny seho fanafihana iray dia namitaka ny tolotra informatika rahona Google amin'ny fametahana basy toy ny helikoptera. Azonao an-tsaina ve raha, amin'izao fotoana izao, AI no tompon'andraikitra amin'ny fanaovana antoka fa tsy mitam-piadiana ilay olona?

Ny fanafihana feno fankahalana iray hafa dia naneho ny fomba tsy ahafahan'ny rafitra AI tsy hita maso ny fampidirana sary kely amin'ny famantarana fijanonana. Amin'ny ankapobeny, midika izany fa ny fiara mitondra tena dia azo atao ny manao hallucinate fa tsy misy famantarana fiatoana eny an-dalana. Firifiry ny loza mety hitranga raha tena misy ankehitriny ny fiara mitondra fiara? Izany no mahatonga azy ireo tsy izao.

Na dia raisina an-tsaina aza ireo fandaharana amin'ny chat malaza amin'izao fotoana izao, ny hallucinations dia mety hiteraka vokatra diso. Saingy ny olona tsy mahafantatra fa ny AI chatbots dia mora amin'ny hallucinations ary tsy manamarina ny vokatra vokarin'ny AI bots, dia afaka manaparitaka tsy nahy. Tsy mila hazavaintsika hoe mampidi-doza izany.

Fanampin'izany, ny fanafihana feno fankahalana dia mampanahy mafy. Hatreto dia any amin’ny laboratoara ihany no naseho azy ireo. Saingy raha misy rafitra AI manakiana iraka miatrika azy ireo amin'ny tontolo tena izy, dia mety hanimba ny vokany.

Ny zava-misy dia mora kokoa ny miaro ny modely amin'ny fiteny voajanahary. (Tsy milaza izahay fa mora izany; mbola hita fa tena sarotra izany.) Na izany aza, ny fiarovana ny rafitra fahitana solosaina dia toe-javatra hafa tanteraka. Sarotra kokoa izany indrindra satria be dia be ny fiovaovana eo amin'ny tontolo voajanahary, ary ny sary dia misy pikantsary marobe.

Mba hamahana ity olana ity dia mety mila programa AI isika izay manana fomba fijery bebe kokoa momba an'izao tontolo izao izay mety hahatonga azy io ho mora kokoa amin'ny fahatsiarovan-tena. Na dia eo aza ny fikarohana, dia mbola lavitra ny faharanitan-tsaina artifisialy izay afaka manandrana maka toro-hevitra avy amin'ny natiora sy manalavitra ny olan'ny hallucinations. Amin'izao fotoana izao dia zava-misy henjana izy ireo.

Amin'ny ankapobeny, ny hallucinations AI dia tranga sarotra izay mety hipoitra avy amin'ny fitambaran-javatra. Mavitrika mamolavola fomba hamantarana sy hanalefahana ny fahatsiarovan-tena AI ny mpikaroka mba hanatsarana ny fahamarinan'ny rafitra AI. Saingy tokony ho fantatrao izy ireo rehefa mifandray amin'ny rafitra AI rehetra.