Dab tsi yog AI hallucination?

Kev nthuav dav ntawm kev txawj ntse ntse ua rau ib tus xav tias peb npaj txhij rau kev ua haujlwm zoo li no. AI-powered daim ntawv thov tau dhau los ua tus qauv ncaj ncees, txawm tias feem ntau ntawm lub ntiaj teb tam sim no tsuas yog pib nyiam AI ntawm qhov loj, tom qab tuaj txog ntawm ChatGPT. Tab sis muaj teeb meem loj nrog AI systems uas tsis tuaj yeem tsis quav ntsej - AI hallucinations, lossis dag ntxias.

Yog tias koj tau them sai sai rau nitty gritty ua ntej siv AI chatbot, koj tuaj yeem hla cov lus, "Artificial txawj ntse yog nquag mus rau hallucinations." Muab qhov kev nthuav dav ntxiv ntawm kev siv cov kev txawj ntse txawj ntse, nws yog lub sijhawm los qhia koj tus kheej txog qhov tseeb ntawm cov khoom no.

Dab tsi yog qhov kev txawj ntse kev txawj ntse hallucination?

Ib qho AI hallucinating, feem ntau, yog hais txog qhov tseeb tias AI tau tso siab rau nthuav tawm, txawm tias nws tsis raug cai hauv nws cov ntaub ntawv qhia. Lawv feem ntau yog qhov tshwm sim ntawm kev tsis sib haum xeeb hauv AI qauv.

Kev sib piv yog coj los ntawm kev hnov ​​​​lus pom los ntawm tib neeg, nyob rau hauv uas tib neeg pom ib yam dab tsi uas tsis muaj nyob hauv ib puag ncig sab nraud. Txawm hais tias lo lus yuav tsis tsim nyog kiag li, nws feem ntau siv los ua piv txwv los piav txog qhov kev npaj txhij txog lossis surreal qhov tshwm sim ntawm cov txiaj ntsig no.

Tab sis koj yuav tsum nco ntsoov tias thaum qhov zoo sib xws yog qhov pib zoo rau kev cuam tshuam nrog AI kev xav tsis zoo, ob qhov xwm txheej yog kev sib nrug deb. Hauv kev hloov pauv tsis zoo ntawm cov xwm txheej, txawm tias ChatGPT nws tus kheej pom qhov sib piv tsis raug. Dissecting nws ntawm qib molecular, nws hais tias vim hais tias AI cov qauv lus tsis muaj kev paub txog tus kheej lossis kev nkag siab, lawv tsis tuaj yeem hnov ​​​​qab qhov kev xav ntawm lo lus. Thiab koj, nyob zoo tus nyeem ntawv, yuav tsum nkag siab qhov sib txawv tseem ceeb no. Tsis tas li ntawd, ChatGPT hais tias kev siv lub sij hawm hallucinations los piav txog qhov tshwm sim no yuav tsis meej pem vim hais tias nws yuav tsis raug xa mus rau ib theem ntawm kev kawm paub los yog txhob txwm dag.

Hloov chaw, AI qhov kev xav tsis txaus ntseeg tuaj yeem piav qhia meej dua li qhov ua yuam kev lossis tsis raug hauv nws cov lus teb, ua rau cov lus teb tsis raug lossis tsis raug. Nrog chatbots, nws feem ntau pom thaum AI chatbot ua rau (lossis hnov ​​​​lus) qhov tseeb thiab nthuav tawm lawv li qhov tseeb tiag.

Piv txwv ntawm AI hallucinations

Hallucinations tuaj yeem tshwm sim nyob rau hauv ntau daim ntawv thov ntawm kev txawj ntse, xws li cov qauv kev pom hauv computer, tsis yog cov qauv ua qauv lus.

Hauv kev pom hauv computer, piv txwv li, AI system tuaj yeem tsim cov duab lossis cov yeeb yaj kiab uas zoo li cov khoom tiag tiag lossis cov xwm txheej tab sis muaj cov ntsiab lus tsis raug lossis tsis tuaj yeem. Los yog, tus qauv kev pom hauv computer tuaj yeem pom cov duab ua lwm yam nkaus. Piv txwv li, Google's Cloud Vision qauv pom ib daim duab ntawm ob tug txiv neej ntawm skis sawv hauv cov daus los ntawm Anish Athalye (tus tub ntxhais kawm tiav MIT uas yog ib feem ntawm labsix ) thiab hais tias nws yog dev nrog 91% tseeb.

Ib yam li ntawd, hauv kev ua cov lus ntuj, AI system tuaj yeem tsim cov ntawv tsis zoo lossis cov ntawv tsis txaus ntseeg uas zoo li tib neeg cov lus tab sis tsis muaj lub ntsiab lus sib xws lossis qhov tseeb uas tshwm sim ntseeg tab sis tsis muaj tseeb.

Piv txwv li, ib qho ntawm cov lus nug nrov tshaj plaws uas ChatGPT ua rau hnov ​​​​lus yog "Thaum twg yog lub ntiaj teb cov ntaub ntawv hla tebchaws Askiv ntawm ko taw?" thiab nws variants. ChatGPT pib nthuav tawm qhov tseeb tsim thiab nws yuav luag txhua zaus sib txawv.

Thaum qee tus neeg xav tias cov lus teb saum toj no nyuaj / tsis meej pem teb thiab yog li ua rau chatbot rave, nws tseem yog qhov kev txhawj xeeb siv tau. Nov yog ib qho piv txwv xwb. Muaj ntau lub sijhawm suav tsis txheeb, tshaj tawm los ntawm hordes ntawm cov neeg siv online, uas ChatGPT muaj cov lus teb, kev sib txuas, cov ntawv ceeb toom, thiab lwm yam uas ChatGPT tsis muaj.

Bing AI haum zoo tshaj plaws nrog cov lus nug no, uas qhia tau hais tias kev xav tsis thoob tsis muaj dab tsi ua rau lub router. Tab sis qhov ntawd tsis tau txhais hais tias Bing AI tsis hnov ​​​​qab. Muaj qee zaus thaum Bing AI cov lus teb muaj teeb meem ntau dua li txhua yam ChatGPT tau hais. Txij li thaum kev sib tham yuav siv sij hawm ntev dua, Bing AI yeej ib txwm hnov ​​​​qab, txawm tshaj tawm nws txoj kev hlub rau tus neeg siv hauv ib qho piv txwv thiab mus kom deb li deb qhia lawv tias lawv tsis zoo siab hauv lawv txoj kev sib yuav thiab tias lawv tsis hlub nws tus poj niam. Hloov chaw, lawv tau nyiag nyiam Bing AI, lossis Sydney, (lub npe sab hauv rau Bing AI), ib yam nkaus. Cov khoom txaus ntshai, txoj cai?

Vim li cas AI qauv ua rau pom kev?

Cov qauv AI yog qhov txaus ntshai vim qhov tsis txaus ntawm cov algorithms, cov qauv hauv qab, lossis cov kev txwv ntawm cov ntaub ntawv kev cob qhia. Nws yog qhov tshwm sim digital nkaus xwb, tsis zoo li kev hnov ​​​​lus hauv tib neeg uas tshwm sim los ntawm kev siv yeeb tshuaj lossis mob hlwb.

Yuav kom tau txais kev paub ntau ntxiv, qee qhov ua rau pom kev xav yog:

Processing thiab installation:

Overfitting thiab tsis tsim nyog haum yog ib qho ntawm feem ntau pitfalls ntsib los ntawm AI qauv thiab tej zaum ua rau hallucinations. Yog tias tus qauv AI hloov kho cov ntaub ntawv kev cob qhia, nws tuaj yeem ua rau muaj kev xav tsis thoob uas ua rau cov khoom tsis muaj tseeb vim tias overfitting ua rau tus qauv txuag cov ntaub ntawv kev cob qhia es tsis txhob kawm los ntawm nws. Overfitting yog hais txog qhov tshwm sim thaum tus qauv tshwj xeeb dhau ntawm cov ntaub ntawv kev cob qhia, ua rau nws kawm txog cov qauv tsis sib xws thiab suab nrov hauv cov ntaub ntawv.

Ntawm qhov tod tes, qhov tsis tsim nyog tshwm sim thaum daim ntawv yooj yim dhau. Nws tuaj yeem ua rau hnov ​​​​qab vim tias tus qauv tsis tuaj yeem ntes qhov sib txawv lossis tsis yooj yim ntawm cov ntaub ntawv, thiab xaus rau kev tsim cov khoom tsis tsim nyog.

Tsis muaj ntau haiv neeg hauv cov ntaub ntawv qhia kev cob qhia:

Hauv cov ntsiab lus no, qhov teeb meem tsis yog algorithm tab sis cov ntaub ntawv qhia nws tus kheej. Cov qauv AI tau kawm txog cov ntaub ntawv txwv lossis tsis ncaj ncees yuav ua rau muaj kev xav tsis thoob uas cuam tshuam txog kev txwv lossis kev tsis ncaj ncees hauv cov ntaub ntawv qhia. Hallucinations kuj tuaj yeem tshwm sim thaum tus qauv raug cob qhia ntawm cov ntaub ntawv uas muaj cov ntaub ntawv tsis raug lossis tsis tiav.

Cov qauv yooj yim:

Ironically, lwm qhov laj thawj vim li cas AI cov qauv ua rau muaj kev hnov ​​​​lus yog seb lawv puas nyuaj lossis tob heev. Qhov no yog vim hais tias cov qauv complex muaj ntau qhov tsis sib xws thiab cov txheej txheem uas tuaj yeem ua kom paub cov suab nrov lossis qhov tsis raug ntawm cov zis.

Kev tawm tsam kev tawm tsam:

Qee qhov xwm txheej, AI kev xav tsis zoo yuav tsum txhob txwm tsim los ntawm tus neeg tawm tsam los ntxias tus qauv AI. Cov hom kev tawm tsam no yog hu ua kev tawm tsam. Lub hom phiaj ntawm qhov kev tawm tsam cyberattack no yog los dag lossis tswj cov qauv AI nrog cov ntaub ntawv tsis raug. Nws koom nrog kev nthuav qhia me me perturbations rau hauv cov ntaub ntawv tawm tswv yim kom ua rau AI tsim cov khoom tsis raug lossis npaj txhij txog. Piv txwv li, tus neeg tawm tsam tuaj yeem ntxiv suab nrov lossis plooj rau cov duab uas tsis pom zoo rau tib neeg tab sis ua rau nws tsis raug cais los ntawm tus qauv AI. Piv txwv li, saib cov duab hauv qab no, tus miv, uas tau hloov kho me ntsis los ua kom yuam kev InceptionV3's compiler rau hauv hais tias nws yog "guacamole".

Cov kev hloov pauv tsis pom pom tseeb. Rau tib neeg, kev hloov pauv yuav tsis tuaj yeem ua tau txhua, raws li pom tseeb los ntawm cov piv txwv saum toj no. Ib tug tib neeg nyeem yuav tsis muaj teeb meem categorizing daim duab ntawm sab xis raws li ib tug tabby miv. Tab sis kev hloov me me rau cov duab, yeeb yaj kiab, ntawv nyeem, lossis suab tuaj yeem ua kom yuam kev AI system kom paub txog tej yam uas tsis nyob ntawd lossis tsis quav ntsej tej yam uas yog, zoo li lub cim nres.

Cov kev tawm tsam no ua rau muaj kev hem thawj loj rau AI systems uas tso siab rau qhov tseeb thiab txhim khu kev qha, xws li kev tsav tsheb tus kheej, kev txheeb xyuas biometric, kuaj mob, kev lim cov ntsiab lus, thiab lwm yam.

Yuav ua li cas txaus ntshai yog AI hallucination?

AI hallucinations tuaj yeem txaus ntshai heev, tshwj xeeb tshaj yog nyob ntawm seb hom AI tau ntsib lawv li cas. Txhua lub tsheb tsav tus kheej lossis AI tus pab cuam uas muaj peev xwm siv nyiaj siv nyiaj lossis AI system los lim tawm cov ntsiab lus tsis zoo hauv online yuav tsum muaj kev ntseeg siab.

Tab sis qhov tsis txaus ntseeg qhov tseeb ntawm lub sijhawm no yog tias AI cov tshuab tsis muaj kev ntseeg siab tag nrho tab sis yog, qhov tseeb, nws ua rau muaj kev xav tsis thoob. Txawm tias niaj hnub no cov qauv AI siab tshaj plaws tsis tiv thaiv nws.

Piv txwv li, ib qho kev tawm tsam qhia tau dag Google huab huab kev pabcuam rau hauv rab phom zoo li lub nyoob hoom qav taub. Koj puas tuaj yeem xav txog yog tias tam sim no, AI tau ua lub luag haujlwm kom paub tseeb tias tus neeg tsis muaj riam phom?

Lwm qhov kev tawm tsam kev tawm tsam tau pom tias ntxiv cov duab me me rau lub cim nres ua rau nws pom tsis tau rau AI system. Qhov tseem ceeb, qhov no txhais tau hais tias lub tsheb tsav nws tus kheej tuaj yeem ua rau pom tias tsis muaj qhov chaw nres tsheb ntawm txoj kev. Muaj pes tsawg qhov xwm txheej tuaj yeem tshwm sim yog tias lub tsheb tsav tus kheej yog qhov tseeb niaj hnub no? Vim li no lawv tsis yog tam sim no.

Txawm hais tias peb coj mus rau hauv tus account qhov kev sib tham nrov tam sim no, kev hnov ​​​​lus tuaj yeem tsim tawm qhov tsis raug. Tab sis cov neeg uas tsis paub tias AI chatbots nquag ua rau hnov ​​​​qab thiab tsis lees paub cov khoom tsim tawm los ntawm AI bots, tuaj yeem nthuav tawm cov ntaub ntawv tsis raug. Peb yuav tsum tsis txhob piav tias qhov no txaus ntshai npaum li cas.

Tsis tas li ntawd, kev tawm tsam kev tawm tsam yog kev txhawj xeeb. Txog tam sim no, lawv tsuas tau pom nyob rau hauv lub chaw soj nstuam. Tab sis yog tias lub hom phiaj tseem ceeb ntawm AI system ntsib lawv hauv lub ntiaj teb tiag tiag, qhov tshwm sim tuaj yeem ua rau muaj kev puas tsuaj loj.

Qhov tseeb yog tias nws yooj yim dua los tiv thaiv cov qauv lus ntuj. (Peb tsis tau hais tias nws yooj yim; nws tseem ua pov thawj tias nyuaj heev.) Txawm li cas los xij, kev tiv thaiv lub computer tsis pom kev yog qhov sib txawv kiag li. Nws nyuaj dua tshwj xeeb vim tias muaj ntau qhov sib txawv hauv lub ntiaj teb ntuj tsim, thiab cov duab muaj ntau pixels.

Txhawm rau daws qhov teeb meem no, peb yuav xav tau ib qho kev pab cuam AI uas muaj ntau tus tib neeg saib ntawm lub ntiaj teb uas tuaj yeem ua rau nws tsis tshua muaj kev hnov ​​​​lus. Thaum kev tshawb fawb tab tom ua tiav, peb tseem yog txoj hauv kev ntev los ntawm kev txawj ntse uas tuaj yeem sim coj cov lus qhia los ntawm qhov xwm txheej thiab zam qhov teeb meem ntawm kev hnov ​​​​lus. Txog tam sim no, lawv yog qhov muaj tseeb hnyav.

Feem ntau, AI hallucinations yog qhov tshwm sim nyuaj uas tuaj yeem tshwm sim los ntawm kev sib xyaw ua ke. Cov kws tshawb nrhiav tau nquag tsim cov txheej txheem rau kev kuaj pom thiab mitigating iam ua kom zoo thiab kev ntseeg tau ntawm cov tshuab kabmob kabmob AI. Tab sis koj yuav tsum paub txog lawv thaum cuam tshuam nrog txhua qhov AI system.