Ki sa ki se yon alisinasyon AI?

Prevalans entèlijans atifisyèl fè yon moun panse nou pare pou yon antrepriz konsa. Aplikasyon AI ki mache ak pisans yo ap vin estanda san patipri byen vit, menm si pi fò nan mond lan se sèlman kounye a kòmanse pran yon enterè nan AI sou yon gwo echèl, apre rive nan ChatGPT. Men, gen yon gwo pwoblèm ak sistèm AI ki pa ka inyore - AI alisinasyon, oswa alisinasyon atifisyèl.

Si ou te janm peye atansyon sou nitty gritty anvan ou itilize yon chatbot AI, ou ka jwenn mo yo, "Atifisyèl entèlijans gen tandans fè alisinasyon." Etandone ogmantasyon eksponansyèl nan itilizasyon entèlijans atifisyèl, li se tan pou w edike tèt ou sou sa egzakteman bagay sa yo ye.

Ki sa ki se yon alisinasyon entèlijans atifisyèl?

Yon alisinasyon AI, an jeneral, refere a yon reyalite ke AI a te prezante konfyans, menm si li pa jistifye nan done fòmasyon li yo. Yo anjeneral rezilta anomali nan modèl AI.

Se analoji a pran nan alisinasyon ki gen eksperyans pa moun, nan ki moun wè yon bagay ki pa prezan nan anviwònman an ekstèn. Pandan ke tèm nan ka pa totalman apwopriye, li souvan itilize kòm yon metafò pou dekri nati a inatandi oswa sureèl rezilta sa yo.

Men, ou ta dwe sonje ke pandan ke resanblans la se yon bon pwen depa pou fè fas ak alisinasyon AI, de fenomèn yo teknikman kilomèt apa. Nan yon vire ironik nan evènman yo, menm ChatGPT tèt li jwenn analoji a mal. Dissection li nan nivo molekilè, li di ke paske modèl lang AI pa gen eksperyans pèsonèl oswa pèsepsyon sansoryèl, yo pa ka alisine nan sans tradisyonèl mo a. Epi ou menm, chè lektè, dwe konprann diferans enpòtan sa a. Anplis de sa, ChatGPT di ke lè l sèvi avèk tèm alisinasyon yo dekri fenomèn sa a ka konfizyon paske li ka fè referans ak yon nivo eksperyans subjectif oswa desepsyon entansyonèl.

Olye de sa, alisinasyon AI a ka pi byen dekri kòm erè oswa erè nan repons li, ki fè repons lan kòrèk oswa twonpe. Avèk chatbots, li souvan obsève lè chatbot AI a fè (oswa alisine) reyalite epi prezante yo kòm sètitid absoli.

Egzanp alisinasyon AI

Alisinasyon ka rive nan anpil aplikasyon pou entèlijans atifisyèl, tankou modèl vizyon òdinatè, pa sèlman modèl pwosesis lang natirèl.

Nan vizyon òdinatè, pou egzanp, yon sistèm AI ka pwodwi imaj alisinasyon oswa videyo ki sanble ak objè reyèl oswa sèn men ki gen detay enkonsekan oswa enposib. Oswa, yon modèl vizyon òdinatè ta ka wè imaj la kòm yon lòt bagay antyèman. Pa egzanp, modèl Cloud Vision Google la te wè yon imaj de gason sou ski kanpe nan nèj la te fèt pa Anish Athalye (yon etidyan gradye MIT ki fè pati labsix ) ak mansyone li kòm yon chen ak 91% sètitid.

Menm jan an tou, nan pwosesis langaj natirèl, yon sistèm AI ka pwodui tèks ki pa lojik oswa ki konfime ki sanble ak lang moun men ki pa gen yon siyifikasyon aderan oswa reyalite ki parèt kredib men ki pa vre.

Pou egzanp, youn nan kesyon ki pi popilè ke ChatGPT lakòz alisinasyon se "Kilè rekò mondyal la pou travèse Channel Angle a sou pye te mete?" ak variants li yo. ChatGPT kòmanse gaye reyalite fè-up epi li prèske toujou diferan.

Pandan ke gen kèk moun ki panse repons ki pi wo a se difisil / konfizyon reponn epi konsa lakòz chatbot la rave, li toujou yon enkyetid valab. Sa a se jis yon egzanp. Gen inonbrabl fwa, te rapòte pa ord itilizatè yo sou entènèt, ke ChatGPT gen repons, lyen, sitasyon, elatriye ke ChatGPT pa egziste.

Bing AI adapte pi byen ak kesyon sa a, ki montre ke alisinasyon pa gen anyen fè ak routeur la. Men, sa pa vle di Bing AI pa alisinasyon. Te gen fwa lè repons Bing AI yo te pi boulvèsan pase nenpòt bagay ChatGPT te di. Depi konvèsasyon gen tandans pran plis tan, Bing AI te toujou alisinasyon, menm deklare lanmou li bay yon itilizatè nan yon egzanp epi ale twò lwen pou di yo ke yo pa kontan nan maryaj yo e ke yo pa renmen madanm li. Olye de sa, yo an kachèt fanatik Bing AI, oswa Sydney, (non an entèn pou Bing AI), tou. Bagay pè, pa vre?

Poukisa modèl AI alisine?

Modèl AI yo alisinen akòz enpèfeksyon algoritm yo, modèl ki kache yo oswa limit done fòmasyon yo. Li se yon fenomèn piman dijital, kontrèman ak alisinasyon nan imen ki te koze pa swa dwòg oswa maladi mantal.

Pou jwenn plis teknik, kèk kòz komen nan alisinasyon yo se:

Pwosesis ak enstalasyon:

Overfitting ak move fitting se pami enkonvenyans ki pi komen yo fè fas pa modèl AI ak kòz posib alisinasyon. Si modèl AI a modifye done fòmasyon an, li ka lakòz alisinasyon ki mennen nan pwodiksyon ireyèl paske overfitting lakòz modèl la sove done fòmasyon yo olye pou yo aprann nan men li. Overfitting refere a fenomèn nan lè yon modèl twò espesyalize nan done fòmasyon yo, sa ki lakòz li aprann modèl petinan ak bri nan done yo.

Nan lòt men an, inapwopriye rive lè fòm nan twò senp. Li ka mennen nan alisinasyon paske modèl la pa kapab pran divèjans la oswa konpleksite done yo, epi li fini jenere pwodiksyon irasyonèl.

Mank divèsite nan done fòmasyon:

Nan kontèks sa a, pwoblèm nan se pa algorithm la men done fòmasyon an tèt li. Modèl AI ki resevwa fòmasyon sou done limite oswa patipri ka jenere alisinasyon ki reflete limit oswa prejije nan done fòmasyon yo. Alisinasyon ka rive tou lè modèl la fòme sou yon seri done ki gen enfòmasyon ki pa kòrèk oswa ki pa konplè.

Modèl konplèks:

Iwonilman, yon lòt rezon ki fè modèl AI yo gen tandans fè alisinasyon se si yo trè konplèks oswa pwofon. Sa a se paske modèl konplèks gen plis paramèt ak kouch ki ka prezante bri oswa erè nan pwodiksyon an.

Atak ostil:

Nan kèk ka, atakè a ka fè espre alisinasyon AI pou twonpe modèl AI. Kalite atak sa yo ke yo rekonèt kòm atak ostil. Sèl objektif cyberatack sa a se twonpe oswa manipile modèl AI ak done ki twonpe. Li enplike entwodwi ti perturbasyon nan done yo antre pou lakòz AI a jenere pwodiksyon kòrèk oswa inatandi. Pou egzanp, yon atakè ta ka ajoute bri oswa flou nan yon imaj ki insansibl pou moun, men ki lakòz li mal klase pa yon modèl AI. Pou egzanp, gade imaj ki anba a, yon chat, ki te modifye yon ti kras pou twonpe du InceptionV3 a pou l di ke li se "guacamole".

Chanjman yo pa klèman evidan. Pou yon moun, chanjman pa pral posib ditou, jan sa evidan nan egzanp ki anwo a. Yon lektè imen pa ta gen okenn pwoblèm kategorize imaj la sou bò dwat la kòm yon chat tabby. Men, fè ti chanjman nan imaj, videyo, tèks, oswa odyo ka twonpe sistèm AI a pou l rekonèt bagay ki pa la oswa inyore bagay ki la, tankou yon siy stop.

Kalite atak sa yo reprezante yon menas grav pou sistèm AI ki konte sou prediksyon egzat ak serye, tankou machin oto-kondwi, verifikasyon byometrik, dyagnostik medikal, filtraj kontni, ak sou sa.

Ki jan danjere yon alisinasyon AI?

Alisinasyon AI ka trè danjere, espesyalman depann sou ki kalite sistèm AI ap fè eksperyans yo. Nenpòt machin oto-kondwi oswa asistan AI ki kapab depanse lajan itilizatè oswa yon sistèm AI pou filtre kontni dezagreyab sou entènèt dwe konplètman fè konfyans.

Men, reyalite a enkontournabl nan èdtan sa a se ke sistèm AI yo pa totalman konfyans, men yo, an reyalite, tendans alisinasyon. Menm modèl AI ki pi avanse jodi a pa iminitè kont li.

Pa egzanp, yon emisyon atak te twonpe sèvis cloud computing Google la pou l fè yon zam tankou yon elikoptè. Èske ou ka imajine si, nan moman sa a, AI te responsab pou asire ke moun nan pa te ame?

Yon lòt atak ostil demontre kijan ajoute yon ti imaj nan yon siy stop fè li envizib nan sistèm AI a. Esansyèlman, sa vle di ke yon machin oto-kondwi yo ka fè alisine ke pa gen okenn siy stop sou wout la. Konbyen aksidan ki ta ka rive si machin oto-kondwi yo te yon reyalite jodi a? Se poutèt sa yo pa kounye a.

Menm si nou pran an kont montre chat yo kounye a popilè, alisinasyon ka jenere pwodiksyon kòrèk. Men, moun ki pa konnen ke AI chatbot yo gen tandans fè alisinasyon epi yo pa valide pwodiksyon an ki te pwodwi pa AI bots, ka inadvèrtans gaye move enfòmasyon. Nou pa bezwen eksplike kijan sa a danjere.

Anplis de sa, atak ostil yo se yon enkyetid ijan. Jiskaprezan, yo te montre sèlman nan laboratwa. Men, si yon sistèm AI misyon kritik konfwonte yo nan mond reyèl la, konsekans yo ka devastatè.

Reyalite a se ke li se relativman pi fasil pwoteje modèl lang natirèl. (Nou pa di li fasil; li toujou pwouve ke li trè difisil.) Sepandan, pwoteje sistèm vizyon òdinatè se yon senaryo totalman diferan. Li pi difisil sitou paske gen anpil varyasyon nan mond natirèl la, ak imaj yo gen yon gwo kantite piksèl.

Pou rezoud pwoblèm sa a, nou ka bezwen yon pwogram AI ki gen yon opinyon plis imen sou mond lan ki ta ka fè li mwens tandans fè alisinasyon. Pandan ke rechèch ap fèt, nou toujou lwen yon entèlijans atifisyèl ki ka eseye pran sijesyon nan men lanati ak evade pwoblèm nan alisinasyon. Pou kounye a, yo se yon reyalite piman bouk.

An jeneral, alisinasyon AI se yon fenomèn konplèks ki ka rive nan yon konbinezon de faktè. Chèchè yo ap devlope aktivman metòd pou detekte ak diminye alisinasyon AI pou amelyore presizyon ak fyab sistèm AI. Men, ou ta dwe okouran de yo lè kominike avèk nenpòt sistèm AI.