Cad is siabhránacht AI ann?

Mar gheall ar leitheadúlacht na hintleachta saorga ceaptar go bhfuilimid réidh le haghaidh a leithéid de ghealltanas. Tá feidhmchláir atá á gcumhachtú ag AI ag éirí caighdeánach go measartha tapa, fiú mura bhfuil an chuid is mó den domhan ach ag tosú ag cur spéise in AI ar scála mór, tar éis teacht ar ChatGPT. Ach tá fadhb mhór le córais AI nach féidir neamhaird a dhéanamh - siabhránachtaí AI, nó siabhránachtaí saorga.

Má thug tú aird ar nitty gritty riamh roimh úsáid a bhaint as chatbot AI, b’fhéidir gur tháinig tú trasna ar na focail, "Tá faisnéis shaorga seans maith go siabhránachtaí." Mar gheall ar an méadú easpónantúil ar úsáid na hintleachta saorga, tá sé in am oideachas a chur ort féin ar cad iad na rudaí seo go díreach.

Cad is siabhránacht intleachta saorga?

Tagraíonn bréagchleachtadh AI, go ginearálta, don fhíric a chuir an AI i láthair go muiníneach, cé nach bhfuil údar leis ina shonraí oiliúna. De ghnáth bíonn siad mar thoradh ar aimhrialtachtaí sa tsamhail AI.

Tógtar an t-analaí ó siabhránachtaí a bhíonn ag daoine, ina bhfeiceann daoine rud éigin nach bhfuil i láthair sa timpeallacht sheachtrach. Cé go mb’fhéidir nach bhfuil an téarma iomlán feiliúnach, is minic a úsáidtear é mar mheafar chun cur síos a dhéanamh ar nádúr gan choinne nó surreal na n-aschur seo.

Ach ba cheart duit cuimhneamh, cé gur pointe tosaigh maith é an cosúlacht chun déileáil le siabhránachtaí AI, tá an dá fheiniméin míle óna chéile go teicniúil. I gcás imeachtaí íorónta, faigheann fiú ChatGPT féin go bhfuil an t-analaí mícheart. Agus é á scaradh ag an leibhéal móilíneach, deir sé, toisc nach bhfuil taithí phearsanta nó braistintí céadfacha ag samhlacha teanga AI, nach féidir leo bréagchéadfa a dhéanamh i gciall thraidisiúnta an fhocail. Agus caithfidh tusa, a léitheoir, an difríocht thábhachtach seo a thuiscint. Ina theannta sin, deir ChatGPT gur féidir mearbhall a chur ar úsáid an téarma siabhránachtaí chun cur síos a dhéanamh ar an bhfeiniméan seo toisc go bhféadfadh sé tagairt mhíchruinn a dhéanamh do leibhéal taithí suibiachtúla nó dallamullóg d’aon ghnó.

Ina áit sin, is féidir cur síos níos cruinne a dhéanamh ar siabhránachtaí an AI mar earráidí nó míchruinnis ina fhreagra, rud a fhágann go bhfuil an freagra mícheart nó míthreorach. Le chatbots, is minic a thugtar faoi deara nuair a dhéanann an chatbot AI fíricí suas (nó bréagchéadfaíocht) agus cuireann sé i láthair iad mar chinnteacht iomlán.

Samplaí de siabhránachtaí AI

Is féidir le siabhránachtaí tarlú i go leor feidhmeanna na hintleachta saorga, mar mhúnlaí fís ríomhaire, ní hamháin samhlacha próiseála teanga nádúrtha.

I bhfís ríomhaire, mar shampla, is féidir le córas AI íomhánna nó físeáin siabhránacha a tháirgeadh atá cosúil le réada nó radhairc fhíora ach a bhfuil sonraí neamhleanúnacha nó dodhéanta iontu. Nó, d’fhéadfadh samhail fís ríomhaire an íomhá a bhrath mar rud iomlán eile. Mar shampla, chonaic samhail Google's Cloud Vision íomhá de bheirt fhear ar skis ina seasamh sa sneachta a rinne Anish Athalye (mac léinn iarchéime MIT atá mar chuid de labsix ) agus luaigh sé mar mhadra é le cinnteacht 91%.

Ar an gcaoi chéanna, i bpróiseáil teanga nádúrtha, féadfaidh córas AI téacs ainleolaíoch nó gairbhéal a tháirgeadh atá cosúil le teanga dhaonna ach nach bhfuil brí chomhleanúnach nó fíricí inchreidte ach nach bhfuil fíor.

Mar shampla, is é ceann de na ceisteanna is coitianta a chuireann ChatGPT faoi deara siabhránachtaí ná “Cén uair a bhí an taifead domhanda maidir le trasnú an Mhuir nIocht ar cosán?” agus a leagan. Tosaíonn ChatGPT ag scaipeadh fíricí comhdhéanta agus bíonn sé beagnach i gcónaí difriúil.

Cé go gceapann daoine áirithe go bhfuil sé deacair/mearbhall an freagra thuas a fhreagairt agus go n-éireoidh leis an chatbot mar sin, is ábhar imní bailí é fós. Níl anseo ach sampla amháin. Tá go leor uaireanta, a thuairiscigh go leor úsáideoirí ar líne, go bhfuil freagraí, naisc, luanna, srl. ag ChatGPT nach bhfuil ChatGPT ann.

Is fearr a luíonn Bing AI leis an gceist seo, rud a léiríonn nach bhfuil baint ar bith ag siabhránachtaí leis an ródaire. Ach ní chiallaíonn sé sin nach bhfuil Bing AI mealltach. Bhí amanna ann nuair a bhí freagraí Bing AI níos trioblóidí ná aon rud a dúirt ChatGPT. Ós rud é go dtógann an comhrá níos faide, tá Bing AI i gcónaí ag bréagadh, fiú ag dearbhú a ghrá d'úsáideoir i gcás amháin agus ag dul chomh fada le rá leo go bhfuil siad míshásta ina bpósadh agus nach bhfuil grá acu dá bhean chéile. Ina áit sin, is breá leo faoi rún Bing AI, nó Sydney, (an t-ainm inmheánach Bing AI), freisin. Stuif scary, ceart?

Cén fáth a bhfuil samhlacha AI bréagchéile?

Tá samhlacha AI mealltach mar gheall ar easnaimh na n-algartam, na múnlaí bunúsacha, nó teorainneacha na sonraí oiliúna. Is feiniméan digiteach amháin é, murab ionann agus siabhránachtaí i ndaoine arb iad drugaí nó meabhairghalar is cúis leo.

Chun níos mó teicniúil a fháil, is iad seo a leanas roinnt cúiseanna coitianta le siabhránachtaí:

Próiseáil agus suiteáil:

Tá rófheisteas agus feistiú míchuí i measc na ngaistí is coitianta a bhíonn le sárú ag samhlacha AI agus cúiseanna féideartha na siabhránachtaí. Má athraíonn an tsamhail AI sonraí oiliúna, féadfaidh sé siabhránachtaí a bheith mar thoradh ar aschur neamhréadúil toisc go n-eascraíonn ró-fheistiú go sábhálann an tsamhail na sonraí oiliúna in ionad foghlaim uaidh. Tagraíonn rófheisteas don fheiniméan nuair a bhíonn múnla ró-speisialaithe sna sonraí oiliúna, rud a fhágann go bhfoghlaimíonn sé patrúin agus torann nach mbaineann le hábhar sna sonraí.

Ar an láimh eile, tarlaíonn mí-oiriúnacht nuair a bhíonn an fhoirm ró-simplí. Féadfaidh siabhránachtaí a bheith mar thoradh air toisc nach bhfuil an tsamhail in ann éagsúlacht nó castacht na sonraí a ghabháil, agus gineann sé aschur neamhréasúnach dá bharr.

Easpa éagsúlachta i sonraí oiliúna:

Sa chomhthéacs seo, ní hé an algartam an fhadhb ach na sonraí oiliúna féin. Féadfaidh samhlacha AI atá oilte ar shonraí teoranta nó claonta siabhránachtaí a ghiniúint a léiríonn teorainneacha nó laofachtaí sna sonraí oiliúna. Is féidir le siabhránachtaí tarlú freisin nuair a chuirtear oiliúint ar an tsamhail ar thacar sonraí ina bhfuil faisnéis mhíchruinn nó neamhiomlán.

Samhlacha casta:

Go híorónta, is cúis eile a mbíonn seans ag baint le siabhránachtaí samhlacha AI ná an bhfuil siad thar a bheith casta nó as cuimse. Tá sé seo amhlaidh toisc go bhfuil níos mó paraiméadair agus sraitheanna ag samhlacha casta ar féidir leo torann nó earráidí a thabhairt isteach san aschur.

Ionsaithe naimhdeach:

I gcásanna áirithe, féadfaidh an t-ionsaitheoir siabhránachtaí AI a ghiniúint d'aon ghnó chun an tsamhail AI a mhealladh. Ionsaithe naimhdeach a thugtar ar na cineálacha ionsaithe seo. Is é an t-aon chuspóir atá leis an gcibear-ionsaí seo ná samhlacha AI a bhualadh nó a ionramháil le sonraí míthreoracha. Baineann sé le perturbations beaga a thabhairt isteach sna sonraí ionchuir chun a chur faoi deara an AI a ghiniúint aschur mícheart nó gan choinne. Mar shampla, d'fhéadfadh ionsaitheoir torann nó doiléire a chur le híomhá atá do-airithe ag daoine ach a fhágann go bhfuil sé mí-rangaithe ag samhail AI. Mar shampla, féach ar an íomhá thíos, cat, atá mionathraithe beagán chun cleas a chur ar thiomsaitheoir InceptionV3 a rá gur "guacamole" é.

Níl na hathruithe soiléir go soiléir. Don duine, ní bheidh athrú indéanta ar chor ar bith, mar is léir ón sampla thuas. Ní bheadh ​​​​aon fhadhb ag léitheoir daonna an íomhá ar dheis a chatagóiriú mar chat cluaisín. Ach má dhéantar athruithe beaga ar íomhánna, físeáin, téacs, nó fuaime is féidir an córas AI a mhealladh chun rudaí nach bhfuil ann a aithint nó neamhaird a dhéanamh de rudaí atá, cosúil le stopchomhartha.

Cuireann na cineálacha ionsaithe seo bagairtí tromchúiseacha ar chórais AI atá ag brath ar thuar cruinn agus iontaofa, mar shampla gluaisteáin féin-tiomána, fíorú bithmhéadrach, diagnóisic leighis, scagadh ábhar, agus mar sin de.

Cé chomh dainséarach atá hallucination AI?

Is féidir le hallucinations AI a bheith an-chontúirteach, go háirithe ag brath ar an gcineál córais AI atá ag fulaingt orthu. Ní mór aon fheithiclí féin-tiomána nó cúntóirí AI atá in ann airgead úsáideora a chaitheamh nó córas AI chun ábhar míthaitneamhach a scagadh amach ar líne a bheith iontaofa go hiomlán.

Ach is é fírinne an scéil seo ná nach bhfuil córais AI iontaofa go hiomlán ach go bhfuil siad, i ndáiríre, seans maith le siabhránachtaí. Níl na samhlacha AI is airde sa lá atá inniu ann díolmhaithe dó.

Mar shampla, chuir seó ionsaithe amháin cleas ar sheirbhís néalríomhaireachta Google chun gunna a shreangú mar héileacaptar. An féidir leat a shamhlú má bhí, i láthair na huaire, AI freagrach as a chinntiú nach raibh an duine armtha?

Léirigh ionsaí naimhdeach eile conas a fhágann íomhá beag le comhartha stad dofheicthe don chóras AI. Go bunúsach, ciallaíonn sé seo gur féidir carr féin-tiomána a dhéanamh chun a rá nach bhfuil aon chomhartha stad ar an mbóthar. Cé mhéad timpiste a d'fhéadfadh tarlú dá mba rud é go raibh gluaisteáin féin-tiomána fíor inniu? Sin é an fáth nach bhfuil siad anois.

Fiú má chuirimid na seónna comhrá tóir faoi láthair san áireamh, féadann siabhránachtaí aschur mícheart a ghiniúint. Ach daoine nach bhfuil a fhios acu go bhfuil chatbots AI seans maith go siabhránachtaí agus nach ndéanann bailíochtú ar an aschur a tháirgeann AI bots, is féidir leo faisnéis mhícheart a scaipeadh gan chuimhneamh. Ní gá dúinn a mhíniú cé chomh dainséarach atá sé seo.

Ina theannta sin, is ábhar imní práinneach iad ionsaithe naimhdeacha. Go dtí seo, níor léiríodh iad ach i saotharlanna. Ach má thugann córas AI atá ríthábhachtach ó thaobh misin aghaidh orthu sa saol fíor, is féidir leis na hiarmhairtí a bheith tubaisteach.

Is é fírinne an scéil go bhfuil sé sách éasca samhlacha teanga nádúrtha a chosaint. (Nílimid ag rá go bhfuil sé éasca; cruthaíonn sé a bheith an-deacair fós.) Mar sin féin, is cás iomlán difriúil é córais fís ríomhaireachta a chosaint. Tá sé níos deacra go háirithe toisc go bhfuil an oiread sin éagsúlachta sa domhan nádúrtha, agus go bhfuil líon mór picteilín in íomhánna.

Chun an fhadhb seo a réiteach, b'fhéidir go mbeadh gá againn le clár AI a bhfuil radharc níos daonna aige ar an domhan a d'fhéadfadh a bheith níos lú seans maith le siabhránachtaí. Cé go bhfuil taighde á dhéanamh, táimid fós i bhfad ó hintleachta saorga atá in ann iarracht a dhéanamh leideanna a ghlacadh ón dúlra agus fadhb na siabhránachtaí a sheachaint. Go dtí seo, is réaltacht chrua iad.

Go ginearálta, is feiniméan casta iad hallucinations AI a d'fhéadfadh teacht chun cinn ó mheascán fachtóirí. Tá taighdeoirí ag forbairt modhanna go gníomhach chun siabhránachtaí AI a bhrath agus a mhaolú chun cruinneas agus iontaofacht na gcóras AI a fheabhsú. Ach ba cheart duit a bheith ar an eolas fúthu agus tú ag idirghníomhú le haon chóras AI.