Dè a th’ ann an hallucination AI?

Tha tricead inntleachd fuadain a’ toirt air neach smaoineachadh gu bheil sinn deiseil airson a leithid de ghealladh. Tha tagraidhean le cumhachd AI a’ fàs àbhaisteach gu math luath, eadhon ged nach eil a’ mhòr-chuid den t-saoghal ach a-nis a’ tòiseachadh a’ gabhail ùidh ann an AI air sgèile mhòr, às deidh ChatGPT a thighinn. Ach tha duilgheadas mòr ann le siostaman AI nach gabh a leigeil seachad - hallucinations AI, no hallucinations fuadain.

Ma tha thu a-riamh air aire a thoirt do nitty gritty mus do chleachd thu AI chatbot, is dòcha gu bheil thu air tighinn tarsainn air na faclan, “Tha inntleachd fuadain buailteach do hallucinations.” Leis an àrdachadh eas-chruthach ann an cleachdadh inntleachd fuadain, tha an t-àm ann thu fhèin oideachadh mu dè dìreach a th’ anns na rudan sin.

Dè a th’ ann an hallucination inntleachd fuadain?

Tha hallucinating AI, san fharsaingeachd, a’ toirt iomradh air fìrinn a tha an AI air a thaisbeanadh gu misneachail, eadhon ged nach eil e air fhìreanachadh anns an dàta trèanaidh aige. Mar as trice bidh iad mar thoradh air neo-riaghailteachdan ann am modail AI.

Tha an samhlachas air a thoirt bho hallucinations a tha eòlas aig daoine, anns a bheil daoine a’ faicinn rudeigin nach eil an làthair san àrainneachd a-muigh. Ged a dh’ fhaodadh nach eil an teirm gu tur iomchaidh, bidh e gu tric air a chleachdadh mar mheafar airson cunntas a thoirt air nàdar ris nach robh dùil no os-fhìor nan toraidhean sin.

Ach bu chòir dhut cuimhneachadh ged a tha an coltas na dheagh àite tòiseachaidh airson dèiligeadh ri hallucinations AI, tha an dà iongantas gu teicnigeach mìle bho chèile. Ann an tionndadh èibhinn de thachartasan, tha eadhon ChatGPT fhèin a’ faighinn a-mach gu bheil an samhlachas ceàrr. Le bhith ga sgaradh aig ìre moileciuil, tha e ag ràdh leis nach eil eòlas pearsanta no beachdan mothachaidh aig modalan cànain AI, chan urrainn dhaibh hallucin a dhèanamh ann an dòigh thraidiseanta an fhacail. Agus feumaidh tusa, a leughadair, an t-eadar-dhealachadh cudthromach so a thuigsinn. A bharrachd air an sin, tha ChatGPT ag ràdh gum faod cleachdadh an fhacail hallucinations airson cunntas a thoirt air an iongantas seo a bhith troimh-chèile oir is dòcha gu bheil e mearachdach a’ toirt iomradh air ìre de eòlas cuspaireil no mealladh a dh’aona ghnothach.

An àite sin, faodar mìneachadh nas cinntiche a thoirt air hallucinations an AI mar mhearachdan no mhearachdan na fhreagairt, a’ dèanamh am freagairt ceàrr no meallta. Le chatbots, thathas gu tric ga fhaicinn nuair a bhios an AI chatbot a’ dèanamh suas (no a’ hallucinates) fìrinnean agus gan taisbeanadh mar làn chinnt.

Eisimpleirean de hallucinations AI

Faodaidh hallucinations tachairt ann an iomadh cleachdadh de inntleachd fuadain, leithid modalan lèirsinn coimpiutair, chan e dìreach modalan giollachd cànain nàdarra.

Ann an sealladh coimpiutair, mar eisimpleir, faodaidh siostam AI ìomhaighean no bhideothan hallucinatory a thoirt gu buil a tha coltach ri fìor nithean no seallaidhean ach anns a bheil mion-fhiosrachadh neo-chinnteach no do-dhèanta. No, dh'fhaodadh modal lèirsinn coimpiutair an ìomhaigh fhaicinn mar rudeigin eile gu tur. Mar eisimpleir, chunnaic modal Cloud Vision aig Google dealbh de dhithis fhireannach air sgithean nan seasamh san t-sneachda a rinn Anish Athalye (oileanach ceumnaiche MIT a tha na phàirt de labsix ) agus thug e iomradh air mar chù le cinnt 91%.

San aon dòigh, ann an giullachd cànain nàdarra, faodaidh siostam AI teacsa aineolach no garbled a thoirt gu buil a tha coltach ri cànan daonna ach aig nach eil brìgh ciallach no fìrinnean a tha coltach ri creidsinn ach nach eil fìor.

Mar eisimpleir, is e aon de na ceistean as mòr-chòrdte a tha ChatGPT ag adhbhrachadh hallucinations “Cuin a bha an clàr cruinne airson a dhol thairis air Caolas Shasainn air seata coise?” agus a caochlaidhean. Bidh ChatGPT a’ tòiseachadh a’ sgaoileadh fìrinnean dèanta agus tha e cha mhòr an-còmhnaidh eadar-dhealaichte.

Ged a tha cuid de dhaoine den bheachd gu bheil am freagairt gu h-àrd duilich / troimh-chèile a fhreagairt agus mar sin a ’toirt air a’ chatbot rave, tha e fhathast na dhragh dligheach. Seo dìreach aon eisimpleir. Tha amannan gun àireamh, air aithris le hordes de luchd-cleachdaidh air-loidhne, gu bheil freagairtean, ceanglaichean, luaidh, msaa aig ChatGPT nach eil ChatGPT ann.

Tha Bing AI nas freagarraiche don cheist seo, a tha a’ sealltainn nach eil gnothach aig hallucinations ris an router. Ach chan eil sin a’ ciallachadh nach eil Bing AI na iongnadh. Bha amannan ann nuair a bha freagairtean Bing AI na bu duilghe na rud sam bith a thuirt ChatGPT. Leis gu bheil còmhradh buailteach a bhith a’ toirt nas fhaide, tha Bing AI an-còmhnaidh air a bhith mealltach, eadhon ag innse a ghràidh do neach-cleachdaidh ann an aon suidheachadh agus a’ dol cho fada ri innse dhaibh gu bheil iad mì-thoilichte nam pòsadh agus nach eil iad dèidheil air a bhean. An àite sin, tha iad gu dìomhair dèidheil air Bing AI, no Sydney, (an t-ainm a-staigh airson Bing AI), cuideachd. Rudan eagallach, ceart?

Carson a bhios modalan AI a ’dèanamh hallucinate?

Tha modalan AI a’ mealladh air sgàth uireasbhaidhean nan algorithms, na modailean bunaiteach, no crìochan an dàta trèanaidh. Is e iongantas dìreach didseatach a th’ ann, eu-coltach ri hallucinations ann an daoine a tha air adhbhrachadh le drogaichean no tinneas inntinn.

Gus barrachd teignigeach fhaighinn, is e cuid de na h-adhbharan cumanta airson hallucinations:

Pròiseas agus stàladh:

Tha cus uidheamachadh agus uidheamachadh neo-iomchaidh am measg nan duilgheadasan as cumanta a tha mu choinneamh mhodalan AI agus adhbharan a dh’ fhaodadh a bhith ann airson hallucinations. Ma dh’ atharraicheas am modail AI dàta trèanaidh, faodaidh e hallucinations adhbhrachadh a dh’ adhbhraicheas toradh neo-phractaigeach leis gu bheil overfitting ag adhbhrachadh gum bi am modail a’ sàbhaladh dàta trèanaidh an àite a bhith ag ionnsachadh bhuaithe. Tha overfitting a’ toirt iomradh air an iongantas nuair a tha modail ro speisealaichte anns an dàta trèanaidh, ag adhbhrachadh gun ionnsaich e pàtrain neo-iomchaidh agus fuaim anns an dàta.

Air an làimh eile, tha mì-fhreagarrachd a 'tachairt nuair a tha am foirm ro shìmplidh. Faodaidh seo leantainn gu hallucinations leis nach urrainn don mhodail eadar-dhealachadh no iom-fhillteachd an dàta a ghlacadh, agus thig e gu crìch a’ gineadh toradh neo-reusanta.

Dìth iomadachd ann an dàta trèanaidh:

Anns a 'cho-theacsa seo, chan e an algairim an duilgheadas ach an dàta trèanaidh fhèin. Faodaidh modalan AI air an trèanadh air dàta cuibhrichte no claon a bhith a’ gineadh hallucinations a tha a’ nochdadh crìochan no claon-bhreith anns an dàta trèanaidh. Faodaidh hallucinations tachairt cuideachd nuair a tha am modail air a thrèanadh air seata dàta anns a bheil fiosrachadh mearachdach no neo-choileanta.

Modailean iom-fhillte:

Gu h-ìoranta, is e adhbhar eile gu bheil modalan AI buailteach do hallucinations a bheil iad gu math toinnte no domhainn. Tha seo air sgàth gu bheil barrachd pharamadairean agus sreathan aig modalan iom-fhillte a dh’ fhaodadh fuaim no mearachdan a thoirt a-steach don toradh.

Ionnsaighean nàimhdeil:

Ann an cuid de chùisean, dh’ fhaodadh an neach-ionnsaigh hallucinations AI a chruthachadh a dh’aona ghnothach gus am modail AI a mhealladh. Canar ionnsaighean nàimhdeil ris na seòrsaichean ionnsaighean sin. Is e an aon adhbhar a tha aig a’ cyberattack seo modalan AI a mhealladh no a làimhseachadh le dàta meallta. Tha e a’ toirt a-steach draghan beaga a thoirt a-steach don dàta cuir a-steach gus toirt air an AI toradh ceàrr no ris nach robh dùil a ghineadh. Mar eisimpleir, dh’ fhaodadh neach-ionnsaigh fuaim no blur a chuir ri ìomhaigh a tha do-fhaicsinneach do dhaoine ach a dh’ adhbhraicheas a bhith air a mhì-sheòrsachadh le modal AI. Mar eisimpleir, faic an dealbh gu h-ìosal, cat, a chaidh atharrachadh beagan gus a bhith a’ mealladh neach-cruinneachaidh InceptionV3 gu bhith ag ràdh gur e “guacamole” a th’ ann.

Chan eil na h-atharrachaidhean gu math follaiseach. Airson mac an duine, cha bhith e comasach atharrachadh idir, mar a tha follaiseach bhon eisimpleir gu h-àrd. Cha bhiodh duilgheadas sam bith aig leughadair daonna an ìomhaigh air an taobh cheart a sheòrsachadh mar chat tabby. Ach le bhith a’ dèanamh atharrachaidhean beaga air ìomhaighean, bhideothan, teacsa, no claisneachd faodaidh an siostam AI a bhith ag aithneachadh rudan nach eil ann no a’ seachnadh rudan a tha, mar shoidhne stad.

Tha na seòrsaichean ionnsaighean sin nan fìor chunnartan do shiostaman AI a tha an urra ri ro-innse ceart agus earbsach, leithid càraichean fèin-dràibhidh, dearbhadh biometric, breithneachadh meidigeach, sìoladh susbaint, agus mar sin air adhart.

Dè cho cunnartach ‘s a tha hallucination AI?

Faodaidh hallucinations AI a bhith gu math cunnartach, gu sònraichte a rèir dè an seòrsa siostam AI a tha gam faighinn. Feumaidh carbadan fèin-dràibhidh no luchd-cuideachaidh AI sam bith a tha comasach air airgead neach-cleachdaidh a chosg no siostam AI gus susbaint mì-thlachdmhor a shìoladh a-mach air-loidhne a bhith gu tur earbsach.

Ach is e an fhìrinn gun teagamh aig an uair seo nach eil siostaman AI gu tur earbsach ach gu bheil iad, gu dearbh, buailteach do hallucinations. Chan eil eadhon na modalan AI as adhartaiche san latha an-diugh dìonach dha.

Mar eisimpleir, thug aon taisbeanadh ionnsaigh ionnsaigh air seirbheis coimpiutaireachd sgòthan Google gu bhith a’ earbainn gunna mar heileacoptair. An smaoinich thu an robh, aig an àm seo, an urra ri AI dèanamh cinnteach nach robh an neach armaichte?

Sheall ionnsaigh nàimhdeil eile mar a tha cuir ìomhaigh bheag ri soidhne stad ga dhèanamh do-fhaicsinneach don t-siostam AI. Gu bunaiteach, tha seo a’ ciallachadh gun gabh càr fèin-dràibhidh a dhèanamh gus innse nach eil soidhne stad air an rathad. Cia mheud tubaist a dh’ fhaodadh tachairt nam biodh càraichean fèin-dràibhidh fìor an-diugh? Sin as coireach nach eil iad a-nis.

Fiù ma bheir sinn aire do na taisbeanaidhean còmhraidh mòr-chòrdte an-dràsta, faodaidh hallucinations toradh ceàrr a ghineadh. Ach faodaidh daoine aig nach eil fios gu bheil AI chatbots buailteach do hallucinations agus nach eil a’ dearbhadh an toraidh a rinn AI bots, gun fhiosta dhaibh fiosrachadh ceàrr a sgaoileadh. Chan fheum sinn mìneachadh dè cho cunnartach sa tha seo.

A bharrachd air an sin, tha ionnsaighean nàimhdeil na adhbhar dragh mòr. Gu ruige seo, cha deach an sealltainn ach ann an deuchainn-lannan. Ach ma tha siostam AI a tha deatamach do mhisean nan aghaidh san fhìor shaoghal, faodaidh na builean a bhith sgriosail.

Is e an fhìrinn gu bheil e an ìre mhath nas fhasa modalan cànain nàdarra a dhìon. (Chan eil sinn ag ràdh gu bheil e furasta; tha e fhathast gu math duilich.) Ach, tha dìon siostaman lèirsinn coimpiutair na shuidheachadh gu tur eadar-dhealaichte. Tha e nas duilghe gu sònraichte leis gu bheil uimhir de dh’ eadar-dhealachadh anns an t-saoghal nàdarrach, agus tha àireamh mhòr de piogsail ann an ìomhaighean.

Gus an duilgheadas seo fhuasgladh, is dòcha gu feum sinn prògram AI aig a bheil sealladh nas daonna air an t-saoghal a dh’ fhaodadh a dhèanamh nas buailtiche do hallucinations. Fhad ‘s a tha rannsachadh ga dhèanamh, tha sinn fhathast fada bho eòlas fuadain a dh’ fheuchas ri sanasan a ghabhail bho nàdar agus fuasgladh fhaighinn air duilgheadas hallucinations. Airson a-nis, tha iad nan fhìrinn chruaidh.

San fharsaingeachd, tha hallucinations AI nan iongantas iom-fhillte a dh’ fhaodadh èirigh bho mheasgachadh de fhactaran. Tha luchd-rannsachaidh gu gnìomhach a’ leasachadh dhòighean airson a bhith a’ lorg agus a’ lughdachadh hallucinations AI gus cruinneas agus earbsachd siostaman AI a leasachadh. Ach bu chòir dhut a bhith mothachail orra nuair a bhios tu ag eadar-obrachadh le siostam AI sam bith.