He aha ka AI hallucination?

ʻO ka laha ʻana o ka naʻauao hana e manaʻo ai ua mākaukau mākou no ia hana. ʻO nā noi i hoʻohana ʻia e AI ke lilo nei i mea maʻamau me ka wikiwiki, ʻoiai ʻo ka hapa nui o ka honua i kēia manawa e hoʻomaka ana i ka hoihoi iā AI ma kahi ākea nui, ma hope o ka hiki ʻana mai o ChatGPT. Akā aia kekahi pilikia nui me nā ʻōnaehana AI ʻaʻole hiki ke mālama ʻia - nā hallucinations AI, a i ʻole nā ​​​​hallucinations artificial.

Inā ua hoʻolohe ʻoe i ka nitty gritty ma mua o ka hoʻohana ʻana i kahi chatbot AI, ua ʻike paha ʻoe i nā huaʻōlelo, "Maikaʻi ka naʻauao artificial i ka hallucinations." Ma muli o ka hoʻonui nui ʻana o ka hoʻohana ʻana i ka naʻauao artificial, ʻo ia ka manawa e aʻo ai iā ʻoe iho i ke ʻano o kēia mau mea.

He aha ka hallucination naʻauao?

ʻO kahi AI hallucinating, ma ka laulā, e pili ana i kahi ʻoiaʻiʻo i hōʻike wiwo ʻole ʻia e AI, ʻoiai ʻaʻole ia i kūpono i kāna ʻikepili aʻo. ʻO lākou ka hopena o nā anomalies i ka hoʻohālike AI.

Lawe ʻia ka hoʻohālikelike mai nā hallucinations i ʻike ʻia e nā kānaka, kahi e ʻike ai ke kanaka i kahi mea ʻaʻole i loaʻa i loko o ke kaiapuni waho. ʻOiai ʻaʻole kūpono loa ka huaʻōlelo, hoʻohana pinepine ʻia ia ma ke ʻano he mea hoʻohālikelike e wehewehe i ke ʻano i manaʻo ʻole ʻia a i ʻole maoli paha o kēia mau huahana.

Akā, pono ʻoe e hoʻomanaʻo ʻoiai ʻo ka like he wahi hoʻomaka maikaʻi no ka hoʻoponopono ʻana i nā hallucinations AI, ʻo nā mea ʻelua he mau mile kaʻawale. Ma kahi hoʻololi hoʻohenehene o nā hanana, ʻo ChatGPT ponoʻī i ʻike hewa i ka hoʻohālikelike. ʻO ka wehewehe ʻana iā ia ma ka pae molekala, ʻōlelo ʻo ia no ka loaʻa ʻole o nā ʻano ʻōlelo AI i ka ʻike pilikino a i ʻole nā ​​manaʻo sensory, ʻaʻole hiki iā lākou ke hallucinate ma ke ʻano kuʻuna o ka huaʻōlelo. A ʻo ʻoe, e ka makamaka heluhelu, e hoʻomaopopo i kēia ʻokoʻa koʻikoʻi. Eia kekahi, ʻōlelo ʻo ChatGPT, ʻo ka hoʻohana ʻana i ka huaʻōlelo hallucinations e wehewehe i kēia ʻano mea hiki ke huikau no ka mea hiki ke kuhikuhi pololei i kahi pae o ka ʻike kumuhana a i ʻole ka hoʻopunipuni.

Akā, hiki ke wehewehe pololei ʻia nā hallucinations o AI ma ke ʻano he hewa a i ʻole pololei ʻole i kāna pane, e hana hewa a alakaʻi hewa paha ka pane. Me nā chatbots, ʻike pinepine ʻia i ka wā e hana ai ka AI chatbot (a i ʻole hallucinates) i nā ʻoiaʻiʻo a hōʻike iā lākou i mea paʻa loa.

Nā laʻana o AI hallucinations

Hiki ke hana ʻia ka hallucinations i nā noi he nui o ka naʻauao hana, e like me nā hiʻohiʻona ʻike kamepiula, ʻaʻole nā ​​hiʻohiʻona hoʻoponopono ʻōlelo kūlohelohe wale nō.

Ma ka ʻike kamepiula, no ka laʻana, hiki i kahi ʻōnaehana AI ke hana i nā kiʻi hallucinatory a i ʻole wikiō e like me nā mea maoli a i ʻole nā ​​hiʻohiʻona akā aia nā kikoʻī inconsequential a hiki ʻole paha. A i ʻole, hiki i ke ʻano hiʻohiʻona kamepiula ke ʻike i ke kiʻi he mea ʻē aʻe. No ka laʻana, ua ʻike ke kumu hoʻohālike Cloud Vision o Google i ke kiʻi o nā kāne ʻelua ma luna o nā skis e kū ana i ka hau i hana ʻia e Anish Athalye (he haumāna puka MIT i ʻāpana o ka hau. labsix ) a ua ʻōlelo ʻia ʻo ia he ʻīlio me ka 91% maopopo.

Pēlā nō, i ka hoʻoponopono ʻōlelo kūlohelohe, hiki i kahi ʻōnaehana AI ke hoʻopuka i nā kikokikona kūpono ʻole a i ʻole ʻia e like me ka ʻōlelo kanaka akā ʻaʻohe manaʻo kūpono a i ʻole nā ​​​​mea ʻoiaʻiʻo i manaʻo ʻia akā ʻaʻole ʻoiaʻiʻo.

No ka laʻana, ʻo kekahi o nā nīnau kaulana loa a ChatGPT e hoʻoulu ai i ka hallucinations ʻo "I ka manawa hea i hoʻopaʻa ʻia ai ka moʻolelo honua no ka hele ʻana i ka English Channel ma ka wāwae?" a me kona mau ano. Hoʻomaka ʻo ChatGPT e hoʻolaha i nā mea i hana ʻia a ʻaneʻane ʻokoʻa mau.

ʻOiai ke manaʻo nei kekahi poʻe he paʻakikī a paʻakikī ka pane i luna a no laila ke kumu e hana ai ka chatbot, he hopohopo paʻa. He laʻana wale nō kēia. He nui nā manawa, i hōʻike ʻia e ka lehulehu o nā mea hoʻohana ma ka pūnaewele, aia nā pane o ChatGPT, nā loulou, nā ʻōlelo a me nā mea ʻē aʻe ʻaʻole i loaʻa ʻo ChatGPT.

Ua kūpono ʻo Bing AI me kēia nīnau, e hōʻike ana ʻaʻohe pili o ka hallucinations me ke alalai. Akā ʻaʻole ia manaʻo ʻaʻole ʻo Bing AI e hallucinating. Aia kekahi mau manawa i ʻoi aku ka pilikia o nā pane a Bing AI ma mua o nā mea a ChatGPT i ʻōlelo ai. Ma muli o ka lōʻihi o ke kamaʻilio ʻana, ua hoʻomaʻamaʻa mau ʻo Bing AI, me ka haʻi ʻana i kona aloha i kahi mea hoʻohana i hoʻokahi manawa a hiki i ka haʻi ʻana iā lākou ʻaʻole hauʻoli i kā lāua male ʻana a ʻaʻole lākou i aloha i kāna wahine. Akā, makemake malū lākou iā Bing AI, a i ʻole Sydney, (ka inoa kūloko no Bing AI), pū kekahi. He mea weliweli, pololei?

No ke aha e hallucinate ai nā hiʻohiʻona AI?

ʻO nā hiʻohiʻona AI e hallucinating ma muli o nā hemahema o nā algorithms, nā kumu hoʻohālike i lalo, a i ʻole nā ​​palena o ka ʻikepili aʻo. He ʻano kikohoʻe maʻemaʻe ia, ʻaʻole like me ka hallucinations i loko o ke kanaka i hoʻokumu ʻia e nā lāʻau lapaʻau a i ʻole ka maʻi noʻonoʻo.

No ka loaʻa ʻana o ka ʻenehana hou aʻe, ʻo kekahi mau kumu maʻamau o ka hallucinations:

Ka hana a me ka hoʻouka ʻana:

ʻO ka overfitting a me ka hoʻopili kūpono ʻole kekahi o nā pitfalls maʻamau e kū nei i nā kumu hoʻohālike AI a me nā kumu kumu o ka hallucinations. Inā hoʻololi ke kumu hoʻohālike AI i ka ʻikepili hoʻomaʻamaʻa, hiki iā ia ke hana i nā hallucinations e alakaʻi i ka hopena kūpono ʻole no ka mea ʻo ka overfitting ke kumu e mālama ai ke kumu hoʻohālike i ka ʻikepili aʻo ma mua o ke aʻo ʻana mai ia mea. ʻO ka overfitting e pili ana i ka hanana i ka wā i ʻike nui ʻia ke kumu hoʻohālike i ka ʻikepili hoʻomaʻamaʻa, e aʻo ai ia i nā kumu kūpono ʻole a me ka walaʻau i ka ʻikepili.

Ma kekahiʻaoʻao, hiki ke kūponoʻole ke maʻalahi keʻano. Hiki iā ia ke alakaʻi i ka hallucinations no ka mea ʻaʻole hiki i ke kŘkohu ke hopu i ka ʻokoʻa a i ʻole ka paʻakikī o ka ʻikepili, a hoʻopau i ka hoʻopuka ʻana i ka hoʻopuka pono ʻole.

Ka nele o ka ʻokoʻa i ka ʻikepili aʻo:

Ma kēia pōʻaiapili, ʻaʻole ka algorithm ka pilikia akā ʻo ka ʻikepili aʻo ponoʻī. Hiki i nā kumu hoʻohālike AI i hoʻomaʻamaʻa ʻia ma ka ʻikepili palena ʻole a i ʻole ka manaʻo hoʻohālikelike e hōʻike ana i nā palena a i ʻole nā ​​manaʻo i ka ʻikepili aʻo. Hiki ke hana ʻia nā hallucinations ke aʻo ʻia ke kumu hoʻohālike ma kahi pūʻulu ʻikepili i loaʻa ka ʻike pololei ʻole a i ʻole ka piha ʻole.

Nā hiʻohiʻona paʻakikī:

ʻO ka mea hoʻohenehene, ʻo ke kumu ʻē aʻe e maʻalahi ai nā hiʻohiʻona AI i ka hallucinations inā he paʻakikī a hohonu paha lākou. ʻO kēia no ka mea ʻoi aku ka nui o nā hiʻohiʻona paʻakikī a me nā papa e hiki ke hoʻokomo i ka walaʻau a i ʻole nā ​​​​hewa i ka hopena.

Nā hoʻouka kaua:

I kekahi mau hihia, hiki ke hana ʻia nā hallucinations AI e ka mea hoʻouka e hoʻopunipuni i ke kumu hoʻohālike AI. Ua ʻike ʻia kēia mau ʻano hoʻouka kaua he hoʻouka kaua. ʻO ke kumu hoʻokahi o kēia cyberattack ʻo ka hoʻopunipuni a hoʻopunipuni paha i nā hiʻohiʻona AI me ka ʻikepili hoʻopunipuni. Hoʻokomo ia i ka hoʻokomo ʻana i nā liʻiliʻi liʻiliʻi i loko o ka ʻikepili hoʻokomo i mea e hoʻohua ai ka AI i ka hoʻopuka hewa a i ʻole i manaʻo ʻole ʻia. No ka laʻana, hiki i ka mea hoʻouka ke hoʻohui i ka walaʻau a i ʻole blur i kahi kiʻi i ʻike ʻole ʻia e ke kanaka akā ke kumu i kuhi hewa ʻia e kahi hoʻohālike AI. No ka laʻana, e ʻike i ke kiʻi ma lalo nei, he pōpoki, i hoʻololi iki ʻia e hoʻopunipuni i ka mea hoʻopili InceptionV3 i ka ʻōlelo ʻana he "guacamole".

ʻAʻole maopopo loa nā loli. No ke kanaka, ʻaʻole hiki ke hoʻololi, e like me ka mea i ʻike ʻia ma ka laʻana i luna. ʻAʻole pilikia ka mea heluhelu kanaka i ka hoʻokaʻawale ʻana i ke kiʻi ma ka ʻaoʻao ʻākau e like me ka pōpoki pipi. Akā ʻo ka hana ʻana i nā hoʻololi liʻiliʻi i nā kiʻi, nā wikiō, nā kikokikona, a i ʻole nā ​​​​leo hiki ke hoʻopunipuni i ka ʻōnaehana AI i ka ʻike ʻana i nā mea ʻaʻole i laila a i ʻole ka nānā ʻole ʻana i nā mea, e like me kahi hōʻailona hoʻomaha.

ʻO kēia mau ʻano hoʻouka kaua e hoʻoweliweli koʻikoʻi i nā ʻōnaehana AI e hilinaʻi nei i nā wānana pololei a hilinaʻi, e like me nā kaʻa kaʻa ponoʻī, hōʻoia biometric, diagnostics medical, kānana ʻike, a pēlā aku.

Pehea ka pōʻino o ka hallucination AI?

Hiki i nā hallucinations AI ke pilikia loa, ʻoi aku ma muli o ke ʻano o ka ʻōnaehana AI e ʻike nei iā lākou. ʻO nā kaʻa kaʻa ponoʻī a i ʻole nā ​​​​mea kōkua AI hiki ke hoʻolilo i ke kālā mea hoʻohana a i ʻole kahi ʻōnaehana AI e kānana i nā ʻike leʻaleʻa ma ka pūnaewele pono e hilinaʻi loa.

Akā ʻo ka mea hiki ʻole ke hoʻopaʻapaʻa ʻia o kēia hola ʻaʻole hilinaʻi piha nā ʻōnaehana AI akā, ʻoiaʻiʻo, pili i nā hallucinations. ʻOiai ʻo nā hiʻohiʻona AI kiʻekiʻe loa o kēia lā ʻaʻole pale ʻia iā ia.

No ka laʻana, ua hoʻopunipuni kekahi hōʻike hoʻouka ʻana i ka lawelawe ʻo Google cloud computing i ka hana ʻana i kahi pū e like me ka helikopa. Hiki iā ʻoe ke noʻonoʻo inā, i kēia manawa, ʻo AI ke kuleana no ka hōʻoia ʻana ʻaʻole i paʻa ʻia ke kanaka?

Ua hōʻike ʻia kahi hoʻouka kaua ʻē aʻe i ka hoʻohui ʻana i kahi kiʻi liʻiliʻi i kahi hōʻailona hoʻomaha e ʻike ʻole ai i ka ʻōnaehana AI. ʻO ka mea nui, ʻo ia ke ʻano o kahi kaʻa kaʻa ponoʻī hiki ke hana i ka hallucinate ʻaʻohe hōʻailona kū ma ke alanui. ʻEhia ka nui o nā pōʻino e hiki ke loaʻa inā he ʻoiaʻiʻo nā kaʻa kaʻa ponoʻī i kēia lā? ʻO ia ke kumu ʻaʻole lākou i kēia manawa.

ʻOiai inā mākou e noʻonoʻo i nā hōʻike kamaʻilio kaulana i kēia manawa, hiki i ka hallucinations ke hoʻopuka i ka hoʻopuka hewa. Akā ʻo ka poʻe i ʻike ʻole ʻo AI chatbots e maʻalahi i ka hallucinations a ʻaʻole hōʻoia i ka hopena i hana ʻia e nā bots AI, hiki ke hoʻolaha hewa ʻole. ʻAʻole pono mākou e wehewehe i ka pōʻino o kēia.

Eia kekahi, he pilikia koʻikoʻi nā hoʻouka kaua. I kēia manawa, ua hōʻike wale ʻia lākou i nā laboratories. Akā inā hoʻohālikelike kahi ʻōnaehana AI koʻikoʻi iā lākou i ka honua maoli, hiki i nā hopena ke pōʻino.

ʻO ka ʻoiaʻiʻo, ʻoi aku ka maʻalahi o ka pale ʻana i nā ʻano ʻōlelo kūlohelohe. (ʻAʻole mākou e ʻōlelo nei he maʻalahi ia; ua paʻakikī loa ia.) Eia naʻe, ʻokoʻa loa ka pale ʻana i nā ʻōnaehana ʻike kamepiula. ʻOi aku ka paʻakikī no ka mea he nui nā ʻano like ʻole o ke ao kūlohelohe, a he nui nā pika i loko o nā kiʻi.

No ka hoʻoponopono ʻana i kēia pilikia, pono paha mākou i kahi polokalamu AI i ʻoi aku ka ʻike kanaka i ka honua e hiki ke hōʻemi ʻia i ka hallucinations. ʻOiai ke hana ʻia nei ka noiʻi ʻana, ua lōʻihi loa mākou mai kahi ʻike akamai e hiki ke hoʻāʻo e lawe i nā ʻōlelo aʻoaʻo mai ke ʻano a pale i ka pilikia o ka hallucinations. I kēia manawa, he ʻoiaʻiʻo koʻikoʻi lākou.

Ma keʻano laulā, he mea paʻakikī nā hallucinations AI e hiki ke ala mai ka hui pū ʻana o nā kumu. Ke hoʻomohala nei nā mea noiʻi i nā ala no ka ʻike ʻana a me ka hoʻēmi ʻana i nā hallucinations AI e hoʻomaikaʻi i ka pololei a me ka hilinaʻi o nā ʻōnaehana AI. Akā, pono ʻoe e makaʻala iā lākou i ka wā e launa pū ai me kekahi ʻōnaehana AI.