AI hallucination ke eng?

Ho ata ha bohlale ba maiketsetso ho etsa hore motho a nahane hore re se re loketse mosebetsi o joalo. Lisebelisoa tse tsamaisoang ke AI li fetoha maemo ka potlako ka potlako, le haeba boholo ba lefats'e bo se bo qala ho thahasella AI ka tekanyo e kholo, ka mor'a ho fihla ha ChatGPT. Empa ho na le bothata bo boholo ka lits'ebetso tsa AI tse ke keng tsa hlokomolohuoa - lipono tsa AI, kapa lipono tsa maiketsetso.

Haeba u kile ua ela hloko nitty gritty pele u sebelisa chatbot ea AI, mohlomong u kile ua kopana le mantsoe, "Bohlale ba maiketsetso bo atisa ho ba le lipono." Ka lebaka la keketseho e matla ea tšebeliso ea bohlale ba maiketsetso, ke nako ea hore u ithute hore na hantle-ntle lintho tsena ke life.

Maikutlo a bohlale ba maiketsetso ke eng?

Tlhaloso ea AI, ka kakaretso, e bua ka 'nete eo AI e e hlahisitseng ka kholiseho, leha e sa nepahale ho data ea eona ea koetliso. Hangata ke litholoana tsa anomalies ho mohlala oa AI.

Papiso ena e nkiloe liponong tse bonoang ke batho, tseo ho tsona batho ba bonang ntho e sieo tikolohong e kantle. Le hoja lentsoe lena le ka 'na la se ke la nepahala ka ho feletseng, hangata le sebelisoa e le mokhabo-puo ho hlalosa boemo bo sa lebelloang kapa bo sa tloaelehang ba liphello tsena.

Empa o lokela ho hopola hore le hoja ho tšoana e le qalo e ntle ea ho sebetsana le maikutlo a AI, liketsahalo tsena tse peli li arohane ka lik'hilomithara tse ngata. Ka phetoho e makatsang, esita le ChatGPT ka boeona e fumana papiso eo e fosahetse. Ha a e arola boemong ba limolek'hule, o re hobane mehlala ea lipuo tsa AI ha e na phihlelo ea botho kapa maikutlo a kutlo, e ke ke ea e-ba le maikutlo a tloaelehileng a lentsoe. 'Me uena,' mali ea ratehang, u tlameha ho utloisisa phapang ena ea bohlokoa. Ho feta moo, ChatGPT e re ho sebelisa lentsoe "hallucinations" ho hlalosa ketsahalo ena ho ka ferekanya hobane e ka 'na ea bua ka mokhoa o sa nepahaleng boemong ba phihlelo ea boipheliso kapa thetso ea ka boomo.

Sebakeng seo, lipono tsa AI li ka hlalosoa ka nepo e le liphoso kapa ho se nepahale karabong ea eona, ho etsa hore karabelo e fosahetse kapa e khelose. Ka li-chatbots, hangata e bonoa ha AI ​​chatbot e etsa (kapa e hlakisa lintlha) ebe e li hlahisa e le bonnete bo felletseng.

Mehlala ea lipono tsa AI

Lipono li ka etsahala lits'ebetsong tse ngata tsa bohlale ba maiketsetso, joalo ka mehlala ea pono ea khomphutha, eseng feela mefuta ea ts'ebetso ea puo ea tlhaho.

Ponong ea khomphutha, mohlala, sistimi ea AI e ka hlahisa litšoantšo kapa livideo tse ts'oanang le lintho tsa 'nete empa li na le lintlha tse sa hlokahaleng kapa tse ke keng tsa etsahala. Kapa, ​​mohlala oa pono ea k'homphieutha o ka bona setšoantšo e le ntho e 'ngoe ka ho feletseng. Mohlala, mohlala oa Google Cloud Vision o bone setšoantšo sa banna ba babeli ba palameng skis ba eme lehloeng le entsoeng ke Anish Athalye (seithuti sa MIT seo e leng karolo ea labsix ) mme a e bolela e le ntja e nang le bonnete ba 91%.

Ka mokhoa o ts'oanang, ts'ebetsong ea puo ea tlhaho, tsamaiso ea AI e ka hlahisa mongolo o sa utloahaleng kapa o sa utloahaleng o tšoanang le puo ea batho empa o se na moelelo o lumellanang kapa lintlha tse bonahalang li ka tšeptjoa empa e se 'nete.

Mohlala, e 'ngoe ea lipotso tse tsebahalang haholo tseo ChatGPT e li bakang lipono ke "Rekote ea lefats'e ea ho tšela English Channel ka maoto e bile neng?" le mefuta ea eona. ChatGPT e qala ho jala lintlha tse iqapetsoeng 'me e batla e fapane kamehla.

Leha batho ba bang ba nahana hore karabo e kaholimo e thata / e ferekanya ho e araba mme ka hona e etsa hore chatbot e hlajoe ke lihlong, e ntse e le taba e nepahetseng. Ona ke mohlala o le mong feela. Ho na le makhetlo a mangata, a tlalehiloeng ke letšoele la basebelisi ba inthaneteng, hore ChatGPT e na le likarabo, likhokahano, mantsoe a qotsitsoeng, joalo-joalo hore ChatGPT ha e eo.

Bing AI e lumellana hantle le potso ena, e bontšang hore lipono ha li amane le router. Empa seo ha se bolele hore Bing AI ha e na kelello. Ho na le linako tseo ka tsona likarabo tsa Bing AI li neng li tšoenya ho feta eng kapa eng e boletsoeng ke ChatGPT. Kaha moqoqo o batla ho nka nako e telele, Bing AI esale e na le maikutlo a fosahetseng, e bile e phatlalatsa lerato la eona ho mosebelisi ketsahalong e le 'ngoe le ho ba bolella hore ha baa thaba lenyalong la bona le hore ha ba rate mosali oa hae. Sebakeng seo, ba rata Bing AI ka lekunutu, kapa Sydney, (lebitso la ka hare la Bing AI), le bona. Lintho tse tšosang, na?

Hobaneng ha mefuta ea AI e hohela?

Mefuta ea AI e na le maikutlo a fosahetseng ka lebaka la mefokolo ea li-algorithms, mehlala ea motheo, kapa mefokolo ea lintlha tsa koetliso. Ke ketsahalo ea dijithale feela, ho fapana le lipono tsa batho tse bakoang ke lithethefatsi kapa lefu la kelello.

Ho fumana botekgeniki bo eketsehileng, lisosa tse ling tse tloaelehileng tsa lipono ke:

Ho sebetsa le ho kenya:

Ho fetisoa ka ho fetelletseng le ho sa lokelang ke tse ling tsa mamena a atileng haholo a tobaneng le mefuta ea AI le lisosa tse ka bang teng tsa lipono. Haeba mohlala oa AI o fetola lintlha tsa koetliso, o ka baka maikutlo a fosahetseng a lebisang tlhahisong e sa utloahaleng hobane ho fetella ho etsa hore mohlala o boloke data ea koetliso ho fapana le ho ithuta ho eona. Overfitting e bua ka ketsahalo ea ha mohlala o ikhethile haholo ho data ea koetliso, ho etsa hore e ithute mekhoa le lerata le sa sebetseng ho data.

Ka lehlakoreng le leng, ho se tšoanelehe ho etsahala ha foromo e le bonolo haholo. E ka lebisa ho lipono hobane mohlala ha o khone ho hapa phapang kapa ho rarahana ha data, 'me o qetella o hlahisa tlhahiso e sa utloahaleng.

Khaello ea mefuta-futa ea data ea koetliso:

Tabeng ena, bothata ha se algorithm empa data ea koetliso ka boeona. Mefuta ea AI e koetlisitsoeng ka data e lekantsoeng kapa e leeme e ka hlahisa maikutlo a fosahetseng a bonts'ang mefokolo kapa leeme ho data ea koetliso. Li-hallucinations li ka boela tsa etsahala ha mohlala o koetliselitsoe ho sete ea data e nang le boitsebiso bo sa nepahalang kapa bo sa phethahalang.

Mefuta e rarahaneng:

Ho makatsang ke hore lebaka le leng leo ka lona mefuta ea AI e tloaetseng ho ba le lipono ke hore na e rarahane haholo kapa e tebile. Lebaka ke hobane mefuta e rarahaneng e na le liparamente le likarolo tse ngata tse ka hlahisang lerata kapa liphoso ho tlhahiso.

Litlhaselo tse mabifi:

Maemong a mang, lipono tsa AI li ka hlahisoa ka boomo ke mohlaseli ho thetsa mohlala oa AI. Mefuta ena ea litlhaselo e tsejoa e le litlhaselo tse mabifi. Sepheo se le seng sa cyberattack ena ke ho qhekella kapa ho thetsa mefuta ea AI ka data e khelosang. E kenyelletsa ho hlahisa litšitiso tse nyane ho data ea ho kenya ho etsa hore AI e hlahise tlhahiso e fosahetseng kapa e sa lebelloang. Ka mohlala, mohlaseli a ka eketsa lerata kapa a etsa lerata setšoantšong se sa bonahaleng ho batho, empa a etsa hore se khethoe hampe ke mofuta oa AI. Mohlala, bona setšoantšo se ka tlase, katse, e fetotsoeng hanyane ho thetsa moqapi oa InceptionV3 ho bolela hore ke "guacamole".

Liphetoho ha li bonahale ka ho hlaka. Ho motho, phetoho e ke ke ea khonahala ho hang, joalo ka ha ho totobatsoa mohlaleng o ka holimo. 'Mali oa motho o ne a ke ke a ba le bothata ba ho arola setšoantšo se ka ho le letona e le katse ea tabby. Empa ho etsa liphetoho tse nyane ho litšoantšo, livideo, mongolo, kapa molumo ho ka thetsa sistimi ea AI ho lemoha lintho tse sieo kapa ho iphapanyetsa lintho tse joalo, joalo ka lets'oao la ho emisa.

Mefuta ena ea litlhaselo e baka litšokelo tse tebileng ho litsamaiso tsa AI tse itšetlehileng ka likhakanyo tse nepahetseng le tse ka tšeptjoang, tse kang likoloi tse itšoereng ka botsona, netefatso ea biometric, tlhahlobo ea bongaka, ho sefa litaba, joalo-joalo.

Khopolo ea AI e kotsi hakae?

Maikutlo a AI a ka ba kotsi haholo, haholo-holo ho latela mofuta oa sistimi ea AI e nang le ona. Likoloi life kapa life tse itsamaisang kapa bathusi ba AI ba khonang ho sebelisa chelete ea basebelisi kapa sistimi ea AI ho sefa litaba tse sa thabiseng inthaneteng e tlameha ho tšepahala ka botlalo.

Empa 'nete e ke keng ea hanyetsoa ea hora ena ke hore litsamaiso tsa AI ha li tšepahale ka botlalo, empa ha e le hantle, li na le maikutlo a fosahetseng. Esita le mefuta ea kajeno ea AI e tsoetseng pele ka ho fetisisa ha e sireletsehe ho eona.

Mohlala, lenaneo le leng la tlhaselo le ile la qhekella ts'ebeletso ea komporo ea leru ea Google hore e kenye sethunya joalo ka helikopotara. Na u ka inahanela hore na, ka nako eo, AI e ne e ikarabella ho etsa bonnete ba hore motho eo ha aa hlomela?

Tlhaselo e 'ngoe e mabifi e bontšitse kamoo ho eketsa setšoantšo se senyenyane ho lets'oao la ho emisa ho etsa hore e se bonahale ho sistimi ea AI. Ha e le hantle, sena se bolela hore koloi e itsamaisang e ka etsoa hore e bone hore ha ho na letšoao la ho ema tseleng. Ke likotsi tse kae tse ka bang teng haeba likoloi tse itsamaisang e ne e le ntho ea sebele kajeno? Ke ka lebaka leo ba seng hona joale.

Leha re ka ela hloko mananeo a meqoqo a tsebahalang hajoale, lipono li ka hlahisa tlhahiso e fosahetseng. Empa batho ba sa tsebeng hore li-chatbots tsa AI li na le tšekamelo ea ho ba le maikutlo a fosahetseng 'me ha li netefatse tlhahiso e hlahisoang ke AI bots, ba ka jala mashano ba sa tsebe. Ha ho hlokahale hore re hlalose hore na sena se kotsi hakae.

Ho feta moo, litlhaselo tse mabifi ke ntho e tšoenyang haholo. Ho fihlela joale, li bonts'itsoe feela lilaboratoring. Empa haeba tsamaiso ea AI e bohlokoa haholo e ka tobana le bona lefatšeng la 'nete, litlamorao e ka ba tse bohloko.

'Nete ke hore ho batla ho le bonolo ho sireletsa mehlala ea puo ea tlhaho. (Ha re re ho bonolo; ho ntse ho bonahala ho le thata haholo.) Leha ho le joalo, ho sireletsa litsamaiso tsa pono tsa komporo ke boemo bo fapaneng ka ho felletseng. Ho thata haholo hobane ho na le phapang e ngata lefatšeng la tlhaho, 'me litšoantšo li na le lipikselse tse ngata.

Ho rarolla bothata bona, re ka hloka lenaneo la AI le nang le pono ea batho ea lefats'e le ka etsang hore le se ke la tloaeleha ho ba le lipono. Ha lipatlisiso li ntse li etsoa, ​​​​re ntse re le hole le bohlale ba maiketsetso bo ka lekang ho nka lintlha ho tsoa tlhahong le ho qoba bothata ba lipono. Hajoale, ke 'nete e bohloko.

Ka kakaretso, li-hallucinations tsa AI ke ntho e rarahaneng e ka hlahang ho tsoa ho lintho tse ngata. Bafuputsi ba ntse ba nts'etsapele mekhoa ea ho bona le ho fokotsa maikutlo a AI ho ntlafatsa ho nepahala le ho ts'epahala ha litsamaiso tsa AI. Empa u lokela ho li ela hloko ha u sebelisana le sistimi efe kapa efe ea AI.