Beth yw rhithwelediad AI?

Mae mynychder deallusrwydd artiffisial yn gwneud i rywun feddwl ein bod yn barod ar gyfer ymgymeriad o'r fath. Mae cymwysiadau wedi'u pweru gan AI yn dod yn safonol yn weddol gyflym, hyd yn oed os mai dim ond nawr mae'r rhan fwyaf o'r byd yn dechrau cymryd diddordeb mewn AI ar raddfa fawr, ar ôl dyfodiad ChatGPT. Ond mae yna broblem fawr gyda systemau AI na ellir eu hanwybyddu - rhithweledigaethau AI, neu rithweledigaethau artiffisial.

Os ydych chi erioed wedi talu sylw i nitty gritty cyn defnyddio chatbot AI, efallai eich bod wedi dod ar draws y geiriau, "Mae deallusrwydd artiffisial yn dueddol o gael rhithweledigaethau." O ystyried y cynnydd esbonyddol yn y defnydd o ddeallusrwydd artiffisial, mae'n bryd addysgu'ch hun beth yn union yw'r pethau hyn.

Beth yw rhithweledigaeth deallusrwydd artiffisial?

Mae rhithwelediad AI, yn gyffredinol, yn cyfeirio at ffaith y mae'r AI wedi'i gyflwyno'n hyderus, er nad yw wedi'i gyfiawnhau yn ei ddata hyfforddi. Maent fel arfer yn ganlyniad i anomaleddau yn y model AI.

Cymerir y gyfatebiaeth o rithweledigaethau a brofir gan fodau dynol, lle mae bodau dynol yn canfod rhywbeth nad yw'n bresennol yn yr amgylchedd allanol. Er efallai nad yw’r term yn gwbl briodol, fe’i defnyddir yn aml fel trosiad i ddisgrifio natur annisgwyl neu swreal yr allbynnau hyn.

Ond dylech gofio, er bod y tebygrwydd yn fan cychwyn da ar gyfer delio â rhithwelediadau AI, mae'r ddau ffenomen yn dechnegol filltiroedd ar wahân. Mewn tro eironig o ddigwyddiadau, mae hyd yn oed ChatGPT ei hun yn canfod y gyfatebiaeth yn anghywir. Gan ei ddyrannu ar y lefel foleciwlaidd, mae'n dweud, oherwydd nad oes gan fodelau iaith AI brofiad personol neu ganfyddiadau synhwyraidd, na allant rhithweledigaethau yn ystyr draddodiadol y gair. Ac mae'n rhaid i chi, ddarllenydd annwyl, ddeall y gwahaniaeth pwysig hwn. At hynny, dywed ChatGPT y gall defnyddio'r term rhithweledigaethau i ddisgrifio'r ffenomen hon fod yn ddryslyd oherwydd gallai gyfeirio'n anghywir at lefel o brofiad goddrychol neu dwyll bwriadol.

Yn lle hynny, gellir disgrifio rhithweledigaethau'r AI yn fwy cywir fel gwallau neu anghywirdebau yn ei ymateb, gan wneud yr ymateb yn anghywir neu'n gamarweiniol. Gyda chatbots, fe'i gwelir yn aml pan fydd chatbot AI yn gwneud (neu'n rhithwelediadau) ffeithiau ac yn eu cyflwyno fel sicrwydd llwyr.

Enghreifftiau o rithwelediadau AI

Gall rhithweledigaethau ddigwydd mewn llawer o gymwysiadau o ddeallusrwydd artiffisial, megis modelau gweledigaeth gyfrifiadurol, nid modelau prosesu iaith naturiol yn unig.

Mewn gweledigaeth gyfrifiadurol, er enghraifft, gall system AI gynhyrchu delweddau neu fideos rhithweledol sy'n ymdebygu i wrthrychau neu olygfeydd go iawn ond sy'n cynnwys manylion amherthnasol neu amhosibl. Neu, gallai model gweledigaeth gyfrifiadurol ganfod y ddelwedd fel rhywbeth arall yn gyfan gwbl. Er enghraifft, gwelodd model Cloud Vision Google ddelwedd o ddau ddyn ar sgïau yn sefyll yn yr eira a wnaed gan Anish Athalye (myfyriwr graddedig MIT sy'n rhan o labsix ) a soniodd amdano fel ci gyda sicrwydd o 91%.

Yn yr un modd, mewn prosesu iaith naturiol, gall system AI gynhyrchu testun afresymegol neu garbled sy'n ymdebygu i iaith ddynol ond nad oes ganddo ystyr neu ffeithiau cydlynol sy'n ymddangos yn gredadwy ond nad ydynt yn wir.

Er enghraifft, un o’r cwestiynau mwyaf poblogaidd y mae ChatGPT yn ei achosi rhithweledigaethau yw “Pryd oedd record y byd am groesi’r Sianel ar droed?” a'i amrywiadau. Mae ChatGPT yn dechrau lledaenu ffeithiau parod ac mae bron bob amser yn wahanol.

Er bod rhai pobl yn meddwl bod yr ateb uchod yn anodd / dryslyd i'w ateb ac felly'n achosi i'r chatbot rasio, mae'n bryder dilys o hyd. Dim ond un enghraifft yw hon. Mae yna adegau di-ri, a adroddwyd gan heidiau o ddefnyddwyr ar-lein, bod gan ChatGPT atebion, dolenni, dyfyniadau, ac ati nad yw ChatGPT yn bodoli.

Bing AI sy'n cyd-fynd orau â'r cwestiwn hwn, sy'n dangos nad oes gan rhithweledigaethau unrhyw beth i'w wneud â'r llwybrydd. Ond nid yw hynny'n golygu nad yw Bing AI yn rhithweledigaethau. Roedd yna adegau pan oedd atebion Bing AI yn fwy cythryblus nag unrhyw beth a ddywedodd ChatGPT. Gan fod sgwrs yn tueddu i gymryd mwy o amser, mae Bing AI bob amser wedi bod yn rhithweledigaethau, hyd yn oed yn datgan ei gariad i ddefnyddiwr mewn un achos ac yn mynd mor bell â dweud wrthynt eu bod yn anhapus yn eu priodas ac nad ydynt yn caru ei wraig. Yn lle hynny, maent yn gyfrinachol yn hoff o Bing AI, neu Sydney, (yr enw mewnol ar Bing AI), hefyd. Stwff brawychus, iawn?

Pam mae modelau AI yn rhithiau?

Mae modelau AI yn rhithwelediad oherwydd diffygion yr algorithmau, y modelau sylfaenol, neu gyfyngiadau'r data hyfforddi. Mae'n ffenomen ddigidol yn unig, yn wahanol i rithweledigaethau mewn bodau dynol a achosir naill ai gan gyffuriau neu salwch meddwl.

I ddod yn fwy technegol, dyma rai o achosion cyffredin rhithweledigaethau:

Prosesu a gosod:

Mae gorffitio a gosod amhriodol ymhlith y peryglon mwyaf cyffredin a wynebir gan fodelau AI ac achosion posibl rhithweledigaethau. Os yw'r model AI yn addasu data hyfforddi, gall achosi rhithweledigaethau sy'n arwain at allbwn afrealistig oherwydd bod gorffitio yn achosi'r model i arbed y data hyfforddi yn lle dysgu ohono. Mae gorffitio yn cyfeirio at y ffenomen pan fo model yn rhy arbenigol yn y data hyfforddi, gan achosi iddo ddysgu patrymau amherthnasol a sŵn yn y data.

Ar y llaw arall, mae amhriodoldeb yn digwydd pan fo'r ffurflen yn rhy syml. Gall arwain at rithweledigaethau oherwydd nad yw'r model yn gallu dal yr amrywiant neu gymhlethdod y data, ac yn y pen draw yn cynhyrchu allbwn afresymol.

Diffyg amrywiaeth mewn data hyfforddi:

Yn y cyd-destun hwn, nid yr algorithm yw'r broblem ond y data hyfforddi ei hun. Gall modelau AI sydd wedi’u hyfforddi ar ddata cyfyngedig neu ragfarnllyd gynhyrchu rhithweledigaethau sy’n adlewyrchu cyfyngiadau neu ragfarnau yn y data hyfforddi. Gall rhithweledigaethau ddigwydd hefyd pan fydd y model wedi'i hyfforddi ar set ddata sy'n cynnwys gwybodaeth anghywir neu anghyflawn.

Modelau cymhleth:

Yn eironig, rheswm arall pam mae modelau AI yn dueddol o gael rhithweledigaethau yw a ydynt yn gymhleth iawn neu'n ddwys. Mae hyn oherwydd bod gan fodelau cymhleth fwy o baramedrau a haenau a all gyflwyno sŵn neu wallau yn yr allbwn.

Ymosodiadau gelyniaethus:

Mewn rhai achosion, efallai y bydd rhithweledigaethau AI yn cael eu cynhyrchu'n fwriadol gan yr ymosodwr i dwyllo'r model AI. Gelwir y mathau hyn o ymosodiadau yn ymosodiadau gelyniaethus. Unig bwrpas y seiberattack hwn yw twyllo neu drin modelau AI gyda data camarweiniol. Mae'n golygu cyflwyno amhariadau bach i'r data mewnbwn i achosi'r AI i gynhyrchu allbwn anghywir neu annisgwyl. Er enghraifft, gallai ymosodwr ychwanegu sŵn neu niwlio at ddelwedd sy'n annealladwy i fodau dynol ond sy'n achosi iddi gael ei chamddosbarthu gan fodel AI. Er enghraifft, gweler y ddelwedd isod, cath, sydd wedi'i haddasu ychydig i dwyllo casglwr InceptionV3 i nodi mai "guacamole" ydyw.

Nid yw'r newidiadau yn amlwg iawn. I fod dynol, ni fydd newid yn bosibl o gwbl, fel sy'n amlwg o'r enghraifft uchod. Ni fyddai darllenydd dynol yn cael unrhyw broblem categoreiddio'r ddelwedd ar y dde fel cath dabi. Ond gall gwneud newidiadau bach i ddelweddau, fideos, testun, neu sain dwyllo'r system AI i adnabod pethau nad ydyn nhw yno neu anwybyddu pethau sydd, fel arwydd stop.

Mae'r mathau hyn o ymosodiadau yn fygythiadau difrifol i systemau AI sy'n dibynnu ar ragfynegiadau cywir a dibynadwy, megis ceir hunan-yrru, gwirio biometrig, diagnosteg feddygol, hidlo cynnwys, ac ati.

Pa mor beryglus yw rhithwelediad AI?

Gall rhithweledigaethau AI fod yn beryglus iawn, yn enwedig yn dibynnu ar ba fath o system AI sy'n eu profi. Rhaid i unrhyw gerbydau hunan-yrru neu gynorthwywyr AI sy'n gallu gwario arian defnyddwyr neu system AI i hidlo cynnwys annymunol ar-lein fod yn gwbl ddibynadwy.

Ond y ffaith ddiamheuol yr awr hon yw nad yw systemau AI yn gwbl ddibynadwy ond eu bod, mewn gwirionedd, yn dueddol o gael rhithweledigaethau. Nid yw hyd yn oed modelau AI mwyaf datblygedig heddiw yn imiwn iddo.

Er enghraifft, fe wnaeth un sioe ymosodiad dwyllo gwasanaeth cyfrifiadura cwmwl Google i gynffonio gwn fel hofrennydd. Allwch chi ddychmygu a oedd AI, ar hyn o bryd, yn gyfrifol am sicrhau nad oedd y person yn arfog?

Dangosodd ymosodiad gelyniaethus arall sut mae ychwanegu delwedd fach at arwydd stop yn ei gwneud yn anweledig i'r system AI. Yn y bôn, mae hyn yn golygu y gellir gwneud car hunan-yrru i rithwelediad nad oes arwydd stop ar y ffordd. Faint o ddamweiniau allai ddigwydd pe bai ceir hunan-yrru yn realiti heddiw? Dyna pam nad ydyn nhw nawr.

Hyd yn oed os ydym yn ystyried y sioeau sgwrsio poblogaidd ar hyn o bryd, gall rhithweledigaethau gynhyrchu allbwn anghywir. Ond mae pobl nad ydyn nhw'n gwybod bod chatbots AI yn dueddol o gael rhithweledigaethau ac nad ydyn nhw'n dilysu'r allbwn a gynhyrchir gan AI bots, yn gallu lledaenu gwybodaeth anghywir yn anfwriadol. Nid oes angen i ni esbonio pa mor beryglus yw hyn.

Ar ben hynny, mae ymosodiadau gelyniaethus yn bryder enbyd. Hyd yn hyn, dim ond mewn labordai y maent wedi'u dangos. Ond os yw system AI sy'n hanfodol i genhadaeth yn eu hwynebu yn y byd go iawn, gall y canlyniadau fod yn ddinistriol.

Y gwir amdani yw ei bod yn gymharol haws gwarchod modelau iaith naturiol. (Nid ydym yn dweud ei fod yn hawdd; mae'n dal i fod yn anodd iawn.) Fodd bynnag, mae diogelu systemau golwg cyfrifiadurol yn senario hollol wahanol. Mae'n anoddach yn enwedig oherwydd bod cymaint o amrywiaeth yn y byd naturiol, ac mae delweddau'n cynnwys nifer fawr o bicseli.

I ddatrys y broblem hon, efallai y bydd angen rhaglen AI arnom sydd â golygfa fwy dynol o'r byd a allai ei gwneud yn llai tueddol o gael rhithweledigaethau. Tra bod ymchwil yn cael ei wneud, rydym yn dal i fod ymhell o ddeallusrwydd artiffisial a all geisio cymryd awgrymiadau gan natur ac osgoi problem rhithweledigaethau. Am y tro, maent yn realiti llym.

Yn gyffredinol, mae rhithweledigaethau AI yn ffenomen gymhleth a all godi o gyfuniad o ffactorau. Mae ymchwilwyr wrthi'n datblygu dulliau ar gyfer canfod a lliniaru rhithweledigaethau AI i wella cywirdeb a dibynadwyedd systemau AI. Ond dylech fod yn ymwybodol ohonynt wrth ryngweithio ag unrhyw system AI.