Hvað er gervigreind ofskynjanir?

Algengi gervigreindar fær mann til að halda að við séum tilbúin í slíkt verkefni. Gervigreindarforrit eru að verða staðalbúnaður nokkuð fljótt, jafnvel þótt flestir í heiminum séu fyrst núna að byrja að sýna gervigreind í stórum stíl, eftir komu ChatGPT. En það er stórt vandamál með gervigreindarkerfi sem ekki er hægt að hunsa - gervigreindarofskynjanir, eða gerviofskynjanir.

Ef þú hefur einhvern tíma veitt nöturlegum gaum áður en þú notar gervigreind spjallbot, gætirðu hafa rekist á orðin, "Gervigreind er viðkvæm fyrir ofskynjunum." Í ljósi þess hversu mikil aukning hefur orðið á notkun gervigreindar er kominn tími til að fræða þig um hvað nákvæmlega þetta er.

Hvað er gervigreind ofskynjanir?

Almennt séð vísar gervigreind ofskynja til staðreyndar sem gervigreindin hefur sett fram af öryggi, jafnvel þó að það sé ekki réttlætanlegt í þjálfunargögnum sínum. Þeir eru venjulega afleiðing af frávikum í gervigreindarlíkaninu.

Samlíkingin er fengin úr ofskynjunum sem menn upplifa, þar sem menn skynja eitthvað sem er ekki til staðar í ytra umhverfi. Þó að hugtakið sé kannski ekki alveg viðeigandi er það oft notað sem myndlíking til að lýsa óvæntu eða súrrealísku eðli þessara úttaka.

En þú ættir að muna að þó að líkindin séu góður upphafspunktur til að takast á við gervigreind ofskynjanir, þá eru fyrirbærin tvö tæknilega kílómetra á milli. Í kaldhæðnislegri atburðarás finnst jafnvel ChatGPT sjálfu samlíkinguna ranga. Hann sundurgreinir það á sameindastigi og segir að vegna þess að gervigreind tungumálalíkön hafi ekki persónulega reynslu eða skynjun, geti þau ekki ofskynjað í hefðbundnum skilningi þess orðs. Og þú, kæri lesandi, verður að skilja þennan mikilvæga mun. Ennfremur, ChatGPT segir að það að nota hugtakið ofskynjanir til að lýsa þessu fyrirbæri geti verið ruglingslegt vegna þess að það gæti á ónákvæman hátt átt við stig huglægrar reynslu eða viljandi blekkingar.

Þess í stað er hægt að lýsa ofskynjunum gervigreindar með nákvæmari hætti sem villur eða ónákvæmni í svörun þess, sem gerir svarið rangt eða villandi. Með spjallbotnum sést það oft þegar gervigreind spjallbotninn býr til (eða ofskynja) staðreyndir og setur þær fram sem algjöra vissu.

Dæmi um gervigreind ofskynjanir

Ofskynjanir geta komið fram í mörgum beitingu gervigreindar, svo sem tölvusjónarlíkönum, ekki bara náttúrulegu málvinnslulíkönum.

Í tölvusjón, til dæmis, getur gervigreind kerfi framleitt ofskynjaðar myndir eða myndbönd sem líkjast raunverulegum hlutum eða senum en innihalda ómarkviss eða ómöguleg smáatriði. Eða tölvusjón líkan gæti skynjað myndina sem eitthvað allt annað. Til dæmis sá Cloud Vision líkan Google mynd af tveimur mönnum á skíðum standa í snjónum gerð af Anish Athalye (MIT framhaldsnemi sem er hluti af labsix ) og nefndi það sem hund með 91% vissu.

Á sama hátt, í náttúrulegri málvinnslu, getur gervigreind kerfi framleitt órökréttan eða rangan texta sem líkist mannamáli en hefur ekki samræmda merkingu eða staðreyndir sem virðast trúverðugar en eru ekki sannar.

Til dæmis, ein vinsælasta spurningin sem ChatGPT veldur ofskynjunum er „Hvenær var heimsmetið þegar farið var fótgangandi yfir Ermarsundið? og afbrigði þess. ChatGPT byrjar að dreifa tilbúnum staðreyndum og það er næstum alltaf öðruvísi.

Þó að sumir telji að svarið hér að ofan sé erfitt/ruglingslegt að svara og veldur því að spjallbotninn rífist, þá er það samt gilt áhyggjuefni. Þetta er bara eitt dæmi. Það eru óteljandi sinnum, tilkynnt af hjörð af notendum á netinu, sem ChatGPT hefur svör, tengla, tilvitnanir osfrv. sem ChatGPT er ekki til.

Bing AI passar best við þessa spurningu, sem sýnir að ofskynjanir hafa ekkert með routerinn að gera. En það þýðir ekki að Bing AI sé ekki ofskynjanir. Það voru tímar þegar svör Bing AI voru meira áhyggjuefni en nokkuð sem ChatGPT sagði. Þar sem samtal hefur tilhneigingu til að taka lengri tíma hefur Bing AI alltaf verið ofskynjanir, jafnvel lýst yfir ást sinni á notanda í einu tilviki og gengið svo langt að segja þeim að þeir séu óánægðir í hjónabandi sínu og að þeir elski ekki konuna hans. Þess í stað eru þeir leynilega hrifnir af Bing AI, eða Sydney, (innra nafn fyrir Bing AI), líka. Hræðilegt efni, ekki satt?

Af hverju ofskynja gervigreindarlíkön?

Gervigreind líkön eru ofskynjanir vegna galla reikniritanna, undirliggjandi líkana eða takmarkana þjálfunargagnanna. Þetta er eingöngu stafrænt fyrirbæri, ólíkt ofskynjunum hjá mönnum sem orsakast annað hvort af fíkniefnum eða geðsjúkdómum.

Til að verða tæknilegri eru nokkrar algengar orsakir ofskynjana:

Vinnsla og uppsetning:

Offitting og óviðeigandi mátun eru meðal algengustu gildra sem gervigreind líkön standa frammi fyrir og hugsanlegar orsakir ofskynjana. Ef gervigreind líkanið breytir þjálfunargögnum getur það valdið ofskynjunum sem leiða til óraunhæfrar framleiðni vegna þess að offita veldur því að líkanið vistar þjálfunargögnin í stað þess að læra af þeim. Offitting vísar til fyrirbærisins þegar líkan er of sérhæft í þjálfunargögnum, sem veldur því að það lærir óviðkomandi mynstur og hávaða í gögnunum.

Á hinn bóginn kemur óviðeigandi fram þegar formið er of einfalt. Það getur leitt til ofskynjana vegna þess að líkanið er ófært um að fanga dreifni eða flókið gagnanna og endar með því að búa til óskynsamlega útkomu.

Skortur á fjölbreytni í þjálfunargögnum:

Í þessu samhengi er vandamálið ekki reikniritið heldur þjálfunargögnin sjálf. Gervigreind líkön sem þjálfuð eru á takmörkuðum eða hlutdrægum gögnum geta framkallað ofskynjanir sem endurspegla takmarkanir eða hlutdrægni í þjálfunargögnunum. Ofskynjanir geta einnig komið fram þegar líkanið er þjálfað á gagnasafni sem inniheldur ónákvæmar eða ófullnægjandi upplýsingar.

Flóknar gerðir:

Það er kaldhæðnislegt að önnur ástæða fyrir því að gervigreind líkön eru viðkvæm fyrir ofskynjunum er hvort þau eru mjög flókin eða djúpstæð. Þetta er vegna þess að flókin líkön hafa fleiri færibreytur og lög sem geta komið fram með hávaða eða villur í úttakinu.

Óvinveittar árásir:

Í sumum tilfellum geta gervigreindarofskynjanir verið vísvitandi framleiddar af árásarmanninum til að blekkja gervigreindarlíkanið. Þessar tegundir árása eru þekktar sem fjandsamlegar árásir. Eini tilgangurinn með þessari netárás er að plata eða vinna með gervigreindarlíkön með villandi gögnum. Það felur í sér að setja litlar truflanir inn í inntaksgögnin til að valda gervigreindinni til að búa til rangt eða óvænt úttak. Til dæmis gæti árásarmaður bætt hávaða eða óskýrleika við mynd sem er ómerkjanleg fyrir mönnum en veldur því að hún er rangflokkuð af gervigreind líkani. Sjáðu til dæmis myndina hér að neðan, köttur, sem hefur verið breytt lítillega til að plata þýðanda InceptionV3 til að segja að hann sé „guacamole“.

Breytingarnar eru ekki augljósar. Fyrir manneskju verða breytingar alls ekki mögulegar, eins og sést af ofangreindu dæmi. Mannlegur lesandi ætti ekki í neinum vandræðum með að flokka myndina til hægri sem töff köttur. En að gera litlar breytingar á myndum, myndböndum, texta eða hljóði getur blekkt gervigreindarkerfið til að þekkja hluti sem eru ekki til eða hunsa hluti sem eru, eins og stöðvunarmerki.

Þessar tegundir árása eru alvarlegar ógnir við gervigreindarkerfi sem treysta á nákvæmar og áreiðanlegar spár, svo sem sjálfkeyrandi bíla, líffræðileg tölfræðisannprófun, læknisfræðilega greiningu, innihaldssíun og svo framvegis.

Hversu hættuleg er gervigreind ofskynjanir?

AI ofskynjanir geta verið mjög hættulegar, sérstaklega eftir því hvers konar gervigreind kerfi er að upplifa þær. Öll sjálfkeyrandi farartæki eða gervigreind aðstoðarmenn sem geta eytt notendapeningum eða gervigreindarkerfi til að sía út óþægilegt efni á netinu verða að vera fullkomlega treystandi.

En óumdeilanleg staðreynd þessa klukkutíma er að gervigreind kerfi eru ekki fullkomlega áreiðanleg en eru í raun viðkvæm fyrir ofskynjunum. Jafnvel fullkomnustu gervigreindargerðir nútímans eru ekki ónæmar fyrir því.

Til dæmis, einn árásarþáttur blekkti skýjatölvuþjónustu Google til að sleppa byssu eins og þyrlu. Geturðu ímyndað þér hvort gervigreind væri ábyrg fyrir því að tryggja að viðkomandi væri ekki vopnaður í augnablikinu?

Önnur fjandsamleg árás sýndi hvernig lítill mynd er bætt við stöðvunarmerki gerir hana ósýnilega gervigreindarkerfinu. Í meginatriðum þýðir þetta að hægt er að láta sjálfkeyrandi bíl ofskynja að það sé ekkert stöðvunarmerki á veginum. Hversu mörg slys gætu orðið ef sjálfkeyrandi bílar væru að veruleika í dag? Þess vegna eru þeir það ekki núna.

Jafnvel þótt við tökum með í reikninginn vinsæla spjallþætti um þessar mundir, geta ofskynjanir framkallað rangt úttak. En fólk sem veit ekki að gervigreind spjallbottar eru viðkvæmir fyrir ofskynjunum og sannreynir ekki framleiðsluna sem gervigreind vélmenni framleiðir, getur óvart dreift röngum upplýsingum. Við þurfum ekki að útskýra hversu hættulegt þetta er.

Ennfremur eru fjandsamlegar árásir brýnt áhyggjuefni. Hingað til hafa þeir aðeins verið sýndir á rannsóknarstofum. En ef verkefnismikil gervigreind kerfi mætir þeim í hinum raunverulega heimi geta afleiðingarnar verið hrikalegar.

Raunin er sú að það er tiltölulega auðveldara að vernda náttúruleg mállíkön. (Við erum ekki að segja að það sé auðvelt; það reynist samt mjög erfitt.) Hins vegar er allt önnur atburðarás að vernda tölvusjónkerfi. Það er erfiðara, sérstaklega vegna þess að það er svo mikill breytileiki í náttúrunni og myndir innihalda mikinn fjölda pixla.

Til að leysa þetta vandamál gætum við þurft gervigreindarforrit sem hefur mannlegri sýn á heiminn sem gæti gert það minna viðkvæmt fyrir ofskynjunum. Á meðan rannsóknir eru gerðar erum við enn langt frá gervigreind sem getur reynt að taka vísbendingar frá náttúrunni og forðast vandamál ofskynjana. Í bili eru þær harður veruleiki.

Almennt séð eru gervigreind ofskynjanir flókið fyrirbæri sem getur stafað af samsetningu þátta. Vísindamenn eru virkir að þróa aðferðir til að greina og draga úr gervigreindarofskynjunum til að bæta nákvæmni og áreiðanleika gervigreindarkerfa. En þú ættir að vera meðvitaður um þá þegar þú hefur samskipti við hvaða gervigreindarkerfi sem er.