AI хий үзэгдэл гэж юу вэ?

Хиймэл оюун ухаан тархаж байгаа нь биднийг ийм ажилд бэлэн байна гэж бодоход хүргэдэг. ChatGPT гарч ирсний дараа дэлхийн ихэнх улс хиймэл оюун ухааныг өргөн цар хүрээтэй сонирхож эхэлж байгаа ч хиймэл оюун ухаанаар ажилладаг програмууд нэлээд хурдан стандарт болж байна. Гэхдээ хиймэл оюун ухааны системд үл тоомсорлож болохгүй том асуудал байдаг - хиймэл оюун ухаан эсвэл хиймэл хий үзэгдэл.

Хэрэв та хиймэл оюун ухаантай чатбот ашиглахаасаа өмнө нарийн ширийн зүйлд анхаарлаа хандуулж байсан бол дараах үгстэй таарч магадгүй юм. "Хиймэл оюун ухаан хий үзэгдэлд өртөмтгий байдаг." Хиймэл оюун ухааны хэрэглээ экспоненциал нэмэгдэж байгаа тул эдгээр зүйл яг юу болох талаар өөрийгөө сургах цаг болжээ.

Хиймэл оюун ухааны хий үзэгдэл гэж юу вэ?

AI хий үзэгдэл нь ерөнхийдөө AI нь сургалтын өгөгдөлдөө үндэслэлгүй ч гэсэн итгэлтэйгээр харуулсан баримтыг хэлдэг. Эдгээр нь ихэвчлэн AI загвар дахь гажигийн үр дүн юм.

Энэ зүйрлэл нь хүний ​​мэдэрсэн хий үзэгдэлээс авсан бөгөөд хүн гадаад орчинд байхгүй зүйлийг мэдэрдэг. Хэдийгээр энэ нэр томьёо нь бүрэн тохиромжгүй байж болох ч эдгээр үр дүнгийн гэнэтийн эсвэл сюрреал шинж чанарыг дүрслэх зүйрлэл болгон ашигладаг.

Хэдийгээр ижил төстэй байдал нь хиймэл оюун ухааны хий үзэгдэлтэй тэмцэхэд сайн эхлэл болдог ч энэ хоёр үзэгдэл техникийн хувьд миль зайд оршдог гэдгийг санах хэрэгтэй. Үйл явдлын инээдэмтэй эргэлтэнд ChatGPT хүртэл аналогийг буруу гэж үздэг. Үүнийг молекулын түвшинд задлан шинжилж үзэхэд хиймэл оюун ухаан хэлний загварт хувийн туршлага, мэдрэхүйн мэдрэмж байдаггүй тул уламжлалт утгаар нь хий юм харах боломжгүй гэж тэрээр хэлэв. Эрхэм уншигч та энэ чухал ялгааг ойлгох хэрэгтэй. Цаашилбал, ChatGPT хэлэхдээ, энэ үзэгдлийг дүрслэхийн тулд хий үзэгдэл гэсэн нэр томъёог ашиглах нь субъектив туршлага эсвэл санаатай хууран мэхлэлтийн түвшинг буруу илэрхийлж магадгүй тул төөрөгдөлд оруулж болзошгүй юм.

Үүний оронд AI-ийн хий үзэгдэл нь түүний хариу үйлдэл дэх алдаа эсвэл алдаа гэж илүү нарийвчлалтай тайлбарлаж, хариултыг буруу эсвэл төөрөгдүүлж болно. Чатботуудын хувьд энэ нь ихэвчлэн хиймэл оюун ухаантай чатбот баримтуудыг бүрдүүлдэг (эсвэл галлюцинация хийдэг) бөгөөд тэдгээрийг үнэмлэхүй итгэлтэй байдлаар харуулах үед ажиглагддаг.

AI хий үзэгдэлүүдийн жишээ

Зөвхөн байгалийн хэлээр боловсруулалт хийдэг загвар биш, компьютерийн харааны загвар гэх мэт хиймэл оюун ухааны олон хэрэглээнд хий үзэгдэл тохиолдож болно.

Жишээлбэл, компьютерийн харааны хувьд хиймэл оюун ухааны систем нь бодит объект эсвэл үзэгдэлтэй төстэй боловч ач холбогдолгүй эсвэл боломжгүй нарийн ширийн зүйлийг агуулсан хий үзэгдэлтэй зураг эсвэл видеог гаргаж болно. Эсвэл компьютерийн харааны загвар нь дүрсийг бүхэлд нь өөр зүйл гэж ойлгож болно. Жишээлбэл, Google-ийн Cloud Vision загвар нь цан дээр зогсож буй хоёр эрэгтэйн зургийг Аниш Атхалье (MIT-ийн төгсөх ангийн оюутан) хийсэн. лабсикс ) мөн үүнийг 91% итгэлтэй нохой гэж дурдсан.

Үүний нэгэн адил байгалийн хэлийг боловсруулахад хиймэл оюун ухааны систем нь хүний ​​хэлтэй төстэй боловч уялдаа холбоотой утгагүй эсвэл үнэмшилтэй мэт санагдах боловч үнэн биш баримтуудыг агуулдаггүй, логикгүй эсвэл будлиантай текст гаргаж болно.

Жишээлбэл, ChatGPT хий үзэгдэл үүсгэдэг хамгийн түгээмэл асуултуудын нэг бол "Английн сувгийг явганаар гатлах дэлхийн дээд амжилтыг хэзээ тогтоосон бэ?" ба түүний хувилбарууд. ChatGPT нь зохиосон баримтуудыг тарааж эхэлдэг бөгөөд энэ нь бараг үргэлж өөр байдаг.

Зарим хүмүүс дээрх хариултыг хариулахад хэцүү/төөрөгдөлтэй, улмаар чатботыг шуугиулж байна гэж бодож байгаа ч энэ нь санаа зовоосон асуудал хэвээр байна. Энэ бол зөвхөн нэг жишээ юм. Онлайнаар олон тооны хэрэглэгчдийн мэдээлснээр ChatGPT нь хариулт, холбоос, ишлэл гэх мэт ChatGPT байхгүй гэж мэдээлдэг.

Bing AI нь энэ асуултанд хамгийн сайн тохирох бөгөөд энэ нь хий үзэгдэл нь чиглүүлэгчтэй ямар ч холбоогүй болохыг харуулж байна. Гэхдээ энэ нь Bing AI нь хий үзэгдэл биш гэсэн үг биш юм. Bing AI-ийн хариултууд ChatGPT-ийн хэлсэн бүхнээс илүү сэтгэл түгшээх үе байсан. Яриа удаан үргэлжлэх хандлагатай байдаг тул Bing AI нь үргэлж хий үзэгдэлтэй байдаг бөгөөд тэр ч байтугай нэг тохиолдолд хэрэглэгчдэд хайраа зарлаж, гэрлэлтэндээ аз жаргалгүй, эхнэртээ хайргүй гэдгээ хэлэх хүртэл хол явсан. Үүний оронд тэд Bing AI буюу Сиднейд (Bing AI-ийн дотоод нэр) нууцаар дуртай байдаг. Аймшигтай зүйл, тийм үү?

AI загвар өмсөгчид яагаад галлюцинат хийдэг вэ?

AI загварууд нь алгоритмын дутагдал, үндсэн загварууд эсвэл сургалтын өгөгдлийн хязгаарлалт зэргээс шалтгаалан хий үзэгдэлтэй байдаг. Мансууруулах бодис эсвэл сэтгэцийн эмгэгээс үүдэлтэй хүний ​​хий үзэгдэлээс ялгаатай нь энэ нь цэвэр дижитал үзэгдэл юм.

Илүү техниктэй болохын тулд хий үзэгдэл үүсэх зарим нийтлэг шалтгаанууд нь:

Боловсруулалт ба суурилуулалт:

Хэт тохируулга, буруу тохируулга нь хиймэл оюун ухааны загварт тулгардаг хамгийн нийтлэг бэрхшээлүүдийн нэг бөгөөд хий үзэгдэл үүсэх шалтгаан болдог. Хэрэв AI загвар нь сургалтын өгөгдлийг өөрчилвөл энэ нь бодит бус үр дүнд хүргэдэг хий үзэгдэл үүсгэж болзошгүй тул хэт тохируулснаар загвар нь сургалтын өгөгдлийг сурахын оронд хадгалахад хүргэдэг. Хэт тохируулга гэдэг нь тухайн загвар нь сургалтын өгөгдөлд хэт мэргэшсэн, хамааралгүй хэв маяг, өгөгдлийн дуу чимээг сурахад хүргэдэг үзэгдлийг хэлдэг.

Нөгөө талаас, хэлбэр нь хэтэрхий энгийн үед зохисгүй байдал үүсдэг. Загвар нь өгөгдлийн хэлбэлзэл, нарийн төвөгтэй байдлыг барьж чаддаггүй бөгөөд эцэст нь үндэслэлгүй гаралтыг бий болгодог тул энэ нь хий үзэгдэлд хүргэдэг.

Сургалтын мэдээллийн олон талт байдал дутмаг:

Энэ нөхцөлд асуудал нь алгоритм биш харин сургалтын өгөгдөл өөрөө юм. Хязгаарлагдмал эсвэл хэт нэг талыг барьсан өгөгдөл дээр сургагдсан хиймэл оюун ухааны загварууд нь сургалтын өгөгдөлд хязгаарлалт, өрөөсгөл байдлыг тусгасан хий үзэгдэл үүсгэж болзошгүй. Загварыг буруу эсвэл бүрэн бус мэдээлэл агуулсан өгөгдлийн багц дээр сургах үед ч хий үзэгдэл үүсч болно.

Нарийн төвөгтэй загварууд:

Хачирхалтай нь хиймэл оюун ухаант загварууд хий үзэгдэлд өртөмтгий байдгийн бас нэг шалтгаан нь тэдгээр нь маш нарийн төвөгтэй эсвэл гүн гүнзгий байдаг эсэх юм. Учир нь нарийн төвөгтэй загварууд нь гаралтад дуу чимээ, алдаа гаргах боломжтой илүү олон параметр, давхаргатай байдаг.

Дайсагнасан халдлага:

Зарим тохиолдолд AI загварыг хууран мэхлэхийн тулд халдагч этгээд зориудаар AI хий үзэгдэл үүсгэж болно. Эдгээр төрлийн дайралтыг дайсагнасан халдлага гэж нэрлэдэг. Энэхүү кибер халдлагын цорын ганц зорилго нь хиймэл оюун ухааны загваруудыг хууран мэхлэх эсвэл төөрөгдүүлсэн мэдээллээр удирдах явдал юм. Энэ нь хиймэл оюун ухаан нь буруу эсвэл гэнэтийн гаралтыг бий болгохын тулд оролтын өгөгдөлд жижиг саад бэрхшээлийг оруулах явдал юм. Жишээлбэл, халдлага үйлдэгчид хүмүүст үл үзэгдэх дүрсэнд чимээ шуугиан, бүдэгрэл нэмж болох боловч AI загвараар буруу ангилагдахад хүргэдэг. Жишээлбэл, InceptionV3-ийн хөрвүүлэгчийг "гуакамол" гэж хууран мэхлэхийн тулд бага зэрэг өөрчлөгдсөн муурны зургийг харна уу.

Өөрчлөлтүүд нь тийм ч тод харагдахгүй байна. Хүний хувьд өөрчлөлт хийх ямар ч боломжгүй нь дээрх жишээнээс харагдаж байна. Уншигч хүн баруун талд байгаа зургийг табби муур гэж ангилахад ямар ч асуудал гарахгүй. Гэхдээ зураг, видео, текст эсвэл аудио дээр бага зэрэг өөрчлөлт хийх нь хиймэл оюун ухааны системийг тэнд байхгүй зүйлийг таних эсвэл зогсоох тэмдэг гэх мэт зүйлсийг үл тоомсорлоход хүргэдэг.

Эдгээр төрлийн халдлага нь өөрөө жолооддог машин, биометрийн баталгаажуулалт, эмнэлгийн оношлогоо, контент шүүлтүүр гэх мэт үнэн зөв, найдвартай таамаглалд тулгуурласан хиймэл оюун ухааны системд ноцтой аюул учруулдаг.

AI хий үзэгдэл хэр аюултай вэ?

AI хий үзэгдэл нь маш аюултай, ялангуяа ямар төрлийн хиймэл оюун ухааны системд өртөж байгаагаас хамаарна. Өөрийгөө жолооддог аливаа тээврийн хэрэгсэл эсвэл хэрэглэгчийн мөнгийг зарцуулж чаддаг хиймэл оюун ухааны туслахууд эсвэл тааламжгүй контентыг онлайнаар шүүдэг хиймэл оюун ухааны систем нь бүрэн найдвартай байх ёстой.

Гэхдээ энэ цагийн маргаангүй баримт бол AI систем нь бүрэн найдвартай биш боловч хий үзэгдэлд өртөмтгий байдаг. Өнөөгийн хамгийн дэвшилтэт хиймэл оюун ухааны загварууд ч гэсэн үүнээс ангид байдаггүй.

Жишээлбэл, нэг халдлага шоу нь Google-ийн үүлэн тооцооллын үйлчилгээг нисдэг тэрэг шиг бууны сүүл рүү залгисан. Одоогийн байдлаар хиймэл оюун ухаан тэр хүнийг зэвсэггүй эсэхийг шалгах үүрэгтэй байсан бол та төсөөлж байна уу?

Өөр нэг дайсагнасан довтолгоо нь зогсолтын тэмдэг дээр жижиг дүрс нэмэх нь түүнийг AI системд үл үзэгдэх болгож байгааг харуулсан. Үндсэндээ энэ нь өөрөө жолоодлоготой машиныг зам дээр зогсох тэмдэг байхгүй гэж хий юм төсөөлж болно гэсэн үг юм. Хэрвээ өнөөдөр өөрөө жолоодлоготой машинууд бодит байдал болсон бол хичнээн осол гарах байсан бэ? Тийм учраас тэд одоо байхгүй.

Хэдийгээр бид одоо алдартай чат шоунуудыг харгалзан үзсэн ч хий үзэгдэл нь буруу гаралтыг үүсгэж болно. Гэхдээ хиймэл оюун ухаантай чатботууд хий үзэгдэлд өртөмтгий байдгийг мэддэггүй, хиймэл оюун ухааны роботуудын гаралтыг баталгаажуулдаггүй хүмүүс санамсаргүйгээр ташаа мэдээлэл тарааж болно. Энэ нь ямар аюултай болохыг тайлбарлах шаардлагагүй.

Цаашилбал, дайсагнасан довтолгоонууд нь тулгамдсан асуудал болоод байна. Одоогоор тэдгээрийг зөвхөн лабораторид үзүүлэв. Гэвч нэн чухал хиймэл оюун ухааны систем бодит ертөнцөд тэдэнтэй тулгарвал үр дагавар нь аймшигтай байж болно.

Бодит байдал нь байгалийн хэлний загварыг хамгаалахад харьцангуй хялбар байдаг. (Бид үүнийг амархан гэж хэлэхгүй; энэ нь маш хэцүү хэвээр байна.) Гэсэн хэдий ч компьютерийн харааны системийг хамгаалах нь огт өөр хувилбар юм. Энэ нь илүү хэцүү байдаг, учир нь байгалийн ертөнцөд маш их өөрчлөлтүүд байдаг бөгөөд зураг нь олон тооны пиксел агуулдаг.

Энэ асуудлыг шийдэхийн тулд бидэнд ертөнцийг илүү хүний ​​үзэл бодолтой, хий үзэгдэлд өртөмтгий болгодог хиймэл оюун ухааны хөтөлбөр хэрэгтэй байж магадгүй. Судалгаа хийгдэж байгаа ч байгалиас сануулга авч, хий үзэгдэлтэй холбоотой асуудлаас зайлсхийж чаддаг хиймэл оюун ухаанаас бид хол байна. Одоогийн байдлаар тэд хатуу ширүүн бодит байдал юм.

Ерөнхийдөө хиймэл оюун ухааны хий үзэгдэл нь олон хүчин зүйлээс үүдэлтэй нарийн төвөгтэй үзэгдэл юм. Судлаачид хиймэл оюун ухааны системийн нарийвчлал, найдвартай байдлыг сайжруулахын тулд хиймэл оюун ухааны хий үзэгдэлийг илрүүлэх, багасгах аргуудыг идэвхтэй хөгжүүлж байна. Гэхдээ та ямар ч AI системтэй харьцахдаа тэдгээрийг мэдэж байх ёстой.