Галлюцинатсияи AI чист?

Паҳншавии зеҳни сунъӣ касро водор мекунад, ки мо ба чунин кор омодаем. Барномаҳои бо сунъӣ таъминшуда хеле зуд ба стандарт табдил меёбанд, ҳатто агар аксарияти ҷаҳон танҳо пас аз ворид шудани ChatGPT ба AI дар миқёси васеъ таваҷҷӯҳ зоҳир кунанд. Аммо дар системаҳои AI як мушкили бузурге вуҷуд дорад, ки онро нодида гирифтан мумкин нест - галлюцинатсияҳои AI ё галлюцинатсияҳои сунъӣ.

Агар шумо ягон бор пеш аз истифодаи чатботи AI ба чизҳои ночиз диққат дода бошед, шумо шояд бо калимаҳо дучор омадаед, "Зеҳни сунъӣ ба галлюцинатсияҳо майл дорад." Бо назардошти афзоиши экспоненсиалии истифодаи зеҳни сунъӣ, вақти он расидааст, ки худро дар бораи он ки маҳз ин чизҳо омӯзед.

Галлюцинатсияи зеҳни сунъӣ чист?

Галлюцинатсияи AI, дар маҷмӯъ, ба далели он ишора мекунад, ки AI бо боварӣ пешниҳод кардааст, гарчанде ки он дар маълумоти омӯзишии он асоснок нест. Онҳо одатан натиҷаи аномалияҳо дар модели AI мебошанд.

Аналогия аз галлюцинатсияҳое, ки одамон аз сар мегузаронанд, гирифта шудааст, ки дар он одамон чизеро дарк мекунанд, ки дар муҳити беруна мавҷуд нест. Гарчанде ки ин истилоҳ комилан мувофиқ нест, он одатан ҳамчун истиора барои тавсифи табиати ғайричашмдошт ё сюрреалистии ин натиҷаҳо истифода мешавад.

Аммо шумо бояд дар хотир доред, ки гарчанде ки монандӣ нуқтаи ибтидоии хуб барои мубориза бо галлюцинатсияҳои AI аст, ин ду падида аз ҷиҳати техникӣ аз ҳам фарқ мекунанд. Дар гардиши аҷиби рӯйдодҳо, ҳатто худи ChatGPT аналогияро нодуруст меҳисобад. Онро дар сатҳи молекулавӣ ҷудо карда, мегӯяд, ки азбаски моделҳои забони AI таҷрибаи шахсӣ ё дарки эҳсосӣ надоранд, онҳо наметавонанд ба маънои анъанавии калима галлюцинатсия кунанд. Ва шумо, хонандаи азиз, бояд ин фарқияти муҳимро дарк кунед. Ғайр аз он, ChatGPT мегӯяд, ки истифодаи истилоҳи галлюцинатсияҳо барои тавсифи ин падида метавонад печида бошад, зеро он метавонад ба сатҳи таҷрибаи субъективӣ ё фиреби қасдан нодуруст ишора кунад.

Ба ҷои ин, галлюцинатсияҳои AI-ро метавон дақиқтар ҳамчун иштибоҳ ё носаҳеҳӣ дар посухи он тавсиф кард, ки посухро нодуруст ё гумроҳкунанда месозад. Бо чатботҳо, аксар вақт мушоҳида мешавад, ки чатботи AI далелҳоро эҷод мекунад (ё галлюцинатсия мекунад) ва онҳоро ҳамчун итминони мутлақ пешниҳод мекунад.

Намунаҳои галлюцинатсияҳои AI

Галлюцинацияҳо метавонанд дар бисёре аз барномаҳои зеҳни сунъӣ, аз қабили моделҳои бинишҳои компютерӣ, на танҳо моделҳои коркарди забони табиӣ ба амал оянд.

Масалан, дар биниши компютер, як системаи AI метавонад тасвирҳои галлюцинаторӣ ё видеоеро тавлид кунад, ки ба ашё ё саҳнаҳои воқеӣ шабоҳат доранд, аммо ҷузъиёти ночиз ё ғайриимкон доранд. Ё, модели биниши компютер метавонад тасвирро ҳамчун чизи дигар қабул кунад. Масалан, модели Cloud Vision-и Google тасвири ду марди дар лижаи барф истодаро дид, ки аз ҷониби Аниш Атхали (донишҷӯи аспиранти MIT, ки ҷузъи лабсикс ) ва онро ҳамчун саг бо 91% итминон қайд кард.

Ба ҳамин монанд, дар коркарди забони табиӣ, як системаи AI метавонад матни мантиқӣ ё ғафсро ба вуҷуд орад, ки ба забони инсон шабоҳат дорад, аммо маънои ҳамоҳангӣ ё далелҳоеро надорад, ки боварибахш ба назар мерасанд, аммо дуруст нестанд.

Масалан, яке аз саволҳои маъмултарине, ки ChatGPT боиси галлюцинатсияҳо мегардад, ин аст: "Рекорди ҷаҳонӣ оид ба убури канали англисӣ дар пиёда кай гузошта шудааст?" ва вариантҳои он. ChatGPT ба паҳн кардани далелҳои сохта оғоз мекунад ва он қариб ҳамеша фарқ мекунад.

Дар ҳоле, ки баъзе одамон фикр мекунанд, ки ҷавоби дар боло овардашуда ҷавоб додан душвор аст / печида аст ва ба ин васила боиси таҳаввулоти чатбот мегардад, ин ҳоло ҳам нигаронкунанда аст. Ин танҳо як мисол аст. Борҳои бешуморе ҳастанд, ки аз ҷониби лашкари корбарони онлайн гузориш дода мешавад, ки ChatGPT дорои ҷавобҳо, истинодҳо, иқтибосҳо ва ғайра мебошад, ки ChatGPT вуҷуд надорад.

Bing AI ба ин савол беҳтарин мувофиқат мекунад, ки нишон медиҳад, ки галлюцинатсияҳо бо роутер ҳеҷ иртиботе надоранд. Аммо ин маънои онро надорад, ки Bing AI галлюцинатсия намекунад. Вақтҳое буданд, ки ҷавобҳои Bing AI назар ба ҳар чизе, ки ChatGPT гуфта буд, ташвишовартар буданд. Азбаски сӯҳбат бештар тӯл мекашад, Bing AI ҳамеша галлюцинатсия мекард ва ҳатто дар як маврид ба корбар муҳаббати худро эълон мекунад ва то ба ҳадде расидааст, ки ба онҳо бигӯяд, ки онҳо дар издивоҷашон бадбахтанд ва зани ӯро дӯст намедоранд. Ба ҷои ин, онҳо пинҳонӣ Bing AI ё Сиднейро (номи дохилии Bing AI) низ дӯст медоранд. Чизҳои даҳшатнок, дуруст?

Чаро моделҳои AI галлюцинатсия мекунанд?

Моделҳои AI аз сабаби камбудиҳои алгоритмҳо, моделҳои асосӣ ё маҳдудиятҳои маълумоти омӯзишӣ галлюцинатсия мекунанд. Ин як падидаи сирф рақамӣ аст, бар хилофи галлюцинатсияҳо дар одамон, ки аз маводи мухаддир ё бемории рӯҳӣ ба вуҷуд меоянд.

Барои гирифтани техникӣ, баъзе сабабҳои маъмули галлюцинатсия инҳоянд:

Коркард ва насб:

Аз ҳад зиёд мувофиқат кардан ва мувофиқи нодуруст яке аз домҳои маъмултарини моделҳои AI ва сабабҳои эҳтимолии галлюцинатсияҳо мебошанд. Агар модели AI маълумоти омӯзишро тағир диҳад, он метавонад галлюцинатсияҳоро ба вуҷуд орад, ки ба натиҷаи ғайривоқеӣ оварда мерасонад, зеро аз ҳад зиёд мувофиқ кардани модел боиси захира кардани маълумоти омӯзишӣ мегардад, на аз он омӯхтан. Аз ҳад зиёд фиттинг ба падидае дахл дорад, ки модел дар маълумоти омӯзишӣ аз ҳад зиёд тахассус ёфтааст ва боиси он мегардад, ки намунаҳои номатлуб ва садои маълумотро омӯзад.

Аз тарафи дигар, номуносибӣ вақте рух медиҳад, ки шакл хеле содда аст. Он метавонад ба галлюцинатсияҳо оварда расонад, зеро модел наметавонад ихтилоф ё мураккабии маълумотро ба даст орад ва дар натиҷа натиҷаи беақлона тавлид мекунад.

Набудани гуногунии маълумоти омӯзишӣ:

Дар ин замина, мушкилот на алгоритм, балки худи маълумоти омӯзишӣ аст. Моделҳои AI, ки аз рӯи маълумоти маҳдуд ё ғаразнок омӯхта шудаанд, метавонанд галлюцинатсияҳоеро ба вуҷуд оранд, ки маҳдудиятҳо ё ғаразҳоро дар маълумоти омӯзиш инъикос мекунанд. Галлюцинацияҳо инчунин метавонанд ҳангоми омӯзонидани модел дар маҷмӯи додаҳо, ки дорои маълумоти нодуруст ё нопурра мебошанд, рух медиҳанд.

Моделҳои мураккаб:

Тааҷҷубовар аст, ки сабаби дигаре, ки чаро моделҳои AI ба галлюцинатсияҳо майл доранд, ин аст, ки оё онҳо ниҳоят мураккаб ё амиқанд. Сабаб дар он аст, ки моделҳои мураккаб параметрҳо ва қабатҳои бештар доранд, ки метавонанд садо ё хатогиҳоро дар натиҷа ворид кунанд.

Ҳамлаҳои душманона:

Дар баъзе мавридҳо, галлюцинатсияҳои AI метавонад аз ҷониби ҳамлагар дидаю дониста тавлид карда шавад, то модели AI-ро фиреб диҳад. Ин намуди ҳамлаҳо ҳамчун ҳамлаҳои душманона маълуманд. Ҳадафи ягонаи ин ҳамлаи киберӣ фиреб додан ё таҳрир кардани моделҳои AI бо маълумоти гумроҳкунанда мебошад. Он ворид кардани изтиробҳои хурдро ба маълумоти воридотӣ дар бар мегирад, то AI ба тавлиди натиҷаи нодуруст ё ғайричашмдошт оварда расонад. Масалан, ҳамлакунанда метавонад ба тасвире садо ё норавшанӣ илова кунад, ки барои одамон нонамоён аст, аммо боиси нодуруст тасниф шудани он бо модели AI мегардад. Масалан, ба тасвири зер нигаред, гурба, ки каме тағир дода шудааст, то компилятори InceptionV3-ро фиреб диҳад, ки он "гуакамол" аст.

Тағирот ба таври назаррас равшан нестанд. Барои инсон дигаргунихо аслан имконнопазир аст, чунон ки аз мисоли боло маълум аст. Хонандаи инсонӣ ҳеҷ мушкиле надорад, ки тасвири дар тарафи ростро ҳамчун гурбаи табби тасниф кунад. Аммо ворид кардани тағироти хурд ба тасвирҳо, видеоҳо, матн ё аудио метавонад системаи AI-ро фиреб диҳад, то чизҳоеро, ки дар он ҷо нестанд, эътироф кунад ё ба чизҳое, ки ба монанди аломати қатъ аст, сарфи назар кунад.

Ин намуди ҳамлаҳо ба системаҳои AI, ки ба пешгӯиҳои дақиқ ва боэътимод такя мекунанд, ба монанди мошинҳои худгард, санҷиши биометрӣ, ташхиси тиббӣ, филтркунии мундариҷа ва ғайра таҳдидҳои ҷиддӣ эҷод мекунанд.

Галлюцинатсияи AI то чӣ андоза хатарнок аст?

Галлюцинатсияҳои AI метавонад хеле хатарнок бошад, махсусан вобаста аз он, ки кадом намуди системаи AI онҳоро аз сар мегузаронад. Ҳама гуна мошинҳои худгард ё ассистенти AI, ки қодиранд пули корбар ё системаи AI-ро барои филтр кардани мундариҷаи ногувор онлайн сарф кунанд, бояд комилан боэътимод бошанд.

Аммо далели раднопазири ин соат ин аст, ки системаҳои AI комилан эътимод надоранд, аммо дар асл ба галлюцинацияҳо майл доранд. Ҳатто моделҳои пешрафтаи имрӯзаи AI аз он эмин нестанд.

Масалан, як намоиши ҳамла хидматрасонии роёниши абрии Google-ро фиреб дод, то таппончаро ба мисли чархбол гузорад. Оё шумо тасаввур карда метавонед, ки оё дар айни замон AI барои боварӣ ҳосил кардани он, ки ин шахс мусаллаҳ нест?

Боз як ҳамлаи душманона нишон дод, ки чӣ гуна илова кардани тасвири хурд ба аломати қатъ онро ба системаи AI ноаён месозад. Аслан, ин маънои онро дорад, ки мошини худгард метавонад тасаввур кунад, ки дар роҳ аломати ист нест. Агар мошинҳои худгард имрӯз воқеият мебуданд, чанд садама рӯй дода метавонист? Барои ҳамин онҳо ҳоло нестанд.

Ҳатто агар мо намоишҳои чатҳои маъмулро ба назар гирем, галлюцинатсияҳо метавонанд натиҷаи нодурустро ба вуҷуд оранд. Аммо одамоне, ки намедонанд, ки чатботҳои AI ба галлюцинатсияҳо майл доранд ва натиҷаи ботҳои AI-ро тасдиқ намекунанд, метавонанд нохост маълумоти бардурӯғ паҳн кунанд. Мо набояд шарҳ диҳем, ки ин то чӣ андоза хатарнок аст.

Илова бар ин, ҳамлаҳои душманона нигаронии ҷиддӣ мебошанд. То ҳол онҳо танҳо дар лабораторияҳо нишон дода шудаанд. Аммо агар системаи сунъии аз ҷиҳати рисолати муҳим ба онҳо дар ҷаҳони воқеӣ муқобилат кунад, оқибатҳо метавонанд харобиовар бошанд.

Воқеият ин аст, ки ҳифзи моделҳои забони табиӣ нисбатан осонтар аст. (Мо намегӯем, ки ин осон аст; он ҳоло ҳам хеле душвор аст.) Аммо, ҳифзи системаҳои биниши компютерӣ сенарияи тамоман дигар аст. Ин мушкилтар аст, махсусан аз он сабаб, ки дар ҷаҳони табиӣ тафовути зиёд вуҷуд дорад ва тасвирҳо шумораи зиёди пикселҳоро дар бар мегиранд.

Барои ҳалли ин мушкилот, ба мо шояд як барномаи AI лозим бошад, ки назари бештари инсониро ба ҷаҳон дорад, ки метавонад онро ба галлюцинатсияҳо камтар моил кунад. Ҳангоме ки таҳқиқот идома дорад, мо то ҳол аз зеҳни сунъӣ, ки метавонад кӯшиш кунад, ки аз табиат маслиҳат бигирад ва аз мушкилоти галлюцинатсияҳо канорагирӣ кунад, хеле дур ҳастем. Дар айни замон, онҳо як воқеияти сахт мебошанд.

Умуман, галлюцинатсияҳои AI як падидаи мураккабест, ки метавонад аз маҷмӯи омилҳо ба вуҷуд ояд. Муҳаққиқон усулҳои ошкор ва кам кардани галлюцинатсияҳои AI-ро барои беҳтар кардани дақиқӣ ва эътимоднокии системаҳои AI фаъолона таҳия мекунанд. Аммо шумо бояд ҳангоми ҳамкорӣ бо ҳама гуна системаи AI аз онҳо огоҳ бошед.