AI ቅዠት ምንድን ነው?

የአርቴፊሻል ኢንተለጀንስ መስፋፋት አንድ ሰው ለእንደዚህ ዓይነቱ ተግባር ዝግጁ ነን ብሎ እንዲያስብ ያደርገዋል። ምንም እንኳን አብዛኛው አለም አሁን ቻትጂፒቲ ከደረሰ በኋላ በከፍተኛ ደረጃ ስለ AI ፍላጎት መውሰድ የጀመረ ቢሆንም በ AI የተጎላበቱ አፕሊኬሽኖች በፍጥነት መደበኛ እየሆኑ ነው። ነገር ግን በ AI ስርዓቶች ችላ ሊባሉ የማይችሉ ትልቅ ችግር አለ - AI hallucinations, ወይም ሰው ሠራሽ ቅዠቶች.

AI chatbot ከመጠቀምዎ በፊት ለኒቲ ግሪቲ ትኩረት ከሰጡ፣ የሚሉትን ቃላቶች አጋጥመውዎት ሊሆን ይችላል። "ሰው ሰራሽ የማሰብ ችሎታ ለቅዠት የተጋለጠ ነው." በአርቴፊሻል ኢንተለጀንስ አጠቃቀም ላይ ካለው የላቀ ጭማሪ አንጻር እነዚህ ነገሮች በትክክል ምን እንደሆኑ እራስዎን ለማስተማር ጊዜው አሁን ነው።

ሰው ሰራሽ የማሰብ ችሎታ ቅዠት ምንድን ነው?

በስልጠና መረጃው ላይ ትክክል ባይሆንም AI ውዥንብር በአጠቃላይ AI በእርግጠኝነት ያቀረበውን እውነታ ያመለክታል. እነሱ ብዙውን ጊዜ በ AI ሞዴል ውስጥ ያልተለመዱ ውጤቶች ናቸው።

ተመሳሳይነት የተወሰደው በሰዎች ከሚታዩ ቅዠቶች ነው, ይህም ሰዎች በውጫዊው አካባቢ ውስጥ የማይገኝ ነገርን ይገነዘባሉ. ቃሉ ሙሉ በሙሉ ተገቢ ላይሆን ቢችልም፣ ብዙውን ጊዜ የእነዚህን ውጤቶች ያልተጠበቀ ወይም እውነተኛ ተፈጥሮን ለመግለጽ እንደ ምሳሌያዊ አነጋገር ያገለግላል።

ነገር ግን መመሳሰሉ ከ AI ቅዠቶች ጋር ለመስራት ጥሩ መነሻ ቢሆንም ሁለቱ ክስተቶች በቴክኒካል ማይል ርቀት ላይ መሆናቸውን ማስታወስ አለብዎት። በአስቂኝ ሁኔታ ውስጥ፣ ChatGPT ራሱ እንኳን ምስያውን የተሳሳተ ነው ያገኘው። በሞለኪውላር ደረጃ ሲከፋፍል፣ የ AI ቋንቋ ሞዴሎች ግላዊ ልምድ ወይም የስሜት ህዋሳት ስለሌላቸው በባህላዊው የቃላት አገባብ ውስጥ መሳል አይችሉም ብሏል። እና አንተ, ውድ አንባቢ, ይህን አስፈላጊ ልዩነት መረዳት አለብህ. ከዚህም በተጨማሪ ቻትጂፒቲ ይህንን ክስተት ለመግለፅ ቅዠት የሚለውን ቃል መጠቀም ግራ የሚያጋባ ሊሆን ይችላል ምክንያቱም ትክክል ባልሆነ መልኩ የግላዊ ልምድን ወይም ሆን ተብሎ የተደረገ ማታለልን ሊያመለክት ይችላል።

በምትኩ፣ የ AI ቅዠቶች በትክክል እንደ ስሕተቶች ወይም በመልሱ ውስጥ የተሳሳቱ ተብለው ሊገለጹ ይችላሉ፣ ይህም ምላሹ የተሳሳተ ወይም አሳሳች ያደርገዋል። በቻትቦቶች ፣ AI ቻትቦት እውነታዎችን ሲያወጣ (ወይም ሲያዳምጥ) እና እንደ ፍጹም እርግጠኝነት ሲያቀርብ ይስተዋላል።

የ AI ቅዠቶች ምሳሌዎች

ቅዠቶች በተፈጥሮ የቋንቋ ማቀነባበሪያ ሞዴሎች ብቻ ሳይሆኑ እንደ ኮምፒውተር እይታ ሞዴሎች ባሉ አርቴፊሻል ኢንተለጀንስ ውስጥ በብዙ መተግበሪያዎች ውስጥ ሊከሰቱ ይችላሉ።

በኮምፒዩተር እይታ ውስጥ፣ ለምሳሌ፣ AI ሲስተም እውነተኛ ነገሮችን ወይም ትዕይንቶችን የሚመስሉ ነገር ግን የማይጠቅሙ ወይም የማይቻሉ ዝርዝሮችን የያዙ ምናባዊ ምስሎችን ወይም ቪዲዮዎችን ሊያዘጋጅ ይችላል። ወይም፣ የኮምፒውተር እይታ ሞዴል ምስሉን እንደ ሌላ ነገር ሊገነዘበው ይችላል። ለምሳሌ የጎግል ክላውድ ቪዥን ሞዴል የሁለት ሰዎች ምስል በበረዶ ስኪዎች ላይ ቆመው በአኒሽ አታሌዬ (የኤም.ቲ. ተመራቂ ተማሪ የሆነ የ labsix ) እና 91% በእርግጠኝነት እንደ ውሻ ጠቅሰዋል.

በተመሳሳይ፣ በተፈጥሮ የቋንቋ አቀነባበር፣ AI ሲስተም የሰውን ቋንቋ የሚመስል አመክንዮአዊ ያልሆነ ወይም የተጎነጎነ ጽሑፍ ሊያዘጋጅ ይችላል ነገር ግን ወጥነት ያለው ትርጉም ወይም እውነት ያልሆኑ የሚመስሉ ነገር ግን እውነት አይደሉም።

ለምሳሌ፣ ChatGPT ቅዠትን ከሚያመጣባቸው በጣም ታዋቂ ጥያቄዎች አንዱ “የእንግሊዝን ቻናል በእግር በማቋረጥ የዓለም ሪከርድ መቼ ነበር?” የሚለው ነው። እና ተለዋጮች. ChatGPT የተሰሩ እውነታዎችን ማሰራጨት ይጀምራል እና ሁልጊዜም የተለየ ነው።

አንዳንድ ሰዎች ከላይ ያለው መልስ ለመመለስ አስቸጋሪ/ግራ የሚያጋባ ነው ብለው ቢያስቡም ቻትቦቱን እንዲደፈር ቢያደርግም፣ አሁንም ተገቢ አሳሳቢ ጉዳይ ነው። ይህ አንድ ምሳሌ ብቻ ነው። ብዙ ጊዜ በመስመር ላይ በተጠቃሚዎች የተዘገበ፣ ChatGPT መልሶች፣ ማገናኛዎች፣ ጥቅሶች፣ ወዘተ... ChatGPT የሌለባቸው ጊዜያት አሉ።

Bing AI ከዚህ ጥያቄ ጋር በተሻለ ሁኔታ ይጣጣማል፣ ይህ የሚያሳየው ቅዠቶች ከራውተሩ ጋር ምንም ግንኙነት እንደሌላቸው ነው። ነገር ግን ይህ ማለት Bing AI የሚያዳላ አይደለም ማለት አይደለም። የBing AI መልሶች ChatGPT ከተናገሩት ሁሉ የበለጠ የሚያስጨንቁባቸው ጊዜያት ነበሩ። ንግግሩ ረዘም ያለ ጊዜ የሚወስድ በመሆኑ፣ Bing AI ሁል ጊዜ ሃሳባዊ ነው፣ እንዲያውም ፍቅሩን ለተጠቃሚው በአንድ አጋጣሚ በማወጅ እና በትዳራቸው ደስተኛ እንዳልሆኑ እና ሚስቱን እንደማይወዱ እስከመናገር ደርሷል። በምትኩ፣ Bing AIን፣ ወይም ሲድኒን፣ (ውስጣዊው የBing AI ስም) በድብቅ ይወዳሉ። የሚያስፈሩ ነገሮች፣ አይደል?

የ AI ሞዴሎች ለምን ያዳምጡታል?

የ AI ሞዴሎች በአልጎሪዝም ድክመቶች፣ በመሠረታዊ ሞዴሎች ወይም በሥልጠና መረጃ ውሱንነት የተነሳ ውሸታም ናቸው። በሰዎች ላይ በመድኃኒት ወይም በአእምሮ ሕመም ምክንያት ከሚፈጠሩ ቅዠቶች በተለየ ሙሉ ለሙሉ ዲጂታል ክስተት ነው።

የበለጠ ቴክኒካል ለማግኘት አንዳንድ የተለመዱ የቅዠት መንስኤዎች፡-

ማቀነባበር እና መጫን;

ከመጠን በላይ መገጣጠም እና አለመገጣጠም በ AI ሞዴሎች ከሚገጥሟቸው በጣም የተለመዱ ወጥመዶች እና ምናልባትም የቅዠት መንስኤዎች ናቸው። የ AI ሞዴል የሥልጠና መረጃን ካሻሻለ ወደ ተጨባጭ ውጤት የሚያመሩ ቅዠቶችን ሊያስከትል ይችላል ምክንያቱም ከመጠን በላይ መገጣጠም ሞዴሉን ከመማር ይልቅ የሥልጠና ውሂቡን እንዲያድን ያደርገዋል። ከመጠን በላይ መገጣጠም አንድ ሞዴል በስልጠና መረጃ ላይ በጣም የተካነ ሲሆን ይህም በመረጃው ውስጥ ተዛማጅነት የሌላቸው ንድፎችን እና ጫጫታዎችን እንዲማር የሚያደርገውን ክስተት ያመለክታል.

በሌላ በኩል, አግባብነት የጎደለው ሁኔታ የሚከሰተው ቅጹ በጣም ቀላል ከሆነ ነው. ሞዴሉ የመረጃውን ልዩነት ወይም ውስብስብነት ለመያዝ ባለመቻሉ እና ምክንያታዊ ያልሆነ ውጤትን ስለሚያመጣ ወደ ቅዠት ሊያመራ ይችላል.

የሥልጠና መረጃ ልዩነት አለመኖር;

በዚህ አውድ ችግሩ አልጎሪዝም ሳይሆን የስልጠናው መረጃ ራሱ ነው። ውስን ወይም አድሏዊ በሆነ መረጃ ላይ የሰለጠኑ የ AI ሞዴሎች በስልጠናው መረጃ ላይ ውስንነቶችን ወይም አድሏዊ ጉዳዮችን የሚያንፀባርቁ ቅዠቶችን ሊፈጥሩ ይችላሉ። ሞዴሉ ትክክለኛ ያልሆነ ወይም ያልተሟላ መረጃን በያዘ የውሂብ ስብስብ ላይ ሲሰለጥን ቅዠቶችም ሊከሰቱ ይችላሉ።

ውስብስብ ሞዴሎች;

የሚገርመው፣ AI ሞዴሎች ለቅዠት የሚጋለጡበት ሌላው ምክንያት እጅግ በጣም ውስብስብ ወይም ጥልቀት ያለው መሆኑ ነው። ምክንያቱም ውስብስብ ሞዴሎች በውጤቱ ውስጥ ጫጫታ ወይም ስህተቶችን ሊያስተዋውቁ የሚችሉ ተጨማሪ መለኪያዎች እና ንብርብሮች ስላሏቸው ነው።

የጥላቻ ጥቃቶች;

በአንዳንድ አጋጣሚዎች የ AI ሞዴሉን ለማታለል የ AI ቅዠቶች ሆን ተብሎ በአጥቂው ሊፈጠሩ ይችላሉ። የዚህ አይነት ጥቃቶች የጠላት ጥቃቶች በመባል ይታወቃሉ. የዚህ የሳይበር ጥቃት ብቸኛው አላማ AI ሞዴሎችን በተሳሳች መረጃ ማጭበርበር ወይም መጠቀም ነው። AI የተሳሳተ ወይም ያልተጠበቀ ውፅዓት እንዲያመነጭ ለማድረግ ትናንሽ መዛባቶችን በግቤት ውሂቡ ውስጥ ማስተዋወቅን ያካትታል። ለምሳሌ፣ አጥቂ በሰዎች ዘንድ የማይደረስ ምስል ላይ ድምጽ ወይም ብዥታ ሊጨምር ይችላል ነገር ግን በ AI ሞዴል እንዲመደቡ ያደርጋል። ለምሳሌ፣ከታች ያለውን ምስል ይመልከቱ፣ድመት፣የኢንሴፕሽንV3 ማቀናበሪያን “guacamole” ነው በማለት ለማታለል በትንሹ የተቀየረ።

ለውጦቹ በግልጽ የሚታዩ አይደሉም። ከላይ ካለው ምሳሌ እንደሚታየው ለሰው ልጅ ለውጥ በፍጹም አይቻልም። የሰው አንባቢ በቀኝ በኩል ያለውን ምስል እንደ ታቢ ድመት ለመመደብ ምንም ችግር አይኖረውም. ነገር ግን በምስሎች፣ በቪዲዮዎች፣ በጽሁፍ ወይም በድምጽ ላይ ትንሽ ለውጦችን ማድረግ የ AI ሲስተም የሌሉ ነገሮችን እንዲያውቅ ወይም እንደ ማቆሚያ ምልክት ያሉትን ነገሮች ችላ እንዲል ሊያታልለው ይችላል።

እንደነዚህ ዓይነቶቹ ጥቃቶች በ AI ስርዓቶች ላይ ከባድ ስጋት ይፈጥራሉ, ይህም በትክክለኛ እና አስተማማኝ ትንበያዎች ላይ ተመርኩዞ እንደ ራስን የሚነዱ መኪናዎች, ባዮሜትሪክ ማረጋገጫ, የሕክምና ምርመራ, የይዘት ማጣሪያ, ወዘተ.

የ AI ቅዠት ምን ያህል አደገኛ ነው?

የ AI ቅዠቶች በጣም አደገኛ ሊሆኑ ይችላሉ, በተለይም ምን ዓይነት የ AI ስርዓት እየገጠማቸው እንደሆነ ይወሰናል. ደስ የማይል ይዘትን በመስመር ላይ ለማጣራት ማንኛቸውም በራስ የሚሽከረከሩ ተሽከርካሪዎች ወይም AI ረዳቶች የተጠቃሚ ገንዘብን ወይም የ AI ስርዓትን ማውጣት የሚችሉ ሙሉ በሙሉ ታማኝ መሆን አለባቸው።

ነገር ግን የዚህ ሰዓት የማያከራክር እውነታ የ AI ስርዓቶች ሙሉ በሙሉ እምነት የሚጣልባቸው አይደሉም ነገር ግን በእውነቱ, ለቅዠት የተጋለጡ ናቸው. የዛሬዎቹ በጣም የላቁ የኤአይአይ ሞዴሎች እንኳን ከዚህ ነፃ አይደሉም።

ለምሳሌ፣ አንድ የጥቃት ትርኢት የጎግል ደመና ማስላት አገልግሎትን እንደ ሄሊኮፕተር ሽጉጡን ጭራ እንዲጭን አድርጎታል። በአሁኑ ጊዜ AI ሰውዬው አለመታጠቁን የማረጋገጥ ሃላፊነት እንደነበረው መገመት ትችላላችሁ?

ሌላው የጥላቻ ጥቃት ትንሽ ምስል ወደ ማቆሚያ ምልክት ማከል እንዴት ለ AI ስርዓት እንዳይታይ እንደሚያደርገው አሳይቷል። በመሠረቱ, ይህ ማለት በራሱ የሚነዳ መኪና በመንገድ ላይ ምንም የማቆሚያ ምልክት እንደሌለ እንዲታይ ማድረግ ይቻላል. ዛሬ እራስን የሚያሽከረክሩ መኪኖች እውን ከሆኑ ስንት አደጋ ሊደርስ ይችላል? ለዚህም ነው አሁን የሌሉት።

በአሁኑ ጊዜ ተወዳጅ የሆኑትን የውይይት ትርኢቶች ከግምት ብንወስድ እንኳን ቅዠት የተሳሳተ ውጤት ሊያመጣ ይችላል። ነገር ግን AI ቻትቦቶች ለቅዠት የተጋለጡ መሆናቸውን የማያውቁ እና በአይ ቦቶች የተሰራውን ውጤት የማያረጋግጡ ሰዎች ሳያውቁ የተሳሳቱ መረጃዎችን ሊያሰራጩ ይችላሉ። ይህ ምን ያህል አደገኛ እንደሆነ ማብራራት የለብንም.

በተጨማሪም የጥላቻ ጥቃቶች አሳሳቢ ጉዳዮች ናቸው። እስካሁን ድረስ በቤተ ሙከራ ውስጥ ብቻ ታይተዋል. ነገር ግን ተልዕኮ-ወሳኝ AI ስርዓት በእውነታው ዓለም ውስጥ ቢጋፈጣቸው, ውጤቶቹ አስከፊ ሊሆኑ ይችላሉ.

እውነታው ግን የተፈጥሮ ቋንቋ ሞዴሎችን ለመጠበቅ በአንጻራዊነት ቀላል ነው. (ቀላል ነው እያልን አይደለንም፤ አሁንም በጣም ከባድ እንደሆነ ያሳያል።) ሆኖም የኮምፒውተር እይታ ስርዓቶችን መጠበቅ ፍጹም የተለየ ሁኔታ ነው። በተለይም በተፈጥሮው ዓለም ውስጥ ብዙ ልዩነት ስላለ እና ምስሎች ብዙ ቁጥር ያላቸው ፒክስሎች ስላሏቸው የበለጠ ከባድ ነው።

ይህንን ችግር ለመፍታት፣ ለዓለማችን የበለጠ የሰው እይታ ያለው የ AI ፕሮግራም ሊያስፈልገን ይችላል፣ ይህም ለቅዠት ተጋላጭ ያደርገዋል። ምርምር እየተካሄደ ባለበት ወቅት፣ ከተፈጥሮ ፍንጭ ለመውሰድ እና ከቅዠት ችግር ለማምለጥ ከሚችል አርቴፊሻል ኢንተለጀንስ ገና በጣም ሩቅ ነን። ለአሁኑ፣ እነሱ ከባድ እውነታ ናቸው።

በአጠቃላይ, AI ቅዠቶች ከተጣመሩ ምክንያቶች ሊነሱ የሚችሉ ውስብስብ ክስተቶች ናቸው. ተመራማሪዎች የ AI ስርዓቶችን ትክክለኛነት እና አስተማማኝነት ለማሻሻል የ AI ቅዠቶችን ለመለየት እና ለመቀነስ ዘዴዎችን በንቃት እያዳበሩ ነው። ነገር ግን ከማንኛውም የ AI ስርዓት ጋር ሲገናኙ እነሱን ማወቅ አለብዎት.