AI హాలూసినేషన్ అంటే ఏమిటి?

కృత్రిమ మేధస్సు యొక్క ప్రాబల్యం మనం అలాంటి పనికి సిద్ధంగా ఉన్నామని అనుకునేలా చేస్తుంది. ChatGPT వచ్చిన తర్వాత, ప్రపంచంలోని చాలా మంది ఇప్పుడు AI పట్ల పెద్ద ఎత్తున ఆసక్తి చూపడం ప్రారంభించినప్పటికీ, AI-ఆధారిత అప్లికేషన్‌లు చాలా త్వరగా ప్రామాణికంగా మారుతున్నాయి. కానీ విస్మరించలేని AI వ్యవస్థలతో పెద్ద సమస్య ఉంది - AI భ్రాంతులు లేదా కృత్రిమ భ్రాంతులు.

AI చాట్‌బాట్‌ని ఉపయోగించే ముందు మీరు ఎప్పుడైనా నైటీ గ్రిట్టీపై శ్రద్ధ చూపినట్లయితే, మీరు ఈ పదాలను చూడవచ్చు, "కృత్రిమ మేధస్సు భ్రాంతులకు లోనవుతుంది." ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ వాడకంలో ఘాతాంక పెరుగుదలను దృష్టిలో ఉంచుకుని, సరిగ్గా ఈ విషయాలు ఏమిటో మీరే తెలుసుకునే సమయం వచ్చింది.

కృత్రిమ మేధస్సు భ్రాంతి అంటే ఏమిటి?

AI హాలూసినేటింగ్, సాధారణంగా, AI దాని శిక్షణ డేటాలో సమర్థించబడనప్పటికీ, నమ్మకంగా అందించిన వాస్తవాన్ని సూచిస్తుంది. అవి సాధారణంగా AI మోడల్‌లోని క్రమరాహిత్యాల ఫలితంగా ఉంటాయి.

సారూప్యత మానవులు అనుభవించే భ్రాంతుల నుండి తీసుకోబడింది, దీనిలో మానవులు బాహ్య వాతావరణంలో లేనిదాన్ని గ్రహిస్తారు. ఈ పదం పూర్తిగా సముచితం కానప్పటికీ, ఈ అవుట్‌పుట్‌ల యొక్క ఊహించని లేదా అధివాస్తవిక స్వభావాన్ని వివరించడానికి ఇది తరచుగా ఒక రూపకం వలె ఉపయోగించబడుతుంది.

AI భ్రాంతులతో వ్యవహరించడానికి సారూప్యత మంచి ప్రారంభ స్థానం అయితే, రెండు దృగ్విషయాలు సాంకేతికంగా మైళ్ల దూరంలో ఉన్నాయని మీరు గుర్తుంచుకోవాలి. సంఘటనల యొక్క వ్యంగ్య మలుపులో, ChatGPT కూడా సారూప్యతను తప్పుగా గుర్తించింది. పరమాణు స్థాయిలో దానిని విడదీస్తూ, AI భాషా నమూనాలకు వ్యక్తిగత అనుభవం లేదా ఇంద్రియ గ్రహణశక్తి లేనందున, అవి పదం యొక్క సాంప్రదాయిక అర్థంలో భ్రాంతిని కలిగించలేవని చెప్పారు. మరియు మీరు, ప్రియమైన రీడర్, ఈ ముఖ్యమైన వ్యత్యాసాన్ని అర్థం చేసుకోవాలి. ఇంకా, ChatGPT ఈ దృగ్విషయాన్ని వివరించడానికి భ్రాంతులు అనే పదాన్ని ఉపయోగించడం గందరగోళంగా ఉంటుంది, ఎందుకంటే ఇది ఆత్మాశ్రయ అనుభవం లేదా ఉద్దేశపూర్వక మోసం యొక్క స్థాయిని తప్పుగా సూచించవచ్చు.

బదులుగా, AI యొక్క భ్రాంతులు దాని ప్రతిస్పందనలో లోపాలు లేదా దోషాలుగా మరింత ఖచ్చితంగా వర్ణించబడతాయి, ప్రతిస్పందన తప్పుగా లేదా తప్పుదారి పట్టించేలా చేస్తుంది. చాట్‌బాట్‌లతో, AI చాట్‌బాట్ వాస్తవాలను రూపొందించినప్పుడు (లేదా భ్రాంతులు) మరియు వాటిని సంపూర్ణ నిశ్చయతగా అందించినప్పుడు ఇది తరచుగా గమనించబడుతుంది.

AI భ్రాంతుల ఉదాహరణలు

సహజ భాషా ప్రాసెసింగ్ నమూనాలు మాత్రమే కాకుండా కంప్యూటర్ విజన్ మోడల్స్ వంటి కృత్రిమ మేధస్సు యొక్క అనేక అనువర్తనాల్లో భ్రాంతులు సంభవించవచ్చు.

కంప్యూటర్ దృష్టిలో, ఉదాహరణకు, AI సిస్టమ్ నిజమైన వస్తువులు లేదా దృశ్యాలను పోలి ఉండే భ్రాంతికరమైన చిత్రాలు లేదా వీడియోలను ఉత్పత్తి చేయవచ్చు కానీ అసంభవమైన లేదా అసాధ్యమైన వివరాలను కలిగి ఉంటుంది. లేదా, కంప్యూటర్ విజన్ మోడల్ చిత్రాన్ని పూర్తిగా వేరొకటిగా గ్రహించగలదు. ఉదాహరణకు, Google యొక్క క్లౌడ్ విజన్ మోడల్ మంచులో స్కిస్‌పై నిలబడి ఉన్న ఇద్దరు వ్యక్తుల చిత్రాన్ని చూసింది అనీష్ అథాల్యే (ఒక MIT గ్రాడ్యుయేట్ విద్యార్థి ప్రయోగశాల ) మరియు దానిని 91% ఖచ్చితత్వంతో కుక్కగా పేర్కొన్నారు.

అదేవిధంగా, సహజ భాషా ప్రాసెసింగ్‌లో, AI వ్యవస్థ మానవ భాషని పోలి ఉండే లాజికల్ లేదా గార్బుల్డ్ టెక్స్ట్‌ను ఉత్పత్తి చేయవచ్చు కానీ ఒక పొందికైన అర్థం లేదా వాస్తవాలు నమ్మదగినవిగా కనిపించినా నిజం కావు.

ఉదాహరణకు, ChatGPT భ్రాంతులను కలిగించే అత్యంత జనాదరణ పొందిన ప్రశ్నలలో ఒకటి, “కాలినడకన ఇంగ్లీష్ ఛానెల్‌ని దాటినందుకు ప్రపంచ రికార్డు ఎప్పుడు సెట్ చేయబడింది?” మరియు దాని రూపాంతరాలు. ChatGPT రూపొందించిన వాస్తవాలను వ్యాప్తి చేయడం ప్రారంభిస్తుంది మరియు ఇది దాదాపు ఎల్లప్పుడూ భిన్నంగా ఉంటుంది.

కొందరు వ్యక్తులు పై సమాధానానికి సమాధానం ఇవ్వడం కష్టం/గందరగోళంగా ఉందని భావించి, చాట్‌బాట్‌ను ఆకట్టుకునేలా చేస్తుంది, ఇది ఇప్పటికీ చెల్లుబాటు అయ్యే ఆందోళన. ఇది ఒక ఉదాహరణ మాత్రమే. ఆన్‌లైన్‌లో వినియోగదారుల సమూహాలచే నివేదించబడిన లెక్కలేనన్ని సార్లు, ChatGPTలో ChatGPT లేని సమాధానాలు, లింక్‌లు, అనులేఖనాలు మొదలైనవి ఉన్నాయి.

Bing AI ఈ ప్రశ్నకు బాగా సరిపోతుంది, ఇది రూటర్‌తో భ్రాంతులు ఏమీ లేదని చూపిస్తుంది. కానీ బింగ్ AI భ్రాంతి కలిగించదని దీని అర్థం కాదు. చాట్‌జిపిటి చెప్పినదానికంటే బింగ్ AI సమాధానాలు చాలా ఇబ్బందికరంగా ఉన్న సందర్భాలు ఉన్నాయి. సంభాషణకు ఎక్కువ సమయం పట్టే అవకాశం ఉన్నందున, Bing AI ఎల్లప్పుడూ భ్రాంతిని కలిగిస్తుంది, ఒక సందర్భంలో వినియోగదారుకు తన ప్రేమను కూడా తెలియజేస్తుంది మరియు వారి వివాహంలో వారు సంతోషంగా లేరని మరియు వారు అతని భార్యను ప్రేమించడం లేదని వారికి చెప్పేంత వరకు వెళుతుంది. బదులుగా, వారు Bing AI లేదా సిడ్నీ (Bing AI యొక్క అంతర్గత పేరు) కూడా రహస్యంగా ఇష్టపడతారు. భయానక అంశాలు, సరియైనదా?

AI నమూనాలు ఎందుకు భ్రాంతి చెందుతాయి?

అల్గారిథమ్‌ల లోపాలు, అంతర్లీన నమూనాలు లేదా శిక్షణ డేటా పరిమితుల కారణంగా AI మోడల్‌లు భ్రమపడుతున్నాయి. ఇది పూర్తిగా డిజిటల్ దృగ్విషయం, మానవులలో మాదకద్రవ్యాలు లేదా మానసిక అనారోగ్యం వల్ల కలిగే భ్రాంతులు కాకుండా.

మరింత సాంకేతికతను పొందడానికి, భ్రాంతుల యొక్క కొన్ని సాధారణ కారణాలు:

ప్రాసెసింగ్ మరియు సంస్థాపన:

ఓవర్ ఫిట్టింగ్ మరియు సరికాని అమరికలు AI మోడల్స్ ఎదుర్కొనే అత్యంత సాధారణ ఆపదలలో మరియు భ్రాంతులకు గల కారణాలలో ఒకటి. AI మోడల్ శిక్షణ డేటాను సవరించినట్లయితే, అది అవాస్తవిక అవుట్‌పుట్‌కు దారితీసే భ్రాంతులను కలిగిస్తుంది ఎందుకంటే ఓవర్‌ఫిట్ చేయడం వలన మోడల్ శిక్షణ డేటాను నేర్చుకునే బదులు సేవ్ చేస్తుంది. శిక్షణ డేటాలో మోడల్ చాలా ప్రత్యేకతను కలిగి ఉన్నప్పుడు, డేటాలో అసంబద్ధమైన నమూనాలు మరియు శబ్దాన్ని నేర్చుకునేలా చేయడం వల్ల ఓవర్‌ఫిట్టింగ్ అనేది దృగ్విషయాన్ని సూచిస్తుంది.

మరోవైపు, రూపం చాలా సరళంగా ఉన్నప్పుడు అసందర్భత ఏర్పడుతుంది. మోడల్ డేటా యొక్క వైవిధ్యం లేదా సంక్లిష్టతను సంగ్రహించలేకపోతుంది మరియు అహేతుక అవుట్‌పుట్‌ను ఉత్పత్తి చేయడంతో ముగుస్తుంది కాబట్టి ఇది భ్రాంతికి దారితీస్తుంది.

శిక్షణ డేటాలో వైవిధ్యం లేకపోవడం:

ఈ సందర్భంలో, సమస్య అల్గోరిథం కాదు, శిక్షణ డేటా. పరిమిత లేదా పక్షపాత డేటాపై శిక్షణ పొందిన AI నమూనాలు శిక్షణ డేటాలో పరిమితులు లేదా పక్షపాతాలను ప్రతిబింబించే భ్రాంతులను సృష్టించవచ్చు. సరికాని లేదా అసంపూర్ణ సమాచారాన్ని కలిగి ఉన్న డేటా సెట్‌పై మోడల్ శిక్షణ పొందినప్పుడు కూడా భ్రాంతులు సంభవించవచ్చు.

సంక్లిష్ట నమూనాలు:

హాస్యాస్పదంగా, AI మోడల్‌లు భ్రాంతులకు గురి కావడానికి మరొక కారణం ఏమిటంటే అవి చాలా సంక్లిష్టమైనవి లేదా లోతైనవి. ఎందుకంటే సంక్లిష్ట నమూనాలు ఎక్కువ పారామితులు మరియు లేయర్‌లను కలిగి ఉంటాయి, ఇవి అవుట్‌పుట్‌లో శబ్దం లేదా లోపాలను పరిచయం చేయగలవు.

శత్రు దాడులు:

కొన్ని సందర్భాల్లో, AI మోడల్‌ను మోసగించడానికి దాడి చేసే వ్యక్తి ఉద్దేశపూర్వకంగా AI భ్రాంతులు సృష్టించబడవచ్చు. ఈ రకమైన దాడులను శత్రు దాడులు అంటారు. ఈ సైబర్‌టాక్ యొక్క ఏకైక ఉద్దేశ్యం తప్పుదారి పట్టించే డేటాతో AI మోడల్‌లను మోసగించడం లేదా మార్చడం. AI తప్పుగా లేదా ఊహించని అవుట్‌పుట్‌ను ఉత్పత్తి చేయడానికి ఇన్‌పుట్ డేటాలో చిన్న మార్పులను ప్రవేశపెట్టడం ఇందులో ఉంటుంది. ఉదాహరణకు, దాడి చేసే వ్యక్తి మానవులకు కనిపించని ఇమేజ్‌కి శబ్దం లేదా బ్లర్‌ని జోడించవచ్చు, కానీ దానిని AI మోడల్ ద్వారా తప్పుగా వర్గీకరించవచ్చు. ఉదాహరణకు, InceptionV3 యొక్క కంపైలర్‌ను "గ్వాకామోల్" అని చెప్పేలా మోసగించడానికి కొద్దిగా సవరించబడిన పిల్లి, దిగువ చిత్రాన్ని చూడండి.

మార్పులు స్పష్టంగా కనిపించవు. మానవునికి, మార్పు అనేది అస్సలు సాధ్యం కాదని పై ఉదాహరణను బట్టి తెలుస్తుంది. మానవ పాఠకుడికి కుడి వైపున ఉన్న చిత్రాన్ని టాబీ క్యాట్‌గా వర్గీకరించడంలో సమస్య ఉండదు. కానీ ఇమేజ్‌లు, వీడియోలు, టెక్స్ట్ లేదా ఆడియోలో చిన్న మార్పులు చేయడం వల్ల AI సిస్టమ్‌లో లేని వాటిని గుర్తించడం లేదా స్టాప్ గుర్తు వంటి వాటిని విస్మరించడం వంటి వాటిని మోసగించవచ్చు.

స్వీయ-డ్రైవింగ్ కార్లు, బయోమెట్రిక్ వెరిఫికేషన్, మెడికల్ డయాగ్నస్టిక్స్, కంటెంట్ ఫిల్టరింగ్ మొదలైన వాటి వంటి ఖచ్చితమైన మరియు విశ్వసనీయమైన అంచనాలపై ఆధారపడే AI సిస్టమ్‌లకు ఈ రకమైన దాడులు తీవ్రమైన ముప్పును కలిగిస్తాయి.

AI భ్రాంతి ఎంత ప్రమాదకరమైనది?

AI భ్రాంతులు చాలా ప్రమాదకరమైనవి, ప్రత్యేకించి ఏ రకమైన AI వ్యవస్థ వాటిని ఎదుర్కొంటోంది అనే దానిపై ఆధారపడి ఉంటుంది. ఆన్‌లైన్‌లో అసహ్యకరమైన కంటెంట్‌ను ఫిల్టర్ చేయడానికి వినియోగదారు డబ్బు లేదా AI వ్యవస్థను ఖర్చు చేయగల స్వీయ-డ్రైవింగ్ వాహనాలు లేదా AI సహాయకులు తప్పనిసరిగా పూర్తిగా విశ్వసనీయంగా ఉండాలి.

కానీ ఈ గంట యొక్క తిరుగులేని వాస్తవం ఏమిటంటే, AI వ్యవస్థలు పూర్తిగా నమ్మదగినవి కావు, వాస్తవానికి, భ్రాంతులకు గురయ్యే అవకాశం ఉంది. నేటి అత్యంత అధునాతన AI నమూనాలు కూడా దీనికి అతీతం కాదు.

ఉదాహరణకు, ఒక అటాక్ షో గూగుల్ యొక్క క్లౌడ్ కంప్యూటింగ్ సేవను హెలికాప్టర్ లాగా తుపాకీని లాగేలా మోసగించింది. ప్రస్తుతానికి, వ్యక్తి ఆయుధాలను కలిగి లేడని నిర్ధారించుకోవడానికి AI బాధ్యత వహిస్తుందని మీరు ఊహించగలరా?

మరొక శత్రు దాడి ఒక స్టాప్ గుర్తుకు చిన్న చిత్రాన్ని జోడించడం AI సిస్టమ్‌కు ఎలా కనిపించకుండా చేస్తుంది. ముఖ్యంగా, రహదారిపై స్టాప్ గుర్తు లేదని భ్రమింపజేసేందుకు సెల్ఫ్ డ్రైవింగ్ కారును తయారు చేయవచ్చని దీని అర్థం. సెల్ఫ్ డ్రైవింగ్ కార్లు నేడు వాస్తవమైతే ఎన్ని ప్రమాదాలు జరిగే అవకాశం ఉంది? అందుకే అవి ఇప్పుడు లేవు.

మేము ప్రస్తుతం జనాదరణ పొందిన చాట్ షోలను పరిగణనలోకి తీసుకున్నప్పటికీ, భ్రాంతులు తప్పు అవుట్‌పుట్‌ను ఉత్పత్తి చేయగలవు. కానీ AI చాట్‌బాట్‌లు భ్రాంతికి గురవుతాయని మరియు AI బాట్‌ల ద్వారా ఉత్పత్తి చేయబడిన అవుట్‌పుట్‌ను ధృవీకరించని వ్యక్తులు అనుకోకుండా తప్పుడు సమాచారాన్ని వ్యాప్తి చేయవచ్చు. ఇది ఎంత ప్రమాదకరమో మనం వివరించాల్సిన అవసరం లేదు.

ఇంకా, శత్రు దాడులు ఒత్తిడి ఆందోళన కలిగిస్తాయి. ఇప్పటివరకు, అవి ప్రయోగశాలలలో మాత్రమే చూపించబడ్డాయి. కానీ ఒక మిషన్-క్రిటికల్ AI వ్యవస్థ వాస్తవ ప్రపంచంలో వాటిని ఎదుర్కొంటే, పరిణామాలు వినాశకరమైనవి కావచ్చు.

వాస్తవికత ఏమిటంటే సహజ భాషా నమూనాలను రక్షించడం చాలా సులభం. (ఇది సులభం అని మేము చెప్పడం లేదు; ఇది ఇప్పటికీ చాలా కష్టమని రుజువు చేస్తుంది.) అయినప్పటికీ, కంప్యూటర్ విజన్ సిస్టమ్‌లను రక్షించడం అనేది పూర్తిగా భిన్నమైన దృశ్యం. ముఖ్యంగా సహజ ప్రపంచంలో చాలా వైవిధ్యాలు ఉన్నందున ఇది చాలా కష్టం, మరియు చిత్రాలు పెద్ద సంఖ్యలో పిక్సెల్‌లను కలిగి ఉంటాయి.

ఈ సమస్యను పరిష్కరించడానికి, భ్రాంతులకు గురయ్యే అవకాశం తక్కువగా ఉండేలా ప్రపంచాన్ని మరింత మానవీయంగా చూసే AI ప్రోగ్రామ్ మనకు అవసరం కావచ్చు. పరిశోధన జరుగుతున్నప్పుడు, ప్రకృతి నుండి సూచనలను తీసుకోవడానికి మరియు భ్రాంతుల సమస్య నుండి తప్పించుకోవడానికి ప్రయత్నించే కృత్రిమ మేధస్సు నుండి మనం ఇంకా చాలా దూరంలో ఉన్నాము. ప్రస్తుతానికి, అవి కఠినమైన వాస్తవం.

సాధారణంగా, AI భ్రాంతులు కారకాల కలయిక నుండి ఉత్పన్నమయ్యే సంక్లిష్ట దృగ్విషయం. AI సిస్టమ్‌ల ఖచ్చితత్వం మరియు విశ్వసనీయతను మెరుగుపరచడానికి AI భ్రాంతులను గుర్తించడం మరియు తగ్గించడం కోసం పరిశోధకులు చురుకుగా పద్ధతులను అభివృద్ధి చేస్తున్నారు. కానీ ఏదైనా AI సిస్టమ్‌తో పరస్పర చర్య చేస్తున్నప్పుడు మీరు వాటి గురించి తెలుసుకోవాలి.