આભાસ અને વિશ્વસનીયતાની મર્યાદા

નફો:

• આભાસ શું છે અને તે શા માટે થાય છે તે સમજાવી શકે છે
• એઆઈ આઉટપુટને ક્યારે માન્ય કરવાની જરૂર છે તે નિર્ધારિત કરી શકે છે
• વ્યવહારુ તકનીકો લાગુ કરી શકે છે જે વિશ્વસનીયતામાં વધારો કરે છે

કદાચ AI સાક્ષરતાનો સૌથી જટિલ વિષય આ એકમમાં છે: મોડેલ મેકઅપ, એટલે કે આભાસ. AI નો ઉપયોગ કરતી કોઈપણ વ્યક્તિ માટે આ શબ્દને સમજવું એ સૌથી મૂળભૂત સલામતી સાવચેતી છે. કારણ કે જે વપરાશકર્તા આભાસને ઓળખતો નથી તે ખોટી માહિતીને સાચી માની શકે છે અને તેને વ્યવસાયિક નિર્ણય, ગ્રાહક સંચાર અથવા સત્તાવાર દસ્તાવેજમાં સ્થાનાંતરિત કરી શકે છે. આ એકમમાં, તમે શીખી શકશો કે આભાસ શું છે, તે શા માટે અનિવાર્ય છે અને તેની સામે કેવી રીતે રક્ષણ કરવું.

આભાસ શું છે?

આભાસ એ છે જ્યારે ભાષા મોડેલ એવી માહિતી ઉત્પન્ન કરે છે જે વાસ્તવમાં અસ્ખલિત અને આત્મવિશ્વાસપૂર્ણ ભાષામાં અસ્તિત્વમાં નથી, જેમ કે તે સાચું હોય. મોડેલ જૂઠું બોલવાનો ઇરાદો નથી; ફક્ત "સૌથી સંભવિત ચાલુ રાખવા" માં, તે એક ટેક્સ્ટ બનાવે છે જે સંભવિત લાગે છે પરંતુ વાસ્તવમાં ખોટું છે.

ઉદાહરણ: જો તમે કોઈ મોડેલને કહો કે “વિષય પર શૈક્ષણિક સ્ત્રોતની ભલામણ કરો તો બધું યોગ્ય ફોર્મેટમાં અને ખાતરીપૂર્વક દેખાય છે; પરંતુ સ્ત્રોત સંપૂર્ણપણે કાલ્પનિક છે. આ ભ્રામકતાનું ઉત્તમ ઉદાહરણ છે.

શા માટે તે થાય છે? (એકમ બે યાદ રાખો)

આભાસનો સ્ત્રોત મોડેલના કાર્યકારી સિદ્ધાંતમાં રહેલો છે. મોડેલ "તથ્યોનો જ્ઞાનકોશ" નથી; તે એક "સંભાવના મશીન" છે. તેનું કાર્ય તમારા પ્રશ્નનું શક્ય તેટલું સરળ ચાલુ રાખવાનું છે; તે સૌથી સચોટ માહિતી લાવવા વિશે નથી. મોડલ:

• તે જાણતો નથી કે તે શું જાણતો નથી; જ્યારે ખાલી જગ્યાનો સામનો કરવો પડે છે, ત્યારે તે "મને ખબર નથી" કહેવાને બદલે સંભવિત જવાબ ભરવાનું વલણ ધરાવે છે.
• તેની પાસે વાસ્તવિકતાને નિયંત્રિત કરવાની કોઈ પદ્ધતિ નથી; તે જે લખાણ ઉત્પન્ન કરે છે તે વિશ્વ સાથે મેળ ખાય છે કે કેમ તે તપાસતું નથી.
• પ્રવાહિતા અને ચોકસાઈ તેના માટે બે અલગ અલગ વસ્તુઓ છે; માત્ર એટલા માટે કે તે અસ્ખલિત છે તેનો અર્થ એ નથી કે તે સાચું છે.

સાવધાન: આભાસ એ "માલફંક્શન" નથી; તે ટેક્નોલોજીની સહજ વિશેષતા છે. નવા મોડલ્સ આને ઘટાડે છે પરંતુ તેને સંપૂર્ણપણે દૂર કરી શકતા નથી. તેથી, "નૉન-હેલ્યુસિનેશન મોડલ" ની રાહ જોવાને બદલે, આભાસ સાથે જીવતા શીખવું જરૂરી છે.

આભાસનું જોખમ ક્યાં વધારે છે?

દરેક પરિણામ સમાન જોખમી નથી. જોખમ વધે છે જ્યારે:

ઉચ્ચ જોખમ

ઓછું જોખમ

ચોક્કસ આંકડા, તારીખો, આંકડા

સામાન્ય વિચારો પેદા કરવા, મંથન કરવું

સ્ત્રોતો, અવતરણો, સંદર્ભોની વિનંતી

ટેક્સ્ટનો સ્વર બદલો

વિશિષ્ટ, વિશિષ્ટ વિષયો

સામાન્ય, સામાન્ય વિષયો

વર્તમાન ઘટનાઓ અને લોકો

તમારા ટેક્સ્ટનો સારાંશ આપો

તમારી કંપની માટે વિશિષ્ટ આંતરિક માહિતી

વ્યાકરણ સુધારણા

ત્રણ મિની કેસ

કેસ 1 - એક નકલી આકૃતિ પ્રસ્તુતિમાં દાખલ થઈ. એક કર્મચારીએ AIને ઇન્ડસ્ટ્રી રિપોર્ટ માટે "2023 ઇ-કોમર્સ ગ્રોથ રેટ અને તુર્કિયે સ્ત્રોત" માટે પૂછ્યું. મોડેલે ખાતરીપૂર્વક ટકાવારી (48%) અને સંસ્થાનું નામ પરત કર્યું. કર્મચારીએ તેને ચકાસ્યા વિના પ્રસ્તુતિમાં મૂક્યું; આ આંકડો બનાવટી હોવાનું બેઠકમાં બહાર આવતાં રજૂઆત અને કંપનીની પ્રતિષ્ઠા બંનેને નુકસાન થયું હતું. જો તે જ કર્મચારીએ સત્તાવાર સ્ત્રોતમાંથી આંકડો મેળવ્યો હોત, તો કોઈ સમસ્યા ન હોત.

કેસ 2 - કાયદાનો અસ્તિત્વમાં નથી. એક સહાયકે એઆઈને અરજી માટે "કાયદાના સંબંધિત લેખ" માટે પૂછ્યું. મોડેલે વાસ્તવિક દેખાતી આઇટમ નંબર અને ટેક્સ્ટનું નિર્માણ કર્યું; પરંતુ તે વસ્તુ ત્યાં ન હતી. સદનસીબે, ડિલિવરી પહેલા કાનૂની વિભાગે તેની નોંધ લીધી. પાઠ: કાનૂની અવતરણો હંમેશા પ્રાથમિક સ્ત્રોતમાંથી ચકાસવામાં આવે છે.

કેસ 3 - સાચી પદ્ધતિ, સલામત પરિણામ. એ જ ટીમના અન્ય કર્મચારી પાસે ફક્ત એઆઈનો ડ્રાફ્ટ રિપોર્ટ હતો, તેણે સત્તાવાર ડેટામાંથી તમામ નંબરો જાતે દાખલ કર્યા અને તેને "આ ટેક્સ્ટમાં ન હોય તેવા કોઈ આંકડા ઉમેરવા" સૂચના આપી. પરિણામ ઝડપી અને સચોટ બંને હતું. તફાવત: એઆઈએ ડ્રાફ્ટ લખ્યો, માનવીય તથ્યો.

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા સંકેત: લેખક અને વર્ષ સાથે આ વિષય પર 3 સૌથી મહત્વપૂર્ણ શૈક્ષણિક સ્ત્રોતો આપો.

પરિણામ: મોડલ અવિદ્યમાન સ્ત્રોતોને સુરક્ષિત રીતે ફિટ કરી શકે છે.

શક્તિશાળી પ્રોમ્પ્ટ: મેં નીચે પેસ્ટ કરેલા ટેક્સ્ટના આધારે સારાંશ લખો. ફક્ત આ ટેક્સ્ટમાંની માહિતીનો ઉપયોગ કરો. લખાણમાં ન હોય તેવા કોઈપણ નામ, સંખ્યા અથવા સ્ત્રોત ઉમેરશો નહીં. જો તમને ખાતરી ન હોય, તો "ટેક્સ્ટમાં ઉલ્લેખિત નથી" લખો.<text>[અહીં પેસ્ટ કરો]</text>

પરિણામ: મોડલ તમારી પાસેથી સ્ત્રોત મેળવે છે, ફિટિંગ જગ્યા સાંકડી બને છે.

પ્રાયોગિક તકનીકો જે વિશ્વસનીયતામાં વધારો કરે છે

તમારા જવાબ (નંબર, તારીખ, નામ, સ્ત્રોત) માં દરેક ચકાસી શકાય તેવા દાવાને ચિહ્નિત કરો અને તેમને અલગ "ચકાસવું આવશ્યક છે" સૂચિમાં મૂકો.

આ પ્રશ્નનો જવાબ આપો. જો તમને ખાતરી ન હોય, તો અનુમાન ન કરો; "મને ખાતરી નથી" કહો અને સમજાવો કે તમે શું જાણતા નથી. વિષય: [વિષય]

એક જ પ્રશ્નનો બે અલગ અલગ રીતે જવાબ આપો અને બે જવાબો વચ્ચેના વિરોધાભાસને ચિહ્નિત કરો. તો મને જોવા દો કે કયા મુદ્દાઓ પ્રશ્નાર્થ છે. પ્રશ્ન: [પ્રશ્ન]

હું નીચેના ટેક્સ્ટની ચકાસણી કરીશ. જોખમી દાવાઓની યાદી બનાવો જે મારે મહત્વના ક્રમમાં તપાસવા જોઈએ અને દરેકને હું ક્યાં ચકાસી શકું તે સૂચવો. ટેક્સ્ટ: [અહીં પેસ્ટ કરો]

વધુમાં, આ ટેવો અપનાવો:

1. તમે સ્ત્રોત પ્રદાન કરો. સંબંધિત દસ્તાવેજને ટેક્સ્ટમાં પેસ્ટ કરો અને "આના આધારે જ જવાબ આપો" કહો.
2. હંમેશા ચકાસી શકાય તેવી હકીકતો તપાસો. સ્વતંત્ર, વિશ્વસનીય સ્ત્રોતમાંથી નંબરો, તારીખો, નામ, અવતરણ અને સ્ત્રોતો ચકાસો.
3. તેને સૂચવવા માટે કહો કે તે મોડેલ વિશે ચોક્કસ નથી. આ જોખમ ઘટાડે છે પરંતુ તેને સંપૂર્ણપણે દૂર કરતું નથી.
4. ઉચ્ચ જોખમવાળી નોકરીઓ માટે, નિષ્ણાત પાસે આઉટપુટનું નિરીક્ષણ કરો. કાનૂની, નાણાકીય અને આરોગ્ય-સંબંધિત આઉટપુટ માનવ નિષ્ણાતોના ફિલ્ટરમાંથી પસાર થવું જોઈએ.
5. AI નો ઉપયોગ "પ્રારંભિક બિંદુ" તરીકે કરો, "અંતિમ શબ્દ" તરીકે નહીં. ડ્રાફ્ટ તેની પાસેથી છે; ચકાસણી અને નિર્ણય તમારો છે.

સાવધાન: "મોડેલે બે વાર કહ્યું, પછી તે સાચું છે" તર્ક ખોટો છે. આત્મવિશ્વાસપૂર્વક એ જ ભૂલનું પુનરાવર્તન કરી શકો છો. પુનરાવર્તન એ ચોકસાઈનો પુરાવો નથી.

સામાન્ય ભૂલો

સામાન્ય ભૂલો

• તેમની ચકાસણી કર્યા વિના સ્ત્રોતોનો ઉપયોગ કરવો. તે મોડેલ પુસ્તકો, લેખો, કાયદાના લેખો અને લિંક્સ બનાવી શકે છે; દરેક સંદર્ભની પુષ્ટિ કરવી આવશ્યક છે.
• ચોકસાઈ માટે આત્મવિશ્વાસના સ્વરને ભૂલવું. આભાસ વિશે સૌથી ખતરનાક બાબત એ છે કે તે આત્મવિશ્વાસપૂર્ણ લાગે છે.
• ફક્ત મોડેલને "તમે ચકાસો" કહેવાનું પૂરતું છે. મોડેલની સ્વ-માન્યતા એ સ્વતંત્ર માન્યતા નથી.
• નિષ્ણાતને બતાવ્યા વિના ઉચ્ચ-જોખમ આઉટપુટનો ઉપયોગ કરવો. પૈસા, કાયદો અને આરોગ્યમાં માનવ નિયંત્રણ જરૂરી છે.

સારાંશમાં

• આભાસ એ છે જ્યારે મોડેલ અસ્તિત્વમાં નથી તેવી માહિતીને અસ્ખલિત અને આત્મવિશ્વાસપૂર્ણ રીતે ઉત્પન્ન કરે છે જાણે તે સાચું હોય.
• કારણ કોઈ ખામી નથી, પરંતુ મોડેલની સંભાવના-અનુમાન પ્રકૃતિ છે; સંપૂર્ણપણે નાબૂદ કરી શકાતું નથી.
• ચોક્કસ આંકડાઓ, સ્ત્રોતો, અપ-ટુ-ડેટ માહિતી અને વિશિષ્ટ મુદ્દાઓની વાત આવે ત્યારે જોખમ ખાસ કરીને ઊંચું હોય છે.
• તમારી જાતને બચાવવા માટે: સ્ત્રોત આપો, હકીકતો ચકાસો, કહો "જો તમને ખાતરી ન હોય તો, મને કહો", નિષ્ણાત દ્વારા ઉચ્ચ જોખમનું આઉટપુટ તપાસો.
• પ્રારંભિક બિંદુ તરીકે AI નો ઉપયોગ કરો; અંતિમ ચકાસણી અને જવાબદારી હંમેશા તમારી સાથે રહે છે.

એપ્લિકેશન કાર્ય

તમારા AI ટૂલને નિષ્ણાતની જરૂર હોય તેવા વિષય પર "3 શૈક્ષણિક સ્ત્રોતો સૂચવવા" કહો અને તે ઇન્ટરનેટ પર સૂચવેલા સ્ત્રોતોની પુષ્ટિ કરવાનો પ્રયાસ કરો; નોંધ કરો કે કેટલા વાસ્તવિક છે. પછી એ જ કાર્યને "તમે સ્ત્રોત આપો" પદ્ધતિથી પુનરાવર્તન કરો અને તફાવતનું અવલોકન કરો.

ચેકલિસ્ટ

• [ ] હું સમજાવી શકું છું કે આભાસ શું છે અને તે શા માટે થાય છે.
• [ ] હું ઉચ્ચ અને નિમ્ન ભ્રામક જોખમના કાર્યો વચ્ચે તફાવત કરી શકું છું.
• [ ] હું મોડેલને સ્ત્રોત આપીને ફેબ્રિકેશનનું જોખમ ઘટાડી શકું છું.
• [ ] હું સ્વતંત્ર રીતે નંબરો, તારીખો, નામો અને સ્ત્રોતોની ચકાસણી કરું છું.
• [ ] હું આત્મવિશ્વાસના સ્વરને ચોકસાઈના પુરાવા તરીકે માનતો નથી.