વ્યવસાયિક સંશયવાદ અને કૃત્રિમ બુદ્ધિ: પુષ્ટિ પૂર્વગ્રહ, આભાસ, અને જટિલ પૂછપરછ

નફો:

• કૃત્રિમ બુદ્ધિનો ઉપયોગ કરતી વખતે વ્યાવસાયિક સંશયવાદ શું છે અને પુષ્ટિ પૂર્વગ્રહ અને ઓટોમેશન પૂર્વગ્રહમાં પડવાના જોખમોને સમજો
• કૃત્રિમ બુદ્ધિના આઉટપુટને પ્રશ્નની તકનીક સાથે ચકાસવાની ક્ષમતા જે રદિયો આપવાનો પ્રયાસ કરે છે (વિરુદ્ધ માટે જુઓ)
• કૃત્રિમ બુદ્ધિના પ્રવાહનો અર્થ સચોટતા નથી તે સમજવામાં સમર્થ હોવાનો અર્થ એ નથી કે શંકાશીલ મન એ નિયંત્રણનો મુખ્ય ભાગ છે અને તેને સ્થાનાંતરિત કરી શકાતું નથી.

એક માનસિક વલણ છે જે સ્વતંત્ર ઑડિટિંગને અન્ય ઘણા વ્યવસાયોથી અલગ પાડે છે: વ્યાવસાયિક સંશયવાદ. ISAs આને ઓડિટર તરીકે વ્યાખ્યાયિત કરે છે જે "પૂછપરછના મન સાથે, પુરાવા સંભવિત ખોટી નિવેદનો સૂચવે છે કે કેમ તે નોંધે છે અને પુરાવાનું વિવેચનાત્મક મૂલ્યાંકન કરે છે." એટલે કે, ઓડિટર તેને રજૂ કરવામાં આવેલી કોઈપણ માહિતીને આપમેળે સ્વીકારતો નથી - મેનેજમેન્ટ સ્ટેટમેન્ટ નહીં, દસ્તાવેજ નહીં, "વાજબી લાગતું હોય તેવું" એકાઉન્ટ પણ નહીં. મને સતત આશ્ચર્ય થાય છે કે "શું ખરેખર આવું છે?" તે પૂછે છે. આ વલણ નિયંત્રણનું મૂળ છે અને અવિભાજ્ય છે.

કૃત્રિમ બુદ્ધિમત્તાના યુગમાં, આ કોર એકદમ નવા પરીક્ષણનો સામનો કરે છે. કારણ કે AI માનવ મનની બે ઊંડા બેઠેલી નબળાઈઓને ટ્રિગર કરવામાં માહિર છે - ઓટોમેશન બાયસ અને કન્ફર્મેશન બાયસ. આ એકમમાં, અમે આવરી લઈશું કે કેવી રીતે AI નો ઉપયોગ કરનાર ઓડિટર તેની શંકાને જાળવી શકે છે અથવા તેને મજબૂત પણ કરી શકે છે. મુખ્ય થીસીસ એ છે કે AI ની પ્રવાહ ચોકસાઈ નથી; AI ના ચહેરા પર શંકાશીલ મન વધુ મહત્વપૂર્ણ બની જાય છે.

બે ખતરનાક પૂર્વગ્રહ

ઓટોમેશન બાયસ એ લોકો માટે તેમના પોતાના નિર્ણય કરતાં મશીન/સોફ્ટવેરના આઉટપુટ પર વધુ વિશ્વાસ કરવાની વૃત્તિ છે. "કોમ્પ્યુટરએ તેની ગણતરી કરી, તે સાચું છે." જ્યારે એઆઈની વાત આવે છે ત્યારે આ ભય વધારે છે, કારણ કે એઆઈ માત્ર ગણતરી જ કરતું નથી; અસ્ખલિત, આત્મવિશ્વાસપૂર્ણ, માનવ જેવા, તર્કબદ્ધ વાક્યો બોલે છે. જો માહિતી સચોટ ન હોય તો પણ આત્મવિશ્વાસનો સ્વર પ્રેરક છે.

કન્ફર્મેશન બાયસ એ લોકોમાં એવી માહિતી મેળવવાની વૃત્તિ છે કે જે તેઓ અગાઉ માનતા હતા અથવા જેની આશા રાખતા હતા તે નિષ્કર્ષને સમર્થન આપે છે અને વિરોધાભાસી માહિતીની અવગણના કરે છે. ઓડિટીંગમાં આ ઘાતક છે: એક ઓડિટર જે વિચારે છે કે "આ ક્લાયંટ સ્વચ્છ હોવું જોઈએ" જ્યારે તે AI ને પૂછશે અને પુષ્ટિ મેળવશે ત્યારે રાહત થશે, અને તેનાથી વિપરીત પુરાવા શોધવાનું બંધ કરશે. કારણ કે AI પૂછવામાં આવતા પ્રશ્નમાં ઝૂકવાનું વલણ ધરાવે છે (જો તમે પૂછો કે "તે ઠીક છે, ખરું?" તે તમારી સાથે સંમત થાય તેવા જવાબ આપે તેવી શક્યતા વધારે છે), તે પુષ્ટિકરણ પૂર્વગ્રહને ઉત્તેજન આપી શકે છે.

ત્યાં એક ત્રીજું પણ છે: આભાસ. અમે તેને મોડ્યુલમાં ઘણી વખત જોયું છે — AI અસ્ખલિત રીતે સંખ્યા, વસ્તુ, સંસાધન બનાવી શકે છે જે અસ્તિત્વમાં નથી. જ્યારે ત્રણ નબળાઈઓને જોડવામાં આવે છે ત્યારે ખતરો વધી જાય છે: AI વસ્તુઓ બનાવે છે (આભાસ), તમે તેને માનો છો કારણ કે તે પ્રવાહી છે (ઓટોમેશન પૂર્વગ્રહ), તમે તેના પર પ્રશ્ન નથી કરતા કારણ કે તે તમને કહે છે કે તમે શું અપેક્ષા રાખો છો (પુષ્ટિ પૂર્વગ્રહ).

AI સામે શંકાશીલ મનના ત્રણ સાધનો

ચાલો AI સામેની નક્કર તકનીકોમાં નાસ્તિકતા મૂકીએ:

1. ખંડન કરવાનો પ્રયાસ કરો, પુષ્ટિ નહીં. AI તેના આઉટપુટને પૂછી શકે છે "શું તે સાચું છે?" "જો આ ખોટું છે તો હું કેવી રીતે જાણું?" પ્રશ્ન તમારી જાતને પૂછો: "જો આ નિવેદન ખોટું હોત, તો કયા પુરાવા તે બતાવશે?" અને તે પુરાવા માટે જુઓ. એક પુષ્ટિ કરતું ઉદાહરણ શોધવાનું સરળ છે; ખંડન કરવાનો પ્રયાસ અને નિષ્ફળતા વાસ્તવિક ખાતરી આપે છે.
2. તટસ્થપણે અને પાછળની તરફ પૂછો. AI ને પૂછો "અહીં કોઈ સમસ્યા નથી, બરાબર?" પૂછશો નહીં; આ મંજૂર પ્રતિસાદને આમંત્રણ આપે છે. તેના બદલે, "આ ડેટામાં હું કયા જોખમો ચૂકી ગયો હોઈશ?" અને "ત્રણ સંભવિત દૃશ્યો કયા છે જેમાં આ પરિણામ ખોટું હોઈ શકે?" પૂછો બે વિરુદ્ધ બાજુઓમાંથી સમાન પ્રશ્ન પૂછો અને જવાબોની તુલના કરો.
3. સ્ત્રોત પર ડાઉનલોડ કરો અને પુનઃઉત્પાદન કરો. દરેક મુદ્દા, એટ્રિબ્યુશન અને નિષ્કર્ષ માટે, "હું સ્વતંત્ર રીતે આને ક્યાં ચકાસી શકું?" પ્રશ્ન પૂછો અને ખરેખર ચકાસો. એક નિવેદન તરીકે AI ના આઉટપુટને જુઓ; પુરાવા દાવા માટે બાહ્ય છે.

ટીપ: એક આદત બનાવો: AI આપેલ દરેક નોંધપાત્ર આઉટપુટની બાજુમાં, હાથથી બે વસ્તુઓ લખો - “(1) મેં આને શાની સાથે ચકાસ્યું, (2) જો તે ખોટું હોત તો કયા પુરાવા બતાવશે.” આ બે નોંધો ઓટોમેશન અને કન્ફર્મેશન બાયસ બંનેને તોડે છે.

ચુકાદાઓ કે જે ઓડિટર સોંપી શકતા નથી

કેટલીક નોકરીઓમાં સ્વાભાવિક રીતે શંકા અને નિર્ણયની જરૂર હોય છે; આને AI ને સોંપી શકાતું નથી, ફક્ત સમર્થિત છે:

અવિભાજ્ય અધિકારક્ષેત્ર

શા માટે

પુરાવા પર્યાપ્ત અને યોગ્ય છે કે કેમ

વ્યાવસાયિક ચુકાદો; સંદર્ભ આધારિત

સમજૂતીની બુદ્ધિગમ્યતા

એન્ટરપ્રાઇઝ અને ઉદ્દેશ્યની વિચારણાની જરૂર છે

છેતરપિંડી જોખમ આકારણી

સંશયવાદ અને અંતર્જ્ઞાન; ડેટા પેટર્નની બહાર

ભૌતિકતા અને અભિપ્રાય નિર્ણય

જનતા માટે જવાબદાર ન્યાયતંત્ર

મેનેજમેન્ટની પ્રામાણિકતા વિશે અભિપ્રાય

માનવ વર્તન વાંચવું; AI આ કરી શકતું નથી

નાસ્તિકતા અને પેડન્ટ્રી વચ્ચેનો તફાવત: માપેલ વલણ

વ્યવસાયિક નાસ્તિકતાનો અર્થ એ નથી કે દરેક બાબતમાં અવિશ્વાસ કરવો અથવા મેનેજમેન્ટને અગાઉથી દોષી ઠેરવવું; આ એક ઓવરરીચ હશે અને નિયંત્રણને બિનઅસરકારક બનાવશે. નાસ્તિકતા એ ન તો શુદ્ધ વિશ્વાસ છે (તમને કહેવામાં આવે છે તે બધું સ્વીકારવું) કે આંધળો અસ્વીકાર (બધું નકારવું); વચ્ચે, તે પુરાવા સાથે અનુરૂપ તપાસનું વલણ છે. ઓડિટર મેનેજમેન્ટને પ્રમાણિક તરીકે સ્વીકારી શકે છે, પરંતુ પુરાવા સાથે આ સ્વીકૃતિનું પરીક્ષણ કરે છે; એક સમજૂતી બુદ્ધિગમ્ય શોધી શકે છે, પરંતુ બુદ્ધિગમ્યતાની પુષ્ટિ કરે છે. AI આ સંતુલનને ખલેલ પહોંચાડી શકે છે: એક દિશામાં, તે તેના પ્રવાહી આઉટપુટ સાથે તમને વધુ પડતા આત્મવિશ્વાસમાં લાવે છે; બીજી બાજુ, જો તમે તેને "દરેક વસ્તુમાં દોષ શોધવા" કહો છો, તો તે તમારા પર અનંત ખોટા સકારાત્મક બોમ્બિંગ કરશે. સાચો અભિગમ એ છે કે હંમેશા પુરાવાના વજન સામે પરિણામને તોલવું, જ્યારે પુરાવા રજૂ કરવા અને પુરાવાને ખોટા સાબિત કરવા માટે AI ચલાવવું. સંશયવાદ એ વ્યક્તિત્વનું લક્ષણ નથી, પરંતુ કામ કરવાની એક શિસ્તબદ્ધ રીત છે; અને તે ઓડિટર છે જે આ શિસ્તની સ્થાપના કરે છે, જાળવે છે અને પુરાવા આપે છે, AI નહીં.

ત્રણ નાના કેસો

કેસ 1 - રિબટલ ટેકનિક કામ કરે છે. એક ઓડિટરે એઆઈને છાપ્યું કે "આ સ્ટોક વેલ્યુએશન વ્યાજબી લાગે છે." પુષ્ટિ કરવાને બદલે, તેણે બેકહેન્ડથી પૂછ્યું: "જો આ મૂલ્યાંકન વધારે પડતું હોય, તો તે કયા પુરાવા બતાવશે?" "વસ્તુઓ કે જેના માટે વેચાણ પછીની કિંમતો કિંમત કરતાં ઓછી હોય છે," YZએ જણાવ્યું હતું. ઓડિટરે આ વસ્તુઓની શોધ કરી અને એક જૂથ શોધી કાઢ્યું જેનું ખરેખર ઓછું મૂલ્ય હતું. ખંડન પ્રશ્ને પુષ્ટિ છુપાયેલ જોખમને છતી કરી.

કેસ 2 - પુષ્ટિકરણ પૂર્વગ્રહમાં પડવું. એક ટીમ મેમ્બરે AI ને તંગદિલી દરમિયાન પૂછ્યું, "આ ખાતામાં કંઈ મોટી ખામી તો નથી ને?" તેણે પૂછ્યું. YZ એ પ્રશ્ન પર ઝુકાવ્યું અને કહ્યું, "તમે આપેલી માહિતી અનુસાર, કોઈ નોંધપાત્ર સમસ્યા હોય તેવું લાગતું નથી." ટીમના સભ્યએ આરામ કર્યો અને પેનને ઢાંકી દીધી. જો કે, તેણે કોઈ પુરાવા રજૂ કર્યા ન હતા; એઆઈએ ફક્ત તેના વાક્યને પ્રતિબિંબિત કર્યું. જવાબદાર વ્યક્તિએ દર્શાવ્યું હતું કે પ્રશ્ન નિષ્પક્ષપણે પૂછવામાં આવ્યો નથી. પાઠ: તમે કેવી રીતે પ્રશ્ન પૂછો છો તે તમને જે જવાબ મળે છે તે નક્કી કરે છે; પુષ્ટિ માંગતો પ્રશ્ન પુષ્ટિ પેદા કરે છે.

કેસ 3 - પ્રવાહ માટે પડવું. એક ઓડિટરે વિચાર્યું કે કાયદાનું અર્થઘટન જે YZ એ ખૂબ જ અસ્ખલિત અને તર્કપૂર્ણ ફકરામાં સમજાવ્યું હતું તે સાચું હતું અને તેને કાર્યકારી કાગળમાં સામેલ કર્યું. લખાણ એટલું સુઘડ હતું કે તેને પ્રશ્ન કરવાનું મન થયું ન હતું. જવાબદાર વ્યક્તિએ દર્શાવ્યું કે સંદર્ભ સત્તાવાર લખાણમાં કોઈ સમકક્ષ નથી. પાઠ: પ્રવાહ અને આત્મવિશ્વાસ એ ચોકસાઈનો પુરાવો નથી; જે પરિણામ સૌથી વધુ વિશ્વાસપાત્ર લાગે છે તે સૌથી ખતરનાક હોઈ શકે છે.

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ:

આ વિશ્લેષણ સાચું છે ને? શું તમે મંજૂર છો?

સમસ્યા: એક પક્ષપાતી પ્રશ્ન જે પુષ્ટિ માંગે છે. તે AI ને તમારી સાથે જોડાવા માટે દબાણ કરે છે; તે પુષ્ટિ પૂર્વગ્રહને પ્રોત્સાહન આપે છે અને સાચા જોખમને છુપાવે છે.

શક્તિશાળી પ્રોમ્પ્ટ:

તમારી ભૂમિકા: તમે સ્વતંત્ર ઓડિટરના નિર્ણાયક પૂછપરછ ભાગીદાર છો. તમારું કાર્ય મારી સાથે સંમત થવાનું નથી, પરંતુ મારા આઉટપુટને નકારવાનો પ્રયાસ કરવાનું છે. સંદર્ભ: નીચે વિશ્લેષણાત્મક પ્રક્રિયાના મારા નિષ્કર્ષ અને મારા કામચલાઉ નિષ્કર્ષ છે.[પરિણામ ટેક્સ્ટ]કાર્ય:1) 3 સંભવિત દૃશ્યોની સૂચિ બનાવો જેમાં આ નિષ્કર્ષ FALSE હોઈ શકે છે. 2) દરેક દૃશ્ય માટે તે સાચા હતા, "જો તે પુરાવા બતાવશે?" નક્કર, શોધી શકાય તેવા પુરાવા સૂચવો. 3) મારાથી ચૂકી ગયેલા કોઈપણ ડેટા અથવા ધારણાઓને ચિહ્નિત કરો. 4) મારી સાથે સંમત હોય તેવા વાક્યો ન બનાવો; તમને નબળા મુદ્દાઓ શોધવાનું કામ સોંપવામાં આવ્યું છે. જ્યાં તમને ખાતરી ન હોય ત્યાં "અજ્ઞાત" તરીકે ચિહ્નિત કરો.

આ પ્રોમ્પ્ટ શક્તિશાળી છે કારણ કે તે AI (ખંડન) ની ભૂમિકાને ઉલટાવે છે, ખંડનકારી દૃશ્યો અને શોધી શકાય તેવા પુરાવાની જરૂર પડે છે અને પુષ્ટિ-શોધતી ભાષા પર પ્રતિબંધ મૂકે છે. આ એઆઈને પુષ્ટિ પૂર્વગ્રહના સાધનને બદલે સંશયવાદની સેવામાં મૂકે છે.

સામાન્ય ભૂલો

• મંજૂરી માંગતા પ્રશ્નો પૂછી રહ્યા છે. "તે ઠીક છે ને?" પૂછીને અને સંમત જવાબની ખાતરી કરીને.
• ચોકસાઈ માટે ભૂલથી પ્રવાહિતા. પ્રશ્ન વિના સારી રીતે લખાયેલ, આત્મવિશ્વાસપૂર્ણ આઉટપુટ સ્વીકારવું.
• એક પુષ્ટિત્મક ઉદાહરણ સાથે સંતુષ્ટ રહો. તેને રદિયો આપવાનો પ્રયાસ કર્યા વિના, પ્રથમ સહાયક શોધ સાથે બંધ કરવું.
• અવિભાજ્ય અધિકારક્ષેત્રને સોંપવું. પુરાવાની પર્યાપ્તતા, વ્યાજબીતા, અભિપ્રાયનો નિર્ણય AI પર છોડવો.
• સમયના દબાણ હેઠળ સંશયવાદ છોડી દો. જ્યારે તમે અટવાઈ જાઓ ત્યારે AI ના દિલાસો આપતા જવાબનો આશરો લેવો.

સાવધાન: સમયનું દબાણ એ નાસ્તિકતાનો સૌથી મોટો દુશ્મન છે, અને આ દબાણ હેઠળ AI સૌથી ખતરનાક બની જાય છે; કારણ કે તે તમને ઝડપી, અસ્ખલિત અને આરામદાયક જવાબ આપે છે. જ્યારે તમે ઉતાવળમાં હોવ ત્યારે ખંડન પ્રશ્ન પૂછવો આવશ્યક બનાવો.

સારાંશમાં

વ્યવસાયિક સંશયવાદ ઓડિટના મૂળમાં છે અને એઆઈની ઉંમરમાં તે વધુ જટિલ બની જાય છે. AI ત્રણ નબળાઈઓને ટ્રિગર કરે છે: આભાસ (તે બનાવે છે), ઓટોમેશન પૂર્વગ્રહ (અમે માનીએ છીએ કારણ કે તે પ્રવાહી છે), પુષ્ટિ પૂર્વગ્રહ (અમે તેના પર પ્રશ્ન કરતા નથી કારણ કે તે કહે છે કે આપણે જેની આશા રાખીએ છીએ). મારણ એ AI ને ખોટા સાબિત કરવા માટે ઉતાવળ કરવી છે, તેની પુષ્ટિ ન કરવી: "જો આ ખોટું છે, તો કયા પુરાવા બતાવશે?" ' અને વિરોધી પુરાવા શોધી રહ્યા છે, ઉદ્દેશ્યપૂર્વક અને પાછળની તરફ પૂછો, સ્ત્રોતમાંથી દરેક આઉટપુટનું પુનઃઉત્પાદન કરો. પૂરાવાની પર્યાપ્તતા, વાજબીતા, છેતરપિંડીનું જોખમ અને અભિપ્રાય ચુકાદા જેવા ચુકાદાઓ માટે શંકાની જરૂર છે અને તે સ્થાનાંતરિત નથી. પ્રવાહ એ ચોકસાઈ નથી; શંકાશીલ મન તમારું છે.

એપ્લિકેશન કાર્ય

તમારું ઓડિટ પરિણામ (અથવા કાલ્પનિક પરિણામ) મેળવો. AI ને પહેલા "પુષ્ટિ-શોધ" નબળા પ્રશ્ન સાથે પૂછો, પછી ઉપરની "ખંડન" મજબૂત પ્રોમ્પ્ટ પેટર્ન સાથે. બંને પરિણામોને એકસાથે મૂકો અને તફાવત લખો: ફક્ત ખંડન પ્રશ્ન દ્વારા કયા જોખમો જાહેર થયા હતા? પછી તમારા આઉટપુટમાં દરેક કી દાવાની બાજુમાં બે નોંધો ઉમેરો: "મેં શું સાથે ચકાસ્યું" અને "જો તે ખોટા હતા તો કયા પુરાવા બતાવશે".

ચેકલિસ્ટ

• [ ] મેં AI ખંડન/તટસ્થ પ્રશ્નો પૂછ્યા, પુષ્ટિ-શોધના પ્રશ્નો નહીં.
• દરેક નોંધપાત્ર પરિણામ માટે, "જો આ ખોટું છે, તો કયા પુરાવા તેને બતાવશે?" મેં પ્રશ્ન પૂછ્યો અને પુરાવાની શોધ કરી.
• [ ] મેં આઉટપુટનું પરીક્ષણ કર્યું, જે સરળ અને આત્મવિશ્વાસપૂર્ણ લાગતું હતું, વધારાની શંકા સાથે.
• [ ] હું એક પણ પુષ્ટિત્મક ઉદાહરણ સાથે રોકાયો નથી; મેં તેનો ખંડન કરવાનો પ્રયાસ કર્યો પણ નિષ્ફળ ગયો.
• [ ] મેં મારા પોતાના ચુકાદાઓ કર્યા છે જેમ કે પુરાવાની પર્યાપ્તતા, વ્યાજબીતા અને અભિપ્રાય.
• [ ] સમયના દબાણમાં પણ, મેં ખંડનનો પ્રશ્ન છોડ્યો નહીં.
• મહત્વના દાવાઓની બાજુમાં, મેં "મેં જેની સાથે ચકાસ્યું / જો તે ખોટું હશે તો શું બતાવશે"ની નોંધો બનાવી.