માનવ નિયંત્રણ, પારદર્શિતા, પૂર્વગ્રહ અને નીતિશાસ્ત્ર

નફો:

• માનવ નિયંત્રણના ત્રણ મોડલને અલગ પાડવું (લૂપમાં, લૂપ પર, આદેશમાં)
• AI આઉટપુટમાં પૂર્વગ્રહ અને ભેદભાવના જોખમોને ઓળખવા અને ઘટાડવા
• પારદર્શિતા અને સ્પષ્ટતાના સિદ્ધાંતોને નક્કર એપ્લિકેશનમાં અનુવાદિત કરવું

AI સિસ્ટમ તકનીકી રીતે સંપૂર્ણ રીતે કામ કરી શકે છે પરંતુ તેમ છતાં ખોટું હોઈ શકે છે: તે વ્યવસ્થિત રીતે જૂથને દૂર કરી શકે છે, તેના નિર્ણયનું કારણ સમજાવવામાં નિષ્ફળ થઈ શકે છે અથવા લોકોને કોઈ પ્રશ્ન કર્યા વિના તેને સ્વીકારવા તરફ દોરી શકે છે. આ એકમમાં, અમે શાસનની "નરમ" પરંતુ સૌથી નિર્ણાયક બાજુ-માનવ નિયંત્રણ, પૂર્વગ્રહ વ્યવસ્થાપન, પારદર્શિતા અને નીતિશાસ્ત્ર-ને નક્કર વ્યવહારમાં અનુવાદિત કરીએ છીએ. ધ્યેય "એઆઈ પર વિશ્વાસ ન કરો" જેવા અસ્પષ્ટ સૂત્રો નથી; તેઓ કાર્યકારી મિકેનિઝમ્સ છે જે દર્શાવે છે કે આઉટપુટનું ઓડિટ કેવી રીતે કરવું, પૂર્વગ્રહ ઘટાડવો અને પારદર્શિતા કેવી રીતે સ્થાપિત કરવી.

માનવ નિયંત્રણના ત્રણ મોડલ

માનવ દેખરેખનો અર્થ એ છે કે AI દ્વારા લેવામાં આવેલા નિર્ણયો પર માનવ નિયંત્રણ જાળવી રાખે છે. ત્રણ મૂળભૂત મોડલ છે અને જોખમ અનુસાર યોગ્ય મોડલ પસંદ કરવું જરૂરી છે.

મોડેલ

અર્થ

જ્યાં તે બંધબેસે છે

લૂપમાં માનવ

વ્યક્તિ દરેક નિર્ણયને મંજૂર કરે છે

ઉચ્ચ જોખમ, પ્રભાવશાળી નિર્ણયો

લૂપ પર માનવ

AI કામ કરે છે, માનવીઓ દેખરેખ રાખે છે અને જો જરૂરી હોય તો હસ્તક્ષેપ કરે છે

મધ્યમ જોખમ, ઉચ્ચ વોલ્યુમ વ્યવહારો

આદેશમાં માણસ

માણસ સિસ્ટમની રચના કરે છે, તેની મર્યાદા નક્કી કરે છે, તેને બંધ કરી શકે છે

એકંદર શાસન સ્તર

વ્યક્તિ (રોજગાર, ધિરાણ, આરોગ્યસંભાળ) ને નોંધપાત્ર રીતે અસર કરતા નિર્ણયો માટે, માનવ-ઇન-ધ-લૂપ મોડેલને પ્રાધાન્ય આપવામાં આવે છે: AI સલાહ આપે છે, પરંતુ સક્ષમ વ્યક્તિ અંતિમ નિર્ણય લે છે. "એઆઈએ આમ કહ્યું" ક્યારેય બહાનું નથી; જવાબદારી હંમેશા વ્યક્તિની હોય છે.

ધ્યાન: માનવ નિયંત્રણ માટે "કાગળ પર" હોવું પૂરતું નથી. જો મનુષ્ય આપોઆપ AI ના સૂચનને મંજૂર કરે છે (રબર-સ્ટેમ્પિંગ), ત્યાં કોઈ વાસ્તવિક નિયંત્રણ નથી. ઓડિટ અર્થપૂર્ણ બનવા માટે, વ્યક્તિએ તર્ક જોવા, તેને પ્રશ્ન કરવા અને ખરેખર "ના" કહેવા માટે સમર્થ હોવા જોઈએ.

પૂર્વગ્રહ અને ભેદભાવનું જોખમ

પૂર્વગ્રહ એ છે જ્યારે AI વ્યવસ્થિત રીતે અમુક જૂથોને ગેરફાયદા અથવા લાભ આપે છે. તેનો સ્ત્રોત ઘણીવાર ડેટાને તાલીમ આપતો હોય છે: જો ઐતિહાસિક ડેટામાં ભેદભાવ હોય, તો AI તેને શીખે છે અને જાળવે છે - તેને સ્કેલ પણ કરે છે.

પૂર્વગ્રહ ઘટાડવાના વ્યવહારુ પગલાં:

1. સંવેદનશીલ ચલોની સમીક્ષા કરો: નિર્ણય પર લિંગ, ઉંમર, વંશીયતા જેવા ક્ષેત્રોની અસર તપાસો.
2. જૂથો દ્વારા પરીક્ષણ પરિણામો: શું સિસ્ટમ વિવિધ જૂથોમાં અલગ-અલગ અસ્વીકાર/સ્વીકૃતિ દર ઉત્પન્ન કરે છે?
3. પ્રોક્સી વેરિયેબલ્સથી સાવધ રહો: ​​"પડોશ" અથવા "શાળા" જેવા ક્ષેત્રો વંશીય/વર્ગના ભેદને સ્પષ્ટપણે વ્યક્ત કરી શકે છે.
4. નિયમિત દેખરેખ સ્થાપિત કરો: પૂર્વગ્રહનું સતત પરીક્ષણ કરવામાં આવે છે, માત્ર એક જ વાર નહીં; ડેટા બદલાતાં તે પાછું આવી શકે છે.

ત્રણ નાના કેસો

કેસ 1 - રબર સ્ટેમ્પ. એક બેંકમાં, લોન અધિકારીઓ તેની સમીક્ષા કર્યા વિના AI સ્કોરને મંજૂરી આપે છે; તેઓ કહે છે કે "સિસ્ટમ પહેલાથી જ તેની ગણતરી કરી ચૂકી છે". ઑડિટ બતાવે છે કે 500 સબમિશનમાંથી 498માં, માનવે AI જેવો જ નિર્ણય લીધો હતો - તેથી કોઈ વાસ્તવિક સમીક્ષા નથી. ઉકેલ: લોકોને તર્ક જોવાની જરૂર છે, અમુક હદ સુધી નિર્ણયનું બીજું અનુમાન લગાવવું અને "શા માટે સંમત/અસંમત" નોંધની જરૂર છે.

કેસ 2 - ગર્ભિત પૂર્વગ્રહ. ભરતી કરતી AI મહિલા ઉમેદવારોને ઓછા સ્કોર આપે છે, ભલે તે લિંગનો ઉપયોગ કરતી નથી. ક્યાંથી? કારણ કે ભૂતકાળના ડેટામાં આપેલ સ્થિતિમાં મોટાભાગે પુરુષોનો સમાવેશ થતો હતો, મોડેલે પ્રોક્સી વેરિયેબલ્સ જેમ કે "અવિરત કારકિર્દી" દ્વારા પરોક્ષ ભેદભાવ શીખ્યા હતા. જૂથ-આધારિત પરીક્ષણ આ છતી કરે છે; ટીમ સરોગેટ વેરિયેબલ્સ કાઢે છે અને પરિણામ પર નજર રાખે છે.

કેસ 3 - પારદર્શિતા સાથે વિશ્વાસ કરો. તેના AI-સંચાલિત નુકસાનના મૂલ્યાંકનમાં, વીમા કંપની દરેક ગ્રાહકને જાણ કરે છે કે "નિર્ણય એઆઈ-સંચાલિત છે, તેઓ અપીલ કરી શકે છે અને માનવ સમીક્ષાની વિનંતી કરી શકે છે." વાંધાનો દર અપેક્ષા કરતા ઓછો છે કારણ કે ગ્રાહકો પ્રક્રિયાને સમજે છે અને વિશ્વાસ કરે છે. જોખમ ઘટાડીને પારદર્શિતા વિશ્વાસમાં વધારો કરે છે.

પારદર્શિતા અને સ્પષ્ટતા

પારદર્શિતા એ સંબંધિત લોકોને તે સ્પષ્ટ કરવા વિશે છે કે AI કાર્યમાં છે અને તે કેવી રીતે કાર્ય કરે છે. સમજૂતીનો અર્થ એ છે કે નિર્ણય લેવાનું કારણ સમજી શકાય તે રીતે સમજાવવામાં સક્ષમ હોવું. કોંક્રિટ એપ્લિકેશન્સ:

• વ્યક્તિ સાથે વાતચીત કરતી AI પર "તમે AI સાથે વાત કરી રહ્યાં છો" સૂચના.
• "આ નિર્ણય નીચેના પરિબળો પર આધારિત હતો" સ્વચાલિત નિર્ણયોમાં સમજૂતી.
• માનવીય સમીક્ષાની અપીલ અને વિનંતી કરવાનો માર્ગ સ્પષ્ટપણે પ્રસ્તુત કરો.
• આંતરિક ટીમો માટે: મોડેલ શું કરે છે તેના દસ્તાવેજીકરણ અને રેકોર્ડિંગ.

સંકેત: AI નિર્ણયને પૂછો "આ નિર્ણયને પ્રભાવિત કરનાર ટોચના ત્રણ પરિબળો કયા હતા?" પ્રશ્ન સાથે તેનું પરીક્ષણ કરો. જો સિસ્ટમ આને સમજી શકતી નથી અને નિર્ણય વ્યક્તિને નોંધપાત્ર રીતે અસર કરે છે, તો તે સિસ્ટમ હજુ સુધી જવાબદાર ઉપયોગ માટે તૈયાર નથી.

ઓટોમેશન પૂર્વગ્રહ: વ્યક્તિની પોતાની જાળ

જો પારદર્શિતા અને માનવ દેખરેખ સ્થાપિત કરવામાં આવે તો પણ, માનવ બાજુ પર એક કપટી જોખમ છે: ઓટોમેશન પૂર્વગ્રહ. આ લોકો માટે તેમના પોતાના નિર્ણય કરતાં મશીનના આઉટપુટ પર વધુ વિશ્વાસ કરવાની વૃત્તિ છે. કારણ કે ઑન-સ્ક્રીન AI દરખાસ્ત "ઉદ્દેશ અને ગણતરીપૂર્વક" દેખાય છે, કારણ કે વ્યક્તિ તેને પૂછ્યા વિના સ્વીકારવા માટે લલચાય છે — આ રબર સ્ટેમ્પનું મનોવૈજ્ઞાનિક મૂળ છે.

આને ઘટાડવાના નક્કર રસ્તાઓ છે. પહેલા વિરોધી અભિપ્રાયને પ્રોત્સાહિત કરો: નિર્ણયને મંજૂરી આપનાર વ્યક્તિને પૂછો "હું AI સાથે શા માટે અસંમત હોઈ શકું?" તેને પ્રશ્ન વિશે વિચારવાનું કહો. પછી આત્મવિશ્વાસનો સ્કોર બતાવો: એઆઈ કેટલો વિશ્વાસ છે તે દર્શાવો; ઓછા આત્મવિશ્વાસના આઉટપુટને અલગથી ચિહ્નિત કરો. પછી સંઘર્ષ ચેતવણી સેટ કરો: જો AI ભલામણ સંસ્થાના નિયમ અથવા માનવ માટે ઉપલબ્ધ ડેટાનું ઉલ્લંઘન કરે છે, તો સિસ્ટમ આને પ્રકાશિત કરશે. છેલ્લે, નિર્ણાયક નિર્ણયો માટે બે માનવ સિદ્ધાંતોને લાગુ કરો; એકલ મંજૂર કરનાર ઓટોમેશન પૂર્વગ્રહ માટે વધુ સંવેદનશીલ હોય છે.

સાવધાન: "માનવની મંજૂરી છે" કહેવાનો અર્થ એ નથી કે ઓટોમેશન પૂર્વગ્રહથી મુક્ત થવું. AI પર પ્રશ્ન કરવા માટે માનવ પાસે સત્તા, સમય અને યોગ્ય માહિતી બંને હોવી જોઈએ. એવી સિસ્ટમ કે જે મંજૂરકર્તાને 3 સેકન્ડમાં 200 નિર્ણયો લેવાની ફરજ પાડે છે તે વાસ્તવમાં સાચા માનવ નિયંત્રણની ઓફર કરતી નથી.

નકલ કરી શકાય તેવા નમૂનાઓ

નમૂનો 1 — માનવ નિયંત્રણ મોડલની પસંદગી: "કયું માનવ નિયંત્રણ મોડેલ નીચેના AI ઉપયોગ માટે યોગ્ય છે [ઉપયોગનું વર્ણન કરો]: લૂપમાં, લૂપ પર, અથવા આદેશમાં? વ્યક્તિ પરના જોખમ અને અસરને ધ્યાનમાં રાખીને વાજબીતા સાથે ભલામણ કરો. રબર સ્ટેમ્પના જોખમને ટાળવા માટે મારે શું નિયંત્રણ ઉમેરવું જોઈએ તે સ્પષ્ટ કરો."

નમૂનો 2 — બાયસ ટેસ્ટિંગ પ્લાન: "નીચેના નિર્ણય સપોર્ટ AI માટે પૂર્વગ્રહ પરીક્ષણ યોજના [ઉપયોગનું વર્ણન કરો] તૈયાર કરો: મારે કયા જૂથોની તુલના કરવી જોઈએ, મારે કયા મેટ્રિકને માપવું જોઈએ (અસ્વીકાર/સ્વીકૃતિ દર, વગેરે), મારે કયા સરોગેટ ચલો જોઈએ, મારે કેટલી વાર પરીક્ષણનું પુનરાવર્તન કરવું જોઈએ? તેને પગલું દ્વારા લખો."

નમૂનો 3 — નિર્ણય વર્ણન ટેક્સ્ટ: "વ્યક્તિગત સ્વચાલિત નિર્ણય માટે એક સરળ વર્ણન ટેક્સ્ટ લખો: શું નિર્ણય AI-સંચાલિત હતો, નિર્ણયને પ્રભાવિત કરતા મુખ્ય પરિબળો, અપીલ કરવાની અને માનવ સમીક્ષાની વિનંતી કરવાની રીત. બિન-આરોપકારી, આદરપૂર્ણ સ્વર, 120 શબ્દો અથવા ઓછા."

નમૂનો 4 — નૈતિક સમીક્ષા ચેકલિસ્ટ: "એઆઈનો ઉપયોગ પ્રકાશિત કરતા પહેલા નૈતિક સમીક્ષા ચેકલિસ્ટ તૈયાર કરો: વાજબીતા/ભેદભાવ, પારદર્શિતા, માનવ નિયંત્રણ, ગોપનીયતા, સુરક્ષા, જવાબદારી. દરેક શીર્ષક હેઠળ જવાબ આપવા માટે 1-2 સ્પષ્ટ પ્રશ્નો શામેલ કરો."

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

WEAK: “શું આ ભરતી AI વાજબી છે?”-> મોડેલ સામાન્ય જવાબ આપે છે જેમ કે 'તે ન્યાયી હોવું જોઈએ'; પરીક્ષણ યોગ્ય પદ્ધતિ અને પૂર્વગ્રહ માપન પ્રદાન કરતું નથી. સ્ટ્રોંગ: "આ ભરતી સપોર્ટ AI માટે પૂર્વગ્રહ પરીક્ષણ યોજના સેટ કરો: લિંગ અને વય જૂથોમાં સ્વીકૃતિ દરોની તુલના કરવાની પદ્ધતિ, ધ્યાનમાં લેવા માટે પ્રોક્સી ચલ, સ્વીકાર્ય તફાવત થ્રેશોલ્ડ અને મોનિટરિંગ આવર્તન. માનવ અંતિમ નિર્ણય લે તેની ખાતરી કરવા માટે નિયંત્રણ પણ ઉમેરો." -> મોડલ માપી શકાય તેવી, પુનરાવર્તિત યોગ્યતા પદ્ધતિનું નિર્માણ કરે છે.

સામાન્ય ભૂલો

• માનવ નિયંત્રણ "કાગળ પર" છોડીને અને AI ભલામણ (રબર સ્ટેમ્પ) ને આપમેળે મંજૂરી આપવી.
• લૂપમાં રહેવાને બદલે દેખરેખ વિનાની વ્યક્તિને નોંધપાત્ર રીતે અસર કરતા નિર્ણયો છોડી દેવા.
• "મેં સંવેદનશીલ ચલ કાઢી નાખ્યું" એટલા માટે પૂર્વગ્રહને ધ્યાનમાં લેતા ઉકેલાઈ ગયો; પ્રોક્સી ચલોને છોડી દેવા.
• પૂર્વગ્રહનું એકવાર પરીક્ષણ કરવું અને સતત તેનું નિરીક્ષણ કરવું નહીં.
• પારદર્શિતા છોડવી કારણ કે "તે એક તકનીકી વિગત છે, વપરાશકર્તા સમજી શકશે નહીં".
• નિર્ણાયક નિર્ણયોમાં નિર્ણયનું કારણ સમજાવી ન શકે તેવી સિસ્ટમનો ઉપયોગ કરવો.
• "અમે પછી જોઈશું" એમ કહીને પ્રકાશન પછી નૈતિક મૂલ્યાંકન છોડી દેવું.

સારાંશમાં

• માનવ નિયંત્રણ ત્રણ મોડેલોમાં લાગુ કરવામાં આવે છે; લોકોને અસર કરતા નિર્ણયોમાં, લોકોને ચક્રમાં પસંદ કરવામાં આવે છે.
• નિયંત્રણ અર્થપૂર્ણ હોવું જોઈએ; રબર સ્ટેમ્પ (સ્વતઃ-મંજૂર) એ વાસ્તવિક ઓડિટ નથી.
• પૂર્વગ્રહ ઘણીવાર તાલીમ ડેટામાંથી આવે છે; સંવેદનશીલ અને સરોગેટ ચલોનું પરીક્ષણ કરવું જોઈએ અને સતત દેખરેખ રાખવી જોઈએ.
• પારદર્શિતા અને સ્પષ્ટતા માટે વપરાશકર્તાને સ્પષ્ટપણે રજૂ કરવાની જરૂર છે કે AI કાર્યમાં છે અને નિર્ણયનું કારણ.
• નૈતિક સમીક્ષા પ્રકાશન પહેલાં થાય છે; જવાબદારી હંમેશા મનુષ્યની હોય છે, "એઆઈએ આમ કહ્યું" કોઈ બહાનું નથી.

એપ્લિકેશન કાર્ય

AI નિર્ણય પ્રક્રિયા પસંદ કરો જે તમારી સંસ્થાના લોકોને અસર કરે (ઉદાહરણ તરીકે, એપ્લિકેશન મૂલ્યાંકન). વાજબીતા સાથે આ પ્રક્રિયા માટે યોગ્ય માનવ નિયંત્રણ મોડલ નક્કી કરો અને રબર સ્ટેમ્પિંગને અટકાવવા માટે એક નક્કર નિયંત્રણ ડિઝાઇન કરો (દા.ત. વાજબીપણું, નમૂના સમીક્ષા જોવાની જરૂરિયાત). પછી પૂર્વગ્રહ પરીક્ષણ યોજના લખો: સ્પષ્ટ કરો કે તમે કયા જૂથોની તુલના કરશો, કયા મેટ્રિક સાથે, કેટલી વાર અને કયા પ્રોક્સી વેરિયેબલ્સ પર તમે ધ્યાન આપશો. છેલ્લે, નિર્ણયની સમજૂતી લખાણનો મુસદ્દો તૈયાર કરો જે આ પ્રક્રિયા દરમિયાન વ્યક્તિને બતાવવામાં આવશે અને તેમાં અપીલ/માનવ સમીક્ષા પાથનો સમાવેશ થાય છે.

ચેકલિસ્ટ

• [ ] મેં પ્રક્રિયા માટે યોગ્ય માનવ નિયંત્રણ મોડેલ પસંદ કર્યું.
• [ ] મેં એક નક્કર નિયંત્રણ ડિઝાઇન કર્યું છે જે રબર સ્ટેમ્પને અટકાવશે.
• [ ] મેં પૂર્વગ્રહ પરીક્ષણ યોજના તૈયાર કરી છે (જૂથો, મેટ્રિક, આવર્તન).
• [ ] મેં સરોગેટ ચલોના જોખમનું મૂલ્યાંકન કર્યું.
• [ ] મેં વ્યક્તિ માટે નિર્ણયની સમજૂતી લખી છે.
• [ ] મેં અપીલ અને માનવીય સમીક્ષાનો માર્ગ સ્પષ્ટ રીતે રજૂ કર્યો છે.
• [ ] મેં પ્રકાશન પહેલાં નીતિશાસ્ત્રની સમીક્ષા કરી હતી.