નૈતિક અને જવાબદાર AI

નફો:

• જવાબદાર AI સિદ્ધાંતો (નિષ્પક્ષતા, પારદર્શિતા, જવાબદારી, ગોપનીયતા, માનવ દેખરેખ, સુરક્ષા, ટકાઉપણું) ને નક્કર નિર્ણયો સાથે જોડવાની ક્ષમતા
• કાનૂની અનુપાલનથી નીતિશાસ્ત્રને અલગ કરીને અને 'આપણે કરી શકીએ છીએ' અને 'આપણે જોઈએ' વચ્ચે તફાવત કરીને અસરગ્રસ્ત પક્ષો અને પક્ષપાતને ચકાસવાની ક્ષમતા
• ડિઝાઇનમાં પારદર્શિતા, માનવ દેખરેખ અને અપીલને એમ્બેડ કરીને અગાઉથી દુરુપયોગના દૃશ્યોને ઘટાડવાની ક્ષમતા

AI સ્ટાર્ટઅપ તકનીકી રીતે સંપૂર્ણ, નાણાકીય રીતે નફાકારક અને કાયદેસર રીતે સક્ષમ હોઈ શકે છે; પરંતુ તે હજુ પણ ખોટું હોઈ શકે છે. નીતિશાસ્ત્ર એ "આપણે કરી શકીએ છીએ" અને "આપણે જોઈએ" વચ્ચેનો તફાવત છે. વરિષ્ઠ મેનેજર માટે, નૈતિકતા એ શણગાર અથવા જાહેર સંબંધોની બાબત નથી; તે પાયો છે જે સંસ્થાની લાંબા ગાળાની વિશ્વસનીયતા, પ્રતિષ્ઠા અને સામાજિક કાયદેસરતાને જાળવી રાખે છે. આ એકમમાં, તમે જવાબદાર AI ના સિદ્ધાંતો (કૃત્રિમ બુદ્ધિમત્તાનો વિકાસ અને ઉપયોગ કરવા માટેનો અભિગમ એ રીતે કે જે વાજબી, પારદર્શક, જવાબદાર અને માનવ પ્રતિષ્ઠાનો આદર કરે છે) અને તેને રોજિંદા નિર્ણયોમાં કેવી રીતે પ્રતિબિંબિત કરવું તે શીખી શકશો.

જવાબદાર AI ના મૂળભૂત સિદ્ધાંતો

વિવિધ માળખા સમાન સિદ્ધાંતો પર મળે છે. મેનેજર માટે વ્યવહારુ સારાંશ:

સિદ્ધાંત

તમારો મતલબ શું છે?

એડમિન પ્રશ્ન

ન્યાય

બિન-ભેદભાવ

શું આ અન્યાયી રીતે જૂથને અસર કરે છે?

પારદર્શિતા

સમજી શકાય તેવું બનો

શું આપણે નિર્ણયનું કારણ સમજાવી શકીએ?

જવાબદારી

કોણ જવાબદાર છે તેની ઓળખ

ભૂલ થાય તો જવાબદાર કોણ?

ગોપનીયતા

વ્યક્તિગત ડેટા માટે આદર

શું આપણને ડેટાનો ઉપયોગ કરવાનો અધિકાર છે?

માનવ દેખરેખ

નિયંત્રણમાં રહેવું

શું કોઈ વાંધો ઉઠાવીને તેને રોકી શકે?

સુરક્ષા

કોઈ નુકસાન ન કરો

શું આનો દુરુપયોગ થઈ શકે છે?

ટકાઉપણું

પર્યાવરણીય/સામાજિક અસર

આપણે કોના પર ખર્ચ લાદીએ?

આ સિદ્ધાંતો અમૂર્ત નથી; તેમાંના દરેકને નક્કર નિર્ણય સાથે જોડી શકાય છે. ઉદાહરણ તરીકે, "પારદર્શિતા" નો અર્થ ગ્રાહકને જણાવવું કે તેઓ AI સાથે વાત કરી રહ્યા છે; "માનવ દેખરેખ" નો અર્થ એ છે કે લોનના અસ્વીકારની માનવ સમીક્ષા કરવી અને તેને અપીલ માટે ખુલ્લી રાખો.

ટીપ: દરેક ઉચ્ચ-અસરકારક AI નિર્ણય સાથે, એક પ્રશ્ન પૂછો: "શું હું સૌથી વધુ નકારાત્મક અસરગ્રસ્ત વ્યક્તિને આ નિર્ણયની સ્પષ્ટ રીતે સમજાવી અને તેની પાછળ ઊભા રહી શકું?" જો પ્રતિભાવ અપરાધ કરે છે, તો ત્યાં એક નૈતિક સમસ્યા છે.

નૈતિકતા કાયદાથી અલગ છે

એક મહત્વપૂર્ણ તફાવત: કાનૂની અનુપાલન (યુનિટ 9) એકદમ ન્યૂનતમ છે; નૈતિકતા એ ઉચ્ચ રેખા છે. કંઈક કાયદેસર પણ અનૈતિક હોઈ શકે છે. ઉદાહરણ તરીકે, વપરાશકર્તાની વર્તણૂકમાં છેડછાડ કરવા માટે કૃત્રિમ બુદ્ધિમત્તાનો ઉપયોગ કરવા માટે એપ્લિકેશનને પ્રતિબંધિત કરી શકાતી નથી, પરંતુ તે અનૈતિક છે. જવાબદાર સંસ્થાઓ "શું તે પ્રતિબંધિત છે?" "શું તે સાચું છે?" તે પૂછે છે.

પગલું દ્વારા પગલું: નિર્ણયમાં નૈતિકતા એમ્બેડ કરવી

1. અસરગ્રસ્ત પક્ષોને ઓળખો. આ પહેલથી કોને અસર થાય છે? (ગ્રાહક, કર્મચારી, સમાજ, વંચિત જૂથો)

2. નીતિઓ સાથે સ્કેન કરો. ઉપરોક્ત દરેક સિદ્ધાંતોના સંદર્ભમાં પહેલ પર પ્રશ્ન કરો.

3. પૂર્વગ્રહ અને નુકસાન માટે પરીક્ષણ. શું મોડેલ અમુક જૂથોને અન્યાયી રીતે અસર કરે છે? દુરુપયોગના દૃશ્યો શું છે?

4. પારદર્શિતા અને દેખરેખ ઉમેરો. કૃત્રિમ બુદ્ધિના ઉપયોગની જાણ કરો, માનવ વાંધો માટે કોઈ રસ્તો છોડો નહીં.

5. દસ્તાવેજો અને સમીક્ષા. નૈતિક મૂલ્યાંકન સાચવો; સમયાંતરે પાછા તપાસો.

ત્રણ નાના કેસો

કેસ 1 - કાનૂની પરંતુ ખોટો. વપરાશકર્તાઓને એપ્લિકેશનમાં લાંબા સમય સુધી રાખવા માટે એક એપ્લિકેશન વ્યસનયુક્ત સૂચનાઓ જનરેટ કરવા માટે કૃત્રિમ બુદ્ધિમત્તાનો ઉપયોગ કરે છે. ત્યાં કોઈ કાનૂની અવરોધ ન હતો, પરંતુ જ્યારે પ્રેસમાં તેની જાણ કરવામાં આવી ત્યારે પ્રતિષ્ઠાને ગંભીર નુકસાન થયું હતું; ખાસ કરીને યુવા વપરાશકર્તાઓને તેના લક્ષ્યાંકની ટીકા થઈ. કંપનીએ આ ફીચર હટાવી દીધું છે. જો નૈતિક ફિલ્ટર શરૂઆતથી હતું, તો આ જોખમ જોવામાં આવશે.

કેસ 2 — ન્યાયી કસોટીનું મૂલ્ય. બેંકના ક્રેડિટ સ્કોરિંગ મોડેલે સંરક્ષિત જૂથોની અરજીઓને વ્યવસ્થિત રીતે ઓછા સ્કોર આપ્યા છે. આ જસ્ટિસ ઓડિટમાં પકડાયું હતું. તેના પરિણામોમાં ઇન્ટરગ્રૂપ ઇક્વિટી સુનિશ્ચિત કરવા માટે મોડેલને ફરીથી ડિઝાઇન કરવામાં આવ્યું હતું અને તેનું નિયમિત પરીક્ષણ કરવામાં આવ્યું હતું. નૈતિક સિદ્ધાંત (ન્યાય) એક નક્કર પરીક્ષણમાં ફેરવાઈ ગયો અને વાસ્તવિક નુકસાનને અટકાવ્યું.

કેસ 3 - પારદર્શિતાનો વિશ્વાસ. એક ઈ-કોમર્સ કંપનીએ તેના ગ્રાહક સપોર્ટ ચેટબોટની શરૂઆતમાં "એક આર્ટિફિશિયલ ઈન્ટેલિજન્સ આસિસ્ટન્ટ તમને મદદ કરે છે, તમે કોઈપણ સમયે માનવ પ્રતિનિધિ સાથે કનેક્ટ થઈ શકો છો" વાક્ય મૂક્યું છે. પારદર્શિતા અને માનવ બહાર નીકળવાથી સંતોષ ઓછો થયો નથી; તેનાથી વિપરિત, તેનાથી આત્મવિશ્વાસ વધ્યો અને ફરિયાદોમાં 15% ઘટાડો થયો. યોગ્ય રીતે કરવામાં આવેલી પારદર્શિતા કિંમત હતી, કિંમત નથી.

ચાર નકલ કરી શકાય તેવા નમૂનાઓ

1) નૈતિક તપાસ:

તમારી ભૂમિકા: જવાબદાર AI સલાહકાર. આ પહેલને 7 સિદ્ધાંતો માટે સ્કેન કરો: વાજબીતા, પારદર્શિતા, જવાબદારી, ગોપનીયતા, માનવ દેખરેખ, સુરક્ષા, ટકાઉપણું. દરેક પોલિસી માટે, એક જોખમ અને એક ભલામણ લખો. પહેલ: [ટેક્સ્ટ]

2) અસરગ્રસ્ત પક્ષ વિશ્લેષણ:

આ AI પહેલ (ગ્રાહક, કર્મચારી, સમાજ, વંચિત જૂથો) દ્વારા અસરગ્રસ્ત તમામ પક્ષોની સૂચિ બનાવો. દરેક પક્ષ માટે સંભવિત હકારાત્મક અને નકારાત્મક અસરો લખો; જૂથને સૌથી વધુ નુકસાન થવાની સંભાવનાને ચિહ્નિત કરો. પહેલ: [ટેક્સ્ટ]

3) દુરુપયોગની સ્થિતિ:

5 દૃશ્યો જનરેટ કરો જેમાં નીચેની AI સુવિધાનો દુરુપયોગ થઈ શકે (હેરાફેરી, ભેદભાવ, ગોપનીયતા ઉલ્લંઘન, છેતરપિંડી સહિત). દરેક દૃશ્ય માટે નિવારક ડિઝાઇન નિર્ણય સૂચવો. વિશેષતા: [ટેક્સ્ટ]

4) પારદર્શિતા અને સર્વેલન્સ નિયંત્રણ:

ગ્રાહકનો સામનો કરતા AI માટે પારદર્શિતા અને માનવ દેખરેખ યોજના લખો કે: વપરાશકર્તાને શું અને કેવી રીતે સંચાર કરવામાં આવશે; તે મનુષ્યોમાં કેવી રીતે સ્થાનાંતરિત થઈ શકે? તે નિર્ણય સામે કેવી રીતે વાંધો ઉઠાવી શકે? ઉપયોગ: [ટેક્સ્ટ]

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા: "શું આ AI નૈતિક છે?"

પરિણામ: સુપરફિસિયલ "હા/ના"; કયો સિદ્ધાંત, કોને અસર થાય છે, કયું માપ અસ્પષ્ટ છે.

સશક્ત: "અમે ભરતી પૂર્વ-સ્ક્રીનિંગ ટૂલમાં AI નો ઉપયોગ કરવાનું વિચારી રહ્યા છીએ (માનવ અંતિમ નિર્ણય લેશે). ન્યાયીતા, પારદર્શિતા, જવાબદારી અને માનવીય દેખરેખના સિદ્ધાંતો માટે આને સ્ક્રિન કરો. નક્કર રીતે લખો કે ઉમેદવારોના કયા જૂથો અન્યાયી રીતે પ્રભાવિત થઈ શકે છે, મારે કયા પૂર્વગ્રહ પરીક્ષણો કરવાની જરૂર છે અને ઉમેદવારો નિર્ણયને કેવી રીતે અપીલ કરી શકે છે."

પરિણામ: એક સિદ્ધાંત-આધારિત, વ્યવહારુ મૂલ્યાંકન જે અસરગ્રસ્ત પક્ષને ઓળખે છે અને પરીક્ષણ અને અપીલ સૂચવે છે.

સામાન્ય ભૂલો

• કાનૂની અનુપાલન સાથે મૂંઝવણભરી નીતિશાસ્ત્ર. કાનૂની છે તે બધું નૈતિક નથી; નૈતિકતા એ ઉચ્ચ રેખા છે.
• નૈતિકતાને ટકી રહેવું. ડિઝાઇન પછી "નૈતિકતાની મંજૂરી" મેળવવી ખૂબ મોડું થઈ ગયું છે; નૈતિકતા શરૂઆતથી જ ડિઝાઇનમાં જડેલી હોવી જોઈએ.
• ન્યાયની કસોટી કરતા નથી. “આપણું મોડેલ તટસ્થ છે” એવી ધારણા ખતરનાક છે; માપ વિના જાણી શકાતું નથી.
• ખર્ચ માટે પારદર્શિતાની ભૂલ. યોગ્ય રીતે કરવામાં આવેલી પારદર્શિતા વિશ્વાસ અને મૂલ્યમાં વધારો કરે છે.
• અસરગ્રસ્ત બાજુઓને સાંકડી રાખવી. માત્ર ગ્રાહક વિશે જ વિચારવું અને કર્મચારી, સમાજ અને વંચિત જૂથોને અવગણવાથી એક આંધળી જગ્યા ઊભી થાય છે.

સાવધાન: નૈતિક મૂલ્યાંકનને સંપૂર્ણપણે કૃત્રિમ બુદ્ધિમત્તા પર છોડવું એ વિરોધાભાસી અને જોખમી છે. AI નૈતિક પ્રશ્નો ઉભા કરવામાં મદદ કરી શકે છે, પરંતુ મૂલ્યનો નિર્ણય, સાંસ્કૃતિક સંદર્ભ અને અંતિમ નૈતિક જવાબદારી માનવ પર રહે છે. સંસ્થાનું નૈતિક વલણ લોકોની સભાન પસંદગીઓ દ્વારા નક્કી કરવામાં આવે છે, "AI એ કહ્યું" દ્વારા નહીં.

સારાંશમાં

નીતિશાસ્ત્ર એ "આપણે કરી શકીએ છીએ" અને "આપણે જોઈએ" વચ્ચેનો તફાવત છે અને સંસ્થાની લાંબા ગાળાની વિશ્વસનીયતાનું રક્ષણ કરે છે. જવાબદાર AI; તે ન્યાય, પારદર્શિતા, જવાબદારી, ગોપનીયતા, માનવ દેખરેખ, સુરક્ષા અને ટકાઉપણુંના સિદ્ધાંતો પર આધારિત છે. આ સિદ્ધાંતો અમૂર્ત નથી; તે અસરગ્રસ્ત પક્ષોને ઓળખવા, પૂર્વગ્રહ માટે પરીક્ષણ, પારદર્શિતા પ્રદાન કરવા અને માનવ દેખરેખ ઉમેરવા જેવા નક્કર નિર્ણયોમાં અનુવાદ કરે છે. નીતિશાસ્ત્ર કાયદાથી અલગ છે અને ઉચ્ચ રેખા છે; તેને અંત સુધી છોડી શકાતું નથી, તે ડિઝાઇનમાં એમ્બેડ કરવું આવશ્યક છે. આગામી એકમમાં, અમે અનુપાલનની ચર્ચા કરીશું, જે નીતિશાસ્ત્રની કાનૂની સમકક્ષ છે, ખાસ કરીને EU AI કાયદો અને KVKK.

એપ્લિકેશન કાર્ય

ઉચ્ચ-અસરકારક AI સ્ટાર્ટઅપ પસંદ કરો. ટેમ્પ્લેટ 2 સાથે, તમામ અસરગ્રસ્ત પક્ષોની યાદી બનાવો અને જે જૂથને સૌથી વધુ નુકસાન થવાની સંભાવના છે તેને ચિહ્નિત કરો. નમૂના 1 સાથે, સાત સિદ્ધાંતો માટે પહેલને સ્કેન કરો. બે સૌથી નિર્ણાયક નૈતિક જોખમો માટે નક્કર માપ (નિષ્પક્ષતા પરીક્ષણ, પારદર્શિતા સૂચના, અપીલ માર્ગ, વગેરે) વ્યાખ્યાયિત કરો. છેલ્લે, "શું હું આ નિર્ણયને સૌથી વધુ નકારાત્મક અસરગ્રસ્ત વ્યક્તિને સમજાવી શકું?" પ્રામાણિકપણે પ્રશ્નનો જવાબ આપો.

ચેકલિસ્ટ

• [ ] મેં તમામ અસરગ્રસ્ત પક્ષોને ઓળખ્યા છે.
• [ ] મેં જવાબદાર AI ના સાત સિદ્ધાંતો સાથે સ્ટાર્ટઅપની તપાસ કરી.
• [ ] મેં પૂર્વગ્રહ/નિષ્પક્ષતા માટે એક પરીક્ષણનું આયોજન કર્યું છે.
• [ ] મેં પારદર્શિતા નિવેદન ડિઝાઇન કર્યું છે.
• [ ] મેં માનવ દેખરેખ અને અપીલ માટે કોઈ રસ્તો છોડ્યો નથી.
• [ ] મેં દુરુપયોગના દૃશ્યો વિશે વિચાર્યું.
• [] "શું હું તેને સૌથી વધુ નકારાત્મક અસરગ્રસ્ત વ્યક્તિને સમજાવી શકું?" મેં પરીક્ષા પાસ કરી.