એન્ટરપ્રાઇઝ AI નીતિ શા માટે? ફાઉન્ડેશન ઓફ ગવર્નન્સ એન્ડ શેડો AI

નફો:

• સંખ્યાત્મક ઉદાહરણો સાથે નીતિવિહીન AI ઉપયોગ (શેડો AI) ના જોખમોને ઓળખવું
• સમજો કે સારી નીતિ એ પ્રતિબંધોની સૂચિ નથી, પરંતુ એક ફ્રેમવર્ક છે જે જવાબદાર ઉપયોગને સક્ષમ કરે છે
• AI ગવર્નન્સના લોકો, પ્રક્રિયા અને ટેક્નોલોજીના સ્તંભો અને હિસ્સેદારોની ભૂમિકાઓ સમજાવો

સોમવારે સવારે, એક મધ્યમ કદની વીમા કંપનીના મુખ્ય પાલન અધિકારી (કાયદા અને આંતરિક નિયમોના સંસ્થાના પાલન માટે જવાબદાર વ્યક્તિ) આશ્ચર્યજનક રીતે તેમનો ઇમેઇલ ખોલે છે: એક ગ્રાહક પૂછે છે કે શું તેની આરોગ્ય માહિતી "એઆઈ ટૂલમાં લખવામાં આવી હતી અને તે ક્યાં ગઈ." ઝડપી તપાસ દર્શાવે છે કે દાવાઓની ટીમના નિષ્ણાત દાવાઓની ફાઇલોને ઝડપથી સારાંશ આપવા માટે વ્યક્તિગત AI એકાઉન્ટનો ઉપયોગ કરે છે. કોઈ દૂષિત નથી; કોઈને નથી લાગતું કે તેઓ નિયમો તોડી રહ્યા છે. કારણ કે કોઈ લેખિત નિયમ નથી. આ ગેપને શેડો AI કહેવામાં આવે છે, અને આ મોડ્યુલ તમને આ ગેપને બરાબર ભરવા માટે ગવર્નન્સ ફ્રેમવર્ક કેવી રીતે બનાવવું તે શીખવે છે.

AI ને વ્યવસાયમાં લાવવું એ સામાન્ય સોફ્ટવેર ઇન્સ્ટોલ કરવા જેટલું સરળ નથી. AI નિર્ણયોને પ્રભાવિત કરે છે, વ્યક્તિગત ડેટા પર પ્રક્રિયા કરે છે, કૉપિરાઇટ કરેલી સામગ્રી ઉત્પન્ન કરી શકે છે અને જ્યારે તે ભૂલો કરે છે ત્યારે જવાબદારી બનાવે છે. એટલા માટે દરેક સંસ્થા કે જે AIનો "ઉપયોગ કરે છે" તેને પણ એક ફ્રેમવર્કની જરૂર છે જે તેને "મેનેજ" કરે. આ પ્રથમ એકમમાં, અમે શા માટે લેખિત AI નીતિની જરૂર છે, શેડો AI ની મૂર્ત કિંમત અને શાસનના ત્રણ સ્તંભોને આવરી લઈએ છીએ.

શેડો એઆઈ શું છે અને તે શા માટે અનિવાર્ય છે?

શેડો AI એ સંસ્થાના જ્ઞાન, મંજૂરી અને નિયંત્રણ વિના AI નો ઉપયોગ છે. "શૅડો" શબ્દ "શૅડો આઇટી" નામ પરથી આવ્યો છે, જે IT વિભાગ દ્વારા મંજૂર ન હોય તેવા સૉફ્ટવેરને આપવામાં આવે છે. કર્મચારીઓ નીતિ સાથે અથવા વગર AI સાધનોનો ઉપયોગ કરવાનું શરૂ કરે છે; કારણ કે આ સાધનો મફત, ઝડપી છે અને તેમનું કાર્ય સરળ બનાવે છે. પ્રતિબંધ હોવા છતાં ઉપયોગ બંધ થતો નથી, તે ફક્ત તેને છુપાવે છે.

નીતિ વિના ઉપયોગ નીચેના નક્કર જોખમો બનાવે છે:

• ડેટા લીક: એક કર્મચારી અજાણતા AI ટૂલમાં ગોપનીય ગ્રાહક ડેટા અથવા કંપનીના રહસ્યો પેસ્ટ કરી શકે છે. ડેટા સંસ્થાના નિયંત્રણની બહાર જાય છે.
• પાલન ન કરવા બદલ દંડ: KVKK (પર્સનલ ડેટા પ્રોટેક્શન લો) ના ઉલ્લંઘનને પરિણામે લાખો લીરાનો વહીવટી દંડ થાય છે; GDPRનું ઉલ્લંઘન કરવાથી વાર્ષિક ટર્નઓવરના 4% સુધીનો દંડ થઈ શકે છે.
• ખોટી માહિતી પર આધારિત નિર્ણય: AI-ઉપજિત ખોટી માહિતી ("આભાસ") પર આધાર રાખીને લીધેલા નિર્ણયો ગ્રાહક અને સંસ્થાને નુકસાન પહોંચાડે છે.
• કૉપિરાઇટ અને બૌદ્ધિક સંપદા મુદ્દાઓ: આઉટપુટનો ઉપયોગ કોઈ બીજાની બૌદ્ધિક સંપત્તિનું ઉલ્લંઘન કરી શકે છે.
• પ્રતિષ્ઠાનું નુકસાન: જ્યારે પ્રેસમાં અનિયંત્રિત ઉપયોગની જાણ કરવામાં આવે છે, ત્યારે બ્રાન્ડનો વિશ્વાસ ડગમગી જાય છે.

સાવધાન: AI ના ઉપયોગ પર સંપૂર્ણપણે પ્રતિબંધ મૂકવો એ કોઈ ઉકેલ નથી. પ્રતિબંધ ઉપયોગને દૂર કરતું નથી; તે ફક્ત તેને અદ્રશ્ય અને અનિયંત્રિત બનાવે છે. તેનો હેતુ ઉપયોગને સમાપ્ત કરવાનો નથી, પરંતુ તેને સુરક્ષિત માળખામાં મૂકવાનો છે.

ત્રણ નાના કેસ: શેડો AI ની વાસ્તવિક કિંમત

કેસ 1 — લીક થયેલો કરાર. કાનૂની નિષ્ણાત ગોપનીય 40-પૃષ્ઠ મર્જર કરારનો સારાંશ આપવા માટે વ્યક્તિગત AI એકાઉન્ટમાં સંપૂર્ણ ટેક્સ્ટ પેસ્ટ કરે છે. કરાર હજુ સુધી જાહેરમાં ઉપલબ્ધ નથી. ટેક્સ્ટ પ્રદાતાના સર્વર પર પ્રક્રિયા કરવામાં આવે છે અને સંભવિત મોડેલ તાલીમ માટે ઉપલબ્ધ બને છે. કંપની સંભવિત માહિતી લીકના જોખમને દૂર કરવા માટે મર્જરમાં 3 અઠવાડિયા સુધી વિલંબ કરે છે; કન્સલ્ટન્સી ખર્ચ અંદાજે 250,000 TL વધે છે.

કેસ 2 - ભ્રામક ન્યાયશાસ્ત્ર. એટર્ની તેની અરજીમાં AI તરફથી ત્રણ "પૂર્વવર્તી નિર્ણયો" જોડે છે. નિર્ણય નંબરોમાંથી બે એવા નિર્ણયો છે જે વાસ્તવિકતામાં અસ્તિત્વમાં નથી. અદાલતને આનો અહેસાસ થાય છે; વકીલને શિસ્તની પ્રક્રિયા તેમજ પ્રતિષ્ઠા ગુમાવવાનો સામનો કરવો પડે છે. વન-લાઇન વેરિફિકેશન નિયમ (પ્રત્યેક સ્ત્રોતને અધિકૃત નિર્ણય પ્રણાલી સામે ચકાસો) આ સંકટને અટકાવી શક્યા હોત.

કેસ 3 - અદ્રશ્ય બચત. તે જ કંપનીમાં, માર્કેટિંગ ટીમ પ્રમાણિત એન્ટરપ્રાઇઝ AI ટૂલ વડે દર અઠવાડિયે 6 કલાક ઝડપથી ઝુંબેશ નકલ બનાવે છે. જો કે, આ બચતની ક્યાંય જાણ કરવામાં આવી નથી કારણ કે વપરાશ નોંધાયેલ નથી. મેનેજમેન્ટ નવા લાઇસન્સિંગ બજેટને નકારી કાઢે છે કારણ કે તે AIનો લાભ જોઈ શકતો નથી. શેડો AI માત્ર જોખમ જ નહીં પરંતુ લાભની દૃશ્યતાને પણ દૂર કરે છે.

સારી નીતિ શું સુનિશ્ચિત કરે છે?

સારી AI નીતિ પ્રતિબંધોની સૂચિ નથી; તે એક ફ્રેમવર્ક છે જે જવાબદાર ઉપયોગને સક્ષમ કરે છે. તે પાંચ વસ્તુઓ કરે છે:

1. સ્પષ્ટતા: કર્મચારી જાણે છે કે શું મંજૂર છે, શું પ્રતિબંધિત છે અને શું મંજૂરીને આધીન છે.
2. ટ્રસ્ટ: મેનેજમેન્ટ એ જાણીને નવા પ્રોજેક્ટ્સને મંજૂર કરી શકે છે કે એઆઈનો ઉપયોગ નિયંત્રિત રીતે થઈ રહ્યો છે.
3. પાલન: કાનૂની જવાબદારીઓ (KVKK, GDPR, EU AI કાયદો) વ્યવસ્થિત રીતે પૂરી થાય છે.
4. સુસંગતતા: વિવિધ ટીમો સમાન નિયમોનું પાલન કરે છે.
5. જવાબદારી: જ્યારે કોઈ સમસ્યા હોય, ત્યારે તે સ્પષ્ટ થાય છે કે કોણ જવાબદાર છે.

શાસન શું છે? ત્રણ ફૂટ

AI ગવર્નન્સ એ નિયમો અને પ્રક્રિયાઓનો સમૂહ છે જે નિર્ધારિત કરે છે કે આર્ટિફિશિયલ ઇન્ટેલિજન્સ કેવી રીતે પસંદ કરવામાં આવશે, ઉપયોગ કરવામાં આવશે, નિયંત્રિત કરવામાં આવશે અને સંસ્થામાં તેના માટે કોણ જવાબદાર હશે. નીતિ આ શાસનનો લેખિત દસ્તાવેજ છે; શાસન એ જીવન પ્રણાલી છે જે નીતિને જીવનમાં લાવે છે. તે ત્રણ પગ પર બાંધવામાં આવે છે:

પગ

અર્થ

AI નીતિમાં ઉદાહરણ

માનવ

ભૂમિકાઓ અને જવાબદારીઓ

એઆઈ કંટ્રોલર, એપ્રૂવિંગ મેનેજર, ડેટા પ્રોટેક્શન ઓફિસર

પ્રક્રિયા

નિયમો અને પ્રવાહો

નવી વાહન મંજૂરી પ્રક્રિયા, નિયમિત તપાસ, ઘટના પ્રતિભાવ

ટેકનોલોજી

સાધનો અને નિયંત્રણો

માન્ય વાહન સૂચિ, ઍક્સેસ નિયંત્રણ, રેકોર્ડ રાખવા

જો ત્રણમાંથી એક સ્તંભ ખૂટે છે, તો માળખું પડી ભાંગે છે: નિયમ વિના, સાધન નકામું છે, સાધન વિના, નિયમ નિયંત્રિત કરી શકાતો નથી, જવાબદારી વિના, કોઈની માલિકી બની શકતી નથી.

એક વિભાગ આ કામ કરી શકે નહીં.

AI પોલિસી એ માત્ર IT વિભાગનું કામ નથી. સફળ ફ્રેમવર્ક માટે વિવિધ એકમોની ભાગીદારી જરૂરી છે: કાનૂની/પાલન (કાનૂની જવાબદારીઓ અને કરારો), IT/સુરક્ષા (તકનીકી નિયંત્રણો અને ડેટા સુરક્ષા), માનવ સંસાધનો (કર્મચારી તાલીમ અને આચાર સંહિતા), વ્યવસાય એકમો (વાસ્તવિક ઉપયોગની જરૂરિયાતો) અને વરિષ્ઠ સંચાલન (મંજૂરી, સોર્સિંગ અને કોર્પોરેટ માલિકી).

ટીપ: તમે પોલિસી લખવાનું શરૂ કરો તે પહેલાં દરેક હિતધારક એકમના પ્રતિનિધિ સાથે 30-મિનિટની મીટિંગ કરો. "તમે હાલમાં શેના માટે AI નો ઉપયોગ કરી રહ્યા છો અથવા તેનો ઉપયોગ કરવા માંગો છો?" પ્રશ્ન વાસ્તવિક જરૂરિયાતો અને વર્તમાન પડછાયાનો ઉપયોગ બંને દર્શાવે છે.

AI ને કામ પર મૂકવું: નકલ કરી શકાય તેવા નમૂનાઓ

ગવર્નન્સ ફ્રેમવર્ક સેટ કરતી વખતે AI પોતે એક સહાયક છે - જ્યાં સુધી તેનું આઉટપુટ માન્ય છે. નીચેના નમૂનાઓ આ એકમના કાર્યને ઝડપી બનાવે છે.

ટેમ્પલેટ 1 — બેઝલાઈન (શેડો AI) સ્કેનિંગ માટે સર્વે: "અમારી સંસ્થામાં AIના ઉપયોગને મેપ કરવા માટે 8-પ્રશ્નોનો અનામી કર્મચારી સર્વેક્ષણ ડ્રાફ્ટ તૈયાર છે. પ્રશ્નો આવરી લેવા જોઈએ: કયા સાધનો, કયા કાર્યો, કયા ડેટા પ્રકારો દાખલ કર્યા છે, તાલીમની જરૂર છે. આઉટપુટ: ક્રમાંકિત પ્રશ્નો + દરેક પ્રશ્ન માટે જવાબનો પ્રકાર (બહુવિધ પસંદગી/ઓપન)."

નમૂનો 2 — જોખમનો સારાંશ બનાવો: "નીચેના AI ઉપયોગના કેસને ધ્યાનમાં લો: [પેસ્ટ દૃશ્ય]. નીચેના શીર્ષકો હેઠળ મને સંક્ષિપ્ત જોખમ સારાંશ આપો: ડેટા ગોપનીયતા, અનુપાલન, આભાસ, રોયલ્ટી, પ્રતિષ્ઠા. લેબલ 'નીચું/મધ્યમ/ઉચ્ચ' અને એક-વાક્યનું તર્ક. દરેક હેડિંગની સમીક્ષા માટે માત્ર કાનૂની સલાહ આપવા માટે.

ટેમ્પલેટ 3 — સ્ટેકહોલ્ડર મીટિંગ એજન્ડા: "એઆઈ ગવર્નન્સ ફ્રેમવર્ક શરૂ કરવા માટે 60-મિનિટનો બોર્ડ મીટિંગ એજન્ડા તૈયાર કરો. સહભાગીઓ: કાનૂની, IT, એચઆર, બિઝનેસ યુનિટ, સિનિયર મેનેજમેન્ટ. દરેક એજન્ડા આઇટમ માટે સમયગાળો અને અપેક્ષિત આઉટપુટ લખો."

નમૂનો 4 — મેનેજમેન્ટ માટે ટૂંકી બ્રીફિંગ: "વરિષ્ઠ મેનેજમેન્ટ સમક્ષ રજૂ કરવા માટે 'અમને AI પોલિસીની જરૂર કેમ છે' શીર્ષકવાળી અડધા પાનાની બ્રીફિંગ લખો. 3 નક્કર જોખમો + 3 નક્કર લાભો શામેલ કરો; તકનીકી શબ્દકોષનો ઉપયોગ કરશો નહીં; છેલ્લી લીટીમાં સ્પષ્ટ નિર્ણય વિનંતી કરો."

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળી: "એઆઈ નીતિ લખો."-> મોડેલ એક સામાન્ય, બિન-સંસ્થાકીય, બિન-ઓડિટેબલ ટેક્સ્ટનું નિર્માણ કરે છે; ડેટા વર્ગો, ભૂમિકાઓ અને નિયમનકારી સંદર્ભને પ્રતિબિંબિત કરતું નથી. GÜÇLÜ: "અમે 50 લોકોની વીમા કંપની છીએ, KVKK ને આધીન, અમે ગ્રાહક આરોગ્ય ડેટા પર પ્રક્રિયા કરીએ છીએ. AI નીતિના 'સ્કોપ' અને 'પ્રતિબંધિત ઉપયોગો' વિભાગો માટે ડ્રાફ્ટ પ્રસ્તાવિત કરો. અંતિમ ચુકાદો લાદશો નહીં; દરેક લેખમાં 'કાનૂની મંજૂરી જરૂરી' નોંધ ઉમેરો અને મારા માટે અવકાશ છોડી દો." નિર્ણય તમારી પાસે રહે છે.

સામાન્ય ભૂલો

• AI ના ઉપયોગ પર સંપૂર્ણ પ્રતિબંધ મૂકવો અને શેડો AI ને અદ્રશ્ય બનાવવું.
• IT ને માત્ર પોલિસી લખવા દો અને વ્યવસાયિક એકમોની વાસ્તવિક જરૂરિયાતોને બાદ કરતાં.
• હાલના શેડો વપરાશ મેપિંગમાંથી સીધા નિયમો લખવાનું શરૂ કરી રહ્યા છીએ.
• પોલિસીને કાયદાકીય ભાષામાં એવી રીતે લખવી કે જે કર્મચારી સમજી ન શકે.
• AI દ્વારા નિર્મિત પોલિસી ડ્રાફ્ટને કાનૂની મંજૂરી વિના અમલમાં મૂકવો.
• જોખમ વિશે વાત કરવી પરંતુ લાભને માપવા નહીં; આમ વહીવટીતંત્રનો ટેકો ગુમાવવો.
• પોલિસી એકવાર લખવી અને તેને અપડેટ કરવાનું ભૂલી જવું; જ્યારે શાસન એ જીવંત વ્યવસ્થા છે.

સારાંશમાં

• નીતિઓ વિનાની સંસ્થાઓમાં શેડો AI અનિવાર્ય છે અને ડેટા, અનુપાલન અને પ્રતિષ્ઠાનું જોખમ ઊભું કરે છે.
• સારી નીતિ એ પ્રતિબંધની સૂચિ નથી; તે એક ફ્રેમવર્ક છે જે જવાબદાર ઉપયોગને સક્ષમ કરે છે.
• AI ગવર્નન્સ લોકો (ભૂમિકાઓ), પ્રક્રિયા (નિયમો) અને ટેકનોલોજી (નિયંત્રણો) પર બનેલ છે; જો કોઈ ખૂટે છે તો તે ક્રેશ થાય છે.
• નીતિ કોઈ એક વિભાગની જવાબદારી નથી; તે કાયદો, IT, HR, બિઝનેસ યુનિટ્સ અને સિનિયર મેનેજમેન્ટનું સંયુક્ત કાર્ય છે.
• AI ફ્રેમવર્ક સેટ કરવામાં મદદ કરી શકે છે, પરંતુ દરેક આઉટપુટને માનવીય અને કાનૂની મંજૂરીમાંથી પસાર થવું જોઈએ.

એપ્લિકેશન કાર્ય

તમે જે સંસ્થા માટે કામ કર્યું હોય અથવા જેનું સપનું હોય તે સંસ્થા પસંદ કરો (ઉદ્યોગ, કર્મચારીઓની સંખ્યા અને ડેટાનો પ્રકાર જે તે પ્રક્રિયા કરે છે તે સ્પષ્ટ થવા દો). પ્રથમ શેડો AI સ્ક્રીનીંગ માટે 8-પ્રશ્ન સર્વેક્ષણનો મુસદ્દો તૈયાર કરો (તમે ટેમ્પલેટ 1 નો ઉપયોગ કરી શકો છો). પછી ત્રણ નક્કર જોખમો લખો કે જે છાયા AI આ સંસ્થામાં પેદા કરી શકે છે, દરેકમાં સંખ્યાત્મક અંદાજિત અસર (દંડ, વિલંબ, ખોવાયેલા કલાકો) ઉમેરીને. છેલ્લે, શાસનના ત્રણેય સ્તંભો (લોકો, પ્રક્રિયા, ટેકનોલોજી) માટે તમારી સંસ્થા માટે વિશિષ્ટ ઉદાહરણો ઓળખો અને નોંધ કરો કે આ સ્તંભ માટે કયું હિતધારક એકમ જવાબદાર હશે.

ચેકલિસ્ટ

• [ ] મેં મારી સંસ્થામાં વર્તમાન (શેડો) AI વપરાશને મેપ કર્યો છે.
• [ ] મેં સંખ્યાત્મક અસર સાથે નીતિના અભાવના ત્રણ નક્કર જોખમો લખ્યા છે.
• [ ] મેં એક બ્રીફિંગ તૈયાર કર્યું જેમાં મેનેજમેન્ટને AI ના જોખમ અને લાભ બંનેની જાણકારી આપવામાં આવી હતી.
• મેં એક સંસ્થા-વિશિષ્ટ ઉદાહરણ અને શાસનના ત્રણ સ્તંભો માટે જવાબદાર વ્યક્તિ નક્કી કરી છે.
• [ ] મેં પ્રક્રિયામાં ઓછામાં ઓછા ત્રણ હિતધારક એકમોનો સમાવેશ કરવાની યોજના બનાવી છે.
• [ ] હું AI સાથે તૈયાર કરું છું તે દરેક ડ્રાફ્ટને કાનૂની/અનુપાલન મંજૂરીને આધીન છું.