નફો:
- EU AI કાયદાના ચાર જોખમ વર્ગો અને પ્રતિબંધિત પ્રથાઓને માન્યતા આપવી
- ઉપયોગ કઈ જોખમ શ્રેણીમાં આવે છે તેનું વ્યાજબી મૂલ્યાંકન
- ઉચ્ચ જોખમ અને સામાન્ય હેતુની AI જવાબદારીઓ શા માટે ટર્કિશ કંપનીઓને અસર કરે છે તે સમજો
EU આર્ટિફિશિયલ ઇન્ટેલિજન્સ એક્ટ (EU AI એક્ટ), જે 2024 માં અમલમાં આવે છે, તે વિશ્વનું પ્રથમ વ્યાપક AI નિયમન છે અને તેની અસર યુરોપિયન યુનિયનની સરહદોની બહાર સુધી વિસ્તરે છે. આ કાયદો Türkiye સ્થિત પરંતુ EU માર્કેટમાં સેવા આપતી, EU ગ્રાહકો ધરાવતી અથવા EU ને ઉત્પાદનો વેચતી કંપની માટે સીધો બંધનકર્તા હોઈ શકે છે. આ એકમમાં, તમે કાયદાનું મૂળભૂત તર્ક શીખી શકશો — તેનો જોખમ-આધારિત અભિગમ — તેના ચાર વર્ગો, પ્રતિબંધિત વ્યવહારો અને ઉચ્ચ જોખમની જવાબદારીઓ સાથે; અમે મૂલ્યાંકન કરવાનો પ્રયાસ કરીશું કે ઉપયોગ કયા બૉક્સમાં આવે છે.
મૂળભૂત વિચાર: જોખમ જેટલું ઊંચું છે, તેટલો કડક નિયમ
EU AI કાયદો તમામ AI ને એકસાથે ગંઠાતો નથી. તે કૃત્રિમ બુદ્ધિ પ્રણાલીને તેના સંભવિત નુકસાન અનુસાર ચાર શ્રેણીઓમાં વિભાજિત કરે છે અને દરેક શ્રેણી પર વિવિધ જવાબદારીઓ લાદે છે. સંગીતની ભલામણમાં હાયરિંગ સ્ક્રિનિંગ સિસ્ટમ જેટલું જોખમ હોતું નથી; કાયદો તેમને સમાન નિયમ લાગુ પાડતો નથી. આ જોખમ આધારિત અભિગમ કાયદાની કરોડરજ્જુ છે.
જોખમ વર્ગ
અર્થ
ઉદાહરણ
નિયમ
પ્રતિબંધિત (અસ્વીકાર્ય)
મૂળભૂત અધિકારો માટે ખુલ્લી ધમકી
સામાજિક સ્કોરિંગ, અર્ધજાગ્રત મેનીપ્યુલેશન
સંપૂર્ણ પ્રતિબંધ
ઉચ્ચ જોખમ
તે માનવ જીવનને ગંભીર અસર કરે છે
ભરતી, ધિરાણ, આરોગ્યસંભાળ, શિક્ષણ, જટિલ ઇન્ફ્રાસ્ટ્રક્ચર
કડક જવાબદારી
મર્યાદિત જોખમ
પારદર્શિતાની જરૂર છે
ચેટ બોટ, ડીપફેક, એઆઈ સામગ્રી
માહિતી ફરજિયાત છે
ન્યૂનતમ જોખમ
નજીવું જોખમ
સ્પામ ફિલ્ટર, ગેમ AI, ભલામણ એન્જિન
મફત
પ્રતિબંધિત એપ્લિકેશન્સ: લાલ રેખા
AI ના કેટલાક ઉપયોગો એટલા હાનિકારક માનવામાં આવે છે કે ગમે તેટલું જોખમ ઓછું કરવામાં આવે તો પણ તેને બહાર પાડી શકાતું નથી. આ પ્રતિબંધિત (અસ્વીકાર્ય જોખમ) શ્રેણીમાં છે:
- રાજ્ય-સમર્થિત સામાજિક સ્કોરિંગ (લોકોને તેમની વર્તણૂક/લાક્ષણિકતાઓ અનુસાર સ્કોર કરવા અને તેમને ગેરલાભ ઉઠાવવા).
- સિસ્ટમો કે જે લોકોના અર્ધજાગ્રતમાં હેરફેર કરે છે અને નુકસાન પહોંચાડે છે.
- સિસ્ટમો જે વય અને અપંગતા જેવી નબળાઈઓનું શોષણ કરે છે.
- ચોક્કસ રીઅલ-ટાઇમ બાયોમેટ્રિક ઓળખ અને સામૂહિક સર્વેલન્સ એપ્લિકેશન્સ (સંકુચિત અપવાદો સાથે).
- કાર્યસ્થળ અને શિક્ષણમાં લાગણીની ઓળખ જેવી વિશિષ્ટ એપ્લિકેશન.
ધ્યાન: હકીકત એ છે કે ઉપયોગ "પ્રતિબંધિત" શ્રેણીમાં છે તે કોઈ અવરોધ નથી જેને "મારી પાસે એક સારું કારણ છે" કહીને દૂર કરી શકાય છે. આ પ્રથાઓ સંપૂર્ણપણે પ્રતિબંધિત છે; જોખમ ઘટાડવાના પગલાં સાથે પણ મુક્ત કરી શકાતું નથી. આ સૂચિમાં પ્રોજેક્ટનો સમાવેશ થાય છે કે કેમ તે પ્રથમ તપાસ કરવાની રહેશે.
ઉચ્ચ જોખમ જવાબદારીઓ
ઉચ્ચ જોખમવાળી સિસ્ટમો પ્રતિબંધિત નથી પરંતુ કડક શરતોને આધીન છે. લાક્ષણિક ઉચ્ચ જોખમવાળા વિસ્તારો: ભરતી અને કર્મચારી વ્યવસ્થાપન, ધિરાણ અને વીમો, શિક્ષણ અને પરીક્ષાનું મૂલ્યાંકન, આરોગ્યસંભાળ, જટિલ ઈન્ફ્રાસ્ટ્રક્ચર, કાયદાનો અમલ અને ઈમિગ્રેશન. આ સિસ્ટમોમાં લાક્ષણિક જવાબદારીઓ:
- જોખમ વ્યવસ્થાપન પ્રણાલીની સ્થાપના અને જાળવણી.
- ડેટા ગુણવત્તા અને પૂર્વગ્રહ સંચાલન (પ્રશિક્ષણ ડેટાનું પ્રતિનિધિ અને સચોટ).
- ટેકનિકલ દસ્તાવેજીકરણ અને રેકોર્ડ રાખવા (ટ્રેસેબિલિટી).
- પારદર્શિતા અને વપરાશકર્તાને માહિતી પ્રદાન કરવી.
- માનવ નિયંત્રણ (દખલગીરી અને ઓવરરાઇડ કરવાની માનવ ક્ષમતા).
- ચોકસાઈ, મજબૂતાઈ અને સાયબર સુરક્ષા ખાતરીઓ.
સામાન્ય હેતુ AI (GPAI) જવાબદારીઓ
કાયદો સામાન્ય-હેતુના AI મોડલ્સ (GPAI) પર ચોક્કસ પારદર્શિતા અને દસ્તાવેજીકરણની જવાબદારીઓ લાદે છે - એટલે કે, મોટા ભાષાના મોડલ જેવા બહુહેતુક બેઝ મોડેલ્સ — તેમજ વ્યક્તિગત ઉપયોગો પર: તાલીમ ડેટા પર સારાંશની જોગવાઈ, કૉપિરાઇટ પાલન નીતિ, પ્રણાલીગત જોખમ ધરાવતા મોડલ્સ માટે વધારાનું મૂલ્યાંકન. જો કોઈ સંસ્થા આ મોડેલોને તેના પોતાના ઉત્પાદનમાં એમ્બેડ કરે છે, તો આમાંની કેટલીક જવાબદારીઓ સાંકળમાં પ્રતિબિંબિત થઈ શકે છે.
ત્રણ નાના કેસો
કેસ 1 - ભરતી સ્ક્રીનીંગ (ઉચ્ચ જોખમ). ઇઝમિરમાં એક સોફ્ટવેર કંપની EU કંપનીઓને સેવા આપતું ભરતી પ્લેટફોર્મ વિકસાવે છે; સિસ્ટમ આપમેળે ઉમેદવારોને સ્કોર કરે છે અને દૂર કરે છે. આ એવો વિસ્તાર છે જેને કાયદો સ્પષ્ટપણે ઉચ્ચ જોખમ માને છે. કંપની; ડેટા ગુણવત્તા, પૂર્વગ્રહ પરીક્ષણ, માનવ ઑડિટિંગ અને દસ્તાવેજીકરણની જવાબદારીઓને પૂર્ણ કરવી આવશ્યક છે. દલીલ "અમે તુર્કીમાં છીએ, તે અમને બાંધતું નથી" અમાન્ય છે; EU માર્કેટમાં સિસ્ટમનો ઉપયોગ થતો હોવાથી, કાયદો લાગુ થાય છે.
કેસ 2 - ગ્રાહક ચેટબોટ (મર્યાદિત જોખમ). એક ઈ-કોમર્સ સાઇટ તેના EU ગ્રાહકોને સેવા આપતી ચેટબોટ તૈનાત કરે છે. આ મર્યાદિત જોખમ શ્રેણીમાં છે; મુખ્ય જવાબદારી પારદર્શિતા છે: વપરાશકર્તાને સ્પષ્ટપણે જાણ કરવી જોઈએ કે "તમે કૃત્રિમ બુદ્ધિ સાથે વાત કરી રહ્યા છો". આ છુપાવવું એ ઉલ્લંઘન છે; તે સ્પષ્ટ કરવા માટે પૂરતું છે.
કેસ 3 - પ્રતિબંધિત રેખાની નજીક જવું. રિટેલ ચેઇન સ્ટોર કેમેરા દ્વારા ગ્રાહકોની ભાવનાત્મક પ્રતિક્રિયાઓનું વિશ્લેષણ કરવા અને "સંભવિત શોપલિફ્ટર" સ્કોર આપવા માંગે છે. આ લાગણીની ઓળખ અને સ્કોરિંગ પરિમાણો બંને સાથે પ્રતિબંધિત/ખૂબ જ ઉચ્ચ જોખમવાળા ક્ષેત્રમાં આવે છે. કાનૂની ટીમ પ્રોજેક્ટને ડિઝાઇન તબક્કે અટકાવે છે; તે સ્પષ્ટ છે કે જોખમ ઘટાડવાના પગલાં સાથે પણ તેનો અમલ કરી શકાતો નથી.
ટીપ: નવો AI પ્રોજેક્ટ શરૂ કરતી વખતે પહેલો પ્રશ્ન એ છે કે "આ કેટલું ઉપયોગી છે?" પરંતુ તેના બદલે "આ કયા જોખમ વર્ગમાં આવે છે?" હોવું જોઈએ. પ્રથમ સ્થાને વર્ગીકરણ કરવાથી પ્રોજેક્ટ પર સંસાધનોનો બગાડ ટાળે છે જે પછીથી રદ કરવામાં આવશે.
નકલ કરી શકાય તેવા નમૂનાઓ
નમૂનો 1 — જોખમ વર્ગનું પ્રારંભિક મૂલ્યાંકન: "EU AI કાયદા અનુસાર નીચેના AI ઉપયોગનું પૂર્વ-મૂલ્યાંકન કરો: [ઉપયોગનું વર્ણન કરો]. તે ક્યા જોખમ વર્ગ (પ્રતિબંધિત/ઉચ્ચ/મર્યાદિત/ન્યૂનતમ)માં આવી શકે છે, તે વાજબીતા સાથે જણાવો. 'કાનૂની પુષ્ટિ જરૂરી' તરીકે તમને ખાતરી ન હોય તેવા મુદ્દાઓને ચિહ્નિત કરો; કાનૂની નિર્ણાયક નિર્ણય ન કરો."
ટેમ્પલેટ 2 — પ્રતિબંધિત એપ્લિકેશન સ્કેનિંગ: "નીચેના પ્રોજેક્ટ વિચારને ફક્ત 'EU AI એક્ટ પ્રતિબંધિત એપ્લિકેશન્સ' સૂચિની વિરુદ્ધ સ્કેન કરો: [પ્રોજેક્ટનું વર્ણન કરો]. શું સામાજિક સ્કોરિંગ, અર્ધજાગ્રત મેનીપ્યુલેશન, નબળાઈ શોષણ, અનધિકૃત બાયોમેટ્રિક સર્વેલન્સ, લાગણી/જાતિની માન્યતા અને દરેક ન્યાયિકતાના સંદર્ભમાં કોઈ જોખમ છે.
નમૂનો 3 — ઉચ્ચ-જોખમ જવાબદારી ચેકલિસ્ટ: "આ ઉચ્ચ-જોખમ AI ઉપયોગ માટે, [ઉપયોગનું વર્ણન કરો] છ જવાબદારી શીર્ષકો (જોખમ વ્યવસ્થાપન, ડેટા ગુણવત્તા, દસ્તાવેજીકરણ, પારદર્શિતા, માનવ ઑડિટિંગ, મજબૂતાઈ) પર 'આપણી વર્તમાન પરિસ્થિતિ, શું ખૂટે છે' કોષ્ટક બનાવે છે. દરેક હરોળમાં નક્કર પગલાં સૂચવો."
ટેમ્પલેટ 4 — પારદર્શિતા સૂચના (મર્યાદિત જોખમ): "EU વપરાશકર્તાઓને સેવા આપતા ચેટબોટ માટે, વપરાશકર્તાને પ્રદર્શિત કરવા માટે ટૂંકું 'તમે AI સાથે વાત કરી રહ્યાં છો' સૂચના લખો. સરળ, આશ્વાસન આપનાર, મહત્તમ 2 વાક્યો. માનવ એજન્ટ પર સ્વિચ કરવાનો વિકલ્પ શામેલ કરો."
નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ
નબળા: "શું EU AI કાયદો અમને ચિંતા કરે છે?"-> મોડેલ સામાન્ય જવાબ આપે છે; તે તમારા કોંક્રિટ ઉપયોગને વર્ગીકૃત કરતું નથી, તે EU બજાર સાથેના તમારા જોડાણનું મૂલ્યાંકન કરતું નથી. GÜÇLÜ: "અમે ઇઝમિરમાં સ્થિત એક કંપની છીએ, અમે જર્મનીની કંપનીને ભરતી અને સ્ક્રિનિંગ AI વેચીએ છીએ. EU AI કાયદા હેઠળ આનો ઉપયોગ કયા જોખમ વર્ગમાં થાય છે, અમારા પર કઈ જવાબદારીઓ આવે છે અને તુર્કીમાં રહેવાથી અમને મુક્તિ કેમ મળતી નથી? જ્યાં તમને ખાતરી ન હોય ત્યાં ચિહ્નિત કરો." -> મોડેલ સંદર્ભ-વિશિષ્ટ વર્ગીકરણ અને જવાબદારી સૂચિ બનાવે છે.
સામાન્ય ભૂલો
- વિચારીને "અમે તુર્કીમાં છીએ, EU કાયદો અમને બંધનકર્તા નથી"; જો કે, EU બજારને સ્પર્શવું પૂરતું છે.
- પ્રોજેક્ટ વિકસાવ્યા પછી જોખમનું વર્ગીકરણ કરવું; જો કે, તે પ્રથમ સ્થાને થવું જોઈએ.
- પ્રતિબંધિત પ્રથાને અવરોધ તરીકે ભૂલવી જે "સારા વાજબીપણું" વડે દૂર કરી શકાય છે.
- મર્યાદિત જોખમ પ્રણાલીઓમાં પારદર્શિતા રિપોર્ટિંગને બાયપાસ કરીને (બોટને માનવ જેવો દેખાવ કરવો).
- ઉચ્ચ જોખમી જવાબદારીઓમાંથી માનવ ઓડિટ અને પૂર્વગ્રહ વ્યવસ્થાપનની અવગણના.
- સામાન્ય ઉદ્દેશ્ય AI (GPAI) જવાબદારીઓને નજરઅંદાજ કરવાથી સાંકળ ફરી વળી શકે છે.
- EU AI કાયદાને KVKK સાથે બદલો; તેઓ અલગ છે પરંતુ પૂરક છે.
સારાંશમાં
- EU AI કાયદો જોખમ-આધારિત અભિગમ અપનાવે છે અને AI ને ચાર વર્ગોમાં વિભાજિત કરે છે: પ્રતિબંધિત, ઉચ્ચ, મર્યાદિત, ન્યૂનતમ.
- પ્રતિબંધિત પ્રથાઓ (સામાજિક સ્કોરિંગ, મેનીપ્યુલેશન, વગેરે) જોખમ ઘટાડવામાં આવે તો પણ મુક્ત કરી શકાશે નહીં.
- ઉચ્ચ જોખમ સિસ્ટમો; તે જોખમ સંચાલન, ડેટા ગુણવત્તા, માનવ નિયંત્રણ અને દસ્તાવેજીકરણ જેવી કડક જવાબદારીઓને આધીન છે.
- મર્યાદિત જોખમ પ્રણાલીઓમાં, મુખ્ય જવાબદારી પારદર્શિતા છે (એઆઈ છે તેની જાણ કરવી).
- EU બજારને સ્પર્શતી ટર્કિશ કંપનીઓ પણ કાયદાથી પ્રભાવિત થાય છે; વર્ગીકરણ પ્રોજેક્ટની શરૂઆતમાં જ થવું જોઈએ.
એપ્લિકેશન કાર્ય
AI ના ત્રણ અલગ-અલગ ઉપયોગોને ધ્યાનમાં લો કે જે તમારી સંસ્થા (અથવા કાલ્પનિક કંપની) EU માર્કેટના સંબંધમાં ઉપયોગ કરી શકે છે. દરેકને EU AI એક્ટના ચાર જોખમ વર્ગોમાંથી એકમાં મૂકો અને તમારું સમર્થન લખો. કંટ્રોલ ચાર્ટમાં તમને સૌથી વધુ જોખમ લાગે તેવા ઉપયોગ માટે છ ઉચ્ચ-જોખમ જવાબદારીઓ મૂકો: "વર્તમાન સ્થિતિ" અને "અપૂર્ણ/ક્રિયા" કૉલમ ભરો. એક પારદર્શિતા નિવેદન લખો જે મર્યાદિત જોખમ શ્રેણીમાં આવતા ઉપયોગ માટે વપરાશકર્તાને પ્રદર્શિત કરવામાં આવશે. છેલ્લે, જો તમારો કોઈપણ ઉપયોગ પ્રતિબંધિત રેખાની નજીક આવી રહ્યો હોય, તો તે અને શા માટે નોંધ કરો.
ચેકલિસ્ટ
- [ ] મેં AI ના દરેક ઉપયોગને ચારમાંથી એક જોખમ વર્ગમાં મૂક્યો છે.
- [ ] મેં મારા પ્રોજેક્ટ્સને પ્રતિબંધિત એપ્લિકેશન્સની સૂચિ સામે સ્કેન કર્યા છે.
- [ ] મેં ઉચ્ચ જોખમ વપરાશ માટે જવાબદારી નિયંત્રણ ચાર્ટ બનાવ્યો છે.
- [ ] મેં માનવીય ઓડિટીંગ અને પૂર્વગ્રહ વ્યવસ્થાપનને જવાબદારીઓમાં સામેલ કર્યું છે.
- [ ] મેં મર્યાદિત જોખમના ઉપયોગ માટે પારદર્શિતા નિવેદન તૈયાર કર્યું છે.
- [ ] હું સમજું છું કે શા માટે મારા EU માર્કેટ કનેક્શન કાયદાને ટ્રિગર કરે છે.
- [ ] મેં જોખમનું વર્ગીકરણ પ્રોજેક્ટની શરૂઆતમાં કર્યું હતું, અંતે નહીં.