लाभ:
- EU AI कानूनको चार जोखिम वर्ग र निषेधित अभ्यासहरूलाई मान्यता दिँदै
- प्रयोग कुन जोखिम वर्गमा पर्दछ भन्ने उचित मूल्याङ्कन
- बुझ्नुहोस् किन उच्च जोखिम र सामान्य उद्देश्य AI दायित्वहरूले टर्की कम्पनीहरूलाई असर गर्छ
२०२४ मा लागू हुने EU आर्टिफिसियल इन्टेलिजेन्स ऐन (EU AI Act), विश्वको पहिलो बृहत एआई नियमन हो र यसको प्रभाव युरोपेली संघको सिमानाभन्दा बाहिर फैलिएको छ। यो कानून टर्किएमा आधारित तर EU बजारमा सेवा गर्ने, EU ग्राहकहरू भएको वा EU लाई उत्पादनहरू बेच्ने कम्पनीका लागि प्रत्यक्ष रूपमा बाध्यकारी हुन सक्छ। यस एकाइमा, तपाईंले कानूनको आधारभूत तर्क - यसको जोखिममा आधारित दृष्टिकोण - यसको चार वर्गहरू, निषेधित अभ्यासहरू र उच्च जोखिम दायित्वहरू सिक्नुहुनेछ; हामी कुन बक्समा प्रयोग हुन्छ भनेर मूल्याङ्कन गर्ने प्रयास गर्नेछौं।
आधारभूत विचार: उच्च जोखिम, कडा नियम
EU AI कानूनले सबै AI लाई एकै ठाउँमा जोड्दैन। यसले आर्टिफिसियल इन्टेलिजेन्स प्रणालीलाई यसको सम्भावित हानि अनुसार चार कोटिमा विभाजन गर्दछ र प्रत्येक श्रेणीमा फरक दायित्वहरू लगाउँछ। एक संगीत सिफारिसले भर्ती स्क्रीनिङ प्रणाली जस्तै जोखिम बोक्दैन; कानुनले उनीहरूलाई एउटै नियम लागू गर्दैन। यो जोखिममा आधारित दृष्टिकोण कानूनको मेरुदण्ड हो।
जोखिम वर्ग
अर्थ
उदाहरण
नियम
निषेधित (अस्वीकार्य)
मौलिक हकमा खुल्ला खतरा
सामाजिक स्कोरिंग, अवचेतन हेरफेर
पूर्ण प्रतिबन्ध
उच्च जोखिम
यसले मानव जीवनमा गम्भीर असर गर्छ
भर्ती, ऋण, स्वास्थ्य सेवा, शिक्षा, महत्वपूर्ण पूर्वाधार
कडा दायित्व
सीमित जोखिम
पारदर्शिता चाहिन्छ
च्याट बोट, डीपफेक, एआई सामग्री
जानकारी अनिवार्य छ
न्यूनतम जोखिम
नगण्य जोखिम
स्प्याम फिल्टर, खेल एआई, सिफारिस इन्जिन
नि:शुल्क
निषेधित एपहरू: रातो रेखा
AI का केही प्रयोगहरू यति हानिकारक मानिन्छन् कि जतिसुकै जोखिम कम भए पनि तिनीहरूलाई छोड्न सकिँदैन। यी निषेधित (अस्वीकार्य जोखिम) श्रेणीमा छन्:
- राज्य-समर्थित सामाजिक स्कोरिङ (मानिसहरूलाई तिनीहरूको व्यवहार/विशेषता अनुसार स्कोर गर्ने र तिनीहरूलाई बेफाइदा गर्ने)।
- प्रणालीहरू जसले मानिसहरूको अवचेतनलाई हेरफेर गर्छ र हानि गर्छ।
- उमेर र असक्षमता जस्ता कमजोरीहरूको शोषण गर्ने प्रणालीहरू।
- निश्चित वास्तविक समय बायोमेट्रिक पहिचान र सामूहिक निगरानी अनुप्रयोगहरू (साँघुरो अपवादहरूको साथ)।
- कार्यस्थल र शिक्षामा भावना पहिचान जस्ता विशिष्ट अनुप्रयोगहरू।
ध्यान दिनुहोस्: तथ्य यो हो कि प्रयोग "निषिद्ध" कोटिमा छ "मसँग राम्रो कारण छ" भनेर पार गर्न सकिने बाधा होइन। यी अभ्यासहरू पूर्ण रूपमा निषेधित छन्; जोखिम न्यूनीकरणका उपायहरू पनि जारी गर्न सकिँदैन। यो सूचीमा परियोजना समावेश छ कि छैन भनेर पहिलो जाँच गर्नु पर्छ।
उच्च जोखिम दायित्वहरू
उच्च जोखिम प्रणालीहरू निषेधित छैनन् तर कडा सर्तहरूको अधीनमा छन्। विशिष्ट उच्च जोखिम क्षेत्रहरू: भर्ती र कर्मचारी व्यवस्थापन, क्रेडिट र बीमा, शिक्षा र परीक्षा मूल्याङ्कन, स्वास्थ्य सेवा, महत्वपूर्ण पूर्वाधार, कानून प्रवर्तन र आप्रवासन। यी प्रणालीहरूमा विशिष्ट दायित्वहरू:
- जोखिम व्यवस्थापन प्रणाली स्थापना र कायम गर्ने।
- डाटा गुणस्तर र पूर्वाग्रह व्यवस्थापन (प्रतिनिधि र प्रशिक्षण डाटा को सही)।
- प्राविधिक दस्तावेज र अभिलेख राख्ने (ट्रेसेबिलिटी)।
- पारदर्शिता र प्रयोगकर्तालाई जानकारी प्रदान गर्ने।
- मानव नियन्त्रण (हस्तक्षेप र ओभरराइड गर्ने मानव क्षमता)।
- शुद्धता, बलियोता र साइबर सुरक्षा आश्वासनहरू।
सामान्य उद्देश्य AI (GPAI) दायित्वहरू
कानूनले सामान्य-उद्देश्यीय AI मोडेलहरू (GPAI) मा विशेष पारदर्शिता र कागजात दायित्वहरू थोपर्छ - त्यो हो, बहुउद्देश्यीय आधार मोडेलहरू जस्तै ठूला भाषा मोडेलहरू - साथै व्यक्तिगत प्रयोगहरूमा: प्रशिक्षण डेटामा सारांशको प्रावधान, प्रतिलिपि अधिकार अनुपालन नीति, प्रणालीगत जोखिम भएका मोडेलहरूको लागि अतिरिक्त मूल्याङ्कन। यदि कुनै संगठनले यी मोडेलहरूलाई आफ्नै उत्पादनमा इम्बेड गर्दछ भने, यी मध्ये केही दायित्वहरू श्रृंखलामा प्रतिबिम्बित हुन सक्छ।
तीन मिनी केसहरू
केस 1 - भर्ती स्क्रीनिंग (उच्च जोखिम)। इज्मिरको सफ्टवेयर कम्पनीले ईयू कम्पनीहरूलाई सेवा दिने भर्ती प्लेटफर्म विकास गर्दछ; प्रणालीले स्वचालित रूपमा उम्मेदवारहरूलाई स्कोर र मेटाउँछ। यो एउटा क्षेत्र हो जुन कानूनले स्पष्ट रूपमा उच्च जोखिम मानेको छ। कम्पनी; डेटा गुणस्तर, पूर्वाग्रह परीक्षण, मानव लेखा परीक्षा र कागजात दायित्वहरू पूरा गर्नुपर्छ। तर्क "हामी टर्कीमा छौं, यसले हामीलाई बाँध्दैन" अमान्य छ; प्रणाली EU बजारमा प्रयोग भएकोले, कानून लागू हुन्छ।
केस २ - ग्राहक च्याटबोट (सीमित जोखिम)। एउटा ई-कमर्स साइटले आफ्ना EU ग्राहकहरूलाई सेवा दिने च्याटबोट तैनाथ गर्छ। यो सीमित जोखिम कोटि मा छ; मुख्य दायित्व पारदर्शिता हो: प्रयोगकर्तालाई स्पष्ट रूपमा सूचित गर्नुपर्दछ कि "तपाईं कृत्रिम बुद्धिमत्तासँग कुरा गर्दै हुनुहुन्छ"। यो लुकाउनु उल्लङ्घन हो; यो निर्दिष्ट गर्न पर्याप्त छ।
केस 3 - निषिद्ध रेखाको नजिक। खुद्रा चेनले स्टोर क्यामेराहरू मार्फत ग्राहकहरूको भावनात्मक प्रतिक्रियाहरूको विश्लेषण गर्न र "सम्भावित शपलिफ्टर" स्कोर दिन चाहन्छ। यो भावना पहिचान र स्कोरिङ आयाम दुवैको साथ निषेधित/धेरै उच्च जोखिम क्षेत्रमा पर्दछ। कानूनी टोलीले परियोजनालाई डिजाइन चरणमा रोक्छ; जोखिम न्यूनीकरणका उपायहरू लिएर पनि कार्यान्वयन हुन नसक्ने स्पष्ट छ ।
सुझाव: नयाँ AI प्रोजेक्ट सुरु गर्दा पहिलो प्रश्न "यो कत्तिको उपयोगी छ?" बरु "यो कुन जोखिम वर्गमा पर्छ?" हुनुपर्छ। पहिलो स्थानमा वर्गीकरण गर्दा पछि रद्द गरिने परियोजनामा स्रोतहरू बर्बाद हुनबाट जोगिन्छ।
प्रतिलिपि गर्न मिल्ने टेम्प्लेटहरू
टेम्प्लेट 1 — जोखिम वर्ग प्रारम्भिक मूल्याङ्कन: "EU AI कानून अनुसार निम्न AI प्रयोगको पूर्व-मूल्याङ्कन गर्नुहोस्: [प्रयोगको वर्णन गर्नुहोस्]। कुन जोखिम वर्ग (प्रतिबन्धित / उच्च / सीमित / न्यूनतम) मा पर्न सक्छ, औचित्य सहित।
टेम्प्लेट २ — निषेधित एप्लिकेसन स्क्यानिङ: "निम्न परियोजना विचारलाई 'EU AI ऐन निषेधित एप्लिकेसनहरू' सूचीको विरुद्धमा मात्र स्क्यान गर्नुहोस्: [परियोजनाको वर्णन गर्नुहोस्]। के त्यहाँ सामाजिक स्कोरिङ, अवचेतन हेरफेर, कमजोरी शोषण, अनाधिकृत बायोमेट्रिक निगरानी, भावना/मान्यता र भावनाको पहिचानको सन्दर्भमा जोखिम छ।"
टेम्प्लेट 3 — उच्च जोखिम दायित्व चेकलिस्ट: "यो उच्च-जोखिम AI प्रयोगको लागि, [प्रयोगको वर्णन गर्नुहोस्] छवटा दायित्व शीर्षकहरू (जोखिम व्यवस्थापन, डेटा गुणस्तर, कागजात, पारदर्शिता, मानव लेखा परीक्षण, मजबुतता) मा 'हाम्रो वर्तमान अवस्था के छ, के छुटेको छ' तालिका सिर्जना गर्दछ। प्रत्येक पङ्क्तिमा ठोस कार्यको सुझाव दिनुहोस्।"
टेम्प्लेट 4 — पारदर्शिता सूचना (सीमित जोखिम): "ईयू प्रयोगकर्ताहरूलाई सेवा दिने च्याटबटको लागि, प्रयोगकर्तालाई देखाउनको लागि छोटो 'तपाईं एआईसँग कुरा गर्दै हुनुहुन्छ' सूचना लेख्नुहोस्। सरल, आश्वस्त, अधिकतम 2 वाक्यहरू। मानव एजेन्टमा स्विच गर्ने विकल्प समावेश गर्नुहोस्।"
कमजोर प्रम्प्ट / बलियो प्रम्प्ट
कमजोर: "के EU AI कानूनले हामीलाई चिन्ता गर्छ?"-> मोडेलले सामान्य जवाफ दिन्छ; यसले तपाईंको ठोस प्रयोगलाई वर्गीकृत गर्दैन, यसले EU बजारमा तपाईंको जडानको मूल्याङ्कन गर्दैन। GÜÇLÜ: "हामी इज्मिरमा आधारित कम्पनी हौं, हामी भर्ती र स्क्रिनिङ AI जर्मनीको कम्पनीलाई बेच्छौं। यो कुन जोखिम वर्गको प्रयोग EU AI कानून अन्तर्गत पर्दछ, हामीमा के दायित्वहरू पर्दछन् र टर्कीमा हुनुले हामीलाई किन छुट दिँदैन? जहाँ तपाईं निश्चित हुनुहुन्न त्यहाँ चिन्ह लगाउनुहोस्।" -> मोडेलले सन्दर्भ-विशिष्ट वर्गीकरण र दायित्व सूची उत्पादन गर्दछ।
सामान्य गल्तीहरू
- सोच्दै "हामी टर्कीमा छौं, EU कानूनले हामीलाई बाँध्दैन"; यद्यपि, EU बजार छुनु पर्याप्त छ।
- परियोजना विकास पछि जोखिम वर्गीकरण गर्दै; यद्यपि, यो पहिलो स्थानमा गर्नुपर्छ।
- प्रतिबन्धित अभ्यासलाई "राम्रो औचित्य" द्वारा पार गर्न सकिने बाधाको रूपमा गल्ती गर्दै।
- सीमित जोखिम प्रणालीहरूमा पारदर्शिता रिपोर्टिङलाई बाइपास गर्दै (बोटलाई मानव जस्तो देखिने बनाउन)।
- उच्च जोखिम दायित्वहरूबाट मानव लेखा परीक्षण र पूर्वाग्रह व्यवस्थापनलाई बेवास्ता गर्दै।
- त्यो सामान्य उद्देश्य AI (GPAI) दायित्वहरूलाई बेवास्ता गर्दा चेन तल फर्कन सक्छ।
- EU AI कानून KVKK सँग आदानप्रदान गर्नुहोस्; तिनीहरू फरक छन् तर पूरक छन्।
संक्षेपमा
- EU AI कानूनले जोखिममा आधारित दृष्टिकोण लिन्छ र AI लाई चार वर्गमा विभाजन गर्दछ: निषेधित, उच्च, सीमित, न्यूनतम।
- जोखिम कम भए पनि निषेधित अभ्यासहरू (सामाजिक स्कोरिङ, हेरफेर, आदि) जारी गर्न सकिँदैन।
- उच्च जोखिम प्रणाली; यो जोखिम व्यवस्थापन, डाटा गुणस्तर, मानव नियन्त्रण र कागजात जस्ता कडा दायित्वहरूको अधीनमा छ।
- सीमित जोखिम प्रणालीहरूमा, मुख्य दायित्व पारदर्शिता हो (एआई छ भनेर रिपोर्ट गर्दै)।
- EU बजार छुन टर्की कम्पनीहरु पनि कानून द्वारा प्रभावित छन्; वर्गीकरण परियोजनाको सुरुमै गरिनुपर्छ।
आवेदन कार्य
तपाईंको संगठन (वा काल्पनिक कम्पनी) ले EU बजारको सम्बन्धमा प्रयोग गर्न सक्ने AI को तीन फरक प्रयोगहरू विचार गर्नुहोस्। प्रत्येकलाई EU AI ऐनको चार जोखिम वर्गहरू मध्ये एउटामा राख्नुहोस् र आफ्नो औचित्य लेख्नुहोस्। तपाईंले नियन्त्रण चार्टमा उच्चतम जोखिम फेला पार्नु भएको प्रयोगको लागि छवटा उच्च जोखिम दायित्वहरू राख्नुहोस्: "वर्तमान स्थिति" र "अपूर्ण/कार्य" स्तम्भहरू भर्नुहोस्। एक पारदर्शिता कथन लेख्नुहोस् जुन प्रयोगकर्तालाई सीमित जोखिम श्रेणीमा पर्ने प्रयोगको लागि प्रदर्शन गरिनेछ। अन्तमा, यदि तपाइँका कुनै पनि प्रयोगहरू निषेधित रेखामा आउँदैछन् भने, नोट गर्नुहोस् कि र किन।
चेकलिस्ट
- [ ] मैले AI को प्रत्येक प्रयोगलाई चार जोखिम वर्गहरू मध्ये एउटामा राखें।
- [ ] मैले मेरा परियोजनाहरू प्रतिबन्धित अनुप्रयोगहरूको सूचीमा स्क्यान गरें।
- [ ] मैले उच्च जोखिम प्रयोगको लागि दायित्व नियन्त्रण चार्ट सिर्जना गरेको छु।
- [ ] मैले दायित्वहरूमा मानव लेखा परीक्षण र पूर्वाग्रह व्यवस्थापन समावेश गरेको छु।
- [ ] मैले सीमित जोखिम प्रयोगको लागि पारदर्शिता कथन तयार गरेको छु।
- [ ] म बुझ्छु किन मेरो EU बजार जडान कानून ट्रिगर भयो।
- [] मैले जोखिम वर्गीकरण परियोजनाको सुरुमा गरें, अन्त्यमा होइन।