ईयू एआई कानून और जोखिम वर्ग — एआई नीति, केवीकेके और ईयू एआई कानून

लाभ:

ईयू एआई कानून के चार जोखिम वर्गों और निषिद्ध प्रथाओं को मान्यता देना
उपयोग किस जोखिम श्रेणी में आता है इसका उचित मूल्यांकन
समझें कि उच्च जोखिम और सामान्य प्रयोजन एआई देनदारियां तुर्की कंपनियों को क्यों प्रभावित करती हैं

ईयू आर्टिफिशियल इंटेलिजेंस एक्ट (ईयू एआई एक्ट), जो 2024 में लागू होगा, दुनिया का पहला व्यापक एआई विनियमन है और इसका प्रभाव यूरोपीय संघ की सीमाओं से कहीं आगे तक फैला हुआ है। यह कानून तुर्किये में स्थित लेकिन यूरोपीय संघ के बाजार में सेवा देने वाली, यूरोपीय संघ के ग्राहकों वाली या यूरोपीय संघ को उत्पाद बेचने वाली कंपनी के लिए सीधे तौर पर बाध्यकारी हो सकता है। इस इकाई में, आप कानून के मूल तर्क - इसका जोखिम-आधारित दृष्टिकोण - इसके चार वर्गों, निषिद्ध प्रथाओं और उच्च जोखिम वाली देनदारियों के साथ सीखेंगे; हम यह मूल्यांकन करने का प्रयास करेंगे कि उपयोग किस बॉक्स में आता है।

मूल विचार: जोखिम जितना अधिक होगा, नियम उतना ही सख्त होगा

EU AI कानून सभी AI को एक साथ नहीं जोड़ता है। यह एक कृत्रिम बुद्धिमत्ता प्रणाली को उसके संभावित नुकसान के अनुसार चार श्रेणियों में विभाजित करता है और प्रत्येक श्रेणी पर अलग-अलग दायित्व लगाता है। एक संगीत अनुशंसा में भर्ती स्क्रीनिंग प्रणाली के समान जोखिम नहीं होता है; कानून उन पर समान नियम लागू नहीं करता. यह जोखिम-आधारित दृष्टिकोण कानून की रीढ़ है।

जोखिम वर्ग

मतलब

उदाहरण

नियम

निषिद्ध (अस्वीकार्य)

मौलिक अधिकारों पर खुला ख़तरा

सामाजिक स्कोरिंग, अवचेतन हेरफेर

पूर्ण प्रतिबंध

उच्च जोखिम

यह मानव जीवन को गंभीर रूप से प्रभावित करता है

भर्ती, ऋण, स्वास्थ्य देखभाल, शिक्षा, महत्वपूर्ण बुनियादी ढाँचा

सख्त दायित्व

सीमित जोखिम

पारदर्शिता की आवश्यकता है

चैट बॉट, डीपफेक, एआई सामग्री

जानकारी अनिवार्य है

न्यूनतम जोखिम

नगण्य जोखिम

स्पैम फिल्टर, गेम एआई, अनुशंसा इंजन

निःशुल्क

प्रतिबंधित ऐप्स: लाल रेखा

एआई के कुछ उपयोग इतने हानिकारक माने जाते हैं कि जोखिम कितना भी कम हो जाए, उन्हें छोड़ा नहीं जा सकता। ये निषिद्ध (अस्वीकार्य जोखिम) श्रेणी में हैं:

राज्य-समर्थित सामाजिक स्कोरिंग (लोगों को उनके व्यवहार/विशेषताओं के अनुसार स्कोर करना और उन्हें नुकसान पहुंचाना)।
ऐसी प्रणालियाँ जो लोगों के अवचेतन में हेरफेर करती हैं और नुकसान पहुँचाती हैं।
ऐसी प्रणालियाँ जो उम्र और विकलांगता जैसी कमजोरियों का फायदा उठाती हैं।
कुछ वास्तविक समय बायोमेट्रिक पहचान और बड़े पैमाने पर निगरानी अनुप्रयोग (संकीर्ण अपवादों के साथ)।
कार्यस्थल और शिक्षा में भावना पहचान जैसे विशिष्ट अनुप्रयोग।

ध्यान दें: यह तथ्य कि कोई उपयोग "निषिद्ध" श्रेणी में है, कोई बाधा नहीं है जिसे "मेरे पास एक अच्छा कारण है" कहकर दूर किया जा सकता है। ये प्रथाएँ पूरी तरह से निषिद्ध हैं; जोखिम कम करने वाले उपायों के साथ भी जारी नहीं किया जा सकता। सबसे पहले जांच यह करनी होगी कि परियोजना इस सूची में शामिल है या नहीं।

उच्च जोखिम देनदारियाँ

उच्च जोखिम वाली प्रणालियाँ निषिद्ध नहीं हैं लेकिन कड़ी शर्तों के अधीन हैं। विशिष्ट उच्च जोखिम वाले क्षेत्र: भर्ती और कर्मचारी प्रबंधन, क्रेडिट और बीमा, शिक्षा और परीक्षा मूल्यांकन, स्वास्थ्य देखभाल, महत्वपूर्ण बुनियादी ढांचा, कानून प्रवर्तन और आप्रवासन। इन प्रणालियों में विशिष्ट दायित्व:

जोखिम प्रबंधन प्रणाली की स्थापना और रखरखाव।
डेटा गुणवत्ता और पूर्वाग्रह प्रबंधन (प्रशिक्षण डेटा का प्रतिनिधि और सटीक)।
तकनीकी दस्तावेज़ीकरण और रिकॉर्ड रखना (ट्रेसेबिलिटी)।
पारदर्शिता और उपयोगकर्ता को जानकारी प्रदान करना।
मानव नियंत्रण (हस्तक्षेप और अतिक्रमण करने की मानवीय क्षमता)।
सटीकता, मजबूती और साइबर सुरक्षा आश्वासन।

सामान्य प्रयोजन एआई (जीपीएआई) दायित्व

कानून सामान्य प्रयोजन एआई मॉडल (जीपीएआई) पर विशिष्ट पारदर्शिता और दस्तावेज़ीकरण दायित्वों को लागू करता है - यानी, बहुउद्देश्यीय आधार मॉडल जैसे बड़े भाषा मॉडल - साथ ही व्यक्तिगत उपयोग पर: प्रशिक्षण डेटा पर सारांश का प्रावधान, कॉपीराइट अनुपालन नीति, प्रणालीगत जोखिम वाले मॉडल के लिए अतिरिक्त मूल्यांकन। यदि कोई संगठन इन मॉडलों को अपने उत्पाद में एम्बेड करता है, तो इनमें से कुछ देनदारियां श्रृंखला में प्रतिबिंबित हो सकती हैं।

तीन मिनी मामले

केस 1 - भर्ती स्क्रीनिंग (उच्च जोखिम)। इज़मिर में एक सॉफ्टवेयर कंपनी यूरोपीय संघ की कंपनियों की सेवा के लिए एक भर्ती मंच विकसित करती है; सिस्टम स्वचालित रूप से उम्मीदवारों को स्कोर करता है और हटा देता है। यह एक ऐसा क्षेत्र है जिसे कानून स्पष्ट रूप से उच्च जोखिम मानता है। कंपनी; डेटा गुणवत्ता, पूर्वाग्रह परीक्षण, मानव ऑडिटिंग और दस्तावेज़ीकरण दायित्वों को पूरा करना होगा। यह तर्क "हम तुर्की में हैं, यह हमें बाध्य नहीं करता" अमान्य है; चूंकि इस प्रणाली का उपयोग यूरोपीय संघ के बाजार में किया जाता है, इसलिए कानून लागू होता है।

केस 2 - ग्राहक चैटबॉट (सीमित जोखिम)। एक ई-कॉमर्स साइट अपने ईयू ग्राहकों को सेवा प्रदान करने के लिए एक चैटबॉट तैनात करती है। यह सीमित जोखिम श्रेणी में है; मुख्य दायित्व पारदर्शिता है: उपयोगकर्ता को स्पष्ट रूप से सूचित किया जाना चाहिए कि "आप एक कृत्रिम बुद्धिमत्ता से बात कर रहे हैं"। इसे छुपाना उल्लंघन है; यह निर्दिष्ट करने के लिए पर्याप्त है.

केस 3 - निषिद्ध रेखा के निकट जाना। एक खुदरा श्रृंखला स्टोर कैमरों के माध्यम से ग्राहकों की भावनात्मक प्रतिक्रियाओं का विश्लेषण करना चाहती है और "संभावित दुकानदार" स्कोर देना चाहती है। यह भावना पहचान और स्कोरिंग दोनों आयामों के साथ निषिद्ध/बहुत उच्च जोखिम वाले क्षेत्र में आता है। कानूनी टीम परियोजना को डिज़ाइन चरण पर रोक देती है; यह स्पष्ट है कि इसे जोखिम कम करने वाले उपायों के साथ भी लागू नहीं किया जा सकता है।

टिप: नया एआई प्रोजेक्ट शुरू करते समय पहला सवाल यह है कि "यह कितना उपयोगी है?" बल्कि "यह किस जोखिम वर्ग में आता है?" होना चाहिए. सबसे पहले वर्गीकरण करने से किसी प्रोजेक्ट पर संसाधनों की बर्बादी से बचा जा सकता है जिसे बाद में रद्द कर दिया जाएगा।

कॉपी करने योग्य टेम्पलेट

टेम्प्लेट 1 - जोखिम वर्ग प्रारंभिक मूल्यांकन: "ईयू एआई कानून के अनुसार निम्नलिखित एआई उपयोग का पूर्व-मूल्यांकन करें: [उपयोग का वर्णन करें]। औचित्य के साथ बताएं कि यह किस जोखिम वर्ग (निषिद्ध / उच्च / सीमित / न्यूनतम) में आ सकता है। जिन बिंदुओं के बारे में आप निश्चित नहीं हैं उन्हें 'कानूनी पुष्टि आवश्यक' के रूप में चिह्नित करें; एक निश्चित कानूनी निर्णय न लें।"

टेम्प्लेट 2 - निषिद्ध एप्लिकेशन स्कैनिंग: "निम्नलिखित प्रोजेक्ट विचार को केवल 'ईयू एआई अधिनियम निषिद्ध एप्लिकेशन' सूची के विरुद्ध स्कैन करें: [परियोजना का वर्णन करें]। क्या सामाजिक स्कोरिंग, अवचेतन हेरफेर, भेद्यता शोषण, अनधिकृत बायोमेट्रिक निगरानी, भावना पहचान के संदर्भ में कोई जोखिम है? प्रत्येक शीर्षक में हां/नहीं और औचित्य लिखें।"

टेम्प्लेट 3 - उच्च जोखिम दायित्व चेकलिस्ट: "इस उच्च जोखिम वाले एआई उपयोग के लिए, [उपयोग का वर्णन करें] छह दायित्व शीर्षकों (जोखिम प्रबंधन, डेटा गुणवत्ता, दस्तावेज़ीकरण, पारदर्शिता, मानव ऑडिटिंग, मजबूती) में 'हमारी वर्तमान स्थिति क्या है, क्या कमी है' तालिका बनाता है। प्रत्येक पंक्ति में एक ठोस कार्रवाई का सुझाव दें।"

टेम्प्लेट 4 - पारदर्शिता अधिसूचना (सीमित जोखिम): "यूरोपीय संघ के उपयोगकर्ताओं को सेवा देने वाले चैटबॉट के लिए, उपयोगकर्ता को प्रदर्शित करने के लिए एक संक्षिप्त 'आप एआई से बात कर रहे हैं' अधिसूचना लिखें। सरल, आश्वस्त करने वाला, अधिकतम 2 वाक्य। एक मानव एजेंट पर स्विच करने का विकल्प शामिल करें।"

कमजोर संकेत/मजबूत संकेत

कमजोर: "क्या ईयू एआई कानून हमें चिंतित करता है?"-> मॉडल एक सामान्य उत्तर देता है; यह आपके ठोस उपयोग को वर्गीकृत नहीं करता है, यह ईयू बाजार से आपके संबंध का मूल्यांकन नहीं करता है। गुएलु: "हम इज़मिर में स्थित एक कंपनी हैं, हम जर्मनी में एक कंपनी को भर्ती और स्क्रीनिंग एआई बेचते हैं। इसका उपयोग ईयू एआई कानून के तहत किस जोखिम वर्ग में आता है, हम पर क्या दायित्व आते हैं और तुर्की में रहने से हमें छूट क्यों नहीं मिलती? जहां आप निश्चित नहीं हैं वहां चिह्नित करें।" -> मॉडल एक संदर्भ-विशिष्ट वर्गीकरण और दायित्व सूची तैयार करता है।

सामान्य गलतियाँ

यह सोचते हुए कि "हम तुर्की में हैं, यूरोपीय संघ का कानून हमें बाध्य नहीं करता"; हालाँकि, यूरोपीय संघ के बाज़ार को छूना ही पर्याप्त है।
परियोजना विकसित करने के बाद जोखिम वर्गीकरण बनाना; हालाँकि, यह सबसे पहले किया जाना चाहिए।
किसी निषिद्ध प्रथा को एक बाधा के रूप में समझना जिसे "अच्छे औचित्य" से दूर किया जा सकता है।
सीमित जोखिम प्रणालियों में पारदर्शिता रिपोर्टिंग को दरकिनार करना (बॉट को मानव जैसा बनाना)।
उच्च जोखिम देनदारियों से मानव ऑडिटिंग और पूर्वाग्रह प्रबंधन की उपेक्षा करना।
उस सामान्य प्रयोजन एआई (जीपीएआई) देनदारियों को नजरअंदाज करने से श्रृंखला में गिरावट आ सकती है।
EU AI कानून को KVKK के साथ बदलें; वे भिन्न हैं लेकिन पूरक हैं।

संक्षेप में

EU AI कानून जोखिम-आधारित दृष्टिकोण अपनाता है और AI को चार वर्गों में विभाजित करता है: निषिद्ध, उच्च, सीमित, न्यूनतम।
जोखिम कम होने पर भी निषिद्ध प्रथाओं (सामाजिक स्कोरिंग, हेरफेर, आदि) को छोड़ा नहीं जा सकता है।
उच्च जोखिम प्रणाली; यह जोखिम प्रबंधन, डेटा गुणवत्ता, मानव नियंत्रण और दस्तावेज़ीकरण जैसे सख्त दायित्वों के अधीन है।
सीमित जोखिम प्रणालियों में, मुख्य दायित्व पारदर्शिता है (रिपोर्ट करना कि एआई है)।
यूरोपीय संघ के बाज़ार को छूने वाली तुर्की कंपनियाँ भी कानून से प्रभावित हैं; वर्गीकरण परियोजना की शुरुआत में ही किया जाना चाहिए।

आवेदन कार्य

एआई के तीन अलग-अलग उपयोगों पर विचार करें जिनका उपयोग आपका संगठन (या एक काल्पनिक कंपनी) ईयू बाजार के संबंध में कर सकता है। प्रत्येक को ईयू एआई अधिनियम के चार जोखिम वर्गों में से एक में रखें और अपना औचित्य लिखें। जिस उपयोग के लिए आपको सबसे अधिक जोखिम लगता है, उसके लिए छह उच्च-जोखिम दायित्वों को नियंत्रण चार्ट में रखें: "वर्तमान स्थिति" और "अपूर्ण/कार्रवाई" कॉलम भरें। एक पारदर्शिता विवरण लिखें जो सीमित जोखिम श्रेणी में आने वाले उपयोग के लिए उपयोगकर्ता को प्रदर्शित किया जाएगा। अंत में, यदि आपका कोई भी उपयोग निषिद्ध रेखा के करीब पहुंच रहा है, तो उस पर और क्यों ध्यान दें।

चेकलिस्ट

[ ] मैंने एआई के प्रत्येक उपयोग को चार जोखिम वर्गों में से एक में रखा है।
[ ] मैंने प्रतिबंधित अनुप्रयोगों की सूची के विरुद्ध अपनी परियोजनाओं को स्कैन किया।
[ ] मैंने उच्च जोखिम वाले उपयोग के लिए एक दायित्व नियंत्रण चार्ट बनाया।
[ ] मैंने दायित्वों में मानव ऑडिटिंग और पूर्वाग्रह प्रबंधन को शामिल किया।
[ ] मैंने सीमित जोखिम उपयोग के लिए एक पारदर्शिता विवरण तैयार किया है।
[ ] मैं समझता हूं कि मेरे ईयू बाजार कनेक्शन ने कानून को क्यों लागू किया।
[ ] मैंने जोखिम वर्गीकरण परियोजना की शुरुआत में किया था, अंत में नहीं।