EU AI कायदा आणि जोखीम वर्ग

नफा:

• EU AI कायद्याचे चार जोखीम वर्ग आणि प्रतिबंधित पद्धती ओळखणे
• वापर कोणत्या जोखीम श्रेणीमध्ये येतो याचे वाजवी मूल्यमापन
• उच्च जोखीम आणि सामान्य उद्देश AI दायित्वे तुर्की कंपन्यांवर का परिणाम करतात हे समजून घ्या

EU कृत्रिम बुद्धिमत्ता कायदा (EU AI कायदा), जो 2024 मध्ये अंमलात येईल, हा जगातील पहिला व्यापक AI नियमन आहे आणि त्याचा प्रभाव युरोपियन युनियनच्या सीमेपलीकडे आहे. हा कायदा Türkiye मधील परंतु EU बाजारपेठेत सेवा देणाऱ्या, EU ग्राहक असलेल्या किंवा EU ला उत्पादने विकणाऱ्या कंपनीसाठी थेट बंधनकारक असू शकतो. या युनिटमध्ये, तुम्ही कायद्याचे मूलभूत तर्क शिकू शकाल — त्याचा जोखीम-आधारित दृष्टिकोन — त्याच्या चार वर्गांसह, प्रतिबंधित पद्धती आणि उच्च-जोखीम दायित्वे; वापर कोणत्या बॉक्समध्ये होतो याचे आम्ही मूल्यमापन करण्याचा प्रयत्न करू.

मूलभूत कल्पना: जोखीम जितकी जास्त तितका नियम कडक

EU AI कायदा सर्व AI एकत्र जोडत नाही. हे कृत्रिम बुद्धिमत्ता प्रणालीला त्याच्या संभाव्य हानीनुसार चार श्रेणींमध्ये विभाजित करते आणि प्रत्येक श्रेणीवर वेगवेगळे दायित्व लादते. संगीताच्या शिफारशीमध्ये भाड्याने स्क्रिनिंग सिस्टम सारखा धोका नसतो; कायदा त्यांना समान नियम लागू करत नाही. हा जोखीम-आधारित दृष्टिकोन कायद्याचा कणा आहे.

जोखीम वर्ग

अर्थ

उदाहरण

नियम

प्रतिबंधित (अस्वीकार्य)

मूलभूत अधिकारांना उघड धोका

सामाजिक स्कोअरिंग, अवचेतन हाताळणी

संपूर्ण बंदी

उच्च धोका

त्याचा मानवी जीवनावर गंभीर परिणाम होतो

भरती, क्रेडिट, आरोग्यसेवा, शिक्षण, गंभीर पायाभूत सुविधा

कठोर दायित्व

मर्यादित धोका

पारदर्शकता हवी

चॅट बॉट, डीपफेक, एआय सामग्री

माहिती देणे अनिवार्य आहे

किमान धोका

नगण्य धोका

स्पॅम फिल्टर, गेम एआय, शिफारस इंजिन

मोफत

प्रतिबंधित ॲप्स: लाल रेषा

AI चे काही उपयोग इतके हानिकारक मानले जातात की कितीही धोका कमी केला तरी ते सोडले जाऊ शकत नाहीत. हे प्रतिबंधित (अस्वीकार्य जोखीम) श्रेणीत आहेत:

• राज्य-समर्थित सामाजिक स्कोअरिंग (लोकांना त्यांच्या वर्तन/वैशिष्ट्येनुसार स्कोअर करणे आणि त्यांचे नुकसान करणे).
• लोकांच्या अवचेतनामध्ये फेरफार करणाऱ्या आणि हानी पोहोचवणाऱ्या प्रणाली.
• वय आणि अपंगत्व यांसारख्या असुरक्षिततेचे शोषण करणाऱ्या प्रणाली.
• काही रिअल-टाइम बायोमेट्रिक ओळख आणि मोठ्या प्रमाणावर पाळत ठेवणारे अनुप्रयोग (संकुचित अपवादांसह).
• कामाच्या ठिकाणी आणि शिक्षणात भावना ओळख यासारखे विशिष्ट अनुप्रयोग.

लक्ष द्या: वापर "निषिद्ध" श्रेणीमध्ये आहे ही वस्तुस्थिती "माझ्याकडे एक चांगले कारण आहे" असे सांगून दूर करता येणारा अडथळा नाही. या पद्धती पूर्णपणे प्रतिबंधित आहेत; जोखीम-कमी उपाय करूनही सोडले जाऊ शकत नाही. या यादीत प्रकल्पाचा समावेश आहे की नाही हे प्रथम तपासले जाणार आहे.

उच्च जोखीम दायित्वे

उच्च जोखीम प्रणाली प्रतिबंधित नाहीत परंतु कठोर अटींच्या अधीन आहेत. ठराविक उच्च-जोखीम क्षेत्र: भर्ती आणि कर्मचारी व्यवस्थापन, क्रेडिट आणि विमा, शिक्षण आणि परीक्षा मूल्यांकन, आरोग्यसेवा, गंभीर पायाभूत सुविधा, कायद्याची अंमलबजावणी आणि इमिग्रेशन. या प्रणालींमधील विशिष्ट दायित्वे:

1. जोखीम व्यवस्थापन प्रणालीची स्थापना आणि देखभाल.
2. डेटा गुणवत्ता आणि पूर्वाग्रह व्यवस्थापन (प्रशिक्षण डेटाचे प्रतिनिधी आणि अचूक).
3. तांत्रिक दस्तऐवजीकरण आणि रेकॉर्ड ठेवणे (ट्रेसेबिलिटी).
4. पारदर्शकता आणि वापरकर्त्याला माहिती प्रदान करणे.
5. मानवी नियंत्रण (हस्तक्षेप करण्याची आणि ओव्हरराइड करण्याची मानवी क्षमता).
6. अचूकता, मजबूती आणि सायबरसुरक्षा आश्वासने.

सामान्य उद्देश AI (GPAI) दायित्वे

कायदा सामान्य-उद्देशीय AI मॉडेल्स (GPAI) वर विशिष्ट पारदर्शकता आणि दस्तऐवजीकरण बंधने लादतो — म्हणजे, मोठ्या भाषा मॉडेल्स सारख्या बहुउद्देशीय बेस मॉडेल — तसेच वैयक्तिक वापरांवर: प्रशिक्षण डेटावरील सारांशांची तरतूद, कॉपीराइट अनुपालन धोरण, प्रणालीगत जोखीम असलेल्या मॉडेल्ससाठी अतिरिक्त मूल्यांकन. जर एखाद्या संस्थेने हे मॉडेल्स स्वतःच्या उत्पादनामध्ये एम्बेड केले तर, यापैकी काही दायित्वे साखळीमध्ये परावर्तित होऊ शकतात.

तीन लहान प्रकरणे

केस 1 - भर्ती स्क्रीनिंग (उच्च धोका). इझमीरमधील एक सॉफ्टवेअर कंपनी युरोपियन युनियन कंपन्यांना सेवा देणारे भर्ती प्लॅटफॉर्म विकसित करते; प्रणाली आपोआप स्कोअर करते आणि उमेदवारांना काढून टाकते. हे असे क्षेत्र आहे की कायदा स्पष्टपणे उच्च धोका मानतो. कंपनी; डेटा गुणवत्ता, पूर्वाग्रह चाचणी, मानवी लेखापरीक्षण आणि दस्तऐवजीकरण दायित्वे पूर्ण करणे आवश्यक आहे. "आम्ही तुर्कीमध्ये आहोत, ते आम्हाला बांधत नाही" हा युक्तिवाद अवैध आहे; प्रणाली EU मार्केटमध्ये वापरली जात असल्याने, कायदा लागू होतो.

केस 2 - ग्राहक चॅटबॉट (मर्यादित जोखीम). ई-कॉमर्स साइट तिच्या EU ग्राहकांना सेवा देणारा चॅटबॉट तैनात करते. हे मर्यादित जोखीम श्रेणीत आहे; मुख्य बंधन पारदर्शकता आहे: वापरकर्त्याला स्पष्टपणे सूचित केले पाहिजे की "तुम्ही कृत्रिम बुद्धिमत्तेशी बोलत आहात". हे लपवणे म्हणजे उल्लंघन आहे; ते निर्दिष्ट करण्यासाठी पुरेसे आहे.

केस 3 - निषिद्ध रेषेकडे जाणे. किरकोळ साखळी ग्राहकांच्या भावनिक प्रतिक्रियांचे स्टोअर कॅमेऱ्यांद्वारे विश्लेषण करू इच्छिते आणि "संभाव्य शॉपलिफ्टर" स्कोअर देऊ इच्छिते. हे भावना ओळखणे आणि स्कोअरिंग या दोन्ही परिमाणांसह प्रतिबंधित/अत्यंत उच्च जोखमीच्या क्षेत्रात येते. कायदेशीर संघ डिझाईन टप्प्यावर प्रकल्प थांबवतो; हे स्पष्ट आहे की जोखीम कमी करणारे उपाय करूनही त्याची अंमलबजावणी होऊ शकत नाही.

टीप: नवीन AI प्रकल्प सुरू करताना पहिला प्रश्न "हे कितपत उपयुक्त आहे?" पण त्याऐवजी "हे कोणत्या जोखीम वर्गात मोडते?" असावे. प्रथम स्थानावर वर्गीकरण केल्याने नंतर रद्द होणाऱ्या प्रकल्पावरील संसाधने वाया जाणे टाळले जाते.

कॉपी करण्यायोग्य टेम्पलेट्स

टेम्प्लेट 1 — जोखीम वर्गाचे प्राथमिक मूल्यांकन: "EU AI कायद्यानुसार खालील AI वापराचे पूर्व-मूल्यांकन करा: [वापराचे वर्णन करा]. ते कोणत्या जोखीम वर्गात (निषिद्ध / उच्च / मर्यादित / किमान) औचित्यसह येऊ शकते ते सांगा. ज्या मुद्यांची तुम्हाला खात्री नाही ते 'कायदेशीर पुष्टीकरण आवश्यक आहे' म्हणून चिन्हांकित करा; कायदेशीर निर्णय घेऊ नका."

टेम्पलेट 2 — प्रतिबंधित अनुप्रयोग स्कॅनिंग: "खालील प्रकल्प कल्पना फक्त 'EU AI कायदा प्रतिबंधित अनुप्रयोग' सूचीच्या विरूद्ध स्कॅन करा: [प्रकल्पाचे वर्णन करा]. सामाजिक स्कोअरिंग, अवचेतन हाताळणी, असुरक्षिततेचे शोषण, अनधिकृत बायोमेट्रिक पाळत ठेवणे, प्रत्येक भावना ओळखणे आणि योग्यता ओळखणे या बाबतीत धोका आहे का?"

टेम्प्लेट 3 — उच्च-जोखीम दायित्व चेकलिस्ट: "या उच्च-जोखीम AI वापरासाठी, [वापराचे वर्णन करा] सहा दायित्व शीर्षकांमध्ये (जोखीम व्यवस्थापन, डेटा गुणवत्ता, दस्तऐवजीकरण, पारदर्शकता, मानवी लेखापरीक्षण, मजबूतता) 'आमची सद्यस्थिती काय आहे, काय गहाळ आहे' सारणी तयार करते. प्रत्येक पंक्तीमध्ये ठोस कृती सुचवा."

टेम्प्लेट 4 — पारदर्शकता सूचना (मर्यादित जोखीम): "EU वापरकर्त्यांना सेवा देणाऱ्या चॅटबॉटसाठी, वापरकर्त्याला प्रदर्शित करण्यासाठी 'तुम्ही AI बोलत आहात' सूचना लिहा. साधी, आश्वासक, जास्तीत जास्त 2 वाक्ये. मानवी एजंटकडे जाण्याचा पर्याय समाविष्ट करा."

कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट

कमकुवत: "EU AI कायदा आमच्याशी संबंधित आहे का?"-> मॉडेल एक सामान्य उत्तर देते; हे तुमच्या ठोस वापराचे वर्गीकरण करत नाही, ते EU मार्केटशी तुमच्या कनेक्शनचे मूल्यांकन करत नाही. GÜÇLÜ: "आम्ही इझमिरमधील कंपनी आहोत, आम्ही जर्मनीतील कंपनीला भरती आणि स्क्रिनिंग AI विकतो. EU AI कायद्यांतर्गत हा कोणता जोखीम वर्ग वापरतो, आमच्यावर कोणती जबाबदारी येते आणि तुर्कस्तानमध्ये राहिल्याने आम्हाला सूट का मिळत नाही? जिथे तुम्हाला खात्री नाही तिथे चिन्हांकित करा." -> मॉडेल संदर्भ-विशिष्ट वर्गीकरण आणि दायित्व सूची तयार करते.

सामान्य चुका

• "आम्ही तुर्कीमध्ये आहोत, EU कायदा आम्हाला बांधत नाही" असा विचार करणे; तथापि, EU बाजाराला स्पर्श करणे पुरेसे आहे.
• प्रकल्प विकसित केल्यानंतर जोखीम वर्गीकरण करणे; तथापि, ते प्रथम स्थानावर केले पाहिजे.
• निषिद्ध प्रथेला "चांगल्या औचित्याने" मात करता येणारा अडथळा समजणे.
• मर्यादित जोखीम प्रणालींमध्ये पारदर्शकता अहवाल बायपास करणे (बॉटला मानवासारखे बनवणे).
• उच्च जोखमीच्या दायित्वांपासून मानवी लेखापरीक्षण आणि पूर्वाग्रह व्यवस्थापनाकडे दुर्लक्ष करणे.
• सामान्य उद्देश AI (GPAI) उत्तरदायित्वांकडे दुर्लक्ष केल्याने साखळी परत येऊ शकते.
• KVKK सह EU AI कायद्याची अदलाबदल करा; ते भिन्न आहेत परंतु पूरक आहेत.

सारांशात

• EU AI कायदा जोखीम-आधारित दृष्टीकोन घेतो आणि AI ला चार वर्गांमध्ये विभाजित करतो: प्रतिबंधित, उच्च, मर्यादित, किमान.
• प्रतिबंधित पद्धती (सामाजिक स्कोअरिंग, मॅनिपुलेशन, इ.) जरी धोका कमी केला तरीही सोडला जाऊ शकत नाही.
• उच्च जोखीम प्रणाली; हे जोखीम व्यवस्थापन, डेटा गुणवत्ता, मानवी नियंत्रण आणि दस्तऐवजीकरण यासारख्या कठोर दायित्वांच्या अधीन आहे.
• मर्यादित जोखीम प्रणालींमध्ये, मुख्य दायित्व पारदर्शकता आहे (एआय आहे असा अहवाल देणे).
• युरोपियन युनियनच्या बाजारपेठेला स्पर्श करणाऱ्या तुर्की कंपन्यांनाही कायद्याचा फटका बसतो; वर्गीकरण प्रकल्पाच्या अगदी सुरुवातीलाच केले पाहिजे.

अर्ज कार्य

तुमची संस्था (किंवा एखादी काल्पनिक कंपनी) EU मार्केटच्या संदर्भात वापरू शकणाऱ्या AI च्या तीन वेगवेगळ्या उपयोगांचा विचार करा. EU AI कायद्याच्या चार जोखीम वर्गांपैकी प्रत्येकाला ठेवा आणि तुमचे औचित्य लिहा. नियंत्रण तक्त्यामध्ये तुम्हाला सर्वाधिक जोखीम वाटत असलेल्या वापरासाठी सहा उच्च-जोखीम दायित्वे ठेवा: "वर्तमान स्थिती" आणि "अपूर्ण/क्रिया" स्तंभ भरा. एक पारदर्शकता विधान लिहा जे वापरकर्त्याला मर्यादित जोखीम श्रेणीमध्ये येणाऱ्या वापरासाठी प्रदर्शित केले जाईल. शेवटी, तुमचे कोणतेही वापर निषिद्ध रेषेकडे येत असल्यास, ते आणि का ते लक्षात घ्या.

चेकलिस्ट

• [ ] मी AI चा प्रत्येक वापर चार जोखीम वर्गांपैकी एकामध्ये ठेवला आहे.
• [ ] मी निषिद्ध अनुप्रयोगांच्या सूचीवर माझे प्रकल्प स्कॅन केले.
• मी उच्च जोखीम वापरासाठी दायित्व नियंत्रण चार्ट तयार केला आहे.
• [ ] मी दायित्वांमध्ये मानवी लेखापरीक्षण आणि पूर्वाग्रह व्यवस्थापन समाविष्ट केले आहे.
• [ ] मी मर्यादित जोखीम वापरासाठी पारदर्शकता विधान तयार केले आहे.
• [ ] माझ्या EU मार्केट कनेक्शनमुळे कायदा का सुरू झाला हे मला समजले आहे.
• [ ] मी प्रकल्पाच्या सुरुवातीला जोखीम वर्गीकरण केले, शेवटी नाही.