लाभ:
- छ वटा मानव प्रमाणिकरण गेटहरूसँग एप्लिकेसनदेखि बन्द गर्न प्रत्येक चरणमा लगातार एआई इम्बेड गर्ने क्षमता
- अनुमोदित उपकरण सूची, डेटा नीति, भूमिका, दर्ता, प्रशिक्षण र चलिरहेको समीक्षा संग एक कर्पोरेट शासन ढाँचा स्थापना गर्न क्षमता
- कार्यप्रवाहमा मानव उत्तरदायित्व, प्रमाणिकरण, गोपनीयता/KVKK, प्रमाणको पालना, पूर्वाग्रह नियन्त्रण र ग्राहक-केन्द्रितताका सिद्धान्तहरू इम्बेड गर्ने क्षमता।
यस मोड्युलमा हामीले आर्टिफिसियल इन्टेलिजेन्स कसरी प्रयोग गर्ने र सामाजिक कार्यका विभिन्न कार्यहरूमा यसलाई कहाँ रोक्ने भन्ने कुराहरू समावेश गरेका छौं - कागजात, मूल्याङ्कन, जोखिम समर्थन, रेफरल, योजना, रिपोर्ट, सञ्चार, कार्यक्रम डिजाइन। यस अन्तिम एकाईमा, हामीले टुक्राहरू सँगै राख्छौं: जहाँ AI आवेदन देखि केस बन्द हुने सम्मको अन्त्य सम्म बस्नेछ, जुन मानव प्रमाणीकरणको ढोका प्रत्येक चरणमा रोकिन्छ, र हामी संस्थामा दिगो हुनको लागि आवश्यक शासन ढाँचा स्थापना गर्नेछौं। लक्ष्य भनेको छरिएका सुझावहरूलाई निरन्तर र दोहोर्याउने कार्य अनुशासनमा बदल्नु हो।
सुरुदेखि नै एकीकृत सिद्धान्त: एआई कार्यप्रवाहको प्रत्येक चरणमा एक गतिवर्धक हो, कुनै पनि चरणमा निर्णयकर्ता होइन। प्रत्येक चरणमा मानव ढोका छ, र तपाईं एउटा ढोका नछोडी अर्कोमा जान सक्नुहुन्न। यो स्तरित संरचनाले एकल भ्रम, पूर्वाग्रह, वा गोपनीयता त्रुटिलाई ग्राहकको जीवनलाई असर गर्ने निर्णयमा प्रवेश गर्नबाट रोक्छ।
अन्त देखि अन्त प्रवाह र छ मानव ढोका
यसको विशिष्ट चरणहरू मार्फत केसलाई विचार गरौं र प्रत्येक चरणमा प्रमाणीकरण गेट राखौं:
1. आवेदन / पहिलो सम्पर्क — ढोका: गोपनीयता। जब पहिलो जानकारी आउँछ, AI अन्तर्वार्ता तयारी (गाइड, प्रश्न फ्रेम) को लागी प्रयोग गरिन्छ। ढोका: कुनै वास्तविक ग्राहक डेटा खुला उपकरणमा प्रवेश गर्दैन; कक्षाको लागि सोध्नुहोस्, गाडी मिलाउनुहोस्।
2. मूल्याङ्कन - गेट: क्लिनिकल निर्णय। AI ले टिपोटहरूलाई बायोसाइकोसामाजिक आयामहरूमा व्यवस्थित गर्छ र कमजोरीहरू र बलहरू सम्झाउँछ। ढोका: निदान र मूल्याङ्कन विशेषज्ञको हो; AI ले मूल्याङ्कन गर्दैन।
3. जोखिम - ढोका: प्राधिकरण र टोली। AI ले जोखिम/सुरक्षा कारकहरूको सम्झना दिलाउँछ र सुरक्षा योजनाको कंकाल बनाउँछ। ढोका: जोखिम निर्णय विशेषज्ञ, टोली, पर्यवेक्षण र कानूनी प्रक्रिया द्वारा मात्र गरिन्छ; AI ले स्कोर/निर्णयहरू उत्पादन गर्दैन।
4. योजना र निर्देशन - ढोका: प्रमाणीकरण र ग्राहक। AI ले लक्ष्यहरूलाई SMART मा राख्छ, स्रोत विचार र पत्र ड्राफ्टहरू उत्पन्न गर्दछ। ढोका: ग्राहकले लक्ष्यहरू सेट गर्दछ; सेवा/ठेगाना/सर्त आधिकारिक स्रोतबाट प्रमाणित गरिएको छ।
5. रिपोर्ट र संचार - ढोका: प्रमाण र जवाफदेहिता। AI ले रिपोर्टको संरचना बनाउँछ, पाठलाई सरल बनाउँछ र अनुवाद गर्छ। ढोका: प्रत्येक मामला प्रमाण मा निर्भर गर्दछ, राय विशेषज्ञ को हो, महत्वपूर्ण जानकारी हानि र पूर्वाग्रह जाँच गरिन्छ, हस्ताक्षर व्यक्ति मा छ।
6. बन्द र हस्तान्तरण - गेट: शुद्धता। YZ ले फाइललाई कालक्रमानुसार संक्षेप गर्दछ। ढोका: सारांश एक्लै रेकर्डमा आधारित छ; नतिजा र सिकाइ विशेषज्ञ द्वारा प्रमाणित गरिन्छ।
सुझाव: ढोकाहरू सम्झन एउटै प्रश्न प्रयोग गर्नुहोस्: "यस चरणमा, AI ले निर्णय गर्छ वा स्केच उत्पादन गर्छ?" यदि जवाफ "निर्णय" हो भने, रोक्नुहोस् - त्यो चरण मानवको हो। यदि जवाफ "ड्राफ्ट" हो भने, जारी राख्नुहोस्, तर आउटपुट प्रमाणित नगरी अर्को चरणमा नजानुहोस्।
कर्पोरेट सुशासन: व्यक्तिगत अनुशासन पर्याप्त छैन
विशेषज्ञको असल बानीहरू मूल्यवान तर कमजोर हुन्छन्; संगठनमा एआईको सुरक्षित र निरन्तर प्रयोगको लागि प्रशासनिक ढाँचा चाहिन्छ। यस ढाँचाका मुख्य घटकहरू हुन्:
- स्वीकृत सवारी साधन सूची। कुन कामको लागि कुन उपकरण प्रयोग गरिनेछ र कुन उपकरणमा कुन डाटा प्रविष्ट गर्न सकिन्छ भनेर लेखिएको र स्पष्ट छ। "सबैले आफूले चाहेको उपकरण प्रयोग गर्नुपर्छ" एक सुरक्षा जोखिम हो।
- डाटा वर्गीकरण नीति। कुन डाटा खुला उपकरणमा प्रशोधन गरिनेछ र कुन सुरक्षित प्रणालीमा मात्र प्रशोधन गरिनेछ भनेर परिभाषित गरिएको छ।
- भूमिका र अधिकार। यो स्पष्ट छ कि कसले के गर्न सक्छ र कुन निर्णय कुन अधिकारमा निर्भर गर्दछ (विशेष गरी जोखिम निर्णयहरू)।
- लग र अडिट ट्रेल। एआई कहाँ र कसरी प्रयोग गरिन्छ निगरानी गर्न सकिन्छ; समस्या आएपछि फर्केर हेर्न सकिन्छ ।
- शिक्षा र चेतना। प्रत्येक कर्मचारीलाई यस मोड्युलका सिद्धान्तहरू थाहा छ; नयाँ आउनेलाई तालिम दिइएको छ ।
- निरन्तर समीक्षा। उपकरण, जोखिम र कानून परिवर्तन; फ्रेमवर्क नियमित रूपमा अद्यावधिक गरिएको छ। एक पटक लेखिएको र बिर्सिएको नीति अप्रचलित हुन्छ।
तीन मिनी केसहरू
केस १ - ढोकाले चेनको सुरुमा बग समात्यो। एउटा केसमा, AI ले ग्राहकले मूल्याङ्कन चरणमा उल्लेख नगरेको अवलोकन थप्यो। "क्लिनिकल निर्णय" को गेटमा विशेषज्ञले यसलाई समात्यो र यसलाई हटायो। यदि उनी समातिएको थिएन भने, यो मनगढन्ते अवलोकन योजनामा, त्यहाँबाट प्रतिवेदन, र त्यहाँबाट अदालतको फैसलासम्म चुहिएको हुन्थ्यो। स्तरित प्रमाणीकरणले त्रुटिलाई प्रारम्भिक बिन्दुमा रोक्यो।
केस २ - शासनले उल्लङ्घनलाई रोक्यो। एउटा संस्था अनुमोदित उपकरण सूची र डेटा नीति बिना काम गरिरहेको थियो; सबैले आ–आफ्नो सवारी साधन प्रयोग गरिरहेका थिए । एक लेखापरीक्षणले पत्ता लगायो कि धेरै कर्मचारीहरूले वास्तविक ग्राहक डाटा खुला उपकरणहरूमा प्रविष्ट गरिरहेका थिए। संगठनले एक शासन ढाँचा स्थापना गरेको छ: अनुमोदित उपकरणहरू, डेटा वर्गीकरण, प्रशिक्षण र दर्ता। त्यसपछिको अवधिमा, उल्लङ्घनको संख्या शून्यमा झरेको छ। पाठ: संस्थागत संरचना बिना व्यक्तिगत सद्भावना पर्याप्त छैन।
केस 3 - निरन्तर समीक्षा अद्यावधिक राखिएको छ। एक वर्ष पहिले लेखिएको एक संगठनको एआई नीति, नयाँ प्रकारको उपकरण र अद्यावधिक कानूनको अनुहारमा पुरानो भएको थियो। वार्षिक समीक्षाले यसलाई समात्यो; नीति अद्यावधिक गरिएको थियो, प्रशिक्षण नवीकरण गरिएको थियो। फ्रेम एक जीवित कागजात बनेको छ, शेल्फ गहना होइन।
चार प्रतिलिपि गर्न मिल्ने टेम्प्लेटहरू
१) केस प्रवाह प्रमाणिकरण गेट चेकलिस्ट:
तपाईंको भूमिका: पर्यवेक्षक। मैले निम्न केस चरणको लागि प्रमाणीकरण चेकलिस्ट पाउँछु: यस चरणमा AI मस्यौदाले के गर्न सक्छ, कुन निर्णय अनिवार्य रूपमा मानव हो, कुन गोपनीयता र पूर्वाग्रह जाँचहरू गर्नुपर्छ, अर्को चरणमा जानु अघि मैले के प्रमाणित गर्नुपर्छ? चरण: [आवेदन / मूल्याङ्कन / जोखिम / योजना / रिपोर्ट / बन्द]
2) पुष्टि गरिएको वाहन मिलान:
तलका प्रत्येक कार्य सूचीहरूको लागि, प्रयोग गर्न सकिने AI उपकरणको प्रकार निर्दिष्ट गर्नुहोस् (खुला उपकरण / सुरक्षित उद्यम प्रणाली मात्र / कुनै AI उपलब्ध छैन) र औचित्य। "सुरक्षित प्रणाली मात्र" को रूपमा क्लाइन्ट डेटा समावेश प्रत्येक कार्य चिन्ह लगाउनुहोस्। कार्यहरू: [सूची कार्यहरू]
3) कर्पोरेट एआई नीति मस्यौदा:
तपाईंको भूमिका: कर्पोरेट नीति सम्पादक। सामाजिक सेवा एजेन्सीको लागि जिम्मेवार एआई प्रयोग नीतिको मस्यौदा तयार गर्नुहोस्; निम्न विषयहरू कभर गर्नुहोस्: उद्देश्य, अनुमोदित उपकरणहरू, डेटा वर्गीकरण, भूमिका र प्राधिकरणहरू, गोपनीयता/KVKK, जोखिम निर्णय सीमा, रेकर्डिङ र लेखा परीक्षा, प्रशिक्षण, समीक्षा तालिका। सामान्य फ्रेमवर्क सेट अप गर्नुहोस्; संस्थाले आफ्नै विवरण भर्नेछ।
4) स्व-नियमन (व्यक्तिगत उपयोग समीक्षा):
एक सामाजिक कार्यकर्ताको रूपमा मेरो AI को प्रयोगको समीक्षा गर्न मेरो लागि 10 प्रश्नहरूको सेल्फ-चेकलिस्ट बनाउनुहोस्: गोपनीयता, प्रमाणिकरण, पूर्वाग्रह, प्रमाण निष्ठा, निर्णय सीमा, र ग्राहक-केन्द्रितता। प्रत्येक प्रश्नको जवाफ "हो/होइन" मा दिनुहोस्।
कमजोर प्रम्प्ट / बलियो प्रम्प्ट
कमजोर प्रम्प्ट:
म तपाईंलाई यो मामलाको सम्पूर्ण जानकारी दिन्छु; तपाईंले एप्लिकेसनदेखि रिपोर्टसम्म सबै कुरा ह्यान्डल गर्नुहोस्, म यसलाई अन्त्यमा हस्ताक्षर गर्नेछु।
यसले सम्पूर्ण प्रक्रियालाई आउटसोर्स गर्दैछ - गोपनीयता, क्लिनिकल निर्णय, जोखिम निर्णय, प्रमाणको पालना सहित - सफ्टवेयरमा। अन्तमा एकल हस्ताक्षरले हामीलाई सबै त्रुटिहरू, बनावटहरू, र बीचमा पूर्वाग्रहहरूमा अन्धा बनाउँछ।
शक्तिशाली प्रम्प्ट:
तपाईंको भूमिका: सम्पादक जसले मलाई बाटोको हरेक पाइलामा मद्दत गर्दछ। म केसलाई चरणबद्ध रूपमा अगाडि बढाउनेछु (मूल्याङ्कन, योजना, रिपोर्ट...)। प्रत्येक चरणमा: बेनामी/सुरक्षित डाटाको साथ मात्र काम गर्नुहोस्, मस्यौदा उत्पादन गर्नुहोस्, मलाई निर्णय गर्न दिनुहोस्, नोटमा के छैन थप्नुहोस्, र अर्को चरणमा जानु अघि मलाई के प्रमाणित गर्न आवश्यक छ मलाई सम्झाउनुहोस्। यस चरणबाट सुरु गरौं: [चरण]
भिन्नता: प्रत्येक पाइलामा ढोकाको सुरक्षा गर्ने र AI लाई चरण-दर-चरण सहायकको रूपमा राख्दा गति कायम राख्दा सुरक्षा र जिम्मेवारी मानव रहन्छ।
चरण-गेट-जिम्मेवारी सारांश
स्टेज
AI को योगदान
मानव ढोका
महत्वपूर्ण नियन्त्रण
आवेदन
अन्तर्वार्ता तयारी
गोपनीयता
डाटा वर्ग
मूल्याङ्कन
साइज सम्पादन
क्लिनिकल निर्णय
कुनै निदान छैन, कुनै बनावट
जोखिम
कारक रिमाइन्डर
प्राधिकरण + टोली
कुनै स्कोर/निर्णय छैन
योजना/निर्देशन
मस्यौदा + विचार
प्रमाणीकरण + ग्राहक
स्रोत पुष्टिकरण, ग्राहक प्राथमिकता
रिपोर्ट / सम्पर्क
संरचना + सरलीकरण
प्रमाण + जिम्मेवारी
विशेषज्ञ मा राय, पूर्वाग्रह नियन्त्रण
बन्द गर्दै
कालानुक्रमिक सारांश
शुद्धता
अभिलेखमा आधारित
सामान्य गल्तीहरू
- सम्पूर्ण प्रक्रिया AI लाई हस्तान्तरण गर्ने र अन्त्यमा एकल हस्ताक्षरमा हस्ताक्षर गर्ने। बीचमा त्रुटिहरू देखिँदैनन्; प्रत्येक चरणमा ढोका हुनुपर्छ।
- प्रमाणीकरण नगरी ढोकाबाट गुज्रिरहेको छ। एक चरणको निर्माण अर्को द्वारा विरासतमा हुन्छ; प्रत्येक आउटपुट प्रमाणित छ।
- सुशासनलाई व्यक्तिगत अनुशासनमा छाडेर । संस्थागत ढाँचा बिना, असल बानीहरू कमजोर हुन्छन्।
- एक पटक नीति लेख्नुहोस् र यसलाई बिर्सनुहोस्। उपकरण र कानून परिवर्तन; निरन्तर समीक्षा आवश्यक छ।
- अभिलेख राख्ने छैन । अडिट ट्रेल बिना, समस्यालाई पछाडि हेर्न सकिँदैन र जवाफदेही हुन सक्दैन।
संक्षेपमा
सामाजिक कार्यमा, एआई हरेक पाइलामा उत्प्रेरक हो, कुनै पनि कदममा निर्णय लिने छैन, आवेदनदेखि केस बन्द गर्नसम्म। छ वटा मानव गेटहरू (गोपनीयता, क्लिनिकल निर्णय, अधिकार/टोली, प्रमाणीकरण/ग्राहक, प्रमाण/जवाबदेही, अखण्डता) लाई अन्त-देखि-अन्त प्रवाहमा राख्नुहोस्; एक ढोकाबाट अर्को ढोकामा नजाइकन नजानुहोस्। यसलाई दिगो बनाउनको लागि कर्पोरेट सुशासन आवश्यक छ: अनुमोदित उपकरणहरूको सूची, डेटा नीति, भूमिका, दर्ता, प्रशिक्षण र निरन्तर समीक्षा। मोड्युलका छवटा ड्राइभिङ सिद्धान्तहरू - मानव जिम्मेवारी, प्रमाणिकरण, गोपनीयता/PDPA, प्रमाणप्रति प्रतिबद्धता, पूर्वाग्रह नियन्त्रण, र ग्राहक-केन्द्रितता — प्रत्येक कार्यप्रवाहमा बुनिएको हुनुपर्छ।
आवेदन कार्य
मानसिक रूपमा आवेदन देखि बन्द सम्म एक काल्पनिक मामला चार्ट; "केस प्रवाह प्रमाणिकरण गेट" टेम्प्लेटको साथ प्रत्येक चरणको लागि चेकलिस्ट उत्पादन गर्नुहोस्। त्यसपछि यस मामलामा कार्यहरूलाई खुला वाहन / सुरक्षित प्रणाली / कुनै एआई "मान्य वाहन मिलान" टेम्प्लेटको रूपमा वर्गीकृत गर्नुहोस्। अन्तमा, "सेल्फ-अडिट" टेम्प्लेटको साथ AI को आफ्नै प्रयोगको लागि 10 प्रश्नहरूको सूची सिर्जना गरेर आफैलाई मूल्याङ्कन गर्नुहोस्।
चेकलिस्ट
- [ ] मैले अन्त-देखि-अन्त प्रवाहमा छवटा मानव ढोकाहरू पहिचान गरेको छु।
- हरेक पाइलामा "निर्णय वा मस्यौदा?" मैले प्रश्न लागू गरें।
- [ ] मैले सही सवारी साधनको प्रकार (खुला/सुरक्षित/कुनै पनि) सँग कार्यहरू मेल खाएँ।
- [ ] मलाई कर्पोरेट गभर्नेन्स कम्पोनेन्टहरू (उपकरण, डेटा, भूमिका, दर्ता, प्रशिक्षण, समीक्षा) थाहा छ।
- [ ] मैले मेरो आफ्नै कार्यप्रवाहमा मोड्युलको छ वाहक सिद्धान्तहरू लागू गरें।
मोड्युल परीक्षा
1. सामाजिक कार्यमा आर्टिफिसियल इन्टेलिजेन्सको लागि निम्न मध्ये कुन सबैभन्दा सही स्थिति हो?
- A) कृत्रिम बुद्धिमत्ताले ग्राहकको जोखिम स्तर र मानवीय स्वीकृति बिना हस्तक्षेप निर्णय गर्न सक्छ
- B) AI संक्षेप, संगठित, सरलीकरण र मस्यौदाको लागि एक उपकरण हो; क्लिनिकल निर्णय, जोखिम र अन्तिम निर्णय को लागी जिम्मेवारी विशेषज्ञ मा रहन्छ ✔
- C) आर्टिफिसियल इन्टेलिजेन्स केवल पाठ अनुवाद गर्न को लागी उपयोगी छ र अन्य सामाजिक कार्य कार्यहरु संग कुनै सम्बन्ध छैन।
- घ) कृत्रिम बुद्धिमत्ता सधैं मानव भन्दा बढी निष्पक्ष हुने भएकोले, मूल्याङ्कन यसमा छोडिनुपर्छ।
विवरण: कृत्रिम बुद्धि; यो एक सहायक हो जसले नोटहरू व्यवस्थित गर्दछ, फाइलको सारांश दिन्छ, पाठलाई सरल बनाउँछ र ड्राफ्टहरू उत्पादन गर्दछ। क्लिनिकल निर्णय, जोखिम मूल्याङ्कन, व्यावसायिक राय र अन्तिम निर्णयको लागि जिम्मेवारी सक्षम पेशेवरसँग रहन्छ; एक अप्रमाणित आउटपुटले ग्राहकको गलत निर्णय, जोखिम चोरी, वा संवेदनशील डेटाको चुहावट निम्त्याउन सक्छ।
2. अन्तर्वार्ताका कच्चा नोटहरूलाई आर्टिफिसियल इन्टेलिजेन्सद्वारा केस रेकर्डमा रूपान्तरण गर्दा सबैभन्दा सही निर्देशन के हो?
- क) हराएका भागहरूलाई व्यावसायिक रूपमा भर्नका लागि कृत्रिम बुद्धिमत्ताको अनुरोध गर्ने।
- B) रेकर्डलाई समृद्ध बनाउन AI लाई थप अवलोकनहरू थप्न अनुमति दिँदै
- C) विद्यार्थीलाई वास्तवमा नोटमा समावेश भएको जानकारी मात्र प्रयोग गर्न, छुटेका वस्तुहरूलाई 'स्पष्टीकरण आवश्यक छ' भनी चिन्ह लगाउनुहोस्, र केही नथप्नुहोस् ✔
- D) आउटपुट धाराप्रवाह भएसम्म नोटसँग तुलना नगरी सीधा फाइलमा राख्ने
स्पष्टीकरण: AI को सबैभन्दा खतरनाक प्रवृत्ति भनेको रेकर्डलाई 'पूर्ण' देखाउन नोटमा नभएका अवलोकन, संख्या वा उद्धरणहरू बनाउनु हो। सही दृष्टिकोण भनेको 'नोटमा भएका कुराहरू मात्र प्रयोग गर्नुहोस्, हराएकाहरूलाई चिन्ह लगाउनुहोस्, केही नथप्नुहोस्' भन्नु हो। खाली ठाउँहरू भरिएका छैनन्, तिनीहरू स्पष्टीकरणको लागि चिन्ह लगाइएका छन्।
३. केस रेकर्डमा 'तथ्य' र 'व्याख्या' बीचको भिन्नता किन महत्त्वपूर्ण छ?
- क) एक तथ्य एक ठोस अवलोकन/कथन हो, जबकि एक व्याख्या एक व्यावसायिक निष्कर्ष हो जसलाई आधार चाहिन्छ; दुई छुट्टाछुट्टै गरी टिप्पणी ट्याग गर्नुपर्छ ✔
- ख) भेद अनावश्यक छ; तथ्य र टिप्पणी अभिलेखमा उस्तै तरिकाले लेख्न सकिन्छ
- ग) व्याख्या मात्र महत्त्वपूर्ण छ; तथ्य अभिलेख नभए पनि सम्भव छ
- D) कृत्रिम बुद्धिमत्ताले यो भिन्नतालाई पूर्णतया बनाउँछ, मानव नियन्त्रणको आवश्यकता छैन।
स्पष्टीकरण: 'उनी अन्तर्वार्तामा तीन पटक रोए' एक तथ्य हो; 'उ उदास थियो' एक टिप्पणी हो जुन क्लिनिकल आधार बिना लेख्न सकिदैन। रेकर्डले तथ्यलाई अग्रभूमिमा राख्छ र स्पष्ट लेबलिंग र औचित्यको साथ मात्र व्याख्या समावेश गर्दछ। एआईले दुईवटा धाराप्रवाह मिश्रण गर्न सक्छ; भेदभाव गर्ने र कलंकित भाषाबाट बच्नु व्यक्तिको कर्तव्य हो।
4. बच्चा घरमा सुरक्षित छ वा केसको जोखिम स्तर निर्धारण गर्न AI ले कस्तो भूमिका खेल्नुपर्छ?
- क) आर्टिफिसियल इन्टेलिजेन्सले केस पढ्न, जोखिम स्तर निर्धारण गर्न र सुरक्षा निर्णय गर्न सक्छ
- ख) आर्टिफिसियल इन्टेलिजेन्सद्वारा दिइएको 'कम जोखिम' लेबलले विशेषज्ञको अवलोकनलाई उल्टो ओभरराइड गर्न सक्छ।
- C) कृत्रिम बुद्धिमत्ताले कारकहरूलाई मात्र सम्झाउँछ र नोटहरू व्यवस्थित गर्दछ; जोखिम स्तर र सुरक्षा निर्णय विशेषज्ञ, टोली, पर्यवेक्षण र कानुनी प्रक्रिया हो ✔
- D) कृत्रिम बुद्धिमत्ता जोखिम निर्णयमा मानिसहरू भन्दा बढी भरपर्दो छ किनभने यो निष्पक्ष छ।
विवरण: जोखिम स्तर र सुरक्षा निर्णय; यसको लागि व्यावसायिक अधिकार, क्लिनिकल निर्णय, बहु-अनुशासनात्मक टोलीको राय, पर्यवेक्षण र कानूनी जिम्मेवारी चाहिन्छ। यहाँ, AI ले जोखिम/सुरक्षा कारकहरू मात्र सम्झन सक्छ र टिप्पणीहरू सम्पादन गर्न सक्छ; अंक वा निर्णयहरू उत्पादन गर्न सक्दैन। यसले प्रशिक्षण डेटामा पूर्वाग्रहको कारणले गर्दा व्यवस्थित उच्च जोखिमको श्रेय पनि हुन सक्छ, त्यसैले यसको आउटपुट निर्णयको रूपमा प्रयोग गर्न सकिँदैन।
५. आर्टिफिसियल इन्टेलिजेन्सले ग्राहकलाई 'यो केन्द्र, त्यो फोन' भन्दै रेफरल जानकारी दिँदा के गर्नुपर्छ?
- क) ग्राहकलाई दिनु अघि संस्थाको आधिकारिक र हालको स्रोतबाट ठेगाना र फोन नम्बर पुष्टि गर्ने ✔
- ख) सीधै ग्राहकलाई जानकारी प्रदान गर्ने किनकि यो विश्वासपूर्वक प्रस्तुत गरिएको छ
- C) कृत्रिम बुद्धिमत्ताले हालको मिति दिएसम्म जानकारी बिल्कुल सही छ भनी मान्दै
- घ) कतै उल्लेख भएकोले जानकारीको शुद्धताको खोजी गर्नुपर्दैन भन्ने सोच्दै।
विवरण: कृत्रिम बुद्धिमत्ताले सेवाहरू, आवेदन आवश्यकताहरू, ठेगानाहरू र टेलिफोन नम्बरहरू बनाउन वा पुरानो जानकारी प्रदान गर्न सक्छ; संस्थाहरू मर्ज हुन्छन्, सर्छन्, बन्द हुन्छन्। ग्राहकलाई अप्रमाणित ठेगानामा पठाउँदा व्यर्थ यात्रा र विश्वास गुमाउनेछ। तसर्थ, आर्टिफिसियल इन्टेलिजेन्सद्वारा प्रदान गरिएको सम्पर्क जानकारी ग्राहकलाई हस्तान्तरण गर्नु अघि संस्थाको आफ्नै आधिकारिक च्यानल मार्फत पुष्टि गर्नुपर्छ।
6. प्रतिक्रिया योजनामा लक्ष्यहरू कसले सेट गर्नुपर्छ र AI को भूमिका के हो?
- A) आर्टिफिसियल इन्टेलिजेन्सले दुबै लक्ष्यहरू निर्धारण गर्नुपर्दछ र ग्राहकलाई न सोधी सम्पूर्ण योजना लेख्नुपर्छ।
- बी) ग्राहक (विशेषज्ञ संग) लक्ष्य निर्धारण गर्दछ; AI ले तिनीहरूलाई SMART ढाँचामा राख्छ र तिनीहरूलाई संरचना बनाउँछ, नयाँ लक्ष्यहरू थप्दैन ✔
- ग) लक्ष्यहरू महत्त्वपूर्ण छैनन्; योजनामा जति धेरै लक्ष्यहरू समावेश हुन्छन्, त्यति राम्रो।
- D) आर्टिफिसियल इन्टेलिजेन्सले ग्राहकको प्राथमिकतालाई बेवास्ता गर्न सक्छ किनभने यो व्यावसायिक देखिन्छ
विवरण: सामाजिक कार्यको मुख्य मूल्य 'आत्म-निर्णय' हो: ग्राहकले लक्ष्य र प्राथमिकताहरू सेट गर्दछ, तिनीहरूलाई विशेषज्ञ व्यावसायिक ज्ञानको साथ आकार दिन्छ। आर्टिफिसियल इन्टेलिजेन्सले यी लक्ष्यहरूलाई SMART ढाँचामा राख्छ र चरणहरू र सूचकहरू सुझाव दिन्छ; तर उसले ग्राहकले नभनेको नयाँ लक्ष्यहरू थप्न सक्दैन। विदेशी, बाह्य रूपमा लगाइएको योजना ग्राहकलाई लागू गर्न सकिँदैन।
७. अदालतमा पेश गरिने सामाजिक अनुसन्धान प्रतिवेदनमा आर्टिफिसियल इन्टेलिजेन्स सबैभन्दा खतरनाक कुन मुद्दामा छ ?
- क) प्रतिवेदनलाई 'पूर्ण' देखाउनको लागि अवस्थित नभएको मिति, अवलोकन वा उद्धरण आविष्कार गर्ने क्षमता ✔
- ख) पाठको भाषालाई धेरै औपचारिक बनाउने
- ग) अनुरोध गरिएको भन्दा छोटो प्रतिवेदन लेख्ने
- D) शीर्षकहरूको वर्णमाला क्रम
स्पष्टीकरण: AI को सबैभन्दा खतरनाक प्रवृत्ति भनेको रिपोर्टलाई 'पूर्ण' देखाउनको लागि अवस्थित नभएको मिति, अवलोकन वा उद्धरण थप्नु हो। अदालतको प्रतिवेदनमा बनाइएको वाक्यले निर्णयलाई भ्रामक बनाउन र विशेषज्ञको विश्वसनीयतालाई नष्ट गर्न सक्छ। तसर्थ, प्रत्येक केसलाई वास्तविक अन्तर्वार्ता/अवलोकन/कागजातसँग जोड्नुपर्दछ, र विशेषज्ञद्वारा व्यावसायिक राय गठन गर्नुपर्छ।
8. सामाजिक अनुसन्धान प्रतिवेदनको व्यावसायिक राय र राय (सुझाव) खण्ड कसले लेख्नुपर्छ?
- क) कृत्रिम बुद्धिमत्ता; किनभने यसले अधिक निष्पक्ष सिफारिस उत्पादन गर्दछ
- ख) प्रतिवेदन लेख्दा राय खण्ड कहिल्यै भरिएको छैन।
- ग) आर्टिफिसियल इन्टेलिजेन्सले राय लेख्छ, विशेषज्ञले अन्त्यमा मात्रै संकेत गर्छ
- डी) विशेषज्ञ; व्यावसायिक राय र राय उसको अधिकार र जिम्मेवारी हो, कृत्रिम बुद्धिमत्ताले मात्र भाषा स्पष्ट गर्दछ ✔
कथन: व्यावसायिक राय र राय - 'यस बच्चाको सर्वोत्तम हित हो', 'यो व्यवस्था उपयुक्त छ' - विशेषज्ञको कानुनी अधिकार र जिम्मेवारी हो। 'म कृत्रिम बुद्धिमत्तालाई के सिफारिस गर्छु?' यो सोधिएको छैन; उसले उत्पादन गरेको 'सुझाव' बनावटी र जिम्मेवारी हस्तान्तरण दुवै हुन सक्छ। सबै भन्दा राम्रो, कृत्रिम बुद्धिमत्ता विशेषज्ञ द्वारा लिखित राय को भाषा स्पष्ट गर्दछ।
९. आर्टिफिसियल इन्टेलिजेन्स भएको क्लाइन्टको लागि भारी आधिकारिक मद्दत पत्रलाई सरल बनाउँदा सबैभन्दा महत्त्वपूर्ण नियन्त्रण के हो?
- क) पाठलाई सकेसम्म छोटो राख्नुहोस्, विवरणहरू नहेर्नुहोस्
- B) परिणाम धाराप्रवाह र सौन्दर्य देखिन्छ
- C) कुनै पनि अधिकार, सर्त, रकम, मिति वा सूचनाहरू मौलिकसँग तुलना गरेर मेटाइएको छैन भनेर प्रमाणित गर्दै ✔
- D) सरलीकरणले ग्राहकलाई कम जानकारी दिएर सान्त्वना प्रदान गर्दछ।
स्पष्टीकरण: सरलीकरण भनेको विकृत गर्नु होइन; 'छोटो' वा 'सरल' गरेर AI ले सही, अवस्था, रकम, मिति वा सूचना निल्न सक्छ। ग्राहकले 'सजिलो' तर अपूर्ण जानकारीको साथ आफ्नो अधिकार गुमाउन सक्छ। तसर्थ, सरलीकृत पाठलाई मौलिकसँग तुलना गरिनुपर्छ र कुनै महत्वपूर्ण जानकारी हराएको छैन भनी प्रमाणित गरिनुपर्छ, र कृत्रिम बुद्धिमत्तामा पनि यसले सुरक्षा गर्ने महत्वपूर्ण तत्वहरूको सूची राख्नुपर्छ।
10. फन्डिङ आवेदनको मस्यौदा तयार गर्दा आर्टिफिसियल इन्टेलिजेन्सद्वारा उत्पादित तथ्याङ्कलाई कसरी व्यवहार गर्ने सही छ?
- क) आर्टिफिसियल इन्टेलिजेन्सले दिएको तथ्याङ्कलाई प्रत्यक्ष रूपमा प्रयोग गरेर यसलाई प्रभावशाली बनाउन
- ख) आर्टिफिसियल इन्टेलिजेन्स मेक-अप तथ्याङ्कहरू नबनाउने, आवश्यक भएमा [डाटा आवश्यक] छाप्ने र वास्तविक स्रोतबाट प्रत्येक नम्बर राख्ने ✔
- ग) आवेदनमा संख्या समावेश हुँदासम्म स्रोत महत्वहीन हुन्छ भन्ने कुरालाई ध्यानमा राख्दै।
- D) AI ले आत्मविश्वासका साथ लेख्ने भएकाले तथ्याङ्कहरू प्रमाणित गर्न आवश्यक छैन भनी मान्दै
विवरण: आर्टिफिशियल इन्टेलिजेन्सले उल्लेखनीय तर असुरक्षित तथ्याङ्कहरू बनाउन सक्छ; स्रोत बिनाको आंकडा लगभग सधैं अविश्वसनीय छ। एप्लिकेसनमा बनाइएको तथ्याङ्कले आवेदन अस्वीकार गर्ने र संस्थाको विश्वसनीयतालाई नष्ट गर्नेछ। सही दृष्टिकोण भनेको एआई मेक अप नम्बरहरू ('लेख्नुहोस् [डेटा आवश्यक]') र वास्तविक, प्रमाणित स्रोतबाट प्रत्येक नम्बर राख्नु हो।
11. आर्टिफिसियल इन्टेलिजेन्सलाई 'यो परिवार किन बच्चा हुर्काउन अपर्याप्त छ' भनेर सोध्नु किन हानिकारक छ?
- क) किनभने प्रश्न धेरै लामो छ
- ख) कृत्रिम बुद्धिमत्ताले पारिवारिक मामिलाहरूमा कुनै जानकारी दिन सक्दैन
- C) किनकि यसले सुरुवातबाट नतिजालाई मान्दछ, कृत्रिम बुद्धिमत्ता (चापलुसी) एक अप्रमाणित र पक्षपाती पुष्टिकरण उत्पादन गर्दछ; प्रश्न तटस्थ र सन्तुलित हुनुपर्छ ✔
- D) किनभने कृत्रिम बुद्धिमत्ताले सधैं परिवारको पक्षमा लेख्नेछ
स्पष्टीकरण: यो प्रश्नले नतिजा ('अपर्याप्त') लाई अनुमान गर्दछ। AI ले प्रमाण-रहित र पक्षपाती पाठ उत्पादन गर्दछ जसले यस धारणालाई यसको चापलूसी गर्ने प्रवृत्तिको साथ पुष्टि गर्दछ (तपाईको आलोचना पुष्टि गर्नुहोस्)। पक्षपाती प्रश्नले पक्षपाती उत्तर सिर्जना गर्छ। वास्तवमा, यो एक तटस्थ प्रश्न हो जसले परिणामलाई मान्दैन, शक्ति र चिन्ता दुवैलाई सन्तुलनमा राख्छ, र प्रमाणको लागि मात्र सोध्छ।
12. AI आउटपुटमा पूर्वाग्रह जाँच गर्न 'अण्डर एन्गल टेस्टिङ' कसरी लागू गर्ने?
- क) फरक समूहको लागि एउटै अवस्थाको बारेमा सोच्दै र 'यो एउटै भाषामा लेखिनेछ?' ✔ सोधेर दोहोरो मापदण्डहरू परीक्षण गर्दै
- ख) आर्टिफिसियल इन्टेलिजेन्सको पहिलो उत्तरलाई तटस्थ मानेर अर्को कोणको खोजी नगर्ने
- C) ग्राहकको समूहलाई समर्थन गर्ने प्रश्नहरू मात्र सोध्ने
- D) कृत्रिम बुद्धिमत्तामा पूर्वाग्रह अवस्थित नभएकोले अतिरिक्त नियन्त्रणको आवश्यकता छैन भनी मान्दै
स्पष्टीकरण: AI ले फरक-फरक समूहहरूका लागि एउटै व्यवहारलाई फरक-फरक स्वरमा लेख्न सक्छ (जस्तै न्यून आय भएका परिवारका लागि 'उपेक्षाको जोखिम', उच्च आय भएकाहरूको लागि 'बाध्यकारी अभिभावक')। उल्टो परीक्षण 'यदि ग्राहक फरक सामाजिक आर्थिक/जातीय समूहबाट भएको भए, के यो एउटै भाषामा लेखिएको थियो?' सोध्नु छ; यसले स्टेरियोटाइपहरूमा आधारित दृश्यात्मक दोहोरो मापदण्ड बनाउँछ, प्रमाण होइन।
13. ग्राहकको वास्तविक फाइल (नाम, ठेगाना, स्वास्थ्य जानकारी सहित) संक्षेप गर्न सही दृष्टिकोण कुन हो?
- A) गतिको लागि, यसलाई नजिकको सार्वजनिक AI उपकरणमा टाँस्नुहोस् र यसलाई संक्षेप गर्नुहोस्
- B) गोपनीयतामा ध्यान नदिई फाइल प्रशोधन गर्दै किनभने यो छोटो छ
- ग) स्वास्थ्य जानकारी सहित सबै प्रविष्ट गर्नुहोस् र केवल परिणाम बचत गर्नुहोस्
- D) संस्था द्वारा अनुमोदित सुरक्षित प्रणालीमा मात्र प्रक्रिया गर्नुहोस् वा न्यूनतम डाटाको साथ डि-पहिचान गरिएको पाठ ✔
खुलासा: ग्राहकको पहिचान गर्ने व्यक्तिगत डाटा — विशेष गरी स्वास्थ्य जस्ता संवेदनशील डाटा — संस्थाले स्वीकृत नगरेको सार्वजनिक उपकरणमा कहिल्यै प्रवेश गरिँदैन; पाठ प्रशोधन गर्न सकिन्छ, बाह्य सर्भरहरूमा भण्डारण गर्न सकिन्छ वा मोडेल प्रशिक्षणमा प्रयोग गर्न सकिन्छ, र exfiltration अपरिवर्तनीय छ। यो पनि KVKK उल्लङ्घन हो। यस प्रकारको काम केवल इन-हाउस, सुरक्षित, अनुमोदित प्रणालीहरूमा गरिन्छ जुन डाटा लीक हुँदैन वा डि-पहिचान गरिएको पाठसँग।
14. किन कागजातबाट नामहरू मेटाउनु सधैं यसलाई सार्वजनिक उपकरणमा कमिट गर्न पर्याप्त हुँदैन?
- A) नामहरू मेटाउनु सधैं पूर्ण अज्ञातता हो र प्रत्येक कागजात सुरक्षित बनाउँछ
- ख) जबसम्म कागजात छोटो छ, यो सन्दर्भबाट पहिचान अनुमान गर्न असम्भव छ
- C) एक कागजात जसको नाम पूर्ण रूपमा मेटाइएको छ KVKK को दायरा बाहिर पर्छ।
- घ) सन्दर्भ (छिमेक, उमेर, घटना, पारिवारिक संरचना) ले पहिचान पुन: जोड्न सक्छ; सुरक्षा उपकरण र वातावरण को छनौट द्वारा प्रदान गरिएको छ ✔
स्पष्टीकरण: नामहरू मेटाइए पनि, सन्दर्भ (छिमेक, उमेर, घटना, मिति, पारिवारिक संरचना, आदिको दुर्लभ संयोजन) ले व्यक्तिलाई पहिचान गर्न सक्छ; वर्णन मिल्ने छिमेकमा उहाँ एक मात्र व्यक्ति हुन सक्नुहुन्छ। वास्तविक सुरक्षा मास्किंग द्वारा प्रदान गरिएको छैन, तर सही उपकरण र वातावरण छनोट गरेर; सन्दर्भ पनि व्यक्तिगत डेटा हो र अनिश्चित जानकारी उच्च वर्गको रूपमा सुरक्षित हुनुपर्छ।
15. एकल एआई त्रुटिलाई अन्तिम निर्णयमा चुहावट हुनबाट रोक्नको लागि आवेदन दिनदेखि केस बन्द गर्ने सबैभन्दा प्रभावकारी तरिका के हो?
- A) सम्पूर्ण प्रक्रियालाई एकल AI उपकरणमा प्रत्यायोजन गर्ने र अन्त्यमा एक पटक मात्र हस्ताक्षर गर्ने
- ख) प्रत्येक चरणमा मानव प्रमाणीकरण गेट र पास शर्त राख्ने (स्तरित प्रमाणिकरण) ✔
- C) गतिको लागि मध्यवर्ती प्रमाणीकरणहरू हटाउँदै र आउटपुट चरणमा मात्र जाँच गर्दै
- D) प्रत्येक विशेषज्ञलाई अभिलेख नराखी आफ्नो आफ्नै उपकरण स्वतन्त्र रूपमा प्रयोग गर्न अनुमति दिने
विवरण: प्रत्येक चरणमा एक मानव प्रमाणिकरण गेट राखिएको छ (अनुप्रयोग/गोपनीयता, मूल्याङ्कन/चिकित्सकीय निर्णय, जोखिम/प्राधिकरण, योजना/प्रमाणीकरण, रिपोर्ट/प्रमाण, बन्द/शुद्धता); एउटा ढोकाबाट अर्को ढोका नपारिकन तिमी जान सक्दैनौ। यो स्तरित संरचनाले ग्राहकलाई असर गर्ने निर्णयमा प्रवेश गर्नबाट एक चरणमा भ्रम, पूर्वाग्रह, वा गोपनीयता त्रुटिलाई रोक्छ।