நீதி, பாகுபாடு மற்றும் சட்டம்: SEDDK, KVKK மற்றும் செயற்கை நுண்ணறிவு விதிமுறைகள்

ஆதாயங்கள்:

• விலை நிர்ணயம் மற்றும் எழுத்துறுதியில் பாகுபாடு, சார்பு மற்றும் மறைமுக பாகுபாடு ஆகியவற்றின் அபாயங்களை அடையாளம் கண்டு அவற்றை செயற்கை நுண்ணறிவு வெளியீட்டில் சோதிக்கும் திறன்
• SEDDK விதிமுறைகள், KVKK மற்றும் தானாக முடிவெடுக்கும் கொள்கைகளின் கட்டமைப்பிற்குள் விளக்கமளிக்கும் மற்றும் ஆட்சேபனைக்கான உரிமையைக் கவனிக்கும் திறன்
• அதிக ஆபத்துள்ள தானியங்கு முடிவுகளில் மனிதக் கட்டுப்பாடு மற்றும் நியாயப்படுத்தும் கடமைகளைப் பயன்படுத்துவதற்கான திறன்

காப்பீடு என்பது குழுக்கள் மற்றும் விலைகள் அபாயகரமான ஒரு வணிகமாகும்; ஆனால் இந்த குழுவானது நியாயமானதாக இருக்க வேண்டும். ஒரு நபரின் பாலினம், இனம், நம்பிக்கை, வசிக்கும் பகுதி போன்ற பாதுகாக்கப்பட்ட பண்புகள் காரணமாக அதிக பிரீமியம் வழங்குவது அல்லது கவரேஜ் மறுப்பது நியாயமற்ற பாகுபாடு மற்றும் தடைசெய்யப்பட்டுள்ளது. செயற்கை நுண்ணறிவு (வரலாற்றுத் தரவுகளிலிருந்து கற்று, விலை மற்றும் முடிவு பரிந்துரைகளை உருவாக்கும் மென்பொருள்) இந்தப் பகுதியில் ஒரு குறிப்பிட்ட ஆபத்தை ஏற்படுத்துகிறது: இது வரலாற்றுத் தரவுகளில் நியாயமற்ற வடிவங்களைக் கற்றுக்கொள்ளலாம் மற்றும் அறியாமலேயே பாகுபாட்டை நிலைநிறுத்தலாம் அல்லது மறைக்கலாம். மேலும், இதை நேரடியாக அல்ல மறைமுகமாக (ப்ராக்ஸி மாறி மூலம்) செய்ய முடியும். இந்த பிரிவில், விலை நிர்ணயம் மற்றும் எழுத்துறுதியில் உள்ள சார்பு மற்றும் பாகுபாட்டின் அபாயங்களை எவ்வாறு அங்கீகரிப்பது, செயற்கை நுண்ணறிவு வெளியீட்டை நேர்மைக்காக எவ்வாறு சோதிப்பது மற்றும் SEDDK (காப்பீடு மற்றும் தனியார் ஓய்வூதிய ஒழுங்குமுறை மற்றும் மேற்பார்வை நிறுவனம்), KVKK மற்றும் தானியங்கி முடிவெடுக்கும் கொள்கையின் கட்டமைப்பிற்குள் விளக்கமளிக்கும் மற்றும் ஆட்சேபனைக்கான உரிமையை எவ்வாறு கடைப்பிடிப்பது என்பதை நீங்கள் கற்றுக் கொள்வீர்கள். இந்த பிரிவு சட்ட ஆலோசனை அல்ல; இது பொதுவான கொள்கைகளை விளக்குகிறது, எந்தவொரு உறுதியான விஷயத்திலும், சட்ட/இணக்கப் பிரிவைக் கலந்தாலோசிக்கவும்.

பாரபட்சம் மற்றும் பாகுபாடு எங்கிருந்து வருகிறது?

AI சார்பு மூன்று முக்கிய ஆதாரங்களில் இருந்து எழுகிறது:

• தரவு சார்பு: வரலாற்றுத் தரவுகளில் நியாயமற்ற தன்மையைப் பற்றி மாதிரி அறிந்து கொள்கிறது. உதாரணமாக, ஒரு குறிப்பிட்ட குழுவிற்கு கடந்த காலத்தில் அதிக பிரீமியங்கள் முறையாக வழங்கப்பட்டிருந்தால், மாடல் இதை "சாதாரணமாக" தொடர்ந்து கருதுகிறது.
• மாற்று மாறி (ப்ராக்ஸி): பாதுகாக்கப்பட்ட அம்சத்தை (பாலினம், தோற்றம்) நேரடியாக மாடல் பயன்படுத்தாவிட்டாலும், அதனுடன் வலுவாக தொடர்புடைய ஒரு மாறியைப் பயன்படுத்துவதன் மூலம் அது மறைமுகமாகப் பாகுபாடு செய்கிறது (அக்கம், பெயர், ஷாப்பிங் முறை).
• மாதிரி சார்பு: சில குழுக்கள் தரவில் குறைவாகப் பிரதிநிதித்துவம் செய்யப்படுவதால், மாதிரியானது அவற்றைப் பற்றி நம்பமுடியாத மற்றும் நியாயமற்ற தீர்ப்புகளை உருவாக்குகிறது.

இரண்டு வகையான பாகுபாடுகள் உள்ளன. நேரடி பாகுபாடு: பாதுகாக்கப்பட்ட பண்பின் அப்பட்டமான பயன்பாடு. மறைமுக பாகுபாடு: வெளிப்படையாக நடுநிலை அளவுகோல் ஒரு குறிப்பிட்ட குழுவை விகிதாசாரமாக பாதிக்கும் போது. இரண்டாவது மிகவும் நயவஞ்சகமானது, ஏனெனில் இது நோக்கம் இல்லாமல் நிகழ்கிறது மற்றும் கண்டறிவது கடினம்.

எச்சரிக்கை: "மாதிரியானது புள்ளிவிவரங்களை அடிப்படையாகக் கொண்டது, எனவே அது புறநிலையானது" என்ற பாதுகாப்பு தவறானது. புள்ளிவிவரங்களில் கடந்தகால அநீதியும் அடங்கும்; மாதிரி அதை சட்டப்பூர்வமாக்காது, அது நிரந்தரமாக்குகிறது. நேர்மை என்பது தீவிரமாக சோதிக்கப்பட வேண்டிய ஒன்று.

நேர்மைக்கான வெளியீடு சோதனை

நியாயத்தன்மைக்கான மூன்று கேள்விகளுடன் AI வெளியீட்டை (விலை பரிந்துரை, நிராகரிப்பு காரணம், ஆபத்து மதிப்பெண்) சோதிக்கவும்:

1. காரணம் நியாயமானதா? ஆபத்துக்கான உண்மையான மற்றும் நியாயமான உறவைக் கொண்ட அளவுகோல்களின் அடிப்படையில் முடிவு எடுக்கப்பட்டதா அல்லது பாதுகாக்கப்பட்ட சொத்து அல்லது அதன் ப்ராக்ஸியின் அடிப்படையிலானதா?
2. ப்ராக்ஸி உள்ளதா? பயன்படுத்தப்படும் மாறிகளில் ஒன்று (அக்கம், பெயர், தொழில், திருமண நிலை) பாதுகாக்கப்பட்ட பண்புடன் வலுவாக தொடர்புடையதாக இருக்க முடியுமா?
3. அதை விளக்க முடியுமா? வாடிக்கையாளருக்கும் தணிக்கையாளருக்கும் தெளிவான மற்றும் தற்காப்புக்குரிய முறையில் முடிவை விளக்க முடியுமா? "மாதிரி சொன்னது" என்பது ஒரு அறிக்கை அல்ல.

ஒரு நியாயப்படுத்தல் இந்த மூன்று சோதனைகளிலும் தேர்ச்சி பெறவில்லை என்றால், அது நிராகரிக்கப்படும் மற்றும் சட்டபூர்வமான அளவுகோல்களின் அடிப்படையில் முடிவு எடுக்கப்படும்.

உதவிக்குறிப்பு: நிராகரிப்பு அல்லது அதிக பிரீமியத்திற்கான காரணத்தை இந்த வாக்கியத்தின் மூலம் சோதிக்கவும்: "வாடிக்கையாளருக்கும் தணிக்கையாளருக்கும் இதை விளக்கினால் நான் சங்கடப்படுவேனா?" வெட்கக்கேடான அல்லது மறுக்க முடியாத நியாயத்தை (அக்கம், பெயர், தோற்றம்) பயன்படுத்தக்கூடாது.

சட்டமன்ற கட்டமைப்பு: SEDDK, KVKK, தானியங்கி முடிவு

காப்பீட்டில் செயற்கை நுண்ணறிவின் பயன்பாடு பல்வேறு விதிமுறைகளுக்கு உட்பட்டது. முக்கிய கொள்கைகள்:

• SEDDK கொள்கைகள்: காப்பீட்டு நடவடிக்கைகள் நியாயமான, வெளிப்படையான மற்றும் நுகர்வோர்-பாதுகாப்பான முறையில் மேற்கொள்ளப்பட வேண்டும்; விலை நிர்ணயம் நியாயமானதாக இருக்க வேண்டும் மற்றும் நியாயமற்ற பாகுபாடு இருக்கக்கூடாது.
• கே.வி.கே.கே: தனிப்பட்ட தரவு சட்டத்தின்படி செயலாக்கப்பட வேண்டும், நோக்கத்திற்கு மட்டுப்படுத்தப்பட்ட மற்றும் பாதுகாப்பாக இருக்க வேண்டும். உடல்நலம் போன்ற சிறப்புத் தரவு, மிக உயர்ந்த பாதுகாப்பிற்கு உட்பட்டது.
• தானியங்கு முடிவெடுக்கும் கொள்கைகள்: தன்னியக்க செயலாக்கத்தை மட்டுமே அடிப்படையாகக் கொண்ட மற்றும் நபரை கணிசமாக பாதிக்கும் முடிவுகளில் (உதாரணமாக, செயற்கை நுண்ணறிவால் மட்டுமே நிராகரிப்பு), நபர்; முடிவை எதிர்ப்பதற்கும், மனித தலையீட்டைக் கோருவதற்கும், முடிவின் நியாயத்தை அறிந்து கொள்வதற்குமான உரிமைகள் முன்னுக்கு வருகின்றன.

எனவே, அதிக தாக்கத்தை ஏற்படுத்தும் முடிவுகளில் விளக்கக்கூடிய தன்மை, மனிதக் கட்டுப்பாடு மற்றும் நியாயப்படுத்துதல் ஆகியவை அவசியம். "கருப்புப் பெட்டி" மாதிரியின் நியாயமற்ற முடிவு கட்டுப்படுத்த முடியாதது மற்றும் இந்த உரிமைகளுடன் முரண்படுகிறது.

படிப்படியாக: நியாயமான மற்றும் இணக்கமான முடிவு

1. பாதுகாக்கப்பட்ட பண்புகளை அடையாளம் காணவும். பாலினம், தோற்றம், நம்பிக்கை, ஆரோக்கியம், வசிக்கும் பகுதி போன்றவை.
2. ப்ராக்ஸி ஸ்கேன் செய்யுங்கள். பாதுகாக்கப்பட்ட பண்புகளுடன் பயன்படுத்தப்படும் மாறிகளின் தொடர்பைக் கேள்வி.
3. நியாயத்தை சட்டப்பூர்வமாக சோதிக்கவும். ஆபத்துடன் உண்மையான உறவு உள்ளதா? அதை விளக்க முடியுமா?
4. மனித கட்டுப்பாட்டைச் சேர்க்கவும். உயர்-தாக்க முடிவெடுப்பதில் ஒரு மனிதன் தானியங்கி முடிவை மதிப்பாய்வு செய்யட்டும்.
5. பகுத்தறிவை ஆவணப்படுத்தவும். எந்த நியாயமான அளவுகோல்களின் அடிப்படையில் முடிவு எடுக்கப்பட்டது என்பதை பதிவு செய்யவும்.
6. மேல்முறையீடு செய்ய வழி தெரியும். வாடிக்கையாளருக்கு பொருள், மனித மதிப்பாய்வு மற்றும் நியாயப்படுத்துவதற்கான உரிமையை வழங்குதல்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - ப்ராக்ஸியை நிராகரித்தல். ஒரு வீட்டு விலை மாதிரியானது குறிப்பிட்ட ஜிப் குறியீட்டிற்கு முறையாக அதிக பிரீமியத்தை பரிந்துரைத்தது. நிபுணர் ஆய்வு செய்தார்: ஒரு குறிப்பிட்ட இனச் செறிவு கொண்ட பகுதியுடன் அஞ்சல் குறியீடு ஒன்றுடன் ஒன்று இணைக்கப்பட்டுள்ளது; இது ஒரு ப்ராக்ஸி மாறி இருந்தது. உண்மையான ஆபத்து (கட்டிட வயது, கட்டமைப்பு வகை, சேத வரலாறு) உடைக்கப்பட்டால், பெரும்பாலான அதிகரிப்பு இனி நியாயப்படுத்தப்படாது. நியாயமான ஆபத்து அளவுகோல்களின் அடிப்படையில் விலை மீண்டும் நிறுவப்பட்டது.

வழக்கு 2 - குறைவான பிரதிநிதித்துவ குழு. ஹெல்த்கேர் தயாரிப்புக்காக, சிறிய வயதினருக்கு மாடல் அதிக பிரீமியத்தை வழங்கியது. காரணம்: இந்தக் குழுவானது தரவுகளில் மிகக் குறைவாகப் பிரதிநிதித்துவம் செய்யப்பட்டது, சில அதிக சேதங்கள் முழுக் குழுவையும் "ஆபத்தில்" தோன்றச் செய்தன. நிபுணர் நம்பகத்தன்மை (புள்ளிவிவர நம்பகத்தன்மை) திருத்தம் செய்தார் மற்றும் பரிந்துரை நம்பகமற்றது என்று ஆவணப்படுத்தினார்; நியாயமற்ற உயர்வு பயன்படுத்தப்படவில்லை.

வழக்கு 3 - எதிர்க்கும் உரிமை. AI-இயங்கும் மதிப்பெண்ணுடன் விண்ணப்பம் தானாகவே நிராகரிக்கப்பட்டது. வாடிக்கையாளர் எதிர்ப்பு தெரிவித்தார். தழுவல் செயல்முறையின் ஒரு பகுதியாக, முடிவு ஒரு நிபுணரால் மீண்டும் பரிசோதிக்கப்பட்டது; ஸ்கோர் விடுபட்ட தரவை அடிப்படையாகக் கொண்டது (பொருந்தாத கடந்த கால சேதம்). முடிவு சரி செய்யப்பட்டது. மனிதக் கட்டுப்பாடு மற்றும் ஆட்சேபனை உரிமை இல்லாமல், நியாயமற்ற நிராகரிப்பு நிரந்தரமாக இருக்கும்.

நகலெடுக்கக்கூடிய நான்கு தூண்டுதல்கள்

1) ப்ராக்ஸி மற்றும் பாகுபாடு ஸ்கேனிங்:

நியாயத்திற்கான பின்வரும் விலை/முடிவு நியாயத்தைச் சரிபார்க்கவும்: [நியாயப்படுத்துதல்]தேடவும்: பாதுகாக்கப்பட்ட பண்பு (பாலினம், தோற்றம், நம்பிக்கை, ஆரோக்கியம், வசிக்கும் பகுதி) நேரடியாகவோ அல்லது மறைமுகமாகவோ பயன்படுத்தப்படுகிறதா (ப்ராக்ஸி: அக்கம், பெயர், தொழில் போன்றவை)? கேள்விக்குரிய ஒவ்வொரு மாறிக்கும், அது ஏன் ப்ராக்ஸியாக இருக்க முடியும் என்பதை விளக்கி, முறையான மாற்றீட்டைப் பரிந்துரைக்கவும்.

2) நியாயப்படுத்தல் சட்டபூர்வமான சோதனை:

பின்வரும் மறுப்பு/உயர் போனஸ் காரணத்தை மூன்று கேள்விகளுடன் சோதிக்கவும்: [நியாயப்படுத்துதல்]1. ஆபத்துக்கு உண்மையான மற்றும் நியாயமான உறவு இருக்கிறதா?2. இது பாதுகாக்கப்பட்ட சொத்து அல்லது அதன் ப்ராக்ஸி அடிப்படையிலானதா?3. வாடிக்கையாளர் மற்றும் தணிக்கையாளருக்கு விளக்க முடியுமா? ஒவ்வொரு கேள்விக்கும் தெளிவாக பதிலளிக்கவும்; தேர்வில் தேர்ச்சி பெறாத காரணத்தை "REJECT" எனக் குறிக்கவும்.

3) விளக்கக்கூடிய நியாயப்படுத்தல் வரைவு:

பின்வரும் சரிபார்க்கப்பட்ட, சட்டப்பூர்வமான இடர் அளவுகோல்களின் அடிப்படையில் முடிவெடுப்பதற்காக வாடிக்கையாளருக்கு ஒரு தெளிவான பகுத்தறிவை உருவாக்கவும்: [சட்டபூர்வமான அளவுகோல்] தொனி: மரியாதைக்குரிய, தெளிவான. பாதுகாக்கப்பட்ட சொத்து/ப்ராக்ஸியைப் பயன்படுத்துதல். மனித மதிப்பாய்வை எதிர்ப்பதற்கும் கோருவதற்கும் வாடிக்கையாளரின் உரிமையைக் குறிப்பிடவும். இது ஒரு வரைவு; நிபுணர் உறுதிப்படுத்துகிறார்.

4) மனித ஆய்வு சரிபார்ப்பு பட்டியல்:

அதிக தாக்கத்தை ஏற்படுத்தும் தானியங்கு முடிவிற்கான மனித தணிக்கை சரிபார்ப்பு பட்டியலை உருவாக்கவும்:முடிவு வகை: [நிராகரிப்பு/அதிக பிரீமியம்/இணைத் தடை] பட்டியல்: தகுதிவாய்ந்த நிபுணர் மதிப்பாய்வு, தரவு சரிபார்க்கப்பட்டது, நியாயம்/ப்ராக்ஸிகண்ட்ரோல், நியாயப்படுத்தல் ஆவணம், வாடிக்கையாளர் மேல்முறையீட்டு அறிவிப்பு, பாதை பதிவு.

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமானது: "இந்தத் தரவைக் கொண்டு மிகவும் இலாபகரமான விலையைத் தீர்மானித்து, நியாயத்தை எழுதுங்கள்."

பிரச்சனை: நியாயம், ப்ராக்ஸி மற்றும் விளக்கத்திறன் ஆகியவை மதிக்கப்படுவதில்லை; மாதிரியானது கடந்தகால பாகுபாட்டை நிலைநிறுத்தவும் நியாயப்படுத்தவும் முடியும்.

வலிமையானது: "ப்ராக்ஸி மற்றும் பாகுபாடுக்கான இந்த நியாயத்தைச் சரிபார்க்கவும்; பாதுகாக்கப்பட்ட அம்சம் அல்லது அதன் ப்ராக்ஸியை நம்பியிருக்கும் புள்ளிகளைக் கொடியிடவும் மற்றும் சட்டப்பூர்வமான ஆபத்து அளவுகோலை மாற்றவும். விளக்கக்கூடிய நியாயத்தை கோடிட்டுக் காட்டுங்கள்."

இது ஏன் நல்லது: பாகுபாடு தீவிரமாக சோதிக்கப்படுகிறது, முடிவு முறையான மற்றும் விளக்கக்கூடிய அளவுகோல்களை அடிப்படையாகக் கொண்டது.

ஒப்பீட்டு விளக்கப்படம்

பொருள்

ஆபத்தான அணுகுமுறை

சரியான அணுகுமுறை

மாதிரி வெளியீடு

"புள்ளிவிவரம் நோக்கமானது"

நீதியை தீவிரமாக சோதிக்கவும்

மாறி தேர்வு

ஒவ்வொரு தரவையும் பயன்படுத்தவும்

பிரித்தெடுக்க ப்ராக்ஸிகள்

நியாயப்படுத்துதல்

"அதுதான் அந்த மாதிரி சொன்னது"

நியாயமான, விளக்கக்கூடிய அளவுகோல்

உயர் தாக்க முடிவு

முற்றிலும் தானியங்கி

மனித மேற்பார்வை கட்டாயமாகும்

வாடிக்கையாளர் உரிமை

தெரிவிக்கப்படவில்லை

ஆட்சேபனை + மனித விமர்சனம் + நியாயப்படுத்துதல்

பொதுவான தவறுகள்

• "புள்ளிவிவரங்கள் புறநிலை" பாதுகாப்பு. கடந்தகால அநீதியை நியாயப்படுத்துதல்.
• ப்ராக்ஸியை புறக்கணித்தல். அக்கம்/பெயர்/தொழில் அடிப்படையில் மறைமுக பாகுபாடு.
• குறைவான பிரதிநிதித்துவ குழுவிற்கு நம்பமுடியாத முடிவு. ஒரு சிறிய மாதிரியிலிருந்து பெறப்பட்ட விகிதம் துல்லியமானது என்று வைத்துக்கொள்வோம்.
• கருப்பு பெட்டி முடிவு. காரணத்தை விளக்க முடியாத ஒரு தானியங்கி முடிவை செயல்படுத்துதல்.
• எதிர்க்கும் உரிமையை அங்கீகரிக்கவில்லை. மனித மதிப்பாய்வு மற்றும் நியாயப்படுத்துவதற்கான உரிமையை வாடிக்கையாளருக்கு வழங்கவில்லை.

சுருக்கமாக

செயற்கை நுண்ணறிவு வரலாற்றுத் தரவுகளில் பாகுபாட்டைக் கற்றுக் கொள்ளலாம் மற்றும் விலை நிர்ணயம் மற்றும் எழுத்துறுதியில் மறைமுகமாக (ப்ராக்ஸி வழியாக) தொடரலாம். நேர்மையை செயலில் சோதிக்கவும்: பாதுகாக்கப்பட்ட பண்புகள் மற்றும் ப்ராக்ஸிகளை அடையாளம் காணவும், சட்டப்பூர்வத்தன்மை மற்றும் விளக்கத்திற்கு நியாயப்படுத்துதல். SEDDK, KVKK மற்றும் தானியங்கி முடிவெடுக்கும் கொள்கைகள்; நியாயமான விலை நிர்ணயம், விளக்கத்திறன், மனித மதிப்பாய்வு மற்றும் எதிர்க்கும் உரிமை ஆகியவை தேவை. உயர் தாக்க முடிவுகளில் மனிதக் கட்டுப்பாடு அவசியம். குறிப்பிட்ட வழக்கில், சட்ட/இணக்கத் துறையை அணுகவும்; பாகுபாடு என்பது சிவப்புக் கோடு.

விண்ணப்ப பணி

ஒரு விலை மாதிரி பயன்படுத்தும் 10 மாறிகளின் பட்டியலை எழுதவும் (உண்மையான அல்லது உதாரணம்). ஒவ்வொன்றிற்கும், "இது பாதுகாக்கப்பட்ட சொத்துக்கான ப்ராக்ஸியாக இருக்க முடியுமா" என்ற கேள்விக்கு பதிலளிக்கவும்; சந்தேகத்திற்குரியவர்களைக் கொடியிடவும். சட்டப்பூர்வ சோதனை #2 மூலம் மாதிரி நிராகரிப்பு நியாயத்தை வைக்கவும்: அது தேர்வில் தேர்ச்சி பெறுமா, இல்லையென்றால், அதை எப்படி முறையான அளவுகோல் மூலம் மாற்றுவது?

சரிபார்ப்பு பட்டியல்

• [ ] பாதுகாக்கப்பட்ட பண்புகளை நான் குறிப்பிட்டுள்ளேன்.
• [ ] நான் ப்ராக்ஸிக்காக மாறிகளை ஸ்கேன் செய்தேன்.
• [ ] நான் நியாயப்படுத்துதலை நியாயத்தன்மை மற்றும் விளக்கமளிக்கும் சோதனைக்கு வைத்தேன்.
• [ ] குறைவான பிரதிநிதித்துவ குழுக்களுக்கான நம்பகத்தன்மை சோதனைகளை நடத்தினேன்.
• [ ] நான் உயர் தாக்க முடிவில் மனிதக் கட்டுப்பாட்டைச் சேர்த்தேன்.
• [ ] நான் பகுத்தறிவை ஆவணப்படுத்தி வாடிக்கையாளருக்கு பொருள்/மனித மதிப்பாய்வுக்கான உரிமையை வழங்கினேன்.
• [ ] சந்தேகம் ஏற்பட்டால், நான் சட்ட/இணக்கத் துறையைக் கலந்தாலோசித்தேன்.