நெறிமுறை மற்றும் பொறுப்பான AI

ஆதாயங்கள்:

• பொறுப்பான AI கொள்கைகளை (நியாயம், வெளிப்படைத்தன்மை, பொறுப்புக்கூறல், தனியுரிமை, மனித மேற்பார்வை, பாதுகாப்பு, நிலைத்தன்மை) உறுதியான முடிவுகளுடன் இணைக்கும் திறன்
• சட்டப்பூர்வ இணக்கத்திலிருந்து நெறிமுறைகளைப் பிரித்து, 'நம்மால் முடியும்' மற்றும் 'நாம் செய்ய வேண்டும்' என்பதை வேறுபடுத்துவதன் மூலம் பாதிக்கப்பட்ட தரப்பினரையும் சார்புகளையும் சோதிக்கும் திறன்
• வடிவமைப்பில் வெளிப்படைத்தன்மை, மனித கண்காணிப்பு மற்றும் முறையீடு ஆகியவற்றை உட்பொதிப்பதன் மூலம் துஷ்பிரயோகம் காட்சிகளை முன்கூட்டியே குறைக்கும் திறன்

ஒரு AI தொடக்கமானது தொழில்நுட்ப ரீதியாக சரியானதாகவும், நிதி ரீதியாக லாபகரமாகவும் மற்றும் சட்டப்பூர்வமாக சாத்தியமானதாகவும் இருக்கும்; ஆனால் அது இன்னும் தவறாக இருக்கலாம். நெறிமுறைகள் என்பது "நம்மால் முடியும்" மற்றும் "நாம் செய்ய வேண்டும்" என்பதன் வித்தியாசம். ஒரு மூத்த மேலாளருக்கு, நெறிமுறைகள் என்பது அலங்காரம் அல்லது பொது உறவுகள் அல்ல; இது நிறுவனத்தின் நீண்டகால நம்பகத்தன்மை, நற்பெயர் மற்றும் சமூக சட்டபூர்வமான தன்மையை பராமரிக்கும் அடித்தளமாகும். இந்த பிரிவில், பொறுப்பான AI இன் கொள்கைகளை (நியாயமான, வெளிப்படையான, பொறுப்புணர்வு மற்றும் மனித கண்ணியத்திற்கு மதிப்பளிக்கும் வகையில் செயற்கை நுண்ணறிவை உருவாக்கி பயன்படுத்துவதற்கான அணுகுமுறை) மற்றும் தினசரி முடிவுகளில் அவற்றை எவ்வாறு பிரதிபலிக்க வேண்டும் என்பதை நீங்கள் கற்றுக் கொள்வீர்கள்.

பொறுப்பான AI இன் அடிப்படைக் கொள்கைகள்

வெவ்வேறு கட்டமைப்புகள் ஒத்த கொள்கைகளை சந்திக்கின்றன. மேலாளருக்கான நடைமுறை சுருக்கம்:

கொள்கை

நீங்கள் என்ன சொல்கிறீர்கள்?

நிர்வாகி கேள்வி

நீதி

பாகுபாடு இல்லாதது

இது ஒரு குழுவை நியாயமற்ற முறையில் பாதிக்கிறதா?

வெளிப்படைத்தன்மை

புரிந்துகொள்ளக்கூடியதாக இருக்கும்

முடிவுக்கான காரணத்தை விளக்க முடியுமா?

பொறுப்புக்கூறல்

யார் பொறுப்பு என்பதை அடையாளம் காணுதல்

தவறு நடந்தால் யார் பொறுப்பு?

தனியுரிமை

தனிப்பட்ட தரவுகளுக்கு மரியாதை

தரவைப் பயன்படுத்த எங்களுக்கு உரிமை உள்ளதா?

மனித கண்காணிப்பு

கட்டுப்பாட்டில் இருப்பது

ஒருவன் ஆட்சேபித்து அதை நிறுத்த முடியுமா?

பாதுகாப்பு

தீங்கு செய்யாதே

இதை துஷ்பிரயோகம் செய்ய முடியுமா?

நிலைத்தன்மை

சுற்றுச்சூழல்/சமூக பாதிப்பு

யாரிடம் செலவை சுமத்துவது?

இந்தக் கொள்கைகள் சுருக்கமானவை அல்ல; அவை ஒவ்வொன்றும் ஒரு உறுதியான முடிவுடன் இணைக்கப்படலாம். எடுத்துக்காட்டாக, "வெளிப்படைத்தன்மை" என்பது வாடிக்கையாளருக்கு அவர்கள் AI உடன் பேசுவதைத் தெரியப்படுத்துவதாகும்; "மனித மேற்பார்வை" என்பது கடன் மறுப்பை மனித மதிப்பாய்வு செய்து மேல்முறையீட்டிற்கு திறந்து விடுவதாகும்.

உதவிக்குறிப்பு: ஒவ்வொரு உயர் தாக்க AI முடிவுகளிலும், ஒரு கேள்வியைக் கேளுங்கள்: "மிகவும் எதிர்மறையாக பாதிக்கப்பட்ட நபருக்கு நான் தெளிவாக விளக்கி இந்த முடிவைப் பின்னால் நிற்க முடியுமா?" பதில் புண்படுத்தினால், நெறிமுறை சிக்கல் உள்ளது.

நெறிமுறைகள் சட்டத்திலிருந்து வேறுபட்டது

ஒரு முக்கியமான வேறுபாடு: சட்ட இணக்கம் (அலகு 9) என்பது குறைந்தபட்சம்; நெறிமுறைகள் ஒரு உயர்ந்த கோடு. ஏதோ சட்டமானது ஆனால் நெறிமுறையற்றதாக இருக்கலாம். எடுத்துக்காட்டாக, பயனர் நடத்தையை கையாளுவதற்கு செயற்கை நுண்ணறிவைப் பயன்படுத்துவதற்கு ஒரு பயன்பாடு தடைசெய்யப்படாமல் இருக்கலாம், ஆனால் அது நெறிமுறையற்றது. பொறுப்புள்ள நிறுவனங்கள் "இது தடைசெய்யப்பட்டதா?" "அது உண்மையா?" என்று கேட்கிறார்.

படிப்படியாக: முடிவில் நெறிமுறைகளை உட்பொதித்தல்

1. பாதிக்கப்பட்ட தரப்பினரை அடையாளம் காணவும். இந்த முயற்சியால் பாதிக்கப்படுவது யார்? (வாடிக்கையாளர், பணியாளர், சமூகம், பின்தங்கிய குழுக்கள்)

2. கொள்கைகளுடன் ஸ்கேன் செய்யவும். மேலே உள்ள ஒவ்வொரு கொள்கைகளின் அடிப்படையில் முன்முயற்சியை கேள்விக்குள்ளாக்குங்கள்.

3. சார்பு மற்றும் தீங்குக்கான சோதனை. மாதிரி சில குழுக்களை நியாயமற்ற முறையில் பாதிக்கிறதா? முறைகேடு காட்சிகள் என்ன?

4. வெளிப்படைத்தன்மை மற்றும் மேற்பார்வை சேர்க்கவும். மனித ஆட்சேபனைக்கு வழியில்லாமல், செயற்கை நுண்ணறிவைப் பயன்படுத்துவதைப் புகாரளிக்கவும்.

5. ஆவணங்கள் மற்றும் ஆய்வு. நெறிமுறை மதிப்பீட்டைச் சேமிக்கவும்; அவ்வப்போது சரிபார்க்கவும்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - சட்டமானது ஆனால் தவறு. பயனர்களை நீண்ட நேரம் பயன்பாட்டில் வைத்திருக்க போதை அறிவிப்புகளை உருவாக்க ஒரு பயன்பாடு செயற்கை நுண்ணறிவைப் பயன்படுத்தியது. எந்த சட்ட தடையும் இல்லை, ஆனால் அது பத்திரிகைகளில் தெரிவிக்கப்பட்டபோது, ​​கடுமையான நற்பெயரை இழந்தது; குறிப்பாக இளம் பயனர்களை இலக்காகக் கொண்டது விமர்சனத்தை ஈர்த்தது. நிறுவனம் இந்த அம்சத்தை நீக்கியது. நெறிமுறை வடிகட்டி ஆரம்பத்திலிருந்தே இருந்தால், இந்த அபாயத்தைக் காணலாம்.

வழக்கு 2 - நேர்மை சோதனையின் மதிப்பு. ஒரு வங்கியின் கிரெடிட் ஸ்கோரிங் மாதிரியானது பாதுகாக்கப்பட்ட குழுக்களின் விண்ணப்பங்களுக்கு குறைந்த மதிப்பெண்களை முறையாக அளித்தது. இது நீதி விசாரணையில் சிக்கியது. மாடல் மறுவடிவமைப்பு செய்யப்பட்டு, அதன் முடிவுகளில் இடைக்குழு சமத்துவத்தை உறுதி செய்வதற்காக தொடர்ந்து சோதிக்கப்பட்டது. நெறிமுறைக் கொள்கை (நீதி) ஒரு உறுதியான சோதனையாக மாறியது மற்றும் உண்மையான தீங்கு தடுக்கப்பட்டது.

வழக்கு 3 - வெளிப்படைத்தன்மை கட்டமைக்கப்பட்ட நம்பிக்கை. ஒரு இ-காமர்ஸ் நிறுவனம் தனது வாடிக்கையாளர் ஆதரவு சாட்போட்டின் தொடக்கத்தில் "ஒரு செயற்கை நுண்ணறிவு உதவியாளர் உங்களுக்கு உதவுகிறது, நீங்கள் எந்த நேரத்திலும் ஒரு மனித பிரதிநிதியுடன் இணைக்க முடியும்" என்ற சொற்றொடரை வைத்தது. வெளிப்படைத்தன்மை மற்றும் மனித வெளியேற்றம் திருப்தியைக் குறைக்கவில்லை; மாறாக, இது நம்பிக்கையை அதிகரித்தது மற்றும் புகார்கள் 15% குறைந்துள்ளது. சரியாகச் செய்யப்பட்ட வெளிப்படைத்தன்மை மதிப்பு, விலை அல்ல.

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) நெறிமுறை திரையிடல்:

உங்கள் பங்கு: பொறுப்பான AI ஆலோசகர். இந்த முயற்சியை 7 கொள்கைகளுக்கு ஸ்கேன் செய்யவும்: நேர்மை, வெளிப்படைத்தன்மை, பொறுப்புக்கூறல், தனியுரிமை, மனித மேற்பார்வை, பாதுகாப்பு, நிலைத்தன்மை. ஒவ்வொரு பாலிசிக்கும், ஒரு ரிஸ்க் மற்றும் ஒரு பரிந்துரையை எழுதுங்கள். முன்முயற்சி: [உரை]

2) பாதிக்கப்பட்ட கட்சி பகுப்பாய்வு:

இந்த AI முயற்சியால் பாதிக்கப்பட்ட அனைத்து தரப்பினரையும் (வாடிக்கையாளர், பணியாளர், சமூகம், பின்தங்கிய குழுக்கள்) பட்டியலிடுங்கள். ஒவ்வொரு தரப்பினருக்கும் சாத்தியமான நேர்மறை மற்றும் எதிர்மறை விளைவுகளை எழுதுங்கள்; பாதிக்கப்படக்கூடிய குழுவைக் குறிக்கவும். முன்முயற்சி: [உரை]

3) முறைகேடு சூழ்நிலை:

பின்வரும் AI அம்சம் தவறாகப் பயன்படுத்தப்படும் 5 காட்சிகளை உருவாக்கவும் (கையாளுதல், பாகுபாடு, தனியுரிமை மீறல், ஏமாற்றுதல் உட்பட). ஒவ்வொரு காட்சிக்கும் ஒரு தடுப்பு வடிவமைப்பு முடிவை பரிந்துரைக்கவும். பண்பு: [உரை]

4) வெளிப்படைத்தன்மை மற்றும் கண்காணிப்பு கட்டுப்பாடு:

வாடிக்கையாளர் எதிர்கொள்ளும் AIக்கான வெளிப்படைத்தன்மை மற்றும் மனித மேற்பார்வைத் திட்டத்தை எழுதுங்கள்: பயனருக்கு என்ன தெரிவிக்கப்படும், எப்படி; அதை மனிதர்களுக்கு எப்படி மாற்றுவது? அவர் முடிவை எப்படி எதிர்க்க முடியும்? பயன்பாடு: [உரை]

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமானது: "இது AI நெறிமுறையா?"

முடிவு: மேலோட்டமான "ஆம்/இல்லை"; எந்தக் கொள்கை, யாருக்கு பாதிப்பு, என்ன நடவடிக்கை என்பது தெளிவாக இல்லை.

வலிமையானது: "ஆட்சேர்ப்புக்கு முந்தைய ஸ்கிரீனிங் கருவியில் AI ஐப் பயன்படுத்துவதை நாங்கள் பரிசீலித்து வருகிறோம் (மனிதன் இறுதி முடிவை எடுப்பான்). நேர்மை, வெளிப்படைத்தன்மை, பொறுப்புக்கூறல் மற்றும் மனித மேற்பார்வை ஆகியவற்றின் கொள்கைகளுக்காக இதைத் திரையிடவும். எந்தெந்த வேட்பாளர்களின் குழுக்கள் அநியாயமாக பாதிக்கப்படலாம், நான் என்ன சார்பு சோதனைகள் செய்ய வேண்டும், எப்படி வேட்பாளர்கள் முடிவை மேல்முறையீடு செய்யலாம்."

முடிவு: பாதிக்கப்பட்ட தரப்பினரைக் கண்டறிந்து, சோதனை மற்றும் மேல்முறையீடு ஆகியவற்றை பரிந்துரைக்கும் கொள்கை அடிப்படையிலான, நடைமுறை மதிப்பீடு.

பொதுவான தவறுகள்

• நெறிமுறைகளை சட்ட இணக்கத்துடன் குழப்புதல். சட்டப்படியான அனைத்தும் நெறிமுறைகள் அல்ல; நெறிமுறைகள் ஒரு உயர்ந்த கோடு.
• நெறிமுறைகளை நீடிக்க விட்டுவிடுவது. வடிவமைப்பிற்குப் பிறகு "நெறிமுறை ஒப்புதல்" பெறுவது மிகவும் தாமதமானது; நெறிமுறைகள் ஆரம்பத்தில் இருந்தே வடிவமைப்பில் உட்பொதிக்கப்பட வேண்டும்.
• நீதியை சோதிக்கவில்லை. "எங்கள் மாதிரி நடுநிலையானது" என்ற அனுமானம் ஆபத்தானது; அளவீடு இல்லாமல் அறிய முடியாது.
• செலவுக்கான வெளிப்படைத்தன்மையை தவறாகப் புரிந்துகொள்வது. வெளிப்படைத்தன்மை சரியாகச் செய்வது நம்பிக்கையையும் மதிப்பையும் அதிகரிக்கிறது.
• பாதிக்கப்பட்ட பக்கங்களை குறுகியதாக வைத்திருத்தல். வாடிக்கையாளரைப் பற்றி மட்டுமே சிந்தித்து, ஊழியர், சமூகம் மற்றும் பின்தங்கிய குழுக்களைப் புறக்கணிப்பது ஒரு குருட்டுப் புள்ளியை உருவாக்குகிறது.

எச்சரிக்கை: நெறிமுறை மதிப்பீட்டை முற்றிலும் செயற்கை நுண்ணறிவுக்கு விட்டுவிடுவது முரண்பாடானது மற்றும் ஆபத்தானது. AI நெறிமுறை கேள்விகளை எழுப்ப உதவும், ஆனால் மதிப்பு தீர்ப்பு, கலாச்சார சூழல் மற்றும் இறுதி தார்மீக பொறுப்பு ஆகியவை மனிதனிடம் உள்ளது. ஒரு நிறுவனத்தின் நெறிமுறை நிலைப்பாடு மக்களின் உணர்வுபூர்வமான தேர்வுகளால் தீர்மானிக்கப்படுகிறது, "AI அவ்வாறு கூறியது" என்பதன் மூலம் அல்ல.

சுருக்கமாக

நெறிமுறைகள் என்பது "நம்மால் முடியும்" மற்றும் "நாம் வேண்டும்" ஆகியவற்றுக்கு இடையேயான வித்தியாசம் மற்றும் நிறுவனத்தின் நீண்டகால நம்பகத்தன்மையைப் பாதுகாக்கிறது. பொறுப்பான AI; இது நீதி, வெளிப்படைத்தன்மை, பொறுப்புக்கூறல், தனியுரிமை, மனித மேற்பார்வை, பாதுகாப்பு மற்றும் நிலைத்தன்மை ஆகிய கொள்கைகளை அடிப்படையாகக் கொண்டது. இந்தக் கொள்கைகள் சுருக்கமானவை அல்ல; பாதிக்கப்பட்ட தரப்பினரைக் கண்டறிதல், சார்புநிலையைச் சோதித்தல், வெளிப்படைத்தன்மையை வழங்குதல் மற்றும் மனித மேற்பார்வையைச் சேர்ப்பது போன்ற உறுதியான முடிவுகளாக இது மொழிபெயர்க்கப்படுகிறது. நெறிமுறைகள் சட்டத்திலிருந்து வேறுபட்டது மற்றும் உயர்ந்த கோடு; அதை இறுதிவரை விட முடியாது, அது வடிவமைப்பில் உட்பொதிக்கப்பட வேண்டும். அடுத்த யூனிட்டில், இணங்குதல் பற்றி விவாதிப்போம், இது நெறிமுறைகளுக்குச் சமமான, குறிப்பாக EU AI சட்டம் மற்றும் KVKK.

விண்ணப்ப பணி

அதிக தாக்கத்தை ஏற்படுத்தும் AI தொடக்கத்தைத் தேர்வு செய்யவும். டெம்ப்ளேட் 2 உடன், அனைத்து பாதிக்கப்பட்ட தரப்பினரையும் பட்டியலிடவும் மற்றும் குழுவிற்கு மிகவும் தீங்கு விளைவிக்கும் எனக் குறிக்கவும். டெம்ப்ளேட் 1 உடன், ஏழு கொள்கைகளுக்கான முன்முயற்சியை ஸ்கேன் செய்யவும். இரண்டு மிக முக்கியமான நெறிமுறை அபாயங்களுக்கான உறுதியான அளவை (நியாயமான சோதனை, வெளிப்படைத்தன்மை அறிவிப்பு, மேல்முறையீட்டு வழி, முதலியன) வரையறுக்கவும். இறுதியாக, "இந்த முடிவை மிகவும் எதிர்மறையாக பாதிக்கப்பட்ட நபருக்கு நான் விளக்க முடியுமா?" கேள்விக்கு நேர்மையாக பதிலளிக்கவும்.

சரிபார்ப்பு பட்டியல்

• [ ] பாதிக்கப்பட்ட அனைத்து தரப்பினரையும் நான் அடையாளம் கண்டுள்ளேன்.
• பொறுப்பான AIயின் ஏழு கொள்கைகளுடன் ஸ்டார்ட்அப்பை திரையிட்டேன்.
• [ ] சார்பு/நியாயத்திற்கான ஒரு சோதனையை நான் திட்டமிட்டேன்.
• [ ] நான் வெளிப்படைத்தன்மை அறிக்கையை வடிவமைத்தேன்.
• [ ] நான் மனித மேற்பார்வை மற்றும் முறையீடு செய்ய எந்த வழியையும் விட்டுவிடவில்லை.
• துஷ்பிரயோகம் தொடர்பான காட்சிகளைப் பற்றி நான் யோசித்தேன்.
• [ ] "மிகவும் எதிர்மறையாக பாதிக்கப்பட்ட ஒருவருக்கு நான் அதை விளக்க முடியுமா?" தேர்வில் தேர்ச்சி பெற்றேன்.