AI-குறிப்பிட்ட அபாயங்கள் மற்றும் இடர் மேலாண்மை

ஆதாயங்கள்:

• மாயத்தோற்றம், சார்பு, தரவு கசிவு, மாதிரி சறுக்கல், சார்பு மற்றும் வணிக தாக்கத்துடன் விவரிக்க முடியாத தன்மை போன்ற AI-குறிப்பிட்ட அபாயங்களை அடையாளம் காணும் திறன்
• நிகழ்தகவு மற்றும் தாக்க பரிமாணங்களில் அபாயங்களை மதிப்பீடு செய்தல் மற்றும் தணிப்பு நடவடிக்கைகளுடன் நிறுவனத்தின் இடர் பசியின்மைக்குள் அவற்றை வைத்திருத்தல்
• சீரான தன்மையைக் காட்டிலும் இடர் நிலைக்கு ஏற்ப கண்காணிப்பைச் சரிசெய்யும் திறன், மனித இறுதிக் கருத்தை உறுதி செய்தல் மற்றும் அதிக ஆபத்துள்ள முடிவுகளில் தொடர்ச்சியான கண்காணிப்பு

மதிப்பும் ஆபத்தும் ஒரே நாணயத்தின் இரு பக்கங்கள். AI மதிப்புக்கான புதிய ஆதாரங்களைத் திறக்கிறது, ஆனால் பாரம்பரிய மென்பொருள் கொண்டு செல்லாத புதிய வகையான அபாயங்களையும் இது அறிமுகப்படுத்துகிறது. ஒரு மூத்த மேலாளரைப் பொறுத்தவரை, பிரச்சினை ஆபத்தைத் தவிர்ப்பது அல்ல, ஆனால் மனப்பூர்வமாக ஆபத்தை நிர்வகிப்பது (இடர் மேலாண்மை; இடர்களை அங்கீகரிப்பது, அளவிடுவது, குறைப்பது மற்றும் ஏற்றுக்கொள்ளக்கூடிய வரம்புகளில் அவற்றை வைத்திருப்பது). இந்த யூனிட்டில், AIக்கான குறிப்பிட்ட அபாயங்கள், அவற்றின் வணிக பாதிப்பு மற்றும் நடைமுறைத் தணிப்பு முறைகள் பற்றி அறிந்து கொள்வீர்கள். "ஆபத்து இருப்பதால் அதைச் செய்யாதே" அல்லது "ஆபத்து இல்லை என்பது போல் செயல்படுவது" நோக்கம் அல்ல; ஒவ்வொரு முன்முயற்சியையும் நனவான இடர் பசியுடன் மேற்கொள்வதாகும்; நிறுவனம் எடுக்க தயாராக இருக்கும் ஆபத்து நிலை.

AI-குறிப்பிட்ட அபாயங்கள்

பாரம்பரிய தகவல் தொழில்நுட்ப அபாயங்கள் (பாதிப்பு, செயலிழப்பு) இன்னும் பொருந்தும்; ஆனால் செயற்கை நுண்ணறிவு அதன் சொந்த அபாயங்களைச் சேர்க்கிறது:

ஆபத்து வகை

நீங்கள் என்ன சொல்கிறீர்கள்?

உதாரணம் வணிக தாக்கம்

மாயத்தோற்றம்

இது உருவாக்கப்பட்டது, ஆனால் அது நம்பத்தகுந்ததாக மாறியது

வாடிக்கையாளருக்கு தவறான தகவல், சட்டப் பொறுப்பு

பாரபட்சம்

வெளியீட்டின் தரவுகளில் அநீதியின் பிரதிபலிப்பு

பாரபட்சமான பணியமர்த்தல்/கடன் முடிவு

தரவு கசிவு

வாகனத்தில் ரகசியத் தகவல்கள் கசிந்தன

KVKK மீறல், நற்பெயர் இழப்பு

மாதிரி சறுக்கல்

காலப்போக்கில் செயல்திறன் சரிவு

அமைதியான முடிவுகளை ரத்து செய்தல்

போதை

ஒரு சப்ளையருக்குள் பூட்டப்பட்டது

விலை/அணுகல் அதிர்ச்சி

விளக்க முடியாத தன்மை

முடிவுக்கான காரணம் தெரியவில்லை

தணிக்கை மற்றும் ஆட்சேபனை சிரமம்

இரண்டு சொற்கள் இங்கே முக்கியமானவை: செயற்கை நுண்ணறிவு என்பது பயிற்சித் தரவில் நியாயமற்ற வடிவங்களைக் கற்று, அதன் முடிவுகளில் அவற்றைப் பிரதிபலிக்கும்போது; எடுத்துக்காட்டாக, வரலாற்று பணியமர்த்தல் தரவு ஒரு குழுவிற்கு சாதகமாக இருந்தால், மாதிரியும் செய்கிறது. மாடல் டிரிஃப்ட் என்பது மாடல் வழக்கற்றுப் போவதும், உலகம் மாறும்போது அதன் செயல்திறன் மௌனமாக குறைவதும் ஆகும் (புதிய தயாரிப்புகள், புதிய நடத்தைகள்).

உதவிக்குறிப்பு: "நிகழலாம்/நடக்காது" என்பதன் அடிப்படையில் அல்ல, ஆனால் இரு பரிமாணங்களில் ஆபத்தைப் பற்றி சிந்தியுங்கள்: நிகழ்தகவு (எவ்வளவு சாத்தியம்) மற்றும் தாக்கம் (அது நடந்தால் எவ்வளவு தீங்கு). அதிக தாக்கம் + அதிக நிகழ்தகவு உள்ளவர்கள் முதலில் உரையாற்றப்படுகிறார்கள்; குறைந்த + குறைந்த மதிப்புகள் ஏற்றுக்கொள்ளப்பட்டு கண்காணிக்கப்படுகின்றன.

ஆபத்து நிலைக்கு ஏற்ப கண்காணிப்பு

ஒவ்வொரு பயன்பாட்டுப் பகுதியும் ஒரே அபாயத்தைக் கொண்டிருக்கவில்லை. புத்திசாலித்தனமான அணுகுமுறையானது, கண்காணிப்பை அபாய நிலைக்கு ஏற்ப மாற்றுவதாகும்:

• குறைந்த ஆபத்து (இன்செட் வரைவு, மூளைச்சலவை): ஒளி மேற்பார்வை, வேக முன்னுரிமை.
• நடுத்தர ஆபத்து (வாடிக்கையாளருக்கான உள்ளடக்கம், முடிவு ஆதரவு): மனித ஒப்புதல், மாதிரி கட்டுப்பாடு.
• அதிக ஆபத்து (கடன், ஆட்சேர்ப்பு, சுகாதாரம், சட்டப்பூர்வ): கட்டாய மனித தீர்ப்பு, முழு பதிவு, வழக்கமான தணிக்கை.

இந்த "ஆபத்து அடிப்படையிலான" அணுகுமுறை EU AI சட்டத்தின் (அலகு 9) முதுகெலும்பாகவும் உள்ளது.

படிப்படியாக: இடர் மேலாண்மை சுழற்சி

1. அபாயங்களை அங்கீகரிக்கவும். ஒவ்வொரு முயற்சிக்கும் AI-குறிப்பிட்ட அபாயங்களைப் பட்டியலிடுங்கள்.

2. மதிப்பெண் வாய்ப்பு மற்றும் தாக்கம். ஒவ்வொரு அபாயத்தையும் இரு பரிமாணங்களில் மதிப்பீடு செய்து முன்னுரிமை கொடுங்கள்.

3. தணிப்பு நடவடிக்கையை வரையறுக்கவும். மனித ஒப்புதல், தரவு அநாமதேயமாக்கல், கண்காணிப்பு, சப்ளையர் பல்வகைப்படுத்தல் போன்றவை.

4. மீதமுள்ள ஆபத்தை ஏற்கவும் அல்லது நிறுத்தவும். குறைக்கப்பட்ட பிறகு மீதமுள்ள ஆபத்து பசியின்மைக்குள் இருந்தால் ஏற்றுக்கொள்ளப்படுகிறது; இல்லை என்றால் முயற்சி நின்றுவிடும்.

5. பார்த்து மதிப்பாய்வு செய்யவும். அபாயங்கள் நிலையானவை அல்ல; சறுக்கல் மற்றும் புதிய அச்சுறுத்தல்களைத் தொடர்ந்து கண்காணிப்பது அவசியம்.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - மாயத்தோற்றத்தின் விலை. ஒரு விமான நிறுவனத்தின் வாடிக்கையாளர் சாட்போட் ஒரு பயணிக்கு இல்லாத பணத்தைத் திரும்பப்பெறும் கொள்கையை "உருவாக்கியது"; வாடிக்கையாளர் இதை நம்பி பரிவர்த்தனை செய்தார். நீதிமன்றம் அதன் சொந்த போட் அறிவிப்புக்கு நிறுவனத்தை பொறுப்பாக்கியது. பாடம்: வாடிக்கையாளருக்கு AI வெளியீடு நடுத்தர/அதிக ஆபத்து; சரிபார்ப்பு மற்றும் வரம்பு அவசியம். பின்னர் அங்கீகரிக்கப்பட்ட கொள்கை உரைகளிலிருந்து மட்டுமே பதிலளிக்கும் வகையில் போட் கட்டுப்படுத்தப்பட்டது.

வழக்கு 2 - அமைதியான சார்பு. ஒரு நிறுவனத்தின் பணியமர்த்தல் ஸ்கிரீனிங் மாதிரியானது வரலாற்றுத் தரவுகளில் உள்ள ஏற்றத்தாழ்வு காரணமாக சில பள்ளிகளில் இருந்து ஆட்சேர்ப்பு செய்பவர்களுக்கு முறையாக ஆதரவளித்தது. வித்தியாசம் தணிக்கையில் தெரியவந்தது; ஒரு நற்பெயர் மற்றும் சட்ட ஆபத்து இருந்தது. மாடல் பாதுகாக்கப்பட்ட பண்புகளிலிருந்து துண்டிக்கப்பட்டு, வழக்கமான நீதி கண்காணிப்புடன் இணைக்கப்பட்டது. ஆரம்பத்திலிருந்தே பயாஸ் டெஸ்ட் செய்திருந்தால் இப்படி நடந்திருக்காது.

வழக்கு 3 - சறுக்கல் பிடிப்பு. ஒரு வங்கியின் மோசடி கண்டறிதல் மாதிரியானது ஒரு புதிய மோசடி முறை தோன்றியபோது அமைதியாக பலவீனமடைந்தது; மிஸ் விகிதம் 3 மாதங்களில் 8% இல் இருந்து 19% ஆக அதிகரித்துள்ளது. நல்ல செய்தி: நிறுவனம் மாதாந்திர செயல்திறன் கண்காணிப்பை செயல்படுத்தியது, சறுக்கல் முன்கூட்டியே கண்டறியப்பட்டது, மேலும் மாடல் மீண்டும் பயிற்சி பெற்றது. கண்காணிப்பு இல்லாவிட்டால் இழப்பு பலமடங்கு அதிகரித்திருக்கும்.

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) இடர் இருப்பு:

உங்கள் பங்கு: AI இடர் மேலாளர். பின்வரும் பயன்பாட்டிற்கான AI-குறிப்பிட்ட அபாயங்களைப் பட்டியலிடவும்: மாயத்தோற்றம், சார்பு, தரவு கசிவு, சறுக்கல், சார்பு, விவரிக்க முடியாத தன்மை. ஒவ்வொரு ஆபத்துக்கும், இந்த சூழ்நிலையில் அதன் சாத்தியமான வெளிப்பாடு மற்றும் வணிக தாக்கத்தை ஒரு வாக்கியத்தில் எழுதுங்கள். பயன்பாட்டு பகுதி: [உரை]

2) நிகழ்தகவு/தாக்கம் மதிப்பெண்:

நிகழ்தகவு (1-5) மற்றும் தாக்கம் (1-5) என மதிப்பெண்கள் மற்றும் பெருக்குவதன் மூலம் பின்வரும் அபாயங்களுக்கு முன்னுரிமை கொடுங்கள். முதல் மூன்று ஆபத்துகளுக்கு நீங்கள் ஏன் முன்னுரிமை அளிக்கிறீர்கள் என்பதை விளக்குங்கள். அபாயங்கள்: [list]

3) தணிப்பு திட்டம்:

பின்வரும் முன்னுரிமை அபாயங்களுக்கான நடைமுறைத் தணிப்பு நடவடிக்கைகளை முன்மொழிக: [அபாயங்கள்]. ஒவ்வொரு நடவடிக்கைக்கும்: என்ன செய்வது, யார் பொறுப்பு, எந்த அளவிலான ஆபத்து கட்டாயம். பொருத்தமான இடங்களில் மனித கண்காணிப்பு, தரவு அநாமதேயப்படுத்தல், கண்காணிப்பு மற்றும் சப்ளையர் பல்வகைப்படுத்தல் ஆகியவற்றைப் பயன்படுத்தவும்.

4) இடர் அடிப்படையிலான கண்காணிப்பு அணி:

அபாய நிலைக்கு (குறைந்த/நடுத்தர/உயர்ந்த) பின்வரும் பயன்பாட்டுப் பகுதிகளை ஒதுக்கி, ஒவ்வொரு நிலைக்கும் தேவைப்படும் மேற்பார்வையைத் தீர்மானிக்கவும்: மனித ஒப்புதல் தேவையா, பதிவுகள் வைக்கப்படுமா, ஆய்வு அதிர்வெண் என்ன? பயன்கள்: [பட்டியல்]

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமானது: "இந்த AI திட்டத்தின் அபாயங்கள் என்ன?"

முடிவு: அபாயங்களின் பொதுவான பட்டியல்; நிகழ்தகவு, தாக்கம் மற்றும் தணிப்பு இல்லை, நீங்கள் முடிவு செய்ய முடியாது.

Güçlü: "வங்கியில் கடன் விண்ணப்பத்தின் பூர்வாங்க மதிப்பீட்டில் AI ஐப் பயன்படுத்துவோம் (மனிதனே இறுதி முடிவை எடுப்பார்). இந்தச் சூழ்நிலையில் குறிப்பிட்ட அபாயங்களைப் பட்டியலிடவும் (சார்பு, விளக்கமின்மை, மாயத்தோற்றம், தரவு தனியுரிமை); வாய்ப்பு மற்றும் தாக்கத்தின் அடிப்படையில் ஒவ்வொன்றும் மதிப்பெண்கள்; உறுதியான தணிப்பு மற்றும் மேற்பார்வை தேவைகளை பரிந்துரைக்கவும்.

முடிவு: ஒரு சூழ்நிலை-குறிப்பிட்ட, மதிப்பெண், குறைத்தல் மற்றும் இணக்கம் தொடர்பான இடர் பகுப்பாய்வு.

பொதுவான தவறுகள்

• எல்லா முயற்சிகளுக்கும் ஒரே மேற்பார்வையைப் பயன்படுத்துதல். அதிக ஆபத்துள்ள வேலையைப் புறக்கணிப்பதைப் போலவே, குறைந்த ஆபத்துள்ள வேலையை மெதுவாக்குவது தீங்கு விளைவிக்கும்; கண்காணிப்பு ஆபத்து நிலை அடிப்படையில் இருக்க வேண்டும்.
• மாயத்தோற்றத்தை "சிறிய தவறு" என்று தவறாகப் புரிந்துகொள்வது. வாடிக்கையாளருக்கு தவறான வெளியீடு சட்டப் பொறுப்புக்கு வழிவகுக்கும்.
• பாரபட்சத்தை சோதிக்கவில்லை. நேர்மை சோதனை இல்லாமல் பயன்படுத்தப்படும் மாதிரி அமைதியான பாகுபாட்டை உருவாக்க முடியும்.
• டிரிஃப்டைப் பார்க்கவில்லை. ஒரு முறை நன்றாக வேலை செய்யும் மாதிரி எப்போதும் நன்றாக வேலை செய்யாது; நிலையான கண்காணிப்பு தேவை.
• ஒரு சப்ளையரில் பூட்டுதல். வெளியேறும் திட்டம் இல்லாமல், போதை உங்களுக்கு விலை மற்றும் அணுகல் அதிர்ச்சியைத் திறந்துவிடும்.

எச்சரிக்கை: இடர் மேலாண்மை என்பது ஒருமுறை அல்ல; செயற்கை நுண்ணறிவு அமைப்புகள் வாழ்க்கை அமைப்புகள். ஒரு மாதிரி இன்று பாதுகாப்பாக இருப்பதால், அது நாளை பாதுகாப்பாக இருக்கும் என்று உத்தரவாதம் அளிக்க முடியாது. தொடர்ச்சியான கண்காணிப்பு, வழக்கமான ஆய்வு மற்றும் தெளிவான கொலை சுவிட்ச் ஆகியவை ஒவ்வொரு உயர்-ஆபத்து அமைப்பின் ஒரு பகுதியாக இருக்க வேண்டும்.

சுருக்கமாக

பாரம்பரிய தகவல் தொழில்நுட்ப அபாயங்களுக்கு மேல், மாயத்தோற்றம், சார்பு, தரவு கசிவு, சறுக்கல், சார்பு மற்றும் விவரிக்க முடியாத தன்மை போன்ற தனித்துவமான அபாயங்களை AI சேர்க்கிறது. இந்த அபாயங்கள் நிகழ்தகவு மற்றும் தாக்கத்தின் அடிப்படையில் மதிப்பிடப்பட்டு முன்னுரிமை அளிக்கப்பட வேண்டும், மேலும் தணிப்பு நடவடிக்கைகளுடன் நிறுவனத்தின் இடர் பசியின்மைக்குள் வைக்கப்பட வேண்டும். கண்காணிப்பு சீரானது அல்ல, ஆனால் ஆபத்து நிலைக்கு ஏற்ப இருக்க வேண்டும்; அதிக ஆபத்தை விளைவிக்கும் முடிவுகளில், மக்கள் இறுதி முடிவை எடுக்க வேண்டும். இடர் மேலாண்மை என்பது ஒரு தொடர்ச்சியான சுழற்சி; கண்காணிப்பு மற்றும் கட்டுப்பாடு இல்லாமல் முழுமையடையாது. அடுத்த அலகில், இந்த இடர் ஒழுக்கத்தை நிரந்தரமாக்கும் நிர்வாக மற்றும் கொள்கை கட்டமைப்பை நிறுவுவோம்.

விண்ணப்ப பணி

AI பயன்பாட்டு வழக்கைத் தேர்வுசெய்து அதன் குறிப்பிட்ட அபாயங்களை டெம்ப்ளேட் 1 உடன் பட்டியலிடவும். ஒவ்வொரு அபாயத்தையும் சாத்தியம் மற்றும் தாக்கத்தின் அடிப்படையில் மதிப்பிடவும், மிக முக்கியமான மூன்றை அடையாளம் காணவும். உறுதியான தணிப்பு நடவடிக்கைகள் மற்றும் இந்த மூன்று அபாயங்களுக்கு தேவையான மேற்பார்வையின் அளவை எழுதுங்கள். இறுதியாக, பயன்பாட்டை குறைந்த/நடுத்தர/அதிக ஆபத்து என வகைப்படுத்தி, இது எவ்வாறு மேற்பார்வை தேவைகளை மாற்றுகிறது என்பதைக் கவனியுங்கள்.

சரிபார்ப்பு பட்டியல்

• [ ] நான் செயற்கை நுண்ணறிவு சூழ்நிலையில் குறிப்பிட்ட அபாயங்களை பட்டியலிட்டுள்ளேன்.
• [ ] நான் ஒவ்வொரு ஆபத்தையும் நிகழ்தகவு மற்றும் தாக்கத்தால் அடித்தேன்.
• [ ] மிக முக்கியமான இடர்களுக்கான தணிப்பு நடவடிக்கைகளை நான் வரையறுத்துள்ளேன்.
• [ ] அபாய நிலைக்கு ஏற்ப உபயோகப் பகுதியை வகைப்படுத்தியுள்ளேன்.
• [ ] ஆபத்து நிலைக்கு ஏற்ப நான் கண்காணிப்பை சரி செய்தேன்.
• [ ] நான் பாரபட்சம் மற்றும் சறுக்கல்களுக்கான சோதனை/கண்காணிப்பை திட்டமிட்டேன்.
• [ ] அதிக ஆபத்துள்ள அமைப்பிற்கு நிறுத்தும் அதிகாரத்தை அமைத்துள்ளேன்.