ஸ்மார்ட் ஒப்பந்த தணிக்கை ஆதரவு: பாதுகாப்பு மதிப்பாய்வு மற்றும் வரைவு கண்டுபிடிப்புகள்

ஆதாயங்கள்:

• செயற்கை நுண்ணறிவு தணிக்கையாளரின் நோக்கத்தை விரிவுபடுத்துகிறது, ஆனால் அதை மாற்றாது, மேலும் வகை ஸ்கேனிங் மற்றும் வரைவைக் கண்டறிவதில் பயனுள்ளதாக இருக்கும் என்பதை புரிந்து கொள்ளும் திறன்.
• செயற்கை நுண்ணறிவு அசல் பாதிப்பு மற்றும் வணிக தர்க்கப் பிழையைத் தவறவிட்டது என்பதையும், சரளமான 'பாதுகாப்பான' அறிக்கை உத்தரவாதம் அல்ல என்பதையும் அடையாளம் காண முடிகிறது.
• கண்டுபிடிப்புகளை அவற்றின் தீவிரத்தன்மைக்கு ஏற்ப வகைப்படுத்தும் திறன் மற்றும் இறுதி ஒப்புதல் மற்றும் தொழில்முறை பொறுப்பு திறமையான தணிக்கையாளரிடம் உள்ளது என்பதைப் புரிந்துகொள்வது.

பாதுகாப்பு தணிக்கை (பாதிப்புகளுக்கான ஸ்மார்ட் ஒப்பந்தத்தின் முறையான ஆய்வு) Web3 இன் மிகவும் பொறுப்பான வேலை. ஒரு தணிக்கையாளரால் தவறவிடப்பட்ட ஒரு வரி மில்லியன் கணக்கான டாலர்களை இழக்க நேரிடும். தணிக்கை உதவியாளராக AI ஐ எவ்வாறு பயன்படுத்துவது என்பதை இந்த பிரிவில் நீங்கள் கற்றுக் கொள்வீர்கள்; துப்புகளை உருவாக்குவதிலிருந்து கண்டுபிடிப்புகளின் வெளிப்புறத்தை எழுதுவது வரை கற்றுக்கொள்வோம். ஆனால் மிக முக்கியமான வாக்கியம் இதுதான்: AI கட்டுப்படுத்தாது; ஆடிட்டரின் கண்ணைக் கூர்மையாக்கும் உதவியாளர் இது. இறுதி ஒப்புதல் தொழில்முறை பொறுப்பை ஏற்கும் திறமையான தணிக்கையாளரிடம் உள்ளது.

தணிக்கை ஏன் பாதுகாப்பு முக்கியமானது

ஒரு தணிக்கை அறிக்கை திட்டத்திற்கும் முதலீட்டாளர்களுக்கும் "இந்த குறியீடு மதிப்பாய்வு செய்யப்பட்டுள்ளது" என்று உறுதியளிக்கிறது. இந்த உத்தரவாதம் தவறானதாக இருந்தால், விளைவுகள் பேரழிவு தரும்: சுரண்டப்பட்ட நெறிமுறை, இழந்த நிதி, சரிந்த திட்டம். எனவே, ஆய்வில் AI இன் பயன்பாடு இந்த தொகுதியின் மிகவும் கவனமாக பகுதியாகும். AI ஆடிட்டரின் நோக்கத்தை விரிவுபடுத்துகிறது (அதிக வடிவங்களை நினைவுபடுத்துகிறது, வேகமாகப் படிக்கிறது) ஆனால் ஆடிட்டரை மாற்றாது.

ஏன் கடக்கவில்லை? ஏனெனில்:

• பயிற்சி தரவுகளில் இல்லாத தனிப்பட்ட/புதிய பாதிப்பை AI ஆல் பார்க்க முடியாது.
• நெறிமுறையின் வணிக தர்க்கத்தில் உள்ள குறைபாட்டை AI அடிக்கடி தவறவிடுகிறது - குறியீடு தொழில்நுட்ப ரீதியாக சரியானது ஆனால் பொருளாதார ரீதியாக சுரண்டக்கூடியது.
• சரளமான மொழியில் "பாதுகாப்பானது" என்று சொல்வதன் மூலம் AI தவறான உறுதியை அளிக்க முடியும்; இது மிகவும் ஆபத்தான விளைவு.

கட்டுப்பாட்டில் AI ஐப் பயன்படுத்துவதற்கான அடுக்குகள்

1. ஆரம்ப ஸ்கேன் மற்றும் பேட்டர்ன் நினைவூட்டல். AI ஆனது சரிபார்ப்புப் பட்டியல் போன்ற அறியப்பட்ட பாதிப்பு முறைகள் மூலம் செல்கிறது: மறு நுழைவு, அணுகல் கட்டுப்பாடு, ஆரக்கிள் கையாளுதல், முன்-இயக்குதல். தணிக்கையாளர் எந்த வகையையும் தவறவிடாமல் இருப்பதை இது உறுதி செய்கிறது.

2. குறியீடு விளக்கம். AI க்கு ஒரு சிக்கலான செயல்பாட்டை எளிய மொழியில் விளக்குவது, தணிக்கையாளரை தர்க்கத்தை விரைவாகப் புரிந்துகொள்ள அனுமதிக்கிறது; ஆனால் விளக்கம் எப்போதும் குறியீட்டுடன் ஒப்பிடப்படுகிறது.

3. கண்டுபிடிப்புகளின் வரைவை எழுதுதல். தணிக்கையாளர் பாதிப்பைக் கண்டறிந்தால், அறிக்கையின் வரைவை (விளக்கம், தாக்கம், முன்மொழியப்பட்ட தீர்வு) எழுதுவதில் AI நேரத்தைச் சேமிக்கிறது.

4. எதிர் கருதுகோளை உருவாக்குதல். AIயிடம் "இந்தச் செயல்பாட்டை எவ்வாறு தவறாகப் பயன்படுத்த முடியும்?" "என்று கேட்பது ஆக்கிரமிப்பு முன்னோக்கை நினைவூட்டுகிறது.

கவனம்: "இந்தக் குறியீட்டில் எந்தப் பாதிப்பும் இல்லை" என்று AI கூறுவதால், "இந்தக் குறியீடு பாதுகாப்பானது" என்று அர்த்தமல்ல. இல்லாததற்கான சான்று என்பது ஆதாரம் இல்லாதது அல்ல. AI ஆல் எதையாவது கண்டுபிடிக்க முடியவில்லை என்பது தணிக்கையாளருக்கு அந்த பகுதியை ஆராய்வது தேவையற்றதாக இல்லை.

தீவிர நிலைகளைக் கண்டறிதல்

தணிக்கை முடிவுகள் அவற்றின் தீவிரத்தன்மைக்கு ஏற்ப வகைப்படுத்தப்படுகின்றன. வரைவுகளை உருவாக்கும் போது AI இந்த கட்டமைப்பைப் பயன்படுத்த வேண்டும்:

நிலை

பொருள்

உதாரணம்

முக்கியமான

நிதி இழப்பு / லாக்அவுட் நேரடியாக சாத்தியம்

மறுபதிவுடன் நிதி திரும்பப் பெறுதல்

உயர்

சில நிபந்தனைகளில் கடுமையான தாக்கம்

அங்கீகரிக்கப்படாத அச்சிடுதல் (புதினா)

நடுத்தர

வரையறுக்கப்பட்ட தாக்கம் அல்லது கடினமான நிலை

ஆரக்கிள் விலகலுடன் சிறிய இழப்பு

குறைந்த

சிறிய ஆபத்து, நல்ல நடைமுறை மீறல்

நிகழ்வு ஒளிபரப்பு இல்லை

தகவல்

பாதுகாப்பற்ற தன்மை, வாசிப்புத்திறன்

NatSpec இல்லாமை

பலவீனமான வரியில் / வலுவான வரியில்

பலவீனமான உடனடி:

இந்த ஒப்பந்தம் பாதுகாப்பானதா?

இந்தக் கேள்வியானது "ஆம்/இல்லை" - நாம் விரும்பாதது போன்ற முழுமையான, தேவையற்ற தீர்ப்பை வழங்க AI ஐ கட்டாயப்படுத்துகிறது.

சக்திவாய்ந்த தூண்டுதல்:

உங்கள் பங்கு: மூத்த ஸ்மார்ட் ஒப்பந்த தணிக்கையாளருக்கு உதவியாளர். பாதுகாப்பிற்காக பின்வரும் ஒப்பந்தத்தை ஸ்கேன் செய்யவும். பின்வரும் வகைகளை ஒவ்வொன்றாகப் பார்க்கவும்: மறுபதிவு, அணுகல் கட்டுப்பாடு, முழு எண் செயல்பாடுகள், உள்ளீடு சரிபார்ப்பு, ஆரக்கிள்/வெளிப்புற தரவு, முன்-இயங்கும், எரிவாயு வரம்பு. ஒவ்வொரு கண்டுபிடிப்புக்கும்: (1) தொடர்புடைய குறியீடு, (2) ஆபத்து, (3) மதிப்பிடப்பட்ட தீவிரம் (முக்கியமான/உயர்/நடுத்தர/குறைந்த), (4) தீர்வு முன்மொழிவு. இவை உறுதிப்படுத்தப்பட வேண்டிய கருதுகோள்கள்; "பாதுகாப்பான" தீர்ப்பை வழங்க வேண்டாம். "தணிக்கையாளர் உறுதிப்படுத்தட்டும்" என்று உங்களுக்குத் தெளிவாகத் தெரியாத பகுதிகளைக் குறிக்கவும்.

நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்

1) வகை அடிப்படையிலான உலாவல்:

பின்வரும் வகைகளுக்கு இந்த ஒப்பந்தத்தை ஸ்கேன் செய்யவும்: மறுபதிவு, அணுகல் கட்டுப்பாடு, முழு எண் வழிதல், உள்ளீடு சரிபார்ப்பு, ஆரக்கிள் சார்பு, முன்-இயங்கும், DoS/gas. ஒவ்வொரு வகைக்கும், "ஆபத்து இல்லை/இல்லை/எனக்கு உறுதியாகத் தெரியவில்லை" எனக் கூறி, உங்கள் நியாயத்தை குறியீட்டில் உள்ள வரியுடன் இணைக்கவும். இறுதி தீர்ப்பு வழங்க வேண்டாம்.

2) தாக்குபவர்களின் கண்ணோட்டத்தில் எதிர் கருதுகோள்:

தாக்குபவர் போல் சிந்தியுங்கள்: இந்தச் செயல்பாட்டைத் தவறாகப் பயன்படுத்துவதற்கான வழிகள் என்ன? ஒவ்வொரு காட்சியையும் படிப்படியாக எழுதி, என்ன நிபந்தனைகள் தேவை என்பதைக் குறிப்பிடவும். இந்த காட்சிகள் சோதிக்கப்பட வேண்டிய கருதுகோள்கள்; உண்மையான சுரண்டல் குறியீட்டை உருவாக்க வேண்டாம், ஆபத்தை விவரிக்கவும்.

3) வரைவு கண்டுபிடிப்புகள் அறிக்கை:

பின்வரும் சரிபார்க்கப்பட்ட கண்டுபிடிப்பை முறையான தணிக்கை மொழியில் புகாரளிக்கவும்: தலைப்பு, தீவிரம், விளக்கம், தாக்கம், பாதிக்கப்பட்ட குறியீடு, இனப்பெருக்கம் செய்வதற்கான படிகள், முன்மொழியப்பட்ட தீர்வு. அளவிடப்பட்ட மற்றும் தொழில்நுட்ப மொழியைப் பயன்படுத்தவும்; மிகைப்படுத்தல். கண்டறிதல் தணிக்கையாளரால் உறுதிப்படுத்தப்பட்டதாகக் கருதுங்கள், புதிய கண்டுபிடிப்பை உருவாக்க வேண்டாம்.

4) சரிபார்ப்பு:

கீழே ஒரு பாதிப்பு மற்றும் டெவலப்பர் பயன்படுத்திய திருத்தம். பிழைத்திருத்தம் உண்மையில் பாதிப்பை மூடுகிறதா என்பதை ஆராயுங்கள்; இது ஒரு புதிய பக்க விளைவு அல்லது பாதிப்பை உருவாக்குகிறதா என்பதைக் குறிக்கவும். "மூடப்பட்டது" என்று உறுதியாகச் சொல்லாதீர்கள்; "சோதனை மூலம் உறுதிப்படுத்தப்பட வேண்டும்" என்று முடிக்கவும்.

மூன்று சிறிய வழக்குகள் (எண்களில்)

வழக்கு 1 — AI வகை துள்ளல் தடுக்கப்பட்டது. ஒரு ஆடிட்டர் 400-வரி ஒப்பந்தத்தில் கவனம் செலுத்தி, ஆரக்கிள் வகையைத் தவிர்க்கவிருந்தார். AI இன் வகை ஸ்கேன், "விலை தரவு ஒரு மூலத்திலிருந்து, கையாளுதலுக்குத் திறந்திருக்கும்" என்று ஒரு எச்சரிக்கையை அளித்தது. தணிக்கையாளர் அதை ஆய்வு செய்தார், அது உண்மையில் ஒரு நடுத்தர ஆபத்து என்பதைக் கண்டறிந்தார். பாடம்: AI கவரேஜ் ஒழுக்கத்தை பராமரிக்கிறது.

வழக்கு 2 - தவறான "பாதுகாப்பான" உத்தரவாதம். மற்றொரு குழு AI யிடம் "இது பாதுகாப்பானதா?" அவர் கேட்டார்; "ஒரு குறிப்பிடத்தக்க சிக்கல் இருப்பதாகத் தெரியவில்லை," AI கூறினார். குழுவினரின் சோதனை லேசானது. பின்னர் சுயாதீன தணிக்கையாளர் வணிக-தர்க்கக் குறைபாட்டைக் கண்டறிந்தார்: இது தொழில்நுட்ப ரீதியாக சரியானது, ஆனால் அதன் ஊக்கங்கள் சுரண்டக்கூடியவை. பாடம்: AI வணிக தர்க்கப் பிழையைத் தவறவிட்டது; அவர் "பாதுகாப்பானது" என்று சொல்வதை நம்ப முடியாது.

வழக்கு 3 - அறிக்கையை வரைவதில் 3 மணிநேரம் சேமிக்கப்பட்டது. தணிக்கையாளர் 8 கண்டுபிடிப்புகளை கைமுறையாகப் புகாரளிப்பதில் பாதி நாள் செலவிட்டார். நான் சரிபார்க்கப்பட்ட கண்டுபிடிப்புகளை AIக்கு அளித்து அதிகாரப்பூர்வ வரைவை அச்சிட்டவுடன், நேரம் ~3 மணிநேரம் குறைந்தது; ஆடிட்டர் ஆழப்படுத்த நேரம் ஒதுக்கினார். பாடம்: AI பாதுகாப்பானது மற்றும் அறிக்கையிடுவதில் திறமையானது, ஏனெனில் கண்டுபிடிப்புகள் ஏற்கனவே மனிதர்களால் சரிபார்க்கப்பட்டுள்ளன.

வணிக தர்க்க பாதிப்பு: AI இன் குருட்டுப் புள்ளி

மிகவும் விலையுயர்ந்த பாதிப்புகள் பெரும்பாலும் குறியீட்டில் உள்ள தொழில்நுட்பப் பிழையால் அல்ல, ஆனால் வணிக தர்க்கத்தின் சுரண்டல்: வெகுமதிக் கணக்கைச் சுரண்டல், ஃபிளாஷ் லோன் வாக்கைக் கடத்தல், விலையை உடனடியாகக் கையாளுதல். குறியீடு "சரியாக" செயல்படும் சந்தர்ப்பங்கள் இவை, ஆனால் நெறிமுறை பொருளாதார ரீதியாக ஏமாற்றப்படலாம். AI இத்தகைய பிழைகளை-குறிப்பாக நெறிமுறை-குறிப்பிட்டவற்றை தவறவிடக்கூடும். எனவே, வணிக தர்க்க மதிப்பாய்வு என்பது தணிக்கையாளரின் மிகவும் மனித-தீவிரமான பகுதி மற்றும் AI-ஐ மிகக் குறைவாகச் சார்ந்துள்ளது.

குறிப்பு: "இந்த நெறிமுறையின் பொருளாதார ஊக்கத்தை எவ்வாறு பயன்படுத்திக் கொள்ள முடியும்?" என்று AIயிடம் கேளுங்கள். மற்றும் தொடக்கப் புள்ளியாக வரும் காட்சிகளைப் பயன்படுத்தவும் - ஆனால் நீங்களும் உங்கள் குழுவும் உண்மையான பகுப்பாய்வு செய்ய வேண்டும் என்பதை நினைவில் கொள்ளுங்கள்.

பொதுவான தவறுகள்

• AIயிடம் "இது பாதுகாப்பானதா?" உங்கள் ஆம் என்று கேட்டு நம்புங்கள். முழுமையான தீர்ப்பு தேவையில்லை.
• "என்னால் அதைக் கண்டுபிடிக்க முடியவில்லை" என்று AI கூறும்போது மதிப்பாய்வை நிறுத்துதல். இல்லாதது ஆதாரம் அல்ல.
• வணிக தர்க்க மதிப்பாய்வை AIக்கு வழங்குதல். இது அவரது மிகப்பெரிய குருட்டுப் புள்ளியாகும்.
• சுயாதீன கருவிகளைப் பயன்படுத்துவதில்லை (ஸ்லிதர் போன்றவை). AI மட்டும் போதாது.
• AI ஆல் உருவாக்கப்பட்ட கண்டறிதலை சரிபார்க்காமல் அறிக்கைக்குள் வைப்பது. மாயத்தோற்றம் ஏற்படும் ஆபத்து.
• AI மீது கட்டுப்பாட்டுப் பொறுப்பை வைக்க முயற்சிக்கிறது. பொறுப்பு நிபுணரிடம் உள்ளது.

சுருக்கமாக

• தணிக்கை பாதுகாப்பு முக்கியமானது; AI ஆடிட்டரின் நோக்கத்தை விரிவுபடுத்துகிறது ஆனால் அதை மாற்றாது.
• AI அசல் பாதிப்பு மற்றும் வணிக லாஜிக் பிழையை இழக்கிறது; "பாதுகாப்பானது" என்று சொல்வது உறுதி அல்ல.
• கண்டுபிடிப்புகள் தீவிரத்தன்மைக்கு ஏற்ப வகைப்படுத்தப்படுகின்றன; வரைவுகளை உருவாக்க AI பயனுள்ளதாக இருக்கும்.
• எதிர் கருதுகோள் மற்றும் வகை ஸ்கிரீனிங் சேர்க்கும் ஒழுக்கத்தை பாதுகாக்கிறது.
• இறுதி ஒப்புதல் மற்றும் தொழில்முறை பொறுப்பு எப்போதும் திறமையான தணிக்கையாளரிடம் உள்ளது.

விண்ணப்ப பணி

அறியப்பட்ட பாதிப்பைக் கொண்ட மாதிரி ஒப்பந்தத்தைக் கண்டறியவும் (கல்வி நோக்கங்களுக்காக, "பாதிக்கப்படக்கூடிய ஒப்பந்தங்களின்" எடுத்துக்காட்டுகள் திறந்த மூலத்தில் கிடைக்கின்றன). AI க்கு "வகை அடிப்படையிலான ஸ்கேனிங்" வரியில் பயன்படுத்தவும். AI: (1) உண்மையான பாதிப்பைக் கண்டறிந்ததா, (2) புனையப்பட்ட/தவறான கண்டுபிடிப்புகளை உருவாக்கியது, (3) "பாதுகாப்பானது" போன்ற முழுமையான தீர்ப்புகளை வழங்கியதா என்பதைக் கவனியுங்கள். பின்னர் அதை ஒரு நிலையான பகுப்பாய்வு கருவியுடன் ஒப்பிடவும்.

சரிபார்ப்பு பட்டியல்

• [ ] AIயிடம் "இது பாதுகாப்பானதா?" அதற்கு பதிலாக, நான் வகை அடிப்படையிலான ஸ்கேன் செய்தேன்.
• [ ] நான் ஒவ்வொரு கண்டுபிடிப்பையும் ஒரு கருதுகோளாகக் கருதினேன்.
• [ ] வணிக தர்க்கத்தை நானே/குழுவை மதிப்பாய்வு செய்தேன்.
• [ ] நான் அதை ஒரு சுயாதீனமான நிலையான பகுப்பாய்வு கருவி மூலம் சரிபார்த்தேன்.
• AI கண்டுபிடிப்புகளை உருவாக்கவில்லை என்பதை நான் உறுதி செய்துள்ளேன்.
• [ ] நான் கண்டறிதல்களை தீவிரத்தன்மைக்கு ஏற்ப வகைப்படுத்தினேன்.
• [ ] இறுதி ஒப்புதல் திறமையான தணிக்கையாளரிடம் உள்ளது என்பதை நான் ஏற்றுக்கொண்டேன்.