ஆதாயங்கள்:
- பிளாக்செயினின் பாதுகாப்பு-முக்கியத்துவம் மற்றும் செயற்கை நுண்ணறிவு அசல் பிழையைக் கண்டறிய முடியாது என்பதற்கான காரணங்களைப் புரிந்துகொள்வது, தவறான உத்தரவாதத்தை வழங்குவது, காலாவதியானது மற்றும் பொறுப்பேற்கத் தவறியது.
- ஒவ்வொரு கட்டத்திலும் மனித சரிபார்ப்பு வாயிலை வைக்கும் அடுக்கு சரிபார்ப்புடன் நேரடி அமைப்பில் ஒரு பிழை கசிவதைத் தடுக்கும் திறன்
- பாதுகாப்பு-முக்கியமான இறுதி ஒப்புதல் திறமையான நிபுணர் மற்றும் மனித பொறுப்பு, பாதுகாப்பு நோக்கம், இரகசியத்தன்மை, வெளிப்படைத்தன்மை மற்றும் நேர்மை ஆகியவற்றின் கொள்கைகளை ஏற்றுக்கொள்ளும் திறனுடையது.
இந்த தொகுதியின் மிக முக்கியமான அலகு இதுவாகும். ஸ்மார்ட் காண்ட்ராக்ட் ரைட்டிங் முதல் ஆன்-செயின் பகுப்பாய்வு வரை, டோக்கனாமிக்ஸ் முதல் மோசடி கண்டறிதல் வரை அனைத்தையும் AI எவ்வாறு துரிதப்படுத்துகிறது என்பதை இதுவரை நாம் பார்த்தோம். இந்த பிரிவில், நாங்கள் பின்வாங்கி, விஷயத்தின் மையத்தைப் பார்க்கிறோம்: பாதுகாப்பு-முக்கியமான வேலைகளில் திறமையான நிபுணர்களின் ஒப்புதலை AI வெளியீடு ஏன் மாற்ற முடியாது. ஒரு நிபுணராக, AI ஐ பொறுப்புடன் பயன்படுத்துவதற்கான கட்டமைப்பு என்ன? பிளாக்செயின் இன்ஜினியரிங் என்பது பாதுகாப்பு முக்கியத்துவம் வாய்ந்த துறையாகும், இதில் தவறுகள் நேரடியாகவும் மாற்றமுடியாமல் பணமாக மாற்றப்படுகின்றன; இந்த அலகு அந்த யதார்த்தத்தின் தேவைகளைக் கையாள்கிறது.
"பாதுகாப்பு-முக்கியத்துவம்" என்றால் என்ன, அது ஏன் வேறுபட்டது?
பிரிட்ஜ் இன்ஜினியரிங்கில் உயிர் இழப்பு, மருத்துவத்தில் முறைகேடு, பிளாக்செயினில் மில்லியன் கணக்கான டாலர்கள் உடனடி மற்றும் நிரந்தர இழப்பு: ஒரு பிழையின் விளைவு மீள முடியாத மற்றும் தீவிரமானதாக இருந்தால் ஒரு பகுதி பாதுகாப்பு முக்கியமானது. இந்த பகுதிகளில் ஏற்றுக்கொள்ளப்பட்ட தரநிலை சாதாரண மென்பொருளிலிருந்து முற்றிலும் வேறுபட்டது:
- "இது அநேகமாக வேலை செய்கிறது" போதாது; நிரூபிக்கப்பட வேண்டும்.
- "அதை பின்னர் சரிசெய்வோம்" என்பது தவறானது; மீள முடியாத தன்மை மன்னிக்காது.
- இறுதி ஒப்புதல் தொழில்முறை மற்றும் சட்டப் பொறுப்பை ஏற்கும் திறமையான நிபுணரிடம் உள்ளது.
AI ஒரு உதவியாளர்; பொறுப்பை ஏற்க முடியாது, பொறுப்பேற்க முடியாது, முடிவுகளுக்கு பின்னால் நிற்க முடியாது. தணிக்கை அறிக்கையானது பாதிப்பைத் தவறவிட்டால், அதற்கான பொறுப்பு கையொப்பமிட்ட நிபுணரிடம் உள்ளது, AI அல்ல. "AI அப்படிச் சொன்னது" என்பது பொறியியலின் பாதுகாப்பு அல்ல.
ஏன் AI நிபுணரை மாற்ற முடியாது: நான்கு முக்கிய காரணங்கள்
1. அசல் மற்றும் சூழல் பிழையை AI பார்க்க முடியாது. பயிற்சி தரவுகளில் உள்ள வடிவங்களை AI அங்கீகரிக்கிறது. ஒரு புதிய பாதிப்பு, ஒரு நெறிமுறை சார்ந்த வணிக தர்க்கப் பிழை அல்லது கூறுகளின் தனிப்பட்ட தொடர்பு ஆகியவை AI இன் குருட்டுப் புள்ளியாகும். மிகவும் விலையுயர்ந்த Web3 தாக்குதல்கள் துல்லியமாக இந்த தனிப்பட்ட பாதிப்புகளிலிருந்து வந்தவை.
2. AI தவறான உத்தரவாதத்தை அளிக்கிறது. AI ஆனது சரளமாகவும் நம்பிக்கையுடனும் "இந்தக் குறியீடு பாதுகாப்பாகத் தெரிகிறது" என்று சொல்லலாம் - தவறாக இருக்கும்போது. இந்த "பாதுகாப்பு மாயத்தோற்றம்" என்பது பாதுகாப்பு-முக்கியமான பகுதியில் மிகவும் ஆபத்தான வெளியீடு ஆகும்; ஏனெனில் அது தவறான பாதுகாப்பு உணர்வை உருவாக்குகிறது.
3. AI காலாவதியானது. AI இன் அறிவு கல்வி கட்ஆஃப் தேதியில் நின்றுவிடுகிறது. சமீபத்திய தாக்குதல்கள், சமீபத்திய லைப்ரரி பதிப்புகள், சமீபத்திய சிறந்த நடைமுறைகள் அதன் எல்லைக்கு அப்பாற்பட்டவை. பாதுகாப்பு என்பது எப்போதும் மாறிவரும் இனம்; நேற்றைய தகவல்கள் இன்று போதாமல் இருக்கலாம்.
4. AI பொறுப்பை ஏற்க முடியாது. இதுவே மிக அடிப்படையான காரணமாக இருக்கலாம். பொறியியல் அங்கீகாரம் என்பது தொழில்நுட்பம் மட்டுமல்ல, சட்ட மற்றும் நெறிமுறை சார்ந்த அர்ப்பணிப்பும் ஆகும். ஒரு இயந்திரம் இந்த உறுதிப்பாட்டை செய்ய முடியாது.
எச்சரிக்கை: பாதுகாப்பு முக்கியத்துவம் வாய்ந்த வெளியீட்டில், "AI என்ன சொன்னது?" ஆனால் "இந்த வெளியீட்டை சரிபார்த்து, சரிபார்க்கும் மற்றும் பின்னால் நிற்கும் திறமையான நபர் யார்?" இருக்க வேண்டும். நிபுணர் அல்லாத ஒப்புதல் - AI அல்லது கருவி மூலம் - உத்தரவாதமாக கருத முடியாது.
அடுக்கு சரிபார்ப்பு: ஒற்றைப் பிழைகள் நேரலையில் கசிவதைத் தடுக்கிறது
ஒரு பொறுப்பான பணிப்பாய்வு ஒவ்வொரு கட்டத்திலும் மனித சரிபார்ப்பு வாயிலை வைக்கிறது. ஒரு கதவு வழியாக மற்றொரு கதவு வழியாக செல்ல முடியாது:
மேடை
AI பங்களிப்பு
மனித சரிபார்ப்பு வாயில்
எழுத்துப்பிழை
வரைவு குறியீடு
உருவாக்கம் + சோதனை + மதிப்பாய்வு
ஸ்கேன்
வேட்பாளர் பாதிப்பு
நிலையான பகுப்பாய்வு + தணிக்கையாளர் உறுதிப்படுத்தல்
தணிக்கை
உதவிக்குறிப்பு, அறிக்கை வரைவு
திறமையான தணிக்கையாளர் கையொப்பம்
சோதனை
ஸ்கிரிப்ட் வரைவு
டெஸ்ட்நெட் + ஃபஸிங் + சிமுலேஷன்
விநியோகம்
சரிபார்ப்பு பட்டியல்
பல கையொப்ப உறுதிப்படுத்தல் + படிப்படியாக வெளியேறுதல்
கண்காணிப்பு
ஒழுங்கின்மை அடையாளம்
மனித பதில் திட்டம்
இந்த அடுக்கு அமைப்பு ஒற்றை AI பிழையை மெயின்நெட்டில் கசிவதைத் தடுக்கிறது. ஒவ்வொரு கதவுக்கும் தெளிவான பாஸ் நிபந்தனை உள்ளது: சோதனை தேர்ச்சி பெற்றதா, தணிக்கையாளர் கையெழுத்திட்டாரா, உருவகப்படுத்துதல் நீடித்ததா?
பலவீனமான அணுகுமுறை / வலுவான அணுகுமுறை
பலவீனமான அணுகுமுறை:
AI குறியீட்டை உருவாக்கியது, அது சுத்தமாக இருக்கிறது, அதை மெயின்நெட்டில் வைப்போம்.
இது ஒரு மாற்ற முடியாத பகுதியில் பேரழிவுக்கான செய்முறையாகும்.
சக்திவாய்ந்த அணுகுமுறை:
1. AI வரைவைத் தயாரித்தது → நாங்கள் தொகுத்தோம், சோதனை செய்தோம்.2. நிலையான பகுப்பாய்வு + AI ஸ்கேன் → ஆடிட்டர் உறுதிப்படுத்தப்பட்டது.3. சுதந்திரமான பாதுகாப்பு தணிக்கை → கையொப்பமிடப்பட்ட அறிக்கை.4. Testnet + fuzzing + simulation → காட்சிகள் தாங்கப்பட்டன.5. பல கையொப்பம், கேஸ்கேடிங் மெயின்நெட் வெளியேறுதல் + கண்காணிப்பு. ஒவ்வொரு போர்ட்டிலும்: மாற்றம் நிபந்தனை பூர்த்தியாகும் வரை எந்த முன்னேற்றமும் இல்லை.
நகலெடுக்கக்கூடிய நான்கு வார்ப்புருக்கள்
1) சரிபார்ப்பு வாயில் கட்டுப்பாடு:
இந்த பாதுகாப்பு-முக்கியமான வெளியீட்டிற்கான சரிபார்ப்பு சரிபார்ப்பு பட்டியலை உருவாக்கவும்: எந்த சுயாதீனமான படிகள் (தொகுப்பு, நிலையான பகுப்பாய்வு, தணிக்கை, சோதனை, உருவகப்படுத்துதல்) சரிபார்க்கப்பட வேண்டும்? ஒவ்வொரு படிநிலைக்கும் மாறுதல் நிலையை எழுதவும். ஒரு அடியைத் தவிர்த்தால் என்ன ஆபத்து ஏற்படும் என்பதைக் குறிப்பிடவும்.
2) AI வெளியீட்டு நம்பிக்கை நிலை லேபிளிங்:
கீழே உள்ள AI-உருவாக்கிய வெளியீட்டை மதிப்பாய்வு செய்து, ஒவ்வொரு வலியுறுத்தலையும் குறிக்கவும்: "சரிபார்க்கப்பட்ட / சரிபார்க்கப்பட வேண்டும் / AI பலவீனம் பகுதி". மனித நிபுணத்துவம் தேவைப்படும் புள்ளிகளை முன்னிலைப்படுத்தவும், குறிப்பாக வணிக தர்க்கம் மற்றும் தனிப்பட்ட ஆபத்து சம்பந்தப்பட்டவை.
3) நிபுணர் பரிமாற்ற குறிப்பு:
இந்த வெளியீட்டை ஒரு திறமையான நிபுணரிடம் ஒப்படைக்க, ஒரு சுருக்கத்தைத் தயாரிக்கவும்: AI என்ன செய்தது, என்ன அனுமானங்களுடன், எங்கு நிச்சயமற்றது, குறிப்பாக நிபுணர் எங்கு உறுதிப்படுத்த வேண்டும்? பொறுப்பு நிபுணரிடம் உள்ளது என்பதை தெளிவுபடுத்துங்கள்.
4) நிகழ்வு பதில் தயாரிப்பு:
இந்த நெறிமுறைக்கான அவசரகால/சம்பவப் பதிலளிப்பு அவுட்லைனை உருவாக்கவும்: ஒரு உயிரினத்தில் பாதிப்பு சுரண்டப்பட்டால் என்ன படிகள் (தடுக்கப்படும் அதிகாரம், தகவல் தொடர்பு, நிதி பாதுகாப்பு) சம்பந்தப்பட்டிருக்கும்? இது ஒரு வரைவு; குழுவும் நிபுணர்களும் அளவீடு செய்ய வேண்டும்.
மூன்று சிறிய வழக்குகள் (எண்களில்)
வழக்கு 1 - கதவு குதிப்பது பேரழிவை ஏற்படுத்தியது. நேர அழுத்தம் காரணமாக, ஒரு குழு சுயாதீன தணிக்கையைத் தவிர்த்து, AI + சொந்த சோதனைகளை நம்பி, மெயின்நெட்டிற்குச் சென்றது. 11 நாட்களுக்குப் பிறகு ~$4M வணிக லாஜிக் பாதிப்பிலிருந்து அகற்றப்பட்டது. ஒரு ஆய்வு வாயில் இதைப் பிடிக்கலாம். பாடம்: பாதுகாப்பு முக்கியத்துவம் வாய்ந்த பகுதியில் கதவைத் தாண்டிச் செல்ல வேண்டாம்.
வழக்கு 2 - அடுக்கு அங்கீகாரம் சேமிக்கப்பட்டது. மற்றொரு குழு ஒவ்வொரு வாயிலையும் இயக்கியது: AI புளூபிரிண்ட் → நிலையான பகுப்பாய்வு → தணிக்கை → டெஸ்ட்நெட் → உருவகப்படுத்துதல். தணிக்கை கட்டத்தின் போது, மீண்டும் நுழைவு, ஒரு ஆரக்கிள் ஆபத்து உருவகப்படுத்துதலில் சிக்கியது. அவை இரண்டும் மெயின்நெட் முன் மூடப்பட்டன. பாடம்: அடுக்குகள் ஒற்றைப் பிழைகள் கசிவதைத் தடுக்கின்றன.
வழக்கு 3 - "பாதுகாப்பான மாயத்தோற்றம்." ஒரு டெவலப்பர் AI யிடம் குறியீட்டைப் பற்றி கேட்டார்; "குறிப்பிடத்தக்க பாதுகாப்புச் சிக்கல்கள் எதுவும் இருப்பதாகத் தெரியவில்லை" என்று AI கூறியது. குழு அதை எப்படியும் ஆய்வுக்கு அனுப்பியது, மேலும் இரண்டு உயர்மட்ட கண்டுபிடிப்புகள் வெளிவந்தன. நாம் AI-யை நம்பியிருந்தால், இருவரும் உயிரோடு வந்திருப்பார்கள். பாடம்: AI இன் நம்பிக்கையின் வெளிப்பாடு ஒரு உறுதிப்படுத்தல் அல்ல.
பொறுப்பான பயன்பாட்டின் கோட்பாடுகள்
இந்த தொகுதியின் சாரத்தை ஆறு கொள்கைகளாக நாம் குறைக்கலாம்:
- மனித பொறுப்பு: பாதுகாப்பு-முக்கியமான இறுதி ஒப்புதல் திறமையான நிபுணரிடம் உள்ளது; AI பொறுப்பேற்க முடியாது.
- அடுக்கு அங்கீகாரம்: ஒவ்வொரு கட்டத்திலும் ஒரு மனித வாயில் மற்றும் பாஸ் நிலை.
- தற்காப்பு பயன்பாடு: தகவல்களைப் பாதுகாக்கவும் கட்டுப்படுத்தவும்; சுரண்ட / பொறி செய்ய அல்ல.
- ரகசியத்தன்மை: அனுமதியின்றி கருவிகளைத் திறக்க வாடிக்கையாளர் குறியீடு மற்றும் தரவு வழங்கப்படாது.
- வெளிப்படைத்தன்மை: AI பயன்பாடு நேர்மையாக அறிக்கையில் கூறப்பட்டுள்ளது; மிகைப்படுத்தல் அல்லது தவறான உத்தரவாதம் வழங்கப்படவில்லை.
- நேர்மை: முதலீட்டாளர்கள் மற்றும் பயனர்கள் தவறாக வழிநடத்தப்படுவதில்லை; ஆபத்து மறைக்கப்படவில்லை, அறிவுரை மறைக்கப்படவில்லை.
உதவிக்குறிப்பு: ஒவ்வொரு பாதுகாப்பு-முக்கியமான முடிவிற்கும் ஒரு கேள்வியை நீங்களே கேட்டுக்கொள்ளுங்கள்: "இது தவறு மற்றும் பணத்தை இழந்தால், அதற்குப் பின்னால் நின்று பொறுப்பேற்க தகுதியான மனித சரிபார்ப்பு உண்டா?" பதில் "இல்லை, AI சொன்னது" எனில், செயல்முறை முழுமையடையாது.
பொதுவான தவறுகள்
- சுயாதீன தணிக்கை வாயிலைக் கடந்து செல்வது. இது மாற்ற முடியாத பகுதியில் மன்னிக்க முடியாதது.
- AI இன் நம்பிக்கையின் வெளிப்பாட்டை உறுதிப்படுத்தல் என்று தவறாகப் புரிந்துகொள்வது. "பாதுகாப்பான மாயத்தோற்றம்" மிகவும் ஆபத்தானது.
- AI மீது பொறுப்பை வைக்க முயற்சிக்கிறது. கையொப்பமிட்ட நிபுணரிடம் பொறுப்பு உள்ளது.
- காலத்தை அனுமானித்து. பயிற்சி கட்ஆஃப் தேதிக்கு அப்பால் AIக்கு தெரியாது.
- நேர அழுத்தம் காரணமாக கதவுகள் சுருக்கப்படுகின்றன. மிகவும் விலையுயர்ந்த பிழையின் ஆதாரம்.
- ஒரு சம்பவ மறுமொழி திட்டம் இல்லாமல் வெளியேறுதல். ஒரு கசிவு ஏற்பட்டால், ஒருவர் தயாராக இல்லாமல் விடப்படுகிறார்.
சுருக்கமாக
- பிளாக்செயின் பாதுகாப்பு முக்கியமானது; தவறுகள் மாற்ற முடியாதவை மற்றும் நேரடியாக பணமாக மாறும்.
- AI அசல் பிழையைப் பார்க்க முடியாது, தவறான உத்தரவாதத்தை அளிக்கிறது, காலாவதியானது மற்றும் பொறுப்பேற்க முடியாது.
- அதனால்தான் இறுதி பாதுகாப்பு-முக்கியமான ஒப்புதல் எப்போதும் திறமையான நிபுணரிடம் உள்ளது.
- அடுக்கு சரிபார்ப்பு ஒவ்வொரு கட்டத்திலும் ஒரு மனித வாயிலை வைப்பதன் மூலம் ஒரு பிழையை நேரடி சூழலில் கசிவதைத் தடுக்கிறது.
- பொறுப்பான பயன்பாடு: மனித பொறுப்பு, தற்காப்பு நோக்கம், இரகசியத்தன்மை, வெளிப்படைத்தன்மை மற்றும் ஒருமைப்பாடு.
விண்ணப்ப பணி
ஒரு ஸ்மார்ட் ஒப்பந்த திட்டத்தை கற்பனை செய்து பாருங்கள் (அல்லது ஒரு உண்மையான உதாரணத்தை எடுத்துக் கொள்ளுங்கள்). யோசனையிலிருந்து மெயின்நெட் வரையிலான முழுப் பயணத்திற்கும் ஒரு அடுக்கு சரிபார்ப்புத் திட்டத்தை எழுதுங்கள்: ஒவ்வொரு கட்டத்திலும் AI என்ன செய்கிறது, மனித வாயில் என்ன, மாற்றம் நிலை என்ன? பின்னர் "நேர அழுத்தம்" சூழ்நிலையைச் சேர்க்கவும்: எந்தக் கதவு புறக்கணிக்க மிகவும் ஆபத்தானது மற்றும் ஏன்? ஒரு சம்பவத்தின் பதில் அவுட்லைனையும் சேர்க்கவும்.
சரிபார்ப்பு பட்டியல்
- [ ] இறுதி பாதுகாப்பு-முக்கியமான ஒப்புதல் நிபுணரிடம் உள்ளது என்பதை நான் ஏற்றுக்கொண்டேன்.
- [ ] ஒவ்வொரு கட்டத்திலும் ஒரு மனித சரிபார்ப்பு வாயிலை வைத்தேன்.
- [ ] நான் AI இன் நம்பிக்கையின் வெளிப்பாட்டை உறுதிப்படுத்தலாக எண்ணவில்லை.
- [ ] நான் சுயாதீன தணிக்கை கதவை கடந்து செல்லவில்லை.
- [ ] நான் மேற்பூச்சுத்தன்மையை எடுத்துக்கொள்ளவில்லை; மனிதனுடன் சமீபத்திய தகவலை உறுதிப்படுத்தினேன்.
- [ ] நான் AI மீது பொறுப்பை வைக்கவில்லை.
- [ ] நான் ஒரு சம்பவ மறுமொழி திட்டத்தை தயார் செய்தேன்.