Табыстар:
- Блокчейннің қауіпсіздік үшін маңызды сипатын және жасанды интеллект бастапқы қатені анықтай алмайтын, жалған кепілдік бере алмайтын, ескірген және жауапкершілікті өз мойнына алмау себептерін түсіну.
- Әр кезеңде адамның тексеру қақпасын қоятын деңгейлі тексеру арқылы тірі жүйеге бір қатенің ағып кетуіне жол бермеу мүмкіндігі
- Қауіпсіздік тұрғысынан маңызды қорытынды мақұлдау құзыретті сарапшыға және адам жауапкершілігі, қорғаныс мақсаты, құпиялылық, ашықтық және адалдық принциптерін қабылдау қабілетіне тиесілі.
Бұл модульдің ең маңызды бірлігі. Осы уақытқа дейін біз AI ақылды келісімшарт жазудан бастап тізбекті талдауға дейін, токеномикадан алаяқтықты анықтауға дейін барлығын қалай тездететінін көрдік. Бұл бөлімде біз артқа шегініп, мәселенің мәніне қараймыз: неліктен AI нәтижесі қауіпсіздік тұрғысынан маңызды жұмыста құзыретті сарапшылардың мақұлдауын алмастыра алмайды. Ал сарапшы ретінде, AI-ны жауапкершілікпен пайдаланудың негізі қандай? Блокчейндік инженерия – қателер тікелей және қайтымсыз ақшаға айналатын қауіпсіздік үшін маңызды сала; Бұл бөлім сол шындықтың талаптарымен айналысады.
«Қауіпсіздік маңызды» нені білдіреді және ол неге ерекшеленеді?
Қатенің салдары қайтымсыз және ауыр болса, аймақ қауіпсіздік үшін өте маңызды: көпір инженериясындағы өмірдің жоғалуы, медицинадағы қателік, блокчейндегі миллиондаған долларлардың дереу және тұрақты жоғалуы. Бұл салаларда қабылданған стандарт қарапайым бағдарламалық қамтамасыз етуден мүлдем өзгеше:
- «Бұл жұмыс істейтін шығар» жеткіліксіз; дәлелденуі керек.
- "Кейін түзетеміз" жарамсыз; Қайтыссыздық кешірмейді.
- Соңғы мақұлдау кәсіби және заңдық жауапкершілікті өз мойнына алатын құзыретті сарапшыға беріледі.
AI - көмекші; жауапкершілікті өз мойнына ала алмайды, жауап бере алмайды және нәтиженің артында тұра алмайды. Аудиторлық есепте осалдықты жіберіп алса, жауапкершілік AI емес, қол қойған сарапшыда болады. «AI осылай деді» - бұл инженерияны қорғау емес.
Неліктен AI сарапшыны алмастыра алмайды: төрт негізгі себеп
1. AI бастапқы және контекстік қатені көре алмайды. AI жаттығу деректеріндегі үлгілерді таниды. Жаңа осалдық, хаттамаға тән бизнес логикалық қате немесе құрамдастардың бірегей өзара әрекеттесуі AI-ның соқыр нүктесі болып табылады. Ең қымбат Web3 шабуылдары дәл осы бірегей осалдықтардан туындайды.
2. AI жалған кепілдік береді. Жасанды интеллект қателескен кезде «бұл код қауіпсіз көрінеді» деп еркін және сенімді айта алады. Бұл «қауіпсіздік галлюцинациясы» қауіпсіздік маңызды аймақтағы ең қауіпті нәтиже болып табылады; өйткені ол жалған қауіпсіздік сезімін тудырады.
3. AI ескірген. Жасанды интеллект білімі білім беруді тоқтату күні тоқтайды. Соңғы шабуылдар, кітапхананың соңғы нұсқалары, соңғы үздік тәжірибелер оның көкжиегінен тыс. Қауіпсіздік - үнемі өзгеретін жарыс; Кешегі ақпарат бүгін жеткіліксіз болуы мүмкін.
4. AI жауапкершілікті өз мойнына ала алмайды. Бұл ең негізгі себеп болуы мүмкін. Инженерлік мақұлдау тек техникалық ғана емес, сонымен қатар заңды және этикалық міндеттеме болып табылады. Машина бұл міндеттемені орындай алмайды.
Ескерту: Қауіпсіздік тұрғысынан маңызды нәтижеде «AI не айтты?» Деген сұрақ туындайды. бірақ «Бұл нәтижені тексеретін, растайтын және артында тұрған құзыретті адам кім?» болуы керек. Ешбір сарапшы емес мақұлдауды - AI немесе құрал арқылы - кепілдік деп санауға болмайды.
Қабатты тексеру: жалғыз қателердің тікелей ағып кетуіне жол бермейді
Жауапты жұмыс процесі әр кезеңде адамның тексеру қақпасын қояды. Бір есіктен екінші есіктен өтуге болмайды:
Сахна
AI үлесі
адамның тексеру қақпасы
емле
кодекс жобасы
Құрастыру + сынақ + шолу
сканерлеу
Кандидаттың осалдығы
Статикалық талдау + аудитордың растауы
Аудит
Кеңес, есеп жобасы
Құзыретті аудитордың қолы
сынақ
сценарий жобасы
Testnet + fuzzing + симуляция
Тарату
бақылау парағы
Көп қолтаңбаны растау + біртіндеп шығу
Бақылау
аномалия белгісі
адамның әрекет ету жоспары
Бұл қабатты құрылым бір AI қатесінің негізгі желіге ағып кетуіне жол бермейді. Әрбір есіктің нақты өту шарты бар: сынақтан өтті ме, аудитор қол қойды ма, модельдеу тұрды ма?
Әлсіз тәсіл / Күшті көзқарас
Әлсіз тәсіл:
AI кодты жасады, ол таза көрінеді, оны негізгі желіге салайық.
Бұл қайтымсыз аймақтағы апаттың рецепті.
Күшті тәсіл:
1. AI жобаны жасады → біз оны құрастырдық, сынап көрдік.2. Статикалық талдау + АИ сканерлеу → аудитор расталды.3. Қауіпсіздіктің тәуелсіз аудиті → қол қойылған есеп.4. Testnet + fuzzing + симуляция → сценарийлер төзімді.5. Көп қолтаңбалы, каскадты негізгі желіден шығу + бақылау. Әрбір портта: өту шарты орындалмайынша прогресс болмайды.
Көшірілетін төрт үлгі
1) Тексеру қақпасын басқару:
Қауіпсіздік тұрғысынан маңызды нәтиже үшін тексеруді тексеру парағын жасаңыз: ол қандай тәуелсіз қадамдармен (құрастыру, статикалық талдау, аудит, тестілеу, модельдеу) тексерілуі керек? Әрбір қадамға өту шартын жазыңыз. Бір қадамды өткізіп жіберсе, қандай қауіп төнетінін көрсетіңіз.
2) AI шығысының сенімділік деңгейінің таңбалануы:
Төмендегі AI жасаған нәтижені қарап шығыңыз және әрбір бекітуді белгілеңіз: «тексерілген / тексерілуі керек / AI әлсіздігі». Адам тәжірибесін қажет ететін, әсіресе іскерлік логика мен бірегей тәуекелді қажет ететін тұстарды бөлектеңіз.
3) Сарапшының ауысуы туралы ескерту:
Бұл нәтижені құзыретті сарапшыға тапсыру үшін түйіндеме дайындаңыз: АИ не істеді, қандай болжамдармен, қай жерде сенімді емес, сарапшы нақты қай жерде растауы керек? Жауапкершілік сарапшыда екенін түсіндіріңіз.
4) Оқиғаға ден қоюға дайындық:
Осы хаттама үшін төтенше жағдайға/оқиғаға жауап беру схемасын жасаңыз: егер жаратылыстағы осалдық пайдаланылса, қандай қадамдар (өткізу өкілеттігі, байланыс, қорды қорғау) қажет болады? Бұл жоба; Топ пен сарапшы калибрлеуі керек.
Үш шағын іс (санмен)
1-жағдай - Есіктен секіру апат әкелді. Уақыт қысымына байланысты топ тәуелсіз аудитті өткізіп жіберді және AI + жеке сынақтарына сүйеніп, негізгі желіге өтті. 11 күннен кейін бизнес логикасының осалдығынан $4 млн жойылды. Тексеру қақпасы мұны ұстайтын шығар. Сабақ: қауіпсіздік үшін маңызды аймақтағы есікті айналып өтпеңіз.
2-жағдай — қабатты аутентификация сақталды. Басқа команда әр қақпаны басқарды: AI жобасы → статикалық талдау → аудит → testnet → модельдеу. Аудит кезеңінде симуляцияда қайта кіру, oracle тәуекелі ұсталды. Екеуі де негізгі желіден бұрын жабылды. Сабақ: қабаттар бір қателердің ағып кетуіне жол бермейді.
3-жағдай – «Қауіпсіз галлюцинация». Әзірлеуші AI-дан код туралы сұрады; «Қауіпсіздікке қатысты маңызды мәселелер жоқ сияқты», - деді AI. Команда бәрібір оны тексеруге жіберді және жоғары деңгейдегі екі қорытынды шықты. Егер біз AI-ға сенсек, екеуі де тірі болар еді. Сабақ: AI сенімділік білдіруі растау емес.
Жауапты пайдалану принциптері
Бұл модульдің мәнін алты принципке дейін қысқартуға болады:
- Адамдық жауапкершілік: Қауіпсіздік тұрғысынан маңызды қорытынды мақұлдау құзыретті сарапшыға жүктеледі; AI жауапкершілікке тартылмайды.
- Қабатты аутентификация: әр кезеңдегі адам қақпасы мен өту шарты.
- Қорғаныс пайдалану: ақпаратты қорғау және бақылау үшін; Пайдаланбау/тұзақ.
- Құпиялылық: тұтынушы коды мен деректері рұқсатсыз ашық құралдарға берілмейді.
- Транспаренттілік: AI пайдалану есепте шынайы көрсетілген; Ешқандай асыра сілтеу немесе жалған кепілдік берілмейді.
- Адалдық: Инвесторлар мен пайдаланушылар жаңылыспайды; Тәуекел жасырынбайды, кеңес бүркеленбейді.
Кеңес: Қауіпсіздікке қатысты әрбір маңызды шешім үшін өзіңізге бір сұрақ қойыңыз: «Егер бұл дұрыс емес болса және ақша жоғалса, оның артында тұруға және жауапкершілікті алуға құзыретті адам тексеруі болды ма?» Егер жауап «жоқ, AI солай деді» болса, процесс аяқталмаған.
Жалпы қателер
- Тәуелсіз аудит қақпасын айналып өту. Бұл қайтымсыз аймақта кешірімсіз.
- AI сенім білдіруін растау ретінде қателесу. «Қауіпсіз галлюцинация» - ең қауіпті.
- Жауапкершілікті АИ-ге жүктеуге тырысады. Жауапкершілік қол қойған маманға жүктеледі.
- Уақыттылығын болжау. AI жаттығудың аяқталу күнін білмейді.
- Уақыт қысымына байланысты есіктерді қысқарту. Ең қымбат қатенің көзі.
- Оқиғаға әрекет ету жоспарынсыз кету. Ағып кету орын алғанда, адам дайындықсыз қалады.
Қысқаша айтқанда
- Блокчейн қауіпсіздік үшін өте маңызды; Қателер қайтымсыз және тікелей ақшаға айналады.
- AI бастапқы қатені көре алмайды, жалған кепілдік береді, ескірген және жауапкершілікті ала алмайды.
- Сондықтан қауіпсіздікке қатысты соңғы мақұлдау әрқашан құзыретті сарапшының қолында.
- Қабатты тексеру әр кезеңде адам қақпасын орналастыру арқылы бір қатенің тірі ортаға ағып кетуіне жол бермейді.
- Жауапты пайдалану: адам жауапкершілігі, қорғаныс мақсаты, құпиялылық, ашықтық және тұтастық.
Қолданбалы тапсырма
Ақылды келісімшарт жобасын елестетіңіз (немесе нақты мысалды алыңыз). Идеядан негізгі желіге дейінгі бүкіл саяхат үшін деңгейлі тексеру жоспарын жазыңыз: AI әр кезеңде не істейді, қандай адам қақпасы бар, өтпелі жағдай қандай? Содан кейін «уақыт қысымы» сценарийін қосыңыз: қай есікті айналып өту ең қауіпті және неге? Сондай-ақ оқиғаға жауап беру схемасын қосыңыз.
бақылау парағы
- [ ] Қауіпсіздікке қатысты соңғы мақұлдауды сарапшы қабылдайтынын қабылдадым.
- [ ] Мен әр кезеңде адам тексеру қақпасын қоямын.
- [ ] Мен AI-ның сенім білдіруін растау ретінде санамадым.
- [ ] Мен тәуелсіз аудит есігін айналып өткен жоқпын.
- [ ] Мен өзектілікті қабылдамадым; Мен соңғы ақпаратты адаммен растадым.
- [ ] Мен жауапкершілікті AI-ға жүктеген жоқпын.
- [ ] Мен оқиғаға жауап беру жоспарын дайындадым.