Girdeji:
- Emeli intellektiň auditoryň gerimini giňeldýändigine düşünmek ukyby, ýöne onuň ornuny tutmaýar we kategoriýany gözlemekde we taýýarlamakda peýdalydyr.
- Emeli intellektiň asyl gowşaklygy we işewür logiki ýalňyşlygy sypdyrandygyny we erkin “ygtybarly” sözlemiň kepillendirilmeýändigini bilmek;
- Netijeleri çynlakaýlyk derejesine görä toparlara bölmek we gutarnykly tassyklamagyň we hünär jogapkärçiliginiň ygtyýarly auditor bilen baglanyşyklydygyna düşünmek.
Howpsuzlyk barlagy (gowşak goralanlyklar üçin akylly şertnamany yzygiderli gözden geçirmek) Web3-iň iň jogapkärli işidir. Auditor tarapyndan sypdyrylan bir setir millionlarça dollar ýitgilere sebäp bolup biler. Bu bölümde AI-ni audit kömekçisi hökmünde ulanmagy öwrenersiňiz; Maslahat bermekden başlap, netijeleriň mazmunyny ýazmaga çenli öwreneris. Emma iň möhüm sözlem: AI gözegçilik etmeýär; Auditoryň gözüni ýitileşdirýän kömekçi. Iň soňky tassyklama, hünär jogapkärçiligini öz üstüne alýan başarnykly auditor tarapyndan berilýär.
Audit näme üçin howpsuzlyk taýdan möhüm?
Gözegçilik hasabaty taslamany we maýadarlary “bu kod gözden geçirildi” diýip ynandyrýar. Bu kepillik ýalan bolsa, netijeleri zyýanly: ulanylýan protokol, serişdäni ýitirmek, ýykylan taslama. Şonuň üçin AI-ni gözden geçirmekde ulanmak bu modulyň iň seresaply bölegidir. AI auditoryň çägini giňeldýär (has köp nagyşlary ýada salýar, has çalt okaýar), ýöne auditoryň ýerini tutmaýar.
Näme üçin geçmeýär? Sebäbi:
- AI okuw maglumatlarynda bolmadyk üýtgeşik / täze gowşaklygy görüp bilmeýär.
- AI köplenç protokolyň iş logikasyndaky kemçiligi sypdyrýar - kod tehniki taýdan dogry, ýöne ykdysady taýdan peýdaly.
- AI erkin dilde “ygtybarly” diýmek bilen ýalan ynandyryp biler; Bu iň howply netije.
Dolandyryşda AI ulanmagyň gatlaklary
1. Başlangyç skaner we nagyş ýatlatmasy. AI gözegçilik sanawy ýaly belli gowşak goralanlyk nagyşlaryndan geçýär: reentrancy, giriş gözegçiligi, oracle manipulýasiýasy, öňünden işlemek. Bu, auditoryň haýsydyr bir kategoriýany sypdyrmazlygyny üpjün edýär.
2. Kod düşündirişi AI-e çylşyrymly funksiýany ýönekeý dilde düşündirmek, auditoryň logika çalt düşünmegine mümkinçilik berýär; ýöne beýany elmydama kod bilen deňeşdirilýär.
3. Netijeleriň taslamasyny ýazmak. Auditor gowşaklygy tapanda, AI hasabatyň taslamasyny (düşündiriş, täsir, teklip edilýän çözgüt) ýazmak üçin wagt tygşytlaýar.
4. Garşy gipotezany döretmek. AI-den soraň "bu funksiýany nädip hyýanatçylykly ulanyp bolar?" "Soramak, agressiw perspektiwany ýada salýar.
Üns beriň: AI "Bu kodda hiç hili gowşaklyk tapmadym" diýmegi sebäpli "bu kod howpsuz" diýmek däl. Absenceoklugyň subutnamasy subutnamanyň ýoklugy däldir. AI-iň bir zady tapyp bilmeýändigi, auditoryň bu sebiti gözden geçirmegini zerur däl edýär.
Agyrlyk derejesini tapmak
Gözegçilik netijeleri, agyrlyk derejesine görä toparlara bölünýär. AI garalama döredilende bu çarçuwany ulanmalydyr:
Dereje
Manysy
mysal
tankydy
Gaznanyň ýitmegi / ýapylmagy gönüden-göni mümkindir
Gaýtadan işlemek bilen serişdeleri çekmek
beýik
Käbir şertlerde çynlakaý täsir
Rugsat berilmedik çap (nan)
orta
Çäklendirilen täsir ýa-da kyn ýagdaý
Oracle gyşarmasy bilen ownuk ýitgi
pes
Ujypsyz töwekgelçilik, gowy tejribäniň bozulmagy
Eitirilen waka ýaýlymy
Maglumat
Howpsuzlyk däl, okalýan
NatSpec-iň ýoklugy
Gowşak haýyş / Güýçli haýyş
Gowşak haýyş:
Bu şertnama ygtybarlymy?
Bu sorag AI-ni “hawa / ýok” ýaly düýbünden islemeýän zadymyz ýaly düýbünden, esassyz höküm çykarmaga mejbur edýär.
Güýçli haýyş:
Siziň wezipäňiz: uly akylly şertnama auditorynyň kömekçisi. Howpsuzlyk üçin aşakdaky şertnamany gözläp bilersiňiz. Aşakdaky kategoriýalardan birin-birin geçiň: gaýtadan gözlemek, giriş gözegçiligi, bitewi amallar, giriş tassyklamasy, oracle / daşarky maglumatlar, öň işleýän, gaz çäkleri. Her tapyş üçin: (1) degişli kod setiri, (2) töwekgelçilige sebäp bolýar, (3) çak edilýän agyrlyk (Kritiki / / okary / Orta / Pes), (4) çözgüt teklibi. Bular tassyklanmaly HYPOTHES; "Ygtybarly" höküm bermäň. "Auditoryň tassyklamagyna rugsat beriň" diýip anyk bilmeýän ýerleriňizi belläň.
Göçürip boljak dört şablon
1) Kategoriýa esasly göz aýlamak:
Bu şertnamany aşakdaky kategoriýalar üçin gözden geçiriň: gaýtadan işlemek, giriş gözegçiligi, bitewi akym, giriş tassyklamasy, oracle baglylyk, öň işleýän, DoS / gaz. Her kategoriýa üçin "töwekgelçilik ýok / ýok / ynanamok" diýiň we delillendirişiňizi koddaky setire birikdiriň. Soňky höküm çykarmaň.
2) Hüjümçiniň nukdaýnazaryndan garşylyk-çaklama:
Hüjümçi ýaly pikir ediň: bu funksiýany hyýanatçylykly ulanmagyň ýollary haýsylar? Her ssenariýany ädimme-ädim ýazyň we haýsy şertleriň zerurdygyny görkeziň. Bu ssenariýler synagdan geçirilmeli gipotezalar; Hakyky ekspluatasiýa koduny döretmäň, diňe töwekgelçiligi suratlandyryň.
3) Netijeleriň hasabatynyň taslamasy:
Resmi audit dilinde aşakdaky tassyklanan tapyndylary habar beriň: ady, agyrlygy, beýany, täsiri, täsir eden kody, köpeltmek ädimleri, teklip edilýän çözgüt. Ölçelenen we tehniki dili ulanyň; ulaltmak. Tapyndy auditor tarapyndan tassyklandy diýip pikir ediň, täze tapmaň.
4) Barlamagy düzediň:
Aşakda gowşaklyk we dörediji tarapyndan ulanylýan düzediş. Düzedişiň hakykatdanam gowşaklygy ýapýandygyny ýa-da ýokdugyny barlaň; täze ters täsirini ýa-da gowşaklygyny döredýändigini belläň. Elbetde "ýapyk" diýmäň; "Synag bilen tassyklanmaly" bilen gutar.
Üç sany kiçi ýagdaý (san boýunça)
1-nji hadysa - AI kategoriýa atylmagynyň öňüni aldy. Auditor 400 setirli şertnama ünsi jemläp, oracle kategoriýasyna geçjek boldy. AI kategoriýasyny gözlemek "bahalar maglumatlary bir çeşmeden, manipulýasiýa üçin açyk" diýip duýduryş berdi. Gözegçi ony gözden geçirdi we hakykatdanam orta töwekgelçilikdigini anyklady. Sapak: AI gurşaw düzgünini saklaýar.
2-nji waka - sealňyş “ygtybarly” kepillik. Başga bir topar AI-den “bu howpsuzmy?” Diýip sorady. diýip sorady. AI: "Möhüm mesele ýok ýaly" -diýdi. Ekipa inspectionyň barlagy ýeňil boldy. Soňra garaşsyz auditor biznes-logiki kemçilik tapdy: tehniki taýdan dogry, ýöne höwesleri peýdaly hasaplama. Sapak: AI işewür logiki ýalňyşlygy sypdyrýar; Oňa "howpsuz" diýmäge ynanyp bolmaz.
3-nji waka - Hasabat taýýarlamak 3 sagat tygşytlady. Gözegçi günüň ýarysyny 8 netijäni el bilen geçirýärdi. Barlanylan netijeleri AI-e berip, resmi resminamany çap edenimden soň, wagt ~ 3 sagat azaldy; Gözegçi çuňlaşdyrmaga wagt sarp etdi. Sapak: AI hasabat bermekde ygtybarly we täsirli, sebäbi tapyndylar eýýäm adam tarapyndan barlanyldy.
Işewür logika gowşaklygy: AI-iň kör ýeri
Iň gymmat gowşak goralanlyklar köplenç koddaky tehniki ýalňyşlykdan däl-de, eýsem iş logikasynyň ulanylmagyndan gelip çykýar: sylag hasabynyň tegelek ulanylmagy, sesiň fleş karzynyň ogurlanmagy, bahanyň dessine manipulýasiýasy. Kod "dogry" işleýän ýagdaýlar, ýöne protokol ykdysady taýdan aldanyp biler. AI şeýle ýalňyşlyklary, esasanam protokola mahsus ýalňyşlyklary sypdyrmagy ähtimal. Şonuň üçin, iş logikasyna syn, auditoryň iň köp adam talap edýän we AI-e iň az bil baglaýan ýeri.
Maslahat: AI-den soraň "bu teswirnamanyň ykdysady höwesleri nädip ulanylyp bilner?" we başlangyç nokat hökmünde ýüze çykýan ssenariýalary ulanyň - ýöne hakyky derňewi siziň we toparyňyzyň etmelidigini ýadyňyzdan çykarmaň.
Adaty ýalňyşlyklar
- AI-den sora "howpsuzmy?" Hawa soramak we ynanmak. Doly höküm çykarmak hökman däl.
- AI "Men tapyp bilmedim" diýende syny duruzmak. .Ok, subutnama däl.
- Işewür logika synyny AI-e tabşyrmak. Bu onuň iň uly kör ýeri.
- Garaşsyz gurallary ulanmazlyk (Slither we ş.m.). Diňe AI ýeterlik däl.
- AI tarapyndan tapylan tapyndylary tassyklamazdan hasabatda goýmak. Galýusinasiýa töwekgelçiligi.
- Dolandyryş jogapkärçiligini AI-e ýüklemäge synanyşmak. Jogap hünärmeniň üstüne düşýär.
Gysgaça
- Gözegçilik howpsuzlygy möhümdir; AI auditoryň çägini giňeldýär, ýöne onuň ornuny tutmaýar.
- AI asyl gowşaklygy we iş logiki näsazlygyny sypdyrýar; "Ygtybarly" diýmek kepillik däl.
- Tapyndylar agyrlyk derejesine görä toparlara bölünýär; AI garalama döretmekde peýdalydyr.
- Garşy gipoteza we kategoriýa barlagy goşma düzgünini saklaýar.
- Jemleýji tassyklama we hünär jogapkärçiligi elmydama başarnykly auditorda.
Programma meselesi
Belli bir gowşaklygy öz içine alýan nusga şertnamasyny tapyň (bilim maksatly, "gowşak şertnamalaryň" mysallary açyk çeşmede bar). "Kategoriýa esasly skaner" haýyşyny AI-e ulanyň. AI: (1) hakyky gowşaklygy tapdymy, (2) toslanan / ýalan netijeleri çykardy, (3) “ygtybarly” ýaly mutlak karar berdi. Soňra ony statiki derňew guraly bilen deňeşdiriň.
gözegçilik sanawy
- [] AI-den sora "howpsuzmy?" Munuň ýerine kategoriýa esasly skaner etdim.
- [] Her tapyndylara gipoteza hökmünde garadym.
- [] Özümiň / toparyň iş logikasyny gözden geçirdim.
- [] Garaşsyz statiki derňew guraly bilen kesişdim.
- [] AI-iň tapyndylary ýasamaýandygyny tassykladym.
- [] Tapyndylary agyrlyk derejesine görä toparladym.
- [] Iň soňky tassyklamanyň başarnykly auditor tarapyndan kabul edilendigini kabul etdim.