Ieguvumi:
- Izpratne par blokķēdes drošībai kritisko raksturu un iemesliem, kāpēc mākslīgais intelekts nevar atklāt sākotnējo kļūdu, sniegt nepatiesu pārliecību, būt novecojis un neuzņemties atbildību.
- Spēja novērst vienas kļūdas noplūdi dzīvajā sistēmā ar slāņveida verifikāciju, kas katrā posmā ievieto cilvēka verifikācijas vārtus
- Drošībai kritisks gala apstiprinājums pieder kompetentam ekspertam un spējai pārņemt cilvēka atbildības, aizsardzības mērķa, konfidencialitātes, caurspīdīguma un godīguma principus.
Šī ir šī moduļa vissvarīgākā vienība. Līdz šim mēs esam redzējuši, kā AI paātrina visu, sākot no viedās līgumu rakstīšanas līdz ķēdes analīzei, no tokenomikas līdz krāpšanas atklāšanai. Šajā nodaļā mēs atkāpjamies un aplūkojam lietas būtību: kāpēc AI izvade nevar aizstāt kompetentu ekspertu apstiprinājumu drošībai kritiskā darbā. Kā ekspertam, kāds ir AI atbildīgas izmantošanas pamatnostādnes? Blockchain inženierija ir drošībai kritiska joma, kurā kļūdas tieši un neatgriezeniski pārvēršas naudā; Šī vienība nodarbojas ar šīs realitātes prasībām.
Ko nozīmē “drošībai kritisks” un kāpēc tas atšķiras?
Joma ir drošībai kritiska, ja kļūdas sekas ir neatgriezeniskas un nopietnas: dzīvības zaudējums tiltu inženierijā, nepareiza prakse medicīnā, tūlītēja un neatgriezeniska miljonu dolāru zaudēšana blokķēdē. Pieņemtais standarts šajās jomās pilnībā atšķiras no parastās programmatūras:
- Ar “tas droši vien darbojas” nepietiek; ir jāpierāda.
- "Mēs to labosim vēlāk" ir nederīgs; Neatgriezeniskums nepiedod.
- Galīgo apstiprinājumu saņem kompetents eksperts, kurš uzņemas profesionālu un juridisku atbildību.
AI ir palīgs; nevar uzņemties atbildību, nevar būt atbildīgs un nevar stāvēt aiz rezultātiem. Ja audita ziņojumā nav iekļauta ievainojamība, atbildība gulstas uz ekspertu, kurš parakstījis līgumu, nevis AI. “AI teica tā” nav inženierijas aizsardzība.
Kāpēc AI nevar aizstāt ekspertu: četri galvenie iemesli
1. AI nevar redzēt sākotnējo un konteksta kļūdu. AI atpazīst treniņu datu modeļus. Jauna ievainojamība, protokolam raksturīga biznesa loģikas kļūda vai unikāla komponentu mijiedarbība ir AI aklā zona. Dārgākie Web3 uzbrukumi rodas tieši no šīm unikālajām ievainojamībām.
2. AI sniedz nepatiesu pārliecību. AI var tekoši un pārliecinoši teikt: “šis kods izskatās drošs”, vienlaikus kļūdoties. Šī "drošības halucinācija" ir visbīstamākā izeja drošībai kritiskā zonā; jo tas rada maldīgu drošības sajūtu.
3. AI ir novecojis. AI zināšanas apstājas pie izglītības beigu datuma. Jaunākie uzbrukumi, jaunākās bibliotēkas versijas un jaunākā labākā prakse ir ārpus tās apvāršņa. Drošība ir pastāvīgi mainīga sacīkste; Vakardienas informācija šodien var būt nepietiekama.
4. AI nevar uzņemties atbildību. Tas, iespējams, ir visvienkāršākais iemesls. Inženiertehniskais apstiprinājums ir ne tikai tehniska, bet arī juridiska un ētiska apņemšanās. Mašīna nevar uzņemties šīs saistības.
Uzmanību: drošībai kritiskā izvadē jautājums ir "Ko teica AI?" bet "Kas ir kompetentā persona, kas pārbauda, apstiprina un stāv aiz šīs produkcijas?" vajadzētu būt. Nevienu ne-ekspertu apstiprinājumu — ne AI, ne rīka — nevar uzskatīt par pārliecību.
Slāņainā verifikācija: novērš atsevišķu kļūdu noplūdi tiešraidē
Atbildīga darbplūsma nodrošina cilvēka verifikācijas vārtus katrā posmā. Jūs nevarat iziet cauri vienām durvīm, neizejot cauri citām:
Skatuves
AI ieguldījums
cilvēka verifikācijas vārti
pareizrakstība
koda projekts
Būvēšana + pārbaude + pārskatīšana
skenēt
Kandidāta ievainojamība
Statiskā analīze + auditora apstiprinājums
Audits
Padoms, ziņojuma melnraksts
Kompetenta revidenta paraksts
pārbaudi
scenārija melnraksts
Testnet + fuzzing + simulācija
Izplatīšana
kontrolsaraksts
Vairāku parakstu apstiprināšana + pakāpeniska iziešana
Uzraudzība
anomālijas zīme
cilvēku reakcijas plāns
Šī slāņveida struktūra novērš vienas AI kļūdas noplūdi tīklā. Katrām durvīm ir skaidrs nokārtošanas nosacījums: vai pārbaude izturēja, vai auditors parakstījās, vai simulācija izturēja?
Vāja pieeja / spēcīga pieeja
Vāja pieeja:
AI ģenerēja kodu, tas izskatās tīrs, ievietosim to mainnetā.
Šī ir recepte katastrofai neatgriezeniskā apgabalā.
Spēcīga pieeja:
1. AI izveidoja melnrakstu → mēs to apkopojām, pārbaudījām.2. Statiskā analīze + AI skenēšana → auditors apstiprināja.3. Neatkarīgs drošības audits → parakstīts ziņojums.4. Testnet + fuzzing + simulācija → scenāriji izturēti.5. Vairāku parakstu, kaskādes tīkla izeja + uzraudzība. Katrā portā: nav progresa, kamēr nav izpildīts pārejas nosacījums.
Četras kopējamas veidnes
1) Verifikācijas vārtu vadība:
Izveidojiet validācijas kontrolsarakstu šai drošībai kritiskajai izvadei: ar kādām neatkarīgām darbībām (kompilācija, statiskā analīze, audits, testēšana, simulācija) tā būtu jāvalidē? Uzrakstiet pārejas nosacījumu katram solim. Norādiet, kāds risks radīsies, ja tiks izlaists viens solis.
2) AI izvades ticamības līmeņa marķēšana:
Pārskatiet tālāk norādīto mākslīgā intelekta ģenerēto izvadi un atzīmējiet katru apgalvojumu: "pārbaudīts / ir jāpārbauda / AI vājā vieta". Izceliet punktus, kuros nepieciešamas cilvēku zināšanas, īpaši tos, kas saistīti ar biznesa loģiku un unikālu risku.
3) Eksperta nodošanas piezīme:
Lai nodotu šo produkciju kompetentam ekspertam, sagatavojiet kopsavilkumu: ko AI darīja, ar kādiem pieņēmumiem, kur tas nav pārliecināts, kur speciāli ekspertam ir jāapstiprina? Skaidri norādiet, ka atbildība gulstas uz ekspertu.
4) Gatavošanās reaģēšanai uz incidentu:
Izveidojiet šim protokolam ārkārtas/incidentu reaģēšanas plānu: kādas darbības (pārtveršanas pilnvaras, saziņa, līdzekļu aizsardzība) būtu jāveic, ja radījumā tiktu izmantota ievainojamība? Šis ir melnraksts; Komandai un ekspertam ir jākalibrē.
Trīs mini futrāļi (skaitļos)
1. gadījums — pārlēkšana pa durvīm izraisīja katastrofu. Laika trūkuma dēļ komanda izlaida neatkarīgo auditu un paļāvās uz AI + pašu testiem un devās uz galveno tīklu. 11 dienas vēlāk no biznesa loģikas ievainojamības tika noņemti aptuveni 4 miljoni dolāru. Pārbaudes vārti, iespējams, to uztvertu. Mācība: neapejiet durvis drošībai kritiskā zonā.
2. gadījums — saglabāta slāņu autentifikācija. Cita komanda vadīja katru vārtu: AI projekts → statiskā analīze → audits → testtīkls → simulācija. Audita fāzē simulācijā tika konstatēts atkārtots ieiešana, orākula risks. Abas no tām tika slēgtas pirms tīkla. Nodarbība: slāņi novērš atsevišķu kļūdu noplūdi.
3. gadījums — “Droša halucinācija”. Izstrādātājs jautāja AI par kodu; "Šķiet, ka nav būtisku drošības problēmu," sacīja AI. Komanda to tik un tā nosūtīja pārbaudei, un atklājās divi augsta līmeņa atklājumi. Ja mēs būtu uzticējušies AI, viņi abi būtu atdzīvojušies. Nodarbība: AI pārliecības izpausme nav apstiprinājums.
Atbildīgas lietošanas principi
Mēs varam samazināt šī moduļa būtību līdz sešiem principiem:
- Cilvēka atbildība: drošībai būtisks galīgais apstiprinājums ir kompetentam ekspertam; AI nevar saukt pie atbildības.
- Slāņainā autentifikācija: cilvēka vārtu un caurlaides nosacījums katrā posmā.
- Aizsardzības izmantošana: lai aizsargātu un kontrolētu informāciju; Neizmantot/slazdā.
- Konfidencialitāte: klienta kods un dati netiek nodoti atvērtajiem rīkiem bez atļaujas.
- Pārredzamība: AI izmantošana ir godīgi norādīta ziņojumā; Netiek sniegts pārspīlējums vai nepatiesa pārliecība.
- Godīgums: investori un lietotāji netiek maldināti; Risks nav slēpts, padoms nav maskēts.
Padoms. Uzdodiet sev vienu jautājumu par katru drošības ziņā būtisku lēmumu: "Ja tas ir nepareizi un nauda ir pazaudēta, vai ir veikta kompetenta cilvēka pārbaude, lai stāvētu aiz tā un uzņemtos atbildību?" Ja atbilde ir “nē, mākslīgais intelekts tā teica”, process ir nepilnīgs.
Biežas kļūdas
- Neatkarīgo audita vārtu apiešana. Tas ir nepielūdzams neatsaucamajā jomā.
- AI uzticības izpausme tiek uzskatīta par apstiprinājumu. "Droša halucinācija" ir visbīstamākā.
- Mēģina uzlikt atbildību AI. Atbildība gulstas uz ekspertu, kurš parakstījis.
- Pieņemot savlaicīgumu. AI nezina tālāk par apmācības beigu datumu.
- Durvju saīsināšana laika spiediena dēļ. Dārgākās kļūdas avots.
- Izbraukšana bez incidentu reaģēšanas plāna. Kad notiek noplūde, tā paliek nesagatavota.
Rezumējot
- Blockchain ir drošībai kritiska; Kļūdas ir neatgriezeniskas un pārvēršas tieši naudā.
- AI nevar redzēt sākotnējo kļūdu, sniedz nepatiesu garantiju, ir novecojis un nevar uzņemties atbildību.
- Tāpēc galīgais, drošībai būtisks apstiprinājums vienmēr ir kompetentam ekspertam.
- Slāņainā verifikācija novērš vienas kļūdas noplūdi dzīvajā vidē, katrā posmā ievietojot cilvēka vārtus.
- Atbildīga izmantošana: cilvēka atbildība, aizsardzības mērķis, konfidencialitāte, caurspīdīgums un integritāte.
Lietojumprogrammas uzdevums
Iedomājieties viedo līguma projektu (vai ņemiet reālu piemēru). Uzrakstiet slāņveida verifikācijas plānu visam ceļojumam no idejas līdz tīklam: ko AI dara katrā posmā, kādi ir cilvēka vārti, kādi ir pārejas nosacījumi? Tad pievienojiet "laika spiediena" scenāriju: kuras durvis būtu visbīstamākās apiet un kāpēc? Iekļaujiet arī reaģēšanas uz incidentu izklāstu.
kontrolsaraksts
- [ ] Es piekritu, ka galīgais drošības ziņā būtisks apstiprinājums ir ekspertam.
- [ ] Katrā posmā es ievietoju cilvēka pārbaudes vārtus.
- [ ] Es neuzskatīju AI uzticības izpausmi kā apstiprinājumu.
- [ ] Es neapgāju neatkarīgās revīzijas durvis.
- [ ] Es nepieņēmu aktualitāti; Es apstiprināju jaunāko informāciju ar cilvēku.
- [ ] Es neuzliku atbildību AI.
- [ ] Es sagatavoju incidentu reaģēšanas plānu.