Fitimet:
- Të kuptuarit e natyrës kritike për sigurinë e blockchain dhe arsyet pse inteligjenca artificiale nuk mund të zbulojë gabimin origjinal, të sigurojë siguri të rreme, të jetë i vjetëruar dhe nuk merr përgjegjësi.
- Aftësia për të parandaluar rrjedhjen e një gabimi të vetëm në sistemin e drejtpërdrejtë me verifikimin e shtresave që vendos një portë verifikimi njerëzor në çdo fazë
- Miratimi përfundimtar i rëndësishëm për sigurinë i takon ekspertit kompetent dhe aftësisë për të adoptuar parimet e përgjegjësisë njerëzore, qëllimit të mbrojtjes, konfidencialitetit, transparencës dhe ndershmërisë.
Kjo është njësia më e rëndësishme e këtij moduli. Deri më tani ne kemi parë se si AI po përshpejton gjithçka, nga shkrimi i kontratave inteligjente deri te analizat në zinxhir, nga tokenomics deri te zbulimi i mashtrimit. Në këtë njësi, ne tërhiqemi dhe shikojmë thelbin e çështjes: pse prodhimi i AI nuk mund të zëvendësojë miratimin kompetent të ekspertëve në punën kritike për sigurinë. Dhe si ekspert, cili është kuadri për përdorimin e AI me përgjegjësi? Inxhinieria e Blockchain është një fushë kritike për sigurinë ku gabimet përkthehen drejtpërdrejt dhe në mënyrë të pakthyeshme në para; Kjo njësi merret me kërkesat e atij realiteti.
Çfarë do të thotë "kritike për sigurinë" dhe pse është ndryshe?
Një zonë është kritike për sigurinë nëse pasoja e një gabimi është e pakthyeshme dhe serioze: humbja e jetës në inxhinierinë e urave, keqpërdorimi në mjekësi, humbja e menjëhershme dhe e përhershme e miliona dollarëve në blockchain. Standardi i pranuar në këto fusha është krejtësisht i ndryshëm nga softueri i zakonshëm:
- "Ndoshta funksionon" nuk mjafton; duhet vërtetuar.
- "Do ta rregullojmë më vonë" është e pavlefshme; Pakthyeshmëria nuk fal.
- Miratimi përfundimtar i takon një eksperti kompetent i cili merr përsipër përgjegjësinë profesionale dhe ligjore.
AI është një asistent; nuk mund të marrë përgjegjësi, nuk mund të mbahet përgjegjës dhe nuk mund të qëndrojë pas rezultateve. Nëse një raport auditimi humbet një cenueshmëri, përgjegjësia i takon ekspertit që ka nënshkruar, jo UA. "AI tha kështu" nuk është një mbrojtje e inxhinierisë.
Pse AI nuk mund të zëvendësojë ekspertin: katër arsye kryesore
1. AI nuk mund ta shohë gabimin origjinal dhe kontekstual. AI njeh modelet në të dhënat e trajnimit. Një dobësi e re, një gabim logjik biznesi specifik për protokollin, ose një ndërveprim unik i komponentëve është pika e verbër e AI. Sulmet më të shtrenjta të Web3 vijnë pikërisht nga këto dobësi unike.
2. UA jep siguri të rreme. Inteligjenca artificiale mund të thotë rrjedhshëm dhe me siguri "ky kod duket i sigurt" - ndërsa është i gabuar. Ky "halucinacion i sigurisë" është rezultati më i rrezikshëm në një zonë kritike për sigurinë; sepse krijon një ndjenjë të rreme sigurie.
3. AI është i vjetëruar. Njohuritë e AI ndalen në një datë ndërprerjeje arsimore. Sulmet e fundit, versionet më të fundit të bibliotekës, praktikat më të fundit më të mira janë përtej horizontit të saj. Siguria është një garë gjithnjë në ndryshim; Informacioni i djeshëm mund të jetë i pamjaftueshëm sot.
4. UA nuk mund të marrë përgjegjësi. Kjo është ndoshta arsyeja më themelore. Miratimi inxhinierik nuk është vetëm një angazhim teknik, por edhe ligjor dhe etik. Një makinë nuk mund ta bëjë këtë angazhim.
Kujdes: Në një dalje kritike për sigurinë, pyetja është "Çfarë tha AI?" por "Kush është personi kompetent që verifikon, vërteton dhe qëndron pas këtij produkti?" duhet të jetë. Asnjë miratim jo ekspert - as nga AI dhe as nga mjeti - nuk mund të konsiderohet siguri.
Verifikimi me shtresa: parandalimi i defekteve të vetme nga rrjedhja e drejtpërdrejtë
Një rrjedhë e përgjegjshme e punës vendos një portë verifikimi njerëzor në çdo fazë. Nuk mund të kalosh nga një derë pa kaluar nga një tjetër:
Skena
Kontributi i AI
porta e verifikimit njerëzor
drejtshkrimi
draft kodi
Ndërtim + test + rishikim
skanoni
Cenueshmëria e kandidatit
Analiza statike + konfirmimi i auditorit
Auditimi
Këshillë, draft raporti
Nënshkrimi i auditorit kompetent
provë
draft skenari
Rrjet testues + fuzzing + simulim
Shpërndarja
listë kontrolli
Konfirmim me shumë nënshkrime + dalje graduale
Monitorimi
shenjë anomalie
plani i reagimit njerëzor
Kjo strukturë e shtresuar parandalon që një gabim i vetëm i AI të rrjedhë në rrjetin kryesor. Çdo derë ka një kusht të qartë kalimi: a kaloi testi, a nënshkroi auditori, a qëndroi simulimi?
Qasje e dobët / Qasje e fortë
Qasje e dobët:
AI gjeneroi kodin, duket i pastër, le ta vendosim në mainnet.
Kjo është një recetë për fatkeqësi në një zonë të pakthyeshme.
Qasje e fuqishme:
1. UA prodhoi draftin → e përpiluam, e testuam.2. Analiza statike + skanim AI → konfirmohet nga auditori.3. Auditimi i pavarur i sigurisë → raport i nënshkruar.4. Rrjetë testuese + fuzzing + simulim → skenarë të duruar.5. Dalje me shumë nënshkrime, kaskadë nga rrjeti kryesor + monitorim. Në çdo port: nuk ka përparim derisa të plotësohet kushti i tranzicionit.
Katër shabllone të kopjueshëm
1) Kontrolli i portës së verifikimit:
Gjeneroni një listë kontrolli vërtetimi për këtë rezultat kritik për sigurinë: me çfarë hapash të pavarur (përpilimi, analiza statike, auditimi, testimi, simulimi) duhet të vërtetohet? Shkruani kushtin e tranzicionit për çdo hap. Tregoni se çfarë rreziku do të lindë nëse kapërcehet një hap.
2) Etiketimi i nivelit të besimit të prodhimit të AI:
Rishikoni produktin e gjeneruar nga AI më poshtë dhe shënoni çdo pohim: "verifikuar / duhet të verifikohet / zona e dobësisë së AI". Theksoni pikat që kërkojnë ekspertizë njerëzore, veçanërisht ato që përfshijnë logjikën e biznesit dhe rrezikun unik.
3) Shënim i transferimit të ekspertit:
Për t'ia dorëzuar këtë rezultat një eksperti kompetent, përgatitni një përmbledhje: çfarë bëri UA, me cilat supozime, ku është e pasigurt, ku konkretisht duhet të konfirmojë eksperti? Bëjeni të qartë se përgjegjësia është e ekspertit.
4) Përgatitja e reagimit ndaj incidentit:
Krijoni një skicë të reagimit ndaj urgjencës/incidentit për këtë protokoll: çfarë hapash (autoriteti i përgjimit, komunikimi, mbrojtja e fondeve) do të përfshiheshin nëse një cenueshmëri do të shfrytëzohej në një krijesë? Ky është një draft; Ekipi dhe eksperti duhet të kalibrojnë.
Tre mini kuti (në numër)
Rasti 1 - Kërcimi nga dera solli fatkeqësi. Për shkak të presionit të kohës, një ekip anashkaloi auditimin e pavarur dhe u mbështet në testet e veta AI + dhe shkoi në rrjet. 11 ditë më vonë ~4 milion dollarë u hoqën nga një cenueshmëri e logjikës së biznesit. Një portë inspektimi ndoshta do ta kapte këtë. Mësimi: mos anashkaloni një derë në një zonë kritike për sigurinë.
Rasti 2 - Autentifikimi me shtresa u ruajt. Një ekip tjetër operoi çdo portë: plani i AI → analiza statike → auditimi → rrjeti testues → simulimi. Gjatë fazës së auditimit, një rihyrje, një rrezik orakull u kap në simulim. Të dy u mbyllën përpara rrjetit kryesor. Mësimi: shtresat parandalojnë rrjedhjen e gabimeve të vetme.
Rasti 3 - "Halucinacion i sigurt". Një zhvillues pyeti AI për kodin; "Nuk duket të ketë ndonjë çështje të rëndësishme sigurie," tha AI. Ekipi e dërgoi gjithsesi për inspektim dhe dolën dy gjetje të nivelit të lartë. Nëse do t'i kishim besuar AI, të dy do të ishin gjallë. Mësimi: Shprehja e besimit të AI nuk është një konfirmim.
Parimet e përdorimit të përgjegjshëm
Ne mund ta reduktojmë thelbin e këtij moduli në gjashtë parime:
- Përgjegjësia njerëzore: Miratimi përfundimtar i sigurisë-kritike i takon ekspertit kompetent; AI nuk mund të mbahet përgjegjës.
- Autentifikimi me shtresa: Një gjendje e portës dhe kalimit njerëzor në çdo fazë.
- Përdorimi mbrojtës: Për të mbrojtur dhe kontrolluar informacionin; Jo për të shfrytëzuar/kurth.
- Konfidencialiteti: Kodi dhe të dhënat e klientit nuk u jepen mjeteve të hapura pa leje.
- Transparenca: Përdorimi i AI është shprehur sinqerisht në raport; Nuk jepet asnjë ekzagjerim apo siguri e rreme.
- Ndershmëria: Investitorët dhe përdoruesit nuk mashtrohen; Rreziku nuk fshihet, këshillat nuk maskohen.
Këshillë: Bëjini vetes një pyetje për çdo vendim kritik për sigurinë: "Nëse kjo është e gabuar dhe paratë humbasin, a ka pasur verifikim njerëzor kompetent për të qëndruar pas dhe për të marrë përgjegjësinë?" Nëse përgjigja është "jo, AI tha kështu", procesi është i paplotë.
Gabimet e zakonshme
- Duke anashkaluar portën e auditimit të pavarur. Është e pafalshme në zonën e pakthyeshme.
- Gabimi i shprehjes së besimit të AI si konfirmim. “Halucinacioni i sigurt” është më i rrezikshmi.
- Duke u përpjekur për të vënë përgjegjësinë mbi AI. Përgjegjësia është e ekspertit që ka nënshkruar.
- Duke supozuar kohëzgjatje. AI nuk e di përtej datës së ndërprerjes së trajnimit.
- Shkurtimi i dyerve për shkak të presionit të kohës. Burimi i gabimit më të shtrenjtë.
- Largimi pa një plan reagimi ndaj incidentit. Kur ndodh një rrjedhje, njeriu lihet i papërgatitur.
Në përmbledhje
- Blockchain është kritik për sigurinë; Gabimet janë të pakthyeshme dhe kthehen drejtpërdrejt në para.
- AI nuk mund ta shohë gabimin origjinal, jep siguri të rreme, është i vjetëruar dhe nuk mund të marrë përgjegjësi.
- Kjo është arsyeja pse miratimi përfundimtar i sigurisë-kritike i takon gjithmonë ekspertit kompetent.
- Verifikimi me shtresa parandalon rrjedhjen e një gabimi të vetëm në mjedisin e drejtpërdrejtë duke vendosur një portë njerëzore në çdo fazë.
- Përdorimi i përgjegjshëm: përgjegjësia njerëzore, qëllimi mbrojtës, konfidencialiteti, transparenca dhe integriteti.
Detyra e aplikimit
Imagjinoni një projekt të kontratës së zgjuar (ose merrni një shembull të vërtetë). Shkruani një plan verifikimi me shtresa për të gjithë udhëtimin nga ideja në rrjetin kryesor: çfarë bën AI në çdo fazë, çfarë porte njerëzore është atje, cila është gjendja e tranzicionit? Pastaj shtoni një skenar të "presionit të kohës": cila derë do të ishte më e rrezikshme për të anashkaluar dhe pse? Përfshini gjithashtu një skicë të reagimit ndaj incidentit.
listë kontrolli
- [ ] Unë pranova se miratimi përfundimtar i sigurisë i takon ekspertit.
- [ ] Unë vendos një portë verifikimi njerëzor në çdo fazë.
- [ ] Unë nuk e llogarita shprehjen e besimit të AI si konfirmim.
- [ ] Nuk e anashkalova derën e auditimit të pavarur.
- [ ] Nuk supozova aktualitet; Unë konfirmova informacionin e fundit me njeriun.
- [ ] Unë nuk ia vura përgjegjësinë UA.
- [ ] Kam përgatitur një plan reagimi ndaj incidentit.