Hagnaður:
- Skilningur á öryggis mikilvægu eðli blockchain og ástæður þess að gervigreind getur ekki greint upprunalegu villuna, veitir ranga fullvissu, er úrelt og tekur ekki ábyrgð.
- Geta til að koma í veg fyrir að ein villa leki inn í lifandi kerfið með lagskiptri sannprófun sem setur mannlegt sannprófunarhlið á hverju stigi
- Öryggismikil lokasamþykki tilheyrir þar til bærum sérfræðingi og hæfni til að tileinka sér meginreglur um mannlega ábyrgð, varnartilgang, trúnað, gagnsæi og heiðarleika.
Þetta er mikilvægasta einingin í þessari einingu. Hingað til höfum við séð hvernig gervigreind er að flýta fyrir öllu frá snjallri samningsritun til keðjugreiningar, frá táknfræði til uppgötvunar svika. Í þessari einingu stígum við til baka og skoðum kjarna málsins: hvers vegna gervigreind framleiðsla getur ekki komið í stað hæfs sérfræðisamþykkis í vinnu sem skiptir miklu máli. Og sem sérfræðingur, hver er ramminn fyrir notkun gervigreindar á ábyrgan hátt? Blockchain verkfræði er öryggis mikilvægt svið þar sem mistök þýða beint og óafturkræft í peninga; Þessi eining fjallar um kröfur þess veruleika.
Hvað þýðir "öryggismikið" og hvers vegna er það öðruvísi?
Svæði er mikilvægt fyrir öryggi ef afleiðing villunnar er óafturkræf og alvarleg: manntjón í brúarverkfræði, misferli í læknisfræði, tafarlaust og varanlegt tap á milljónum dollara í blockchain. Viðurkenndur staðall á þessum sviðum er gjörólíkur venjulegum hugbúnaði:
- „Það virkar líklega“ er ekki nóg; verður að sanna.
- „Við reddum því seinna“ er ógilt; Óafturkræfið fyrirgefur ekki.
- Endanlegt samþykki liggur hjá þar til bærum sérfræðingi sem ber faglega og lagalega ábyrgð.
AI er aðstoðarmaður; getur ekki axlað ábyrgð, getur ekki borið ábyrgð og getur ekki staðið á bak við niðurstöðurnar. Ef úttektarskýrsla missir af varnarleysi er ábyrgðin hjá sérfræðingnum sem kvittaði fyrir, ekki gervigreind. „Gigreindin sagði það“ er ekki vörn fyrir verkfræði.
Hvers vegna gervigreind getur ekki komið í stað sérfræðingsins: fjórar helstu ástæður
1. AI getur ekki séð upprunalegu og samhengisvilluna. Gervigreind þekkir mynstur í þjálfunargögnum. Nýr varnarleysi, samskiptasértæk viðskiptarökvilla eða einstakt samspil íhluta er blindur blettur gervigreindarinnar. Dýrustu Web3 árásirnar koma einmitt frá þessum einstöku veikleikum.
2. AI gefur ranga fullvissu. Gervigreindin getur sagt reiprennandi og örugglega „þessi kóði lítur út fyrir að vera öruggur“ - á meðan hann er rangur. Þessi „öryggisofskynjun“ er hættulegasta framleiðsla á svæði sem er mikilvægt fyrir öryggi; vegna þess að það skapar falska öryggistilfinningu.
3. AI er úrelt. Þekking gervigreindar hættir á lokadegi náms. Nýjustu árásirnar, nýjustu útgáfur bókasafnsins, nýjustu bestu starfsvenjurnar eru handan við sjóndeildarhringinn. Öryggi er síbreytilegt kapphlaup; Upplýsingar gærdagsins gætu verið ófullnægjandi í dag.
4. AI getur ekki axlað ábyrgð. Þetta er kannski grunnástæðan. Verkfræðiviðurkenning er ekki aðeins tæknileg heldur einnig lagaleg og siðferðileg skuldbinding. Vél getur ekki skuldbundið sig.
Varúð: Í úttak sem er mikilvægt fyrir öryggi er spurningin "Hvað sagði gervigreindin?" en "Hver er bær aðili sem sannreynir, staðfestir og stendur á bak við þessa útkomu?" ætti að vera. Ekkert samþykki utan sérfræðings - hvorki frá gervigreindinni né tækinu - getur talist fullvissa.
Lagskipt sannprófun: kemur í veg fyrir að stakar villur leki lifandi
Ábyrgt verkflæði setur mannlegt sannprófunarhlið á hverju stigi. Þú getur ekki farið í gegnum eina dyr án þess að fara í gegnum aðra:
Sviði
AI framlag
mannlegt sannprófunarhlið
stafsetningu
drög að kóða
Byggja + prófa + endurskoðun
skanna
Varnarleysi frambjóðenda
Statísk greining + staðfesting endurskoðanda
Endurskoðun
Ábending, tilkynntu drög
Lögbær endurskoðandi undirskrift
próf
handritsdrög
Testnet + fuzzing + uppgerð
Dreifing
gátlisti
Fjölundirskrift staðfesting + hægfara brottför
Eftirlit
fráviksmerki
mannleg viðbragðsáætlun
Þessi lagskiptu uppbygging kemur í veg fyrir að ein gervigreindarvilla leki inn á netið. Hver hurð hefur skýrt staðgengisskilyrði: stóðst prófið, skrifaði endurskoðandi undir, stóðst uppgerðin?
Veik nálgun / Sterk nálgun
Veik nálgun:
AI bjó til kóðann, hann lítur út fyrir að vera hreinn, við skulum setja hann á mainnet.
Þetta er uppskrift að hörmungum á óafturkallanlegu svæði.
Öflug nálgun:
1. AI framleiddi uppkastið → við tókum það saman, prófuðum það.2. Statísk greining + gervigreind skönnun → endurskoðandi staðfest.3. Óháð öryggisúttekt → undirrituð skýrsla.4. Testnet + fuzzing + uppgerð → atburðarás þola.5. Multi-undirskrift, Cascading mainnet hætta + eftirlit. Við hverja höfn: Engar framfarir fyrr en breytingaskilyrði eru uppfyllt.
Fjögur afritanleg sniðmát
1) Stýring á staðfestingarhlið:
Búðu til staðfestingargátlista fyrir þessa öryggis mikilvægu úttak: með hvaða sjálfstæðu skrefum (samantekt, kyrrstöðugreining, endurskoðun, prófun, uppgerð) ætti að staðfesta það? Skrifaðu umbreytingarskilyrði fyrir hvert skref. Tilgreinið hvaða áhætta myndast ef eitt skref er sleppt.
2) AI framleiðsla öryggisstigsmerkingar:
Skoðaðu AI-myndað úttak hér að neðan og merktu við hverja fullyrðingu: "staðfest / ætti að vera staðfest / AI veikleikasvæði". Leggðu áherslu á atriði sem krefjast mannlegrar sérfræðiþekkingar, sérstaklega þá sem fela í sér viðskiptarökfræði og einstaka áhættu.
3) Flutningsskýrsla sérfræðinga:
Til að afhenda hæfum sérfræðingi þetta úttak skaltu útbúa samantekt: hvað gerði gervigreindin, með hvaða forsendum, hvar er það óviss, hvar þarf sérfræðingurinn sérstaklega að staðfesta? Gerðu það ljóst að ábyrgðin er hjá sérfræðingnum.
4) Undirbúningur viðbragða:
Búðu til yfirlit yfir viðbrögð við neyðartilvikum/atvikum fyrir þessa siðareglur: hvaða skref (hlera heimild, samskipti, sjóðavernd) myndu taka þátt ef varnarleysi væri nýtt í veru? Þetta eru drög; Teymið og sérfræðingurinn verða að kvarða.
Þrjú smáhylki (í tölum)
Tilfelli 1 - Að hoppa um hurðina olli hörmung. Vegna tímapressu sleppti teymi óháðu úttektinni og treysti á AI + eigin próf og fór á mainnet. 11 dögum síðar var ~$4M fjarlægt úr veikleika í viðskiptarökfræði. Skoðunarhlið myndi líklega ná þessu. Lærdómur: ekki fara framhjá hurð á svæði sem er mikilvægt fyrir öryggi.
Mál 2 — Lagskipt auðkenning vistuð. Annað teymi starfrækti hvert hlið: gervigreind → kyrrstöðugreining → endurskoðun → prófnet → uppgerð. Á endurskoðunarstigi, endurinngangur, var véfréttaáhætta veiddur í uppgerðinni. Báðir lokuðust fyrir mainnet. Lexía: lög koma í veg fyrir að stakar villur leki inn.
Tilfelli 3 - "Öryggi ofskynjanir." Verktaki spurði gervigreindina um kóðann; „Það virðast ekki vera nein veruleg öryggisvandamál,“ sagði AI. Teymið sendi það til skoðunar engu að síður og tvær niðurstöður á háu stigi komu fram. Ef við hefðum treyst gervigreind hefðu þau bæði lifnað við. Lexía: Að tjá sjálfstraust gervigreindar er ekki staðfesting.
Meginreglur um ábyrga notkun
Við getum dregið úr kjarna þessarar einingar niður í sex meginreglur:
- Ábyrgð manna: Endanlegt samþykki sem er mikilvægt fyrir öryggi er í höndum þar til bærs sérfræðings; Ekki er hægt að draga gervigreind til ábyrgðar.
- Lagskipt auðkenning: Mannlegt hlið og göngufæri á hverju stigi.
- Varnarnotkun: Til að vernda og stjórna upplýsingum; Ekki að nýta/gildra.
- Trúnaður: Kóði viðskiptavinarins og gögn eru ekki gefin til að opna verkfæri án leyfis.
- Gagnsæi: notkun gervigreindar kemur heiðarlega fram í skýrslunni; Engar ýkjur eða rangar fullvissu eru gefnar.
- Heiðarleiki: Fjárfestar og notendur eru ekki afvegaleiddir; Áhætta er ekki falin, ráðgjöf er ekki dulbúin.
Ábending: Spyrðu sjálfan þig einnar spurningar fyrir hverja öryggisákvörðun: "Ef þetta er rangt og peningarnir tapast, hefur þá verið til bær mannleg sannprófun til að standa á bak við hana og taka ábyrgð?" Ef svarið er „nei, gervigreindin sagði það,“ er ferlið ólokið.
Algeng mistök
- Framhjá óháðu endurskoðunarhliðinu. Það er ófyrirgefanlegt á hinu óafturkallanlega sviði.
- Að misskilja traustsyfirlýsingu gervigreindar sem staðfestingu. "Öryggi ofskynjanir" er hættulegast.
- Að reyna að setja ábyrgðina á gervigreindina. Ábyrgðin er hjá sérfræðingnum sem skrifaði undir.
- Miðað við tímanleika. AI veit ekki lengra en að lokadagsetningu þjálfunar.
- Stytting hurða vegna tímapressu. Uppspretta dýrustu villunnar.
- Farið af stað án viðbragðsáætlunar. Þegar leki kemur er maður skilinn eftir óundirbúinn.
Í stuttu máli
- Blockchain er öryggis mikilvægt; Mistök eru óafturkræf og breytast beint í peninga.
- AI getur ekki séð upprunalegu villuna, gefur ranga fullvissu, er úrelt og getur ekki tekið ábyrgð.
- Þess vegna er endanlegt samþykki sem er mikilvægt fyrir öryggi alltaf hjá þar til bærum sérfræðingi.
- Lagskipt sannprófun kemur í veg fyrir að ein villa leki inn í lifandi umhverfi með því að setja mannlegt hlið á hverju stigi.
- Ábyrg notkun: mannleg ábyrgð, varnartilgangur, trúnaður, gagnsæi og heilindi.
Umsóknarverkefni
Ímyndaðu þér snjallt samningsverkefni (eða taktu raunverulegt dæmi). Skrifaðu lagskipt sannprófunaráætlun fyrir alla ferðina frá hugmynd að aðalneti: hvað gerir gervigreind á hverju stigi, hvaða mannlegt hlið er þar, hvert er umbreytingarástandið? Bættu síðan við "tímapressu" atburðarás: hvaða hurð væri hættulegast að fara framhjá og hvers vegna? Láttu einnig viðbrögð við atvikum fylgja með.
gátlisti
- [ ] Ég samþykkti að endanlegt samþykki sem er mikilvægt fyrir öryggismál er hjá sérfræðingnum.
- [ ] Ég setti mannlegt sannprófunarhlið á hverju stigi.
- [ ] Ég taldi sjálfstraustsyfirlýsingu gervigreindar ekki sem staðfestingu.
- [ ] Ég fór ekki framhjá óháðu endurskoðunardyrunum.
- [ ] Ég gerði ekki ráð fyrir málefnalegu efni; Ég staðfesti nýjustu upplýsingarnar með manninum.
- [ ] Ég lagði ekki ábyrgðina á gervigreindina.
- [ ] Ég útbjó viðbragðsáætlun fyrir atvik.