Faida:
- Uwezo wa kuelewa kwamba akili ya bandia huongeza wigo wa mkaguzi, lakini haibadilishi, na ni muhimu katika skanning ya kategoria na kutafuta uandishi.
- Kuweza kutambua kwamba akili bandia imekosa udhaifu wa awali na hitilafu ya mantiki ya biashara, na kwamba taarifa fasaha ya 'salama' si hakikisho.
- Uwezo wa kuainisha matokeo kulingana na kiwango chao cha uzito na kuelewa kwamba idhini ya mwisho na jukumu la kitaaluma ni la mkaguzi mwenye uwezo.
Ukaguzi wa usalama (uchunguzi wa kimfumo wa mkataba mzuri wa udhaifu) ni kazi ya Web3 inayowajibika zaidi. Mstari mmoja uliokosa mkaguzi unaweza kusababisha hasara ya mamilioni ya dola. Katika kitengo hiki utajifunza jinsi ya kutumia AI kama msaidizi wa ukaguzi; Tutajifunza kutokana na kutoa dalili hadi kuandika muhtasari wa matokeo. Lakini sentensi muhimu zaidi ni hii: AI haidhibiti; Ni msaidizi anayenoa macho ya mkaguzi. Idhini ya mwisho ni ya mkaguzi mwenye uwezo ambaye anachukua jukumu la kitaaluma.
Kwa nini ukaguzi ni muhimu kwa usalama
Ripoti ya ukaguzi inauhakikishia mradi na wawekezaji kwamba "nambari hii imekaguliwa." Ikiwa uhakikisho huu ni wa uwongo, matokeo ni mabaya: itifaki iliyonyonywa, ufadhili uliopotea, mradi ulioporomoka. Kwa hiyo, matumizi ya AI katika ukaguzi ni sehemu makini zaidi ya moduli hii. AI huongeza wigo wa mkaguzi (hukumbuka mifumo zaidi, inasoma haraka) lakini haichukui nafasi ya mkaguzi.
Kwa nini haipiti? Kwa sababu:
- AI haiwezi kuona athari ya kipekee/mpya ambayo haiko kwenye data ya mafunzo.
- AI mara nyingi hukosa dosari katika mantiki ya biashara ya itifaki-kwamba kanuni ni sahihi kiufundi lakini inaweza kunyonywa kiuchumi.
- AI inaweza kutoa hakikisho la uwongo kwa kusema "salama" kwa lugha fasaha; Hii ni matokeo ya hatari zaidi.
Tabaka za kutumia AI katika udhibiti
1. Uchanganuzi wa awali na ukumbusho wa muundo. AI hupitia mifumo inayojulikana ya kuathiriwa kama vile orodha hakiki: kuingia tena, udhibiti wa ufikiaji, upotoshaji wa sauti, mbio za mbele. Hii inahakikisha kwamba mkaguzi hakosi kategoria zozote.
2. Maelezo ya kanuni. Kuelezea kazi ngumu kwa AI kwa lugha rahisi huruhusu mkaguzi kuelewa mantiki haraka; lakini maelezo huwa yanalinganishwa na kanuni.
3. Kuandika rasimu ya matokeo. Mkaguzi anapopata udhaifu, AI huokoa muda katika kuandika rasimu ya ripoti (maelezo, athari, suluhisho lililopendekezwa).
4. Kuzalisha counter-hypothesis. Uliza AI "jinsi gani kipengele hiki kinaweza kutumiwa vibaya?" Kuuliza " hutukumbusha mtazamo wa fujo.
Angalizo: Kwa sababu tu AI inasema "Sijapata udhaifu wowote katika nambari hii" haimaanishi "msimbo huu ni salama". Ushahidi wa kutokuwepo sio kukosekana kwa ushahidi. Ukweli kwamba AI haiwezi kupata kitu haifanyi kuwa lazima kwa mkaguzi kuchunguza eneo hilo.
Kutafuta viwango vya ukali
Matokeo ya ukaguzi yanaainishwa kulingana na kiwango cha ukali wao. AI inapaswa kutumia mfumo huu wakati wa kutengeneza rasimu:
Kiwango
Maana
mfano
muhimu
Hasara ya fedha/kufungiwa moja kwa moja inawezekana
Utoaji wa fedha kwa uandikishaji tena
juu
Athari kubwa katika hali fulani
Uchapishaji usioidhinishwa (mint)
kati
Athari ndogo au hali ngumu
Hasara ndogo kwa kupotoka kwa Oracle
chini
Hatari ndogo, uvunjaji wa mazoezi mazuri
Tangazo la tukio halipo
Habari
Kutokuwa na usalama, kusoma
Ukosefu wa NatSpec
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Je, mkataba huu ni salama?
Swali hili linalazimisha AI kufanya uamuzi kamili, usio na msingi kama "ndiyo/hapana" - kile ambacho hatutaki.
Agizo lenye nguvu:
Jukumu lako: msaidizi wa mkaguzi mkuu wa kandarasi mahiri. Changanua mkataba ufuatao kwa usalama. Pitia kategoria zifuatazo moja baada ya nyingine: kuingia tena, udhibiti wa ufikiaji, utendakazi kamili, uthibitishaji wa ingizo, oracle/data ya nje, inayoendesha mbele, kikomo cha gesi. Kwa kila KUTAFUTA: (1) mstari husika wa kanuni, (2) hatari ya kusababisha, (3) makadirio ya ukali (Muhimu/Juu/Wastani/Chini), (4) pendekezo la suluhisho. Hizi ni DHAMANI ZA KUTHIBITISHWA; Usitoe uamuzi "salama". Weka alama kwenye maeneo ambayo huna uhakika wa kusema kwa uwazi "hebu mkaguzi athibitishe".
Violezo vinne vinavyoweza kunakiliwa
1) Kuvinjari kulingana na kitengo:
Changanua mkataba huu kwa kategoria zifuatazo: uwekaji upya, udhibiti wa ufikiaji, utiririshaji kamili, uthibitishaji wa pembejeo, utegemezi wa chumba cha sauti, uendeshaji wa mbele, DoS/gesi. Kwa kila aina, sema "hakuna/hakuna hatari/sina uhakika" na uunganishe uhalalishaji wako kwenye mstari ulio katika msimbo. Usitoe uamuzi wa mwisho.
2) Dhana ya kupinga kutoka kwa mtazamo wa mshambuliaji:
Fikiria kama mshambulizi: ni njia gani za kutumia kipengele hiki vibaya? Andika kila hali hatua kwa hatua na uonyeshe ni hali gani zinahitajika. Matukio haya ni dhana ya kujaribiwa; USITOE msimbo halisi wa unyonyaji, eleza tu hatari.
3) Ripoti ya matokeo ya rasimu:
Ripoti matokeo yafuatayo yaliyothibitishwa katika lugha rasmi ya ukaguzi: kichwa, ukali, maelezo, athari, msimbo ulioathiriwa, hatua za kuzalisha, suluhisho linalopendekezwa. Tumia lugha iliyopimwa na kiufundi; kutia chumvi. Chukulia ugunduzi huo umethibitishwa na mkaguzi, usifanye ugunduzi mpya.
4) Rekebisha uthibitishaji:
Ifuatayo ni athari na urekebishaji unaotumiwa na msanidi programu. Chunguza ikiwa urekebishaji hufunga athari; weka alama ikiwa inaleta athari mpya au athari. Usiseme "imefungwa" kwa hakika; Maliza na "lazima ithibitishwe kwa majaribio".
Kesi tatu ndogo (kwa nambari)
Kesi ya 1 - AI ilizuia kurukaruka kwa kategoria. Mkaguzi alikuwa karibu kuangazia kandarasi ya mistari 400 na kuruka kitengo cha oracle. Uchanganuzi wa kitengo cha AI ulitoa onyo kwamba "data ya bei inatoka kwa chanzo kimoja, wazi kwa udanganyifu". Mkaguzi aliichunguza na kugundua kuwa ni hatari ya wastani. Somo: AI hudumisha nidhamu ya chanjo.
Kesi ya 2 - Uhakikisho wa "salama" wa uwongo. Timu nyingine iliuliza AI "hii ni salama?" aliuliza; "Inaonekana hakuna shida kubwa," AI ilisema. Ukaguzi wa wafanyakazi ulikuwa mwepesi. Kisha mkaguzi huru akapata dosari ya mantiki ya biashara: hesabu ambayo ilikuwa sahihi kiufundi lakini motisha zake zingeweza kutumiwa. Somo: AI inakosa hitilafu ya mantiki ya biashara; Hawezi kuaminiwa kusema "salama".
Kesi ya 3 - Kuandaa ripoti kumeokoa saa 3. Mkaguzi alikuwa akitumia nusu siku kuripoti matokeo 8 kwa mikono. Mara tu nilipotoa matokeo yaliyothibitishwa kwa AI na kuchapisha rasimu rasmi, muda ulipungua kwa ~ masaa 3; Mkaguzi alitumia wakati wa kuimarisha. Somo: AI ni salama na yenye ufanisi katika kuripoti kwa sababu matokeo tayari yamethibitishwa kibinadamu.
Kuathirika kwa mantiki ya biashara: Mahali pa upofu wa AI
Udhaifu wa gharama kubwa zaidi mara nyingi hautokani na hitilafu ya kiufundi katika msimbo, lakini kutokana na unyonyaji wa mantiki ya biashara: unyonyaji wa mzunguko wa akaunti ya malipo, utekaji nyara wa mkopo wa flash, udanganyifu wa bei mara moja. Hizi ni hali ambapo msimbo hufanya kazi "kwa usahihi" lakini itifaki inaweza kudanganywa kiuchumi. AI ina uwezekano wa kukosa makosa kama haya—hasa yale mahususi ya itifaki. Kwa hivyo, mapitio ya mantiki ya biashara ndio eneo linalohitaji watu wengi zaidi la mkaguzi na ambalo linategemewa kidogo na AI.
Kidokezo: Uliza AI "vipi motisha za kiuchumi za itifaki hii zinaweza kutumiwa?" na utumie hali zinazojitokeza kama kianzio - lakini kumbuka kuwa wewe na timu yako mnapaswa kufanya uchanganuzi wa kweli.
Makosa ya kawaida
- Uliza AI "iko salama?" Kuuliza na kuamini ndiyo yako. Hukumu kamili haihitajiki.
- Kusimamisha ukaguzi wakati AI inasema "Sikuweza kuipata". Kutokuwepo sio ushahidi.
- Inakabidhi ukaguzi wa mantiki ya biashara kwa AI. Ni sehemu yake kubwa ya upofu.
- Kutotumia zana za kujitegemea (Slither nk). AI pekee haitoshi.
- Kuweka matokeo yaliyoundwa na AI katika ripoti bila kuthibitishwa. Hatari ya hallucinations.
- Kujaribu kuweka jukumu la udhibiti kwenye AI. Jukumu liko kwa mtaalamu.
Kwa muhtasari
- Ukaguzi ni muhimu kwa usalama; AI huongeza wigo wa mkaguzi lakini haibadilishi.
- AI inakosa kuathirika kwa asili na hitilafu ya mantiki ya biashara; Kusema "salama" sio uhakikisho.
- Matokeo yameainishwa kulingana na kiwango cha ukali; AI ni muhimu katika kutengeneza rasimu.
- Ukanuzi-dhahania na uchunguzi wa kategoria huhifadhi nidhamu ya ujumuishaji.
- Idhini ya mwisho na jukumu la kitaaluma daima liko kwa mkaguzi mwenye uwezo.
Jukumu la maombi
Tafuta sampuli ya mkataba ambayo ina athari inayojulikana (kwa madhumuni ya elimu, mifano ya "mikataba hatarishi" inapatikana katika chanzo huria). Tumia kidokezo cha "uchanganuzi kulingana na kitengo" kwa AI. Kumbuka kama AI: (1) ilipata athari halisi, (2) ilitoa matokeo ya kubuniwa/ya uwongo, (3) ilifanya maamuzi kamili kama vile "salama." Kisha ulinganishe na zana ya uchambuzi tuli.
orodha ya ukaguzi
- [ ] Uliza AI "iko salama?" Badala yake, nilikuwa na skanisho kulingana na kitengo.
- [ ] Nilichukulia kila matokeo kama dhana.
- [ ] Nilifanya ukaguzi wa mantiki ya biashara mimi/timu.
- [ ] Niliithibitisha kwa njia tofauti kwa zana huru ya uchanganuzi tuli.
- [ ] Nimethibitisha kuwa AI haitengenezi matokeo.
- [ ] Niliainisha matokeo kulingana na kiwango cha ukali.
- [ ] Nilikubali kwamba kibali cha mwisho kinatoka kwa mkaguzi stadi.