Pilnīga darbplūsma, pārvaldība, pārbaude un ētika

Ieguvumi:

• Spēja izveidot pilnīgu darbplūsmu, kas izvieto AI + cilvēka verifikācijas vārtus katrā posmā no idejas līdz tīklam
• Spēja izveidot pārvaldības sistēmu ar apstiprinātu rīku sarakstu, datu klasifikāciju, reģistrēšanas disciplīnu un privātās atslēgas drošību
• Spēja iestrādāt cilvēka atbildības, interešu aizstāvības, konfidencialitātes, caurskatāmības un integritātes principus katrā darbplūsmas solī

Šajā pēdējā daļā mēs apvienojam visas moduļa daļas vienā saskaņotā darbplūsmā: kā atbildīgi izmantot AI, sākot no idejas, izmantojot viedu līgumu rakstīšanu, auditēšanu, ķēdes analīzi, marķieri un aizsardzību pret krāpšanu. Mēs apskatīsim arī pārvaldības sistēmas izveidi kā komanda vai neatkarīgs eksperts — rīku atlases, datu klasifikācijas, reģistrēšanas un pārbaudes disciplīnu un ētikas principu iekļaušanu darbplūsmā.

Pilnīga darbplūsma: no idejas līdz tīklam

Ar AI darbināms, cilvēka pārbaudīts Web3 projekta ceļojums:

1. Dizains un tokenomika. AI ģenerē mehānisma opcijas un tokenomisko kontūru; Ekonomists un komanda to simulē ar negatīviem scenārijiem. Durvis: vai vairāku scenāriju simulācija izturēja?

2. Pareizrakstība. AI ģenerē pārbaudītas uz bibliotēku balstītas ietvaras un testa veidnes; izstrādātājs pabeidz. Vārti: uzbūve + pārbaude + pārskatīšana.

3. Skenēšana. Statiskās analīzes rīki + AI skenēšana, lai noteiktu zināmus ievainojamības modeļus. Vārti: vai viltus pozitīvie rezultāti ir novērsti un reālie kandidāti nodoti auditoram?

4. Audits. Neatkarīgais kompetentais auditors veic holistisku pārbaudi, izmantojot AI kā palīgu; Cilvēki novērtē biznesa loģiku. Durvis: parakstīts pārbaudes akts.

5. Testēšana un simulācija. Testnet, fuzzing un ekonomiskā simulācija. Durvis: vai scenāriji izturēja?

6. Dokumentācija. AI dokuments, NatSpec un godīgas riska atklāšanas melnraksti; cilvēks apstiprina patiesību. Vārti: vai tehniskās pretenzijas atbilst kodam?

7. Izplatīšana. Vairāku parakstu apstiprināšana, pakāpeniska izeja no tīkla. Durvis: Vai incidentu reaģēšanas plāns ir gatavs?

8. Uzraudzība. Ķēdes uzraudzības karogi anomālijas ar AI; cilvēki iejaucas. Durvis: kurš un kā iejauksies anomālijā?

Padoms: sadaliet šo plūsmu kontrolsarakstā un uzdodiet jautājumu “kas apstiprina, kāds ir nokārtošanas nosacījums?” katrām durvīm. Aizpildiet kolonnas. Nevis verbāls "ok", bet gan rakstiska durvju disciplīna rada atšķirību drošībai svarīgajā jomā.

Pārvaldības sistēmas izveide

Ar individuālo labo gribu nepietiek; Nepieciešams atkārtojams ietvars. Komandas vai speciālista minimālā pārvaldība:

Apstiprinātais transportlīdzekļu saraksts. Kādus AI un drošības rīkus var izmantot kādiem uzdevumiem? Kurš izolētais/uzņēmuma rīks slepenās iepirkšanās kodam? Brīva braukšana rada noplūdes risku.

Datu klasifikācija. Kādus datus var sniegt atvērtam AI rīkam (publisks kods) un kādus nekad nevar (neauditēts klienta kods, privātā atslēga, personas dati)? Šī atšķirība ir skaidri jāraksta.

Reģistrācijas disciplīna (audita izsekojamība). Tiek reģistrēts, kuru izlaidi ražoja AI un kurš to pārbaudīja. Tas ir nepieciešams gan pārredzamības, gan atbildības nodrošināšanai.

Nepārtraukta pārbaude. Neviena AI iesniegtā drošības prasība netiek saņemta bez pārbaudes; Tai vajadzētu būt kultūrai.

Pārvaldības elements

jautājums

Mērķis

Apstiprināti transportlīdzekļi

Kāds instruments, kāds darbs?

Konsekvence, noplūdes novēršana

Datu klasifikācija

Ko var un ko nevar dot?

Privātums

Reģistrācijas disciplīna

Kas to ražoja, kas apstiprināja?

atbildība

Validācijas vārti

Kāds ir pārejas nosacījums?

Drošība

Atslēgas un privātuma drošība

Svarīgs Web3 brīdinājums: privātā atslēga (slepenā atslēga, kas nodrošina piekļuvi makam un līdzekļiem) un sākuma frāze (atkopšanas vārdi) nekādā gadījumā netiek ierakstīta AI rīkā, uzvednē vai jebkur tiešsaistē. Tas nozīmē tiešu līdzekļu zaudēšanu. Tāpat neauditētu klienta kodu nevar ielīmēt atvērtos AI rīkos bez atļaujas.

Uzmanību! Tāda ideja kā “Ļaujiet man iedot AI savu privāto atslēgu un lūgt tai pārvaldīt manu maku” ir katastrofa. Privātā atslēga tiek glabāta tikai drošā, bezsaistes vai aparatūras makā. AI nekad nevajadzētu redzēt atslēgu.

Vāja pieeja / spēcīga pieeja

Vāja pieeja:

Ikvienam ir jāizmanto kāds AI rīks, ko viņš vēlas, neatkarīgi no tā, kas rodas. Ielīmējiet klienta kodu ātrākajā rīkā un izmantojiet izvadi tieši.

Spēcīga pieeja:

Ir apstiprināto transportlīdzekļu saraksts. Slepenais kods tikai izolētā transportlīdzeklī un ar klienta apstiprinājumu. Katra AI izvade iziet cauri verifikācijas vārtiem, un tas, kurš to ir pārbaudījis, tiek reģistrēts. Privātā atslēga neienāk nevienā transportlīdzeklī. Katrai drošības prasībai ir nepieciešams neatkarīgs apstiprinājums.

Četras kopējamas veidnes

1) Darbplūsmas vārtu plāns:

Izveidojiet ar AI darbinātu, cilvēka pārbaudītu darbplūsmas plānu Web3 projektam no idejas līdz tīklam. Katram posmam: ko dara AI, kādi ir cilvēka vārti, kāds ir pārejas nosacījums? Pasniedziet to ar tabulu. Skaidri norādiet eksperta apstiprinājumu drošībai kritiskiem pasākumiem.

2) Datu klasifikācijas politika:

Uzrakstiet audita komandai politiku "ko var dot AI": atsevišķi noteikumi publiskajam kodam, neauditētam klienta kodam, personas datiem, privātajai atslēgai. Katrai kategorijai norādiet “eksportējams/izolēts transportlīdzeklī/nekad”. Uzrakstiet savus iemeslus.

3) AI lietošanas pārskatāmības piezīme:

Izveidojiet pārredzamības piezīmes projektu audita/dokumentācijas iznākumam: kā un kurā posmā AI tiek izmantots; kura produkcija ir humāni pārbaudīta; kam ir galīgā atbildība. Esiet godīgi un izsvērti.

4) Negadījumu reaģēšanas un komunikācijas plāns:

Protokolā sastādīt reaģēšanas plānu dzīvās drošības incidentam: tehniskie soļi (apturēšana, līdzekļu aizsardzība), komunikācija (kopiena, lietotājs), ziņa (analīze, atkopšana). Šis ir melnraksts; Komandai ir jākalibrē. Panikas valodas lietošana; Esiet skaidrs un mierīgs.

Trīs mini futrāļi (skaitļos)

1. gadījums — pārvaldība novērsa noplūdi. Revīzijas uzņēmums neļāva revidentam ielīmēt konfidenciālu klienta kodu publiski pieejamā rīkā, pateicoties tā datu klasifikācijas politikai (politika paredzēja izolētu rīku). Iespējamais līguma pārkāpums un noplūde tika novērsta. Nodarbība: rakstiskā politika pieķer atsevišķu kļūdu.

2. gadījums — Vārtu disciplīna nodrošināja konsekvenci. Viena komanda izmantoja to pašu 8 portu plūsmu katram projektam 6 projektu ceturksnī. Pirms audita konstatēto atradumu skaits palielinājās par 40%, savukārt incidentu skaits pēc galvenā tīkla bija nulle. Nodarbība: atkārtojams ietvars standartizē kvalitāti.

3. gadījums — atgriešanās no galvenās katastrofas. Izstrādātājs atkļūdošanas laikā grasījās ielīmēt testa maka privāto atslēgu AI uzvednē; Viņš apstājās un pagrieza atslēgu, jo komandas politika to aizliedza. Ja tas būtu reāls finansējums, tā būtu katastrofa. Nodarbība: atslēga neienāk nevienā transportlīdzeklī, nav izņēmumu.

Ētikas iekļaušana darbplūsmā

Ētika nav vienums, kas pievienots vēlāk, bet disciplīna, kas iestrādāta katrā plūsmas solī:

• Cilvēka atbildība ir pie katrām drošībai kritiskajām durvīm.
• Aizsardzības mērķis: aizsargāt un kontrolēt transportlīdzekļus; Nekad neizmantot vai notvert.
• Privātums: klienta dati un atslēgas ir aizsargāti.
• Caurspīdīgums: AI izmantošana ir atklāta godīgi.
• Godīgums: lietotāji un investori netiek maldināti, riski netiek slēpti.
• Objektivitāte un pārbaude: katra prasība tiek attiecināta uz avotu, tiek ņemts vērā interešu konflikts.

Šie principi nav abstrakti; Tas pārvēršas par konkrētiem lēmumiem katrā uzvednē, pie katrām durvīm un katrā iznākumā. Šī moduļa būtība ir šāda: AI palielina Web3 eksperta spēku; bet tas neaizstāj spriedumu, atbildību un ētiku.

Biežas kļūdas

• Rakstiskas darbplūsmas/vārtu disciplīnas trūkums. Ar mutisku "labi" nepietiek.
• Darbs bez apstiprinātiem rīkiem un datu politikas. Noplūdes risks.
• AI izmantošanas slēpšana. Tas ir pretrunā ar pārredzamības principu.
• Privātās atslēgas/slepenā koda piešķiršana transportlīdzeklim. Tieša katastrofa.
• Tiešraide bez incidentu reaģēšanas plāna. Sagatavošanās trūkums krīzes situācijā.
• Uzskatot ētiku kā punktu, kas atstāts līdz galam. Ētikai ir jābūt iestrādātai katrā solī.

Rezumējot

• Pilnīga plūsma nodrošina AI + cilvēka verifikācijas vārtus katrā posmā, sākot no idejas līdz uzraudzībai.
• Pārvaldības sistēma: apstiprināti rīki, datu klasifikācija, reģistrēšanas disciplīna, nepārtraukta pārbaude.
• Privātā atslēga un slepenais kods netiek piešķirts nevienam AI rīkam; Šis ir noteikums bez izņēmuma.
• Ētikas principi (atbildība, aizstāvība, konfidencialitāte, caurspīdīgums, godīgums) ir iestrādāti katrā solī.
• AI palielina eksperta spēku; Tas neaizstāj spriedumu, atbildību un ētiku.

Lietojumprogrammas uzdevums

Uzrakstiet vienas lapas “Web3 AI lietošanas ietvaru” sev vai savai komandai: (1) 8 pakāpju vārteja no idejas uz galveno tīklu, (2) datu klasifikācijas politika, (3) atslēgas/privātuma noteikumi, (4) ētikas principu saraksts. Pēc tam rūpīgi plānojiet šajā modulī apgūto reālo uzdevumu (piemēram, līguma auditu) saskaņā ar šo ietvaru un atzīmējiet, kurā posmā AI ir visuzticamākā un kurā vismazāk.

kontrolsaraksts

• [ ] Man ir vārtu disciplīna, kas rakstīta no idejas līdz galvenajam tīklam.
• [ ] Man ir apstiprināta transportlīdzekļa un datu klasifikācijas politika.
• [ ] Esmu izvirzījis noteikumu, ka privātā atslēga/slepenais kods transportlīdzeklim nekad netiks piešķirts.
• [ ] Es skaidri dokumentēju AI izmantošanu.
• [ ] Es izlaižu katru drošības prasību caur verifikācijas vārtiem.
• [ ] Man ir plāns reaģēšanai uz incidentiem.
• [ ] Katrā solī esmu iestrādājis ētikas principus; Esmu pieņēmis, ka atbildība gulstas uz cilvēkiem.

Moduļa eksāmens

1. Kura no šīm ir visprecīzākā mākslīgā intelekta pozicionēšana Blockchain un Web3?

• A) Mākslīgais intelekts var pats pabeigt drošības auditu un importēt kodu tieši galvenajā tīklā
• B) AI nedarbojas Web3; Viss darbs ir pilnībā jāveic ar rokām
• C) AI ir iegrimes ģenerators un akseleratora palīgs; Drošībai kritisko galīgo apstiprinājumu nodrošina kompetents eksperts ✔
• D) Tā kā mākslīgais intelekts ir objektīvāks par cilvēkiem, drošības lēmumi ir jāatstāj tā ziņā.

Apraksts: Web3 programmatūras kļūdas neatgriezeniski pārvēršas tieši naudā. Mākslīgais intelekts; Tas ir akseleratora palīgs, kas ģenerē melnrakstus, atzīmē modeļus un raksta vaicājumus. Drošībai kritiskajos auditos galavārds ir kompetentam ekspertam, kurš uzņemas profesionālo atbildību; Mākslīgā intelekta ieguldījums palielinās, samazinoties kļūdu izmaksām.

2. Kāda ir drošākā pieeja, lai AI liktu rakstīt kodu, izstrādājot viedo līgumu?

• A) Izveidojiet ietvaru, pamatojoties uz pārbaudītām/pārbaudītām bibliotēkām, kompilējiet, pārbaudiet un pārbaudiet, izmantojot testnet ✔
• B) Drošības mehānismu ierakstīšana mākslīgajā intelektā no nulles unikālā veidā
• C) Tiklīdz kods ir apkopots, uzskatiet to par drošu un pārsūtiet to tieši uz galveno tīklu.
• D) Atstājiet piekļuves vadīklas līdz beigām un koncentrējieties tikai uz funkcionalitāti

Paskaidrojums: Drukāšanas drošība no jauna ir riskanti; AI var pieļaut kļūdas sākotnējā drošības kodā, un apmācības dati var būt novecojuši. Pareizā pieeja ir izveidot ietvaru, pamatojoties uz pārbaudītām un pārbaudītām bibliotēkām (piemēram, OpenZeppelin), pēc tam izveidot, pārbaudīt un pārbaudīt, izmantojot testnet.

3. Kā tas būtu jāinterpretē revidentam, kad viņš jautā AI par līgumu un saņem atbildi, ka "nešķiet, ka pastāv būtiska drošības problēma"?

• A) Tagad kodu var uzskatīt par drošu, un auditu var saīsināt
• B) Neatkarīgs audits vairs nav nepieciešams
• C) Rezultāts ir skaidrs, jo mākslīgais intelekts pilnībā skenē katru kategoriju.
• D) tā nav garantija; AI var palaist garām oriģinālās un biznesa loģikas kļūdas, joprojām ir nepieciešama holistiska revīzija ✔

Paskaidrojums: tas, ka mākslīgais intelekts nevar kaut ko atrast, nepierāda, ka tas neeksistē; Pierādījums par prombūtni nav pierādījumu trūkums. Mākslīgais intelekts īpaši palaiž garām unikālas ievainojamības un biznesa loģikas kļūdas. Brīvs paziņojums par “drošs” nav garantija un neatceļ nepieciešamību pēc holistiskas kontroles.

4. Kura no šīm vietām ir vājākā mākslīgā intelekta joma ievainojamības skenēšanas jomā?

• A) Atzīmējiet labi zināmus un skaidrus modeļus, piemēram, Reentrancy
• B) MEV/progresīvās un protokolam specifiskās biznesa loģikas ievainojamības ✔
• C) Statiskās analīzes rīka rezultātu izskaidrošana vienkāršā valodā
• D) Uzskaitiet trūkstošās piekļuves kontroles funkcijas

Apraksts: AI ir spēcīgs, lai meklētu labi zināmus, nepārprotamus modeļus, piemēram, atkārtotu ieeju, piekļuves kontroli un darbības ar veseliem skaitļiem. Tomēr MEV/priekšējās darbības un protokolam specifiskās biznesa loģikas ievainojamības ir kontekstuālas un bieži vien unikālas; tās ir mākslīgā intelekta aklās zonas, un tām ir nepieciešamas cilvēku zināšanas un simulācija.

5. Kādi ir drošākie un riskantākie veidi, kā izmantot AI ķēdes datu analīzē?

• A) Drošākais ir izdrukāt datu ieguves vaicājumu; Riskantākais ir pieprasīt dzīvus datus tieši no mākslīgā intelekta un to neapstiprināt ✔
• B) Drošākais ir pieprasīt dzīvus datus tieši no mākslīgā intelekta; vaicājumu rakstīšana nav nepieciešama
• C) mākslīgā intelekta radītās jaucējkodas un adreses vienmēr ir uzticamas, apstiprinājums nav nepieciešams.
• D) Komentāru saistīšana ar avotu ir laika izšķiešana; Pietiek ar tekošu kopsavilkumu

Paskaidrojums: mākslīgais intelekts nav atkarīgs no dzīvās ķēdes; Pieprasot to tieši par darījumu/adresi, tiek iegūts izdomāts (halucinācijas) hash un adrese. Visdrošākais lietojums ir izdrukāt vaicājumu (piem., Dune SQL), kas izgūs datus no avota, jo datu avots rada rezultātu. Bezmaksas interpretācija ir riskanta, un katrs numurs ir jāapstiprina bloku pārlūkā.

6. Kāda veida ievainojamības ir visdārgākās DeFi protokolos un kāpēc tās rada AI izaicinājumus?

• A) tikai pareizrakstības/kompilācijas kļūdas; AI tos viegli uztver
• B) tikai saskarnes kļūdas; ekonomiskam dizainam ar to nav nekāda sakara
• C) ekonomikas/biznesa loģikas nepilnības; pat ja kods darbojas pareizi, protokolu var ekonomiski izmantot, un mākslīgais intelekts to neizmanto ✔
• D) tikai pareizrakstības kļūdas; Pārliecinoši pierādīts, ņemot vērā ekonomisko drošību, nav nepieciešama simulācija

Paskaidrojums: DeFi visdārgākie ekspluatācijas gadījumi parasti rodas nevis koda tehniskās kļūdas dēļ, bet gan ekonomiskās/biznesa loģikas (orākulu manipulācijas, zibatmiņas aizdevuma cenas izkropļojumi, stimulu ļaunprātīga izmantošana) dēļ. Pat ja kods tehniski darbojas "pareizi", protokolu var ekonomiski pievilt. Lai gan AI labi skenē standarta kodu, tas bieži vien nevar saskatīt šīs kontekstuālās un unikālās ekonomiskās ievainojamības; tiem nepieciešama simulācija un cilvēku zināšanas.

7. Kāda ir mākslīgā intelekta bīstamākā kļūda tokenomiskajā modelēšanā un kā no tās izvairīties?

• A) pārāk pesimistisks; risinājums ir pievienot optimistiskākus pieņēmumus
• B) vienots/optimistisks scenārijs; Risinājums ir stresa testēšana ar negatīviem scenārijiem un validācija ar simulāciju ✔
• C) tas rada pārāk daudz tabulu; risinājums ir noņemt tabulas
• D) sadales tabulas nesagatavošana; Risinājums ir vispār nemodelēt izplatīšanu

Paskaidrojums: mākslīgais intelekts parasti pieņem vienu, optimistisku scenāriju, kur cena vienmēr pieaug, lietotājs vienmēr palielinās; tādējādi neilgtspējīgi modeļi šķiet “ilgtspējīgi”, izraisot sabrukumu. Pasākums ir modeļa stresa tests ar nelabvēlīgiem scenārijiem (lāču tirgus, devību mednieka bēgšana, vaļu pārdošana) un emisiju aprēķinu pārbaude ar reālu simulāciju.

8. Mākslīgā intelekta izstrādātajā lietotāja rokasgrāmatā teikts, ka “jūsu līdzekļus var izņemt jebkurā laikā”, taču līgumā ir noteikts 7 dienu bloķējums. Par ko liecina šī situācija?

• A) Nav problēmu; Ja dokuments ir brīvi, to var publicēt tādu, kāds tas ir
• B) kods ir nepareizs, dokuments ir pareizs; kodam jāatbilst dokumentam
• C) lietotājs tik un tā neskatās dokumentu; neatbilstībai nav nozīmes
• D) dokuments ir pretrunā ar kodu; Katra tehniskā pretenzija ir jāapstiprina ar reālu kodu, nepatiesa dokumentācija maldinās lietotāju ✔

Apraksts: dokumentācijā ir aprakstīts kods; Tas nav pats kods. AI var nepareizi attēlot koda faktisko darbību, kas maldina lietotāju un kļūst par drošības problēmu. Tāpēc katra tehniskā pretenzija ir jāpārbauda attiecībā pret faktisko kodu; Nepareiza dokumentācija var būt vēl bīstamāka par pareizu kodu, jo lietotājs tai uzticas.

9. Kā rīkoties, ja AI skenē marķiera līgumu un atzīmē “sarkano karodziņu” (piemēram, īpašnieks var apturēt pārsūtīšanu)?

• A) Karogs ir saistīts ar avotu un tiek novērtēts pēc tā konteksta un cilvēka sprieduma; Izvairās no galīgā sprieduma/apmelošanas ✔
• B) Līgums noteikti tiks atzīts par krāpšanu un nekavējoties paziņots
• C) Tā kā mākslīgais intelekts nosaka karogu, turpmāka pārbaude nav nepieciešama
• D) Karogs tiek ignorēts; Īpašnieka privilēģijas nekad nerada risku

Apraksts: mākslīgais intelekts palīdz atzīmēt zināmus krāpšanas modeļus, taču nevar pieņemt galīgus spriedumus; Daži likumīgi līgumi (piemēram, aizsargāti ar vairāku parakstu pārvaldību) var ietvert arī apturēšanas tiesības. Katrs karodziņš ir jāsaista ar avotu (kodu/ķēdi) un jānovērtē, ņemot vērā tā kontekstu un cilvēka spriedumu; Jāizmanto mērena valoda un jāizvairās no neapstiprinātām apsūdzībām (apmelojumiem).

10. Tas, ka blokķēde ir “drošībai kritiska”, ir vistiešāk saistīta ar to, kuri no iemesliem, kāpēc mākslīgā intelekta izvade nevar aizstāt ekspertu apstiprinājumu?

• A) Mākslīgo intelektu nevar izmantot praksē, jo tas darbojas pārāk lēni
• B) Jo mākslīgais intelekts vienmēr rada kompilācijas kļūdas
• C) Mākslīgais intelekts nevar segt neatgriezenisko risku, kas saistīts ar sākotnējās kļūdas neredzēšanu, nepatiesu pārliecību, neatbilstību un nespēju uzņemties atbildību ✔
• D) Mākslīgo intelektu nevar izmantot Turcijas projektos, jo tas darbojas tikai angļu valodā.

Paskaidrojums: Kļūdas drošībai kritiskā apgabalā ir neatgriezeniskas un rada tiešus nopietnus zaudējumus (miljoniem dolāru). Mākslīgais intelekts nevar saskatīt oriģinālo/kontekstuālo kļūdu, var sniegt nepatiesu pārliecību ar tekošu valodu, nezina periodu pēc apmācības beigu datuma un, pats galvenais, nevar uzņemties atbildību. Inženiertehniskais apstiprinājums ir tehniskas, juridiskas un ētiskas saistības; Mašīna nevar uzņemties šīs saistības, tāpēc galīgais apstiprinājums ir kompetentam ekspertam.

11. Kāds ir visefektīvākais veids, kā aizsargāt drošībai svarīgu Web3 projektu no vienas AI kļūdas noplūdes tīklā?

• A) Visa procesa deleģēšana vienam AI rīkam un apskata beigas
• B) Ieviesiet slāņveida verifikāciju, kas katrā posmā nosaka cilvēka verifikācijas vārtu un caurlaides nosacījumu ✔
• C) Neatkarīgo audita vārtu apiešana, lai ietaupītu laiku
• D) Katrs izstrādātājs var brīvi izmantot savu rīku, neveicot žurnālus

Paskaidrojums: slāņveida verificēšanā katrā posmā (rakstīšana, skenēšana, audits, testēšana/simulācija, izvietošana, uzraudzība) tiek ievietots cilvēka verifikācijas vārts un skaidras nokārtošanas nosacījums (vai tests izturēja, vai auditors parakstījās, vai simulācija noturējās). Jūs nevarat iziet cauri vienām durvīm, neizejot cauri citām; Šī slāņveida struktūra novērš vienas AI kļūdas noplūdi dzīvajos.

12. Kāds ir nemainīgs noteikums attiecībā uz privāto atslēgu vai sākuma frāzi, saņemot palīdzību no mākslīgā intelekta atkļūdošanas laikā?

• A) Brīvi var koplietot tikai pārbaudes maku atslēgas
• B) Ja atslēga ir šifrēta, to var nodot mākslīgajam intelektam
• C) Ja mākslīgais intelekts ir uzticams, maka pārvaldību var atstāt tā ziņā
• D) Privāto atslēgu un sākuma frāzi nekādā gadījumā nevar ievadīt mākslīgā intelekta rīkā vai uzvednē ✔

Apraksts: Privātā atslēga un sākuma frāzes ir visa piekļuve makam un līdzekļiem. Nekādā gadījumā tie netiek ierakstīti mākslīgā intelekta rīkā, uzvednē vai jebkurā citā tiešsaistes vietā; Pretējā gadījumā pastāv tiešu un neatgūstamu līdzekļu zaudēšanas risks. Atslēgas tiek glabātas tikai drošā, vēlams bezsaistes/aparatūras makā.

13. Kāda ir labākā pārvaldības pieeja, lai regulētu mākslīgā intelekta izmantošanu ar konfidenciālu klienta kodu revīzijas uzņēmumā?

• A) Apstrādāt slepeno kodu tikai izolētā transportlīdzeklī un ar klienta apstiprinājumu, ar datu klasifikācijas politiku ✔
• B) Slepenā koda ielīmēšana jebkurā publiskā rīkā, lai iegūtu ātrākos rezultātus
• C) nav svarīgi, vai kods ir slepens; katrs rīks ir bezmaksas visiem datiem
• D) Pat ja ir noplūde, piesardzības pasākumi nav nepieciešami, jo atbildība ir mākslīgā intelekta nodrošinātājam.

Precizējums. Neizlaista (slēgtā avota) klienta koda ielīmēšana publiskā AI rīkā bez atļaujas ir līguma pārkāpums un noplūdes risks. Pareiza pārvaldība; Atsevišķu noteikumu noteikšana publiskajam kodam, konfidenciālajam klienta kodam, personas datiem un privātajai atslēgai ar datu klasifikācijas politiku, konfidenciālā koda apstrāde tikai izolētos/uzņēmuma rīkos un ar klienta apstiprinājumu.