Жұмыс процесі, басқару, тексеру және этика

Табыстар:

• Идеядан негізгі желіге дейінгі әр кезеңде AI + адамның тексеру қақпасын орналастыратын түпкілікті жұмыс процесін орнату мүмкіндігі
• Бекітілген құралдар тізімі, деректер классификациясы, тіркеу тәртібі және жеке кілт қауіпсіздігі бар басқару құрылымын жасау мүмкіндігі
• Жұмыс процесінің әрбір қадамына адам жауапкершілігі, адвокаттық, құпиялылық, ашықтық және тұтастық принциптерін енгізу мүмкіндігі

Бұл соңғы бөлімде біз модульдің барлық бөліктерін біртұтас жұмыс үрдісіне біріктіреміз: AI-ды идеядан бастап, келісім-шартты ақылды жазу, аудит, тізбекті талдау, токеномика және алаяқтықтан қорғау арқылы жауапкершілікпен пайдалану жолы. Біз сондай-ақ команда немесе тәуелсіз сарапшы ретінде басқару құрылымын құруды — құралдарды таңдау, деректерді жіктеу, тіркеу және тексеру пәнін — жұмыс процесіне этикалық принциптерді енгізуді қарастырамыз.

Жұмыс процесі: идеядан негізгі желіге дейін

Web3 жобасының AI-мен жұмыс істейтін, адам тексерген саяхаты:

1. Дизайн және токеномика. AI механизм опциялары мен токеномдық контурды жасайды; Экономист пен команда оны жағымсыз сценарийлермен модельдейді. Есік: көп сценарийді модельдеу орындалды ма?

2. Орфография. AI тексерілген кітапхана негізіндегі фреймворктар мен сынақ үлгілерін жасайды; әзірлеуші ​​аяқтайды. Қақпа: құрастыру + сынақ + шолу.

3. Сканерлеу. Статикалық талдау құралдары + белгілі осалдық үлгілерін AI сканерлеу. Гейт: жалған позитивтер жойылып, нақты кандидаттар аудиторға берілді ме?

4. Аудит. Тәуелсіз құзыретті аудитор AI-ны көмекші ретінде пайдалана отырып, жан-жақты тексереді; Адамдар бизнес логикасын бағалайды. Есік: қол қойылған тексеру актісі.

5. Тестілеу және модельдеу. Testnet, fuzzing және экономикалық модельдеу. Есік: сценарийлер орындалды ма?

6. Құжаттама. AI ақпары, NatSpec және әділ тәуекелді ашу жобалары; адам шындықты растайды. Gate: техникалық шағымдар кодқа сәйкес келе ме?

7. Тарату. Көп қолтаңбаны растау, негізгі желіден біртіндеп шығу. Есік: Оқиғаға қарсы әрекет ету жоспары дайын ба?

8. Мониторинг. Тізбекті бақылау AI бар ауытқуларды белгілейді; адамдар араласады. Есік: аномалияға кім және қалай араласады?

Кеңес: Бұл ағынды бақылау парағына бөліп, «кім мақұлдайды, өту шарты қандай?» деп сұраңыз. әр есік үшін. Бағандарды толтырыңыз. Ауызша «жарайды» емес, бірақ жазбаша есік тәртібі қауіпсіздік маңызды аймақта айырмашылықты жасайды.

Басқару құрылымын құру

Жеке адамның жақсы ниеті жеткіліксіз; Қайталанатын рамка қажет. Команда немесе маман үшін минималды басқару:

Бекітілген көлік құралдарының тізімі. Қандай AI және қауіпсіздік құралдарын қандай тапсырмалар үшін пайдалануға болады? Құпия сатып алу коды үшін қандай оқшауланған/кәсіпорын құралы? Тегін жүргізу - бұл ағып кету қаупі.

Деректер классификациясы. Ашық AI құралына қандай деректерді беруге болады (қоғамдық код) және оларды ешқашан беруге болмайды (тексерілмеген тұтынушы коды, жеке кілт, жеке деректер)? Бұл айырмашылық анық жазылуы керек.

Тіркеу тәртібі (аудит ізі). AI қандай өнім шығарғаны және оны кім тексергені жазылады. Бұл ашықтық пен есептілік үшін де қажет.

Үздіксіз тексеру. Жасанды интеллектпен жасалған қауіпсіздік талаптары тексерусіз түспейді; Бұл мәдениет болуы керек.

Басқару элементі

сұрақ

Мақсат

Бекітілген көліктер

Қандай құрал, қай жұмыс?

Консистенция, ағып кетудің алдын алу

Деректер классификациясы

Не беруге болады және не беруге болмайды?

Құпиялық

Тіркеу тәртібі

Оны кім шығарды, кім растады?

жауапкершілік

Валидация қақпалары

Өтпелі шарт қандай?

Қауіпсіздік

Кілт пен құпиялылық қауіпсіздігі

Web3-ке тән маңызды ескерту: жеке кілт (әмиянға және қаражатқа қол жеткізуді қамтамасыз ететін құпия кілт) және негізгі сөз тіркесі (қалпына келтіру сөздері) ешбір жағдайда AI құралына, жедел хабарға немесе желідегі кез келген жерде жазылмайды. Бұл қаражаттың тікелей жоғалуын білдіреді. Сол сияқты, тексерілмеген клиент кодын рұқсатсыз ашық AI құралдарына қою мүмкін емес.

Ескерту: «Маған AI-ға жеке кілтімді беруге және одан әмиянымды басқаруды сұрауға рұқсат етіңіз» сияқты идея апат болып табылады. Жеке кілт тек қауіпсіз, желіден тыс немесе аппараттық әмиянда сақталады. AI ешқашан кілтті көрмеуі керек.

Әлсіз тәсіл / Күшті көзқарас

Әлсіз тәсіл:

Әркім өзі қалаған кез келген AI құралын, кез келген нәрсені пайдалануы керек. Тұтынушы кодын ең жылдам құралға қойыңыз және нәтижені тікелей пайдаланыңыз.

Күшті тәсіл:

Рұқсат етілген көліктердің тізімі бар. Құпия код тек оқшауланған көлікте және тұтынушы рұқсатымен. Әрбір AI шығысы тексеру қақпасынан өтеді және оны кім тексергені жазылады. Жеке кілт ешбір көлікке кірмейді. Әрбір қауіпсіздік шағымы тәуелсіз растауды қажет етеді.

Көшірілетін төрт үлгі

1) Жұмыс процесі қақпасының жоспары:

Идеядан негізгі желіге дейін Web3 жобасы үшін жасанды интеллектпен жұмыс істейтін, адам тексерген жұмыс үрдісінің жоспарын жасаңыз. Әр кезең үшін: AI не істейді, адам қақпасы дегеніміз не, өтпелі жағдай қандай? Оны кестемен ұсыныңыз. Қауіпсіздік үшін маңызды қадамдар бойынша сарапшылық мақұлдауды анық көрсетіңіз.

2) Деректерді жіктеу саясаты:

Аудит тобы үшін «AI-ға не беруге болады» саясатын жазыңыз: жалпы кодқа арналған бөлек ережелер, тексерілмеген тұтынушы коды, жеке деректер, жеке кілт. Әрбір санат үшін "экспортталатын/көлікте оқшауланған/ешқашан" көрсетіңіз. Себептеріңізді жазыңыз.

3) AI пайдалану мөлдірлігі туралы ескерту:

Аудит/құжаттама нәтижесі үшін ашықтық жазбасының жобасын жасаңыз: AI қалай және қай кезеңде қолданылады; қандай нәтиже гуманитарлық тұрғыдан тексеріледі; кімнің жауапкершілігі жоғары. Адал және өлшемді болыңыз.

4) Оқиғаға ден қою және байланыс жоспары:

Хаттамадағы тірі қауіпсіздік инцидентіне әрекет ету жоспарын жасаңыз: техникалық қадамдар (тоқтату, қорды қорғау), байланыс (қауымдастық, пайдаланушы), хабарлама (талдау, қалпына келтіру). Бұл жоба; Команда калибрлеуі керек. Дүрбелең тілін қолдану; Ашық және сабырлы болыңыз.

Үш шағын іс (санмен)

1-жағдай – Басқару ағып кетудің алдын алды. Аудиторлық фирма деректерді жіктеу саясаты (саясат оқшауланған құралды талап етеді) арқасында аудиторға клиенттің құпия кодын жалпыға қолжетімді құралға қоюға жол бермеді. Келісімшартты бұзудың және ағып кетудің алдын алды. Сабақ: жазбаша саясат жеке қатені ұстайды.

2-жағдай - Қақпа тәртібі жүйелілік әкелді. Бір команда 6 жобалық тоқсанда әрбір жобаға бірдей 8 порттық ағынды қолданды. Аудитке дейін табылған мәліметтердің саны 40%-ға өсті, ал негізгі желіден кейінгі оқиғалардың саны нөлге тең болды. Сабақ: қайталанатын шеңбер сапаны стандарттайды.

3-жағдай - негізгі апаттан оралу. Әзірлеуші ​​жөндеу кезінде сынақ әмиянының жеке кілтін AI сұрауына қоюға дайын болды; Ол тоқтап, кілтті айналдырды, себебі команда саясаты бұған тыйым салды. Егер бұл нақты қаржыландыру болса, бұл апат болар еді. Сабақ: кілт ешбір көлікке кірмейді, ерекшелік жоқ.

Этиканы жұмыс процесіне енгізу

Этика кейіннен қосылған тармақ емес, ағынның әрбір қадамына енгізілген тәртіп:

• Қауіпсіздік үшін маңызды есіктерде адам жауапкершілігі бар.
• Қорғаныс мақсаты: көліктерді қорғау және басқару; Ешқашан пайдаланбаңыз немесе тұзаққа түспеңіз.
• Құпиялық: тұтынушы деректері мен кілттері қорғалған.
• Транспаренттілік: AI пайдалану шынайы түрде айтылады.
• Адалдық: пайдаланушылар мен инвесторлар жаңылыспайды, тәуекелдер жасырылмайды.
• Бейтараптық және тексеру: әрбір шағым көзге жатқызылады, мүдделер қақтығысы ескеріледі.

Бұл принциптер абстрактілі емес; Ол әр уақытта, әр есікте және әрбір шығуда нақты шешімдерге айналады. Бұл модульдің мәні мынада: AI Web3 сарапшысының күшін арттырады; бірақ ол пайымдауды, жауапкершілікті және этиканы алмастырмайды.

Жалпы қателер

• Жазбаша жұмыс үрдісінің/қақпалық тәртіптің болмауы. Ауызша «жарайды» деген жеткіліксіз.
• Бекітілген құралдарсыз және деректер саясатынсыз жұмыс істеу. Ағып кету қаупі.
• AI пайдалануды жасыру. Бұл ашықтық принципіне қайшы келеді.
• Көлікке жеке кілт/құпия код беру. Тікелей апат.
• Оқиғаға жауап беру жоспарынсыз тікелей эфирге шығу. Дағдарыс жағдайында дайындықтың болмауы.
• Этиканы соңына қалдырылған тармақ ретінде қарастыру. Әр қадамда этика болуы керек.

Қысқаша айтқанда

• Үздіксіз ағын AI + адамның тексеру қақпасын идеядан бақылауға дейін әрбір кезеңде орналастырады.
• Басқару жүйесі: бекітілген құралдар, деректер классификациясы, журнал жүргізу тәртібі, үздіксіз тексеру.
• Жеке кілт пен құпия код ешбір AI құралына берілмейді; Бұл ерекшеліксіз ереже.
• Этикалық қағидалар (жауапкершілік, адвокаттық, құпиялылық, ашықтық, адалдық) әрбір қадамда бекітілген.
• AI сарапшының күшін арттырады; Ол пайымдауды, жауапкершілікті және этиканы алмастырмайды.

Қолданбалы тапсырма

Өзіңіз немесе командаңыз үшін бір беттік «Web3 AI пайдалану құрылымын» жазыңыз: (1) идеядан негізгі желіге дейінгі 8 сатылы шлюз, (2) деректерді жіктеу саясаты, (3) кілт/құпиялылық ережелері, (4) этикалық принциптердің тізімі. Содан кейін осы модульде үйренген нақты тапсырманы (мысалы, келісім-шарт аудиті) осы құрылымға сәйкес мұқият жоспарлаңыз және AI қай қадамда ең сенімді және қайсысы ең сенімді екенін белгілеңіз.

бақылау парағы

• [ ] Менде идеядан негізгі желіге дейін жазылған gate дисциплинасы бар.
• [ ] Менде бекітілген көлік және деректерді жіктеу саясаты бар.
• [ ] Мен көлікке жеке кілт/құпия код ешқашан берілмейтінін ережеге айналдырдым.
• [ ] Мен AI пайдалануды ашық түрде құжаттаймын.
• [ ] Мен әрбір қауіпсіздік шағымын растау қақпасы арқылы өткіземін.
• [ ] Менде оқиғаға жауап беру жоспары бар.
• [ ] Мен әр қадамда этикалық принциптерді енгіздім; Жауапкершілік адамдардың мойнында екенін түсіндім.

Модуль емтиханы

1. Төмендегілердің қайсысы Blockchain және Web3-те жасанды интеллект үшін ең дәл позиция болып табылады?

• A) Жасанды интеллект қауіпсіздік аудитін өздігінен аяқтай алады және кодты тікелей негізгі желіге импорттай алады
• B) AI Web3 жүйесінде жұмыс істемейді; Барлық жұмыс толығымен қолмен орындалуы керек
• C) АИ – тартылыс генераторы және үдеткіштің көмекшісі; Қауіпсіздік тұрғысынан маңызды қорытынды мақұлдау құзыретті сарапшыда ✔
• D) Жасанды интеллект адамдарға қарағанда объективті болғандықтан, қауіпсіздік шешімдерін оған қалдыру керек.

Сипаттама: Web3-те бағдарламалық құрал қателері қайтымсыз тікелей ақшаға айналады. Жасанды интеллект; Бұл жобаларды жасайтын, үлгілерді белгілейтін және сұрауларды жазатын үдеткіш көмекшісі. Қауіпсіздік тұрғысынан маңызды аудиттер кезінде соңғы сөз кәсіби жауапкершілікті өз мойнына алатын құзыретті сарапшыда болады; Қатенің құны азайған сайын жасанды интеллекттің үлесі артады.

2. Смарт келісім-шартты жасау кезінде AI-ға код жазуды алудың ең қауіпсіз тәсілі қандай?

• A) Тексерілген/тексерілген кітапханаларға негізделген құрылымды жасаңыз, құрастырыңыз, сынаңыз және testnet арқылы тексеріңіз ✔
• B) Қауіпсіздік механизмдерін жасанды интеллектке нөлден бастап, ерекше түрде жазу
• C) Код құрастырылғаннан кейін оны қауіпсіз деп санап, оны тікелей негізгі желіге жіберіңіз.
• D) Қол жеткізуді басқару элементтерін соңына қалдырыңыз және тек функционалдылыққа назар аударыңыз

Түсініктеме: Басып шығару қауіпсіздігін нөлден бастау қауіпті; Жасанды интеллект бастапқы қауіпсіздік кодында қате жіберуі мүмкін және жаттығу деректері ескірген болуы мүмкін. Дұрыс әдіс - сыналған және сыналған кітапханалар негізінде жасалған құрылымға ие болу (мысалы, OpenZeppelin), содан кейін құрастыру, тестілеу және testnet арқылы тексеру.

3. Аудитор АИ-ден келісім-шарт туралы сұрағанда және «қауіпсіздікке қатысты маңызды мәселе жоқ сияқты» деген жауап алған кезде мұны қалай түсіндіруі керек?

• A) Енді кодты қауіпсіз деп санауға және аудитті қысқартуға болады
• B) Тәуелсіз аудит енді қажет емес
• C) Жасанды интеллект әр санатты толығымен сканерлейтіндіктен нәтиже белгілі.
• D) Бұл кепілдік емес; AI бастапқы және іскери логикалық қателерді жіберіп алуы мүмкін, тұтас аудит әлі де қажет ✔

Түсініктеме: Жасанды интеллекттің бір нәрсені таба алмауы оның жоқтығын дәлелдемейді; Жоқтың дәлелі - дәлелдердің жоқтығы емес. Жасанды интеллект ерекше осалдықтарды және іскерлік логикалық қателерді жіберіп алады. «Қауіпсіз» туралы еркін мәлімдеме кепілдік емес және тұтас бақылау қажеттілігін жоймайды.

4. Төмендегілердің қайсысы осалдықты сканерлеуде жасанды интеллекттің ең әлсіз саласы болып табылады?

• A) Reentrancy сияқты белгілі және анық үлгілерді белгілеу
• B) MEV/алдын ала жұмыс істейтін және хаттамаға тән бизнес логикасының осалдықтары ✔
• C) Статикалық талдау құралының нәтижесін қарапайым тілде түсіндіру
• D) Қол жеткізуді басқарудың жетіспейтін функцияларын тізімдеңіз

Сипаттама: AI қайта кіру, кіруді басқару және бүтін операциялар сияқты белгілі, бір мәнді үлгілерді сканерлеуде күшті. Дегенмен, MEV/алдын ала жұмыс істейтін және хаттамаға тән бизнес логикасының осалдықтары контекстік және жиі бірегей болып табылады; бұл AI-ның соқыр нүктесі және адам тәжірибесі мен модельдеуді қажет етеді.

5. Тізбекті деректерді талдауда AI пайдаланудың ең қауіпсіз және қауіпті жолдары қандай?

• A) Ең қауіпсіз нәрсе - деректерді шығару сұранысын басып шығару; Ең қауіптісі – тікелей жасанды интеллекттен тікелей деректерді сұрау және оны растамау ✔
• B) Ең қауіпсіз нәрсе – тікелей жасанды интеллекттен тікелей деректерді сұрау; сұрау жазудың қажеті жоқ
• C) Жасанды интеллект арқылы жасалған хэштер мен адрестер әрқашан сенімді, растау қажет емес.
• D) Пікірлерді дереккөзге байланыстыру - уақытты босқа кетіру; Түсінікті түйіндеме жеткілікті

Түсініктеме: Жасанды интеллект тірі тізбекке тәуелді емес; Одан транзакция/мекенжайды тікелей сұрау құрастырылған (галлюцинаторлық) хэш пен мекенжайды жасайды. Ең қауіпсіз пайдалану - деректер көзі нәтижені шығаратындықтан, деректерді көзден алатын сұрауды (мысалы, Dune SQL) басып шығару. Тегін түсіндіру қауіпті және әрбір нөмір блок зерттеушісінде расталуы керек.

6. DeFi протоколдарындағы осалдықтардың қай түрі ең қымбат және олар AI үшін неге қиын?

• A) Тек емле/құрастыру қателері; AI бұларды оңай ұстайды
• B) Тек интерфейс қателері; экономикалық дизайн оған ешқандай қатысы жоқ
• C) Экономикалық/іскерлік логикалық олқылықтар; код дұрыс жұмыс істесе де, хаттаманы үнемді пайдалануға болады және AI мұны жіберіп алады ✔
• D) Тек емле қателері; Экономикалық қауіпсіздікті қарастыру арқылы түбегейлі дәлелденді, модельдеудің қажеті жоқ

Түсініктеме: DeFi-де ең қымбат эксплойттар әдетте кодтың техникалық қателігінен емес, экономикалық/іскерлік логиканың пайдалану мүмкіндігінен (oracle манипуляциясы, флеш несие бағасының бұрмалануы, ынталандыруды теріс пайдалану) туындайды. Код техникалық тұрғыдан «дұрыс» жұмыс істесе де, хаттаманы экономикалық тұрғыдан алдауға болады. AI стандартты кодты сканерлеуде жақсы болғанымен, бұл контекстік және бірегей экономикалық осалдықтарды жиі көре алмайды; бұл модельдеу және адам тәжірибесін қажет етеді.

7. Токеномикалық модельдеудегі жасанды интеллекттің ең қауіпті қатесі қандай және оны қалай болдырмауға болады?

• A) Тым пессимистік болуы; шешім - оптимистік болжамдарды қосу
• B) Бірыңғай/оптимистік сценарий; Шешім - теріс сценарийлермен стресс-тестілеу және симуляциямен валидация ✔
• C) Тым көп кестелер шығарады; шешім кестелерді алып тастау болып табылады
• D) Бөлу кестесінің жасалмауы; Шешім - таратуды мүлдем модельдемеу

Түсініктеме: Жасанды интеллект әдетте бір оптимистік сценарийді болжайды, мұнда баға әрқашан өседі, пайдаланушы үнемі өседі; бұл тұрақсыз модельдерді «тұрақты» етіп көрсетеді, бұл күйреуге әкеледі. Бұл шара қолайсыз сценарийлермен модельді стресс-тестілеу болып табылады (аю нарығы, сыйлы аңшының қашуы, кит сату) және нақты модельдеу арқылы шығарындылар есептеулерін тексеру.

8. Жасанды интеллект жасаған пайдаланушы нұсқаулығында «қаржыңызды кез келген уақытта алуға болады» деп жазылған, бірақ келісімшартта 7 күндік құлып бар. Бұл жағдай нені көрсетеді?

• A) Мәселе жоқ; Құжат еркін болса, оны сол күйінде жариялауға болады
• B) Код қате, құжат дұрыс; код құжатқа сәйкес болуы керек
• C) Пайдаланушы бәрібір құжатқа қарамайды; сәйкессіздік маңызды емес
• D) Құжат кодқа қайшы келеді; Әрбір техникалық шағым нақты кодпен расталуы керек, жалған құжаттама қолданушыны адастырып жібереді ✔

Сипаттама: Құжаттама кодты сипаттайды; Бұл кодтың өзі емес. AI кодтың нақты әрекетін бұрмалауы мүмкін, бұл пайдаланушыны адастырып, қауіпсіздік мәселесіне айналады. Сондықтан әрбір техникалық шағым нақты кодпен тексерілуі керек; Қате құжаттама дұрыс кодқа қарағанда қауіптірек болуы мүмкін, себебі пайдаланушы құжаттамаға сенеді.

9. AI таңбалауыш келісім-шартты сканерлегенде және «қызыл жалаушаны» белгілегенде қалай әрекет ету керек (мысалы, иесі тасымалдауды тоқтата алады)?

• A) Ту көзге жалғанып, оның контекстімен және адамдық пайымдауымен бағаланады; Соңғы үкім/жала жабудан аулақ болады ✔
• B) Келісімшарт міндетті түрде алаяқтық деп танылады және дереу жарияланады
• C) Жасанды интеллект туды орнатқандықтан, одан әрі тексерудің қажеті жоқ
• D) Жалау еленбейді; Меншік иесінің құқықтары ешқашан қауіп төндірмейді

Сипаттама: Жасанды интеллект белгілі алаяқтық үлгілерін белгілеуге көмектеседі, бірақ түпкілікті пайымдаулар жасай алмайды; Кейбір заңды келісім-шарттарда (мысалы, көп қолтаңбалы басқару арқылы қорғалған) тоқтату мүмкіндігі де болуы мүмкін. Әрбір жалауша дереккөзге (код/тізбек) байланыстырылуы керек және оның контекстімен және адамның пікірімен бағалануы керек; Орташа сөз қолданып, дәлелденбеген айыптаулардан (жала жабудан) аулақ болу керек.

10. Блокчейннің «қауіпсіздік үшін маңызды» болуы AI нәтижесі сарапшылардың мақұлдауын алмастыра алмайтын себептердің қайсысымен тікелей байланысты?

• A) Жасанды интеллект тәжірибеде қолданыла алмайды, себебі ол өте баяу жұмыс істейді
• B) Өйткені жасанды интеллект әрқашан компиляция қателерін шығарады
• C) Жасанды интеллект бастапқы қатені көре алмау, жалған сенімділік, заман талабына сай келмеу және жауапкершілікті өз мойнына ала алмау салдарынан қайтымсыз тәуекелді жаба алмайды ✔
• D) Жасанды интеллект түрік жобаларында қолданыла алмайды, себебі ол тек ағылшын тілінде жұмыс істейді.

Түсініктеме: Қауіпсіздік маңызды аймақтағы қателер қайтымсыз және тікелей елеулі шығынға (миллиондаған доллар) әкеледі. Жасанды интеллект бастапқы/контекстік қатені көре алмайды, еркін тілмен жалған кепілдік бере алады, оқытудың аяқталу күнінен кейінгі кезеңді білмейді және ең бастысы, жауапкершілікті өз мойнына алмайды. Инженерлік мақұлдау – техникалық, құқықтық және этикалық міндеттеме; Құрылғы бұл міндеттемені орындай алмайды, сондықтан түпкілікті мақұлдау құзыретті сарапшыда болады.

11. Қауіпсіздік үшін маңызды Web3 жобасын негізгі желіге ағып кететін AI қателерінен қорғаудың ең тиімді жолы қандай?

• A) Бүкіл процесті бір AI құралына беру және соңына қарау
• B) Әр кезеңде адамның тексеру қақпасы мен өту шартын қоятын деңгейлі тексеруді жүзеге асыру ✔
• C) Уақытты үнемдеу үшін тәуелсіз аудиторлық қақпаны айналып өту
• D) Әрбір әзірлеуші ешқандай журнал жүргізбестен өз құралын пайдалана алады

Түсініктеме: Қабатты тексеруде адамның тексеру қақпасы және нақты өту шарты (сынақтан өтті ме, аудитор қол қойды ма, модельдеуді ұстады ма) әрбір кезеңде (жазу, сканерлеу, тексеру, сынақ/имитациялық, орналастыру, бақылау) орналастырылады. Бір есіктен екінші есіктен өтуге болмайды; Бұл қабатты құрылым бір AI қатесінің тірілерге ағып кетуіне жол бермейді.

12. Түзету кезінде жасанды интеллекттен көмек алу кезінде жеке кілтке немесе негізгі фразаға қатысты өзгермейтін ереже қандай?

• A) Тек әмияндарды тексеруге арналған кілттерді еркін бөлісуге болады
• B) Егер кілт шифрланған болса, оны жасанды интеллектке беруге болады
• C) Жасанды интеллект сенімді болса, әмиянды басқаруды оған қалдыруға болады
• D) Жеке кілт пен негізгі фразаны кез келген жасанды интеллект құралына немесе кез келген жағдайда енгізуге болмайды ✔

Сипаттама: Жеке кілт және негізгі фразалар әмиян мен қорларға толық қол жеткізу болып табылады. Ешбір жағдайда олар жасанды интеллект құралына, жедел немесе кез келген басқа онлайн орынға жазылмайды; Әйтпесе, қаражатты тікелей және өтелмейтін жоғалту қаупі бар. Кілттер тек қауіпсіз, жақсырақ офлайн/аппараттық әмиянда сақталады.

13. Аудиторлық фирмада клиенттің құпия коды бар жасанды интеллектті пайдалануды реттеудің ең жақсы басқару тәсілі қандай?

• A) Құпия кодты тек оқшауланған көлікте және тұтынушының рұқсатымен деректерді жіктеу саясатымен өңдеңіз ✔
• B) Ең жылдам нәтиже алу үшін құпия кодты кез келген жалпыға ортақ құралға қою
• C) Кодтың құпия болуы маңызды емес; әрбір құрал әрбір деректер үшін тегін
• D) Жауапкершілік жасанды интеллект провайдеріне тиесілі болғандықтан, ағып кету болса да, сақтық шаралары қажет емес.

Түсіндіру: Шығарылған (жабық бастапқы) клиент кодын рұқсатсыз жалпыға ортақ AI құралына қою келісім-шартты бұзу және ағып кету қаупі болып табылады. Дұрыс басқару; Деректерді жіктеу саясаты бар ашық код, құпия тұтынушы коды, жеке деректер және жеке кілт үшін бөлек ережелерді орнату, құпия кодты тек оқшауланған/кәсіпорын құралдарында және тұтынушы мақұлдауымен өңдеу.