Прибуток:
- Можливість налагодити наскрізний робочий процес, який розміщує ШІ + шлюз перевірки людини на кожному етапі від ідеї до основної мережі
- Можливість створити структуру управління із затвердженим списком інструментів, класифікацією даних, дисципліною журналювання та безпекою закритого ключа
- Здатність впроваджувати принципи людської відповідальності, адвокації, конфіденційності, прозорості та чесності на кожному етапі робочого процесу
У цьому останньому розділі ми об’єднуємо всі частини модуля в один узгоджений робочий процес: як відповідально використовувати штучний інтелект наскрізно, починаючи від ідеї до написання смарт-контракту, аудиту, аналізу в ланцюжку, токеноміки та захисту від шахрайства. Ми також розглянемо створення структури управління командою чи незалежним експертом — дисципліну вибору інструментів, класифікацію даних, запис і перевірку — і впровадження етичних принципів у робочий процес.
Наскрізний робочий процес: від ідеї до основної мережі
Перевірена людьми подорож проекту Web3 на основі ШІ:
1. Дизайн і токеноміка. AI генерує варіанти механізму та схему токеномії; Економіст і команда моделюють це негативними сценаріями. Двері: чи витримала багатосценарна симуляція?
2. Орфографія. AI створює перевірені бібліотечні фреймворки та тестові шаблони; завершує розробник. Ворота: збірка + тест + огляд.
3. Сканування. Інструменти статичного аналізу + сканування ШІ на відомі шаблони вразливостей. Гейт: чи були усунені помилкові спрацьовування, а справжні кандидати передані аудитору?
4. Аудит. Незалежний компетентний аудитор проводить цілісну перевірку, використовуючи ШІ як помічника; Люди оцінюють бізнес-логіку. Двері: підписаний протокол перевірки.
5. Тестування та моделювання. Testnet, фаззинг та економічне моделювання. Двері: чи витримали сценарії?
6. Документація. Whitepaper AI, NatSpec і чернетки звітів про справедливі ризики; людина підтверджує правду. Ворота: чи відповідають технічні претензії коду?
7. Розподіл. Підтвердження мультипідписом, поступовий вихід з основної мережі. Двері: чи готовий план реагування на інцидент?
8. Моніторинг. Моніторинг у мережі позначає аномалії за допомогою ШІ; люди втручаються. Двері: хто і як втрутиться в аномалію?
Порада: розділіть цей процес на контрольний список і запитайте «хто схвалює, яка умова проходження?» для кожної двері. Заповніть графи. Не словесне «добре», а письмова дисципліна щодо дверей має значення в критично важливих для безпеки сферах.
Створення структури управління
Індивідуальної доброї волі недостатньо; Потрібен повторюваний каркас. Мінімальне управління для команди або спеціаліста:
Перелік затверджених транспортних засобів. Які інструменти ШІ та безпеки можна використовувати для яких завдань? Який ізольований/корпоративний інструмент для коду таємного покупця? Безкоштовне водіння - це ризик витоку.
Класифікація даних. Які дані можна надати відкритому інструменту штучного інтелекту (відкритий код), а які не можна надати ніколи (неаудований код клієнта, закритий ключ, особисті дані)? Ця відмінність повинна бути чітко прописана.
Реєстраційна дисципліна (аудиторський слід). Записується, який результат створив штучний інтелект і хто його перевірив. Це необхідно як для прозорості, так і для підзвітності.
Постійна перевірка. Жодна претензія на безпеку, створена ШІ, не проходить без перевірки; Це має бути культура.
Елемент управління
запитання
призначення
Схвалені транспортні засоби
Який інструмент, яка робота?
Консистенція, запобігання протікання
Класифікація даних
Що можна, а що не можна дарувати?
Конфіденційність
Реєстраційна дисципліна
Хто виготовив, хто підтвердив?
звітність
Ворота перевірки
Яка умова переходу?
Безпека
Безпека ключів і конфіденційності
Важливе попередження, яке стосується Web3: приватний ключ (секретний ключ, який надає доступ до гаманця та коштів) і початкова фраза (слова відновлення) за жодних обставин не записуються в інструмент ШІ, підказку чи будь-де в Інтернеті. Це означає пряму втрату коштів. Так само неперевірений код клієнта не можна вставляти у відкриті інструменти ШІ без дозволу.
Застереження: така ідея, як «Дозвольте мені дати ШІ свій особистий ключ і попросити його керувати моїм гаманцем», є катастрофою. Приватний ключ зберігається лише в захищеному, офлайновому чи апаратному гаманці. ШІ ніколи не повинен бачити ключ.
Слабкий підхід / Сильний підхід
Слабкий підхід:
Кожен має використовувати будь-який інструмент штучного інтелекту, який забажає, незалежно від того, що трапляється. Вставте код клієнта в найшвидший інструмент і використовуйте результат безпосередньо.
Потужний підхід:
Є перелік дозволених транспортних засобів. Секретний код лише в ізольованому транспортному засобі та з дозволу клієнта. Кожен результат штучного інтелекту проходить через ворота перевірки, і записується, хто його перевірив. Приватний ключ не входить до жодного автомобіля. Кожна заява про безпеку потребує незалежного підтвердження.
Чотири шаблони, які можна копіювати
1) План воріт робочого процесу:
Створіть перевірений людиною план робочого процесу для проекту Web3 від ідеї до основної мережі на основі штучного інтелекту. Для кожного етапу: що робить AI, що таке людські ворота, яка умова переходу? Представте його за допомогою таблиці. Чітко зазначте схвалення експертів щодо важливих для безпеки кроків.
2) Політика класифікації даних:
Напишіть політику «що можна надати штучному інтелекту» для аудиторської групи: окремі правила для публічного коду, неаудованого коду клієнта, персональних даних, закритого ключа. Для кожної категорії вкажіть «можна експортувати/ізолювати в транспортному засобі/ніколи». Напишіть свої причини.
3) Примітка щодо прозорості використання ШІ:
Створіть чернетку прозорості для результатів аудиту/документації: як і на якому етапі використовується ШІ; який вихід гуманно перевірений; хто несе остаточну відповідальність. Будьте чесними і виваженими.
4) План реагування на інцидент і комунікації:
Складіть проект плану реагування на інцидент безпеки в реальному часі в протоколі: технічні кроки (зупинка, захист коштів), комунікація (спільнота, користувач), публікація (аналіз, відновлення). Це чернетка; Команда повинна відкалібрувати. Використання мови паніки; Будьте ясними і спокійними.
Три міні кейси (в кількості)
Випадок 1 — Управління запобігло витоку. Аудиторська фірма не дозволила аудитору вставити конфіденційний код клієнта в загальнодоступний інструмент завдяки своїй політиці класифікації даних (політика передбачала ізольований інструмент). Було попереджено можливе порушення контракту та витік. Урок: письмова політика виявляє індивідуальні помилки.
Випадок 2 — Дисципліна у воротах принесла послідовність. Одна команда застосовувала однаковий 8-портовий потік для кожного проекту в кварталі з 6 проектів. Кількість знахідок, виявлених до перевірки, зросла на 40%, тоді як кількість інцидентів після основної мережі була нульовою. Урок: повторювана структура стандартизує якість.
Випадок 3 — Повернення після ключової катастрофи. Розробник збирався вставити приватний ключ тестового гаманця в підказку AI під час налагодження; Він зупинився й повернув ключ, оскільки правила команди це забороняли. Якби це було реальне фінансування, це була б катастрофа. Урок: ключ не входить до жодного автомобіля, без винятків.
Впровадження етики в робочий процес
Етика — це не елемент, який додається пізніше, а дисципліна, вбудована в кожен крок потоку:
- Відповідальність людини стоїть за кожними критично важливими для безпеки дверима.
- Оборонне призначення: захист і контроль транспортних засобів; Ніколи не використовуйте чи пастку.
- Конфіденційність: дані клієнтів і ключі захищені.
- Прозорість: використання ШІ зазначається чесно.
- Чесність: користувачі та інвестори не введені в оману, ризики не приховані.
- Неупередженість і перевірка: кожна заява приписується джерелу, враховується конфлікт інтересів.
Ці принципи не є абстрактними; Це перетворюється на конкретні рішення за кожним запитом, за кожними дверима та за кожним виходом. Суть цього модуля така: штучний інтелект збільшує потужність експерта Web3; але це не замінює судження, відповідальності та етики.
Поширені помилки
- Відсутність письмового документообігу/прохідної дисципліни. Усного «добре» недостатньо.
- Робота без затверджених інструментів і політики даних. Ризик витоку.
- Приховування використання ШІ. Це суперечить принципу прозорості.
- Надання особистого ключа/секретного коду транспортному засобу. Відверта катастрофа.
- Початок роботи без плану реагування на інциденти. Відсутність підготовки в умовах кризи.
- Розглядати етику як предмет, залишений на кінець. Етика повинна бути закладена в кожному кроці.
Підсумовуючи
- Наскрізний потік розміщує ШІ + шлюз перевірки людини на кожному етапі, від ідеї до моніторингу.
- Структура управління: затверджені інструменти, класифікація даних, дисципліна реєстрації, постійна перевірка.
- Приватний ключ і секретний код не надаються жодному інструменту ШІ; Це правило без винятку.
- Етичні принципи (відповідальність, адвокація, конфіденційність, прозорість, чесність) закладені в кожному кроці.
- AI збільшує силу експерта; Це не замінює судження, відповідальності та етики.
Аплікаційне завдання
Напишіть для себе або своєї команди «Структуру використання штучного інтелекту Web3» на одній сторінці: (1) 8-етапний шлюз від ідеї до основної мережі, (2) політика класифікації даних, (3) ключові правила/правила конфіденційності, (4) список етичних принципів. Потім ретельно сплануйте реальне завдання, яке ви вивчали в цьому модулі (наприклад, аудит контракту), відповідно до цієї структури та позначте, на якому етапі ШІ є найбільш надійним, а на якому найменш надійним.
контрольний список
- [ ] У мене є дисципліна воріт, написана від ідеї до основної мережі.
- [ ] У мене є затверджена політика класифікації транспортного засобу та даних.
- [ ] Я взяв за правило, що приватний ключ/секретний код ніколи не буде надано транспортному засобу.
- [ ] Я прозоро документую використання ШІ.
- [ ] Я пропускаю кожну претензію безпеки через ворота перевірки.
- [ ] У мене є план реагування на інцидент.
- [ ] Я впроваджую етичні принципи в кожен крок; Я прийняв, що відповідальність лежить на людях.
Модульний екзамен
1. Що з наведеного нижче є найточнішим для позиціонування штучного інтелекту в Blockchain і Web3?
- A) Штучний інтелект може самостійно завершити перевірку безпеки та імпортувати код безпосередньо в основну мережу
- B) AI не працює на Web3; Всі роботи повинні виконуватися повністю вручну
- C) ШІ — генератор чорнових передач і помічник прискорювача; Критично важливе для безпеки остаточне схвалення здійснюється компетентним експертом ✔
- D) Оскільки штучний інтелект є більш об’єктивним, ніж людина, рішення щодо безпеки слід залишити йому.
Опис: у Web3 програмні помилки безповоротно перетворюються безпосередньо на гроші. Штучний інтелект; Це помічник-прискорювач, який створює чернетки, позначає шаблони та пише запити. У критично важливих для безпеки аудитах останнє слово залишається за компетентним експертом, який бере на себе професійну відповідальність; Внесок штучного інтелекту зростає, оскільки вартість помилки зменшується.
2. Який найбезпечніший підхід до того, щоб змусити ШІ писати код під час розробки смарт-контракту?
- A) Створення фреймворку на основі протестованих/перевірених бібліотек, компіляція, тестування та перевірка за допомогою testnet ✔
- B) Написання механізмів безпеки в штучний інтелект з нуля унікальним способом
- C) Як тільки код буде скомпільовано, вважайте його безпечним і передайте його безпосередньо в основну мережу.
- D) Залиште контроль доступу до кінця та зосередьтеся лише на функціональності
Пояснення: друк безпеки з нуля є ризикованим; ШІ може зробити помилки в оригінальному коді безпеки, а навчальні дані можуть бути застарілими. Правильний підхід полягає у створенні фреймворку на основі перевірених і перевірених бібліотек (наприклад, OpenZeppelin), а потім у створенні, тестуванні та перевірці за допомогою testnet.
3. Як аудитор повинен інтерпретувати це, коли він запитує ШІ про контракт і отримує відповідь, що «значної проблеми з безпекою немає»?
- A) Тепер код можна вважати безпечним, а аудит можна скоротити
- B) Незалежний аудит більше не потрібен
- C) Результат певний, тому що штучний інтелект сканує кожну категорію повністю.
- Г) Це не впевненість; ШІ може пропустити оригінальні помилки та помилки бізнес-логіки, все ще потрібен цілісний аудит ✔
Пояснення: той факт, що штучний інтелект не може щось знайти, не доводить, що цього не існує; Докази відсутності не є відсутністю доказів. Штучний інтелект особливо пропускає унікальні вразливості та помилки бізнес-логіки. Повільне твердження «безпеки» не є гарантією та не усуває потреби в цілісному контролі.
4. Що з перерахованого є найслабшою областю штучного інтелекту в скануванні вразливостей?
- A) Позначення добре відомих і чітких шаблонів, таких як Reentrancy
- B) Уразливості бізнес-логіки MEV/передньої роботи та специфічних для протоколу ✔
- C) Пояснення виходу інструменту статичного аналізу простою мовою
- D) Перелічіть відсутні функції контролю доступу
Опис: штучний інтелект є потужним інструментом для пошуку добре відомих однозначних шаблонів, таких як повторний доступ, контроль доступу та цілі числа. Однак уразливості бізнес-логіки MEV/front-running і специфічні для протоколу є контекстними та часто унікальними; це сліпа пляма штучного інтелекту і вимагає досвіду людини та моделювання.
5. Які найбезпечніші та найризикованіші способи використання ШІ для аналізу даних у мережі?
- A) Найбезпечніше – роздрукувати запит на вилучення даних; Найризикованіше запитувати живі дані безпосередньо у штучного інтелекту і не підтверджувати їх ✔
- Б) Найбезпечніше – запитувати живі дані безпосередньо у штучного інтелекту; написання запиту непотрібне
- C) Хеші та адреси, створені штучним інтелектом, завжди надійні, підтвердження не потрібне.
- Г) Прив’язка коментарів до джерела – марна трата часу; Досить плавного резюме
Пояснення: Штучний інтелект не залежить від живого ланцюга; Запитання безпосередньо щодо транзакції/адреси створює вигаданий (галюцинаторний) хеш і адресу. Найбезпечнішим використанням є друк запиту (наприклад, Dune SQL), який буде отримувати дані з джерела, оскільки джерело даних створює результат. Вільна інтерпретація ризикована, тому кожне число має бути підтверджено в провіднику блоків.
6. Які типи вразливостей є найдорожчими в протоколах DeFi і чому вони є складними для ШІ?
- A) Лише орфографічні/компіляційні помилки; ШІ їх легко вловлює
- B) Лише помилки інтерфейсу; економічний дизайн тут ні при чому
- C) Прогалини економічної/бізнес-логіки; навіть якщо код працює правильно, протокол може бути економічно використаний, і штучний інтелект пропускає це ✔
- Г) Лише орфографічні помилки; Переконливо доведено, враховуючи економічну безпеку, немає потреби в моделюванні
Пояснення: у DeFi найдорожчі експлойти зазвичай виникають не через технічну помилку коду, а через можливість використання економічної/бізнес-логіки (маніпуляції з оракулами, спотворення ціни флеш-позики, зловживання стимулами). Навіть якщо технічно код працює «правильно», протокол можна економічно обдурити. Хоча штучний інтелект добре сканує стандартний код, він часто не може побачити ці контекстуальні та унікальні економічні вразливості; вони вимагають моделювання та досвіду людини.
7. Яка найнебезпечніша помилка штучного інтелекту в токеномному моделюванні і як її уникнути?
- А) бути занадто песимістичним; рішення полягає в тому, щоб додати більш оптимістичні припущення
- B) Одиничний/оптимістичний сценарізм; Рішенням є стрес-тестування з негативними сценаріями та перевірка з моделюванням ✔
- C) Виробляє занадто багато таблиць; вихід - видалити столи
- D) Нестворення таблиці розподілу; Рішення полягає в тому, щоб взагалі не моделювати розподіл
Пояснення: Штучний інтелект зазвичай передбачає єдиний оптимістичний сценарій, де ціна завжди зростає, а користувач завжди зростає; через це нежиттєздатні моделі виглядають «стійкими», що призводить до краху. Захід полягає у стрес-тесті моделі з несприятливими сценаріями (ведмежий ринок, втеча мисливця за головами, продаж китів) і перевірці розрахунків викидів за допомогою реального моделювання.
8. У посібнику користувача, створеному штучним інтелектом, сказано, що «ваші кошти можна зняти в будь-який час», але в контракті є 7-денне блокування. Про що свідчить ця ситуація?
- А) Проблеми немає; Якщо документ готовий, його можна опублікувати як є
- B) Код неправильний, документ правильний; код повинен відповідати документу
- В) Користувач все одно не дивиться на документ; розбіжність не має значення
- Г) Документ суперечить коду; Кожна технічна претензія має бути підтверджена справжнім кодом, фальшива документація введе користувача в оману ✔
Опис: документація описує код; Це не сам код. ШІ може спотворити фактичну поведінку коду, що введе користувача в оману та стане проблемою безпеки. Ось чому кожна технічна претензія повинна бути перевірена на реальний код; Неправильна документація може бути навіть більш небезпечною, ніж правильний код, оскільки користувач довіряє документації.
9. Як діяти, коли ШІ сканує токен-контракт і позначає «червоний прапор» (наприклад, власник може зупинити передачу)?
- A) Прапор пов’язаний з джерелом і оцінюється за його контекстом і людським судженням; Уникайте остаточного вироку/наклепу ✔
- B) Договір однозначно буде визнано шахрайським і негайно оголошено
- C) Оскільки штучний інтелект встановлює прапор, немає потреби в подальшій перевірці
- D) Прапор ігнорується; Привілеї власника ніколи не становлять ризику
Опис: Штучний інтелект допомагає позначати відомі моделі шахрайства, але не може робити остаточні висновки; Деякі законні контракти (наприклад, захищені керуванням кількома підписами) також можуть містити право зупинки. Кожен прапорець має бути пов’язаний із джерелом (кодом/ланцюжком) і оцінюватися з його контекстом і людським судженням; Слід використовувати помірковану мову та уникати непідтверджених звинувачень (наклепів).
10. Те, що блокчейн «критично важливий для безпеки», прямо пов’язано з якою з причин, чому результати ШІ не можуть замінити схвалення експертів?
- А) Штучний інтелект не можна використовувати на практиці, оскільки він працює надто повільно
- Б) Тому що штучний інтелект завжди створює помилки компіляції
- C) Штучний інтелект не може покрити незворотний ризик через неможливість побачити початкову помилку, помилкове запевнення, неоновлення та нездатність взяти на себе відповідальність ✔
- D) Штучний інтелект не можна використовувати в турецьких проектах, оскільки він працює лише англійською мовою.
Пояснення: помилки в критично важливих для безпеки областях є незворотними та призводять безпосередньо до серйозних втрат (мільйони доларів). Штучний інтелект не може побачити вихідну/контекстуальну помилку, може давати фальшиві запевнення вільною мовою, не знає періоду після кінцевої дати навчання, і, найголовніше, не може брати на себе відповідальність. Технічне схвалення є технічним, юридичним та етичним зобов’язанням; Машина не може взяти на себе це зобов’язання, тому остаточне затвердження належить компетентному експерту.
11. Який найефективніший спосіб захистити критично важливий для безпеки проект Web3 від єдиної помилки штучного інтелекту, яка просочується в основну мережу?
- A) Делегування всього процесу одному інструменту ШІ та перегляд кінця
- B) Впровадити багаторівневу перевірку, яка ставить шлюз перевірки людиною та умову проходження на кожному етапі ✔
- C) Обхід незалежного аудиту для економії часу
- Г) Кожен розробник може вільно використовувати свій власний інструмент, не зберігаючи журналів
Пояснення: у багаторівневій верифікації на кожному етапі (запис, сканування, аудит, тестування/моделювання, розгортання, моніторинг) розміщуються шлюз перевірки людиною та умова чіткого проходження (чи пройдено тестування, чи підписано аудитор, чи утримано моделювання). Ви не можете пройти через одні двері, не пройшовши через інші; Ця багатошарова структура запобігає витоку єдиної помилки ШІ до живих.
12. Яке незмінне правило щодо закритого ключа або вихідної фрази під час отримання допомоги від штучного інтелекту під час налагодження?
- A) Вільно можна ділитися лише ключами для тестування гаманців
- B) Якщо ключ зашифрований, його можна передати штучному інтелекту
- C) Якщо штучний інтелект є надійним, керування гаманцем можна залишити йому
- D) Закритий ключ і початкову фразу не можна вводити в жодному інструменті штучного інтелекту чи підказці за жодних обставин ✔
Опис: закритий ключ і вихідні фрази є повним доступом до гаманця та коштів. За жодних обставин вони не записуються в інструмент штучного інтелекту, підказку чи будь-яке інше онлайн-розташування; Інакше існує ризик прямої та безповоротної втрати коштів. Ключі зберігаються лише в безпечному, бажано офлайн/апаратному гаманці.
13. Який найкращий підхід до управління для регулювання використання штучного інтелекту з конфіденційним кодом клієнта в аудиторській фірмі?
- A) Обробляйте секретний код лише в ізольованому транспортному засобі та за згодою клієнта, дотримуючись політики класифікації даних ✔
- B) Вставте секретний код у будь-який публічний інструмент для отримання найшвидших результатів
- В) Не має значення, чи секретний код; кожен інструмент безкоштовний для будь-яких даних
- D) Навіть якщо є витік, запобіжні заходи не потрібні, оскільки відповідальність належить постачальнику штучного інтелекту
Пояснення: вставлення неопублікованого (закритого коду) клієнтського коду в загальнодоступний інструмент ШІ без дозволу є порушенням контракту та ризиком витоку. Належне управління; Встановлення окремих правил для відкритого коду, конфіденційного коду клієнта, особистих даних і закритого ключа з політикою класифікації даних, обробка конфіденційного коду лише в ізольованих/корпоративних інструментах і за схваленням клієнта.