单位 11 / 11

端到端工作流程、治理、验证和道德规范

收益:

  • 能够建立端到端的工作流程,在从想法到主网的每个阶段放置人工智能+人工验证门
  • 能够创建具有批准的工具列表、数据分类、日志记录规则和私钥安全性的治理框架
  • 能够将人类责任、倡导、保密、透明和诚信原则嵌入工作流程的每一步

在最后一个单元中,我们将模块的所有部分组合成一个连贯的工作流程:如何从一个想法开始,通过智能合约编写、审计、链上分析、代币经济学和欺诈防御,端到端地负责任地使用人工智能。我们还将介绍如何以团队或独立专家的身份建立治理框架——工具选择、数据分类、记录和验证的规则——以及将道德原则嵌入到工作流程中。

端到端工作流程:从想法到主网

由 AI 驱动、经过人工验证的 Web3 项目之旅:

1. 设计和代币经济学。人工智能生成机制选项和代币大纲;经济学家和团队用负面情景进行模拟。 Door:多场景模拟站得住吗?

2.拼写。人工智能生成经过测试的基于库的框架和测试模板;开发商完成。门:构建+测试+审查。

3. 扫描。静态分析工具+人工智能扫描已知的漏洞模式。 Gate:误报是否已消除,真正的候选人是否已转交给审核员?

4. 审计。独立主管审核员全面审核,AI为助手;人类评估业务逻辑。门:签署检验报告。

5、测试与模拟。测试网、模糊测试和经济模拟。 Door:这些情景成立吗?

6. 文档。 AI白皮书、NatSpec和公平风险披露草案;人证实了事实。 Gate:技术声明与代码相符吗?

7. 分配。多重签名确认,逐步退出主网。 Door:事件响应计划准备好了吗?

8. 监控。链上监控通过人工智能标记异常;人们干预。 Door:谁将干预异常以及如何干预?

提示:将此流程分解为清单并询问“谁批准,通过条件是什么?”对于每扇门。填写各栏。在安全关键区域,不是口头的“好”,而是书面的门禁纪律会产生影响。

建立治理框架

个人的善意是不够的;需要一个可重复的框架。团队或专家的最低治理:

批准的车辆清单。哪些人工智能和安全工具可用于哪些任务?哪种隔离/企业工具用于神秘购物代码?自由驾驶存在泄漏风险。

数据分类。哪些数据可以提供给开放人工智能工具(公共代码),哪些数据永远不能提供(未经审计的客户代码、私钥、个人数据)?这个区别应该写清楚。

注册纪律(审计跟踪)。哪些输出是由人工智能产生的,以及由谁验证的,都会被记录下来。这对于透明度和问责制都是必要的。

持续验证。未经验证,人工智能产生的担保声明不得进行;这应该是一种文化。

治理要素

问题

目的

批准的车辆

哪个工具,哪个工作?

一致性、防泄漏

数据分类

什么可以给予,什么不可以给予?

隐私

报名纪律

谁制作的,谁证实的?

问责制

验证门

过渡条件是什么?

安全

密钥和隐私安全

针对 Web3 的严重警告:私钥(提供访问钱包和资金的密钥)和助记词(恢复词)在任何情况下都不会写入人工智能工具、提示或在线任何地方。这意味着资金的直接损失。同样,未经许可,未经审核的客户端代码也不能粘贴到开放的人工智能工具中。

注意:像“让我给人工智能我的私钥并要求它管理我的钱包”这样的想法是一场灾难。私钥仅保存在安全的离线钱包或硬件钱包中。人工智能不应该看到钥匙。

弱方法/强方法

弱方法:

每个人都应该使用他们想要的任何人工智能工具,无论出现什么。将客户代码粘贴到最快的工具中并直接使用输出。

强大的方法:

有一份经批准的车辆清单。密码仅适用于隔离车辆并经客户批准。每个人工智能输出都会通过验证门,并记录谁验证了它。私钥不会进入任何车辆。每项安全索赔都需要独立确认。

四个可复制模板

1)工作流程门图:

为 Web3 项目从创意到主网制定由人工智能驱动、经过人工验证的工作流程计划。对于每个阶段:AI做什么,人门是什么,过渡条件是什么?将其与桌子一起呈现。明确说明专家对安全关键步骤的批准。

2)数据分类政策:

为审计团队编写“可以给予人工智能什么”的政策:公共代码、未经审计的客户代码、个人数据、私钥的单独规则。为每个类别指定“可出口/在车辆中隔离/从不”。写下你的理由。

3)AI使用透明度说明:

为审计/文档输出制作一份透明度说明草案:如何以及在什么阶段使用人工智能;哪些输出经过人道验证;谁负有最终责任。诚实并有分寸。

4)事件响应和沟通计划:

在协议中起草实时安全事件的响应计划:技术步骤(停止、资金保护)、沟通(社区、用户)、发布(分析、恢复)。这是草案;团队必须进行校准。使用恐慌语言;保持清醒和冷静。

三个迷你箱(数量)

案例 1——治理防止泄漏。由于其数据分类政策(该政策强制使用隔离工具),一家审计公司阻止审计师将机密客户代码粘贴到公开可用的工具中。防止了可能的违约和泄漏。教训:书面政策可以发现个人错误。

案例 2 — 门禁纪律带来了一致性。一个团队对 6 个项目季度中的每个项目应用了相同的 8 端口流量。审计前发现的问题数量增加了 40%,而主网上线后发现的事件数量为零。教训:可重复的框架标准化了质量。

案例 3 — 从重大灾难中返回。一位开发者在调试时正要将测试钱包的私钥粘贴到AI提示中;他停下来并旋转钥匙,因为团队政策禁止这样做。如果是真正的资金,那将是一场灾难。教训:钥匙不能进入任何车辆,无一例外。

将道德融入工作流程

道德不是后来添加的项目,而是嵌入流程每一步的纪律:

  • 每个安全关键门都担负着人的责任。
  • 防御目的:保护和控制车辆;绝不要利用或陷害。
  • 隐私:客户数据和密钥受到保护。
  • 透明度:诚实地陈述人工智能的使用。
  • 诚信:用户和投资者不被误导,风险不被隐藏。
  • 公正和验证:每项主张均注明来源,并考虑利益冲突。

这些原则并不抽象,而是抽象的。它会在每一个提示、每扇门和每一个输出处变成具体的决定。该模块的本质是:AI放大了Web3专家的力量;但它并不能取代判断力、责任和道德。

常见错误

  • 缺乏书面的工作流程/门控规则。口头上的“好吧”是不够的。
  • 在没有批准的工具和数据政策的情况下工作。泄漏风险。
  • 隐藏人工智能的使用。这违背了透明度原则。
  • 向车辆提供私钥/密码。彻底的灾难。
  • 在没有事件响应计划的情况下上线。缺乏应对危机的准备。
  • 将道德视为一个留到最后的项目。道德必须融入每一步。

综上所述

  • 端到端流程在从创意到监控的每个阶段都设置了人工智能+人工验证门。
  • 治理框架:批准的工具、数据分类、记录规则、持续验证。
  • 私钥和密码不提供给任何AI工具;这是一条规则,无一例外。
  • 道德原则(责任、倡导、保密、透明、诚实)植根于每一步。
  • AI放大了专家的力量;它不能取代判断力、责任和道德。

应用任务

为您自己或您的团队编写一页“Web3 AI 使用框架”:(1) 从想法到主网的 8 阶段网关,(2) 数据分类政策,(3) 密钥/隐私规则,(4) 道德原则列表。然后根据这个框架彻底规划你在本模块中学到的一个实际任务(例如合同审计),并标记人工智能在哪一步最可靠,哪一步最不可靠。

清单

  • [ ] 我有一个从想法到主网编写的门控规则。
  • [ ] 我有已批准的车辆和数据分类政策。
  • [ ] 我制定了一条规则,私钥/密码永远不会提供给车辆。
  • [ ] 我透明地记录了人工智能的使用。
  • [ ] 我通过了验证门的每一项安全声明。
  • [ ] 我有一个事件响应计划。
  • [ ] 我在每一步中都融入了道德原则;我认为责任在于人。

模块考试

1、以下哪项对人工智能在区块链和Web3中的定位最准确?

  • A) 人工智能可自行完成安全审计,并将代码直接导入主网
  • B) AI 不适用于 Web3;所有工作必须完全手工完成
  • C) AI是草稿生成器和加速器助手;安全关键的最终批准由有能力的专家批准 ✔
  • D)由于人工智能比人类更客观,因此安全决策应该留给它。

描述:在Web3中,软件错误不可逆转地直接转化为金钱。人工智能;它是一个加速器助手,可以生成草稿、标记模式和编写查询。在安全关键审核中,最终决定权在于承担专业责任的称职专家;随着错误成本的降低,人工智能的贡献也会增加。

2. 开发智能合约时,让人工智能编写代码最安全的方法是什么?

  • A) 基于经过测试/验证的库生成框架,使用测试网进行编译、测试和验证 ✔
  • B)以独特的方式从头开始将安全机制写入人工智能
  • C) 代码编译完成后,请认为它是安全的,然后将其直接传输到主网。
  • D)将访问控制留到最后,只关注功能

说明:从头开始打印安全是有风险的; AI可能会在原始安全代码中出错,并且训练数据可能会过时。正确的方法是基于经过尝试和测试的库(例如 OpenZeppelin)生成一个框架,然后使用测试网进行构建、测试和验证。

3. 当审计师向人工智能询问一份合同并得到“似乎不存在重大安全问题”的答案时,他应该如何解释?

  • A) 现在可以认为代码是安全的并且可以缩短审核时间
  • B) 不再需要独立审计
  • C) 结果是确定的,因为人工智能完整地扫描了每个类别。
  • D) 这不是保证; AI可能会漏掉原始错误和业务逻辑错误,仍需要整体审计✔

说明:人工智能无法找到某物这一事实并不能证明它不存在;缺席证据并不等于没有证据。人工智能尤其会错过独特的漏洞和业务逻辑错误。流畅的“安全”声明并不能保证,也不能消除整体控制的需要。

4.以下哪项是人工智能在漏洞扫描方面最薄弱的领域?

  • A)标记众所周知且清晰的模式,例如可重入
  • B) MEV/抢先交易和特定于协议的业务逻辑漏洞 ✔
  • C)用通俗易懂的语言解释静态分析工具的输出
  • D) 列出访问控制缺失的功能

描述:人工智能在扫描众所周知的、明确的模式(例如重入、访问控制和整数运算)方面功能强大。然而,MEV/抢先交易和特定于协议的业务逻辑漏洞是相关的,并且通常是独特的;这些是人工智能的盲点,需要人类的专业知识和模拟。

5. 在链上数据分析中使用人工智能最安全和风险最大的方式是什么?

  • A) 最安全的是打印数据提取查询;最危险的是直接向人工智能请求实时数据而不确认✔
  • B) 最安全的是直接向人工智能请求实时数据;不需要编写查询
  • C) 人工智能产生的哈希值和地址总是可靠的,不需要确认。
  • D) 将评论链接到来源是浪费时间;流畅的总结就足够了

说明:人工智能不依赖于直播链;直接询问交易/地址会产生一个虚构的(幻觉的)哈希值和地址。最安全的用法是打印将从源中提取数据的查询(例如 Dune SQL),因为数据源会生成结果。自由解释是有风险的,每个数字都必须在区块浏览器中确认。

6. DeFi 协议中哪种类型的漏洞成本最高?为什么它们对 AI 构成挑战?

  • A) 仅拼写/编译错误;人工智能很容易捕捉到这些
  • B) 仅接口错误;经济设计与此无关
  • C) 经济/商业逻辑差距;即使代码正确运行,该协议也可以被经济地利用,而人工智能却错过了这一点 ✔
  • D) 仅拼写错误;考虑经济安全确凿证明,无需模拟

解释:在 DeFi 中,最昂贵的漏洞通常不是来自代码的技术错误,而是来自经济/商业逻辑的可利用性(预言机操纵、闪贷价格扭曲、激励滥用)。即使代码在技术上“正确”工作,协议也可能被经济欺骗。虽然人工智能擅长扫描标准代码,但它往往无法看到这些背景和独特的经济漏洞;这些需要模拟和人类专业知识。

7. 人工智能在代币经济建模中最危险的错误是什么以及如何避免?

  • A) 过于悲观;解决方案是添加更乐观的假设
  • B) 单一/乐观的情景主义;解决方案是使用负面场景进行压力测试并使用模拟进行验证✔
  • C) 产生太多表;解决方案是删除表
  • D) 未能制作分配表;解决方案是根本不对分布进行建模

解释:人工智能通常假设一个单一的、乐观的场景,即价格总是上涨,用户总是增加;这使得不可持续的模式显得“可持续”,从而导致崩溃。该措施是在不利情景(熊市、赏金猎人逃跑、鲸鱼出售)下对模型进行压力测试,并通过真实模拟验证排放计算。

8.人工智能制作的用户指南上写着“你的资金可以随时提取”,但合约有7天的锁定期。这种情况说明什么?

  • A)没有问题;如果文档流畅,可以按原样发布
  • B) 代码错误,文档正确;代码必须符合文档
  • C) 用户无论如何都不看文档;这种差异是无关紧要的
  • d) 文档与代码冲突;每项技术声明都必须用真实代码确认,虚假文档会误导用户✔

描述:文档描述了代码;这不是代码本身。人工智能可能会歪曲代码的实际行为,从而误导用户并成为安全问题。这就是为什么每个技术声明都应该根据实际代码进行验证;不正确的文档可能比正确的代码更危险,因为用户信任文档。

9. 当人工智能扫描代币合约并标记“危险信号”(例如所有者可以停止转账)时如何采取行动?

  • A) 标志与源相连,并根据其上下文和人类判断进行评估;避免最终判断/诽谤✔
  • B) 该合同肯定会被宣布为欺诈并立即公布
  • C) 既然是人工智能设置了flag,就不需要进一步验证
  • D) 该标志被忽略;所有者特权永远不会构成风险

描述:人工智能有助于标记已知的欺诈模式,但无法做出明确的判断;一些合法合约(例如受多重签名治理保护)也可能包含终止权。每个标志都应链接到源(代码/链),并根据其上下文和人类判断进行评估;应使用温和的语言,避免未经证实的指控(诽谤)。

10. 区块链的“安全关键”与人工智能输出无法取代专家认可的哪个原因最直接相关?

  • A)人工智能无法应用于实践,因为它运行速度太慢
  • B) 因为人工智能总是会产生编译错误
  • C) 人工智能无法覆盖因无法看到原始错误、虚假保证、未及时更新以及无法承担责任而导致的不可逆转的风险✔
  • D) 人工智能不能在土耳其项目中使用,因为它只适用于英语。

说明:安全关键领域的错误是不可逆转的,并直接导致严重损失(数百万美元)。人工智能无法看到原始/上下文错误,可以用流利的语言给出错误的保证,不知道训练截止日期之后的时间段,最重要的是,无法承担责任。工程审批是一项技术、法律和道德承诺;机器无法做出这样的承诺,因此最终批准权在于有能力的专家。

11. 保护安全关键型 Web3 项目免受单个 AI 漏洞泄漏到主网的最有效方法是什么?

  • A)将整个过程委托给一个人工智能工具并查看最终结果
  • B) 实施分层验证,在每个阶段设置人工验证门和通过条件 ✔
  • C) 绕过独立审核门以节省时间
  • D) 每个开发者都可以自由使用自己的工具,无需保留任何日志

说明:在分层验证中,每个阶段(写入、扫描、审计、测试/模拟、部署、监控)都放置人工验证门和明确的通过条件(测试是否通过、审核员是否签字、模拟是否保持)。你不可能穿过一扇门而不穿过另一扇门;这种分层结构可以防止单个人工智能错误泄露给人们。

12. 在调试过程中获得人工智能帮助时,关于私钥或助记词的不可变规则是什么?

  • A) 只有测试钱包的密钥可以自由共享
  • B) 如果密钥被加密,则可以将其交给人工智能
  • C) 当人工智能可靠时,钱包管理就可以交给它了
  • D) 私钥和助记词在任何情况下都不能输入到任何人工智能工具或提示中✔

描述:私钥和种子短语是对钱包和资金的完整访问权限。在任何情况下,这些内容都不会写入人工智能工具、提示或任何其他在线位置;否则存在直接且不可挽回的资金损失的风险。密钥仅保存在安全的、最好是离线/硬件钱包中。

13. 在审计公司中规范人工智能与机密客户代码的使用的最佳治理方法是什么?

  • A) 仅在隔离车辆中处理密码,并经客户批准,并采用数据分类政策 ✔
  • B) 将密码粘贴到任何公共工具中以获得最快结果
  • C) 代码是否保密并不重要;每个工具对于每个数据都是免费的
  • D) 即使存在泄露,也无需采取预防措施,责任属于人工智能提供者

澄清:未经许可将未发布(闭源)客户端代码粘贴到公共人工智能工具中属于违约行为并存在泄露风险。适当的治理;通过数据分类策略为公共代码、机密客户代码、个人数据和私钥设置单独的规则,仅在隔离/企业工具中并在客户批准的情况下处理机密代码。