收益：
- 根据任务风险级别，能够区分 UX 工作流程（研究综合、人物角色、线框图、界面文本、测试分析）中人工智能节省了实时时间，以及设计师的哪些职责（例如听取用户意见和最终设计决策）由设计师承担
- 能够形成一种反射，将每个人工智能输出与真实的用户数据和证据联系起来，并通过探测步骤验证幻觉和偏见
- 能够对 KVKK 范围内的用户对话记录和个人数据进行匿名化处理，并在同意范围内将其传输至人工智能
用户体验（UX，即人从开始到结束使用产品的体验）设计多年来一直遵循“先了解人，然后解决它”的原则。当人工智能进入这个循环时，大多数人的第一个问题是：“人工智能会为我做设计吗？”简短的回答：不。人工智能是设计助手；它生成草稿、总结数据、增加选项并加快重复性任务的速度。但真正倾听用户的声音、决定什么是正确的解决方案并为此决定承担责任始终属于设计师。第一个单元阐明了在 UX 工作流程中应将 AI 置于何处、应在何处停止以及如何安全地移动用户数据。
人工智能在用户体验工作流程中的哪些地方派上用场？
用户体验项目大致经历五个阶段：发现（研究）、定义（角色和问题）、生产（流程、线框、原型）、测试（可用性）和交付（设计系统、文档）。人工智能在每个阶段发挥着不同的作用。
- 发现：在几分钟而不是几小时内总结数十份采访笔录（转录录音），提取初始主题。但哪个主题重要取决于个人。
- 描述：生成角色（代表特定用户类型的虚构个人资料）和旅程地图草稿。但你的工作是确保这些草稿基于真实数据。
- 生成：线框（屏幕的框线骨架）、流程图和界面文本再现变化。
- 测试：从测试记录中获取结果并按重要性顺序对它们进行排名。
- 演示：编写组件文档和使用规则。
共同点是：人工智能生成草稿和选项；判断和认可仍然由你决定。
提示：使用人工智能不是为了“给我答案”，而是“快速给我选择，让我选择”。当您委托准备工作而不是决策时，效率就会最高。
任务风险等级：哪里自由，哪里谨慎？
并非每项任务都具有相同的风险。一个简单的经验法则：输出对用户的影响越直接，风险就越高。
任务
风险等级
人工智能的作用
人类的认可
会议记录摘要
低
几乎全部转移
轻微略读
生成线框变化
低中
生成草稿
设计师选择并修复
创建研究主题
中等
预合成
需要通过报价进行验证
界面文字（错误信息等）
中高
产生变异
语气、准确性、规律检查
无障碍确认
高
预扫描
必须进行真实测试
确定用户的真实需求
最高
没办法
一切尽在设计师之手
这张图表是一个指南针：当你向上移动时，你对人工智能的信任就会减少，而你自己的验证就会增加。
幻觉和偏见：两个基本限制
你必须从一开始就将人工智能的两个盲点内化。
幻觉（捏造）：大型语言模型（可能是经过大量文本训练的猜词人工智能）可以产生流畅但实际上不准确的信息。例如，它说“用户在 20 次对话中要求速度”，但实际上没有这样的引用。无论输出看起来多么有信心，如果没有链接到来源，它都是不准确的。
偏差：模型带有其训练数据中固有的偏差。诸如“老年用户害怕技术”之类的陈词滥调可能会渗透到角色或脚本中。这些句子是不受支持的概括，应该用真实数据进行测试。
注意：AI输出的流畅度和准确性不是一回事。最危险的输出是用错误但完美的句子写成的输出。
用户数据、KVKK 和同意
用户体验研究涉及个人数据：对话日志、姓名、工作场所、屏幕截图，甚至音频。将此数据上传到任意人工智能工具可能违反 KVKK（个人数据保护法）。经验法则是三个步骤：匿名、保持同意、使用机构批准的工具。
- 掩盖直接标识符，例如姓名、电话、电子邮件、公司名称（例如“参与者 3”）。
- 不超出研究期间给予参与者的同意范围；如果你没有说“将被加工成人工智能”，那就要小心了。
- 在企业环境中，选择明确数据存储位置以及是否用于模型训练的工具。
三个迷你箱子
案例 1 — 在正确的位置节省时间。一位设计师让AI总结了18份采访笔录（共62页）。预读原本需要 2 天的时间，现在减少到 40 分钟。但设计师将输出中的每个主题与实际报价进行了匹配，发现有 3 个主题没有依据。结果：速度+可靠性。
情况 2 — 未经验证的输出进入演示文稿。另一个团队在报告中加入了人工智能产生的句子“70%的用户更喜欢移动”。当问及来源时，对方透露没有这样的数据；模特已经凑足了这个数字。利益相关者的信任受到损害。教训：如果没有证据，数字和说法就不会传播。
案例3——个人数据泄露风险。一名实习生将录音和参与者姓名上传到一个免费网站，该网站会自动转录该录音。该机构的安全团队将此标记为 KVKK 风险，并停止了该过程。教训：工具选择和匿名化是从一开始就完成的。
可复制的提示
您的角色：高级用户体验研究助理。任务：从下面的匿名采访记录中提取最多 6 个主题。规则：在每个主题旁边至少添加一个逐字引用，并带有标签 [参与者 X]。不要创建无法找到报价的主题。如有疑问，请写“弱支持”。文字记录：<<正文>>
检查此 AI 输出：检查下面主题列表中每个项目的文本中的事实基础。将那些没有依据的标记为“未验证”，并写下您怀疑的原因。列表：<<主题>>源文本：<<脚本>>
从下面的文本中查找所有个人/身份数据（姓名、电话、电子邮件、公司、地址）并替换为 [MASKED]。还以表格形式提供更改列表。不要删除任何信息，只是屏蔽它。文本：<<dump>>
对设计任务进行分类：确定“<<任务>>”的风险级别（低/中/高），用一句话写出人工智能的角色和所需的人类批准。解释你的推理。
弱提示/强提示
弱者：“总结一下这些对话。”
结果：无来源、通用且无法验证的文本；目前尚不清楚哪句话来自哪里。
Strong：“从这份匿名记录中提取最多 6 个主题；在每个主题中至少添加一个标记为 [参与者 X] 的逐字引述；不要生成您无法找到引述的主题。”
结果：基于证据、可审计、有利于决策的结果。
区别就在一句话：强提示给出上下文+规则+证明要求。
常见错误
- 将输出从验证转移到决策。最常见和最昂贵的错误；一个人为的主题可能会扭曲整个设计方向。
- 上传个人数据而不进行匿名化。 KVKK 违规并丧失企业信任。
- 让人工智能“做决定”。 “哪种设计更好？”问题的答案在于产品、在于用户、在于数据；不在模型中。
- 不阅读车辆的数据政策。在不知道您的数据是否用于模型训练的情况下输入关键数据。
- 将流畅性误认为准确性。一个写得好的句子并不意味着一个正确的句子。
总之
人工智能是用户体验工作流程中的加速器和蓝图合作伙伴；它承担从发现到展示的每个阶段的准备工作。但判断、决定和责任仍然由设计师承担。 “任务的风险对用户的影响有多大？”用问题来衡量；随着风险的增加，增加您的验证。幻觉和偏见是两个永久的限制：用证据支持每一个主张，用数据检验每一个陈词滥调。在 KVKK 和同意的框架内通过匿名化方式传输用户数据。这些反应是本模块其余部分中每种技术的安全基础。
应用任务
- 列出您当前项目（或虚构项目）中的 5 项设计任务。
- 将每项任务放在上面的风险表中：低、中、高。
- 对于每项任务，写一句话“人工智能的作用”和“需要人类批准”。
- 如果您有采访记录，请使用第三个提示将其匿名并查看屏蔽表。
- 将结果绘制在表格中，并在段落中解释为什么风险最高的任务需要人工批准。
清单
- [ ] 我将人工智能定位为草稿生成器，而不是决策者。
- [ ] 我确定了每个任务的风险级别。
- [ ] 我养成了将输出与证据联系起来的习惯。
- [ ] 我没有将个人数据上传到任何工具而不进行匿名处理。
- [ ] 我检查了我正在使用的车辆的数据政策。
- [ ] 我在我的工作流程中添加了幻觉和偏见检查。