收益:
- 能够区分零样本和少样本方法,并知道何时选择哪种方法
- 可以应用规则来选择反映所需形式、色调和质量的代表性样本
- 可以可靠地控制样本输出的格式和音调
有时,展示某事比描述它更有效。与其说“用这样礼貌但清晰的语言编写”,不如展示一个你想要的例子,这样可以更快地将你的意图传达给模型。这正是“少样本采样”的全部内容:通过向模型展示一些示例来向模型传授您想要的模式。在本单元中,我们将通过您自己的业务场景来学习这种强大的技术以及有效使用它的规则。
什么是零样本和少样本?
有两种基本方法:
- 零样本:直接描述任务,而不给模型提供任何示例。 “将此评论分为正面、负面或中立。”模型用自己的知识来实现指令。
- Few-shot:显示模型的一些示例输入输出对以及描述任务。 “这里有 3 个示例:评论 → 标签。现在标记评论 4。”该图案模仿您展示的图案。
这里的“镜头”指的是你给出的样本数量:如果你给出两个样本,那就是“二镜头”,如果你给出五个样本,那就是“五镜头”。规则很简单:任务越主观、形式主义或不寻常,它的展示价值就越高。
少投何时能带来回报?
演示优于描述,尤其是在以下情况下:
- 如果您想要特定的格式:如果您希望产品描述始终具有相同的结构,那么显示两个示例比十句话的描述更清晰。
- 如果你想要一个特定的基调:很难用语言描述你的品牌声音;两个示例文本立即传达了语气。
- 如果您正在进行分类:用示例显示哪个输入进入哪个标签比编写规则更安全。
- 如果这是一项不寻常的任务:如果您想要模式不经常看到的特殊转换,则示例会教授该模式。
选择有效范例的规则
模型模仿样品;因此样品的质量直接决定了输出的质量。五个规则:
- 让它具有代表性。让例子反映你实际工作中的典型情况;不是极端和罕见的情况。
- 保持一致。让所有的例子都遵循相同的形式、相同的语气、相同的长度。自相矛盾的例子使模型变得混乱。
- 让它成为品质。如果您的样品有缺陷,那么输出也会有缺陷。 “一个坏榜样就是一个坏老师。”
- 包括多样性。为分类中的每个标签至少给出一个示例;否则,模型将坚持它看到的标签。
- 让它少一点,但足够了。通常 2-5 个样本就可以解决问题。数十个示例会产生不必要的长度,并且可能会过度重视一个罕见的示例。
零样本/少样本比较
标准
零射击
几枪
安装工作量
低
中等(需准备样品)
格式一致性
变量
高
音调控制
硬
容易
不寻常的任务
弱
强
提示长度
短
更长
四个可复制模板
1)分类(少镜头):
任务:将客户评论标记为正面/负面/中立。示例:评论:“运输非常快,我喜欢它。” -> 正面评论:“产品与描述不符。” -> 负面评论:“盒子有点被压坏,但产品很好用。” -> 现在中立标签:评论:“[新评论]” ->
2) 音调传输(少数镜头):
下面两个例子展示了我们品牌的写作语气。用同样的语气为新产品写一篇 2 句话的描述。示例 1:“[品牌语气句]”示例 2:“[品牌语气句]”新产品:[名称 + 功能]
3)少射:
将原始注释转换为以下示例中的结构。示例输入:“Ali 打电话询问价格,他想要 3 个许可证”示例输出:- 人员:Ali- 请求:3 个许可证- 操作:发送报价 立即转换:输入:“[原始注释]”
4)头部制作(少射):
创建 5 个与下面的好标题示例在语气上相似的标题。示例:-“将会计时间缩短至 10 分钟的 3 个习惯”-“中小企业的隐性税收优势”主题:[您的主题]
弱提示/强提示
弱:
将这些评论分为正面评论或负面评论。[评论]
强:
用一个单词(正面/负面/中立)标记每个评论,如下例所示。写一个描述。阿里:“很棒的产品。” -> PositiveAyşe:“他来晚了。” -> NegativeCan:“没关系。” -> 中立评论:[评论]
第二个提示既修复了示例中的标签集,又使用“不写描述”约束将输出减少为单个单词;结果可以直接处理成表。
三个迷你箱
案例 1 — 支持团队,200 条评论。电子商务支持团队手动标记 200 条客户评论;每人大约需要2个小时。通过 4 次少量提示,模型可以在几秒钟内标记评论;通过仅手动审核那些标记为“中立”的内容(大约 30 个),团队将工作时间从 2 小时减少到 15 分钟。
案例 2——品牌声音。内容团队抱怨新作家没有达到品牌基调。使用 3 个已批准的段落作为少数镜头示例创建了一个模板;新内容的编辑轮次从两轮减少到一轮,因为基调是第一次确定的。
案例 3 — 销售 CRM。销售团队以自由文本形式编写通话记录,将其处理到 CRM(客户关系管理软件)中非常麻烦。两个实例的“将注释转换为结构”提示将分散的注释转换为“联系/请求/下一步”格式;数据输入标准化。
提示:从你过去真实的善行中选择你的例子。您最喜欢的三个输出实际上是您最有价值的少数示例;保留它们。
注意:如果您的样本之间存在冲突(一短一长,一正式一亲密),模型将不知道要模仿哪一个,并且会给出不一致的输出。在发布示例之前,请确保它们之间是一致的。
常见错误
- 自相矛盾的例子。混合不同形状和色调的样本。
- 单一标签的偏差示例。仅给出分类中的“正面”示例并在那里绘制模型。
- 质量差的例子。复制有缺陷的样品并产生相同的缺陷。
- 极端的例子。不必要地放置 30 个示例,并使提示变得臃肿。
- 令人困惑的任务与示例。不区分哪个是示例,哪个是实际请求。
综上所述
- 零样本是在不给出示例的情况下描述任务,而少样本是通过显示一些样本输入输出对来描述任务。
- 模型模仿样品;样品的质量直接决定输出的质量。
- 良好的样本表示应该是一致的、高质量的、多样化的、少但足够的。
- Few-shot 擅长描述,尤其是在形式、语气、分类和不熟悉的任务方面。
- 你过去最好的作品是你最有价值的少数例子;将它们保存在图书馆中。
应用任务
选择您经常执行的排序或格式化任务(例如评论标记、注释编辑、标题生成等)。从您过去的工作中选择 3 个好的示例,设置一致的几次提示,并在 5 个新输入上进行测试。测量无需校正即可使用多少输出,并尝试通过更改样本来改进结果。
清单
- [ ] 我可以解释零样本和少样本之间的区别。
- [ ] 我知道什么时候展示比描述更好。
- [ ] 我可以选择有代表性的、一致的、高质量的例子。
- [ ] 我给出了分类中每个标签的示例。
- [ ] 我保留我最好的输出作为未来的例子。