Прибыль:
- Может различать подходы с нулевым и малым количеством выстрелов и знает, когда какой выбрать.
- Может применять правила отбора репрезентативных образцов, отражающих желаемую форму, тон и качество.
- Можно надежно контролировать формат и тон вывода с помощью сэмплов.
Иногда гораздо эффективнее что-то показать, чем описать. Вместо того, чтобы говорить «Напишите вежливым, но понятным языком вот так», покажите пример того, что именно вы хотите, и вы гораздо быстрее донесете свое намерение до модели. В этом и заключается суть «выборки из нескольких кадров»: обучение модели желаемому шаблону, показывая ей несколько примеров. В этом разделе мы изучим эту мощную технику и правила ее эффективного использования на сценариях из вашего собственного бизнеса.
Что такое Zero-Shot и Few-Shot?
Существует два основных подхода:
- Zero-shot: прямое описание задачи без приведения примеров к модели. «Классифицируйте этот отзыв как положительный, отрицательный или нейтральный». Модель реализует инструкцию, используя собственные знания.
- Несколько кадров: показ модели нескольких примеров пар ввода-вывода, а также описание задачи. «Вот 3 примера: комментарий → тег. Теперь отметьте комментарий 4». Узор имитирует узор, который вы показываете.
«Выстрел» здесь относится к количеству образцов, которые вы даете: если вы даете два образца, это «два выстрела», если вы даете пять образцов, это «пять выстрелов». Правило простое: чем более субъективна, формалистична или необычна задача, тем ценнее ее продемонстрировать.
Когда платят за несколько выстрелов?
Демонстрация важнее описания, особенно в следующих случаях:
- Если вам нужен определенный формат: если вы хотите, чтобы описания ваших продуктов всегда имели одинаковую структуру, лучше показать два примера, чем описание из десяти предложений.
- Если вам нужен определенный тон: трудно описать голос вашего бренда словами; Два образца текста мгновенно передают тон.
- Если вы занимаетесь классификацией: показать на примере, какой вход поступает в какую метку, безопаснее, чем писать правило.
- Если это необычная задача: если вам нужно специальное преобразование, которое шаблон встречается нечасто, пример обучает шаблону.
Правила выбора эффективного примера
Модель имитирует образцы; поэтому качество ваших семплов напрямую становится качеством выходного продукта. Пять правил:
- Пусть будет репрезентативным. Пусть примеры отражают типичные ситуации вашей реальной работы; не крайние и редкие случаи.
- Будьте последовательны. Пусть все примеры будут иметь одну и ту же форму, один и тот же тон, одну и ту же длину. Противоречивые примеры запутывают модель.
- Пусть будет качественным. Если ваш образец неисправен, выходные данные также будут дефектными. «Плохой пример – плохой учитель».
- Включите разнообразие. Приведите хотя бы один пример каждого ярлыка в классификации; В противном случае модель будет придерживаться той метки, которую она видит.
- Пусть этого будет немного, но достаточно. Обычно достаточно 2–5 образцов. Десятки примеров создают ненужную длину и могут придать ненужный вес редкому примеру.
Сравнение нулевого выстрела и небольшого количества выстрелов
критерий
Нулевой выстрел
несколько выстрелов
Усилия по установке
низкий
Средний (необходимо подготовить образец)
Согласованность формата
Переменная
высокий
регулятор тембра
тяжело
легко
необычная задача
слабый
сильный
длина подсказки
короткий
дольше
Четыре копируемых шаблона
1) Классификация (многозарядная):
Задача: пометить отзыв клиента как Положительный/Негативный/Нейтральный. Примеры:Комментарий: «Доставка была очень быстрой, мне очень понравилось». -> Положительный комментарий: «Товар не такой, как в описании». -> Негативный комментарий: «Коробка немного помялась, но товар работает». -> NeutralTag сейчас:Комментарий: «[новый комментарий]» ->
2) Передача тона (малокадровая):
Следующие два примера демонстрируют тон письма нашего бренда. Напишите описание нового продукта в двух предложениях в том же тоне. Пример 1: «[предложение о фирменном тоне]» Пример 2: «[предложение о фирменном тоне]» Новый продукт: [название + функция]
3) Малозарядный:
Преобразуйте необработанную заметку в структуру, показанную в примере ниже. Пример входных данных: «Али позвонил и спросил цену, он хочет 3 лицензии». Пример выходных данных: — Человек: Али — Запрос: 3 лицензии — Действие: Отправить предложение Преобразовать сейчас: Входные данные: «[необработанное примечание]»
4) Производство головы (малокадровое):
Создайте 5 заголовков, похожих по тону на примеры хороших заголовков ниже. Примеры: - «3 привычки, которые сокращают бухгалтерский учет до 10 минут» - «Скрытые налоговые преимущества для МСП» Тема: [ваша тема]
Слабая подсказка/Сильная подсказка
Слабый:
Разделите эти комментарии на положительные и отрицательные.[комментарии]
Сильный:
Отметьте каждый комментарий одним словом (Положительный/Негативный/Нейтральный), как показано в примерах ниже. Пишу описание. Али: "Отличный товар". -> PositiveAyşe: «Он пришел поздно». -> NegativeCan: «Все в порядке». -> НейтральныйКомментарии:[комментарии]
Второе приглашение одновременно исправляет набор тегов в примере и сокращает вывод до одного слова с ограничением «не писать описание»; Результат можно сразу обработать в таблицу.
Три мини-кейса
Кейс 1 — Служба поддержки, 200 комментариев. Команда поддержки электронной коммерции вручную помечала 200 отзывов клиентов; Это заняло около 2 часов на человека. Благодаря подсказке из четырех кадров и нескольких кадров модель помечала комментарии за считанные секунды; Проверив вручную только те, которые отмечены «Нейтрально» (около 30), команда сократила работу с 2 часов до 15 минут.
Кейс 2 — Голос бренда. Команда по контенту жаловалась, что новые авторы не соответствуют тону бренда. Создал шаблон, используя 3 утвержденных абзаца в качестве примера из нескольких кадров; Редакционные раунды нового контента были сокращены с двух до одного, поскольку тон был задан с первого раза.
Кейс 3 — CRM продаж. Отдел продаж писал заметки о звонках в произвольном тексте, и их было сложно обрабатывать в CRM (программное обеспечение для управления взаимоотношениями с клиентами). Подсказка «преобразовать заметку в структуру», состоящая из двух экземпляров, преобразовывала разрозненные заметки в формат «Контакт/Запрос/Следующий шаг»; ввод данных стандартизирован.
Совет: Выбирайте примеры из своих прошлых реальных и добрых дел. Три результата, которые вам нравятся больше всего, на самом деле являются вашими наиболее ценными примерами из нескольких кадров; держите их.
Внимание: если между вашими выборками (коротким и очень длинным, формальным и личным) возник конфликт, модель не будет знать, какой из них имитировать, и выдаст противоречивые результаты. Прежде чем публиковать примеры, убедитесь, что они непротиворечивы между собой.
Распространенные ошибки
- Противоречивые примеры. Смешивание образцов разных форм и тонов.
- Предвзятый пример одного ярлыка. Приводим только «положительные» примеры в классификации и рисуем там модель.
- Некачественный пример. Копирование дефектного образца и изготовление такого же дефекта.
- Крайний пример. Размещать 30 примеров без необходимости и делать подсказку раздутой.
- Запутанная задача с примером. Не различая, что является примером, а что фактическим запросом.
В заключение
- «Нулевой снимок» описывает задачу без приведения примеров, а «немного выстрела» описывает задачу, показывая несколько образцов пар ввода-вывода.
- Модель имитирует образцы; Качество образцов напрямую зависит от качества продукции.
- Хорошая репрезентация выборки должна быть последовательной, высококачественной, разнообразной и малой, но достаточной.
- Немногие кадры превосходны в описании, особенно в форме, тоне, классификации и незнакомых задачах.
- Ваша лучшая прошлая работа — это ваши самые ценные примеры из нескольких кадров; сохраните их в библиотеке.
Задача приложения
Выберите задачу сортировки или форматирования, которую вы выполняете регулярно (например, пометку комментариев, редактирование заметок, создание заголовков и т. д.). Выберите 3 хороших примера из своей прошлой работы, настройте последовательную подсказку из нескольких кадров и протестируйте ее на 5 новых входных данных. Измерьте, какую часть выходного сигнала вы можете использовать без коррекции, и попробуйте улучшить результат, изменив сэмплы.
контрольный список
- [ ] Я могу объяснить разницу между нулевым и малым количеством выстрелов.
- [ ] Я знаю, когда лучше показать, чем описать.
- [ ] Я могу подобрать репрезентативные, последовательные и качественные примеры.
- [ ] Привожу примеры каждого ярлыка в классификации.
- [ ] Я сохраняю свои лучшие результаты в качестве примера на будущее.