Печалби:
- Може да прави разлика между подходи с нулев и няколко изстрела и знае кога да избере
- Може да прилага правила за избор на представителни проби, които отразяват желаната форма, тон и качество
- Може надеждно да контролира формата и тона на изхода със семпли
Понякога е много по-ефективно да покажеш нещо, отколкото да го опишеш. Вместо да казвате „Пишете на учтив, но ясен език като този“, показвайки пример за това, което точно искате, ще предаде вашето намерение на модела много по-бързо. Точно това е „вземането на проби от няколко изстрела“: да научите модела на модела, който искате, като му покажете няколко примера. В тази част ще научим тази мощна техника и правилата за ефективното й използване със сценарии от вашия собствен бизнес.
Какво представляват Zero-Shot и Few-Shot?
Има два основни подхода:
- Zero-shot: Директно описание на задачата, без да се дават примери на модела. „Класифицирайте този преглед като положителен, отрицателен или неутрален.“ Моделът изпълнява инструкцията със собствени знания.
- Няколко снимки: Показване на няколко примерни двойки вход-изход към модела, както и описание на задачата. "Ето 3 примера: коментар → етикет. Сега маркирайте коментар 4." Моделът имитира модела, който показвате.
„Изстрелът“ тук се отнася до броя на пробите, които давате: ако дадете две проби, това е „двукратно“, ако дадете пет проби, това е „петкратно“. Правилото е просто: колкото по-субективна, формалистична или необичайна е задачата, толкова по-ценна е демонстрацията.
Кога Few-Shot плаща?
Демонстрирането е по-добро от описването, особено в следните случаи:
- Ако искате конкретен формат: Ако искате описанията на вашите продукти винаги да имат една и съща структура, показването на два примера е по-ясно от описание от десет изречения.
- Ако искате специфичен тон: Трудно е да се опише гласът на вашата марка с думи; Два примерни текста незабавно предават тона.
- Ако правите класификация: Показването с пример кой вход отива към кой етикет е по-безопасно от писането на правилото.
- Ако това е необичайна задача: Ако искате специална трансформация, която моделът не вижда често, примерът учи шаблона.
Правила за избор на ефективен пример
Моделът имитира пробите; така че качеството на вашите проби директно се превръща в качеството на продукцията. Пет правила:
- Нека е представително. Нека примерите отразяват типични ситуации от вашата реална работа; не крайни и редки случаи.
- Бъдете последователни. Нека всички примери следват същата форма, същия тон, същата дължина. Противоречивите примери объркват модела.
- Нека е качествено. Ако вашата проба е дефектна, изходът също ще бъде дефектен. "Лошият пример е лош учител."
- Включете разнообразие. Дайте поне един пример за всеки етикет в класификацията; В противен случай моделът ще се придържа към етикета, който вижда.
- Нека да е малко, но достатъчно. Обикновено 2-5 проби ще свършат работа. Десетките примери създават ненужна дължина и могат да придадат прекомерна тежест на рядък пример.
Сравнение с нулев / няколко изстрела
критерий
Нулев изстрел
няколко изстрела
Усилие за инсталиране
ниско
Среден (трябва да се подготви проба)
Съгласуваност на формата
Променлива
високо
контрол на тона
трудно
лесно
необичайна задача
слаб
силен
бърза дължина
кратко
по-дълго
Четири копируеми шаблона
1) Класификация (няколко изстрела):
Задача: Маркирайте рецензията на клиента като Положителна / Отрицателна / Неутрална. Примери: Коментар: „Доставката беше много бърза, хареса ми.“ -> Положителен коментар: "Продуктът не беше като в описанието." -> Отрицателен коментар: "Кутията беше малко смачкана, но продуктът работи." -> NeutralTag сега: Коментар: "[нов коментар]" ->
2) Прехвърляне на тон (няколко изстрела):
Следващите два примера показват тона на писане на нашата марка. Напишете описание от 2 изречения за нов продукт със същия тон. Пример 1: „[изречение за тон на марка]“ Пример 2: „[изречение за тон на марка]“Нов продукт: [име + функция]
3) Няколко изстрела:
Преобразувайте необработената бележка в структурата в примера по-долу. Примерен вход: „Али се обади и попита за цена, той иска 3 лиценза“ Примерен изход:- Лице: Али- Заявка: 3 лиценза- Действие: Изпратете оферта Преобразувайте сега: Вход: „[сурова бележка]“
4) Производство на главата (няколко изстрела):
Създайте 5 заглавия, които са подобни по тон на примерите за добри заглавия по-долу. Примери:- „3 навика, които намаляват счетоводството до 10 минути“- „Скрито данъчно предимство за МСП“ Тема: [вашата тема]
Слаба подкана / Силна подкана
Слаб:
Разделете тези коментари на положителни или отрицателни коментари.[коментари]
Силен:
Маркирайте всеки коментар с една дума (Позитивен / Отрицателен / Неутрален), както е в примерите по-долу. Писане на описание. Али: "Страхотен продукт." -> PositiveAyşe: "Той дойде късно." -> NegativeCan: "Всичко е наред." -> Неутрални коментари: [коментари]
Втората подкана едновременно коригира етикета, зададен с примера, и намалява изхода до една дума с ограничението „не пишете описание“; Резултатът може да се обработи директно в таблица.
Три мини калъфа
Случай 1 — Екип за поддръжка, 200 коментара. Екип за поддръжка на електронна търговия маркира ръчно 200 отзива на клиенти; Отне около 2 часа на човек. С подкана от 4 снимки и няколко снимки, моделът тагва коментари за секунди; Чрез ръчен преглед само на маркираните с „Неутрални“ (около 30), екипът намали работата от 2 часа на 15 минути.
Случай 2 — Глас на марката. Екип по съдържанието се оплакваше, че новите автори не улучват тона на марката. Създаден шаблон, използващ 3 одобрени абзаца като кратък пример; Редакционните кръгове на ново съдържание бяха намалени от два на един, тъй като тонът беше установен за първи път.
Случай 3 — Продажби CRM. Екип по продажбите пишеше бележки за разговори в свободен текст и беше тромаво да се обработват в CRM (софтуер за управление на взаимоотношенията с клиенти). Подканата за „преобразуване на бележка в структура“ с две инстанции преобразува разпръснати бележки във формат „Контакт/Заявка/Следваща стъпка“; въвеждането на данни е стандартизирано.
Съвет: Изберете вашите примери от вашите минали реални и добри дела. Трите резултата, които харесвате най-много, всъщност са вашите най-ценни примери от няколко изстрела; пазете ги.
Внимание: Ако има конфликт между вашите семпли (един кратък и един много дълъг, един официален и един интимен), моделът няма да знае кой да имитира и ще даде непоследователен резултат. Преди да публикувате примери, уверете се, че са последователни помежду си.
Често срещани грешки
- Противоречиви примери. Смесване на проби с различни форми и тонове.
- Предубеден пример за един етикет. Даване само на "положителни" примери в класификацията и рисуване на модела там.
- Пример с лошо качество. Копиране на дефектна проба и създаване на същия дефект.
- Екстремен пример. Поставяне на 30 примера ненужно и раздуване на подканата.
- Объркваща задача с пример. Без да се прави разлика кое е примерно и кое истинско искане.
В обобщение
- Zero-shot описва задачата, без да дава примери, докато small-shot описва задачата, като показва няколко примерни входно-изходни двойки.
- Моделът имитира пробите; Качеството на пробите е пряко качеството на продукцията.
- Доброто представяне на извадката трябва да бъде последователно, висококачествено, разнообразно и малко, но достатъчно.
- Few-shot се отличава с описание, особено по форма, тон, класификация и непознати задачи.
- Вашата най-добра минала работа е най-ценният ви кратък пример; запазете ги в библиотеката.
Задача за приложение
Изберете задача за сортиране или форматиране, която изпълнявате редовно (като маркиране на коментари, редактиране на бележки, генериране на заглавия и т.н.). Изберете 3 добри примера от предишната си работа, настройте последователна подкана от няколко изстрела и я тествайте на 5 нови входа. Измерете каква част от изхода можете да използвате без корекция и опитайте да подобрите резултата, като промените пробите.
контролен списък
- [ ] Мога да обясня разликата между нулев изстрел и няколко изстрела.
- [ ] Знам кога показването е по-добро от описването.
- [ ] Мога да избирам представителни, последователни и висококачествени примери.
- [ ] Давам примери за всеки етикет в класификацията.
- [ ] Запазвам най-добрите си резултати като примери за бъдещето.