Прибуток:
- Розпізнає найпоширеніші помилки підказки на реальних прикладах
- Може застосувати практичне та повторюване виправлення для кожної помилки
- Розуміє, що поганий вихід часто спричинений поганою підказкою
У цьому модулі ми навчилися писати хороші підказки одну за одною. Тепер давайте підкріпимо їх під іншим кутом зору: розглянемо найпоширеніші помилки та способи їх вирішення. Переважна більшість поганих результатів штучного інтелекту пов’язана з поганими підказками, а не з невідповідністю моделі. Якщо ви розпізнаєте помилки в цьому пристрої, ви можете швидко діагностувати та виправити проблеми у власних підказках; Замість того, щоб сказати «ШІ не може цього зробити», ви можете сказати «Дозвольте мені виправити мою підказку таким чином».
Чому важливо розпізнавати помилки?
Коли результат не відповідає вашим очікуванням, ви можете реагувати двома способами: звинуватити інструмент або поставити під сумнів підказку. Досвідчений користувач робить останнє. Тому що найчастіше джерело проблеми очевидне, а результат змінюється з невеликою корекцією. Нижче ми побачимо вісім найпоширеніших помилок, їх симптоми та способи вирішення.
Вісім найпоширеніших помилок
Помилка
симптом
Рішення
двозначність
Загальна відповідь "універсальний розмір для всіх".
Дайте вимірні інструкції
Нульовий контекст
Вихід, який не відповідає ситуації
Додайте хто/чому/історію
Не вказуючи формат
Вихід у неправильному форматі
Примусовий формат
відсутність обмежень
Надмірний, девіантний контент
Додайте список «не можна».
перевантаження
Модель пропускає деякі запити
Розподіліть роботу, розставте пріоритети
непідтвердження
Використання фейкової інформації
Перевірте факти з джерелом
Очікування одного удару
Не здавайтеся на першому виході
Ітерація
суперечлива інструкція
непослідовний вихід
Вирівняти обмеження
Покроковий метод діагностики
Коли надходить пошкоджений вихід, дотримуйтесь такого порядку:
- Чи зрозуміла місія? Чи є дієслово конкретним, воно означає єдине, що ви хочете?
- Чи достатньо контексту? Чи знає модель ситуацію?
- Чи був згаданий формат? Формат такий, як ви хочете?
- Чи є якісь обмеження? Чи написано, що не хочеться?
- Я навантажив занадто багато? Я просив 5 різних вакансій в одній підказці?
- Я підтвердив? Чи перевірено номер, ім'я, дату?
Ці шість запитань виявляють майже всі помилки.
Чотири шаблони коректури, які можна копіювати
1) Усунення двозначності:
Зробіть цю інструкцію вимірюваною: [туманна інструкція] Переведіть кожну нечітку точку в конкретне число, кількість або критерій.
2) Розподіл перевантаження:
Не виконуйте це завдання все відразу. Продовжуйте в такому порядку та зупиняйтеся, коли завершите кожен крок, дочекайтеся мого підтвердження:1) [підзавдання 1]2) [підзавдання 2]3) [підзавдання 3]
3) обмежувальна арматура:
Просто покладайтеся на інформацію, яку я надав нижче. Якщо інформації немає, напишіть «немає даних»; не вгадуй і не дописуй. Укажіть, з якого рядка походить кожне важливе твердження, яке ви використовуєте. Джерело: [текст]
4) Розв’язання протиріччя:
Перевірте, чи немає протиріч у наданих мною інструкціях. Якщо так, перелічіть суперечливі моменти та запитайте, якому з них віддати перевагу; потім виробляйте відповідно.
Слабка підказка / Сильна підказка
Слабкий (багато помилок разом):
Напишіть комплексний план для нашої компанії щодо маркетингу, бюджету та найму персоналу, і все готово.
Потужний (виправлено помилки):
Посада: Ви фахівець із розвитку бізнесу, який консультує МСП. Контекст: компанія з програмного забезпечення з 12 людьми; мета – 20 нових клієнтів у цьому кварталі. Завдання: написати ТІЛЬКИ маркетинговий план (не включати бюджет і наймання). Формат: список дій із 5 пунктів; кожен пункт: дія + відповідальність + критерії. Обмеження: оплачений рекламний бюджет 0; Рекомендуйте лише органічні канали. Не надавайте підроблені показники; Обґрунтуйте пропозицію.
Потужна версія розділяє перевантаження (втиснення трьох тем в одну підказку), замінює двозначність («удачі») критеріями та додає форматування та обмеження.
Три міні-чохли
Випадок 1 — Перевантаження. Менеджер запросив резюме звіту, план презентації та електронну пошту в одному запиті; Модель склала всі три навпіл. Розділивши завдання на три окремі підказки, кожен результат був завершеним і придатним для використання. Загальний час був меншим, ніж боротьба з однією складною підказкою.
Випадок 2 — Непідтвердження. Команда контенту опублікувала «галузеву статистику», надану моделлю, не перевіривши її; Номер виявився неправильним, і їм довелося внести виправлення. Згодом взяли на озброєння правило «кожне число давай з джерелом, я перевірю джерело» і усунули цей ризик.
Випадок 3 — Конфліктна інструкція. Коли маркетолог сказав «дуже коротко, але розкажи всі особливості», модель пропустила деякі функції. Коли я зробив інструкцію несуперечливою, як «опиши 3 найважливіші функції 60 словами», результат був і коротким, і повним.
Порада: перед тим, як вийти в прямому ефірі, прогляньте підказку через «шість діагностичних запитань». Ця 30-секундна перевірка робить більшість раундів ітерації непотрібними з самого початку.
Застереження: найнебезпечнішою помилкою є «неперевірка», оскільки її не помічають, тому що результат виглядає плавним і переконливим. Модель може з великою впевненістю відповідати номеру, імені чи джерелу. Незалежно перевірити будь-який факт, який буде опублікований або використаний як основа для прийняття рішення. Ми поглибимо цю тему в наступному розділі.
Невидима помилка: «Майже правильний» результат
Деякі помилки легко виявити: вихідні дані надходять у неправильному форматі, не відповідають темі або залишаються порожніми. Але найпідступніша помилка полягає в тому, що вихід майже правильний. Текст плавний, структура плавна, тон витриманий; Є лише одне неправильне число, пропущене обмеження або невелика логічна помилка. Ці типи вихідних даних є небезпечними, оскільки вони не перевіряються, тому що вони «виглядають добре».
Від цього захищають дві звички. По-перше, не використовуйте результат, не прочитавши його: як би ви не поспішали, прочитайте його перед тим, як надсилати. По-друге, якщо модель перевірить свій результат: «перевірте, чи ви дотримувалися всіх обмежень, які я вам надав» або «перерахуйте всі числа в цьому тексті», виведе приховані помилки на поверхню. Ці два кроки займають кілька секунд, але ціна неправильних рішень, викликаних «майже правильним» результатом, набагато вища.
Уникнення помилок: дизайн над контролем
Замість того, щоб шукати помилки у виводі, досвідчений користувач намагається запобігти їм із самого початку в підказці. Це різниця в ментальності. Перетворіть кожну повторювану помилку на «постійне правило»: якщо модель продовжує додавати коментарі в підсумковому завданні, тепер установіть обмеження «не додавати коментарі» для кожного підсумкового запиту. Якщо модель завжди створює забагато елементів у списку, розмістіть у своєму шаблоні обмеження «рівно X елементів». Таким чином, замість того, щоб виловлювати ту саму помилку знову і знову, ви запобігаєте її виникненню. Добре продумана підказка замінює десятки наступних виправлень; Це перетворює діагностику помилок з тягаря на інструмент навчання та вдосконалення.
Поширені помилки
- Звинувачення посередника. Сказати «ШІ не може це зробити» замість того, щоб шукати проблему в підказці.
- Занадто багато роботи в одній підказці. Стиснення п’яти окремих завдань в одну інструкцію та виконання їх наполовину.
- Пропуск перевірки. Припускаючи, що плавний вихід правильний.
- Надання суперечливого обмеження. Суперечливі вимоги, такі як «коротко, але вичерпно».
- Повторна спроба без діагностики. Повторення тієї ж помилки, не з’ясувавши, що зламано.
Підсумовуючи
- Більшість поганих результатів є проблемою з підказкою, а не з моделлю; можна діагностувати та виправити.
- Найпоширеніші помилки: двозначність, нульовий контекст, відсутність формату, відсутність обмежень, перевантаження, відсутність перевірки, одноразове очікування та протиріччя.
- Шість діагностичних питань (завдання, контекст, формат, обмеження, навантаження, перевірка) виявляють більшість помилок.
- Розподіл складних завдань дає швидші та якісніші результати, ніж їхнє завантаження в одну підказку.
- Найпідступніша помилка - неперевірка; Плавний вихід не означає точний.
Аплікаційне завдання
Знайдіть стару роздруківку, яка вам не подобається, і проведіть її підказку через «шість діагностичних питань». Позначте, які помилки виникають, застосуйте виправлення в цьому блоці для кожної та знову запустіть підказку. Зверніть увагу, яке саме виправлення дало найбільше покращення, а не кількість раундів.
контрольний список
- [ ] У разі поганого результату я спочатку запитую запит, а не агента.
- [ ] Я можу виконати шість діагностичних запитань.
- [ ] Я поділяю складні завдання на кілька підказок.
- [ ] Я помічаю суперечливі та неоднозначні вказівки та виправляю їх.
- [ ] Перед публікацією я перевіряю вихідні дані.