Прибуток:
- Поясніть, як працює велика мовна модель, передбачаючи наступне слово, і що це означає для швидкого написання
- Він може показати, чому Prompt так сильно визначає якість виведення, на прикладі власної роботи.
- Розрізняючи сильні та слабкі сторони моделі, можна вирішити, для яких завдань її безпечно використовувати.
Вступ до штучного інтелекту та підказки: як модель «мислить»
Найкращий спосіб по-справжньому навчитися писати підказки — це спочатку зрозуміти, як працює інструмент. У цьому розділі ми побачимо основну логіку великої мовної моделі (скорочено LLM; тобто система штучного інтелекту, яка створює текст), чому вона така корисна у вашій щоденній роботі та де вона має свої межі. Підказки, написані без цієї основи, часто призводять до запитання: «чому вони інколи дають чудові результати, а інколи жахливі?» залишає вас наодинці із запитанням. Ця невизначеність значною мірою зникне, коли цей блок буде завершено.
Що насправді робить модель великої мови?
У найпростішому визначенні велика мовна модель — це система, яка передбачає найбільш вірогідне слово, яке буде слідувати за наданим вами текстом. Досліджуючи мільярди речень, модель вивчила шаблон «яке слово йде після якого слова». Коли ви починаєте речення, модель переглядає те, що було написано до цього моменту, і генерує найбільш ймовірне продовження, потім додає згенероване слово до вхідних даних і передбачає наступне. Цей цикл триває, доки відповідь не буде завершена.
Давайте роз’яснимо використаний тут термін токен: токен — це найменша одиниця, на яку модель розбиває текст; Це приблизно розмір слова або частини слова. Модель розвивається не слово за словом, а маркер за маркером. Практичним наслідком для вас є те, що моделлю є не людина, яка «розуміє» ваші наміри, а дуже потужна прогностична машина, яка статистично вибирає найбільш підходяще продовження для тексту, який ви йому надаєте.
Найважливішим наслідком цього визначення є те, що найпотужнішим визначником напрямку виведення є текст, який ви надаєте як вхідні дані. Отже, ваша підказка. Модель не черпає готову відповідь із бази даних, не виконує живий пошук в Інтернеті та не копіює сторінки (якщо спеціально не вказано інше). Він створює лише текст, який найкраще відповідає наданому вами контексту. Хороший вихід є найважливішою умовою для хорошого результату.
Чому «Та сама модель, інший результат»?
Модель також використовує невеликий запас випадковості у виборі найбільш імовірного слова щоразу; Тому, коли ви задаєте ту саму підказку двічі, ви можете отримати не зовсім однакові речення. Це не помилка, це частина дизайну. Ваше завдання полягає в тому, щоб намалювати структуру досить чітко, щоб не залишити результат напризволяще. Чим чіткіші рамки, тим ближчими та кориснішими будуть результати двох різних експериментів.
Крок за кроком: як просувається запит через модель?
- Читає введені дані. Кожне написане вами слово є підказкою, яка керує прогнозом. Коли ви говорите «як старший юрист», модель робить тексти, ближчі до цього тону, більш імовірними.
- Зважує контекст. Передумови, обмеження та приклади, які ви надаєте, звужують оцінку. Якщо контекст порожній, модель заповнює прогалини своїми власними припущеннями.
- Він створює слово за словом. Кожен вироблений токен стає входом для наступного; тому напрямок, який ви даєте на початку, переноситься на всю відповідь.
- Він зупиняється. Він перериває виробництво, коли завдання завершено або досягає вказаної вами довжини.
Три міні-кейси: швидка різниця в цифрах
Випадок 1 — спеціаліст із маркетингу, тема електронного листа. Коли маркетолог сказав «запропонуйте тему для кампанії», він отримав 5 загальних назв, і жодна з них не сподобалася; Він витратив 20 хвилин, виправляючи його вручну. Наступного дня, коли він сказав: «Цільова аудиторія — власники малого та середнього бізнесу віком 30-45 років, продукт — хмарне бухгалтерське програмне забезпечення, 6 одиниць, кожна з яких містить максимум 45 символів, інтригуюча, але занижена», — він прямо використав 4 із 6 заголовків. Тривалість зменшилася з 20 хвилин до 4 хвилин.
Кейс 2 — Людські ресурси, текст реклами. HR-спеціаліст отримав шаблонний текст із підказкою «написати вакансію розробника програмного забезпечення». Коли ми додали фактичну мову компанії (опис культури з 3 речень), 4 обов’язкові кваліфікаційні вимоги та обмеження «чітко напишіть діапазон зарплати» до підказки, відсоток некваліфікованих претендентів на оголошення помітно зменшився в наступному оголошенні, оскільки текст чітко вказував на очікування.
Кейс 3 — Бухгалтерський облік, підсумок звіту. Коли керівник бухгалтерії сказав, що він «узагальнив» звіт про витрати на 12 сторінках, модель пропустила важливі пункти. Коли він сказав: «З цього звіту 5 найвищих статей витрат наведено в таблиці з відсотковою зміною порівняно з минулим місяцем», він отримав саме ту структуру, з якою виступив би на зустрічі керівництва. Зміст був однаковий, інструкція інша.
Слабка підказка / Сильна підказка
Та сама робота, з двома різними інструкціями:
Слабка підказка:
Узагальніть цей текст.[текст]
Потужна підказка:
Узагальніть записку до зустрічі, яка буде представлена раді директорів. - Максимум 5 предметів. - кожен пункт повинен містити рішення або дію; Пропустіть деталі чату. — Напишіть у дужках назву дій, за які відома відповідальна особа. - Використовуйте зрозумілу, офіційну мову. Текст: [текст]
Друга підказка повідомляє моделі, що виробляти, для кого, у якому форматі та що пропустити. Модель не «думає», а скоріше створює правильне продовження; Ви малюєте каркас цього продовження.
Чотири шаблони, які можна копіювати
Чотири прості початкові шаблони для швидкого застосування логіки цього блоку на практиці. Заповніть дужки власною інформацією.
1) Структура посилення запиту:
Я хочу, щоб ви виконали це завдання: [завдання]Для кого: [покупець/аудиторія]У якому форматі: [довжина, структура]Що пропустити: [що ви не хочете]
2) Перевірка меж моделі (перевірочний рефлекс):
Якщо у вашій відповіді нижче є фактичні твердження (номер, дата, ім’я, джерело), виділіть кожне як окремий список і позначте як «потрібно перевірити». Відповідь: [вихід моделі]
3) Спробуйте те саме завдання на двох рівнях:
Поясніть наступну тему двічі: A) Абсолютно незнайомій людині, звичайною мовою. B) Експерту в цій галузі, технічними термінами. Тема: [тема]
4) Змусити модель усвідомити невизначеність:
Перш ніж зробити запит, який я вам надаю, поставте мені 3 запитання про пункти, які ви вважаєте відсутніми або незрозумілими; потім створіть відповідно до моїх відповідей.Запит: [запит]
Сильні та слабкі сторони моделі
Тема
Модель міцна
Модель слабка / обережно
мовні справи
Письмо, конспект, переклад, зміна тону
Дуже технічні/спеціальні жаргонні помилки
структура
Перетворення тексту в таблицю, список, ескіз
Підтримання послідовності в довгому тексті
ідея
Мозковий штурм, генерування альтернатив
Гарантія того, що "правильно"
справа
Загальні відомості, визначення, пояснення
Актуальні/точні дані, число, дата, джерело
міркування
Добре, якщо керуватися крок за кроком
Не робіть складних розрахунків помилково мовчки
Порада: дивіться на модель не як на «всезнайку», а як на «помічника, який дуже швидко пише, багато читає, але все, що він говорить, потрібно перевіряти». Цей погляд правильно коригує як ваші очікування, так і вашу звичку контролю.
Увага: модель може писати інформацію дуже впевненою мовою, але це не означає, що інформація правильна. Завжди незалежно перевіряйте фактичні деталі, особливо номер, назву, дату, статут і джерело. Ми повернемося до цієї теми детально в блоці 11.
Поширені помилки
- Переплутаючи модель з людиною. Надання неповних інструкцій, кажучи: «Вони все одно зрозуміють». Модель не читає ваш намір; Він обробляє лише те, що ви вводите.
- Здача з однієї спроби. Якщо початковий результат поганий, звинувачуйте інструмент. Однак найчастіше проблема полягає в інструкціях, і невелике виправлення може змінити результат.
- Використання фактів без їх перевірки. Беззаперечне прийняття статистичних даних або джерел, створених моделлю, є найризикованішою звичкою.
- Введення конфіденційних даних без роздумів. Вставлення конфіденційної інформації, не знаючи, як працює інструмент. Для цього існують правила, як ми побачимо в розділі конфіденційності.
- Приймаючи випадковість за помилку. Інтерпретація двох різних результатів як «транспортний засіб зламаний»; Однак, коли ви збільшуєте чіткість, результати збігаються.
Підсумовуючи
- Велика мовна модель працює, передбачаючи слово (лексему), яке, швидше за все, з’явиться наступним у наданому вами тексті; Він не вибирає готових відповідей.
- Найпотужнішим фактором, який визначає напрямок виведення, є підказка, яку ви надаєте як вхідні дані.
- Сильний у мові моделі, структурі та ідеї; обережно ставиться до точних фактів, поточних даних і складних розрахунків.
- Через малу випадковість одна і та ж підказка може дати різні результати; Зі збільшенням чіткості результати стають послідовнішими.
- Модель — це не «експерт, який вірний у всьому, що говорить», а «помічник, який швидкий, але потребує перевірки».
Аплікаційне завдання
Виберіть письмове завдання зі своєї щоденної роботи, яку ви виконуєте регулярно (наприклад, електронний лист, резюме або список). Спочатку напишіть найпростішу версію з одного речення, передайте її інструменту ШІ та збережіть результат. Потім до того самого завдання; Додайте відповіді на питання «для кого, в якому форматі, якої довжини і що пропустити» і задайте їх ще раз. Розташуйте два виведення поруч і запам’ятайте в одному реченні, яке додавання покращує результат найбільше.
контрольний список
- [ ] Я зрозумів, що модель «передбачала наступне слово», а не читала мій намір.
- [ ] Я зрозумів, що якість результату значною мірою залежить від якості підказки.
- [ ] Я можу розрізняти типи завдань, де модель є сильною та слабкою.
- [ ] Я розумію, що мені потрібно перевірити фактичні дані (номер, дата, ім’я, джерело).
- [ ] Я можу пояснити, чому одна і та сама підказка може давати різні результати.