Введение в искусственный интеллект и подсказка: как «думает» модель

Прибыль:

Объясните, как работает модель большого языка, предсказывая следующее слово, и что это означает для быстрого письма.
Он может показать, почему Prompt так сильно определяет качество вывода, на примере из своей собственной работы.
Выявив сильные и слабые стороны модели, можно решить, в каких задачах ее безопасно использовать.

Лучший способ по-настоящему научиться писать подсказки — сначала понять, как работает этот инструмент. В этом модуле мы увидим основную логику большой языковой модели (сокращенно LLM; то есть системы искусственного интеллекта, создающей текст), почему она так полезна в вашей повседневной работе и где у нее есть свои ограничения. Подсказки, написанные без этой основы, часто приводят к вопросу: «Почему они иногда дают отличные результаты, а иногда ужасные?» оставляет вас наедине с вопросом. Эта неопределенность в значительной степени исчезнет, когда этот блок будет завершен.

Что на самом деле делает большая языковая модель?

В самом простом определении большая языковая модель — это система, которая прогнозирует наиболее вероятное слово, которое будет следовать за текстом, который вы даете. Изучив миллиарды предложений, модель усвоила закономерность «какое слово следует за каким словом». Когда вы начинаете предложение, модель просматривает то, что было написано до сих пор, и генерирует наиболее вероятное продолжение, затем добавляет сгенерированное слово во входные данные и прогнозирует следующее. Этот цикл продолжается до тех пор, пока ответ не будет завершен.

Давайте уточним используемый здесь термин «токен»: токен — это наименьшая единица, на которую модель разбивает текст; Это примерно размер слова или части слова. Модель развивается не слово за словом, а токен за токеном. Практическим следствием для вас является то, что моделью является не человек, который «понимает» ваше намерение, а очень мощная предсказательная машина, которая статистически выбирает наиболее подходящее продолжение для текста, который вы ей даете.

Самый важный вывод из этого определения заключается в том, что самым мощным фактором, определяющим направление вывода, является текст, который вы вводите в качестве входных данных. Итак, ваша подсказка. Модель не черпает готовый ответ из базы данных, не выполняет живой поиск в Интернете и не копирует страницы (если специально не указано иное). Он создает только текст, который лучше всего соответствует контексту, который вы ему даете. Хороший вклад – самое решающее условие хорошего результата.

Почему «Та же модель, другой результат»?

Модель также использует небольшой запас случайности при выборе наиболее вероятного слова каждый раз; Поэтому, если вы дважды задаете одно и то же приглашение, вы можете получить не одни и те же предложения. Это не ошибка, это часть дизайна. Ваша задача — нарисовать достаточно четкую схему, чтобы не оставлять результат на волю случая. Чем четче схема, тем ближе и полезнее будут результаты двух разных экспериментов.

Шаг за шагом: как запрос проходит через модель?

Считывает ввод. Каждое написанное вами слово — это подсказка, которая помогает сделать предсказание. Когда вы говорите «как старший юрист», модель делает тексты, близкие к этому тону, более вероятными.
Взвешивает контекст. Предыстория, ограничения и примеры, которые вы приводите, сужают оценку. Если контекст пуст, модель заполняет пробелы своими собственными предположениями.
Производит слово за словом. Каждый производимый им токен становится входом для следующего; поэтому направление, которое вы даете в начале, распространяется на весь ответ.
Он останавливается. Он прерывает производство, когда задача завершена или достигает указанной вами длины.

Три мини-кейса: разница в цифрах

Случай 1. Специалист по маркетингу, тема электронного письма. Когда маркетолог сказал: «Предложите тему для кампании», он получил 5 общих названий, и ни одно из них не понравилось; Он потратил 20 минут, исправляя это вручную. На следующий день, когда он сказал: «Целевая аудитория — владельцы малого и среднего бизнеса в возрасте 30–45 лет, продукт — программное обеспечение для облачного бухгалтерского учета, 6 единиц, каждая из которых содержит максимум 45 символов, интригующе, но преуменьшено», он напрямую использовал 4 из 6 заголовков. Продолжительность сократилась с 20 минут до 4 минут.

Кейс 2 — Человеческие ресурсы, текст рекламы. HR-специалист получил шаблонный текст с подсказкой «напишите вакансию разработчика программного обеспечения». Когда мы добавили в подсказку фактический язык компании (описание культуры в 3 предложения), 4 обязательных требования и ограничение «четко указать диапазон заработной платы», количество неквалифицированных претендентов на рекламу заметно снизилось в следующем объявлении, поскольку текст четко определял ожидания.

Кейс 3 — Бухгалтерский учет, резюме отчета. Когда руководитель бухгалтерии сказал, что он «обобщил» 12-страничный отчет о расходах, модель упустила важные моменты. Когда он сказал: «Из этого отчета 5 самых высоких статей расходов сведены в таблицу с процентным изменением по сравнению с прошлым месяцем», он получил именно ту структуру, которую он представил бы на совещании руководства. Содержание было то же, инструкции разные.

Слабая подсказка/Сильная подсказка

Одна и та же работа, но с двумя разными инструкциями:

Слабая подсказка:

Кратко изложите этот текст.[текст]

Мощная подсказка:

Ниже кратко изложите протокол заседания, который будет представлен совету директоров. - Максимум 5 предметов. - Каждый пункт должен содержать решение или действие; Пропустите детали чата. - В скобках укажите имена тех действий, за которые известен ответственный. - Используйте простой формальный язык. Текст: [текст]

Вторая подсказка сообщает модели, что производить, для кого, в каком формате и что пропустить. Модель не «думает», а скорее производит правильное продолжение; Вы рисуете рамки этого продолжения.

Четыре копируемых шаблона

Четыре простых стартовых шаблона для быстрого применения логики этого модуля на практике. Заполните скобки своей информацией.

1) Структура усиления запроса:

Я хочу, чтобы вы выполнили это задание: [задача]Для кого: [покупатель/аудитория]В каком формате: [длина, структура]Что пропустить: [чего вы не хотите]

2) Проверка границ модели (рефлекс проверки):

Если в вашем ответе ниже есть фактические утверждения (номер, дата, имя, источник), извлеките каждое из них в отдельный список и отметьте его как «необходимо проверить». Ответ: [выходные данные модели]

3) Попробуйте выполнить одно и то же задание на двух уровнях:

Дважды объясните следующую тему: А) Совершенно незнакомому человеку, обычным языком. Б) Специалисту в данной области, техническим языком. Тема: [тема]

4) Заставить модель осознать неопределенность:

Прежде чем обратиться к вам с просьбой, задайте мне 3 вопроса о том, что вам кажется недостающим или неясным; тогда произведите согласно моим ответам.Запрос: [запрос]

Сильные и слабые стороны модели

Тема

Модель сильная.

Модель слабая / осторожность

языковые дела

Написание, обобщение, перевод, изменение тона

Очень технические/нишевые жаргонные ошибки

структура

Преобразование текста в таблицу, список, эскиз

Поддержание последовательности в длинном тексте

идея

Мозговой штурм, создание альтернатив

Гарантия того, что «правильно»

дело

Общая информация, определение, объяснение

Текущие/точные данные, номер, дата, источник

рассуждение

Хорошо, если руководствоваться пошагово.

Не делайте сложные вычисления молча

Совет: Воспринимайте модель не как «знатока-всезнайку», а как «помощника, который очень быстро пишет, много читает, но все, что он говорит, нужно проверять». Такое представление правильно корректирует как ваши ожидания, так и вашу привычку контроля.

Внимание: Модель может писать информацию очень уверенным языком, но это не значит, что информация верная. Всегда независимо проверяйте фактические данные, особенно номер, имя, дату, статут и источник. Мы вернемся к этой теме подробно в главе 11.

Распространенные ошибки

Принимаем модель за человека. Давать неполные инструкции, говоря: «Они все равно поймут». Модель не читает ваши намерения; Он обрабатывает только то, что вы вводите.
Сдаться с одной попытки. Если первоначальный результат неудовлетворителен, вините в этом инструмент. Однако в большинстве случаев проблема кроется в инструкции, и небольшая корректировка может изменить результат.
Использование фактов без их проверки. Безоговорочное принятие статистики или источника, полученного с помощью модели, является самой рискованной привычкой.
Ввод конфиденциальных данных не задумываясь. Вставка конфиденциальной информации без знания того, как работает инструмент. Как мы увидим в разделе о конфиденциальности, для этого существуют правила.
Принимаем случайность за ошибку. Интерпретация двух разных результатов как «автомобиль сломан»; Однако, когда вы увеличиваете четкость, результаты сходятся.

В заключение

Модель большого языка работает, предсказывая слово (токен), которое с наибольшей вероятностью появится следующим в тексте, который вы даете; Он не выбирает готовые ответы.
Самый мощный фактор, определяющий направление вывода, — это подсказка, которую вы вводите в качестве входных данных.
Сильно владеет модельным языком, структурой и идеями; осторожен с точными фактами, текущими данными и сложными расчетами.
Из-за небольшой случайности одна и та же подсказка может давать разные результаты; По мере увеличения ясности результаты становятся более последовательными.
Модель — не «эксперт, который верен всему, что говорит», а «помощник, который быстр, но нуждается в проверке».

Задача приложения

Выберите письменное задание из своей повседневной работы, которое вы выполняете регулярно (например, электронная почта, резюме или список). Сначала напишите простейшую версию, состоящую из одного предложения, передайте ее инструменту искусственного интеллекта и сохраните результат. Затем к той же задаче; Добавьте ответы на вопросы «для кого, в каком формате, какой длины и что пропустить» и задайте их еще раз. Поместите два результата рядом и отметьте в одном предложении, какое дополнение больше всего улучшает результат.

контрольный список

[ ] Я понял, что модель «предсказывает следующее слово», а не читает мои намерения.
[ ] Я понял, что качество вывода во многом зависит от качества подсказки.
[ ] Я могу различать типы задач, в которых модель является сильной и слабой.
[ ] Я понимаю, что мне необходимо проверить фактические данные (номер, дату, имя, источник).
[ ] Я могу объяснить, почему одно и то же приглашение может давать разные результаты.