Добивки:
- Може да дизајнира како системското известување го води моделот низ целиот разговор
- Ја разбира улогата и влијанието на трошоците на адаптивното размислување и параметрите на напор
- имплементира излезни контроли како што се max_tokens, стоп секвенци и структуриран излез
Два различни производи од ист модел може да се однесуваат сосема поинаку. Разликата не е во самиот модел, туку во системскиот промпт и параметрите што му се дадени. Системот е „договор за работа“ на моделот, а параметрите се „работни поставки“. Во оваа единица, ќе научите како да дизајнирате моќен системски промпт, што прават поставките за размислување и напор во современите модели и како да го контролирате излезот за формат/должина. Правилното поставување на овие поставки ви овозможува истовремено да управувате со квалитетот и цената.
Системски промпт: Постојана директива на моделот
Системскиот промпт е инструкција на високо ниво што се применува во текот на целиот разговор. Овие правила остануваат валидни без разлика што типови корисникот. Добар системски промпт ги вклучува следните компоненти:
- Улога/идентитет: Кој е моделот? („Вие сте асистент за корпоративна поддршка.“)
- Опсег и граница: што прави, а што не? („Само врз основа на дадениот документ за политиката“)
- Правила за форматирање: Како треба да изгледа излезот? („Максимум 3 статии, официјален јазик.“)
- Однесување во несигурност: Што прави некој кога не е сигурен? („Доколку нема информации, направете ги, насочете ги до соодветната единица.“)
- Безбедност/приватност: Што не/не сака? („Побарајте лични податоци.“)
Совет: чувајте го системското известување фиксирано. Не вметнувајте информации што се менуваат со секое барање (тековен датум, корисничко име, ID на сесија). Ова и ја нарушува конзистентноста и го поништува кешот на барањето на единицата 6. Ставете ја информацијата за променливата во корисничката порака.
Премногу агресивна стапица за инструкции
Модерните модели многу внимателно ги следат упатствата. Агресивните фрази како „МОРА“, „СЕКОГАШ“, „Дефинитивно да го правите ова“ итн., кои функционираа кај постарите модели, денес доведуваат до претерување: моделот повикува агент кога тоа не е потребно или работи непотребно долго време. Омекнете го правилото: Наместо „МОРА да ја користите алатката за пребарување“, попрецизно е „Ако одговорот не е во разговорот, користете ја алатката за пребарување“.
Параметри на моделот: Мисла и напор
Класичните LLM имаа температурен параметар: пониска вредност произведува поконкретен/конзистентен излез, повисока вредност произведува поразновиден/креативен излез. Моделите од модерната генерација (како што се Opus 4.8, Sonnet 5) го заменуваат овој пристап со два помоќни механизми и повеќе не прифаќаат параметри за земање примероци како што е температурата.
- Адаптивно размислување: Моделот размислува чекор по чекор во својата „глава“ пред да одговори. Моделот одлучува колку да размислува врз основа на тежината на задачата. Значително ја подобрува точноста на сложените проблеми со повеќе чекори; Помалку размислува за да избегне непотребно одложување на едноставни прашања.
- Напор: Копче на високо ниво кое прилагодува колку длабоко моделот се нурнува во задачата и колку токени вкупно троши. Типични нивоа: ниско, средно, високо и погоре. Големиот напор може да го подобри квалитетот, но исто така ги зголемува доцнењето и трошоците; Малиот напор носи брзина и заштеди.
Поставување
Што прави
кога
Размислување/мал напор
Брзо, евтино, површно
Едноставна класификација, краток одговор, одложување чувствителни задачи
Адаптивно размислување + среден напор
Балансиран квалитет/трошок
Повеќето задачи за општа намена
Адаптивно размислување + голем напор
најголема точност
Комплексно расудување, кодирање, работа на агенти со долг дострел
Внимание: Рефлексот „максимален напор без разлика на се“ ги надува трошоците. Прилагодете го напорот на задачата; Во едноставни задачи, малиот напор често го дава истиот точен резултат по многу поевтина цена. Одете високо онаму каде што е потребна критична точност.
Контрола на излезот: формат, должина, структура
Покрај параметрите, вие го контролирате и самиот излез:
- max_tokens: Цврст таван на излезот (1-ва и 3-та единица).
- Стоп секвенци: запирање на моделот кога ќе види одредена низа. Корисно за поставување точки на прекин во структурираното производство.
- Структуриран излез: принудете го одговорот на моделот да одговара на шемата JSON што ја давате. Обезбедува дека излезот е програмски парсибилен и валиден. Тоа е посигурно отколку да се каже „само вратете го JSON“ со барање.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["фактура", "технички", ":"there"tur "тип": "стринг", "енум": ["низок", "среден", "висок"] } }, "задолжителен": ["категорија", "ургенција"] } } }}
Шаблони за системски барања за копирање
# Асистент за корпоративна поддршка Вие сте асистент за корпоративна поддршка.- Потпрете се единствено на дадениот документ за политика; Ако го нема во документот, кажете „Јас ги немам овие информации“. - Дајте формален и јасен одговор во најмногу 3 реченици. - Побарајте лични податоци (ТЦ матичен број, број на картичка) и не повторувајте ги во одговорот. - Ако не сте сигурни, не погодувајте.
# Класификатор за принудување на структурен излез Вие сте класификатор на побарувачка. Влезот е порака од клиент. Вратете ги само бараните полиња, не пишувајте коментари. Ако не сте сигурни, користете „друго“.
# Аналитичар со дефинирано однесување на стоење во неизвесностВие сте аналитичар на податоци. Извлечете само проверливи заклучоци од дадената табела. Никогаш не донесувајте заклучок што не постои во податоците. Ако заклучокот е нејасен, напишете „податоци не се доволни“.
# Пишувач на содржини со контрола на тонот и должината Вие сте писател на содржини. Користете топол, но професионален тон. Ограничете го секој текст на 120 зборови или помалку. Избегнувајте клише маркетинг јазик.
Слаб промпт / Силен промпт
# СЛАББидете од помош и дајте добри одговори. Дај се од себе.
# STRONGУлога: Специјалист за техничка поддршка. Опсег: Обезбеден е само водич за производот. Формат: Чекор-по-чекор, нумерирана листа, максимум 5 чекори. Ограничување: препорачајте решение да не е во водичот; Кажете „Не можев да го најдам во прирачникот“. Приватност: Не го повторувајте серискиот број споделен од корисникот во одговорот.
Моќна верзија; Одделно ја одредува улогата, опсегот, форматот, границите и доверливоста. Конзистентноста на излезот доаѓа директно од оваа јасност.
Три мини футроли
Случај 1 - Намалување на трошоците преку прилагодување на напор. Еден тим ги извршуваше сите свои повици на голем напор + размислување; Дури и едноставните прегледи на е-пошта беа скапи и бавни за производство. Тие доделија едноставни задачи како што се резимеа за мал напор и анализа на договори за големи напори. Точноста беше задржана, просечната латентност беше преполовена, а месечните трошоци беа намалени за една третина.
Случај 2 - гаранција за JSON. Оперативниот тим бараше излез од класификацијата со барање „само дај JSON“, но моделот повремено пишуваше „Еве го резултатот:“ и парсерот ќе падне. Кога ја поврзав конфигурираната излезна шема, излезот враќаше валиден JSON секој пат; грешките во парсирањето се ресетирани.
Случај 3 - Агресивно брзо одбивање. Асистентот рече: „МОРА да се бара СЕКОЕ ПРАШАЊЕ“; Моделот правеше непотребни пребарувања дури и за едноставни прашања на кои веќе го знаеше одговорот, забавувајќи и зголемувајќи ги трошоците. Тие го олабавија правилото на „Ако одговорот не е во контекст, барај“; Непотребните повици се намалија за 70%, а одговорите се забрзаа.
Вообичаени грешки
- Вградување на податоци за променливата во системското известување: Ја нарушува конзистентноста и го поништува кешот.
- Премногу агресивна инструкција: Прекумерно активирање и непотребни трошоци кај модерните модели.
- Голем напор во секоја задача: Отпад во едноставни задачи; приспособете го напорот на задачата.
- Барање JSON само преку промпт: Повремено се прекинува; ако е критично, користете структуриран излез.
- Не дефинирање на гранично/нејасно однесување: Моделот ја пополнува празнината со измислица (халуцинација).
- Стара „температурна“ навика: модерните модели не го прифаќаат ова; Водете го однесувањето со брза и напор.
Подлабоко: Пишување на барањето како договор
Искусните тимови го третираат промптот на системот како договор, а не како литературен текст: јасни клаузули, мерливи правила, недвосмислени граници. Овој пристап има три конкретни придобивки. Првиот е конзистентност: истиот влез дава сличен излез во различни времиња. Второ е способноста за тестирање: можете да ја тестирате секоја ставка посебно со примерок. Трето е леснотијата на одржување: ако некое однесување е погрешно, знаете која ставка да ја замените.
Добра практика е да се води со позитивни примери. Наместо да се обезбеди листа на „не го прави ова“, многу поефективно е во современите модели да се даде пример кој вели „вака изгледа токму саканиот излез“. На пример, во класификатор, додавањето на еден или два примероци од очекуваниот JSON на промптот значително ги намалува грешките во форматирањето.
Друга моќна техника е експлицитно да се напише однесувањето на несигурноста. Клаузула како „Ако не сте сигурни, не погодувајте; кажете „недоволни податоци““ ја потиснува тенденцијата на моделот да го пополни празното со измислица (халуцинација). Оваа единечна реченица го отстранува слојот за верификација, кој ќе го покриеме во единицата 11: штом моделот веќе ја означи несигурноста, станува полесно да се доведе до валидација од луѓе.
Конечно, размислете за напорите и брзата работа заедно. Со голем напор, моделот истражува повеќе и понекогаш прави несакана „дополнителна работа“ (непотребно објаснување, дополнителен предлог). Велејќи „само дајте го саканиот резултат, не додавајте дополнителни коментари“ во промптот го неутрализира овој несакан ефект од големиот напор.
Сумирано
Системскиот промпт е постојана директива на моделот: тој ги дефинира улогата, опсегот, форматот, однесувањето на нејасноста и доверливоста. Во современите модели, однесувањето е водено од параметрите на адаптивно размислување и напор, а не од температурата; Усогласувањето на напорите со задачата управува со квалитетот и трошоците истовремено. Излезот го обезбедувате со max_tokens, стоп низи и структуриран излез.
Задача за апликација
Изберете задача. (1) Напишете системски промпт со пет компоненти (улога, опсег, формат, двосмисленост, доверливост). (2) Наведете кое ниво на напор би го избрале за оваа задача и зошто. (3) Ако излезот треба да биде структуриран, скицирајте мала JSON шема. (4) Проверете дали има премногу агресивен модел во вашата порака и омекнете го.
листа за проверка
- [ ] Можам да именувам пет компоненти на добар системски промпт.
- [ ] Можам да објаснам што прават параметрите за адаптивно размислување и напор.
- [ ] Можам да го балансирам квалитетот/трошокот со прилагодување на напорите според задачата.
- [ ] Знам зошто структурираниот излез е побезбеден од барањето JSON преку промпт.
- [ ] Можам да го препознаам ризикот во современите модели на премногу агресивни инструкции.