Пайдалар:
- Системанын сунушу бүт баарлашуу боюнча моделди кантип жетектей турганын долбоорлой алат
- Адаптивдүү ой жүгүртүүнүн жана күч-аракеттин параметрлеринин ролун жана чыгымдуу таасирин түшүнөт
- max_tokens, токтотуу ырааттуулугу жана структураланган чыгаруу сыяктуу чыгарууну башкарууну ишке ашырат
Бир эле моделдин эки башка продуктусу такыр башкача болушу мүмкүн. Айырма моделдин өзүндө эмес, системанын чакыруусунда жана ага берилген параметрлерде. Системанын сунушу моделдин "жумуш келишими" жана параметрлери "жумуш орнотуулары" болуп саналат. Бул бөлүмдө сиз күчтүү системаны кантип долбоорлоону үйрөнөсүз, заманбап моделдердеги ой жүгүртүү жана күч орнотуулары эмне кылууну жана формат/узундук боюнча чыгарууну кантип көзөмөлдөөнү үйрөнөсүз. Бул орнотууларды туура коюу бир эле учурда сапатты да, бааны да башкарууга мүмкүндүк берет.
Системалык тездик: Модельдин туруктуу директивасы
Системанын сунушу бүт баарлашууда колдонулуучу жогорку деңгээлдеги нускама. Бул эрежелер колдонуучунун кандай түрүнө карабастан күчүндө болот. Жакшы тутум сунушу төмөнкү компоненттерди камтыйт:
- Рол/идентификатор: модель ким? («Сиз корпоративдик колдоо көрсөтүүчү жардамчысыз.»)
- Колдонуу жана чек: ал эмне кылат жана эмне кылбайт? (“Берилген саясат документине гана негизделет.”)
- Формат эрежелери: Чыгуу кандай болушу керек? («Эң көп дегенде 3 макала, расмий тил».)
- Белгисиздиктеги жүрүм-турум: Ишенбеген учурда эмне кылат? ("Эгер маалымат жок болсо, аны түзүңүз, тиешелүү бөлүмгө жөнөтүңүз").
- Коопсуздук/купуялык: эмне каалабайт/каалабайт? ("Жеке маалыматтарды суроо.")
Кеңеш: Тутум кеңешин туруктуу бойдон калтырыңыз. Ар бир суроо менен өзгөргөн маалыматты (учурдагы дата, колдонуучунун аты, сеанс ID) киргизбеңиз. Бул экөө тең ырааттуулукту бузат жана 6-бөлүктөгү ыкчам кэшти жараксыз кылат. Өзгөрмө маалыматын колдонуучунун билдирүүсүнө киргизиңиз.
Ашыкча агрессивдүү нускама тузагы
Заманбап моделдер көрсөтмөлөрдү абдан кылдаттык менен аткарышат. Эски моделдерде иштеген "МЕРЕКЕТ", "ДАЙЫМ", "Муну СОЗСУЗ кыл" ж.б. сыяктуу агрессивдүү фразалар бүгүнкү күндө ашыкча триггерге алып келет: модель керексиз болгондо агентти чакырат же керексиз көп убакытка иштейт. Эрежени жумшартыңыз: "КЕРЕК издөө куралын колдонуңуз", "Эгер жооп сүйлөшүүдө болбосо, издөө куралын колдонуңуз" дегендин ордуна такыраак.
Моделдин параметрлери: Ой жана аракет
Классикалык LLMлер температуралык параметрге ээ болгон: төмөнкү маани көбүрөөк спецификалык/ырааттуу өндүрүштү, жогорураак маани ар түрдүү/чыгармачыл продукцияны чыгарган. Заманбап муун моделдери (мисалы, Opus 4.8, Sonnet 5) бул ыкманы дагы эки күчтүү механизм менен алмаштырып, температура сыяктуу тандоо параметрлерин кабыл алышпайт.
- Адаптивдүү ой жүгүртүү: Модель жооп берүүдөн мурун анын "башына" кадам сайын себеп болот. Модель тапшырманын татаалдыгына жараша канча ойлонууну чечет. Татаал, көп баскычтуу маселелер боюнча тактыкты кыйла жакшыртат; Жөнөкөй суроолор боюнча ашыкча кечигүүлөрдү болтурбоо үчүн азыраак ойлонот.
- Аракет: Модель тапшырмага канчалык терең киришин жана жалпысынан канча токен короторун тууралай турган жогорку деңгээлдеги баскыч. Типтүү деңгээли: төмөнкү, орто, жогорку жана жогору. Жогорку күч-аракет сапатты жакшыртышы мүмкүн, бирок кечиктирүүнү жана баасын жогорулатат; Төмөн аракет ылдамдыкты жана үнөмдөөнү алып келет.
Орнотуу
Эмне кылат
качан
Ойлонуу/аз аракет
Тез, арзан, үстүртөн
Жөнөкөй классификация, кыска жооп, сезгич тапшырмаларды кечиктирүү
Адаптивдүү ой жүгүртүү + орточо аракет
Балансталган сапат/баасы
Көпчүлүк жалпы максаттуу милдеттер
Адаптивдүү ой жүгүртүү + жогорку күч
эң жогорку тактык
Комплекстүү ой жүгүртүү, коддоо, узак мөөнөттүү агент иш
Абайлаңыз: "Эмне болсо да максималдуу күч" рефлекси чыгымдарды көбөйтөт. Аракетти тапшырмага тууралоо; Жөнөкөй тапшырмаларда, аз күч-аракет көбүнчө бир кыйла арзан баада бирдей так натыйжа берет. Критикалык тактык талап кылынган жерде бийик кетиңиз.
Output Control: Format, Length, Structure
Параметрлерден тышкары, сиз чыгаруунун өзүн да башкарасыз:
- max_tokens: чыгаруунун катуу шыптары (1-жана 3-бирдик).
- Токтотуу ырааттуулугу: моделди белгилүү бир сапты көргөндө токтотуу. Структураланган өндүрүштө токтотуу чекиттерин коюу үчүн пайдалуу.
- Структураланган чыгаруу: Моделдин жообун сиз берген JSON схемасына шайкеш келтирүүгө мажбурлаңыз. Бул чыгаруу программалык талдоо жана жарактуу болушун камсыз кылат. Бул ишарат менен "жөн гана JSON кайтарыңыз" дегенге караганда ишенимдүү.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["invoice", "Technical", "enum": ["invoice", "Technical", "enum" {"{"}," "тип": "сап", "енум": ["төмөн", "орто", "жогорку"] } }, "талап кылынат": ["категория", "шашылыш"] } }}
Көчүрүлүүчү системанын тез шаблондору
# Корпоративдик колдоо жардамчысыСиз корпоративдик колдоонун жардамчысысыз.- Берилген саясат документине гана таяныңыз; Документте жок болсо "менде бул маалымат жок" деп айт. - Максимум 3 сүйлөм менен расмий жана так жооп бериңиз. - Жеке маалыматтарды (ТС ID номери, картанын номери) сураңыз жана жоопуңузда аны кайталабаңыз. - Ишенбесеңиз, божомолдобоңуз.
# Структураланган чыгарууну мажбурлоочу классификаторСиз суроо-талаптын классификаторусуз. Киргизүү - бул кардар билдирүү. Суралган талааларды гана кайтарыңыз, комментарий жазбаңыз. Ишенбесеңиз, "башка" дегенди колдонуңуз.
# Белгисиздикте жүрүм-туруму аныкталган аналитикСиз маалымат талдоочусусуз. Берилген таблицадан текшерилүүчү гана корутундуларды чыгарыңыз. Эч качан маалыматтарда жок корутунду чыгарбаңыз. Эгер жыйынтык түшүнүксүз болсо, "маалымат жетишсиз" деп жазыңыз.
# Тон жана узундукту көзөмөлдөө менен мазмун жазуучуСиз мазмун жазуучусусуз. Жылуу, бирок профессионалдуу тонду колдонуңуз. Ар бир текстти 120 же андан аз сөз менен чектеңиз. Клише маркетинг тилинен алыс болуңуз.
Алсыз тездик / Күчтүү тездик
# АЛЛЫЗ Жардам берип, жакшы жооп бериңиз. Колдон келгендин баарын кыл.
# STRONGРол: Техникалык колдоо боюнча адис. Колдонуу чөйрөсү: Продукт боюнча колдонмо гана берилет. Формат: Кадам-кадам, номерленген тизме, максимум 5 кадам. Чектөө: Чечимди колдонмодо эмес сунуштоо; "Мен аны колдонмодон таба алган жокмун" деп айтыңыз. Купуялык: Жоопто колдонуучу бөлүшкөн сериялык номерди кайталабаңыз.
Күчтүү версия; Ал ролун, көлөмүн, форматын, чектерин жана купуялуулукту өзүнчө аныктайт. Чыгуу ырааттуулугу түздөн-түз ушул айкындуулуктан келип чыгат.
Үч мини Case
1-жагдай - күч-аракетти жөнгө салуу аркылуу чыгымдарды азайтуу. Бир команда бардык чакырыктарын жогорку күч + ой жүгүртүү менен иштетип жатты; Жөнөкөй электрондук почта дайджесттери да кымбат жана чыгаруу үчүн жай болгон. Алар аз аракетке кыскача, жогорку аракетке контракт талдоо сыяктуу жөнөкөй тапшырмаларды беришкен. Тактык сакталып, орточо күтүү эки эсеге кыскарды жана айлык чыгым үчтөн бирине кыскарды.
2-жагдай - JSON кепилдик. Операциялар тобу классификациянын чыгарылышын "жөн гана JSON бер" деп сурады, бирок модель маал-маалы менен "Мына натыйжа:" деп жазып, талдоочу бузулуп калат. Мен конфигурацияланган чыгаруу схемасын туташтырганда, чыгаруу ар бир жолу жарактуу JSON кайтарып берди; талдоо каталары баштапкы абалга келтирилди.
3-жагдай - Агрессивдүү тез артка кетүү. Жардамчы "АР БИР СУРООЛОРДУ ИЗДӨӨ КЕРЕК" деди; Модель жообун билген жөнөкөй суроолорго да керексиз издөөлөрдү жасап, чыгымдарды жайлап, көбөйткөн. Алар эрежени "эгер жооп контекстте болбосо, издегиле" деп жеңилдетишти; Керексиз чалуулар 70%га азайып, жооптор тездеди.
Жалпы каталар
- Тутум сунушуна өзгөрмө берилиштерин кыстаруу: Ынтымактуулукту бузуп, кэшти жараксыз кылат.
- Ашыкча агрессивдүү нускама: Заманбап моделдердеги ашыкча триггер жана ашыкча чыгым.
- Ар бир иште жогорку аракет: Жөнөкөй иштерде ысырап кылуу; аракетти тапшырмага тууралоо.
- JSON'ту чакыруу аркылуу гана суроо: Ал кээде бузулат; маанилүү болсо, структураланган чыгарууну колдонуңуз.
- Чек араны / бүдөмүк жүрүм-турумду аныктоо эмес: Модель боштукту ойлоп чыгаруу менен толтурат (галлюцинация).
- Эски `температура` адаты: Заманбап моделдер муну кабыл алышпайт; Ыкчам жана аракет менен жүрүм-турумга багыт бер.
Тереңирээк: Тестирлөө келишим сыяктуу жазуу
Тажрыйбалуу командалар системаны тез арада адабий текст эмес, келишим сыяктуу карашат: так пункттар, өлчөнө турган эрежелер, так чектер. Бул ыкманын үч конкреттүү пайдасы бар. Биринчиси - ырааттуулук: бир эле киргизүү ар кандай убакта окшош натыйжаларды берет. Экинчиден, сыноо жөндөмдүүлүгү: ар бир нерсени үлгү менен өзүнчө сынай аласыз. Үчүнчүсү - тейлөөнүн оңойлугу: эгерде жүрүм-турум туура эмес болсо, кайсы нерсени алмаштырууну билесиз.
Жакшы мисалдар менен алып баруу жакшы тажрыйба болуп саналат. Заманбап моделдерде "мындай кылба" деген тизмени көрсөтүүнүн ордуна, "каалаган натыйжа так ушундай болот" деген мисалды берүү алда канча натыйжалуу. Мисалы, классификатордо күтүлгөн JSON үлгүсүнүн бир же эки үлгүсүн чакырууга кошуу форматтоо каталарын олуттуу түрдө азайтат.
Дагы бир күчтүү ыкма - белгисиздик жүрүм-турумун ачык жазуу. "Эгер ишенбесеңер, божомолдобогула; "жетишсиз маалымат" деп айткыла" сыяктуу пункт моделдин боштукту жасалма (галлюцинация) менен толтуруу тенденциясын басат. Бул бир сүйлөм текшерүү катмарын жүктөйт, биз аны 11-бөлүмдө камтыйбыз: модель белгисиздикти белгилегенден кийин, адамдын валидациясы оңой болот.
Акыр-аягы, аракет жана биргелешип тез карап көрөлү. Көп күч-аракет жумшаганда, модель көбүрөөк изилдейт жана кээде керексиз "кошумча иштерди" кылат (керексиз түшүндүрмө, кошумча сунуш). Тез арада "каалаган жыйынтыкты гана бериңиз, кошумча комментарийлерди кошпоңуз" деп айтуу, жогорку күч-аракеттин бул терс таасирин жокко чыгарат.
Кыскача айтканда
Системанын тездиги моделдин туруктуу директивасы болуп саналат: ал ролун, масштабын, форматын, бүдөмүк жүрүм-турумун жана купуялуулукту аныктайт. Заманбап моделдерде жүрүм-турум температурага эмес, адаптивдик ой жүгүртүү жана күч-аракеттин параметрлери менен шартталган; Тапшырмага аракетти тегиздөө сапатты жана бааны бир эле учурда башкарат. Сиз чыгарууну max_tokens, токтотуу массивдери жана структураланган чыгаруу менен камсыздайсыз.
Колдонмо тапшырмасы
Тапшырма тандаңыз. (1) Беш компоненттен турган тутум сунушун жазыңыз (рол, масштаб, формат, түшүнүксүздүк, купуялуулук). (2) Бул тапшырма үчүн кандай күч-аракетти тандаарыңызды жана эмне үчүн тандай турганыңызды айтыңыз. (3) Эгерде чыгаруу түзүлүшү керек болсо, кичинекей JSON схемасын чийиңиз. (4) Сиздин сунушуңузда өтө агрессивдүү үлгү бар-жогун текшериңиз жана аны жумшартыңыз.
текшерүү тизмеси
- [ ] Мен жакшы системанын беш компонентин атай алам.
- [ ] Мен адаптациялоочу ой жүгүртүү жана аракет параметрлери эмне кылаарын түшүндүрө алам.
- [ ] Мен тапшырмага ылайык күч-аракетти тууралоо менен сапатты/бааны тең салмактай алам.
- [ ] Мен эмне үчүн структуралаштырылган чыгаруу тез арада JSON суроосуна караганда коопсузраак экенин билем.
- [ ] Мен өтө агрессивдүү инструкциялардын заманбап моделдериндеги коркунучту тааный алам.