Табыстар:
- Жүйе шақыруы бүкіл сөйлесу барысында модельді қалай бағыттайтынын жобалай алады
- Адаптивті ойлау мен күш-жігер параметрлерінің рөлі мен құнына әсерін түсінеді
- max_tokens, тоқтату реттілігі және құрылымдық шығыс сияқты шығыс басқару элементтерін жүзеге асырады
Бір үлгідегі екі түрлі өнім мүлдем басқаша әрекет етуі мүмкін. Айырмашылық модельдің өзінде емес, жүйе шақыруында және оған берілген параметрлерде. Жүйе шақыруы үлгінің «жұмыс келісім-шарты» және параметрлері «жұмыс параметрлері» болып табылады. Бұл бөлімде сіз қуатты жүйе шақыруын қалай жасау керектігін, заманауи үлгілердегі ойлау және күш параметрлері не істейтінін және пішім/ұзындық бойынша шығысты қалай басқару керектігін үйренесіз. Бұл параметрлерді дұрыс орнату сапаны да, құнын да бір уақытта басқаруға мүмкіндік береді.
Жүйе шақыруы: Үлгінің тұрақты директивасы
Жүйе кеңесі бүкіл сөйлесу барысында қолданылатын жоғары деңгейлі нұсқау болып табылады. Бұл ережелер пайдаланушының түрі қандай болса да жарамды болып қалады. Жақсы жүйелік шақыру келесі құрамдастарды қамтиды:
- Рөл/сәйкестік: Үлгі кім? («Сіз корпоративті қолдау көмекшісісіз.»)
- Қолдану аясы мен шекарасы: ол не істейді және не істемейді? («Тек ұсынылған бағдарламалық құжатқа негізделеді.»)
- Пішім ережелері: шығыс қандай болуы керек? («Ресми тілде ең көбі 3 мақала.»)
- Белгісіздік кезіндегі мінез-құлық: сенімсіз кезде не істейді? («Егер ақпарат жоқ болса, оны түзетіңіз, тиісті бөлімшеге жіберіңіз».)
- Қауіпсіздік/құпиялылық: нені қаламайды/қаламайды? («Жеке деректерді сұрау.»)
Кеңес: Жүйе нұсқаулығын тұрақты күйде сақтаңыз. Әрбір сұраумен өзгеретін ақпаратты ендірмеңіз (ағымдағы күн, пайдаланушы аты, сеанс идентификаторы). Бұл үйлесімділікті бұзады және 6-құрылғыдағы шақыру кэшін жарамсыз етеді. Айнымалы ақпаратты пайдаланушы хабарына қойыңыз.
Тым агрессивті нұсқау тұзағы
Заманауи модельдер нұсқаулықты өте мұқият орындайды. Ескі үлгілерде жұмыс істеген «МІНДЕТТІ», «ӘРҚАШАН», «МІНДЕТТІ түрде мұны істеу» және т.б. сияқты агрессивті фразалар бүгінгі күні шамадан тыс триггерге әкеледі: модель қажет болмаған кезде агентті шақырады немесе қажетсіз ұзақ уақыт жұмыс істейді. Ережені жұмсартыңыз: «Іздеу құралын пайдалану МІНДЕТТІ», «Егер жауап әңгімеде болмаса, іздеу құралын пайдаланыңыз» дегеннің орнына дәлірек.
Үлгі параметрлері: Ой мен күш
Классикалық LLM температуралық параметрге ие болды: төмен мән неғұрлым нақты/дәйекті өнімді шығарды, жоғары мән әртүрлі/шығармашылық өнімді шығарды. Қазіргі ұрпақ үлгілері (мысалы, Opus 4.8, Sonnet 5) бұл тәсілді екі күшті механизммен ауыстырады және енді температура сияқты іріктеу параметрлерін қабылдамайды.
- Бейімделуші ойлау: Модель жауап бермес бұрын өзінің «басында» кезең-кезеңімен дәлелдейді. Модель тапсырманың қиындығына қарай қанша ойлау керектігін шешеді. Күрделі, көп сатылы есептер бойынша дәлдікті айтарлықтай жақсартады; Қарапайым сұрақтар бойынша қажетсіз кідірістерді болдырмау үшін ол аз ойлайды.
- Күш: модельдің тапсырмаға қаншалықты терең енетінін және барлығы қанша таңбалауыш жұмсайтынын реттейтін жоғары деңгейлі түйме. Типтік деңгейлер: төмен, орташа, жоғары және одан жоғары. Жоғары күш сапаны жақсартуы мүмкін, бірақ ол сонымен бірге кідіріс пен шығынды арттырады; Төмен күш жылдамдық пен үнемдеуге әкеледі.
Параметр
Не істейді
қашан
Ойлану/аз күш салу
Жылдам, арзан, үстірт
Қарапайым жіктеу, қысқа жауап, кідіріс сезімтал тапсырмалар
Бейімделетін ойлау + орташа күш салу
Теңгерімді сапа/құн
Ең жалпы мақсаттағы тапсырмалар
Адаптивті ойлау + жоғары күш салу
ең жоғары дәлдік
Күрделі пайымдау, кодтау, ұзақ мерзімді агент жұмысы
Абайлаңыз: «Ештеңеге қарамастан ең көп күш жұмсау» рефлексі шығындарды арттырады. Тапсырмаға күш салуды реттеу; Қарапайым тапсырмаларда аз күш жұмсау жиі бірдей дәл нәтижені әлдеқайда арзан бағамен береді. Критикалық дәлдік қажет жерде жоғары көтеріліңіз.
Шығаруды басқару: пішім, ұзындық, құрылым
Параметрлерден басқа, сіз шығыстың өзін де басқарасыз:
- max_tokens: шығыстың қатты төбесі (1-ші және 3-ші бірлік).
- Тоқтату реті: белгілі бір жолды көргенде үлгіні тоқтату. Құрылымдық өндірісте тоқтау нүктелерін орнату үшін пайдалы.
- Құрылымдық нәтиже: үлгінің жауабын сіз берген JSON схемасына сәйкес келтіруге мәжбүрлеңіз. Ол шығыстың бағдарламалық талданатын және жарамды болуын қамтамасыз етеді. Бұл шақыру арқылы «жай ғана JSON қайтарыңыз» дегеннен гөрі сенімдірек.
{ "output_config": { "формат": { "түр": "json_schema", "схема": { "түрі": "объект", "additionalProperties": false, "қасиеттер": { "санат": { "түрі": "жол", "енум": ["шот-фактура", "техникалық", "енум": "{"қайта"," "түрі": "жол", "енум": ["төмен", "орташа", "жоғары"] } }, "міндетті": ["санат", "шұғыл"] } }}
Көшірілетін жүйе шақыру үлгілері
# Корпоративтік қолдау көмекшісіСіз корпоративтік қолдау көмекшісісіз.- Тек ұсынылған бағдарламалық құжатқа сеніңіз; Егер ол құжатта жоқ болса, «Менде бұл ақпарат жоқ» деп айтыңыз. - Ең көбі 3 сөйлеммен ресми және нақты жауап беріңіз. - Жеке деректерді (ТС ID нөмірі, карта нөмірі) сұраңыз және оны жауабыңызда қайталамаңыз. - Сенбесеңіз, болжамаңыз.
# Құрылымдық шығыс классификаторыСіз сұраныс классификаторысыз. Кіріс тұтынушы хабарламасы болып табылады. Тек сұралған өрістерді қайтарыңыз, түсініктеме жазбаңыз. Егер сенімді болмасаңыз, «басқаны» пайдаланыңыз.
# Белгісіздікте тұрған мінез-құлқы анықталған талдаушыСіз деректер талдаушысысыз. Берілген кестеден тек тексерілетін қорытындыларды салыңыз. Ешқашан деректерде жоқ қорытынды жасамаңыз. Егер қорытынды түсініксіз болса, «деректер жеткіліксіз» деп жазыңыз.
# Тон мен ұзындықты басқаратын мазмұн жазушысы Сіз мазмұн жазушысыз. Жылы, бірақ кәсіби тонды пайдаланыңыз. Әр мәтінді 120 сөзбен шектеңіз. Клишелік маркетингтік тілден аулақ болыңыз.
Әлсіз шақыру / Күшті шақыру
# ӘЛСІЗ Көмектесіңіз және жақсы жауап беріңіз. Қолыңнан келгеннің бәрін жаса.
# STRONGРөлі: Техникалық қолдау жөніндегі маман. Қолдану аясы: Өнім нұсқаулығы ғана берілген. Пішім: Қадамдық, нөмірленген тізім, максимум 5 қадам. Шектеу: Нұсқаулықта емес шешімді ұсыныңыз; «Мен оны нұсқаулықтан таба алмадым» деңіз. Құпиялық: жауапта пайдаланушы бөліскен сериялық нөмірді қайталамаңыз.
Күшті нұсқасы; Ол рөлді, ауқымды, форматты, шекараларды және құпиялылықты бөлек анықтайды. Шығару дәйектілігі тікелей осы анықтықтан туындайды.
Үш шағын корпус
1-жағдай — Күшті реттеу арқылы шығындарды азайту. Бір команда өзінің барлық шақыруларын жоғары күш + ойлаумен орындады; Тіпті қарапайым электрондық пошта дайджесттері қымбат болды және шығарылуы баяу болды. Олар аз күш-жігерге жинақтау және жоғары күш-жігерге келісімшартты талдау сияқты қарапайым тапсырмаларды тағайындады. Дәлдік сақталды, орташа кідіріс екі есе азайды және айлық шығындар үштен біріне қысқарды.
2-жағдай — JSON кепілдігі. Операциялар тобы «жәй ғана JSON беріңіз» деген нұсқаумен жіктеу шығысын сұрады, бірақ модель анда-санда «Міне, нәтиже:» деп жазады және талдаушы істен шығады. Конфигурацияланған шығыс схемасын қосқанда, шығыс әр уақытта жарамды JSON қайтарды; талдау қателері қалпына келтірілді.
3-жағдай - Агрессивті жылдам кері қайтару. Көмекшінің нұсқауы: "ӘР СҰРАҚТЫ ІЗДЕУ КЕРЕК"; Модель тіпті жауабын білетін қарапайым сұрақтар үшін қажетсіз іздеулер жасады, бұл баяулатып, шығындарды арттырады. Олар ережені «Егер жауап контексте болмаса, іздеңіз» деп жеңілдетеді; Қажетсіз қоңыраулар 70%-ға азайып, жауаптар жылдамдады.
Жалпы қателер
- Жүйе шақыруында айнымалы деректерді ендіру: Сәйкестікті бұзады және кэшті жарамсыз етеді.
- Тым агрессивті нұсқау: Заманауи үлгілерде шамадан тыс іске қосу және қажетсіз шығындар.
- Әрбір тапсырмада жоғары күш: Қарапайым тапсырмаларда ысырап; тапсырмаға күш салу.
- JSON сұрауы арқылы ғана сұрау: Ол анда-санда үзіледі; маңызды болса, құрылымдық нәтижені пайдаланыңыз.
- Шекаралық/анықсыз мінез-құлықты анықтамау: Модель бос орынды ойдан шығарумен толтырады (галлюцинация).
- Ескі «температура» әдеті: Қазіргі модельдер мұны қабылдамайды; Мінез-құлықты жылдам және күш-жігермен бағыттаңыз.
Тереңірек: сұрауды келісім-шарт сияқты жазу
Тәжірибелі командалар жүйе жеделдігін әдеби мәтін емес, келісім ретінде қарастырады: анық тармақтар, өлшенетін ережелер, бірмәнді шекаралар. Бұл тәсілдің үш нақты пайдасы бар. Біріншісі - жүйелілік: бірдей кіріс әртүрлі уақытта ұқсас нәтиже береді. Екіншіден, сынақтан өту мүмкіндігі: әрбір элементті үлгімен бөлек тексеруге болады. Үшіншіден, техникалық қызмет көрсетудің қарапайымдылығы: мінез-құлық дұрыс емес болса, сіз қай элементті ауыстыру керектігін білесіз.
Жақсы тәжірибе - жақсы мысалдармен жетекшілік ету. Заманауи үлгілерде «мұны істеме» тізімін берудің орнына «қажетті нәтиже дәл осылай көрінеді» деген мысал келтіру әлдеқайда тиімді. Мысалы, классификаторда сұрауға күтілетін JSON үлгісінің бір немесе екі үлгісін қосу пішімдеу қателерін айтарлықтай азайтады.
Тағы бір күшті әдіс - белгісіздік әрекетін анық жазу. «Егер сенімді болмасаңыз, болжамаңыз; «жеткіліксіз деректер» деңіз» сияқты тармақ модельдің бос орынды ойдан шығару (галлюцинация) арқылы толтыру үрдісін басады. Бұл жалғыз сөйлем 11-бөлімде қарастырылатын тексеру қабатын жүктейді: модель белгісіздікті белгілегеннен кейін, адамның валидациясы оңайырақ болады.
Соңында, күш-жігерді бірге қарастырыңыз және жеделдетіңіз. Үлкен күш жұмсаған кезде модель көбірек зерттейді және кейде қажетсіз «қосымша жұмыс» жасайды (қажетсіз түсіндіру, қосымша ұсыныс). Хабарламада «тек қалаған нәтижені беріңіз, қосымша түсініктемелер қоспаңыз» деп айту жоғары күш салудың бұл жанама әсерін өтейді.
Қысқаша
Жүйе шақыруы үлгінің тұрақты директивасы болып табылады: ол рөлді, ауқымды, пішімді, түсініксіз әрекетті және құпиялылықты анықтайды. Заманауи үлгілерде мінез-құлық температураға емес, бейімделгіш ойлау мен күш-жігер параметрлеріне негізделген; Тапсырмаға күш жұмсау сапа мен шығынды қатар басқарады. Шығаруды max_tokens, тоқтату массивтері және құрылымдық шығыс арқылы қорғайсыз.
Қолданбалы тапсырма
Тапсырманы таңдаңыз. (1) Бес құрамдас (рөл, ауқым, пішім, анық еместік, құпиялылық) бар жүйе сұрауын жазыңыз. (2) Осы тапсырма үшін қандай күш-жігерді таңдайтыныңызды және неліктен екенін көрсетіңіз. (3) Егер шығыс құрылымды болуы керек болса, шағын JSON схемасын сызыңыз. (4) Сұрауыңызда тым агрессивті үлгі бар-жоғын тексеріп, оны жұмсартыңыз.
бақылау парағы
- [ ] Жақсы жүйе шақыруының бес компонентін атай аламын.
- [ ] Мен бейімделгіш ойлау мен күш-жігер параметрлері не істейтінін түсіндіре аламын.
- [ ] Тапсырмаға сәйкес күш-жігерді реттеу арқылы сапа/құнды теңестіре аламын.
- [ ] Мен неге құрылымдық шығыс JSON сұрауы арқылы сұраудан қауіпсіз екенін білемін.
- [ ] Мен тым агрессивті нұсқаулардың заманауи үлгілеріндегі қауіпті тани аламын.