Qazanclar:
- Sistem əmrinin bütün söhbət boyunca modeli necə istiqamətləndirdiyini dizayn edə bilər
- Adaptiv düşüncə və səy parametrlərinin rolunu və xərc təsirini başa düşür
- max_tokens, stop sequences və strukturlaşdırılmış çıxış kimi çıxış nəzarətlərini həyata keçirir
Eyni modelin iki fərqli məhsulu tamamilə fərqli davrana bilər. Fərq modelin özündə deyil, sistem sorğusunda və ona verilən parametrlərdədir. Sistem sorğusu modelin "iş müqaviləsi", parametrləri isə "iş parametrləri"dir. Bu bölmədə siz güclü sistem əmrini necə tərtib etməyi, müasir modellərdə düşüncə və səy parametrlərinin nə etdiyini və format/uzunluq üçün çıxışa necə nəzarət edəcəyinizi öyrənəcəksiniz. Bu parametrlərin düzgün qurulması sizə eyni zamanda həm keyfiyyəti, həm də dəyəri idarə etməyə imkan verir.
Sistem əmri: Modelin Daimi Direktivi
Sistem əmri bütün söhbət boyu tətbiq olunan yüksək səviyyəli təlimatdır. İstifadəçinin növündən asılı olmayaraq bu qaydalar qüvvədə qalır. Yaxşı bir sistem sorğusu aşağıdakı komponentləri ehtiva edir:
- Rol/şəxsiyyət: Model kimdir? (“Siz korporativ dəstək köməkçisisiniz.”)
- Əhatə dairəsi və sərhəd: nə edir və nə etmir? (“Yalnız təqdim edilən siyasət sənədinə əsaslanır.”)
- Format qaydaları: Çıxış necə olmalıdır? (“Maksimum 3 məqalə, rəsmi dil.”)
- Qeyri-müəyyənlikdə davranış: əmin olmayanda nə edir? (“Məlumat yoxdursa, düzəldin, müvafiq bölməyə yönləndirin”).
- Təhlükəsizlik/məxfilik: Nə istəmir/istəmir? ("Şəxsi məlumatları tələb edin.")
İpucu: Sistem sorğusunu sabit saxlayın. Hər sorğu ilə dəyişən məlumatları (cari tarix, istifadəçi adı, sessiya ID) daxil etməyin. Bu, həm ardıcıllığı pozur, həm də 6-cı bölmədə sorğu keşini etibarsız edir. Dəyişən məlumatı istifadəçi mesajına daxil edin.
Həddindən artıq aqressiv təlimat tələsi
Müasir modellər təlimatı çox diqqətlə izləyirlər. Köhnə modellərdə işləmiş "MÜTLƏQ", "HƏMİŞƏ", "MÜTLƏQ BUNU" və s. kimi aqressiv ifadələr bu gün həddindən artıq tətiklənməyə gətirib çıxarır: model lazım olmayanda agentə zəng edir və ya lazımsız uzun müddət işləyir. Qaydanı yumşaldın: “MÜTLƏQ axtarış alətindən istifadə edin”, “Cavab söhbətdə deyilsə, axtarış alətindən istifadə edin” əvəzinə daha doğrudur.
Model Parametrləri: Düşüncə və Səy
Klassik LLM-lərin bir temperatur parametri var idi: daha aşağı dəyər daha spesifik/ardıcıl məhsul verir, daha yüksək dəyər daha müxtəlif/yaradıcı məhsul verir. Müasir nəsil modelləri (məsələn, Opus 4.8, Sonnet 5) bu yanaşmanı iki daha güclü mexanizmlə əvəz edir və artıq temperatur kimi seçmə parametrlərini qəbul etmir.
- Uyğunlaşan təfəkkür: Model cavab verməzdən əvvəl addım-addım öz “başında” əsaslandırır. Model tapşırığın çətinliyinə əsaslanaraq nə qədər düşünəcəyinə qərar verir. Mürəkkəb, çoxmərhələli məsələlərdə dəqiqliyi əhəmiyyətli dərəcədə artırır; Sadə suallarda lazımsız gecikmələrə yol verməmək üçün daha az düşünür.
- Səy: Modelin bir tapşırığa nə qədər dərindən girdiyini və cəmi nə qədər token xərclədiyini tənzimləyən yüksək səviyyəli düymə. Tipik səviyyələr: aşağı, orta, yüksək və yuxarı. Yüksək səy keyfiyyəti yaxşılaşdıra bilər, eyni zamanda gecikmə və xərcləri artırır; Az səy sürət və qənaət gətirir.
Parametr
Nə edir
nə vaxt
Düşünmək/az səy göstərmək
Sürətli, ucuz, səthi
Sadə təsnifat, qısa cavab, həssas tapşırıqları gecikdirmək
Adaptiv düşüncə + orta səy
Balanslaşdırılmış keyfiyyət/qiymət
Ən ümumi təyinatlı vəzifələr
Adaptiv düşüncə + yüksək səy
ən yüksək dəqiqlik
Kompleks əsaslandırma, kodlaşdırma, uzunmüddətli agent işi
Diqqət: "Nə olursa olsun maksimum səy" refleksi xərcləri artırır. Tapşırıq üçün səyləri tənzimləyin; Sadə işlərdə az səy çox vaxt eyni dəqiq nəticəni daha ucuz qiymətə verir. Kritik dəqiqliyin lazım olduğu yerdə yüksəklərə qalxın.
Çıxışa Nəzarət: Format, Uzunluq, Struktur
Parametrlərə əlavə olaraq, çıxışın özünü də idarə edirsiniz:
- max_tokens: Çıxışın sərt tavanı (1-ci və 3-cü vahid).
- Ardıcıllığı dayandırın: Model müəyyən bir sətir gördükdə dayandırılır. Strukturlaşdırılmış istehsalda kəsilmə nöqtələrini təyin etmək üçün faydalıdır.
- Strukturlaşdırılmış çıxış: Modelin cavabını təqdim etdiyiniz JSON sxeminə uyğunlaşdırmağa məcbur edin. O, çıxışın proqramlı olaraq təhlil edilə bilən və etibarlı olmasını təmin edir. Bu, sorğu ilə "yalnız JSON-u qaytarın" deməkdən daha etibarlıdır.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["invoice", "technical", "enum": ["invoice", "technical", "enum" { "type": "string", "enum": ["aşağı", "orta", "yüksək"] } }, "lazım": ["kateqoriya", "təcili"] } } }}
Kopyalana bilən sistem sorğu şablonları
# Korporativ dəstək köməkçisiSiz korporativ dəstək köməkçisisiniz.- Yalnız təqdim edilmiş siyasət sənədinə etibar edin; Əgər sənəddə yoxdursa, “məndə bu məlumat yoxdur” deyin. - Maksimum 3 cümlə ilə rəsmi və aydın cavab verin. - Şəxsi məlumatları (TC ID nömrəsi, kartın nömrəsi) tələb edin və cavabınızda təkrarlamayın. - Əmin deyilsinizsə, təxmin etməyin.
# Strukturlaşdırılmış çıxış məcburi təsnifatlandırıcı Siz tələb təsnifatçısısınız. Giriş müştəri mesajıdır. Yalnız tələb olunan sahələri qaytarın, şərh yazmayın. Əmin deyilsinizsə, "digər"dən istifadə edin.
# Qeyri-müəyyənlik içində dayanma davranışı ilə müəyyən edilmiş analitik Siz məlumat analitikisiniz. Təqdim olunan cədvəldən yalnız yoxlanıla bilən nəticələr çıxarın. Heç vaxt məlumatlarda olmayan bir nəticə çıxarmayın. Nəticə aydın deyilsə, "məlumat kifayət deyil" yazın.
# Ton və uzunluq nəzarəti ilə məzmun yazıçısıSiz məzmun yazıçısısınız. İsti, lakin peşəkar bir ton istifadə edin. Hər mətni 120 və ya daha az sözlə məhdudlaşdırın. Klişe marketinq dilindən çəkinin.
Zəif məlumat / Güclü göstəriş
# ZƏFİLLƏR Köməkçi olun və yaxşı cavablar verin. Əlinizdən gələni edin.
# STRONGRol: Texniki dəstək mütəxəssisi. Əhatə dairəsi: Məhsul təlimatı yalnız təqdim olunur. Format: Addım-addım, nömrələnmiş siyahı, maksimum 5 addım. Limit: Təlimatda olmayan həlli tövsiyə edin; "Mən bunu təlimatda tapa bilmədim" deyin. Məxfilik: Cavabda istifadəçi tərəfindən paylaşılan seriya nömrəsini təkrarlamayın.
Güclü versiya; Rolu, əhatə dairəsini, formatını, sərhədlərini və məxfiliyi ayrıca müəyyən edir. Çıxışın ardıcıllığı birbaşa bu aydınlıqdan irəli gəlir.
Üç mini qutu
1-ci hal – səylərin tənzimlənməsi yolu ilə xərclərin azaldılması. Bir komanda bütün çağırışlarını yüksək səy + düşüncə üzərində işlədirdi; Hətta sadə e-poçt həzmləri bahalı və istehsal etmək üçün yavaş idi. Onlar kiçik səylərə xülasələr, yüksək səylərə isə müqavilə təhlili kimi sadə tapşırıqlar verdilər. Dəqiqlik qorunub saxlanıldı, orta gecikmə iki dəfə azaldıldı və aylıq xərc üçdə bir azaldıldı.
2-ci hal - JSON zəmanəti. Əməliyyat qrupu "sadəcə JSON verin" deyərək təsnifat çıxışını istədi, lakin model vaxtaşırı "Nəticə budur:" yazır və təhlilçi qəzaya uğrayırdı. Mən konfiqurasiya edilmiş çıxış sxemini birləşdirəndə çıxış hər dəfə etibarlı JSON qaytardı; təhlil xətaları sıfırlandı.
3-cü vəziyyət - Aqressiv tez geri çəkilmə. Köməkçi sorğusu, "HƏR SUALI AXTARMALIDIR" dedi; Model, hətta cavabını bildiyi sadə suallar üçün də lazımsız axtarışlar apararaq, yavaşladı və xərcləri artırdı. Onlar “cavab kontekstdə deyilsə, axtarın” qaydasını yüngülləşdirdilər; Lazımsız zənglər 70% azalıb, cavablar sürətlənib.
Ümumi səhvlər
- Dəyişən məlumatların sistem sorğusuna daxil edilməsi: Ardıcıllığı pozur və keşi etibarsız edir.
- Həddindən artıq aqressiv təlimat: Müasir modellərdə həddindən artıq tetikleme və lazımsız xərclər.
- Hər işdə yüksək səy: Sadə işlərdə israfçılıq; səyləri tapşırığa uyğunlaşdırın.
- Yalnız sorğu vasitəsilə JSON sorğusu: O, bəzən pozulur; kritikdirsə, strukturlaşdırılmış çıxışdan istifadə edin.
- Sərhəd/müəyyənlik davranışını müəyyən etməmək: Model boşluqları uydurma (hallüsinasiya) ilə doldurur.
- Köhnə `temperatur` vərdişi: Müasir modellər bunu qəbul etmir; Tez və səylə davranışa rəhbərlik edin.
Daha dərin: Müqavilə kimi sorğunun yazılması
Təcrübəli komandalar sistemə ədəbi mətn deyil, müqavilə kimi yanaşır: aydın bəndlər, ölçülə bilən qaydalar, birmənalı sərhədlər. Bu yanaşmanın üç konkret faydası var. Birincisi ardıcıllıqdır: eyni giriş müxtəlif vaxtlarda oxşar çıxışı verir. İkincisi sınaqdan keçməkdir: hər bir elementi ayrıca nümunə ilə sınaqdan keçirə bilərsiniz. Üçüncüsü, baxım asanlığıdır: davranış səhvdirsə, hansı elementi əvəz edəcəyinizi bilirsiniz.
Yaxşı təcrübə müsbət nümunələrlə rəhbərlik etməkdir. Müasir modellərdə “bunu etmə” siyahısını verməkdənsə, “arzu olunan nəticə məhz belə görünür” deyən nümunə vermək daha effektivdir. Məsələn, təsnifatçıda gözlənilən JSON-un bir və ya iki nümunəsini sorğuya əlavə etmək formatlaşdırma xətalarını əhəmiyyətli dərəcədə azaldır.
Başqa bir güclü texnika qeyri-müəyyənlik davranışını açıq şəkildə yazmaqdır. "Əmin deyilsinizsə, təxmin etməyin; "qeyri-kafi məlumat" deyin" kimi bir bənd modelin boşluqları uydurma (hallüsinasiya) ilə doldurmaq meylini sıxışdırır. Bu tək cümlə, 11-ci bölmədə əhatə edəcəyimiz yoxlama qatını yükləyir: model artıq qeyri-müəyyənliyi qeyd etdikdən sonra, insan yoxlamasına səbəb olmaq daha asan olur.
Nəhayət, səy göstərin və birlikdə çağırın. Yüksək səylə model daha çox tədqiq edir və bəzən arzuolunmaz “əlavə iş” edir (lazımsız izahat, əlavə təklif). Sürətdə "yalnız istədiyiniz nəticəni verin, əlavə şərhlər əlavə etməyin" demək yüksək səyin bu yan təsirini kompensasiya edir.
Xülasə
Sistem əmri modelin daimi direktividir: o, rolu, əhatə dairəsini, formatı, qaranlıq davranışı və məxfiliyi müəyyən edir. Müasir modellərdə davranış temperaturdan daha çox adaptiv düşüncə və səy parametrləri ilə idarə olunur; Səyləri tapşırığa uyğunlaşdırmaq eyni vaxtda keyfiyyət və xərcləri idarə edir. Siz çıxışı max_tokens, stop massivləri və strukturlaşdırılmış çıxış ilə təmin edirsiniz.
Tətbiq tapşırığı
Tapşırıq seçin. (1) Beş komponentdən (rol, əhatə dairəsi, format, qeyri-müəyyənlik, məxfilik) bir sistem sorğusu yazın. (2) Bu tapşırığı yerinə yetirmək üçün hansı səviyyədə səy göstərəcəyinizi və niyə seçəcəyinizi bildirin. (3) Çıxış strukturlaşdırılmalıdırsa, kiçik bir JSON sxemini çəkin. (4) Tələbinizdə həddindən artıq aqressiv bir nümunənin olub olmadığını yoxlayın və onu yumşaldın.
yoxlama siyahısı
- [ ] Yaxşı bir sistem təklifinin beş komponentinin adını çəkə bilərəm.
- [ ] Mən adaptiv düşüncə və səy parametrlərinin nə etdiyini izah edə bilərəm.
- [ ] Tapşırığa uyğun olaraq səyləri tənzimləməklə keyfiyyət/qiyməti tarazlaya bilərəm.
- [ ] Mən strukturlaşdırılmış çıxışın əmr vasitəsilə JSON sorğusundan daha təhlükəsiz olduğunu bilirəm.
- [ ] Həddindən artıq aqressiv təlimatların müasir modellərində riski tanıya bilirəm.