Girdeji:
- Ulgam isleginiň modeli tutuş gepleşik arkaly nädip ugrukdyrýandygyny düzüp biler
- Uýgunlaşdyrylan pikirlenmäniň we tagallanyň parametrleriniň roluna we çykdajylaryna düşünýär
- max_tokens, stop yzygiderliligi we gurluşly çykyş ýaly çykyş dolandyryşlaryny amala aşyrýar
Bir modeliň iki dürli önümi düýbünden başgaça bolup biler. Tapawut modeliň özünde däl, ulgam ulgamynda we oňa berlen parametrlerde. Ulgam islegi modeliň "iş şertnamasy" we parametrleri "iş sazlamalary". Bu bölümde güýçli ulgam islegini nädip düzmelidigini, häzirki zaman modellerindäki pikirleniş we tagalla sazlamalaryny, format / uzynlyk üçin çykyşy nädip dolandyrmalydygyny öwrenersiňiz. Bu sazlamalary dogry sazlamak, şol bir wagtyň özünde hil we bahany dolandyrmaga mümkinçilik berýär.
Ulgam gyssagly: Modeliň hemişelik görkezmesi
Ulgam islegi, tutuş söhbetdeşlikde ulanylýan ýokary derejeli görkezme. Ulanyjynyň haýsy görnüşine garamazdan bu düzgünler güýje girýär. Gowy ulgam islegi aşakdaky bölekleri öz içine alýar:
- Rol / şahsyýet: Model kim? ("Korporatiw goldaw kömekçisi.")
- Ulanyş we araçäk: Näme edýär we näme etmeýär? ("Diňe berlen syýasat resminamasyna esaslanýar.")
- Format düzgünleri: Çykyş nähili bolmaly? ("Iň köp 3 makala, resmi dil.")
- Näbellilikde özüni alyp barş: Ynamsyz adam näme edýär? ("Maglumat ýok bolsa, düzüň, degişli bölüme gönükdiriň.")
- Howpsuzlyk / gizlinlik: Näme islemeýär / islemeýär? ("Şahsy maglumatlary soraň.")
Maslahat: Ulgam islegini durnukly saklaň. Her haýyş bilen üýtgeýän maglumatlary (häzirki senesi, ulanyjy ady, sessiýa ID) goýmaň. Bularyň ikisi hem yzygiderliligi bozýar we 6-njy bölümdäki gyssagly keşi ýatyrýar. Üýtgeýän maglumatlary ulanyjy habaryna goýuň.
Artykmaç agressiw görkezme duzagy
Döwrebap modeller görkezmäni ýakyndan ýerine ýetirýärler. Köne modellerde işlän "MUGT", "HEREKET", "DEGIŞLI muny et" we ş.m. ýaly agressiw jümleler häzirki wagtda aşa çekeleşiklere sebäp bolýar: model zerur däl wagty agenti çagyrýar ýa-da gereksiz uzak wagtlap işleýär. Düzgüni ýumşadyň: "Gözleg guralyny ulanmaly" ýerine "Gepleşikde jogap ýok bolsa, gözleg guralyny ulanyň" has takyk.
Model parametrleri: Pikir we tagalla
Klassiki LLM-leriň temperatura parametri bardy: pes bahasy has anyk / yzygiderli önüm çykardy, has ýokary baha has köp dürli / döredijilikli önüm çykardy. Häzirki zaman nesil modelleri (Opus 4.8, Sonnet 5) bu çemeleşmäni has güýçli iki mehanizm bilen çalyşýar we indi temperatura ýaly nusga alma parametrlerini kabul etmeýär.
- Uýgunlaşdyrylan pikirleniş: Model jogap bermezden ozal "kellesinde" sebäp bolýar. Model, meseläniň kynlygyna baglylykda näçe pikirlenmelidigini çözýär. Çylşyrymly, köp basgançakly meselelerde takyklygy ep-esli ýokarlandyrýar; Simpleönekeý soraglarda gereksiz gijikdirmezlik üçin az pikir edýär.
- Zähmet: Modeliň haýsydyr bir meselä näderejede çümýändigini we jemi näçe belgini sarp edýändigini sazlaýan ýokary derejeli düwme. Adaty derejeler: pes, orta, ýokary we ýokarda. Highokary tagallalar hilini gowulaşdyryp biler, ýöne gijä galmagy we çykdajylary ýokarlandyrýar; Pes tagalla tizlik we tygşytlylyk getirýär.
Sazlamak
Näme edýär
haçan
Pikir etmek / pes tagalla
Çalt, arzan, ýüzleý
Pleönekeý klassifikasiýa, gysga jogap, duýgur işleri gijikdirmek
Uýgun pikirlenmek + orta tagalla
Deňagramly hil / bahasy
Esasy maksat wezipeleriniň köpüsi
Uýgunlaşdyrylan pikirlenmek + ýokary tagalla
iň ýokary takyklyk
Çylşyrymly pikirlenmek, kodlaşdyrmak, uzak aralykdaky agent işi
Üns beriň: "Näme bolsa-da" refleks çykdajylary ýokarlandyrýar. Zähmeti sazlamak; Simpleönekeý meselelerde pes tagallalar köplenç has arzan bahadan şol bir takyk netijäni berýär. Kritiki takyklygyň zerur ýerinde ýokary çykyň.
Çykyş gözegçiligi: Format, uzynlyk, gurluş
Parametrlerden başga-da, çykyşyň özüni dolandyrýarsyňyz:
- max_tokens: Çykyşyň gaty potoly (1-nji we 3-nji bölüm).
- Dowam etmegiň yzygiderliligi: Belli bir setiri görende modeli duruzmak. Düzülen önümçilikde nokatlary kesgitlemek üçin peýdaly.
- Düzülen çykyş: Modeliň beren jogabyny, hödürleýän JSON shemanyňyza laýyk getirmäge mejbur ediň. Çykyşyň programma taýdan jikme-jik we ygtybarly bolmagyny üpjün edýär. Çaltlyk bilen "diňe JSON-y yzyna gaýtar" diýmekden has ygtybarly.
. ["pes", "orta", "ýokary"]}}, "zerur": ["kategoriýa", "gyssaglylyk"]}}}}
Göçürip bolýan ulgam gyssagly şablonlary
# Korporatiw goldaw kömekçisi Siz korporatiw goldaw kömekçisiňiz.- Diňe berlen syýasat resminamasyna bil baglaň; Resminamada ýok bolsa, "mende bu maglumat ýok" diýiň. - Iň köp 3 sözlemde resmi we anyk jogap beriň. - Şahsy maglumatlary soraň (TC ID belgisi, kart belgisi) we jogabyňyzda gaýtalamaň. - Ynanmasaňyz, çaklamaň.
# Klassifikatory mejbur edýän gurluşly çykyş Siz isleg klassifikatory. Giriş müşderi habarydyr. Diňe talap edilýän meýdanlary yzyna gaýtaryň, teswir ýazmaň. Ynanmasaňyz, "başga" ulanyň.
# Näbellilikde durmagyň kesgitlenen özüni alyp barşy bilen analitikSiz maglumat analitigi. Berlen tablisadan diňe barlap boljak salgylanmalary çyzyň. Hiç haçan maglumatlarda ýok diýen netijä gelmäň. Salgylanma düşnüksiz bolsa, "maglumatlar ýeterlik däl" diýip ýazyň.
# Sesi we uzynlygy bilen mazmun ýazyjysySiz mazmun ýazyjysy. Warmyly, ýöne hünär äheňini ulanyň. Her teksti 120 söz ýa-da ondan az söz bilen çäklendiriň. Marketing dilinden gaça duruň.
Gowşak haýyş / Güýçli haýyş
# WEAKBe peýdaly we gowy jogap beriň. Elinden gelenini et.
# STRONGRole: Tehniki goldaw hünärmeni.Skop: Önüm gollanmasy diňe berilýär. Format: stepdimme-ädim, sanly sanaw, iň ýokary 5 ädim. Çäk: Gollanmada däl çözgüdi maslahat beriň; "Gollanmada tapyp bilmedim" diýiň. Gizlinlik: Ulanyjy tarapyndan jogapda paýlaşylan seriýa belgisini gaýtalamaň.
Güýçli wersiýa; Roly, göwrümi, formaty, çäkleri we gizlinligi aýratyn kesgitleýär. Çykyş yzygiderliligi gönüden-göni bu aýdyňlykdan gelýär.
Üç kiçi waka
1-nji waka - tagallalary düzetmek arkaly çykdajylary azaltmak. Bir topar ähli çagyryşlaryny ýokary güýç + pikirlenmek bilen alyp barýardy; Hatda ýönekeý e-poçta gözlegleri hem gymmat we öndürmek üçin haýaldy. Pes tagallalara gysgaça mazmun we ýokary tagallalara şertnama derňewi ýaly ýönekeý meseleleri bellediler. Takyklyk saklandy, ortaça gijä galmak iki esse azaldy we aýlyk çykdajy üçden birine azaldy.
2-nji waka - JSON kepilligi. Operasiýa topary, "diňe JSON beriň" diýip, klassifikasiýa netijesini sorady, ýöne model käwagt "Ine netije:" diýip ýazýardy we derňewçi ýykylýar. Sazlanan çykyş shemasyny birikdirenimde, çykyş her gezek dogry JSON gaýtardy; derňew ýalňyşlyklary täzeden düzüldi.
3-nji hadysa - Agressiw gyssagly yza gaýtarmak. Kömekçi haýyş, "HER SORAG gözlemeli"; Model, jogabyny eýýäm bilýän, haýallaýan we çykdajylary ýokarlandyrýan ýönekeý soraglar üçin hem gereksiz gözlegler etdi. "Jogap kontekstde bolmasa, gözläň" düzgünini gowşatdylar; Gereksiz jaňlar 70% azaldy we jogaplar çaltlaşdy.
Adaty ýalňyşlyklar
- Üýtgeýän maglumatlary ulgam ulgamyna ornaşdyrmak: yzygiderliligi bozýar we keş keşbini ýatyrýar.
- Artykmaç agressiw görkezme: Döwrebap modellerde aşa tüweleme we gereksiz çykdajy.
- Her işde ýokary güýç: simpleönekeý meselelerde isrip etmek; synanyşyk etmek.
- JSON-dan diňe haýyş bilen haýyş etmek: Kämahal döwülýär; tankydy bolsa, gurluşly çykyşy ulanyň.
- Araçäk / düşnüksiz häsiýeti kesgitlemezlik: Model boşlugy ýasamak (galýusinasiýa) bilen doldurýar.
- Köne "temperatura" endigi: Häzirki zaman modelleri muny kabul etmeýär; Özüňi alyp barşyňy çalt we zähmet bilen ugrukdyr.
Çuňňur: Şertnama ýaly gyssagly ýazmak
Tejribeli toparlar ulgam islegine edebi tekst däl-de, şertnama ýaly çemeleşýärler: anyk maddalar, ölçenip boljak düzgünler, birmeňzeş çäkler. Bu çemeleşmäniň üç sany anyk peýdasy bar. Birinjisi yzygiderlilik: şol bir giriş dürli wagtlarda şuňa meňzeş çykyş berýär. Ikinjisi synag mümkinçiligi: her elementi nusga bilen aýratyn synap bilersiňiz. Üçünjisi, tehniki hyzmatyň aňsatlygy: özüňi alyp barşyň nädogry bolsa, haýsy elementi çalyşmalydygyny bilýärsiň.
Gowy tejribe oňyn mysallar bilen alyp barmakdyr. "Muny etme" sanawyny bermegiň ýerine, häzirki modellerde "islenýän önümiň edil özi ýaly" diýýän mysal getirmek has täsirli. Mysal üçin, klassifikatorda garaşylýan JSON-dan bir ýa-da iki nusga goşmak, formatirleme ýalňyşlyklaryny ep-esli azaldar.
Anotherene bir güýçli usul, näbellilik häsiýetini aç-açan ýazmakdyr. "Ygtybarly däl bolsaň, çak etme;" ýeterlik däl maglumat "diýlen söz, modeliň boş galplyk (galýusinasiýa) bilen doldurylmagyny basyp ýatyrýar. Bu ýeke sözlem, 11-nji bölümde barlanjak barlag gatlagymyzy düşürýär: model eýýäm näbelliligi bellänsoň, adam tassyklamasyna eltmek aňsatlaşýar.
Netijede, tagallalary göz öňünde tutuň we bilelikde gyssagly hereket ediň. Köp zähmet bilen model has köp öwrenýär we käwagt islenmeýän “goşmaça iş” edýär (gereksiz düşündiriş, goşmaça teklip). "Diňe islenýän netijäni beriň, goşmaça teswir goşmaň" diýmek, ýokary tagallanyň bu ters täsirini öçürýär.
Gysgaça
Ulgam islegi modeliň hemişelik görkezmesi bolup durýar: roluny, gerimini, formatyny, düşnüksiz hereketini we gizlinligini kesgitleýär. Häzirki zaman modellerinde özüni alyp barş, temperatura däl-de, uýgunlaşdyrylan pikirleniş we tagalla parametrleri bilen dolandyrylýar; Zähmeti deňleşdirmek hil we çykdajylary bir wagtda dolandyrýar. Çykyşy max_tokens bilen goraýarsyňyz, massiwleri saklaň we gurluşly çykyş.
Programma meselesi
Bir ýumuş saýlaň. (1) Bäş komponentli (rol, çäk, format, düşnüksizlik, gizlinlik) ulgam islegini ýazyň. (2) Bu mesele üçin haýsy derejäni saýlajakdygyňyzy we sebäbini görkeziň. (3) Çykyş gurluşly bolmaly bolsa, kiçijik JSON shemasyny çyzyň. (4) Haýyşyňyzda aşa agressiw nagyşyň bardygyny barlaň we ýumşadyň.
gözegçilik sanawy
- [] Gowy ulgam isleginiň bäş komponentini atlandyryp bilerin.
- [] Uýgunlaşdyrylan pikirlenmäniň we tagallalaryň parametrlerini düşündirip bilerin.
- [] Işe görä tagallalary düzedip hil / bahany deňleşdirip bilerin.
- [] Näme üçin gurluşly çykyş JSON-dan haýyş etmekden has ygtybarlydygyny bilýärin.
- [] Örän agressiw görkezmeleriň häzirki zaman modellerinde töwekgelçiligi tanap bilerin.