Tizim taklifi va model parametrlari

Daromadlar:

• Tizim taklifi butun suhbat davomida modelni qanday boshqarishini loyihalashtira oladi
• Moslashuvchan fikrlash va harakat parametrlarining roli va xarajat ta'sirini tushunadi
• max_tokens, stop sequences va tuzilgan chiqish kabi chiqish boshqaruvlarini amalga oshiradi

Xuddi shu modeldagi ikki xil mahsulot butunlay boshqacha harakat qilishi mumkin. Farqi modelning o'zida emas, balki tizim taklifida va unga berilgan parametrlarda. Tizim so'rovi modelning "mehnat shartnomasi" va parametrlari "ish sozlamalari". Ushbu bo'limda siz kuchli tizim taklifini qanday loyihalashtirishni, zamonaviy modellardagi fikrlash va harakat sozlamalari nima qilishini va format/uzunlik bo'yicha chiqishni qanday boshqarishni o'rganasiz. Ushbu sozlamalarni to'g'ri sozlash bir vaqtning o'zida sifat va narxni boshqarish imkonini beradi.

Tizim taklifi: Modelning doimiy direktivasi

Tizim so'rovi butun suhbat davomida qo'llaniladigan yuqori darajadagi ko'rsatmadir. Ushbu qoidalar foydalanuvchi qaysi turdagi turlaridan qat'iy nazar o'z kuchida qoladi. Yaxshi tizim taklifi quyidagi komponentlarni o'z ichiga oladi:

1. Rol/identifikatsiya: Model kim? (“Siz korporativ yordam bo'yicha yordamchisiz.”)
2. Qo'llanish doirasi va chegarasi: u nima qiladi va nima qilmaydi? (“Faqat taqdim etilgan siyosat hujjatiga asoslanadi.”)
3. Format qoidalari: Chiqish qanday bo'lishi kerak? (“Maksimal 3 ta maqola, rasmiy til.”)
4. Noaniqlikdagi xatti-harakatlar: ishonchsizlikda nima qiladi? ("Agar ma'lumot bo'lmasa, uni tuzating, tegishli bo'limga yo'naltiring.")
5. Xavfsizlik/maxfiylik: nima xohlamaydi/istamaydi? ("Shaxsiy ma'lumotlarni so'rash.")

Maslahat: Tizim soʻrovini oʻzgarmagan holda saqlang. Har bir so'rov bilan o'zgarib turadigan ma'lumotlarni (joriy sana, foydalanuvchi nomi, sessiya identifikatori) joylashtirmang. Bu ham izchillikni buzadi va 6-birlikdagi so'rov keshini bekor qiladi. O'zgaruvchi ma'lumotlarini foydalanuvchi xabariga qo'ying.

Haddan tashqari tajovuzkor ko'rsatmalar tuzog'i

Zamonaviy modellar ko'rsatmalarga juda mos keladi. Eski modellarda ishlagan “MUST”, “HAR DOIM”, “ALBATTA buni bajaring” va hokazo kabi tajovuzkor iboralar bugungi kunda haddan tashqari ishga tushirishga olib keladi: model kerak bo'lmaganda agentni chaqiradi yoki keraksiz uzoq vaqt ishlaydi. Qoidani yumshatish: “Qidiruv vositasidan foydalanish SHART”, “Agar javob suhbatda bo'lmasa, qidiruv vositasidan foydalaning” o'rniga aniqroq.

Model parametrlari: fikr va harakat

Klassik LLMlar harorat parametriga ega edi: pastroq qiymat ko'proq o'ziga xos / izchil mahsulot ishlab chiqardi, yuqori qiymat esa ko'proq xilma-xil/ijodiy mahsulot ishlab chiqardi. Zamonaviy avlod modellari (masalan, Opus 4.8, Sonnet 5) bu yondashuvni ikkita kuchli mexanizm bilan almashtiradi va endi harorat kabi namuna olish parametrlarini qabul qilmaydi.

• Moslashuvchan fikrlash: Model javob berishdan oldin o'zining "boshida" bosqichma-bosqich fikr yuritadi. Model vazifaning qiyinligidan kelib chiqib, qanchalik o'ylash kerakligini hal qiladi. Murakkab, ko'p bosqichli masalalar bo'yicha aniqlikni sezilarli darajada yaxshilaydi; Oddiy savollar bo'yicha keraksiz kechikishlarga yo'l qo'ymaslik uchun u kamroq o'ylaydi.
• Harakat: Modelning vazifaga qanchalik chuqur kirib borishini va jami qancha token sarflashini sozlaydigan yuqori darajali tugma. Odatda darajalar: past, o'rta, yuqori va yuqori. Yuqori harakat sifatni yaxshilashi mumkin, lekin u kechikish va xarajatlarni ham oshiradi; Kam harakat tezlik va tejashga olib keladi.

Sozlama

Nima qiladi

qachon

O'ylash / kam harakat qilish

Tez, arzon, yuzaki

Oddiy tasnif, qisqa javob, sezgir vazifalarni kechiktirish

Moslashuvchan fikrlash + o'rtacha harakat

Balanslangan sifat/xarajat

Eng umumiy maqsadli vazifalar

Moslashuvchan fikrlash + yuqori harakat

eng yuqori aniqlik

Murakkab fikrlash, kodlash, uzoq muddatli agent ishi

Diqqat: "Nima bo'lishidan qat'i nazar, maksimal harakat" refleksi xarajatlarni oshiradi. Vazifaga harakatni sozlang; Oddiy vazifalarda kam harakat ko'pincha bir xil aniq natijani ancha arzon narxda beradi. Kritik aniqlik zarur bo'lgan joyda yuqoriga chiqing.

Chiqishni boshqarish: format, uzunlik, tuzilma

Parametrlardan tashqari siz chiqishning o'zini ham boshqarasiz:

• max_tokens: Chiqishning qattiq shipi (1 va 3-birlik).
• Ketma-ketlikni to'xtatish: modelni ma'lum bir qatorni ko'rganda to'xtatish. Strukturaviy ishlab chiqarishda to'xtash nuqtalarini o'rnatish uchun foydalidir.
• Strukturaviy chiqish: Modelning javobini siz taqdim etgan JSON sxemasiga moslashtirishga majburlang. Bu chiqishning dasturiy jihatdan tahlil qilinishi va haqiqiyligini ta'minlaydi. Bu so'rov bilan "shunchaki JSONni qaytaring" deb aytishdan ko'ra ishonchliroq.

{ "output_config": { "format": { "turi": "json_schema", "sxema": { "turi": "ob'ekt", "additionalProperties": noto'g'ri, "xususiyatlar": { "toifa": { "turi": "string", "enum": ["invoice", "texnik", "enum": ""qayta", "type": "string", "enum": ["past", "o'rta", "yuqori"] } }, "talab": ["toifa", "shoshilinch"] } }}

Nusxalanadigan tizim soʻrovi shablonlari

# Korporativ qo'llab-quvvatlash yordamchisiSiz korporativ yordam yordamchisisiz.- Faqat taqdim etilgan siyosat hujjatiga tayaning; Agar u hujjatda bo'lmasa, "Menda bu ma'lumot yo'q" deb ayting. - Ko'pi bilan 3 ta jumlada rasmiy va aniq javob bering. - Shaxsiy ma'lumotlarni (TC ID raqami, karta raqami) so'rang va javobingizda ularni takrorlamang. - Agar ishonchingiz komil bo'lmasa, taxmin qilmang.

# Strukturaviy chiqishni majburlash tasniflagichiSiz talab klassifikatorisiz. Kirish mijozning xabaridir. Faqat so'ralgan maydonlarni qaytaring, izoh yozmang. Agar ishonchingiz komil bo'lmasa, "boshqa" dan foydalaning.

# Noaniqlikdagi xatti-harakatlari aniqlangan tahlilchi Siz ma'lumotlar tahlilchisisiz. Taqdim etilgan jadvaldan faqat tekshirilishi mumkin bo'lgan xulosalar chiqaring. Hech qachon ma'lumotlarda mavjud bo'lmagan xulosa chiqarmang. Agar xulosa aniq bo'lmasa, "ma'lumotlar etarli emas" deb yozing.

# Ohang va uzunlikni nazorat qiluvchi kontent yozuvchisi Siz kontent muallifisiz. Issiq, ammo professional ohangdan foydalaning. Har bir matnni 120 yoki undan kam so'z bilan cheklang. Klassik marketing tilidan saqlaning.

Zaif taklif / Kuchli taklif

# ZAYIF bo'ling va yaxshi javob bering. Qo'lingizdan kelganini qiling.

# STRONGRol: Texnik qoʻllab-quvvatlash boʻyicha mutaxassis. Qoʻllanish sohasi: Faqat mahsulot qoʻllanmasi taqdim etiladi. Format: Bosqichma-bosqich, raqamlangan roʻyxat, maksimal 5 bosqich. Cheklov: Yoʻriqnomada boʻlmagan yechimni tavsiya eting; "Men buni qo'llanmada topa olmadim" deb ayting. Maxfiylik: javobda foydalanuvchi tomonidan ulashilgan seriya raqamini takrorlamang.

Kuchli versiya; U roli, ko'lami, formati, chegaralari va maxfiyligini alohida belgilaydi. Chiqishning izchilligi to'g'ridan-to'g'ri ushbu aniqlikdan kelib chiqadi.

Uchta mini korpus

1-holat - Harakatlarni sozlash orqali xarajatlarni kamaytirish. Bitta jamoa barcha qo'ng'iroqlarini yuqori sa'y-harakatlar + fikrlash bilan amalga oshirdi; Hatto oddiy elektron pochta dayjestlari ham qimmat va ishlab chiqarilishi sekin edi. Ular oddiy vazifalarni, masalan, kam harakatga xulosalar va yuqori kuchga shartnoma tahlilini tayinladilar. Aniqlik saqlanib qoldi, o'rtacha kechikish ikki baravar kamaydi va oylik xarajatlar uchdan biriga kamaydi.

2-holat - JSON kafolati. Operatsion guruh "shunchaki JSONni bering" degan so'rov bilan tasniflash chiqishini so'radi, lekin model vaqti-vaqti bilan "Mana natija:" deb yozadi va tahlilchi ishlamay qoladi. Men konfiguratsiya qilingan chiqish sxemasini ulaganimda, chiqish har safar haqiqiy JSONni qaytardi; tahlil qilish xatolar qayta tiklandi.

3-holat - Agressiv tezkor orqaga qaytish. Yordamchi: “HAR BIR SAVOLNI IZLASH KERAK” dedi; Model hatto javobini bilgan oddiy savollar uchun ham keraksiz qidiruvlarni amalga oshirdi, sekinlashtirdi va xarajatlarni oshirdi. Ular qoidani yumshatishdi: "Agar javob kontekstda bo'lmasa, qidiring"; Keraksiz qo'ng'iroqlar 70% ga kamaydi va javoblar tezlashdi.

Umumiy xatolar

• Tizim so'roviga o'zgaruvchi ma'lumotlarini joylashtirish: izchillikni buzadi va keshni bekor qiladi.
• Haddan tashqari agressiv ko'rsatma: zamonaviy modellarda ortiqcha tetiklash va keraksiz xarajatlar.
• Har bir ishda yuqori harakat: oddiy ishlarda isrof; harakatni vazifaga moslashtiring.
• JSON-ni faqat taklif orqali so'rash: vaqti-vaqti bilan buziladi; agar muhim bo'lsa, tuzilgan chiqishdan foydalaning.
• Chegara/noaniqlik xulq-atvorini aniqlamaslik: Model bo'shliqni uydirma (gallyutsinatsiya) bilan to'ldiradi.
• Qadimgi `harorat` odati: Zamonaviy modellar buni qabul qilmaydi; Tez va harakat bilan xatti-harakatni boshqaring.

Chuqurroq: taklifni shartnoma kabi yozish

Tajribali jamoalar tizim tezkorligiga adabiy matn emas, balki shartnoma kabi munosabatda bo'lishadi: aniq bandlar, o'lchanadigan qoidalar, aniq chegaralar. Ushbu yondashuv uchta aniq afzalliklarga ega. Birinchisi, izchillik: bir xil kirish turli vaqtlarda o'xshash natijalarni beradi. Ikkinchidan, sinovdan o'tish mumkin: siz har bir elementni namuna bilan alohida tekshirishingiz mumkin. Uchinchidan, parvarish qilish qulayligi: agar xatti-harakatlar noto'g'ri bo'lsa, qaysi elementni almashtirishni bilasiz.

Ijobiy misollar bilan etakchilik qilish yaxshi amaliyotdir. "Buni qilmang" ro'yxatini taqdim etishdan ko'ra, zamonaviy modellarda "kerakli natija aynan shunday ko'rinadi" degan misolni keltirish ancha samaralidir. Misol uchun, tasniflagichda kutilgan JSONning bir yoki ikkita namunasini taklifga qo'shish formatlash xatolarini sezilarli darajada kamaytiradi.

Yana bir kuchli texnika noaniqlik xatti-harakatlarini aniq yozishdir. "Agar ishonchingiz komil bo'lmasa, taxmin qilmang; "ma'lumotlar etarli emas" deb ayting" kabi band modelning bo'sh joyni uydirma (gallyutsinatsiya) bilan to'ldirishga moyilligini bostiradi. Ushbu bitta jumla tekshirish qatlamini yuklaydi, biz uni 11-bo'limda ko'rib chiqamiz: model noaniqlikni belgilab qo'ygandan so'ng, inson tomonidan tekshirishga olib borish osonroq bo'ladi.

Nihoyat, birgalikda harakat qilish va taklif qilish haqida o'ylang. Katta harakat bilan model ko'proq o'rganadi va ba'zan keraksiz "qo'shimcha ishlarni" bajaradi (keraksiz tushuntirish, qo'shimcha taklif). So'rovda "faqat kerakli natijani bering, qo'shimcha sharhlar qo'shmang" deyish yuqori harakatning bu yon ta'sirini bartaraf qiladi.

qisqa bayoni; yakunida

Tizim so'rovi modelning doimiy yo'riqnomasidir: u rol, qamrov, format, noaniq xatti-harakatlar va maxfiylikni belgilaydi. Zamonaviy modellarda xatti-harakatlar haroratdan ko'ra moslashuvchan fikrlash va harakat parametrlari bilan boshqariladi; Sa'y-harakatlarni vazifaga muvofiqlashtirish bir vaqtning o'zida sifat va xarajatlarni boshqaradi. Siz chiqishni max_tokens, to'xtatish massivlari va tuzilgan chiqish bilan himoya qilasiz.

Ilova vazifasi

Vazifani tanlang. (1) Besh komponentli (rol, qamrov, format, noaniqlik, maxfiylik) tizim taklifini yozing. (2) Ushbu vazifani bajarish uchun qaysi darajadagi harakatni tanlashingizni va nima uchun kerakligini ayting. (3) Chiqish tuzilishi kerak bo'lsa, kichik JSON sxemasini chizing. (4) So'rovingizda haddan tashqari tajovuzkor naqsh mavjudligini tekshiring va uni yumshatib qo'ying.

nazorat ro'yxati

• [ ] Yaxshi tizim taklifining beshta komponentini nomlashim mumkin.
• [ ] Moslashuvchan fikrlash va harakat parametrlari nima qilishini tushuntira olaman.
• [ ] Men vazifaga muvofiq harakatni moslash orqali sifat/narxni muvozanatlashtira olaman.
• [ ] Nima uchun tuzilgan chiqish JSON soʻrovidan koʻra xavfsizroq ekanligini bilaman.
• [ ] Haddan tashqari tajovuzkor ko'rsatmalarning zamonaviy modellarida xavfni tan olaman.