Prompt Sistem dan Parameter Model

Keuntungan:

• Boleh mereka bentuk cara gesaan sistem membimbing model melalui keseluruhan perbualan
• Memahami peranan dan impak kos pemikiran adaptif dan parameter usaha
• melaksanakan kawalan keluaran seperti max_tokens, urutan berhenti dan output berstruktur

Dua produk berbeza daripada model yang sama mungkin berkelakuan berbeza sama sekali. Perbezaannya bukan pada model itu sendiri, tetapi dalam gesaan sistem dan parameter yang diberikan kepadanya. Gesaan sistem ialah "kontrak kerja" model dan parameternya ialah "tetapan kerja". Dalam unit ini, anda akan belajar cara mereka bentuk gesaan sistem yang berkuasa, perkara yang dilakukan oleh tetapan pemikiran dan usaha dalam model moden, dan cara mengawal output untuk format/panjang. Menetapkan tetapan ini dengan betul membolehkan anda mengurus kedua-dua kualiti dan kos pada masa yang sama.

Gesaan Sistem: Arahan Tetap Model

Gesaan sistem ialah arahan peringkat tinggi yang digunakan sepanjang keseluruhan perbualan. Peraturan ini kekal sah tidak kira apa jenis pengguna. Gesaan sistem yang baik termasuk komponen berikut:

1. Peranan/identiti: Siapa model? (“Anda ialah pembantu sokongan korporat.”)
2. Skop dan sempadan: Apa yang dilakukan dan apa yang tidak dilakukan? (“Hanya berdasarkan dokumen polisi yang disediakan.”)
3. Peraturan format: Apakah yang sepatutnya kelihatan seperti output? ("Maksimum 3 artikel, bahasa rasmi.")
4. Tingkah laku dalam ketidakpastian: Apakah yang dilakukan apabila tidak pasti? ("Jika tiada maklumat, buatlah, arahkan ke unit yang berkenaan.")
5. Keselamatan/privasi: Apa yang tidak/tidak mahu? ("Minta data peribadi.")

Petua: Pastikan gesaan sistem tetap. Jangan benamkan maklumat yang berubah dengan setiap permintaan (tarikh semasa, nama pengguna, ID sesi). Ini kedua-duanya memecahkan konsistensi dan membatalkan cache gesaan pada unit 6. Letakkan maklumat pembolehubah dalam mesej pengguna.

Perangkap Arahan Terlalu Agresif

Model moden mengikuti arahan dengan sangat teliti. Frasa agresif seperti "MESTI", "SENTIASA", "PASTI buat ini", dsb., yang berfungsi dalam model lama, hari ini membawa kepada overtriggering: model memanggil ejen apabila ia tidak diperlukan atau berjalan untuk masa yang tidak perlu lama. Lembutkan peraturan: Daripada "MESTI gunakan alat carian", "Jika jawapan tiada dalam perbualan, gunakan alat carian" adalah lebih tepat.

Parameter Model: Pemikiran dan Usaha

LLM klasik mempunyai parameter suhu: nilai yang lebih rendah menghasilkan output yang lebih spesifik/konsisten, nilai yang lebih tinggi menghasilkan output yang lebih pelbagai/kreatif. Model generasi moden (seperti Opus 4.8, Sonnet 5) menggantikan pendekatan ini dengan dua mekanisme yang lebih berkuasa dan tidak lagi menerima parameter pensampelan seperti suhu.

• Pemikiran adaptif: Model memberi alasan langkah demi langkah dalam "kepala"nya sebelum bertindak balas. Model memutuskan berapa banyak yang perlu difikirkan berdasarkan kesukaran tugas. Meningkatkan ketepatan dengan ketara pada masalah kompleks, pelbagai langkah; Dia kurang berfikir untuk mengelakkan kelewatan yang tidak perlu pada soalan mudah.
• Usaha: Tombol aras tinggi yang melaraskan kedalaman model menyelam ke dalam tugasan dan jumlah token yang dibelanjakan secara keseluruhan. Tahap biasa: rendah, sederhana, tinggi dan ke atas. Usaha yang tinggi boleh meningkatkan kualiti, tetapi ia juga meningkatkan kelewatan dan kos; Usaha yang rendah membawa kelajuan dan penjimatan.

Tetapan

Apa yang boleh

bila

Berfikiran off/low effort

Cepat, murah, dangkal

Pengelasan mudah, tindak balas pendek, kelewatan tugas sensitif

Pemikiran adaptif + usaha sederhana

Kualiti/kos seimbang

Kebanyakan tugas tujuan umum

Pemikiran adaptif + usaha yang tinggi

ketepatan tertinggi

Penaakulan kompleks, pengekodan, kerja ejen jarak jauh

Awas: Refleks "usaha maksimum tidak kira apa" meningkatkan kos. Laraskan usaha kepada tugasan; Dalam tugasan mudah, usaha yang rendah selalunya memberikan hasil tepat yang sama pada harga yang jauh lebih murah. Pergi tinggi di mana ketepatan kritikal diperlukan.

Kawalan Output: Format, Panjang, Struktur

Selain parameter, anda juga mengawal output itu sendiri:

• max_tokens: Siling keras output (unit pertama dan ke-3).
• Hentikan urutan: Menghentikan model apabila ia melihat rentetan tertentu. Berguna untuk menetapkan titik putus dalam pengeluaran berstruktur.
• Output berstruktur: Paksa respons model untuk mematuhi skema JSON yang anda berikan. Ia memastikan bahawa output boleh dihuraikan secara pemrograman dan sah. Ia lebih dipercayai daripada mengatakan "kembali JSON" dengan gesaan.

{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["invois", "technical", "return"}, "other" ency: "rentetan", "lain"] "enum": ["rendah", "sederhana", "tinggi"] } }, "diperlukan": ["kategori", "kedekatan"] } } }}

Templat Gesaan Sistem Boleh Salin

# Pembantu sokongan korporatAnda ialah pembantu sokongan korporat.- Bergantung sepenuhnya pada dokumen polisi yang disediakan; Jika tiada dalam dokumen, sebut "Saya tidak mempunyai maklumat ini." - Berikan jawapan yang formal dan jelas dalam maksimum 3 ayat. - Minta data peribadi (nombor ID TC, nombor kad) dan jangan ulangi dalam jawapan anda. - Jika anda tidak pasti, jangan meneka.

# Pengelas pemaksaan keluaran berstrukturAnda ialah pengelas permintaan. Input adalah mesej pelanggan. Kembalikan hanya medan yang diminta, jangan tulis komen. Jika anda tidak pasti, gunakan "lain".

# Penganalisis dengan tingkah laku yang jelas berdiri dalam ketidakpastianAnda adalah penganalisis data. Lukis hanya inferens yang boleh disahkan daripada jadual yang disediakan. Jangan sekali-kali membuat kesimpulan yang tidak wujud dalam data. Jika inferens tidak jelas, tulis "data tidak mencukupi."

# Penulis kandungan dengan kawalan nada dan panjangAnda seorang penulis kandungan. Gunakan nada yang hangat tetapi profesional. Hadkan setiap teks kepada 120 patah perkataan atau kurang. Elakkan bahasa pemasaran yang klise.

Gesaan lemah / Gesaan kuat

# WEAKBe membantu dan memberi jawapan yang baik. Buat yang terbaik.

# STRONGRole: Pakar sokongan teknikal.Skop: Panduan produk disediakan sahaja.Format: Langkah demi langkah, senarai bernombor, maksimum 5 langkah. Had: Syorkan penyelesaian tiada dalam panduan; Sebut "Saya tidak menemuinya dalam manual." Privasi: Jangan ulangi nombor siri yang dikongsi oleh pengguna dalam respons.

Versi berkuasa; Ia menentukan peranan, skop, format, sempadan dan kerahsiaan secara berasingan. Konsistensi output datang terus daripada kejelasan ini.

Tiga Kes Mini

Kes 1 — Pengurangan kos melalui pelarasan usaha. Satu pasukan menjalankan semua panggilan mereka dengan usaha tinggi + pemikiran; Malah ringkasan e-mel yang mudah adalah mahal dan lambat dihasilkan. Mereka memberikan tugas mudah seperti ringkasan kepada usaha rendah dan analisis kontrak kepada usaha tinggi. Ketepatan dikekalkan, kependaman purata dikurangkan separuh, dan kos bulanan dikurangkan sebanyak satu pertiga.

Kes 2 — Jaminan JSON. Pasukan operasi meminta output klasifikasi dengan gesaan yang mengatakan "berikan JSON", tetapi model kadang-kadang akan menulis "Inilah hasilnya:" dan penghurai akan ranap. Apabila saya menyambungkan skema output yang dikonfigurasikan, output mengembalikan JSON yang sah setiap kali; ralat penghuraian telah ditetapkan semula.

Kes 3 — Gegaran segera yang agresif. Gesaan pembantu berkata, "MESTI mencari SETIAP SOALAN"; Model itu membuat carian yang tidak perlu walaupun untuk soalan mudah yang sudah diketahui jawapannya, memperlahankan dan meningkatkan kos. Mereka melonggarkan peraturan kepada "Jika jawapan tidak dalam konteks, cari"; Panggilan yang tidak perlu dikurangkan sebanyak 70% dan respons dipercepatkan.

Kesilapan biasa

• Membenamkan data pembolehubah dalam gesaan sistem: Memecahkan konsistensi dan membatalkan cache.
• Arahan yang terlalu agresif: Pencetusan yang berlebihan dan kos yang tidak perlu dalam model moden.
• Usaha yang tinggi dalam setiap tugas: Pembaziran dalam tugas mudah; menyesuaikan usaha dengan tugas.
• Meminta JSON hanya melalui gesaan: Ia terputus sekali-sekala; jika kritikal, gunakan output berstruktur.
• Tidak mentakrifkan kelakuan sempadan/kekaburan: Model mengisi jurang dengan fabrikasi (halusinasi).
• Tabiat `suhu` lama: Model moden tidak menerima ini; Bimbing tingkah laku dengan segera dan usaha.

Lebih Dalam: Menulis Prompt Seperti Kontrak

Pasukan yang berpengalaman menganggap sistem segera seperti kontrak, bukan teks sastera: klausa yang jelas, peraturan yang boleh diukur, sempadan yang tidak jelas. Pendekatan ini mempunyai tiga faedah konkrit. Yang pertama ialah ketekalan: input yang sama memberikan output yang sama pada masa yang berbeza. Kedua ialah kebolehujian: anda boleh menguji setiap item secara berasingan dengan sampel. Ketiga ialah kemudahan penyelenggaraan: jika tingkah laku salah, anda tahu item yang hendak diganti.

Amalan yang baik ialah memimpin dengan contoh yang positif. Daripada menyediakan senarai "jangan lakukan ini", ia adalah lebih berkesan dalam model moden untuk memberikan contoh yang mengatakan "ini betul-betul rupa output yang diingini". Contohnya, dalam pengelas, menambah satu atau dua sampel JSON yang dijangkakan pada gesaan mengurangkan ralat pemformatan dengan ketara.

Satu lagi teknik yang berkuasa ialah menulis tingkah laku ketidakpastian secara eksplisit. Klausa seperti "Jika tidak pasti, jangan meneka; sebut 'data tidak mencukupi'" menghalang kecenderungan model untuk mengisi tempat kosong dengan rekaan (halusinasi). Ayat tunggal ini memuatkan lapisan pengesahan, yang akan kami bincangkan dalam unit 11: apabila model telah membenderakan ketidakpastian, ia menjadi lebih mudah untuk membawa kepada pengesahan manusia.

Akhir sekali, pertimbangkan usaha dan segera bersama. Dengan usaha yang tinggi, model meneroka lebih banyak dan kadangkala melakukan "kerja tambahan" yang tidak diingini (penjelasan yang tidak perlu, cadangan tambahan). Sebut "hanya berikan output yang diingini, jangan tambah ulasan tambahan" dalam gesaan mengimbangi kesan sampingan daripada usaha yang tinggi ini.

Secara ringkasnya

Gesaan sistem ialah arahan kekal model: ia mentakrifkan peranan, skop, format, tingkah laku kekaburan dan kerahsiaan. Dalam model moden, tingkah laku didorong oleh pemikiran adaptif dan parameter usaha daripada suhu; Menyelaraskan usaha dengan tugas menguruskan kualiti dan kos secara serentak. Anda menjamin output dengan max_tokens, tatasusunan stop dan output berstruktur.

Tugasan permohonan

Pilih tugasan. (1) Tulis gesaan sistem dengan lima komponen (peranan, skop, format, kekaburan, kerahsiaan). (2) Nyatakan tahap usaha yang anda akan pilih untuk tugasan ini dan mengapa. (3) Jika output harus distrukturkan, lakarkan skema JSON kecil. (4) Semak sama ada terdapat corak yang terlalu agresif dalam gesaan anda dan lembutkannya.

senarai semak

• [ ] Saya boleh menamakan lima komponen gesaan sistem yang baik.
• [ ] Saya boleh menerangkan perkara yang dilakukan oleh pemikiran adaptif dan parameter usaha.
• [ ] Saya boleh mengimbangi kualiti/kos dengan melaraskan usaha mengikut tugas.
• [ ] Saya tahu mengapa output berstruktur lebih selamat daripada meminta JSON melalui gesaan.
• [ ] Saya dapat mengenali risiko dalam model moden arahan yang terlalu agresif.