Nyereség:
- Meg tudja tervezni, hogy a rendszerkérdés hogyan vezeti végig a modellt a teljes beszélgetésen
- Megérti az adaptív gondolkodás és az erőfeszítés paramétereinek szerepét és költséghatását
- olyan kimeneti vezérlőket valósít meg, mint a max_tokens, a stop sorozatok és a strukturált kimenet
Ugyanazon modell két különböző terméke teljesen eltérően viselkedhet. A különbség nem magában a modellben van, hanem a rendszer promptban és a neki adott paraméterekben. A rendszer prompt a modell "munkaszerződése", a paraméterek pedig a "munkabeállítások". Ebben az egységben megtudhatja, hogyan kell megtervezni egy hatékony rendszerpromptot, mit csinálnak a modern modellek gondolkodási és erőfeszítési beállításai, és hogyan lehet szabályozni a kimenetet a formátum/hossz függvényében. E beállítások helyes beállítása lehetővé teszi a minőség és a költségek egyidejű kezelését.
Rendszerprompt: A modell állandó irányelve
A rendszer prompt a magas szintű utasítás, amely a teljes beszélgetés során érvényes. Ezek a szabályok érvényben maradnak, függetlenül attól, hogy a felhasználó milyen típusú. Egy jó rendszerkérdés a következő összetevőket tartalmazza:
- Szerep/identitás: Ki a modell? („Ön vállalati támogatási asszisztens.”)
- Hatály és határ: Mit csinál és mit nem? („Csak a mellékelt szabályzati dokumentum alapján.”)
- Formázási szabályok: Hogyan nézzen ki a kimenet? ("Maximum 3 cikk, hivatalos nyelv.")
- Viselkedés bizonytalanságban: Mit tesz az ember, ha bizonytalan? ("Ha nincs információ, pótolja, irányítsa az illetékes egységhez.")
- Biztonság/adatvédelem: Mi az, amit nem/nem akar? ("Személyes adatok kérése.")
Tipp: Tartsa rögzítve a rendszerkérést. Ne ágyazzon be olyan információkat, amelyek minden kéréssel megváltoznak (aktuális dátum, felhasználónév, munkamenet-azonosító). Ez megszakítja a konzisztenciát és érvényteleníti a gyorsítótárat a 6-os egységen. Helyezze el a változó információit a felhasználói üzenetben.
A túl agresszív utasításcsapda
A modern modellek nagyon szigorúan követik az utasításokat. A régebbi modellekben működő agresszív kifejezések, mint a "KELL", "MINDIG", "FELTÉTLENÜL ezt csináld" stb., ma már túltriggereléshez vezetnek: a modell akkor hív ügynököt, ha nincs rá szükség, vagy szükségtelenül sokáig fut. Enyhítse a szabályt: A "KELL használni a keresőeszközt" helyett a "Ha a válasz nincs a beszélgetésben, használja a keresőeszközt" pontosabb.
Modellparaméterek: Gondolat és erőfeszítés
A klasszikus LLM-eknek volt egy hőmérsékleti paramétere: alacsonyabb érték specifikusabb/konzisztensebb, magasabb érték változatosabb/kreatívabb kimenetet eredményezett. A modern generációs modellek (például Opus 4.8, Sonnet 5) ezt a megközelítést két erősebb mechanizmussal helyettesítik, és már nem fogadják el a mintavételi paramétereket, például a hőmérsékletet.
- Adaptív gondolkodás: A modell lépésről lépésre gondolkodik a „fejében”, mielőtt válaszol. A modell a feladat nehézsége alapján dönti el, hogy mennyit gondolkodjon. Jelentősen javítja az összetett, többlépéses problémák pontosságát; Kevesebbet gondolkodik, hogy elkerülje az egyszerű kérdések felesleges késlekedését.
- Erőfeszítés: Magas szintű gomb, amely beállítja, hogy a modell milyen mélyen merüljön el egy feladatban, és hány tokent költ el összesen. Tipikus szintek: alacsony, közepes, magas és magasabb. A nagy erőfeszítés javíthatja a minőséget, de növeli a késést és a költségeket is; Az alacsony erőfeszítés sebességet és megtakarítást eredményez.
Beállítás
Mit tesz
mikor
Elgondolkodtató/kis erőfeszítés
Gyors, olcsó, felületes
Egyszerű osztályozás, rövid válaszadás, késleltetésre érzékeny feladatok
Adaptív gondolkodás + közepes erőfeszítés
Kiegyensúlyozott minőség/költség
A legtöbb általános célú feladat
Adaptív gondolkodás + nagy erőfeszítés
legnagyobb pontosság
Komplex érvelés, kódolás, hosszú távú ügynöki munka
Vigyázat: A „maximális erőfeszítés bármitől függetlenül” reflex felduzzasztja a költségeket. Igazítsa az erőfeszítést a feladathoz; Egyszerű feladatoknál az alacsony erőfeszítés gyakran ugyanazt a pontos eredményt adja, sokkal olcsóbb áron. Menjen magasra, ahol kritikus pontosságra van szükség.
Kimenet vezérlés: formátum, hossz, szerkezet
A paraméterek mellett magát a kimenetet is szabályozhatja:
- max_tokens: A kimenet kemény mennyezete (1. és 3. egység).
- Sorozatok leállítása: A modell leállítása, amikor egy bizonyos karakterláncot lát. Hasznos töréspontok beállításához a strukturált termelésben.
- Strukturált kimenet: Kényszerítse a modell válaszát, hogy megfeleljen az Ön által megadott JSON-sémának. Biztosítja, hogy a kimenet programozottan értelmezhető és érvényes legyen. Megbízhatóbb, mintha azt mondaná, hogy „csak adja vissza a JSON-t” egy felszólítással.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["számla", "műszaki", {other "returency"]:} "string", "enum": ["alacsony", "közepes", "magas"] } }, "szükséges": ["kategória", "sürgősség"] } } }}
Másolható rendszerkérési sablonok
# Vállalati támogatási asszisztensÖn vállalati támogatási asszisztens.- Kizárólag a mellékelt szabályzat dokumentumára hagyatkozzon; Ha nem szerepel a dokumentumban, mondja azt, hogy „Nincs ez az információm”. - Adjon formális és egyértelmű választ legfeljebb 3 mondatban. - Kérjen személyes adatokat (TC azonosítószám, kártyaszám), és ne ismételje meg válaszában. - Ha nem vagy biztos benne, ne találgass.
# Strukturált kimenet kényszerítő osztályozó Ön egy keresleti osztályozó. A bemenet egy ügyfél üzenet. Csak a kért mezőket adja vissza, megjegyzést ne írjon. Ha nem biztos benne, használja az „egyéb” szót.
# Elemző, aki meghatározott viselkedést mutat a bizonytalanságban. Ön adatelemző. Csak ellenőrizhető következtetéseket vonjon le a mellékelt táblázatból. Soha ne vonjon le olyan következtetést, amely nem szerepel az adatokban. Ha a következtetés nem egyértelmű, írja be az „adat elégtelen” kifejezést.
# Tartalomíró hangszín- és hosszszabályozással Ön tartalomíró. Használjon meleg, de professzionális hangot. Az egyes szövegeket legfeljebb 120 szóra korlátozza. Kerülje a klisés marketingnyelvet.
Gyenge felszólítás / Erős felszólítás
# GYENGE Légy segítőkész és adj jó válaszokat. Tedd meg a legjobbat.
# STRONGSzerep: Technikai támogatási szakember. Hatókör: Csak termékismertető. Formátum: Lépésről lépésre, számozott lista, legfeljebb 5 lépés. Határérték: Az útmutatóban nem szereplő megoldás ajánlása; Mondja azt, hogy „Nem találtam a kézikönyvben”. Adatvédelem: Ne ismételje meg a felhasználó által a válaszban megosztott sorozatszámot.
Erőteljes változat; Külön határozza meg a szerepet, a hatókört, a formátumot, a határokat és a titoktartást. A kimenet konzisztenciája közvetlenül ebből az egyértelműségből fakad.
Három mini tok
1. eset – Költségcsökkentés az erőkifejtés kiigazításával. Az egyik csapat minden hívást nagy erőfeszítéssel + gondolkodással teljesített; Még az egyszerű e-mail-összefoglalók is drágák és lassúak voltak. Egyszerű feladatokat rendeltek hozzá, például összefoglalókat az alacsony erőfeszítésekhez és szerződéselemzést a nagy erőfeszítésekhez. A pontosság megmaradt, az átlagos késleltetés a felére csökkent, a havi költség pedig harmadával csökkent.
2. eset – JSON-garancia. Egy műveleti csapat kérte az osztályozási kimenetet a "csak adj JSON-t" felszólítással, de a modell időnként azt írta, hogy "Íme az eredmény:", és az elemző összeomlott. Amikor csatlakoztattam a konfigurált kimeneti sémát, a kimenet minden alkalommal érvényes JSON-t adott vissza; az elemzési hibákat visszaállították.
3. eset – Agresszív azonnali visszarúgás. Egy asszisztens felszólította a következőt: "MINDEN KÉRDÉSRE KELL keresni"; A modell szükségtelenül keresgélte az egyszerű kérdéseket is, amelyekre már tudta a választ, lassította és növelte a költségeket. Enyhítették a szabályt: „Ha a válasz nem kontextusban van, keressen”; A szükségtelen hívások száma 70%-kal csökkent, a válaszadás pedig felgyorsult.
Gyakori hibák
- Változó adatok beágyazása a rendszerpromptba: Megszakítja a konzisztenciát és érvényteleníti a gyorsítótárat.
- Túlságosan agresszív utasítás: Túlzott kioldás és szükségtelen költségek a modern modellekben.
- Nagy erőfeszítés minden feladatban: Pazarlás az egyszerű feladatokban; az erőfeszítést a feladathoz igazítja.
- JSON kérése csak prompton keresztül: Időnként megszakad; ha kritikus, használjon strukturált kimenetet.
- Nem határozza meg a határ/kétértelmű viselkedést: A modell kitalációval (hallucinációval) pótolja a hiányt.
- Régi "hőmérséklet" szokás: A modern modellek ezt nem fogadják el; Gyorsan és erőfeszítéssel irányítsa a viselkedést.
Deeper: Írja meg a felszólítást, mint egy szerződést
A tapasztalt csapatok szerződésként kezelik a rendszerparancsot, nem pedig irodalmi szöveget: világos kitételek, mérhető szabályok, egyértelmű határok. Ennek a megközelítésnek három konkrét előnye van. Az első a következetesség: ugyanaz a bemenet különböző időpontokban hasonló kimenetet ad. A második a tesztelhetőség: minden elemet külön-külön tesztelhet egy mintával. A harmadik a könnyű karbantartás: ha egy viselkedés helytelen, tudja, melyik elemet kell cserélni.
Jó gyakorlat az, ha pozitív példákkal vezetünk. Ahelyett, hogy egy listát adnánk meg a „ne csináld ezt”, sokkal hatékonyabb a modern modellekben, ha olyan példát adunk, amely szerint „pontosan így néz ki a kívánt kimenet”. Például egy osztályozóban a várt JSON egy vagy két mintájának hozzáadása a prompthoz jelentősen csökkenti a formázási hibákat.
Egy másik hatékony technika a bizonytalansági viselkedés explicit felírása. Az olyan záradék, mint a „Ha bizonytalan, ne találgasson; mondjon „elégtelen adatot”” elnyomja a modell azon tendenciáját, hogy kitalációval (hallucinációval) töltse ki az üres helyet. Ez az egyetlen mondat leterheli az ellenőrző réteget, amelyet a 11. egységben fogunk lefedni: ha a modell már jelezte a bizonytalanságot, könnyebb lesz az emberi hitelesítéshez vezetni.
Végül fontolja meg együtt az erőfeszítést és a felszólítást. Nagy erőfeszítéssel a modell többet kutat, és néha nem kívánt „többletmunkát” végez (felesleges magyarázat, kiegészítő javaslat). Ha azt mondja, hogy "csak a kívánt kimenetet adja meg, ne írjon hozzá további megjegyzéseket" - ellensúlyozza a nagy erőfeszítés mellékhatásait.
Összefoglalva
A rendszerprompt a modell állandó direktívája: meghatározza a szerepet, a hatókört, a formátumot, a homályos viselkedést és a titkosságot. A modern modellekben a viselkedést nem a hőmérséklet, hanem az adaptív gondolkodás és az erőfeszítés paraméterei vezérlik; Az erőfeszítések feladathoz igazítása egyszerre kezeli a minőséget és a költségeket. A kimenetet max_tokens, stop tömbök és strukturált kimenet segítségével biztosíthatja.
Pályázati feladat
Válasszon egy feladatot. (1) Írjon rendszerpromptot öt összetevőből (szerep, hatókör, formátum, kétértelműség, titkosság). (2) Mondja el, milyen szintű erőfeszítést választana ehhez a feladathoz, és miért. (3) Ha a kimenetnek strukturáltnak kell lennie, vázoljon fel egy kis JSON-sémát. (4) Ellenőrizze, hogy nincs-e túl agresszív minta a felszólításban, és lágyítsa azt.
ellenőrző lista
- [ ] Egy jó rendszerprompt öt összetevőjét tudom megnevezni.
- [ ] El tudom magyarázni, hogy mit tesznek az adaptív gondolkodás és az erőfeszítés paraméterei.
- [ ] A minőséget és a költségeket egyensúlyba tudom hozni azáltal, hogy a feladathoz igazítom az erőfeszítést.
- [ ] Tudom, miért biztonságosabb a strukturált kimenet, mint a JSON kérése prompton keresztül.
- [ ] Felismerem a kockázatot a túl agresszív utasítások modern modelljeiben.