Kerfisboð og líkanfæribreytur

Hagnaður:

• Getur hannað hvernig kerfistilkynningin leiðir líkanið í gegnum allt samtalið
• Skilur hlutverk og kostnaðaráhrif aðlögunarhugsunar og átaksþátta
• útfærir úttakstýringar eins og max_tokens, stöðvunarraðir og skipulögð úttak

Tvær mismunandi vörur af sömu gerð geta hegðað sér allt öðruvísi. Munurinn er ekki í líkaninu sjálfu, heldur í kerfishvetjunni og breytum sem það er gefið. Kerfisboðið er „verksamningur“ líkansins og færibreyturnar eru „vinnustillingar“. Í þessari einingu muntu læra hvernig á að hanna öfluga kerfishraða, hvað hugsana- og átaksstillingar í nútíma gerðum gera og hvernig á að stjórna úttakinu fyrir snið/lengd. Að stilla þessar stillingar rétt gerir þér kleift að stjórna bæði gæðum og kostnaði á sama tíma.

Kerfisboð: Varanleg tilskipun líkansins

Kerfisvísunin er leiðbeiningin á háu stigi sem gildir í öllu samtalinu. Þessar reglur gilda sama hvað notandinn slær inn. Góð kerfishvöt inniheldur eftirfarandi hluti:

1. Hlutverk/sjálfsmynd: Hver er fyrirmyndin? ("Þú ert aðstoðarmaður fyrirtækja.")
2. Gildissvið og mörk: Hvað gerir það og hvað gerir það ekki? ("Byggðu aðeins á stefnuskjalinu sem veitt er.")
3. Sniðreglur: Hvernig ætti úttakið að líta út? ("Hámark 3 greinar, opinbert tungumál.")
4. Hegðun í óvissu: Hvað gerir maður þegar hann er ekki viss? ("Ef engar upplýsingar eru til, búðu þær til, beindu þeim til viðkomandi einingar.")
5. Öryggi/næði: Hvað vill/vil ekki? ("Biðja um persónuupplýsingar.")

Ábending: Haltu kerfistilkynningunni fastri. Ekki fella inn upplýsingar sem breytast með hverri beiðni (núverandi dagsetning, notendanafn, lotuauðkenni). Þetta brýtur bæði samræmi og ógildir skyndiminnið á einingu 6. Settu breytuupplýsingarnar í notendaskilaboðin.

Of árásargjarn leiðbeiningagildran

Nútíma gerðir fylgja leiðbeiningunum mjög náið. Árásargjarnir frasar eins og „VERÐAГ, „ALLTAF“, „ÖRUGLEGA að gera þetta“ o.s.frv., sem virkuðu í eldri gerðum, leiða í dag til ofvirkni: líkanið hringir í umboðsmann þegar þess er ekki þörf eða keyrir í óþarflega langan tíma. Mýktu regluna: Í stað „ÞARF að nota leitartækið“ er „Ef svarið er ekki í samtalinu, notaðu leitartækið“ nákvæmara.

Líkan færibreytur: Hugsun og fyrirhöfn

Klassískar LLMs höfðu hitastigsbreytu: lægra gildi framleiddi sértækari/samkvæmari framleiðslu, hærra gildi framleiddi fjölbreyttari/skapandi framleiðsla. Nútímakynslóðarlíkön (eins og Opus 4.8, Sonnet 5) skipta út þessari nálgun með tveimur öflugri aðferðum og samþykkja ekki lengur sýnatökubreytur eins og hitastig.

• Aðlögunarhugsun: Líkanið rökstyður skref fyrir skref í „hausnum“ á sér áður en hún svarar. Líkanið ákveður hversu mikið á að hugsa út frá erfiðleika verkefnisins. Bætir verulega nákvæmni á flóknum, fjölþrepa vandamálum; Hann hugsar minna um að forðast óþarfa tafir á einföldum spurningum.
• Átak: Háþróaður hnappur sem stillir hversu djúpt líkanið kafar í verkefni og hversu mörgum táknum það eyðir samtals. Dæmigert stig: lágt, miðlungs, hátt og yfir. Mikil áreynsla getur bætt gæði, en það eykur einnig seinkun og kostnað; Lítil áreynsla gefur hraða og sparnað.

Stilling

Hvað gerir

hvenær

Að hugsa burt/lítil áreynsla

Hratt, ódýrt, yfirborðskennt

Einföld flokkun, stutt viðbrögð, seinka viðkvæmum verkefnum

Aðlögunarhæf hugsun + miðlungs áreynsla

Gæði/kostnaður í jafnvægi

Flest almenn verkefni

Aðlögunarhæf hugsun + mikil áreynsla

hæsta nákvæmni

Flókin rökhugsun, kóðun, langdræg umboðsvinna

Varúð: „hámarksátak, sama hvað“ viðbragðið eykur kostnað. Stilla átak að verkefni; Í einföldum verkefnum gefur lítil áreynsla oft sömu nákvæmu niðurstöðuna á mun ódýrara verði. Farðu hátt þar sem þörf er á mikilvægri nákvæmni.

Output Control: Snið, Lengd, Uppbygging

Fyrir utan færibreyturnar stjórnar þú líka úttakinu sjálfu:

• max_tokens: Harðloft úttaksins (1. og 3. eining).
• Stöðva röð: Stöðva líkanið þegar það sér ákveðinn streng. Gagnlegt til að setja brotpunkta í skipulagðri framleiðslu.
• Skipulögð framleiðsla: Þvingaðu svörun líkansins til að vera í samræmi við JSON skema sem þú gefur upp. Það tryggir að framleiðslan sé forritunarlega greinanleg og gild. Það er áreiðanlegra en að segja „bara skila JSON“ með hvetja.

{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "strengur", "enum": ["reikningur", "tæknilegur", "skilaboð": ", "annað" tegund: ", "annað" "enum": ["lágt", "miðlungs", "hátt"] } }, "required": ["flokkur", "brýnt"] } } }}

Afritanleg kerfishvetjandi sniðmát

# Aðstoðarmaður fyrirtækjaÞú ert aðstoðaraðstoðarmaður fyrirtækja.- Treystu eingöngu á stefnuskrána sem fylgir; Ef það er ekki í skjalinu skaltu segja "Ég hef ekki þessar upplýsingar." - Gefðu formlegt og skýrt svar í hámarki 3 setningum. - Biddu um persónuleg gögn (TC kennitala, kortanúmer) og ekki endurtaka það í svarinu þínu. - Ef þú ert ekki viss, ekki giska.

# Skipulagður framleiðslaþvingandi flokkari Þú ert eftirspurnarflokkari. Inntakið er skilaboð viðskiptavina. Skilaðu aðeins umbeðnum reitum, ekki skrifa athugasemdir. Ef þú ert ekki viss skaltu nota "annað".

# Sérfræðingur með skilgreinda hegðun að standa í óvissuÞú ert gagnafræðingur. Dragðu aðeins sannanlegar ályktanir af töflunni sem fylgir með. Aldrei gera niðurstöðu sem er ekki til í gögnunum. Ef ályktun er óljós skaltu skrifa "gögn ófullnægjandi."

# Efnisritari með tón- og lengdarstýringu Þú ert efnisritari. Notaðu hlýlegan en fagmannlegan tón. Takmarkaðu hvern texta við 120 orð eða minna. Forðastu klisju markaðsmál.

Veik kvaðning / Sterk kvaðning

# VEIK Vertu hjálpsamur og gefðu góð svör. Gerðu þitt besta.

# STERKT Hlutverk: Sérfræðingur í tækniaðstoð. Gildissvið: Vöruleiðbeiningar fylgja eingöngu. Snið: Skref fyrir skref, númeraður listi, 5 skref að hámarki. Takmark: Mæli með lausn sem er ekki í handbókinni; Segðu "Ég fann það ekki í handbókinni." Persónuvernd: Ekki endurtaka raðnúmerið sem notandinn deilir í svarinu.

Öflug útgáfa; Það ákvarðar hlutverk, umfang, snið, mörk og trúnað sérstaklega. Úttakssamkvæmni kemur beint frá þessum skýrleika.

Þrjú Mini Cass

Mál 1 — Lækkun kostnaðar með aðlögun átaks. Eitt lið var að keyra öll símtöl sín á mikilli áreynslu + hugsun; Jafnvel einföld tölvupóstsamantekt var dýr og hægt að framleiða. Þeir úthlutaðu einföldum verkefnum eins og samantektum til lítillar fyrirhafnar og samningsgreiningu fyrir mikla fyrirhöfn. Nákvæmni var viðhaldið, meðaltöf var helminguð og mánaðarkostnaður lækkaður um þriðjung.

Mál 2 - JSON ábyrgð. Rekstrarteymi bað um flokkunarúttakið með hvetingu sem sagði „bara gefðu JSON“, en líkanið skrifaði stundum „Hér er niðurstaðan:“ og flokkarinn myndi hrynja. Þegar ég tengdi stillta úttaksskemað skilaði úttakið gilt JSON í hvert skipti; þáttunarvillur hafa verið endurstilltar.

Tilfelli 3 - Árásargjarn skyndihrökkun. Hvetja aðstoðarmaður sagði: "ÞARF að leita að HVERJU SPURNINGU"; Líkanið gerði óþarfa leit jafnvel að einföldum spurningum sem það vissi þegar svarið við, hægði á og jók kostnað. Þeir slökuðu á reglunni í „Ef svarið er ekki í samhengi, leitaðu“; Óþarfa símtölum fækkaði um 70% og svörum hraðaði.

Algeng mistök

• Innfelling breytilegra gagna í kerfishvetningu: Brýtur samræmi og ógildir skyndiminni.
• Of árásargjarn kennsla: Of mikil kveikja og óþarfa kostnaður í nútíma gerðum.
• Mikil áreynsla í hverju verkefni: Sóun í einföldum verkefnum; aðlaga átak að verkefni.
• Að biðja um JSON aðeins í gegnum hvetjandi: Það bilar stundum; ef mikilvægt er, notaðu skipulögð framleiðsla.
• Skilgreinir ekki hegðun með mörkum/tvíræðni: Líkanið fyllir skarðið með tilbúningi (ofskynjanir).
• Gömul `hitastig` venja: Nútíma gerðir samþykkja þetta ekki; Leiðbeina hegðun með skjótum og fyrirhöfn.

Dýpra: Að skrifa tilvitnunina eins og samning

Reynt teymi meðhöndla kerfishraðann eins og samning, ekki bókmenntatexta: skýrar klausur, mælanlegar reglur, ótvíræð mörk. Þessi aðferð hefur þrjá áþreifanlega kosti. Í fyrsta lagi er samkvæmni: sama inntak gefur svipaða úttak á mismunandi tímum. Í öðru lagi er prófunarhæfni: þú getur prófað hvern hlut fyrir sig með sýnishorni. Í þriðja lagi er auðvelt viðhald: ef hegðun er röng, þá veistu hvaða hlut á að skipta út.

Góð venja er að ganga á undan með jákvæðum fordæmum. Frekar en að gefa upp lista yfir „ekki gera þetta“ er miklu áhrifaríkara í nútíma gerðum að gefa dæmi sem segir „svona lítur úttakið út sem óskað er eftir“. Til dæmis, í flokkara, dregur það verulega úr sniðvillum að bæta einu eða tveimur sýnishornum af væntanlegum JSON við vísunina.

Önnur öflug tækni er að skrifa óvissuhegðunina skýrt. Ákvæði eins og "Ef þú ert ekki viss, ekki giska; segðu "ófullnægjandi gögn"" bælir niður tilhneigingu líkansins til að fylla út eyðuna með tilbúningi (ofskynjanir). Þessi eina setning losar um sannprófunarlagið, sem við munum ná yfir í einingu 11: þegar líkanið hefur þegar merkt óvissu, verður auðveldara að leiða til mannlegrar sannprófunar.

Að lokum skaltu íhuga fyrirhöfn og hvetja saman. Með mikilli áreynslu kannar líkanið meira og gerir stundum óæskilega „aukavinnu“ (óþarfa útskýringar, viðbótaruppástunga). Að segja "aðeins gefa tilætluðu framlag, ekki bæta við fleiri athugasemdum" í hvetjunni vegur upp á móti þessum aukaverkunum af mikilli áreynslu.

Í stuttu máli

Kerfisskynið er varanleg tilskipun líkansins: hún skilgreinir hlutverk, umfang, snið, óljósa hegðun og trúnað. Í nútímalíkönum er hegðun knúin áfram af aðlögunarhugsun og áreynslubreytum frekar en hitastigi; Að samræma viðleitni við verkefnið stjórnar gæðum og kostnaði samtímis. Þú tryggir úttakið með max_tokens, stöðvunarfylki og skipulögðu úttaki.

Umsóknarverkefni

Veldu verkefni. (1) Skrifaðu kerfistilkynningu með fimm hlutum (hlutverk, umfang, snið, tvíræðni, trúnaður). (2) Tilgreindu hvaða áreynslustig þú myndir velja fyrir þetta verkefni og hvers vegna. (3) Ef úttakið ætti að vera uppbyggt, teiknaðu upp lítið JSON skema. (4) Athugaðu hvort það sé of árásargjarn mynstur í hvetjunni þinni og mýkið það.

gátlisti

• [ ] Ég get nefnt fimm þætti í góðri kerfishvetningu.
• [ ] Ég get útskýrt hvað breytur aðlögunarhugsunar og viðleitni gera.
• [ ] Ég get jafnvægið gæði/kostnað með því að stilla átak í samræmi við verkefnið.
• [ ] Ég veit hvers vegna skipulögð framleiðsla er öruggari en að biðja um JSON í gegnum hvetja.
• [ ] Ég get viðurkennt hættuna í nútímalíkönum á of árásargjarnum leiðbeiningum.