Fitimet:
- Mund të dizenjojë se si prompti i sistemit e udhëheq modelin gjatë gjithë bisedës
- Kupton rolin dhe ndikimin në kosto të të menduarit adaptiv dhe parametrave të përpjekjes
- zbaton kontrollet e daljes si max_tokens, sekuencat e ndalimit dhe prodhimi i strukturuar
Dy produkte të ndryshme të të njëjtit model mund të sillen krejtësisht ndryshe. Dallimi nuk është në vetë modelin, por në kërkesën e sistemit dhe parametrat që i janë dhënë. Prompti i sistemit është "kontrata e punës" e modelit dhe parametrat janë "cilësimet e punës". Në këtë njësi, do të mësoni se si të dizajnoni një prompt të fuqishëm të sistemit, çfarë bëjnë cilësimet e të menduarit dhe përpjekjes në modelet moderne dhe si të kontrolloni daljen për format/gjatësinë. Vendosja e saktë e këtyre cilësimeve ju lejon të menaxhoni cilësinë dhe koston në të njëjtën kohë.
Sistem Prompt: Direktiva e Përhershme e Modelit
Prompti i sistemit është udhëzimi i nivelit të lartë që zbatohet gjatë gjithë bisedës. Këto rregulla mbeten të vlefshme pavarësisht se çfarë lloj përdoruesi. Një njoftim i mirë i sistemit përfshin komponentët e mëposhtëm:
- Roli/identiteti: Kush është modeli? ("Ju jeni një asistent mbështetës i korporatës.")
- Qëllimi dhe kufiri: Çfarë bën dhe çfarë nuk bën? ("Bazuar vetëm në dokumentin e politikave të ofruar.")
- Rregullat e formatit: Si duhet të duket dalja? ("Maksimumi 3 artikuj, gjuha zyrtare.")
- Sjellja në pasiguri: Çfarë bën dikush kur nuk është i sigurt? ("Nëse nuk ka informacion, përpiloni, drejtojini njësisë përkatëse.")
- Siguria/privatësia: Çfarë nuk dëshiron/nuk dëshiron? ("Kërkoni të dhëna personale.")
Këshillë: Mbani të fiksuar kërkesën e sistemit. Mos vendosni informacione që ndryshojnë me çdo kërkesë (data aktuale, emri i përdoruesit, ID-ja e sesionit). Kjo prish konsistencën dhe zhvlerëson cache-in e shpejtë në njësinë 6. Vendosni informacionin e ndryshores në mesazhin e përdoruesit.
Kurthi i udhëzimeve tepër agresive
Modelet moderne ndjekin udhëzimet me shumë kujdes. Frazat agresive si "DUHET", "GJITHMONË", "Bëje patjetër këtë", etj., të cilat funksionuan në modelet më të vjetra, sot çojnë në nxitje të tepërt: modeli thërret një agjent kur nuk është i nevojshëm ose funksionon për një kohë të panevojshme. Zbutni rregullin: Në vend të "DUHET të përdorni mjetin e kërkimit", "Nëse përgjigjja nuk është në bisedë, përdorni mjetin e kërkimit" është më e saktë.
Parametrat e modelit: Mendimi dhe Përpjekja
LLM-të klasike kishin një parametër të temperaturës: një vlerë më e ulët prodhonte rezultate më specifike/konsistente, një vlerë më e lartë prodhonte rezultate më të larmishme/kreative. Modelet e gjeneratës moderne (si Opus 4.8, Sonnet 5) e zëvendësojnë këtë qasje me dy mekanizma më të fuqishëm dhe nuk pranojnë më parametra të kampionimit si temperatura.
- Mendimi adaptiv: Modeli arsyeton hap pas hapi në "kokën" e tij përpara se të përgjigjet. Modeli vendos se sa të mendojë në bazë të vështirësisë së detyrës. Përmirëson ndjeshëm saktësinë në problemet komplekse me shumë hapa; Ai mendon më pak për të shmangur vonesat e panevojshme në pyetje të thjeshta.
- Përpjekja: çelës i nivelit të lartë që rregullon se sa thellë zhytet modeli në një detyrë dhe sa argumente shpenzon në total. Nivelet tipike: të ulëta, të mesme, të larta dhe më lart. Përpjekja e lartë mund të përmirësojë cilësinë, por gjithashtu rrit vonesën dhe koston; Përpjekja e ulët sjell shpejtësi dhe kursime.
Vendosja
Çfarë bën
kur
Mendimi jashtë / përpjekje e ulët
E shpejtë, e lirë, sipërfaqësore
Klasifikimi i thjeshtë, përgjigje e shkurtër, vonesa e detyrave të ndjeshme
Të menduarit adaptiv + përpjekje mesatare
Cilësi/kosto e balancuar
Shumica e detyrave me qëllim të përgjithshëm
Të menduarit adaptiv + përpjekje e lartë
saktësinë më të lartë
Arsyetimi kompleks, kodimi, puna e agjentëve me rreze të gjatë
Kujdes: Refleksi "përpjekja maksimale pa marrë parasysh se çfarë" rrit kostot. Përshtatja e përpjekjes me detyrën; Në detyra të thjeshta, përpjekja e ulët shpesh jep të njëjtin rezultat të saktë me një çmim shumë më të lirë. Shkoni lart aty ku nevojitet saktësi kritike.
Kontrolli i daljes: Formati, Gjatësia, Struktura
Përveç parametrave, ju gjithashtu kontrolloni vetë daljen:
- max_tokens: Tavan i fortë i daljes (njësia 1 dhe 3).
- Stop sekuencat: Ndalimi i modelit kur sheh një varg të caktuar. I dobishëm për vendosjen e pikave të ndërprerjes në prodhimin e strukturuar.
- Prodhimi i strukturuar: Detyroni përgjigjen e modelit të përputhet me një skemë JSON që ju ofroni. Siguron që dalja të jetë e analizueshme dhe e vlefshme në mënyrë programore. Është më e besueshme sesa të thuash "thjesht ktheje JSON" me një kërkesë.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["faturë", "teknike", ":o]"tur "type": "string", "enum": ["i ulët", "mesatar", "i lartë"] } }, "kërkohet": ["kategoria", "urgjenca"] } }}
Modelet e kërkesave të sistemit të kopjueshëm
# Asistent mbështetës i korporatësJu jeni një asistent mbështetës i korporatës.- Mbështetuni vetëm në dokumentin e politikave të ofruar; Nëse nuk është në dokument, thoni "Unë nuk e kam këtë informacion". - Jep një përgjigje formale dhe të qartë në maksimum 3 fjali. - Kërkoni të dhëna personale (numri TC ID, numri i kartës) dhe mos i përsërisni në përgjigjen tuaj. - Nëse nuk jeni të sigurt, mos e merrni me mend.
# Klasifikues i detyruar i prodhimit të strukturuarJu jeni një klasifikues i kërkesës. Hyrja është një mesazh klienti. Ktheni vetëm fushat e kërkuara, mos shkruani komente. Nëse nuk jeni të sigurt, përdorni "të tjera".
# Analist me sjellje të përcaktuar të qëndrimit në pasiguriJu jeni një analist i të dhënave. Nxirrni vetëm konkluzione të verifikueshme nga tabela e dhënë. Asnjëherë mos bëni një përfundim që nuk ekziston në të dhëna. Nëse një përfundim është i paqartë, shkruani "të dhënat janë të pamjaftueshme".
# Shkrimtar i përmbajtjes me kontrollin e tonit dhe gjatësisë Ju jeni një shkrimtar i përmbajtjes. Përdorni një ton të ngrohtë, por profesional. Kufizoni çdo tekst në 120 fjalë ose më pak. Shmangni gjuhën e marketingut klishe.
Prompt i dobët / Prompt i fortë
# I DOBËT Jini të dobishëm dhe jepni përgjigje të mira. Bëj më të mirën.
# STRONGRoli: Specialisti i mbështetjes teknike. Fushëveprimi: Ofrohet vetëm udhëzuesi i produktit. Formati: Hap pas hapi, lista e numëruar, maksimumi 5 hapa. Kufiri: Rekomandoni zgjidhjen jo në udhëzues; Thuaj "Nuk e gjeta në manual". Privatësia: Mos e përsëritni numrin serial të ndarë nga përdoruesi në përgjigje.
Version i fuqishëm; Ai përcakton veçmas rolin, qëllimin, formatin, kufijtë dhe konfidencialitetin. Konsistenca e prodhimit vjen drejtpërdrejt nga kjo qartësi.
Tre Mini Rastet
Rasti 1 - Ulja e kostos përmes rregullimit të përpjekjeve. Një ekip po i drejtonte të gjitha thirrjet e tyre me përpjekje të mëdha + të menduarit; Edhe përmbledhjet e thjeshta të postës elektronike ishin të shtrenjta dhe të ngadalta për t'u prodhuar. Ata caktuan detyra të thjeshta si përmbledhjet për përpjekjet e ulëta dhe analizën e kontratës për përpjekjet e larta. Saktësia u ruajt, vonesa mesatare u përgjysmua dhe kostoja mujore u reduktua me një të tretën.
Rasti 2 - Garancia JSON. Një ekip operacionesh kërkoi daljen e klasifikimit me një mesazh të shpejtë duke thënë "thjesht jep JSON", por modeli herë pas here shkruante "Këtu është rezultati:" dhe analizuesi do të rrëzohej. Kur lidha skemën e konfiguruar të daljes, dalja kthente JSON të vlefshëm çdo herë; gabimet e analizimit janë rivendosur.
Rasti 3 - Tërheqje e shpejtë agresive. Një ndihmë e shpejtë tha, "DUHET të kërkoni për ÇDO PYETJE"; Modeli bëri kërkime të panevojshme edhe për pyetje të thjeshta për të cilat tashmë e dinte përgjigjen, duke ngadalësuar dhe rritur kostot. Ata e zbutën rregullin në "Nëse përgjigja nuk është në kontekst, kërko"; Thirrjet e panevojshme u ulën me 70% dhe përgjigjet u përshpejtuan.
Gabimet e zakonshme
- Përfshirja e të dhënave të variablave në kërkesën e sistemit: Prish konsistencën dhe zhvlerëson cache-in.
- Udhëzim tepër agresiv: Shkaktim i tepërt dhe kosto e panevojshme në modelet moderne.
- Përpjekje e lartë në çdo detyrë: Humbje në detyra të thjeshta; përshtatni përpjekjen në detyrë.
- Kërkimi i JSON vetëm nëpërmjet promptit: Ai prishet herë pas here; nëse është kritike, përdorni dalje të strukturuar.
- Mospërcaktimi i sjelljes së kufirit/paqartësisë: Modeli e plotëson boshllëkun me trillim (halucinacion).
- Zakoni i vjetër i 'temperaturës': Modelet moderne nuk e pranojnë këtë; Drejtoni sjelljen me shpejtësi dhe përpjekje.
Më thellë: Shkrimi i kërkesës si një kontratë
Ekipet me përvojë e trajtojnë sistemin si një kontratë, jo si një tekst letrar: klauzola të qarta, rregulla të matshme, kufij të paqartë. Kjo qasje ka tre përfitime konkrete. E para është konsistenca: e njëjta hyrje jep rezultate të ngjashme në kohë të ndryshme. E dyta është testueshmëria: mund ta testoni çdo artikull veçmas me një mostër. E treta është lehtësia e mirëmbajtjes: nëse një sjellje është e gabuar, ju e dini se cilin artikull të zëvendësoni.
Një praktikë e mirë është të udhëheqësh me shembuj pozitivë. Në vend që të ofrohet një listë e "mos e bëj këtë", është shumë më efektive në modelet moderne të jepet një shembull që thotë "kjo është pikërisht ajo që duket rezultati i dëshiruar". Për shembull, në një klasifikues, shtimi i një ose dy mostrave të JSON-it të pritshëm në kërkesë redukton ndjeshëm gabimet e formatimit.
Një teknikë tjetër e fuqishme është shkrimi i sjelljes së pasigurisë në mënyrë eksplicite. Një klauzolë si "Nëse nuk jeni i sigurt, mos e merrni me mend; thuaj "të dhëna të pamjaftueshme"" shtyp tendencën e modelit për të mbushur boshllëkun me fabrikim (halucinacion). Kjo fjali e vetme shkarkon shtresën e verifikimit, të cilën do ta mbulojmë në njësinë 11: sapo modeli të ketë shënuar tashmë pasigurinë, bëhet më e lehtë të çojë në vërtetimin njerëzor.
Së fundi, merrni parasysh përpjekjet dhe nxitjen së bashku. Me përpjekje të mëdha, modeli eksploron më shumë dhe ndonjëherë bën "punë shtesë" të padëshiruar (shpjegim i panevojshëm, sugjerim shtesë). Duke thënë "vetëm jepni rezultatin e dëshiruar, mos shtoni komente shtesë" në kërkesë, kompenson këtë efekt anësor të përpjekjes së lartë.
Në përmbledhje
Prompti i sistemit është direktiva e përhershme e modelit: ai përcakton rolin, shtrirjen, formatin, sjelljen e errësirës dhe konfidencialitetin. Në modelet moderne, sjellja drejtohet nga parametrat e të menduarit adaptiv dhe përpjekjes dhe jo nga temperatura; Përafrimi i përpjekjeve me detyrën menaxhon cilësinë dhe koston në të njëjtën kohë. Ju e siguroni daljen me max_tokens, ndaloni vargjet dhe dalje të strukturuar.
Detyra e aplikimit
Zgjidhni një detyrë. (1) Shkruani një kërkesë të sistemit me pesë komponentë (roli, fushëveprimi, formati, paqartësia, konfidencialiteti). (2) Tregoni se çfarë niveli përpjekjesh do të zgjidhnit për këtë detyrë dhe pse. (3) Nëse dalja duhet të jetë e strukturuar, skiconi një skemë të vogël JSON. (4) Kontrolloni nëse ka një model tepër agresiv në kërkesën tuaj dhe zbuteni atë.
listë kontrolli
- [ ] Mund të përmend pesë komponentë të një prompt të mirë të sistemit.
- [ ] Mund të shpjegoj se çfarë bëjnë parametrat e të menduarit dhe përpjekjes adaptive.
- [ ] Mund të balancoj cilësinë/kosto duke përshtatur përpjekjet sipas detyrës.
- [ ] Unë e di pse prodhimi i strukturuar është më i sigurt se sa të kërkosh JSON nëpërmjet kërkesës.
- [ ] Unë mund të njoh rrezikun në modelet moderne të udhëzimeve tepër agresive.