Systeemprompt en modelparameters

Winst:

• Kan ontwerpen hoe de systeemprompt het model door het hele gesprek leidt
• Begrijpt de rol en de kostenimpact van adaptief denken en inspanningsparameters
• implementeert uitvoercontroles zoals max_tokens, stopreeksen en gestructureerde uitvoer

Twee verschillende producten van hetzelfde model kunnen zich totaal verschillend gedragen. Het verschil zit niet in het model zelf, maar in de systeemprompt en de parameters die eraan worden gegeven. De systeemprompt is het "werkcontract" van het model en de parameters zijn "werkinstellingen". In dit onderdeel leert u hoe u een krachtige systeemprompt ontwerpt, wat de denk- en inspanningsinstellingen in moderne modellen doen, en hoe u de uitvoer kunt controleren op formaat/lengte. Door deze instellingen correct in te stellen, kunt u zowel de kwaliteit als de kosten tegelijkertijd beheren.

Systeemprompt: permanente richtlijn van het model

De systeemprompt is de instructie op hoog niveau die gedurende het hele gesprek van toepassing is. Deze regels blijven geldig, ongeacht wat de gebruiker typt. Een goede systeemprompt bevat de volgende componenten:

1. Rol/identiteit: Wie is het model? (“Je bent een bedrijfsondersteuningsassistent.”)
2. Reikwijdte en grens: wat doet het wel en wat doet het niet? (“Basis uitsluitend op het verstrekte beleidsdocument.”)
3. Formaatregels: hoe moet de uitvoer er uitzien? ("Maximaal 3 artikelen, officiële taal.")
4. Gedrag bij onzekerheid: wat doe je als je onzeker bent? ("Als er geen informatie is, verzin het dan en stuur het naar de relevante eenheid.")
5. Beveiliging/privacy: wat wil/wil niet? ("Vraag persoonlijke gegevens aan.")

Tip: Houd de systeemprompt vast. Sluit geen informatie in die bij elk verzoek verandert (huidige datum, gebruikersnaam, sessie-ID). Dit verbreekt de consistentie en maakt de promptcache op eenheid 6 ongeldig. Plaats de variabele informatie in het gebruikersbericht.

De overdreven agressieve instructieval

Moderne modellen volgen de instructies zeer nauwkeurig. Agressieve uitdrukkingen als "MOET", "ALTIJD", "ZEKER doen", enz., die in oudere modellen werkten, leiden tegenwoordig tot overtriggering: het model belt een agent wanneer deze niet nodig is of loopt onnodig lang. Verzacht de regel: in plaats van "MOET de zoekfunctie gebruiken", is "Als het antwoord niet in het gesprek staat, gebruik dan de zoekfunctie" nauwkeuriger.

Modelparameters: gedachte en inspanning

Klassieke LLM's hadden een temperatuurparameter: een lagere waarde produceerde een meer specifieke/consistente output, een hogere waarde produceerde een meer gevarieerde/creatieve output. Moderne generatiemodellen (zoals Opus 4.8, Sonnet 5) vervangen deze aanpak door twee krachtigere mechanismen en accepteren niet langer bemonsteringsparameters zoals temperatuur.

• Adaptief denken: het model redeneert stap voor stap in zijn ‘hoofd’ voordat het reageert. Het model bepaalt hoeveel er moet worden nagedacht op basis van de moeilijkheidsgraad van de taak. Verbetert de nauwkeurigheid bij complexe, uit meerdere stappen bestaande problemen aanzienlijk; Hij denkt minder na om onnodig uitstel bij eenvoudige vragen te voorkomen.
• Inspanning: knop op hoog niveau die aanpast hoe diep het model in een taak duikt en hoeveel tokens het in totaal uitgeeft. Typische niveaus: laag, gemiddeld, hoog en hoger. Hoge inspanningen kunnen de kwaliteit verbeteren, maar verhogen ook de vertraging en de kosten; Lage inspanning zorgt voor snelheid en besparingen.

Instelling

Wat doet

wanneer

Afdenken/weinig inspanning

Snel, goedkoop, oppervlakkig

Eenvoudige classificatie, korte respons, vertragingsgevoelige taken

Adaptief denken + gemiddelde inspanning

Evenwichtige kwaliteit/kosten

De meeste algemene taken

Adaptief denken + hoge inspanning

hoogste nauwkeurigheid

Complex redeneren, coderen, langeafstandsagentenwerk

Let op: de reflex van ‘maximale inspanning, wat er ook gebeurt’ verhoogt de kosten. Pas inspanning aan taak aan; Bij eenvoudige taken geeft een lage inspanning vaak hetzelfde nauwkeurige resultaat tegen een veel lagere prijs. Ga hoog waar kritische nauwkeurigheid nodig is.

Uitvoercontrole: formaat, lengte, structuur

Naast de parameters regelt u ook de uitvoer zelf:

• max_tokens: Hard plafond van de uitgang (1e en 3e eenheid).
• Stopreeksen: het model stoppen wanneer het een bepaalde string ziet. Handig voor het instellen van breekpunten in gestructureerde productie.
• Gestructureerde uitvoer: dwing het antwoord van het model om te voldoen aan een JSON-schema dat u opgeeft. Het zorgt ervoor dat de uitvoer programmatisch parseerbaar en geldig is. Het is betrouwbaarder dan te zeggen "stuur gewoon JSON terug" met een prompt.

{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["factuur", "technisch", "return", "andere"] }, "urgency": { "type": "string", "enum": ["laag", "gemiddeld", "hoog"] } }, "vereist": ["categorie", "urgentie"] } } }}

Kopieerbare systeempromptsjablonen

# BedrijfsondersteuningsassistentJe bent een bedrijfsondersteuningsassistent.- Vertrouw uitsluitend op het verstrekte beleidsdocument; Als dit niet in het document staat, zegt u 'Ik heb deze informatie niet'. - Geef een formeel en duidelijk antwoord in maximaal 3 zinnen. - Vraag om persoonlijke gegevens (TC ID-nummer, kaartnummer) en herhaal deze niet in uw antwoord. - Als je het niet zeker weet, gok dan niet.

# Gestructureerde output forceringsclassificatorJe bent een vraagclassificator. De invoer is een klantbericht. Retourneer alleen de gevraagde velden, schrijf geen opmerkingen. Als u het niet zeker weet, gebruikt u 'anders'.

# Analist met gedefinieerd gedrag van staan ​​in onzekerheidJe bent een data-analist. Trek alleen verifieerbare gevolgtrekkingen uit de verstrekte tabel. Trek nooit een conclusie die niet in de data voorkomt. Als een gevolgtrekking onduidelijk is, schrijf dan 'gegevens onvoldoende'.

# Contentschrijver met toon- en lengtecontroleJe bent een contentschrijver. Gebruik een warme maar professionele toon. Beperk elke tekst tot 120 woorden of minder. Vermijd clichématige marketingtaal.

Zwakke prompt/sterke prompt

# ZWAKWees behulpzaam en geef goede antwoorden. Doe je best.

# STRONGRole: specialist voor technische ondersteuning. Toepassingsgebied: alleen productgids. Formaat: stapsgewijze, genummerde lijst, maximaal 5 stappen. Limiet: oplossing aanbevelen die niet in de gids staat; Zeg 'Ik kon het niet vinden in de handleiding'. Privacy: Herhaal niet het serienummer dat door de gebruiker in het antwoord wordt gedeeld.

Krachtige versie; Zij bepaalt afzonderlijk de rol, reikwijdte, format, grenzen en vertrouwelijkheid. De consistentie van de uitvoer komt rechtstreeks voort uit deze duidelijkheid.

Drie mini-hoesjes

Geval 1 — Kostenreductie door inspanningsaanpassing. Eén team voerde al hun oproepen uit met veel inspanning en denkwerk; Zelfs eenvoudige e-mailsamenvattingen waren duur en langzaam te produceren. Ze hebben eenvoudige taken, zoals samenvattingen, aan weinig moeite toegewezen en contractanalyse aan veel moeite. De nauwkeurigheid bleef behouden, de gemiddelde latentie werd gehalveerd en de maandelijkse kosten werden met een derde verlaagd.

Geval 2 — JSON-garantie. Een operationeel team vroeg om de classificatie-uitvoer met de prompt "Geef gewoon JSON", maar het model schreef af en toe "Hier is het resultaat:" en de parser crashte. Toen ik het geconfigureerde uitvoerschema verbond, retourneerde de uitvoer elke keer een geldige JSON; parseerfouten zijn gereset.

Geval 3 — Agressieve snelle terugslag. Een assistent-prompt zei: "MOET ELKE VRAAG zoeken"; Het model voerde onnodige zoekopdrachten uit, zelfs naar eenvoudige vragen waarop het het antwoord al wist, waardoor de kosten werden vertraagd en verhoogd. Ze versoepelden de regel tot "Als het antwoord niet in de context staat, zoek dan"; Het aantal onnodige oproepen daalde met 70% en de reacties versnelden.

Veel voorkomende fouten

• Variabele gegevens insluiten in de systeemprompt: verbreekt de consistentie en maakt de cache ongeldig.
• Overmatig agressieve instructie: overmatige triggering en onnodige kosten in moderne modellen.
• Hoge inspanning bij elke taak: Verspilling bij eenvoudige taken; aanpassing van de inspanning aan de taak.
• JSON alleen via prompt aanvragen: het breekt af en toe; indien van cruciaal belang, gebruik dan gestructureerde uitvoer.
• Grens-/ambiguïteitsgedrag niet definiëren: het model vult de leemte op met fabricage (hallucinatie).
• Oude 'temperatuur'-gewoonte: moderne modellen accepteren dit niet; Begeleid gedrag met prompt en inspanning.

Dieper: de prompt schrijven als een contract

Ervaren teams behandelen de systeemprompt als een contract, niet als een literaire tekst: duidelijke clausules, meetbare regels, ondubbelzinnige grenzen. Deze aanpak heeft drie concrete voordelen. De eerste is consistentie: dezelfde input geeft op verschillende tijdstippen een vergelijkbare output. Ten tweede is er de testbaarheid: je kunt elk item afzonderlijk testen met een monster. Ten derde is het onderhoudsgemak: als een bepaald gedrag verkeerd is, weet u welk onderdeel u moet vervangen.

Een goede gewoonte is om leiding te geven met positieve voorbeelden. In plaats van een lijst te geven met "doe dit niet", is het in moderne modellen veel effectiever om een ​​voorbeeld te geven dat zegt "dit is precies hoe de gewenste uitvoer eruit ziet". In een classifier vermindert het toevoegen van een of twee voorbeelden van de verwachte JSON aan de prompt bijvoorbeeld aanzienlijk de opmaakfouten.

Een andere krachtige techniek is het expliciet opschrijven van het onzekerheidsgedrag. Een clausule als "Als u het niet zeker weet, raad dan niet; zeg 'onvoldoende gegevens'" onderdrukt de neiging van het model om de lege ruimte in te vullen met verzinsels (hallucinatie). Deze enkele zin ontlast de verificatielaag, die we in unit 11 zullen behandelen: zodra het model al onzekerheid heeft gesignaleerd, wordt het gemakkelijker om tot menselijke validatie te leiden.

Denk ten slotte na over inspanning en prompt samen. Bij hoge inspanning onderzoekt het model meer en doet soms ongewenst ‘extra werk’ (onnodige uitleg, aanvullende suggesties). Door te zeggen "geef alleen de gewenste uitvoer, voeg geen extra commentaar toe" in de prompt compenseert dit neveneffect van de hoge inspanning.

Samengevat

De systeemprompt is de permanente richtlijn van het model: het definieert de rol, reikwijdte, formaat, onduidelijkheidsgedrag en vertrouwelijkheid. In moderne modellen wordt gedrag gestuurd door adaptief denken en inspanningsparameters in plaats van door temperatuur; Door de inspanning op de taak af te stemmen, worden kwaliteit en kosten tegelijkertijd beheerd. Je beveiligt de uitvoer met max_tokens, stop-arrays en gestructureerde uitvoer.

Applicatie taak

Kies een taak. (1) Schrijf een systeemprompt met vijf componenten (rol, reikwijdte, formaat, dubbelzinnigheid, vertrouwelijkheid). (2) Geef aan welk inspanningsniveau u voor deze taak zou kiezen en waarom. (3) Als de uitvoer gestructureerd moet zijn, schets dan een klein JSON-schema. (4) Controleer of er een overdreven agressief patroon in uw prompt zit en verzacht dit.

controlelijst

• [ ] Ik kan vijf componenten van een goede systeemprompt noemen.
• [ ] Ik kan uitleggen wat de adaptieve denk- en inspanningsparameters doen.
• [ ] Ik kan kwaliteit/kosten in evenwicht brengen door de inspanning aan te passen aan de taak.
• [ ] Ik weet waarom gestructureerde uitvoer veiliger is dan het aanvragen van JSON via prompt.
• [ ] Ik herken het risico in moderne modellen van overdreven agressieve instructies.