Guadagni:
- Può progettare il modo in cui il prompt del sistema guida il modello attraverso l'intera conversazione
- Comprende il ruolo e l'impatto sui costi del pensiero adattivo e dei parametri dello sforzo
- implementa controlli di output come max_tokens, sequenze di arresto e output strutturato
Due prodotti diversi dello stesso modello possono comportarsi in modo completamente diverso. La differenza non sta nel modello in sé, ma nel prompt del sistema e nei parametri ad esso forniti. Il prompt del sistema è il "contratto di lavoro" del modello e i parametri sono le "impostazioni di lavoro". In questa unità imparerai come progettare un potente prompt di sistema, cosa fanno le impostazioni di pensiero e sforzo nei modelli moderni e come controllare l'output per formato/lunghezza. L'impostazione corretta di queste impostazioni consente di gestire contemporaneamente sia la qualità che i costi.
Prompt del Sistema: Direttiva Permanente del Modello
Il prompt del sistema è l'istruzione di alto livello che si applica all'intera conversazione. Queste regole rimangono valide indipendentemente da ciò che l'utente digita. Un buon prompt di sistema include i seguenti componenti:
- Ruolo/identità: chi è il modello? ("Sei un assistente di supporto aziendale.")
- Ambito e confini: cosa fa e cosa non fa? ("Basarsi solo sul documento politico fornito.")
- Regole di formato: come dovrebbe essere l'output? ("Massimo 3 articoli, lingua ufficiale.")
- Comportamento nell’incertezza: cosa fare quando non si è sicuri? ("Se non ci sono informazioni, inventatele e indirizzatele all'unità pertinente.")
- Sicurezza/privacy: cosa non vuole/non vuole? ("Richiedere dati personali.")
Suggerimento: mantenere fisso il prompt del sistema. Non incorporare informazioni che cambiano con ogni richiesta (data corrente, nome utente, ID sessione). Ciò interrompe la coerenza e invalida la cache dei prompt sull'unità 6. Inserisci le informazioni sulla variabile nel messaggio dell'utente.
La trappola dell’istruzione eccessivamente aggressiva
I modelli moderni seguono molto attentamente le istruzioni. Frasi aggressive come "DEVO", "SEMPRE", "FALLO SICURAMENTE", ecc., che funzionavano nei modelli più vecchi, oggi portano a un overtriggering: il modello chiama un agente quando non è necessario o lavora per un tempo inutilmente lungo. Ammorbidire la regola: invece di "DEVI usare lo strumento di ricerca", "Se la risposta non è nella conversazione, usa lo strumento di ricerca" è più precisa.
Parametri del modello: pensiero e impegno
I LLM classici avevano un parametro di temperatura: un valore più basso produceva un output più specifico/coerente, un valore più alto produceva un output più vario/creativo. I modelli della generazione moderna (come Opus 4.8, Sonnet 5) sostituiscono questo approccio con due meccanismi più potenti e non accettano più parametri di campionamento come la temperatura.
- Pensiero adattivo: il modello ragiona passo dopo passo nella sua "testa" prima di rispondere. Il modello decide quanto pensare in base alla difficoltà del compito. Migliora significativamente la precisione su problemi complessi a più fasi; Pensa meno per evitare inutili ritardi su domande semplici.
- Impegno: manopola di alto livello che regola la profondità con cui il modello si immerge in un'attività e quanti gettoni spende in totale. Livelli tipici: basso, medio, alto e superiore. Un impegno elevato può migliorare la qualità, ma aumenta anche i ritardi e i costi; Il basso sforzo porta velocità e risparmio.
Impostazione
Cosa fa
quando
Pensiero/poco impegno
Veloce, economico, superficiale
Classificazione semplice, risposta breve, attività sensibili al ritardo
Pensiero adattivo + sforzo medio
Qualità/costo equilibrato
La maggior parte dei compiti di uso generale
Pensiero adattivo + sforzo elevato
massima precisione
Ragionamento complesso, codifica, lavoro con agenti a lungo raggio
Attenzione: il riflesso del "massimo sforzo, qualunque cosa accada" gonfia i costi. Adattare lo sforzo al compito; Nelle attività semplici, uno sforzo minimo spesso fornisce lo stesso risultato accurato a un prezzo molto più economico. Vai in alto dove è necessaria una precisione critica.
Controllo dell'output: formato, lunghezza, struttura
Oltre ai parametri, controlli anche l'output stesso:
- max_tokens: soffitto rigido dell'output (1a e 3a unità).
- Interrompi sequenze: arresta il modello quando vede una determinata stringa. Utile per impostare punti di interruzione nella produzione strutturata.
- Output strutturato: forza la risposta del modello a conformarsi allo schema JSON fornito. Garantisce che l'output sia analizzabile e valido a livello di codice. È più affidabile che dire "restituisci semplicemente JSON" con un prompt.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["invoice", "technical", "return", "other"] }, "urgency": { "type": "string", "enum": ["low", "medium", "high"] } }, "richiesto": ["categoria", "urgenza"] } } }}
Modelli di prompt di sistema copiabili
# Assistente di supporto aziendaleSei un assistente di supporto aziendale. - Affidati esclusivamente al documento politico fornito; Se non è nel documento, dì "Non ho queste informazioni". - Dare una risposta formale e chiara in un massimo di 3 frasi. - Richiedi i dati personali (numero ID TC, numero carta) e non ripeterli nella risposta. - Se non sei sicuro, non indovinare.
# Classificatore di forzatura dell'output strutturatoSei un classificatore della domanda. L'input è un messaggio per il cliente. Riporta solo i campi richiesti, non scrivere commenti. Se non sei sicuro, usa "altro".
# Analista con comportamento definito di incertezzaSei un analista di dati. Trarre solo conclusioni verificabili dalla tabella fornita. Non trarre mai una conclusione che non esiste nei dati. Se un'inferenza non è chiara, scrivi "dati insufficienti".
# Scrittore di contenuti con controllo di tono e lunghezzaSei uno scrittore di contenuti. Usa un tono caldo ma professionale. Limita ogni testo a 120 parole o meno. Evita il linguaggio di marketing cliché.
Prompt debole / Prompt forte
# DEBOLESii utile e dai buone risposte. Fai del tuo meglio.
# FORTE Ruolo: specialista del supporto tecnico. Ambito: fornita solo guida al prodotto. Formato: passo dopo passo, elenco numerato, massimo 5 passaggi. Limite: consiglia una soluzione non presente nella guida; Di' "Non sono riuscito a trovarlo nel manuale". Privacy: non ripetere il numero di serie condiviso dall'utente nella risposta.
Versione potente; Determina separatamente il ruolo, l'ambito, il formato, i limiti e la riservatezza. La coerenza dell'output deriva direttamente da questa chiarezza.
Tre mini custodie
Caso 1 — Riduzione dei costi attraverso l’adeguamento dello sforzo. Una squadra stava eseguendo tutte le chiamate con impegno elevato e pensiero; Anche i semplici riepiloghi di posta elettronica erano costosi e lenti da produrre. Hanno assegnato compiti semplici come i riepiloghi a un impegno basso e l'analisi dei contratti a un impegno elevato. La precisione è stata mantenuta, la latenza media è stata dimezzata e il costo mensile è stato ridotto di un terzo.
Caso 2: garanzia JSON. Un team operativo ha chiesto l'output della classificazione con un messaggio che diceva "basta fornire JSON", ma il modello occasionalmente scriveva "Ecco il risultato:" e il parser si bloccava. Quando ho collegato lo schema di output configurato, l'output ha restituito ogni volta un JSON valido; gli errori di analisi sono stati ripristinati.
Caso 3 – Rinculo aggressivo e pronto. Un prompt dell'assistente diceva: "DEVI cercare OGNI DOMANDA"; Il modello effettuava ricerche inutili anche per domande semplici di cui conosceva già la risposta, rallentando e aumentando i costi. Hanno allentato la regola "Se la risposta non è nel contesto, cerca"; Le chiamate non necessarie sono diminuite del 70% e le risposte sono accelerate.
Errori comuni
- Incorporamento di dati variabili nel prompt del sistema: interrompe la coerenza e invalida la cache.
- Istruzioni eccessivamente aggressive: trigger eccessivo e costi inutili nei modelli moderni.
- Elevato impegno in ogni compito: sprechi in compiti semplici; adattare lo sforzo al compito.
- Richiesta JSON solo tramite prompt: si rompe occasionalmente; se critico, utilizzare l'output strutturato.
- Non definire il comportamento di confine/ambiguità: il modello colma il divario con la fabbricazione (allucinazione).
- Vecchia abitudine alla “temperatura”: i modelli moderni non lo accettano; Guidare il comportamento con prontezza e impegno.
Più in profondità: scrivere la richiesta come un contratto
I team esperti trattano il sistema come un contratto, non come un testo letterario: clausole chiare, regole misurabili, confini inequivocabili. Questo approccio presenta tre vantaggi concreti. Il primo è la coerenza: lo stesso input dà un output simile in momenti diversi. Il secondo è la testabilità: puoi testare ciascun elemento separatamente con un campione. Il terzo è la facilità di manutenzione: se un comportamento è sbagliato, sai quale elemento sostituire.
Una buona pratica è dare esempi positivi. Piuttosto che fornire un elenco di "non farlo", è molto più efficace nei modelli moderni fornire un esempio che dica "questo è esattamente l'aspetto dell'output desiderato". Ad esempio, in un classificatore, l'aggiunta di uno o due campioni del JSON previsto al prompt riduce significativamente gli errori di formattazione.
Un'altra tecnica potente è scrivere esplicitamente il comportamento di incertezza. Una clausola come "Se non sei sicuro, non indovinare; dì 'dati insufficienti'" sopprime la tendenza del modello a riempire lo spazio vuoto con la fabbricazione (allucinazione). Questa singola frase alleggerisce il livello di verifica, che tratteremo nell'unità 11: una volta che il modello ha già segnalato l'incertezza, diventa più facile condurre alla validazione umana.
Infine, considera lo sforzo e la sollecitazione insieme. Con uno sforzo elevato, il modello esplora di più e talvolta svolge un “lavoro extra” indesiderato (spiegazioni non necessarie, suggerimenti aggiuntivi). Dire "fornisci solo l'output desiderato, non aggiungere ulteriori commenti" nel prompt compensa questo effetto collaterale di uno sforzo elevato.
In sintesi
Il prompt del sistema è la direttiva permanente del modello: definisce il ruolo, l'ambito, il formato, il comportamento di oscurità e la riservatezza. Nei modelli moderni, il comportamento è guidato dal pensiero adattivo e dai parametri dello sforzo piuttosto che dalla temperatura; Allineando l'impegno all'attività è possibile gestire contemporaneamente qualità e costi. Proteggi l'output con max_tokens, array di stop e output strutturato.
Compito dell'applicazione
Scegli un'attività. (1) Scrivere un prompt di sistema con cinque componenti (ruolo, ambito, formato, ambiguità, riservatezza). (2) Indica quale livello di impegno sceglieresti per questo compito e perché. (3) Se l'output deve essere strutturato, abbozzare un piccolo schema JSON. (4) Controlla se c'è uno schema eccessivamente aggressivo nel tuo prompt e ammorbidiscilo.
lista di controllo
- [ ] Posso citare cinque componenti di un buon prompt di sistema.
- [ ] Posso spiegare cosa fanno il pensiero adattivo e i parametri dello sforzo.
- [ ] Posso bilanciare qualità/costo adattando l'impegno in base al compito.
- [] So perché l'output strutturato è più sicuro rispetto alla richiesta di JSON tramite prompt.
- [ ] Posso riconoscere il rischio nei modelli moderni di istruzioni eccessivamente aggressive.