Κέρδη:
- Μπορεί να σχεδιάσει πώς η προτροπή συστήματος καθοδηγεί το μοντέλο σε ολόκληρη τη συνομιλία
- Κατανοεί τον ρόλο και τον αντίκτυπο του κόστους της προσαρμοστικής σκέψης και των παραμέτρων προσπάθειας
- υλοποιεί στοιχεία ελέγχου εξόδου όπως max_tokens, ακολουθίες τερματισμού και δομημένη έξοδο
Δύο διαφορετικά προϊόντα του ίδιου μοντέλου μπορεί να συμπεριφέρονται εντελώς διαφορετικά. Η διαφορά δεν είναι στο ίδιο το μοντέλο, αλλά στην προτροπή του συστήματος και στις παραμέτρους που του δίνονται. Η προτροπή συστήματος είναι το "συμβόλαιο εργασίας" του μοντέλου και οι παράμετροι είναι "ρυθμίσεις εργασίας". Σε αυτή την ενότητα, θα μάθετε πώς να σχεδιάζετε μια ισχυρή προτροπή συστήματος, τι κάνουν οι ρυθμίσεις σκέψης και προσπάθειας στα σύγχρονα μοντέλα και πώς να ελέγχετε την έξοδο για μορφή/μήκος. Η σωστή ρύθμιση αυτών των ρυθμίσεων σάς επιτρέπει να διαχειρίζεστε ταυτόχρονα την ποιότητα και το κόστος.
System Prompt: Μόνιμη Οδηγία του Μοντέλου
Η προτροπή συστήματος είναι η οδηγία υψηλού επιπέδου που ισχύει σε όλη τη διάρκεια της συνομιλίας. Αυτοί οι κανόνες παραμένουν έγκυροι ανεξάρτητα από τον τύπο του χρήστη. Ένα καλό μήνυμα συστήματος περιλαμβάνει τα ακόλουθα στοιχεία:
- Ρόλος/ταυτότητα: Ποιο είναι το μοντέλο; ("Είστε βοηθός εταιρικής υποστήριξης.")
- Πεδίο εφαρμογής και όρια: Τι κάνει και τι όχι; ("Βασιστείτε μόνο στο παρεχόμενο έγγραφο πολιτικής.")
- Κανόνες μορφής: Πώς πρέπει να μοιάζει η έξοδος; ("Μέγιστο 3 άρθρα, επίσημη γλώσσα.")
- Συμπεριφορά στην αβεβαιότητα: Τι κάνει κάποιος όταν δεν είναι σίγουρος; ("Εάν δεν υπάρχουν πληροφορίες, να τις φτιάξετε, να τις κατευθύνετε στην αρμόδια μονάδα.")
- Ασφάλεια/απόρρητο: Τι δεν θέλει/δεν θέλει; ("Αίτημα προσωπικών δεδομένων.")
Συμβουλή: Διατηρήστε το σύστημα προτροπής σταθερό. Μην ενσωματώνετε πληροφορίες που αλλάζουν με κάθε αίτημα (τρέχουσα ημερομηνία, όνομα χρήστη, αναγνωριστικό περιόδου σύνδεσης). Αυτό διακόπτει τη συνοχή και ακυρώνει την προσωρινή μνήμη προτροπής στη μονάδα 6. Τοποθετήστε τις πληροφορίες μεταβλητής στο μήνυμα χρήστη.
Η υπερβολικά επιθετική παγίδα οδηγιών
Τα σύγχρονα μοντέλα ακολουθούν πολύ προσεκτικά τις οδηγίες. Επιθετικές φράσεις όπως "ΠΡΕΠΕΙ", "ΠΑΝΤΑ", "ΣΙΓΟΥΡΑ να το κάνεις αυτό" κ.λπ., που λειτουργούσαν σε παλαιότερα μοντέλα, σήμερα οδηγούν σε υπερβολικό ξεκίνημα: το μοντέλο καλεί έναν πράκτορα όταν δεν χρειάζεται ή λειτουργεί για άσκοπα μεγάλο χρονικό διάστημα. Απαλύνετε τον κανόνα: Αντί για "ΠΡΕΠΕΙ να χρησιμοποιήσετε το εργαλείο αναζήτησης", είναι πιο ακριβές το "Εάν η απάντηση δεν βρίσκεται στη συνομιλία, χρησιμοποιήστε το εργαλείο αναζήτησης".
Παράμετροι μοντέλου: Σκέψη και προσπάθεια
Τα κλασικά LLM είχαν μια παράμετρο θερμοκρασίας: μια χαμηλότερη τιμή παρήγαγε πιο συγκεκριμένη/συνεπή απόδοση, μια υψηλότερη τιμή παρήγαγε πιο ποικίλη/δημιουργική απόδοση. Τα μοντέλα σύγχρονης γενιάς (όπως το Opus 4.8, το Sonnet 5) αντικαθιστούν αυτή την προσέγγιση με δύο πιο ισχυρούς μηχανισμούς και δεν δέχονται πλέον παραμέτρους δειγματοληψίας όπως η θερμοκρασία.
- Προσαρμοστική σκέψη: Το μοντέλο αιτιολογεί βήμα βήμα στο «κεφάλι» του πριν απαντήσει. Το μοντέλο αποφασίζει πόσο θα σκεφτεί με βάση τη δυσκολία της εργασίας. Βελτιώνει σημαντικά την ακρίβεια σε πολύπλοκα προβλήματα πολλαπλών βημάτων. Σκέφτεται λιγότερο για να αποφύγει τις άσκοπες καθυστερήσεις σε απλές ερωτήσεις.
- Προσπάθεια: Κουμπί υψηλού επιπέδου που προσαρμόζει πόσο βαθιά βυθίζεται το μοντέλο σε μια εργασία και πόσα token ξοδεύει συνολικά. Τυπικά επίπεδα: χαμηλό, μεσαίο, υψηλό και πάνω. Η υψηλή προσπάθεια μπορεί να βελτιώσει την ποιότητα, αλλά αυξάνει επίσης την καθυστέρηση και το κόστος. Η χαμηλή προσπάθεια φέρνει ταχύτητα και εξοικονόμηση.
Ρύθμιση
Τι κάνει
όταν
Σκέψη εκτός/χαμηλή προσπάθεια
Γρήγορο, φθηνό, επιφανειακό
Απλή ταξινόμηση, σύντομη απόκριση, καθυστερήσεις ευαίσθητες εργασίες
Προσαρμοστική σκέψη + μέτρια προσπάθεια
Ισορροπημένη ποιότητα/κόστος
Οι περισσότερες εργασίες γενικού σκοπού
Προσαρμοστική σκέψη + υψηλή προσπάθεια
υψηλότερη ακρίβεια
Πολύπλοκη συλλογιστική, κωδικοποίηση, εργασία πρακτόρων μεγάλης εμβέλειας
Προσοχή: Το αντανακλαστικό «μέγιστη προσπάθεια ανεξάρτητα από το τι» διογκώνει το κόστος. Προσαρμόστε την προσπάθεια στην εργασία. Σε απλές εργασίες, η χαμηλή προσπάθεια δίνει συχνά το ίδιο ακριβές αποτέλεσμα σε πολύ φθηνότερη τιμή. Πηγαίνετε ψηλά όπου χρειάζεται κρίσιμη ακρίβεια.
Έλεγχος εξόδου: Μορφή, Μήκος, Δομή
Εκτός από τις παραμέτρους, ελέγχετε επίσης την ίδια την έξοδο:
- max_tokens: Σκληρή οροφή της εξόδου (1η και 3η μονάδα).
- Ακολουθίες διακοπής: Διακοπή του μοντέλου όταν βλέπει μια συγκεκριμένη συμβολοσειρά. Χρήσιμο για τον καθορισμό σημείων διακοπής στη δομημένη παραγωγή.
- Δομημένη έξοδος: Υποχρεώστε την απόκριση του μοντέλου να συμμορφώνεται με ένα σχήμα JSON που παρέχετε. Διασφαλίζει ότι η έξοδος είναι προγραμματικά αναλύσιμη και έγκυρη. Είναι πιο αξιόπιστο από το να πείτε "απλώς επιστρέψτε JSON" με μια προτροπή.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["invoice", "technical", ":"]turg" "type": "string", "enum": ["low", "medium", "high"] } }, "required": ["κατηγορία", "επείγον"] } } }}
Αντιγράψιμα πρότυπα προτροπής συστήματος
# Βοηθός εταιρικής υποστήριξης Είστε βοηθός εταιρικής υποστήριξης.- Βασιστείτε αποκλειστικά στο παρεχόμενο έγγραφο πολιτικής. Εάν δεν υπάρχει στο έγγραφο, πείτε "Δεν έχω αυτές τις πληροφορίες". - Δώστε μια επίσημη και ξεκάθαρη απάντηση σε 3 προτάσεις το πολύ. - Ζητήστε προσωπικά δεδομένα (αριθμός ταυτότητας TC, αριθμός κάρτας) και μην τα επαναλάβετε στην απάντησή σας. - Εάν δεν είστε σίγουροι, μην μαντέψετε.
# Structured output Forcing classifier Είστε ταξινομητής ζήτησης. Η είσοδος είναι ένα μήνυμα πελάτη. Επιστρέψτε μόνο τα ζητούμενα πεδία, μην γράφετε σχόλια. Εάν δεν είστε σίγουροι, χρησιμοποιήστε το "άλλο".
# Αναλυτής με καθορισμένη συμπεριφορά σε κατάσταση αβεβαιότητας Είστε αναλυτής δεδομένων. Εξάγετε μόνο επαληθεύσιμα συμπεράσματα από τον πίνακα που παρέχεται. Ποτέ μην βγάζετε συμπέρασμα που δεν υπάρχει στα δεδομένα. Εάν ένα συμπέρασμα είναι ασαφές, γράψτε "δεδομένα ανεπαρκή".
# Συγγραφέας περιεχομένου με έλεγχο τόνου και μήκους Είστε συγγραφέας περιεχομένου. Χρησιμοποιήστε έναν ζεστό αλλά επαγγελματικό τόνο. Περιορίστε κάθε κείμενο σε 120 λέξεις ή λιγότερες. Αποφύγετε την κλισέ γλώσσα μάρκετινγκ.
Αδύναμη προτροπή / Ισχυρή προτροπή
# ΑΔΥΝΑΜΟΣ Να είστε χρήσιμοι και να δίνετε καλές απαντήσεις. Κάντε το καλύτερο δυνατό.
# STRONGΡόλος: Ειδικός τεχνικής υποστήριξης. Πεδίο εφαρμογής: Παρέχεται μόνο ο οδηγός προϊόντος. Μορφή: Βήμα-βήμα, αριθμημένη λίστα, μέγιστο 5 βήματα. Όριο: Προτείνετε λύση που δεν υπάρχει στον οδηγό. Πείτε "Δεν μπόρεσα να το βρω στο εγχειρίδιο". Απόρρητο: Μην επαναλάβετε τον σειριακό αριθμό που μοιράστηκε ο χρήστης στην απάντηση.
Ισχυρή έκδοση. Καθορίζει χωριστά το ρόλο, το πεδίο εφαρμογής, τη μορφή, τα όρια και την εμπιστευτικότητα. Η συνέπεια της παραγωγής προέρχεται απευθείας από αυτή τη σαφήνεια.
Τρεις Μίνι Θήκες
Περίπτωση 1 — Μείωση κόστους μέσω προσαρμογής της προσπάθειας. Μια ομάδα εκτελούσε όλες τις κλήσεις της με υψηλή προσπάθεια + σκέψη. Ακόμη και οι απλές περιγραφές μέσω email ήταν ακριβές και αργές στην παραγωγή. Ανέθεσαν απλές εργασίες, όπως περιλήψεις σε χαμηλή προσπάθεια και ανάλυση συμβάσεων σε υψηλή προσπάθεια. Η ακρίβεια διατηρήθηκε, η μέση καθυστέρηση μειώθηκε στο μισό και το μηνιαίο κόστος μειώθηκε κατά ένα τρίτο.
Περίπτωση 2 — Εγγύηση JSON. Μια ομάδα λειτουργιών ζήτησε την έξοδο ταξινόμησης με μια προτροπή λέγοντας "απλώς δώσε JSON", αλλά το μοντέλο κατά καιρούς έγραφε "Εδώ είναι το αποτέλεσμα:" και ο αναλυτής θα κολλούσε. Όταν συνέδεσα το διαμορφωμένο σχήμα εξόδου, η έξοδος επέστρεφε έγκυρο JSON κάθε φορά. τα σφάλματα ανάλυσης επαναφέρθηκαν.
Περίπτωση 3 — Επιθετική άμεση ανάκρουση. Μια προτροπή βοηθού είπε, "ΠΡΕΠΕΙ να ψάξετε για ΚΑΘΕ ΕΡΩΤΗΣΗ". Το μοντέλο έκανε περιττές αναζητήσεις ακόμη και για απλές ερωτήσεις στις οποίες γνώριζε ήδη την απάντηση, επιβραδύνοντας και αυξάνοντας το κόστος. Χαλάρωσαν τον κανόνα σε "Εάν η απάντηση δεν είναι στο πλαίσιο, ψάξε". Οι περιττές κλήσεις μειώθηκαν κατά 70% και οι απαντήσεις επιταχύνθηκαν.
Συνήθη λάθη
- Ενσωμάτωση μεταβλητών δεδομένων στο μήνυμα προτροπής του συστήματος: Διακόπτει τη συνέπεια και ακυρώνει την κρυφή μνήμη.
- Υπερβολικά επιθετική οδηγία: Υπερβολική ενεργοποίηση και περιττό κόστος στα σύγχρονα μοντέλα.
- Υψηλή προσπάθεια σε κάθε εργασία: Σπατάλη σε απλές εργασίες. προσαρμόστε την προσπάθεια στην εργασία.
- Αίτημα JSON μόνο μέσω προτροπής: Σπάει περιστασιακά. εάν είναι κρίσιμο, χρησιμοποιήστε δομημένη έξοδο.
- Μη καθορισμός συμπεριφοράς ορίων/ασάφειας: Το μοντέλο γεμίζει το κενό με κατασκευή (ψευδαίσθηση).
- Παλιά συνήθεια «θερμοκρασίας»: Τα σύγχρονα μοντέλα δεν το δέχονται αυτό. Καθοδηγήστε τη συμπεριφορά με ταχύτητα και προσπάθεια.
Πιο βαθύ: Γράψιμο της προτροπής σαν σύμβαση
Οι έμπειρες ομάδες αντιμετωπίζουν την προτροπή του συστήματος σαν ένα συμβόλαιο, όχι ένα λογοτεχνικό κείμενο: σαφείς ρήτρες, μετρήσιμοι κανόνες, ξεκάθαρα όρια. Αυτή η προσέγγιση έχει τρία συγκεκριμένα οφέλη. Το πρώτο είναι η συνέπεια: η ίδια είσοδος δίνει παρόμοια έξοδο σε διαφορετικούς χρόνους. Το δεύτερο είναι η δυνατότητα δοκιμής: μπορείτε να δοκιμάσετε κάθε στοιχείο ξεχωριστά με ένα δείγμα. Τρίτον είναι η ευκολία συντήρησης: εάν μια συμπεριφορά είναι εσφαλμένη, ξέρετε ποιο αντικείμενο να αντικαταστήσετε.
Μια καλή πρακτική είναι να οδηγείτε με θετικά παραδείγματα. Αντί να παρέχετε μια λίστα με το "μην το κάνετε αυτό", είναι πολύ πιο αποτελεσματικό στα σύγχρονα μοντέλα να παρέχετε ένα παράδειγμα που λέει "ακριβώς έτσι φαίνεται η επιθυμητή έξοδος". Για παράδειγμα, σε έναν ταξινομητή, η προσθήκη ενός ή δύο δειγμάτων του αναμενόμενου JSON στην προτροπή μειώνει σημαντικά τα σφάλματα μορφοποίησης.
Μια άλλη ισχυρή τεχνική είναι να γράψετε ρητά τη συμπεριφορά αβεβαιότητας. Μια ρήτρα όπως "Εάν δεν είστε βέβαιοι, μην μαντέψετε, πείτε "ανεπαρκή δεδομένα"" καταστέλλει την τάση του μοντέλου να συμπληρώνει το κενό με κατασκεύασμα (ψευδαίσθηση). Αυτή η μεμονωμένη πρόταση εκφορτώνει το επίπεδο επαλήθευσης, το οποίο θα καλύψουμε στην ενότητα 11: όταν το μοντέλο έχει ήδη επισημάνει την αβεβαιότητα, γίνεται ευκολότερο να οδηγήσει σε ανθρώπινη επικύρωση.
Τέλος, σκεφτείτε την προσπάθεια και την προτροπή μαζί. Με μεγάλη προσπάθεια, το μοντέλο εξερευνά περισσότερο και μερικές φορές κάνει ανεπιθύμητη «επιπλέον δουλειά» (περιττή εξήγηση, πρόσθετη πρόταση). Λέγοντας "δώστε μόνο το επιθυμητό αποτέλεσμα, μην προσθέτετε πρόσθετα σχόλια" στην προτροπή αντισταθμίζει αυτήν την παρενέργεια της μεγάλης προσπάθειας.
Συνοπτικά
Η προτροπή συστήματος είναι η μόνιμη οδηγία του μοντέλου: καθορίζει το ρόλο, το εύρος, τη μορφή, τη συμπεριφορά της ασάφειας και την εμπιστευτικότητα. Στα σύγχρονα μοντέλα, η συμπεριφορά καθοδηγείται από προσαρμοστικές παραμέτρους σκέψης και προσπάθειας και όχι από τη θερμοκρασία. Η ευθυγράμμιση της προσπάθειας με την εργασία διαχειρίζεται την ποιότητα και το κόστος ταυτόχρονα. Ασφαλίζετε την έξοδο με max_tokens, stop arrays και δομημένη έξοδο.
Εργασία εφαρμογής
Επιλέξτε μια εργασία. (1) Γράψτε μια προτροπή συστήματος με πέντε στοιχεία (ρόλος, εύρος, μορφή, ασάφεια, εμπιστευτικότητα). (2) Δηλώστε ποιο επίπεδο προσπάθειας θα επιλέγατε για αυτό το έργο και γιατί. (3) Εάν η έξοδος πρέπει να είναι δομημένη, σκιαγραφήστε ένα μικρό σχήμα JSON. (4) Ελέγξτε εάν υπάρχει ένα υπερβολικά επιθετικό μοτίβο στην προτροπή σας και απαλύντε το.
λίστα ελέγχου
- [ ] Μπορώ να ονομάσω πέντε στοιχεία μιας καλής προτροπής συστήματος.
- [ ] Μπορώ να εξηγήσω τι κάνουν οι παράμετροι προσαρμοστικής σκέψης και προσπάθειας.
- [ ] Μπορώ να εξισορροπήσω την ποιότητα/κόστος προσαρμόζοντας την προσπάθεια ανάλογα με την εργασία.
- [ ] Γνωρίζω γιατί η δομημένη έξοδος είναι πιο ασφαλής από το να ζητάς JSON μέσω προτροπής.
- [ ] Μπορώ να αναγνωρίσω τον κίνδυνο στα σύγχρονα μοντέλα υπερβολικά επιθετικών οδηγιών.