లాభాలు:
- సిస్టమ్ ప్రాంప్ట్ మొత్తం సంభాషణ ద్వారా మోడల్కు ఎలా మార్గనిర్దేశం చేస్తుందో రూపొందించవచ్చు
- అనుకూల ఆలోచన మరియు కృషి పారామితుల పాత్ర మరియు వ్యయ ప్రభావాన్ని అర్థం చేసుకుంటుంది
- max_tokens, స్టాప్ సీక్వెన్సులు మరియు నిర్మాణాత్మక అవుట్పుట్ వంటి అవుట్పుట్ నియంత్రణలను అమలు చేస్తుంది
ఒకే మోడల్ యొక్క రెండు వేర్వేరు ఉత్పత్తులు పూర్తిగా భిన్నంగా ప్రవర్తించవచ్చు. వ్యత్యాసం మోడల్లోనే కాదు, సిస్టమ్ ప్రాంప్ట్ మరియు దానికి ఇచ్చిన పారామితులలో ఉంది. సిస్టమ్ ప్రాంప్ట్ మోడల్ యొక్క "పని ఒప్పందం" మరియు పారామితులు "పని సెట్టింగ్లు". ఈ యూనిట్లో, మీరు శక్తివంతమైన సిస్టమ్ ప్రాంప్ట్ను ఎలా డిజైన్ చేయాలి, ఆధునిక మోడల్లలోని ఆలోచన మరియు ప్రయత్న సెట్టింగ్లు ఏమి చేస్తాయి మరియు ఫార్మాట్/పొడవు కోసం అవుట్పుట్ను ఎలా నియంత్రించాలో నేర్చుకుంటారు. ఈ సెట్టింగ్లను సరిగ్గా సెట్ చేయడం వలన మీరు నాణ్యత మరియు ధర రెండింటినీ ఒకే సమయంలో నిర్వహించవచ్చు.
సిస్టమ్ ప్రాంప్ట్: మోడల్ యొక్క శాశ్వత ఆదేశం
సిస్టమ్ ప్రాంప్ట్ అనేది మొత్తం సంభాషణ అంతటా వర్తించే ఉన్నత-స్థాయి సూచన. ఈ నియమాలు వినియోగదారు రకాలుగా ఉన్నా చెల్లుబాటులో ఉంటాయి. మంచి సిస్టమ్ ప్రాంప్ట్ కింది భాగాలను కలిగి ఉంటుంది:
- పాత్ర/గుర్తింపు: మోడల్ ఎవరు? (“మీరు కార్పొరేట్ సపోర్ట్ అసిస్టెంట్.”)
- పరిధి మరియు సరిహద్దు: ఇది ఏమి చేస్తుంది మరియు ఏమి చేయదు? (“అందించిన పాలసీ పత్రం ఆధారంగా మాత్రమే.”)
- ఫార్మాట్ నియమాలు: అవుట్పుట్ ఎలా ఉండాలి? ("గరిష్టంగా 3 వ్యాసాలు, అధికారిక భాష.")
- అనిశ్చితిలో ప్రవర్తన: ఖచ్చితంగా తెలియనప్పుడు ఏమి చేస్తారు? ("సమాచారం లేనట్లయితే, దానిని రూపొందించండి, దానిని సంబంధిత యూనిట్కు పంపండి.")
- భద్రత/గోప్యత: ఏది అక్కర్లేదు/వద్దు? ("వ్యక్తిగత డేటాను అభ్యర్థించండి.")
చిట్కా: సిస్టమ్ ప్రాంప్ట్ను స్థిరంగా ఉంచండి. ప్రతి అభ్యర్థనతో (ప్రస్తుత తేదీ, వినియోగదారు పేరు, సెషన్ ID) మారే సమాచారాన్ని పొందుపరచవద్దు. ఇది స్థిరత్వాన్ని విచ్ఛిన్నం చేస్తుంది మరియు యూనిట్ 6లో ప్రాంప్ట్ కాష్ని చెల్లుబాటు కాకుండా చేస్తుంది. వినియోగదారు సందేశంలో వేరియబుల్ సమాచారాన్ని ఉంచండి.
అతిగా దూకుడుగా ఉండే సూచనల ఉచ్చు
ఆధునిక నమూనాలు సూచనలను చాలా దగ్గరగా అనుసరిస్తాయి. పాత మోడళ్లలో పనిచేసిన "తప్పక", "ఎల్లప్పుడూ", "ఖచ్చితంగా దీన్ని చేయి" మొదలైన దూకుడు పదబంధాలు ఈరోజు ఓవర్ట్రిగ్గరింగ్కు దారితీస్తున్నాయి: మోడల్ అవసరం లేనప్పుడు లేదా అనవసరంగా ఎక్కువ కాలం పనిచేసినప్పుడు ఏజెంట్ని పిలుస్తుంది. నియమాన్ని మృదువుగా చేయండి: "తప్పక శోధన సాధనాన్ని ఉపయోగించాలి"కి బదులుగా, "సమాధానం సంభాషణలో లేకుంటే, శోధన సాధనాన్ని ఉపయోగించండి" అనేది మరింత ఖచ్చితమైనది.
మోడల్ పారామితులు: ఆలోచన మరియు కృషి
క్లాసికల్ LLMలు ఉష్ణోగ్రత పరామితిని కలిగి ఉంటాయి: తక్కువ విలువ మరింత నిర్దిష్ట/స్థిరమైన అవుట్పుట్ను ఉత్పత్తి చేస్తుంది, అధిక విలువ మరింత వైవిధ్యమైన/సృజనాత్మక అవుట్పుట్ను ఉత్పత్తి చేస్తుంది. ఆధునిక తరం నమూనాలు (ఓపస్ 4.8, సొనెట్ 5 వంటివి) ఈ విధానాన్ని మరో రెండు శక్తివంతమైన యంత్రాంగాలతో భర్తీ చేస్తాయి మరియు ఇకపై ఉష్ణోగ్రత వంటి నమూనా పారామితులను అంగీకరించవు.
- అడాప్టివ్ థింకింగ్: ప్రతిస్పందించడానికి ముందు మోడల్ కారణాలు దాని "తల"లో దశలవారీగా ఉంటాయి. పని యొక్క కష్టాన్ని బట్టి ఎంత ఆలోచించాలో మోడల్ నిర్ణయిస్తుంది. క్లిష్టమైన, బహుళ-దశల సమస్యలపై ఖచ్చితత్వాన్ని గణనీయంగా మెరుగుపరుస్తుంది; అతను సాధారణ ప్రశ్నలపై అనవసరమైన జాప్యాన్ని నివారించడానికి తక్కువ ఆలోచిస్తాడు.
- ప్రయత్నం: ఒక టాస్క్లో మోడల్ ఎంత లోతుగా డైవ్ చేస్తుంది మరియు మొత్తంగా ఎన్ని టోకెన్లను ఖర్చు చేస్తుందో సర్దుబాటు చేసే హై-లెవల్ నాబ్. సాధారణ స్థాయిలు: తక్కువ, మధ్యస్థం, ఎక్కువ మరియు పైన. అధిక ప్రయత్నం నాణ్యతను మెరుగుపరుస్తుంది, అయితే ఇది ఆలస్యం మరియు వ్యయాన్ని కూడా పెంచుతుంది; తక్కువ ప్రయత్నం వేగం మరియు పొదుపును తెస్తుంది.
సెట్టింగ్
ఏమి చేస్తుంది
ఎప్పుడు
ఆలోచించడం / తక్కువ ప్రయత్నం
వేగవంతమైన, చౌక, ఉపరితలం
సాధారణ వర్గీకరణ, చిన్న ప్రతిస్పందన, సున్నితమైన పనులను ఆలస్యం చేయడం
అనుకూల ఆలోచన + మధ్యస్థ ప్రయత్నం
సమతుల్య నాణ్యత/ఖర్చు
అత్యంత సాధారణ ప్రయోజన పనులు
అనుకూల ఆలోచన + అధిక ప్రయత్నం
అత్యధిక ఖచ్చితత్వం
కాంప్లెక్స్ రీజనింగ్, కోడింగ్, లాంగ్-రేంజ్ ఏజెంట్ వర్క్
హెచ్చరిక: రిఫ్లెక్స్ "ఏదైనా సరే" ఖర్చులను పెంచుతుంది. పనికి ప్రయత్నాన్ని సర్దుబాటు చేయండి; సాధారణ పనులలో, తక్కువ ప్రయత్నం తరచుగా అదే ఖచ్చితమైన ఫలితాన్ని చాలా తక్కువ ధరకు ఇస్తుంది. క్లిష్టమైన ఖచ్చితత్వం అవసరమయ్యే చోట ఎత్తుకు వెళ్లండి.
అవుట్పుట్ నియంత్రణ: ఫార్మాట్, పొడవు, నిర్మాణం
పారామితులతో పాటు, మీరు అవుట్పుట్ను కూడా నియంత్రిస్తారు:
- max_tokens: అవుట్పుట్ యొక్క హార్డ్ సీలింగ్ (1వ మరియు 3వ యూనిట్).
- స్టాప్ సీక్వెన్స్లు: నిర్దిష్ట స్ట్రింగ్ని చూసినప్పుడు మోడల్ను ఆపడం. నిర్మాణాత్మక ఉత్పత్తిలో బ్రేక్పాయింట్లను సెట్ చేయడానికి ఉపయోగపడుతుంది.
- నిర్మాణాత్మక అవుట్పుట్: మీరు అందించే JSON స్కీమాకు అనుగుణంగా మోడల్ ప్రతిస్పందనను బలవంతం చేయండి. అవుట్పుట్ ప్రోగ్రామాటిక్గా అన్వయించదగినది మరియు చెల్లుబాటు అయ్యేలా ఇది నిర్ధారిస్తుంది. ఇది ప్రాంప్ట్తో "JSONని తిరిగి ఇవ్వండి" అని చెప్పడం కంటే నమ్మదగినది.
{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": తప్పు, "గుణాలు": { "category": { "type": "string", "enum": ["returnical", "returnical"}, "returnical"}, "invoice" "urgency": { "type": "string", "enum": ["low", "medium", "high"] } }, "అవసరం": ["category", "urgency"] } }}
కాపీ చేయగల సిస్టమ్ ప్రాంప్ట్ టెంప్లేట్లు
# కార్పొరేట్ సపోర్ట్ అసిస్టెంట్ మీరు కార్పొరేట్ సపోర్ట్ అసిస్టెంట్.- అందించిన పాలసీ డాక్యుమెంట్పై మాత్రమే ఆధారపడండి; ఇది పత్రంలో లేకుంటే, "నా దగ్గర ఈ సమాచారం లేదు" అని చెప్పండి. - గరిష్టంగా 3 వాక్యాలలో అధికారిక మరియు స్పష్టమైన సమాధానం ఇవ్వండి. - వ్యక్తిగత డేటా (TC ID నంబర్, కార్డ్ నంబర్) కోసం అడగండి మరియు మీ సమాధానంలో దాన్ని పునరావృతం చేయవద్దు. - మీకు ఖచ్చితంగా తెలియకపోతే, ఊహించవద్దు.
# స్ట్రక్చర్డ్ అవుట్పుట్ ఫోర్సింగ్ క్లాసిఫైయర్ మీరు డిమాండ్ వర్గీకరణదారు. ఇన్పుట్ అనేది కస్టమర్ సందేశం. అభ్యర్థించిన ఫీల్డ్లను మాత్రమే తిరిగి ఇవ్వండి, వ్యాఖ్యలను వ్రాయవద్దు. మీకు ఖచ్చితంగా తెలియకపోతే, "ఇతర" ఉపయోగించండి.
# అనిశ్చితిలో నిలబడి నిర్వచించిన ప్రవర్తనతో విశ్లేషకుడు మీరు డేటా విశ్లేషకులు. అందించిన పట్టిక నుండి ధృవీకరించదగిన అనుమితులను మాత్రమే గీయండి. డేటాలో లేని ముగింపును ఎప్పుడూ చేయవద్దు. అనుమితి అస్పష్టంగా ఉంటే, "డేటా సరిపోదు" అని వ్రాయండి.
# టోన్ మరియు లెంగ్త్ కంట్రోల్తో కంటెంట్ రైటర్ మీరు కంటెంట్ రైటర్. వెచ్చని కానీ ప్రొఫెషనల్ టోన్ ఉపయోగించండి. ప్రతి వచనాన్ని 120 లేదా అంతకంటే తక్కువ పదాలకు పరిమితం చేయండి. క్లిచ్ మార్కెటింగ్ భాషని నివారించండి.
బలహీనమైన ప్రాంప్ట్ / బలమైన ప్రాంప్ట్
# బలహీనంగా ఉండండి మరియు మంచి సమాధానాలు ఇవ్వండి. మీ వంతు కృషి చేయండి.
# స్ట్రాంగ్ రోల్: టెక్నికల్ సపోర్ట్ స్పెషలిస్ట్.స్కోప్: ప్రొడక్ట్ గైడ్ మాత్రమే అందించబడింది.ఫార్మాట్: దశల వారీగా, సంఖ్యల జాబితా, గరిష్టంగా 5 దశలు. పరిమితి: గైడ్లో లేని పరిష్కారాన్ని సిఫార్సు చేయండి; "నేను దానిని మాన్యువల్లో కనుగొనలేకపోయాను" అని చెప్పండి. గోప్యత: ప్రతిస్పందనలో వినియోగదారు భాగస్వామ్యం చేసిన క్రమ సంఖ్యను పునరావృతం చేయవద్దు.
శక్తివంతమైన వెర్షన్; ఇది పాత్ర, పరిధి, ఆకృతి, సరిహద్దులు మరియు గోప్యతను విడిగా నిర్ణయిస్తుంది. అవుట్పుట్ స్థిరత్వం ఈ స్పష్టత నుండి నేరుగా వస్తుంది.
మూడు మినీ కేసులు
కేస్ 1 - ప్రయత్నం సర్దుబాటు ద్వారా ఖర్చు తగ్గింపు. ఒక బృందం వారి అన్ని కాల్లను అధిక ప్రయత్నం + ఆలోచనతో అమలు చేస్తోంది; సాధారణ ఇమెయిల్ డైజెస్ట్లు కూడా ఖరీదైనవి మరియు ఉత్పత్తి చేయడంలో నెమ్మదిగా ఉన్నాయి. వారు తక్కువ ప్రయత్నానికి సారాంశాలు మరియు అధిక ప్రయత్నానికి ఒప్పంద విశ్లేషణ వంటి సాధారణ పనులను కేటాయించారు. ఖచ్చితత్వం నిర్వహించబడింది, సగటు జాప్యం సగానికి తగ్గించబడింది మరియు నెలవారీ ఖర్చు మూడవ వంతు తగ్గించబడింది.
కేసు 2 — JSON హామీ. "కేవలం JSON ఇవ్వండి" అని ఒక ప్రాంప్ట్తో వర్గీకరణ అవుట్పుట్ కోసం ఒక కార్యాచరణ బృందం కోరింది, కానీ మోడల్ అప్పుడప్పుడు "ఇదిగో ఫలితం:" అని వ్రాసి పార్సర్ క్రాష్ అవుతుంది. నేను కాన్ఫిగర్ చేసిన అవుట్పుట్ స్కీమాను కనెక్ట్ చేసినప్పుడు, అవుట్పుట్ ప్రతిసారీ చెల్లుబాటు అయ్యే JSONని అందిస్తుంది; పార్సింగ్ లోపాలు రీసెట్ చేయబడ్డాయి.
కేస్ 3 - ఉగ్రమైన ప్రాంప్ట్ రీకోయిల్. అసిస్టెంట్ ప్రాంప్ట్, "ప్రతి ప్రశ్న కోసం తప్పక శోధించాలి"; మోడల్ ఇప్పటికే సమాధానం తెలిసిన సాధారణ ప్రశ్నల కోసం కూడా అనవసరమైన శోధనలు చేసింది, మందగించడం మరియు ఖర్చులను పెంచుతుంది. వారు "సమాధానం సందర్భంలో లేకపోతే, శోధించండి" అనే నియమాన్ని సడలించారు; అనవసరమైన కాల్లు 70% తగ్గాయి మరియు ప్రతిస్పందనలు వేగవంతం అయ్యాయి.
సాధారణ తప్పులు
- సిస్టమ్ ప్రాంప్ట్లో వేరియబుల్ డేటాను పొందుపరచడం: స్థిరత్వాన్ని విచ్ఛిన్నం చేస్తుంది మరియు కాష్ చెల్లదు.
- మితిమీరిన దూకుడు సూచన: ఆధునిక మోడళ్లలో అధిక ట్రిగ్గరింగ్ మరియు అనవసరమైన ఖర్చు.
- ప్రతి పనిలో అధిక శ్రమ: సాధారణ పనులలో వ్యర్థం; పనికి ప్రయత్నాన్ని సర్దుబాటు చేయండి.
- ప్రాంప్ట్ ద్వారా మాత్రమే JSONని అభ్యర్థిస్తోంది: ఇది అప్పుడప్పుడు విరిగిపోతుంది; క్లిష్టమైనది అయితే, నిర్మాణాత్మక అవుట్పుట్ని ఉపయోగించండి.
- సరిహద్దు/అస్పష్టత ప్రవర్తనను నిర్వచించడం లేదు: మోడల్ కల్పన (భ్రాంతి)తో అంతరాన్ని నింపుతుంది.
- పాత `ఉష్ణోగ్రత` అలవాటు: ఆధునిక నమూనాలు దీనిని అంగీకరించవు; తక్షణం మరియు ప్రయత్నంతో ప్రవర్తనను గైడ్ చేయండి.
లోతుగా: కాంట్రాక్ట్ లాగా ప్రాంప్ట్ రాయడం
అనుభవజ్ఞులైన బృందాలు సిస్టమ్ ప్రాంప్ట్ను ఒక ఒప్పందం వలె పరిగణిస్తాయి, సాహిత్య గ్రంథం కాదు: స్పష్టమైన నిబంధనలు, కొలవగల నియమాలు, స్పష్టమైన సరిహద్దులు. ఈ విధానం మూడు నిర్దిష్ట ప్రయోజనాలను కలిగి ఉంది. మొదటిది స్థిరత్వం: ఒకే ఇన్పుట్ వేర్వేరు సమయాల్లో ఒకే విధమైన అవుట్పుట్ను ఇస్తుంది. రెండవది టెస్టబిలిటీ: మీరు ప్రతి అంశాన్ని విడిగా నమూనాతో పరీక్షించవచ్చు. మూడవది నిర్వహణ సౌలభ్యం: ప్రవర్తన తప్పుగా ఉంటే, ఏ అంశాన్ని భర్తీ చేయాలో మీకు తెలుసు.
సానుకూల ఉదాహరణలతో నడిపించడం మంచి అభ్యాసం. "దీన్ని చేయవద్దు" అనే జాబితాను అందించడం కంటే, ఆధునిక మోడల్లలో "ఇదే కావాల్సిన అవుట్పుట్ కనిపిస్తుంది" అని చెప్పే ఉదాహరణను అందించడం చాలా ప్రభావవంతంగా ఉంటుంది. ఉదాహరణకు, వర్గీకరణదారులో, ఆశించిన JSON యొక్క ఒకటి లేదా రెండు నమూనాలను ప్రాంప్ట్కు జోడించడం వలన ఫార్మాటింగ్ లోపాలను గణనీయంగా తగ్గిస్తుంది.
అనిశ్చితి ప్రవర్తనను స్పష్టంగా వ్రాయడం మరొక శక్తివంతమైన సాంకేతికత. "ఖచ్చితంగా తెలియకపోతే, ఊహించవద్దు; 'సరిపడని డేటా' అని చెప్పండి" వంటి నిబంధన, ఫాబ్రికేషన్ (భ్రాంతి)తో ఖాళీని పూరించడానికి మోడల్ యొక్క ధోరణిని అణిచివేస్తుంది. ఈ ఒక్క వాక్యం వెరిఫికేషన్ లేయర్ను ఆఫ్లోడ్ చేస్తుంది, దీనిని మేము యూనిట్ 11లో కవర్ చేస్తాము: మోడల్ ఇప్పటికే అనిశ్చితిని ఫ్లాగ్ చేసిన తర్వాత, మానవ ధ్రువీకరణకు దారితీయడం సులభం అవుతుంది.
చివరగా, కృషిని పరిగణించండి మరియు కలిసి ప్రాంప్ట్ చేయండి. అధిక ప్రయత్నంతో, మోడల్ మరింత అన్వేషిస్తుంది మరియు కొన్నిసార్లు అవాంఛిత "అదనపు పని" (అనవసర వివరణ, అదనపు సూచన) చేస్తుంది. ప్రాంప్ట్లో "కావలసిన అవుట్పుట్ను మాత్రమే ఇవ్వండి, అదనపు కామెంట్లను జోడించవద్దు" అని చెప్పడం అధిక ప్రయత్నం యొక్క ఈ దుష్ప్రభావాన్ని భర్తీ చేస్తుంది.
సారాంశంలో
సిస్టమ్ ప్రాంప్ట్ అనేది మోడల్ యొక్క శాశ్వత నిర్దేశకం: ఇది పాత్ర, పరిధి, ఆకృతి, అస్పష్ట ప్రవర్తన మరియు గోప్యతను నిర్వచిస్తుంది. ఆధునిక నమూనాలలో, ప్రవర్తన ఉష్ణోగ్రత కంటే అనుకూల ఆలోచన మరియు కృషి పారామితుల ద్వారా నడపబడుతుంది; పనికి ప్రయత్నాన్ని సమలేఖనం చేయడం నాణ్యత మరియు ఖర్చును ఏకకాలంలో నిర్వహిస్తుంది. మీరు max_tokens, స్టాప్ శ్రేణులు మరియు నిర్మాణాత్మక అవుట్పుట్తో అవుట్పుట్ను సురక్షితం చేస్తారు.
అప్లికేషన్ టాస్క్
ఒక పనిని ఎంచుకోండి. (1) ఐదు భాగాలతో (పాత్ర, పరిధి, ఆకృతి, అస్పష్టత, గోప్యత) సిస్టమ్ ప్రాంప్ట్ను వ్రాయండి. (2) ఈ పని కోసం మీరు ఏ స్థాయి ప్రయత్నాన్ని ఎంచుకుంటారు మరియు ఎందుకు ఎంచుకోవాలి. (3) అవుట్పుట్ నిర్మాణాత్మకంగా ఉంటే, చిన్న JSON స్కీమాను గీయండి. (4) మీ ప్రాంప్ట్లో మితిమీరిన దూకుడు నమూనా ఉందో లేదో తనిఖీ చేయండి మరియు దానిని మృదువుగా చేయండి.
చెక్లిస్ట్
- [ ] నేను మంచి సిస్టమ్ ప్రాంప్ట్ యొక్క ఐదు భాగాలను పేర్కొనగలను.
- [ ] అనుకూల ఆలోచన మరియు కృషి పారామితులు ఏమి చేస్తాయో నేను వివరించగలను.
- [ ] నేను విధికి అనుగుణంగా ప్రయత్నాన్ని సర్దుబాటు చేయడం ద్వారా నాణ్యత/వ్యయాన్ని సమతుల్యం చేయగలను.
- [ ] ప్రాంప్ట్ ద్వారా JSONని అభ్యర్థించడం కంటే నిర్మాణాత్మక అవుట్పుట్ ఎందుకు సురక్షితమో నాకు తెలుసు.
- [ ] నేను మితిమీరిన దూకుడు సూచనల యొక్క ఆధునిక నమూనాలలో ప్రమాదాన్ని గుర్తించగలను.