एकाइ 4 / 11

प्रणाली प्रम्प्ट र मोडेल प्यारामिटरहरू

लाभ:

  • प्रणाली प्रम्प्टले सम्पूर्ण कुराकानी मार्फत मोडेललाई कसरी मार्गदर्शन गर्दछ डिजाइन गर्न सक्छ
  • अनुकूलन सोच र प्रयास मापदण्डहरूको भूमिका र लागत प्रभाव बुझ्छ
  • max_tokens, stop sequences, र संरचित आउटपुट जस्ता आउटपुट नियन्त्रणहरू लागू गर्दछ

एउटै मोडेलका दुई फरक उत्पादनहरू पूर्ण रूपमा फरक व्यवहार गर्न सक्छन्। भिन्नता मोडेलमा होइन, तर प्रणाली प्रम्प्ट र यसलाई दिइएको प्यारामिटरहरूमा। प्रणाली प्रम्प्ट मोडेलको "कार्य सम्झौता" हो र प्यारामिटरहरू "कार्य सेटिङहरू" हुन्। यस एकाइमा, तपाईंले शक्तिशाली प्रणाली प्रम्प्ट कसरी डिजाइन गर्ने, आधुनिक मोडेलहरूमा सोच र प्रयास सेटिङहरूले के गर्छ, र ढाँचा/लम्बाइको लागि आउटपुट कसरी नियन्त्रण गर्ने भनेर सिक्नुहुनेछ। यी सेटिङहरू सही रूपमा सेट गर्नाले तपाईंलाई एकै समयमा गुणस्तर र लागत दुवै व्यवस्थापन गर्न अनुमति दिन्छ।

प्रणाली प्रम्प्ट: मोडेलको स्थायी निर्देशन

प्रणाली प्रम्प्ट उच्च-स्तरको निर्देशन हो जुन सम्पूर्ण कुराकानीमा लागू हुन्छ। यी नियमहरू मान्य रहन्छन् कुनै फरक पर्दैन प्रयोगकर्ता प्रकार। राम्रो प्रणाली प्रम्प्टले निम्न घटकहरू समावेश गर्दछ:

  1. भूमिका/पहिचान: मोडेल को हो? ("तपाई एक कर्पोरेट समर्थन सहायक हुनुहुन्छ।")
  2. दायरा र सीमा: यसले के गर्छ र के गर्दैन? ("प्रदान गरिएको नीतिगत कागजातमा मात्र आधारित।")
  3. ढाँचा नियमहरू: आउटपुट कस्तो हुनुपर्छ? ("अधिकतम 3 लेख, आधिकारिक भाषा।")
  4. अनिश्चिततामा व्यवहार: अनिश्चित हुँदा के गर्छ? ("यदि त्यहाँ कुनै जानकारी छैन भने, यसलाई बनाउनुहोस्, यसलाई सम्बन्धित इकाईमा निर्देशित गर्नुहोस्।")
  5. सुरक्षा/गोपनीयता: के चाहँदैन/गर्दैन? ("व्यक्तिगत डेटा अनुरोध गर्नुहोस्।")
सुझाव: प्रणाली प्रम्प्ट निश्चित राख्नुहोस्। प्रत्येक अनुरोध (हालको मिति, प्रयोगकर्ता नाम, सत्र ID) सँग परिवर्तन हुने जानकारी इम्बेड नगर्नुहोस्। यसले दुवै स्थिरता तोड्छ र एकाइ 6 मा प्रम्प्ट क्यास अमान्य बनाउँछ। प्रयोगकर्ता सन्देशमा चर जानकारी राख्नुहोस्।

अति आक्रामक निर्देशन जाल

आधुनिक मोडेलहरूले निर्देशनहरू धेरै नजिकबाट पछ्याउँछन्। आक्रामक वाक्यांशहरू जस्तै "अवश्य", "सधैं", "निश्चित रूपमा यो गर्नुहोस्", आदि, जुन पुरानो मोडेलहरूमा काम गर्दथ्यो, आज ओभरट्रिगरिङ्ग निम्त्याउँछ: मोडेलले एजेन्टलाई कल गर्छ जब यो आवश्यक छैन वा अनावश्यक रूपमा लामो समयसम्म चल्छ। नियमलाई नरम पार्नुहोस्: "खोज उपकरण प्रयोग गर्नुपर्छ" को सट्टा, "उत्तर कुराकानीमा छैन भने, खोज उपकरण प्रयोग गर्नुहोस्" अधिक सटीक छ।

मोडेल प्यारामिटरहरू: विचार र प्रयास

शास्त्रीय LLM को तापमान मापदण्ड थियो: कम मूल्यले अधिक विशिष्ट/सतत आउटपुट उत्पादन गर्यो, उच्च मूल्यले थप विविध/सृजनात्मक आउटपुट उत्पादन गर्यो। आधुनिक पुस्ताका मोडेलहरू (जस्तै Opus 4.8, Sonnet 5) ले यस दृष्टिकोणलाई दुई थप शक्तिशाली मेकानिजमहरूद्वारा प्रतिस्थापन गर्दछ र अब उप्रान्त तापमान जस्ता नमूना मापदण्डहरू स्वीकार गर्दैन।

  • अनुकूली सोच: मोडेलले प्रतिक्रिया दिनु अघि यसको "हेड" मा चरणबद्ध कारणहरू। मोडेलले कार्यको कठिनाईको आधारमा कति सोच्ने निर्णय गर्दछ। महत्त्वपूर्ण रूपमा जटिल, बहु-चरण समस्याहरूमा शुद्धता सुधार गर्दछ; साधारण प्रश्नहरूमा अनावश्यक ढिलाइबाट बच्न उनी कम सोच्छन्।
  • प्रयास: मोडेलले कार्यमा कति गहिरो डुब्छ र कुल कति टोकन खर्च गर्छ समायोजन गर्ने उच्च-स्तरको नब। सामान्य स्तरहरू: निम्न, मध्यम, उच्च र माथि। उच्च प्रयासले गुणस्तर सुधार गर्न सक्छ, तर यसले ढिलाइ र लागत पनि बढाउँछ; कम प्रयासले गति र बचत ल्याउँछ।

सेटिङ

के गर्छ

कहिले

सोचाइ बन्द/कम प्रयास

छिटो, सस्तो, सतही

सरल वर्गीकरण, छोटो प्रतिक्रिया, ढिलाइ संवेदनशील कार्यहरू

अनुकूली सोच + मध्यम प्रयास

सन्तुलित गुणस्तर/लागत

धेरै सामान्य उद्देश्य कार्यहरू

अनुकूलन सोच + उच्च प्रयास

उच्चतम शुद्धता

जटिल तर्क, कोडिङ, लामो दायरा एजेन्ट काम

सावधानी: "अधिकतम प्रयास जे भए पनि" रिफ्लेक्सले लागत बढाउँछ। कार्यमा प्रयास समायोजन गर्नुहोस्; साधारण कार्यहरूमा, कम प्रयासले प्रायः धेरै सस्तो मूल्यमा उही सही परिणाम दिन्छ। उच्च जानुहोस् जहाँ महत्वपूर्ण सटीकता आवश्यक छ।

आउटपुट नियन्त्रण: ढाँचा, लम्बाइ, संरचना

प्यारामिटरहरू बाहेक, तपाईंले आउटपुटलाई पनि नियन्त्रण गर्नुहुन्छ:

  • max_tokens: आउटपुटको कडा छत (पहिलो र तेस्रो एकाई)।
  • क्रम रोक्नुहोस्: मोडेल रोक्दै जब यसले निश्चित स्ट्रिङ देख्छ। संरचित उत्पादनमा ब्रेकपोइन्टहरू सेट गर्नका लागि उपयोगी।
  • संरचित आउटपुट: तपाईंले प्रदान गर्नुभएको JSON स्किमा अनुरूप मोडेलको प्रतिक्रियालाई जबरजस्ती गर्नुहोस्। यसले सुनिश्चित गर्दछ कि आउटपुट प्रोग्रामैटिक रूपमा पार्सेबल र मान्य छ। यो प्रोम्प्टको साथ "केवल JSON फर्काउनुहोस्" भन्नु भन्दा बढी भरपर्दो छ।

{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "वस्तु", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["इनभ्वाइस", "प्राविधिक", "returncy": "returnty"}", "returncy"} "स्ट्रिङ", "एनम": ["कम", "मध्यम", "उच्च"] } }, "आवश्यक": ["श्रेणी", "अत्यावश्यक"] } }}

प्रतिलिपि गर्न मिल्ने प्रणाली प्रम्प्ट टेम्प्लेटहरू

# कर्पोरेट समर्थन सहायक तपाईं एक कर्पोरेट समर्थन सहायक हुनुहुन्छ।- प्रदान गरिएको नीति कागजातमा मात्र भर पर्नुहोस्; यदि यो कागजातमा छैन भने, "मसँग यो जानकारी छैन" भन्नुहोस्। - अधिकतम 3 वाक्यमा औपचारिक र स्पष्ट जवाफ दिनुहोस्। - व्यक्तिगत डेटा (TC आईडी नम्बर, कार्ड नम्बर) को लागी सोध्नुहोस् र आफ्नो जवाफ मा दोहोर्याउनुहोस्। - यदि तपाइँ निश्चित हुनुहुन्न भने, अनुमान नगर्नुहोस्।

# स्ट्रक्चर्ड आउटपुट फोर्सिङ क्लासिफायर तपाईं डिमांड क्लासिफायर हुनुहुन्छ। इनपुट एक ग्राहक सन्देश हो। अनुरोध गरिएका क्षेत्रहरू मात्र फर्काउनुहोस्, टिप्पणीहरू नलेख्नुहोस्। यदि तपाईं निश्चित हुनुहुन्न भने, "अन्य" प्रयोग गर्नुहोस्।

# अनिश्चितता मा उभिएको परिभाषित व्यवहार संग विश्लेषक तपाईं एक डाटा विश्लेषक हुनुहुन्छ। प्रदान गरिएको तालिकाबाट मात्र प्रमाणिक निष्कर्षहरू कोर्नुहोस्। डाटामा अवस्थित नभएको निष्कर्ष कहिल्यै नबनाउनुहोस्। यदि एक अनुमान अस्पष्ट छ भने, "डेटा अपर्याप्त" लेख्नुहोस्।

# टोन र लम्बाइ नियन्त्रणको साथ सामग्री लेखक तपाईं सामग्री लेखक हुनुहुन्छ। न्यानो तर व्यावसायिक टोन प्रयोग गर्नुहोस्। प्रत्येक पाठलाई 120 वा कम शब्दहरूमा सीमित गर्नुहोस्। क्लिच मार्केटिङ भाषाबाट बच्नुहोस्।

कमजोर प्रम्प्ट / बलियो प्रम्प्ट

# WEAK सहयोगी हुनुहोस् र राम्रो जवाफ दिनुहोस्। सक्दो गर्नुहोस्।

# STRONGभूमिका: प्राविधिक सहयोग विशेषज्ञ। दायरा: उत्पादन गाइड मात्र प्रदान गरियो। ढाँचा: चरण-दर-चरण, नम्बर गरिएको सूची, अधिकतम 5 चरणहरू। सीमा: गाइडमा होइन समाधान सिफारिस गर्नुहोस्; भन्नुहोस् "मैले यसलाई म्यानुअलमा फेला पार्न सकेन।" गोपनीयता: प्रतिक्रियामा प्रयोगकर्ता द्वारा साझा गरिएको क्रम संख्या दोहोर्याउनुहोस्।

शक्तिशाली संस्करण; यसले भूमिका, दायरा, ढाँचा, सीमा र गोपनीयता छुट्टै निर्धारण गर्दछ। आउटपुट स्थिरता यस स्पष्टताबाट सीधै आउँछ।

तीन मिनी केसहरू

केस 1 - प्रयास समायोजन मार्फत लागत कटौती। एउटा टोलीले आफ्ना सबै कलहरू उच्च प्रयास + सोचमा चलिरहेको थियो; साधारण इमेल डाइजेस्ट पनि महँगो र उत्पादन गर्न ढिलो थियो। तिनीहरूले कम प्रयासमा सारांश र उच्च प्रयासमा अनुबंध विश्लेषण जस्ता सरल कार्यहरू तोकेका छन्। शुद्धता कायम राखिएको थियो, औसत विलम्बता आधा थियो, र मासिक लागत एक तिहाइले घटाइयो।

केस २ - JSON ग्यारेन्टी। एक अपरेसन टोलीले "केवल JSON दिनुहोस्" भनी प्रम्प्टको साथ वर्गीकरण आउटपुटको लागि सोध्यो, तर मोडेलले कहिलेकाहीं "यहाँ नतिजा छ:" लेख्नेछ र पार्सर क्र्यास हुनेछ। जब मैले कन्फिगर गरिएको आउटपुट स्किमा जडान गरें, आउटपुटले प्रत्येक पटक मान्य JSON फिर्ता गर्यो; पार्सिङ त्रुटिहरू रिसेट गरिएको छ।

केस 3 - आक्रामक प्रम्प्ट रिकोइल। एक सहायक प्रम्प्टले भन्यो, "हरेक प्रश्नको खोजी गर्नुपर्छ"; मोडेलले साधारण प्रश्नहरूको लागि पनि अनावश्यक खोजहरू गर्‍यो जसको जवाफ पहिले नै थाहा थियो, ढिलो हुँदै र लागत बढ्यो। तिनीहरूले "यदि जवाफ सन्दर्भमा छैन भने, खोज" को नियमलाई आराम दिए; अनावश्यक कलहरू 70% ले घट्यो र प्रतिक्रियाहरू द्रुत भयो।

सामान्य गल्तीहरू

  • प्रणाली प्रम्प्टमा भेरिएबल डाटा इम्बेड गर्दै: स्थिरता तोड्छ र क्यास अवैध बनाउँछ।
  • अत्यधिक आक्रामक निर्देशन: आधुनिक मोडेलहरूमा अत्यधिक ट्रिगर र अनावश्यक लागत।
  • प्रत्येक कार्यमा उच्च प्रयास: साधारण कार्यहरूमा बर्बाद; कार्यमा प्रयास समायोजन गर्नुहोस्।
  • JSON लाई केवल प्रम्प्ट मार्फत अनुरोध गर्दै: यो कहिले काँही टुट्छ; यदि महत्वपूर्ण छ भने, संरचित आउटपुट प्रयोग गर्नुहोस्।
  • सीमा/अस्पष्ट व्यवहार परिभाषित गर्दैन: मोडेलले निर्माण (भ्रम) को साथ खाली ठाउँ भर्छ।
  • पुरानो 'तापमान' बानी: आधुनिक मोडेलहरूले यसलाई स्वीकार गर्दैनन्; द्रुत र प्रयासको साथ व्यवहारलाई मार्गदर्शन गर्नुहोस्।

गहिरो: एक सम्झौता जस्तै प्रोम्प्ट लेख्दै

अनुभवी टोलीहरूले प्रणाली प्रम्प्टलाई सम्झौताको रूपमा व्यवहार गर्छन्, साहित्यिक पाठ होइन: स्पष्ट खण्डहरू, मापनयोग्य नियमहरू, स्पष्ट सीमाहरू। यो दृष्टिकोण तीन ठोस लाभहरू छन्। पहिलो स्थिरता हो: एउटै इनपुटले विभिन्न समयमा समान आउटपुट दिन्छ। दोस्रो परीक्षण योग्यता हो: तपाईले प्रत्येक वस्तुलाई नमूनाको साथ छुट्टै परीक्षण गर्न सक्नुहुन्छ। तेस्रो मर्मतको सहजता हो: यदि एक व्यवहार गलत छ भने, तपाईलाई थाहा छ कुन वस्तु बदल्ने।

एक राम्रो अभ्यास सकारात्मक उदाहरण संग नेतृत्व छ। "यस नगर्नुहोस्" को सूची प्रदान गर्नुको सट्टा आधुनिक मोडेलहरूमा "वांछित आउटपुट जस्तो देखिन्छ" भन्ने उदाहरण प्रदान गर्न यो धेरै प्रभावकारी छ। उदाहरणका लागि, क्लासिफायरमा, प्रम्प्टमा अपेक्षित JSON को एक वा दुईवटा नमूनाहरू थप्दा ढाँचा त्रुटिहरू उल्लेखनीय रूपमा कम हुन्छ।

अर्को शक्तिशाली प्रविधि भनेको अनिश्चितता व्यवहारलाई स्पष्ट रूपमा लेख्नु हो। "यदि अनिश्चित छ भने, अनुमान नगर्नुहोस्; भन्नुहोस् 'अपर्याप्त डाटा'" जस्ता खण्डले बनावट (भ्रम) को साथ खाली ठाउँ भर्ने मोडेलको प्रवृत्तिलाई दबाउँछ। यो एकल वाक्यले प्रमाणिकरण तहलाई अफलोड गर्छ, जसलाई हामी एकाइ ११ मा कभर गर्नेछौं: एकपटक मोडेलले अनिश्चिततालाई झण्डा लगाएपछि, मानव प्रमाणीकरणमा लैजान सजिलो हुन्छ।

अन्तमा, प्रयासलाई विचार गर्नुहोस् र सँगै प्रम्प्ट गर्नुहोस्। उच्च प्रयासमा, मोडेलले थप अन्वेषण गर्छ र कहिलेकाहीँ अनावश्यक "अतिरिक्त काम" (अनावश्यक व्याख्या, अतिरिक्त सुझाव) गर्छ। प्रम्प्टमा "वांछित आउटपुट मात्र दिनुहोस्, थप टिप्पणीहरू नदिनुहोस्" भनी उच्च प्रयासको यो साइड इफेक्ट अफसेट गर्दछ।

संक्षेपमा

प्रणाली प्रम्प्ट मोडेलको स्थायी निर्देशन हो: यसले भूमिका, दायरा, ढाँचा, अस्पष्ट व्यवहार, र गोपनीयता परिभाषित गर्दछ। आधुनिक मोडेलहरूमा, व्यवहार तापमानको सट्टा अनुकूलन सोच र प्रयास मापदण्डहरू द्वारा संचालित हुन्छ; कार्यमा पङ्क्तिबद्ध प्रयासले गुणस्तर र लागत एकै साथ प्रबन्ध गर्दछ। तपाईले max_tokens, स्टप एरे, र संरचित आउटपुटको साथ आउटपुट सुरक्षित गर्नुहुन्छ।

आवेदन कार्य

एउटा कार्य छान्नुहोस्। (1) पाँच घटकहरू (भूमिका, दायरा, ढाँचा, अस्पष्टता, गोपनीयता) संग प्रणाली प्रम्प्ट लेख्नुहोस्। (२) यो कार्यको लागि तपाईले कुन स्तरको प्रयास रोज्नुहुन्छ र किन। (3) यदि आउटपुट संरचित हुनुपर्छ भने, एउटा सानो JSON स्कीमा स्केच गर्नुहोस्। (४) तपाईको प्रम्प्टमा अत्यधिक आक्रामक ढाँचा छ कि छैन जाँच गर्नुहोस् र यसलाई नरम गर्नुहोस्।

चेकलिस्ट

  • [ ] म राम्रो प्रणाली प्रम्प्टको पाँच भागहरू नाम दिन सक्छु।
  • [ ] म अनुकूलन सोच र प्रयास मापदण्डहरूले के गर्छ भनेर व्याख्या गर्न सक्छु।
  • [ ] म कार्य अनुसार प्रयास समायोजन गरेर गुणस्तर / लागत सन्तुलन गर्न सक्छु।
  • [ ] मलाई थाहा छ किन संरचित आउटपुट प्रम्प्ट मार्फत JSON अनुरोध गर्नु भन्दा सुरक्षित छ।
  • [ ] म अत्यधिक आक्रामक निर्देशनहरूको आधुनिक मोडेलहरूमा जोखिम पहिचान गर्न सक्छु।