சிஸ்டம் ப்ராம்ட் மற்றும் மாடல் அளவுருக்கள்

ஆதாயங்கள்:

• சிஸ்டம் ப்ராம்ட் எப்படி முழு உரையாடல் மூலம் மாதிரியை வழிநடத்துகிறது என்பதை வடிவமைக்க முடியும்
• தகவமைப்பு சிந்தனை மற்றும் முயற்சி அளவுருக்களின் பங்கு மற்றும் செலவு தாக்கத்தை புரிந்துகொள்கிறது
• max_tokens, stop sequences மற்றும் கட்டமைக்கப்பட்ட வெளியீடு போன்ற வெளியீடு கட்டுப்பாடுகளை செயல்படுத்துகிறது

ஒரே மாதிரியின் இரண்டு வெவ்வேறு தயாரிப்புகள் முற்றிலும் வித்தியாசமாக செயல்படலாம். வித்தியாசம் மாதிரியில் இல்லை, ஆனால் கணினி வரியில் மற்றும் அதற்கு கொடுக்கப்பட்ட அளவுருக்கள். சிஸ்டம் ப்ராம்ட் என்பது மாதிரியின் "வேலை ஒப்பந்தம்" மற்றும் அளவுருக்கள் "வேலை அமைப்புகள்" ஆகும். இந்த யூனிட்டில், சக்திவாய்ந்த சிஸ்டம் ப்ராம்ட்டை எப்படி வடிவமைப்பது, நவீன மாடல்களில் உள்ள சிந்தனை மற்றும் முயற்சி அமைப்புகள் என்ன செய்கின்றன, வடிவம்/நீளத்திற்கான வெளியீட்டை எவ்வாறு கட்டுப்படுத்துவது என்பதை நீங்கள் கற்றுக் கொள்வீர்கள். இந்த அமைப்புகளை சரியாக அமைப்பதன் மூலம் தரம் மற்றும் செலவு இரண்டையும் ஒரே நேரத்தில் நிர்வகிக்க முடியும்.

சிஸ்டம் ப்ராம்ட்: மாதிரியின் நிரந்தர உத்தரவு

சிஸ்டம் ப்ராம்ட் என்பது முழு உரையாடல் முழுவதும் பொருந்தும் உயர்நிலை அறிவுறுத்தலாகும். இந்த விதிகள் எந்த பயனர் வகைகளாக இருந்தாலும் செல்லுபடியாகும். ஒரு நல்ல கணினி வரியில் பின்வரும் கூறுகள் உள்ளன:

1. பங்கு/அடையாளம்: மாடல் யார்? ("நீங்கள் ஒரு பெருநிறுவன உதவி உதவியாளர்.")
2. நோக்கம் மற்றும் எல்லை: அது என்ன செய்கிறது மற்றும் என்ன செய்யாது? ("வழங்கப்பட்ட கொள்கை ஆவணத்தின் அடிப்படையில் மட்டுமே.")
3. வடிவமைப்பு விதிகள்: வெளியீடு எப்படி இருக்க வேண்டும்? ("அதிகபட்சம் 3 கட்டுரைகள், அதிகாரப்பூர்வ மொழி.")
4. நிச்சயமற்ற நடத்தை: நிச்சயமற்ற நிலையில் ஒருவர் என்ன செய்வார்? ("தகவல் இல்லை என்றால், அதை உருவாக்கவும், அதை தொடர்புடைய அலகுக்கு அனுப்பவும்.")
5. பாதுகாப்பு/தனியுரிமை: எது வேண்டாம்/விருப்பதில்லை? ("தனிப்பட்ட தரவைக் கோரவும்.")

உதவிக்குறிப்பு: சிஸ்டம் ப்ராம்ட்டை நிலையாக வைத்திருங்கள். ஒவ்வொரு கோரிக்கையிலும் (தற்போதைய தேதி, பயனர் பெயர், அமர்வு ஐடி) மாறும் தகவலை உட்பொதிக்க வேண்டாம். இவை இரண்டும் நிலைத்தன்மையை உடைத்து, யூனிட் 6ல் உள்ள ப்ராம்ட் கேச் செல்லாததாக்குகிறது. பயனர் செய்தியில் மாறி தகவலை வைக்கவும்.

அதிகப்படியான ஆக்ரோஷமான அறிவுறுத்தல் பொறி

நவீன மாதிரிகள் அறிவுறுத்தல்களை மிக நெருக்கமாக பின்பற்றுகின்றன. பழைய மாடல்களில் வேலை செய்த "கட்டாயம்", "எப்போதும்", "நிச்சயமாக இதைச் செய்யுங்கள்" போன்ற ஆக்ரோஷமான சொற்றொடர்கள் இன்று மிகைப்படுத்தலுக்கு இட்டுச் செல்கின்றன: மாடல் தேவையில்லாத போது அல்லது தேவையில்லாமல் நீண்ட நேரம் இயங்கும் போது ஒரு முகவரை அழைக்கிறது. விதியை மென்மையாக்குங்கள்: "தேடல் கருவியைப் பயன்படுத்த வேண்டும்" என்பதற்குப் பதிலாக, "உரையாடலில் பதில் இல்லை என்றால், தேடல் கருவியைப் பயன்படுத்தவும்" என்பது மிகவும் துல்லியமானது.

மாதிரி அளவுருக்கள்: சிந்தனை மற்றும் முயற்சி

கிளாசிக்கல் எல்எல்எம்கள் வெப்பநிலை அளவுருவைக் கொண்டிருந்தன: குறைந்த மதிப்பு அதிக குறிப்பிட்ட/நிலையான வெளியீட்டை உருவாக்கியது, அதிக மதிப்பு அதிக மாறுபட்ட/ஆக்கப்பூர்வமான வெளியீட்டை உருவாக்கியது. நவீன தலைமுறை மாதிரிகள் (ஓபஸ் 4.8, சோனட் 5 போன்றவை) இந்த அணுகுமுறையை இரண்டு சக்திவாய்ந்த வழிமுறைகளுடன் மாற்றுகின்றன, மேலும் வெப்பநிலை போன்ற மாதிரி அளவுருக்களை இனி ஏற்காது.

• தகவமைப்பு சிந்தனை: பதிலளிப்பதற்கு முன் மாதிரி காரணங்கள் அதன் "தலையில்" படிப்படியாக. பணியின் சிரமத்தைப் பொறுத்து எவ்வளவு சிந்திக்க வேண்டும் என்பதை மாதிரி தீர்மானிக்கிறது. சிக்கலான, பல-படி சிக்கல்களில் துல்லியத்தை கணிசமாக மேம்படுத்துகிறது; எளிமையான கேள்விகளில் தேவையற்ற தாமதங்களைத் தவிர்க்க அவர் குறைவாகவே சிந்திக்கிறார்.
• முயற்சி: ஒரு பணியில் மாடல் எவ்வளவு ஆழமாகச் செல்கிறது மற்றும் மொத்தமாக எத்தனை டோக்கன்களைச் செலவிடுகிறது என்பதைச் சரிசெய்யும் உயர்-நிலை குமிழ். வழக்கமான நிலைகள்: குறைந்த, நடுத்தர, உயர் மற்றும் மேல். அதிக முயற்சி தரத்தை மேம்படுத்தலாம், ஆனால் அது தாமதத்தையும் செலவையும் அதிகரிக்கிறது; குறைந்த முயற்சி வேகத்தையும் சேமிப்பையும் தருகிறது.

அமைத்தல்

என்ன செய்கிறது

எப்போது

குறைந்த முயற்சி/சிந்தித்தல்

வேகமான, மலிவான, மேலோட்டமான

எளிய வகைப்பாடு, குறுகிய பதில், முக்கியமான பணிகளை தாமதப்படுத்துதல்

தகவமைப்பு சிந்தனை + நடுத்தர முயற்சி

சமநிலையான தரம்/செலவு

மிகவும் பொதுவான நோக்கத்திற்கான பணிகள்

தகவமைப்பு சிந்தனை + அதிக முயற்சி

மிக உயர்ந்த துல்லியம்

சிக்கலான பகுத்தறிவு, குறியீட்டு முறை, நீண்ட தூர முகவர் வேலை

எச்சரிக்கை: "அதிகபட்ச முயற்சி எதுவாக இருந்தாலும்" ரிஃப்ளெக்ஸ் செலவுகளை உயர்த்துகிறது. பணிக்கு முயற்சியை சரிசெய்யவும்; எளிமையான பணிகளில், குறைந்த முயற்சி பெரும்பாலும் மலிவான விலையில் அதே துல்லியமான முடிவை அளிக்கிறது. முக்கியமான துல்லியம் தேவைப்படும் இடத்தில் உயரத்திற்குச் செல்லவும்.

வெளியீட்டு கட்டுப்பாடு: வடிவம், நீளம், கட்டமைப்பு

அளவுருக்கள் தவிர, நீங்கள் வெளியீட்டையும் கட்டுப்படுத்துகிறீர்கள்:

• அதிகபட்ச_டோக்கன்கள்: வெளியீட்டின் கடினமான உச்சவரம்பு (1வது மற்றும் 3வது அலகு).
• ஸ்டோப் சீக்வென்ஸ்கள்: ஒரு குறிப்பிட்ட சரத்தைப் பார்க்கும்போது மாதிரியை நிறுத்துதல். கட்டமைக்கப்பட்ட உற்பத்தியில் பிரேக் பாயின்ட்களை அமைக்க பயனுள்ளதாக இருக்கும்.
• கட்டமைக்கப்பட்ட வெளியீடு: நீங்கள் வழங்கும் JSON திட்டத்திற்கு இணங்க மாதிரியின் பதிலை கட்டாயப்படுத்தவும். வெளியீடு நிரல் ரீதியாக பாகுபடுத்தக்கூடியது மற்றும் செல்லுபடியாகும் என்பதை இது உறுதி செய்கிறது. இது "JSON ஐத் திருப்பி அனுப்பு" என்று கூறுவதை விட நம்பகமானது.

{ "output_config": { "format": { "type": "json_schema", "schema": { "type": "object", "additionalProperties": false, "properties": { "category": { "type": "string", "enum": ["renical, "other "invoice"," "அவசரம்": { "வகை": "சரம்", "enum": ["குறைந்த", "நடுத்தர", "உயர்"] } }, "தேவை": ["வகை", "அவசரம்"] } }}

நகலெடுக்கக்கூடிய சிஸ்டம் ப்ராம்ட் டெம்ப்ளேட்கள்

# கார்ப்பரேட் சப்போர்ட் அசிஸ்டென்ட் நீங்கள் கார்ப்பரேட் சப்போர்ட் அசிஸ்டென்ட்.- வழங்கப்பட்ட பாலிசி ஆவணத்தை மட்டும் நம்புங்கள்; ஆவணத்தில் இல்லை என்றால், "இந்தத் தகவல் என்னிடம் இல்லை" என்று கூறுங்கள். - அதிகபட்சம் 3 வாக்கியங்களில் முறையான மற்றும் தெளிவான பதிலைக் கொடுங்கள். - தனிப்பட்ட தரவைக் கேளுங்கள் (TC ஐடி எண், கார்டு எண்) மற்றும் உங்கள் பதிலில் அதை மீண்டும் செய்ய வேண்டாம். - நீங்கள் உறுதியாக தெரியவில்லை என்றால், யூகிக்க வேண்டாம்.

# கட்டமைக்கப்பட்ட வெளியீடு கட்டாய வகைப்படுத்தி நீங்கள் ஒரு தேவை வகைப்படுத்தி. உள்ளீடு ஒரு வாடிக்கையாளர் செய்தி. கோரப்பட்ட புலங்களை மட்டும் திருப்பி அனுப்பவும், கருத்துகளை எழுத வேண்டாம். நீங்கள் உறுதியாக தெரியவில்லை என்றால், "மற்றவை" பயன்படுத்தவும்.

# நிச்சயமற்ற நிலையில் நிற்கும் வரையறுக்கப்பட்ட நடத்தை கொண்ட ஆய்வாளர் நீங்கள் ஒரு தரவு ஆய்வாளர். வழங்கப்பட்ட அட்டவணையில் இருந்து சரிபார்க்கக்கூடிய அனுமானங்களை மட்டும் வரையவும். தரவுகளில் இல்லாத ஒரு முடிவை ஒருபோதும் உருவாக்க வேண்டாம். ஒரு அனுமானம் தெளிவாக இல்லை என்றால், "தரவு போதுமானதாக இல்லை" என்று எழுதுங்கள்.

# தொனி மற்றும் நீளக் கட்டுப்பாட்டுடன் உள்ளடக்க எழுத்தாளர் நீங்கள் ஒரு உள்ளடக்க எழுத்தாளர். சூடான ஆனால் தொழில்முறை தொனியைப் பயன்படுத்தவும். ஒவ்வொரு உரையையும் 120 அல்லது அதற்கும் குறைவான வார்த்தைகளுக்கு வரம்பிடவும். க்ளிஷே மார்க்கெட்டிங் மொழியைத் தவிர்க்கவும்.

பலவீனமான வரியில் / வலுவான வரியில்

# பலவீனமாக இருங்கள் மற்றும் நல்ல பதில்களைக் கொடுங்கள். உங்களால் முடிந்ததைச் செய்யுங்கள்.

# வலிமையான பங்கு: தொழில்நுட்ப ஆதரவு நிபுணர். நோக்கம்: தயாரிப்பு வழிகாட்டி மட்டுமே வழங்கப்படுகிறது. வடிவம்: படி-படி-படி, எண்ணிடப்பட்ட பட்டியல், அதிகபட்சம் 5 படிகள். வரம்பு: தீர்வு வழிகாட்டியில் இல்லை; "என்னால் அதை கையேட்டில் கண்டுபிடிக்க முடியவில்லை" என்று கூறுங்கள். தனியுரிமை: பதிலில் பயனர் பகிர்ந்த வரிசை எண்ணை மீண்டும் செய்ய வேண்டாம்.

சக்திவாய்ந்த பதிப்பு; இது பங்கு, நோக்கம், வடிவம், எல்லைகள் மற்றும் ரகசியத்தன்மை ஆகியவற்றை தனித்தனியாக தீர்மானிக்கிறது. வெளியீட்டு நிலைத்தன்மை இந்த தெளிவிலிருந்து நேரடியாக வருகிறது.

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - முயற்சி சரிசெய்தல் மூலம் செலவு குறைப்பு. ஒரு குழு அவர்களின் அனைத்து அழைப்புகளையும் அதிக முயற்சி + சிந்தனையில் இயக்கியது; எளிய மின்னஞ்சல் செரிமானங்கள் கூட விலை உயர்ந்தவை மற்றும் உற்பத்தி செய்ய மெதுவாக இருந்தன. குறைந்த முயற்சிக்கு சுருக்கங்கள் மற்றும் அதிக முயற்சிக்கு ஒப்பந்த பகுப்பாய்வு போன்ற எளிய பணிகளை அவர்கள் ஒதுக்கினர். துல்லியம் பராமரிக்கப்பட்டது, சராசரி தாமதம் பாதியாக குறைக்கப்பட்டது மற்றும் மாதாந்திர செலவு மூன்றில் ஒரு பங்கு குறைக்கப்பட்டது.

வழக்கு 2 - JSON உத்தரவாதம். ஒரு செயல்பாட்டுக் குழு "JSON ஐ மட்டும் கொடுங்கள்" என்று ஒரு வரியில் வகைப்படுத்தல் வெளியீட்டைக் கேட்டது, ஆனால் மாடல் எப்போதாவது "இதோ முடிவு:" என்று எழுதும் மற்றும் பாகுபடுத்தி செயலிழக்கச் செய்யும். நான் கட்டமைக்கப்பட்ட வெளியீட்டுத் திட்டத்தை இணைக்கும்போது, ​​ஒவ்வொரு முறையும் சரியான JSON வெளியீடு வழங்கப்படுகிறது; பாகுபடுத்தும் பிழைகள் மீட்டமைக்கப்பட்டுள்ளன.

வழக்கு 3 - ஆக்கிரமிப்பு உடனடி பின்னடைவு. ஒரு உதவியாளர், "ஒவ்வொரு கேள்வியையும் தேட வேண்டும்" என்று கூறினார்; மாடல் தேவையற்ற தேடல்களைச் செய்தது, எளிய கேள்விகளுக்கான பதில்களை ஏற்கனவே அறிந்திருந்தது, வேகத்தை குறைத்து செலவுகளை அதிகரிக்கிறது. "சூழலில் பதில் இல்லை என்றால், தேடுங்கள்" என்று விதியை தளர்த்தினார்கள்; தேவையற்ற அழைப்புகள் 70% குறைந்து, பதில்கள் துரிதப்படுத்தப்பட்டன.

பொதுவான தவறுகள்

• கணினி வரியில் மாறி தரவை உட்பொதித்தல்: நிலைத்தன்மையை உடைத்து, தற்காலிக சேமிப்பை செல்லாததாக்கும்.
• அதிகப்படியான ஆக்கிரமிப்பு அறிவுறுத்தல்: நவீன மாடல்களில் அதிகப்படியான தூண்டுதல் மற்றும் தேவையற்ற செலவு.
• ஒவ்வொரு பணியிலும் அதிக முயற்சி: எளிய பணிகளில் விரயம்; பணிக்கு முயற்சியை சரிசெய்யவும்.
• உடனடி வழியாக மட்டுமே JSON ஐக் கோருகிறது: இது எப்போதாவது உடைகிறது; முக்கியமானதாக இருந்தால், கட்டமைக்கப்பட்ட வெளியீட்டைப் பயன்படுத்தவும்.
• எல்லை/தெளிவற்ற நடத்தையை வரையறுக்கவில்லை: மாதிரியானது புனைகதை (மாயத்தோற்றம்) மூலம் இடைவெளியை நிரப்புகிறது.
• பழைய `வெப்பநிலை` பழக்கம்: நவீன மாதிரிகள் இதை ஏற்கவில்லை; உடனடி மற்றும் முயற்சியுடன் நடத்தை வழிகாட்டவும்.

ஆழமான: ஒரு ஒப்பந்தம் போல் வரியில் எழுதுதல்

அனுபவம் வாய்ந்த குழுக்கள் கணினியை ஒரு ஒப்பந்தம் போல் கருதுகின்றன, இலக்கிய உரை அல்ல: தெளிவான உட்பிரிவுகள், அளவிடக்கூடிய விதிகள், தெளிவற்ற எல்லைகள். இந்த அணுகுமுறை மூன்று உறுதியான நன்மைகளைக் கொண்டுள்ளது. முதலாவது நிலைத்தன்மை: ஒரே உள்ளீடு வெவ்வேறு நேரங்களில் ஒரே மாதிரியான வெளியீட்டைக் கொடுக்கிறது. இரண்டாவது சோதனைத்திறன்: ஒவ்வொரு பொருளையும் தனித்தனியாக ஒரு மாதிரி மூலம் சோதிக்கலாம். மூன்றாவது பராமரிப்பின் எளிமை: நடத்தை தவறாக இருந்தால், எந்த உருப்படியை மாற்றுவது என்பது உங்களுக்குத் தெரியும்.

நேர்மறையான எடுத்துக்காட்டுகளுடன் வழிநடத்துவதே ஒரு நல்ல நடைமுறை. "இதைச் செய்யாதே" என்ற பட்டியலை வழங்குவதற்குப் பதிலாக, "விரும்பிய வெளியீடு இப்படித்தான் இருக்கும்" என்று ஒரு உதாரணத்தை வழங்குவது நவீன மாடல்களில் மிகவும் பயனுள்ளதாக இருக்கும். எடுத்துக்காட்டாக, வகைப்படுத்தியில், எதிர்பார்க்கப்படும் JSON இன் ஒன்று அல்லது இரண்டு மாதிரிகளை வரியில் சேர்ப்பது வடிவமைப்பு பிழைகளைக் கணிசமாகக் குறைக்கிறது.

நிச்சயமற்ற நடத்தையை வெளிப்படையாக எழுதுவது மற்றொரு சக்திவாய்ந்த நுட்பமாகும். "நிச்சயமில்லை என்றால், யூகிக்க வேண்டாம்; 'போதிய தரவு இல்லை' என்று கூறுங்கள்" போன்ற ஒரு உட்பிரிவு, மாதிரியின் வெற்றிடத்தை புனைகதை (மாயத்தோற்றம்) மூலம் நிரப்பும் போக்கை அடக்குகிறது. இந்த ஒற்றை வாக்கியம் சரிபார்ப்பு அடுக்கை ஏற்றுகிறது, அதை நாம் அலகு 11 இல் உள்ளடக்குவோம்: மாதிரி ஏற்கனவே நிச்சயமற்ற தன்மையைக் கொடியிட்டவுடன், மனித சரிபார்ப்புக்கு வழிவகுக்கும்.

இறுதியாக, முயற்சியைக் கருத்தில் கொண்டு, ஒன்றாகச் சொல்லுங்கள். அதிக முயற்சியில், மாடல் அதிகமாக ஆராய்கிறது மற்றும் சில நேரங்களில் தேவையற்ற "கூடுதல் வேலை" (தேவையற்ற விளக்கம், கூடுதல் பரிந்துரை) செய்கிறது. "விரும்பிய வெளியீட்டை மட்டும் கொடுங்கள், கூடுதல் கருத்துகளைச் சேர்க்க வேண்டாம்" என்று வரியில் கூறுவது அதிக முயற்சியின் இந்தப் பக்கவிளைவை ஈடுசெய்கிறது.

சுருக்கமாக

சிஸ்டம் ப்ராம்ட் என்பது மாதிரியின் நிரந்தர உத்தரவு: இது பங்கு, நோக்கம், வடிவம், தெளிவின்மை நடத்தை மற்றும் இரகசியத்தன்மையை வரையறுக்கிறது. நவீன மாதிரிகளில், நடத்தை வெப்பநிலையை விட தகவமைப்பு சிந்தனை மற்றும் முயற்சி அளவுருக்கள் மூலம் இயக்கப்படுகிறது; பணிக்கான முயற்சியை சீரமைப்பது தரம் மற்றும் செலவை ஒரே நேரத்தில் நிர்வகிக்கிறது. max_tokens, stop arrays மற்றும் கட்டமைக்கப்பட்ட வெளியீடு மூலம் வெளியீட்டைப் பாதுகாக்கிறீர்கள்.

விண்ணப்ப பணி

ஒரு பணியைத் தேர்ந்தெடுக்கவும். (1) ஐந்து கூறுகள் (பாத்திரம், நோக்கம், வடிவம், தெளிவின்மை, இரகசியத்தன்மை) கொண்ட கணினி வரியில் எழுதவும். (2) இந்தப் பணிக்கு நீங்கள் எந்த அளவிலான முயற்சியைத் தேர்ந்தெடுப்பீர்கள், ஏன் என்று குறிப்பிடவும். (3) வெளியீடு கட்டமைக்கப்பட்டதாக இருந்தால், ஒரு சிறிய JSON ஸ்கீமாவை வரையவும். (4) உங்கள் வரியில் அதிகப்படியான ஆக்கிரமிப்பு முறை உள்ளதா என சரிபார்த்து அதை மென்மையாக்குங்கள்.

சரிபார்ப்பு பட்டியல்

• [ ] ஒரு நல்ல கணினி வரியில் ஐந்து கூறுகளை என்னால் பெயரிட முடியும்.
• [ ] தகவமைப்பு சிந்தனை மற்றும் முயற்சி அளவுருக்கள் என்ன செய்கின்றன என்பதை என்னால் விளக்க முடியும்.
• [ ] பணிக்கு ஏற்ப முயற்சியை சரிசெய்வதன் மூலம் தரம்/செலவை சமன் செய்ய முடியும்.
• [ ] ப்ராம்ட் மூலம் JSON ஐக் கோருவதை விட கட்டமைக்கப்பட்ட வெளியீடு ஏன் பாதுகாப்பானது என்பதை நான் அறிவேன்.
• [ ] மிதமிஞ்சிய ஆக்ரோஷமான வழிமுறைகளின் நவீன மாடல்களில் உள்ள ஆபத்தை என்னால் அடையாளம் காண முடிகிறது.