የስርዓት መጠየቂያ እና ሞዴል መለኪያዎች

ትርፍ፡

• የስርዓቱ ጥያቄ ሞዴሉን በጠቅላላ ንግግሩ ውስጥ እንዴት እንደሚመራው መንደፍ ይችላል።
• የማስተካከያ አስተሳሰብ እና ጥረት መለኪያዎችን ሚና እና ወጪን ይገነዘባል
• እንደ max_tokens፣የማቆሚያ ቅደም ተከተሎችን እና የተዋቀረ ውፅዓትን የመሳሰሉ የውጤት መቆጣጠሪያዎችን ተግባራዊ ያደርጋል

ተመሳሳይ ሞዴል ሁለት የተለያዩ ምርቶች ሙሉ ለሙሉ የተለየ ባህሪ ሊኖራቸው ይችላል. ልዩነቱ በራሱ በአምሳያው ላይ አይደለም, ነገር ግን በሲስተም ጥያቄ እና በተሰጡት መለኪያዎች ውስጥ. የስርዓት መጠየቂያው የአምሳያው "የስራ ውል" ሲሆን መለኪያዎቹ "የስራ መቼቶች" ናቸው. በዚህ ክፍል ውስጥ ኃይለኛ የስርዓት ጥያቄን እንዴት እንደሚነድፍ ፣ በዘመናዊ ሞዴሎች ውስጥ ያሉ የአስተሳሰብ እና የጥረት መቼቶች ምን እንደሚሰሩ እና ውጤቱን ለቅርጸት / ርዝመት እንዴት እንደሚቆጣጠሩ ይማራሉ ። እነዚህን ቅንብሮች በትክክል ማቀናበር ሁለቱንም ጥራት እና ወጪን በተመሳሳይ ጊዜ እንዲያስተዳድሩ ያስችልዎታል።

የስርዓት ጥያቄ፡ የአምሳያው ቋሚ መመሪያ

የስርዓት መጠየቂያው በጠቅላላው ንግግሮች ውስጥ የሚተገበር የከፍተኛ ደረጃ መመሪያ ነው። ተጠቃሚው ምንም ቢይዝ እነዚህ ደንቦች ልክ እንደሆኑ ይቆያሉ። ጥሩ የስርዓት ጥያቄ የሚከተሉትን ክፍሎች ያካትታል:

1. ሚና/ማንነት፡ ሞዴል ማን ነው? ("እርስዎ የድርጅት ድጋፍ ረዳት ነዎት.")
2. ወሰን እና ወሰን፡ ምን ያደርጋል እና የማይሰራው? ("በቀረበው የመመሪያ ሰነድ ላይ ብቻ የተመሰረተ")
3. የቅርጸት ደንቦች፡ ውፅዓት ምን መምሰል አለበት? ("ቢበዛ 3 መጣጥፎች፣ ይፋዊ ቋንቋ")
4. እርግጠኛ ባልሆነ ሁኔታ ውስጥ ያለ ባህሪ፡ እርግጠኛ ካልሆኑ ምን ያደርጋል? ("መረጃ ከሌለ ያስተካክሉት ወደሚመለከተው ክፍል ያዙሩት")
5. ደህንነት/ግላዊነት፡ የማይፈልገው/የማይፈልገው ምንድን ነው? ("የግል መረጃን ጠይቅ")

ጠቃሚ ምክር: የስርዓት መጠየቂያውን ቋሚ ያድርጉት. በእያንዳንዱ ጥያቄ (የአሁኑ ቀን፣ የተጠቃሚ ስም፣ የክፍለ-ጊዜ መታወቂያ) የሚለዋወጡ መረጃዎችን አታካቱ። ይህ ሁለቱም ወጥነትን ይሰብራሉ እና በክፍል 6 ላይ ያለውን የፈጣን መሸጎጫ ዋጋ ያሳጣዋል። ተለዋዋጭውን መረጃ በተጠቃሚ መልእክት ውስጥ ያስቀምጡ።

ከመጠን በላይ ኃይለኛ መመሪያ ወጥመድ

ዘመናዊ ሞዴሎች መመሪያውን በጥብቅ ይከተላሉ. በአሮጌ ሞዴሎች ውስጥ የሚሰሩ እንደ " MUST", "ሁልጊዜ", "በእርግጠኝነት ይህን ማድረግ" ወዘተ የመሳሰሉ ጠብ አጫሪ ሀረጎች ዛሬ ከመጠን በላይ ማነሳሳት ያስከትላሉ፡ ሞዴሉ በማይፈለግበት ጊዜ ወኪል ይደውላል ወይም ሳያስፈልግ ለረጅም ጊዜ ሲሮጥ. ደንቡን ማለስለስ፡ "የመፈለጊያ መሳሪያውን መጠቀም አለብህ" ከማለት ይልቅ "መልሱ በንግግር ውስጥ ካልሆነ የፍለጋ መሳሪያውን ተጠቀም" የበለጠ ትክክለኛ ነው።

የሞዴል መለኪያዎች፡ ሃሳብ እና ጥረት

ክላሲካል ኤል.ኤል.ኤም.ዎች የሙቀት መለኪያ ነበራቸው፡ ዝቅተኛ እሴት የበለጠ የተለየ/ወጥ የሆነ ውፅዓት አፈራ፣ ከፍ ያለ እሴት የበለጠ የተለያየ/የፈጠራ ውፅዓት አወጣ። የዘመናዊው ትውልድ ሞዴሎች (እንደ ኦፐስ 4.8፣ ሶኔት 5 ያሉ) ይህንን አካሄድ በሁለት ኃይለኛ ዘዴዎች በመተካት እንደ ሙቀት ያሉ የናሙና መለኪያዎችን አይቀበሉም።

• የመላመድ አስተሳሰብ፡- ሞዴሉ ምላሽ ከመስጠቱ በፊት በ"ጭንቅላቱ" ውስጥ ደረጃ በደረጃ ምክንያቶች። ሞዴሉ በስራው አስቸጋሪነት ላይ በመመርኮዝ ምን ያህል ማሰብ እንዳለበት ይወስናል. ውስብስብ, ባለብዙ ደረጃ ችግሮች ላይ ትክክለኛነትን በእጅጉ ያሻሽላል; በቀላል ጥያቄዎች ላይ አላስፈላጊ መዘግየትን ለማስወገድ ያነሰ ያስባል.
• ጥረት፡ ሞዴሉ ወደ አንድ ተግባር ምን ያህል በጥልቀት እንደሚጠልቅ እና በአጠቃላይ ምን ያህል ቶከኖች እንደሚያወጣ የሚያስተካክል ባለከፍተኛ ደረጃ ኖብ። የተለመዱ ደረጃዎች: ዝቅተኛ, መካከለኛ, ከፍተኛ እና ከዚያ በላይ. ከፍተኛ ጥረት ጥራትን ሊያሻሽል ይችላል, ነገር ግን መዘግየትን እና ወጪን ይጨምራል; ዝቅተኛ ጥረት ፍጥነትን እና ቁጠባዎችን ያመጣል.

በማቀናበር ላይ

ምን ያደርጋል

መቼ ነው።

ማሰብ ጠፍቷል / ዝቅተኛ ጥረት

ፈጣን ፣ ርካሽ ፣ ላዩን

ቀላል ምደባ፣ አጭር ምላሽ፣ ሚስጥራዊነት ያላቸው ተግባራትን ማዘግየት

የሚለምደዉ አስተሳሰብ + መካከለኛ ጥረት

የተመጣጠነ ጥራት/ዋጋ

አብዛኞቹ አጠቃላይ ዓላማ ተግባራት

የሚለምደዉ አስተሳሰብ + ከፍተኛ ጥረት

ከፍተኛ ትክክለኛነት

ውስብስብ ምክንያት, ኮድ መስጠት, የረጅም ርቀት ወኪል ሥራ

ማስጠንቀቂያ፡- "ምንም ቢሆን ከፍተኛ ጥረት" ሪፍሌክስ ወጪዎችን ይጨምራል። ጥረቱን ወደ ተግባር ያስተካክሉ; በቀላል ስራዎች ዝቅተኛ ጥረት ብዙውን ጊዜ በጣም ርካሽ በሆነ ዋጋ ተመሳሳይ ትክክለኛ ውጤት ይሰጣል. ወሳኝ ትክክለኛነት በሚያስፈልግበት ቦታ ከፍ ይበሉ.

የውጤት ቁጥጥር: ቅርጸት, ርዝመት, መዋቅር

ከመለኪያዎች በተጨማሪ፣ እርስዎም ውጤቱን ራሱ ይቆጣጠራሉ።

• max_tokens፡ የውጤቱ ጠንካራ ጣሪያ (1ኛ እና 3ኛ ክፍል)።
• ቅደም ተከተሎችን አቁም: የተወሰነ ሕብረቁምፊ ሲያይ ሞዴሉን ማቆም. በተቀነባበረ ምርት ውስጥ የመግቻ ነጥቦችን ለማዘጋጀት ይጠቅማል።
• የተዋቀረ ውጤት፡ የአምሳያው ምላሽ እርስዎ ካቀረቡት የJSON እቅድ ጋር እንዲስማማ ያስገድዱት። ውጤቱ በፕሮግራም ሊተነተን የሚችል እና ትክክለኛ መሆኑን ያረጋግጣል። በጥያቄ "JSON ብቻ ይመለሱ" ከማለት የበለጠ አስተማማኝ ነው።

{"output_config": {"ቅርጸት": {"አይነት": "json_schema", "schema": {"አይነት": "ነገር", "ተጨማሪ ባህሪያት": false, "ንብረቶች": {"መደብ": {"አይነት": "string", "enum": ["ክፍያ መጠየቂያ", "ቴክኒክ", "መመለሻ:" "string:"}" gency" "enum": ["ዝቅተኛ", "መካከለኛ", "ከፍተኛ"]}}, "የሚያስፈልግ": ["መደብ", "አጣዳፊ"] } }}

ሊገለበጥ የሚችል የስርዓት ፈጣን አብነቶች

# የድርጅት ድጋፍ ረዳት እርስዎ የድርጅት ድጋፍ ሰጪ ረዳት ነዎት - በቀረበው የፖሊሲ ሰነድ ላይ ብቻ ይተማመኑ። በሰነዱ ውስጥ ከሌለ "ይህ መረጃ የለኝም" ይበሉ። - ቢበዛ በ 3 ዓረፍተ ነገሮች ውስጥ መደበኛ እና ግልጽ መልስ ይስጡ። - የግል ውሂብን ይጠይቁ (የቲሲ መታወቂያ ቁጥር ፣ የካርድ ቁጥር) እና በመልስዎ ውስጥ አይድገሙት። - እርግጠኛ ካልሆኑ, አይገምቱ.

# የተዋቀረ የውጤት ማስገደድ ክላሲፋየር እርስዎ የፍላጎት ክላሲፋየር ነዎት። ግብአቱ የደንበኛ መልእክት ነው። የተጠየቁትን መስኮች ብቻ ይመልሱ, አስተያየቶችን አይጻፉ. እርግጠኛ ካልሆኑ "ሌላ" ይጠቀሙ።

እርግጠኛ ባልሆነ ሁኔታ ውስጥ የመቆም ባህሪ ያለው ተንታኝ እርስዎ የውሂብ ተንታኝ ነዎት። ከቀረበው ሰንጠረዥ ሊረጋገጡ የሚችሉ ፍንጮችን ብቻ ይሳሉ። በመረጃው ውስጥ የሌለ መደምደሚያ በጭራሽ አታድርጉ። ግምቱ ግልጽ ካልሆነ "ውሂብ በቂ አይደለም" ብለው ይፃፉ.

# የይዘት ጸሐፊ ​​በድምፅ እና በርዝመት ቁጥጥር እርስዎ የይዘት ጸሐፊ ​​ነዎት። ሞቅ ያለ ነገር ግን ሙያዊ ድምጽ ይጠቀሙ. እያንዳንዱን ጽሑፍ ወደ 120 ቃላት ወይም ከዚያ በታች ይገድቡ። ክሊቺ የግብይት ቋንቋን ያስወግዱ።

ደካማ ጥያቄ / ጠንካራ ጥያቄ

# ደካማ ይሁኑ እና ጥሩ መልሶችን ይስጡ። የተቻለህን አድርግ።

# ጠንካራ ሚና፡ የቴክኒክ ድጋፍ ስፔሻሊስት፡ ወሰን፡ የምርት መመሪያ ብቻ ቀርቧል።ቅርጸት፡- ደረጃ በደረጃ፣ ቁጥር ያለው ዝርዝር፣ ከፍተኛው 5 እርከኖች። ገደብ፡ በመመሪያው ውስጥ ካልሆነ መፍትሄን መከር፤ "በመመሪያው ውስጥ ላገኘው አልቻልኩም" ይበሉ። ግላዊነት፡ በምላሹ በተጠቃሚው የተጋራውን የመለያ ቁጥር አትድገም።

ኃይለኛ ስሪት; ሚናውን፣ ወሰንን፣ ቅርጸቱን፣ ድንበሮችን እና ሚስጥራዊነትን በተናጠል ይወስናል። የውጤት ወጥነት በቀጥታ የሚመጣው ከዚህ ግልጽነት ነው።

ሶስት ሚኒ ጉዳዮች

ጉዳይ 1 - በጥረት ማስተካከያ ወጪ መቀነስ. አንድ ቡድን ከፍተኛ ጥረት + አስተሳሰብ ላይ ያላቸውን ጥሪዎች ሁሉ እያሄደ ነበር; ቀላል የኢሜል ቀመሮች እንኳን ውድ እና ለማምረት ቀርፋፋ ነበሩ። እንደ ዝቅተኛ ጥረት ማጠቃለያ እና የኮንትራት ትንተናን የመሳሰሉ ቀላል ስራዎችን ለከፍተኛ ጥረት መድበዋል። ትክክለኝነት ተጠብቆ ነበር፣ አማካይ የቆይታ ጊዜ በግማሽ ቀንሷል፣ እና ወርሃዊ ወጪ በሦስተኛ ቀንሷል።

ጉዳይ 2 - JSON ዋስትና. አንድ የኦፕሬሽን ቡድን የምድብ ውፅዓት እንዲሰጠው ጠይቋል " JSON ን ብቻ ይስጡ "፣ ነገር ግን ሞዴሉ አልፎ አልፎ "ውጤቱ ይህ ነው" ይጽፋል እና ተንታኙ ይወድቃል። የተዋቀረውን የውጤት መርሃ ግብር ሳገናኝ ውጤቱ ሁል ጊዜ ትክክለኛ JSON ተመለሰ። የመተንተን ስህተቶች እንደገና ተጀምረዋል።

ጉዳይ 3 - ኃይለኛ ፈጣን ማገገሚያ። የረዳት ጥያቄ አለ፣ "እያንዳንዱን ጥያቄ መፈለግ አለብህ"፤ ሞዴሉ ቀደም ሲል መልሱን የሚያውቅባቸው ቀላል ጥያቄዎችን እንኳን አላስፈላጊ ፍለጋዎችን አድርጓል ፣ እየቀነሰ እና ወጪን ይጨምራል። "መልሱ በዐውደ-ጽሑፍ ውስጥ ካልሆነ ፈልጉ" የሚለውን ደንቡን ዘና አድርገዋል; አላስፈላጊ ጥሪዎች በ70% ቀንሰዋል እና ምላሾች ተፋጠነ።

የተለመዱ ስህተቶች

• በስርዓት መጠየቂያው ውስጥ ተለዋዋጭ ውሂብን መክተት፡ ወጥነትን ይሰብራል እና መሸጎጫውን ያሳጣዋል።
• ከመጠን በላይ ኃይለኛ መመሪያ: በዘመናዊ ሞዴሎች ውስጥ ከመጠን በላይ ቀስቃሽ እና አላስፈላጊ ወጪዎች.
• በእያንዳንዱ ተግባር ውስጥ ከፍተኛ ጥረት: በቀላል ተግባራት ውስጥ ቆሻሻ; ጥረቱን ወደ ተግባር ያስተካክሉ።
• JSONን በመጠየቅ ብቻ መጠየቅ፡ አልፎ አልፎ ይቋረጣል፤ ወሳኝ ከሆነ የተዋቀረ ውጤትን ይጠቀሙ።
• የድንበር/አሻሚነት ባህሪን አለመግለጽ፡ ሞዴሉ ክፍተቱን በፈጠራ (ቅዠት) ይሞላል።
• የድሮ 'ሙቀት' ልማድ፡ ዘመናዊ ሞዴሎች ይህን አይቀበሉም; ባህሪን በፍጥነት እና በጥረት ይምሩ።

ጠለቅ ያለ፡ ጥያቄውን እንደ ውል መጻፍ

ልምድ ያካበቱ ቡድኖች የስርዓቱን ጥያቄ እንደ ውል እንጂ እንደ ጽሑፋዊ ጽሑፍ አይደለም፡ ግልጽ የሆኑ አንቀጾች፣ ሊለኩ የሚችሉ ሕጎች፣ የማያሻማ ድንበሮች ነው የሚያዩት። ይህ አቀራረብ ሶስት ተጨባጭ ጥቅሞች አሉት. የመጀመሪያው ወጥነት ነው፡- ተመሳሳይ ግቤት በተለያየ ጊዜ ተመሳሳይ ውጤት ይሰጣል። ሁለተኛው መፈተሽ ነው፡ እያንዳንዱን ንጥል በናሙና ለየብቻ መሞከር ይችላሉ። ሦስተኛው የጥገና ቀላልነት ነው: ባህሪው የተሳሳተ ከሆነ የትኛውን ንጥል እንደሚተካ ያውቃሉ.

ጥሩ ልምምድ በአዎንታዊ ምሳሌዎች መምራት ነው. "ይህን አታድርጉ" የሚለውን ዝርዝር ከመስጠት ይልቅ በዘመናዊ ሞዴሎች ውስጥ "የሚፈለገውን ውጤት በትክክል የሚመስለው ይህ ነው" የሚለውን ምሳሌ ማቅረብ የበለጠ ውጤታማ ነው. ለምሳሌ፣ በክላሲፋየር ውስጥ፣ የሚጠበቀው JSON አንድ ወይም ሁለት ናሙናዎችን ወደ መጠየቂያው ማከል የቅርጸት ስህተቶችን በእጅጉ ይቀንሳል።

ሌላው ኃይለኛ ዘዴ እርግጠኛ ያልሆነውን ባህሪ በግልፅ መጻፍ ነው. እንደ "እርግጠኛ ካልሆኑ አይገምቱ፣ 'በቂ ያልሆነ መረጃ' ይበሉ" የሚል አንቀጽ የሞዴሉን ባዶ ቦታ በፈጠራ (ቅዠት) የመሙላት ዝንባሌን ይገታል። ይህ ነጠላ ዓረፍተ ነገር በክፍል 11 ውስጥ የምንሸፍነውን የማረጋገጫ ንብርብሩን ያራግፋል፡ ሞዴሉ አንዴ እርግጠኛ አለመሆንን ካረጋገጠ፣ ወደ ሰው ማረጋገጫ መምራት ቀላል ይሆናል።

በመጨረሻም ጥረቶችን እና ጥረትን አንድ ላይ አስቡበት። በከፍተኛ ጥረት, ሞዴሉ የበለጠ ይመረምራል እና አንዳንድ ጊዜ የማይፈለግ "ተጨማሪ ስራ" (አላስፈላጊ ማብራሪያ, ተጨማሪ አስተያየት) ይሰራል. በአፋጣኝ "የሚፈለገውን ውጤት ብቻ ስጡ፣ ተጨማሪ አስተያየቶችን አትጨምሩ" ማለት ይህንን ከፍተኛ ጥረት የሚጎዳውን ውጤት ያስወግዳል።

በማጠቃለያው

የስርዓት መጠየቂያው የአምሳያው ቋሚ መመሪያ ነው፡ ሚናውን፣ ወሰንን፣ ቅርፀቱን፣ የድብቅ ባህሪን እና ሚስጥራዊነትን ይገልጻል። በዘመናዊው ሞዴሎች ውስጥ, ባህሪው ከሙቀት ይልቅ በአስማሚ አስተሳሰብ እና ጥረት መለኪያዎች ይመራል; ጥረቱን ከሥራው ጋር ማመጣጠን ጥራትን እና ወጪን በአንድ ጊዜ ይቆጣጠራል። ውጤቱን በmax_tokens፣ ማቆሚያ ድርድር እና የተዋቀረ ውፅዓት ያስጠብቁታል።

የመተግበሪያ ተግባር

ተግባር ይምረጡ። (1) የስርዓት ጥያቄን ከአምስት አካላት (ሚና፣ ወሰን፣ ቅርጸት፣ አሻሚነት፣ ሚስጥራዊነት) ጋር ይፃፉ። (2) ለዚህ ተግባር ምን ዓይነት ጥረት እንደሚመርጡ እና ለምን እንደሆነ ይግለጹ። (3) ውጤቱ መዋቀር ካለበት፣ ትንሽ የJSON እቅድ ያውጡ። (4) በጥያቄዎ ውስጥ ከመጠን በላይ ኃይለኛ ጥለት ካለ ያረጋግጡ እና ለስላሳ ያድርጉት።

የማረጋገጫ ዝርዝር

• [] ጥሩ የስርዓት መጠየቂያ አምስት አካላትን መጥቀስ እችላለሁ።
• [] የማስተካከያ አስተሳሰብ እና ጥረት መለኪያዎች ምን እንደሚሠሩ ማብራራት እችላለሁ።
• [] በተግባሩ መሰረት ጥረትን በማስተካከል ጥራትን/ወጪን ማመጣጠን እችላለሁ።
• [ ] JSON በጥያቄ ከመጠየቅ ይልቅ የተዋቀረ ውፅዓት ለምን ደህንነቱ የተጠበቀ እንደሆነ አውቃለሁ።
• [] በዘመናዊ ሞዴሎች ከመጠን በላይ ኃይለኛ መመሪያዎች ያለውን አደጋ ማወቅ እችላለሁ።