የሞዴል ምርጫ: ለትክክለኛው ሥራ ትክክለኛ ሞዴል — ኤፒአይ፣ ወጪ እና ውህደት

ትርፍ፡

የሞዴል ቤተሰብን (ፈጣን/ሚዛናዊ/ኃይለኛ) በችሎታ፣ ፍጥነት እና ወጪ ማወዳደር ይችላል።
በተግባራዊ ውስብስብነት መሰረት የመምረጫ እና የማስተላለፊያ ስልቶችን ይቀርፃል።
ከትንሽ የኢቫል ስብስብ ጋር በማስረጃ ላይ ሞዴል ምርጫን መሰረት ያደርጋል

በኤል ኤል ኤም ውህደት ውስጥ ለገንዘብዎ እና ለጥራትዎ ከፍተኛውን ወጪ የሚወስነው አንድ ውሳኔ የትኛውን ሞዴል እንደሚጠቀሙ ነው። የተለመደው ምላሽ "በጣም ጠንካራውን ሞዴል ምረጥ" ነው; ሆኖም, ይህ ብዙውን ጊዜ አላስፈላጊ ወጪዎች እና መዘግየቶች ማለት ነው. ትክክለኛው አቀራረብ እያንዳንዱን ተግባር የሚያከናውነውን ቀላል ሞዴል መምረጥ እና ምርጫውን በመለኪያ ላይ በመመስረት, በግምታዊ ስራ ላይ የተመሰረተ አይደለም. በዚህ ክፍል ውስጥ፣ የሞዴሉን ቤተሰብ በችሎታ/በፍጥነት/ወጪ ዘንግ ላይ በማነፃፀር፣ በተግባራዊ ውስብስብነት መሰረት የሞዴል ማዘዋወር ስትራቴጂ ያዘጋጃሉ እና ምርጫውን በትንሽ የግምገማዎች ስብስብ ያረጋግጣሉ።

የሞዴል ቤተሰብን መረዳት

አቅራቢዎች በአጠቃላይ ሶስት ክፍሎችን ይሰጣሉ፡ ፈጣን/ርካሽ፣ የተረጋጋ እና ኃይለኛ። በመካከላቸው ያለው ግንኙነት በሶስት መጥረቢያዎች ላይ ተጠቃሏል-ችሎታ (አስቸጋሪ ስራዎችን የመፍታት ኃይል), ፍጥነት (ዘግይቶ), ዋጋ (ቶከን ዋጋ).

ክፍል

ምሳሌ

ተሰጥኦ

ፍጥነት

ወጪ

የሚገኙ ተግባራት

ፈጣን

ሃይኩ 4.5

መካከለኛ

በጣም ከፍተኛ

ዝቅተኛ

ምደባ፣ መሰየሚያ፣ አጭር ማጠቃለያ፣ አቅጣጫ

ሚዛናዊ

ሶኔት 5

ከፍተኛ

መካከለኛ

አጠቃላይ ዓላማ ፣ ኮድ መስጠት ፣ ባለብዙ ደረጃ ፍሰት ፣ የብዙ ወኪል ሥራ

ጠንካራ

ኦፐስ 4.8

ከፍተኛ

መካከለኛ

ከፍተኛ

ውስብስብ ምክንያት, ረጅም ርቀት ራስን በራስ የማስተዳደር ስራዎች, አስቸጋሪ ትንታኔ

ወሳኝ ግንዛቤ: የበለጠ ኃይለኛ ሞዴል በእያንዳንዱ ስራ ላይ የተሻለ አይሰራም. በቀላል "አስቸኳይ ወይም አይደለም" መለያ, ጠንካራ ሞዴል እና ፈጣን ሞዴል ተመሳሳይ ትክክለኛ መልስ ይሰጣሉ; ብቸኛው ልዩነት ኃይለኛው 5 እጥፍ የበለጠ ውድ እና ቀርፋፋ መሆኑ ነው። ተጨማሪ ተሰጥኦ እሴት የሚያመነጨው ተልዕኮው ሲፈልግ ብቻ ነው።

ደረጃ በደረጃ: ሞዴል እንዴት እንደሚመረጥ?

ተግባሩን መድብ. መደበኛ/ንድፍ የተሰራው (መለያ መስጠት፣ ፍንጭ) ወይም ክፍት-መጨረሻ/ባለብዙ ደረጃ (ትንተና፣ እቅድ፣ ኮድ) ነው?
በቀላል እጩ ይጀምሩ። በፍጥነት ሞዴል ይሞክሩት. በቂ ከሆነ ቆም።
በቂ ካልሆነ ወደ ከፍተኛ ክፍል ይሂዱ። ትክክለኝነት ዝቅተኛ ከሆነ, ወደ ሚዛኑ ይሂዱ, በቂ ካልሆነ, ወደ ጠንካራው ይሂዱ.
ይለኩ, አይገምቱ. የእያንዳንዱን እጩ ትክክለኛነት እና ዋጋ ከትንሽ የኢቫል ስብስብ (ከታች) ያወዳድሩ።
አቅጣጫ መቀየርን ያዋቅሩ። ከአንድ ሞዴል ጋር ከመገናኘት ይልቅ ተግባሩን በ "ራውተር" ወደ ትክክለኛው ሞዴል ያሰራጩ.

ሞዴል መስመር

እውነተኛ የሥራ ጫናዎች ይደባለቃሉ፡ አብዛኞቹ ገቢ ጥያቄዎች ቀላል ናቸው፣ አንዳንዶቹ አስቸጋሪ ናቸው። ሁሉንም ወደ ኃይለኛ ሞዴል መላክ ኪሳራ ነው; ሁሉንም ወደ ፈጣን ሞዴል መላክ ጥራቱን ይቀንሳል. ራውቲንግ ይህንን ይፈታል: ርካሽ ሞዴል (ወይም ቀላል ህግ) ስራውን መጀመሪያ ይመድባል, ከዚያም ስራው ወደ ተገቢው ሞዴል ይሄዳል.

# ራውተር መጠየቂያ (በርካሽ ሞዴል ይሰራል) መጪውን ጥያቄ እንደ አስቸጋሪነቱ ይመድቡ። የሚከተለውን JSON ብቻ ይመልሱ፡{"አስቸጋሪ"፡"ቀላል|ውስብስብ"}ቀላል፡ ነጠላ እርምጃ፣ ፎርሙላዊ፣ አጭር-መልስ

ወደ ቀላል → ፈጣን ሞዴል (ርካሽ ፣ ፈጣን) ይሂዱ።
ወደ ውስብስብ → ኃይለኛ ሞዴል (ውድ ግን አስፈላጊ) ይሂዱ.

ይህ ስርዓተ-ጥለት አማካይ ወጪን በእጅጉ ይቀንሳል ምክንያቱም አብዛኛው የትራፊክ ፍሰት በአጠቃላይ ቀላል ነው።

ጠቃሚ ምክር፡ የሪፈራል ውሳኔ ሁልጊዜ LLM አይፈልግም። እንደ "ጽሑፍ ከ 20 ቃላት ያነሰ ከሆነ ወደ ፈጣን ሞዴል ይሂዱ" እንደ ቀላል ደንቦች መመሪያ ናቸው እና ዜሮ ተጨማሪ የማስመሰያ ዋጋን ያመጣሉ. መጀመሪያ ደንቡን ይሞክሩ።

ምርጫን ከማስረጃ ጋር ማገናኘት፡ ትንሹ የኢቫል ክላስተር

"ይሻለኛል" በሚለው መሰረት ሞዴል አይምረጡ. ኢቫል (የግምገማ ስብስብ) ትክክለኛው መልስ የሚታወቅበት ትንሽ ናሙናዎች ስብስብ ነው; በዚህ ስብስብ ላይ እያንዳንዱን ሞዴል ያካሂዳሉ እና ትክክለኛነትን፣ ወጪን እና መዘግየትን ይለካሉ።

# ኢቫል ማዋቀር አብነት 1) 20-50 እውነተኛ ምሳሌዎችን ይሰብስቡ ፣ በእያንዳንዱ ላይ ትክክለኛውን መልስ ይፃፉ ። 2) እያንዳንዱን ሞዴል (ፈጣን / ሚዛናዊ / ጠንካራ) በዚህ ስብስብ ላይ ያሂዱ።

# የኢቫል ንጽጽር ሠንጠረዥ (ሙላ) ሞዴል | ትክክለኛነት | ወጪ በጥያቄ | አማካይ ቆይታHaiku | ...% | ... $ | ... snSonnet | ...% | ... $ | ... snOpus | ...% | ... $ | ...ሰከንድ

ደካማ ጥያቄ / ጠንካራ ጥያቄ (የአምሳያ ምርጫ ውሳኔ)

# ደካማ (የውሳኔ መሰረት የለም) ምርጡን ሞዴል እንጠቀም, በጀት አስፈላጊ አይደለም.

# STRONG (በመለኪያ ላይ የተመሰረተ ውሳኔ) በ 50 ናሙናዎች ጊዜ, ሃይኩ 96% ትክክለኛነትን ሰጥቷል, ሶኔት 97% ትክክለኛነትን ሰጥቷል. ልዩነቱ በስታቲስቲክስ ኢምንት ነው። ሃይኩ የተመረጠው 5 እጥፍ ርካሽ እና 2 ጊዜ ፈጣን ስለሆነ ነው። ትክክለኛነት ከ 95% በታች ከቀነሰ ወደ ሶኔት የማሻሻል ውሳኔ በራስ-ሰር ይከናወናል።

ኃይለኛ ስሪት; ምርጫውን ከቁጥር፣ ደፍ እና ከፍ ወዳለ ህግ ጋር ያቆራኛል። ይህ ሁለቱም የዛሬውን ውሳኔ ይከላከላል እና የወደፊት ለውጦችን ያስተዳድራሉ.

ሶስት ሚኒ ጉዳዮች

ጉዳይ 1 - ከአቅም በላይ ከሆነው ሞዴል ማምለጥ. የጥሪ ማእከል ሁሉንም የንግግር ማጠቃለያዎችን ከኦፐስ ጋር እያዘጋጀ ነበር። ወርሃዊ ክፍያ ከፍተኛ ነበር። በ 40-sample eval, Sonnet በትክክለኛነት ከኦፐስ ጀርባ 1% ነበር ነገር ግን አንድ ሶስተኛ ዋጋ አስከፍሏል. የማጠቃለያ ሥራውን ወደ ሶንኔት ተንቀሳቅሰዋል; ወርሃዊ ወጪ ከ9,000 ዶላር ወደ 3,100 ዶላር ዝቅ ብሏል፣ ምንም የጥራት ቅሬታዎች የሉም።

ጉዳይ 2 - የተቀላቀለ ትራፊክ ከማዘዋወር ጋር። ከህጋዊ የቴክኖሎጂ ቡድን 80% ጥያቄዎች ቀላል የሰነድ መለያ መስጠት፣ 20% ውስብስብ የኮንትራት ትንተና ነበሩ። ሁሉንም ወደ ኃይለኛው ሞዴል ይልኩ ነበር. ርካሽ ራውተር ጨምረው ቀላል ስራዎችን ለሃይኩ እና ውስብስብ ስራዎችን ለኦፐስ አከፋፈሉ፤ የአማካይ የጥያቄ ዋጋ በ64% ቀንሷል፣ የትንታኔ ጥራት ሲጠበቅ።

ጉዳይ 3 - ሳይለካ የመቀነስ ዋጋ. ወጪን ለመቀነስ አንድ ቡድን ውስብስብ የሕክምና ኮድ ማውጣትን በቀጥታ ወደ ፈጣን ሞዴል ቀንሷል; አላስተካከሉም። በቀጥታ ስርጭት፣ ትክክለኛነት ከ92% ወደ 78% ወርዷል፣ ይህም የተሳሳቱ አመለካከቶች እንዲመለሱ አድርጓል። መጀመሪያ መሻሻል ነበረባቸው፡ ያ ተግባር ኃይለኛውን ሞዴል ይፈልጋል። ትምህርት: ሁለቱም መቀነስ እና ከፍታ የሚከናወኑት በመለኪያ ነው.

የተለመዱ ስህተቶች

"በጣም ጠንካራው ሞዴል" reflex: ቆሻሻ እና በቀላል ተግባራት ውስጥ አላስፈላጊ መዘግየት.
ሞዴሉን ሳይለኩ መቀየር፡ ሁለቱም መቀነስ እና መጨመር ያለ ኢቫል አደገኛ ናቸው።
ወደ ነጠላ ሞዴል መቆለፍ፡ በተደባለቀ ትራፊክ ውስጥ ማዘዋወር ብዙ ጊዜ የበለጠ ቀልጣፋ ነው።
ሁልጊዜ ራውተርን ለኤል.ኤም.ኤም በመሳሳት፡ ቀላል ደንቦች በዜሮ ዋጋ ሊሠሩ ይችላሉ።
የማሳደጊያ ገደብ አለማዘጋጀት፡ ትክክለኛነት ከቀነሰ ምን ይከሰታል አስቀድሞ መገለጽ አለበት።
የሞዴሉን ስሪት አለመስተካከል፡ በምርት ላይ የትኛውን ሞዴል/ስሪት እየሰሩ እንደሆነ ይመዝግቡ። የስሪት ለውጥ ባህሪን ሊቀይር ይችላል።

ጥልቅ፡ ዘላቂ ኢቫል እና ተጨማሪ ሙከራ

የሞዴል ምርጫ የአንድ ጊዜ ውሳኔ አይደለም. አቅራቢዎች አዳዲስ ሞዴሎችን ያስተዋውቃሉ፣ የዋጋ ለውጦች፣ የስራ መግለጫዎ ይሻሻላል። ስለዚህ የኤቫል ክላስተር አንዴ ያዘጋጁ እና አይርሱ; እንደ ህያው ፍጡር ያዙት። አዲስ ሞዴል ሲወጣ, ተመሳሳይ 20-50 ናሙናዎችን በእሱ ውስጥ ያካሂዳሉ, ጠረጴዛውን ያዘምኑ እና ውሳኔዎን እንደገና ይወስኑ. ይህ ከ"ስርዓተ-ጥለት-መቀየር ግንዛቤ" ወጥመድ ይጠብቅዎታል።

ሁለተኛው የላቀ ቴክኒክ የውድቀት / ፏፏቴ ንድፍ ነው። መጀመሪያ ስራውን ለርካሹ ሞዴል ትሰጣላችሁ; ውጤቱ ዝቅተኛ በራስ መተማመን ካለው ወይም የማረጋገጫ ንብርብር (ክፍል 11) ውድቅ ካደረገው ተመሳሳይ ጥያቄን ከፍ ያደርጋሉ። ስለዚህ አብዛኛው ትራፊክ በርካሽ ሞዴል ተፈትቷል፣ የቀሩት ጥቂቶች ብቻ ወደ ውድ ሞዴል ይሄዳሉ። ይህ ከቋሚ ነጠላ ሞዴል አቀራረብ የበለጠ ርካሽ እና የበለጠ ዘላቂ ነው።

ሦስተኛው ነጥብ ኢቫል ትክክለኛነትን ብቻ ሳይሆን ወጪን እና መዘግየትንም ያካትታል. አንድ ሞዴል 1% የበለጠ ትክክለኛ ነገር ግን 3 እጥፍ ውድ ከሆነ እና 2 ጊዜ ቀርፋፋ ከሆነ, የንግድ ልውውጥ ለአብዛኞቹ ስራዎች ዋጋ የለውም. ውሳኔውን በሶስት መጥረቢያ (ትክክለኝነት፣ ወጪ፣ መዘግየት) ይወስኑ እና “የበቂነት ደረጃ”ን ይግለጹ፡ “ትክክለኝነት ከ95% በላይ ከሆነ በጣም ርካሹን ይምረጡ።

በመጨረሻ፣ በምርት ላይ የትኛውን ሞዴል/ስሪት እንደተጠቀሙ ይመዝግቡ። አንድ ቀን የውጤቱ ጥራት ከተቀየረ በመጀመሪያ እርስዎ የሚመለከቱት የአምሳያው ስሪት መቀየሩን ነው። የስሪት ዱካ መከታተል የጥራት ችግሮችን ዋና መንስኤ ለማግኘት ፈጣን ያደርገዋል።

አንድ ተጨማሪ ማሳሰቢያ፡ የኤቫል ክላስተር ትክክለኛውን የስራ ጫናዎን ሊወክል ይገባል። ቀላል ምሳሌዎችን ብቻ የያዘ ኢቫል ሞዴሉ በአስቸጋሪ ሁኔታዎች ውስጥ የሚሰናከልበትን እና ወደ የውሸት መተማመን ይደብቃል። ጥሩ ኢቫል; የተለመዱ ቀላል ምሳሌዎችን እንዲሁም በእውነታው የሚያጋጥሟቸውን የማዕዘን ጉዳዮች (አሻሚ፣ ያልተሟሉ፣ የሚቃረኑ ግብዓቶችን) ያካትታል። ይህ አስቸጋሪ አናሳ የአንተን ሞዴል ምርጫ ይወስናል፣ ምክንያቱም እያንዳንዱ ሞዴል ቀላል በሆነው አብላጫ መንገድ ይሳካል። በየጊዜው አዳዲስ እውነተኛ ምሳሌዎችን በመመገብ ኢቫልዎን ትኩስ እና ተወካይ ያቆዩት።

በማጠቃለያው

ትክክለኛው ሞዴል ስራውን የሚያከናውን በጣም ቀላል ሞዴል ነው; የበለጠ ኃይለኛ በእያንዳንዱ ሥራ ላይ የተሻለ አይደለም, የበለጠ ውድ እና ቀርፋፋ ነው. ተግባሩን መፈረጅ እና ከቀላል እጩ ጀምሮ ፣የተደባለቀውን ትራፊክ በማዘዋወር ማሰራጨት እና ምርጫውን በትንሽ የኢቫል ስብስብ ማረጋገጥ ጥራትን በመጠበቅ ብዙ ጊዜ ወጪን ይቀንሳል።

የመተግበሪያ ተግባር

የስራ ጫና ይምረጡ። (1) ተግባሩን ቀላል/ውስብስብ አድርጎ መድብ። (2) ትንሽ የኤቫል ስብስብ 20 እውነተኛ ምሳሌዎችን ይንደፉ (ከትክክለኛው መልሶቻቸው ጋር)። (3) ለሶስቱ የሞዴል ክፍሎች ትክክለኛነት/ዋጋ/የጊዜ ንጽጽር ሰንጠረዥ ለመሙላት እቅድ ይሳሉ። (4) የተደበላለቀ ትራፊክ ካለህ፣ የማዘዋወር ደንብ ጻፍ እና ከፍ ያለ ገደብ አዘጋጅ።

የማረጋገጫ ዝርዝር

[] የአምሳያው ቤተሰብን በችሎታ/በፍጥነት/በወጪ ዘንግ ላይ ማወዳደር እችላለሁ።
[ ] "ቀላል ስኬታማ ሞዴል" መርህን ተግባራዊ ማድረግ እችላለሁ።
[] በተግባራዊ ውስብስብነት መሰረት የሞዴል ማዞሪያን ማዘጋጀት እችላለሁ።
[] በትንሽ የኤቫል ስብስብ ምርጫውን ከማስረጃው ጋር ማያያዝ እችላለሁ።
[] የማሻሻያ/የማውረድ ደረጃን መግለፅ እችላለሁ።