ማስመሰያ እና የዋጋ አሰጣጥ ሎጂክ

ትርፍ፡

• የማስመሰያ፣ የግብዓት/ውጤት ማስመሰያ ልዩነት እና ማስመሰያ ጽንሰ-ሀሳብ ያብራሩ።
• የጥያቄውን ዋጋ እና ወርሃዊ የስራ ጫናን ከቶከኖች ብዛት እና ከአሃድ ዋጋ ማስላት ይችላል።
• የሞዴል ምርጫ እና የፈጣን ርዝመት በወጪ ላይ ያለውን ተፅእኖ ማወዳደር ይችላል።

የኤልኤልኤም ኤፒአይዎችን ኢኮኖሚክስ ሳይረዱ በመጠነ-ልኬት መፍትሄ መገንባት አይችሉም። አንድ ማሳያ አንድ ጊዜ ይሰራል; ዋናው ነገር በወር በሺዎች የሚቆጠሩ ጥሪዎች ሲደረጉ ሂሳቡ ምን እንደሚሆን መተንበይ መቻል ነው። በዚህ ክፍል ውስጥ የነገሮችን የገንዘብ ጎን እናዘጋጃለን-ቶከን ምንድን ነው ፣ ለምን ግብዓት እና ውፅዓት ይለያያሉ ፣ የጥያቄውን ወጪ እንዴት ማስላት እና ወርሃዊ የስራ ጫናን እንዴት ማበጀት እንደሚቻል ። ይህ መረጃ በሚቀጥሉት ክፍሎች ውስጥ የማመቻቸት ቴክኒኮችን (መሸጎጫ ፣ የሞዴል ምርጫ ፣ ባች) መመለሻን ለመለካት ያስችልዎታል ።

ቶከን ምንድን ነው?

ቶከን ሞዴሉ ጽሑፍን የሚያስኬድበት ትንሹ ክፍል ነው። አንድ ቃል ሁልጊዜ ምልክት አይደለም; ማስመሰያ ብዙውን ጊዜ የቃል አካል ነው። በግምት፣ በእንግሊዝኛ፣ 1 token ≈ 4 ቁምፊዎች ≈ 0.75 ቃላት ነው። በቱርክ እና በኮድ ሬሾው ይለያያል፡ የቱርክ ቃላቶች በቅጥያ መዋቅር እና ፊደላት ምክንያት ከእንግሊዘኛ ይልቅ ወደ ብዙ ቶከኖች ይከፋፈላሉ። ስለዚህ በአይን ከመገመት ይልቅ የቶከኖችን ቁጥር በአቅራቢው ቶከን ቆጠራ መሳሪያ መለካት ያስፈልጋል።

ማስመሰያ (ጽሑፍን ወደ ቶከኖች የመከፋፈል ሂደት) ለእያንዳንዱ ሞዴል የተለየ ሊሆን ይችላል. ይህ ሁለት ተግባራዊ ውጤቶች አሉት (1) ተመሳሳይ ጽሑፍ በተለያዩ ሞዴሎች ውስጥ የተለያዩ የቶከኖች ቁጥሮችን ሊያመጣ ይችላል; (2) ከሌሎች አቅራቢዎች በቶከናይዘር (ለምሳሌ የOpenAI's tiktoken ላይብረሪ) የሚነገሩ ትንበያዎች ለ Claude ትክክል አይደሉም - እየተጠቀሙበት ላለው ሞዴል የማስመሰያ ቆጠራውን ይጠቀሙ።

ፍንጭ፡ "ስለ ስንት ቶከን?" ጥያቄውን በጭፍን አትመልሱ። በቶከን ቆጠራ ኤፒአይ በኩል የውክልና ጽሑፍ ያስተላልፉ። በመለኪያ ላይ የበጀት ውሳኔዎችን መሰረት ያድርጉ.

የግቤት እና የውጤት ምልክቶች

የክፍያ መጠየቂያው ሁለት እቃዎችን ያካትታል፡-

• የግቤት ቶከኖች፡ ወደ ሞዴሉ የላኩት ማንኛውም ነገር - የስርዓት መጠየቂያ፣ ያለፉ ጉብኝቶች፣ የተጠቃሚ መልእክት፣ ካለ ሰነድ። እነዚህ ሁሉ በአንድ ጊዜ ይከናወናሉ.
• የውጤት ምልክቶች: በአምሳያው የተሰራው ምላሽ. ለእያንዳንዱ የውጤት ምልክት ሞዴሉ ስሌቱን ደረጃ በደረጃ ያከናውናል.

በአብዛኛዎቹ አቅራቢዎች፣ ውፅዓት ከግቤት በብዙ እጥፍ የበለጠ ውድ ነው። ምክንያቱ ቀላል ነው፡ ግብአቱን በአንድ ጊዜ ማንበብ የውጤት ቶከንን ከማምረት የበለጠ ርካሽ ነው። ይህን አሲሚሜትሪ ማወቅ ለምን እንደ "አጠር ያሉ መልሶች ያስፈልጋቸዋል" ያሉ ማሻሻያዎች በጣም ውጤታማ እንደሆኑ ያብራራል።

የናሙና ዋጋዎች (በ1 ሚሊዮን ቶከኖች፣ ዶላር)

ከታች ያለው ሰንጠረዥ ማጣቀሻ ነው; ዋጋዎች በጊዜ ሂደት ሊለወጡ ይችላሉ፣ እባክዎን የራስዎን የአቅራቢዎች ዝርዝር ያረጋግጡ።

ሞዴል ክፍል

ናሙና ሞዴል

ግቤት ($/1ሚ)

ውጤት ($/1ሚ)

የተለመደ አጠቃቀም

ፈጣን / ርካሽ

ሃይኩ 4.5

1.00

5.00

ምደባ፣ መሰየሚያ፣ ቀላል ማጠቃለያ

ሚዛናዊ

ሶኔት 5

3.00

15.00

አጠቃላይ ዓላማ, ኮድ, ወኪል ሥራ

ጠንካራ

ኦፐስ 4.8

5.00

25.00

ውስብስብ ምክንያት, ረጅም ርቀት ተግባራት

በእያንዳንዱ ክፍል ውስጥ, ውፅዓት ግብዓት 5 እጥፍ ነው; ከዚህም በላይ የኃይለኛው ሞዴል ግቤት እንኳን ከርካሽ ሞዴል ግቤት 5 እጥፍ ነው. እነዚህ ሁለት መጥረቢያዎች (የግቤት ውፅዓት እና የሞዴል ክፍል) የወጪ ውሳኔዎችዎን ማዕቀፍ ይመሰርታሉ።

ወጪን እንዴት ማስላት ይቻላል?

ቀመሩ ቀላል ነው፡-

ወጪ = (የግቤት_ቶከን / 1,000,000) × የግቤት_ዋጋ + (የውጤት_ቶከን / 1,000,000) × የውጤት_ዋጋ

ናሙና መለያ። ከሶኔት 5 ጋር የቀረበ ጥያቄ፡ 1,500 የግቤት ቶከኖች፣ 400 የውጤት ቶከኖች።

ግብዓት = 1,500 / 1,000,000 × 3.00 = $0.0045 ውጤት = 400/1,000,000 × 15.00 = $0.0060 ጠቅላላ = $0.0105 (1 ሳንቲም አካባቢ)

አንድ ጥሪ ርካሽ ይመስላል። ግን በድምጽ ማባዛት፡ በቀን 20,000 ጥሪዎች → በቀን 210 ዶላር፣ በወር ~ 6,300 ዶላር። ልኬቱ የሚጫወተው እዚህ ላይ ነው።

ወርሃዊ በጀት አብነት

የሥራ ጫና ወርሃዊ ወጪን ለማውጣት፣ ይህን አብነት ይጠቀሙ፡-

1) አማካኝ የግቤት ማስመሰያ በአንድ ጥያቄ፡......2) አማካኝ የውጤት ማስመሰያ በአንድ ጥያቄ፡......3) በቀን የጥያቄዎች ብዛት፡......4) በወር የሚሰሩ ቀናት፡......5) በጥያቄ ዋጋ = (1)/1ሚ

ይህንን ስርዓተ-ጥለት በተመን ሉህ ውስጥ ማፍሰስ እና ሞዴሉን ሲቀይሩ ድምሩ እንዴት እንደሚሰራ ማየት የአምሳያው ምርጫ (ክፍል 5) እና መሸጎጫ (ክፍል 6) ውሳኔዎችን ያካትታል።

ሊገለበጡ በሚችሉ አብነቶች አማካኝነት መጠየቂያውን ማሳጠር

አብዛኛው ወጪ የሚመጣው ሳያስፈልግ ረጅም ጥያቄዎች እና ከተባከነ ምርት ነው። ከታች ያሉት አብነቶች ቀጥተኛ ቁጠባዎችን ያቀርባሉ.

# የውጤት ርዝመት ይገድቡ። ቢበዛ 3 ንጥሎችን ይመልሱ። ምክንያታዊ ወይም የመግቢያ ዓረፍተ ነገር ያክሉ።

# የተጠየቀውን መስክ ብቻ ይመልሱ የሚከተለውን JSON ብቻ ይመልሱ፣ ሌላ ምንም አይነት ጽሑፍ አይጨምሩ፡{"መደብ"፡ "..."፣ "አጣዳፊ"፡ "ዝቅተኛ|መካከለኛ|ከፍተኛ"}

# አላስፈላጊ አውድ አስወግድ ከሚከተለው ጽሁፍ ቀኑን እና መጠኑን ብቻ አስወግድ። ጽሑፉን በሙሉ አትድገሙ። ጽሑፍ፡ """{{text}}"""

# ረጅሙን ንግግር ማጠቃለል (የግብአት ቁጠባ) ይህንን ንግግር በ 5 ነገሮች ጠቅለል አድርጉ። ይህንን ማጠቃለያ ከሙሉ ያለፈው ምትክ በቀጣይ ዙሮች እጠቀማለሁ። ንግግር፡ """{{ ያለፈው}}"""

ደካማ ጥያቄ / ጠንካራ ጥያቄ (ከዋጋ አንፃር)

# ደካማ (ውጤት ያስወጣል፣ ውድ) ይህንን የድጋፍ ጥያቄ ይተንትኑ እና አጠቃላይ ግምገማ ይጻፉልኝ።

# STRONG (ውጤትን ይገድባል፣ ርካሽ እና ሊገመት የሚችል) ይህን የድጋፍ ጥያቄ ይመድቡ። ልክ የሚከተለውን JSON ይመልሱ፡{"ምድብ"፡"ደረሰኝ|ቴክኒካዊ|ተመላሽ|ሌላ","አጣዳፊ":"ዝቅተኛ|መካከለኛ|ከፍተኛ"}መግለጫ አይጻፉ።

ደካማው ስሪት ምናልባት 500 የውጤት ምልክቶችን ይፈጥራል; ጠንካራ ስሪት ~ 15. ውፅዓት ውድ ስለሆነ ይህ በእያንዳንዱ ጥሪ ከፍተኛ ልዩነት ነው እና በድምጽ ይባዛል።

ሶስት ሚኒ ጉዳዮች

ጉዳይ 1 - የረዥም መጠየቂያው ድብቅ ወጪ። የሂሳብ አውቶሜትድ እያንዳንዱን የክፍያ መጠየቂያ እንደደረደረ፣ ለእያንዳንዱ ጥያቄ እንደ ግብአት ባለ 40 ገጽ “የደንብ መጽሐፍ” አክሏል፡ ~ 12,000 የግቤት ቶከኖች በጥያቄ። በሶኔት 5 12,000/1M×3 = $0.036 አሁን ገብቷል። በቀን 5,000 ሂሳቦች → $180 በቀን። የመተዳደሪያ ደብተሩን (ክፍል 6) በመሸጎጥ የግብዓት ዋጋ በ ~90% ቀንሷል።

ጉዳይ 2 - ሞዴሉን የመቀነስ ዋጋ. አንድ ቡድን ቀላል “አዎንታዊ/አሉታዊ” ስሜት መለያ በOpus 4.8፡ 300 ግብዓት + 10 የውጤት ቶከኖች እያደረገ ነበር። የኦፐስ ዋጋ 300/1ሜ×5 + 10/1ሜ×25 = $0.00175። ወደ ሃይኩ መቀየር፣ 300/1M×1 + 10/1M×5 = $0.00035 — 5x ርካሽ፣ የትክክለኛነቱ ልዩነት ሊለካ የማይችል ነበር። በወር 3 ሚሊዮን ጥሪዎች ልዩነቱ $5,250 → $1,050 ነው።

ጉዳይ 3 - ውጤቱን መልቀቅ. የግብይት ቡድን የምርት መግለጫን ሲያዘጋጅ፣ በውጤቱ ላይ ምንም ገደብ አላስቀመጠም። ሞዴሉ አንዳንድ ጊዜ 1,500 ቶከኖች ተናግሯል. የ"60 ቃላት ከፍተኛ" መመሪያን ስጨምር፣ አማካይ ውፅዓት ከ900 ወደ 90 ቶከን ወርዷል። የኅትመት ሥራ ውድ ስለነበር ወርሃዊ ክፍያ በሦስተኛ ቀንሷል እና ጽሑፎች ይበልጥ ጠቃሚ ሆነዋል።

የተለመዱ ስህተቶች

• ማስመሰያውን በአይን መገመት፡ በተለይ በቱርክ እና በኮድ ሊሳሳቱ ይችላሉ። ለካ።
• ግብዓት እና ውፅዓት ተመሳሳይ ናቸው ብለን ካሰብን: ውፅዓት ብዙውን ጊዜ በጣም ውድ ነው; አብዛኛው ማመቻቸት የሚመጣው ውጤቱን በማሳጠር ነው።
• በአንድ ጥሪ ርካሽነት እንዳትታለሉ፡ ውሳኔው በድምጽ ነው። $0.01 × ሚሊዮን = 10,000 ዶላር።
• ከሌላ አቅራቢ ማስመሰያ ጋር መተንበይ: የተሳሳቱ ውጤቶችን ይሰጣል; የሞዴሉን ማስመሰያ ቆጠራ መሳሪያ ይጠቀሙ።
• ያልተገደበ የውይይት ታሪክ ማስፋፋት: እያንዳንዱ ዙር ወደ መግቢያው ይታከላል; ረጅም ንግግሮች ውስጥ ማጠቃለል.
• 'ከፍተኛ_ቶከን'ን ሳያስፈልግ ከፍ ማድረግ፡ የበጀት እቅዱን እና የመቁረጥን አደጋ ይደብቃል፤ ተጨባጭ ዋጋ ይስጡ.

ጠለቅ ያለ፡ የአውድ መስኮት እና ረጅም የመግቢያ ዋጋ

ዋጋው "በጥያቄው" ብቻ ሳይሆን "በውይይቱ ውስጥ" እንዴት እንደሚከማች ማየት በጣም አስፈላጊ ነው. ሞዴሉ ሊሰራበት የሚችለው አጠቃላይ የጽሑፍ መጠን የአውድ መስኮት ይባላል; የግብአት እና የውጤት ድምር በዚህ መስኮት ውስጥ መግባት አለበት። ዘመናዊ ሞዴሎች በጣም ትላልቅ መስኮቶችን (በመቶ ሺዎች, በሚሊዮኖች የሚቆጠሩ ቶከኖች) ያቀርባሉ, ነገር ግን ይህ ማለት "በመጨረሻው መሙላት" ይችላሉ ማለት አይደለም - ወደ መስኮቱ ውስጥ ያስገቡት ማንኛውም ነገር እንደ ግብአት ይከፈላል.

በረዥም ንግግሮች ውስጥ ያለው ወጥመድ ይህ ነው፡ በእያንዳንዱ አዲስ ዙር ሙሉውን ታሪክ እንደገና ይልካሉ (አገር አልባነት በክፍል 1)። በ20-ዙር ውይይት፣ 20ኛው ጥያቄ የመጀመሪያዎቹን 19 ዙሮች እንደ ግብአት ይይዛል። ስለዚህ፣ ውይይቱ እየረዘመ ሲሄድ፣ የጥያቄው ዋጋ ከመስመር ይልቅ በጥቅል ያድጋል። ከኤጀንት ረዳት ጋር ባለ 50-ዙር ውይይት የግብአት ወጪዎችን የመጀመሪያውን ዙር በደርዘን የሚቆጠሩ ጊዜዎችን ማምረት ይችላል።

ይህንን ለማስተዳደር ሁለት መንገዶች አሉ. የመጀመሪያው ድጋሚ ማድረግ ነው፡- የቆዩ ዙሮችን ወደ አንድ የድጋሚ ማገጃ መጠቅለል፣ የመጨረሻዎቹን ጥቂት ዙሮች በጥሬው በመያዝ። ሁለተኛው ፈጣን መሸጎጫ (ክፍል 6) ነው፡ ቋሚ አውድ ከዋጋው በአስረኛው ዋጋ ማንበብ ነው። አንድ ላይ ሆነው ረዣዥም አውድ-ተኮር የስራ ጫናዎች ላይ ሂሳቡን በእጅጉ ይቀንሳሉ። ስለዚህ ቶከን ኢኮኖሚክስ ስለ አጠቃላይ ክፍለ ጊዜ ንድፍ እንጂ አንድ ጥያቄ አይደለም።

በማጠቃለያው

ቶከን ጽሑፍ የሚሠራበት ትንሹ ክፍል ነው; ግብዓት እና ውፅዓት ለየብቻ ይከፈላሉ፣ እና ውፅዓት ብዙ ጊዜ በጣም ውድ ነው። ዋጋው በክፍል ዋጋ የተባዛው የቶከኖች ብዛት ነው, እና እውነተኛው ውሳኔ በድምጽ ነው. መጠየቂያውን ማሳጠር፣ ውጤቱን መገደብ እና ስራውን የሚያከናውነውን ቀላል ሞዴል መምረጥ ወጪውን ብዙ እጥፍ የሚቀንሱ በጣም ቀጥተኛ ማንሻዎች ናቸው።

የመተግበሪያ ተግባር

የእራስዎን ተግባር ይምረጡ። (1) የውክልና መጠየቂያ የግቤት እና የተገመቱ የውጤት ማስመሰያዎች ብዛት ይወስኑ (ከተቻለ በቶከን ቆጠራ መሳሪያ ይለኩ። (2) ለሶስቱ የአብነት ክፍሎች በአንድ ጥያቄ የሚወጣውን ወጪ አስሉ። (3) ዕለታዊ የጥያቄዎችዎን ብዛት ይገምቱ እና ለሶስቱ ሞዴሎች ወርሃዊ በጀት ያግኙ። (4) ውጤቱን ለማሳጠር መመሪያ ጨምር እና የሚጠበቀውን የቁጠባ መጠን ተመልከት።

የማረጋገጫ ዝርዝር

• [] የቶከኖችን ጽንሰ-ሐሳብ ማብራራት እችላለሁ እና ማስመሰያነት እንደ ሞዴል ይለያያል።
• [ ] ለምን የግቤት እና የውጤት ቶከኖች በተለያየ ዋጋ እንደሚሸጡ አውቃለሁ።
• [ ] የጥያቄውን ዋጋ በቀመርው ማስላት እችላለሁ።
• [] አብነት በመጠቀም ለአንድ የሥራ ጫና ወርሃዊ በጀት መፍጠር እችላለሁ።
• [ ] ውጤቱን የማሳጠር እና የሞዴል ቅነሳን ጥቅም በምሳሌ ማሳየት እችላለሁ።