ලාභ:
- ක්ෂණික හැඹිලියේ උපසර්ග ගැලපුම් තර්කනය පැහැදිලි කරන්න
- ස්ථාවර සන්දර්භය පළමුව සහ විචල්ය සන්දර්භය පසුව තැබීමෙන් හැඹිලි පහර වැඩි කරයි
- හැඹිලි ලිවීම/කියවීම ආර්ථික විද්යාව සහ බිඳවැටීමේ ලක්ෂ්යය ගණනය කළ හැක
LLM නිෂ්පාදනයක් මූලාකෘතියේ ලාභදායී බව පෙනේ; ඔබ පරිමාණයට ඉහළට යන විට, බිල්පත පුදුමයට පත් වේ. බොහෝ වැඩ බර වලදී, බොහෝ බිල්පත් එක් එක් ඉල්ලීම සමඟ නැවත නැවතත් යවනු ලබන එකම ස්ථාවර සන්දර්භයකින් පැමිණේ: දිගු පද්ධති විමසුමක්, රීති පොතක්, විමර්ශන ලියකියවිලි. ක්ෂණික හැඹිලිය මෙම නාස්තිය හරියටම ඉවත් කරයි. මෙම ඒකකය තුළ, හැඹිලිය ක්රියා කරන ආකාරය, පහර දීමට ප්රේරකය සකස් කරන්නේ කෙසේද සහ හැඹිලි ආර්ථිකයේ බිඳවැටීමේ ලක්ෂ්යය ගණනය කරන්නේ කෙසේද යන්න ඔබ ඉගෙන ගනු ඇත. නිවැරදිව ස්ථාපනය කළ විට, එය පමණක් ඔබේ බිල අඩකින් හෝ ඊටත් වඩා අඩු කළ හැක.
Cache වැඩ කරන්නේ කෙසේද? එක වෙනස් කළ නොහැකි රීතිය
ක්ෂණික හැඹිලි කිරීම උපසර්ග ගැලපීමකි. සපයන්නා ඔබේ විමසුම ආරම්භයේ සිට එය සැකසූ ටෝකන තාවකාලිකව ගබඩා කරයි. ප්රේරකය ඊළඟ ඉල්ලීමෙහි එකම උපසර්ගය සමඟ ආරම්භ වන්නේ නම්, මෙම පොදු කොටස නැවත ගණනය නොකෙරේ; එය හැඹිලියට වඩා කියවීමට වඩා බෙහෙවින් ලාභදායී වේ.
මෙයින් එක් වෙනස් කළ නොහැකි රීතියක් අනුගමනය කරයි: උපසර්ගයේ ඕනෑම තැනක තනි බයිටයක් වෙනස් වුවහොත්, එතැන් සිට සම්පූර්ණ හැඹිලිය අවලංගු වේ. එනම් ස්ථාවර අන්තර්ගතය ආරම්භයේ තිබිය යුතු අතර විචල්ය අන්තර්ගතය අවසානයේ තිබිය යුතුය. ඔබ "අද දිනය: 18.07.2026" වැනි එක් එක් ඉල්ලීම සමඟ වෙනස් වන රේඛාවක් පද්ධති විමසුමේ ආරම්භයේ තැබුවහොත්, එහි පිටුපස ඇති සියල්ලට හැඹිලිය ඇතුළු කිරීමට නොහැකි වනු ඇත.
සැකසුම් අනුපිළිවෙල සාමාන්යයෙන් වේ: මෙවලම් → පද්ධති විමසුම → පණිවිඩ. ඔබ ස්ථාවර කොටසේ අවසානයේ හැඹිලි ලක්ෂ්යය (බ්රේක්පොයින්ට්) දමන්න.
හැඹිලි ආර්ථිකය
හැඹිලියට මිල මට්ටම් තුනක් ඇත:
- හැඹිලි ලිවීම: පළමු වරට ගබඩා කිරීම. ~1.25x සාමාන්ය ආදාන මිල (විනාඩි 5 ක ගබඩාව සඳහා).
- හැඹිලිය කියවීම: පසු ඉල්ලීම් මත කියවීම. සාමාන්ය ආදාන මිල මෙන් ~0.1 ගුණයක් - එනම් දහයෙන් එකකි.
- සාමාන්ය ආදානය: හැඹිලියට ඇතුළු නොවන සහ සෑම අවස්ථාවකම සම්පූර්ණ වියදමින් සකසන කොටස.
බිඳීමේ ලක්ෂ්යය: පළමු ඉල්ලීම ලිවීමේ වාරිකය (1.25×) ගෙවයි. දෙවන ඉල්ලීමෙන්, කියවීම (0.1×) ක්රියාත්මක වේ. දළ වශයෙන්, ඔබ ඉල්ලීම් දෙකක් මත බෙල්ල සහ බෙල්ල වනු ඇත; ඊට පසු, එය ශුද්ධ ඉතුරුම් වේ. ස්ථාවර සන්දර්භය විශාල වන අතර එය නැවත භාවිතා කරන ඉල්ලීම් වැඩි වන තරමට ලාභය විශාල වේ.
දර්ශනය
හැඹිලිය වැඩ කරන්නේද?
විශාල ස්ථාවර පද්ධති කඩිනම්, ඉල්ලීම් දහස් ගණනක්
ඔව් - ඉහළම ඉපැයීම්
එකම යොමු ලේඛනවල බොහෝ ප්රශ්න
ඔව්
එක් එක් ඉල්ලීම සඳහා සම්පූර්ණයෙන්ම වෙනස් කෙටි පෙළ
නැත - ලිවීමේ ප්රසාද දීමනාව අපතේ යයි
එක් වරක් ඉල්ලීමක්
නැත - කිසිසේත් කියවීමක් නැත
පද්ධති විමසුමේදී එක් එක් ඉල්ලීම සමඟ දිනය/ID වෙනස් වේ
නැත - උපසර්ගය කැඩී ඇත, පහර බිංදුවයි
පියවරෙන් පියවර: Hit Prompt එකක් සකසන්නේ කෙසේද?
- නියත සහ විචල්ය වෙන් කරන්න. කිසි විටෙකත් වෙනස් නොවන අන්තර්ගතය (පද්ධති විමසුම, රීති පොත, ලේඛනගත කිරීම)? එක් එක් ඉල්ලීම (පරිශීලක ප්රශ්නය, දිනය, හැඳුනුම්පත) සමග කුමන වෙනස් වේද?
- නියතය මුලට දමන්න. සැකසීමේදී, මුලින්ම එන කොටස (මෙවලම්, පද්ධතිය) ස්ථාවර විය යුතුය.
- variable එක අන්තිමට දාන්න. පරිශීලකයාගේ වත්මන් ප්රශ්නය, අවසාන.
- මායිමේ කෙළවරේ ලකුණ තබන්න. ස්ථාවර කොටසෙහි අවසාන කොටසෙහි හැඹිලි ලක්ෂ්යය දමන්න.
- පහරදීම තහවුරු කරන්න. ප්රතිචාරයේ භාවිත ක්ෂේත්රයේ cache_read_input_tokens ශුන්යයට වඩා වැඩිදැයි පරීක්ෂා කරන්න. ශුන්ය නම්, උපසර්ගයේ සැඟවුණු බාධාවක් ඇත.
{ "පද්ධතිය": [ { "type": "text", "text": "{{large_constant_system_promptu_and_rules}}", "cache_control": { "type": "ephemeral" } } ], "පණිවිඩ": [ { "role": "user", "{quesertion}_" ]}
ඉඟිය: හැඹිලි පහරවල් අනුමාන නොකරන්න, ඒවා මැන බලන්න. Use.cache_read_input_tokens අඛණ්ඩ ඉල්ලීම් මත තවමත් ශුන්ය නම්, නිහඬ කඩනයක් (datetime.now() පද්ධති විමසුමේදී, ඇණවුම් නොකළ JSON, එක් එක් ඉල්ලීම සමඟ වෙනස් වන මෙවලම් ලැයිස්තුව) ක්රියාත්මක වේ. ඉල්ලීම් දෙකේ raw prompt එක byte byte සසඳා වෙනස සොයා ගන්න.
නිහඬ බාධා කරන්නන්
නොදැනුවත්වම හැඹිලිය දූෂිත කරන සාමාන්ය රටා:
# BREAKER: "අද දිනය: {{දැන්}} එක් එක් ඉල්ලීම සමඟින් වෙනස් වන තොරතුරු පද්ධති විමසුමෙහි කාවැද්දීම. ඔබ සහායකයෙකි..." ← එක් එක් ඉල්ලීම සමඟ උපසර්ගය වෙනස් වේ, පහර ශුන්ය වේ# සත්ය: විචල්යය පණිවිඩ පද්ධතියට ගෙන යන්න: "ඔබ සහායකයෙකි..." ← නියතය cachemesso වලට ඇතුල් වේ. ප්රශ්නය: ..."}] ← අවසානයේ විචල්යය
අනෙකුත් බ්රේකර්: JSON එක් එක් ඉල්ලීම මත වෙනස් ලෙස වර්ග කර ඇත (යතුරු ස්ථාවර අනුපිළිවෙලෙහි තබා ගන්න), පරිශීලකයා අනුව වෙනස් වන මෙවලම් ලැයිස්තුව (මෙවලම් පළමුව සකසනු ලැබේ; ඒවා වෙනස් වුවහොත් කිසිවක් හැඹිලියට නොයනු ඇත), ආකෘතිය මැද සංවාදය වෙනස් කිරීම (හැඹිලි විශේෂිත වේ).
දුර්වල ක්ෂණික / ශක්තිමත් විමසුම (හැඹිලි හිතකාමී ව්යුහය)
# දුර්වල (හැඹිලි බිඳ දැමීමේ ගොඩනැගීම) පද්ධතිය: "දිනය: 2026.07.18 14:32. පරිශීලක: Ahmet (id 8842). ඔබ ආධාරක බොට් වේ. රීති: ...(ටෝකන 2000)..."
# STRONG (හැඹිලි-හිතකාමී ව්යුහය)පද්ධතිය: "ඔබ ආධාරක බොට් එකකි. රීති: ...(2000 ටෝකන, කිසිදා වෙනස් නොවේ)..." [හැඹිලි ලකුණ]පණිවිඩ: [ { භූමිකාව: පරිශීලක, අන්තර්ගතය: "දිනය: 18.07.2026 14:32. පරිශීලක හැඳුනුම්පත: 8842. ප්රශ්නය: මම ආපසු ලබා දෙන්නේ කෙසේද?" }]
දුර්වල අනුවාදයේ, ටෝකන 2000 ක රීති බ්ලොක් එක එක් එක් ඉල්ලීම මත සම්පූර්ණ වියදමින් සකසනු ලැබේ. ශක්තිමත් අනුවාදයේ, එකම බ්ලොක් එක වරක් ලියා ඇති අතර මිලෙන් දශමයක් සඳහා සියලු පසුකාලීන ඉල්ලීම් මත කියවනු ලැබේ.
කුඩා නඩු තුනක්
නඩුව 1 - රීති පොත හැඹිලිගත කිරීම. ගිණුම්කරණ ස්වයංක්රීයකරණයක් සෑම ඉන්වොයිසියකටම 12,000 ටෝකන් රීති පොත එක් කරයි; දිනකට ඉල්ලීම් 5,000 ක්. හැඹිලි රහිත ආදානය සඳහා දිනකට ඩොලර් 180ක් වැය වේ. ඔවුන් රීති පොත ස්ථාවරව තබා එය හැඹිලිගත කර ඇත: පළමු ඉල්ලීම් ලිවීමේ වාරිකයක් ගෙවා, පසුව කියවීම් 0.1×. ආදාන පිරිවැය දිනකට ~$18 දක්වා ~90% පහත වැටුණි.
නඩුව 2 - සැඟවුණු දින රේඛාවේ පිරිවැය. එක් කණ්ඩායමක් හැඹිලියක් සැකසූ නමුත් කිසිදු පහරක් නොලැබුණි; cache_read_input_tokens සැමවිටම ශුන්ය විය. හේතුව: පද්ධති විමසුමේ පළමු පේළියේ datetime.now() තිබුණා, එක් එක් ඉල්ලීම සමඟ උපසර්ගය වෙනස් විය. අපි දිනය පරිශීලක පණිවිඩයට ගෙන ගිය විට, පහර අනුපාතය හදිසියේම 0% සිට 94% දක්වා වැඩි විය.
නඩුව 3 - අස්ථානගත වූ හැඹිලිය. සෙවුම් යෙදුමක් එක් එක් ඉල්ලීම සමඟ සම්පූර්ණයෙන්ම වෙනස් කෙටි විමසුම් යවමින් සිටියේය; ඔවුන් උනන්දුවෙන් හැඹිලි ලකුණක් එකතු කළා. පොදු උපසර්ගයක් නොමැතිව, සෑම ඉල්ලීමකටම ලිවීමේ වාරිකයක් පමණක් ගෙවා ඇත, කියවීම් නොමැත - පිරිවැය වැඩි කිරීම. ඔවුන් ලකුණ ඉවත් කළා. පාඩම: හැඹිලිය ගෙවනු ලබන්නේ නැවත භාවිතා කරන විශාල සහ නියත උපසර්ගයක් තිබේ නම් පමණි.
පොදු වැරදි
- නියත සහ විචල්ය මිශ්ර කිරීම: විචල්ය අන්තර්ගතය උපසර්ගයේ ඇති විට, පහර නැවත සකසනු ලැබේ.
- පද්ධති විමසුමේ දිනය/ID කාවැද්දීම: වඩාත් පොදු නිහඬ බාධාකය.
- පහර මැනීම නොවේ: cache_read_input_tokens පරීක්ෂා නොකළහොත්, නාස්තිය නොපෙනේ.
- පොදු උපසර්ගය නොමැති විට හැඹිලි එකතු කිරීම: ඔබ ගෙවන්නේ ලිවීමේ වාරිකය පමණි, පිරිවැය වැඩිවේ.
- වාහන ලැයිස්තුව හෝ ආකෘතිය වෙනස් කිරීම: උපසර්ගය ආරම්භයේ සිට කැඩී ඇත; සියල්ල නැවත ලියා ඇත.
- අවම හැඹිලි ප්රමාණය අමතක වීම: ඉතා කෙටි හැඹිලි (ආකෘතිය අනුව ~1–4k ටෝකන යටතේ) නිහඬව හැඹිලියට ඇතුළු නොවනු ඇත.
ගැඹුරු: වැඩ බර වර්ගය අනුව හැඹිලි නිර්මාණය
හැඹිලියේ සැබෑ ගෙවීම ඔබගේ කාර්ය භාරයේ ස්වභාවය අනුව වෙනස් වේ; ඒ නිසා මුලින්ම ඔබේ ගමනාගමනය දැන ගන්න. සාමාන්ය රටා තුනක් සහ නිවැරදි ස්ථාපනය:
පොදු පද්ධති ක්ෂණික, විවිධ ප්රශ්න. වඩාත් පොදු ව්යවසාය රටාව: විවිධ පරිශීලක ප්රශ්න සිය ගණනක් සහිත විශාල පද්ධති විමසුමක් (භූමිකාව, රීති, සමහර විට යොමු ලේඛනය). මෙහිදී ස්ථාවර කොටස (පද්ධතිය) මුලින් හැඹිලිගත කර ඇත; සෑම නව ප්රශ්නයක්ම සම්පූර්ණ මිල ගෙවන්නේ එහි කුඩා කොටස සඳහා පමණි. විශාල කොටස මිලෙන් දහයෙන් පංගුවකට නැවත නැවත කියවන නිසා ලාභය ඉතා ඉහළ ය.
බහු-වටයේ ඒකපුද්ගල කථාව. සංවාදයක් ඇදී යන විට, සෑම නව වටයක්ම පෙර ඉතිහාසය මත ගොඩනැගේ. ඔබ අවසන් වටයේ අවසානයේ හැඹිලි ධජය තැබුවහොත්, සෑම ඉල්ලීමක්ම පෙර සංවාද උපසර්ගය නැවත භාවිතා කරයි; සංවාදය වර්ධනය වන විට පහර එකතු වේ. මෙය දිගු සහකාර සැසිවල පිරිවැය නාටකාකාර ලෙස පාලනය කරයි.
හවුල් උපසර්ගය වෙනස් කළ යුතු අවසාන ටිකයි. බහු ඉල්ලීම් විශාල ස්ථාවර පෙරහුරු කට්ටලයක් (නියැදි කට්ටලය, උපදෙස්) බෙදා ගන්නා නමුත් අවසානයේ තනි ප්රශ්නයකින් වෙන් කරනු ලැබේ. ඔබ කෑෂ් පොයින්ටරය බෙදාගත් කොටසේ කෙළවරට දමන්න; එසේ නොමැතිනම්, සෑම ඉල්ලීමක්ම තමන්ගේම වෙනම හැඹිලියක් ලියන අතර එය කිසිවක් කියවිය නොහැක.
එක් අවවාදයක්: හැඹිලිය ආකෘතිය සහ නිශ්චිත අවම ප්රමාණය මත රඳා පවතී. ඉතා කුඩා උපසර්ග (ආකෘතිය මත පදනම්ව, ටෝකන දහස් ගණනක් යටතේ) ඔබ ඒවා සලකුණු කළත් නිහඬව හැඹිලියට ඇතුළු නොවනු ඇත - cache_creation_input_tokens ශුන්යව පවතී. එසේම, ආකෘතිය මැද සංවාදය වෙනස් කිරීම සම්පූර්ණ හැඹිලිය අවලංගු කරයි; වෙනත් කාර්යයක් සඳහා ලාභ ආකෘතියක් අවශ්ය නම්, ප්රධාන ප්රවාහය එක් ආකෘතියක් තුළ තබාගෙන පැත්තේ රැකියාව වෙනම ඇමතුමකට දමන්න.
සාරාංශයක් ලෙස
ඉක්මන් හැඹිලි කිරීම උපසර්ග ගැලපීමකි: ස්ථාවර අන්තර්ගතය ආරම්භයේ තිබිය යුතුය, විචල්ය අන්තර්ගතය අවසානයේ තිබිය යුතුය. විශාල, නැවත භාවිතා කරන ලද සන්දර්භයක් සඳහා, කියවීමේ පිරිවැය සම්පූර්ණ මිලෙන් දහයෙන් පංගුවකි, දළ වශයෙන් ඉල්ලීම් දෙකකින් පවා කැඩී යයි. වඩාත්ම පොදු වැරැද්ද නම් පද්ධති විමසුමේ විචල්ය දත්ත කාවැද්දීම මගින් උපසර්ගය දූෂිත කිරීමයි; භාවිත ක්ෂේත්රය තුළ එය මැනීමෙන් ඔබ පහර සත්යාපනය කරයි.
යෙදුම් කාර්යය
වැඩ බරක් තෝරන්න. (1) අන්තර්ගතය තීරු දෙකකට බෙදන්න: "කිසි විටෙකත් වෙනස් නොවේ" සහ "සෑම ඉල්ලීමක් සමඟම වෙනස් වේ". (2) නියත කොටස ආරම්භයේ ද විචල්ය කොටස අවසානයේ ද තබමින් ප්රවේග ව්යුහය නැවත අඳින්න. (3) ස්ථාවර කොටසෙහි ටෝකන ප්රමාණය ඇස්තමේන්තු කර මාසික පිරිවැය හැඹිලිය සමඟ/ රහිතව සංසන්දනය කරන්න. (4) ඔබ පහර දීම සත්යාපනය කරන්නේ කුමන ක්ෂේත්රයෙන්ද (cache_read_input_tokens) සටහන් කරන්න.
පිරික්සුම් ලැයිස්තුව
- [ ] හැඹිලිය උපසර්ග ගැලපීම සහ එකම වෙනස් කළ නොහැකි රීතිය බව මට පැහැදිලි කළ හැකිය.
- [ ] ස්ථාවර අන්තර්ගතය ආරම්භයේ සහ විචල්යය අවසානයේ තැබීමෙන් මට නිරවද්යතාවය වැඩි කළ හැකිය.
- [ ] මම ආර්ථික විද්යාව ලිවීම/කියවීම සහ ඉල්ලීම් දෙකේ කඩඉම් ලක්ෂ්යය දනිමි.
- [ ] මට නිහඬ බාධාවන් හඳුනා ගත හැක (දිනය, ඇණවුම් නොකළ JSON, වාහන ලැයිස්තුව වෙනස් කිරීම).
- [ ] මට usage.cache_read_input_tokens සමඟ පහර සත්යාපනය කළ හැක.