ලාභ:
- කුමන කාර්ය භාර කාණ්ඩ සැකසීම සුදුසු දැයි තීරණය කරයි
- සමමුහුර්ත, අසමමුහුර්ත සහ කණ්ඩායම් සැකසුම් අතර පිරිවැය/ප්රමාද හුවමාරුව තේරුම් ගනී
- custom_id ප්රතිඵලවලට ගැළපෙන ශක්තිමත් කණ්ඩායම් කාර්ය ප්රවාහයක් සැලසුම් කරයි
බොහෝ LLM ඒකාබද්ධ කිරීම් පරිශීලකයෙකු තිරයක් ඉදිරිපිට ප්රතිචාරයක් බලාපොරොත්තුවෙන් සිටින “සජීවී” අවස්ථා කෙරෙහි අවධානය යොමු කරයි. නමුත් බහුතරයක් වෘත්තීය වැඩ බර ඇත්ත වශයෙන්ම සජීවී නොවේ: ලේඛන දහස් ගණනක් එක රැයකින් ටැග් කිරීම, සම්පූර්ණ දත්ත කට්ටලයක් සාරාංශ කිරීම, ලේඛනාගාරයේ සම්පූර්ණ ඇමතුම් පටිගත කිරීම් වර්ග කිරීම. මෙම කාරණාවලදී, කිසිවෙකු ක්ෂණික පිළිතුරක් අපේක්ෂා නොකරයි; වැදගත්ම දෙය නම් කාර්යය ලාභදායී හා විශ්වාසදායක ලෙස නිම කිරීමයි. Batch හරියටම මේ වැඩ බර වලට. මෙම ඒකකය තුළ, ඔබ සමමුහුර්ත, අසමමුහුර්ත සහ කණ්ඩායම් සැකසුම් අතර වෙනස ඉගෙන ගනු ඇත, කණ්ඩායම නිවැරදි තේරීම වන විට, සහ custom_id සහ ප්රතිඵල විශ්වාසයෙන් ගැලපෙන ශක්තිමත් ප්රවාහයක්.
වැඩ ආකාර තුනක්
මාදිලිය
කොහොමද වැඩ කරන්නේ
ප්රමාදය
සාමාන්ය පිරිවැය
සුදුසු රැකියාව
සමමුහුර්ත
ඔබ ඉල්ලීමක් කර ප්රතිචාරය සඳහා රැඳී සිටින්න
තත්පර
සම්මතය
සජීවී කතාබස්, ක්ෂණික සහායක
අසමමුහුර්ත
ඔබ කාර්යය පෝලිම් කර එය අවසන් වූ විට දැනුම් දෙනු ලැබේ.
තත්පර - මිනිත්තු
සම්මතය
පසුබිම් කාර්යයන්, ස්වයංක්රීය පියවර
කණ්ඩායම
එක් පැකේජයක් තුළ ඉල්ලීම් දහස් ගණනක් යවයි, පසුව ප්රතිඵල ලබා ගනී
මිනිත්තු - පැය
සාමාන්යයෙන් වට්ටම්
ඉහළ පරිමාවක් ඇති, ප්රමාදයට ඔරොත්තු දෙන රැකියා
කණ්ඩායම් සැකසීම මෙයයි: ඔබ සැපයුම්කරුට තනි "රැකියාවක්" ලෙස ඉල්ලීම් සිය ගණනක්/දහසක් යවයි; සපයන්නා ඒවා ස්වකීය වේගයකින් ක්රියාවට නංවන අතර සම්පූර්ණ කළ පසු සියලු ප්රතිඵල තොග වශයෙන් ලබා දෙයි. ආපසු ඔබට කරුණු දෙකක් ලැබේ: (1) සාමාන්යයෙන් අඩු ඒකක පිරිවැය, (2) වේග සීමාවන් සමඟ ගනුදෙනු නොකර ඉහළ පරිමාවක් ගෙනයාමේ හැකියාව. මිල වන්නේ ප්රතිඵල ක්ෂණිකව නොපැමිණෙන නමුත් ටික වේලාවකට පසුවය.
කණ්ඩායම් කළ යුත්තේ කවදාද, කවදාද?
තීරණය එක් ප්රශ්නයකට පැමිණේ: පරිශීලකයා දැන් ප්රතිඵලය බලාපොරොත්තුවෙන් සිටිනවාද?
- නැත, මට එය → කණ්ඩායම් අපේක්ෂකයා තබා ගත හැක. රාත්රී ටැග් කිරීම, කණ්ඩායම් සාරාංශ කිරීම, සංරක්ෂිත වර්ගීකරණය, දත්ත පොහොසත් කිරීම, ඇගයීම (eval) ක්රියාත්මක කිරීම.
- ඔව්, තිරය මත රැඳී සිටීම → සමමුහුර්ත කිරීම. සජීවී කතාබස්, ක්ෂණික උපදෙස්, පෝරම පිරවීමේදී උදව් කරන්න.
ඉඟිය: එකම නිෂ්පාදනයේ මාතයන් දෙකක් එකට පැවතිය හැක. පරිශීලකයා සජීවී කතාබස් තුළ සමමුහුර්තව ක්රියා කරයි; රාත්රියේදී, ඔබ එම දවසේ සියලුම සංවාද ගුණාත්මක විශ්ලේෂණය සඳහා batch වෙත ලබා දෙයි. "ජීවන අවශ්යතාවය" "සාමූහික අවශ්යතාවයෙන්" වෙන් කිරීම වාස්තු විද්යාවේ පළමු තීරණයයි.
ශක්තිමත් කණ්ඩායම් ප්රවාහයේ ව්යුහ විද්යාව
කණ්ඩායම් සැකසීමේ වැදගත්ම තාක්ෂණික රීතිය වන්නේ ප්රතිඵල ගැලපීමයි.
- සෑම ඉල්ලීමකටම අනන්ය `අභිරුචි_id` දෙන්න. ඉල්ලීම හඳුනා ගන්නා ඔබේ ජනනය කළ හැඳුනුම්පත මෙයයි (උදා. ඉන්වොයිසිය-2026-07-18-000431).
- කාර්යය ඉදිරිපත් කරන්න. සියලුම ඉල්ලීම් එක් පැකේජයකට යයි; සෑම එකක්ම තමන්ගේම custom_id සමඟින්.
- තත්වය විමසන්න. කාර්යය "ඉවත්" වන තුරු ඔබ කාල අන්තරවල තත්ත්වය ඉල්ලා සිටියි.
- ප්රතිඵල `අභිරුචි_id` සමඟ ගළපන්න. ප්රතිඵල ඉදිරිපත් කිරීමේ නියෝගයට වඩා වෙනස් අනුපිළිවෙලකින් ආපසු ලබා දිය හැක; එබැවින් කිසිවිටෙක පිහිටීම අනුව නොගැලපෙන නමුත් custom_id මගින් සෑම ප්රතිඵලයක්ම දරයි.
- එක් එක් ප්රතිඵලයේ වර්ගය පරීක්ෂා කරන්න. එක් ඉල්ලීමක් සාර්ථක විය හැකිය, එකක් අසාර්ථක විය හැකිය, එකක් කල් ඉකුත් විය හැකිය. සාර්ථකත්වය / අසාර්ථකත්වය මත පදනම් වූ ක්රියාවලිය.
{ "ඉල්ලීම්": [ { "custom_id": "invoice-000431", "params": { "model": "claude-haiku-4-5", "max_tokens": 128, "පද්ධතිය": "ඉන්වොයිසිය වර්ග කරන්න. JSON පමණක් ආපසු දෙන්න.", "පණිවිඩ": "{"පණිවිඩ": "පණිවිඩ" "{{invoice_text}}" } } }, { "custom_id": "invoice-000432", "params": { "model": "claude-haiku-4-5", "max_tokens": 128, "system": "Classify Invoice:" Return "Invoice:" "පරිශීලක", "අන්තර්ගතය": "{{invoice_text_2}}" }] } } ]}
අවවාදයයි: ඉදිරිපත් කිරීමේ අනුපිළිවෙල මත පදනම්ව ප්රතිඵල ගැලපීම බැච් කිරීමේ අංක එකේ වැරැද්දයි. පෝලිම සංරක්ෂණය කර නැත. custom_id නොමැතිව කුමන ප්රතිඵලය කුමන ලේඛනයට අයත් දැයි ඔබට විශ්වාසයෙන් දැනගත නොහැක - වැරදි ගැලපීම නිහඬව වැරදි දත්ත වලට මග පාදයි.
පිටපත් කළ හැකි සැකිලි
# අභිරුචි_id උත්පාදන රීතිය (අද්විතීය සහ සොයා ගත හැකි) ආකෘතිය: <isture>-<date>-< අනුපිළිවෙල>. නිදසුන: ඉල්ලීම-20260718-000431නීතිය: කිසිවිටකත් වැඩ නැවත නොකරන්න; එහි සම්පත් වාර්තා හැඳුනුම්පත ඇතුළත් කරන්න.
# කාණ්ඩ රැකියා කාඩ්පත (කාලසටහන් සැකිල්ල)රැකියා නම: .............වාර්තා ගණන: .............ආකෘතිය: ............. (සරල රැකියාව → වේගවත් ආකෘතිය)ඉල්ලීම අනුව උපරිම_ටෝකන: .............අපේක්ෂිත බෙදාහැරීමේ කාලය ඉවසීම: ......... පැයප්රතිඵල ගැලපුම් යතුර: custom_id දෝෂයක් ඇති වුවහොත්: පෝලිම / වාර්තා කිරීම / නැවත උත්සාහ කරන්න
# කාණ්ඩයේ තනි ඉල්ලීම් විමසුම (කෙටි සහ ක්රමානුකුල)මෙම ලේඛනය වර්ග කරන්න. මෙම JSON ආපසු එවන්න, අදහස් දක්වමින්:{"category":"...","urgency":"low|medium|high"}ලේඛනය: """{{document}}"""
# එක් එක් ප්රතිඵලය සඳහා ප්රතිඵල සැකසීම ව්යාජ-කේතය: if result.status == "සාර්ථකත්වය": වාර්තා = find(custom_id) save(record, result.output) වෙනත් ආකාරයකින්: add_to_fail(custom_id, result.error) # ඉන්පසු නැවත උත්සාහ කරන්න
දුර්වල කඩිනම් / ශක්තිමත් කඩිනම් (කණ්ඩායම් රැකියා නිර්මාණය)
# දුර්වල (බිඳෙනසුලු නිර්මාණය) ශක්තිමත් ආකෘතිය සමඟ පිළිවෙලට ලේඛන 10,000 ක් යවන්න, ආපසු ලැබෙන ප්රතිඵල ඔවුන් පැමිණෙන අනුපිළිවෙලෙහි සුරකින්න.
# STRONG (කල්පවත්නා නිර්මාණය) වේගවත් ආකෘතියක් සමඟ එක් කණ්ඩායමකට ලේඛන 10,000 ක් යවන්න. සෑම ලේඛනයකටම මූලාශ්ර-වාර්තා හැඳුනුම්පත අඩංගු අද්විතීය අභිරුචි_id ලබා දෙන්න. custom_id සමඟ ප්රතිඵල ගළපන්න; අසාර්ථක වූ ඒවා පෝලිම් කර නැවත උත්සාහ කරන්න. රාත්රී කවුළුව තුළ ධාවනය කරන්න; බෙදා හැරීමේ ඉවසීම පැය 6 යි.
බලවත් අනුවාදය; එය ආදර්ශ තේරීම, ගැළපෙන යතුර, දෝෂ හැසිරවීම සහ වේලාව පූර්ව නිර්වචනය කරයි. වාර්තා දස දහස් ගණනක් ආරක්ෂිතව සැකසීමේ වෙනස මෙයයි.
කුඩා නඩු තුනක්
නඩුව 1 - රාත්රී ටැග් කිරීම. ඊ-වාණිජ්යය කණ්ඩායමක් නිෂ්පාදන සමාලෝචන 200,000 ක් හැඟීම් ටැග් වලට වර්ග කරයි. සජීවී සමමුහුර්ත ප්රවාහය වේග සීමාවන්ට යටත් වූ අතර මිල අධික විය. ඔවුන් වේගවත් ආකෘතියක් සහිත කණ්ඩායමක් ලෙස රාත්රිය දක්වා කාර්යය ගෙන ගියහ; ඒකක පිරිවැය අඩු විය, මුළු කට්ටලයම උදෑසන සූදානම් විය, වේග සීමා ගැටළු නොමැත.
නඩුව 2 - ඇණවුම් ව්යාකූලත්වය. පර්යේෂණ කණ්ඩායම් කණ්ඩායමක් ලිපි 5,000ක් සාරාංශ කළ නමුත් ප්රතිඵල ඔවුන් පැමිණි අනුපිළිවෙලට ලිපිගොනුවලට ලිවීය. ප්රතිඵල වෙනත් අනුපිළිවෙලකට ආපසු ලබා දුන් නිසා, සාරාංශ 5,000 න් 900 ක් වැරදි ලිපියට සම්බන්ධ කර ඇත. ඔවුන් එය custom_id වෙත නැවත සකස් කළා; ගැටළුව විසඳන ලද අතර මෙම අත්දැකීම ස්ථිර රීතියක් බවට පත් විය: "සැමවිටම custom_id කණ්ඩායම තුළ."
නඩුව 3 - වැරදි ආකාරයෙන් සජීවී පොරොත්තුවෙන් සිටීම. සහායක කණ්ඩායමක් තිරය මත පරිශීලකයා අපේක්ෂා කරන සජීවී ප්රතිචාර සමූහයක් ලබා දීමට උත්සාහ කළේය; ප්රතිඵල විනාඩි ගණනකට පසුව පැමිණි නිසා පරිශීලකයන් අතහැර දමා ඇත. ඔවුන් සජීවී කාර්යය නැවත සමමුහුර්තකරණය වෙත ගෙන ගිය අතර, කණ්ඩායම තුළ රාත්රී තත්ත්ව විශ්ලේෂණය පමණක් ඉතිරි කර ඇත. පාඩම: කණ්ඩායම සජීවී පොරොත්තු සඳහා නොවේ.
පොදු වැරදි
- ස්ථානය අනුව ප්රතිඵල ගැලපීම: ඇණවුම සංරක්ෂණය කර නැත; custom_id භාවිතා කරන්න.
- කණ්ඩායමට සජීවී රැකියාව මාරු කිරීම: පරිශීලකයාට විනාඩි ගණනක් බලා සිටිය නොහැක; කණ්ඩායම ප්රමාද ඉවසන රැකියා සඳහා ය.
- දෝෂ අවස්ථා හසුරුවා නොගැනීම: සමහර ඉල්ලීම් අසාර්ථක වූ/කල් ඉකුත් වූ ඒවා විය හැක; එය වෙනම පෝලිමක තබා නැවත උත්සාහ කරන්න.
- කණ්ඩායම තුළ ප්රබල මාදිලි භාවිත ප්රතීකයක්: වේගවත් මාදිලිය + කණ්ඩායම සරල රැකියා වල ලාභම සංයෝජනයයි.
- අභිරුචි_id සොයා ගත නොහැකි බවට පත් නොකිරීම: ID තුළ මූලාශ්ර වාර්තාවක් කාවැදී නොමැති නම්, ප්රතිඵලය නැවත සම්බන්ධ කිරීම අපහසු වේ.
- තත්ත්වය පරීක්ෂා කිරීමට අමතක වීම: කාර්යය අවසන් වීමට පෙර ප්රතිඵල අපේක්ෂා කිරීම; සම්පූර්ණ කිරීමේ තත්ත්වය පරීක්ෂා කරන්න.
ගැඹුරු: අධීක්ෂණ කණ්ඩායම සහ අර්ධ අසාර්ථකත්වය කළමනාකරණය කිරීම
කණ්ඩායම් සැකසීමේ වඩාත්ම පරිණත අංගය නම් එයට තනි ඇමතුම්වලට වඩා වෙනස් මානසිකත්වයක් අවශ්ය වීමයි: කණ්ඩායම් කාර්යයක් යනු "ක්රියාවලියක්" මිස "සිදුවීමක්" නොවේ. දස දහස් ගණනක් ඉල්ලීම් සියල්ල සාර්ථක වනු ඇතැයි උපකල්පනය කිරීම බිඳෙන සුළුය; යථාර්ථවාදී නිර්මාණය ආරම්භයේ සිටම අර්ධ අසාර්ථකත්වය පිළිගනී. එක් එක් ප්රතිඵලයේ තත්ත්වය වෙනස් විය හැක: සාර්ථක, අසාර්ථක (උදා. වලංගු නොවන ආදානය), අවලංගු කරන ලද හෝ කල් ඉකුත් වූ. ශක්තිමත් ප්රවාහයක් එය හරහා ගමන් කරන විට එක් එක් ප්රතිඵලයේ තත්ත්වය වෙන වෙනම ක්රියාවට නංවයි, අසාර්ථකත්වයන් වෙනම "නැවත උත්සාහ කරන පෝලිමකට" දමා එම පෝලිම වෙන වෙනම ධාවනය කරයි.
දෙවෙනි පරිචය නම් දුර්වලතාවය සඳහා සැලසුම් කිරීමයි (එකම කාර්යය දෙවරක් ධාවනය කිරීමෙන් කිසිදු හානියක් සිදු නොවේ). කණ්ඩායමකට බාධා ඇති වී ඔබ එය නැවත ආරම්භ කරන්නේ නම්, ඔබ නැවත සකස් නොකළ යුතු අතර දැනටමත් සැකසූ වාර්තා මෙන් දෙගුණයක් ලියන්න. ඔබේ මූලාශ්ර වාර්තාවට custom_id බැඳීම මෙහිද ක්රියා කරයි: "මෙම වාර්තාව දැනටමත් සකසා තිබේද?" ප්රතිඵලය සුරැකීමට පෙර. පරීක්ෂා කිරීම ද්විත්ව ටයිප් කිරීම වළක්වයි.
තුන්වන කරුණ නම් කණ්ඩායම සමඟ සජීවී ප්රවාහයන් එකතැන පල් කිරීමයි. සමහර රැකියාවලට සජීවී සහ කණ්ඩායම් මානයන් දෙකම ඇත: පරිශීලකයා ලේඛනයක් පූරණය කරන විට, ඔබ ඔවුන්ට ඉක්මන් මූලික සාරාංශයක් (සමමුහුර්ත) ලබා දෙන අතර රාත්රියේ ගැඹුරු විශ්ලේෂණය සඳහා එම ලේඛනය නැවත සකසන්න (කණ්ඩායම). මෙම මාතයන් දෙක දැනුවත්ව වෙන් කිරීම පරිශීලක අත්දැකීම සහ පිරිවැය යන දෙකම ප්රශස්ත කරයි.
අවසාන වශයෙන්, batching යනු වේග සීමාවන් (ඒකක 8) සමඟ කටයුතු කිරීමට ද මාර්ගයකි. සජීවී සමමුහුර්ත ප්රවාහයේ ඉහළ පරිමාවක් යැවීම නියත 429ක් නිපදවන අතර, කණ්ඩායම් මාරුවීම් වෙත එම පරිමාවම යැවීම සැපයුම්කරුගේම කාලසටහනට පීඩනය සීමා කරන අතර කාර්යය වඩාත් පුරෝකථනය කළ හැකි කරයි.
සාරාංශයකින්
කාණ්ඩ සැකසීම සාමාන්යයෙන් ප්රමාදයට ඔරොත්තු දෙන සහ ඉහළ පරිමාවේ වැඩ බර සඳහා ලාභදායී සහ වඩා ශක්තිමත් මාදිලියකි. ඔහුගේ තීරණය වූයේ "පරිශීලකයා දැන් ප්රතිඵලය එනතුරු බලා සිටිනවාද?" ප්රශ්නය තීරණය කරයි. වඩාත්ම තීරණාත්මක තාක්ෂණික රීතිය වන්නේ සෑම ඉල්ලීමකටම අනන්ය custom_id ලබා දීම, ස්ථානයට වඩා ID අනුව ප්රතිඵල ගැලපීම සහ එක් එක් ප්රතිඵලයේ සාර්ථකත්වය/අසාර්ථකත්වය වෙන වෙනම සැලකීමයි.
යෙදුම් කාර්යය
ඉහළ පරිමා රැකියාවක් තෝරන්න (උදා: සංරක්ෂිත වර්ගීකරණය). (1) මෙම කාර්යය සජීවී ද සාමූහික ද යන්න තීරණය කර එය සාධාරණීකරණය කරන්න. (2) custom_id ආකෘතියක් සැලසුම් කරන්න (සම්පත් වාර්තාව ඇතුලත් කරන්න). (3) කාණ්ඩ රැකියා කාඩ්පත පුරවන්න (ආකෘතිය, max_tokens, tolerance, error policy). (4) අසාර්ථක ඉල්ලීම් ඇතුළත් කිරීම සඳහා ප්රතිඵල සැකසීමේ ව්යාජ කේතය ලියන්න.
පිරික්සුම් ලැයිස්තුව
- [ ] මට පිරිවැය/ප්රමාද අක්ෂය මත සමමුහුර්ත, අසමමුහුර්ත සහ කණ්ඩායම් මාතයන් වෙන්කර හඳුනාගත හැක.
- [ ] මට තීරණය කරන්න පුළුවන් ජොබ් එකක් batch එකට ගැලපෙනවද නැද්ද කියල හරි ප්රශ්නෙ අහල.
- [ ] මම සෑම ඉල්ලීමකටම අනන්ය අභිරුචි_id ලබා දෙන අතර ID අනුව ප්රතිඵල ගලපන්නෙමි.
- [ ] මට අසාර්ථක/කල් ඉකුත් වූ ප්රතිඵල වෙන වෙනම හැසිරවිය හැක.
- [ ] සරල කණ්ඩායම් රැකියා වලදී වේගවත් ආකෘතියක් තෝරාගැනීමේ ප්රතිලාභ මම දනිමි.