ලාභ:
- අදහසේ සිට නිෂ්පාදනය දක්වා LLM විශේෂාංගයක් ගෙන යන අන්තයේ සිට අවසානය දක්වා ගෘහ නිර්මාණ ශිල්පය සැලසුම් කළ හැකිය
- සත්යාපනය බලාත්මක කිරීම, මානව අනුමැතිය සහ ලුහුබැඳීම (ලොග් කිරීම/මිතික) යන ස්ථර ස්ථාපිත කරයි.
- සීමා මායිම් ආචාර ධර්ම සහ පෞද්ගලිකත්ව මූලධර්ම නිෂ්පාදන තීරණ බවට පරිවර්තනය කරයි
පෙර ඒකක දහයේ අපි කොටස් එකින් එක ඉගෙන ගත්තා: ඉල්ලීම් ව්යුහය, සංකේත ආර්ථික විද්යාව, ප්රවාහය, පද්ධති විමසුම, ආකෘති තේරීම, හැඹිලිය, කණ්ඩායම, දෝෂ කළමනාකරණය, ආරක්ෂිත යතුර සහ ස්වයංක්රීයකරණය. මෙම අවසාන ඒකකය තුළ, අපි කොටස් ඒකාබද්ධ කර අදහසේ සිට නිෂ්පාදනය දක්වා LLM විශේෂාංගයක් ගෙන යන පරිපූර්ණ ගෘහ නිර්මාණ ශිල්පය ස්ථාපිත කරමු. නිෂ්පාදනය "වැඩ කරන demo" ට වඩා වෙනස් ය: සත්යාපනය අනිවාර්ය වේ, ප්රතිදානය නිරීක්ෂණය කළ යුතුය, සීමා මායිම් සහ සදාචාරාත්මක මූලධර්ම තීරණ වල අන්තර්ගත විය යුතුය. මෙම ඒකකය මොඩියුලයේ වාහක තීරුවයි; කලින් හිටපු ඔක්කොම මෙතනට එකතු වෙනවා.
නිෂ්පාදන ගෘහ නිර්මාණ ශිල්පයේ ස්ථර
ඝන LLM සුදුසුකමක් දළ වශයෙන් ස්ථර පහකින් සමන්විත වේ:
- ආදාන ස්තරය: දත්ත එකතු කරන්න, එය පිරිසිදු කරන්න, සංවේදී ප්රදේශ ආවරණය කරන්න, අවශ්ය දේ පමණක් සම්ප්රේෂණය කරන්න.
- ආකෘති ස්ථරය: නිවැරදි ආකෘතිය තෝරන්න (ඒකකය 5), පද්ධති විමසුම සහ පරාමිතීන් සකසන්න (ඒකක 4), හැඹිලිය (ඒකකය 6).
- වලංගු ස්තරය: අවශ්ය නම් ක්රම/නීතිය, මූලාශ්රය සහ මානව අනුමැතියට එරෙහිව ප්රතිදානය පරීක්ෂා කරන්න.
- ක්රියා ස්තරය: වලංගු ප්රතිදානය සමඟ ක්රියාව සිදු කරන්න; ඉහළ බලපෑම් ක්රියා ග්රහණය කර ගන්න.
- අධීක්ෂණ ස්තරය: සෑම ඇමතුමක්ම, පිරිවැය, දෝෂ සහ ගුණාත්මකභාවය වාර්තා කර මැනීම.
මෙම ස්ථර නල මාර්ගයකි; සෑම එකක්ම පෙර එකෙහි ප්රතිදානය පරීක්ෂා කරයි.
සත්යාපනය අවශ්ය වන්නේ ඇයි?
LLM වලට චතුර නමුත් සමහර විට සාවද්ය නිමැවුම් නිපදවිය හැක. මෙය මායාව ලෙස හැඳින්වේ: ආකෘතිය මගින් සත්ය යැයි පෙනෙන නමුත් එසේ නොවන තොරතුරු ගොතනු ඇත. කතාබස් ක්රීඩාවකදී මෙය දරාගත හැකිය; නිෂ්පාදන පද්ධතියක (ඉන්වොයිසිය, සෞඛ්ය, නෛතික, මූල්ය) ඉවසිය නොහැක. එබැවින් එය අන්ධ ලෙස විශ්වාස කළ නොහැකි විය; තහවුරු වේ.
සත්යාපන ස්ථර (බලපෑමෙන් වැඩි වීම):
- ආකෘතිය/ක්රමලේඛන වලංගුකරණය: ප්රතිදානය අපේක්ෂිත JSON යෝජනා ක්රමයට අනුකූලද? (ව්යුහගත ප්රතිදානය මෙය බොහෝ දුරට සහතික කරයි.)
- රීතිය/තර්ක සත්යාපනය: අගයන් සාධාරණද? (මුදල ඍණාත්මකද, අනාගතයේ දිනයද, කාණ්ඩය වලංගුද?)
- මූලාශ්ර සත්යාපනය: හිමිකම් පෑම සපයා ඇති ලියකියවිලි මතද? ආකෘතිය කියන්නේ ලේඛනයේ නැති දෙයක්ද?
- මානව අනුමැතිය: විශේෂඥයෙක් ඉහළ බලපෑමක් ඇති හෝ අපැහැදිලි තීරණ සමාලෝචනය කරයි.
අවවාදයයි: "ආකෘතිය ඉතා හොඳයි, වැඩිදුර සත්යාපනයක් අවශ්ය නොවේ" යනු වඩාත්ම භයානක නිෂ්පාදන දෝෂයයි. කෙතරම් හොඳ ආකෘතියක් වුවද, සත්යාපන ස්තරය අධි-බලපෑම් තීරණ වලදී ආරක්ෂිත ජාලයකි. එක් වැරදි ස්වයංක්රීය තීරණයක් වුව ද ඉතිරි වූ කාලය ඉවත් කළ හැකිය.
මිනිස්-ඉන්-ද-ලූප්
සෑම තීරණයක්ම සම්පූර්ණයෙන්ම ස්වයංක්රීය විය යුතු නැත. Human-in-the-loop ප්රවේශයේදී, ආකෘතිය කාර්යය වේගවත් කරන අතර මිනිසා එය අනුමත කරයි. නිවැරදි ශේෂය තීරණයේ බලපෑම සහ එම කාර්යය මත ආකෘතියේ විශ්වසනීයත්වය මත රඳා පවතී.
තීරණයේ බලපෑම
ප්රවේශය
අඩු (ලේබල් යෝජනාව, කෙටුම්පත)
සම්පූර්ණ ස්වයංක්රීයකරණය; දෝෂය ලාභදායී වන අතර ආපසු හැරවිය හැකිය
මධ්යම (මාර්ගගත කිරීම, ප්රමුඛතාකරණය)
ස්වයංක්රීයකරණය + නියැදි පාලනය
ඉහළ (මුදල්, කොන්ත්රාත්තුව, සෞඛ්යය, මකා දැමීම)
මානව අනුමැතිය අනිවාර්ය වේ; ආකෘතිය පමණක් යෝජනා කරයි
අධීක්ෂණය: ඔබට නොපෙනෙන දේ කළමනාකරණය කළ නොහැක
නිෂ්පාදනයේදී, ඔබ සෑම ඇමතුමක්ම නිරීක්ෂණය කළ යුතුය. අධීක්ෂණයකින් තොරව, ඔබට පිරිවැය, ගුණාත්මකභාවය වැඩි දියුණු කිරීම හෝ ගැටලුවක් ඉක්මනින් අල්ලා ගත නොහැක. පටිගත කිරීමට ප්රධාන මිනුම්:
- භාවිතය/පිරිවැය: ඉල්ලීමකට සහ සම්පූර්ණ ටෝකන, ආකෘති බෙදා හැරීම, දෛනික වියදම්.
- ප්රමාදය: සාමාන්ය සහ නරකම ප්රතිචාර කාලය.
- දෝෂ අනුපාතය: 429/500 අනුපාත, නැවත උත්සාහ කිරීම්, අත්හැරීම්.
- ගුණාත්මකභාවය: සත්යාපන ස්ථරයේදී ප්රතික්ෂේප කරන ලද ප්රතිදාන අනුපාතය, මානව අනුමැතියේදී නිවැරදි කිරීමේ අනුපාතය, පරිශීලක ප්රතිපෝෂණය.
ඉඟිය: ලඝු-සටහන් නිරීක්ෂණය කිරීමට සංවේදී දත්ත (පුද්ගලික තොරතුරු, යතුරු) ලියන්න එපා. රහස්යභාවයේ විෂය පථය තුළ ලඝු-සටහන් සලකා බලන්න; අවශ්ය නම් මාස්ක් කිරීම මගින් වාර්තා කරන්න (ඒකකය 9).
ආචාර ධර්ම සහ මායිම්
ආචාරධාර්මික වගකීම නිෂ්පාදන තීරණයේ තාක්ෂණික නිරවද්යතාවය තරම්ම කොටසකි:
- විනිවිදභාවය: තමන් කතා කරන්නේ කෘත්රිම බුද්ධියකටද නැතිනම් මිනිසෙකුටද යන්න පරිශීලකයා දැනගත යුතුය.
- සාධාරණත්වය සහ පක්ෂග්රාහීත්වය: ආකෘතිය එය පුහුණු කර ඇති දත්ත වලින් පක්ෂග්රාහී විය හැක; අධි-බලපෑම් තීරණවල වෙනස් කොට සැලකීමේ ප්රතිවිපාක නිරීක්ෂණය කරන්න (කුලියට ගැනීම, ණය).
- වගකීම: ස්වයංක්රීය තීරණයක් හානියක් නම්, ඔබ වගකිව යුතුය; "ආකෘතිය එසේ කීවේය" යනු ආරක්ෂාවක් නොවේ.
- සීමාවන් පිළිගැනීම: ආකෘතියට සමහර කාර්යයන් විශ්වාසදායක ලෙස ඉටු කළ නොහැක; ඒවා ස්වයංක්රීය නොකිරීමද සැලසුම් තීරණයකි.
පිටපත් කළ හැකි සැකිලි
# වලංගු කිරීමේ පිරික්සුම් ලැයිස්තුව (ප්රතිදාන උත්පාදනයෙන් පසු)1) යෝජනා ක්රමය වලංගුද? (ව්යුහගත ප්රතිදාන වලංගුකරණය)2) අගයන් අර්ථවත්ද? (නීති පරීක්ෂාව: පරාසය, දිනය, enum)3) හිමිකම් පෑම මූලාශ්රය මත පදනම් වී තිබේද? (ලේඛනයේ නොමැති නම් ප්රතික්ෂේප කරන්න)4) බලපෑම වැඩිද? → මානව අනුමැතිය සඳහා යවන්න5) සියල්ල සම්මත නම් → ක්රියාවට ඉඩ දෙන්න, සුරකින්න
# සපයන ලද ලේඛනයේ තොරතුරු මත පමණක් මූලාශ්රය මත විශ්වාසය තැබීමට බල කරන පද්ධති විමසුම. ලේඛනයේ නොමැති කිසිවක් එකතු නොකරන්න. තොරතුරු ලේඛනයේ නොමැති නම්, "ලේඛනයේ සොයාගත නොහැකි" ලියන්න. කිසි විටෙකත් දේවල් අනුමාන නොකරන්න.
# මානව අනුමැතිය සීමාව (තීරණ රීතිය)IF තීරණ_වර්ගය [මුදල්, කොන්ත්රාත්තුව, මකා දැමීම, සෞඛ්යය] → මානව අනුමැතිය අනිවාර්යIF model_trust < සීමාව හෝ වලංගු කිරීම "අවිනිශ්චිත" → මානව අනුමැතියට ඉදිරිපත් කිරීම
# ට්රේස් ලොග් අච්චුව (සංවේදී දත්ත ලිවීම){ "කාලය":"...", "ආකෘතිය":"...", "ආදාන_ටෝකනය":..., "ප්රතිදානය_ටෝකනය":..., "ප්රමාද_ms":..., "නැවතුම්_හේතුව":"...", "සත්යාපනය":" සමත්|ප්රතික්ෂේප කරන ලද|මිනිසුන් ය", ":co...} යතුර කවදාවත් ලියා නැත
දුර්වල කඩිනම් / ශක්තිමත් කඩිනම් (නිෂ්පාදන විශ්වසනීයත්වය)
# දුර්වල (සත්යාපනයක් නැත, මූලාශ්රයක් නැත, ස්වයංක්රීයව අදාළ වේ) මෙම ඉල්ලීම ඇගයීමට ලක් කර, මුදල් ආපසු ගෙවීමේ තීරණයක් ගෙන අයදුම් කරන්න.
# STRONG (මූලාශ්රය මත පදනම් වූ, නිර්දේශ ජනනය කරයි, මානව අනුමැතියට පිටත් වේ) ආපසු පැමිණීමේ ප්රතිපත්ති ලේඛනය මත පමණක් පදනම්ව මෙම ආපසු ඉල්ලීම තක්සේරු කරන්න. සාධාරණීකරණය සහිත තීරණයක් නිර්දේශ නමුත් ක්රියාත්මක නොකරන්න: {"නිර්දේශය":"අනුමත කරන්න|ප්රතික්ෂේප කරන්න","හේතුව":"...","ප්රතිපත්ති_වගන්තිය":"..."}.ප්රතිපත්ති ලේඛනයේ පැහැදිලි පදනමක් නොමැති නම්, "නොපැහැදිලි" යන්න දෙන්න. නියෝජිතයෙකු අවසාන තීරණය අනුමත කරනු ඇත.
බලවත් අනුවාදය; එය තීරණය ප්රභවයට ආරෝපණය කරයි, ආකෘතිය "කරන්නෙකු" වෙනුවට "යෝජනා කරන්නෙකු" ලෙස ස්ථානගත කරයි, සහ මානව අනුමැතිය පිටුපස ඉහළ බලපෑමක් ඇති පියවර තබයි. නිෂ්පාදන විශ්වසනීයත්වයේ සාරය මෙයයි.
කුඩා නඩු තුනක්
1 වන අවස්ථාව - සත්යාපන ස්තරය සුරැකි දිනය. ෆින්ටෙක් ආයතනය ගනුදෙනු විස්තර වර්ගීකරණය කර ස්වයංක්රීය ගිණුම් වාර්තා නිර්මාණය කර ඇත. ඔවුන් රීති වලංගුකරණය එකතු කළා: ආකෘතිය වැරදි ලෙස ප්රමාණය ප්රතිදානය කළ පසු (ලේඛනයේ 1,250 වෙනුවට 12,500), "මුදල ලේඛනයට නොගැලපේ" රීතිය ප්රතිදානය ප්රතික්ෂේප කළ අතර වාර්තාව මිනිසාට වැටුණි. සත්යාපනයක් නොතිබුනේ නම්, වැරදි වාර්තාව නිශ්ශබ්දව පද්ධතියට ඇතුල් වනු ඇත.
නඩුව 2 - පලාගිය පුද්ගලයා ඔත්තු බැලීමෙන් අල්ලා ගනු ලැබේ. SaaS කණ්ඩායමක් අධීක්ෂණ මණ්ඩලයක් පිහිටුවා ඇත; එක් උදෑසනක දෛනික වියදම තුන් ගුණයකින් වැඩි විය. සේවාදායකයෙක් ලූපයකට ඇතුළු වී එකම ඉල්ලීම දහස් වාරයක් යවා ඇති බව ලඝු-සටහන් වලින් පෙනුණි. ඔවුන් කෝටාව සහ අඩුකිරීම් එකතු කළා; පැය කිහිපයකින් ගැටලුව විසඳා ඇත. ලුහුබැඳීමකින් තොරව, මාසය අවසානයේ බිල්පත පුදුමයට පත් වනු ඇත.
නඩුව 3 - සීමාව පිළිගැනීම. සෞඛ්ය සේවා ආරම්භයක් රෝග විනිශ්චය නිර්දේශයක් සම්පූර්ණයෙන්ම ස්වයංක්රීයව සිදු කර එය රෝගියාට පෙන්වීමට සැලසුම් කරමින් සිටියේය. ආචාර ධර්ම සහ වගකීම් සමාලෝචනයකදී, ඔවුන් මෙය සීමා රහිත බව තීරණය කළහ: ආකෘතිය වෛද්යවරයෙකුට සාරාංශයක් සහ හැකි කරුණු පමණක් සපයයි, වෛද්යවරයා රෝග විනිශ්චය කරයි. රැකියාවක් ස්වයංක්රීය නොකිරීමද පරිණත නිර්මාණ තීරණයකි.
පොදු වැරදි
- වලංගුකරණය මඟ හැරීම: "ආකෘතිය හොඳයි" යැයි පවසමින් ප්රතිදානය අන්ධ ලෙස යෙදීම.
- අධි-බලපෑම් තීරණය ස්වයංක්රීය කිරීම: මුදල්/සෞඛ්යය/නීතිය සම්බන්ධයෙන් මානව අනුමැතිය අත්යවශ්ය වේ.
- අධීක්ෂණය නොකිරීම: පිරිවැය සහ තත්ත්ව ගැටලු ප්රමාද වී අනාවරණය වේ.
- ලඝු-සටහන් වෙත සංවේදී දත්ත ලිවීම: පෞද්ගලිකත්වය උල්ලංඝනය කිරීම; එය ආවරණය කිරීමෙන් එය සුරකින්න.
- මූලාශ්රය මත විශ්වාසය තැබීමට උත්සාහ නොකරයි: ආකෘතිය ලේඛනයේ නොමැති දේ සෑදිය හැක.
- සීමාවන් නොසලකා හැරීම: සමහර කාර්යයන් ස්වයංක්රීය නොකිරීම නිවැරදි තීරණයයි; විනිවිදභාවය සහ වගකීම ඔබ සතුයි.
ගැඹුරු: මුදා හැරීම කළමනාකරණය, ආපසු හැරවීම සහ වර්ධක යෙදවීම
LLM විශේෂාංගයක් නිෂ්පාදනයට ගැනීම යනු එය පිහිටුවීම සහ එය අමතක කිරීම නොවේ; කාලයත් සමඟ සජීවී පද්ධතියක් ආරක්ෂිතව වෙනස් කිරීමයි. එහි කුළුණු තුනක් ඇත.
අනුවාදනය කිරීම. ඔබේ පද්ධති විමසුම, ආකෘති තේරීම සහ සත්යාපන නීති කාලයත් සමඟ වෙනස් වේ. සෑම වැදගත් වෙනසක්ම අනුවාද කර සජීවීව කුමන අනුවාදයද යන්න වාර්තා කරන්න. යම් දිනක ගුණාත්මක භාවය අඩු වුවහොත්, "අපි වෙනස් කළේ කුමක්ද?" මිනිත්තු කිහිපයකින් ප්රශ්නයට පිළිතුරු දීමට ඔබට හැකි විය යුතුය. අනුවාද රහිත පද්ධතියක, ප්රතිගමනයක මූල හේතුව සොයා ගැනීමට දින ගතවේ.
ආපසු හැරවීම. නව ප්රේරකයක් හෝ ආකෘතියක් සජීවීව බලාපොරොත්තු වූවාට වඩා නරක ලෙස හැසිරෙන්නේ නම්, ඔබට ඉක්මනින් පෙර, සුප්රසිද්ධ අනුවාදය වෙත ආපසු යාමට හැකි විය යුතුය. ආපසු හැරීමේ සැලැස්මක් නොමැති වෙනසක් යනු සජීවී අවදානමක් අන්ධ ලෙස පිළිගැනීමයි. "මම යමක් වෙනස් කළා, එය නරකයි, මට ආපසු යන්න බැහැ" යනු වඩාත්ම මිල අධික නිෂ්පාදන අවස්ථාවයි.
ක්රමානුකූලව පෙරළීම. සියලුම ගමනාගමනයට එකවර වෙනසක් යොදනවා වෙනුවට, ඔබ එය කුඩා ප්රතිශතයකට (උදා. 5%) පෙරළා ප්රමිතික (ගුණාත්මකභාවය, පිරිවැය, දෝෂ) නිරීක්ෂණය කරන්න. එය හොඳ නම්, ඔබ ප්රතිශතය වැඩි කරන්න; එය නරක නම්, බලපෑමට ලක් වූ කුඩා කොටසක් පමණක් සමඟින් ඔබට එය ආපසු ලැබෙනු ඇත. මෙය අවදානම බෙහෙවින් සීමා කරයි.
මෙම පරිචයන් තුන පෙර පැවති සියලුම ඒකකවල තාක්ෂණික ක්රම ඒකාබද්ධ කරයි: eval (ඒකකය 5) පියවර කල්තියා වෙනස් වේ, අධීක්ෂණය (මෙම ඒකකය) ප්රචාරණය අතරතුර පූර්ව අනතුරු ඇඟවීමක් ලබා දෙයි, සත්යාපන ස්ථරය ක්රියාත්මක වීමට පෙර වැරදි ප්රතිදානයන් අල්ලා ගනී. නිෂ්පාදනය තනි නිවැරදි සැකසුම නොවේ; එය මනින, අධීක්ෂණය කරන සහ විශ්වාසයෙන් වෙනස් කළ හැකි අඛණ්ඩ විනයකි. සම්පූර්ණ මොඩියුලය ඔබට මෙම විනය ස්ථාපිත කිරීමට වේ.
සාරාංශයක් ලෙස
නිෂ්පාදනය වැඩ කරන ආදර්ශනයකට වඩා වැඩි ය: එය ආදාන, ආකෘතිය, සත්යාපනය, ක්රියා සහ අධීක්ෂණ ස්ථර වල නල මාර්ගයකි. සත්යාපනයකින් තොරව ප්රතිදානය විශ්වාස කළ නොහැක; ඉහළ බලපෑමක් ඇති තීරණ මානව අනුමැතියට බැඳී ඇත; සෑම ඇමතුමක්ම පිරිවැය, දෝෂ සහ ගුණාත්මකභාවය සඳහා නිරීක්ෂණය කරනු ලැබේ. ආචාර ධර්ම, විනිවිදභාවය, පක්ෂග්රාහී පාලනය, වගවීම සහ සීමාවන් පිළිගැනීම තාක්ෂණික තීරණ සඳහා අත්යවශ්ය වේ. මෙම මොඩියුලයේ ඉගෙන ගත් සෑම කෑල්ලක්ම මෙම පරිපූර්ණ සැලසුම තුළ එකට පැමිණේ.
යෙදුම් කාර්යය
LLM විශේෂාංගයක් අවසානය සිට අවසානය දක්වා සැලසුම් කරන්න. (1) ඔබේ නිශ්චිත කාර්යය සඳහා ස්ථර පහ (ආදාන, ආකෘතිය, සත්යාපනය, ක්රියාව, අධීක්ෂණය) පුරවන්න. (2) මානව අනුමැතිය අවශ්ය වන තීරණවලට බලපෑම් අනුව ලකුණු කරන්න. (3) අවම වශයෙන් වලංගු කිරීමේ චෙක්පත් තුනක් ලියන්න (ක්රමලේඛනය, රීතිය, මූලාශ්රය). (4) ඔබ හඹා යන ප්රධාන මිතික සහ ඔබ ලොග් නොවන දේ නිර්ණය කරන්න. (5) මෙම විශේෂාංගයේ ඔබ පිළිගන්නා සීමාවක් සහ සදාචාරාත්මක මූලධර්මයක් ලියන්න.
පිරික්සුම් ලැයිස්තුව
- [ ] මට නිෂ්පාදන නල මාර්ගයේ ස්ථර පහක් සැලසුම් කළ හැකිය.
- [ ] මට ක්රමලේඛනය, රීතිය සහ ප්රභවයට එරෙහිව ප්රතිදානය වලංගු කළ හැක.
- [ ] මට තීරණයේ බලපෑම මත මානව අනුමැතියේ සීමාවක් සැකසිය හැක.
- [ ] මම පිරිවැය, දෝෂය සහ ගුණාත්මක බව නිරීක්ෂණය කරන අතර ලොග වල සංවේදී දත්ත ලිවීම නොකිරීමට පුරුදු වෙමි.
- [ ] මට ආචාර ධර්ම, වගකීම් සහ සීමා මායිම් නිෂ්පාදන තීරණ බවට පරිවර්තනය කළ හැකිය.
මොඩියුල විභාගය
1. LLM කතාබස් API එකක 'පද්ධති' භූමිකාව කරන්නේ කුමක්ද?
- A) සම්පූර්ණ සංවාදය පුරාවටම අදාළ වන නිත්ය උපදෙස් සහ හැසිරීම් නීති ආකෘතියට ලබා දෙයි ✔
- B) පරිශීලකයා විසින් ලියන ලද අවසාන ප්රශ්නය තබා ගනී
- C) ආකෘතිය මගින් නිපදවන ප්රතිචාරය ගබඩා කරයි
- D) API යතුර සංකේතනය කරයි
විස්තරය: පද්ධති භූමිකාව ආකෘතියට අඛණ්ඩ උපදෙස්, පෞරුෂය සහ සම්පූර්ණ සංවාදය පුරාවටම අදාළ වන නීති ලබා දෙයි; එය පරිශීලක පණිවිඩ වලින් වෙන් වූ ඉහළ මට්ටමේ යළි-යොමුවීම් වේ.
2. API ඉල්ලීමකදී සෑම අවස්ථාවකදීම සංවාද ඉතිහාසය (පෙර පණිවිඩ) යවන්නේ ඇයි?
- A) සේවාදායකය විසින් ඉතිහාසය මකා දමන බැවින් උපස්ථ කිරීම අවශ්ය වේ
- B) API ඇමතුම් අස්ථායී ය; ✔ ආකෘතියට ඉතිහාසය මතක නැති නිසා සෑම ඉල්ලීමකටම සන්දර්භය නැවත යවනු ලැබේ
- C) ඉන්වොයිස් කිරීම සඳහා පමණක් අවශ්ය වේ, ආකෘතියට බලපෑමක් නැත
- D) ප්රතිචාරය මන්දගාමී වීම වැළැක්වීම සඳහා ඉතිහාසය යැවීම අනිවාර්ය වේ
පැහැදිලි කිරීම: LLM API ඇමතුම් අස්ථායී ය; ආකෘතියට පෙර වට මතක නැත, එබැවින් සන්දර්භය සුරැකීමට සෑම ඉල්ලීමකටම අදාළ ඉතිහාසය නැවත යවනු ලැබේ.
3. LLM මිලකරණයේ 'ටෝකනය' යනු කුමක්ද?
- A) API වෙත ලොග් වීමට භාවිතා කරන එක්-වර මුරපදයක්
- B) එක් එක් ඉල්ලීම මත ගෙවනු ලබන ස්ථාවර ගාස්තුවක්
- C) ආකෘතිය පෙළ සකසන කුඩාම ඒකකය; සාමාන්යයෙන් වචන කොටස ✔ අනුරූප වේ
- D) නිමැවුමේ දිග පමණක් මනින ඒකකයකි
විස්තරය: ටෝකනය යනු ආකෘතිය පෙළ සකසන කුඩාම ඒකකයයි; එය සාමාන්යයෙන් වචනයක කොටසකට අනුරූප වන අතර, ආදානය සහ ප්රතිදානය යන දෙකම ටෝකන ගණන මත අය කෙරේ.
4. බොහෝ LLM සපයන්නන්ගේ ආදාන ටෝකනවලට වඩා ප්රතිදාන ටෝකන මිල අධික වන්නේ ඇයි?
- A) නිමැවුම් ටෝකන සෑම විටම ආදානයට වඩා දිගු වේ
- B) ආදාන ටෝකන නොමිලේ
- C) නිමැවුම් ටෝකන අන්තර්ජාලය හරහා දෙවරක් යවනු ලැබේ
- D) නිමැවුම් උත්පාදනය සඳහා එක් එක් ටෝකනය සඳහා අමතර ගණනය කිරීම් අවශ්ය වන බැවින් ඒකක පිරිවැය වැඩි වේ ✔
විස්තරය: එක් එක් නිමැවුම් ටෝකන සඳහා පියවරෙන් පියවර උත්පාදනය (ගණනය කිරීම) සිදු කිරීමට ආකෘතිය අවශ්ය වේ; මෙම නිෂ්පාදන පිරිවැය එකවර ආදානය සැකසීමට වඩා වැඩි බැවින් නිමැවුම් ඒකක මිල සාමාන්යයෙන් වැඩි වේ.
5. ප්රවාහය භාවිතා කිරීම වඩාත් ප්රයෝජනවත් වන්නේ කුමන තත්ත්වයකදීද?
- A) දිගු පිළිතුරු වල; පෙනෙන ප්රමාදය අඩු කරන අතර කල් ඉකුත්වීම වළක්වයි ✔
- B) ඉතා කෙටි, තනි වචන පිළිතුරු වලින් පමණි
- C) පිරිවැය බිංදුවට අඩු කිරීම
- D) API යතුර සැඟවීමට
විස්තරය: දිගු ප්රතිචාර වලදී, ප්රවාහය පළමු වචන ක්ෂණිකව දිස්වන පරිදි ප්රත්යාස්ථතාව අඩු කරන අතර විශාල max_tokens අගයන්හිදී HTTP කල් ඉකුත්වීම වළක්වයි.
6. නවීන මාදිලිවල 'උත්සාහය' පරාමිතිය වැඩි කිරීම සාමාන්යයෙන් බලපාන්නේ කුමක්ද?
- A) සෑම විටම පිළිතුර කෙටි කරන්න
- B) API යතුර ස්වයංක්රීයව කරකවයි
- C) එය ආදාන සංකේත මිල පමණක් අඩු කරයි
- D) චින්තනයේ ගැඹුර සහ සංකේත වියදම් වැඩි කරයි; එය ගුණාත්මකභාවය වැඩි දියුණු කළ හැකි නමුත්, එය ප්රමාදය සහ පිරිවැය වැඩි කරයි ✔
විස්තරය: උත්සාහයේ පරාමිතිය මඟින් ආකෘතිය කාර්යයක් ගැන කෙතරම් ගැඹුරින් සිතනවාද සහ එය කොපමණ ටෝකන වැය කරයිද යන්න සකස් කරයි; උත්ශ්රේණි කිරීම ගුණාත්මකභාවය වැඩි දියුණු කළ හැකි නමුත් එය ප්රමාදය සහ පිරිවැය වැඩි කරයි. සරල කාර්යයන් සඳහා, අඩු උත්සාහයක් ප්රමාණවත්ය.
7. සරල, ඉහළ පරිමා වර්ගීකරණ කාර්යයක් සඳහා සාමාන්යයෙන් වඩාත්ම ලාභදායී ප්රවේශය කුමක්ද?
- A) සෑම විටම වඩාත්ම මිල අධික හා බලවත්ම ආකෘතිය භාවිතා කරන්න
- B) එක් එක් ඉල්ලීම සඳහා එකම අවස්ථාවේදීම සියලුම මාදිලි ඇමතීම
- C) කුඩා eval එකකින් එය සත්යාපනය කිරීමෙන් කාර්යය ඉටු කරන සැහැල්ලු/ලාභම මාදිලිය තෝරා ගැනීම ✔
- D) max_tokens අගය අනවශ්ය ලෙස ඉහළ මට්ටමක තබා ගැනීම
පැහැදිලි කිරීම: කාර්යය සංකීර්ණ නොවේ නම්, වඩාත්ම මිල අධික හා බලවත් ආකෘතිය භාවිතා කිරීම වෙනුවට කාර්යය පහසුවෙන් ඉටු කළ හැකි වේගවත් හා ලාභදායී ආකෘතියක් තෝරා ගැනීම (උදා: හයිකු පන්තිය) පිරිවැය සැලකිය යුතු ලෙස අඩු කරනු ඇත.
8. ක්ෂණික හැඹිලිගත කිරීම පිරිවැය වැඩිපුරම අඩු කරන්නේ කුමන අවස්ථා වලදීද?
- A) බොහෝ ඉල්ලීම් හරහා විශාල සහ ස්ථාවර සන්දර්භයක් නැවත නැවතත් භාවිතා කරන විට ✔
- B) එක් එක් ඉල්ලීම සමඟ සම්පූර්ණයෙන්ම වෙනස් පෙළක් යවන විට
- ඇ) තනි ඉල්ලීමක් පමණක් කරන විට
- D) නිමැවුම් ටෝකන් අඩු කිරීමට
විස්තරය: හැඹිලි යනු උපසර්ග ගැලපීමකි; බොහෝ ඉල්ලීම් හරහා විශාල, වෙනස් කළ නොහැකි සන්දර්භයක් (පද්ධති විමසුම, ලේඛන) නැවත භාවිතා කරන අවස්ථා වලදී, හැඹිලියෙන් කියවීම සම්පූර්ණ මිලෙන් කුඩා කොටසක් (~0.1x) වේ.
9. ප්රොම්ට් හැඹිලිය වදින ලෙස මා විමසුම සංස්කරණය කළ යුත්තේ කෙසේද?
- A) ආරම්භයේ විචල්ය අන්තර්ගතය සහ අවසානයේ ස්ථාවර අන්තර්ගතය තැබීම
- B) එක් එක් ඉල්ලීම සඳහා වත්මන් දිනය සහ වේලාව පද්ධති විමසුමට ඇතුළත් කරන්න
- C) ස්ථාවර අන්තර්ගතයන් (පද්ධති විමසුම, ලේඛන) ආරම්භයේදී සහ විචල්ය අන්තර්ගතය අවසානයේ තැබීම ✔
- D) එක් එක් ඉල්ලීම සමඟ මෙවලම් ලැයිස්තුවේ අනුපිළිවෙල වෙනස් කිරීම
පැහැදිලි කිරීම: හැඹිලිය උපසර්ග ගැලපීමක් වන බැවින්, ස්ථාවර/වෙනස් නොවන අන්තර්ගතය (පද්ධති විමසුම, ලේඛන) ආරම්භ කරනු ලැබේ; විචල්ය අන්තර්ගතය (දිනය, පරිශීලක ප්රශ්නය, ඉල්ලීම් හැඳුනුම්පත) අවසානයේ තබා ඇත. මුලදී වෙනස් වූ එක් බයිටයක් පවා හැඹිලිය අවලංගු කරයි.
10. කණ්ඩායම් සැකසීම වඩාත් සුදුසු වන්නේ කුමන ආකාරයේ වැඩ බරක් සඳහාද?
- A) පරිශීලකයා තිරය මත ක්ෂණික ප්රතිචාරයක් අපේක්ෂා කරන සජීවී කතාබස්
- ආ) එක් කෙටි ප්රශ්නයක් පමණි
- C) API යතුර උත්පාදනය කිරීම
- D) ප්රමාදයට ඔරොත්තු දෙන, විශාල පරිමාවක් ඇති සහ ක්ෂණික ප්රතිඵල අවශ්ය නොවන රැකියා ✔
විස්තරය: කණ්ඩායම් සැකසීම ක්ෂණික ප්රතිචාරයක් අවශ්ය නොවන සහ ප්රමාදය ඉවසා සිටින විශාල රැකියා සඳහා සුදුසු වේ; ප්රතිඵල ටික වේලාවකට පසු ලබා දෙනු ඇත, නමුත් ඒකක පිරිවැය සාමාන්යයෙන් අඩු වේ.
11. ප්රතිඵල කණ්ඩායමකට අයත් වන්නේ කුමන ඉල්ලීමටද යන්න විශ්වාසයෙන් ගැලපීමට භාවිතා කරන්නේ කුමක්ද?
- A) ඉල්ලීම් යැවීමේ නියෝගය (තනතුර).
- B) පිළිතුරු වල දිග
- C) API යතුරේ අවසාන ඉලක්කම් 4
- D) එක් එක් ඉල්ලීම සඳහා ලබා දී ඇති අද්විතීය අභිරුචි_id ✔
සටහන: තොග ප්රතිඵල ඉදිරිපත් කිරීමේ අනුපිළිවෙලට වඩා වෙනස් අනුපිළිවෙලකින් ආපසු ලබා දිය හැක; එබැවින් එක් එක් ඉල්ලීම සඳහා ලබා දී ඇති අනන්ය custom_id එකක් සමඟින්, ස්ථානයෙන් නොව, ID අනුව ප්රතිඵල ගැලපීම අවශ්ය වේ.
12. ඔබට API වෙතින් 429 (අනුපාත සීමාව) දෝෂයක් ලැබුණු විට නිර්දේශිත හැසිරීම කුමක්ද?
- A) එකවර තවත් බොහෝ ඉල්ලීම් යැවීමෙන් බල කිරීම
- B) නැවත උත්සාහ කිරීමෙන් පසු ශීර්ෂය ✔ අනුගමනය කරමින් ඝාතීය පසුබෑමක් සමඟ නැවත උත්සාහ කිරීම
- C) ඉල්ලීම සම්පූර්ණයෙන්ම අවලංගු කර පරිශීලකයාට දෝෂයක් ලෙස පෙන්වන්න
- D) API යතුර වෙනස් කිරීම
පැහැදිලි කිරීම: 429 නැවත උත්සාහ කළ හැකි දෝෂයකි; නිවැරදි ප්රවේශය වන්නේ නැවත උත්සාහ කිරීමෙන් පසු ශීර්ෂයට ගරු කරමින් ඝාතීය පසුබෑමක් සමඟ නැවත උත්සාහ කිරීමයි. බොහෝ නිල SDKs මෙය ස්වයංක්රීයව කරයි.
13. සාමාන්යයෙන් නැවත උත්සාහ කළ හැකි යැයි සැලකෙන්නේ පහත සඳහන් කුමන HTTP දෝෂ කේත ද?
- A) 400 (වලංගු නොවන ඉල්ලීමක්)
- B) 401 (සත්යාපන දෝෂය)
- C) 529 (සේවාදායකය අධික ලෙස පටවා ඇත) ✔
- D) 404 (සොයා නොගත්)
පැහැදිලි කිරීම: 429 (වේග සීමාව), 500 (සේවාදායක දෝෂය) සහ 529 (අධික පැටවීම) තාවකාලික දෝෂ වන අතර පසුබැසීමෙන් නැවත උත්සාහ කළ හැක. 400 සහ 401 වැනි දෝෂ ඉල්ලීම්/අනන්යතා ගැටළු වේ; නැවත උත්සාහ කිරීමෙන් එය විසඳිය නොහැක.
14. API යතුරු කළමනාකරණය කිරීමට පහත සඳහන් ආරක්ෂිත ක්රමය කුමක්ද?
- A) පරිසර විචල්ය/සැඟවුණු කළමනාකරු තුළ ගබඩා කිරීම, එය කේතයට ඇතුළත් නොකිරීම සහ නිතිපතා භ්රමණය වීම ✔
- B) ප්රභව කේතයට යතුර කෙලින්ම ලියා එය ගබඩාවට යවන්න
- C) සේවාදායක පැත්තේ (බ්රවුසරය) ජාවාස්ක්රිප්ට් යතුර දැමීම
- D) ඊමේල් හරහා මුළු කණ්ඩායම සමඟ තනි යතුරක් බෙදා ගැනීම
විස්තරය: ප්රභව කේතයට හෝ ගබඩාවට යතුරු කිසිවිටක ලියා නැත; එය පරිසර විචල්යයක හෝ සැඟවුණු කළමනාකරණ මෙවලමක ගබඩා කර, අවම වරප්රසාද ලබා දී, නිතිපතා කරකවනු ලැබේ.
15. පුද්ගලිකත්වය අනුව ස්වයංක්රීය මෙවලමක් (n8n, Zapier, Make) සමඟ LLM ඒකාබද්ධ කිරීම සඳහා හොඳම ප්රවේශය කුමක්ද?
- A) අනවශ්ය වුවද, සියලුම අමු දත්ත ආකෘතියට යැවීම
- B) ප්රවාහ පියවර තුළ API යතුර සරල අකුරුවලින් ලිවීම
- C) සංවේදී දත්ත අවම කිරීම සහ වසං කිරීම සහ යතුර රහස් අක්තපත්ර ලෙස ගබඩා කිරීම ✔
- D) ප්රවාහ ඉතිහාසයේ පුද්ගලික දත්ත ස්ථිරව තබා ගැනීම
විස්තරය: ස්වයංක්රීයකරණයට ඇතුළු වන දත්ත තෙවන පාර්ශවීය පද්ධති සහ ආකෘතිය හරහා ගමන් කරන විට, සංවේදී/පුද්ගලික දත්ත අවම කිරීම, වෙස් මුහුණු සහ අවශ්ය ක්ෂේත්ර පමණක් යැවීම අවශ්ය වේ; API යතුර මෙවලම තුළ රහස් අක්තපත්ර ලෙසද ගබඩා කර ඇත.
16. LLM පදනම් වූ නිෂ්පාදන අංගයක් තුළ නිමැවුම් වලංගු කිරීම අනිවාර්ය වන්නේ ඇයි?
- A) ආකෘතිය කිසි විටෙකත් වැරදි නොකරන බැවින් හැඩතල ගැන්වීම පමණක් අවශ්ය වේ
- B) ආකෘතිය ද්රවශීලව නිපදවිය හැකි නමුත් සමහර විට වැරදි ලෙස නිපදවිය හැකි නිසා; යෝජනා ක්රමය/නීතිය සම්පත් සහ මානව අනුමැතිය සහිතව විගණනය කළ යුතුය ✔
- C) වලංගු කිරීම වැළැක්විය යුත්තේ එය පිරිවැය වැඩි කරන බැවිනි
- D) තහවුරු කිරීම යනු ටෝකන් ගණන අඩු කිරීම සඳහා පමණි
විස්තරය: LLM වලට චතුර නමුත් සමහර විට සාවද්ය (මායාකාරී) ප්රතිදානයක් නිපදවිය හැක; එබැවින් එය ඉහළ බලපෑම් තීරණ වලින් පිටතට පැමිණියේය; එය ක්රම/රීති පරීක්ෂා කිරීම, මූලාශ්ර වලංගු කිරීම සහ අවශ්ය විට මානව අනුමැතිය මගින් විගණනය කළ යුතුය.