ලාභ:
- භාවිතය, ආරක්ෂාව, ගුණාත්මකභාවය සහ කාර්ය සාධන සංඥා නිරීක්ෂණය කරන ප්රමිතික නිර්වචනය කිරීමේ හැකියාව
- මූලික සහ නියැදීම් සමඟින් නිමැවුම් තත්ත්ව ප්ලාවිතය හඳුනාගැනීමේ හැකියාව
- විෂමතා සහ Jailbreak තරංග සඳහා අනතුරු ඇඟවීම සහ ප්රතිපෝෂණ ලූපය සැකසීමේ හැකියාව
AI පද්ධතියක් නිෂ්පාදනයට දැමීම ආරම්භය මිස අවසානය නොවේ. ආකෘතිය එලෙසම පැවතුනද, ලෝකය වෙනස් වේ: පරිශීලක හැසිරීම, පැමිණෙන දත්ත, ප්රහාරක ශිල්පීය ක්රම සහ ව්යාපාරික සන්දර්භය නිරන්තරයෙන් වෙනස් වේ. ඊයේ නිවැරදි පිළිතුර අද වැරදි විය හැක. එබැවින් ආරක්ෂාවේ අවසාන ස්ථම්භය වන්නේ අඛණ්ඩ අධීක්ෂණය සහ නිරීක්ෂණ හැකියාවයි - පද්ධතිය තුළ සිදු වන දේ පිටතින් දැකීමේ හැකියාව. මෙම ඒකකය තුළ, අපි නිරීක්ෂණය කළ යුතු ප්රමිතික මොනවාද, ප්රතිදාන තත්ත්ව ප්ලාවිතය ග්රහණය කරන්නේ කෙසේද සහ විෂමතා සඳහා අනතුරු අඟවන්නේ කෙසේද යන්න අපි ඉගෙන ගනිමු.
අඛණ්ඩ නිරීක්ෂණ ඇයි?
සම්භාව්ය මෘදුකාංගවල, "එය ක්රියා කරයිද" යන්න ද්විමය ප්රශ්නයකි: එක්කෝ එය පිළිතුරු දෙයි හෝ නැත. AI හි, පද්ධතිය "වැඩ කරන" බව පෙනෙන අතර, එය නිශ්ශබ්දව පිරිහීමට ලක් විය හැක: පිළිතුරු සෙමින් සාවද්ය වේ, පිරිවැය ඉහළ යයි, Jailbreak උත්සාහයන් වැඩි වේ. මේවා ග්රහණය කර ගැනීමට ඇති එකම ක්රමය නිවැරදි සංඥා නිරන්තරයෙන් මැන බැලීමයි.
අවධානය: වඩාත්ම භයානක අක්රියතාව වන්නේ නිහඬ එකයි, ඝෝෂාකාරී එක නොවේ. පද්ධතිය දෝෂ ඇති නොකරයි, එහි ගුණාත්මකභාවය අඩු වේ. ඔබ අධීක්ෂණය පිහිටුවා නොමැති නම්, මුලින්ම අවධානයට ලක්වන්නේ ඔබේ පාරිභෝගිකයා හෝ විගණකවරයා මිස ඔබ නොවේ.
නැරඹීමට සංඥා පවුල් හතරක්
- භාවිතය සහ පිරිවැය: ඉල්ලීම් පරිමාව, ටෝකන් පරිභෝජනය, එක් පරිශීලකයෙකු සඳහා පිරිවැය. හදිසි පැනීම; එය අපයෝජනයේ සලකුණක්, ලූපි ඒකාබද්ධ කිරීමක් හෝ කාන්දු වන ස්විචයක් විය හැකිය.
- ආරක්ෂක සංඥා: Jailbreak/injection උත්සාහයන්, වාහන ඇමතුම් ප්රතික්ෂේප කිරීම, අවසර දීමේ දෝෂ. වැඩිවීමක් ක්රියාකාරී ප්රහාරක ව්යාපාරයක් පෙන්නුම් කළ හැකිය.
- ගුණාත්මකභාවය සහ ප්ලාවිතය: කාලයත් සමඟ නිමැවුම් ගුණාත්මක භාවය අඩු වීම (ප්ලාවිතය). උදාහරණයක් ලෙස, සත්යාපන සමත් අනුපාතය, මානව අනුමැතියෙහි නිවැරදි කිරීමේ අනුපාතය, පරිශීලක තෘප්තිය.
- කාර්ය සාධනය: ප්රමාදය, දෝෂ අනුපාතය, කල් ඉකුත්වීම. එය පරිශීලක අත්දැකීම් සහ පිරිවැය සෘජුවම බලපායි.
Drift යනු කුමක්ද සහ එය අල්ලා ගන්නේ කෙසේද?
ප්ලාවිතය යනු ආකෘතියේ යෙදවුම්වල හෝ ප්රතිදානයේ ගුණාත්මක භාවය කාලයත් සමඟ නොදැනුවත්වම මාරු වීමයි. වර්ග දෙකක් තිබේ: දත්ත ප්ලාවිතය (පැමිණෙන ඉල්ලීම් බෙදා හැරීම වෙනස් වේ - නව මාතෘකාව, නව භාෂාව) සහ ගුණාත්මක ප්ලාවිතය (එකම කාර්යය සඳහා ප්රතිදානය ක්රමයෙන් නරක අතට හැරේ). ග්රහණය කර ගැනීමට මූලික පදනමක් අවශ්ය වේ: පද්ධතිය සෞඛ්ය සම්පන්න වන විට සාමාන්ය ප්රමිතික පරාසය වාර්තා කරන්න; අපගමනය අනතුරු ඇඟවීමක් වීමට ඉඩ දෙන්න.
පියවරෙන් පියවර: අධීක්ෂණය පිහිටුවීම
- මූලික රේඛාව මැන බලන්න. පද්ධතිය නිරෝගී වන විට එක් එක් සංඥා වල සාමාන්ය පරාසය සටහන් කරන්න.
- එළිපත්ත සහ අනතුරු ඇඟවීම නිර්වචනය කරන්න. කුමන අපගමනය කාටද සහ කෙසේද යන්න අනතුරු අඟවන්නේද?
- නියැදීම + මානව පරීක්ෂාව. නිමැවුම්වල සාම්පලයක් නිතිපතා මානව සමාලෝචනයක් කරන්න (ගුණාත්මක ප්ලාවිතය බොහෝ විට දෘශ්යමාන වේ).
- උපකරණ පුවරුවක් ස්ථාපනය කරන්න. එක් තිරයක සංඥා පවුල් හතරක් නිරීක්ෂණය කරන්න.
- ප්රතිපෝෂණ ලූපය. සොයාගැනීම් නිරීක්ෂණයේ සිට කඩිනම්/පාලන වැඩිදියුණු කිරීම දක්වා සම්බන්ධ කරන්න.
පිටපත් කළ හැකි සැකිලි හතරක්
ගුණාත්මක නියැදීමේ ඇගයීම් විමසුම (LLM-as-judge සමඟ ප්ලාවිත ලුහුබැඳීම):
මෙම සතියේ අහඹු ලෙස මුද්රණය කළ හැකි 20ක් පහත දැක්වේ. එක් එක් "හොඳ / පිළිගත හැකි / නරක" ලෙස ශ්රේණිගත කර කෙටි සාධාරණීකරණයක් ලියන්න. අවසාන වශයෙන් මම නරක අනුපාතය පසුගිය සතියේ අනුපාතය සමඟ සංසන්දනය කරමි; මෙම සතියේ කැපී පෙනෙන රටාවක් (එකම වැරදි ආකාරයේ නැවත ඇතිවීම) තිබේ නම්, එය සලකුණු කරන්න.<outputs>{{ උදාහරණ }}</outputs>
විෂමතා සාරාංශ විමසුම:
පහත දෛනික ප්රමිතික පරීක්ෂා කරන්න: ඉල්ලීම් ගණන, ටෝකන, පිරිවැය, මෙවලම් ඇමතුම ප්රතික්ෂේප විය, Jailbreak උත්සාහයන්, සාමාන්ය ප්රමාදය. මූලික රේඛාවෙන් 30%කට වඩා අපගමනය වන ඕනෑම මෙට්රික් එකක් "ANOMALIT" ලෙස සලකුණු කර විය හැකි හේතුව (ප්රහාරය, දෝෂය, අපයෝජනය) තක්සේරු කරන්න.<metrics>{{ daily_data }}</metrics>
අනතුරු ඇඟවීමේ සීමාව නිර්වචනය කිරීමේ රීතිය:
එක් එක් සංඥා සඳහා අනතුරු ඇඟවීම් නිර්වචනය කරන්න:- පිරිවැය: දෛනික සාමාන්ය 2x ඉක්මවන්නේ නම් -> ඉහළ ප්රමුඛතා ඇඟවීම්- Jailbreak උත්සාහයන්: පැයකට 10 ඉක්මවන්නේ නම් -> ආරක්ෂක කණ්ඩායමට දැනුම් දෙන්න- සත්යාපන සමත් වීමේ අනුපාතය: 90% ට වඩා අඩු නම් -> තත්ත්ව සමාලෝචනය- ප්රමාදය: p95 ඉලක්කය 2x ඉක්මවා ඇත්නම් -> කාර්ය සාධන සමාලෝචනය
ප්ලාවිත පර්යේෂණ විමසුම:
පසුගිය සති 2 තුළ සත්යාපන සමත් අනුපාතය 94% සිට 78% දක්වා පහත වැටී ඇත. මෙම ප්රශ්නවලට පිළිතුරු දීමට මට උදවු කරන්න: (1) එන ඉල්ලීම්වල නව මාතෘකාවක්/භාෂාවක්/ආකෘතියක් දර්ශනය වී තිබේද? (2) යම් ප්රවර්ගයකට දෝෂ සංකේන්ද්රණය වී තිබේද? (3) ප්රමාදයක්/ආදර්ශයක්/මෙවලමක් වෙනස් වීමක් සමඟ කාලය සමපාත වේද? එක් එක් සඳහා පරීක්ෂා කළ යුතු දත්ත නම් කරන්න.
දුර්වල ක්ෂණික / ශක්තිමත් ක්ෂණික
දුර්වල ප්රවේශය
ශක්තිමත් ප්රවේශය
"වරදක් ඇත්නම් අපි බලමු"
මූලික + එළිපත්ත + ක්රියාකාරී අනතුරු ඇඟවීම
පද්ධතිය ස්ථාවර දැයි බැලීමට පමණක් පරීක්ෂා කරන්න.
සංඥා පවුල් හතරක් නිරීක්ෂණය කිරීම (භාවිතය, ආරක්ෂාව, ගුණාත්මකභාවය, කාර්ය සාධනය)
නිමැවුම් ගුණාත්මක භාවය කිසිසේත්ම සාම්පලයක් නොවේ
නිත්ය මානව නියැදීම + LLM-විනිසුරු ලෙස
මෙට්රික්ස් එකතු කර බැලීම නොවේ
උපකරණ පුවරුව + ප්රතිපෝෂණ ලූපය
කුඩා නඩු තුනක්
නඩුව 1 - පිරිවැය අනතුරු ඇඟවීම කාන්දු වන යතුරට හසු විය. සමාගමක දෛනික ටෝකන් පිරිවැය එක රැයකින් තුන් ගුණයකින් වැඩි විය. එළිපත්ත අනතුරු ඇඟවීම ආරක්ෂක කණ්ඩායමට අනතුරු ඇඟවීය; පරීක්ෂණ යතුරක් කාන්දු වී බොට් විසින් භාවිතා කර ඇති බව පරීක්ෂණයෙන් පෙනී ගියේය. මිනිත්තු 25 කින් යතුර අවලංගු විය; අනතුරු ඇඟවීමක් නොතිබුනේ නම්, මාසය අවසානයේ බිල්පත දැකගත හැකි වනු ඇත.
නඩුව 2 - නිහඬ ගුණාත්මක ප්ලාවිතය. සහායක සහායකයකුගේ සත්යාපන සාමාර්ථ අනුපාතය සති තුනකින් නිහඬව 95% සිට 80% දක්වා පහත වැටුණි. සතිපතා නියැදීම මෙය අල්ලා ගන්නා ලදී; එයට හේතුව වූයේ පාරිභෝගිකයින් නව නිෂ්පාදන පෙළක් ගැන විමසීමට පටන් ගැනීම සහ ඒ පිළිබඳ ආකෘතියේ දැනුම අසම්පූර්ණ වීමයි. දැනුම පදනම යාවත්කාලීන කළ විට අනුපාතය යථා තත්ත්වයට පත් විය.
නඩුව 3 - Jailbreak රැල්ල කලින් විය. සහායකයෙකුට එන්නත් කිරීමේ උත්සාහයන් එක් දිනක් තුළ පැයකට 2 සිට 40 දක්වා වැඩි විය. ආරක්ෂක අනතුරු ඇඟවීම ක්රියාත්මක විය; ෆෝරම් එකක සිස්ටම් එක ක්රැක් කරන "රෙසිපියක්" ෂෙයාර් කරලා තියෙනවා දැක්කා. කණ්ඩායම ආරක්ෂක කඩිනම් සහ අනුපාත සීමා සහිත සැක සහිත ගිණුම් යාවත්කාලීන කරන ලදී; එය සැබෑ කාන්දුවක් බවට පත්වීමට පෙර රැල්ල මිය ගියේය.
ඉඟිය: යන්ත්ර ප්රමිතික සඳහා පමණක් නොසලකන්න. ගුණාත්මක ප්ලාවිතය බොහෝ විට අල්ලා ගනු ලබන්නේ නියැදි ප්රතිදානයන් කියවීමට මනුෂ්යයෙකු ලවා පමණි. සතියකට අහඹු මුද්රණ පිටපත් 15-20ක් සමාලෝචනය කිරීමේ කුඩා පුරුද්දක් ඉක්මනින්ම මිල අධික නිහඬ අසාර්ථකත්වයන් අල්ලා ගනු ඇත.
පොදු වැරදි
- එය නිෂ්පාදනයට නොයෙදීම සහ අධීක්ෂණ සැකසීම ("එය වැඩ කරයි, හරි").
- මූලික මට්ටම මැනීමෙන් තොරව විෂමතාවය හඳුනා ගැනීමට නොහැකි වීම.
- "එය නැගී සිටිනවාද" පමණක් බැලීමෙන් ගුණාත්මක ප්ලාවිතය මග හැරීම.
- මිනිස් ඇස් හරහා නිමැවුම් ගුණාත්මක භාවය කිසිසේත් නියැදීමක් නොවේ.
- අනතුරු ඇඟවීමක් නොකිරීම සහ පාරිභෝගික/අධීක්ෂකගෙන් ගැටලුව සොයා ගැනීම.
- අධීක්ෂණ සොයාගැනීම් වැඩිදියුණු කිරීමට සම්බන්ධ නොකිරීම (ප්රතිපෝෂණ පුඩුවක් නැත).
සාරාංශයක් ලෙස
- AI පද්ධති නිහඬව නරක් විය හැක; වඩාත්ම භයානක අක්රියතාවය වන්නේ දෝෂ විසි නොකරන නමුත් ගුණාත්මකභාවය අඩු කිරීමයි.
- සංඥා පවුල් හතරක් නිරීක්ෂණය කරන්න: භාවිතය/පිරිවැය, ආරක්ෂාව, ගුණාත්මකභාවය/ප්ලාවිතය, සහ කාර්ය සාධනය.
- ප්ලාවිතය (කාලයත් සමඟ ආදාන හෝ ප්රතිදාන ගුණයේ ප්ලාවිතය) ග්රහණය කරගනු ලබන්නේ මූලික රේඛාවකට සාපේක්ෂව පමණි.
- යන්ත්ර ප්රමිතිකවලට අමතරව නිතිපතා මිනිස් නියැදීම ගුණාත්මක ප්ලාවිතය ග්රහණය කරයි.
- එලාම් සහ ප්රතිපෝෂණ පුඩුවට අධීක්ෂණය සම්බන්ධ කරන්න; මැන බැලීම සහ නොබැලීම යනු නිරීක්ෂණය නොවේ.
යෙදුම් කාර්යය
ඔබේම AI පද්ධතිය සඳහා සංඥා පවුල් හතරෙන් අවම වශයෙන් එක් මෙට්රික් එකක් තෝරාගෙන ඒවායේ වත්මන් (හෝ ඇස්තමේන්තුගත) මූලික සටහන් ලියන්න. එක් එක් මෙට්රික් සඳහා අනතුරු ඇඟවීමේ සීමාවක් නිර්වචනය කරන්න. ඉන්පසු ඔබගේ අවසන් වාරයේ ප්රතිදානයන් 15ක් ගෙන ඉහත නියැදි විමසුමෙන් ලකුණු කරන්න; "නරක" අනුපාතය සටහන් කරන්න. අනාගතයේදී ප්ලාවිතය සංසන්දනය කිරීමට මෙය ඔබගේ පළමු මූලික පදනම වීමට ඉඩ හරින්න.
පිරික්සුම් ලැයිස්තුව
- [ ] මම සංඥා පවුල් හතරකින් ප්රමිතික නිර්වචනය කළෙමි (භාවිතය, ආරක්ෂාව, ගුණාත්මකභාවය, කාර්ය සාධනය).
- [ ] මම එක් එක් මෙට්රික් සඳහා මූලික රේඛාවක් සහ අනතුරු ඇඟවීමේ සීමාවක් සකසමි.
- [ ] මම නිතිපතා මිනිස් ඇස් හරහා නිමැවුම් ගුණාත්මක භාවය සාම්පල් කරමි.
- [ ] මම සංදර්ශක පුවරුවක් සහිත තනි තිරයක සංඥා නිරීක්ෂණය කරමි.
- විෂමතා සහ Jailbreak තරංග සඳහා අනතුරු ඇඟවීම ආරක්ෂක කණ්ඩායම වෙත යයි.
- [ ] මම අධීක්ෂණ සොයාගැනීම් කඩිනම්/පාලන වැඩිදියුණු කිරීම් වලට ආරෝපණය කරමි.