ቀጣይነት ያለው ክትትል፣ ታዛቢነት እና መንሸራተት

ትርፍ፡

• አጠቃቀምን፣ ደህንነትን፣ ጥራትን እና የአፈጻጸም ምልክቶችን የሚቆጣጠሩ መለኪያዎችን የመግለጽ ችሎታ
• ከመነሻ መስመር እና ናሙና ጋር የውጤት ጥራት ተንሳፋፊን የመለየት ችሎታ
• ለአለመሆኑ እና የ jailbreak ሞገዶች የማንቂያ ደወል እና የግብረመልስ ምልልስ የማዘጋጀት ችሎታ

AI ሲስተምን ወደ ምርት ማስገባት መጀመሪያ እንጂ መጨረሻ አይደለም። ምንም እንኳን ሞዴሉ አንድ አይነት ቢሆንም, ዓለም ይለወጣል: የተጠቃሚ ባህሪ, ገቢ ውሂብ, የጥቃት ቴክኒኮች እና የንግድ አውድ በየጊዜው ይለዋወጣሉ. የትናንቱ ትክክለኛ መልስ ዛሬ የተሳሳተ ሊሆን ይችላል። ስለዚህ የመጨረሻው የደህንነት ምሰሶ ቀጣይነት ያለው ክትትል እና ታዛቢነት ነው - በስርዓቱ ውስጥ ምን እየተከናወነ እንዳለ ከውጭ ማየት መቻል. በዚህ ክፍል ውስጥ፣ ምን ዓይነት መለኪያዎች መከታተል እንዳለብን፣ እንዴት የውጤት ጥራት መንሸራተትን እንደምንይዝ፣ እና ለአደጋዎች እንዴት ማስጠንቀቅ እንዳለብን እንማራለን።

ቀጣይነት ያለው ክትትል ለምን አስፈለገ?

በክላሲካል ሶፍትዌሮች ውስጥ "ይሰራል" የሚለው የሁለትዮሽ ጥያቄ ነው፡ ወይ ይመልሳል ወይ አይመልስም። በ AI ውስጥ, ስርዓቱ "መስራት" በሚመስልበት ጊዜ, በፀጥታ ሊበላሽ ይችላል: መልሶች ቀስ በቀስ የተሳሳቱ ይሆናሉ, ወጪዎች ይጨምራሉ, የእስር ቤት ሙከራዎች ይጨምራሉ. እነዚህን ለመያዝ ብቸኛው መንገድ ትክክለኛ ምልክቶችን ያለማቋረጥ መለካት ነው.

ትኩረት፡ በጣም አደገኛው ብልሽት ዝምታው እንጂ ጫጫታ አይደለም። ስርዓቱ ስህተቶችን አይጥልም, ጥራቱ ብቻ ይቀንሳል. ክትትልን ካላቋቋማችሁ፣ በመጀመሪያ የሚመለከተው ሰው ደንበኛዎ ወይም ኦዲተር እንጂ እርስዎ አይሆኑም።

መታየት ያለባቸው አራት የሲግናል ቤተሰቦች

• አጠቃቀም እና ወጪ፡ የጥያቄ መጠን፣ የቶከን ፍጆታ፣ ዋጋ በአንድ ተጠቃሚ። በድንገት መዝለል; ይህ የማጎሳቆል ምልክት፣ የተዘበራረቀ ውህደት ወይም የሚያንጠባጥብ መቀየሪያ ሊሆን ይችላል።
• የደህንነት ምልክቶች፡ Jailbreak/የመርፌ ሙከራዎች፣የተሸከርካሪ ጥሪዎች ውድቅ ተደረገ፣የፈቀዳ ስህተቶች። ጭማሪ ንቁ የጥቃት ዘመቻን ሊያመለክት ይችላል።
• ጥራት እና ተንሸራታች፡ በጊዜ ሂደት የውጤት ጥራት መቀነስ (ተንሸራታች)። ለምሳሌ፣ የማረጋገጫ ማለፊያ መጠን፣ በሰው ማፅደቅ ውስጥ የእርምት መጠን፣ የተጠቃሚ እርካታ።
• አፈጻጸም፡ የቆይታ ጊዜ፣ የስህተት መጠን፣ የጊዜ ማብቂያ። የተጠቃሚውን ልምድ እና ወጪ በቀጥታ ይነካል።

Drift ምንድን ነው እና እንዴት እንደሚይዘው?

ድሪፍት የአምሳያው ግብአቶች ወይም ውፅዓት ጥራት በጊዜ ሂደት ሳይታወቅ ሲቀየር ነው። ሁለት ዓይነቶች አሉ-የውሂብ ተንሸራታች (የመጪ ጥያቄዎች ስርጭት ይለወጣል - አዲስ ርዕስ ፣ አዲስ ቋንቋ) እና የጥራት መንሸራተት (በተመሳሳይ ሥራ ውጤት ቀስ በቀስ እየባሰ ይሄዳል)። ለመያዝ የመነሻ መስመር ያስፈልጋል: ስርዓቱ ጤናማ ሲሆን መደበኛውን የመለኪያዎች መጠን ይመዝግቡ; ማፈንገጡ ማንቂያ ይሁን።

ደረጃ በደረጃ፡ ክትትልን ማዋቀር

1. የመነሻ መስመሩን ይለኩ. ስርዓቱ ጤናማ ሲሆን የእያንዳንዱን ምልክት መደበኛ ክልል ይመዝግቡ።
2. ገደብ እና ማንቂያ ይግለጹ። የትኛው መዛባት ማንን እና እንዴት ያስጠነቅቃል?
3. ናሙና + የሰው ምርመራ. የውጤቶቹን ናሙና በየጊዜው ይከልሱ (ጥራት ያለው ተንሸራታች ብዙ ጊዜ ብቻ ነው የሚታየው)።
4. ዳሽቦርድ ጫን። አራት የሲግናል ቤተሰቦችን በአንድ ስክሪን ተቆጣጠር።
5. የግብረመልስ ምልልስ። ግኝቶችን ከክትትል ወደ ፈጣን/መቆጣጠር ማሻሻያ ማሰር።

አራት ሊገለበጡ የሚችሉ አብነቶች

የጥራት ናሙና ግምገማ ጥያቄ (ከኤልኤልኤም-እንደ ዳኛ ጋር መንሸራተት)

ከዚህ ሳምንት በታች 20 የዘፈቀደ ህትመቶች አሉ። እያንዳንዱን እንደ "ጥሩ / ተቀባይነት ያለው / መጥፎ" ደረጃ ይስጡ እና አጭር ማረጋገጫ ይጻፉ። በመጨረሻ መጥፎውን መጠን ካለፈው ሳምንት ፍጥነት ጋር አወዳድራለሁ። በዚህ ሳምንት ጎልቶ የሚታየው ስርዓተ-ጥለት ካለ (የተመሳሳዩ አይነት ስህተት መደጋገም) ምልክት ያድርጉበት።<outputs>{{ examples }}</outputs>

ያልተለመደ ማጠቃለያ ጥያቄ፡-

የሚከተሉትን ዕለታዊ መለኪያዎችን ይመርምሩ፡ የጥያቄዎች ብዛት፣ ማስመሰያዎች፣ ወጪ፣ የመሳሪያ ጥሪ ውድቅ ተደርጓል፣ የእስር ቤት ሙከራዎች፣ አማካኝ መዘግየት። ከመነሻው ከ30% በላይ ያፈነገጠ ማንኛውንም መለኪያ እንደ "ANOLIT" ምልክት አድርግበት እና ሊከሰት የሚችለውን ምክንያት (ጥቃት፣ ስህተት፣ አላግባብ መጠቀም)።<metrics>{{ daily_data }}</metrics>

የማንቂያ ገደብ ትርጉም ደንብ፡-

ለእያንዳንዱ ምልክት ማንቂያዎችን ይግለጹ፡- ወጪ፡ ከ2x ዕለታዊ አማካኝ በላይ ከሆነ -> ከፍተኛ ቅድሚያ የሚሰጠው ማንቂያ- Jailbreak ሙከራዎች፡ በሰዓት ከ10 በላይ ከሆነ -> ለደህንነት ቡድን አሳውቅ- የማረጋገጫ ማለፊያ መጠን፡ ከ90% በታች ቢወድቅ -> የጥራት ግምገማ - መዘግየት፡ p95 ከታቀደው በ2x -> የአፈጻጸም ግምገማ ካለፈ

የጥናት ፍላጐት፡-

የማረጋገጫ ማለፊያ መጠን ባለፉት 2 ሳምንታት ከ94% ወደ 78% ወርዷል። ለእነዚህ ጥያቄዎች መልስ እንድሰጥ እርዳኝ፡ (1) በሚመጡት ጥያቄዎች ውስጥ አዲስ ርዕስ/ቋንቋ/ቅርጸት ታይቷል? (2) ስህተቶች በአንድ የተወሰነ ምድብ ውስጥ ያተኮሩ ናቸው? (3) ጊዜው ከጥያቄ/ሞዴል/መሳሪያ ለውጥ ጋር ይጣጣማል? ለእያንዳንዱ የሚጣራውን ውሂብ ይሰይሙ።

ደካማ ፈጣን/ጠንካራ ፍጥነት

ደካማ አቀራረብ

ጠንካራ አቀራረብ

"ስህተት ካለ እናያለን"

የመነሻ መስመር + ገደብ + ንቁ ማንቂያ

ስርዓቱ ቆሞ ከሆነ ለማየት ብቻ ነው.

አራት የምልክት ቤተሰቦችን መከታተል (አጠቃቀም፣ ደህንነት፣ ጥራት፣ አፈጻጸም)

የውጤት ጥራትን በፍፁም አለመውሰድ

መደበኛ የሰው ናሙና + LLM-እንደ ዳኛ

መለኪያዎችን አለመሰብሰብ እና አለመመልከት።

ዳሽቦርድ + የግብረመልስ ምልልስ

ሶስት ሚኒ ጉዳዮች

ጉዳይ 1 — የወጪ ማንቂያ የሚያንጠባጥብ ቁልፉን ያዘ። የአንድ ኩባንያ ዕለታዊ ማስመሰያ ዋጋ በአንድ ሌሊት በሦስት እጥፍ አድጓል። የመነሻ ማንቂያው የደህንነት ቡድኑን አስጠነቀቀ; ምርመራ እንደሚያሳየው የፈተና ቁልፍ ሾልኮ በቦቱ ተጠቅሟል። ቁልፉ በ 25 ደቂቃዎች ውስጥ ተሰርዟል; ማንቂያ ባይኖር ኖሮ ሂሳቡ በወሩ መጨረሻ ላይ ይታወቅ ነበር።

ጉዳይ 2 - ጸጥ ያለ ጥራት ያለው ተንሸራታች። የድጋፍ ረዳት የማረጋገጫ ማለፊያ መጠን በሶስት ሳምንታት ውስጥ በጸጥታ ከ95% ወደ 80% ወርዷል። ሳምንታዊ ናሙና ይህን ተያዘ; ምክንያቱ ደንበኞች ስለ አዲስ የምርት መስመር መጠየቅ በመጀመራቸው እና ሞዴሉ በእሱ ላይ ያለው የእውቀት መሰረት ያልተሟላ ነው. የእውቀት መሰረቱ ሲዘምን ፍጥነቱ ተመልሷል።

ጉዳይ 3 - የ jailbreak ሞገድ ቀደም ብሎ ነበር። በረዳት ላይ የተደረጉ የመርፌ ሙከራዎች በአንድ ቀን ውስጥ በሰዓት ከ2 ወደ 40 ጨምረዋል። የደህንነት ማንቂያ ተቀስቅሷል; ስርዓቱን ለመበጥበጥ "የምግብ አዘገጃጀት" በአንድ መድረክ ላይ ሲጋራ ታይቷል. ቡድኑ የመከላከያ ጥያቄውን እና የተገደበ አጠራጣሪ መለያዎችን አዘምኗል። ማዕበሉ ወደ እውነተኛ ፍሳሽ ከመቀየሩ በፊት ሞተ።

ጠቃሚ ምክር፡ ለማሽን መለኪያዎች ብቻ አይቀመጡ። ጥራት ያለው ተንሸራታች ብዙውን ጊዜ የሚይዘው አንድ ሰው የናሙና ውጤቶችን እንዲያነብ በማድረግ ብቻ ነው። በሳምንት ከ15-20 የዘፈቀደ ህትመቶችን ለመገምገም ትንሽ መደበኛ አሰራር በጣም ውድ የሆኑትን የዝምታ ውድቀቶችን ቀደም ብሎ ይይዛል።

የተለመዱ ስህተቶች

• ወደ ምርት አለማስገባት እና ክትትልን ማዋቀር ("እየተሰራ ነው፣ እሺ")።
• የመነሻ መስመሩን ሳይለኩ ያልተለመደውን መለየት አለመቻል.
• "ይቆማል" የሚለውን ብቻ በመመልከት የጥራት መንሸራተትን ማጣት.
• በሰው አይን በኩል የውጤቱን ጥራት ናሙና አለመውሰድ።
• ማንቂያ አለመስጠት እና ችግሩን ከደንበኛው/ተቆጣጣሪው ማግኘት።
• የክትትል ግኝቶችን ከመሻሻል ጋር አለማገናኘት (ምንም የግብረመልስ ዑደት የለም)።

በማጠቃለያው

• የ AI ስርዓቶች በጸጥታ ሊበላሹ ይችላሉ; በጣም አደገኛው ብልሽት ስህተቶችን የማይጥል ነው, ነገር ግን ጥራትን ብቻ ይቀንሳል.
• አራት የምልክት ቤተሰቦችን ይከታተሉ፡ አጠቃቀም/ዋጋ፣ ደህንነት፣ ጥራት/ተንሸራታች እና አፈጻጸም።
• ተንሸራታች (የግቤት ወይም የውጤት ጥራት በጊዜ ሂደት) የሚወሰደው ከመነሻ መስመር ጋር ሲነጻጸር ብቻ ነው።
• መደበኛ የሰው ናሙና ከማሽን መለኪያዎች በተጨማሪ የጥራት መንሸራተትን ይይዛል።
• ክትትልን ከማንቂያው እና ከአስተያየት ምልክቱ ጋር ያገናኙ; መለካት እና አለማየት መከታተል አይደለም።

የመተግበሪያ ተግባር

ለራስዎ AI ስርዓት ከአራቱ የምልክት ቤተሰቦች ውስጥ ቢያንስ አንድ ሜትሪክ ይምረጡ እና የአሁኑን (ወይም የተገመተውን) መነሻ መስመር ይፃፉ። ለእያንዳንዱ መለኪያ የማንቂያ ጣራን ይግለጹ። ከዚያ 15 የመጨረሻ ሴሚስተር ውጤቶችን ይውሰዱ እና ከላይ ባለው የናሙና መጠየቂያ ያስመዝግቡ። "መጥፎ" ደረጃን ልብ ይበሉ. ይህ ወደፊት ተንሳፋፊነትን የምታነጻጽርበት የመጀመሪያ መነሻህ ይሁን።

የማረጋገጫ ዝርዝር

• [] ከአራት የምልክት ቤተሰቦች (አጠቃቀም፣ ደህንነት፣ ጥራት፣ አፈጻጸም) መለኪያዎችን ገለጽኩ።
• [ ] ለእያንዳንዱ መለኪያ የመነሻ መስመር እና የማንቂያ ጣራ አዘጋጅቻለሁ።
• [] የውጤቱን ጥራት በመደበኛነት በሰዎች አይን ናሙና አደርጋለሁ።
• [] ምልክቶችን ከአንድ ማሳያ ፓነል ጋር በአንድ ስክሪን ላይ እከታተላለሁ።
• [] ማንቂያ ለደህንነት ቡድን ለጉዳት እና ለእስር ሰባሪ ሞገዶች ይሄዳል።
• [ ] የክትትል ግኝቶቹን ፈጣን/ቁጥጥር ማሻሻል ነው እላለሁ።