Aonad 9 / 11

Monatóireacht Leanúnach, Inbhraite agus Sreabhadh

Gnóthachain:

  • Cumas méadracht a shainiú a dhéanann monatóireacht ar úsáid, slándáil, cáilíocht agus comharthaí feidhmíochta
  • Cumas sruth cáilíochta aschuir a bhrath le bunlíne agus le sampláil
  • Cumas lúb aláraim agus aiseolais a shocrú le haghaidh aimhrialtachtaí agus tonnta jailbreak

Is é an tús, ní an deireadh, córas AI a chur i dtáirgeadh. Fiú má fhanann an tsamhail mar an gcéanna, athraíonn an domhan: iompar úsáideoirí, sonraí ag teacht isteach, teicnící ionsaí, agus comhthéacs gnó ag aistriú i gcónaí. Seans go bhfuil freagra ceart inné mícheart inniu. Mar sin is é an colún deiridh slándála ná monatóireacht leanúnach agus inbhraite — an cumas a fheiceáil ón taobh amuigh cad atá ar siúl laistigh den chóras. San aonad seo, foghlaimeoimid cad iad na méadrachtaí a chaithfear a mhonatóiriú, conas sruth cáilíochta aschuir a ghabháil, agus conas foláireamh a thabhairt faoi aimhrialtachtaí.

Cén Fáth Monatóireacht Leanúnach?

I mbogearraí clasaiceacha, is ceist dhénártha í "an oibríonn sé": freagraíonn sí nó ní fhreagraíonn. In AI, cé go ndealraíonn sé go bhfuil an córas “ag obair,” féadann sé dul in olcas go ciúin: éiríonn freagraí míchruinn go mall, méadaíonn costais, méadaíonn iarrachtaí jailbreak. Is é an t-aon bhealach chun iad seo a ghabháil ná na comharthaí cearta a thomhas i gcónaí.

Aird: Is é an mífheidhmiú is contúirtí an ceann ciúin, ní an ceann torannach. Ní dhéanann an córas earráidí caith, a cháilíocht ach laghduithe. Mura gcuireann tú monatóireacht ar bun, is é do chustaiméir nó d'iniúchóir an chéad duine a thabharfaidh faoi deara, ní tusa.

Ceithre Theaghlaigh Chomhartha le Breathnú orthu

  • Úsáid agus costas: Méid iarratais, tomhaltas comharthaí, costas in aghaidh an úsáideora. Léim tobann; D’fhéadfadh sé a bheith ina chomhartha mí-úsáide, ina lánpháirtiú lúbach, nó ina lasc sceite.
  • Comharthaí slándála: Jailbreak/iarrachtaí insteallta, glaonna feithicle diúltaithe, earráidí údaraithe. Féadfaidh méadú feachtas ionsaí gníomhach a léiriú.
  • Cáilíocht agus sruth: Laghdú ar cháilíocht an aschuir le himeacht ama (sruth). Mar shampla, ráta pas fíoraithe, ráta ceartúcháin i gceadú an duine, sástacht úsáideoirí.
  • Feidhmíocht: Folaigh, ráta earráide, teorainn ama. Bíonn tionchar díreach aige ar thaithí agus ar chostas an úsáideora.

Cad é Drift agus Conas é a Ghabháil?

Is éard atá i gceist le sruth nuair a aistrítear cáilíocht ionchuir nó aschuir an mhúnla le himeacht ama. Tá dhá chineál ann: sruth sonraí (athruithe ar dháileadh na n-iarratas isteach — topaic nua, teanga nua) agus sruth cáilíochta (is measa de réir a chéile an t-aschur don jab céanna). Tá gá le bunlíne chun na nithe seo a leanas a ghabháil: gnáthraon méadrach a thaifeadadh nuair atá an córas sláintiúil; Lig don diall a bheith ina aláram.

Céim ar Chéim: Monatóireacht a Shocrú

  1. Tomhais an bunlíne. Taifead raon gnáth gach comhartha nuair a bhíonn an córas sláintiúil.
  2. Sainmhínigh tairseach agus aláram. Cén diall a thabharfaidh rabhadh cé hé agus conas?
  3. Sampláil + iniúchadh daonna. Déan athbhreithniú daonna ar shampla de na haschuir go rialta (is minic nach bhfeictear ach sruth cáilíochta).
  4. Suiteáil painéal. Monatóireacht a dhéanamh ar cheithre theaghlach comhartha ar scáileán amháin.
  5. Lúb aiseolais. Ceangail torthaí ón monatóireacht le feabhsúchán pras/rialaithe.

Ceithre Theimpléad Inchóipeála

Pras meastóireachta samplála cáilíochta (rianú srutha le LLM-mar-Judge):

Anseo thíos tá 20 inphriontáilte randamach ón tseachtain seo. Ráta gach ceann acu mar "maith / inghlactha / olc" agus scríobh fírinniú gairid. Ar deireadh déanfaidh mé an droch-ráta i gcomparáid le ráta na seachtaine seo caite; Má tá patrún (atarlú den chineál céanna botún) a sheasann amach an tseachtain seo, marcáil é. <aschuir>{ { samplaí }}</aschuir>

Leid achoimre aimhrialtacht:

Scrúdaigh na méadrachtaí laethúla seo a leanas: líon na n-iarratas, comharthaí, costas, glao uirlisí diúltaithe, iarrachtaí jailbreak, meánfhanacht. Marcáil aon mhéadrach a chlaonann níos mó ná 30% ón mbunlíne mar "ANOMALIT" agus déan meastachán ar an gcúis fhéideartha (ionsaí, fabht, mí-úsáid).<méadracht>{{ daily_data }}</metrics>

Riail sainmhínithe tairsí aláraim:

Sainmhínigh aláraim do gach comhartha:- Costas: má sháraíonn sé an meán laethúil 2x -> foláireamh ardtosaíochta- iarrachtaí Jailbreak: má sháraíonn sé 10 san uair -> cuir an fhoireann slándála ar an eolas- Ráta pas fíoraithe: má thiteann sé faoi bhun 90% -> athbhreithniú cáilíochta- Latency: má sháraíonn p95 an sprioc faoi 2x -> athbhreithniú feidhmíochta

Leid taighde srutha:

Tá an ráta pas fíoraithe tite ó 94% go 78% le 2 sheachtain anuas. Cabhraigh liom na ceisteanna seo a fhreagairt: (1) Ar tháinig topaic/teanga/formáid nua sna hiarratais isteach? (2) An bhfuil earráidí dírithe ar chatagóir ar leith? (3) An dtagann an t-am ag an am céanna le hathrú leid/múnla/uirlis? Ainmnigh na sonraí atá le seiceáil do gach ceann acu.

Lag Pras / Pras Láidir

cur chuige bocht

Cur chuige láidir

"Má tá earráid ann, feicfimid"

Bunlíne + tairseach + aláram réamhghníomhach

Níl le déanamh ach seiceáil féachaint an bhfuil an córas ina sheasamh.

Monatóireacht a dhéanamh ar cheithre theaghlach comharthaí (úsáid, slándáil, cáilíocht, feidhmíocht)

Gan sampláil a dhéanamh ar chaighdeán an aschuir ar chor ar bith

Sampláil dhaonna rialta + LLM-mar-bhreitheamh

Gan bailiú agus féachaint ar mhéadracht

Painéal + lúb aiseolais

Trí Chás Mini

Cás 1 - Ghlac aláram costais an eochair sceite. Tháinig méadú faoi thrí ar chostas chomhartha laethúil cuideachta thar oíche. Chuir an t-aláram tairsí foláireamh don fhoireann slándála; léirigh an t-imscrúdú gur sceitheadh ​​eochair tástála agus gur úsáid bot é. Rinneadh an eochair a chúlghairm i 25 nóiméad; Mura mbeadh aláram ann, bheadh ​​an bille tugtha faoi deara ag deireadh na míosa.

Cás 2 - Sruth ciúin cáilíochta. Thit ráta pas fíoraithe cúntóir tacaíochta go ciúin ó 95% go 80% i dtrí seachtaine. Ghlac sampláil sheachtainiúil é seo; Ba í an chúis ná gur thosaigh custaiméirí ag fiafraí faoi líne táirge nua agus bhí bonn eolais an mhúnla air neamhiomlán. An ráta a gnóthaíodh nuair a nuashonraíodh an bonn eolais.

Cás 3 - Bhí ​​an tonn jailbreak go luath. Mhéadaigh iarrachtaí insteallta a rinneadh ar chúntóir ó 2 go 40 in aghaidh na huaire in aon lá amháin. Aláram slándála spreagtha; Chonacthas gur roinneadh “oideas” chun an córas a scoilteadh i bhfóram. Thug an fhoireann cothrom le dáta na cuntais amhrasacha pras agus ráta-teoranta; Fuair ​​​​an tonn bás sular tháinig sceitheadh ​​​​dáiríre.

Leid: Ná socraigh le haghaidh méadrachta meaisín amháin. Is minic go mbíonn sruth cáilíochta gafa nuair nach mbíonn ach an duine ag léamh aschuir na samplaí. Má dhéantar athbhreithniú ar 15-20 asphrionta randamach in aghaidh na seachtaine, gheobhaidh tú na teipeanna ciúine is daoire go luath.

Botúin choitianta

  • Gan é a chur i dtáirgeadh agus monatóireacht a chur ar bun ("tá sé ag obair, ceart go leor").
  • Gan a bheith in ann an aimhrialtacht a aithint gan an bhunlíne a thomhas.
  • Gan an sruth cáilíochta a bheith in easnamh ach féachaint ar "an seasann sé suas".
  • Gan an caighdeán aschuir a shampláil trí shúile an duine ar chor ar bith.
  • Gan aláram a ardú agus an fhadhb a fháil amach ón gcustaiméir/maoirseoir.
  • Gan torthaí monatóireachta a nascadh le feabhsú (gan lúb aiseolais).

Go hachomair

  • Is féidir le córais AI dul in olcas go ciúin; Is é an mífheidhmiú is contúirtí ná an ceann nach gcaitheann earráidí, ach ní laghdaíonn sé ach cáilíocht.
  • Rianaigh ceithre theaghlach comharthaí: úsáid/costas, sábháilteacht, cáilíocht/sruth, agus feidhmíocht.
  • Ní ghabhtar sruth (sreabhadh cáilíochta ionchuir nó aschuir le himeacht ama) ach amháin i gcomparáid le bunlíne.
  • Gabhann sampláil dhaonna rialta chomh maith le méadracht innill sruth cáilíochta.
  • Déan monatóireacht a nascadh leis an lúb aláraim agus aiseolais; Ní monatóireacht é tomhas agus gan breathnú.

Tasc feidhmchláir

Roghnaigh méadrach amháin ar a laghad ó gach ceann de na ceithre theaghlach comhartha do do chóras AI féin agus scríobh síos a mbunlínte reatha (nó measta). Sainmhínigh tairseach aláraim do gach méadrach. Ansin tóg 15 d'aschur an tseimeastair seo caite agus scóráil iad leis an leid samplála thuas; Tabhair faoi deara an ráta “dona”. Bíodh seo mar an chéad bhunlíne agat chun an sruth a chur i gcomparáid lena chéile sa todhchaí.

seicliosta

  • [ ] Shainmhínigh mé méadracht ó cheithre theaghlach comharthaí (úsáid, slándáil, cáilíocht, feidhmíocht).
  • [ ] Leag mé bonnlíne agus tairseach aláraim do gach méadrach.
  • [ ] Breathnaím go rialta ar cháilíocht an aschuir trí shúile an duine.
  • [ ] Déanaim monatóireacht ar na comharthaí ar scáileán amháin le painéal taispeána.
  • [ ] Téann an t-aláram chuig an bhfoireann slándála le haghaidh aimhrialtachtaí agus tonnta jailbreak.
  • [ ] Cuirim na torthaí monatóireachta i leith an fheabhsúcháin pras/rialaithe.