Faida:
- Uwezo wa kufafanua vipimo vinavyofuatilia matumizi, usalama, ubora na mawimbi ya utendaji
- Uwezo wa kugundua kuteleza kwa ubora wa pato kwa msingi na sampuli
- Uwezo wa kuweka kengele na kitanzi cha maoni kwa hitilafu na mawimbi ya mapumziko ya jela
Kuweka mfumo wa AI katika uzalishaji ni mwanzo, sio mwisho. Hata kama muundo utabaki vile vile, ulimwengu hubadilika: tabia ya mtumiaji, data inayoingia, mbinu za mashambulizi na muktadha wa biashara hubadilika kila mara. Jibu sahihi la jana linaweza kuwa si sahihi leo. Kwa hivyo nguzo ya mwisho ya usalama ni ufuatiliaji na uangalizi unaoendelea - uwezo wa kuona kutoka nje kinachoendelea ndani ya mfumo. Katika kitengo hiki, tutajifunza ni vipimo vipi vya kufuatilia, jinsi ya kunasa mteremko wa ubora wa matokeo, na jinsi ya kutahadharisha kuhusu hitilafu.
Kwa nini Ufuatiliaji Uendelee?
Katika programu ya kitamaduni, "inafanya kazi" ni swali la binary: ama inajibu au haifanyi. Katika AI, wakati mfumo unaonekana "kufanya kazi," unaweza kuharibika kimya kimya: majibu polepole kuwa sahihi, gharama huongezeka, majaribio ya jela huongezeka. Njia pekee ya kukamata hizi ni kupima mara kwa mara ishara sahihi.
Tahadhari: Ukiukaji hatari zaidi ni ule wa kimya, sio wa kelele. Mfumo hautupa makosa, ubora wake hupungua tu. Ikiwa hutaanzisha ufuatiliaji, mtu wa kwanza kutambua atakuwa mteja wako au mkaguzi, si wewe.
Familia Nne za Mawimbi za Kutazama
- Matumizi na gharama: Omba kiasi, matumizi ya ishara, gharama kwa kila mtumiaji. Kuruka ghafla; Inaweza kuwa ishara ya matumizi mabaya, ujumuishaji wa kitanzi, au swichi inayovuja.
- Ishara za usalama: Jailbreak/majaribio ya sindano, simu za gari zimekataliwa, makosa ya uidhinishaji. Kuongezeka kunaweza kuonyesha kampeni inayoendelea ya shambulio.
- Ubora na kuteleza: Kupungua kwa ubora wa pato baada ya muda (drift). Kwa mfano, kiwango cha kupita kwa uthibitishaji, kiwango cha marekebisho katika idhini ya kibinadamu, kuridhika kwa mtumiaji.
- Utendaji: Muda wa kusubiri, kiwango cha makosa, muda umeisha. Inathiri moja kwa moja uzoefu wa mtumiaji na gharama.
Drift ni nini na jinsi ya kuipata?
Drift ni wakati ubora wa pembejeo au matokeo ya modeli hubadilika bila kutambuliwa baada ya muda. Kuna aina mbili: mteremko wa data (usambazaji wa maombi yanayoingia hubadilika - mada mpya, lugha mpya) na uboreshaji wa ubora (matokeo ya kazi sawa polepole yanazidi kuwa mbaya). Msingi unahitajika ili kunasa: kurekodi masafa ya kawaida ya vipimo wakati mfumo uko salama; Acha kupotoka kuwa kengele.
Hatua kwa Hatua: Kuweka Ufuatiliaji
- Pima msingi. Rekodi masafa ya kawaida ya kila mawimbi wakati mfumo ukiwa na afya.
- Bainisha kizingiti na kengele. Mkengeuko gani utamwonya nani na vipi?
- Sampuli + ukaguzi wa binadamu. Kuwa na mapitio ya kibinadamu ya sampuli ya matokeo mara kwa mara (kushuka kwa ubora mara nyingi huonekana tu).
- Sakinisha dashibodi. Fuatilia familia nne za ishara kwenye skrini moja.
- Kitanzi cha maoni. Unganisha matokeo kutoka kwa ufuatiliaji hadi uboreshaji wa haraka/udhibiti.
Violezo Vinne Vinakiliwa
Kidokezo cha tathmini ya ubora wa sampuli (ufuatiliaji wa kuteleza kwa kutumia LLM-as-judge):
Zifuatazo ni nakala 20 za kuchapisha nasibu kutoka wiki hii. Kadiria kila moja kama "nzuri / inayokubalika / mbaya" na uandike sababu fupi. Hatimaye nitalinganisha kiwango kibaya na kiwango cha wiki iliyopita; Ikiwa kuna mchoro (kujirudia kwa aina sawa ya makosa) ambayo yanaonekana wazi wiki hii, itie alama.<outputs>{{ examples }}</outputs>
Kidokezo cha muhtasari usio wa kawaida:
Chunguza vipimo vifuatavyo vya kila siku: idadi ya maombi, tokeni, gharama, simu ya zana iliyokataliwa, majaribio ya mapumziko ya jela, wastani wa kusubiri. Weka alama kwenye kipimo chochote kinachokengeuka zaidi ya 30% kutoka kwa msingi kama "ANOMALIT" na ukadirie sababu inayowezekana (shambulio, hitilafu, matumizi mabaya).<metrics>{{ daily_data }}</metrics>
Kanuni ya ufafanuzi wa kizingiti cha kengele:
Bainisha kengele kwa kila mawimbi:- Gharama: ikiwa inazidi wastani wa mara 2 kwa siku -> arifa ya kipaumbele cha juu- Majaribio ya Jailbreak: ikizidi 10 kwa saa -> ijulishe timu ya usalama- Kiwango cha kufaulu kwa uthibitishaji: ikiwa iko chini ya 90% -> ukaguzi wa ubora- Muda wa kusubiri: ikiwa p95 inazidi lengo kwa 2x -> ukaguzi wa utendaji
Agizo la utafiti wa Drift:
Kiwango cha ufaulu wa uhakiki kimeshuka kutoka 94% hadi 78% katika wiki 2 zilizopita. Nisaidie kujibu maswali haya: (1) Je, mada/lugha/umbizo mpya limeonekana katika maombi yanayoingia? (2) Je, makosa yanajikita katika kategoria fulani? (3) Je, muda unaambatana na mabadiliko ya haraka/modeli/zana? Taja data itakayoangaliwa kwa kila moja.
Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu
mbinu mbaya
Mbinu kali
"Kama kuna kosa tutaona"
Msingi + kizingiti + kengele tendaji
Kuangalia tu kuona ikiwa mfumo umesimama.
Kufuatilia familia nne za mawimbi (matumizi, usalama, ubora, utendakazi)
Sio sampuli za ubora wa pato hata kidogo
Sampuli za kawaida za binadamu + LLM-as-judge
Sio kukusanya na kuangalia vipimo
Dashibodi + kitanzi cha maoni
Kesi Tatu Ndogo
Kesi ya 1 - Kengele ya gharama ilishika ufunguo unaovuja. Tokeni ya kila siku ya kampuni iliongezeka mara tatu kwa usiku mmoja. Kengele ya kizingiti ilitahadharisha timu ya usalama; uchunguzi ulionyesha kuwa ufunguo wa majaribio ulikuwa umevuja na kutumiwa na roboti. Ufunguo ulibatilishwa kwa dakika 25; Ikiwa hakukuwa na kengele, muswada huo ungetambuliwa mwishoni mwa mwezi.
Kesi ya 2 - Utelezi wa hali ya kimya kimya. Kiwango cha kufaulu kwa msaidizi wa uthibitishaji kilishuka kimya kimya kutoka 95% hadi 80% katika wiki tatu. Sampuli za kila wiki zilinasa hii; Sababu ilikuwa kwamba wateja walianza kuuliza kuhusu laini mpya ya bidhaa na msingi wa ujuzi wa modeli juu yake ulikuwa haujakamilika. Kiwango kilipatikana wakati msingi wa maarifa ulisasishwa.
Kesi ya 3 - Wimbi la mapumziko ya jela lilikuwa mapema. Majaribio ya sindano yaliyofanywa kwa msaidizi yaliongezeka kutoka 2 hadi 40 kwa saa kwa siku moja. Kengele ya usalama imewashwa; Ilionekana kuwa "kichocheo" cha kuvunja mfumo kilishirikiwa kwenye kongamano. Timu ilisasisha swali la utetezi na akaunti za tuhuma zisizo na viwango; Wimbi lilikufa kabla ya kugeuka kuwa uvujaji halisi.
Kidokezo: Usikubali kutumia vipimo vya mashine pekee. Utelezi wa ubora mara nyingi hunaswa kwa kumfanya mwanadamu asome matokeo ya sampuli. Utaratibu mdogo wa kukagua vichapisho 15-20 kwa wiki bila mpangilio utapata makosa ghali zaidi ya kimyakimya mapema.
Makosa ya kawaida
- Sio kuiweka katika uzalishaji na kuanzisha ufuatiliaji ("inafanya kazi, sawa").
- Kutoweza kutambua hitilafu bila kupima msingi.
- Kukosa mteremko wa ubora kwa kuangalia tu "inasimama".
- Sio sampuli za ubora wa pato kupitia macho ya mwanadamu hata kidogo.
- Kutokupaza kengele na kujua tatizo kutoka kwa mteja/msimamizi.
- Kutounganisha matokeo ya ufuatiliaji na uboreshaji (hakuna kitanzi cha maoni).
Kwa muhtasari
- Mifumo ya AI inaweza kuharibika kimya kimya; Uharibifu hatari zaidi ni ule ambao hautupi makosa, lakini hupunguza ubora tu.
- Fuatilia familia nne za mawimbi: matumizi/gharama, usalama, ubora/kuteleza na utendakazi.
- Drift (kuteleza kwa ingizo au ubora wa matokeo baada ya muda) hunaswa tu ikilinganishwa na msingi.
- Sampuli za kawaida za binadamu pamoja na vipimo vya mashine hunasa mteremko wa ubora.
- Unganisha ufuatiliaji kwa kengele na kitanzi cha maoni; Kupima na kutoangalia sio ufuatiliaji.
Jukumu la maombi
Chagua angalau kipimo kimoja kutoka kwa kila moja ya familia nne za mawimbi kwa mfumo wako wa AI na uandike misingi yao ya sasa (au makadirio). Bainisha kiwango cha juu cha kengele kwa kila kipimo. Kisha chukua matokeo 15 ya muhula wako uliopita na uyaweke alama kwa kidokezo cha sampuli hapo juu; Kumbuka kiwango "mbaya". Hebu huu uwe msingi wako wa kwanza ambao unaweza kulinganisha kusogea katika siku zijazo.
orodha ya ukaguzi
- [ ] Nilifafanua vipimo kutoka kwa familia nne za mawimbi (matumizi, usalama, ubora, utendakazi).
- [ ] Niliweka kiwango cha msingi na kizingiti cha kengele kwa kila kipimo.
- [ ] Mimi sampuli ya ubora wa pato mara kwa mara kupitia macho ya binadamu.
- [ ] Ninafuatilia mawimbi kwenye skrini moja na paneli ya kuonyesha.
- [ ] Kengele huenda kwa timu ya usalama kwa hitilafu na mawimbi ya jela.
- [ ] Ninahusisha matokeo ya ufuatiliaji na uboreshaji wa haraka/udhibiti.