Eining 8 / 11

Eval og eftirlit: Að vita hvað líkanið raunverulega gerir í framleiðslu

Hagnaður:

  • Geta til að bera kennsl á þöglar orsakir hnignunar líkansins (gagnarek, hugtaksrek, andstreymisvilla) og koma á þriggja laga (rekstrar-, inntak, úttak) vöktun
  • Geta til að meta LLM kerfi í mörgum lögum með regluskoðun, LLM-dómara og mannlegu mati, og kvarða með LLM-dómara mannlegu akkeri
  • Geta til að hanna prófunarsett sem inniheldur kant- og öryggistilfelli og breyta hverri veiddu villu í varanlegt prófunartilvik

Þegar líkan fer í framleiðslu er vinnan þín ekki búin; Hin raunverulega ábyrgð byrjar bara. Vegna þess að líkanið getur hljóðlaust brotnað niður þegar enginn horfir. Í þessari einingu förum við yfir tvær greinar sem bætast við: mat (kerfisbundið mæling á gæðum líkansins) og vöktun (stöðugt eftirlit með líkaninu í framleiðslu). Sérstaklega í LLM kerfum er eval erfiðara og krefst meiri umönnunar en klassískt ML.

Af hverju framleiðslulíkanið er hljóðlega að brotna niður

Galla hrynur, skráin prentast, viðvörunin fer í gang. ML líkan getur aftur á móti verið rangt án þess að valda villum. Þrjár helstu orsakir niðurbrots:

  • Gagnarek: Dreifing inntaksgagna breytist með tímanum (nýjar vörur, breytt notendahegðun, árstíðarsveifla). Fyrirmyndin er sú sama en heimurinn breytist.
  • Hugtaksrek: Inntaks-úttakssambandið breytist. Sviksaðferðir og ruslpóstmynstur þróast; Það sem var rétt í gær verður rangt í dag.
  • Uppstreymisspilling: Gagnagjafi breytir um snið, svæði verður laust; Líkanið slefar hljóðlaust með skemmdum inntak.

Rekja gerir þessar þöglu brenglun heyranlegar.

Hvað á að horfa á: þrjú lög

Gott eftirlit nær yfir þrjú lög:

  1. Rekstrarmælingar: Sekun, villuhlutfall, magn beiðna, auðlindanotkun. "Stendur kerfið?"
  2. Gögn/inntaksmælingar: Er inntaksdreifingin svipuð og í þjálfun? Hefur verðmæti sem vantar hækkað? Eru nýir flokkar komnir? "Er líkanið að sjá kunnugleg gögn?"
  3. Líkan/úttaksmælingar: Spádreifingarskrá? Hefur sjálfstraust stig lækkað? Og ef mögulegt er, hver er nákvæmnin miðað við grunnsannleikann? "Er líkanið enn nákvæmt?"

Þriðja lagið er það verðmætasta en það erfiðasta; vegna þess að raunveruleg niðurstaða kemur yfirleitt með seinkun (það kemur í ljós eftir mánuði hvort lán verður greitt eða ekki).

Ábending: Ef raunveruleg niðurstaða er seinkuð skaltu fyrst fylgjast með inntakinu og spádreifingu. Breyting á inntaksdreifingu er snemma merki um skerðingu á nákvæmni og getur vakið viðvörun án þess að bíða eftir raunverulegri niðurstöðu.

Mat á LLM kerfum: sérstaka áskorunin

Í klassísku ML er „rétt svar“ skýrt (flokkur 0 eða 1). LLM niðurstaðan er aftur á móti opin: það geta verið mörg rétt svör við sömu spurningunni, "réttleiki" passar ekki í eina tölu. LLM eval nálganir:

  • Mælingar sem vísað er til: Samanburður á framleiðslunni við hið fullkomna svar. Takmarkað; vegna þess að það gæti litið svo á að rétt svar tjáð öðruvísi sem "rangt".
  • Reglur byggðar athuganir: Er úttakið gilt JSON? Eru einhver bönnuð orð? Inniheldur það reiti sem óskað er eftir? Ódýrt, áreiðanlegt, þétt.
  • LLM-dómari (LLM-as-judge): Ekki láta líkan spyrja "er þetta svar gott samkvæmt þessari viðmiðun?" Það skalast, en dómarinn sjálfur verður að vera sannprófaður.
  • Mannleg endurskoðun: Gullstaðall en dýr og hægt. Það er notað á sýninu.

Í reynd eru þetta notaðar saman: ódýrar reglur um hverja framleiðslu, LLM-dómari á stóru úrtaki, mannlegt mat á litlu en ströngu úrtaki.

Veik nálgun / Sterk nálgun

Veikur: "LLM-I spurði dómarann, 92% af svörum okkar voru góð. Kerfið er frábært."

Güçlü: "Við merktum fyrst 100 útprentanir af mönnum. Við keyrðum LLM-dómarann ​​á sömu 100 útprentunum og mældum sátt manna og dómara - 85% samþykki, ásættanlegt. Við skjalfestum hvar dómarinn fór kerfisbundið úrskeiðis (tilhneiging til að finna löng svör ósanngjarnan góð) og réttuðum einkunnir dómarans fyrst þá gáfum við einkunnir hans."

Munurinn: sterka nálgunin sannreynir dómarann ​​með mannlegu akkeri, ekki í blindni. Óstaðfestur LLM-dómari gefur fallegt útlit en falskt sjálfstraust.

Athugið: LLM-dómari er líka fyrirmynd; ofskynjunarvaldandi, hlutdrægur (hýsir löngum/öruggum svörum), getur verið ósamræmi. Kvarðaðu skor dómara með mannamerkjum áður en þú tekur framleiðsluákvarðanir.

Matssett: vandlega hannað

Gott matarsett táknar margs konar raunverulega notkun og erfið mál. Eval fyllt með einföldum dæmum mun skilja þig eftir í fölsku trausti. Vertu viss um að setja það í eval þyrpinguna:

  • Kanthylki: Tómt inntak, mjög langt inntak, óvenjulegt snið.
  • Þekkt erfið tilvik: Dæmi þar sem líkanið hefur gert mistök í fortíðinni (sem aðhvarfspróf).
  • Öryggisatvik: Skyndar tilraunir til inndælingar, illgjarnar beiðnir, gildrur fyrir brot á friðhelgi einkalífs.

Tímaklasinn stækkar með tímanum: hver ný galla sem þú færð í framleiðslu verður prófunartilvik fyrir næsta mat.

Viðvörun og inngrip

Vöktun er enn ófullkomin án viðvörunar. Það ætti að vera þröskuldur og viðbragðsáætlun fyrir hvern mikilvægan mælikvarða: "Látið verkfræðing vita ef inntaksrek fer yfir X", "Sjálfvirkt afturkalla ef villuhlutfall fer yfir Y". Haltu viðvörunum innihaldsríkum - of margar rangar viðvaranir gera liðið ónæmt og láta það missa af alvöru viðvöruninni.

þrjú smámál

Mál 1 - Snemmbúin viðvörun. Raunveruleg nákvæmni eftirspurnarspárlíkans kom fyrst í ljós í lok vikunnar. Liðið fylgdist með dreifingu inntaks og sá skyndilega hækkun nýs vöruflokks á þriðjudegi - eitthvað sem líkanið hafði aldrei séð. Þeir uppfærðu líkanið án þess að bíða eftir nákvæmnisfallinu. Inntakseftirlit sparar dagar.

Mál 2 - Óstaðfestur dómari. Eitt teymi sagði „gæði okkar eru frábær“ byggt á LLM-gagnrýnanda. Þegar kvörtunum viðskiptavina fjölgaði var eftirlit með mönnum tekið upp: dómarinn taldi örugg en röng svör „góð“. Þegar dómarinn var kvarðaður með mannamerkjum kom í ljós hin sanna gæði og voru mun lægri. Lærdómur: ekki treysta dómaranum án þess að staðfesta það.

Tilfelli 3 - Aðhvarfsprófun. Skjót breyting leysti eitt vandamál en braut annað hljóðlaust. En liðið hélt framhjá pöddum í eval fötunni; Þegar nýja breytingin var prófuð á þessum klasa náðist brotna málið strax og breytingin var lagfærð. Lærdómur: sérhver fastur villa ætti að verða varanlegt prófunartilvik.

Afritanleg sniðmát

Búðu til rakningaráætlun fyrir þetta framleiðslulíkan. Hyljið þrjú lög:1) Rekstrarleg (leynd, villuhlutfall, rúmmál)2) Inntak/gögn (dreifingartilfærsla, gildi sem vantar, nýr flokkur)3) Líkan/úttak (spádreifing, öryggi, nákvæmni ef mögulegt er) Líkan: [lýsing]. Hversu langan tíma tekur það fyrir raunverulega niðurstöðu að berast: [duration]Bæta við viðmiðunarmörkum og ráðleggingum um inngrip fyrir hverja mælikvarða.

Leggðu til mats (eval) stefnu fyrir þetta LLM kerfi. Verkefni: [lýsing]Ákvarða lög:- Hvaða reglubundnu athuganir ættu að keyra á hverri framleiðslu?- Hvaða viðmið ætti LLM-gerðarmaðurinn að meta og hvernig ætti að staðfesta þau (mannlegt akkeri)?- Í hvaða úrtaki ætti að framkvæma mannlegt mat?

Athugaðu þessa LLM-dómarakvaðningu:- Eru matsviðmiðin skýr eða huglæg?- Er það tilhneigingu til lengdar/sjálfstrausts hlutdrægni?- Hvernig kvarða ég dómarann með mannamerkjum?Dómarakvaðning: [kvaðning]

Skrifaðu svörunarbók fyrir þessa vöktunarviðvörun. Viðvörun: [t.d. inntaksreksþröskuldur farið yfir] Verður að innihalda: fyrstu stýrisskref, mögulegar orsakir, viðmiðanir um afturköllun, hverjum á að upplýsa.

Rýrnun orsök tafla

brenglun

einkenni

Leið til snemma uppgötvunar

gagnastreymi

Inntaksdreifing breytist

Vöktun inntaksdreifingar

hugtaksbreyting

Réttlætið fellur hljóðalaust

Spá + raunsamanburður

uppstreymisvilla

Reitir verða lausir/sniðbreytingar

Staðfesting kerfis + hlutfall sem vantar

Ósamræmi líkans

Aftaksdreifing breytist

Vöktun framleiðsludreifingar

Algeng mistök

  • Ekki koma á eftirliti. Módelið brotnar niður hljóðlaust, enginn sér það.
  • Fylgstu aðeins með rekstrarmælingum. Kerfið er komið upp en spár geta verið rangar.
  • Að nota LLM án þess að staðfesta dómarann. Það gefur falskt traust.
  • Eval með auðveldum dæmum. Það gefur ekki til kynna raunverulegan erfiðleika.
  • Ekki meðtaldar fyrri villur í eval. Sama villa kemur aftur.
  • Hávær viðvörun. Liðið verður ónæmt og missir af alvöru viðvöruninni.

Í stuttu máli

Líkanið getur verið ónákvæmt án þess að valda villum í framleiðslu; svo mat og vöktun eru jafn mikilvæg og þróun. Koma á eftirliti á þremur lögum (aðgerð, inntak, úttak); Notaðu inntaksrek sem snemmbúna viðvörun ef raunveruleg niðurstaða er seinkuð. Í LLM kerfum er eval opið; Notaðu reglupróf, LLM-dómara og mannlegt mat saman - en vertu viss um að staðfesta LLM-dómarann ​​með mannlegu akkeri. Auðgaðu Eval þyrpinguna þína með brún- og öryggistöskum og breyttu hverri villu sem þú finnur í varanlegu prófunartilfelli.

Umsóknarverkefni

Skrifaðu þriggja laga vöktunaráætlun fyrir framleiðslulíkan (eða næstum framleiðslu) og skilgreindu þröskuld + viðvörun fyrir að minnsta kosti eina inntaksdreifingarmælikvarða. Ef þú ert með LLM kerfi: merktu 30 úttak með mönnum, keyrðu LLM-dómara á sömu úttakunum og mældu samkomulag milli manna og dómara; Taktu eftir kerfisbundinni hlutdrægni dómarans. Bættu að minnsta kosti 3 brúnum og 2 öryggistöskum við eval þyrpinguna þína.

gátlisti

  • [ ] Vöktun nær yfir öll þrjú lögin (rekstur, inntak, úttak).
  • [ ] Ég nota inntaksdrif sem snemmbúna viðvörun ef raunveruleg niðurstaða er seinkuð.
  • [ ] Ég kvarðaði LLM-gerðarmanninn með mannamerkjum.
  • [ ] Eval þyrpingin inniheldur kant- og öryggismál.
  • [ ] Ég breytti hverri villu sem ég lenti í að varanlegu prófunartilviki.
  • [ ] Hver mikilvægur mælikvarði hefur þröskuld og viðbragðsáætlun.