Girdeji:
- Kod-maglumat-model üçlügi we bukjasy bilen baglanyşykly ML-iň aýratyn kynçylyklaryny tanamak we işewür zerurlyklaryna görä modeli onlaýn ýa-da partiýada hödürlemek.
- Graduallyuwaş-ýuwaşdan we yza gaýdyp ýerleşdiriş nagyşlaryny (kölege, kanar, A / B, yzyna gaýtarmak) durmuşa geçirmek we her ýaýbaňda synagdan geçen yzyna gaýtarmak meýilnamasyny goşmak.
- Önümçilige goýlan modeliň maglumat-kod-metrik baglanyşygyny bahalandyryş çäkleri bilen dolandyrylýan CI / CD we model reýestri bilen yzarlap bilmek;
Notebookda 95% takyklygy gazanmak üçin model almak hekaýanyň diňe ýarysy. Beýleki ýarysy, köplenç gaty kyn bölegi, bu modeli hakyky ulanyjylara ygtybarly, ulaldylyp we dowam etdirip bolýar. MLOps (Maşyn öwreniş amallary: ML modellerini önümçilige goýmak, işletmek we goldamak düzgüni) programma üpjünçiliginiň DevOps tejribesini ML-iň üýtgeşik kynçylyklary bilen birleşdirýär. Bu bölümde, modeli önümçilige geçirmek ädimlerini we emeli intellektiň bu işde nähili kömek edýändigini öz içine alýarys.
ML näme üçin adaty programma üpjünçiliginden tapawutlanýar?
Adaty programma üpjünçiliginde özüni alyp baryş kodda; Kod üýtgemese, özüni alyp barşyňyz üýtgemez. ML-de özüni alyp baryş koda, maglumatlara we modele baglydyr. Bu üç ölçeg MLOps-yň goşmaça kynçylyklaryny döredýär:
- Maglumatlaryň süýşmegi: Önümçilikdäki maglumatlar wagtyň geçmegi bilen okuwdaky maglumatlardan daşlaşýar; model köneldi.
- Üç zady wersiýa etmeli: Kod, maglumatlar we model - üçüsi.
- Ümsüm şowsuzlyk: Bir model ýykylmazdan, ýalňyşlyklar bermezden, diňe nädogry çaklamalary öndürip biler. Munuň üçin gözegçilik gerek.
Şol sebäpli "işleýän model" bilen "önümçilige taýyn model" arasynda uly tapawut bar.
Model gaplamak we hödürlemek
Modeliň önümçilige girizilmeginde ilkinji ädim ony gaplamakdyr: model faýly, zerur kitaphanalar, deslapky işleýiş kody we wersiýa maglumatlary köpelip bilýän tutuşlygyna bilelikde. Konteýnerizasiýa (meselem, doker: programmany ähli baglylyklary bilen izolirlenen gutuda goýmak) bu ýerde adaty; "Bu meniň maşynymda işleýärdi" meselesini ýok edýär.
Modeliň hyzmat etmegiň iki esasy usuly:
- Onlaýn / real wagt (onlaýn): Model, gelýän her haýyş üçin dessine çaklamany yzyna gaýtaryp, API-iň arkasynda otyr. Pes gijä galmak möhümdir.
- Topar: Model wagtal-wagtal uly maglumatlar toplumyny işleýär (meselem, gije ähli müşderiler üçin bal döredýär). Gijä galmak möhüm däl, netijelilik möhümdir.
Haýsynyň dogry bolmagy telekeçiligiň zerurlygyna baglydyr: onlaýn dessine maslahat bermek, partiýada aýlyk töwekgelçilik baly.
Maslahat: "Real-time" deslapky däl-de çykdajy. Netije birnäçe sagadyň dowamynda ulanylsa, topar has arzan we has ýönekeý. Size derrew jogap gerekmi? Ilki bilen sora.
Howpsuz paýlamak strategiýasy
Traffichli traffige gönüden-göni täze model açmak töwekgelçiliklidir; Wrongalňyş bolsa, hemmelere täsir edilýär. Ygtybarly paýlanyş usullary:
- Kölegäniň ýerleşdirilmegi: Täze model önümçilik traffigini alýar, ýöne çaklamalary ulanyja görkezilmeýär, diňe hasaba alyndy. Hakyky maglumatlarda ygtybarlydygyny ýa-da ýokdugyny görmek üçin köne model bilen deňeşdirilýär.
- Kanar enjamlaşdyrylyşy: Täze model ilki bilen az mukdarda traffige (meselem, 5%) ýaýradyldy; Mesele ýok bolsa, kem-kemden köpelýär.
- A / B synag: Hakyky ulanyja paralel görnüşde iki model hödürlenýär we iş ölçegleri (öwrülişik, basmak) deňeşdirilýär.
- Yza gaýdyp gelmek: Täze model erbet bolsa, köne wersiýa çalt gaýdyp gelmek. Her ýerleşdirişde yza gaýdyp meýilnama bolmaly.
Üns beriň: Yza gaýdyp meýilnamasyz ýerleşdirmek doly däl. Birnäçe minutyň içinde köne wersiýa gaýdyp gelmek, täze model önümçilikde garaşylmadyk ýagdaýda özüni alyp barsa, ulanyjyny goraýar. Muny ýerleşdirmezden ozal barlaň.
Gowşak çemeleşme / Güýçli çemeleşme
Gowşak: "Model synagda gowy boldy, göni ýaýlyma çykdyk, hemmeler üçin açdyk".
Güçlü: "Biz modeli konteýner etdik, ony wersiýa diýip belledik. Ilki bilen, köne model bilen çaklamalary deňeşdirip, kölege re modeiminde 3 gün işledik - gyşarnyksyz kabul edildi. Soňra 5% kanar bilen açdyk, geçiş ölçeglerine we gijä galmagyna gözegçilik etdik. Mesele ýok bolsa, ýuwaş-ýuwaşdan 100% -e ýetdik."
Tapawut: güýçli çemeleşme kem-kemden ölçelýär we ölçelýär. Töwekgelçilik her ädimde çäklidir.
CI / CD we awtomatlaşdyryş
ML-de CI / CD (Üznüksiz integrasiýa / üznüksiz ýerleşdirme: kod üýtgeşmelerini awtomatiki barlamak we goýbermek turbasy) diňe bir kody däl, eýsem maglumatlary we model ädimlerini hem öz içine alýar. Gowy ML CI / CD turbageçirijisi: kod üýtgedilende, maglumatlary tassyklanda, modeli täzeden öwrenende (zerur bolsa) synaglary geçirýär, baha beriş çäklerini barlaýar we diňe çäkler bar bolsa ýerleşdirmegi öňe sürýär. “Okuw awtomatiki, ýerleşdirmek bosagada esaslanýar” ýörelgesi erbet modeliň sessiz önümçilige girmeginiň öňüni alýar.
AI bu turbageçirijileri guranyňyzda gaty peýdaly: konfigurasiýa faýly (YAML) garalamalary, synag ýagdaýlaryny, ýerleşdiriş skriptlerini ýazmak. Distributionöne paýlaýyş çäklerini kesgitleýärsiňiz (haýsy ölçeg çap edileninden ýokary bolsa) we yzyna gaýtarmak syýasaty; bular telekeçilik töwekgelçiligi kararlary.
Köpeltmek infrastrukturasy
Önümçilikde bir modeliň özüni alyp barşyny köpeltmek üçin, model reýestri: haýsy modeliň haýsy maglumatlar we kod bilen tälim alandygyny we haýsy ölçegleri alandygyny ýazýan ýazgy. Her önümçilik modeli üçin aşakdakylary yzarlamaly: okuw maglumatlarynyň wersiýasy, kod wersiýasy (git commit), giperparametrler, baha beriş ballary we ýerleşdiriş senesi. Haçan-da bir mesele ýüze çyksa, "bu çaklamany haýsy model öndürdi, haýsy maglumatlar bilen?" Diýen soraga jogap bermegi başarmaly. birnäçe minutyň içinde. Muny 11-nji bölümde çuňlaşdyrarys.
üç sany kiçi halat
1-nji waka - kölegäniň paýlanmagy bilen baglanyşykly mesele. Teklip modeli synagda köne nusgasyny ýeňdi. Kölegeli re inimde önümçilik traffigi bilen işlemek, ulanyjylaryň belli bir segmenti (täze ulanyjylar) üçin gaty pes teklipleri berdi - synag maglumatlary bu segmenti kän görkezmedi. Model ulanyja görkezilmezden düzedildi. Göni açylsa, täze ulanyjy tejribesi bozular.
2-nji hadysa - yzyna gaýtaryp bolmajak paýlama. Topar yza gaýdyp meýilnamasyz ähli traffige täze nyrh modelini hödürledi. Model garaşylmadyk ýagdaýda käbir önümlere gaty arzan baha berdi. Köne wersiýa gaýdyp gelmek birnäçe sagat dowam etdi, sebäbi proses taýyn däldi. Girdejiniň çynlakaý ýitgisi boldy. Ondan soň her ýaýbaňda hökmany yza gaýtmak synagy goşuldy.
3-nji hadysa - Sessiz maglumatlaryň üýtgemegi. Galplyk nagşy birnäçe aýlap hiç hili ýalňyşsyz ýüze çykdy. Emma kezzaplaryň taktikasy üýtgedi (maglumatlaryň üýtgemegi) we modeliň ýatlamasy ýuwaşlyk bilen azaldy. Gözegçilik ýoklugy sebäpli hiç kim üns bermedi. Çaklanyş paýlanyşyna gözegçilik paneli döredilenden soň, drift ir ýüze çykdy. Gözegçiligi 8-nji bölümde gurarys.
Göçürip boljak galyplar
Bu model üçin ýerleşdiriş meýilnamasynyň taslamasyny ýazyň. Model: [näme edýär], ulanylyşy: [onlaýn ýa-da partiýa?] Şulary öz içine almalydyr: 1) Gaplamak (konteýner, wersiýa) 2) artdyryş ýaýbaňlandyryş strategiýasy (kölege / kanar / A-B) we näme üçin3) Gözlemek üçin ölçegler (iş + tehniki + gijä galmak) 4) Yza gaýdyp gelmek meýilnamasy we nädip barlamaly5) Gurnama çäkleri (haýsy ölçeg haýsy bahadan ýokary bolmaly)
Bu ML CI / CD turbageçirijisini barlaň: 1) Çyzykda maglumatlaryň tassyklanylyşy barmy? 2) Bahalandyryş çägini saklamazdan dowam etdirip bolarmy?
Onlaýn ýa-da partiýa görkezişiniň bu model üçin laýykdygyny kesgitlemäge kömek ediň. Netije näçe wagt ulanylar: [dessine / minut / sagat / gün] Garaşylýan haýyş göwrümi: [san] Gijikdirme çäklendirmesi barmy: [ms] Bahasy we çylşyrymlylygy boýunça haýsysyny maslahat berersiňiz we näme üçin?
Bu model üçin yzyna gaýtarmak prosedurasyny ýazyň.- Haýsy ölçeg / bosaganyň pes işlemegine sebäp bolýar? - Yza gaýdyp barmak ädimleri näme?
Tanyşdyryş nusgasy tablisasy
ölçegi
Onlaýn (hakyky wagt)
Topar
gijikdirmek
Kritiki (ms)
ujypsyz
Ulanylyşy
Derrew jogap bermek zerur
Döwürleýin bal
Bahasy
beýik
pes
çylşyrymlylygy
beýik
pes
mysal
Göni maslahat, aldaw
Aýlyk töwekgelçilik baly
Adaty ýalňyşlyklar
- Gözleg meýilnamasyz paýlaň. Nädogry model tutuş ulanyja degýär.
- 100% traffige gönüden-göni açylýar. Töwekgelçiligi paýlanan paýlamak bilen çäklendiriň.
- Gözegçiligi ýola goýmaýar. Model sessiz, säwliksiz ýalňyşlyklary öndürýär.
- Hakyky real wagt görkezişi. Batmak ýeterlik bolsa-da, çykdajy we çylşyrymlylyk çişýär.
- Model-maglumat-kod wersiýalaryny baglanyşdyrmaýar. Meseläni köpeldip bilmersiňiz.
- Paýlanyş bosagasy bolmadyk awtomatiki çykaryş. Erbet model sessiz-üýnsüz siňýär.
Gysgaça
Modeliň önümçilige geçirilmegi, ony taýýarlamakdan başga we köplenç kyn in engineeringenerçilik meselesidir. ML goşmaça tertip-düzgüni talap edýär, sebäbi kod-maglumat-model üçlügine bagly: gaplama we wersiýa, iş zerurlygyna laýyk gelýän gowşuryş görnüşi (onlaýn / partiýa), ýuwaş-ýuwaşdan we tersine ýerleşdirmek, bosagada gözegçilik edilýän CI / CD we model bellige alynmagy. Emeli intellekt bu infrastrukturanyň koduny we konfigurasiýasyny döretmekde güýçli kömekdir; emma paýlamagyň çäkleri, päsgelçilik syýasaty we töwekgelçilik kararlary siziňki. Yza gaýdyp meýilnamasyz paýlamak doly däl.
Programma meselesi
Konteýnerizasiýa (Docker) bir model we onuň wersiýasyna bellik ediň. Işewürlik islegleriňize görä onlaýn ýa-da partiýa hödürlejekdigiňizi kesgitläň we deliliňizi ýazyň. Tapgyrlaýyn ýerleşdiriş meýilnamasyny (kölege ýa-da kanariýa) we synagdan geçen yzyna gaýtarmak prosedurasyny resminama ediň. Maglumat wersiýasyny, kod wersiýasyny we baha beriş ballaryny model sanawyna ýazga alyň.
gözegçilik sanawy
- [] Model gaplanan we wersiýaly (konteýner + belligi).
- [] Tanyşdyryş nusgasy (onlaýn / partiýa) iş zerurlygyna görä saýlandy.
- [] Tapgyrlaýyn ýerleşdiriş strategiýasy (kölege / kanar) durmuşa geçirildi.
- [] Writtenazylan we synagdan geçirilen yzyna gaýtarmak prosedurasy.
- [] CI / CD baha beriş çäkleri ýerine ýetirilmezden öň ýaýbaňlandyrmaýar.
- [] Model sanawynda maglumatlar + kod + ölçeg baglanyşygy bar.