Faida:
- Uwezo wa kutathmini utendakazi kati ya API inayosimamiwa, VPC na upangishaji wa on-prem
- Uwezo wa kuamua juu ya mwenyeji kulingana na uhuru wa data, kiasi na uwezo wa kufanya kazi
- Uwezo wa kuhesabu gharama ya jumla ya umiliki (TCO) na vitu kamili na usanifu wa mseto wa kubuni
Kwa baadhi ya mashirika, "kutuma data kwa mtoa huduma" - haijalishi ni salama kiasi gani - hakukubaliki. Katika tasnia ya ulinzi, umma, benki na hali zingine za kiafya, data haipaswi kupita zaidi ya mpaka wa taasisi. Katika hatua hii, kupangisha modeli yako mwenyewe kunakuja mbele: modeli za uzani wazi, zinazoendeshwa katika mtandao wako wa wingu (VPC) au kwenye seva zako mwenyewe (on-prem). Katika kitengo hiki tutajifunza maelewano kati ya API inayosimamiwa na upangishaji wa kibinafsi, inapoeleweka, na jumla ya gharama ya umiliki (TCO).
dhana
- API Inayosimamiwa: Hutumika kwa miundomsingi ya mtoa huduma wa mfano; Unatuma ombi na kupata jibu. Upeo wa uendeshaji ni mdogo, lakini data huenda kwa mtoa huduma.
- Mfano wa uzani wa wazi: Vigezo vya mfano (uzito) vinaweza kupakuliwa; Unaweza kuiendesha kwenye vifaa vyako mwenyewe. Sio lazima iwe sawa na "chanzo huria" (leseni inaweza kuwa tofauti).
- Upangishaji wa VPC (Wingu la Kibinafsi la Kibinafsi): Kuendesha kielelezo katika mtandao wako wa pekee wa wingu; Data inasalia kwenye mpaka wa mtandao wako, lakini miundombinu bado iko kwenye wingu.
- On-prem (kwenye majengo): Kuendesha muundo kabisa kwenye maunzi katika kituo chako cha data; udhibiti wa juu, mzigo wa juu zaidi wa kufanya kazi.
Tahadhari: "Kupangisha mwenyewe ni salama zaidi kila wakati" ni maoni potofu. Usalama unategemea kidogo mahali unapoweka data na zaidi kuhusu jinsi unavyoidhibiti vizuri. Seva isiyo na kibandiko, iliyosanidiwa vibaya kwenye mtandao ni hatari zaidi kuliko API iliyokomaa inayodhibitiwa.
Mhimili wa Uamuzi: Lini Lini?
Maswali matatu yanaongoza uamuzi:
- Mamlaka ya data: Je, sheria au mkataba unakataza data kutoka kwa taasisi/nchi? Ikiwa ndio, utasukumwa kuelekea VPC/on-prem.
- Kiasi na gharama: Je, matumizi ni ya juu sana na yanaweza kutabirika? Kiasi kikubwa sana cha mwenyeji binafsi kinaweza kupunguza gharama za kitengo; API inayodhibitiwa kwa kiwango cha chini/isiyobadilika karibu kila wakati ni nafuu.
- Uwezo wa kufanya kazi: Je, una timu ya kudumisha miundombinu ya GPU, usasishaji wa kielelezo, kuongeza ukubwa, na kuweka viraka vya usalama? Vinginevyo, mwenyeji wako mwenyewe ni gharama iliyofichwa.
Jedwali la Biashara
Ukubwa
API inayosimamiwa
VPC
On-Prem (uzito wazi)
Uhuru wa data
Mwamini mtoaji
Juu (kwa kikomo cha mtandao wako)
Ya juu zaidi (haiinuki kamwe)
Mzigo wa operesheni
chini sana
kati
juu
Gharama ya awali
Chini (lipa unapoenda)
kati
Juu (vifaa)
kuongeza
moja kwa moja
Inasimamiwa
wajibu wako
Ubora wa mfano/fedha
mpya zaidi, otomatiki
Inategemea
Unasasisha
kudhibiti
chini
juu
kamili
Hatua kwa Hatua: Uamuzi wa Kukaribisha
- Amua darasa la data. Je, data itachakatwa katika kiwango gani cha usiri?
- Thibitisha kizuizi cha kisheria. Je, data inaweza kutoka? (KVKK, udhibiti wa sekta, mkataba.)
- Kadiria kiasi. Kiasi cha ombi/tokeni ya kila mwezi na msururu wa ukuaji.
- Hesabu TCO. Sio GPU tu; nishati, matengenezo, timu, usalama, upungufu.
- Fikiria mseto. Muundo mseto unaochakata data nyeti katika on-prem/VPC na data isiyo nyeti katika API inayosimamiwa mara nyingi ndiyo thabiti zaidi.
Violezo Vinne Vinakiliwa
Agizo la uamuzi wa mwenyeji:
Amua upangishaji kwa matumizi yafuatayo: {{scenario }}Maswali:- Ni aina gani ya faragha ya data ya kuchakatwa? (ya umma/ya ndani/siri/siri kuu)- Je, sheria/mkataba huruhusu data kwenda nje ya shirika?- Utabiri wa kiasi cha kila mwezi na kutabirika?- Je, kuna shughuli/uwezo wa timu ya GPU? Pendekezo: "API iliyosimamiwa / VPC / On-prem / Hybrid" + uhalali.
Orodha ya bidhaa za TCO (kwa mwenyeji binafsi):
Kokotoa jumla ya gharama ya umiliki kwa:- Kununua/kukodisha kwa Vifaa (GPU)- Nishati na kupoeza- Binadamu: MLOps + muda wa timu ya usalama- Usasishaji wa kielelezo na wafanyakazi wa majaribio- Upungufu wa ziada/ahueni ya maafa- Urekebishaji wa usalama na ufuatiliaji Linganisha hili na bili ya kila mwezi ya API inayosimamiwa kwa muda wa miezi 12-24.
Kanuni ya uelekezaji mseto:
Elekeza kila ombi kulingana na darasa la data:- data ya "siri / siri kuu" -> mfano wa on-prem/VPC- data "ya umma / ya ndani" -> API inayodhibitiwa (yenye nguvu zaidi/nafuu zaidi)Andika uamuzi wa kusambaza na darasa la data kwenye kumbukumbu ya ukaguzi.
Fungua agizo la kuangalia usalama wa uzito:
Tathmini modeli yetu inayopangishwa yenyewe:- Je, leseni inaruhusu matumizi ya kibiashara na katika hali yetu?- Vipimo vya vielelezo kutoka kwa chanzo kinachoaminika, uadilifu (hashi) vimethibitishwa?- Je, uwekaji viraka kwenye seva, kutengwa kwa mtandao, udhibiti wa ufikiaji umesakinishwa?- Je, ufuatiliaji na uwekaji kumbukumbu umekomaa kama API inayodhibitiwa? Weka alama kwenye vipengee vyovyote vinavyokosekana kuwa "IMEWASHWA".
Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu
mbinu mbaya
Mbinu kali
"On-prem ni salama zaidi, itumie kila wakati"
Uamuzi kulingana na mamlaka ya data + ujazo + na uwezo
Kuangalia tu gharama ya GPU
TCO kamili (nishati, wafanyakazi, sasisho, usalama)
Kufungiwa kwa mtindo mmoja wa mwenyeji
Mseto: kuelekeza kwa darasa la data
Kukimbia bila kupunguza uzito wazi na kuithibitisha
Leseni + uadilifu + kiraka + ufuatiliaji wa ufuatiliaji
Kesi Tatu Ndogo
Kesi ya 1 - Mamlaka ya kabla ya muda ilikuwa uamuzi sahihi. Mkandarasi wa ulinzi alipaswa kuchakata hati zilizoainishwa sana; Mkataba ulipiga marufuku kuchukua data nje ya nchi. API iliyosimamiwa iliondolewa tangu mwanzo. Mfano wa uzani wa wazi wa on-prem ulianzishwa; Gharama ilikuwa ya juu, lakini ilikuwa chaguo pekee linalolingana.
Kesi ya 2 - TCO ya Siri ilibatilisha uamuzi. Uanzishaji ulipanga kubadili kuwa mwenyeji wa kibinafsi kwa sababu "API ni ghali." Katika hesabu ya TCO, haujumuishi tu GPU; Ongeza wahandisi 2 wa muda wote wa MLOps, upakiaji wa sasisho, na upungufu, na jumla ya miezi 24 ni mara mbili ya API inayosimamiwa. Walibaki kwenye API kwa sababu idadi yao ilikuwa ya chini na ya mara kwa mara.
Kesi 3 - Mseto alitoa bora zaidi. Msaidizi wa kituo cha simu cha benki alikuwa akichakata aina mbili za data: maswali ya jumla ya bidhaa na data ya akaunti mahususi ya mteja. Data ya akaunti inaelekezwa kwa muundo ndani ya VPC, maswali ya jumla yanaelekezwa kwa API yenye nguvu inayosimamiwa. Data nyeti haikutoka, ubora wa mtindo wenye nguvu zaidi ulitumiwa kwa maswali ya jumla; gharama na kufaa vinaboreshwa pamoja.
Kidokezo: Uamuzi sio lazima uwe wa jozi (wote au hakuna). Usanifu mseto - data ya kuelekeza kwa darasa - wakati huo huo hutatua utiifu na gharama katika hali nyingi za biashara.
Makosa ya kawaida
- Chukulia "kupangisha mwenyewe ni salama kiotomatiki"; ambapo usalama unategemea ubora wa usimamizi.
- Kufikiri kwamba TCO ni gharama ya GPU tu; timu, nishati, kusasisha na kusahau kuhusu usalama.
- Kubadilisha hadi upangishaji wa kibinafsi kwa sauti ya chini/isiyo ya kawaida na kuongeza gharama ya kitengo.
- Kutumia kielelezo cha uzani wazi bila kuthibitisha leseni na uadilifu (hash).
- Sio kusakinisha ufuatiliaji/kuweka kumbukumbu kwa kukomaa kama API inayodhibitiwa kwenye seva ya on-prem.
- Kufanya uamuzi wa binary bila kuzingatia chaguo la mseto hata kidogo.
Kwa muhtasari
- API inayosimamiwa ndiyo iliyo rahisi zaidi kiutendaji, lakini data huenda kwa mtoa huduma; VPC/on-prem huweka data kwenye mpaka wako.
- Maswali matatu husukuma uamuzi: uhuru wa data, utabiri wa kiasi/gharama na uwezo wa kufanya kazi.
- "Kujikaribisha ni salama zaidi" ni dhana potofu; Usalama hautegemei mahali unapoweka data, lakini jinsi unavyoidhibiti vizuri.
- Kokotoa TCO kamili: nishati, timu, sasisho, upungufu na usalama, pamoja na GPU.
- Usanifu mseto (data ya uelekezaji kwa darasa) kwa wakati mmoja husawazisha utiifu na gharama katika hali nyingi za biashara.
Jukumu la maombi
Chagua matumizi ya AI na utenganishe data itakayochakatwa kuwa darasa la faragha. Toa pendekezo kwa haraka ya uamuzi wa upangishaji. Kisha jaza orodha ya bidhaa za TCO kwa upangishaji wako mwenyewe na ulinganishe jumla ya miezi 24 na bili ya API inayosimamiwa. Mwishowe, andika rasimu ya sheria ya uelekezaji mseto: ni data gani inakwenda wapi?
orodha ya ukaguzi
- [ ] Nimebainisha darasa la usiri na kizuizi cha kisheria cha data itakayochakatwa.
- [ ] Nilifanya uamuzi wa upangishaji kulingana na ukuu + kiasi + uwezo.
- [ ] Nilikokotoa TCO na bidhaa kamili (pamoja na zisizo za GPU).
- [ ] Niliangalia leseni, uadilifu, kuweka viraka na ufuatiliaji wa upangishaji binafsi.
- [ ] Nilizingatia chaguo mseto la uelekezaji.
- [ ] Niliandika uamuzi na hoja zake.