Nkeji 8 / 11

On-Prem, VPC na Openweight Bochum

Uru:

  • Ikike iji nyochaa mgbanwe azụmaahịa n'etiti API jisiri ike, VPC na nnabata prem
  • Ikike ikpebi na Bochum dabere na ọbụbụeze data, olu na ikike ịrụ ọrụ
  • Ikike iji gbakọọ ọnụ ahịa nke nwe (TCO) na ihe zuru oke yana imepụta ihe owuwu ngwakọ

Maka ụfọdụ ụlọ ọrụ, "izipu data na onye na-eweta ya" - n'agbanyeghị echekwabara - anaghị anabata. N'ime ụlọ ọrụ nchekwa, ọha, ụlọ akụ na ụfọdụ ọnọdụ ahụike, data ekwesịghị ịgafe ókèala ụlọ ọrụ ahụ. N'oge a, nnabata ụdị nke gị na-abịa n'ihu: ụdị mmeghe, na-agba ọsọ na netwọkụ ojii nke gị (VPC) ma ọ bụ na sava nke gị (na-prem). Na ngalaba a, anyị ga-amụta azụmaahịa dị n'etiti API jisiri ike na nnabata onwe onye, ​​​​mgbe ọ nwere ezi uche, yana ọnụ ahịa nke nwe (TCO).

echiche

  • API jisiri: Na-agba ọsọ na akụrụngwa nke onye na-eweta ihe nlereanya; Ị zitere arịrịọ wee nweta nzaghachi. Ọnụ ego a na-arụ ọrụ dị ntakịrị, mana data na-agakwuru onye na-eweta ya.
  • Ihe nlere nke mepere emepe: Enwere ike ibudata paramita ụdị (arọ); Ị nwere ike ịgba ya na ngwaike nke gị. Ọ bụchaghị otu ihe dị ka “open source” (ikikere nwere ike ịdị iche).
  • Bochum VPC (Cloud Private Cloud): Na-agba ọsọ ihe nlereanya na netwọk igwe ojii dịpụrụ adịpụ; Data na-anọgide na oke netwọk gị, mana akụrụngwa ka dị n'igwe ojii.
  • On-prem (na-ụlọ): Na-agba ọsọ nlereanya kpamkpam na ngwaike na gị onwe gị data center; njikwa kachasị elu, ibu ọrụ kachasị elu.
Akpachara anya: "Nnwekọrịta nkeonwe na-adịkwa nchebe mgbe niile" bụ echiche na-ezighi ezi. Nchekwa na-adabere obere na ebe ị na-edobe data na ihe ndị ọzọ na otu i si jikwaa ya nke ọma. Ihe nkesa na-adịghị akwachi, ahaziri nke ọma na-adịghị mma dị ize ndụ karịa API ejirila tozuru oke.

Axis mkpebi: Kedu mgbe?

Ajụjụ atọ na-eduzi mkpebi ahụ:

  1. Ọchịchị data: Iwu ma ọ bụ nkwekọrịta gbochiri data ịhapụ ụlọ ọrụ/mba? Ọ bụrụ ee, a ga-akpali gị gaa na VPC/on-prem.
  2. Olu na ọnụ ahịa: Ojiji ọ dị oke elu na nke a ga-ebu amụma? Nnukwu mpịakọta nke nnabata onwe onye nwere ike ibelata ọnụ ahịa otu; API jikwaa na obere olu na-adịghị agbanwe agbanwe na-adịkarị ọnụ ala.
  3. Ikike ịrụ ọrụ: Ị nwere otu ga-ejigide akụrụngwa GPU, imelite ihe nlere anya, nchacha, na patching nchekwa? Ma ọ bụghị ya, Bochum nke gị bụ ọnụ ahịa zoro ezo.

Tebụl azụmaahịa

Nha

API jisiri

VPC

On-Prem (arọ mepere emepe)

Ọchịchị data

Tụkwasị onye na-eweta ya obi

Elu (na oke netwọk gị)

Nke kachasị elu (anaghị arị elu)

Ibu ọrụ

dị ala

ọkara

elu

Ọnụ ego mbụ

Dị ala (akwụ ụgwọ ka ị na-aga)

ọkara

Elu (ngwaike)

akpịrịkpa

akpaka

Jisiri ike

ọrụ gị

Ụdịdị mma/ego

Kacha ọhụrụ, akpaka

Dabere

Ị na-emelite

njikwa

ala

elu

juputara

Nzọụkwụ site nzọụkwụ: Mkpebi Bochum

  1. Kpebie klaasị data. Kedu ọkwa nzuzo ka a ga-ahazi data?
  2. Nyochaa mmachi iwu. Enwere ike ịpụ data? (KVKK, ụkpụrụ ngalaba, nkwekọrịta.)
  3. Tụlee olu. Arịrịọ kwa ọnwa / olu akara na usoro uto.
  4. Gbakọọ TCO. Ọ bụghị naanị GPU; ike, mmezi, otu, nchekwa, redundancy.
  5. Chee ngwakọ. Ụdị ngwakọ nke na-ahazi data nwere mmetụta na on-prem/VPC yana data enweghị mmetụta na API jisiri ike na-abụkarị nke kwụsiri ike.

Ndebiri anọ enwere ike iṅomi

Ngwa ngwa mkpebi nnabata:

Kpebie nnabata maka ojiji ndị a: {{ dị n'ọnọdụ }} Ajụjụ: - Gịnị bụ klaasị nzuzo nke data a ga-ahazi? (ihe nzuzo nke ọha / nke ime / nzuzo / nzuzo) - Iwu / nkwekọrịta na-ekwe ka data gaa n'èzí nzukọ ahụ? - amụma olu kwa ọnwa na amụma amụma? - Enwere arụmọrụ / ikike otu GPU? Nkwanye: " API jisiri ike / VPC / On-prem / ngwakọ" + izi ezi.

Ndepụta ihe TCO (maka nnabata onwe):

Gbakọọ mkpokọta ọnụ ahịa nke nwe site na: - Ịzụta/ mgbazinye ngwaike (GPU) - Ike na jụrụ oyi- Mmadụ: MLOps + oge otu nchekwa - Mmelite ụdị na nnwale ndị ọrụ - Mbelata / mgbake ọdachi - Nchekwa nchekwa na nlekota oru tulee nke a na ụgwọ ọnwa maka API jikwaa n'ime ọnwa 12-24.

Iwu ụzọ ụzọ ngwakọ:

Megharịa arịrịọ ọ bụla dabere na klaasị data: - "ihe nzuzo / nzuzo kachasị elu" data -> on-prem/VPC model- "ọha / ime" data -> API jisiri (ka ike / dị ọnụ ala) Dee mkpebi mbugharị na klaasị data na ndekọ nyocha.

Mepee ngwa ngwa nchekwa nchekwa arọ:

Nyochaa ihe nlereanya anyị kwadoro onwe anyị: - ikike ikike ọ na-enye ohere iji azụmahịa na n'ọnọdụ anyị? - Ụdị ihe atụ sitere na isi iyi nke ntụkwasị obi, iguzosi ike n'ezi ihe (hash) kwadoro? - A na-etinye ihe nkesa nkesa, kewapụ netwọk, njikwa ohere?- Na-nleba anya na osisi dị ka ndị tozuru okè dị ka API jisiri? Kaa ihe ọ bụla efu dị ka "ON".

Ngwa ngwa adịghị ike / Ike ngwa ngwa

adịghị mma obibia

Ụzọ siri ike

"On-prem dị nchebe, jiri ya mgbe niile"

Mkpebi dabere na ọbụbụeze data + olu + ikike

Naanị ilele ọnụ ahịa GPU

TCO zuru oke (ike, ndị ọrụ ụgbọ mmiri, mmelite, nchekwa)

Na-akpọchiri n'ime otu ụdị nnabata

Ngwakọ: ụzọ site na klaasị data

Na-agba ọsọ na-enweghị ibelata ibu na-emeghe ma nyochaa ya

Ikikere + iguzosi ike n'ezi ihe + patch + njikwa akara

Obere obere atọ

Ikpe 1 - Iwu on-prem bụ mkpebi ziri ezi. Onye ọrụ nkwekọrịta ga-edozi akwụkwọ ndị nwere oke nkewa; Nkwekọrịta ahụ amachibidoro ịwepụ data na mba ahụ. E wepụrụ API ejisiri site na mmalite. E hiwere ụkpụrụ ịdị arọ nke na-emepe emepe; Ọnụ ego ahụ dị elu, mana ọ bụ naanị nhọrọ dakọtara.

Ikpe 2 - TCO nzuzo tụgharịrị mkpebi. Mmalite mere atụmatụ ịgbanwe gaa na nnabata onwe ya n'ihi na "API dị oke ọnụ." Na ngụkọta TCO, ị gụnyere ọ bụghị naanị GPU; Tinye ndị injinia MLOps oge niile 2, nwelite ibu, yana nkwụghachi ụgwọ, yana mkpokọta ọnwa 24 ji okpukpu abụọ nke API ejirila. Ha nọgidere na API n'ihi na mpịakọta ha dị ala na nke na-adịghị adịte aka.

Ikpe 3 - ngwakọ nyere kacha mma. Onye enyemaka ụlọ akụ na-ahazi ụdị data abụọ: ajụjụ ngwaahịa izugbe na data akaụntụ ndị ahịa akọwapụtara. A na-eduzi data akaụntụ gaa na ụdị n'ime VPC, a na-eduzi ajụjụ izugbe na API ike jisiri ike. Achọpụtaghị data nwere mmetụta, àgwà nke ihe nlereanya kachasị ike ejiri mee ihe maka ajụjụ izugbe; na-eri na dabara na-kachasị ọnụ.

NDỤMỌDỤ: Mkpebi ahụ ekwesịghị ịbụ ọnụọgụ abụọ (niile ma ọ bụ ihe ọ bụla). Ihe owuwu ngwakọ - ụzọ data site na klaasị - n'otu oge na-edozi nnabata na ọnụ ahịa n'ọtụtụ ọnọdụ ụlọ ọrụ.

Mmejọ ndị nkịtị

  • Were ya na "Bochum nkeonwe dị nchebe na-akpaghị aka"; ebe nchekwa dabere na ogo njikwa.
  • Na-eche na TCO bụ naanị ụgwọ GPU; otu, ume, imelite na ichefu banyere nchekwa.
  • Ịgbanwe na nnabata nke onwe na obere / oge na-adịghị ala ala ma na-abawanye ọnụ ahịa otu.
  • Iji ụdị ịdị arọ mepere emepe na-egosighi ikike na iguzosi ike n'ezi ihe (hash).
  • Anaghị wụnye nlekota/mbanye aha ka tozuru oke dị ka API jisiri na sava on-prem.
  • Na-eme mkpebi ọnụọgụ abụọ n'ebughị ụzọ tụlee nhọrọ ngwakọ ma ọlị.

Na nchịkọta

  • API jikwaa bụ ọrụ kachasị mfe, mana data na-agakwuru onye na-eweta ya; VPC/on-prem na-edobe data na oke gị.
  • Ajụjụ atọ na-akpali mkpebi ahụ: ọbụbụeze data, amụma olu/ọnụ ahịa, na ikike ịrụ ọrụ.
  • "Ịkwado onwe ya ka nchekwa" bụ echiche na-ezighị ezi; Nchekwa adabereghị na ebe ị na-edobe data, kama na otu i si jikwaa ya nke ọma.
  • Gbakọọ TCO kpọmkwem: ike, otu, mmelite, redundancy na nchekwa, yana GPU.
  • Nrụpụta ngwakọ (data ụzọ site na klaasị) na-edozi nrubeisi na ọnụ ahịa n'ọtụtụ ọnọdụ ụlọ ọrụ.

Ọrụ ngwa

Họrọ ojiji AI wee kewaa data a ga-ahazi ka ọ bụrụ klaasị nzuzo. Mepụta nkwenye site na mkpebi mkpebi nnabata. Wee dejupụta ndepụta ihe TCO maka nnabata nke gị wee tulee mkpokọta ọnwa 24 na ụgwọ API jisiri ike. N'ikpeazụ, dee a draft ngwakọ routing iwu: kedu data na-aga ebe?

ndetu

  • [] Ekpebila m klas nzuzo na mmachi iwu nke data a ga-ahazi.
  • [ ] Emere m mkpebi nnabata ahụ dabere na ọbụbụeze + olu + ikike.
  • [ ] Eji m ihe zuru ezu gbakọọ TCO (gụnyere ndị na-abụghị GPU).
  • [] Ahụrụ m akwụkwọ ikike, iguzosi ike n'ezi ihe, patching na nlekota oru na nnabata onwe onye.
  • M tụlere nhọrọ ụzọ ngwakọ.
  • [] Edere m mkpebi ahụ na ihe kpatara ya.