Lori-Prem, VPC ati Openweight Alejo

Awọn anfani:

• Agbara lati ṣe iṣiro awọn iṣowo-owo laarin API ti iṣakoso, VPC ati alejo gbigba lori-prem
• Agbara lati pinnu lori alejo gbigba da lori data ọba-alaṣẹ, iwọn didun ati agbara iṣẹ
• Agbara lati ṣe iṣiro idiyele lapapọ ti nini (TCO) pẹlu awọn ohun kan ni kikun ati apẹrẹ faaji arabara

Fun diẹ ninu awọn ajo, “fifiranṣẹ data si olupese” - laibikita bawo ni aabo — ko ṣe itẹwọgba. Ni ile-iṣẹ aabo, gbogbo eniyan, ile-ifowopamọ ati diẹ ninu awọn oju iṣẹlẹ ilera, data ko yẹ ki o kọja aala ile-ẹkọ naa. Ni aaye yii, gbigbalejo awoṣe tirẹ wa si iwaju: awọn awoṣe iwuwo-ìmọ, nṣiṣẹ ni nẹtiwọọki awọsanma tirẹ (VPC) tabi lori awọn olupin tirẹ (lori-prem). Ninu ẹyọ yii a yoo kọ ẹkọ awọn iṣowo laarin API iṣakoso ati gbigbalejo ti ara ẹni, nigbati o ba ni oye, ati idiyele lapapọ ti nini (TCO).

awọn agbekale

• API ti a ṣakoso: Ṣiṣẹ lori awọn amayederun olupese awoṣe; O firanṣẹ ibeere kan ati gba esi kan. Iwọn iṣẹ-ṣiṣe jẹ iwonba, ṣugbọn data naa lọ si olupese.
• Awoṣe iwuwo-ìmọ: Awọn paramita awoṣe (awọn iwuwo) le ṣe igbasilẹ; O le ṣiṣe awọn ti o lori ara rẹ hardware. Kii ṣe dandan bakanna bi “orisun ṣiṣi” (iwe-aṣẹ le yatọ).
• Alejo VPC (Awọsanma Aladani Foju): Ṣiṣe awoṣe ni nẹtiwọọki awọsanma ti o ya sọtọ; Data naa wa ni aala nẹtiwọki rẹ, ṣugbọn awọn amayederun ṣi wa ninu awọsanma.
• Lori-prem (lori-ile): Ṣiṣe awoṣe patapata lori ohun elo ni ile-iṣẹ data tirẹ; ga Iṣakoso, ga operational fifuye.

Išọra: "Alejo ti ara jẹ ailewu nigbagbogbo" jẹ aṣiṣe. Aabo gbarale kere si ibiti o tọju data naa ati diẹ sii lori bii o ṣe ṣakoso rẹ daradara. Ti a ko pamọ, ti ko ni tunto lori olupin-prem jẹ eewu ju API ti o dagba ti iṣakoso lọ.

Axis Ipinnu: Nigbawo?

Awọn ibeere mẹta ṣe itọsọna ipinnu:

1. Data nupojipetọ: Njẹ ofin tabi adehun ṣe idiwọ data lati lọ kuro ni igbekalẹ/orilẹ-ede naa? Ti o ba jẹ bẹẹni, iwọ yoo titari si VPC/lori-prem.
2. Iwọn didun ati idiyele: Njẹ lilo ga pupọ ati asọtẹlẹ bi? Awọn ipele giga pupọ ti gbigbalejo ara ẹni le dinku awọn idiyele ẹyọkan; API ti iṣakoso ni iwọn kekere/aifọwọyi jẹ olowo poku nigbagbogbo.
3. Agbara iṣẹ: Ṣe o ni ẹgbẹ lati ṣetọju awọn amayederun GPU, imudojuiwọn awoṣe, iwọn, ati patching aabo? Bibẹẹkọ alejo gbigba tirẹ jẹ idiyele ti o farapamọ.

Tradeoff Table

Iwọn

API ti a ṣakoso

VPC

Lori-Prem (iwuwo ṣiṣi)

Data nupojipetọ

Gbekele olupese

Ga (ni opin nẹtiwọki rẹ)

Ti o ga julọ (ko dide rara)

fifuye isẹ

ju kekere

alabọde

ga

Iye owo ibẹrẹ

Kekere (sanwo bi o ṣe lọ)

alabọde

Giga (hardware)

igbelosoke

laifọwọyi

Ti ṣakoso

ojuse re

Didara awoṣe / owo

titun, laifọwọyi

Da

O imudojuiwọn

iṣakoso

kekere

ga

kun

Igbesẹ nipasẹ Igbesẹ: Ipinnu alejo gbigba

1. Ṣe ipinnu kilasi data naa. Ni ipele aṣiri wo ni yoo ṣe ilana data?
2. Daju idinamọ ofin. Njẹ data le jade bi? (KVKK, ilana eka, adehun.)
3. Ṣe iṣiro iwọn didun naa. Ibeere oṣooṣu / iwọn ami ami ati igbi idagbasoke.
4. Ṣe iṣiro TCO. Kii ṣe GPU nikan; agbara, itọju, egbe, aabo, apọju.
5. Ro arabara. Awoṣe arabara ti o ṣe ilana data ifura ni on-prem/VPC ati data ti ko ni imọra ninu API iṣakoso nigbagbogbo jẹ iduroṣinṣin julọ.

Mẹrin Copiable Templates

Iyara ipinnu alejo gbigba:

Ṣe ipinnu gbigbalejo fun lilo atẹle: {{ ohn }} Awọn ibeere: - Kini kilasi ikọkọ ti data lati ṣiṣẹ? (gbangba / ti abẹnu / asiri / aṣiri oke) - Njẹ ofin / adehun gba data laaye lati lọ si ita agbari? - Asọtẹlẹ iwọn didun oṣooṣu ati asọtẹlẹ? - Ṣe awọn iṣẹ wa / agbara ẹgbẹ GPU? Iṣeduro: "API ti iṣakoso / VPC / On-prem / Arabara" + idalare.

Akojọ ohun TCO (fun gbigbalejo ara ẹni):

Ṣe iṣiro iye owo ohun-ini lapapọ nipasẹ: - Hardware (GPU) rira/yalo- Agbara ati itutu agbaiye-Edayan: MLOps + akoko ẹgbẹ aabo- Awoṣe imudojuiwọn ati idanwo iṣẹ oṣiṣẹ- Apọju/imularada ajalu- Aabo patching ati ibojuwo Ṣe afiwe eyi si iwe-owo oṣooṣu fun API ti iṣakoso lori akoko oṣu 12-24.

Ofin ipa ọna arabara:

Ṣe ipa-ọna ibeere kọọkan ti o da lori kilasi data: - “aṣiri / aṣiri oke” data -> lori-prem/VPC awoṣe- data “gbangba / ti abẹnu” -> API iṣakoso (agbara diẹ sii / din owo) Kọ ipinnu fifiranṣẹ ati kilasi data si akọọlẹ iṣayẹwo.

Ṣiṣayẹwo aabo iwuwo ṣii itọsi:

Ṣe ayẹwo awoṣe ti a gbalejo ti ara ẹni: - Njẹ iwe-aṣẹ gba lilo iṣowo laaye ati ni oju iṣẹlẹ wa? - Awọn iwuwo awoṣe lati orisun igbẹkẹle, iduroṣinṣin (hash) jẹri? - Ti wa ni patching olupin, ipinya nẹtiwọki, iṣakoso wiwọle? - Ṣe abojuto ati gedu bi ogbo bi API ti iṣakoso? Samisi eyikeyi awọn ohun ti o padanu bi “ON”.

Ailagbara Tọ / Alagbara Tọ

ko dara ona

Lagbara ona

"Lori-prem jẹ ailewu, nigbagbogbo lo"

Ipinnu da lori data nupojipetọ + iwọn didun + agbara

O kan n wo idiyele GPU

TCO ni kikun (agbara, awọn oṣiṣẹ, awọn imudojuiwọn, aabo)

Ti wa ni titiipa sinu awoṣe alejo gbigba ẹyọkan

arabara: afisona nipa data kilasi

Nṣiṣẹ laisi idinku iwuwo-ìmọ ati ijẹrisi rẹ

Iwe-aṣẹ + iduroṣinṣin + alemo + iṣakoso itọpa

Mẹta Mini igba

Irú 1 - Aṣẹ lori-prem jẹ ipinnu ti o tọ. A olugbeja olugbaisese je lati ilana gíga classified iwe aṣẹ; Adehun naa ti ni idinamọ gbigbe data jade ni orilẹ-ede naa. API ti iṣakoso ti yọkuro lati ibẹrẹ. Awọn on-prem ìmọ àdánù awoṣe a mulẹ; Iye owo naa ga, ṣugbọn o jẹ aṣayan ibaramu nikan.

Ọran 2 - TCO Asiri yiyipada ipinnu. Ibẹrẹ kan gbero lati yipada si gbigbalejo ara ẹni nitori “API jẹ gbowolori.” Ninu iṣiro TCO, iwọ ko pẹlu GPU nikan; Ṣafikun awọn onimọ-ẹrọ MLOps akoko-kikun 2, fifuye imudojuiwọn, ati apọju, ati apapọ oṣu 24 jẹ ilọpo meji ti API iṣakoso. Wọn wa ninu API nitori awọn iwọn didun wọn kere ati sporadic.

Irú 3 - arabara fun awọn ti o dara ju. Oluranlọwọ ile-iṣẹ ipe banki kan n ṣiṣẹ awọn iru data meji: awọn ibeere ọja gbogbogbo ati data akọọlẹ alabara kan pato. Awọn data akọọlẹ jẹ itọsọna si awoṣe laarin VPC, awọn ibeere gbogbogbo ni itọsọna si API iṣakoso ti o lagbara. Awọn data ifarako ko jade, didara awoṣe ti o lagbara julọ ni a lo fun awọn ibeere gbogbogbo; iye owo ati fit ti wa ni iṣapeye pọ.

Imọran: Ipinnu ko ni lati jẹ alakomeji (gbogbo tabi ohunkohun). Itumọ arabara — data ipa-ọna nipasẹ kilasi – nigbakanna yanju ibamu ati idiyele ni ọpọlọpọ awọn oju iṣẹlẹ ile-iṣẹ.

Awọn aṣiṣe ti o wọpọ

• Ro pe "alejo ti ara wa ni ailewu laifọwọyi"; lakoko ti aabo da lori didara iṣakoso.
• Lerongba pe TCO jẹ iye owo GPU nikan; egbe, agbara, imudojuiwọn ati gbagbe nipa aabo.
• Yipada si gbigbalejo ara ẹni ni iwọn kekere / alaibamu ati jijẹ idiyele ẹyọkan.
• Lilo awoṣe iwuwo ṣiṣi laisi ijẹrisi iwe-aṣẹ ati iduroṣinṣin (hash).
• Kii ṣe fifi sori ẹrọ ibojuwo / gedu bi o ti dagba bi API ti iṣakoso lori olupin on-prem.
• Ṣiṣe ipinnu alakomeji lai ṣe akiyesi aṣayan arabara rara.

Ni soki

• API ti iṣakoso jẹ iṣẹ ṣiṣe ti o rọrun julọ, ṣugbọn data naa lọ si olupese; VPC/on-prem ntọju data ni aala rẹ.
• Awọn ibeere mẹta ṣe ipinnu ipinnu: ọba-alaṣẹ data, iwọn didun / iye owo asọtẹlẹ, ati agbara iṣẹ.
• "Alejo ara ẹni ni aabo diẹ sii" jẹ aṣiṣe; Aabo ko da lori ibiti o tọju data, ṣugbọn lori bii o ṣe ṣakoso rẹ daradara.
• Ṣe iṣiro TCO gangan: agbara, ẹgbẹ, imudojuiwọn, apọju ati aabo, ati GPU.
• Iṣatunṣe arabara (data ipa-ọna nipasẹ kilasi) nigbakanna ṣe iwọntunwọnsi ibamu ati idiyele ni ọpọlọpọ awọn oju iṣẹlẹ ile-iṣẹ.

Ohun elo iṣẹ-ṣiṣe

Yan lilo AI kan ki o ya awọn data sọtọ lati ṣe ilọsiwaju sinu kilasi aṣiri kan. Ṣe ipilẹṣẹ iṣeduro kan pẹlu ipinnu ipinnu alejo gbigba. Lẹhinna fọwọsi atokọ ohun TCO fun alejo gbigba tirẹ ki o ṣe afiwe apapọ oṣu 24 si iwe-owo API ti iṣakoso. Lakotan, kọ ofin ipa ọna arabara kan: kini data lọ nibo?

akojọ ayẹwo

• [] Mo ti pinnu kilasi asiri ati ihamọ ofin ti data lati ṣiṣẹ.
• [] Mo ti ṣe ipinnu alejo gbigba da lori agbara ọba + iwọn didun + agbara.
• [] Mo ṣe iṣiro TCO pẹlu awọn ohun kan ni kikun (pẹlu ti kii ṣe GPU).
• [] Mo ṣayẹwo iwe-aṣẹ, iyege, patching ati mimojuto lori gbigbalejo ara ẹni.
• [] Mo ti ro arabara afisona aṣayan.
• [] Mo ṣe akọsilẹ ipinnu ati idi rẹ.