ஆன்-பிரேம், VPC மற்றும் ஓபன்வெயிட் ஹோஸ்டிங்

ஆதாயங்கள்:

• நிர்வகிக்கப்பட்ட API, VPC மற்றும் ஆன்-பிரேம் ஹோஸ்டிங் ஆகியவற்றுக்கு இடையேயான வர்த்தக பரிமாற்றங்களை மதிப்பிடும் திறன்
• தரவு இறையாண்மை, அளவு மற்றும் செயல்பாட்டுத் திறன் ஆகியவற்றின் அடிப்படையில் ஹோஸ்டிங் குறித்து முடிவு செய்யும் திறன்
• முழுப் பொருட்களைக் கொண்டு மொத்த உரிமைச் செலவைக் கணக்கிடும் திறன் (TCO) மற்றும் கலப்பினக் கட்டமைப்பை வடிவமைக்கும் திறன்

சில நிறுவனங்களுக்கு, "ஒரு வழங்குநருக்கு தரவை அனுப்புவது" - எவ்வளவு பாதுகாப்பானதாக இருந்தாலும் - ஏற்றுக்கொள்ள முடியாது. பாதுகாப்புத் துறை, பொது, வங்கி மற்றும் சில சுகாதார சூழ்நிலைகளில், தரவுகள் நிறுவனத்தின் எல்லைக்கு அப்பால் செல்லக்கூடாது. இந்த கட்டத்தில், உங்கள் சொந்த மாதிரியை ஹோஸ்ட் செய்வது முன்னுக்கு வருகிறது: திறந்த எடை மாதிரிகள், உங்கள் சொந்த கிளவுட் நெட்வொர்க்கில் (VPC) அல்லது உங்கள் சொந்த சர்வர்களில் (ஆன்-பிரேம்) இயங்கும். இந்த யூனிட்டில், நிர்வகிக்கப்பட்ட API மற்றும் சுய-ஹோஸ்டிங் ஆகியவற்றுக்கு இடையேயான பரிமாற்றங்கள், அது அர்த்தமுள்ளதாக இருக்கும் போது, ​​மற்றும் மொத்த உரிமையின் விலை (TCO) ஆகியவற்றைக் கற்றுக்கொள்வோம்.

கருத்துக்கள்

• நிர்வகிக்கப்படும் API: மாதிரி வழங்குநரின் உள்கட்டமைப்பில் இயங்குகிறது; நீங்கள் ஒரு கோரிக்கையை அனுப்பி பதிலைப் பெறுவீர்கள். செயல்பாட்டு மேல்நிலை குறைவாக உள்ளது, ஆனால் தரவு வழங்குநருக்கு செல்கிறது.
• திறந்த எடை மாதிரி: மாதிரி அளவுருக்கள் (எடைகள்) பதிவிறக்கம் செய்யலாம்; நீங்கள் அதை உங்கள் சொந்த வன்பொருளில் இயக்கலாம். இது "ஓப்பன் சோர்ஸ்" (உரிமம் வேறுபட்டதாக இருக்கலாம்) போன்ற அவசியமில்லை.
• VPC ஹோஸ்டிங் (விர்ச்சுவல் பிரைவேட் கிளவுட்): உங்கள் சொந்த தனிமைப்படுத்தப்பட்ட கிளவுட் நெட்வொர்க்கில் மாதிரியை இயக்குதல்; தரவு உங்கள் நெட்வொர்க் எல்லையில் உள்ளது, ஆனால் உள்கட்டமைப்பு இன்னும் கிளவுட்டில் உள்ளது.
• ஆன்-பிரேம் (ஆன்-பிரைமைஸ்): உங்கள் சொந்த தரவு மையத்தில் உள்ள வன்பொருளில் மாடலை முழுவதுமாக இயக்குதல்; அதிக கட்டுப்பாடு, அதிக செயல்பாட்டு சுமை.

எச்சரிக்கை: "சொந்த ஹோஸ்டிங் எப்போதும் பாதுகாப்பானது" என்பது தவறான கருத்து. நீங்கள் தரவை எங்கு வைத்திருக்கிறீர்கள் என்பதைப் பொறுத்து பாதுகாப்பு குறைவாக உள்ளது மற்றும் அதை எவ்வளவு சிறப்பாக நிர்வகிக்கிறீர்கள் என்பதைப் பொறுத்தது. முதிர்ந்த நிர்வகிக்கப்பட்ட API ஐ விட இணைக்கப்படாத, மோசமாக உள்ளமைக்கப்பட்ட ஆன்-பிரேம் சர்வர் ஆபத்தானது.

முடிவு அச்சு: எது எப்போது?

மூன்று கேள்விகள் முடிவை வழிநடத்துகின்றன:

1. தரவு இறையாண்மை: சட்டம் அல்லது ஒப்பந்தம் தரவு நிறுவனம்/நாட்டை விட்டு வெளியேறுவதைத் தடைசெய்கிறதா? ஆம் எனில், நீங்கள் VPC/on-prem நோக்கி தள்ளப்படுவீர்கள்.
2. அளவு மற்றும் செலவு: பயன்பாடு மிக அதிகமாகவும் கணிக்கக்கூடியதாகவும் உள்ளதா? மிக அதிக அளவு சுய-ஹோஸ்டிங் யூனிட் செலவைக் குறைக்கலாம்; குறைந்த/ஒழுங்கற்ற அளவில் நிர்வகிக்கப்படும் API எப்போதும் மலிவானது.
3. செயல்பாட்டு திறன்: GPU உள்கட்டமைப்பு, மாடல் புதுப்பித்தல், அளவிடுதல் மற்றும் பாதுகாப்பு இணைப்புகளை பராமரிக்கும் குழு உங்களிடம் உள்ளதா? இல்லையெனில் உங்கள் சொந்த ஹோஸ்டிங் ஒரு மறைக்கப்பட்ட செலவாகும்.

வர்த்தக அட்டவணை

அளவு

நிர்வகிக்கப்பட்ட API

VPC

ஆன்-பிரேம் (திறந்த எடை)

தரவு இறையாண்மை

வழங்குநரை நம்புங்கள்

அதிக (உங்கள் நெட்வொர்க் வரம்பில்)

மிக உயர்ந்தது (ஒருபோதும் உயராது)

செயல்பாட்டு சுமை

மிகவும் குறைவு

நடுத்தர

உயர்

ஆரம்ப செலவு

குறைந்த (நீங்கள் செல்லும் போது பணம் செலுத்துங்கள்)

நடுத்தர

உயர் (வன்பொருள்)

அளவிடுதல்

தானியங்கி

நிர்வகிக்கப்பட்டது

உங்கள் பொறுப்பு

மாதிரி தரம்/நாணயம்

புதிய, தானியங்கி

சார்ந்துள்ளது

நீங்கள் புதுப்பிக்கவும்

கட்டுப்பாடு

குறைந்த

உயர்

முழு

படிப்படியாக: ஹோஸ்டிங் முடிவு

1. தரவு வகுப்பை தீர்மானிக்கவும். எந்த ரகசியத்தன்மை மட்டத்தில் தரவு செயலாக்கப்படும்?
2. சட்ட தடையை சரிபார்க்கவும். தரவு வெளியேற முடியுமா? (KVKK, துறை ஒழுங்குமுறை, ஒப்பந்தம்.)
3. அளவை மதிப்பிடவும். மாதாந்திர கோரிக்கை/டோக்கன் அளவு மற்றும் வளர்ச்சி வளைவு.
4. TCO ஐக் கணக்கிடுங்கள். GPU மட்டுமல்ல; ஆற்றல், பராமரிப்பு, குழு, பாதுகாப்பு, பணிநீக்கம்.
5. கலப்பு என்று நினைக்கிறேன். ஆன்-பிரேம்/விபிசியில் உணர்திறன் தரவை செயலாக்கும் ஒரு கலப்பின மாதிரி மற்றும் நிர்வகிக்கப்படும் ஏபிஐயில் உணர்திறன் அல்லாத தரவு பெரும்பாலும் மிகவும் நிலையானதாக இருக்கும்.

நான்கு நகலெடுக்கக்கூடிய டெம்ப்ளேட்கள்

ஹோஸ்டிங் முடிவு உடனடியாக:

பின்வரும் பயன்பாட்டிற்கான ஹோஸ்டிங்கைத் தீர்மானிக்கவும்: {{ சூழ்நிலை }}கேள்விகள்:- செயலாக்கப்பட வேண்டிய தரவின் தனியுரிமை வகுப்பு என்ன? (பொது/உள்/ரகசிய/உயர் ரகசியம்)- சட்டம்/ஒப்பந்தம் நிறுவனத்திற்கு வெளியே தரவு செல்ல அனுமதிக்கிறதா?- மாதாந்திர தொகுதி முன்னறிவிப்பு மற்றும் கணிக்கக்கூடிய தன்மை?- செயல்பாடுகள்/ஜிபியு குழு திறன் உள்ளதா? பரிந்துரை: "நிர்வகிக்கப்பட்ட API / VPC / On-prem / Hybrid" + நியாயப்படுத்தல்.

TCO உருப்படி பட்டியல் (சுய ஹோஸ்டிங்கிற்கு):

மொத்த உரிமைச் செலவைக் கணக்கிடவும்:- வன்பொருள் (GPU) கொள்முதல்/குத்தகை- ஆற்றல் மற்றும் குளிரூட்டல்- மனித: MLOps + பாதுகாப்புக் குழு நேரம்- மாதிரி புதுப்பித்தல் மற்றும் சோதனை பணியாளர்கள்- பணிநீக்கம்/பேரழிவு மீட்பு- பாதுகாப்பு இணைப்பு மற்றும் கண்காணிப்பு 12-24 மாத அடிவானத்தில் நிர்வகிக்கப்படும் APIக்கான மாதாந்திர மசோதாவுடன் ஒப்பிடவும்.

ஹைப்ரிட் ரூட்டிங் விதி:

தரவு வகுப்பின் அடிப்படையில் ஒவ்வொரு கோரிக்கையையும் வழிசெலுத்துங்கள்:- "ரகசியம் / முக்கிய ரகசியம்" தரவு -> ஆன்-பிரேம்/விபிசி மாடல்- "பொது / உள்" தரவு -> நிர்வகிக்கப்பட்ட API (மிகவும் சக்தி வாய்ந்தது/மலிவானது) தணிக்கைப் பதிவில் பகிர்தல் முடிவு மற்றும் தரவு வகுப்பை எழுதவும்.

எடை பாதுகாப்பு சோதனை வரியைத் திறக்கவும்:

எங்களின் சுய-ஹோஸ்ட் செய்யப்பட்ட மாதிரியை மதிப்பிடவும்:- உரிமம் வணிகப் பயன்பாட்டை அனுமதிக்கிறதா மற்றும் எங்கள் சூழ்நிலையில்?- நம்பகமான மூலத்திலிருந்து மாதிரி எடைகள், ஒருமைப்பாடு (ஹாஷ்) சரிபார்க்கப்பட்டதா?- சர்வர் பேட்சிங், நெட்வொர்க் தனிமைப்படுத்தல், அணுகல் கட்டுப்பாடு நிறுவப்பட்டுள்ளதா?- நிர்வகிக்கப்படும் API போன்ற முதிர்ந்தவரை கண்காணித்து உள்நுழைகிறதா? காணாமல் போன உருப்படிகளை "ஆன்" எனக் குறிக்கவும்.

பலவீனமான ப்ராம்ட் / ஸ்ட்ராங் ப்ராம்ட்

மோசமான அணுகுமுறை

வலுவான அணுகுமுறை

"ஆன்-பிரேம் பாதுகாப்பானது, எப்போதும் பயன்படுத்தவும்"

தரவு இறையாண்மை + தொகுதி + திறன் அடிப்படையில் முடிவு

GPU செலவைப் பார்க்கிறேன்

முழு TCO (ஆற்றல், பணியாளர்கள், புதுப்பிப்புகள், பாதுகாப்பு)

ஒற்றை ஹோஸ்டிங் மாதிரியில் பூட்டப்பட்டுள்ளது

ஹைப்ரிட்: தரவு வகுப்பின் மூலம் ரூட்டிங்

திறந்த எடையைக் குறைக்காமல், அதைச் சரிபார்க்காமல் ஓடுகிறது

உரிமம் + ஒருமைப்பாடு + இணைப்பு + சுவடு கட்டுப்பாடு

மூன்று சிறிய வழக்குகள்

வழக்கு 1 - பிரேம் ஆணை சரியான முடிவு. ஒரு பாதுகாப்பு ஒப்பந்ததாரர் மிகவும் வகைப்படுத்தப்பட்ட ஆவணங்களை செயலாக்க வேண்டும்; நாட்டிற்கு வெளியே தரவுகளை எடுத்துச் செல்வதை ஒப்பந்தம் தடை செய்துள்ளது. நிர்வகிக்கப்பட்ட API ஆரம்பத்திலிருந்தே அகற்றப்பட்டது. ஆன்-பிரேம் திறந்த எடை மாதிரி நிறுவப்பட்டது; செலவு அதிகமாக இருந்தது, ஆனால் அது மட்டுமே இணக்கமான விருப்பமாக இருந்தது.

வழக்கு 2 - ரகசியமான TCO மாற்றப்பட்ட முடிவு. "API விலை அதிகம்" என்பதால் ஒரு தொடக்கமானது சுய-ஹோஸ்டிங்கிற்கு மாற திட்டமிட்டது. TCO கணக்கீட்டில், நீங்கள் GPU மட்டுமல்ல; 2 முழுநேர MLOps இன்ஜினியர்களைச் சேர்க்கவும், புதுப்பித்தல் சுமை மற்றும் பணிநீக்கம் மற்றும் 24-மாதங்களின் மொத்தமானது நிர்வகிக்கப்படும் API ஐ விட இருமடங்காகும். அவற்றின் வால்யூம்கள் குறைவாகவும், ஆங்காங்கேவும் இருந்ததால், அவை ஏபிஐயில் இருந்தன.

வழக்கு 3 - ஹைப்ரிட் சிறந்ததைக் கொடுத்தது. ஒரு வங்கியின் கால் சென்டர் உதவியாளர் இரண்டு வகையான தரவுகளை செயலாக்கிக் கொண்டிருந்தார்: பொதுவான தயாரிப்பு கேள்விகள் மற்றும் வாடிக்கையாளர் சார்ந்த கணக்குத் தரவு. கணக்குத் தரவு VPC க்குள் உள்ள மாதிரிக்கு அனுப்பப்படுகிறது, பொதுவான கேள்விகள் சக்திவாய்ந்த நிர்வகிக்கப்பட்ட API க்கு அனுப்பப்படுகின்றன. உணர்திறன் தரவு ஒருபோதும் வெளியேறவில்லை, பொதுவான கேள்விகளுக்கு வலுவான மாதிரியின் தரம் பயன்படுத்தப்பட்டது; விலை மற்றும் பொருத்தம் ஒன்றாக உகந்ததாக இருக்கும்.

உதவிக்குறிப்பு: முடிவு பைனரியாக இருக்க வேண்டியதில்லை (அனைத்தும் அல்லது எதுவுமில்லை). ஹைப்ரிட் ஆர்கிடெக்ச்சர் - வகுப்பின் அடிப்படையில் தரவு ரூட்டிங் - ஒரே நேரத்தில் பெரும்பாலான நிறுவன சூழ்நிலைகளில் இணக்கம் மற்றும் செலவை தீர்க்கிறது.

பொதுவான தவறுகள்

• "சொந்த ஹோஸ்டிங் தானாகவே பாதுகாப்பானது" என்று வைத்துக்கொள்வோம்; அதேசமயம் பாதுகாப்பு நிர்வாகத்தின் தரத்தைப் பொறுத்தது.
• TCO என்பது வெறும் GPU செலவாகும் என்று நினைத்து; குழு, ஆற்றல், புதுப்பித்தல் மற்றும் பாதுகாப்பை மறந்துவிடுதல்.
• குறைந்த/ஒழுங்கற்ற அளவில் சுய-ஹோஸ்டிங்கிற்கு மாறுதல் மற்றும் யூனிட் செலவை அதிகரிப்பது.
• உரிமம் மற்றும் ஒருமைப்பாடு (ஹாஷ்) சரிபார்க்காமல் திறந்த எடை மாதிரியைப் பயன்படுத்துதல்.
• ஆன்-பிரேம் சர்வரில் நிர்வகிக்கப்படும் API போன்ற முதிர்ந்த கண்காணிப்பு/பதிவை நிறுவவில்லை.
• கலப்பின விருப்பத்தை கருத்தில் கொள்ளாமல் பைனரி முடிவை எடுப்பது.

சுருக்கமாக

• நிர்வகிக்கப்பட்ட API என்பது செயல்பாட்டுக்கு மிகவும் எளிதானது, ஆனால் தரவு வழங்குநருக்கு செல்கிறது; VPC/on-prem உங்கள் எல்லையில் தரவை வைத்திருக்கிறது.
• மூன்று கேள்விகள் முடிவைத் தூண்டுகின்றன: தரவு இறையாண்மை, தொகுதி/செலவு முன்கணிப்பு மற்றும் செயல்பாட்டு திறன்.
• "சுய ஹோஸ்டிங் மிகவும் பாதுகாப்பானது" என்பது தவறான கருத்து; பாதுகாப்பு நீங்கள் தரவை எங்கு வைத்திருக்கிறீர்கள் என்பதைப் பொறுத்து அல்ல, ஆனால் அதை எவ்வளவு சிறப்பாக நிர்வகிக்கிறீர்கள் என்பதைப் பொறுத்தது.
• துல்லியமான TCO ஐக் கணக்கிடுங்கள்: ஆற்றல், குழு, புதுப்பிப்பு, பணிநீக்கம் மற்றும் பாதுகாப்பு, அத்துடன் GPU.
• கலப்பின கட்டிடக்கலை (வகுப்பு வாரியாக ரூட்டிங் தரவு) ஒரே நேரத்தில் பெரும்பாலான நிறுவன சூழ்நிலைகளில் இணக்கம் மற்றும் செலவை சமநிலைப்படுத்துகிறது.

விண்ணப்ப பணி

AI பயன்பாட்டைத் தேர்வுசெய்து, தனியுரிமை வகுப்பில் செயலாக்கப்பட வேண்டிய தரவைப் பிரிக்கவும். ஹோஸ்டிங் முடிவு ப்ராம்ட் உடன் பரிந்துரையை உருவாக்கவும். உங்கள் சொந்த ஹோஸ்டிங்கிற்கான TCO உருப்படி பட்டியலை நிரப்பி, 24 மாத மொத்தத்தை நிர்வகிக்கப்பட்ட API பில்லுக்கு ஒப்பிடவும். இறுதியாக, வரைவு ஹைப்ரிட் ரூட்டிங் விதியை எழுதவும்: எந்த தரவு எங்கு செல்கிறது?

சரிபார்ப்பு பட்டியல்

• [ ] செயலாக்கப்பட வேண்டிய தரவின் ரகசியத்தன்மை வகுப்பு மற்றும் சட்டக் கட்டுப்பாடு ஆகியவற்றை நான் தீர்மானித்துள்ளேன்.
• [ ] இறையாண்மை + தொகுதி + திறன் ஆகியவற்றின் அடிப்படையில் ஹோஸ்டிங் முடிவை எடுத்தேன்.
• [ ] நான் TCO ஐ முழு உருப்படிகளுடன் கணக்கிட்டேன் (GPU அல்லாதது உட்பட).
• [ ] நான் உரிமம், ஒருமைப்பாடு, ஒட்டுதல் மற்றும் சுய-ஹோஸ்டிங்கில் கண்காணிப்பு ஆகியவற்றைச் சரிபார்த்தேன்.
• [ ] நான் ஹைப்ரிட் ரூட்டிங் விருப்பத்தை கருத்தில் கொண்டேன்.
• [ ] நான் முடிவு மற்றும் அதன் காரணத்தை ஆவணப்படுத்தினேன்.