लाभ:
- प्रबंधित एपीआई, वीपीसी और ऑन-प्रिमाइसेस होस्टिंग के बीच ट्रेड-ऑफ का मूल्यांकन करने की क्षमता
- डेटा संप्रभुता, मात्रा और परिचालन क्षमता के आधार पर होस्टिंग पर निर्णय लेने की क्षमता
- संपूर्ण वस्तुओं और डिज़ाइन हाइब्रिड आर्किटेक्चर के साथ स्वामित्व की कुल लागत (टीसीओ) की गणना करने की क्षमता
कुछ संगठनों के लिए, "किसी प्रदाता को डेटा भेजना" - चाहे कितना भी सुरक्षित क्यों न हो - स्वीकार्य नहीं है। रक्षा उद्योग, सार्वजनिक, बैंकिंग और कुछ स्वास्थ्य परिदृश्यों में, डेटा को कभी भी संस्था की सीमा से आगे नहीं जाना चाहिए। इस बिंदु पर, अपना स्वयं का मॉडल होस्ट करना सामने आता है: ओपन-वेट मॉडल, जो आपके स्वयं के क्लाउड नेटवर्क (VPC) में या आपके स्वयं के सर्वर (ऑन-प्रिमाइसेस) पर चल रहे हैं। इस इकाई में हम प्रबंधित एपीआई और स्व-होस्टिंग, जब यह समझ में आता है, और स्वामित्व की कुल लागत (टीसीओ) के बीच व्यापार-बंद के बारे में जानेंगे।
अवधारणाएँ
- प्रबंधित एपीआई: मॉडल प्रदाता के बुनियादी ढांचे पर चलता है; आप एक अनुरोध भेजें और एक प्रतिक्रिया प्राप्त करें। परिचालन ओवरहेड न्यूनतम है, लेकिन डेटा प्रदाता के पास जाता है।
- ओपन-वेट मॉडल: मॉडल पैरामीटर (वजन) डाउनलोड किया जा सकता है; आप इसे अपने हार्डवेयर पर चला सकते हैं. यह आवश्यक रूप से "ओपन सोर्स" के समान नहीं है (लाइसेंस भिन्न हो सकता है)।
- वीपीसी होस्टिंग (वर्चुअल प्राइवेट क्लाउड): मॉडल को अपने अलग क्लाउड नेटवर्क में चलाना; डेटा आपके नेटवर्क सीमा पर रहता है, लेकिन बुनियादी ढांचा अभी भी क्लाउड में है।
- ऑन-प्रिमाइसेस (ऑन-प्रिमाइसेस): मॉडल को पूरी तरह से अपने डेटा सेंटर में हार्डवेयर पर चलाना; उच्चतम नियंत्रण, उच्चतम परिचालन भार।
सावधानी: "खुद की होस्टिंग हमेशा सुरक्षित होती है" एक गलत धारणा है। सुरक्षा इस बात पर कम निर्भर करती है कि आप डेटा कहाँ रखते हैं और इस बात पर अधिक निर्भर करती है कि आप इसे कितनी अच्छी तरह प्रबंधित करते हैं। एक परिपक्व प्रबंधित एपीआई की तुलना में एक अनपैच्ड, खराब तरीके से कॉन्फ़िगर किया गया ऑन-प्रिमाइसेस सर्वर जोखिम भरा है।
निर्णय धुरी: कौन सा कब?
तीन प्रश्न निर्णय का मार्गदर्शन करते हैं:
- डेटा संप्रभुता: क्या कानून या अनुबंध डेटा को संस्थान/देश छोड़ने से रोकता है? यदि हां, तो आपको वीपीसी/ऑन-प्रिमाइसेस की ओर धकेल दिया जाएगा।
- मात्रा और लागत: क्या उपयोग बहुत अधिक और पूर्वानुमानित है? स्व-होस्टिंग की बहुत अधिक मात्रा इकाई लागत को कम कर सकती है; कम/अनियमित वॉल्यूम पर प्रबंधित एपीआई लगभग हमेशा सस्ता होता है।
- परिचालन क्षमता: क्या आपके पास GPU बुनियादी ढांचे, मॉडल अपडेटिंग, स्केलिंग और सुरक्षा पैचिंग को बनाए रखने के लिए टीम है? अन्यथा आपकी स्वयं की होस्टिंग एक छिपी हुई लागत है।
ट्रेडऑफ़ टेबल
आकार
प्रबंधित एपीआई
वी.पी.सी
ऑन-प्रेम (खुला वजन)
डेटा संप्रभुता
प्रदाता पर भरोसा रखें
उच्च (आपकी नेटवर्क सीमा पर)
उच्चतम (कभी नहीं बढ़ता)
संचालन भार
बहुत कम
मध्यम
उच्च
आरंभिक लागत
कम (जाते ही भुगतान करें)
मध्यम
उच्च (हार्डवेयर)
स्केलिंग
स्वचालित
प्रबंधित
आपकी जिम्मेदारी
मॉडल गुणवत्ता/मुद्रा
नवीनतम, स्वचालित
निर्भर करता है
आप अपडेट करें
नियंत्रण
कम
उच्च
पूर्ण
चरण दर चरण: होस्टिंग निर्णय
- डेटा वर्ग निर्धारित करें. डेटा को किस गोपनीयता स्तर पर संसाधित किया जाएगा?
- कानूनी बाधा सत्यापित करें. क्या डेटा बाहर आ सकता है? (केवीकेके, सेक्टर विनियमन, अनुबंध।)
- मात्रा का अनुमान लगाएं. मासिक अनुरोध/टोकन मात्रा और वृद्धि वक्र।
- टीसीओ की गणना करें. सिर्फ जीपीयू नहीं; ऊर्जा, रखरखाव, टीम, सुरक्षा, अतिरेक।
- हाइब्रिड सोचो. एक हाइब्रिड मॉडल जो ऑन-प्रिमाइसेस/वीपीसी में संवेदनशील डेटा और प्रबंधित एपीआई में गैर-संवेदनशील डेटा को संसाधित करता है, अक्सर सबसे स्थिर होता है।
चार प्रतिलिपि योग्य टेम्पलेट
होस्टिंग निर्णय शीघ्र:
निम्नलिखित उपयोग के लिए होस्टिंग तय करें: {{परिदृश्य }}प्रश्न:- संसाधित किए जाने वाले डेटा की गोपनीयता श्रेणी क्या है? (सार्वजनिक/आंतरिक/गोपनीय/शीर्ष गुप्त) - क्या कानून/अनुबंध डेटा को संगठन के बाहर जाने की अनुमति देता है? - मासिक मात्रा पूर्वानुमान और पूर्वानुमान? - क्या संचालन/जीपीयू टीम की क्षमता है? सिफ़ारिश: "प्रबंधित एपीआई / वीपीसी / ऑन-प्रिमाइसेस / हाइब्रिड" + औचित्य।
टीसीओ आइटम सूची (स्वयं-होस्टिंग के लिए):
स्वामित्व की कुल लागत की गणना करें: - हार्डवेयर (जीपीयू) खरीद / पट्टा - ऊर्जा और शीतलन - मानव: एमएलओपीएस + सुरक्षा टीम का समय - मॉडल अद्यतन और परीक्षण कार्यबल - अतिरेक / आपदा वसूली - सुरक्षा पैचिंग और निगरानी इसकी तुलना 12-24 महीने के क्षितिज पर प्रबंधित एपीआई के मासिक बिल से करें।
हाइब्रिड रूटिंग नियम:
डेटा वर्ग के आधार पर प्रत्येक अनुरोध को रूट करें: - "गुप्त / शीर्ष गुप्त" डेटा -> ऑन-प्रिमाइसेस / वीपीसी मॉडल - "सार्वजनिक / आंतरिक" डेटा -> प्रबंधित एपीआई (अधिक शक्तिशाली / सस्ता) ऑडिट लॉग में अग्रेषित निर्णय और डेटा वर्ग लिखें।
खुला वजन सुरक्षा जांच संकेत:
हमारे स्व-होस्ट किए गए मॉडल का मूल्यांकन करें: - क्या लाइसेंस व्यावसायिक उपयोग की अनुमति देता है और हमारे परिदृश्य में? - विश्वसनीय स्रोत से मॉडल वजन, अखंडता (हैश) सत्यापित? - क्या सर्वर पैचिंग, नेटवर्क अलगाव, एक्सेस नियंत्रण स्थापित हैं? - क्या निगरानी और लॉगिंग प्रबंधित एपीआई के समान परिपक्व हैं? किसी भी लापता आइटम को "चालू" के रूप में चिह्नित करें।
कमजोर संकेत/मजबूत संकेत
ख़राब दृष्टिकोण
मजबूत दृष्टिकोण
"ऑन-प्रिमाइसेस अधिक सुरक्षित है, हमेशा इसका उपयोग करें"
डेटा संप्रभुता + मात्रा + क्षमता के आधार पर निर्णय
बस GPU लागत देख रहा हूँ
पूर्ण टीसीओ (ऊर्जा, चालक दल, अद्यतन, सुरक्षा)
एक ही होस्टिंग मॉडल में बंद किया जा रहा है
हाइब्रिड: डेटा क्लास द्वारा रूटिंग
खुले वजन को कम किये बिना और उसका सत्यापन किये बिना दौड़ना
लाइसेंस + अखंडता + पैच + ट्रेस नियंत्रण
तीन मिनी मामले
केस 1 - ऑन-प्रीमियर जनादेश सही निर्णय था। एक रक्षा ठेकेदार को अत्यधिक वर्गीकृत दस्तावेज़ों को संसाधित करना था; अनुबंध में डेटा को देश से बाहर ले जाने पर रोक थी। प्रबंधित एपीआई को शुरुआत से ही समाप्त कर दिया गया था। ऑन-प्रिमाइसेस ओपन वेट मॉडल स्थापित किया गया था; लागत अधिक थी, लेकिन यह एकमात्र संगत विकल्प था।
केस 2 - गोपनीय टीसीओ ने निर्णय उलट दिया। एक स्टार्टअप ने सेल्फ-होस्टिंग पर स्विच करने की योजना बनाई क्योंकि "एपीआई महंगा है।" टीसीओ गणना में, आप न केवल जीपीयू को शामिल करते हैं; 2 पूर्णकालिक एमएलओपीएस इंजीनियर जोड़ें, लोड और अतिरेक अपडेट करें, और 24 महीने का कुल योग प्रबंधित एपीआई से दोगुना है। वे एपीआई में बने रहे क्योंकि उनकी मात्रा कम और छिटपुट थी।
केस 3 - हाइब्रिड ने सर्वश्रेष्ठ दिया। एक बैंक का कॉल सेंटर सहायक दो प्रकार के डेटा संसाधित कर रहा था: सामान्य उत्पाद प्रश्न और ग्राहक-विशिष्ट खाता डेटा। खाता डेटा वीपीसी के भीतर मॉडल को निर्देशित किया जाता है, सामान्य प्रश्न शक्तिशाली प्रबंधित एपीआई को निर्देशित किए जाते हैं। संवेदनशील डेटा कभी बाहर नहीं आया, सामान्य प्रश्नों के लिए सबसे मजबूत मॉडल की गुणवत्ता का उपयोग किया गया; लागत और फिट को एक साथ अनुकूलित किया गया है।
युक्ति: निर्णय द्विआधारी (सभी या कुछ भी नहीं) होना जरूरी नहीं है। हाइब्रिड आर्किटेक्चर - वर्ग द्वारा डेटा को रूट करना - एक साथ अधिकांश उद्यम परिदृश्यों में अनुपालन और लागत का समाधान करता है।
सामान्य गलतियाँ
- मान लें कि "स्वयं की होस्टिंग स्वचालित रूप से सुरक्षित है"; जबकि सुरक्षा प्रबंधन की गुणवत्ता पर निर्भर करती है।
- यह सोचकर कि टीसीओ सिर्फ जीपीयू लागत है; टीम, ऊर्जा, अद्यतन करना और सुरक्षा के बारे में भूल जाना।
- कम/अनियमित वॉल्यूम पर सेल्फ-होस्टिंग पर स्विच करना और यूनिट लागत बढ़ाना।
- लाइसेंस और अखंडता (हैश) की पुष्टि किए बिना ओपन वेट मॉडल का उपयोग करना।
- ऑन-प्रिमाइसेस सर्वर पर प्रबंधित एपीआई के रूप में परिपक्व मॉनिटरिंग/लॉगिंग स्थापित नहीं करना।
- हाइब्रिड विकल्प पर बिल्कुल भी विचार किए बिना द्विआधारी निर्णय लेना।
सारांश
- प्रबंधित एपीआई परिचालन की दृष्टि से सबसे आसान है, लेकिन डेटा प्रदाता के पास जाता है; वीपीसी/ऑन-प्रिमाइसेस आपकी सीमा पर डेटा रखता है।
- तीन प्रश्न निर्णय को आगे बढ़ाते हैं: डेटा संप्रभुता, मात्रा/लागत की भविष्यवाणी, और परिचालन क्षमता।
- "स्वयं-होस्टिंग अधिक सुरक्षित है" एक गलत धारणा है; सुरक्षा इस बात पर निर्भर नहीं करती कि आप डेटा कहाँ रखते हैं, बल्कि इस बात पर निर्भर करती है कि आप इसे कितनी अच्छी तरह प्रबंधित करते हैं।
- सटीक टीसीओ की गणना करें: ऊर्जा, टीम, अद्यतन, अतिरेक और सुरक्षा, साथ ही जीपीयू।
- हाइब्रिड आर्किटेक्चर (क्लास द्वारा डेटा रूटिंग) एक साथ अधिकांश उद्यम परिदृश्यों में अनुपालन और लागत को संतुलित करता है।
आवेदन कार्य
एआई उपयोग चुनें और संसाधित किए जाने वाले डेटा को गोपनीयता वर्ग में अलग करें। होस्टिंग निर्णय संकेत के साथ एक अनुशंसा तैयार करें। फिर अपनी होस्टिंग के लिए टीसीओ आइटम सूची भरें और कुल 24 महीने की तुलना प्रबंधित एपीआई बिल से करें। अंत में, एक ड्राफ्ट हाइब्रिड रूटिंग नियम लिखें: कौन सा डेटा कहाँ जाता है?
चेकलिस्ट
- [ ] मैंने संसाधित किए जाने वाले डेटा की गोपनीयता श्रेणी और कानूनी प्रतिबंध निर्धारित कर लिया है।
- [ ] मैंने संप्रभुता+मात्रा+क्षमता के आधार पर मेजबानी का निर्णय लिया।
- [ ] मैंने संपूर्ण आइटमों (गैर-जीपीयू सहित) के साथ टीसीओ की गणना की।
- [ ] मैंने सेल्फ-होस्टिंग पर लाइसेंस, अखंडता, पैचिंग और निगरानी की जाँच की।
- [ ] मैंने हाइब्रिड रूटिंग विकल्प पर विचार किया।
- [ ] मैंने निर्णय और उसके तर्क का दस्तावेजीकरण किया।