लाभ:
- मेटा (लामा), मिस्ट्रल, एक्सएआई (ग्रोक), डीपसीक और कोहेयर की स्थिति को पहचानना
- यह पहचानना कि कौन सा व्यवसाय ओपन-वेट, क्षेत्रीय और लागत-केंद्रित प्रदाताओं के लिए सबसे उपयुक्त है
- चयन मानदंड के रूप में मूल देश और लाइसेंस का मूल्यांकन करने की क्षमता
हमें तीन बड़े अमेरिकी प्रदाताओं के बारे में पता चला। हालाँकि, यह सोचना कि बाज़ार केवल उन्हीं के बारे में है, आपके पास मौजूद कुछ सबसे मूल्यवान विकल्पों को नज़रअंदाज करना होगा। मेटा, स्पष्ट नेता, मिस्ट्रल, यूरोप का गौरव, एक्सएआई, जो वास्तविक समय डेटा के साथ काम करता है, डीपसीक, जो अपनी लागत/प्रदर्शन संतुलन के साथ खड़ा है, और कोहेरे, जो कॉर्पोरेट दस्तावेज़ क्वेरी में माहिर है; सभी बड़े तीन की तुलना में कुछ निश्चित नौकरियों के लिए बेहतर उपयुक्त हो सकते हैं। इस इकाई में, आप वस्तुनिष्ठ रूप से इन पांच खिलाड़ियों, उनकी स्थिति और वे किस नौकरी के लिए उपयुक्त हैं, इसके बारे में जानेंगे; आप देखेंगे कि मूल देश और लाइसेंस चयन मानदंड क्यों हैं।
मेटा - लामा परिवार (ओपन वेट लीडर)
मेटा का लामा परिवार ओपन वेट दुनिया में सबसे अधिक पहचाना जाने वाला नाम है। चूँकि वेट डाउनलोड करने योग्य हैं, आप उन्हें अपने सर्वर पर चला सकते हैं और डेटा को कभी भी बाहर निकाले बिना संसाधित कर सकते हैं। विभिन्न आकारों के संस्करण हैं: छोटे मॉडल एक साधारण सर्वर पर भी काम करते हैं, जबकि बड़े मॉडल के लिए शक्तिशाली हार्डवेयर की आवश्यकता होती है।
वे क्षेत्र जहां यह प्रमुख है: संस्थान जो पूर्ण डेटा नियंत्रण चाहते हैं; जो लोग लागत को बहुत अधिक मात्रा में पूर्वानुमानित बनाना चाहते हैं; और जो लोग अपने स्वयं के डेटा के साथ मॉडल को अनुकूलित (फाइन-ट्यूनिंग) करना चाहते हैं। फाइन-ट्यूनिंग आपके व्यवसाय के लिए एक तैयार मॉडल को अपने स्वयं के उदाहरणों के साथ पुनः प्रशिक्षित करके अनुकूलित करना है।
विशिष्ट उपयोगकर्ता: अपने स्वयं के डेटा केंद्रों वाले बड़े संस्थान, गोपनीयता-महत्वपूर्ण उद्योग, मजबूत तकनीकी टीमों वाली कंपनियां।
सावधानी: यद्यपि लामा लाइसेंस "खुला" है, यह बिना शर्त नहीं है; एक निश्चित सक्रिय उपयोगकर्ता सीमा से ऊपर की बहुत बड़ी कंपनियों के लिए अतिरिक्त आवश्यकताएं शामिल हो सकती हैं। व्यवसाय में लगाने से पहले लाइसेंस को अपनी कानूनी टीम के साथ पढ़ें।
मिस्ट्रल - यूरोप का प्रदाता
फ़्रांस में स्थित मिस्ट्रल, अपने यूरोपीय मूल के कारण सबसे अलग है। यह एक "मिश्रित" प्रदाता है क्योंकि यह खुले वजन वाले मॉडल (जैसे मिक्सट्रल) और बंद, अधिक शक्तिशाली मॉडल दोनों प्रदान करता है। यह यूरोप में डेटा संप्रभुता संबंधी चिंताओं वाले संगठनों के लिए एक स्वाभाविक उम्मीदवार है; क्योंकि प्रदाता स्वयं EU के भीतर है।
प्रमुखता के क्षेत्र: यूरोपीय कानूनी ढांचे के अनुपालन से संबंधित संस्थान; जो लोग खुले वजन का लचीलापन और एक ही छत के नीचे बंद मॉडल की सुविधा चाहते हैं; और बहुभाषी यूरोपीय भाषा समर्थन।
विशिष्ट उपयोगकर्ता: यूरोपीय संघ में कार्यरत मध्यम और बड़े आकार के संस्थान जो चाहते हैं कि उनका डेटा यूरोपीय संघ की सीमा के भीतर रहे।
xAI - ग्रोक (वास्तविक समय डेटा)
एक्सएआई का ग्रोक मॉडल एक्स (पूर्व में ट्विटर) प्लेटफॉर्म के साथ इसके एकीकरण और वर्तमान, वास्तविक समय डेटा तक पहुंच द्वारा स्थित है। हालाँकि यह एक सामान्य-उद्देश्य वाला मॉडल है, यह वर्तमान घटनाओं और सोशल मीडिया पल्स को प्रतिबिंबित करने के अपने दावे से ध्यान आकर्षित करता है।
वे क्षेत्र जहां यह प्रमुख है: वर्तमान घटनाओं पर नज़र रखना, सोशल मीडिया विश्लेषण, एजेंडा-संबंधित सामग्री। रीयल-टाइम कनेक्टिविटी तब मूल्यवान होती है जब किसी मॉडल को कुछ जानने की आवश्यकता होती है जो "अभी हुआ।"
विशिष्ट उपयोगकर्ता: सोशल मीडिया टीमें, विपणक जो ब्रांडों की निगरानी करते हैं, सामग्री निर्माता जिनका एजेंडा ट्रैकिंग महत्वपूर्ण है।
डीपसीक - लागत/प्रदर्शन (चीन मूल)
चीन स्थित डीपसीक कम कीमत पर शक्तिशाली प्रदर्शन की पेशकश के लिए जाना जाता है, और इसके कुछ मॉडल खुले वजन वाले हैं। यह मूल्य लाभ की पेशकश करते हुए, विशेष रूप से तर्क-गहन कार्यों में प्रतिस्पर्धी परिणाम प्रदान करता है।
वे क्षेत्र जहां यह विशिष्ट है: उच्च बजट संवेदनशीलता के साथ उच्च मात्रा वाले तर्कपूर्ण कार्य; ऐसी टीमें जो स्पष्ट वजन लचीलापन चाहती हैं लेकिन उन्हें लागत कम रखनी होगी।
विशिष्ट उपयोगकर्ता: लागत-केंद्रित पहल, उच्च मात्रा में विश्लेषण करने वाली टीमें।
ध्यान दें: डीपसीक की उत्पत्ति चीन से हुई है। यदि आप व्यक्तिगत या व्यापार गुप्त डेटा संसाधित करने जा रहे हैं, तो यह स्पष्ट करना सुनिश्चित करें कि डेटा कहाँ संसाधित और संग्रहीत किया गया है। अपने स्वयं के सर्वर पर ओपनवेट संस्करण चलाने से यह चिंता कम हो जाती है; डेटा संप्रभुता के संदर्भ में क्लाउड सेवा का उपयोग सावधानीपूर्वक मूल्यांकन किया जाना चाहिए। हम इकाई 8 में इस विषय पर गहराई से चर्चा करेंगे।
कोहेयर - एंटरप्राइज सर्च और आरएजी
कनाडा स्थित कोहेयर उपभोक्ता चैट अनुप्रयोगों के बजाय एंटरप्राइज़ वर्कलोड के लिए तैनात है। यह आरएजी (प्राप्त ज्ञान से सृजन) परिदृश्यों में विशेष रूप से शक्तिशाली है; यानी, उन प्रणालियों में जहां मॉडल प्रतिक्रिया देने से पहले आपके दस्तावेज़ संग्रह से प्रासंगिक टुकड़े ढूंढता है और पढ़ता है। इसे "एम्बेडिंग" मॉडल के साथ कॉर्पोरेट खोज अवसंरचना स्थापित करने के लिए भी पसंद किया जाता है जो टेक्स्ट को संख्यात्मक वैक्टर में परिवर्तित करता है। (एम्बेडिंग एक पाठ के अर्थ को संख्याओं में परिवर्तित करना है ताकि समान पाठों को एक साथ रखा जा सके।)
वे क्षेत्र जहां यह विशिष्ट है: इन-हाउस दस्तावेज़ क्वेरी, स्मार्ट खोज, ज्ञान के आधार पर प्रश्न-उत्तर प्रणाली।
विशिष्ट उपयोगकर्ता: बड़े दस्तावेज़ संग्रह वाले संस्थान, टीमें जो अपने आंतरिक ज्ञान आधार को एआई के साथ खोजने योग्य बनाना चाहते हैं।
पाँच खिलाड़ी अगल-बगल
प्रदाता
विशेष रुप से प्रदर्शित मूल्य
वज़न
उत्पत्ति
विशिष्ट कार्य
मेटा (लामा)
पूर्ण नियंत्रण, बढ़िया ट्यूनिंग
खुला
यूएसए
अपने सर्वर पर गुप्त व्यवसाय
मिस्ट्रल
यूरोपीय संघ की उत्पत्ति, लचीलापन
मिश्रित
फ़्रांस
यूरोपीय संघ डेटा संप्रभुता
एक्सएआई (ग्रोक)
वास्तविक समय डेटा
बंद
यूएसए
एजेंडा/सोशल मीडिया
डीपसीक
लागत/प्रदर्शन
खुला
चीन
उच्च मात्रा, बजट उन्मुख
सुसंगत
उद्यम खोज/आरएजी
मिश्रित
कनाडा
दस्तावेज़ पूछताछ
तीन यथार्थवादी मामले
केस 1 - ईयू में काम कर रही विनिर्माण कंपनी। जर्मनी में फैक्ट्रियों वाली एक कंपनी एआई के साथ तकनीकी दस्तावेज खोजना चाहती है, लेकिन नहीं चाहती कि उसका डेटा ईयू के बाहर जाए। वे मिस्ट्रल का ईयू-आधारित बंद मॉडल चुनते हैं; यह मजबूत है और कानूनी ढांचे के अनुरूप भी है। ~800,000 टोकन मासिक कार्य एक पूर्वानुमानित बिल में बदल जाता है और कानूनी टीम को राहत मिलती है।
केस 2 - बजट-विवश विश्लेषणात्मक पहल। एक आठ-व्यक्ति डेटा एनालिटिक्स स्टार्टअप को एक दिन में हजारों छोटे पाठों को वर्गीकृत और सारांशित करना होगा, लेकिन इसका बजट सीमित है। वे किराये पर लिए गए सर्वर पर डीपसीक का ओपन वेट मॉडल चलाते हैं; इस प्रकार, वे प्रति टोकन भुगतान नहीं करते हैं और वे डेटा को कभी भी बाहर न ले जाकर उत्पन्न होने वाले डेटा के बारे में चिंता का समाधान करते हैं।
केस 3 - बड़ी बीमा कंपनी का ज्ञान आधार। हज़ारों पॉलिसियों और प्रक्रिया दस्तावेज़ों वाली एक बीमा कंपनी ने अपने कर्मचारियों से पूछा "इस स्थिति में क्या करें?" वह पुरालेख से अपने प्रश्न पूछने में सक्षम होना चाहता है। वे कोहेयर के आरएजी और एम्बेडिंग मॉडल के साथ एक इन-हाउस खोज प्रणाली का निर्माण कर रहे हैं। जब कोई कर्मचारी कोई प्रश्न पूछता है, तो सिस्टम पहले प्रासंगिक दस्तावेज़ ढूंढता है, फिर मॉडल उनके आधार पर उत्तर देता है; इस प्रकार, उत्तर मनगढ़ंत नहीं हैं, बल्कि वास्तविक दस्तावेजों पर आधारित हैं।
कमजोर संकेत/मजबूत संकेत
कमजोर संकेत:
एक सस्ता एआई मॉडल सुझाएं।
शक्तिशाली संकेत:
आपकी भूमिका: एआई खरीद सलाहकार। आवश्यकता: प्रति दिन ~30,000 लघु तुर्की ग्राहक समीक्षाओं को सकारात्मक/नकारात्मक/तटस्थ में क्रमबद्ध करें। बजट बहुत सीमित है. डेटा में व्यक्तिगत डेटा (गुमनाम) शामिल नहीं है। कार्य: अच्छी लागत/प्रदर्शन संतुलन के साथ 3 विकल्प (खुले वजन सहित) की सिफारिश करें। प्रत्येक के लिए अनुमानित मासिक लागत सीमा, मूल/डेटा नोट और मुख्य जोखिम लिखें। अंत में, पायलट के लिए एक अनुशंसा दें।
शक्तिशाली संकेत वास्तव में कार्रवाई योग्य अनुशंसा देता है क्योंकि यह वॉल्यूम, बजट बाधा, डेटा प्रकार और भाषा देता है।
कॉपी करने योग्य टेम्पलेट
1. वैकल्पिक प्रदाता स्क्रीनिंग:
बड़े तीन (एंथ्रोपिक/ओपनएआई/गूगल) के बाहर प्रदाताओं की सूची बनाएं जो निम्नलिखित कार्य के लिए उपयुक्त हो सकते हैं [कार्य]: मेटा, मिस्ट्रल, एक्सएआई, डीपसीक, कोहेयर। प्रत्येक के लिए एक पंक्ति "यह उपयुक्त क्यों है / यह उपयुक्त क्यों नहीं है" लिखें।
2. उत्पत्ति और लाइसेंस नोट:
मैं निम्नलिखित प्रदाता [प्रदाता] का उपयोग करने के बारे में सोच रहा हूं। डेटा संप्रभुता के संदर्भ में मूल देश, वजन प्रकार और लाइसेंस की शर्तें मेरे लिए क्या जोखिम पैदा करती हैं? प्रत्येक जोखिम के लिए सावधानी सुझाएं।
3. आरएजी अनुपालन जांच:
मेरे पास ~[NUMBER] दस्तावेज़ हैं और मैं चाहता हूँ कि कर्मचारी उनके बारे में प्रश्न पूछें। क्या यह RAG परिदृश्य है? यदि हां, तो आप किस प्रदाता/मॉडल प्रकार (एम्बेडिंग + उत्पादन) की अनुशंसा करेंगे और स्थापना के लिए पहले 3 चरण क्या हैं?
4. ओपन वेट पायलट योजना:
हम इस ओपन वेट मॉडल [मॉडल] को अपने सर्वर पर चलाना चाहते हैं। पहले सप्ताह में पालन करने के लिए हार्डवेयर आवश्यकताओं, इंस्टॉलेशन चरणों, अनुमानित समय और 3 सफलता मेट्रिक्स के साथ एक अनुमानित योजना बनाएं।
सामान्य गलतियाँ
- बड़े तीन के साथ फंसना: सबसे प्रसिद्ध प्रदाता आपके विशेष व्यवसाय के लिए सबसे उपयुक्त नहीं हो सकता है; विकल्पों का मूल्यांकन किये बिना कोई निर्णय न लें।
- तकनीकी रूप से उत्पत्ति के देश को गलत समझना: डेटा संप्रभुता और कानूनी जोखिम के संदर्भ में उत्पत्ति एक रणनीतिक मानदंड है, कोई सामान्य लेबल नहीं।
- मॉडल की ताकत के साथ RAG को भ्रमित करना: दस्तावेज़ क्वेरी में सफलता अक्सर एक अच्छे RAG सेटअप से आती है, न कि सबसे शक्तिशाली मॉडल से।
- यह मानते हुए कि ओपन वेट इंस्टॉलेशन-मुक्त है: डीपसीक या लामा को चुनना क्योंकि वे "मुक्त" हैं और हार्डवेयर और रखरखाव के बोझ को ध्यान में नहीं रखते हैं।
- वास्तविक समय की आवश्यकता को अधिक आंकना: प्रत्येक व्यवसाय वास्तविक समय डेटा नहीं चाहता है; ग्रोक का लाभ तभी समझ में आता है जब समयबद्धता महत्वपूर्ण हो।
संक्षेप में
- मेटा (लामा) खुला वजन और पूर्ण नियंत्रण; मिस्ट्रल ईयू मूल और लचीलापन; एक्सएआई वास्तविक समय डेटा; डीपसीक लागत/प्रदर्शन; कोहेयर एंटरप्राइज सर्च/आरएजी के साथ अलग दिखता है।
- मूल देश और लाइसेंस रणनीतिक चयन मानदंड हैं, विशेष रूप से व्यक्तिगत या गोपनीय डेटा संसाधित करने वालों के लिए।
- आरएजी परिदृश्यों में, सफलता सबसे मजबूत मॉडल के बजाय एक अच्छे दस्तावेज़ फ़ेच सेटअप से आती है।
- व्यवसाय के प्रकार, बजट और कानूनी ढांचे के आधार पर, सही प्रदाता इन तीनों में से बाहर से आ सकता है।
आवेदन कार्य
विचार करें कि क्या आपके व्यवसाय में दस्तावेज़ों से पूछताछ करने की आवश्यकता है (जैसे कि कर्मचारी किसी संग्रह से प्रश्न पूछ रहे हैं)। इस इकाई में टेम्पलेट 3 (आरएजी फ़िट चेक) के साथ अपनी स्थिति का मूल्यांकन करने के लिए एक एआई मॉडल से पूछें। इसके अलावा, यदि आप व्यक्तिगत या गोपनीय डेटा संसाधित कर रहे हैं, तो उस प्रदाता के डेटा संप्रभुता जोखिम को हटा दें जिसे आप दूसरे टेम्पलेट (मूल और लाइसेंस का नोट) के साथ चुनने पर विचार कर रहे हैं। हम इस आउटपुट का उपयोग इकाई 8 में केवीकेके अध्ययन में करेंगे।
चेकलिस्ट
- [ ] मैं पांच वैकल्पिक खिलाड़ियों के प्रमुख मूल्य और विशिष्ट कार्य की बराबरी कर सकता हूं।
- [ ] मैं ओपन वेट, क्षेत्रीय और लागत-केंद्रित प्रदाताओं को इस आधार पर अलग कर सकता हूं कि वे किस काम के लिए उपयुक्त हैं।
- [ ] मैं समझा सकता हूं कि मूल देश और लाइसेंस चयन मानदंड क्यों हैं।
- [ ] मैं आरएजी परिदृश्य को पहचान सकता हूं और उचित प्रदाता प्रकार की सिफारिश कर सकता हूं।
- [ ] मैं एक खुले वजन वाले पायलट के कठिन कदमों का अंदाजा लगा सकता हूं।