નફો:
- મેટા (લામા), મિસ્ટ્રલ, xAI (ગ્રોક), ડીપસીક અને કોહેરની સ્થિતિને ઓળખવી
- ઓપન-વેઇટ, પ્રાદેશિક અને ખર્ચ-કેન્દ્રિત પ્રદાતાઓ માટે કયો વ્યવસાય શ્રેષ્ઠ છે તે ઓળખવું
- પસંદગીના માપદંડ તરીકે મૂળ દેશ અને લાયસન્સનું મૂલ્યાંકન કરવાની ક્ષમતા
અમે મોટા ત્રણ યુએસ પ્રદાતાઓને જાણ્યા. જો કે, બજાર તેમના વિશે જ છે એવું વિચારવું એ તમારી પાસેના કેટલાક સૌથી મૂલ્યવાન વિકલ્પોને અવગણશે. મેટા, ક્લિયર લીડર, મિસ્ટ્રલ, યુરોપનું ગૌરવ, xAI, જે રીઅલ-ટાઇમ ડેટા સાથે કામ કરે છે, ડીપસીક, જે તેના ખર્ચ/પ્રદર્શન સંતુલન સાથે અલગ છે, અને કોહેરે, જે કોર્પોરેટ દસ્તાવેજ ક્વેરી માટે નિષ્ણાત છે; બધી મોટી ત્રણ નોકરીઓ કરતાં ચોક્કસ નોકરીઓ માટે વધુ સારી રીતે અનુકૂળ હોઈ શકે છે. આ એકમમાં, તમે આ પાંચ ખેલાડીઓ, તેમની સ્થિતિ અને તેઓ કઈ નોકરી માટે યોગ્ય છે તે તમે ઉદ્દેશ્યથી જાણી શકશો; તમે જોશો કે મૂળ દેશ અને લાઇસન્સ શા માટે પસંદગીનો માપદંડ છે.
મેટા - લામા ફેમિલી (ઓપન વેઇટ લીડર)
મેટાનો લામા પરિવાર ઓપન વેઈટ વર્લ્ડમાં સૌથી વધુ જાણીતું નામ છે. વજન ડાઉનલોડ કરવા યોગ્ય હોવાથી, તમે તેને તમારા પોતાના સર્વર પર ચલાવી શકો છો અને ડેટાને ક્યારેય બહાર કાઢ્યા વિના પ્રક્રિયા કરી શકો છો. ત્યાં વિવિધ કદના સંસ્કરણો છે: નાના મોડેલો સામાન્ય સર્વર પર પણ કાર્ય કરે છે, જ્યારે મોટા મોડેલોને શક્તિશાળી હાર્ડવેરની જરૂર હોય છે.
વિસ્તારો જ્યાં તે અલગ છે: સંસ્થાઓ કે જે સંપૂર્ણ ડેટા નિયંત્રણ ઇચ્છે છે; જેઓ ખૂબ ઊંચા જથ્થામાં ખર્ચ અનુમાનિત બનાવવા માંગે છે; અને જેઓ પોતાના ડેટા વડે મોડલને કસ્ટમાઇઝ (ફાઇન-ટ્યુનિંગ) કરવા માગે છે. ફાઇન-ટ્યુનિંગ એ તમારા વ્યવસાય માટે તૈયાર મોડેલને તમારા પોતાના ઉદાહરણો સાથે ફરીથી તાલીમ આપીને કસ્ટમાઇઝ કરવાનું છે.
લાક્ષણિક વપરાશકર્તા: તેમના પોતાના ડેટા કેન્દ્રો ધરાવતી મોટી સંસ્થાઓ, ગોપનીયતા-નિર્ણાયક ઉદ્યોગો, મજબૂત તકનીકી ટીમો ધરાવતી કંપનીઓ.
સાવધાન: જો કે લામા લાઇસન્સ "ખુલ્લું" છે, તે બિનશરતી નથી; ચોક્કસ સક્રિય વપરાશકર્તા થ્રેશોલ્ડ ઉપર ખૂબ મોટી કંપનીઓ માટે વધારાની આવશ્યકતાઓ શામેલ હોઈ શકે છે. વ્યવસાયમાં મૂકતા પહેલા તમારી કાનૂની ટીમ સાથે લાયસન્સ વાંચો.
મિસ્ટ્રલ - યુરોપના પ્રદાતા
મિસ્ટ્રલ, ફ્રાન્સમાં સ્થિત, તેના યુરોપિયન મૂળ સાથે અલગ છે. તે "મિશ્રિત" પ્રદાતા છે કારણ કે તે ખુલ્લા વજનના મોડલ (જેમ કે મિક્સ્ટ્રલ) અને બંધ, વધુ શક્તિશાળી મોડલ બંને ઓફર કરે છે. તે યુરોપમાં ડેટા સાર્વભૌમત્વની ચિંતા ધરાવતી સંસ્થાઓ માટે સ્વાભાવિક ઉમેદવાર છે; કારણ કે પ્રદાતા પોતે EU ની અંદર છે.
પ્રાધાન્યતાના ક્ષેત્રો: યુરોપિયન કાનૂની માળખાના પાલન સાથે સંબંધિત સંસ્થાઓ; જેઓ ખુલ્લા વજનની લવચીકતા અને સમાન છત હેઠળ બંધ મોડેલની સુવિધા ઇચ્છે છે; અને બહુભાષી યુરોપિયન ભાષા સપોર્ટ.
સામાન્ય વપરાશકર્તા: EU માં કાર્યરત મધ્યમ અને મોટા કદની સંસ્થાઓ કે જેઓ ઇચ્છે છે કે તેમનો ડેટા EU સરહદની અંદર રહે.
xAI — Grok (રીઅલ ટાઇમ ડેટા)
xAI નું Grok મોડલ X (અગાઉ ટ્વિટર) પ્લેટફોર્મ સાથેના એકીકરણ અને વર્તમાન, રીઅલ-ટાઇમ ડેટાની ઍક્સેસ દ્વારા સ્થિત થયેલ છે. જો કે તે સામાન્ય હેતુનું મોડલ છે, તે વર્તમાન ઘટનાઓ અને સોશિયલ મીડિયા પલ્સ પ્રતિબિંબિત કરવાના તેના દાવા સાથે ધ્યાન આકર્ષિત કરે છે.
વિસ્તારો જ્યાં તે અલગ છે: વર્તમાન ઘટનાઓ ટ્રેકિંગ, સામાજિક મીડિયા વિશ્લેષણ, કાર્યસૂચિ-સંબંધિત સામગ્રી. જ્યારે મોડેલને "હમણાં જ થયું" એવું કંઈક જાણવાની જરૂર હોય ત્યારે રીઅલ-ટાઇમ કનેક્ટિવિટી મૂલ્યવાન હોય છે.
લાક્ષણિક વપરાશકર્તા: સોશિયલ મીડિયા ટીમો, માર્કેટર્સ કે જેઓ બ્રાન્ડ્સનું નિરીક્ષણ કરે છે, સામગ્રી ઉત્પાદકો જેમનો કાર્યસૂચિ ટ્રેકિંગ મહત્વપૂર્ણ છે.
ડીપસીક - કિંમત/પ્રદર્શન (ચીન મૂળ)
ચાઇના સ્થિત ડીપસીક ઓછી કિંમતે શક્તિશાળી પ્રદર્શન ઓફર કરવા માટે અલગ છે, અને તેના કેટલાક મોડલ ખુલ્લા વજનવાળા છે. તે સ્પર્ધાત્મક પરિણામો પ્રદાન કરે છે, ખાસ કરીને તર્ક-સઘન કાર્યોમાં, જ્યારે કિંમત લાભ ઓફર કરે છે.
વિસ્તારો જ્યાં તે અલગ છે: ઉચ્ચ બજેટની સંવેદનશીલતા સાથે ઉચ્ચ-વોલ્યુમ તર્કની નોકરીઓ; જે ટીમો સ્પષ્ટ વજન લવચીકતા ઇચ્છે છે પરંતુ ખર્ચ ઓછો રાખવો પડશે.
લાક્ષણિક વપરાશકર્તા: ખર્ચ-કેન્દ્રિત પહેલ, ઉચ્ચ-વોલ્યુમ વિશ્લેષણ કરતી ટીમો.
ધ્યાન આપો: ડીપસીક ચીનથી ઉદ્દભવે છે. જો તમે વ્યક્તિગત અથવા વેપાર ગુપ્ત ડેટા પર પ્રક્રિયા કરવા જઈ રહ્યાં છો, તો ખાતરી કરો કે ડેટા ક્યાં પ્રક્રિયા અને સંગ્રહિત થાય છે. તમારા પોતાના સર્વર પર ઓપનવેઇટ વર્ઝન ચલાવવાથી આ ચિંતા દૂર થાય છે; ડેટા સાર્વભૌમત્વના સંદર્ભમાં ક્લાઉડ સેવાનો ઉપયોગ કરીને કાળજીપૂર્વક મૂલ્યાંકન કરવું જોઈએ. અમે એકમ 8 માં આ વિષયને ઊંડાણમાં આવરી લઈશું.
કોહેર - એન્ટરપ્રાઇઝ સર્ચ અને આરએજી
કેનેડા સ્થિત કોહેરે ઉપભોક્તા ચેટ એપ્લિકેશનને બદલે એન્ટરપ્રાઇઝ વર્કલોડ માટે સ્થિત છે. તે ખાસ કરીને આરએજી (આનંદિત જ્ઞાન સાથે પેદા) દૃશ્યોમાં શક્તિશાળી છે; એટલે કે, સિસ્ટમોમાં જ્યાં મોડેલ પ્રતિસાદ આપતા પહેલા તમારા દસ્તાવેજ આર્કાઇવમાંથી સંબંધિત ટુકડાઓ શોધે છે અને વાંચે છે. તે "એમ્બેડિંગ" મોડેલો સાથે કોર્પોરેટ શોધ ઈન્ફ્રાસ્ટ્રક્ચર સ્થાપિત કરવા માટે પણ પસંદ કરવામાં આવે છે જે પાઠોને સંખ્યાત્મક વેક્ટરમાં રૂપાંતરિત કરે છે. (એમ્બેડિંગ એ ટેક્સ્ટના અર્થને સંખ્યામાં રૂપાંતરિત કરવાનું છે જેથી સમાન ટેક્સ્ટને બાજુમાં મૂકી શકાય.)
વિસ્તારો જ્યાં તે અલગ છે: ઇન-હાઉસ ડોક્યુમેન્ટ ક્વેરી, સ્માર્ટ સર્ચ, નોલેજ બેઝ પર પ્રશ્ન-જવાબ સિસ્ટમ્સ.
સામાન્ય વપરાશકર્તા: મોટા દસ્તાવેજ આર્કાઇવ્સ ધરાવતી સંસ્થાઓ, ટીમો કે જેઓ તેમના આંતરિક જ્ઞાન આધારને AI વડે શોધવા યોગ્ય બનાવવા માંગે છે.
પાંચ ખેલાડીઓ બાજુમાં
પ્રદાતા
વૈશિષ્ટિકૃત મૂલ્ય
વજન
મૂળ
લાક્ષણિક જોબ
મેટા (લામા)
સંપૂર્ણ નિયંત્રણ, ફાઇન ટ્યુનિંગ
ખુલ્લું
યુએસએ
પોતાના સર્વર પર ગુપ્ત વ્યવસાય
મિસ્ટ્રલ
EU મૂળ, સુગમતા
મિશ્ર
ફ્રાન્સ
EU ડેટા સાર્વભૌમત્વ
xAI (ગ્રોક)
વાસ્તવિક સમયનો ડેટા
બંધ
યુએસએ
કાર્યસૂચિ/સોશિયલ મીડિયા
ડીપસીક
કિંમત/પ્રદર્શન
ખુલ્લું
ચીન
ઉચ્ચ વોલ્યુમ, બજેટ લક્ષી
સુસંગત
એન્ટરપ્રાઇઝ શોધ/RAG
મિશ્ર
કેનેડા
દસ્તાવેજની તપાસ
ત્રણ વાસ્તવિક કેસો
કેસ 1 - EU માં કાર્યરત મેન્યુફેક્ચરિંગ કંપની. જર્મનીમાં ફેક્ટરીઓ ધરાવતી કંપની AI સાથે ટેકનિકલ દસ્તાવેજો શોધવા માંગે છે, પરંતુ તેનો ડેટા EUની બહાર જવા માંગતી નથી. તેઓ મિસ્ટ્રલનું EU-આધારિત બંધ મોડેલ પસંદ કરે છે; તે બંને મજબૂત અને કાયદાકીય માળખા સાથે સુસંગત છે. ~800,000 ટોકન માસિક નોકરી અનુમાનિત બિલમાં ફેરવાય છે અને કાનૂની ટીમને રાહત થાય છે.
કેસ 2 - બજેટ-અવરોધિત વિશ્લેષણાત્મક પહેલ. આઠ-વ્યક્તિના ડેટા એનાલિટિક્સ સ્ટાર્ટઅપે દિવસમાં હજારો ટૂંકા ગ્રંથોનું વર્ગીકરણ અને સારાંશ આપવો જોઈએ, પરંતુ તેનું બજેટ ચુસ્ત છે. તેઓ ભાડે આપેલા સર્વર પર ડીપસીકનું ઓપન વેઈટ મોડેલ ચલાવે છે; આમ, તેઓ ટોકન દીઠ ચૂકવણી કરતા નથી અને તેઓ ડેટાને ક્યારેય બહાર ન લઈને ઉદ્દભવતી માહિતી વિશેની ચિંતાને ઉકેલે છે.
કેસ 3 - મોટી વીમા કંપની નોલેજ બેઝ. હજારો પોલિસીઓ અને પ્રક્રિયાના દસ્તાવેજો ધરાવતી વીમા કંપનીએ તેના કર્મચારીઓને પૂછ્યું કે "આ સ્થિતિમાં શું કરવું?" તે આર્કાઇવમાં તેના પ્રશ્નો પૂછવા સક્ષમ બનવા માંગે છે. તેઓ કોહેરેના આરએજી અને એમ્બેડિંગ મોડલ્સ સાથે ઇન-હાઉસ સર્ચ સિસ્ટમ બનાવી રહ્યા છે. જ્યારે કોઈ કર્મચારી પ્રશ્ન પૂછે છે, ત્યારે સિસ્ટમ પ્રથમ સંબંધિત દસ્તાવેજો શોધે છે, પછી મોડેલ તેના આધારે તેમને જવાબ આપે છે; આમ, જવાબો બનાવવામાં આવતા નથી, પરંતુ વાસ્તવિક દસ્તાવેજો પર આધારિત છે.
નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ
નબળા પ્રોમ્પ્ટ:
સસ્તા AI મોડલનું સૂચન કરો.
શક્તિશાળી પ્રોમ્પ્ટ:
તમારી ભૂમિકા: AI પ્રાપ્તિ સલાહકાર. જરૂર છે: દરરોજ ~30,000 ટૂંકી ટર્કિશ ગ્રાહક સમીક્ષાઓને હકારાત્મક/નકારાત્મક/તટસ્થમાં સૉર્ટ કરો. બજેટ ખૂબ જ મર્યાદિત છે. ડેટામાં વ્યક્તિગત ડેટા (અનામી) શામેલ નથી. કાર્ય: સારી કિંમત/પ્રદર્શન સંતુલન સાથે 3 વિકલ્પો (ખુલ્લા વજન સહિત)ની ભલામણ કરો. દરેક માટે અંદાજિત માસિક ખર્ચ શ્રેણી, મૂળ/ડેટા નોંધ અને મુખ્ય જોખમ લખો. છેલ્લે, પાઇલટ માટે એક જ ભલામણ આપો.
શક્તિશાળી પ્રોમ્પ્ટ ખરેખર પગલાં લેવા યોગ્ય ભલામણ આપે છે કારણ કે તે વોલ્યુમ, બજેટની મર્યાદા, ડેટા પ્રકાર અને ભાષા આપે છે.
નકલ કરી શકાય તેવા નમૂનાઓ
1. વૈકલ્પિક પ્રદાતા સ્ક્રીનીંગ:
મોટા ત્રણ (એન્થ્રોપિક/ઓપનએઆઈ/ગૂગલ) ની બહાર પ્રદાતાઓની સૂચિ બનાવો જે નીચેના કાર્ય [ટાસ્ક] માટે યોગ્ય હોઈ શકે છે: મેટા, મિસ્ટ્રલ, xAI, ડીપસીક, કોહેરે. દરેક માટે એક લીટી "શા માટે તે યોગ્ય છે / તે શા માટે યોગ્ય નથી" લખો.
2. મૂળ અને લાઇસન્સ નોંધ:
હું નીચેના પ્રદાતા [PROVIDER] નો ઉપયોગ કરવાનું વિચારી રહ્યો છું. ડેટા સાર્વભૌમત્વના સંદર્ભમાં મૂળ દેશ, વજનનો પ્રકાર અને લાયસન્સની શરતો મારા માટે કયા જોખમો ઉભી કરે છે? દરેક જોખમ માટે સાવચેતી સૂચવો.
3. આરએજી અનુપાલન તપાસ:
મારી પાસે ~[NUMBER] દસ્તાવેજો છે અને હું ઈચ્છું છું કે કર્મચારીઓ તેમના વિશે પ્રશ્નો પૂછે. શું આ એક RAG દૃશ્ય છે? જો એમ હોય તો, તમે કયા પ્રદાતા/મોડેલ પ્રકાર (એમ્બેડિંગ + ઉત્પાદન)ની ભલામણ કરશો અને ઇન્સ્ટોલેશન માટેના પ્રથમ 3 પગલાં કયા છે?
4. ઓપન વેઇટ પાયલોટ પ્લાન:
અમે આ ઓપન વેઇટ મોડલ [MODEL] ને અમારા પોતાના સર્વર પર પાઇલટ કરવા માંગીએ છીએ. હાર્ડવેર આવશ્યકતાઓ, ઇન્સ્ટોલેશન સ્ટેપ્સ, અંદાજિત સમય અને પ્રથમ અઠવાડિયામાં અનુસરવા માટે 3 સફળતા મેટ્રિક્સ સાથે એક રફ પ્લાન બનાવો.
સામાન્ય ભૂલો
- મોટા ત્રણ સાથે અટવાઈ જવું: સૌથી વધુ જાણીતા પ્રદાતા તમારા ચોક્કસ વ્યવસાય માટે શ્રેષ્ઠ ફિટ ન હોઈ શકે; વિકલ્પોનું મૂલ્યાંકન કર્યા વિના નિર્ણય ન લો.
- ટેક્નિકલતા માટે મૂળ દેશની ભૂલ: ડેટા સાર્વભૌમત્વ અને કાનૂની જોખમના સંદર્ભમાં મૂળ એક વ્યૂહાત્મક માપદંડ છે, સામાન્ય લેબલ નથી.
- મૉડલ સ્ટ્રેન્થ સાથે RAG ને ગૂંચવણમાં મૂકે છે: ડૉક્યુમેન્ટ ક્વેરી કરવામાં સફળતા ઘણીવાર સારા RAG સેટઅપથી આવે છે, સૌથી શક્તિશાળી મોડલથી નહીં.
- ખુલ્લું વજન ઇન્સ્ટોલેશન-ફ્રી છે એમ ધારી રહ્યા છીએ: ડીપસીક અથવા લામાને પસંદ કરો કારણ કે તેઓ "ફ્રી" છે અને હાર્ડવેર અને જાળવણી બોજને ધ્યાનમાં લેતા નથી.
- રીઅલ-ટાઇમની જરૂરિયાતને વધારે પડતો અંદાજ આપવો: દરેક વ્યવસાયને રીઅલ-ટાઇમ ડેટા જોઈતો નથી; ગ્રોકનો ફાયદો ત્યારે જ સમજાય છે જ્યારે સમયસરતા નિર્ણાયક હોય.
સારાંશમાં
- મેટા (લામા) ખુલ્લા વજન અને સંપૂર્ણ નિયંત્રણ; મિસ્ટ્રલ ઇયુ મૂળ અને સુગમતા; xAI રીઅલ-ટાઇમ ડેટા; ડીપસીક કિંમત/પ્રદર્શન; એન્ટરપ્રાઇઝ શોધ/RAG સાથે કોહેરે અલગ છે.
- મૂળ દેશ અને લાયસન્સ વ્યૂહાત્મક પસંદગી માપદંડ છે, ખાસ કરીને જેઓ વ્યક્તિગત અથવા ગોપનીય ડેટા પર પ્રક્રિયા કરે છે તેમના માટે.
- RAG દૃશ્યોમાં, સફળતા સૌથી મજબૂત મોડલને બદલે સારા દસ્તાવેજ આનયન સેટઅપથી આવે છે.
- વ્યવસાયના પ્રકાર, બજેટ અને કાનૂની માળખાના આધારે યોગ્ય પ્રદાતા મોટા ત્રણની બહારથી આવી શકે છે.
એપ્લિકેશન કાર્ય
તમારા વ્યવસાયમાં દસ્તાવેજોની ક્વેરી કરવાની જરૂર છે કે કેમ તે ધ્યાનમાં લો (જેમ કે કર્મચારીઓ આર્કાઇવના પ્રશ્નો પૂછે છે). AI મોડેલને આ યુનિટમાં ટેમ્પલેટ 3 સાથે તમારી પરિસ્થિતિનું મૂલ્યાંકન કરો (RAG ફિટ ચેક). ઉપરાંત, જો તમે વ્યક્તિગત અથવા ગોપનીય ડેટા પર પ્રક્રિયા કરી રહ્યાં હોવ, તો તમે 2જી ટેમ્પ્લેટ (મૂળ અને લાયસન્સની નોંધ) સાથે પસંદ કરવાનું વિચારી રહ્યાં છો તે પ્રદાતાના ડેટા સાર્વભૌમત્વના જોખમને દૂર કરો. અમે એકમ 8 માં KVKK અભ્યાસમાં આ આઉટપુટનો ઉપયોગ કરીશું.
ચેકલિસ્ટ
- [ ] હું પાંચ વૈકલ્પિક ખેલાડીઓના અગ્રણી મૂલ્ય અને લાક્ષણિક કાર્ય સાથે મેળ કરી શકું છું.
- [ ] હું ખુલ્લું વજન, પ્રાદેશિક અને ખર્ચ-કેન્દ્રિત પ્રદાતાઓને તેઓ કઈ નોકરી માટે યોગ્ય છે તેના આધારે અલગ કરી શકું છું.
- [ ] હું સમજાવી શકું છું કે શા માટે મૂળ દેશ અને લાઇસન્સ પસંદગીના માપદંડ છે.
- [ ] હું RAG દૃશ્યને ઓળખી શકું છું અને યોગ્ય પ્રદાતાના પ્રકારની ભલામણ કરી શકું છું.
- [ ] હું ખુલ્લા વજનના પાયલોટના રફ સ્ટેપ્સ બનાવી શકું છું.