એકમો
1. AI પ્રદાતા ઇકોસિસ્ટમ: નકશો, ખ્યાલો અને 'કોઈ શ્રેષ્ઠ મોડલ નથી' 2. બંધ વજન અને ખુલ્લું વજન: નિયંત્રણ, કિંમત અને ગોપનીયતાનું સંતુલન 3. યુએસ જાયન્ટ્સ ઊંડાણપૂર્વક: એન્થ્રોપિક, ઓપનએઆઈ, ગૂગલ 4. અન્ય મજબૂત ખેલાડીઓ: મેટા, મિસ્ટ્રલ, xAI, ડીપસીક, કોહેરે 5. ટોકન, સંદર્ભ વિન્ડો અને મલ્ટિમોડેલિટી: મોડેલનું મન કેવી રીતે કાર્ય કરે છે 6. પ્રાઇસીંગ લોજિક: ટોકન ઇકોનોમી અને કોસ્ટ-ક્વોલિટી બેલેન્સ 7. મોડલ સ્તર અને ક્ષમતાઓ: તર્ક, ઝડપ અને નાના/મોટા મોડલની પસંદગી 8. ડેટા સાર્વભૌમત્વ, KVKK/EU અને ગોપનીયતા: તમે કોને ડેટા સોંપો છો? 9. યોગ્ય મોડલ પસંદ કરી રહ્યા છીએ: નિર્ણય વૃક્ષ અને મોડેલ પોર્ટફોલિયો 10. એન્ડ-ટુ-એન્ડ એપ્લિકેશન: મૂલ્યાંકન, માન્યતા, નીતિશાસ્ત્ર અને સીમાઓ
એકમ 2 / 10

બંધ વજન અને ખુલ્લું વજન: નિયંત્રણ, કિંમત અને ગોપનીયતાનું સંતુલન

નફો:

  • મોડેલ 'વજન' અને ગર્ભિત/સ્પષ્ટ ભેદની વિભાવનાની નક્કર સમજ
  • ઓપનવેઇટ અને ઓપન સોર્સ અને તેમના લાઇસન્સિંગ મુશ્કેલીઓ વચ્ચેનો તફાવત જુઓ
  • વ્યવસાયની પરિસ્થિતિના આધારે વાજબીપણું સાથે બંધ, ખુલ્લું અથવા મિશ્ર અભિગમ પસંદ કરવાની ક્ષમતા

અગાઉના એકમમાં પ્રદાતાઓને જાણતી વખતે, કોષ્ટકમાં "વજન પ્રકાર" નામની કૉલમ હતી: બંધ, ખુલ્લું, મિશ્ર. આ સિંગલ કૉલમ ખરેખર તમારા મોડલની પસંદગીના સૌથી વ્યૂહાત્મક નિર્ણયોમાંથી એકને છુપાવે છે. શું તમે બંધ અથવા ખુલ્લા વજનના મોડેલ સાથે કામ કરશો; તે સીધો જ નિર્ધારિત કરે છે કે તમારા ડેટા પર ક્યાં પ્રક્રિયા કરવામાં આવશે, તમારા માસિક ખર્ચને કેવી રીતે આકાર આપવામાં આવશે, તમારી તકનીકી ટીમની જરૂરિયાતો અને તમારી કાનૂની જવાબદારીઓ. આ એકમ સમાપ્ત થાય ત્યાં સુધીમાં, તમને "વજન" ની વિભાવનાની નક્કર સમજ હશે, ઓપન વેઇટ અને ઓપન સોર્સ વચ્ચેના સૂક્ષ્મ પરંતુ નિર્ણાયક તફાવતને જોશો અને તમારી પોતાની પરિસ્થિતિ માટે યોગ્ય અભિગમને યોગ્ય ઠેરવવામાં સમર્થ હશો.

"વજન" બરાબર શું છે?

AI મોડેલને ટેક્સ્ટના વિશાળ ભાગ સાથે તાલીમ આપવામાં આવે છે જ્યારે તેની અંદર અબજો સંખ્યાત્મક મૂલ્યો (પરિમાણો) ધીમે ધીમે સમાયોજિત કરવામાં આવે છે. આ તમામ સંખ્યાઓને મોડલ વજન કહેવામાં આવે છે. વજન એ છે જ્યાં મોડેલ "તે જે શીખ્યું છે તે બધું" સંગ્રહિત કરે છે; તમે તેની સરખામણી વ્યક્તિના મગજમાં સિનેપ્સની શક્તિ સાથે કરી શકો છો. મોડેલનું વ્યાકરણ, વિશ્વનું જ્ઞાન અને તર્કની રીતો આ બધી સંખ્યાઓમાં કોડેડ છે.

મોડેલ "દોડવું" એટલે આ વજનને કમ્પ્યુટરમાં લોડ કરવું અને તમે તેના પર દાખલ કરેલ ટેક્સ્ટને ચલાવો. નિર્ણાયક પ્રશ્ન એ છે કે: આ વજનની ફાઇલો કોની પાસે છે?

  • બંધ-વજન: વજન ફક્ત પ્રદાતાના સર્વર પર રહે છે. તમે તેમને સીધા ઍક્સેસ કરી શકતા નથી; તમે તેનો ઉપયોગ ઈન્ટરફેસ (API) દ્વારા "ટેક્સ્ટ મોકલો, પ્રતિસાદ મેળવો" રીતે કરો છો. એન્થ્રોપિક ક્લાઉડ, ઓપનએઆઈ જીપીટી, ગૂગલ જેમિની આના જેવા છે. (API એ એક ઇન્ટરફેસ છે જે સોફ્ટવેરને પ્રમાણભૂત પોર્ટ દ્વારા બીજા સોફ્ટવેરને વિનંતી મોકલવા અને પ્રતિસાદ પ્રાપ્ત કરવાની મંજૂરી આપે છે.)
  • ઓપન-વેઇટ: વેઇટ ફાઇલો ડાઉનલોડ કરી શકાય છે. જો તમે ઇચ્છો, તો તમે તેને તમારા પોતાના સર્વર પર ઇન્સ્ટોલ અને ચલાવી શકો છો. મેટા લામા, ડીપસીક, મિસ્ટ્રાલના કેટલાક મોડલ આના જેવા છે.
ટીપ: બંધ વજનને "ભાડે આપેલ એપાર્ટમેન્ટ" અને ખુલ્લા વજનને "ખરીદેલું ઘર" તરીકે વિચારો. ભાડાના ફ્લેટમાં ફરવું સરળ છે, જાળવણીની જવાબદારી તમારી નથી, પરંતુ મકાનમાલિક નિયમો નક્કી કરે છે. ખરીદેલા ઘરમાં બધું જ તમારું છે, પરંતુ રિનોવેશન, સુરક્ષા અને બિલ પણ તમારી જવાબદારી છે.

ઓપન વેઇટ ઓપન સોર્સ જેવું જ નથી

અહીં એક ખૂબ જ સામાન્ય વિભાવનાત્મક ભૂલ છે. "ઓપન-વેઇટ" અને "ઓપન-સોર્સ" ઘણીવાર એકબીજાના બદલે વાપરવામાં આવે છે, પરંતુ તે એક જ વસ્તુ નથી.

  • ઓપન વેઇટીંગનો અર્થ એ છે કે મોડેલના ફક્ત શીખેલા પરિમાણોને શેર કરવું. તે સામાન્ય રીતે સમજાવવામાં આવતું નથી કે મોડેલને કેવી રીતે તાલીમ આપવામાં આવે છે અને તેને કયો ડેટા આપવામાં આવે છે.
  • સંપૂર્ણ ઓપન સોર્સનો આદર્શ અર્થ એ છે કે વજન, તાલીમ ડેટા અને તાલીમ કોડ બંને વહેંચાયેલ છે અને તેનો મુક્તપણે ઉપયોગ કરી શકાય છે.

લાયસન્સનો મુદ્દો પણ છે. જો મોડેલનું વજન ડાઉનલોડ કરી શકાય તેવું હોય, તો પણ તેનું લાઇસન્સ વ્યાપારી ઉપયોગને મર્યાદિત કરી શકે છે, વપરાશકર્તાઓની ચોક્કસ સંખ્યા કરતાં વધારાની જરૂરિયાતો લાદી શકે છે અથવા સ્પર્ધાત્મક ઉત્પાદન વિકાસ પર પ્રતિબંધ મૂકી શકે છે. તેથી "હું તેને ડાઉનલોડ કરી શકું છું" અને "હું મારી ઈચ્છા મુજબ તેનો ઉપયોગ કરી શકું છું" એ જુદી જુદી વસ્તુઓ છે.

સાવધાન: તમારા વ્યવસાયમાં ઓપન વેઇટ મોડલ મૂકતા પહેલા, તેનું લાઇસન્સ વાંચવાની ખાતરી કરો. "ઓપન" શબ્દ દ્વારા મૂર્ખ ન બનો; કેટલાક લાઇસન્સ માટે માસિક સક્રિય વપરાશકર્તાઓની ચોક્કસ સંખ્યા ઉપર અલગ કરારની જરૂર હોય છે, અને કેટલાક ચોક્કસ હેતુઓ માટે આઉટપુટનો ઉપયોગ પ્રતિબંધિત કરે છે. આ એવી વસ્તુ છે જેના વિશે તમારે તમારી કાનૂની ટીમને પૂછવું જોઈએ.

બે અભિગમોની સરખામણી

નીચે આપેલ કોષ્ટક મુખ્ય પરિમાણો પર બે અભિગમોને એકસાથે મૂકે છે.

કદ

બંધ વજન

ઓપન વેઈટ

સ્થાપન

કંઈ નહીં, તૈયાર ઈન્ટરફેસ

સર્વર અને તકનીકી ટીમ જરૂરી છે

જ્યાં ડેટા પ્રોસેસ થાય છે

પ્રદાતાના સર્વર પર

તમારા નિયંત્રણ હેઠળના વાતાવરણમાં

પ્રારંભિક ખર્ચ

ઓછું (તમે જાઓ તેમ ચૂકવો)

ઉચ્ચ (હાર્ડવેર, ઇન્સ્ટોલેશન)

સ્કેલ પર ખર્ચ

વોલ્યુમ સાથે વધે છે

નિશ્ચિત હાર્ડવેર સાથે અનુમાનિત

અપડેટ/જાળવણી

પ્રદાતા પર

તમે પણ

ગોપનીયતા નિયંત્રણ

મર્યાદિત

સંપૂર્ણ

સૌથી શક્તિશાળી મોડેલની ઍક્સેસ

સામાન્ય રીતે અહીં

ચલ

આ કોષ્ટકમાં, "જે વધુ સારું છે" નો કોઈ એક જવાબ નથી; તમારી પ્રાથમિકતાના આધારે દરેક લાઇન વત્તા અથવા ઓછા છે. જો તમે ઇચ્છો છો કે પ્રારંભિક કિંમત ઓછી હોય, બંધ વજન; જો ડેટા કંપનીને એક મિલીમીટર પણ છોડતો નથી, તો ઓપન વેઇટ સામે આવે છે.

ત્રણ વાસ્તવિક કેસો

કેસ 1 — ઈ-કોમર્સ સ્ટાર્ટઅપ (બંધ વજનમાં વધારો). પાંચ વ્યક્તિની ઈ-કોમર્સ ટીમ પ્રોડક્ટનું વર્ણન તૈયાર કરવા માંગે છે. તેમની પાસે તકનીકી ટીમો નથી, તેઓ સર્વરનું સંચાલન કરવા માંગતા નથી, માસિક વોલ્યુમ વેરિયેબલ છે. તેઓ જે ઉપયોગ કરે છે તેના માટે ચૂકવણી કરીને, તેઓ બંધ વજનવાળા મોડેલથી પ્રારંભ કરે છે. પ્રથમ મહિનામાં, તેઓ 1.2 મિલિયન ટોકન્સ પર પ્રક્રિયા કરે છે અને લગભગ $15 ચૂકવે છે; જેમ જેમ તેમનો વ્યવસાય વધે છે તેમ તેમ બિલ પણ પ્રમાણસર વધે છે. ત્યાં કોઈ સર્વર, જાળવણી અથવા અપડેટ સમસ્યા નથી. આ પ્રોફાઇલ માટે યોગ્ય પસંદગી સ્પષ્ટ છે.

કેસ 2 - હોસ્પિટલ (ખાધથી વજન વધે છે). હોસ્પિટલ દર્દીની નોંધોનો સારાંશ અને કોડ કરવા માંગે છે. ડેટા અત્યંત સંવેદનશીલ આરોગ્ય ડેટા છે; કોઈપણ સંજોગોમાં સંસ્થા છોડવી જોઈએ નહીં. તેઓ તેમના ડેટા સેન્ટર્સમાં ઓપન વેઈટ મોડલ બનાવી રહ્યા છે. તેઓ સેટઅપ અને હાર્ડવેરમાં ભારે પ્રારંભિક રોકાણ કરે છે (કહો, $40,000 સર્વર અને સેટઅપ લેબરના બે અઠવાડિયા), પરંતુ પછી તેઓ દર્દી દીઠ વધારાની ટોકન ફી ચૂકવતા નથી અને ડેટા ક્યારેય બાહ્ય સર્વર પર જતો નથી. ઉચ્ચ વોલ્યુમ અને સંપૂર્ણ ગોપનીયતા પ્રારંભિક કિંમતને યોગ્ય ઠેરવે છે.

કેસ 3 - મધ્યમ કદની એકાઉન્ટિંગ પેઢી (હાઇબ્રિડ અભિગમ જીતે છે). એક એકાઉન્ટિંગ પેઢી દૈનિક સામાન્ય પત્રવ્યવહાર અને ડ્રાફ્ટ ટેક્સ્ટ્સ માટે તૈયાર ઇન્ટરફેસમાંથી બંધ-વજન મોડેલનો ઉપયોગ કરે છે; કારણ કે આ નોકરીઓ માટે સ્થાપન પ્રયત્નો તે યોગ્ય નથી. જો કે, તેઓ ગ્રાહકોના નાણાકીય ડેટાને સંડોવતા સંવેદનશીલ વિશ્લેષણને તેમના પોતાના સર્વર પર ચાલતા ઓપન વેઇટ મોડલ પર આઉટસોર્સ કરે છે. આમ, તેઓ એક જ સમયે સગવડ અને ગોપનીયતા બંનેનો લાભ મેળવે છે. અમે એકમ 9 માં આ "મિશ્રિત પોર્ટફોલિયો" અભિગમ પર પાછા આવીશું.

નબળા પ્રોમ્પ્ટ / સ્ટ્રોંગ પ્રોમ્પ્ટ: જ્યારે નિર્ણયના સમર્થન માટે પૂછવામાં આવે છે

નબળા પ્રોમ્પ્ટ:

શું મારે ખુલ્લા વજનનો કે બંધ વજનનો ઉપયોગ કરવો જોઈએ?

શક્તિશાળી પ્રોમ્પ્ટ:

તમારી ભૂમિકા: એન્ટરપ્રાઇઝ AI આર્કિટેક્ટ. મારી પરિસ્થિતિ: અમે 12-વ્યક્તિની એકાઉન્ટિંગ ફર્મ છીએ, અમારી પાસે કોઈ તકનીકી ટીમ નથી પરંતુ અમારી પાસે બાહ્ય IT સલાહકાર છે. ~500,000 ટોકન્સ પ્રતિ માસ બિઝનેસ. કેટલાક ડેટા ગ્રાહક નાણાકીય ડેટા (સંવેદનશીલ) છે, કેટલાક સામાન્ય પત્રવ્યવહાર છે. અમારે KVKK નું પાલન કરવું પડશે. કાર્ય: તે મુજબ બંધ, ખુલ્લા અને મિશ્ર અભિગમની તુલના કરો. દરેક માટે: યોગ્યતા (1-5), અનુમાનિત પ્રથમ વર્ષની કિંમત શ્રેણી, ગોપનીયતા નોંધ, મુખ્ય જોખમ. છેલ્લે, એક સૂચન આપો અને 3 મુદ્દાઓમાં કારણનો સારાંશ આપો.

બીજો પ્રોમ્પ્ટ મોડેલને એવી ભલામણ તૈયાર કરવાની મંજૂરી આપે છે જે ખરેખર તમારા વ્યવસાયને અનુકૂળ હોય, કારણ કે તે નિર્ણય માટે જરૂરી તમામ સીમાઓ (ટીમ, વોલ્યુમ, ડેટા પ્રકાર, કાનૂની માળખું) આપે છે.

નકલ કરી શકાય તેવા નમૂનાઓ

1. વજનના પ્રકારનો નિર્ણય:

મારી નોકરી: [વર્ણન]. ટેકનિકલ ટીમ: [હા/ના]. માસિક ટોકન વોલ્યુમ: [NUM].ડેટા સંવેદનશીલતા: [લો/મધ્યમ/ઉચ્ચ].બજેટ માળખું પસંદગી: [ઓછી શરૂઆત / અનુમાનિત નિશ્ચિત].આ પ્રોફાઇલ અનુસાર બંધ, ખુલ્લા અને મિશ્ર વિકલ્પની તુલના કરો અને એક જ ભલામણ આપો.

2. લાઇસન્સ તપાસ:

આ ઓપન વેઇટ મોડલ માટે લાયસન્સ સરળ બનાવો: [LICENSE NAME/TEXT]. આ પ્રશ્નોના જવાબ આપો: શું વ્યાપારી ઉપયોગની મંજૂરી છે? શું ત્યાં વપરાશકર્તા/આવકની મર્યાદા છે? શું હું આઉટપુટ ફરીથી વેચી શકું? તે કયા ઉપયોગોને પ્રતિબંધિત કરે છે? જો અસ્પષ્ટ હોય, તો "વકીલને પૂછો" લખો.

3. ખર્ચ બ્રેકડાઉન:

એકદમ વજનવાળા મોડેલ માટે માલિકીની કુલ કિંમતને તોડી નાખો: હાર્ડવેર, ઇન્સ્ટોલેશન લેબર, વીજળી/હોસ્ટિંગ, જાળવણી, અપડેટ્સ. બંધ વજનના વિકલ્પ સાથે રફ 3-વર્ષની સરખામણી કરો. મારું માસિક વોલ્યુમ: [NUMBER].

4. ગોપનીયતા જોખમ સ્ક્રીનીંગ:

નીચેના વર્કફ્લોમાં ડેટા ક્યાંથી ક્યાં જાય છે તે ટ્રેસ કરો: [વર્કફ્લો વર્ણન]. જો હું બંધ વજનનો ઉપયોગ કરું, તો ડેટા કયા સમયે બહાર જાય છે? ખુલ્લા વજનમાં આ જોખમ કેવી રીતે બદલાય છે? દરેક જોખમ માટે ઘટાડાનું માપ સૂચવો.

સામાન્ય ભૂલો

  • "મુક્ત અને અમર્યાદિત" માટે "ઓપન" શબ્દને ભૂલથી: ઓપન વેઇટ મફત અથવા અમર્યાદિત વ્યાપારી ઉપયોગની બાંયધરી આપતું નથી; લાઇસન્સ નિર્ણાયક છે.
  • ખુલ્લું વજન વિચારવું "સરળ" છે: ઓપન વેઇટ મોડલ ચલાવવા માટે સર્વર્સ, તકનીકી સ્ટાફ અને જાળવણીની જરૂર છે; ઇન્સ્ટોલેશનને ઓછું આંકવું એ એક સામાન્ય ભૂલ છે.
  • બંધ વજનના ડેટાને બિલકુલ ધ્યાનમાં લેતા નથી: બંધ મોડેલમાં, ડેટા પ્રદાતા પાસે જાય છે; કયા ડેટા જઈ શકે છે તે અગાઉથી સૉર્ટ કર્યા વિના પ્રારંભ કરવું જોખમી છે.
  • માત્ર પ્રારંભિક કિંમત જોતાં: ઓપન વેઈટ શરૂઆતમાં મોંઘું લાગે છે, પરંતુ તે ખૂબ ઊંચા વોલ્યુમ પર લાંબા ગાળે સસ્તું હોઈ શકે છે. ત્રણ વર્ષમાં કુલ ખર્ચ જુઓ.
  • 'સૌથી મજબૂત પેટર્ન હંમેશા બંધ હોય છે' સૂત્ર: જ્યારે આ મોટાભાગે સાચું હોય છે, તે નિરપેક્ષ નથી; ખુલ્લા વજનના મોડલ ચોક્કસ કાર્યો માટે પર્યાપ્ત કરતાં વધુ હોઈ શકે છે.

સારાંશમાં

  • મૉડલ વેઇટ એ અબજો પેરામીટર્સ છે જે મૉડેલ શીખેલી માહિતીને સ્ટોર કરે છે; "બંધ/ચાલુ" તફાવત આ પરિમાણોને ઍક્સેસ કરવા વિશે છે.
  • બંધ વજન: તૈયાર ઇન્ટરફેસ, ઓછી શરૂઆત, ડેટા પ્રદાતા પર. સ્પષ્ટ વજન: તમારું પોતાનું સર્વર, સંપૂર્ણ નિયંત્રણ, ઉચ્ચ સ્ટાર્ટઅપ અને જાળવણી ઓવરહેડ.
  • ઓપન વેઇટ ઓપન સોર્સ જેવું નથી; લાઇસન્સ શરતો વ્યાવસાયિક ઉપયોગ મર્યાદિત કરી શકે છે.
  • યોગ્ય પસંદગી; ટીમ, વોલ્યુમ, ડેટા સંવેદનશીલતા અને બજેટ માળખાના આધારે બદલાય છે. એક વર્ણસંકર અભિગમ મોટાભાગના મધ્યમ કદના વ્યવસાયો માટે અર્થપૂર્ણ બને છે.

એપ્લિકેશન કાર્ય

તમે અગાઉના એકમમાં બનાવેલ જરૂરિયાતોની પ્રોફાઇલ લો. આ એકમમાં ટેમ્પલેટ 1 (વજન પ્રકારનો નિર્ણય) નો ઉપયોગ કરીને AI મોડેલને આપો. પરિણામી ભલામણને કોષ્ટકમાંના સાત પરિમાણો (ઇન્સ્ટોલેશન, ડેટા સ્થાન, સ્ટાર્ટઅપ ખર્ચ, સ્કેલની કિંમત, જાળવણી, ગોપનીયતા, શક્તિશાળી મોડેલની ઍક્સેસ) સાથે એક પછી એક મેચ કરીને તેનું મૂલ્યાંકન કરો. જો તમારું મૂલ્યાંકન મોડેલની ભલામણથી અલગ હોય, તો એક વાક્યમાં નોંધ લો કે જ્યાં તમે અલગ છો.

ચેકલિસ્ટ

  • [ ] હું મારા પોતાના શબ્દોમાં "વજન" ના ખ્યાલને સમજાવી શકું છું.
  • [ ] હું સાત પરિમાણોમાં બંધ અને ખુલ્લા વજનના ફાયદા/ગેરફાયદાની તુલના કરી શકું છું.
  • [ ] હું ઓપનવેઇટ અને ઓપન સોર્સ અને લાઇસન્સિંગ જોખમ વચ્ચેનો તફાવત જાણું છું.
  • [ ] હું મારા પોતાના વ્યવસાય માટે બંધ/ખુલ્લી/સંકરની પસંદગીને ન્યાયી ઠેરવી શકું છું.
  • [ ] હું વર્કફ્લોમાં ડેટા ક્યાં જઈ રહ્યો છે તે ટ્રૅક કરી શકું છું અને જોખમનો મુદ્દો બતાવી શકું છું.