એકમો
1. AI પ્રદાતા ઇકોસિસ્ટમ: નકશો, ખ્યાલો અને 'કોઈ શ્રેષ્ઠ મોડલ નથી' 2. બંધ વજન અને ખુલ્લું વજન: નિયંત્રણ, કિંમત અને ગોપનીયતાનું સંતુલન 3. યુએસ જાયન્ટ્સ ઊંડાણપૂર્વક: એન્થ્રોપિક, ઓપનએઆઈ, ગૂગલ 4. અન્ય મજબૂત ખેલાડીઓ: મેટા, મિસ્ટ્રલ, xAI, ડીપસીક, કોહેરે 5. ટોકન, સંદર્ભ વિન્ડો અને મલ્ટિમોડેલિટી: મોડેલનું મન કેવી રીતે કાર્ય કરે છે 6. પ્રાઇસીંગ લોજિક: ટોકન ઇકોનોમી અને કોસ્ટ-ક્વોલિટી બેલેન્સ 7. મોડલ સ્તર અને ક્ષમતાઓ: તર્ક, ઝડપ અને નાના/મોટા મોડલની પસંદગી 8. ડેટા સાર્વભૌમત્વ, KVKK/EU અને ગોપનીયતા: તમે કોને ડેટા સોંપો છો? 9. યોગ્ય મોડલ પસંદ કરી રહ્યા છીએ: નિર્ણય વૃક્ષ અને મોડેલ પોર્ટફોલિયો 10. એન્ડ-ટુ-એન્ડ એપ્લિકેશન: મૂલ્યાંકન, માન્યતા, નીતિશાસ્ત્ર અને સીમાઓ
એકમ 7 / 10

મોડલ સ્તર અને ક્ષમતાઓ: તર્ક, ઝડપ અને નાના/મોટા મોડલની પસંદગી

નફો:

  • પ્રકાશ, સંતુલિત અને શક્તિશાળી મોડલ સ્ટેજ અને રિઝનિંગ મોડને ઓળખવું
  • કાર્યની મુશ્કેલીના આધારે યોગ્ય મોડેલ સ્તર પસંદ કરવું
  • વિલંબ, ચોકસાઈ અને કિંમત વચ્ચે સભાનપણે સંતુલન સ્થાપિત કરવાની ક્ષમતા

અમે કિંમતની ગણતરી કરવાનું શીખ્યા; હવે આપણે તે કિંમત માટે શું મેળવીએ છીએ તે વિશે વાત કરીએ, એટલે કે મોડલ લેવલ અને ક્ષમતાઓ. મોડેલ પસંદ કરતી વખતે ત્રણ દળો સતત સ્પર્ધા કરે છે: ગુણવત્તા (ચોકસાઈ), ઝડપ (લેટન્સી) અને કિંમત. આ ત્રણમાંથી બેને સુધારવાનો અર્થ ઘણીવાર ત્રીજા સાથે સમાધાન કરવું. એકમમાં, તમે પ્રકાશ, સંતુલિત અને શક્તિશાળી સ્તરો, તર્ક મોડ અને નાના/મોટા મોડલની પસંદગી વિશે શીખી શકશો; કાર્યની મુશ્કેલી અનુસાર તમે સભાનપણે યોગ્ય સંતુલન સ્થાપિત કરી શકશો.

ત્રણ સ્તર, ત્રણ અલગ-અલગ જોબ કેરેક્ટર

લગભગ દરેક પ્રદાતા એક જ પરિવારમાં ત્રણ સ્તરો પ્રદાન કરે છે. ચાલો આને કાર્યના પાત્ર સાથે મેચ કરીએ:

  • લાઇટ ટાયર (નાનું મોડેલ): ખૂબ ઝડપી, ખૂબ સસ્તું, "પૂરતું સારું". સરળ, પુનરાવર્તિત, ઉચ્ચ-વોલ્યુમ કાર્યો માટે આદર્શ: વર્ગીકરણ, બ્રીફિંગ, ટેગિંગ, ડેટા ક્લિનિંગ, સરળ પ્રતિભાવ ડ્રાફ્ટ્સ.
  • સંતુલિત સ્તર (મધ્યમ મોડલ): સારી ગુણવત્તા, વાજબી ઝડપ, વાજબી કિંમત. મોટાભાગના રોજિંદા કામ માટે "ડિફોલ્ટ" પસંદગી: સામગ્રી ઉત્પાદન, મધ્ય-લંબાઈનું વિશ્લેષણ, ગ્રાહક પ્રતિસાદ.
  • શક્તિશાળી સ્તર (મોટું મોડેલ): ઉચ્ચતમ ગુણવત્તા, સૌથી ધીમી, સૌથી મોંઘી. જટિલ તર્ક, લાંબા અને બહુ-પગલાંના વિશ્લેષણ, મુશ્કેલ કોડ, ચોક્કસ કાનૂની/નાણાકીય મૂલ્યાંકન માટે.
ટીપ: એક સારો પ્રારંભ નિયમ: સંતુલિત સ્તરથી પ્રારંભ કરો. જો ગુણવત્તા નબળી છે, તો મજબૂત સ્તર સુધી આગળ વધો; જો ગુણવત્તા અત્યંત સારી છે અને વોલ્યુમ વધારે છે, તો પ્રકાશ સ્તર પર નીચે જાઓ. "સારાથી સારી શરૂઆત" અભિગમ, "સૌથી મજબૂત સાથે પ્રારંભ" અભિગમ નહીં, પૈસા અને સમય બંને બચાવે છે.

રિઝનિંગ મોડ શું છે?

કેટલાક મૉડલ્સ સીધા જ જનરેટ કરવાને બદલે સ્ટેપ બાય સ્ટેપ જવાબ પ્રથમ "વિચારી" શકે છે. આને રિઝનિંગ મોડ કહેવામાં આવે છે. મોડેલ સમસ્યાને ભાગોમાં તોડે છે, મધ્યવર્તી પગલાઓ પર પ્રક્રિયા કરે છે અને તે પછી જ અંતિમ જવાબ આપે છે. આ એક વિદ્યાર્થી ગણિતની સમસ્યાને સ્ટેપ બાય સ્ટેપ પેપર સોલ્વ કરવા સમાન છે.

તે ક્યારે મૂલ્યવાન છે? મલ્ટી-સ્ટેપમાં, તાર્કિક સમસ્યાઓ: એક જટિલ ગણતરી, વિરોધાભાસ શોધ, અનુમાનની લાંબી સાંકળ, મુશ્કેલ કોડ ભૂલ. આ પ્રકારના કાર્યમાં, તર્ક નોંધપાત્ર રીતે ચોકસાઈ વધારે છે.

ખર્ચ શું છે? તર્ક ખર્ચ અને વિલંબમાં વધારો કરે છે કારણ કે મોડેલ વધુ "વિચાર ટોકન્સ" જનરેટ કરે છે. તેથી તે વધુ ખર્ચાળ અને ધીમી બંને હશે. એક સરળ "શું આ સમીક્ષા સકારાત્મક છે?" પ્રશ્ન પર તર્ક એ હથોડાથી માખીને મારવા જેવું છે; બિનજરૂરી ખર્ચ અને વિલંબ બનાવે છે.

સાવધાની: દરેક કાર્ય માટે તર્કનો મોડ ખુલ્લો ન છોડો. સરળ કાર્યો માટે તેને બંધ રાખવું તે ઝડપી અને સસ્તું બંને છે. કેટલાક આધુનિક મોડલ "અનુકૂલનશીલ" વિચારસરણી સાથે આવે છે જે જ્યારે તેને વિચારવાની જરૂર હોય ત્યારે તે પોતે જ નક્કી કરે છે; જો કે, તેનું સભાનપણે સંચાલન કરવાનું તમારું કામ છે.

ગુણવત્તા, ઝડપ, કિંમત ત્રિકોણ

અગ્રતા

યોગ્ય સ્તર

તર્ક

સૌથી ઓછી કિંમત, ઉચ્ચ વોલ્યુમ

હલકો

બંધ

સંતુલન (મોટાભાગની નોકરીઓ)

સંતુલિત

પરિસ્થિતિ પર આધાર રાખીને

ઉચ્ચતમ ચોકસાઈ, નિર્ણાયક નિર્ણય

મજબૂત

ખુલ્લું

ત્વરિત પ્રતિભાવ, ઓછી વિલંબતા (ચેટ)

પ્રકાશ/સંતુલિત

બંધ

જટિલ, બહુ-પગલાંનું વિશ્લેષણ

મજબૂત

ખુલ્લું

જેમ જેમ તમે આ ટેબલ જુઓ, તમારી જાતને પૂછો: "જો હું આ કાર્યમાં ભૂલ કરીશ તો શું ખર્ચ થશે?" જો કિંમત ઊંચી હોય (ખોટી કાનૂની આકારણી, ખોટો નાણાકીય નિર્ણય) મજબૂત ક્ષમતા અને તર્કનું રોકાણ વાજબી છે. જો કિંમત ઓછી હોય (ઉત્પાદન લેબલનું ખોટું વર્ગીકરણ), તો હલકું અને ઝડપી મોડલ પૂરતું છે.

નાનું મોડલ કે મોટું મોડલ?

લોકપ્રિય માન્યતાથી વિપરીત, દરેક કામને મોટા મોડેલની જરૂર નથી. નાના મોડલ આશ્ચર્યજનક રીતે સક્ષમ બની ગયા છે, જે ઘણા કાર્યોને દસમા ખર્ચે અને મોટા મોડલની ઝડપે અનેક ગણી વધારે છે. નિર્ણય માટે ત્રણ પ્રશ્નો:

  1. શું કાર્ય સરળ અને સૂત્રિક છે? (વર્ગીકરણ, નિષ્કર્ષણ, સંક્ષિપ્ત સારાંશ) → નાનું મોડેલ.
  2. શું વોલ્યુમ ખૂબ ઊંચું છે અને ઝડપ નિર્ણાયક છે? → નાનું મોડલ, કારણ કે મોટા મોડલ મોંઘા અને ધીમા છે.
  3. શું કાર્ય માટે સૂક્ષ્મ તર્ક, વિસ્તૃત સંદર્ભ અથવા સર્જનાત્મકતાની જરૂર છે? → મોટું મોડેલ.

ત્રણ વાસ્તવિક કેસો

કેસ 1 — હળવા વજનનું મોડેલ પૂરતું છે. ઈ-કોમર્સ ટીમ દરરોજ 40,000 ગ્રાહકની ટિપ્પણીઓને હકારાત્મક/નકારાત્મક/તટસ્થમાં વર્ગીકૃત કરે છે. તેઓ તેને શક્તિશાળી મોડલ સાથે અજમાવશે અને પછી તેને હળવા વજનના મોડલ સાથે સરખાવે છે: ચોકસાઈ લગભગ સમાન છે (96% વિ 94%), પરંતુ હળવા વજનનું મોડેલ 8 ગણું સસ્તું અને 3 ગણું ઝડપી છે. આ કાર્ય માટે લાઇટવેઇટ મોડલ અત્યાર સુધી યોગ્ય પસંદગી છે; વધારાની 2% ચોકસાઈ 8x ખર્ચને ન્યાયી ઠેરવતી નથી.

કેસ 2 — મજબૂત મોડેલ + તર્ક જરૂરી છે. ટેક્સ કન્સલ્ટિંગ ફર્મ જટિલ મલ્ટી-સ્ટેજ ટેક્સ દૃશ્યની ગણતરી કરવા માંગે છે. લાઇટવેઇટ મોડલ મધ્યવર્તી પગલાઓમાં ભૂલો કરે છે અને ખોટા પરિણામો આપે છે. જ્યારે તેઓ રિઝનિંગ મોડ ઓન કરીને પાવરફુલ મોડલનો ઉપયોગ કરે છે, ત્યારે મોડલ તબક્કાવાર આગળ વધે છે અને સાચા નિષ્કર્ષ પર પહોંચે છે. અહીં, વધારાના ખર્ચ અને વિલંબ સ્વીકાર્ય છે કારણ કે ભૂલની કિંમત વધારે છે; જો કે, નિષ્ણાત પરિણામની પુષ્ટિ કરે છે.

કેસ 3 - મિશ્ર ઉપયોગ. કોલ સેન્ટર બે પગલામાં કોલ ટ્રાન્સક્રિપ્ટ પર પ્રક્રિયા કરે છે: પ્રથમ, તે હળવા મોડેલ (ઉચ્ચ વોલ્યુમ, સરળ જોબ) સાથે દરેક કૉલનો ટૂંકમાં સારાંશ આપે છે, પછી તે શક્તિશાળી મોડેલને માત્ર "ફરિયાદો" તરીકે ચિહ્નિત થયેલ કૉલ્સ આપે છે અને મૂળ કારણ વિશ્લેષણ (ઓછું વોલ્યુમ, જટિલ જોબ) કરે છે. તેથી તેઓ ખરેખર મહત્વના એવા થોડા કૉલ્સ માટે મજબૂત પેટર્નની શક્તિને આરક્ષિત કરીને સસ્તામાં મોટા ભાગના વોલ્યુમની પ્રક્રિયા કરે છે.

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ:

આ કર દૃશ્યને ઉકેલો. [જટિલ દૃશ્ય]

તે સ્પષ્ટ નથી કે મોડેલ કેટલી કાળજીપૂર્વક ધ્યાનમાં લેશે.

શક્તિશાળી પ્રોમ્પ્ટ:

તમારી ભૂમિકા: વરિષ્ઠ ટેક્સ નિષ્ણાત. કાર્ય: નીચેના મલ્ટિ-સ્ટેજ સિનેરીયોને સ્ટેપ બાય સ્ટેપ ઉકેલો. પ્રથમ ધારણાઓની યાદી બનાવો, પછી ગણતરી કરો અને દરેક પગલાને અલગથી બતાવો, અને અંતે ચોખ્ખું પરિણામ આપો. જો કોઈ એવો મુદ્દો હોય કે જેના વિશે તમને ખાતરી ન હોય અથવા તે કાયદા પર આધારિત હોય, તો તેને "નિષ્ણાત પુષ્ટિ જરૂરી" તરીકે ચિહ્નિત કરો. મધ્યવર્તી પગલાંને અવગણવું.[દૃશ્ય]

શક્તિશાળી પ્રોમ્પ્ટ સ્ટેપ-બાય-સ્ટેપ થિંકિંગ (પ્રોત્સાહિત તર્ક) દ્વારા મોડેલને માર્ગદર્શન આપે છે અને ચકાસણી માટે મધ્યવર્તી પગલાં દૃશ્યમાન બનાવે છે.

નકલ કરી શકાય તેવા નમૂનાઓ

સ્ટેજ 1 નિદાન:

મારું મિશન: [ટાસ્ક]. વોલ્યુમ: [NUMBER/દિવસ]. ભૂલ કિંમત: [ઓછી/મધ્યમ/ઉચ્ચ]. ઝડપ અગ્રતા: [ઓછી/ઉચ્ચ]. આ પ્રોફાઇલના આધારે, તમે કયા સ્તર (પ્રકાશ/સંતુલિત/મજબૂત) અને તર્ક (ખુલ્લા/બંધ)ની ભલામણ કરશો? ન્યાયી.

2. નાના/મોટા મોડલ નિર્ણય:

હું નીચેના કાર્યને વ્યાખ્યાયિત કરું છું: [ટાસ્ક]. શું આ સમસ્યા નાના (પ્રકાશ) મોડેલથી ઉકેલી શકાય છે, અથવા મોટા મોડેલની જરૂર છે? નાના મોડલ સાથે ઉકેલવાનો પ્રયાસ કરવા માટે મારા માટે 3 પરીક્ષણ કેસ અને સફળતાની થ્રેશોલ્ડ સૂચવો.

3. તર્કની યોગ્યતા:

શું તર્ક (પગલાં-દર-પગલાંની વિચારસરણી) પદ્ધતિ નીચેના કાર્યમાં ફાયદાકારક કે ખર્ચાળ હશે: [ટાસ્ક]? પગલાંઓની સંખ્યા અને કાર્યની તાર્કિક જટિલતાને આધારે તમારા નિર્ણયને યોગ્ય ઠેરવો.

4. બે-તબક્કાની વર્કફ્લો ડિઝાઇન:

નીચેના ઉચ્ચ-વોલ્યુમ ટાસ્ક [ટાસ્ક] પર ખર્ચ ઘટાડવા માટે બે-તબક્કાના પ્રવાહની રચના કરો: કયો ભાગ લાઇટવેઇટ મૉડલ પર જવો જોઈએ, કયો ભાગ શક્તિશાળી મૉડલ પર જવો જોઈએ? દરેક પગલા માટે સ્તર અને તર્ક લખો.

સામાન્ય ભૂલો

  • દરેક નોકરી માટે એક શક્તિશાળી મોડેલ: સરળ અને વિશાળ નોકરીઓમાં સૌથી શક્તિશાળી મોડેલનો ઉપયોગ કરીને બિનજરૂરી ખર્ચ અને વિલંબ બનાવવો.
  • હંમેશા તર્ક ચાલુ રાખવો: સાદા કાર્યોમાં વિચાર કરવાની પદ્ધતિ ચાલુ રાખવી અને સમય અને પૈસાનો વ્યર્થ વ્યય કરવો.
  • ગુણવત્તાને માપ્યા વિના નિર્ણયો લેવા: તમારા પોતાના ડેટા સાથે બે સ્તરોની તુલના કર્યા વિના "મોટા છે તે વધુ સારું" એમ ધારી લો.
  • સ્પીડની જરૂરિયાત ભૂલી જવી: એવા સ્થળોએ જ્યાં ત્વરિત પ્રતિસાદની જરૂર હોય, જેમ કે ચેટ, ધીમા પાવરફુલ મોડલને પસંદ કરવું અને વપરાશકર્તાને રાહ જોવી.
  • બે-તબક્કાના પ્રવાહ વિશે બિલકુલ વિચારવું નહીં: એક મોડેલ દ્વારા સંપૂર્ણ વોલ્યુમ ન બનાવવું અને સસ્તામાં કરી શકાય તેવા ભાગ પર બચત ન કરવી.

સારાંશમાં

  • મોડલ પસંદગી એ ગુણવત્તા, ઝડપ અને કિંમતના ત્રિકોણમાં સંતુલિત કાર્ય છે; બેમાં સુધારો કરવા માટે ઘણીવાર ત્રીજા સાથે સમાધાન કરવું પડે છે.
  • લાઇટ સ્ટેજ સાદી/મોટી નોકરીઓ માટે યોગ્ય છે, મજબૂત સ્ટેજ જટિલ/જટિલ નોકરીઓ માટે યોગ્ય છે; સંતુલિત તબક્કો મોટાભાગની નોકરીઓ માટે સારી શરૂઆત છે.
  • રિઝનિંગ મોડ બહુ-પગલાની સમસ્યાઓમાં ચોકસાઈ સુધારે છે પરંતુ ખર્ચ અને વિલંબમાં વધારો કરે છે; તેને દરેક કાર્ય માટે ખુલ્લો ન છોડવો જોઈએ.
  • "આ મિશનમાં નિષ્ફળતાની કિંમત શું છે?" પ્રશ્ન સ્તર અને તર્કના નિર્ણયનો હોકાયંત્ર છે. બે-તબક્કાના પ્રવાહો વોલ્યુમ જોબ્સમાં મોટી બચત પૂરી પાડે છે.

એપ્લિકેશન કાર્ય

તમારી નોકરીમાં એક કાર્ય પસંદ કરો અને નમૂના 1 (સ્ટેજ નિદાન) સાથે કયું સ્ટેજ અને તર્ક સેટિંગ યોગ્ય છે તે નક્કી કરો. જો કાર્ય ઉચ્ચ વોલ્યુમનું હોય, તો એવી ડિઝાઇન સાથે આવો કે જે અમુક વોલ્યુમને હળવા વજનના મોડેલ તરફ અને નિર્ણાયક ભાગને ટેમ્પલેટ 4 (બે-તબક્કાના વર્કફ્લો) સાથે મજબૂત મોડેલ તરફ નિર્દેશિત કરે છે. અમે એકમ 9 માં મોડેલ પોર્ટફોલિયો અભ્યાસમાં આ ડિઝાઇનનો ઉપયોગ કરીશું.

ચેકલિસ્ટ

  • [ ] હું પ્રકાશ, સંતુલિત અને શક્તિશાળી તબક્કાના વર્ક કેરેક્ટર સાથે મેચ કરી શકું છું.
  • [ ] હું સમજાવી શકું છું કે રિઝનિંગ મોડ શું કરે છે અને તેની કિંમત શું છે.
  • હું સભાનપણે કાર્ય માટે ગુણવત્તા-સ્પીડ-ખર્ચ સંતુલન સ્થાપિત કરી શકું છું.
  • [ ] હું નાના કે મોટા મોડેલ પ્રશ્નનો ત્રણ પ્રશ્નો સાથે જવાબ આપી શકું છું.
  • [ ] હું ઉચ્ચ વોલ્યુમ જોબ માટે બે તબક્કાના પ્રવાહને ડિઝાઇન કરી શકું છું.