नफा:
- टोकन, कॉन्टेक्स्ट विंडो आणि मल्टीमोडॅलिटीच्या संकल्पना दैनंदिन भाषेत स्पष्ट करण्याची क्षमता
- एखाद्या कार्यासाठी विस्तृत संदर्भ किंवा बहुविधता आवश्यक आहे की नाही याचे निदान करा
- या संकल्पनांचा खर्च आणि मॉडेल निवडीवर कसा परिणाम होतो हे विचारात घेण्याची क्षमता
आतापर्यंत आम्ही प्रदाते आणि मॉडेल प्रकारांशी परिचित आहोत. तथापि, योग्य मॉडेल निवडीसाठी, मॉडेल "आत" कसे कार्य करतात हे समजून घेणे देखील आवश्यक आहे; कारण किंमत, क्षमता आणि उपलब्धता निर्णय हे सर्व तीन मूलभूत संकल्पनांवर अवलंबून असतात: टोकन, संदर्भ विंडो आणि मल्टीमोडॅलिटी. ज्याला या संकल्पना माहित नाहीत तो किंमत पत्रक वाचू शकत नाही आणि आश्चर्यचकित होऊ शकतो की "हा दस्तऐवज मॉडेलमध्ये बसेल का?" प्रश्नाचे उत्तर देऊ शकत नाही आणि दृश्य प्रक्रिया केव्हा आवश्यक आहे ते पाहू शकत नाही. या युनिटच्या शेवटी, तुम्ही या तीन संकल्पना दैनंदिन भाषेत समजावून सांगण्यास सक्षम असाल, नोकरीसाठी व्यापक संदर्भ किंवा बहुविधता आवश्यक आहे की नाही याचे निदान करू शकाल आणि त्यांचा खर्चावर होणारा परिणाम लक्षात घेता.
टोकन: शब्दाऐवजी मॉडेलद्वारे वापरलेले युनिट
आर्टिफिशियल इंटेलिजन्स मॉडेल्स मजकूरावर शब्दाने नव्हे तर टोकन नावाच्या छोट्या तुकड्यांमध्ये प्रक्रिया करतात. एक टोकन; तो शब्द, शब्दाचा भाग, विरामचिन्हे किंवा जागा असू शकतो. ढोबळ गणना करण्यासाठी: इंग्रजीमध्ये, सरासरी टोकन सुमारे चार वर्ण आणि 100 शब्द सुमारे 130-150 टोकन असतात. तुर्कीमध्ये, प्रत्यय आणि दीर्घ शब्दांमुळे हा दर थोडा जास्त असू शकतो; दुसऱ्या शब्दांत, समान अर्थ असलेला तुर्की मजकूर इंग्रजीपेक्षा किंचित जास्त टोकन वापरतो.
हे जाणून घेणे महत्त्वाचे का आहे? कारण प्रत्येक गोष्ट टोकनमध्ये आकारली जाते आणि मोजली जाते. तुम्ही मॉडेलला पाठवलेला मजकूर (इनपुट) आणि मॉडेलद्वारे तयार केलेला प्रतिसाद (आउटपुट) हे वेगळे टोकन म्हणून गणले जातात. तुमचे बीजक आणि मॉडेलची क्षमता दोन्ही टोकनमध्ये आहेत.
टीप: मजकुरात किती टोकन आहेत याचा अंदाजे अंदाज घेण्यासाठी, वर्णांची संख्या चारने विभाजित करा. 4,000 वर्णांचा ईमेल अंदाजे 1,000 टोकन आहे. तुर्कीमध्ये, सुरक्षित बाजूला राहण्यासाठी थोडे उच्च गृहित धरा.
संदर्भ विंडो: मॉडेलची "शॉर्ट टर्म मेमरी"
संदर्भ विंडो ही टोकनची एकूण रक्कम आहे जी मॉडेल एका वेळी लक्षात ठेवू शकते. या विंडोमध्ये इनपुट आणि आउटपुट एकत्र बसणे आवश्यक आहे. एका टेबलावर तुम्ही एकाच वेळी किती कागद पसरवू शकता त्याप्रमाणे याचा विचार करा: टेबलावर न बसणारा कागद त्या क्षणी तुमच्या दृष्टीच्या क्षेत्राबाहेर आहे.
मॉडेलची संदर्भ विंडो 200,000 टोकन असल्यास, हे अंदाजे 150,000 शब्द किंवा अनेक मध्यम आकाराच्या पुस्तकांच्या बरोबरीचे आहे. 1 दशलक्ष टोकन्स संपूर्णपणे खूप मोठ्या कागदपत्रांवर प्रक्रिया करू शकतात. आज काही शक्तिशाली मॉडेल्स (उदा. क्लॉड ओपस 4.8 आणि सॉनेट 5) 1 दशलक्ष टोकन संदर्भ देतात, तर हलके मॉडेल सहसा लहान विंडोसह येतात (उदा. हायकू 4.5 साठी 200,000 टोकन).
ते महत्त्वाचे का आहे? कारण दस्तऐवज संदर्भ विंडोमध्ये बसत नसल्यास, मॉडेल ते सर्व एकत्र पाहू शकत नाही. तुम्ही 200,000 टोकन मॉडेलला संपूर्णपणे 500-पानांचा करार देऊ शकत नाही; तुम्ही एकतर दस्तऐवज भागांमध्ये विभाजित करा (जे भागांमधील संबंध गमावू शकतात) किंवा विस्तृत संदर्भ असलेले मॉडेल निवडा.
खबरदारी: प्रत्येक दस्तऐवज भरणे शहाणपणाचे नाही कारण फक्त संदर्भ विंडो मोठी आहे. तुम्ही खिडकीत जितके जास्त टोकन टाकता तितके जास्त तुम्ही पैसे द्याल आणि काहीवेळा मॉडेल खूप लांब मजकुरातील मधले तपशील चुकवू शकते. केवळ काम करणारा भाग पाठवणे हे सहसा स्वस्त आणि अधिक अचूक असते.
संदर्भ विंडो हा निर्णयाचा निकष आहे
शोध
अंदाजे आवश्यक संदर्भ
योग्य पातळी
लहान ईमेल प्रतिसाद
अनेक शंभर टोकन
हलके
एका पानाचा सारांश
अनेक हजार टोकन
हलका/संतुलित
40-पृष्ठ अहवाल विश्लेषण
~30,000 टोकन
संतुलित / मजबूत
300-पृष्ठ करार पुनरावलोकन
~250,000 टोकन
व्यापक संदर्भासह शक्तिशाली
एकाच वेळी शेकडो कागदपत्रांवर प्रक्रिया करा
500,000+ टोकन
व्यापक संदर्भ
हे सारणी "कोणते मॉडेल?" या प्रश्नाचे उत्तर देते. हे दर्शविते की प्रश्नाच्या काही भागाचे उत्तर दस्तऐवजाच्या आकारानुसार दिले जाते. लहान नोकऱ्यांसाठी मोठ्या संदर्भासह महाग मॉडेल विकत घेणे वाया जाते; मोठ्या दस्तऐवजांसाठी लहान विंडो असलेले मॉडेल अपुरे आहे.
बहुविधता: मजकुराच्या पलीकडे जाणे
मल्टीमोडॅलिटी म्हणजे केवळ मजकूरच नव्हे तर अनेक प्रकारचे डेटा (प्रतिमा, ऑडिओ, कधीकधी व्हिडिओ) हाताळण्याची मॉडेलची क्षमता. येथे "मॉडल" म्हणजे "डेटा प्रकार"; मल्टीमोडल म्हणजे "अनेक प्रकार".
- केवळ-मजकूर मॉडेल: केवळ लिखित मजकूर वाचतो आणि लिहितो.
- मल्टीमोडल मॉडेल: बिलाचा फोटो वाचू शकतो, आलेखावरील ट्रेंडचा अर्थ लावू शकतो, हस्तलिखीत नोट डीकोड करू शकतो, कधीकधी व्हॉइस रेकॉर्डिंग लिप्यंतरण करू शकतो.
ते महत्त्वाचे का आहे? कारण तुमच्या व्यवसायाच्या स्वरूपाला बहुविधता आवश्यक असू शकते. इनव्हॉइस इमेजमधून रक्कम काढणारी अकाउंटिंग टीम, उत्पादन फोटोंचे वर्गीकरण करणारी ई-कॉमर्स टीम किंवा नुकसान फोटोंचे मूल्यांकन करणारी इन्शुरन्स टीम हे काम फक्त मजकूर वाचणाऱ्या मॉडेलसह करू शकत नाही. या कामांसाठी व्हिज्युअल प्रोसेसिंग आवश्यक आहे.
तीन वास्तववादी प्रकरणे
केस 1 - टोकन खर्च आश्चर्य. सामग्री कार्यसंघ मॉडेलला 20-पृष्ठ "ब्रँड मार्गदर्शक" दस्तऐवज देखील पाठवते कारण ते प्रत्येक ब्लॉग पोस्ट तयार करतात. हे मार्गदर्शक सुमारे 15,000 टोकन आहे. ते महिन्याला 2,000 लेख तयार करतात; तर फक्त मार्गदर्शकाला पुन्हा पुन्हा पाठवणे म्हणजे इनपुटचे 30 दशलक्ष टोकन. मार्गदर्शक लहान करून आणि फक्त संबंधित विभाग (सुमारे 2,000 टोकन) पाठवून, ते इनपुट एक-सातव्यापर्यंत कमी करतात आणि बिल लक्षणीयरीत्या कमी करतात.
केस 2 - संदर्भ विंडो पुरेशी नाही. कायदेशीर फर्मला 280 पृष्ठांच्या विलीनीकरण कराराचे पुनरावलोकन करायचे आहे. त्यांनी प्रयत्न केलेल्या पहिल्या मॉडेलमध्ये 200,000 टोकनचे बंधन होते आणि दस्तऐवज बसत नव्हते; जेव्हा दस्तऐवज फाटला जातो, तेव्हा मॉडेल लक्षात घेऊ शकत नाही की पहिल्या विभागातील लेख शेवटच्या विभागातील लेखाशी विरोधाभास करतो. जेव्हा ते 1 दशलक्ष टोकन संदर्भासह मॉडेलवर स्विच करते, तेव्हा ते संपूर्ण दस्तऐवज वाचते आणि विरोधाभास पकडते. येथे संदर्भ विंडो थेट अचूकता निर्धारित करते.
केस 3 - बहुविधता आवश्यक आहे. विमा कंपनीला वाहनाच्या नुकसानीच्या छायाचित्रांवरून प्राथमिक मूल्यांकन करायचे आहे. केवळ मजकूर वाचणाऱ्या मॉडेलसह हे अशक्य आहे; एक मल्टीमोडल मॉडेल जे छायाचित्र "पाहते" आवश्यक आहे. जेव्हा ते मल्टीमोडल मॉडेलवर स्विच करतात, तेव्हा ते एक प्री-स्क्रीनिंग सिस्टम स्थापित करतात जी फोटोमधील स्थान आणि नुकसानाची तीव्रता अंदाजे वर्गीकृत करते आणि तज्ञांना निर्देशित करते. तथापि, ते लक्षात घेतात की मानवी तज्ञ अंतिम निर्णय घेतात; कारण मॉडेल हे प्राथमिक स्क्रीनिंग साधन आहे, अंतिम शब्द नाही.
कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट
कमकुवत प्रॉम्प्ट:
या दस्तऐवजाचा सारांश द्या. [खूप लांब दस्तऐवज पेस्ट केले]
शक्तिशाली सूचना:
खाली 40-पानांचा अहवाल सारांशित करा. प्रथम अहवालातील टोकनच्या अंदाजे संख्येचा अंदाज लावा आणि ते एका सामान्य संतुलित मॉडेलच्या संदर्भ विंडोमध्ये बसते की नाही ते आम्हाला सांगा. नंतर या स्वरूपात सारांश द्या: 5-आयटम कार्यकारी सारांश + 3 धोकादायक निष्कर्ष. अहवालातील माहितीच वापरा; तुम्हाला खात्री नसलेला भाग "अहवालात स्पष्ट नाही" म्हणून चिन्हांकित करा. [अहवाल]
शक्तिशाली प्रॉम्प्ट टोकन/संदर्भ जागरूक आहे आणि आउटपुटचे स्वरूप आणि सत्यापनक्षमता नियंत्रित करते.
कॉपी करण्यायोग्य टेम्पलेट्स
1. टोकन अंदाज:
खालील मजकूरासाठी टोकन्सच्या अंदाजे संख्येचा अंदाज लावा आणि इनपुट खर्चाच्या संदर्भात याचा अर्थ लावा: "[TEXT]". ते तुर्की आहे हे लक्षात घेऊन ते थोडेसे गोलाकार करा.
2. संदर्भ उपलब्धता तपासणी:
माझे काम खालील कागदपत्रांवर प्रक्रिया करणे आहे: दर महिन्याला सरासरी [PAGES] [QTY] दस्तऐवज. या आकारासाठी कोणत्या संदर्भ विंडोची आवश्यकता आहे? प्रकाश/संतुलित/मजबूत पातळींपैकी कोणती पातळी पुरेशी असेल? तो मोडून काढणे आवश्यक असल्यास कोणता धोका उद्भवतो?
3. बहुविध निदान:
माझे कार्यप्रवाह: [वर्णन]. या प्रवाहात व्हिज्युअल, ऑडिओ किंवा व्हिडिओ प्रक्रिया आहे का? तसे असल्यास, मल्टीमोडल मॉडेल आवश्यक आहे किंवा ते मजकूर (ओसीआर/ट्रान्सक्रिप्शन) मध्ये रूपांतरित केले जाऊ शकते आणि मजकूर मॉडेलसह सोडवले जाऊ शकते? दोन मार्गांच्या साधक/बाधकांची तुलना करा.
4. संदर्भ ऑप्टिमायझेशन:
मी प्रत्येक विनंतीसह मॉडेलला एक दस्तऐवज पाठवतो, परंतु त्यापैकी बहुतेक अनावश्यक आहेत. या दस्तऐवजातून [टास्क] साठी आवश्यक असलेले भाग मी कसे काढू? इनपुट कमी करण्यासाठी 3 ठोस मार्ग सुचवा आणि अंदाजे टोकन बचत सूचित करा.
सामान्य चुका
- शब्दासाठी चुकीचे टोकन: टोकन शब्दापेक्षा वेगळे आहे; चलन आणि क्षमता नेहमी टोकनमध्ये असतात, शब्दात गणना करणे दिशाभूल करणारे आहे.
- विचार करणे संदर्भ विंडो अनंत आहे: प्रत्येक मॉडेलला मर्यादा असते; दस्तऐवज फिट नसल्यास, मॉडेल संपूर्ण पाहू शकत नाही.
- अनावश्यक मोठे संदर्भ वापरणे: लहान नोकरीसाठी मोठ्या संदर्भासह महाग मॉडेल खरेदी करणे; किंवा प्रत्येक विनंतीसाठी मोठी कागदपत्रे भरा आणि व्यर्थ पैसे द्या.
- बहुविधता गृहीत धरून: प्रत्येक मॉडेल व्हिज्युअलवर प्रक्रिया करू शकत नाही; व्हिज्युअल कार्यासाठी, मॉडेल मल्टीमोडल असल्याची पुष्टी न करता प्रारंभ करा.
- तुर्कीचे टोकन लोड विसरणे: तुर्की ग्रंथ सामान्यतः समान अर्थासाठी किंचित जास्त टोकन वापरतात; खर्चाच्या अंदाजात याकडे दुर्लक्ष करणे.
सारांशात
- टोकन हे लहान युनिट आहे ज्यामध्ये मॉडेल मजकूरावर प्रक्रिया करते; इनपुट आणि आउटपुट मोजले जातात आणि टोकन म्हणून स्वतंत्रपणे इनव्हॉइस केले जातात.
- संदर्भ विंडो हे मॉडेल एका वेळी लक्षात ठेवू शकणारे एकूण टोकन आहे; दस्तऐवज आकार थेट मॉडेल निवड प्रभावित करते.
- मल्टीमोडॅलिटी म्हणजे व्हिज्युअल/ऑडिओ सारख्या मजकूर नसलेल्या डेटावर प्रक्रिया करण्याची मॉडेलची क्षमता; व्हिज्युअल कामांसाठी हे आवश्यक आहे.
- या तीन संकल्पना दोन्ही "कोणते मॉडेल?" या प्रश्नाशी संबंधित आहेत. तसेच "किती किंमत आहे?" तो प्रश्नांचा आधार बनतो.
अर्ज कार्य
तुमच्या व्यवसायात आवर्ती एआय टास्क निवडा. या टास्कमध्ये ठराविक इनपुट किती टोकन्स आहेत याची 1 ला टेम्प्लेट (टोकन अंदाज) मोजा. मग टेम्प्लेट 2 (संदर्भ उपलब्धता तपासणी) सह कोणता स्तर पुरेसा आहे ते ठरवा. तुमच्याकडे व्हिज्युअल जॉब असल्यास, 3ऱ्या टेम्प्लेटसह (मल्टिमोडॅलिटी डायग्नोसिस) मल्टीमोडल मॉडेल आवश्यक आहे का ते स्पष्ट करा. आम्ही परिणामी टोकन अंदाज पुढील युनिटच्या खर्चाच्या गणनेमध्ये वापरू.
चेकलिस्ट
- मला टोकनची संकल्पना माहित आहे आणि मजकूरात किती टोकन आहेत याचा अंदाज कसा लावायचा.
- मी संदर्भ विंडो "टेबल/मेमरी" सादृश्याने स्पष्ट करू शकतो.
- दस्तऐवज मॉडेलमध्ये बसेल की नाही हे मी मूल्यांकन करू शकतो.
- जेव्हा बहुविधता आवश्यक असते तेव्हा मी निदान करू शकतो.
- [ ] मी तुर्कीचे टोकन ओव्हरहेड आणि अनावश्यक संदर्भाची किंमत विचारात घेतो.