سود:
- توانایی توضیح مفاهیم نشانه، پنجره زمینه و چندوجهی در زبان روزمره
- تشخیص دهید که آیا یک کار به زمینه وسیع یا چندوجهی نیاز دارد
- توانایی در نظر گرفتن چگونگی تأثیر این مفاهیم بر هزینه و انتخاب مدل
تاکنون با ارائه دهندگان و انواع مدل ها آشنا شده ایم. با این حال، برای انتخاب مدل مناسب، همچنین لازم است که بدانیم مدلها چگونه در "داخل" کار میکنند. زیرا تصمیمات قیمت، ظرفیت و در دسترس بودن همگی به سه مفهوم اصلی متکی هستند: نشانه، پنجره زمینه، و چندوجهی. کسی که این مفاهیم را نمی داند نمی تواند برگه قیمت را بخواند و فکر کند که آیا این سند با مدل مطابقت دارد؟ نمی تواند به سوال پاسخ دهد و نمی تواند ببیند که چه زمانی پردازش بصری ضروری است. در پایان این بخش، میتوانید این سه مفهوم را به زبان روزمره توضیح دهید، تشخیص دهید که آیا یک شغل به زمینه گسترده یا چندوجهی نیاز دارد و تأثیر آنها بر هزینه را در نظر بگیرید.
رمز: واحدی که مدل به جای Word استفاده می کند
مدلهای هوش مصنوعی متن را نه کلمه به کلمه، بلکه در قطعات کوچکی به نام توکن پردازش میکنند. یک نشانه؛ این می تواند یک کلمه، بخشی از یک کلمه، یک علامت نقطه گذاری یا یک فاصله باشد. برای انجام یک محاسبه تقریبی: در زبان انگلیسی، یک نشانه متوسط حدود چهار کاراکتر است و 100 کلمه حدود 130-150 نشانه است. در زبان ترکی ممکن است این میزان به دلیل کلمات پسوندی و طولانی کمی بیشتر باشد. به عبارت دیگر، یک متن ترکی با همان معنی کمی بیشتر از انگلیسی مصرف می کند.
چرا دانستن این مهم است؟ زیرا همه چیز به صورت توکن شارژ و اندازه گیری می شود. متن (ورودی) که به مدل ارسال میکنید و پاسخ (خروجی) تولید شده توسط مدل به عنوان نشانههای جداگانه محاسبه میشوند. هم فاکتور شما و هم ظرفیت مدل به صورت توکن است.
نکته: برای به دست آوردن تخمین تقریبی از تعداد نشانه های یک متن، تعداد کاراکترها را بر چهار تقسیم کنید. یک ایمیل 4000 کاراکتری تقریباً 1000 توکن است. در ترکی، کمی بالاتر را فرض کنید تا در سمت امن بمانید.
پنجره زمینه: "حافظه کوتاه مدت" مدل
پنجره زمینه مجموع نشانه هایی است که مدل می تواند در یک زمان در ذهن داشته باشد. ورودی و خروجی باید در این پنجره با هم تناسب داشته باشند. به آن فکر کنید مانند مقدار کاغذی که می توانید یکباره روی یک میز پهن کنید: کاغذی که روی میز قرار نمی گیرد در آن لحظه از میدان دید شما خارج است.
اگر پنجره زمینه یک مدل 200000 توکن باشد، این معادل تقریباً 150000 کلمه یا چندین کتاب با اندازه متوسط است. 1 میلیون توکن می توانند اسناد بسیار بزرگتر را به طور کلی پردازش کنند. برخی از مدلهای قدرتمند امروزی (مانند Claude Opus 4.8 و Sonnet 5) 1 میلیون زمینه رمزی ارائه میدهند، در حالی که مدلهای سبک وزن اغلب با پنجرههای کوچکتر ارائه میشوند (مثلا 200000 توکن برای هایکو 4.5).
چرا مهم است؟ زیرا اگر سندی در پنجره زمینه قرار نگیرد، مدل نمیتواند همه آن را با هم ببیند. شما نمی توانید یک قرارداد 500 صفحه ای را به طور کامل به مدل 200000 توکن بدهید. شما یا سند را به بخشهایی تقسیم میکنید (که ممکن است رابطه بین قسمتها از بین برود) یا مدلی با زمینه وسیعتر انتخاب کنید.
احتیاط: پر کردن هر سند عاقلانه نیست زیرا فقط به دلیل بزرگ بودن پنجره زمینه است. هر چه توکن های بیشتری در پنجره قرار دهید، بیشتر پرداخت می کنید، و گاهی اوقات مدل ممکن است جزئیات میانی را در متون بسیار طولانی از دست بدهد. اغلب ارسال تنها بخشی که کار می کند ارزان تر و دقیق تر است.
پنجره زمینه یک معیار تصمیم گیری است
تلاش
زمینه مورد نیاز تقریبی
سطح مناسب
پاسخ ایمیل کوتاه
چند صد توکن
سبک وزن
خلاصه یک صفحه ای
چندین هزار توکن
نور/متعادل
تجزیه و تحلیل گزارش 40 صفحه ای
~ 30000 توکن
متعادل / قوی
بررسی قرارداد 300 صفحه ای
~ 250000 توکن
قدرتمند با زمینه وسیع
صدها سند را همزمان پردازش کنید
بیش از 500000 توکن
گسترده ترین زمینه
این جدول به سوال "کدام مدل؟" پاسخ می دهد. نشان می دهد که بخشی از سؤال مستقیماً با اندازه سند پاسخ داده می شود. خرید یک مدل گران قیمت با زمینه بزرگ برای مشاغل کوتاه ضایع است. مدلی با پنجره کوچک برای اسناد بزرگ کافی نیست.
چندوجهی: فراتر از متن
چندوجهی توانایی یک مدل برای مدیریت چندین نوع داده (تصویر، صدا، گاهی اوقات ویدئو) است، نه فقط متن. "Modal" در اینجا به معنای "نوع داده" است. چند وجهی به معنای "انواع بسیار" است.
- مدل فقط متنی: فقط متن نوشته شده را می خواند و می نویسد.
- مدل چندوجهی: می تواند عکس یک صورتحساب را بخواند، روند را روی نمودار تفسیر کند، یادداشت دست نوشته را رمزگشایی کند، گاهی اوقات صدای ضبط شده را رونویسی کند.
چرا مهم است؟ زیرا ماهیت کسب و کار شما ممکن است به چندوجهی بودن نیاز داشته باشد. تیم حسابداری که مبالغ را از تصاویر فاکتور استخراج می کند، تیم تجارت الکترونیکی که عکس های محصول را طبقه بندی می کند، یا تیم بیمه ای که عکس های آسیب را ارزیابی می کند، نمی توانند این کار را با مدلی که فقط متن را می خواند انجام دهند. پردازش بصری برای این کارها ضروری است.
سه مورد واقع بینانه
مورد 1 - غافلگیری هزینه رمز. یک تیم محتوا همچنین یک سند 20 صفحهای «راهنمای برند» را هنگام تولید هر پست وبلاگ به مدل ارسال میکند. این راهنما حدود 15000 توکن است. آنها 2000 مقاله در ماه تولید می کنند. بنابراین فقط ارسال بارها و بارها راهنما به معنای 30 میلیون توکن ورودی است. با کوتاه کردن راهنما و ارسال فقط قسمت مربوطه (حدود 2000 توکن)، ورودی را به یک هفتم کاهش می دهند و صورت حساب را به میزان قابل توجهی کاهش می دهند.
مورد 2 - پنجره زمینه کافی نیست. یک شرکت حقوقی می خواهد قرارداد ادغام 280 صفحه ای را بررسی کند. اولین مدلی که آنها امتحان کردند دارای یک صحافی 200000 توکن بود و سند مناسب نبود. وقتی سند پاره میشود، مدل نمیتواند متوجه شود که یک مقاله در بخش اول با مقاله در بخش آخر مغایرت دارد. وقتی به مدلی با زمینه 1 میلیون توکن سوئیچ میکند، سند را به عنوان یک کل میخواند و تناقض را میگیرد. در اینجا پنجره زمینه مستقیماً دقت را تعیین می کند.
مورد 3 - چندوجهی بودن یک امر ضروری است. یک شرکت بیمه می خواهد یک ارزیابی اولیه از عکس های آسیب دیدگی خودرو انجام دهد. این با مدلی که فقط متن را می خواند غیرممکن است. یک مدل چند وجهی که عکس را "ببیند" مورد نیاز است. هنگامی که آنها به یک مدل چند وجهی تغییر می کنند، یک سیستم پیش غربالگری ایجاد می کنند که تقریباً مکان و شدت آسیب را در عکس طبقه بندی می کند و متخصص را راهنمایی می کند. با این حال، آنها خاطرنشان می کنند که یک متخصص انسانی تصمیم نهایی را می گیرد. زیرا مدل یک ابزار غربالگری اولیه است، نه کلمه نهایی.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
این سند را خلاصه کنید. [سند خیلی طولانی چسبانده شد]
اعلان قدرتمند:
گزارش 40 صفحه ای را در زیر خلاصه کنید. ابتدا تعداد تقریبی نشانهها را در گزارش تخمین بزنید و به ما بگویید که آیا با پنجره زمینه یک مدل متعادل معمولی مطابقت دارد یا خیر. سپس خلاصه را در این قالب ارائه دهید: خلاصه اجرایی 5 ماده + 3 یافته پرخطر. فقط از اطلاعات موجود در گزارش استفاده کنید. بخشی را که از آن مطمئن نیستید به عنوان "در گزارش مشخص نیست" علامت بزنید. [گزارش]
فرمان قدرتمند هم از نشانه/زمینه آگاه است و هم فرمت و قابلیت تأیید خروجی را کنترل می کند.
قالب های قابل کپی
1. پیش بینی رمز:
تعداد تقریبی نشانهها را برای متن زیر تخمین بزنید و آن را بر حسب هزینه ورودی تفسیر کنید: "[TEXT]". با توجه به ترکی بودنش کمی گرد کنید.
2. بررسی در دسترس بودن زمینه:
وظیفه من پردازش اسناد زیر است: میانگین [PAGES] از [QTY] اسناد در ماه. این اندازه به چه پنجره زمینه ای نیاز دارد؟ کدام یک از سطوح نور / متعادل / قوی کافی است؟ در صورت نیاز به برچیدن چه خطری ایجاد می شود؟
3. تشخیص چندوجهی:
گردش کار من: [DESCRIPTION]. آیا پردازش تصویری، صوتی یا تصویری در این جریان وجود دارد؟ اگر چنین است، آیا یک مدل چند وجهی لازم است یا می توان آن را به متن (OCR/رونویسی) تبدیل کرد و با مدل متنی حل کرد؟ مزایا و معایب دو مسیر را مقایسه کنید.
4. بهینه سازی زمینه:
من با هر درخواستی یک سند برای مدل ارسال می کنم، اما بیشتر آن غیر ضروری است. چگونه می توانم قطعاتی را که واقعاً برای [TASK] مورد نیاز است از این سند استخراج کنم؟ 3 راه مشخص برای کاهش ورودی و نشان دادن پس انداز تخمینی رمز پیشنهاد کنید.
اشتباهات رایج
- اشتباه گرفتن نشانه با کلمه: نشانه با کلمه متفاوت است. فاکتور و ظرفیت همیشه به صورت توکن هستند، محاسبه با کلمات گمراه کننده است.
- تصور اینکه پنجره زمینه بی نهایت است: هر مدلی یک محدودیت دارد. اگر سند مناسب نباشد، مدل نمی تواند کل را ببیند.
- استفاده از زمینه بزرگ غیر ضروری: خرید یک مدل گران قیمت با زمینه بزرگ برای یک کار کوتاه. یا برای هر درخواستی اسناد هنگفت را پر کنید و بیهوده پرداخت کنید.
- با فرض چندوجهی: هر مدلی نمی تواند تصاویر را پردازش کند. برای کار بصری، بدون تایید چندوجهی بودن مدل شروع کنید.
- فراموش کردن بار نشانه ترکی: متون ترکی معمولاً نشانه های بیشتری را برای همان معنی مصرف می کنند. نادیده گرفتن این موضوع در برآورد هزینه
به طور خلاصه
- نشانه واحد کوچکی است که مدل در آن متن را پردازش می کند. ورودی و خروجی به صورت جداگانه اندازه گیری و صورتحساب می شوند.
- پنجره زمینه کل نشانه هایی است که مدل می تواند در یک زمان در ذهن داشته باشد. اندازه سند مستقیماً بر انتخاب مدل تأثیر می گذارد.
- چندوجهی توانایی مدل برای پردازش داده های غیر متنی مانند تصویری/صوتی است. برای کارهای بصری ضروری است.
- این سه مفهوم هر دو مربوط به سوال "کدام مدل؟" و همچنین "هزینه آن چقدر است؟" اساس سؤالات را تشکیل می دهد.
وظیفه کاربردی
یک کار تکرارشونده هوش مصنوعی در کسب و کار خود انتخاب کنید. از الگوی اول (پیشبینی نشانه) بخواهید که تعداد نشانههای ورودی معمولی در این کار را محاسبه کند. سپس تعیین کنید که کدام سطح با الگوی 2 کافی است (بررسی در دسترس بودن زمینه). اگر کار بصری دارید، مشخص کنید که آیا یک مدل چندوجهی با الگوی سوم (تشخیص چندوجهی) مورد نیاز است یا خیر. ما از تخمین توکن حاصل در محاسبه هزینه واحد بعدی استفاده خواهیم کرد.
چک لیست
- [ ] من مفهوم رمز و نحوه تخمین تقریبی تعداد نشانه های یک متن را می دانم.
- [ ] می توانم پنجره زمینه را با قیاس "جدول/حافظه" توضیح دهم.
- [ ] من می توانم ارزیابی کنم که آیا یک سند در یک مدل قرار می گیرد یا خیر.
- [ ] من می توانم تشخیص دهم که چندوجهی ضروری است.
- [ ] من سربار رمز ترکی و هزینه بافت غیر ضروری را در نظر میگیرم.