প্রাইসিং লজিক: টোকেন ইকোনমি এবং কস্ট-কোয়ালিটি ব্যালেন্স

লাভ:

• ইনপুট/আউটপুট টোকেন মূল্য এবং চালান আইটেম পড়ার ক্ষমতা
• একটি মোটামুটি সূত্র সহ একটি কর্মপ্রবাহের মাসিক খরচ অনুমান করার ক্ষমতা
• ক্যাশিং, ব্যাচ প্রসেসিং এবং মডেল স্টেজিংয়ের মতো খরচ-কাটা পদ্ধতিগুলি বাস্তবায়ন করা

একটি মডেলের দাম কত হবে তা অনুমান করতে সক্ষম হওয়া সিদ্ধান্ত গ্রহণকারীর সবচেয়ে ব্যবহারিক দক্ষতাগুলির মধ্যে একটি। "আমি মাসিক কি দিতে পারি?" আপনি যদি প্রশ্নের উত্তর দিতে না পারেন, তাহলে আপনি বাজেটের পরিকল্পনা করতে পারবেন না বা সঠিক স্তর বেছে নিতে পারবেন না। সুসংবাদটি হল যে দাম শোনার চেয়ে সহজ, এবং একবার আপনি এটিকে আটকে ফেললে আপনি নিজেরাই একটি মোটামুটি অনুমান করতে পারেন৷ এই ইউনিটে, আপনি শিখবেন কিভাবে ইনপুট/আউটপুট টোকেন মূল্য পড়তে হয়, একটি সাধারণ সূত্রের সাহায্যে একটি কর্মপ্রবাহের মাসিক খরচ অনুমান করতে হয় এবং যে পদ্ধতিগুলি আসলে খরচ কমাতে হয়।

অঙ্গুষ্ঠের নিয়ম: ইনপুট এবং আউটপুট আলাদাভাবে মূল্য নির্ধারণ করা হয়

ক্লোজড-ওয়েট মডেলগুলিতে, প্রক্রিয়াকৃত টোকেনের পরিমাণের উপর ভিত্তি করে মূল্য গণনা করা হয় এবং দুটি পৃথক আইটেম রয়েছে:

• ইনপুট টোকেন (ইনপুট): আপনি মডেলে যে পাঠ্য পাঠান। আপনার প্রম্পট, আপনার নথি, আপনার নমুনা.
• আউটপুট টোকেন: মডেলটি আপনার জন্য যে উত্তরটি তৈরি করে।

গুরুত্বপূর্ণ পয়েন্ট: আউটপুট টোকেন প্রায়ই ইনপুট টোকেনের চেয়ে কয়েকগুণ বেশি ব্যয়বহুল। এর কারণ হল আউটপুট তৈরি করা মডেলের কাছে গণনাগতভাবে আরও ব্যয়বহুল। উদাহরণস্বরূপ, একটি মডেলে, ইনপুট হতে পারে $3 প্রতি মিলিয়ন টোকেন যেখানে আউটপুট হতে পারে $15; তাই আউটপুট পাঁচ গুণ বেশি ব্যয়বহুল। এর অর্থ হল দীর্ঘ এবং অপ্রয়োজনীয় উত্তরগুলি দ্রুত বাজেটে খেয়ে ফেলতে পারে।

টিপ: খরচ কমানোর সবচেয়ে সহজ উপায়গুলির মধ্যে একটি হল মডেলটিকে অপ্রয়োজনীয়ভাবে দীর্ঘ উত্তরের জন্য জিজ্ঞাসা না করা৷ "সর্বোচ্চ 5টি নিবন্ধ", "একক অনুচ্ছেদ", "শুধুমাত্র টেবিল রপ্তানি করুন" এর মতো বিধিনিষেধ মান বৃদ্ধি করে এবং আউটপুট টোকেন সংরক্ষণ করে।

বর্তমান মূল্য উদাহরণ

নীচে বেশ কয়েকটি মডেলের আনুমানিক দাম রয়েছে (প্রতি মিলিয়ন টোকেন, মার্কিন ডলার)। এই মানগুলি সেই সময়ের সাথে সম্পর্কিত যেখানে এই মডিউলটি প্রস্তুত করা হয়েছিল এবং ঘন ঘন পরিবর্তন হয়; সঠিক সিদ্ধান্তের জন্য প্রদানকারীর বর্তমান মূল্য পৃষ্ঠাটি দেখুন।

মডেল

মঞ্চ

ইনপুট $/1M

আউটপুট $/1M

Claude Opus 4.8

শক্তিশালী

~5

~25

ক্লদ সনেট 5

সুষম

~3

~15

ক্লদ হাইকু 4.5

লাইটওয়েট

~1

~5

সারণীতে দেখা গেছে, শক্তিশালী স্তর এবং হালকা স্তরের মধ্যে পাঁচ গুণ পর্যন্ত মূল্যের পার্থক্য থাকতে পারে। এই কারণেই "সব ব্যবসার জন্য উপযুক্ত মডেল" পদ্ধতি প্রায়শই অর্থের অপচয় হয়। একটি সস্তা মডেল দ্বারা করা সহজ কাজ এবং একটি শক্তিশালী মডেল দ্বারা কঠিন কাজ মানের ক্ষতি ছাড়াই মহান সঞ্চয় প্রদান করে. আমরা এই ধারণাটি 7 এবং 9 ইউনিটে গভীর করব।

মাসিক খরচ অনুমান করা: সহজ সূত্র

একটি মোটামুটি মাসিক খরচ অনুমানের জন্য, আপনি এই সূত্রটি ব্যবহার করতে পারেন:

মাসিক খরচ ≈ (প্রতি মাসে অনুরোধের সংখ্যা × গড় ইনপুট টোকেন × ইনপুট মূল্য / 1,000,000)+ (প্রতি মাসে অনুরোধের সংখ্যা × গড় আউটপুট টোকেন × আউটপুট মূল্য / 1,000,000)

এর একটি উদাহরণ চালানো যাক. ধরা যাক একটি ই-কমার্স দল প্রতি মাসে 50,000টি পণ্যের বিবরণ তৈরি করে। প্রতিটি অনুরোধ গড়ে 500 টোকেন ইনপুট (পণ্যের তথ্য) পাঠায় এবং 300 টোকেন আউটপুট (বর্ণনা) পায়। একটি সুষম মডেলে (ইনপুট ~3, আউটপুট ~15):

• ইনপুট খরচ: 50,000 × 500 × 3 / 1,000,000 = $75
• আউটপুট খরচ: 50,000 × 300 × 15 / 1,000,000 = $225
• মোট ≈ $300/মাস

যদি তারা লাইটওয়েট মডেলে একই কাজ করে থাকে (ইনপুট ~1, আউটপুট ~5):

• ইনপুট: 50,000 × 500 × 1 / 1,000,000 = $25
• আউটপুট: 50,000 × 300 × 5 / 1,000,000 = $75
• মোট ≈ $100/মাস

তাই শুধু স্টেজ নির্বাচন একই কাজ $300 থেকে $100 কমাতে পারে। একটি পণ্যের বিবরণের মতো তুলনামূলকভাবে সহজ কাজের জন্য, হালকা ওজনের মডেলটি প্রায়শই যথেষ্ট নয়।

সতর্কতা: এই সূত্রটি একটি মোটামুটি অনুমান; প্রকৃত বিলিং ক্যাশে ব্যবহার, পুনরায় চেষ্টা এবং যুক্তি মোডের মতো কারণগুলির সাথে পরিবর্তিত হয়। তবুও, বাজেট নিশ্চিতকরণ বা দুটি মডেলের তুলনা করার জন্য এটি একটি খুব ভাল শুরু। সিদ্ধান্ত নেওয়ার আগে একটি ছোট পাইলট দিয়ে প্রকৃত সংখ্যা পরিমাপ করা ভাল।

খরচ কমানোর পাঁচটি পদ্ধতি

1. সঠিক স্তর নির্বাচন করুন. সহজ, হালকা মডেল। এটি সঞ্চয়ের একক বৃহত্তম উত্স।
2. ইনপুট ছোট করুন। প্রতিটি অনুরোধের জন্য বিশাল নথি পূরণ করার পরিবর্তে, শুধুমাত্র প্রাসঙ্গিক বিভাগ পাঠান (ইউনিট 5 এ প্রসঙ্গ অপ্টিমাইজেশান)।
3. সীমিত আউটপুট। উত্তরের দৈর্ঘ্য এবং বিন্যাস স্পষ্ট করুন; অপ্রয়োজনীয় দীর্ঘ উত্তর = অপ্রয়োজনীয় খরচ।
4. ক্যাশিং ব্যবহার করুন। Many providers allow you to cache and re-read repeated fixed inputs (e.g. the same system instruction) much cheaper. আপনি যদি একই বড় নির্দেশ হাজার হাজার বার পাঠান তাহলে এটি উল্লেখযোগ্য সঞ্চয় প্রদান করে।
5. ব্যাচ প্রক্রিয়াকরণ সঞ্চালন. আপনি যদি তাড়াহুড়ো না করেন তবে "ব্যাচ" বিকল্পগুলি, যা প্রচুর অনুরোধ পাঠায় এবং সেগুলিকে ডিসকাউন্টে প্রক্রিয়া করে, উল্লেখযোগ্যভাবে খরচ কমিয়ে দেয়।

তিনটি বাস্তবসম্মত কেস

কেস 1 — ধাপ পরিবর্তন সহ সঞ্চয়। একটি গ্রাহক পরিষেবা দল শক্তিশালী মডেল সহ সমস্ত আগত ইমেলগুলির সংক্ষিপ্তসার করছিল এবং তাদের মাসিক বিল ছিল ~$900৷ সংক্ষিপ্তকরণ একটি সহজ কাজ ছিল; যখন তারা সুষম স্তরে চলে যায়, আউটপুট গুণমান প্রায় একই থাকে, কিন্তু বিল ~$250 এ নেমে আসে। প্রতি বছর সঞ্চয় ~$7,800, শুধুমাত্র সঠিক স্তর নির্বাচন করে।

কেস 2 - ক্যাশে দিয়ে সংরক্ষণ করা হচ্ছে। একটি সফ্টওয়্যার দল প্রতিটি কোড পর্যালোচনার অনুরোধের সাথে একই 8,000 টোকেন "কোডিং মান" নথি পাঠাচ্ছিল। প্রতিদিন 400টি অনুরোধ × 8,000 টোকেন = বড় পুনরাবৃত্ত ইনপুট। যখন তারা ক্যাশে বৈশিষ্ট্যটি চালু করে, তখন এই স্থির পার্টিশনটি আরও সস্তায় পড়তে শুরু করে এবং ইনপুট খরচের একটি উল্লেখযোগ্য অংশ অদৃশ্য হয়ে যায়।

কেস 3 - আউটপুট সীমিত করে সঞ্চয়। যখন একটি বিপণন দল একটি পণ্যের বিবরণ চেয়েছিল, তখন মডেলটি একটি সময়ে দীর্ঘ, ফুলের অনুচ্ছেদ তৈরি করেছিল। যখন তারা "সর্বোচ্চ 60 শব্দ, একক অনুচ্ছেদ" সীমাবদ্ধতা যোগ করে, তখন ব্যাখ্যাগুলি আরও কার্যকর হয়ে ওঠে এবং আউটপুট টোকেন অর্ধেক হয়ে যায়। গুণমান বাড়লেও খরচ কমেছে; জয়-জয়

দুর্বল প্রম্পট / শক্তিশালী প্রম্পট

দুর্বল প্রম্পট:

এই পণ্যের জন্য আমাকে একটি সুন্দর বর্ণনা লিখুন. [পণ্যের তথ্য]

মডেল যতক্ষণ চায় ততক্ষণ লিখতে পারে; আউটপুট টোকেন অনিয়ন্ত্রিত।

শক্তিশালী প্রম্পট:

আপনার ভূমিকা: ই-কমার্স কপিরাইটার। পণ্য: [তথ্য]। কাজ: একটি পণ্যের বিবরণ লিখুন। বিধিনিষেধ: সর্বাধিক 60 শব্দ, একটি অনুচ্ছেদ, নন-টেকনিক্যাল গ্রাহকদের কাছে আবেদন, 2টি সুবিধা + 1টি ব্যবহারের ক্ষেত্রে। অভিনব বিশেষণ এড়িয়ে চলুন।

শক্তিশালী প্রম্পট গুণমান এবং আউটপুট দৈর্ঘ্য উভয়ই নিয়ন্ত্রণ করে (এবং তাই খরচ)

অনুলিপিযোগ্য টেমপ্লেট

1. মাসিক খরচ অনুমান:

আমি প্রতি মাসে [QUANTITY] অনুরোধ করি। গড় ইনপুট ~[NUM] টোকেন, আউটপুট ~[NUM] টোকেন। সূত্রের সাথে নিম্নলিখিত মডেলগুলির ([মডেল এ], [মোডেল বি]) মাসিক খরচ গণনা করুন এবং একটি টেবিলে তুলনা করুন। ইনপুট/আউটপুট মূল্য গ্রহণ করুন [PRICES]।

স্তর 2 তুলনা:

আমার দায়িত্ব [টাস্ক]। এই কাজের জন্য কি সত্যিই একটি শক্তিশালী মডেলের প্রয়োজন, বা একটি হালকা/ভারসাম্যপূর্ণ মডেল যথেষ্ট? গুণমান এবং খরচের পরিপ্রেক্ষিতে মূল্যায়ন করুন এবং পাইলট পরীক্ষার জন্য আমার জন্য 2 টি স্তরের পরামর্শ দিন।

3. খরচ হ্রাস স্ক্রীনিং:

নিম্নলিখিত ওয়ার্কফ্লোতে খরচ কমানোর উপায়গুলি চিহ্নিত করুন: [ওয়ার্কফ্লো]। প্রতিটি ক্যাসকেড, ইনপুট হ্রাস, আউটপুট বাউন্ড, ক্যাশে এবং ব্যাচ প্রসেসিং হেডারগুলির জন্য সম্ভাব্যতা এবং আনুমানিক সঞ্চয় লিখুন।

4. আউটপুট সীমাবদ্ধতা:

গুণমান না কমিয়ে আউটপুট টোকেন কমাতে নিম্নলিখিত প্রম্পটটি পুনরায় লিখুন: "[PROMPT]"। দৈর্ঘ্য, বিন্যাস এবং অপ্রয়োজনীয় পুনরাবৃত্তির জন্য অপ্টিমাইজ করুন।

সাধারণ ভুল

• ইনপুট/আউটপুট পার্থক্য এড়িয়ে যাওয়া: আউটপুট অনেক বেশি ব্যয়বহুল তা না জেনে দীর্ঘ উত্তরের অনুমতি দেওয়া।
• প্রতিটি কাজের জন্য সবচেয়ে শক্তিশালী মডেল: একটি ব্যয়বহুল মডেলের সাথে একটি সাধারণ কাজ করা এবং অপ্রয়োজনীয়ভাবে অনেক গুণ বেশি অর্থ প্রদান করা।
• আউটপুট দৈর্ঘ্য প্রকাশ করা: কোনো বিন্যাস বা দৈর্ঘ্যের সীমাবদ্ধতা আরোপ না করে মডেলটিকে সীমাহীন লেখার অনুমতি দেওয়া।
• ক্যাশে এবং ব্যাচ উপেক্ষা করা: পুনরাবৃত্তিমূলক ইনপুট এবং অ-জরুরী কাজগুলির জন্য গুরুতর সঞ্চয়ের সুযোগগুলি হারিয়েছে৷
• মূল্যগুলি আপ-টু-ডেট মনে করা: একটি পুরানো মূল্য টেবিলের উপর নির্ভর করা এবং বাজেট ভুলভাবে পরিকল্পনা করা; দাম ঘন ঘন পরিবর্তন.

সংক্ষেপে

• মূল্য টোকেন উপর ভিত্তি করে গণনা করা হয়; ইনপুট এবং আউটপুট আলাদাভাবে মূল্য নির্ধারণ করা হয়, এবং আউটপুট প্রায়ই কয়েকগুণ বেশি ব্যয়বহুল।
• আপনি অনুরোধের সূত্র সংখ্যা × গড় টোকেন × মূল্য দ্বারা মোটামুটিভাবে মাসিক খরচ অনুমান করতে পারেন।
• সঠিক ধাপ নির্বাচন একাই খরচ অনেকবার কমাতে পারে।
• ইনপুট মিনিমাইজেশন, আউটপুট লিমিটিং, ক্যাশিং এবং ব্যাচ প্রসেসিং হল ব্যবহারিক পদ্ধতি যা উল্লেখযোগ্যভাবে বিল কমিয়ে দেয়।

আবেদন টাস্ক

আগের ইউনিটে আপনি যে টোকেন মান অনুমান করেছেন তা পান। এই ইউনিটে টেমপ্লেট 1 সহ দুটি ভিন্ন স্তরের জন্য আপনার ব্যবসার মাসিক খরচ গণনা করুন (মাসিক খরচ অনুমান)। তারপর, 3য় টেমপ্লেট (খরচ হ্রাস স্ক্যান) দিয়ে, প্রতিটি পদ্ধতি আপনার কর্মপ্রবাহে কতটা সঞ্চয় আনতে পারে তা অনুমান করুন। দুটি সবচেয়ে প্রতিশ্রুতিশীল পদ্ধতি বেছে নেওয়ার পরিকল্পনা করুন এবং সেগুলি আপনার পরবর্তী মাসের বাজেটে প্রয়োগ করুন।

চেকলিস্ট

• [ ] আমি জানি যে ইনপুট এবং আউটপুট টোকেনের দাম আলাদা এবং আউটপুট আরও ব্যয়বহুল।
• [ ] আমি সহজ সূত্র দিয়ে একটি কর্মপ্রবাহের মাসিক খরচ মোটামুটিভাবে অনুমান করতে পারি।
• [ ] আমি একটি উদাহরণ সহ সঠিক স্তর নির্বাচন করার খরচ প্রভাব দেখাতে পারেন.
• আমি খরচ কমানোর পাঁচটি পদ্ধতি চিনতে পারি এবং উপযুক্ত একটি বেছে নিতে পারি।
• [ ] আমি আউটপুট টোকেন কমাতে একটি প্রম্পট পুনরায় লিখতে পারি।