লাভ:
- মডেল 'ওজন' এবং অন্তর্নিহিত/স্পষ্ট পার্থক্যের ধারণার কংক্রিট বোঝাপড়া
- ওপেনওয়েট এবং ওপেন সোর্স এবং তাদের লাইসেন্সিং সমস্যাগুলির মধ্যে পার্থক্য দেখুন
- ব্যবসার পরিস্থিতির উপর নির্ভর করে ন্যায্যতা সহ একটি বন্ধ, খোলা বা মিশ্র পদ্ধতি বেছে নেওয়ার ক্ষমতা
পূর্ববর্তী ইউনিটে প্রদানকারীদের জানার সময়, টেবিলে "ওজন প্রকার" নামে একটি কলাম ছিল: বন্ধ, খোলা, মিশ্র। এই একক কলাম আসলে আপনার মডেল নির্বাচনের সবচেয়ে কৌশলগত সিদ্ধান্ত লুকিয়ে রাখে। আপনি একটি বন্ধ বা খোলা ওজন মডেল সঙ্গে কাজ করবে কিনা; এটি সরাসরি নির্ধারণ করে যে আপনার ডেটা কোথায় প্রসেস করা হবে, আপনার মাসিক খরচ কেমন হবে, আপনার টেকনিক্যাল টিমের প্রয়োজন এবং আপনার আইনি দায়িত্ব। এই ইউনিটটি সমাপ্ত হওয়ার সময়, আপনি "ওজন" ধারণা সম্পর্কে একটি সুনির্দিষ্ট ধারণা পাবেন, খোলা ওজন এবং মুক্ত উৎসের মধ্যে সূক্ষ্ম কিন্তু সমালোচনামূলক পার্থক্য দেখতে পাবেন এবং আপনার নিজের পরিস্থিতির জন্য সঠিক পদ্ধতির ন্যায্যতা দিতে সক্ষম হবেন।
"ওজন" ঠিক কি?
একটি AI মডেলকে প্রচুর পরিমাণে পাঠ্যের সাথে প্রশিক্ষিত করা হয় যখন ধীরে ধীরে এর মধ্যে কোটি কোটি সংখ্যাসূচক মান (প্যারামিটার) সামঞ্জস্য করা হয়। এই সমস্ত সংখ্যাকে মডেল ওজন বলা হয়। ওজন হল যেখানে মডেল সঞ্চয় করে "সবকিছু যা শিখেছে"; আপনি এটি একজন ব্যক্তির মস্তিষ্কে সিন্যাপসের শক্তির সাথে তুলনা করতে পারেন। মডেলের ব্যাকরণ, বিশ্ব জ্ঞান, এবং যুক্তির ধরণগুলি এই সংখ্যাগুলিতে কোড করা হয়েছে৷
একটি মডেল "চালানো" মানে এই ওজনগুলিকে একটি কম্পিউটারে লোড করা এবং আপনি যে পাঠ্যটি লিখবেন সেটি চালানো৷ সমালোচনামূলক প্রশ্ন হল: এই ওজনের ফাইলগুলিতে কার অ্যাক্সেস আছে?
- ক্লোজড-ওয়েট: ওজন শুধুমাত্র প্রদানকারীর সার্ভারে থাকে। আপনি তাদের সরাসরি অ্যাক্সেস করতে পারবেন না; আপনি এটি একটি ইন্টারফেসের (API) মাধ্যমে ইন্টারনেটে "পাঠ্য পাঠান, প্রতিক্রিয়া পান" পদ্ধতিতে ব্যবহার করেন। Anthropic Claude, OpenAI GPT, Google Gemini এরকম। (এপিআই একটি ইন্টারফেস যা একটি সফ্টওয়্যারকে একটি স্ট্যান্ডার্ড পোর্টের মাধ্যমে অন্য সফ্টওয়্যারে একটি অনুরোধ পাঠাতে এবং একটি প্রতিক্রিয়া পেতে দেয়৷)
- খোলা ওজন: ওজন ফাইল ডাউনলোড করা যেতে পারে. আপনি যদি চান, আপনি এটি আপনার নিজের সার্ভারে ইনস্টল এবং চালাতে পারেন। মেটা লামা, ডিপসিক, মিস্ট্রালের কিছু মডেল এরকম।
টিপ: বন্ধ ওজনকে "ভাড়া অ্যাপার্টমেন্ট" এবং খোলা ওজনকে "ক্রয় করা বাড়ি" হিসাবে ভাবুন। ভাড়া করা ফ্ল্যাটে চলাফেরা করা সহজ, রক্ষণাবেক্ষণের দায়িত্ব আপনার নয়, তবে বাড়িওয়ালা নিয়ম নির্ধারণ করেন। কেনা বাড়ির সবকিছুই আপনার, তবে সংস্কার, নিরাপত্তা এবং বিলের দায়িত্বও আপনার।
ওপেন ওয়েট ওপেন সোর্স হিসাবে একই নয়
এখানে একটি খুব সাধারণ ধারণাগত ত্রুটি রয়েছে। "ওপেন-ওয়েট" এবং "ওপেন-সোর্স" প্রায়ই একে অপরের সাথে ব্যবহার করা হয়, কিন্তু তারা একই জিনিস নয়।
- ওপেন ওয়েটিং মানে মডেলের শুধুমাত্র শেখা প্যারামিটার শেয়ার করা। এটি সাধারণত ব্যাখ্যা করা হয় না কিভাবে মডেলটি প্রশিক্ষিত হয় এবং এটি কোন ডেটা দিয়ে খাওয়ানো হয়।
- সম্পূর্ণরূপে ওপেন সোর্স আদর্শভাবে বোঝায় যে ওজন, প্রশিক্ষণ ডেটা এবং প্রশিক্ষণ কোড উভয়ই ভাগ করা হয় এবং অবাধে ব্যবহার করা যেতে পারে।
লাইসেন্সের সমস্যাও আছে। এমনকি যদি একটি মডেলের ওজন ডাউনলোডযোগ্য হয়, তবে এর লাইসেন্স বাণিজ্যিক ব্যবহার সীমিত করতে পারে, নির্দিষ্ট সংখ্যক ব্যবহারকারীর বাইরে অতিরিক্ত প্রয়োজনীয়তা আরোপ করতে পারে বা প্রতিযোগিতামূলক পণ্য বিকাশ নিষিদ্ধ করতে পারে। সুতরাং "আমি এটি ডাউনলোড করতে পারি" এবং "আমি এটি আমার ইচ্ছামতো ব্যবহার করতে পারি" ভিন্ন জিনিস।
সতর্কতা: আপনার ব্যবসায় একটি ওপেন ওয়েট মডেল রাখার আগে, এর লাইসেন্সটি পড়তে ভুলবেন না। "খোলা" শব্দের দ্বারা প্রতারিত হবেন না; কিছু লাইসেন্সের জন্য নির্দিষ্ট সংখ্যক মাসিক সক্রিয় ব্যবহারকারীর উপরে আলাদা চুক্তির প্রয়োজন হয় এবং কিছু নির্দিষ্ট উদ্দেশ্যে আউটপুট ব্যবহার সীমাবদ্ধ করে। এটি এমন কিছু যা আপনার আইনী দলকে জিজ্ঞাসা করা উচিত।
দুটি পদ্ধতির তুলনা
নীচের সারণী দুটি পন্থাকে পাশাপাশি রাখে মূল মাত্রার উপর।
আকার
বন্ধ ওজন
খোলা ওজন
ইনস্টলেশন
কিছুই না, প্রস্তুত ইন্টারফেস
সার্ভার এবং প্রযুক্তিগত দল প্রয়োজন
যেখানে ডেটা প্রসেস করা হয়
প্রদানকারীর সার্ভারে
আপনার নিয়ন্ত্রণে একটি পরিবেশে
প্রাথমিক খরচ
কম (যাওয়ার সাথে সাথে অর্থ প্রদান করুন)
উচ্চ (হার্ডওয়্যার, ইনস্টলেশন)
স্কেলে খরচ
আয়তনের সাথে বৃদ্ধি পায়
স্থির হার্ডওয়্যারের সাথে অনুমানযোগ্য
আপডেট/রক্ষণাবেক্ষণ
প্রদানকারী এ
আপনিও
গোপনীয়তা নিয়ন্ত্রণ
সীমিত
পূর্ণ
সবচেয়ে শক্তিশালী মডেল অ্যাক্সেস
সাধারণত এখানে
পরিবর্তনশীল
এই টেবিলে, "কোনটি ভাল" এর কোন একক উত্তর নেই; আপনার অগ্রাধিকারের উপর নির্ভর করে প্রতিটি লাইন প্লাস বা বিয়োগ। আপনি যদি চান প্রাথমিক খরচ কম, বন্ধ ওজন; যদি ডেটা কোম্পানিকে এক মিলিমিটারও ছেড়ে না দেয় তবে খোলা ওজন সামনে আসে।
তিনটি বাস্তবসম্মত কেস
কেস 1 — ই-কমার্স স্টার্টআপ (বন্ধ বৃদ্ধি ওজন)। একটি পাঁচ ব্যক্তির ই-কমার্স দল পণ্যের বিবরণ তৈরি করতে চায়। তাদের প্রযুক্তিগত দল নেই, তারা সার্ভার পরিচালনা করতে চায় না, মাসিক ভলিউম পরিবর্তনশীল। তারা একটি বন্ধ-ওজন মডেল দিয়ে শুরু করে, তারা যা ব্যবহার করে তার জন্য অর্থ প্রদান করে। প্রথম মাসে, তারা 1.2 মিলিয়ন টোকেন প্রক্রিয়া করে এবং প্রায় $15 প্রদান করে; তাদের ব্যবসার বৃদ্ধির সাথে সাথে বিলও আনুপাতিকভাবে বৃদ্ধি পায়। কোন সার্ভার, রক্ষণাবেক্ষণ বা আপডেট সমস্যা নেই. এই প্রোফাইলের জন্য সঠিক পছন্দ স্পষ্ট।
কেস 2 — হাসপাতাল (ঘাটতি ওজন বাড়ায়)। একটি হাসপাতাল রোগীর নোট সংক্ষিপ্ত করতে এবং কোড করতে চায়। তথ্য অত্যন্ত সংবেদনশীল স্বাস্থ্য তথ্য; কোন অবস্থাতেই প্রতিষ্ঠান ত্যাগ করা উচিত নয়। তারা তাদের ডেটা সেন্টারে একটি ওপেন ওয়েট মডেল তৈরি করছে। তারা সেটআপ এবং হার্ডওয়্যারে একটি মোটা প্রাথমিক বিনিয়োগ করে (বলুন, একটি $40,000 সার্ভার এবং সেটআপ শ্রমের দুই সপ্তাহ), কিন্তু তারপর তারা রোগী প্রতি অতিরিক্ত টোকেন ফি প্রদান করে না এবং ডেটা কখনই একটি বহিরাগত সার্ভারে যায় না। উচ্চ ভলিউম এবং পরম গোপনীয়তা প্রাথমিক খরচ ন্যায্যতা.
কেস 3 — মাঝারি আকারের অ্যাকাউন্টিং ফার্ম (হাইব্রিড পদ্ধতির জয়)। একটি অ্যাকাউন্টিং ফার্ম দৈনিক সাধারণ চিঠিপত্র এবং খসড়া পাঠ্যের জন্য একটি তৈরি ইন্টারফেস থেকে একটি বন্ধ ওজনের মডেল ব্যবহার করে; কারণ এটি এই কাজের জন্য ইনস্টলেশন প্রচেষ্টার মূল্য নয়। যাইহোক, তারা তাদের নিজস্ব সার্ভারে চলমান একটি ওপেন ওয়েট মডেলে গ্রাহকের আর্থিক ডেটা জড়িত সংবেদনশীল বিশ্লেষণ আউটসোর্স করে। এইভাবে, তারা একই সময়ে সুবিধা এবং গোপনীয়তা উভয় থেকে উপকৃত হয়। আমরা ইউনিট 9 এ এই "মিশ্র পোর্টফোলিও" পদ্ধতিতে ফিরে যাব।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট: যখন সিদ্ধান্ত সমর্থনের জন্য জিজ্ঞাসা করা হয়
দুর্বল প্রম্পট:
আমি খোলা ওজন বা বন্ধ ওজন ব্যবহার করা উচিত?
শক্তিশালী প্রম্পট:
আপনার ভূমিকা: এন্টারপ্রাইজ এআই আর্কিটেক্ট। আমার পরিস্থিতি: আমরা একটি 12-ব্যক্তির অ্যাকাউন্টিং ফার্ম, আমাদের কোনও প্রযুক্তিগত দল নেই তবে আমাদের একজন বহিরাগত আইটি পরামর্শদাতা রয়েছে। ~500,000 টোকেন প্রতি মাসে ব্যবসা। কিছু তথ্য গ্রাহকের আর্থিক তথ্য (সংবেদনশীল), কিছু সাধারণ চিঠিপত্র। আমাদের কেভিকেকে মেনে চলতে হবে। টাস্ক: সেই অনুযায়ী বন্ধ, খোলা এবং মিশ্র পদ্ধতির তুলনা করুন। প্রতিটির জন্য: উপযুক্ততা (1-5), আনুমানিক প্রথম বছরের খরচ পরিসীমা, গোপনীয়তা নোট, প্রধান ঝুঁকি। অবশেষে, একটি পরামর্শ দিন এবং 3 পয়েন্টে কারণটি সংক্ষিপ্ত করুন।
দ্বিতীয় প্রম্পট মডেলটিকে এমন একটি সুপারিশ তৈরি করতে দেয় যা সত্যিই আপনার ব্যবসার জন্য উপযুক্ত, কারণ এটি সিদ্ধান্তের জন্য প্রয়োজনীয় সমস্ত সীমানা দেয় (টিম, ভলিউম, ডেটা টাইপ, আইনি কাঠামো)।
অনুলিপিযোগ্য টেমপ্লেট
1. ওজন ধরনের সিদ্ধান্ত:
আমার কাজ: [বর্ণনা]। প্রযুক্তিগত দল: [হ্যাঁ/না]। মাসিক টোকেন ভলিউম: [NUM]।ডেটা সংবেদনশীলতা: [নিম্ন/মাঝারি/উচ্চ]। বাজেট কাঠামো পছন্দ: [নিম্ন শুরু / পূর্বাভাসযোগ্য স্থির]। এই প্রোফাইল অনুসারে বন্ধ, খোলা এবং মিশ্র বিকল্পের তুলনা করুন এবং একটি একক সুপারিশ দিন।
2. লাইসেন্স চেক:
এই ওপেন ওয়েট মডেলের লাইসেন্স সরলীকরণ করুন: [লাইসেন্স NAME/TEXT]। এই প্রশ্নের উত্তর দিন: বাণিজ্যিক ব্যবহার অনুমোদিত? ব্যবহারকারী/রাজস্ব সীমা আছে? আমি কি আউটপুট পুনরায় বিক্রি করতে পারি? এটা নিষিদ্ধ ব্যবহার কি কি? অস্পষ্ট হলে, "একজন আইনজীবীকে জিজ্ঞাসা করুন" লিখুন।
3. খরচ ভাঙ্গন:
একটি বেয়ার-ওয়েট মডেলের জন্য মালিকানার মোট খরচ ভেঙে দিন: হার্ডওয়্যার, ইনস্টলেশন শ্রম, বিদ্যুৎ/হোস্টিং, রক্ষণাবেক্ষণ, আপডেট। বন্ধ ওজন বিকল্প সঙ্গে একটি মোটামুটি 3 বছরের তুলনা করুন. আমার মাসিক ভলিউম: [NUMBER]।
4. গোপনীয়তা ঝুঁকি স্ক্রীনিং:
নিচের ওয়ার্কফ্লোতে কোথায় থেকে ডেটা কোথায় যায় তা ট্রেস করুন: [ওয়ার্কফ্লো বর্ণনা]। কিভাবে এই ঝুঁকি খোলা ওজন পরিবর্তন করে? প্রতিটি ঝুঁকির জন্য একটি প্রশমন পরিমাপের পরামর্শ দিন।
সাধারণ ভুল
- "মুক্ত এবং সীমাহীন" এর জন্য "খোলা" শব্দটি ভুল করা: খোলা ওজন বিনামূল্যে বা সীমাহীন বাণিজ্যিক ব্যবহারের গ্যারান্টি দেয় না; লাইসেন্স নির্ধারক।
- ওপেন ওয়েট ভাবা "সহজ": একটি ওপেন ওয়েট মডেল চালানোর জন্য সার্ভার, টেকনিক্যাল স্টাফ এবং রক্ষণাবেক্ষণ প্রয়োজন; ইনস্টলেশন অবমূল্যায়ন একটি সাধারণ ভুল.
- ক্লোজড ওয়েট ডাটা মোটেও বিবেচনা না করা: ক্লোজড মডেলে ডেটা প্রোভাইডারের কাছে যায়; কোন ডেটা যেতে পারে তা আগে থেকে বাছাই না করে শুরু করা ঝুঁকিপূর্ণ।
- শুধুমাত্র প্রাথমিক খরচের দিকে তাকালে: খোলা ওজন প্রাথমিকভাবে ব্যয়বহুল মনে হতে পারে, তবে এটি দীর্ঘমেয়াদে খুব বেশি পরিমাণে সস্তা হতে পারে। তিন বছরে মোট খরচ দেখুন।
- 'সবচেয়ে শক্তিশালী প্যাটার্ন সবসময় বন্ধ থাকে' নীতিবাক্য: যদিও এটি বেশিরভাগ সময় সত্য হয়, এটি পরম নয়; ওপেন ওয়েট মডেলগুলি নির্দিষ্ট কাজের জন্য পর্যাপ্ত থেকে বেশি হতে পারে।
সংক্ষেপে
- মডেলের ওজন হল কোটি কোটি প্যারামিটার যা মডেলটি শেখা তথ্য সংরক্ষণ করে; "অফ/অন" পার্থক্য হল এই প্যারামিটারগুলি অ্যাক্সেস করার বিষয়ে।
- বন্ধ ওজন: প্রস্তুত ইন্টারফেস, কম শুরু, ডেটা প্রদানকারীর উপর। সুস্পষ্ট ওজন: আপনার নিজের সার্ভার, সম্পূর্ণ নিয়ন্ত্রণ, উচ্চ স্টার্টআপ এবং রক্ষণাবেক্ষণ ওভারহেড।
- খোলা ওজন ওপেন সোর্স হিসাবে একই নয়; লাইসেন্সের শর্তাবলী বাণিজ্যিক ব্যবহার সীমিত করতে পারে।
- সঠিক পছন্দ; দল, ভলিউম, ডেটা সংবেদনশীলতা এবং বাজেট কাঠামোর উপর নির্ভর করে পরিবর্তিত হয়। একটি হাইব্রিড পদ্ধতি বেশিরভাগ মাঝারি আকারের ব্যবসার জন্য অর্থপূর্ণ করে তোলে।
আবেদন টাস্ক
আগের ইউনিটে আপনার তৈরি প্রয়োজনীয় প্রোফাইল নিন। এই ইউনিটে টেমপ্লেট 1 (ওজন টাইপ সিদ্ধান্ত) ব্যবহার করে একটি AI মডেলকে এটি দিন। সারণীতে থাকা সাতটি মাত্রার (ইনস্টলেশন, ডেটা অবস্থান, স্টার্টআপ খরচ, স্কেলের খরচ, রক্ষণাবেক্ষণ, গোপনীয়তা, শক্তিশালী মডেলে অ্যাক্সেস) এর সাথে একে একে মেলে ফলাফলের সুপারিশটি নিজেই মূল্যায়ন করুন। যদি আপনার মূল্যায়ন মডেলের সুপারিশ থেকে ভিন্ন হয়, তাহলে একটি বাক্যে নোট করুন যেখানে আপনি ভিন্ন।
চেকলিস্ট
- [ ] আমি আমার নিজের ভাষায় "ওজন" ধারণাটি ব্যাখ্যা করতে পারি।
- [ ] আমি সাত মাত্রায় বন্ধ এবং খোলা ওজনের সুবিধা/অসুবিধা তুলনা করতে পারি।
- [ ] আমি ওপেনওয়েট এবং ওপেন সোর্স এবং লাইসেন্সিং ঝুঁকির মধ্যে পার্থক্য জানি৷
- [ ] আমি আমার নিজের ব্যবসার জন্য বন্ধ/খোলা/হাইব্রিড পছন্দকে ন্যায্যতা দিতে পারি।
- [ ] আমি ট্র্যাক করতে পারি কর্মপ্রবাহে ডেটা কোথায় যাচ্ছে এবং ঝুঁকির পয়েন্ট দেখাতে পারি।