লাভ:
- মেটা (লামা), মিস্ট্রাল, xAI (গ্রোক), ডিপসিক এবং কোহেরের অবস্থানকে স্বীকৃতি দেওয়া
- কোন ব্যবসাটি ওপেন-ওয়েট, আঞ্চলিক এবং খরচ-কেন্দ্রিক প্রদানকারীদের জন্য সবচেয়ে উপযুক্ত তা চিহ্নিত করা
- একটি নির্বাচনের মানদণ্ড হিসাবে উত্স এবং লাইসেন্সের দেশ মূল্যায়ন করার ক্ষমতা
আমরা বড় তিনটি মার্কিন প্রদানকারী জানতে পেরেছি. যাইহোক, এই ভেবে যে বাজারটি তাদের সম্পর্কেই রয়েছে আপনার কাছে থাকা কিছু মূল্যবান বিকল্পগুলিকে উপেক্ষা করা। মেটা, ক্লিয়ার লিডার, মিস্ট্রাল, ইউরোপের গর্ব, xAI, যা রিয়েল-টাইম ডেটা নিয়ে কাজ করে, ডিপসিক, যা তার খরচ/পারফরম্যান্স ব্যালেন্সের সাথে আলাদা, এবং কোহেরে, যা কর্পোরেট ডকুমেন্ট কোয়েরিতে বিশেষজ্ঞ; সবগুলোই বড় তিনটির চেয়ে নির্দিষ্ট কাজের জন্য উপযুক্ত হতে পারে। এই ইউনিটে, আপনি উদ্দেশ্যমূলকভাবে এই পাঁচজন খেলোয়াড়, তাদের অবস্থান এবং তারা কোন কাজের জন্য উপযুক্ত তা জানতে পারবেন; আপনি দেখতে পাবেন কেন মূল দেশ এবং লাইসেন্স একটি নির্বাচনের মাপকাঠি।
মেটা — লামা পরিবার (ওপেন ওয়েট লিডার)
মেটার লামা পরিবার ওপেন ওয়েট ওয়ার্ল্ডে সবচেয়ে স্বীকৃত নাম। যেহেতু ওজনগুলি ডাউনলোডযোগ্য, আপনি সেগুলিকে আপনার নিজের সার্ভারে চালাতে পারেন এবং ডেটা বের না করেই এটি প্রক্রিয়া করতে পারেন। বিভিন্ন আকারের সংস্করণ রয়েছে: ছোট মডেলগুলি এমনকি একটি সাধারণ সার্ভারেও কাজ করে, যখন বড় মডেলগুলির জন্য শক্তিশালী হার্ডওয়্যারের প্রয়োজন হয়।
ক্ষেত্রগুলি যেখানে এটি দাঁড়িয়েছে: যে প্রতিষ্ঠানগুলি সম্পূর্ণ ডেটা নিয়ন্ত্রণ চায়; যারা খুব উচ্চ ভলিউমে খরচ অনুমানযোগ্য করতে চান; এবং যারা তাদের নিজস্ব ডেটা দিয়ে মডেলটি কাস্টমাইজ করতে চান (ফাইন-টিউনিং)। ফাইন-টিউনিং হল আপনার ব্যবসার জন্য একটি রেডিমেড মডেলকে আপনার নিজের উদাহরণ দিয়ে পুনরায় প্রশিক্ষণ দিয়ে কাস্টমাইজ করা।
সাধারণ ব্যবহারকারী: তাদের নিজস্ব ডেটা সেন্টার সহ বড় প্রতিষ্ঠান, গোপনীয়তা-সমালোচনামূলক শিল্প, শক্তিশালী প্রযুক্তিগত দল সহ কোম্পানি।
সতর্কতা: যদিও লামা লাইসেন্সটি "উন্মুক্ত", এটি শর্তহীন নয়; একটি নির্দিষ্ট সক্রিয় ব্যবহারকারী থ্রেশহোল্ডের উপরে খুব বড় কোম্পানিগুলির জন্য অতিরিক্ত প্রয়োজনীয়তা অন্তর্ভুক্ত থাকতে পারে। লাইসেন্সটি ব্যবসা করার আগে আপনার আইনি দলের সাথে পড়ুন।
মিস্ট্রাল - ইউরোপের প্রদানকারী
মিস্ট্রাল, ফ্রান্সে অবস্থিত, তার ইউরোপীয় উত্সের সাথে আলাদা। এটি একটি "মিশ্র" প্রদানকারী কারণ এটি খোলা ওজনের মডেল (যেমন মিক্সট্রাল) এবং বন্ধ, আরও শক্তিশালী মডেল উভয়ই অফার করে। এটি ইউরোপে ডেটা সার্বভৌমত্বের উদ্বেগ সহ সংস্থাগুলির জন্য একটি স্বাভাবিক প্রার্থী; কারণ প্রদানকারী নিজেই EU-এর মধ্যে।
বিশিষ্টতার ক্ষেত্র: ইউরোপীয় আইনি কাঠামোর সাথে সম্মতির সাথে সংশ্লিষ্ট প্রতিষ্ঠান; যারা খোলা ওজনের নমনীয়তা এবং একই ছাদের নীচে একটি বন্ধ মডেলের সুবিধা চান; এবং বহুভাষিক ইউরোপীয় ভাষা সমর্থন।
সাধারণ ব্যবহারকারী: EU তে কাজ করা মাঝারি এবং বড় আকারের প্রতিষ্ঠান যারা তাদের ডেটা EU সীমানার মধ্যে থাকতে চায়।
xAI — Grok (রিয়েল টাইম ডেটা)
xAI-এর Grok মডেলটি X (সাবেক টুইটার) প্ল্যাটফর্মের সাথে একীকরণ এবং বর্তমান, রিয়েল-টাইম ডেটা অ্যাক্সেসের মাধ্যমে অবস্থান করে। যদিও এটি একটি সাধারণ-উদ্দেশ্য মডেল, এটি বর্তমান ঘটনা এবং সামাজিক মিডিয়া পালস প্রতিফলিত করার দাবির সাথে মনোযোগ আকর্ষণ করে।
ক্ষেত্র যেখানে এটি দাঁড়িয়েছে: বর্তমান ইভেন্ট ট্র্যাকিং, সামাজিক মিডিয়া বিশ্লেষণ, এজেন্ডা-সম্পর্কিত বিষয়বস্তু। রিয়েল-টাইম কানেক্টিভিটি মূল্যবান যখন একটি মডেলের এমন কিছু জানার প্রয়োজন হয় যা "এইমাত্র ঘটেছে।"
সাধারণ ব্যবহারকারী: সোশ্যাল মিডিয়া দল, বিপণনকারী যারা ব্র্যান্ডগুলি নিরীক্ষণ করে, সামগ্রী প্রযোজক যাদের এজেন্ডা ট্র্যাকিং গুরুত্বপূর্ণ।
ডিপসিক — খরচ/পারফরম্যান্স (চীনের মূল)
চীন-ভিত্তিক ডিপসিক কম খরচে শক্তিশালী পারফরম্যান্সের জন্য আলাদা, এবং এর কিছু মডেল খোলা ওজনের। এটি প্রতিযোগিতামূলক ফলাফল অফার করে, বিশেষ করে যুক্তি-নিবিড় কাজগুলিতে, মূল্য সুবিধা দেওয়ার সময়।
ক্ষেত্র যেখানে এটি দাঁড়িয়েছে: উচ্চ বাজেট সংবেদনশীলতা সহ উচ্চ-ভলিউম যুক্তিযুক্ত কাজ; যে দলগুলি পরিষ্কার ওজন নমনীয়তা চায় কিন্তু খরচ কম রাখতে হবে।
সাধারণ ব্যবহারকারী: খরচ-কেন্দ্রিক উদ্যোগ, দলগুলি উচ্চ-ভলিউম বিশ্লেষণ করছে।
মনোযোগ: ডিপসিক চীন থেকে উদ্ভূত। আপনি যদি ব্যক্তিগত বা ট্রেড সিক্রেট ডেটা প্রসেস করতে যাচ্ছেন, তাহলে ডেটা কোথায় প্রসেস এবং স্টোর করা হয় তা স্পষ্ট করতে ভুলবেন না। আপনার নিজের সার্ভারে ওপেনওয়েট সংস্করণ চালানো এই উদ্বেগ দূর করে; ডেটা সার্বভৌমত্বের পরিপ্রেক্ষিতে একটি ক্লাউড পরিষেবা ব্যবহার সাবধানতার সাথে মূল্যায়ন করা উচিত। আমরা ইউনিট 8 এ এই বিষয়টি গভীরভাবে কভার করব।
Cohere — এন্টারপ্রাইজ অনুসন্ধান এবং RAG
কানাডা-ভিত্তিক Cohere ভোক্তা চ্যাট অ্যাপ্লিকেশনের পরিবর্তে এন্টারপ্রাইজ কাজের চাপের জন্য অবস্থান করছে। এটি বিশেষ করে RAG (আনয়িত জ্ঞানের সাথে তৈরি করা) পরিস্থিতিতে শক্তিশালী; অর্থাৎ, এমন সিস্টেমে যেখানে মডেলটি সাড়া দেওয়ার আগে আপনার নথি সংরক্ষণাগার থেকে প্রাসঙ্গিক অংশগুলি খুঁজে পায় এবং পড়ে। এটি "এমবেডিং" মডেলগুলির সাথে কর্পোরেট অনুসন্ধান পরিকাঠামো স্থাপনের জন্যও পছন্দ করা হয় যা পাঠ্যকে সংখ্যাসূচক ভেক্টরে রূপান্তর করে। (এম্বেডিং একটি পাঠ্যের অর্থকে সংখ্যায় রূপান্তর করছে যাতে অনুরূপ পাঠগুলি পাশাপাশি রাখা যায়।)
ক্ষেত্রগুলি যেখানে এটি দাঁড়িয়েছে: ইন-হাউস ডকুমেন্ট কোয়েরি, স্মার্ট অনুসন্ধান, জ্ঞানের ভিত্তিতে প্রশ্ন-উত্তর সিস্টেম।
সাধারণ ব্যবহারকারী: বৃহৎ নথি সংরক্ষণাগার সহ প্রতিষ্ঠান, দল যারা তাদের অভ্যন্তরীণ জ্ঞানের ভিত্তিকে AI দিয়ে অনুসন্ধানযোগ্য করে তুলতে চায়।
পাশাপাশি পাঁচজন খেলোয়াড়
প্রদানকারী
বৈশিষ্ট্যযুক্ত মান
ওজন
উৎপত্তি
সাধারণ চাকরি
মেটা (লামা)
সম্পূর্ণ নিয়ন্ত্রণ, সূক্ষ্ম টিউনিং
খোলা
USA
নিজস্ব সার্ভারে গোপন ব্যবসা
মিস্ট্রাল
ইইউ মূল, নমনীয়তা
মিশ্রিত
ফ্রান্স
ইইউ ডেটা সার্বভৌমত্ব
xAI (Grok)
রিয়েল টাইম ডেটা
বন্ধ
USA
এজেন্ডা/সোশ্যাল মিডিয়া
ডিপসিক
খরচ/কর্মক্ষমতা
খোলা
চীন
উচ্চ ভলিউম, বাজেট ভিত্তিক
সমন্বিত
এন্টারপ্রাইজ অনুসন্ধান/RAG
মিশ্রিত
কানাডা
নথি তদন্ত
তিনটি বাস্তবসম্মত কেস
কেস 1 - EU-তে কাজ করছে এমন উত্পাদনকারী সংস্থা। জার্মানিতে কারখানা সহ একটি সংস্থা AI এর সাথে প্রযুক্তিগত ডকুমেন্টেশন অনুসন্ধান করতে চায়, কিন্তু চায় না যে তার ডেটা EU-এর বাইরে চলে যাক৷ তারা মিস্ট্রালের ইইউ-ভিত্তিক বন্ধ মডেল বেছে নেয়; এটি উভয়ই শক্তিশালী এবং আইনি কাঠামোর সাথে সঙ্গতিপূর্ণ। ~800,000 টোকেন মাসিক চাকরিটি একটি অনুমানযোগ্য বিলে পরিণত হয় এবং আইনি দল স্বস্তি পায়।
কেস 2 — বাজেট-সীমাবদ্ধ বিশ্লেষণমূলক উদ্যোগ। একটি আট-ব্যক্তির ডেটা অ্যানালিটিক্স স্টার্টআপকে অবশ্যই দিনে হাজার হাজার ছোট পাঠের শ্রেণীবিভাগ এবং সংক্ষিপ্তকরণ করতে হবে, তবে এর বাজেট কঠোর। তারা ভাড়া করা সার্ভারে ডিপসিকের ওপেন ওয়েট মডেল চালায়; এইভাবে, তারা প্রতি টোকেন অর্থ প্রদান করে না এবং তারা কখনই ডেটা বের না করে উৎপন্ন ডেটা সম্পর্কে উদ্বেগ সমাধান করে।
কেস 3 — বৃহৎ বীমা কোম্পানির জ্ঞানের ভিত্তি। হাজার হাজার পলিসি এবং পদ্ধতির নথি সহ একটি বীমা কোম্পানি তার কর্মীদের জিজ্ঞাসা করেছিল "এই পরিস্থিতিতে কী করবেন?" তিনি সংরক্ষণাগারে তার প্রশ্ন জিজ্ঞাসা করতে সক্ষম হতে চান. তারা কোহেরের আরএজি এবং এমবেডিং মডেলগুলির সাথে একটি ইন-হাউস অনুসন্ধান সিস্টেম তৈরি করছে। যখন একজন কর্মচারী একটি প্রশ্ন জিজ্ঞাসা করে, সিস্টেমটি প্রথমে প্রাসঙ্গিক নথি খুঁজে পায়, তারপর মডেলটি তাদের উপর ভিত্তি করে উত্তর দেয়; সুতরাং, উত্তরগুলি তৈরি করা হয় না, তবে বাস্তব নথির উপর ভিত্তি করে।
দুর্বল প্রম্পট / শক্তিশালী প্রম্পট
দুর্বল প্রম্পট:
একটি সস্তা AI মডেল প্রস্তাব করুন.
শক্তিশালী প্রম্পট:
আপনার ভূমিকা: এআই প্রকিউরমেন্ট কনসালট্যান্ট। প্রয়োজন: প্রতিদিন ~30,000 ছোট তুর্কি গ্রাহক পর্যালোচনাকে ইতিবাচক/নেতিবাচক/নিরপেক্ষভাবে সাজান। বাজেট খুবই সীমিত। ডেটাতে ব্যক্তিগত ডেটা (বেনামী) থাকে না। টাস্ক: ভাল খরচ/পারফরম্যান্স ব্যালেন্স সহ 3টি বিকল্প (ওপেন ওয়েট সহ) সুপারিশ করুন। প্রতিটির জন্য আনুমানিক মাসিক খরচ পরিসীমা, মূল/ডেটা নোট এবং প্রধান ঝুঁকি লিখুন। অবশেষে, পাইলটের জন্য একটি একক সুপারিশ দিন।
শক্তিশালী প্রম্পট একটি সত্যিকারের কার্যকরী সুপারিশ দেয় কারণ এটি ভলিউম, বাজেটের সীমাবদ্ধতা, ডেটা টাইপ এবং ভাষা দেয়।
অনুলিপিযোগ্য টেমপ্লেট
1. বিকল্প প্রদানকারী স্ক্রীনিং:
তিনটি বড় (Anthropic/OpenAI/Google) এর বাইরে সরবরাহকারীদের তালিকা করুন যা নিম্নলিখিত কাজের জন্য উপযুক্ত হতে পারে [TASK]: Meta, Mistral, xAI, DeepSeek, Cohere। প্রতিটির জন্য একটি একক লাইন "কেন এটি উপযুক্ত / কেন এটি উপযুক্ত নয়" লিখুন।
2. মূল এবং লাইসেন্স নোট:
আমি নিম্নলিখিত প্রদানকারী [PROVIDER] ব্যবহার করার কথা ভাবছি। ডেটা সার্বভৌমত্বের ক্ষেত্রে মূল দেশ, ওজনের ধরন এবং লাইসেন্সের শর্তাবলী আমার জন্য কী ঝুঁকি তৈরি করে? প্রতিটি ঝুঁকির জন্য একটি সতর্কতা সুপারিশ করুন।
3. RAG কমপ্লায়েন্স চেক:
আমার কাছে ~[NUMBER]টি নথি আছে এবং আমি চাই কর্মীরা সেগুলি সম্পর্কে প্রশ্ন করুক৷ এটি একটি RAG দৃশ্যকল্প? যদি তাই হয়, আপনি কোন প্রদানকারী/মডেল প্রকার (এমবেডিং + উৎপাদন) সুপারিশ করবেন এবং ইনস্টলেশনের জন্য প্রথম 3টি ধাপ কী কী?
4. খোলা ওজন পাইলট পরিকল্পনা:
আমরা আমাদের নিজস্ব সার্ভারে এই খোলা ওজন মডেল [MODEL] পাইলট করতে চাই। প্রথম সপ্তাহে অনুসরণ করার জন্য হার্ডওয়্যার প্রয়োজনীয়তা, ইনস্টলেশনের ধাপ, আনুমানিক সময় এবং 3টি সাফল্যের মেট্রিক্স সহ একটি মোটামুটি পরিকল্পনা তৈরি করুন।
সাধারণ ভুল
- বড় তিনটির সাথে আটকে যাওয়া: সবচেয়ে সুপরিচিত প্রদানকারী আপনার নির্দিষ্ট ব্যবসার জন্য সবচেয়ে উপযুক্ত নাও হতে পারে; বিকল্প মূল্যায়ন না করে সিদ্ধান্ত নেবেন না।
- একটি প্রযুক্তিগত জন্য উৎপত্তি দেশ ভুল: মূল তথ্য সার্বভৌমত্ব এবং আইনি ঝুঁকির পরিপ্রেক্ষিতে একটি কৌশলগত মানদণ্ড, একটি সাধারণ লেবেল নয়।
- মডেল শক্তির সাথে বিভ্রান্তিকর RAG: নথি অনুসন্ধানে সাফল্য প্রায়শই একটি ভাল RAG সেটআপ থেকে আসে, সবচেয়ে শক্তিশালী মডেল নয়।
- ওপেন ওয়েট অনুমান করা হচ্ছে ইনস্টলেশন-মুক্ত: ডিপসিক বা লামা বেছে নেওয়া কারণ তারা "ফ্রি" এবং হার্ডওয়্যার এবং রক্ষণাবেক্ষণের বোঝা বিবেচনা করে না।
- রিয়েল-টাইমের প্রয়োজনীয়তাকে অত্যধিক মূল্যায়ন করা: প্রতিটি ব্যবসাই রিয়েল-টাইম ডেটা চায় না; Grok এর সুবিধা তখনই বোঝা যায় যখন সময়োপযোগীতা সমালোচনামূলক হয়।
সংক্ষেপে
- মেটা (লামা) খোলা ওজন এবং সম্পূর্ণ নিয়ন্ত্রণ; মিস্ট্রাল ইইউ উৎপত্তি এবং নমনীয়তা; xAI রিয়েল-টাইম ডেটা; ডিপসিক খরচ/পারফরম্যান্স; Cohere এন্টারপ্রাইজ অনুসন্ধান/RAG এর সাথে আলাদা।
- উৎপত্তি দেশ এবং লাইসেন্স হল কৌশলগত নির্বাচনের মানদণ্ড, বিশেষ করে যারা ব্যক্তিগত বা গোপনীয় তথ্য প্রক্রিয়াকরণ করে তাদের জন্য।
- RAG পরিস্থিতিতে, সাফল্য সবচেয়ে শক্তিশালী মডেলের পরিবর্তে একটি ভাল নথি আনয়ন সেটআপ থেকে আসে।
- ব্যবসার ধরন, বাজেট এবং আইনি কাঠামোর উপর নির্ভর করে সঠিক প্রদানকারী বড় তিনটির বাইরে থেকে আসতে পারে।
আবেদন টাস্ক
আপনার ব্যবসায় নথি জিজ্ঞাসা করার প্রয়োজন আছে কিনা তা বিবেচনা করুন (যেমন কর্মচারীরা একটি সংরক্ষণাগারের প্রশ্ন জিজ্ঞাসা করছে)। একটি AI মডেলকে এই ইউনিটে টেমপ্লেট 3 দিয়ে আপনার পরিস্থিতি মূল্যায়ন করুন (RAG ফিট চেক)। এছাড়াও, আপনি যদি ব্যক্তিগত বা গোপনীয় ডেটা প্রক্রিয়াকরণ করেন, তাহলে আপনি 2য় টেমপ্লেট (উৎপত্তি এবং লাইসেন্সের নোট) দিয়ে বেছে নেওয়ার বিষয়ে বিবেচনা করছেন এমন একটি প্রদানকারীর ডেটা সার্বভৌমত্বের ঝুঁকি সরিয়ে দিন। আমরা ইউনিট 8-এ KVKK অধ্যয়নে এই আউটপুটটি ব্যবহার করব।
চেকলিস্ট
- [ ] আমি পাঁচজন বিকল্প খেলোয়াড়ের বিশিষ্ট মান এবং সাধারণ কাজের সাথে মিল রাখতে পারি।
- [ ] কোন কাজের জন্য উপযুক্ত তার উপর ভিত্তি করে আমি খোলা ওজন, আঞ্চলিক এবং খরচ-কেন্দ্রিক প্রদানকারীকে আলাদা করতে পারি।
- [ ] আমি ব্যাখ্যা করতে পারি কেন উৎপত্তির দেশ এবং লাইসেন্স নির্বাচনের মানদণ্ড।
- [ ] আমি একটি RAG দৃশ্যকল্প চিনতে পারি এবং উপযুক্ত প্রদানকারীর প্রকার সুপারিশ করতে পারি।
- [ ] আমি একজন ওপেন ওয়েট পাইলটের রুক্ষ পদক্ষেপগুলি তৈরি করতে পারি।