অন-ডিভাইস এআই: কোর এমএল, টেনসরফ্লো লাইট এবং এমএল কিট

লাভ:

• ডিভাইসে বা ক্লাউডের উপর সিদ্ধান্ত নেওয়ার ক্ষমতা এবং গোপনীয়তা, অফলাইন প্রয়োজন, মডেলের আকার এবং ব্যাটারির মানদণ্ডের উপর ভিত্তি করে সঠিক টুল (ML Kit, Core ML, TensorFlow Lite) বেছে নেওয়ার ক্ষমতা
• মডেল ইন্টিগ্রেশনে মডেলের নথি থেকে ইনপুট প্রিপ্রসেসিং (আকার এবং স্বাভাবিককরণ) যাচাই করে নীরব ত্রুটি প্রতিরোধ করার ক্ষমতা
• আত্মবিশ্বাসের স্কোর মূল্যায়ন করার ক্ষমতা এবং ব্যবহারকারীর অনুমোদনের সাথে এবং বাস্তব ডিভাইসে ফলাফল পরিমাপ করার ক্ষমতা, কম আত্মবিশ্বাসের ভবিষ্যদ্বাণীকে পরম সত্য হিসাবে উপস্থাপন না করে।

এখন পর্যন্ত, আমরা উন্নয়ন প্রক্রিয়ার গতি বাড়ানোর জন্য AI ব্যবহার করেছি। এখন আমরা এআই-এর দ্বিতীয় ভূমিকায় চলে যাই: অ্যাপ্লিকেশনটিতে এমবেড করা প্রতিভা। আধুনিক ফোনে এআই মডেল চালানোর ক্ষমতা রয়েছে যেমন ইমেজ রিকগনিশন, টেক্সট ট্রান্সক্রিপশন, স্পিচ ট্রান্সক্রিপশন ইত্যাদি সরাসরি ডিভাইসে (অন-ডিভাইস — সার্ভারে না গিয়ে ফোনের নিজস্ব প্রসেসরে)। ডিভাইসে AI; এটি গতি, গোপনীয়তা এবং অফলাইন ক্রিয়াকলাপের ক্ষেত্রে ক্লাউড সমাধানগুলির উপর দুর্দান্ত সুবিধা দেয়। এই ইউনিটে, আমরা শিখব কীভাবে আইওএস-এর কোর এমএল, ক্রস-প্ল্যাটফর্ম টেনসরফ্লো লাইট (এখন লিটআরটি নামে পরিচিত) এবং Google-এর তৈরি সলিউশন এমএল কিট-এর সাহায্যে এআই-কে অ্যাপ্লিকেশানে এম্বেড করতে হয় এবং এই ইন্টিগ্রেশনে অ্যাসিস্ট্যান্ট হিসেবে কীভাবে AI ব্যবহার করতে হয়।

অন-ডিভাইস নাকি ক্লাউড?

এটি প্রথম এবং সবচেয়ে গুরুত্বপূর্ণ স্থাপত্য সিদ্ধান্ত। অন-ডিভাইস AI ফোন থেকে ডেটা সরিয়ে দেয় না - গোপনীয়তার জন্য একটি বিশাল জয়। এটি তাত্ক্ষণিক এবং অফলাইনে কাজ করে কারণ কোনও নেটওয়ার্ক লেটেন্সি নেই৷ যাইহোক, এটি ডিভাইসের প্রক্রিয়াকরণ ক্ষমতা এবং মেমরি দ্বারা সীমিত; খুব বড় মডেল (যেমন দৈত্য জিহ্বা মডেল) ফোনে ফিট হবে না বা ব্যাটারি নিষ্কাশন করবে। অন্যদিকে, ক্লাউড এআই সীমাহীন শক্তি অফার করে, কিন্তু সার্ভারে ডেটা পাঠায়, নেটওয়ার্কের প্রয়োজন এবং লেটেন্সি তৈরি করে।

মানদণ্ড

ডিভাইসে

ক্লাউড (ক্লাউড এপিআই)

গোপনীয়তা

ডেটা ডিভাইসে থাকে, শক্তিশালী

ডেটা সার্ভারে যায়, মনোযোগ প্রয়োজন

গতি

তাত্ক্ষণিক, নেটওয়ার্ক নেই

নেটওয়ার্ক লেটেন্সির উপর নির্ভর করে

অফলাইন

এটা কাজ করে

কাজ করে না

মডেলের আকার

সীমিত (ফোন সংস্থান)

সীমাহীন

ব্যাটারি/তাপ

ভারী ব্যবহারের সাথে প্রভাব

লোড অধীনে সার্ভার, ডিভাইস শিথিল

খরচ

বিনামূল্যে (ডিভাইস উৎস)

ব্যবহার প্রতি ফি

সিদ্ধান্তের নিয়ম: ব্যক্তিগত/সংবেদনশীল ডেটা প্রক্রিয়া করা হলে, অফলাইনে কাজ করার প্রয়োজন হলে, বা তাত্ক্ষণিক প্রতিক্রিয়া অপরিহার্য হলে ডিভাইসে বেছে নিন। আপনার যদি খুব বড় মডেলের প্রয়োজন হয় তবে ক্লাউডের দিকে যান। এই ইউনিট অন-ডিভাইস ফোকাস করা হয়; আমরা পরবর্তী ইউনিটে ক্লাউড এআই কভার করব।

টিপ: সংবেদনশীল ডেটা (স্বাস্থ্য, বায়োমেট্রিক্স, অবস্থান) পরিচালনা করে এমন একটি বৈশিষ্ট্যের জন্য সর্বদা অন-ডিভাইসকে আপনার ডিফল্ট করুন৷ "ডেটা ডিভাইসটি ছেড়ে যায় না" বাক্যাংশটি গোপনীয়তা সম্মতি এবং ব্যবহারকারীর বিশ্বাস উভয়ের জন্যই অমূল্য, এবং স্টোরের গোপনীয়তা লেবেলে একটি বড় পার্থক্য করে।

তিনটি উপায়: এমএল কিট, কোর এমএল, টেনসরফ্লো লাইট

এমএল কিট (গুগল) হল শুরু করার সবচেয়ে সহজ উপায়: এটি রেডিমেড ক্ষমতা দেয় যেমন টেক্সট রিকগনিশন (OCR — একটি ছবিতে পাঠ্য পড়া), ফেস ডিটেকশন, বারকোড রিডিং, কয়েক লাইনে অনুবাদ। আপনার নিজের মডেল প্রশিক্ষণের প্রয়োজন নেই। কোর এমএল (অ্যাপল) হল iOS-এ আপনার নিজের মডেল বা একটি রেডিমেড মডেল চালানোর সবচেয়ে কার্যকর উপায়; এটি অ্যাপলের নিউরাল ইঞ্জিন (কৃত্রিম নিউরাল নেটওয়ার্ক প্রসেসর) হার্ডওয়্যার ব্যবহার করে। TensorFlow Lite/LiteRT হল একটি ক্রস-প্ল্যাটফর্ম সমাধান যা আপনাকে Android এবং iOS উভয় ক্ষেত্রেই আপনার নিজস্ব প্রশিক্ষিত মডেল চালানোর অনুমতি দেয়।

AI এর সাথে সাধারণ ইন্টিগ্রেশন প্রবাহটি এভাবে যায়:

1. প্রতিভার সংজ্ঞা। একটি পরিষ্কার লক্ষ্য, যেমন "আমি ছবির পাঠ্যটি পড়তে চাই।"
2. পথ নির্বাচন। প্রস্তুত প্রতিভা থাকলে, এমএল কিট; কোর ML/TF লাইট যদি বিশেষ মডেল পাওয়া যায়।
3. মডেল বিন্যাস। .mlmodel (কোর ML), .tflite (TF Lite)। AI রূপান্তরের ধাপগুলি ব্যাখ্যা করে।
4. ইন্টিগ্রেশন কোড। মডেল লোড করা, ইনপুট প্রিপ্রসেস করা, আউটপুট ব্যাখ্যা করা।
5. কর্মক্ষমতা পরীক্ষা. বাস্তব ডিভাইসে গতি, মেমরি, ব্যাটারি পরিমাপ।

সতর্কতা: অন-ডিভাইস মডেল ইন্টিগ্রেশনে সবচেয়ে সাধারণ AI ভুল হল ইনপুট প্রিপ্রসেসিং — ইমেজটিকে মডেলটি আশা করা আকার এবং রঙের ফর্ম্যাটে রূপান্তর করা। যদি মডেলটি 224x224 পিক্সেল আশা করে এবং আপনি এটি 300x300 দেন, ফলাফলটি অর্থহীন হবে, তবে আপনি একটি ত্রুটি বার্তা পাবেন না। মডেলের নথি থেকে প্রিপ্রসেসিং মান যাচাই করুন।

মডেলের সীমা জানা

একটি অন-ডিভাইস মডেল যে ডেটাতে প্রশিক্ষিত হয়েছিল তার উপর ভিত্তি করে সিদ্ধান্ত নেয়৷ শুধুমাত্র দিনের বেলা তোলা ফটোতে প্রশিক্ষিত একটি অবজেক্ট রিকগনিশন মডেল রাতের ছবিতে ভুল হবে। মডেলটির একটি আত্মবিশ্বাসের স্কোর রয়েছে (আস্থা — মডেলটি তার উত্তর সম্পর্কে কতটা আত্মবিশ্বাসী, সাধারণত 0 এবং 1 এর মধ্যে); ব্যবহারকারীর কাছে স্বল্প-বিশ্বাসের ফলাফল সঠিক হিসাবে উপস্থাপন করা বিপজ্জনক। উদাহরণস্বরূপ, একটি স্কিন স্পট স্ক্যানিং অ্যাপ্লিকেশনে "অবশ্যই সৌম্য" বলা উচিত নয়, তবে বলা উচিত "মডেলের ভবিষ্যদ্বাণী এটি, অনুগ্রহ করে একজন চিকিত্সকের সাথে পরামর্শ করুন"। মডেল ফলাফল একটি সুপারিশ, একটি রোগ নির্ণয় নয়.

তিনটি মিনি কেস

কেস 1 — OCR সহ ত্বরণ। একটি ব্যয় ট্র্যাকিং অ্যাপ এমএল কিট পাঠ্য স্বীকৃতি সহ ম্যানুয়ালি রসিদ প্রবেশের বোঝা সরিয়ে দিয়েছে। ব্যবহারকারী রসিদের একটি ফটো নেয় এবং পরিমাণ এবং তারিখ স্বয়ংক্রিয়ভাবে পূরণ হয়। ম্যানুয়াল এন্ট্রি সময় 40 সেকেন্ড থেকে কমে 8 সেকেন্ড প্রতি রসিদ. দলটি সর্বদা ব্যবহারকারীকে এআই পড়ার পরিমাণ নিশ্চিত করে; কারণ কুঁচকানো রসিদের ত্রুটির 6% মার্জিন ছিল। অটোমেশন + মানুষের অনুমোদন সঠিক ভারসাম্য ছিল।

কেস 2 - প্রি-প্রসেসিং ত্রুটি। একটি দল টেনসরফ্লো লাইটের সাথে একটি উদ্ভিদ স্বীকৃতি মডেলকে একীভূত করেছে; পরীক্ষকের উপর, ফলাফল এলোমেলো ছিল। সমস্যাটি ছিল যে এআই তৈরি করা কোডটি মডেলটি প্রত্যাশিত [0,1] রেঞ্জে চিত্রটিকে স্বাভাবিক করেনি (পিক্সেলের মান 0-255 এ রেখে দেওয়া হয়েছিল)। যখন স্বাভাবিকীকরণ যোগ করা হয়েছিল, সঠিকতা 30% থেকে 89% বৃদ্ধি পেয়েছে। পাঠ: প্রিপ্রসেসিং নীরব কিন্তু মারাত্মক।

কেস 3 - গোপনীয়তা লাভ। একটি হেলথ অ্যাপ্লিকেশান অন-ডিভাইস কোর এমএল মডেলের সাথে হার্ট রেট ডেটা থেকে অসঙ্গতি সনাক্ত করেছে৷ ডেটা কখনই সার্ভারে যায় না। এই পছন্দটি অ্যাপ স্টোরের গোপনীয়তা লেবেলে "ডেটা সংগ্রহ করে না" বাক্যাংশটি পেতে অ্যাপ্লিকেশনটিকে সক্ষম করেছে এবং প্রতিযোগীদের তুলনায় এর ডাউনলোড হার বাড়িয়েছে। অন-ডিভাইস পছন্দ উভয়ই নৈতিক এবং বাণিজ্যিকভাবে লাভজনক ছিল।

দুর্বল প্রম্পট / শক্তিশালী প্রম্পট

দুর্বল প্রম্পট: "আমার অ্যাপে চিত্র স্বীকৃতি যোগ করুন।"

শক্তিশালী প্রম্পট: "আমার অ্যান্ড্রয়েড/কোটলিন অ্যাপ্লিকেশনে পরিমাণ এবং তারিখ পড়ার বৈশিষ্ট্য যোগ করুন। - Google ML কিট টেক্সট রিকগনিশন ব্যবহার করুন (অন-ডিভাইস, অফলাইন) - ক্যামেরা বা গ্যালারি থেকে ছবি তুলুন - regex এর সাথে স্বীকৃত পাঠ্য থেকে পরিমাণ এবং তারিখ বের করুন - সম্পাদনাযোগ্য ক্ষেত্রে অনুমোদনের জন্য ব্যবহারকারীর কাছে ফলাফল উপস্থাপন করুন, ক্যামেরাটি স্বয়ংক্রিয়ভাবে ডাউন-ডাউন করুন। প্রাক-প্রক্রিয়াকরণ এবং ত্রুটির পরিস্থিতি, পদক্ষেপগুলি ব্যাখ্যা করুন।"

অনুলিপিযোগ্য টেমপ্লেট

পাথ নির্বাচন টেমপ্লেট: "আমি নিম্নলিখিত বৈশিষ্ট্যটি তৈরি করতে চাই: [বৈশিষ্ট্য]। এটি কি ডিভাইসে বা ক্লাউড হওয়া উচিত? এর উপর ভিত্তি করে তুলনা করুন: গোপনীয়তা, অফলাইন প্রয়োজন, মডেলের আকার, ব্যাটারি, খরচ। উপযুক্ত টুলের সুপারিশ করুন (এমএল কিট / কোর এমএল / টিএফ লাইট) এবং ন্যায্যতা প্রমাণ করুন।"

ইন্টিগ্রেশন টেমপ্লেট: "লিখুন [মডেল/ক্ষমতা] ইন্টিগ্রেশনের জন্য [প্ল্যাটফর্ম]:1) মডেল লোডিং 2) ইনপুট প্রিপ্রসেসিং (প্রত্যাশিত আকার এবং স্বাভাবিককরণ) 3) ইনফরেন্স কল4) আউটপুট ব্যাখ্যা এবং আত্মবিশ্বাস স্কোর চেকিং5) কম-বিশ্বাসের ফলাফলের জন্য ব্যবহারকারীকে সতর্কীকরণ করুন।

কনফিডেন্স স্কোর টেমপ্লেট: "এই ইনফারেন্স কোডে কনফিডেন্স স্কোর বিবেচনা করুন:- বর্তমান ফলাফল 'সঠিক' থ্রেশহোল্ডের নিচে (যেমন 0.6)- ব্যবহারকারীকে 'এটি একটি আনুমানিক' নোট দেখান- যদি গুরুত্বপূর্ণ এলাকা (স্বাস্থ্য, নিরাপত্তা)[কোড] তাহলে বিশেষজ্ঞের সাথে যোগাযোগ করুন"

পারফরম্যান্স যাচাইকরণ টেমপ্লেট: "এই অন-ডিভাইস মডেল ইন্টিগ্রেশনের জন্য প্রকৃত ডিভাইসে আমার যে মেট্রিকগুলি পরিমাপ করতে হবে তা তালিকাভুক্ত করুন: অনুমান সময়, মেমরি বৃদ্ধি, ব্যাটারির প্রভাব, গরম করা। প্রতিটির জন্য পরিমাপ পদ্ধতি বলুন।"

সাধারণ ভুল

• প্রিপ্রসেসিং এড়িয়ে যাওয়া বা ভুলভাবে করা। ভুল আকার/স্বাভাবিককরণ নীরবে ভুল ফলাফল তৈরি করে।
• আত্মবিশ্বাসের স্কোর উপেক্ষা করা। কম-আস্থার অনুমান সঠিক হিসাবে উপস্থাপন করা ব্যবহারকারীকে বিভ্রান্ত করবে।
• এমুলেটরে মডেল পরীক্ষা করা হচ্ছে। প্রকৃত ডিভাইসের গতি এবং ব্যাটারি খুব আলাদা; সর্বদা বাস্তব হার্ডওয়্যারে পরিমাপ করুন।
• অপ্রয়োজনীয়ভাবে ক্লাউডে সংবেদনশীল ডেটা পাঠানো। ডিভাইসে থাকা সম্ভব হলে ক্লাউড বেছে নেওয়া একটি গোপনীয়তার ঝুঁকি।
• মডেলের আকার উপেক্ষা করা। বড় মডেলের অ্যাপগুলি ডাউনলোডের আকার বাড়ায় এবং কম হার্ডওয়্যারে ক্র্যাশ করে।
• মডেলের প্রশিক্ষণ সীমা ভুলে যাওয়া। মডেলটি এমন অবস্থায় ভুল হয় যেখানে এটি দেখতে পায় না (রাত্রি, ভিন্ন ভাষা); ব্যবহারকারীর কাছে এটি পরিষ্কার করুন।

সংক্ষেপে

অন-ডিভাইস AI ফোনে ডেটা রেখে গোপনীয়তা, গতি এবং অফলাইন অপারেশন প্রদান করে; সীমা হল ডিভাইসের শক্তি এবং মডেলের আকার। ML Kit ব্যবহার করা হয় আউট-অফ-দ্য-বক্স ক্ষমতার জন্য, Core ML (iOS) এবং TensorFlow Lite (ক্রস-প্ল্যাটফর্ম) কাস্টম মডেলের জন্য ব্যবহার করা হয়। ইন্টিগ্রেশনের নীরব ঘাতক হল অনুপযুক্ত প্রিপ্রসেসিং; ইনপুট আকার এবং স্বাভাবিককরণ মডেলের ডকুমেন্টেশন থেকে যাচাই করা হয়। প্রতিটি ফলাফল একটি আত্মবিশ্বাসের স্কোরের সাথে আসে এবং কম আত্মবিশ্বাসের ভবিষ্যদ্বাণীগুলিকে পরম সত্য হিসাবে উপস্থাপন করা হয় না। সিদ্ধান্ত বাস্তব ডিভাইসে পরিমাপ করা হয়, এমুলেটর নয়।

আবেদন টাস্ক

একটি "ফটো থেকে পাঠ্য পড়া" বা "বারকোড পড়া" বৈশিষ্ট্যের জন্য, AI কে জিজ্ঞাসা করুন এটি ডিভাইসে থাকা উচিত নাকি "পাথ নির্বাচন টেমপ্লেট" সহ ক্লাউড হওয়া উচিত, তারপর "ইন্টিগ্রেশন টেমপ্লেট" সহ একটি ML কিট-ভিত্তিক ব্লুপ্রিন্টের জন্য জিজ্ঞাসা করুন৷ যাচাই করুন যে প্রিপ্রসেসিং ধাপ এবং ব্যবহারকারীর অনুমোদন/সম্পাদনা প্রবাহ কোডটিতে উপস্থিত রয়েছে। একটি ট্রাস্ট স্কোর থ্রেশহোল্ড সেট করুন এবং ফলাফল কম বিশ্বাস হলে আপনি কী করবেন তা লিখুন।

চেকলিস্ট

• [ ] আমি মানদণ্ডের ভিত্তিতে ডিভাইসে/ক্লাউডের সিদ্ধান্ত নিয়েছি
• [ ] আমি সঠিক টুলটি বেছে নিয়েছি (ML Kit / Core ML / TF Lite)
• [] আমি মডেলের ডকুমেন্টেশন থেকে প্রিপ্রসেসিং মাত্রা এবং স্বাভাবিককরণ যাচাই করেছি
• [ ] আমি ট্রাস্ট স্কোর পরীক্ষা করেছি এবং কম বিশ্বাসের ফলাফল সম্পর্কে সতর্ক করেছি
• [] আমি অনুমোদন/সম্পাদনা সহ ব্যবহারকারীর কাছে ফলাফল উপস্থাপন করেছি, আমি অন্ধভাবে এটি সংরক্ষণ করিনি
• [ ] আমি বাস্তব ডিভাইসে কর্মক্ষমতা পরিমাপ করেছি, এমুলেটর নয়