ऑन-डिवाइस एआई: कोर एमएल, टेन्सरफ्लो लाइट और एमएल किट

लाभ:

• गोपनीयता, ऑफ़लाइन आवश्यकता, मॉडल आकार और बैटरी मानदंड के आधार पर ऑन-डिवाइस या क्लाउड पर निर्णय लेने और सही टूल (एमएल किट, कोर एमएल, टेन्सरफ्लो लाइट) चुनने की क्षमता
• मॉडल एकीकरण में मॉडल के दस्तावेज़ से इनपुट प्रीप्रोसेसिंग (आकार और सामान्यीकरण) को सत्यापित करके मूक त्रुटियों को रोकने की क्षमता
• आत्मविश्वास स्कोर का मूल्यांकन करने और उपयोगकर्ता की मंजूरी के साथ और वास्तविक डिवाइस पर परिणाम को मापने की क्षमता, कम आत्मविश्वास की भविष्यवाणियों को पूर्ण सत्य के रूप में प्रस्तुत किए बिना।

अब तक, हमने विकास प्रक्रिया को तेज़ करने के लिए AI का उपयोग सहायता के रूप में किया है। अब हम एआई की दूसरी भूमिका की ओर बढ़ते हैं: एप्लिकेशन में अंतर्निहित प्रतिभा। आधुनिक फोन में छवि पहचान, पाठ अनुवाद, भाषण प्रतिलेखन आदि जैसे एआई मॉडल को सीधे डिवाइस पर (ऑन-डिवाइस - सर्वर पर जाए बिना फोन के अपने प्रोसेसर में) चलाने की शक्ति होती है। डिवाइस पर एआई; यह गति, गोपनीयता और ऑफ़लाइन संचालन के मामले में क्लाउड समाधानों की तुलना में बहुत अधिक लाभ प्रदान करता है। इस इकाई में, हम सीखेंगे कि iOS के कोर ML, क्रॉस-प्लेटफ़ॉर्म TensorFlow Lite (जिसे अब LiteRT के रूप में जाना जाता है) और Google के तैयार समाधान ML किट के साथ एप्लिकेशन में AI को कैसे एम्बेड किया जाए और इस एकीकरण में सहायक के रूप में AI का उपयोग कैसे किया जाए।

ऑन-डिवाइस या क्लाउड?

यह पहला और सबसे महत्वपूर्ण वास्तुशिल्प निर्णय है। ऑन-डिवाइस AI फ़ोन से डेटा नहीं हटाता - गोपनीयता के लिए एक बड़ी जीत। यह तात्कालिक भी है और ऑफ़लाइन भी काम करता है क्योंकि इसमें कोई नेटवर्क विलंबता नहीं है। हालाँकि, यह डिवाइस की प्रोसेसिंग पावर और मेमोरी द्वारा सीमित है; बहुत बड़े मॉडल (जैसे विशाल जीभ मॉडल) फोन में फिट नहीं होंगे या बैटरी खत्म कर देंगे। दूसरी ओर, क्लाउड एआई असीमित शक्ति प्रदान करता है, लेकिन सर्वर पर डेटा भेजता है, नेटवर्क की आवश्यकता होती है और विलंबता पैदा करता है।

कसौटी

ऑन-डिवाइस

क्लाउड (क्लाउड एपीआई)

गोपनीयता

डेटा डिवाइस पर मजबूत रहता है

डेटा सर्वर पर जाता है, ध्यान देने की जरूरत है

गति

तुरंत, कोई नेटवर्क नहीं

नेटवर्क विलंबता पर निर्भर करता है

ऑफ़लाइन

यह काम करता है

काम नहीं करता

मॉडल का आकार

सीमित (फ़ोन संसाधन)

असीमित

बैटरी/गर्मी

भारी उपयोग से प्रभाव

सर्वर लोड में है, डिवाइस शिथिल है

लागत

मुफ़्त (डिवाइस स्रोत)

प्रति उपयोग शुल्क

निर्णय नियम: यदि व्यक्तिगत/संवेदनशील डेटा संसाधित किया जा रहा है, ऑफ़लाइन काम करने की आवश्यकता है, या त्वरित प्रतिक्रिया आवश्यक है, तो ऑन-डिवाइस चुनें। यदि आपको बहुत बड़े मॉडल की आवश्यकता है, तो क्लाउड की ओर रुख करें। यह इकाई डिवाइस पर केंद्रित है; हम अगली इकाई में क्लाउड एआई पर चर्चा करेंगे।

युक्ति: संवेदनशील डेटा (स्वास्थ्य, बायोमेट्रिक्स, स्थान) को संभालने वाली सुविधा के लिए हमेशा ऑन-डिवाइस को अपना डिफ़ॉल्ट बनाएं। वाक्यांश "डेटा डिवाइस नहीं छोड़ता" गोपनीयता अनुपालन और उपयोगकर्ता विश्वास दोनों के लिए अमूल्य है, और स्टोर गोपनीयता लेबल में एक बड़ा अंतर लाता है।

तीन तरीके: एमएल किट, कोर एमएल, टेन्सरफ्लो लाइट

एमएल किट (Google) शुरू करने का सबसे आसान तरीका है: यह टेक्स्ट पहचान (ओसीआर - एक छवि में टेक्स्ट पढ़ना), चेहरे का पता लगाना, बारकोड रीडिंग, कुछ पंक्तियों में अनुवाद जैसी तैयार क्षमताएं देता है। आपको अपने स्वयं के मॉडल को प्रशिक्षित करने की आवश्यकता नहीं है। कोर एमएल (एप्पल) आईओएस पर अपना खुद का मॉडल या तैयार मॉडल चलाने का सबसे प्रभावी तरीका है; यह Apple के न्यूरल इंजन (कृत्रिम न्यूरल नेटवर्क प्रोसेसर) हार्डवेयर का उपयोग करता है। TensorFlow Lite/LiteRT एक क्रॉस-प्लेटफ़ॉर्म समाधान है जो आपको Android और iOS दोनों पर अपना स्वयं का प्रशिक्षित मॉडल चलाने की अनुमति देता है।

एआई के साथ सामान्य एकीकरण प्रवाह इस प्रकार है:

1. प्रतिभा की परिभाषा. एक स्पष्ट लक्ष्य, जैसे "मैं फ़ोटो में पाठ पढ़ना चाहता हूँ।"
2. पथ चयन. यदि तैयार प्रतिभा है, एमएल किट; यदि विशेष मॉडल उपलब्ध हो तो कोर एमएल/टीएफ लाइट।
3. मॉडल प्रारूप. .mlmodel (कोर एमएल), .tflite (TF लाइट)। एआई परिवर्तन चरणों की व्याख्या करता है।
4. एकीकरण कोड. मॉडल को लोड करना, इनपुट को प्रीप्रोसेस करना, आउटपुट की व्याख्या करना।
5. प्रदर्शन परीक्षण. वास्तविक डिवाइस पर गति, मेमोरी, बैटरी माप।

सावधानी: ऑन-डिवाइस मॉडल एकीकरण में सबसे आम एआई गलती इनपुट प्रीप्रोसेसिंग है - छवि को मॉडल द्वारा अपेक्षित आकार और रंग प्रारूप में परिवर्तित करना। यदि मॉडल 224x224 पिक्सेल की अपेक्षा करता है और आप इसे 300x300 देते हैं, तो परिणाम अर्थहीन होगा, लेकिन आपको कोई त्रुटि संदेश प्राप्त नहीं होगा। मॉडल के दस्तावेज़ से प्रीप्रोसेसिंग मान सत्यापित करें।

मॉडल की सीमाएं जानना

एक ऑन-डिवाइस मॉडल उस डेटा के आधार पर निर्णय लेता है जिस पर उसे प्रशिक्षित किया गया था। केवल दिन के दौरान ली गई तस्वीरों पर प्रशिक्षित वस्तु पहचान मॉडल रात की छवियों पर गलत होगा। मॉडल का एक आत्मविश्वास स्कोर होता है (आत्मविश्वास - मॉडल अपने उत्तर के बारे में कितना आश्वस्त है, आमतौर पर 0 और 1 के बीच); कम आत्मविश्वास वाले परिणामों को उपयोगकर्ता के सामने सटीक रूप में प्रस्तुत करना खतरनाक है। उदाहरण के लिए, एक त्वचा स्पॉट स्कैनिंग एप्लिकेशन को "निश्चित रूप से सौम्य" नहीं कहना चाहिए, बल्कि यह कहना चाहिए कि "मॉडल की भविष्यवाणी यह ​​है, कृपया एक चिकित्सक से परामर्श लें"। मॉडल परिणाम एक सिफ़ारिश है, निदान नहीं।

तीन मिनी मामले

केस 1 - ओसीआर के साथ त्वरण। एक व्यय ट्रैकिंग ऐप ने एमएल किट टेक्स्ट पहचान के साथ रसीदों को मैन्युअल रूप से दर्ज करने के बोझ को हटा दिया है। उपयोगकर्ता रसीद की एक तस्वीर लेता है, और राशि और तारीख स्वचालित रूप से भर जाती है। प्रति रसीद मैन्युअल प्रविष्टि का समय 40 सेकंड से घटाकर 8 सेकंड कर दिया गया। टीम ने हमेशा उपयोगकर्ता से एआई द्वारा पढ़ी गई मात्रा की पुष्टि करने को कहा; क्योंकि झुर्रियों वाली रसीदों में त्रुटि की संभावना 6% थी। स्वचालन + मानव अनुमोदन सही संतुलन था।

केस 2 - प्रीप्रोसेसिंग त्रुटि। एक टीम ने टेंसरफ्लो लाइट के साथ एक प्लांट रिकग्निशन मॉडल को एकीकृत किया; परीक्षक पर, परिणाम यादृच्छिक थे। समस्या यह थी कि एआई द्वारा उत्पन्न कोड ने छवि को अपेक्षित मॉडल की [0,1] रेंज तक सामान्य नहीं किया था (पिक्सेल मान 0-255 पर छोड़ दिए गए थे)। जब सामान्यीकरण जोड़ा गया, तो सटीकता 30% से बढ़कर 89% हो गई। सबक: प्रीप्रोसेसिंग मूक लेकिन घातक है।

केस 3 - गोपनीयता लाभ। एक स्वास्थ्य एप्लिकेशन ने ऑन-डिवाइस कोर एमएल मॉडल के साथ हृदय गति डेटा से विसंगति का पता लगाया। डेटा कभी सर्वर पर नहीं गया. इस विकल्प ने एप्लिकेशन को ऐप स्टोर गोपनीयता लेबल में "डेटा एकत्र नहीं करता" वाक्यांश प्राप्त करने में सक्षम बनाया और प्रतिस्पर्धियों की तुलना में इसकी डाउनलोड दर में वृद्धि की। ऑन-डिवाइस विकल्प नैतिक और व्यावसायिक रूप से लाभदायक दोनों था।

कमजोर संकेत/मजबूत संकेत

कमजोर संकेत: "मेरे ऐप में छवि पहचान जोड़ें।"

शक्तिशाली संकेत: "मेरे एंड्रॉइड/कोटलिन एप्लिकेशन में मात्रा और दिनांक पढ़ने की सुविधा जोड़ें। - Google ML किट टेक्स्ट रिकग्निशन (ऑन-डिवाइस, ऑफ़लाइन) का उपयोग करें - कैमरा या गैलरी से छवि लें - रेगेक्स के साथ मान्यता प्राप्त टेक्स्ट से मात्रा और दिनांक निकालें - संपादन योग्य फ़ील्ड में अनुमोदन के लिए उपयोगकर्ता को परिणाम प्रस्तुत करें, ऑटो-सेव करें - कैमरा अनुमति प्रवाह और अस्वीकृति को संभालें। प्री-प्रोसेसिंग और त्रुटि स्थितियों को लिखें, चरणों की व्याख्या करें।"

कॉपी करने योग्य टेम्पलेट

पथ चयन टेम्पलेट: "मैं निम्नलिखित सुविधा बनाना चाहता हूं: [सुविधा]। क्या यह ऑन-डिवाइस या क्लाउड होनी चाहिए? इसके आधार पर तुलना करें: गोपनीयता, ऑफ़लाइन आवश्यकता, मॉडल आकार, बैटरी, लागत। उपयुक्त टूल (एमएल किट / कोर एमएल / टीएफ लाइट) की सिफारिश करें और उचित ठहराएं।"

एकीकरण टेम्पलेट:"[प्लेटफ़ॉर्म] के लिए [मॉडल/क्षमता] एकीकरण लिखें:1) मॉडल लोडिंग2) इनपुट प्रीप्रोसेसिंग (अपेक्षित आकार और सामान्यीकरण)3) अनुमान कॉल4) आउटपुट व्याख्या और आत्मविश्वास स्कोर जांच5) कम-आत्मविश्वास परिणाम पर उपयोगकर्ता को चेतावनी मुझे मॉडल के दस्तावेज़ीकरण से प्रीप्रोसेसिंग मानों को सत्यापित करने के लिए याद दिलाएं।"

कॉन्फिडेंस स्कोर टेम्प्लेट:"इस अनुमान कोड में कॉन्फिडेंस स्कोर पर विचार करें: - वर्तमान परिणाम 'सटीक' सीमा से नीचे (जैसे 0.6) - उपयोगकर्ता को 'यह एक अनुमान है' नोट दिखाएं - यदि महत्वपूर्ण क्षेत्र (स्वास्थ्य, सुरक्षा) है तो विशेषज्ञ को देखें [कोड]"

प्रदर्शन सत्यापन टेम्पलेट: "इस ऑन-डिवाइस मॉडल एकीकरण के लिए मुझे वास्तविक डिवाइस पर मापने के लिए आवश्यक मेट्रिक्स की सूची बनाएं: अनुमान समय, मेमोरी वृद्धि, बैटरी प्रभाव, हीटिंग। प्रत्येक के लिए माप विधि बताएं।"

सामान्य गलतियाँ

• प्रीप्रोसेसिंग को छोड़ना या गलत तरीके से करना। गलत आकार/सामान्यीकरण चुपचाप गलत परिणाम उत्पन्न करता है।
• आत्मविश्वास स्कोर को नजरअंदाज करना. कम आत्मविश्वास वाले अनुमान को सटीक रूप में प्रस्तुत करना उपयोगकर्ता को गुमराह करेगा।
• एम्यूलेटर में मॉडल का परीक्षण। वास्तविक डिवाइस की गति और बैटरी बहुत भिन्न हैं; हमेशा वास्तविक हार्डवेयर पर मापें।
• संवेदनशील डेटा को अनावश्यक रूप से क्लाउड पर भेजना। जब ऑन-डिवाइस संभव हो तो क्लाउड चुनना गोपनीयता जोखिम है।
• मॉडल आकार की अनदेखी. बड़े मॉडल ऐप्स का डाउनलोड आकार बढ़ जाता है और कम हार्डवेयर पर क्रैश हो जाते हैं।
• मॉडल की प्रशिक्षण सीमा को भूल जाना. मॉडल उस स्थिति में गलत है जहां वह नहीं देखता (रात, अलग भाषा); इसे उपयोगकर्ता को स्पष्ट करें.

सारांश

ऑन-डिवाइस AI फ़ोन पर डेटा रखकर गोपनीयता, गति और ऑफ़लाइन संचालन प्रदान करता है; सीमा डिवाइस की शक्ति और मॉडल आकार है। एमएल किट का उपयोग आउट-ऑफ-द-बॉक्स क्षमताओं के लिए किया जाता है, कोर एमएल (आईओएस) और टेन्सरफ्लो लाइट (क्रॉस-प्लेटफॉर्म) का उपयोग कस्टम मॉडल के लिए किया जाता है। एकीकरण का मूक हत्यारा अनुचित प्रीप्रोसेसिंग है; इनपुट आकार और सामान्यीकरण को मॉडल के दस्तावेज़ीकरण से सत्यापित किया जाता है। प्रत्येक परिणाम एक आत्मविश्वास स्कोर के साथ आता है, और कम आत्मविश्वास वाली भविष्यवाणियों को पूर्ण सत्य के रूप में प्रस्तुत नहीं किया जाता है। निर्णय वास्तविक डिवाइस पर मापे जाते हैं, एम्यूलेटर पर नहीं।

आवेदन कार्य

"फोटो से टेक्स्ट रीडिंग" या "बारकोड रीडिंग" सुविधा के लिए, एआई से पूछें कि क्या यह "पथ चयन टेम्पलेट" के साथ ऑन-डिवाइस या क्लाउड होना चाहिए, फिर "एकीकरण टेम्पलेट" के साथ एमएल किट-आधारित ब्लूप्रिंट मांगें। सत्यापित करें कि प्रीप्रोसेसिंग चरण और उपयोगकर्ता अनुमोदन/संपादन प्रवाह कोड में मौजूद हैं। विश्वास स्कोर सीमा निर्धारित करें और लिखें कि यदि परिणाम कम विश्वास वाला हो तो आप क्या करेंगे।

चेकलिस्ट

• [ ] मैंने मानदंडों के आधार पर ऑन-डिवाइस/क्लाउड निर्णय लिया
• [ ] मैंने सही टूल चुना (एमएल किट/कोर एमएल/टीएफ लाइट)
• [ ] मैंने मॉडल के दस्तावेज़ीकरण से प्रीप्रोसेसिंग आयाम और सामान्यीकरण का सत्यापन किया
• [ ] मैंने विश्वास स्कोर की जाँच की और कम विश्वास परिणामों की चेतावनी दी
• [ ] मैंने परिणाम को अनुमोदन/संपादन के साथ उपयोगकर्ता के सामने प्रस्तुत किया, मैंने इसे आँख बंद करके सहेजा नहीं
• [ ] मैंने प्रदर्शन को वास्तविक डिवाइस पर मापा, एमुलेटर पर नहीं