अन-डिभाइस एआई: कोर एमएल, टेन्सरफ्लो लाइट र एमएल किट — मोबाइल अनुप्रयोग विकासमा कृत्रिम बुद्धिमत्ता

लाभ:

यन्त्र वा क्लाउडमा निर्णय गर्ने क्षमता र गोपनीयता, अफलाइन आवश्यकता, मोडेल आकार र ब्याट्री मापदण्डमा आधारित सही उपकरण (ML किट, कोर ML, TensorFlow Lite) छनोट गर्ने क्षमता।
मोडेल एकीकरणमा मोडेलको कागजातबाट इनपुट प्रिप्रोसेसिङ (आकार र सामान्यीकरण) प्रमाणित गरेर मौन त्रुटिहरू रोक्न क्षमता।
आत्मविश्वास स्कोरको मूल्याङ्कन गर्ने क्षमता र प्रयोगकर्ताको स्वीकृति र वास्तविक उपकरणमा नतिजा मापन गर्ने क्षमता, पूर्ण सत्यको रूपमा कम आत्मविश्वास भविष्यवाणीहरू प्रस्तुत नगरी।

अहिलेसम्म हामीले विकास प्रक्रियालाई गति दिन AI लाई सहायताको रूपमा प्रयोग गरेका छौं। अब हामी AI को दोस्रो भूमिकामा जान्छौं: अनुप्रयोगमा सम्मिलित प्रतिभा। आधुनिक फोनहरूमा AI मोडेलहरू जस्तै छवि पहिचान, पाठ अनुवाद, स्पीच ट्रान्सक्रिप्सन, इत्यादि सिधै यन्त्रमा चलाउने शक्ति हुन्छ (डिभाइसमा — सर्भरमा नजाइकन फोनको आफ्नै प्रोसेसरमा)। उपकरणमा AI; यसले गति, गोपनीयता र अफलाइन सञ्चालनको सन्दर्भमा क्लाउड समाधानहरूमा ठूलो फाइदाहरू प्रदान गर्दछ। यस एकाईमा, हामी iOS को कोर ML, क्रस-प्लेटफर्म टेन्सरफ्लो लाइट (अहिले LiteRT भनेर चिनिन्छ) र Google को तयार समाधान ML किटको साथ एआईलाई कसरी अनुप्रयोगमा इम्बेड गर्ने र यस एकीकरणमा सहायकको रूपमा AI कसरी प्रयोग गर्ने भनेर सिक्ने छौँ।

यन्त्रमा वा क्लाउडमा?

यो पहिलो र सबैभन्दा महत्त्वपूर्ण वास्तु निर्णय हो। अन-डिभाइस AI ले फोनबाट डाटा हटाउँदैन - गोपनीयताको लागि ठूलो जीत। यो पनि तात्कालिक छ र अफलाइन काम गर्दछ किनकि त्यहाँ कुनै नेटवर्क विलम्बता छैन। यद्यपि, यो उपकरणको प्रशोधन शक्ति र मेमोरी द्वारा सीमित छ; धेरै ठूला मोडेलहरू (जस्तै विशाल जिब्रो मोडेलहरू) फोनमा फिट हुँदैनन् वा ब्याट्री खेर जानेछन्। अर्कोतर्फ, क्लाउड एआईले असीमित शक्ति प्रदान गर्दछ, तर सर्भरमा डाटा पठाउँछ, नेटवर्क चाहिन्छ र विलम्बता सिर्जना गर्दछ।

मापदण्ड

यन्त्रमा

क्लाउड (क्लाउड एपीआई)

गोपनीयता

डाटा उपकरणमा रहन्छ, बलियो

डाटा सर्भरमा जान्छ, ध्यान आवश्यक छ

गति

तत्काल, कुनै नेटवर्क छैन

नेटवर्क विलम्बता मा निर्भर गर्दछ

अफलाइन

यसले काम गर्छ

काम लाग्दैन

मोडेल आकार

सीमित (फोन संसाधन)

असीमित

ब्याट्री/तातो

भारी प्रयोगको साथ प्रभावहरू

लोड अन्तर्गत सर्भर, उपकरण आराम

लागत

नि: शुल्क (उपकरण स्रोत)

प्रति प्रयोग शुल्क

निर्णय नियम: यदि व्यक्तिगत/संवेदनशील डेटा प्रशोधन भइरहेको छ, अफलाइन काम गर्न आवश्यक छ, वा तत्काल प्रतिक्रिया आवश्यक छ भने यन्त्रमा छनोट गर्नुहोस्। यदि तपाईंलाई धेरै ठूलो मोडेल चाहिन्छ भने, क्लाउडमा घुम्नुहोस्। यो एकाई यन्त्रमा केन्द्रित छ; हामी अर्को एकाईमा क्लाउड एआई कभर गर्नेछौं।

सुझाव: संवेदनशील डेटा (स्वास्थ्य, बायोमेट्रिक्स, स्थान) ह्यान्डल गर्ने सुविधाको लागि सधैँ अन-डिभाइसलाई आफ्नो पूर्वनिर्धारित बनाउनुहोस्। वाक्यांश "डेटाले उपकरण छोड्दैन" गोपनीयता अनुपालन र प्रयोगकर्ता विश्वास दुवैको लागि अमूल्य छ, र स्टोर गोपनीयता लेबलमा ठूलो फरक पार्छ।

तीन तरिकाहरू: एमएल किट, कोर एमएल, टेन्सरफ्लो लाइट

ML Kit (Google) सुरु गर्ने सबैभन्दा सजिलो तरिका हो: यसले पाठ पहिचान (OCR — छविमा पाठ पढ्ने), अनुहार पत्ता लगाउने, बारकोड पढ्ने, केही लाइनहरूमा अनुवाद जस्ता रेडिमेड क्षमताहरू दिन्छ। तपाईंले आफ्नो मोडेललाई तालिम दिन आवश्यक छैन। कोर एमएल (एप्पल) तपाईको आफ्नै मोडेल वा आईओएसमा रेडिमेड मोडेल चलाउने सबैभन्दा प्रभावकारी तरिका हो; यसले एप्पलको न्यूरल इन्जिन (कृत्रिम न्यूरल नेटवर्क प्रोसेसर) हार्डवेयर प्रयोग गर्दछ। TensorFlow Lite/LiteRT एक क्रस-प्लेटफर्म समाधान हो जसले तपाईंलाई Android र iOS दुवैमा आफ्नै प्रशिक्षित मोडेल चलाउन अनुमति दिन्छ।

AI सँग सामान्य एकीकरण प्रवाह यसरी जान्छ:

प्रतिभा परिभाषा। स्पष्ट लक्ष्य, जस्तै "म तस्विरमा पाठ पढ्न चाहन्छु।"
मार्ग चयन। यदि त्यहाँ तयार प्रतिभा छ भने, एमएल किट; कोर ML/TF लाइट यदि विशेष मोडेल उपलब्ध छ।
मोडेल ढाँचा। .mlmodel (कोर ML), .tflite (TF Lite)। AI रूपान्तरण चरणहरू व्याख्या गर्दछ।
एकीकरण कोड। मोडेल लोड गर्दै, इनपुट पूर्व-प्रक्रिया गर्दै, आउटपुट व्याख्या गर्दै।
प्रदर्शन परीक्षण। वास्तविक उपकरणमा गति, मेमोरी, ब्याट्री मापन।

सावधानी: अन-डिभाइस मोडेल एकीकरणमा सबैभन्दा सामान्य एआई गल्ती इनपुट प्रिप्रोसेसिङ हो - छविलाई मोडेलले अपेक्षा गरेको साइज र रङ ढाँचामा रूपान्तरण गर्दै। यदि मोडेलले 224x224 पिक्सेलको अपेक्षा गर्छ र तपाईंले यसलाई 300x300 दिनुभयो भने, परिणाम अर्थहीन हुनेछ, तर तपाईंले त्रुटि सन्देश प्राप्त गर्नुहुने छैन। मोडेलको कागजातबाट प्रिप्रोसेसिङ मानहरू प्रमाणित गर्नुहोस्।

मोडेल को सीमा थाहा छ

यन्त्रमा रहेको मोडेलले यसलाई तालिम दिइएको डेटाको आधारमा निर्णय गर्छ। दिनको समयमा खिचिएका तस्बिरहरूमा मात्र तालिम दिइएको वस्तु पहिचान मोडेल राती छविहरूमा गलत हुनेछ। मोडेलको आत्मविश्वास स्कोर छ (आत्मविश्वास — मोडेल आफ्नो जवाफको बारेमा कत्तिको विश्वस्त छ, सामान्यतया ० र १ को बीचमा); कम-विश्वास परिणामहरू प्रयोगकर्तालाई सही रूपमा प्रस्तुत गर्न खतरनाक छ। उदाहरणका लागि, छालाको स्पट स्क्यानिङ अनुप्रयोगले "निश्चित रूपमा सौम्य" भन्नु हुँदैन, तर "मोडलको भविष्यवाणी यो हो, कृपया चिकित्सकसँग परामर्श गर्नुहोस्" भन्नु पर्छ। मोडेल परिणाम एक सिफारिस हो, निदान होइन।

तीन मिनी केसहरू

केस १ — OCR को साथ एक्सेलेरेशन। एक व्यय ट्र्याकिङ एपले ML किट पाठ पहिचानको साथ म्यानुअल रूपमा रसिदहरू प्रविष्ट गर्ने बोझ हटाएको छ। प्रयोगकर्ताले रसिदको फोटो लिन्छ, र रकम र मिति स्वचालित रूपमा भरिन्छ। म्यानुअल प्रविष्टि समय 40 सेकेन्डबाट 8 सेकेन्ड प्रति रसिदमा घट्यो। टोलीले सधैँ प्रयोगकर्तालाई एआईले पढेको रकम पुष्टि गर्छ; किनभने झुर्रिएको रसिदहरूमा त्रुटिको 6% मार्जिन थियो। स्वचालन + मानव अनुमोदन सही सन्तुलन थियो।

केस 2 - पूर्व प्रक्रिया त्रुटि। एउटा टोलीले TensorFlow Lite सँग बिरुवा पहिचान मोडेललाई एकीकृत गर्यो; परीक्षकमा, नतिजा अनियमित थिए। समस्या यो थियो कि AI ले उत्पन्न गरेको कोडले छविलाई अपेक्षित मोडेलको दायरा [0,1] मा सामान्य बनाउन सकेन (पिक्सेल मानहरू 0-255 मा छोडियो)। जब सामान्यीकरण थपियो, शुद्धता 30% बाट 89% मा बढ्यो। पाठ: पूर्व प्रक्रिया मौन तर घातक छ।

केस 3 - गोपनीयता लाभ। एउटा स्वास्थ्य अनुप्रयोगले अन-डिभाइस कोर एमएल मोडेलको साथ मुटुको दर डेटाबाट विसंगति पत्ता लगायो। डाटा कहिल्यै सर्भरमा गएन। यो छनोटले एप स्टोरको गोपनीयता लेबलमा "डेटा सङ्कलन गर्दैन" भन्ने वाक्यांश प्राप्त गर्न एपलाई सक्षम बनायो र प्रतिस्पर्धीहरूको तुलनामा यसको डाउनलोड दर बढ्यो। अन-यन्त्र छनोट नैतिक र व्यावसायिक रूपमा लाभदायक दुवै थियो।

कमजोर प्रम्प्ट / बलियो प्रम्प्ट

कमजोर प्रम्प्ट: "मेरो एपमा छवि पहिचान थप्नुहोस्।"

शक्तिशाली प्रम्प्ट: "मेरो एन्ड्रोइड/कोटलिन अनुप्रयोगमा रकम र मिति पढ्ने सुविधा थप्नुहोस्। - Google ML किट पाठ पहिचान प्रयोग गर्नुहोस् (उपकरणमा, अफलाइन) - क्यामेरा वा ग्यालेरीबाट छवि लिनुहोस् - regex को साथ मान्यता प्राप्त पाठबाट रकम र मिति निकाल्नुहोस् - सम्पादन योग्य क्षेत्रमा अनुमोदनको लागि प्रयोगकर्तालाई नतिजा प्रस्तुत गर्नुहोस्, क्यामेराको स्वत: डाउनफ्लो डाउनफ्लो गर्नुहोस्। पूर्व-प्रशोधन र त्रुटि अवस्थाहरू, चरणहरू व्याख्या गर्नुहोस्।"

प्रतिलिपि गर्न मिल्ने टेम्प्लेटहरू

पथ चयन टेम्प्लेट: "म निम्न सुविधा बनाउन चाहन्छु: [सुविधा]। यो यन्त्रमा वा क्लाउड हुनुपर्छ? आधारमा तुलना गर्नुहोस्: गोपनीयता, अफलाइन आवश्यकता, मोडेल आकार, ब्याट्री, लागत। उपयुक्त उपकरण (ML किट / कोर ML / TF लाइट) सिफारिस गर्नुहोस् र न्याय गर्नुहोस्।"

एकीकरण टेम्प्लेट: "[प्लेटफर्म] को लागि [मोडेल/सक्षमता] एकीकरण लेख्नुहोस्: 1) मोडेल लोडिङ2) इनपुट प्रिप्रोसेसिङ (अपेक्षित आकार र सामान्यीकरण) 3) इन्फरेन्स कल4) आउटपुट व्याख्या र आत्मविश्वास स्कोर जाँच5) कम-विश्वास परिणाममा प्रयोगकर्तालाई चेतावनी 'प्रिको मोडेलको कागजातको मान प्रमाणित गर्न सम्झाउनुहोस्।

आत्मविश्वास स्कोर टेम्प्लेट: "यस अनुमान कोडमा आत्मविश्वास स्कोरलाई विचार गर्नुहोस्:- हालको नतिजा 'ठ्याक्कै' थ्रेसहोल्ड मुनि (जस्तै 0.6) - प्रयोगकर्तालाई 'यो अनुमानित हो' नोट देखाउनुहोस्- यदि महत्वपूर्ण क्षेत्र (स्वास्थ्य, सुरक्षा) [कोड] हो भने विशेषज्ञलाई सन्दर्भ गर्नुहोस्"

कार्यसम्पादन प्रमाणिकरण टेम्प्लेट: "यस अन-यन्त्र मोडेल एकीकरणको लागि वास्तविक उपकरणमा मैले मापन गर्न आवश्यक मेट्रिकहरू सूचीबद्ध गर्नुहोस्: अनुमान समय, मेमोरी वृद्धि, ब्याट्री प्रभाव, ताप। प्रत्येकको लागि मापन विधि बताउनुहोस्।"

सामान्य गल्तीहरू

प्रिप्रोसेसिङ छोड्दै वा गलत तरिकाले गर्दै। गलत साइज/सामान्यीकरणले चुपचाप गलत नतिजा उत्पन्न गर्छ।
आत्मविश्वास स्कोरलाई बेवास्ता गर्दै। कम-विश्वास अनुमानलाई सही रूपमा प्रस्तुत गर्दा प्रयोगकर्तालाई बहकाउनेछ।
इमुलेटरमा मोडेल परीक्षण गर्दै। वास्तविक उपकरण गति र ब्याट्री धेरै फरक छन्; सधैं वास्तविक हार्डवेयर मा मापन।
अनावश्यक रूपमा क्लाउडमा संवेदनशील डाटा पठाउँदै। यन्त्रमा सम्भव हुँदा क्लाउड छनौट गर्नु गोपनीयता जोखिम हो।
मोडेल आकार बेवास्ता गर्दै। ठूला मोडेल एपहरूले डाउनलोड साइज बढाउँछन् र कम हार्डवेयरमा क्र्यास हुन्छन्।
मोडेल को प्रशिक्षण सीमा बिर्सने। मोडेल गलत अवस्थामा छ जहाँ यो देख्दैन (रात, फरक भाषा); यो प्रयोगकर्तालाई स्पष्ट पार्नुहोस्।

संक्षेपमा

अन-डिभाइस AI ले फोनमा डाटा राखेर गोपनीयता, गति र अफलाइन सञ्चालन प्रदान गर्दछ; सीमा उपकरण शक्ति र मोडेल आकार हो। ML किट बाहिरी-बक्स क्षमताहरूको लागि प्रयोग गरिन्छ, Core ML (iOS) र TensorFlow Lite (क्रस-प्लेटफर्म) अनुकूलन मोडेलहरूको लागि प्रयोग गरिन्छ। एकीकरणको मौन हत्यारा अनुचित पूर्वप्रक्रिया हो; इनपुट साइज र सामान्यीकरण मोडेलको कागजातबाट प्रमाणित गरिन्छ। प्रत्येक परिणाम आत्मविश्वास स्कोरको साथ आउँछ, र कम आत्मविश्वास भविष्यवाणीहरू पूर्ण सत्यको रूपमा प्रस्तुत हुँदैनन्। निर्णयहरू वास्तविक उपकरणमा मापन गरिन्छ, इमुलेटरमा होइन।

आवेदन कार्य

"फोटोबाट टेक्स्ट रिडिङ" वा "बारकोड रिडिङ" सुविधाको लागि, AI लाई सोध्नुहोस् कि यो यन्त्रमा हुनुपर्छ वा "पाथ चयन टेम्प्लेट" को साथ क्लाउड हुनुपर्छ, त्यसपछि "एकीकरण टेम्प्लेट" सँग ML किट-आधारित ब्लुप्रिन्टको लागि सोध्नुहोस्। कोडमा प्रि-प्रोसेसिङ चरण र प्रयोगकर्ता अनुमोदन/सम्पादन प्रवाह अवस्थित छ भनी प्रमाणित गर्नुहोस्। ट्रस्ट स्कोर थ्रेसहोल्ड सेट गर्नुहोस् र नतिजा कम विश्वास छ भने तपाईले के गर्नुहुन्छ लेख्नुहोस्।

चेकलिस्ट

[ ] मैले मापदण्डको आधारमा अन-यन्त्र/क्लाउड निर्णय गरें
[ ] मैले सही उपकरण छनोट गरें (ML Kit / Core ML / TF Lite)
[ ] मैले मोडेलको कागजातबाट प्रिप्रोसेसिङ आयाम र सामान्यीकरण प्रमाणित गरें
[ ] मैले ट्रस्ट स्कोर जाँच गरें र कम विश्वास परिणामहरूको चेतावनी दिए
[] मैले अनुमोदन/सम्पादनको साथ प्रयोगकर्तालाई नतिजा प्रस्तुत गरें, मैले यसलाई अन्धाधुन्ध रूपमा बचत गरेन
[ ] मैले वास्तविक उपकरणमा कार्यसम्पादन मापन गरें, इमुलेटरमा होइन