یونٹ 4 / 11

آن ڈیوائس AI: کور ML، TensorFlow Lite اور ML کٹ

فائدہ:

  • پرائیویسی، آف لائن ضرورت، ماڈل سائز اور بیٹری کے معیار کی بنیاد پر آن ڈیوائس یا کلاؤڈ کا فیصلہ کرنے اور صحیح ٹول (ML Kit، Core ML، TensorFlow Lite) کا انتخاب کرنے کی صلاحیت
  • ماڈل انضمام میں ماڈل کے دستاویز سے ان پٹ پری پروسیسنگ (سائز اور نارملائزیشن) کی تصدیق کرکے خاموش غلطیوں کو روکنے کی صلاحیت
  • اعتماد کے اسکور کا جائزہ لینے اور صارف کی منظوری کے ساتھ اور حقیقی ڈیوائس پر نتیجہ کی پیمائش کرنے کی صلاحیت، کم اعتماد کی پیشین گوئیوں کو قطعی سچائی کے طور پر پیش کیے بغیر۔

اب تک، ہم نے ترقی کے عمل کو تیز کرنے کے لیے AI کو بطور امداد استعمال کیا ہے۔ اب ہم AI کے دوسرے کردار کی طرف بڑھتے ہیں: ایپلی کیشن میں شامل ٹیلنٹ۔ جدید فونز میں AI ماڈلز کو چلانے کی طاقت ہوتی ہے جیسے کہ تصویر کی شناخت، ٹیکسٹ ٹرانسلیشن، اسپیچ ٹرانسکرپشن وغیرہ کو براہ راست ڈیوائس پر (آن ڈیوائس — سرور پر جانے کے بغیر فون کے اپنے پروسیسر میں)۔ ڈیوائس پر AI؛ یہ رفتار، رازداری اور آف لائن آپریشن کے لحاظ سے کلاؤڈ سلوشنز پر زبردست فوائد پیش کرتا ہے۔ اس یونٹ میں، ہم سیکھیں گے کہ iOS کے کور ML، کراس پلیٹ فارم TensorFlow Lite (جسے اب LiteRT کہا جاتا ہے) اور Google کے تیار حل ML Kit کے ساتھ ایپلی کیشن میں AI کو کیسے سرایت کرنا ہے، اور اس انضمام میں AI کو بطور اسسٹنٹ کیسے استعمال کیا جائے۔

آن ڈیوائس یا کلاؤڈ؟

یہ پہلا اور اہم ترین تعمیراتی فیصلہ ہے۔ آن ڈیوائس AI فون سے ڈیٹا نہیں ہٹاتا ہے - رازداری کے لیے ایک بہت بڑی جیت۔ یہ فوری بھی ہے اور آف لائن کام کرتا ہے کیونکہ نیٹ ورک میں تاخیر نہیں ہوتی ہے۔ تاہم، یہ ڈیوائس کی پروسیسنگ پاور اور میموری سے محدود ہے۔ بہت بڑے ماڈل (جیسے دیو قامت زبان کے ماڈل) فون میں فٹ نہیں ہوں گے یا بیٹری ختم کر دیں گے۔ دوسری طرف، کلاؤڈ AI لامحدود طاقت پیش کرتا ہے، لیکن سرور کو ڈیٹا بھیجتا ہے، نیٹ ورک کی ضرورت ہوتی ہے اور تاخیر پیدا کرتی ہے۔

معیار

آن ڈیوائس

کلاؤڈ (کلاؤڈ API)

رازداری

ڈیٹا ڈیوائس پر رہتا ہے، مضبوط

ڈیٹا سرور پر جاتا ہے، توجہ کی ضرورت ہے۔

رفتار

فوری، کوئی نیٹ ورک نہیں۔

نیٹ ورک کی تاخیر پر منحصر ہے۔

آف لائن

یہ کام کرتا ہے۔

کام نہیں کرتا

ماڈل کا سائز

محدود (فون وسائل)

لامحدود

بیٹری/گرمی

بھاری استعمال کے ساتھ اثرات

لوڈ کے تحت سرور، آلہ آرام

لاگت

مفت (آلہ کا ذریعہ)

فیس فی استعمال

فیصلہ کا اصول: اگر ذاتی/حساس ڈیٹا پر کارروائی ہو رہی ہے، آف لائن کام کرنے کی ضرورت ہے، یا فوری جواب ضروری ہے تو آن ڈیوائس کا انتخاب کریں۔ اگر آپ کو ایک بہت بڑے ماڈل کی ضرورت ہے، تو بادل کی طرف رجوع کریں۔ یہ یونٹ آلے پر مرکوز ہے۔ ہم اگلی یونٹ میں کلاؤڈ AI کا احاطہ کریں گے۔

ٹپ: ہمیشہ ایک خصوصیت کے لیے آن ڈیوائس کو اپنا ڈیفالٹ بنائیں جو حساس ڈیٹا (صحت، بایومیٹرکس، مقام) کو ہینڈل کرتی ہے۔ فقرہ "ڈیٹا ڈیوائس کو نہیں چھوڑتا" رازداری کی تعمیل اور صارف کے اعتماد دونوں کے لیے انمول ہے، اور اسٹور پرائیویسی لیبل میں بڑا فرق پڑتا ہے۔

تین طریقے: ایم ایل کٹ، کور ایم ایل، ٹینسر فلو لائٹ

ایم ایل کٹ (گوگل) شروع کرنے کا سب سے آسان طریقہ ہے: یہ ٹیکسٹ ریکگنیشن (OCR — تصویر میں متن پڑھنا)، چہرے کا پتہ لگانا، بارکوڈ پڑھنا، چند سطروں میں ترجمہ جیسی ریڈی میڈ صلاحیتیں دیتا ہے۔ آپ کو اپنے ماڈل کو تربیت دینے کی ضرورت نہیں ہے۔ کور ML (Apple) iOS پر اپنا ماڈل یا ریڈی میڈ ماڈل چلانے کا سب سے موثر طریقہ ہے۔ یہ ایپل کے نیورل انجن (مصنوعی نیورل نیٹ ورک پروسیسر) ہارڈ ویئر کا استعمال کرتا ہے۔ TensorFlow Lite/LiteRT ایک کراس پلیٹ فارم حل ہے جو آپ کو Android اور iOS دونوں پر اپنا تربیت یافتہ ماڈل چلانے کی اجازت دیتا ہے۔

AI کے ساتھ عام انضمام کا بہاؤ اس طرح ہے:

  1. ٹیلنٹ کی تعریف۔ ایک واضح مقصد، جیسا کہ "میں تصویر میں موجود متن کو پڑھنا چاہتا ہوں۔"
  2. راستے کا انتخاب۔ اگر تیار ٹیلنٹ ہے تو ایم ایل کٹ؛ کور ML/TF لائٹ اگر خصوصی ماڈل دستیاب ہو۔
  3. ماڈل فارمیٹ۔ .mlmodel (Core ML)، .tflite (TF Lite)۔ AI تبدیلی کے مراحل کی وضاحت کرتا ہے۔
  4. انٹیگریشن کوڈ۔ ماڈل لوڈ کرنا، ان پٹ کو پری پروسیس کرنا، آؤٹ پٹ کی تشریح کرنا۔
  5. کارکردگی کا امتحان۔ اصلی ڈیوائس پر رفتار، میموری، بیٹری کی پیمائش۔
احتیاط: آن ڈیوائس ماڈل کے انضمام میں سب سے عام AI غلطی ان پٹ پری پروسیسنگ ہے — تصویر کو سائز اور رنگ کی شکل میں تبدیل کرنا جس کی ماڈل کی توقع ہے۔ اگر ماڈل 224x224 پکسلز کی توقع رکھتا ہے اور آپ اسے 300x300 دیتے ہیں، تو نتیجہ بے معنی ہوگا، لیکن آپ کو غلطی کا پیغام نہیں ملے گا۔ ماڈل کی دستاویز سے پری پروسیسنگ اقدار کی تصدیق کریں۔

ماڈل کی حدود کو جاننا

ایک آن ڈیوائس ماڈل اس ڈیٹا کی بنیاد پر فیصلے کرتا ہے جس پر اسے تربیت دی گئی تھی۔ صرف دن میں لی گئی تصاویر پر تربیت یافتہ آبجیکٹ ریکگنیشن ماڈل رات کی تصاویر پر غلط ہوگا۔ ماڈل کا اعتماد کا سکور ہے (اعتماد — ماڈل اپنے جواب کے بارے میں کتنا پر اعتماد ہے، عام طور پر 0 اور 1 کے درمیان)؛ کم اعتماد کے نتائج کو صارف کو درست کے طور پر پیش کرنا خطرناک ہے۔ مثال کے طور پر، جلد کے اسپاٹ اسکیننگ ایپلی کیشن کو "یقینی طور پر بے نظیر" نہیں کہنا چاہیے، لیکن "ماڈل کی پیشین گوئی یہ ہے، براہ کرم کسی معالج سے مشورہ کریں"۔ ماڈل کا نتیجہ ایک تجویز ہے، تشخیص نہیں۔

تین چھوٹے مقدمات

کیس 1 — OCR کے ساتھ ایکسلریشن۔ اخراجات سے باخبر رہنے والی ایپ نے ایم ایل کٹ ٹیکسٹ ریکگنیشن کے ساتھ رسیدیں دستی طور پر داخل کرنے کے بوجھ کو ہٹا دیا ہے۔ صارف رسید کی تصویر لیتا ہے، اور رقم اور تاریخ خود بخود بھر جاتی ہے۔ دستی اندراج کا وقت 40 سیکنڈ سے گھٹ کر 8 سیکنڈ فی رسید ہوگیا۔ ٹیم کے پاس ہمیشہ صارف سے AI کی پڑھی جانے والی رقم کی تصدیق ہوتی تھی۔ کیونکہ جھریوں والی رسیدوں میں غلطی کا 6% مارجن تھا۔ آٹومیشن + انسانی منظوری صحیح توازن تھا۔

کیس 2 - پری پروسیسنگ کی غلطی۔ ایک ٹیم نے TensorFlow Lite کے ساتھ پودوں کی شناخت کے ماڈل کو مربوط کیا۔ ٹیسٹر پر، نتائج بے ترتیب تھے۔ مسئلہ یہ تھا کہ AI نے جو کوڈ تیار کیا ہے اس نے امیج کو ماڈل کی متوقع [0,1] حد تک معمول پر نہیں لایا (پکسل ویلیوز 0-255 پر چھوڑ دی گئیں)۔ جب نارملائزیشن شامل کی گئی تو درستگی 30% سے بڑھ کر 89% ہوگئی۔ سبق: پری پروسیسنگ خاموش لیکن مہلک ہے۔

کیس 3 - رازداری کا فائدہ۔ ایک ہیلتھ ایپلی کیشن نے آن ڈیوائس کور ML ماڈل کے ساتھ دل کی شرح کے ڈیٹا سے بے ضابطگی کا پتہ لگایا۔ ڈیٹا کبھی بھی سرور پر نہیں گیا۔ اس انتخاب نے ایپ اسٹور پرائیویسی لیبل میں "ڈیٹا اکٹھا نہیں کرتا" کا جملہ موصول کرنے کے لیے ایپلیکیشن کو فعال کیا اور حریفوں کے مقابلے اس کی ڈاؤن لوڈ کی شرح میں اضافہ کیا۔ ڈیوائس پر انتخاب اخلاقی اور تجارتی دونوں لحاظ سے منافع بخش تھا۔

کمزور فوری / مضبوط اشارہ

کمزور اشارہ: "میری ایپ میں تصویر کی شناخت شامل کریں۔"

طاقتور اشارہ: "میری Android/Kotlin ایپلیکیشن میں رقم اور تاریخ پڑھنے کی خصوصیت شامل کریں۔ - Google ML Kit Text Recognition (آن ڈیوائس، آف لائن) کا استعمال کریں - کیمرے یا گیلری سے تصویر لیں - regex کے ساتھ تسلیم شدہ متن سے رقم اور تاریخ نکالیں - صارف کو قابل تدوین فیلڈ میں منظوری کے لیے نتیجہ پیش کریں، اور کیمرہ خود بخود ڈاؤن لوڈ کریں پری پروسیسنگ اور خرابی کے حالات، اقدامات کی وضاحت کریں۔"

کاپی کرنے کے قابل ٹیمپلیٹس

پاتھ سلیکشن ٹیمپلیٹ: "میں مندرجہ ذیل فیچر بنانا چاہتا ہوں: [فیچر]۔ کیا اسے آن ڈیوائس یا کلاؤڈ ہونا چاہیے؟ اس کی بنیاد پر موازنہ کریں: پرائیویسی، آف لائن ضرورت، ماڈل سائز، بیٹری، لاگت۔ مناسب ٹول (ML Kit/Core ML/TF Lite) تجویز کریں اور جواز پیش کریں۔"

انٹیگریشن ٹیمپلیٹ: "[پلیٹ فارم] کے لیے [model/capability] انضمام لکھیں: 1) ماڈل لوڈنگ2) ان پٹ پری پروسیسنگ (متوقع سائز اور نارملائزیشن) 3) انفرنس کال4) آؤٹ پٹ انٹرپریٹیشن اور اعتماد سکور کی جانچ پڑتال5) کم اعتماد کے نتیجے پر صارف کو وارننگ.

اعتماد سکور ٹیمپلیٹ: "اس قیاس کوڈ میں اعتماد کے سکور پر غور کریں: - موجودہ نتیجہ 'بالکل' حد سے نیچے (مثلاً 0.6) - صارف کو 'یہ ایک تخمینہ ہے' نوٹ دکھائیں- اگر اہم علاقہ (صحت، حفاظت)[کوڈ] تو ماہر سے رجوع کریں"

کارکردگی کی توثیق کا سانچہ: "اس آن ڈیوائس ماڈل کے انضمام کے لیے مجھے اصل ڈیوائس پر پیمائش کرنے کے لیے درکار میٹرکس کی فہرست بنائیں: انفرنس ٹائم، میموری میں اضافہ، بیٹری کا اثر، حرارت۔ ہر ایک کے لیے پیمائش کا طریقہ بتائیں۔"

عام غلطیاں

  • پری پروسیسنگ کو چھوڑنا یا اسے غلط طریقے سے کرنا۔ غلط سائز/نارملائزیشن خاموشی سے غلط نتیجہ پیدا کرتی ہے۔
  • اعتماد کے اسکور کو نظر انداز کرنا۔ کم اعتماد اندازے کو درست کے طور پر پیش کرنا صارف کو گمراہ کر دے گا۔
  • ایمولیٹر میں ماڈل کی جانچ کرنا۔ ڈیوائس کی اصل رفتار اور بیٹری بہت مختلف ہیں۔ ہمیشہ اصلی ہارڈ ویئر پر پیمائش کریں۔
  • غیر ضروری طور پر کلاؤڈ کو حساس ڈیٹا بھیجنا۔ جب آن ڈیوائس ممکن ہو تو کلاؤڈ کا انتخاب رازداری کا خطرہ ہے۔
  • ماڈل سائز کو نظر انداز کرنا۔ بڑے ماڈل ایپس ڈاؤن لوڈ کے سائز کو بڑھاتی ہیں اور کم ہارڈ ویئر پر کریش کرتی ہیں۔
  • ماڈل کی تربیت کی حد کو بھولنا۔ ماڈل اس حالت میں غلط ہے جہاں اسے نظر نہیں آتا (رات، مختلف زبان)؛ یہ صارف کو واضح کریں۔

خلاصہ میں

آن ڈیوائس AI فون پر ڈیٹا رکھ کر رازداری، رفتار اور آف لائن آپریشن فراہم کرتا ہے۔ حد آلہ کی طاقت اور ماڈل کا سائز ہے۔ ML Kit کو باکس سے باہر کی صلاحیتوں کے لیے استعمال کیا جاتا ہے، کور ML (iOS) اور TensorFlow Lite (کراس پلیٹ فارم) کو حسب ضرورت ماڈلز کے لیے استعمال کیا جاتا ہے۔ انضمام کا خاموش قاتل غلط پری پروسیسنگ ہے۔ ان پٹ سائز اور نارملائزیشن کی تصدیق ماڈل کی دستاویزات سے ہوتی ہے۔ ہر نتیجہ اعتماد کے سکور کے ساتھ آتا ہے، اور کم اعتماد کی پیشین گوئیاں مطلق سچائی کے طور پر پیش نہیں کی جاتی ہیں۔ فیصلوں کی پیمائش اصلی ڈیوائس پر کی جاتی ہے، ایمولیٹر پر نہیں۔

درخواست کا کام

"تصویر سے ٹیکسٹ ریڈنگ" یا "بار کوڈ ریڈنگ" فیچر کے لیے، AI سے پوچھیں کہ آیا اسے آن ڈیوائس ہونا چاہیے یا "پاتھ سلیکشن ٹیمپلیٹ" کے ساتھ کلاؤڈ، پھر "انٹیگریشن ٹیمپلیٹ" کے ساتھ ایم ایل کٹ پر مبنی بلیو پرنٹ طلب کریں۔ تصدیق کریں کہ پری پروسیسنگ مرحلہ اور صارف کی منظوری/ترمیم کا بہاؤ کوڈ میں موجود ہے۔ ٹرسٹ سکور کی حد مقرر کریں اور لکھیں کہ اگر نتیجہ کم اعتماد ہے تو آپ کیا کریں گے۔

چیک لسٹ

  • میں نے آن ڈیوائس/کلاؤڈ فیصلہ معیار کی بنیاد پر کیا۔
  • میں نے صحیح ٹول کا انتخاب کیا (ML Kit/Core ML/TF Lite)
  • [] میں نے ماڈل کی دستاویزات سے پری پروسیسنگ کے طول و عرض اور نارملائزیشن کی تصدیق کی۔
  • میں نے اعتماد کا سکور چیک کیا اور کم اعتماد کے نتائج سے خبردار کیا۔
  • میں نے نتیجہ صارف کو منظوری/ترمیم کے ساتھ پیش کیا، میں نے آنکھیں بند کرکے محفوظ نہیں کیا۔
  • میں نے حقیقی ڈیوائس پر کارکردگی کی پیمائش کی، ایمولیٹر پر نہیں۔