ایول اور مانیٹرنگ: یہ جاننا کہ ماڈل واقعی پیداوار میں کیا کرتا ہے۔

فائدہ:

• ماڈل کے انحطاط کی خاموش وجوہات کو پہچاننے کی صلاحیت (ڈیٹا ڈرفٹ، کانسیپٹ ڈرفٹ، اپ اسٹریم ایرر) اور تھری لیئر (آپریشنل، ان پٹ، آؤٹ پٹ) مانیٹرنگ قائم کرنے کی صلاحیت
• رول چیک، LLM-ریفری اور انسانی تشخیص کے ساتھ ایک سے زیادہ پرتوں میں LLM سسٹمز کا جائزہ لینے کی صلاحیت، اور LLM-ریفری ہیومن اینکر کے ساتھ کیلیبریٹ کرنے کی صلاحیت
• ایج اور سیکیورٹی کیسز پر مشتمل ایول سیٹ ڈیزائن کرنے اور پکڑی گئی ہر غلطی کو مستقل ٹیسٹ کیس میں تبدیل کرنے کی صلاحیت

ایک بار جب ماڈل پروڈکشن میں چلا جاتا ہے، تو آپ کا کام نہیں ہوتا ہے۔ اصل ذمہ داری ابھی شروع ہوتی ہے۔ کیونکہ ماڈل خاموشی سے ٹوٹ سکتا ہے جب کوئی نہیں دیکھ رہا ہے۔ اس یونٹ میں، ہم دو تکمیلی مضامین کا احاطہ کرتے ہیں: تشخیص (منظم طریقے سے ماڈل کے معیار کی پیمائش) اور نگرانی (پیداوار میں ماڈل کی مسلسل نگرانی)۔ خاص طور پر LLM سسٹمز میں، eval زیادہ مشکل ہے اور کلاسیکل ML سے زیادہ دیکھ بھال کی ضرورت ہے۔

پروڈکشن ماڈل خاموشی سے کیوں ٹوٹ رہا ہے۔

ایک بگ کریش ہو جاتا ہے، لاگ پرنٹ ہوتا ہے، الارم بج جاتا ہے۔ ایک ایم ایل ماڈل، دوسری طرف، غلطیاں پیدا کیے بغیر غلط ہو سکتا ہے۔ تنزلی کی تین اہم وجوہات:

• ڈیٹا کا بہاؤ: ان پٹ ڈیٹا کی تقسیم وقت کے ساتھ تبدیل ہوتی ہے (نئی مصنوعات، صارف کے رویے میں تبدیلی، موسمی نوعیت)۔ ماڈل وہی رہتا ہے لیکن دنیا بدل جاتی ہے۔
• تصور بڑھاؤ: ان پٹ آؤٹ پٹ رشتہ بدل جاتا ہے۔ دھوکہ دہی کے حربے اور اسپام کے نمونے تیار ہوتے ہیں۔ جو کل صحیح تھا آج غلط ہوگا۔
• اپ اسٹریم بدعنوانی: ڈیٹا کا ذریعہ فارمیٹ بدلتا ہے، ایک علاقہ آزاد ہو جاتا ہے۔ ماڈل خراب ان پٹ کے ساتھ خاموشی سے ڈولتا ہے۔

ٹریسنگ ان خاموش تحریف کو قابل سماعت بنا رہی ہے۔

کیا دیکھنا ہے: تین پرتیں۔

اچھی نگرانی تین پرتوں پر محیط ہے:

1. آپریشنل میٹرکس: تاخیر، غلطی کی شرح، درخواست کا حجم، وسائل کا استعمال۔ "کیا سسٹم کھڑا ہے؟"
2. ڈیٹا/ان پٹ میٹرکس: کیا تربیت میں ان پٹ کی تقسیم اسی طرح کی ہے؟ کیا لاپتہ قیمت کی شرح میں اضافہ ہوا ہے؟ کیا نئے زمرے آگئے ہیں؟ "کیا ماڈل مانوس ڈیٹا دیکھ رہا ہے؟"
3. ماڈل/آؤٹ پٹ میٹرکس: پیشین گوئی تقسیم لاگ؟ کیا اعتماد کے اسکور گر گئے ہیں؟ اور اگر ممکن ہو تو زمینی سچائی کے مقابلے میں درستگی کیا ہے؟ "کیا ماڈل اب بھی درست ہے؟"

تیسری تہہ سب سے قیمتی لیکن سب سے مشکل ہے۔ کیونکہ اصل نتیجہ عام طور پر تاخیر کے ساتھ آتا ہے (یہ مہینوں بعد واضح ہو جاتا ہے کہ قرض کی ادائیگی ہوگی یا نہیں)۔

اشارہ: اگر اصل نتیجہ میں تاخیر ہو رہی ہے تو پہلے ان پٹ اور پیشین گوئی کی تقسیم کی نگرانی کریں۔ ان پٹ ڈسٹری بیوشن کی شفٹ درستگی کے انحطاط کی ابتدائی علامت ہے اور حقیقی نتیجہ کا انتظار کیے بغیر خطرے کی گھنٹی بجا سکتی ہے۔

ایل ایل ایم سسٹمز کا اندازہ لگانا: خصوصی چیلنج

کلاسیکی ایم ایل میں، "درست جواب" واضح ہے (کلاس 0 یا 1)۔ دوسری طرف، LLM کا نتیجہ کھلا ہوا ہے: ایک ہی سوال کے بہت سے درست جواب ہو سکتے ہیں، "درستیت" کسی ایک نمبر میں فٹ نہیں ہوتی۔ ایل ایل ایم ایول اپروچز:

• حوالہ شدہ میٹرکس: آؤٹ پٹ کا مثالی جواب سے موازنہ کرنا۔ محدود؛ کیونکہ یہ صحیح جواب کو مختلف طریقے سے "غلط" سمجھ سکتا ہے۔
• قواعد پر مبنی چیکس: کیا آؤٹ پٹ درست JSON ہے؟ کیا کوئی ممنوعہ الفاظ ہیں؟ کیا یہ مطلوبہ فیلڈز پر مشتمل ہے؟ سستا، قابل اعتماد، تنگ۔
• LLM-جج (ایل ایل ایم-جج): کسی ماڈل سے یہ نہ پوچھیں کہ "کیا یہ جواب اس معیار کے مطابق اچھا ہے؟" یہ ترازو کرتا ہے، لیکن ریفری کی خود تصدیق ہونی چاہیے۔
• انسانی جائزہ: سونے کا معیاری لیکن مہنگا اور سست۔ یہ نمونے پر استعمال ہوتا ہے۔

عملی طور پر یہ ایک ساتھ استعمال کیے جاتے ہیں: ہر آؤٹ پٹ پر سستے اصول کی جانچ پڑتال، ایک بڑے نمونے پر LLM-جج، چھوٹے لیکن سخت نمونے پر انسانی تشخیص۔

کمزور نقطہ نظر / مضبوط نقطہ نظر

کمزور: "LLM-میں نے ریفری سے پوچھا، ہمارے 92% جوابات اچھے تھے۔ نظام بہت اچھا ہے۔"

Güçlü: "ہم نے پہلے 100 پرنٹ آؤٹ پر ہیومن لیبل لگایا۔ ہم نے LLM-جج کو اسی 100 پرنٹ آؤٹس پر چلایا اور ہیومن جج کے معاہدے کی پیمائش کی - 85% معاہدہ، قابل قبول۔ ہم نے دستاویز کیا جہاں جج منظم طریقے سے غلط ہوا (طویل جوابات غیر منصفانہ طور پر اچھے تلاش کرنے کا رجحان) اور ہم نے جج پر بھروسہ کیا، تب ہی اس کا اسکور درست کیا۔"

فرق: مضبوط نقطہ نظر انسانی اینکر کے ساتھ ریفری کی تصدیق کرتا ہے، آنکھ بند کر کے نہیں۔ ایک غیر تصدیق شدہ LLM-ریفری خوبصورت نظر آتا ہے لیکن غلط اعتماد دیتا ہے۔

توجہ: ایل ایل ایم ریفری بھی ایک ماڈل ہے۔ ہالوکینوجینک، متعصب (لمبے/پراعتماد جوابات کے حق میں)، متضاد ہو سکتا ہے۔ پروڈکشن کے فیصلے کرنے سے پہلے انسانی ٹیگز کے ساتھ ریفری کے اسکور کیلیبریٹ کریں۔

تشخیص سیٹ: احتیاط سے ڈیزائن کیا گیا ہے۔

ایک اچھا ایول سیٹ مختلف قسم کے حقیقی استعمال اور مشکل صورتوں کی نمائندگی کرتا ہے۔ صرف آسان مثالوں سے بھرا ہوا ایول آپ کو غلط اعتماد میں چھوڑ دے گا۔ اسے ایول کلسٹر میں رکھنا یقینی بنائیں:

• ایج کیسز: خالی ان پٹ، بہت لمبا ان پٹ، غیر معمولی فارمیٹ۔
• معلوم مشکل کیسز: مثالیں جہاں ماڈل نے ماضی میں غلطیاں کی ہیں (رجعت ٹیسٹ کے طور پر)۔
• سیکیورٹی کے واقعات: فوری انجیکشن کی کوششیں، بدنیتی پر مبنی درخواستیں، رازداری کی خلاف ورزی کے جال۔

ایول کلسٹر وقت کے ساتھ ساتھ بڑھتا ہے: ہر نیا بگ جسے آپ پروڈکشن میں پکڑتے ہیں اگلی تشخیص کے لیے ایک ٹیسٹ کیس بن جاتا ہے۔

الارم اور مداخلت

الارم کے بغیر نگرانی ادھوری رہتی ہے۔ ہر اہم میٹرک کے لیے ایک حد اور جوابی منصوبہ ہونا چاہیے: "اگر ان پٹ ڈرفٹ X سے زیادہ ہو تو انجینئر کو مطلع کریں"، "اگر غلطی کی شرح Y سے زیادہ ہو تو آٹو رول بیک"۔ الارم کو بامعنی رکھیں - بہت سارے جھوٹے الارم ٹیم کو غیر حساس بناتے ہیں اور انہیں حقیقی الارم سے محروم کردیتے ہیں۔

تین چھوٹے مقدمات

کیس 1 - ابتدائی وارننگ۔ طلب کی پیشن گوئی کے ماڈل کی صحیح درستگی صرف ہفتے کے آخر میں ظاہر ہوئی۔ ٹیم ان پٹ ڈسٹری بیوشن کی نگرانی کر رہی تھی اور اس نے منگل کو ایک نئی پروڈکٹ کیٹیگری میں اچانک اضافہ دیکھا - جو ماڈل نے کبھی نہیں دیکھا تھا۔ انہوں نے درستگی میں کمی کا انتظار کیے بغیر ماڈل کو اپ ڈیٹ کیا۔ ان پٹ مانیٹرنگ نے دن بچائے۔

کیس 2 - غیر تصدیق شدہ ریفری۔ ایک ٹیم نے LLM-reviewer کی بنیاد پر "ہمارا معیار بہترین ہے" کی اطلاع دی۔ جب گاہک کی شکایات میں اضافہ ہوا، تو انسانی نگرانی متعارف کرائی گئی: ریفری نے پراعتماد لیکن غلط جوابات کو "اچھا" شمار کیا۔ ایک بار جب ریفری کو انسانی ٹیگز کے ساتھ کیلیبریٹ کیا گیا تو، حقیقی معیار سامنے آیا اور بہت کم تھا۔ سبق: ریفری کی تصدیق کیے بغیر اس پر بھروسہ نہ کریں۔

کیس 3 - ریگریشن ٹیسٹنگ۔ ایک فوری تبدیلی نے ایک مسئلہ حل کر دیا جبکہ خاموشی سے دوسرے کو توڑ دیا۔ لیکن ٹیم نے ماضی کے کیڑے ایول بالٹی میں رکھے۔ جب اس کلسٹر پر نئی تبدیلی کا تجربہ کیا گیا تو ٹوٹا ہوا کیس فوری طور پر پکڑا گیا اور تبدیلی کو ٹھیک کر دیا گیا۔ سبق: ہر طے شدہ بگ کو مستقل ٹیسٹ کیس بننا چاہیے۔

کاپی کرنے کے قابل ٹیمپلیٹس

اس پروڈکشن ماڈل کے لیے ٹریکنگ پلان تیار کریں۔ تین پرتوں کا احاطہ کریں: 1) آپریشنل (دیر، غلطی کی شرح، حجم) 2) ان پٹ/ڈیٹا (ڈسٹری بیوشن شفٹ، گمشدہ قدر، نیا زمرہ) 3) ماڈل/آؤٹ پٹ (پیش گوئی کی تقسیم، اعتماد، درستگی اگر ممکن ہو) ماڈل: [تفصیل]۔ اصل نتیجہ آنے میں کتنا وقت لگتا ہے: ہر میٹرک کے لیے حد اور مداخلت کی سفارش شامل کریں۔

اس LLM سسٹم کے لیے تشخیص (تقسیم) کی حکمت عملی تجویز کریں۔ ٹاسک: [تفصیل] پرتوں کا تعین کریں:- ہر آؤٹ پٹ پر کون سے اصول پر مبنی چیک چلائے جائیں؟- LLM-ثالث کو کن معیاروں کا جائزہ لینا چاہیے اور ان کی توثیق کیسے کی جانی چاہیے (انسانی اینکر)؟- کس نمونے میں انسانی جانچ پڑتال کی جانی چاہیے اور حفاظتی معاملات میں حفاظتی تشخیص کا تعین کیا جانا چاہیے۔

اس LLM-ریفری پرامپٹ کو چیک کریں:- کیا تشخیص کا معیار واضح ہے یا موضوعی؟- کیا یہ لمبائی/اعتماد کے تعصب کا شکار ہے؟- میں انسانی ٹیگز کے ساتھ ریفری کو کیسے کیلیبریٹ کروں؟ ریفری پرامپٹ: [پرامپٹ]

اس مانیٹرنگ الارم کے لیے ایک رسپانس رن بک لکھیں۔ الارم: [جیسے input drift threshold exceeded]اس پر مشتمل ہونا چاہیے: ابتدائی کنٹرول کے اقدامات، ممکنہ وجوہات، رول بیک معیار، کس کو مطلع کرنا ہے۔

خرابی کی وجہ سے ٹیبل

تحریف

علامت

ابتدائی پتہ لگانے کا طریقہ

ڈیٹا بہاؤ

ان پٹ کی تقسیم میں تبدیلیاں

ان پٹ کی تقسیم کی نگرانی

تصور کی تبدیلی

صداقت خاموشی سے گر جاتی ہے۔

پیشن گوئی + اصل موازنہ

اوپر کی خرابی

فیلڈز خالی/فارمیٹ تبدیلیاں ہو جاتی ہیں۔

اسکیما کی توثیق + لاپتہ شرح

ماڈل میں تضاد

آؤٹ پٹ ڈسٹری بیوشن شفٹ

آؤٹ پٹ ڈسٹری بیوشن مانیٹرنگ

عام غلطیاں

• نگرانی قائم نہیں کرنا۔ ماڈل خاموشی سے ٹوٹ جاتا ہے، اسے کوئی نہیں دیکھتا۔
• صرف آپریشنل میٹرکس کو ٹریک کریں۔ سسٹم تیار ہے، لیکن پیشین گوئیاں غلط ہو سکتی ہیں۔
• ریفری کی تصدیق کیے بغیر ایل ایل ایم کا استعمال۔ یہ غلط اعتماد دیتا ہے۔
• آسان مثالوں کے ساتھ Eval۔ یہ حقیقی مشکل کی نشاندہی نہیں کرتا۔
• eval میں ماضی کی غلطیاں شامل نہیں ہیں۔ وہی خرابی دوبارہ لوٹ آتی ہے۔
• بلند آواز کے الارم۔ ٹیم غیر حساس ہو جاتی ہے، حقیقی خطرے کی گھنٹی نہیں ہوتی۔

خلاصہ میں

ماڈل پروڈکشن میں خرابیاں پیدا کیے بغیر غلط ہو سکتا ہے۔ لہذا eval اور نگرانی ترقی کی طرح اہم ہیں۔ تین تہوں پر نگرانی قائم کریں (آپریشنل، ان پٹ، آؤٹ پٹ)؛ اگر اصل نتیجہ میں تاخیر ہوتی ہے تو ابتدائی انتباہ کے طور پر ان پٹ ڈرفٹ کا استعمال کریں۔ ایل ایل ایم سسٹمز میں، ایول اوپن اینڈڈ ہے۔ اصول کی جانچ پڑتال، LLM-ریفری، اور انسانی تشخیص کو ایک ساتھ استعمال کریں — لیکن انسانی اینکر کے ساتھ LLM-ریفری کی توثیق کرنا یقینی بنائیں۔ اپنے ایول کلسٹر کو ایج اور سیکیورٹی کیسز کے ساتھ بھرپور بنائیں اور ہر پکڑی گئی غلطی کو مستقل ٹیسٹ کیس میں تبدیل کریں۔

درخواست کا کام

پروڈکشن (یا قریب پروڈکشن) ماڈل کے لیے ایک تھری لیئر مانیٹرنگ پلان لکھیں اور کم از کم ایک ان پٹ ڈسٹری بیوشن میٹرک کے لیے حد + الارم کی وضاحت کریں۔ اگر آپ کے پاس LLM سسٹم ہے: انسانوں کے ساتھ 30 آؤٹ پٹس کو ٹیگ کریں، انہی آؤٹ پٹس پر LLM-ریفری چلائیں، اور انسانی ریفری کے معاہدے کی پیمائش کریں۔ ریفری کے منظم تعصب کو نوٹ کریں۔ اپنے ایول کلسٹر میں کم از کم 3 کنارے اور 2 سیکیورٹی کیسز شامل کریں۔

چیک لسٹ

• نگرانی تینوں تہوں (آپریشنل، ان پٹ، آؤٹ پٹ) کا احاطہ کرتی ہے۔
• اگر اصل نتیجہ میں تاخیر ہوتی ہے تو میں ابتدائی وارننگ کے طور پر ان پٹ ڈرفٹ کا استعمال کرتا ہوں۔
• میں نے انسانی لیبلز کے ساتھ ایل ایل ایم ثالث کو کیلیبریٹ کیا۔
• ایول کلسٹر کنارے اور حفاظتی کیسز پر مشتمل ہے۔
• میں نے پکڑے گئے ہر مسئلے کو مستقل ٹیسٹ کیس میں بدل دیا۔
• ہر اہم میٹرک کی ایک حد اور رسپانس پلان ہوتا ہے۔