یونٹ 3 / 11

ڈیٹا کی صفائی، تبدیلی اور تحقیقی تجزیہ (ازگر/پانڈا سپورٹ کے ساتھ)

فائدہ:

  • خام معاشی ڈیٹا کو صاف کرنے کی اہلیت (مشاہدات غائب، یونٹ کی الجھن، فریکوئنسی کی مماثلت) اور اسے مصنوعی ذہانت کی مدد سے تجزیہ کے لیے تیار کرنا
  • معیاری معاشی تبدیلیوں کو پرنٹ کرنے کی اہلیت جیسے حقیقی برائے نام تبدیلی، اشاریہ سازی، شرح نمو، موسمی ایڈجسٹمنٹ کو کوڈ کے طور پر مصنوعی ذہانت میں اور دستی طور پر ان کی تصدیق
  • تحقیقی اعداد و شمار کے تجزیہ کے ذریعے ڈیٹا کو پہچاننے کی صلاحیت (خلاصہ اعدادوشمار، تقسیم، آؤٹ لیرز، ارتباط) اور مصنوعی ذہانت کے خلاصے کو تنقیدی طور پر پڑھنا۔

معاشی ڈیٹا شاذ و نادر ہی تجزیہ کے لیے تیار ہوتا ہے۔ آپ نے TURKSTAT سے ڈاؤن لوڈ کردہ ٹیبل میں، کچھ مہینے غائب ہیں، ایک کالم ہزار بریکٹ کے ساتھ متن کے طور پر آتا ہے، شرح تبادلہ ترکی کی شکل میں ہے جیسے "1.234,56"، ایک سلسلہ ماہانہ ہے اور دوسرا سہ ماہی ہے۔ ماہر معاشیات کا زیادہ تر وقت تجزیہ کرنے میں نہیں بلکہ ڈیٹا کو تجزیہ کے لیے تیار کرنے میں صرف ہوتا ہے۔ یہ وہ جگہ ہے جہاں AI ایک حقیقی، کم رسک ایکسلریٹر ہے: یہ صفائی کے اقدامات تجویز کرتا ہے، پانڈا لکھتا ہے (ازگر کی ڈیٹا پروسیسنگ لائبریری)، معیاری معاشی تبدیلیوں کو کوڈفائی کرتا ہے۔ لیکن اس اکائی کا ایک ناقابل تغیر اصول بھی ہے: آپ مصنوعی ذہانت سے لکھی گئی ہر تبدیلی کو پڑھتے ہیں اور کم از کم ایک مشاہدے میں دستی طور پر اس کی تصدیق کرتے ہیں۔ اگر حقیقی برائے نام سائیکل غلط بنیادوں پر ہے، تو سارا تجزیہ خاموشی سے ختم ہو جاتا ہے۔

صفائی: کیا مسائل ہیں، انہیں کیسے حل کیا جائے؟

معاشی اعداد و شمار اور ان کی منطق میں سب سے عام مسائل:

  • نامکمل مشاہدہ۔ ایک مہینہ/ سہ ماہی خالی ہے۔ حل سیاق و سباق پر منحصر ہے: اگر یہ حقیقت میں موجود نہیں ہے، تو اسے خالی چھوڑ دیا جاتا ہے۔ اگر کوئی تکنیکی خلا ہے تو، احتیاط سے مداخلت کی جاتی ہے - لیکن من گھڑت کے درمیان لائن پتلی ہے۔
  • اکائیوں اور فارمیٹس کی الجھن۔ متن "12.345.6" کو ایک نمبر میں تبدیل کرنا ضروری ہے۔ ملین/بلین مستقل ہونا چاہیے۔
  • تعدد کی مماثلت۔ ماہانہ اور سہ ماہی سیریز کو یکجا کرنے کے لیے، ایک کو جمع کیا جاتا ہے (ماہانہ سے سہ ماہی) — چاہے یہ اوسط ہو، کل ہو یا مدت کا اختتام اشارے کی نوعیت (اسٹاک/بہاؤ کی تفریق) پر منحصر ہے۔
  • آؤٹ لیئر (انتہائی) اقدار۔ اگر کوئی مشاہدہ جنگلی طور پر انحراف کرتا ہے: کیا یہ ایک حقیقی واقعہ ہے (بحران، قیمتوں میں اضافہ)، یا ڈیٹا کی غلطی؟ حذف کرنے سے پہلے سمجھ میں آتا ہے۔
  • تاریخ کی سیدھ۔ تاریخ کی شکلیں اور مختلف سیریز کی مدت کی تعریفیں مطابقت پذیر ہیں۔
دھیان دیں: گمشدہ ڈیٹا کو بھرنا معصوم لگتا ہے، لیکن یہ ایک معاشی فیصلہ ہے۔ بحران کے مہینے کو "پڑوسی مہینوں کی اوسط" سے بھرنے کا مطلب تجزیہ سے اس بحران کو حذف کرنا ہے۔ پُر کرنے سے پہلے، پوچھیں "یہ خلا کیوں موجود ہے؟" سوال کا جواب دیں۔

معیاری معاشی تبدیلیاں

ایک ماہر معاشیات کے روزانہ کے ذخیرے میں تبدیلیاں اور ان کی تعریفیں:

  • برائے نام → اصلی۔ قیمت کے اثرات کے لیے ایڈجسٹ کرنا: حقیقی قدر = برائے نام قدر/قیمت کا اشاریہ × 100۔ ڈیفلیٹر کا بنیادی سال (انڈیکس ایڈجسٹ کرنا) نتیجہ کی بنیاد کا تعین کرتا ہے۔
  • اشاریہ سازی ایک سلسلہ کو دوبارہ اسکیل کرنا تاکہ ایک منتخب مدت = 100؛ یہ مختلف سائز کی سیریز کا موازنہ کرنے کے لیے مفید ہے۔
  • شرح نمو۔ سالانہ: (اسی مدت اس مدت / پچھلے سال −1) × 100۔ متواتر اور سالانہ شرح مختلف چیزیں ہیں۔ الجھن ایک عام غلطی ہے۔
  • موسمی اصلاح۔ باقاعدگی سے موسمی اثرات کو صاف کرنا (موسم گرما کی سیاحت، تعطیلات)؛ خام سیریز اور موسمی طور پر ایڈجسٹ سیریز مختلف کہانیاں سناتے ہیں۔
  • حرکت پذیری اوسط۔ شور کو ہموار کرنا اور رجحان کو مرئی بنانا۔
  • لوگارتھمز اور فرق۔ نمو کی حرکیات اور سٹیشناریٹی کی جانچ کرنا (ٹائم سیریز یونٹ میں گہرا ہو جائے گا)۔
ٹپ: ہر تبدیلی کے ساتھ آپ سے پوچھا جائے گا کہ "یونٹ اور بیس کا کیا ہوا؟" پوچھنا حقیقی سیریز کی بنیاد deflator کی بنیاد ہے؛ انڈیکسڈ سیریز کی بنیاد وہ مدت ہے جسے آپ منتخب کرتے ہیں۔ اس کو لکھ کر رکھنے سے مستقبل میں ہونے والی غلطیوں سے بچا جا سکتا ہے۔

تحقیقی ڈیٹا تجزیہ (EDA)

ڈیٹا کو ماڈل میں داخل کرنے سے پہلے اسے پہچاننا ضروری ہے۔ ایکسپلوریٹری ڈیٹا اینالیسس (EDA) میں شامل ہیں: خلاصہ کے اعدادوشمار (مطلب، اوسط، معیاری انحراف، کم از کم)، تقسیم کی شکل، وقت کے ساتھ کورس، آؤٹ لیرز اور سیریز کے درمیان ارتباط۔ AI تیزی سے ان مراحل کے لیے کوڈ تیار کرتا ہے۔ آپ کا کام معاشی آنکھ سے آؤٹ پٹ کو پڑھنا ہے: "کیا یہ اوسط معقول ہے؟ کیا یہ ارتباط اتفاقی ہے یا معلوم رشتہ؟"

احتیاط: یہاں تعلق صرف شناخت کا ذریعہ ہے، وجہ کا ثبوت نہیں۔ یہ حقیقت کہ دو سیریز ایک ساتھ چلتی ہیں (مثال کے طور پر، آئس کریم کی فروخت اور ڈوبنا—دونوں کا آغاز گرمیوں سے ہوتا ہے) یہ ضروری نہیں کہ ایک دوسرے کی طرف لے جائے۔ ہم یونٹ 7 میں اس فرق کو مزید گہرا کریں گے۔

تین چھوٹے مقدمات

کیس 1 - غلط ڈیفلیٹر بیس۔ ایک تجزیہ کار کے پاس اجرت کی سیریز کو سمجھنے کے لیے مصنوعی ذہانت کا تحریری کوڈ تھا۔ کوڈ نے کام کیا، نتیجہ معقول نظر آیا - لیکن تجزیہ کار نے CALCULATE مرحلے میں 2020 کا دستی طور پر حساب لگایا اور یہ کام نہیں ہوا۔ مسئلہ: مصنوعی ذہانت نے 2003=100 کی بنیاد کے ساتھ ڈیفلیٹر کا استعمال کیا اور 2015 کی قیمتوں کے ساتھ اجرت کی سیریز کی درخواست کی۔ بنیادیں متضاد تھیں۔ کوڈ کو ایک لائن فکس کے ساتھ ٹھیک کیا گیا، پوری سیریز اپنی جگہ پر گر گئی۔

کیس 2 - خاموش حجم کی خرابی۔ ایک ادارے نے برآمدات کے اعداد و شمار کو ہزار ڈالر میں اور درآمدات کو ملین ڈالر میں کم کر دیا تھا۔ جب مصنوعی ذہانت نے "غیر ملکی تجارتی توازن" کے لیے دونوں کو ہٹا دیا، تو نتیجہ ایک مضحکہ خیز خسارہ تھا۔ EDA میں کم از کم زیادہ سے زیادہ نقطہ نظر نے خرابی کو ظاہر کیا: دو سیریز کی شدت کی ترتیب 1000 کے فیکٹر سے مختلف تھی۔ یونٹ کے برابر ہونے کے بعد توازن درست تھا۔

کیس 3 - آؤٹ لیر کو حذف نہیں کرنا۔ ایک سیریز میں ایک مہینہ غیر معمولی طور پر کم تھا۔ AI نے مشورہ دیا "آؤٹلیر، آئیے اسے صاف کریں"۔ تجزیہ کار نے تحقیق کی: اس مہینے میں قدرتی آفت کی وجہ سے پیداوار رک گئی تھی۔ قیمت حقیقی تھی؛ اسے حذف کرنے سے تاریخ مسخ ہو جائے گی۔ اسے حذف کرنے کے بجائے فوٹ نوٹ کیا گیا۔ AI کی "واضح" سفارش پر آنکھیں بند کرکے عمل نہیں کیا گیا۔

تبادلوں کی توثیق کی میز

تبدیلی

فارمولہ جوہر

دستی چیک پوائنٹ

احساس

برائے نام / قیمت انڈیکس × 100

ڈیفلیٹر بیس = نتیجہ کی بنیاد؟

سالانہ ترقی

(t / t-12 ماہ - 1) × 100

کاغذ پر مدت کا حساب لگائیں۔

اشاریہ سازی

سیریز/بیس پیریڈ × 100

کیا بنیادی مدت کی قدر 100 ہے؟

ماہانہ → سہ ماہی

بہاؤ: جمع / ذخیرہ: مدت کا اختتام

جمع کرنے کا صحیح طریقہ؟

حرکت پذیری اوسط

آخری ن مدت اوسط

کیا کھڑکی کی لمبائی درست ہے؟

چار کاپی کرنے کے قابل ٹیمپلیٹس

1) صفائی کا منصوبہ:

میرے پاس یہ خام ڈیٹا ہے: [کالم اور نمونے کی قطاریں]۔ تجزیہ کی تیاری کے لیے صفائی کا ایک منصوبہ تیار کریں: گمشدہ قدر، یونٹ/فارمیٹ کا مسئلہ، تاریخ کی سیدھ، تعدد کی سیدھ، ممکنہ آؤٹ لیرز۔ ایک جملے میں وضاحت کریں کہ ہر قدم کیوں ضروری ہے۔ ابھی تک کوڈ نہ لکھیں؛ مجھے پہلے پلان کی تصدیق کرنے دو۔

2) پانڈا کلین اپ کوڈ:

میں نے جو منصوبہ منظور کیا ہے اس کے مطابق پانڈا کوڈ لکھیں۔ کوڈ کو اس بات کی نشاندہی کرنے دیں کہ یہ تبصرہ لائن کے ساتھ ہر قدم پر کیا کرتا ہے۔ یہ تبادلوں کے بعد قطاروں کی تعداد اور گمشدہ اقدار کو پرنٹ کرتا ہے۔ خاموشی سے کسی بھی مشاہدے کو مت مٹائیں؛ ہر اس لائن کی اطلاع دیں جسے آپ حذف کرتے ہیں۔

3) وصولی (تصدیق شدہ):

اس برائے نام سیریز کو [قیمت انڈیکس] کے ساتھ محسوس کریں۔ جب آپ اسے استعمال کرتے ہیں تو ڈیفلیٹر کا بنیادی سال واضح طور پر لکھیں۔ واضح کریں کہ نتیجے میں آنے والی سیریز کی بنیاد کیا ہے۔ مجھے ایک مدت کے لیے مرحلہ وار اکاؤنٹ دکھائیں تاکہ میں دستی طور پر اس کی تصدیق کر سکوں۔

4) تحقیقی تجزیہ کا خلاصہ:

درج ذیل صاف کیے گئے ڈیٹا کے لیے تحقیقی تجزیہ کوڈ لکھیں: خلاصہ کے اعدادوشمار، ٹائم سیریز پلاٹ، آؤٹ لیئر اسکین، اور ارتباط میٹرکس۔ نتائج کی تشریح کرتے وقت، یہ واضح کر دیں کہ جو ارتباط آپ کو ملتے ہیں وہ CAUSAL نہیں ہیں اور 3 پوائنٹس کی فہرست بنائیں جو میرے لیے نمایاں ہیں۔

کمزور فوری / مضبوط اشارہ

کمزور اشارہ:

اس ڈیٹا کو صاف کریں۔

AI یہ جانے بغیر کہ کیا صاف کرنا ہے مفروضوں کے ساتھ کام کرتا ہے۔ آپ مشاہدات کو حذف کر سکتے ہیں، یونٹس کو تبدیل کر سکتے ہیں، آپ کو نوٹس نہیں ہوگا۔

طاقتور اشارہ:

اس ماہانہ غیر ملکی تجارت کے اعداد و شمار میں، برآمدات "ہزار USD" میں ہیں اور درآمدات "ملین USD" میں ہیں۔ دونوں کو "ملین USD" میں برابر کریں، گمشدہ مہینوں کو نشان زد کریں لیکن نہ بھریں، تاریخوں کو مہینے کے آخر تک سیدھ کریں۔ پرنٹ کریں کہ ہر قدم پر کتنی قطاریں متاثر ہوتی ہیں۔ خاموشی سے کوئی قطار حذف نہ کریں۔ پھر ایک مہینے کا بیلنس اس طرح دکھائیں کہ میں دستی طور پر چیک کر سکوں۔

عام غلطیاں

  • تبادلوں کے کوڈ کو پڑھے بغیر چلانا۔ غلط بنیاد/یونٹ خاموشی سے پورے تجزیہ کو خراب کر دیتا ہے۔
  • بغیر سوچے سمجھے گمشدہ ڈیٹا کو بھرنا۔ اوسط کے ساتھ بحران/آفت کی مدت کو مٹانا۔
  • خودکار طور پر آؤٹ لیرز کو ضائع کریں۔ ڈیٹا کی خرابی کے لئے ایک حقیقی واقعہ کو غلط سمجھنا۔
  • مبہم موسمی اور سالانہ نمو۔ دونوں مختلف سائز کے ہیں۔
  • تعدد کو غلط طریقے سے ملانا۔ اسٹاک سیریز کو جمع کرنا اور اسے بہاؤ کے طور پر پروسیس کرنا۔
  • وجہ کے لیے EDA میں ارتباط کو غلط سمجھنا۔ شناخت کے آلے کو بطور ثبوت غلط سمجھنا۔

خلاصہ میں

ڈیٹا کی صفائی اور تبدیلی اقتصادی تجزیہ کا 80 فیصد پوشیدہ لیکن فیصلہ کن ہے۔ مصنوعی ذہانت ڈرامائی طور پر اس مکینیکل کام کو تیز کرتی ہے۔ لیکن یہ آپ پر منحصر ہے کہ صفائی کے ہر قدم اور ہر تبدیلی کو پڑھیں اور کم از کم ایک مشاہدے کی دستی طور پر تصدیق کریں۔ ڈیفلیٹر بیس، یونٹ، فریکوئنسی اور آؤٹ لیئر فیصلے اقتصادی فیصلے ہیں اور ان کو مصنوعی ذہانت پر آنکھیں بند کرکے نہیں چھوڑا جا سکتا۔ تحقیقی تجزیہ اعداد و شمار کو متعارف کرواتا ہے، لیکن اس میں کوئی تعلق نہیں ہے۔

درخواست کا کام

ایک حقیقی خام سیریز ڈاؤن لوڈ کریں (مثلاً ماہانہ CPI اور برائے نام اجرت/آمدنی سیریز)۔ 1st ٹیمپلیٹ کے ساتھ صفائی کا منصوبہ بنائیں، 2nd ٹیمپلیٹ کے ساتھ کوڈ تیار کریں، اور 3rd ٹیمپلیٹ کے ساتھ سیریز کا احساس کریں۔ پھر کاغذ پر کسی ایک مدت کی حقیقی قدر کا حساب لگائیں اور مصنوعی ذہانت کی پیداوار سے اس کا موازنہ کریں۔ اگر آپ کو کوئی مماثلت نظر آتی ہے، تو اس کے ماخذ (بیس/یونٹ) کی تشخیص اور درست کریں اور پیشرفت کو نوٹ کریں۔

چیک لسٹ

  • [ ] میں نے کوڈ لکھے جانے سے پہلے کلین اپ پلان کا جائزہ لیا اور اس کی منظوری دی۔
  • میں نے مصنوعی ذہانت کی اطلاع کے ذریعے ہر سطر کو حذف/تبدیل کر دیا تھا۔ کوئی خاموش حذف نہیں۔
  • گمشدہ ڈیٹا کو بھرتے وقت آپ پوچھ سکتے ہیں "یہ خالی کیوں ہے؟" میں نے سوال کا جواب دیا۔
  • [ ] میں نے چھان بین کی کہ آیا آؤٹ لائر ایک حقیقی واقعہ تھا یا ڈیٹا کی غلطی۔
  • وصولی میں، میں نے تصدیق کی کہ ڈیفلیٹر بیس اور نتیجہ کی بنیاد مماثل ہے۔
  • میں نے دستی طور پر کم از کم ایک مدت کی تبدیلی کا دوبارہ حساب لگایا۔
  • [ ] میں نے EDA میں ارتباط کو بطور سبب پیش نہیں کیا۔