وحدة 3 / 11

تنقية البيانات وتحويلها والتحليل الاستكشافي (مع دعم Python/pandas)

المكاسب:

  • القدرة على تنظيف البيانات الاقتصادية الخام (الملاحظات المفقودة، ارتباك الوحدة، عدم تطابق التردد) وجعلها جاهزة للتحليل بمساعدة الذكاء الاصطناعي
  • القدرة على طباعة التحولات الاقتصادية القياسية مثل التحويل الاسمي الحقيقي والفهرسة ومعدل النمو والتعديل الموسمي كرمز في الذكاء الاصطناعي والتحقق منها يدويًا
  • القدرة على التعرف على البيانات من خلال تحليل البيانات الاستكشافية (الإحصائيات الموجزة، التوزيع، القيم المتطرفة، الارتباط) وقراءة ملخصات الذكاء الاصطناعي بشكل نقدي

نادراً ما تكون البيانات الاقتصادية جاهزة للتحليل. في الجدول الذي قمت بتنزيله من TURKSTAT، هناك بعض الأشهر مفقودة، ويأتي عمود واحد كنص بألف قوس، وسعر الصرف بالتنسيق التركي مثل "1.234,56"، سلسلة واحدة شهرية والأخرى ربع سنوية. لا يقضي الاقتصادي معظم وقته في التحليل، بل في جعل البيانات جاهزة للتحليل. هذا هو المكان الذي يكون فيه الذكاء الاصطناعي معجلًا حقيقيًا ومنخفض المخاطر: فهو يقترح خطوات التنظيف، ويكتب الباندا (مكتبة معالجة البيانات في بايثون)، ويقنن التحولات الاقتصادية القياسية. ولكن لهذه الوحدة أيضًا قاعدة ثابتة: تقرأ كل تحويل مكتوب بواسطة الذكاء الاصطناعي وتتحقق منه يدويًا في ملاحظة واحدة على الأقل. فإذا كانت الدورة الاسمية الحقيقية تسير على أساس خاطئ، فإن التحليل برمته يضمحل بهدوء.

التنظيف: ما هي المشاكل وكيفية حلها؟

المشاكل الأكثر شيوعا في البيانات الاقتصادية ومنطقها:

  • ملاحظة غير مكتملة شهر/ربع فارغ. الحل يعتمد على السياق: إذا لم يكن موجودا فعلا، فإنه يترك فارغا؛ إذا كانت هناك فجوة فنية، يتم إجراء استيفاء دقيق، لكن الخط الفاصل بين التصنيع رفيع.
  • الخلط بين الوحدات والأشكال. يجب تحويل النص "12.345.6" إلى رقم؛ مليون/مليار ينبغي أن تصبح متسقة.
  • عدم تطابق التردد. للجمع بين سلسلة شهرية وربع سنوية، يتم تجميع واحدة (شهرية إلى ربع سنوية) - سواء كانت متوسطة أو إجمالية أو نهاية الفترة يعتمد على طبيعة المؤشر (تمييز المخزون/التدفق).
  • القيم المتطرفة (المتطرفة). إذا انحرفت ملاحظة ما بشكل كبير: فهل هي حدث حقيقي (أزمة، ارتفاع الأسعار)، أم خطأ في البيانات؟ ويتم فهمه قبل الحذف.
  • محاذاة التاريخ. تتم مزامنة تنسيقات التاريخ وتعريفات الفترة لسلاسل مختلفة.
تنبيه: ملء البيانات الناقصة يبدو بريئا، لكنه قرار اقتصادي. إن ملء شهر الأزمة بـ "متوسط ​​الأشهر المجاورة" يعني حذف تلك الأزمة من التحليل. قبل ملء البيانات، اسأل "لماذا توجد هذه الفجوة؟" أجب عن السؤال.

التحولات الاقتصادية القياسية

التحولات وتعريفاتها في الذخيرة اليومية للخبير الاقتصادي:

  • الاسمي → الحقيقي. التعديل حسب تأثير السعر: القيمة الحقيقية = القيمة الاسمية / مؤشر السعر × 100. وتحدد سنة الأساس لعامل الانكماش (مؤشر التعديل) أساس النتيجة.
  • الفهرسة. إعادة قياس السلسلة بحيث تصبح الفترة المحددة = 100؛ إنه مفيد لمقارنة سلسلة ذات أحجام مختلفة.
  • معدل النمو. السنوي: (نفس الفترة هذه الفترة / العام الماضي - 1) × 100. المعدل الدوري والسنوي شيئان مختلفان؛ الخلط هو خطأ شائع.
  • التصحيح الموسمي. تنقية التأثيرات الموسمية المنتظمة (السياحة الصيفية، العطلات)؛ تحكي السلسلة الخام والسلسلة المعدلة موسميًا قصصًا مختلفة.
  • المتوسط ​​المتحرك. تنعيم الضوضاء وجعل الاتجاه مرئيًا.
  • اللوغاريتمات والتفاضل. لدراسة ديناميكيات النمو والثبات (سوف تتعمق في وحدة السلاسل الزمنية).
نصيحة: مع كل تحويل سيتم سؤالك "ماذا حدث للوحدة والقاعدة؟" بسأل. قاعدة السلسلة الحقيقية هي قاعدة الانكماش؛ قاعدة السلسلة المفهرسة هي الفترة التي تختارها. إن الحفاظ على هذا مكتوبًا يمنع حدوث أخطاء في المستقبل.

تحليل البيانات الاستكشافية (EDA)

ومن الضروري التعرف على البيانات قبل إدخالها في النموذج. يتضمن تحليل البيانات الاستكشافية (EDA) ما يلي: إحصائيات موجزة (المتوسط، الوسيط، الانحراف المعياري، الحد الأدنى والحد الأقصى)، شكل التوزيع، الدورة التدريبية مع مرور الوقت، القيم المتطرفة والارتباط بين السلاسل. يقوم الذكاء الاصطناعي بإنشاء التعليمات البرمجية لهذه الخطوات بسرعة؛ مهمتك هي قراءة الناتج بعين اقتصادية: "هل هذا المتوسط ​​معقول؟ هل هذا الارتباط مصادفة أم علاقة معروفة؟"

تنبيه: الارتباط هو مجرد وسيلة لتحديد الهوية هنا، وليس دليلا على العلاقة السببية. حقيقة أن سلسلتين تتحركان معًا (على سبيل المثال، مبيعات الآيس كريم وحالات الغرق - وكلاهما ناجم عن الصيف) لا تشير بالضرورة إلى أن إحداهما تؤدي إلى الأخرى. وسوف نقوم بتعميق هذا التمييز في الوحدة السابعة.

ثلاث حالات صغيرة

الحالة 1 - قاعدة انكماش غير صحيحة. كان لدى أحد المحللين كود كتابة الذكاء الاصطناعي لتحقيق سلسلة الأجور. نجح الكود، وبدت النتيجة معقولة - لكن المحلل قام بحساب عام 2020 يدويًا في خطوة الحساب ولم ينجح. المشكلة: استخدم الذكاء الاصطناعي معامل الانكماش بقاعدة 2003=100 وطلب سلسلة الأجور بأسعار 2015؛ وكانت القواعد متضاربة. تم إصلاح الكود بإصلاح سطر واحد، ووضعت السلسلة بأكملها في مكانها الصحيح.

الحالة 2 - خطأ في مستوى الصوت الصامت. وكانت إحدى المؤسسات قد خفضت بيانات التصدير بالألف دولار والواردات بمليون دولار. وعندما أزال الذكاء الاصطناعي عاملي "ميزان التجارة الخارجية"، كانت النتيجة عجزاً سخيفاً. كشف عرض الحد الأدنى والحد الأقصى في EDA عن الخطأ: اختلف ترتيب حجم السلسلتين بعامل 1000. وبمجرد معادلة الوحدة، أصبح التوازن صحيحًا.

الحالة الثالثة - عدم حذف القيمة المتطرفة. كان شهر واحد في السلسلة منخفضًا بشكل غير عادي. اقترح الذكاء الاصطناعي عبارة "خارجة، فلننظفها". وحقق المحلل: توقف الإنتاج بالفعل بسبب كارثة طبيعية في ذلك الشهر. كانت القيمة حقيقية. وحذفها من شأنه أن يشوه التاريخ. وبدلا من الحذف، تمت إضافة حاشية. ولم يتم اتباع توصية منظمة العفو الدولية "الواضحة" بشكل أعمى.

جدول التحقق من التحويل

التحويل

جوهر الصيغة

نقطة التفتيش اليدوية

الإدراك

الرقم الاسمي / السعري × 100

قاعدة الانكماش = قاعدة النتائج؟

النمو السنوي

(ر / ر-12شهر - 1)×100

حساب الفترة على الورق

الفهرسة

السلسلة/الفترة الأساسية × 100

هل قيمة فترة الأساس 100؟

شهري → ربع سنوي

التدفق: جمع / المخزون: نهاية الفترة

طريقة الجمع الصحيحة؟

المتوسط المتحرك

متوسط الفترة الأخيرة

هل طول النافذة صحيح؟

أربعة قوالب قابلة للنسخ

1) خطة التنظيف:

لدي هذه البيانات الأولية: [الأعمدة والصفوف النموذجية]. ضع خطة تنظيف للتحضير للتحليل: القيمة المفقودة، مشكلة الوحدة/التنسيق، محاذاة التاريخ، محاذاة التردد، القيم المتطرفة المحتملة. اشرح في جملة واحدة لماذا تعتبر كل خطوة ضرورية. لا تكتب الكود بعد؛ اسمحوا لي أن أؤكد الخطة أولا.

2) كود تنظيف الباندا:

اكتب رمز الباندا وفقًا للخطة التي وافقت عليها. دع الكود يشير إلى ما يفعله في كل خطوة باستخدام سطر تعليق؛ يقوم بطباعة عدد الصفوف والقيم المفقودة بعد التحويل. لا تمحو أي ملاحظة بصمت؛ قم بالإبلاغ عن كل سطر تقوم بحذفه.

3) الإدراك (يمكن التحقق منه):

حقق هذه السلسلة الاسمية بـ [مؤشر الأسعار]. اكتب بوضوح سنة الأساس للانكماش عند استخدامه؛ حدد ما هو أساس السلسلة الناتجة. أرني الحساب خطوة بخطوة لمدة واحدة حتى أتمكن من التحقق منه يدويًا.

4) ملخص التحليل الاستكشافي:

اكتب رمز التحليل الاستكشافي للبيانات التي تم تنظيفها التالية: إحصائيات التلخيص، ومؤامرة السلاسل الزمنية، والمسح الخارجي، ومصفوفة الارتباط. عند تفسير النتائج، وضح أن الارتباطات التي تجدها ليست سببية وقم بإدراج 3 نقاط بارزة بالنسبة لي.

موجه ضعيف / موجه قوي

حث ضعيف:

امسح هذه البيانات.

يتصرف الذكاء الاصطناعي وفق افتراضات دون معرفة ما يجب تنظيفه؛ يمكنك حذف الملاحظات وتغيير الوحدات ولن تلاحظ ذلك.

مطالبة قوية:

في بيانات التجارة الخارجية الشهرية هذه، تبلغ الصادرات "بألف دولار أمريكي" والواردات بـ "مليون دولار أمريكي". اجعل الاثنين متساويين في "مليون دولار أمريكي"، ضع علامة على الأشهر المفقودة ولكن لا تملأها، وقم بمحاذاة التواريخ مع نهاية الشهر. اطبع عدد الصفوف المتأثرة في كل خطوة؛ بصمت حذف أي صفوف. ثم قم بإظهار الرصيد لشهر واحد بطريقة يمكنني التحقق منها يدويًا.

الأخطاء الشائعة

  • تشغيل كود التحويل دون قراءته. القاعدة/الوحدة الخاطئة تفسد التحليل بأكمله بصمت.
  • تعبئة البيانات الناقصة دون تفكير. محو فترة الأزمات/الكوارث بالمعدل.
  • تجاهل القيم المتطرفة تلقائيا. الخلط بين حدث حقيقي وخطأ في البيانات.
  • الخلط بين النمو الموسمي والسنوي. وهما أحجام مختلفة.
  • الجمع بين الترددات بشكل غير صحيح. جمع سلسلة المخزون ومعالجتها كتدفق.
  • الخلط بين الارتباط في EDA والسببية. الخلط بين أداة التعرف كدليل.

في ملخص

إن تنظيف البيانات وتحويلها يمثل نسبة 80% غير المرئية من التحليل الاقتصادي، ولكنها حاسمة. يعمل الذكاء الاصطناعي على تسريع هذا العمل الميكانيكي بشكل كبير؛ ولكن الأمر متروك لك لقراءة كل خطوة تنظيف وكل تحويل والتحقق يدويًا من ملاحظة واحدة على الأقل. إن قاعدة الانكماش والوحدة والتردد والقرارات الخارجية هي قرارات اقتصادية ولا يمكن تركها بشكل أعمى للذكاء الاصطناعي. يقدم التحليل الاستكشافي البيانات، ولكن الارتباط ليس هناك علاقة سببية.

مهمة التطبيق

قم بتنزيل سلسلة أولية فعلية (مثل مؤشر أسعار المستهلكين الشهري وسلسلة الأجور/الدخل الاسمية). قم بإنشاء خطة تنظيف باستخدام القالب الأول، وقم بإنشاء الكود باستخدام القالب الثاني، وقم بتنفيذ السلسلة باستخدام القالب الثالث. ثم احسب القيمة الحقيقية لفترة واحدة على الورق وقارنها بمخرجات الذكاء الاصطناعي. إذا وجدت عدم تطابق، فقم بتشخيص مصدره (القاعدة/الوحدة) وتصحيحه ولاحظ التقدم.

قائمة مرجعية

  • [ ] لقد قمت بمراجعة خطة التنظيف والموافقة عليها قبل كتابة الكود.
  • [ ] تم حذف/تغيير كل سطر بواسطة تقرير الذكاء الاصطناعي؛ لا يوجد حذف صامت.
  • [ ] عند ملء البيانات الناقصة قد تسأل "لماذا هي فارغة؟" أجبت على السؤال.
  • [ ] لقد قمت بالتحقيق فيما إذا كانت القيمة المتطرفة حدثًا حقيقيًا أم خطأ في البيانات.
  • [ ] في الإدراك، تحققت من تطابق قاعدة معامل الانكماش وقاعدة النتائج.
  • [ ] قمت بإعادة حساب تحويل فترة واحدة على الأقل يدويًا.
  • [ ] لم أعرض الارتباطات في EDA كسببية.