المكاسب:
- القدرة على فهم مراحل MLOps (الإصدار والنشر والمراقبة وإعادة التدريب والتراجع) ونموذج الانجراف والتخطيط للنشر المراقب
- القدرة على تطبيق مبادئ عدالة النماذج والشفافية والمساءلة وتمييز الدقة الإحصائية عن المقبولية الأخلاقية
- القدرة على حماية البيانات الشخصية باستخدام مبادئ KVKK/GDPR وإسناد المسؤولية النهائية للإنسان في القرارات عالية التأثير
إن تدريب النموذج والحصول على درجة عالية ليس النهاية، بل الوسط. تأتي القيمة الحقيقية عندما يتم وضع النموذج في مرحلة الإنتاج ويعمل بشكل موثوق، ويتم مراقبته بمرور الوقت دون أي تدهور، ويتم تنفيذ العملية برمتها ضمن الحدود الأخلاقية والقانونية. تجمع هذه الوحدة الختامية بين ثلاثة موضوعات: MLOps (نظام البث المباشر ومراقبة النماذج والحفاظ عليها)، والأخلاق (العدالة والشفافية وعدم الإيذاء) والخصوصية (حماية البيانات الشخصية). يقوم الذكاء الاصطناعي بإنتاج التعليمات البرمجية وقوائم المراجعة والمخططات في هذه المجالات؛ لكن البشر هم من يقررون ما إذا كان النموذج سيبدأ العمل به، ومن سيتأثر، وما هي البيانات التي يمكن استخدامها. هذه القرارات ليست فنية، بل هي قرارات تتعلق بالمسؤولية.
MLOps: النموذج يعيش مثل المنتج
MLOps (عمليات التعلم الآلي - ممارسة تشغيل نماذج التعلم الآلي ومراقبتها وتحديثها في الإنتاج) هي تكيف DevOps في تطوير البرمجيات مع علم البيانات. الفكرة الأساسية: النموذج ليس ملفًا يتم تدريبه مرة واحدة ثم نسيانه، ولكنه منتج حي يتطلب صيانة مستمرة. المراحل الرئيسية:
1. الإصدار: يتم إصدار الكود (Git) والبيانات والنموذج معًا؛ يتم تسجيل النموذج الذي تم إنتاجه باستخدام البيانات والكود.
2. النشر: يتم وضع النموذج مباشرة كواجهة برمجة التطبيقات (API) أو مهمة مجمعة. يتم تقديمه عادةً لجمهور صغير أولاً (توزيع الظل/الكناري).
3. المراقبة: تتم مراقبة أداء النموذج وبيانات الإدخال بشكل مستمر.
4. إعادة التدريب: عندما ينخفض الأداء، تتم إعادة تدريب النموذج ببيانات محدثة.
تحول النمط: تشويه صامت
الخطر الأكبر في الإنتاج هو انحراف النموذج (انجراف النموذج / انحراف البيانات). العالم يتغير؛ تتغير الشروط التي قمت بتدريب نموذجك عليها (سلوك العميل، الأسعار، الموسم، التشريعات) بمرور الوقت ويبدأ النموذج في التقادم. على سبيل المثال، نموذج الطلب الذي تم تدريبه قبل الوباء خاطئ تمامًا أثناء الوباء. يحدث الانجراف في شكلين: انجراف البيانات (توزيع تغييرات بيانات المدخلات) وانجراف المفهوم (العلاقة بين تغييرات المدخلات والهدف). طريقة التقاط هذه الأمور هي المراقبة: تتبع توزيع المدخلات بشكل مستمر، وتوزيع التنبؤ، والأداء مقارنة بالنتيجة الفعلية (إن أمكن).
تحذير: النموذج الذي يتم وضعه في الإنتاج سوف يتدهور من تلقاء نفسه؛ إنها ليست مسألة "إذا" بل "متى". إن نشر النماذج دون إعداد المراقبة يشبه قيادة السيارة دون التحكم في محركها على الإطلاق؛ في أحد الأيام يجلس هناك بهدوء ولم تلاحظ.
عنصر MLOps
الغرض
إذا أهملت
الإصدار
معرفة ما يتم إنتاجه
غير قابلة للتكرار، وغير قابلة للتعقب
المراقبة
رؤية الانزلاق في وقت مبكر
النموذج ينهار بصمت
إعادة التدريب
البقاء حتى الآن
التوقعات أصبحت قديمة
التراجع
العودة إلى النموذج السيئ
النموذج المعيب يظل حيًا
التوثيق
الشفافية، دوران
المعلومات عالقة في شخص واحد
الأخلاق: القرارات النموذجية تؤثر على الناس
يتم استخدام نماذج البيانات بشكل متزايد في القرارات التي تؤثر على حياة الناس: الائتمان، والتوظيف، والتأمين، والعدالة. ومع هذه القوة تأتي المسؤولية. المخاطر الأخلاقية الكبرى:
التحيز والتمييز: يمكن للنموذج أن يتعلم ويديم الظلم في البيانات التاريخية. إذا مُنحت مجموعة معينة قدرًا أقل من الفضل في الماضي، فإن النموذج يفترض أن هذه "قاعدة" ويقوم بأتمتة التمييز. ولهذا السبب، يعد تحليل العدالة - التحقق مما إذا كان أداء النموذج متماثلًا بالنسبة لمجموعات مختلفة (الجنس، والعمر، والمنطقة) - أمرًا ضروريًا.
الشفافية وقابلية الشرح: يجب أن تكون قادرًا على شرح سبب رفض النموذج لشخص ما. إن عبارة "الصندوق الأسود قال ذلك" هي عبارة غير مقبولة أخلاقياً وقانونياً في كثير من الأحيان. ولهذا السبب تعتبر أدوات التوضيح (أهمية الميزة، وقيم SHAP) ذات قيمة.
المساءلة: من المسؤول إذا اتخذ النموذج القرار الخاطئ؟ الجواب دائمًا هو شخص/مؤسسة، وليس نموذجًا. يجب الحفاظ على الإشراف البشري (الإنسان في الحلقة - موافقة الإنسان على القرار النهائي) في القرارات عالية التأثير.
تنبيه: قد يكون النموذج "صحيحًا" إحصائيًا ولكنه غير مقبول أخلاقياً. إن النموذج الدقيق للغاية الذي يلحق الضرر بشكل منهجي بمجموعة واحدة ليس نموذجًا جيدًا. الصدق ليس بديلا عن العدالة.
الخصوصية: البيانات الشخصية محمية بعناية
غالبًا ما تكون المادة الخام لعلم البيانات هي البيانات الشخصية، وهذه البيانات محمية بموجب القانون: KVKK في تركيا، واللائحة العامة لحماية البيانات في أوروبا. المبادئ الأساسية هي: تحديد الغرض (لا يتم استخدام البيانات لأغراض أخرى غير الغرض الذي تم جمعها من أجله)، وتقليل البيانات (لا يتم جمع/الاحتفاظ بالمزيد من البيانات أكثر من اللازم)، وإخفاء الهوية (إزالة المعلومات المحددة للهوية) والأمن (يتم الاحتفاظ بالبيانات مشفرة وتقييد الوصول إليها). القاعدة المهمة عند العمل باستخدام أدوات الذكاء الاصطناعي: لا تلصق أبدًا بيانات شخصية حقيقية في أداة عامة للذكاء الاصطناعي. في معظم الأحيان، يكون الرسم التخطيطي والعينة المجهولة/الاصطناعية كافية للتحليل.
تركيز إضافي في سياق أمن المعلومات: استخدم أدوات وتقنيات علم البيانات فقط على البيانات والأنظمة التي لديك سلطة عليها، لأغراض التحليل الدفاعي والمشروع. يعد الوصول غير المصرح به إلى بيانات شخص آخر، أو إعادة تحديد هوية الأفراد (استخراج الهوية من البيانات المجهولة) أو التنميط غير المصرح به أمرًا غير قانوني وغير أخلاقي.
ثلاث حالات صغيرة
الحالة 1 - الانهيار غير المتعقب. أطلقت إحدى شركات التجارة الإلكترونية نموذج التوصية الخاص بها ولم تقم بإعداد التتبع. بعد 4 أشهر تغير كتالوج المنتجات بشكل كبير؛ استمر النموذج في التوصية بالمنتجات القديمة، وانخفض معدل التحويل بهدوء بنسبة 30%. لم يلاحظ أحد لعدة أشهر. الدرس المستفاد: النشر بدون مراقبة يصبح أعمى.
الحالة 2 - التمييز الخفي. لقد تعلم نموذج فحص التوظيف عن عدم التوازن بين الجنسين في البيانات التاريخية، وقام بالتقليل من شأن المرشحات بشكل منهجي. لم يتم ملاحظته لأنه لم يكن هناك تحليل للعدالة؛ تم الكشف عن ذلك في عملية التدقيق وواجهت المؤسسة مخاطر خطيرة تتعلق بالسمعة/القانون. الدرس المستفاد: تعتبر مراقبة العدالة على أساس المجموعة أمرًا ضروريًا في النماذج عالية التأثير.
الحالة 3 - خرق السرية. قام أحد المحللين بتحميل ملف يحتوي على رسائل بريد إلكتروني حقيقية للعملاء وتاريخ الشراء في أداة عامة للذكاء الاصطناعي وقال: "تلخيص الأجزاء". البيانات الشخصية قد غادرت المؤسسة؛ بدأت عملية KVKK. وكانت الطريقة الصحيحة هي إزالة حقول الهوية ومشاركة الخصائص المجهولة فقط. الدرس المستفاد: البيانات الشخصية الحقيقية لا تدخل إلى الأداة المفتوحة.
أربعة قوالب قابلة للنسخ
1) قائمة مراجعة ما قبل النشر:
دورك: مستشار MLOps. قم بإدراج الأشياء التي أحتاج إلى التحقق منها قبل وضع النموذج في مرحلة الإنتاج: الإصدار، ومقاييس المراقبة، وخطة التراجع، وحدود الأداء، وتنبيه انحراف البيانات، والشخص المسؤول. أضف جملة واحدة توضح "سبب أهميته" لكل عنصر. سأقرر.
2) تصميم نموذج تتبع التحول:
اقترح خطة مراقبة الانجراف لنموذج التصنيف في الإنتاج: (1) ما هي توزيعات المدخلات التي يجب أن أراقبها، (2) ما إنذار توزيع التنبؤ، (3) كيفية مقارنة الأداء عند وصول النتيجة الحقيقية، (4) عند أي عتبة يجب أن يتم تشغيل إعادة التدريب. قم أيضًا بتوفير هيكل عظمي للكود.
3) مراقبة العدالة:
اكتب رمزًا يقارن أداء النموذج الخاص بي لمجموعات مختلفة (مثل النطاق العمري والمنطقة): الاستدعاء/الدقة ومعدل القرار الإيجابي لكل مجموعة. حذر إذا كان هناك فرق كبير بين المجموعات. تقديم تفسيرات سببية/سياسية؛ فقط أرني الاختلافات وسأفكر في القرار.
4) التحقق المسبق من الخصوصية:
قبل تقديم البيانات إلى أداة الذكاء الاصطناعي، تحقق مما يلي: هل توجد بيانات شخصية/بيانات هوية (الاسم، البريد الإلكتروني، المعرف، الهاتف، العنوان، IP) في قائمة الأعمدة أدناه؟ إذا كان الأمر كذلك، قم بإدراج تلك التي يجب إزالتها أو إخفاء هويتها. الأعمدة: [قائمة]. الغرض: مشاركة المخطط المجهول فقط.
موجه ضعيف / موجه قوي
حث ضعيف:
النموذج الخاص بي جاهز، ابدأ البث المباشر.
النشر ليس خطوة واحدة؛ يعد البث المباشر بدون مراقبة أو تراجع أو نزاهة أو مراقبة الخصوصية بمثابة دعوة صامتة لكارثة.
مطالبة قوية:
دورك: مستشار MLOps المسؤول. لقد تم تدريب النموذج الخاص بي، وأريد الاستعداد الكامل قبل بدء البث المباشر. إنشاء: (1) قائمة مرجعية قبل النشر، (2) خطة مراقبة الانجراف، (3) رمز التحقق من العدالة على أساس المجموعة، (4) التحقق من الخصوصية (هل هناك بيانات شخصية). اقترح أيضًا كيفية حماية موافقة الإنسان في القرارات عالية التأثير. القرارات النهائية هي لي.
هنا يتم التعامل مع التوزيع والمراقبة والعدالة والخصوصية كعملية مسؤولة واحدة.
الأخطاء الشائعة
- نشر نموذج دون إعداد المراقبة. النموذج ينزلق ويشوه بصمت؛ قد يستغرق الأمر أشهرًا حتى تلاحظ ذلك.
- تجاوز فحص العدالة. قد يؤدي النموذج عالي الدقة إلى الإضرار بشكل منهجي بالمجموعة.
- اتخاذ قرار غير مبرر بالصندوق الأسود. يجب أن تكون القرارات ذات التأثير العالي قابلة للتفسير؛ "قال النموذج ذلك" ليس كافيا.
- إعطاء بيانات شخصية حقيقية لفتح أداة الذكاء الاصطناعي. انتهاك KVKK/GDPR؛ الرسم التخطيطي والمثال المجهول كافيان.
- تفويض القرار للنموذج. المسؤولية تقع دائمًا على عاتق الشخص؛ يتم الحفاظ على المراقبة البشرية عالية التأثير.
نصيحة: قبل بدء البث المباشر لكل نموذج، اطرح سؤالاً واحدًا بصوت عالٍ: "إذا توقف هذا النموذج بهدوء غدًا أو عاقب مجموعة بشكل غير عادل، فكيف سألاحظ ذلك وأتراجع عنه؟" إذا لم تكن لديك إجابة واضحة على هذا السؤال، فهذا يعني أن النموذج ليس جاهزًا للإنتاج بعد.
في ملخص
لا تنتهي مهمة العارضة بالحصول على درجة عالية، بل بالعمل بشكل موثوق ومسؤول في الإنتاج. MLOps هو نظام البث المباشر، ومراقبة الانجراف، وإعادة التدريب، والتراجع عن النموذج؛ النشر بدون تتبع هو انهيار صامت. تتطلب الأخلاق العدالة والشفافية ومساءلة النموذج؛ الدقة الإحصائية ليست بديلاً عن المقبولية الأخلاقية. الخصوصية تعني حماية البيانات الشخصية بمبادئ KVKK/GDPR والحفاظ على البيانات الحقيقية بعيدًا عن الأدوات المفتوحة. كل هذه القرارات ليست فنية بل قرارات مسؤولية وهي دائما ملك للإنسان.
مهمة التطبيق
فكر في الأمر كما لو كنت ستضع نموذجًا قمت بإنشائه (أو افتراضيًا) في الإنتاج واملأ أربع قوائم: (1) قائمة مراجعة ما قبل النشر، (2) مقاييس الانجراف التي ستتتبعها، (3) خطة التحكم في العدالة على أساس المجموعة، (4) التحكم في الخصوصية. ثم اكتب إجابة محددة على السؤال "كيف سألاحظ إذا انقطع بصمت غدًا وأستعيده؟"
قائمة مرجعية
- [ ] هل أقوم بنشر النموذج مع خطة مراقبة (تنبيه الانزلاق) والتراجع؟
- [ ] هل قمت بالتحقق من فجوة العدالة/الأداء بالنسبة للمجموعات المختلفة؟
- [ ] هل حافظت على اطلاع دائم بالقرارات عالية التأثير؟
- [ ] هل قمت بحماية البيانات الشخصية بمبادئ KVKK/GDPR وأبقيتها بعيدًا عن الأدوات المفتوحة؟
- [ ] هل ألقيت المسؤولية النهائية على الإنسان، وليس على النموذج؟
امتحان الوحدة
1. يسأل عالم البيانات الذكاء الاصطناعي: "ما مدى دقة الغابة العشوائية في هذه البيانات؟" دون تدريب النموذج على الإطلاق، ويضع الإجابة "89%" مباشرة في العرض التقديمي. ما هو الخطأ الأساسي في هذا النهج؟
- أ) انتظار المقاييس دون إعطاء بيانات ونماذج للذكاء الاصطناعي؛ متجاهلين أن الرقم الذي تنتجه مزيف وأن المقياس الحقيقي لا يمكن العثور عليه إلا من خلال التدريب والاختبار✔
- ب) يجب استخدام الانحدار اللوجستي بدلاً من الغابة العشوائية
- ج) يجب أن يكون معدل الدقة دائمًا أعلى من 90%.
- د) يمنع منعا باتا تضمين المقاييس في العرض التقديمي
توضيح: لا يمكن للذكاء الاصطناعي إنتاج مقياس دون الوصول إلى النموذج والبيانات؛ الرقم الذي يعطيه هلوسة (ملفقة). يتم الحصول على المقياس من خلال حسابات عالم البيانات الخاصة فقط بعد أن يتم تدريب النموذج واختباره فعليًا. يشبه الإخراج الذي لم يتم التحقق منه تقريرًا غير موقع.
2. يتم تضمين عمود "سبب إغلاق الحساب" عند جمع البيانات الخاصة بالتنبؤ بالتوقف عن العمل؛ يتم ملء هذا العمود فقط بعد مغادرة العميل. النموذج يعطي 97% في مجموعة الاختبار، لكنه لا يعمل في الإنتاج. ما اسم وسبب هذه الحالة؟
- أ) التعلم الزائد. النموذج معقد للغاية
- ب) تسرب البيانات. ✔ استخدام المعلومات التي لن تكون متاحة وقت التنبؤ، ولكنها نتيجة الهدف، كميزة
- ج) عدم كفاية التعلم؛ النموذج بسيط للغاية
- د) التحيز في الاختيار؛ حجم العينة صغير
توضيح: هذا تسرب كلاسيكي للبيانات: "السبب الختامي" هو نتيجة الهدف ولا يزال فارغًا في وقت التنبؤ. يقوم النموذج بالخدعة مع هذه المعرفة المستقبلية، فهو يبدو رائعًا في مجموعة الاختبار ولكنه يتعطل في الإنتاج لأن هذا العمود فارغ. يجب طرح السؤال "هل لدي في وقت التنبؤ" على كل عمود.
3. يقوم المحلل بملء القيم المفقودة في عمود الإيرادات بالمتوسط؛ لكن المفقودين في الواقع ينتمون إلى شريحة الدخل المحدود التي لم تعلن عن دخلها قط (المفقودون المنهجيون). لماذا هذا الحشو غير صحيح؟
- أ) المتوسط دائما أكبر من الوسيط، لذلك فهو غير صحيح
- ب) لا ينبغي أبدًا ملء القيم المفقودة، بل يجب حذفها دائمًا
- ج) يؤدي سد الفجوة المنهجية بالمتوسط إلى تشويه البيانات من خلال تمثيل تلك المجموعة بشكل مصطنع؛ تم الملء دون طرح السؤال "لماذا هو فارغ؟" ✔
- د) حساب المتوسط يخلق مشكلة في الأداء لأنه بطيء جدًا
توضيح: سبب النقص هو الذي يحدد الحل. عندما يتم ملء النقص المنهجي (الفجوة التي تتركز في مجموعة معينة) بالمتوسط، تصبح هذه المجموعة "متوسط الدخل" بشكل مصطنع ويتم تشويه البيانات. قبل ملئه يجب طرح السؤال "لماذا هو فارغ"؟ لا ينبغي ملء الوسط المفقود المنهجي/الكبير.
4. وجد فريق ارتباطًا بنسبة 0.78 بين "الإنفاق الإعلاني" و"المبيعات" وقام بمضاعفة الميزانية؛ ومع ذلك، فإن ما يؤدي في الواقع إلى إطلاق كليهما هو الحملات الموسمية. ما هو المبدأ في الإحصاء الذي يفسر هذا الخطأ؟
- أ) الارتباط ليس سببية؛ المتغير الثالث المخفي قد يؤثر على كلا المتغيرين ✔
- ب) بما أن الارتباط 0.78 منخفض جدًا، فيجب تجاهل العلاقة
- ج) الارتباط يثبت دائمًا العلاقة السببية، وقد فهمه الفريق بشكل صحيح
- د) لا يمكن حساب العلاقة بين الإعلان والمبيعات رياضياً.
التفسير: الارتباط ليس السببية. قد يعمل المتغيران معًا لأن المتغير الثالث المخفي (هنا الحملات الموسمية) يؤثر عليهما. إن الاستنتاج بأن أحدهما يسبب الآخر لا يمكن إثباته إلا من خلال المعرفة التجريبية والميدانية؛ عدد الارتباطات وحده ليس دليلا على السببية.
5. نموذج كشف الاحتيال يظهر دقة بنسبة 99.2% والفريق يحتفل؛ ومع ذلك، فإن معدل المعاملات المزيفة في البيانات يبلغ 0.8% فقط، ويبلغ معدل استدعاء النموذج 6%. ماذا يظهر هذا الجدول؟
- أ) النموذج مثالي لأن الدقة تزيد عن 99%
- ب) الدقة مضللة مع البيانات غير المتوازنة؛ يفتقد النموذج تقريبًا جميع المنتجات المقلدة (استدعاء منخفض)، ويجب النظر إلى المقياس المناسب ✔
- ج) لا توجد مشكلة لأن استدعاء النموذج مرتفع
- د) لم تكن هناك حاجة لبناء نموذج لأن المعدل الوهمي كان منخفضا
Explanation: تعتبر 'الدقة' مضللة في البيانات غير المتوازنة. عندما يطلق النموذج على كل معاملة تقريبًا اسم "نظيفة"، فإنه يحصل على دقة عالية لأن المنتجات المزيفة قليلة جدًا، لكنه يفشل في اكتشاف المنتجات المزيفة، وهو غرضه الرئيسي (تذكر 6%). ولذلك، في المسائل غير المتوازنة، لا يكون التركيز على الدقة، بل على مصفوفة الارتباك والمقاييس المناسبة لغرض الوظيفة، مثل الاستدعاء/الدقة.
6. في مشروع التنبؤ بالطلب، يتم تقسيم البيانات المعتمدة على الوقت بشكل عشوائي إلى تدريب/اختبار. يعطي النموذج دقة بنسبة 93% ولكنه يتعطل في الإنتاج. ما ينبغي أن يكون نهج التقسيم الصحيح؟
- أ) توسيع مجموعة الاختبار، على سبيل المثال. تقسيم 50%/50%
- ب) استخدام نموذج أكثر تعقيدا
- ج) قم بإزالة القسم بالكامل وتدرب على جميع البيانات
- د) التقسيم الزمني: التدريب مع الفترة القديمة والاختبار مع الفترة الجديدة، وبالتالي منع النموذج من رؤية المستقبل ✔
شرح: إذا تم إجراء القسمة العشوائية في بيانات السلاسل الزمنية، فإن النموذج يرى المستقبل ويتنبأ بالماضي في التدريب؛ إنه تسرب وينتج نجاحاً غير موجود في الواقع. النهج الصحيح هو التقسيم الزمني: التدريب على الفترة القديمة والاختبار مع الفترة الجديدة، وتقليد الوضع الحقيقي في الإنتاج (التنبؤ من الماضي إلى المستقبل).
7. ما هي البيانات التي يجب حساب معلمات القياس (StandardScaler) في هندسة الميزات وكيف يجب تطبيقها؟
- أ) يجب أن يتم حسابه من جميع البيانات (التدريب + الاختبار معًا) حتى يكون أكثر دقة
- ب) يجب أن يتم حسابها بشكل منفصل لكل صف، من القيمة الخاصة بذلك الصف
- ج) يجب أن يتم حسابه من بيانات الاختبار فقط
- د) يجب أن يتم حسابه فقط من بيانات التدريب، ثم يجب تطبيق نفس المعلمات على بيانات الاختبار؛ وإلا فإنه سوف يتسرب ✔
توضيح: يجب تعلم معلمات جميع التحويلات (المتوسط، والانحراف المعياري، وما إلى ذلك) مثل القياس والتشفير والحشو فقط من بيانات التدريب، ثم يجب تطبيق نفس الشيء على بيانات الاختبار. يؤدي أخذ بيانات الاختبار في الاعتبار أيضًا إلى تداخل معلومات الاختبار مع التدريب، أي التسرب، وجعل النموذج يبدو أفضل مما هو عليه بالفعل. استخدام خط الأنابيب يضمن ذلك.
8. النموذج يعطي دقة 98% لمجموعة التدريب و 72% دقة لمجموعة الاختبار. ماذا يشير هذا العرض وما الذي يجب فعله؟
- أ) عدم كفاية التعلم؛ ينبغي أن يكون النموذج أكثر تعقيدا
- ب) تسرب البيانات. يجب تغيير مجموعة الاختبار
- ج) التجهيز الزائد؛ ينبغي تبسيط النموذج وتطبيق التنظيم والتحقق المتبادل ✔
- د) الوضع الطبيعي. درجة التعليم أعلى دائمًا على أي حال، والاحتياطات غير ضرورية
Explanation: تعتبر الدرجة العالية جدًا في التدريب والدرجة المنخفضة بشكل ملحوظ في الاختبار من الأعراض الكلاسيكية للتجاوز: لقد حفظ النموذج ضجيج بيانات التدريب بدلاً من النمط الحقيقي. تتضمن الحلول تبسيط النموذج، والمزيد من البيانات، والتنظيم، والتحقق من الحالة من خلال التحقق المتبادل. والاعتماد فقط على درجة التعليم يخفي هذا المأزق.
9. في العرض التقديمي للإدارة، يبدأ المحور الصادي للمخطط الشريطي الذي تزيد فيه المبيعات من 1000 إلى 1020 عند 980 لجعل الزيادة تبدو ضخمة. الزيادة الفعلية هي 2%. لماذا هذه مسألة أخلاقية؟
- أ) يؤدي المحور ص المبتور إلى تضخيم الفارق البسيط بصريًا وتضليل المشاهد؛ ومن باب الإنصاف، يجب أن يبدأ المحور في أشرطة المقارنة من 0✔
- ب) لا يمكن أبدًا استخدام المخططات الشريطية لبيانات المبيعات
- ج) لا توجد مشكلة؛ من الجيد دائمًا أن تجعل المخطط يبدو مثيرًا للإعجاب
- د) يجب أن يبدأ المحور Y دائمًا من أكبر قيمة للبيانات
توضيح: في المخططات الشريطية لأغراض المقارنة، يجب أن يبدأ المحور "ص" بشكل عام عند 0. قطع المحور والبدء عند 980 يجعل الفارق الصغير بنسبة 2% يبدو ضخمًا من الناحية المرئية ويضلل المشاهد. تتمثل المسؤولية الأخلاقية لمحترفي البيانات في رسم رسوم بيانية صادقة لا تبالغ في تقدير البيانات أو تقلل من شأنها.
10. يجد المحلل إجمالي المبيعات 3 مرات بعد دمج الطلبات مع جدول المنتجات؛ وارتفع عدد الخطوط من 240 ألفاً إلى 690 ألفاً. ما الذي كان يجب فعله لمنع هذا الخطأ الصامت؟
- أ) قسمة إجمالي قيمة التداول على 3
- ب) استخدم دائمًا استعلامات منفصلة بدلاً من JOIN
- ج) حذف جدول المنتجات بالكامل
- د) التحقق من عدد الصفوف بعد الدمج/الانضمام والتحقق من انضمامها عبر المفتاح الصحيح؛ اصطياد النسخ المتماثل في وقت مبكر ✔
توضيح: عندما يكون هناك صفوف متعددة لكل منتج (لون مختلف، على سبيل المثال) في جدول المنتج، سيؤدي الانضمام عبر المفتاح الخاطئ إلى تكرار كل طلب وتضخيم الإجماليات. الكود يعمل بدون أخطاء ولكن النتيجة خاطئة. طريقة تجنب ذلك هي التحقق من عدد الصفوف بعد كل عملية دمج/انضمام ودمجها باستخدام المفتاح الصحيح.
11. يتعرف نموذج فحص التوظيف على عدم التوازن بين الجنسين في البيانات التاريخية ويخفض بشكل منهجي درجات المرشحات، ولكن دقته الإجمالية عالية. ماذا يعني هذا؟
- أ) لا توجد مشكلة لأن النموذج يتمتع بدقة عالية
- ب) الدقة الإحصائية ليست بديلاً عن المقبولية الأخلاقية؛ لقد تعلم النموذج عن التمييز السابق، ويلزم التحقق من العدالة على أساس المجموعة ✔
- ج) زيادة دقة النموذج يحل المشكلة
- د) العدالة خارج نطاق علم البيانات
توضيح: حتى لو كان النموذج صحيحًا إحصائيًا، فقد يكون غير مقبول أخلاقياً. يتعلم النموذج الظلم في البيانات السابقة ويقوم بأتمتة التمييز. النزاهة العالية ليست بديلاً عن العدالة؛ في النماذج عالية التأثير، تعد مراقبة العدالة، التي تقيس الفرق في الأداء/القرار للمجموعات المختلفة، أمرًا ضروريًا وتقع المسؤولية النهائية على عاتق الإنسان.
12. يقوم أحد الموظفين بتحميل ملف يحتوي على رسائل البريد الإلكتروني الحقيقية للعملاء وسجل الشراء إلى أداة عامة للذكاء الاصطناعي ويقول "تلخيص المقاطع". لماذا هذا خطأ جسيم وما هو الطريق الصحيح؟
- أ) لا توجد مشكلة؛ لا تقوم أدوات الذكاء الاصطناعي بتخزين البيانات أبدًا
- ب) الخطأ هو أن الملف كبير جدًا؛ كان ينبغي تخفيضها
- ج) يعد توفير بيانات شخصية حقيقية لأداة مفتوحة انتهاكًا لـ KVKK/GDPR؛ يجب إزالة حقول الهوية ومشاركة المخطط/الخاصية المجهولة فقط ✔
- د) كان ينبغي استخدام ملف CSV بدلاً من برنامج Excel فقط
توضيح: عندما يتم تقديم بيانات شخصية حقيقية (مثل البريد الإلكتروني والاسم وما إلى ذلك) إلى أداة ذكاء اصطناعي متاحة للجمهور، سيكون هناك انتهاك للخصوصية ضمن نطاق KVKK / القانون العام لحماية البيانات (GDPR)؛ البيانات تترك المنظمة. في معظم الأحيان، يكون الرسم التخطيطي والعينة المجهولة/الاصطناعية كافية للتحليل. الطريقة الصحيحة هي إزالة حقول الهوية ومشاركة الخصائص المجهولة فقط.
13. يتم وضع نموذج التوصية في الإنتاج ولكن لم يتم إنشاء التتبع؛ عندما يتغير كتالوج المنتجات بعد 4 أشهر، يستمر النموذج في التوصية بالمنتجات القديمة وينخفض معدل التحويل بصمت بنسبة 30%. ما اسم هذه الظاهرة؟
- أ) التعلم الزائد. يحفظ النموذج مجموعة التدريب
- ب) نموذج الانجراف؛ مع تغير العالم، يصبح النموذج عفا عليه الزمن بصمت، دون أن يلاحظه أحد لعدم وجود مراقبة ✔
- ج) التحيز في الاختيار؛ تحيز العينة
- د) مخالفة تقليل البيانات
شرح: هذا هو انحراف النموذج (انجراف النموذج/البيانات): عندما يتغير العالم (الكتالوج، السلوك، الموسم) تتغير الظروف التي تم تدريب النموذج في ظلها وينهار النموذج بصمت. النموذج الذي يتم وضعه في الإنتاج يتدهور من تلقاء نفسه؛ إنها مسألة "متى". النشر بدون مراقبة (تتبع المدخلات والأداء) يجعل من المستحيل اكتشاف التدهور.
14. النموذج الذي يحصل على دقة بنسبة 88% في تقسيم تدريب/اختبار واحد يحصل على 5 درجات من التحقق المتبادل تبلغ 88%، 71%، 83%، 64%، 79%. ما الذي يشير إليه هذا ولماذا يعتبر التحقق المتبادل مهمًا؟
- أ) النموذج مستقر؛ 88% أداء حقيقي
- ب) التحقق المتبادل غير ضروري؛ مقصورة واحدة تكفي
- ج) يشير التقلب الكبير في الدرجات إلى أن النموذج غير مستقر؛ يعتمد التحقق من الصحة على الأداء على المتوسط وتوزيع الصناديق المتعددة، وليس سلة محظوظة واحدة ✔
- د) من الأفضل الإبلاغ عن أعلى الدرجات (88٪)
شرح: مقصورة واحدة يمكن أن تكون محظوظة أو سيئة الحظ؛ 88% كانت نتيجة تلك القسمة السهلة. يؤدي التحقق من الصحة إلى تقسيم البيانات عدة مرات، استنادًا إلى الأداء المتوسط (هنا ~ 77%) وإظهار تقلب الدرجات. تشير التقلبات العالية هنا إلى أن النموذج غير مستقر؛ الاعتماد على حجرة واحدة أمر مضلل.