רווחים:
- יכולת להבין את שלבי MLOps (שחרור, פריסה, ניטור, אימון מחדש, החזרה לאחור) וסחף מודלים ולתכנן פריסה מפוקחת
- יכולת ליישם את העקרונות של הוגנות מודל, שקיפות ואחריות ולהבחין בין דיוק סטטיסטי מקובלות אתית
- יכולת להגן על נתונים אישיים עם עקרונות KVKK/GDPR ולהקצות אחריות סופית לאדם בהחלטות בעלות השפעה רבה
להכשיר דוגמנית ולקבל ציון גבוה זה לא הסוף, אלא האמצע. הערך האמיתי מגיע כאשר הדגם מוכנס לייצור ועובד בצורה אמינה, מנוטר לאורך זמן ללא הידרדרות, וכל התהליך מתבצע בגבולות אתיים ומשפטיים. יחידת סגירה זו משלבת שלושה נושאים: MLOps (המשמעת של יציאה לאוויר, ניטור ותחזוקה של מודלים), אתיקה (הוגנות, שקיפות, אי-רשעות) ופרטיות (הגנה על נתונים אישיים). בינה מלאכותית מייצרת קוד, רשימות ביקורת ושרטוטים בתחומים אלה; אבל בני אדם מחליטים אם מודל יעלה לאוויר, מי יושפע, ובאילו נתונים ניתן להשתמש. החלטות אלו אינן טכניות, אלא החלטות אחריות.
MLOps: הדוגמנית חיה כמו מוצר
MLOps (Machine Learning Operations - התרגול של הפעלת, ניטור ועדכון מודלים של למידת מכונה בייצור) הוא ההתאמה של DevOps בפיתוח תוכנה למדעי הנתונים. הרעיון הבסיסי: דגם הוא לא קובץ שאומן פעם אחת ונשכח, אלא מוצר חי שדורש תחזוקה מתמדת. שלבים עיקריים:
1. ניהול גרסאות: קוד (Git), נתונים ומודל מנוסחים יחד; נרשם איזה דגם יוצר עם איזה נתונים וקוד.
2. פריסה: המודל מופעל כ-API או כעבודת אצווה. בדרך כלל ניתן קודם כל לקהל קטן (חלוקת צל/כנרית).
3. ניטור: ביצועי המודל ונתוני הקלט מנוטרים כל הזמן.
4. הדרכה מחדש: כאשר הביצועים יורדים, המודל עובר הדרכה מחדש עם נתונים מעודכנים.
שינוי דפוס: עיוות שקט
הסכנה הגדולה ביותר בייצור היא סחיפה של מודל (סחיפה של מודל / סחיפה של נתונים). העולם משתנה; התנאים שבהם אימנתם את הדגם שלכם (התנהגות לקוחות, מחירים, עונה, חקיקה) משתנים עם הזמן והדגם מתחיל להתיישן. לדוגמה, מודל דרישה שהוכשר לפני המגיפה שגוי לחלוטין במהלך המגיפה. סחיפה מתרחשת בשתי צורות: סחיפה של נתונים (התפלגות של שינויים בנתוני קלט) וסחיפה של מושג (הקשר בין שינויים בקלט ויעד). הדרך ללכוד את אלה היא ניטור: עקוב כל הזמן אחר התפלגות הקלט, התפלגות החיזוי ו(אם אפשר) הביצועים בהשוואה לתוצאה בפועל.
זהירות: דגם שיוכנס לייצור יתדרדר מעצמו; זה לא עניין של "אם" אלא "מתי". פריסת דגמים מבלי להגדיר ניטור היא כמו לנהוג במכונית מבלי לשלוט במנוע שלה. יום אחד זה פשוט יושב שם בשקט ואתה לא שם לב.
אלמנט MLOps
מטרה
אם מזניחים
גירסאות
לדעת מה מייצרים
לא ניתן לשחזור, לא ניתן למעקב
ניטור
לראות את התלוש מוקדם
הדגם מתקלקל בשקט
הסבה מחדש
להישאר מעודכן
התחזיות מתיישנות
חזרה לאחור
לחזור לדגם גרוע
דגם פגום נשאר פעיל
תיעוד
שקיפות, תחלופה
מידע נתקע באדם אחד
אתיקה: החלטות מודל משפיעות על אנשים
מודלים של נתונים משמשים יותר ויותר בהחלטות המשפיעות על חייהם של אנשים: אשראי, גיוס עובדים, ביטוח, צדק. עם הכוח הזה באה אחריות. סיכונים אתיים עיקריים:
הטיה ואפליה: המודל יכול ללמוד ולהנציח עוולות בנתונים היסטוריים. אם קבוצה מסוימת קיבלה פחות קרדיט בעבר, המודל מניח שזהו "כלל" וממכן אפליה. לכן ניתוח הוגנות - בדיקה אם המודל מתפקד באופן דומה עבור קבוצות שונות (מגדר, גיל, אזור) - הוא חיוני.
שקיפות והסבר: אתה צריך להיות מסוגל להסביר מדוע דוגמנית דחתה אדם. "הקופסה השחורה אמרה כך" הוא לא מקובל מבחינה אתית ולעתים קרובות מבחינה משפטית. זו הסיבה שכלי ההסבר (חשיבות תכונה, ערכי SHAP) הם בעלי ערך.
אחריות: מי אחראי אם המודל מקבל החלטה שגויה? התשובה היא תמיד אדם/מוסד, לא מודל. יש לשמר פיקוח אנושי (אדם בתוך הלופ - אדם שמאשר את ההחלטה הסופית) בהחלטות בעלות השפעה.
זהירות: מודל עשוי להיות "נכון" מבחינה סטטיסטית אך לא מקובל מבחינה אתית. מודל מדויק ביותר שמקפח באופן שיטתי קבוצה אחת אינו מודל טוב. כנות אינה תחליף לצדק.
פרטיות: הנתונים האישיים מוגנים בקפידה
חומר הגלם של מדע הנתונים הוא לעתים קרובות נתונים אישיים, ונתונים אלה מוגנים בחוק: KVKK בטורקיה, GDPR באירופה. העקרונות הבסיסיים הם: הגבלת מטרה (לא נעשה שימוש בנתונים למטרות אחרות מלבד המטרה שלשמה נאספה), מזעור נתונים (לא נאספים/נשמרים יותר נתונים מהנדרש), אנונימיזציה (מוסר מידע מזהה) ואבטחה (הנתונים נשמרים מוצפנים והגישה מוגבלת). כלל קריטי בעבודה עם כלי AI: לעולם אל תדביק נתונים אישיים אמיתיים בכלי AI ציבורי. לרוב, דיאגרמה ודגימה אנונימית/סינטטית מספיקים לניתוח.
דגש נוסף בהקשר של אבטחת מידע: השתמש בכלים וטכניקות של מדעי הנתונים רק על נתונים ומערכות שיש לך סמכות לגביהם, למטרות ניתוח הגנתי ולגיטימי. גישה לא מורשית לנתונים של מישהו אחר, זיהוי מחדש של אנשים (חילוץ זהות מנתונים אנונימיים) או יצירת פרופילים לא מורשית הם לא חוקיים ולא אתיים כאחד.
שלושה מיני תיקים
מקרה 1 - קריסה ללא מעקב. חברת מסחר אלקטרוני עלתה לאוויר עם מודל ההמלצות שלה ולא הגדירה מעקב. לאחר 4 חודשים קטלוג המוצרים השתנה מאוד; המודל המשיך להמליץ על מוצרים מיושנים, ושיעור ההמרה ירד בשקט ב-30%. אף אחד לא שם לב במשך חודשים. לקח: פריסה ללא ניטור מתעוורת.
מקרה 2 - אפליה נסתרת. מודל מיון לגיוס עובדים למד על חוסר איזון מגדרי בנתונים היסטוריים ומועמדות נשיות לא מוערכות באופן שיטתי. זה לא הבחין כי לא היה ניתוח הגינות; זה נחשף בביקורת והמוסד עמד בפני סיכון מוניטין/משפטי חמור. לקח: בקרת הוגנות מבוססת קבוצה חיונית במודלים בעלי השפעה רבה.
מקרה 3 - הפרת סודיות. אנליסט אחד טען קובץ המכיל הודעות דוא"ל אמיתיות של לקוחות והיסטוריית רכישות לתוך כלי בינה מלאכותית ציבורית ואמר, "סכם קטעים". נתונים אישיים עזבו את המוסד; תהליך KVKK החל. הדרך הנכונה הייתה להסיר שדות זהות ולשתף רק נכסים אנונימיים. לקח: נתונים אישיים אמיתיים אינם נכנסים לכלי הפתוח.
ארבע תבניות הניתנות להעתקה
1) רשימת בדיקה לפני הפריסה:
תפקידך: יועץ MLOps. רשום את הדברים שעליי לבדוק לפני הכנסת דגם לייצור: ניהול גרסאות, מדדי ניטור, תוכנית החזרה לאחור, סף ביצועים, התראת סחף נתונים, אדם אחראי. הוסף הסבר של משפט אחד "למה זה חשוב" לכל פריט. אני אחליט.
2) עיצוב מעקב אחר משמרות:
הצע תוכנית ניטור סחיפה למודל סיווג בייצור: (1) אילו התפלגויות תשומות עלי לנטר, (2) איזו אזעקה להתפלגות הניבוי, (3) כיצד להשוות ביצועים כאשר התוצאה האמיתית מגיעה, (4) באיזה סף יש להפעיל אימון מחדש. ספק גם שלד קוד.
3) בקרת הוגנות:
כתוב קוד שמשווה את הביצועים של המודל שלי עבור קבוצות שונות (למשל טווח גיל, אזור): היזכרות/דיוק ושיעור החלטות חיוביות עבור כל קבוצה. אזהרה אם יש הבדל משמעותי בין הקבוצות. ביצוע פרשנויות סיבתיות/פוליטיות; רק תראה לי את ההבדלים ואני אשקול את ההחלטה.
4) בדיקת פרטיות מראש:
לפני מתן נתונים לכלי AI, בדוק: האם יש נתונים אישיים/זהותיים (שם, דוא"ל, מזהה, טלפון, כתובת, IP) ברשימת העמודות למטה? אם כן, רשום אילו מהם יש להסיר או לעשות אנונימי. עמודות: [רשימה]. מטרה: לשתף סכימה אנונימית בלבד.
הנחיה חלשה / הנחיה חזקה
הנחיה חלשה:
הדוגמנית שלי מוכנה, צא לשידור חי.
פריסה אינה שלב אחד; יציאה לאוויר ללא פיקוח, החזרה, הגינות ובקרת פרטיות היא הזמנה שקטה לאסון.
הנחיה עוצמתית:
תפקידך: יועץ MLOps אחראי. הדוגמנית שלי עברה הכשרה, אני רוצה הכנה מלאה לפני העלייה לאוויר. צור: (1) רשימת בדיקה לפני פריסה, (2) תוכנית ניטור סחף, (3) קוד בדיקת הוגנות מבוסס קבוצה, (4) בדיקת פרטיות (האם יש נתונים אישיים). הצע גם כיצד להגן על הסכמה אנושית בהחלטות בעלות השפעה. ההחלטות הסופיות הן שלי.
כאן מתייחסים להפצה, ניטור, הגינות ופרטיות כתהליך אחראי אחד.
טעויות נפוצות
- פריסת מודל ללא הגדרת ניטור. הדגם מחליק בשקט ומעוות; זה יכול לקחת חודשים כדי לשים לב.
- עוקף את בדיקת הצדק. מודל של נאמנות גבוהה עשוי לפגוע באופן שיטתי בקבוצה.
- קבלת החלטה לא מוסברת בקופסה שחורה. החלטות בעלות השפעה גבוהה חייבות להיות ניתנות להסבר; "הדוגמנית אמרה כך" זה לא מספיק.
- מתן נתונים אישיים אמיתיים לפתיחת כלי בינה מלאכותית. הפרת KVKK/GDPR; הדיאגרמה והדוגמה האנונימית מספיקות.
- האצלת ההחלטה לדגם. האחריות מוטלת תמיד על האדם; מעקב אנושי בעל השפעה גבוהה נשמר.
טיפ: לפני שאתם יוצאים לאוויר עם כל דגם, שאל שאלה אחת בקול: "אם הדגם הזה יישבר מחר בשקט או יעניש קבוצה בצורה לא הוגנת, איך אשים לב ואחזיר את זה לאחור?" אם אין לך תשובה ברורה לשאלה זו, הדגם עדיין לא מוכן לייצור.
לסיכום
העבודה של דוגמנית לא מסתיימת בציון גבוה, אלא בעבודה אמינה ואחראית בייצור. MLOps היא המשמעת של מעבר לאוויר, מעקב אחר סחף, הדרכה מחדש והחזרת המודל לאחור; פריסה ללא מעקב היא קריסה שקטה. האתיקה דורשת הוגנות, שקיפות ואחריות של המודל; דיוק סטטיסטי אינו תחליף למקובלות אתית. פרטיות פירושה הגנה על נתונים אישיים עם עקרונות KVKK/GDPR והרחקת נתונים אמיתיים מכלים פתוחים. כל ההחלטות הללו אינן החלטות טכניות אלא אחריות ותמיד שייכות לאדם.
משימת יישום
תחשוב על זה כאילו אתה מתכוון להכניס מודל שבנית (או היפותטי) לייצור ומלא ארבע רשימות: (1) רשימת בדיקה לפני הפריסה, (2) מדדי סחיפה שתעקוב אחריהם, (3) תוכנית בקרת הוגנות מבוססת קבוצה, (4) בקרת פרטיות. לאחר מכן כתבו תשובה קונקרטית לשאלה "איך אשים לב אם מחר הוא נשבר בשקט ואחזיר אותו?"
רשימת בדיקה
- [ ] האם אני פורס את המודל עם ניטור (התראת החלקה) והחזרה לאחור?
- [ ] האם בדקתי את פער ההגינות/ביצועים עבור קבוצות שונות?
- [ ] האם שמרתי על "אנושי במעגל" לגבי החלטות בעלות השפעה?
- [ ] האם הגנתי על נתונים אישיים עם עקרונות KVKK/GDPR והרחקתי אותם מכלים פתוחים?
- [ ] האם הטלתי את האחריות הסופית על אדם, לא על המודל?
מבחן מודול
1. מדען נתונים שואל את הבינה המלאכותית, "כמה מדויק יער אקראי בנתונים האלה?" בלי להכשיר את המודל בכלל, ומכניס ישירות את התשובה של "89%" למצגת. מהי הטעות הבסיסית בגישה זו?
- א) המתנה למדדים מבלי לתת נתונים ומודלים לבינה מלאכותית; התעלמות מכך שהמספר שהוא מייצר מזויף וכי ניתן למצוא את המדד האמיתי רק באמצעות הדרכה ובדיקה ✔
- ב) יש להשתמש ברגרסיה לוגיסטית במקום יער אקראי
- ג) שיעור הדיוק חייב להיות תמיד מעל 90%.
- ד) חל איסור מוחלט לכלול מדדים במצגת
הסבר: בינה מלאכותית אינה יכולה לייצר מדד ללא גישה למודל ולנתונים; המספר שהוא נותן הוא הזיה (מפוברק). המדד מתקבל בחישוב של מדען הנתונים עצמו רק לאחר שהמודל הוכשר ונבדק בפועל. פלט לא מאומת הוא כמו דוח לא חתום.
2. העמודה 'סיבה לסגירת חשבון' כלולה בעת איסוף נתונים עבור תחזית נטישה; עמודה זו מתמלאת רק לאחר עזיבת הלקוח. הדגם נותן 97% על סט המבחן, אבל לא עובד בייצור. מה השם והגורם למצב זה?
- א) לימוד יתר; המודל מורכב מדי
- ב) דליפת נתונים; ✔ שימוש במידע שלא יהיה זמין בזמן החיזוי, אך הוא תוצאה של היעד, כתכונה
- ג) למידה לא מספקת; הדגם פשוט מדי
- ד) הטיית בחירה; גודל מדגם קטן
הסבר: זוהי דליפת נתונים קלאסית: 'סיבת הסגירה' היא תוצאה של היעד ועדיין ריקה בזמן החיזוי. הדגם עושה את העבודה עם הידע העתידי הזה, הוא נראה נהדר בסט המבחן אבל קורס בייצור כי העמודה הזו ריקה. יש לשאול את השאלה 'האם יש לי את זה בזמן החיזוי' לכל עמודה.
3. אנליסט ממלא ערכים חסרים בעמודת ההכנסות עם הממוצע; אבל הנעדרים שייכים למעשה לפלח ההכנסה הנמוכה שמעולם לא הצהיר על הכנסה (חסר שיטתי). למה המילוי הזה לא נכון?
- א) הממוצע תמיד גדול מהחציון, ולכן הוא לא נכון
- ב) לעולם אין למלא ערכים חסרים, יש למחוק אותם תמיד
- ג) מילוי הפער השיטתי בממוצע מעוות את הנתונים על ידי ייצוג מלאכותי של אותה קבוצה; המילוי נעשה מבלי לשאול את השאלה 'למה הוא ריק?' ✔
- ד) חישוב הממוצע יוצר בעיית ביצועים מכיוון שהוא איטי מדי
הסבר: הסיבה לחוסר קובעת את הפתרון. כאשר החסר השיטתי (הפער המרוכז בקבוצה מסוימת) מתמלא בממוצע, אותה קבוצה הופכת באופן מלאכותי ל'הכנסה ממוצעת' והנתונים מעוותים. לפני מילויו יש לשאול את השאלה 'למה הוא ריק'; אין למלא ממוצע חסר שיטתי/משמעותי.
4. צוות מוצא מתאם של 0.78 בין 'הוצאות פרסום' ו'מכירות' ומכפיל את התקציב; עם זאת, מה שבעצם מפעיל את שניהם הם קמפיינים עונתיים. איזה עיקרון בסטטיסטיקה מסביר את השגיאה הזו?
- א) מתאם אינו סיבתיות; משתנה שלישי נסתר עשוי להשפיע על שני המשתנים ✔
- ב) מכיוון שהמתאם של 0.78 נמוך מדי, יש להתעלם מהקשר
- ג) מתאם תמיד מוכיח סיבתיות, הצוות עשה זאת נכון
- ד) המתאם בין פרסום ומכירות אינו ניתן לחישוב מתמטי.
הסבר: מתאם אינו סיבתיות. שני המשתנים עשויים לפעול יחד מכיוון שמשתנה שלישי נסתר (כאן מסעות פרסום עונתיים) משפיע על שניהם. את המסקנה שאחד גורם לשני ניתן לקבוע רק באמצעות ניסוי וידע בשטח; מספר המתאמים לבדו אינו עדות לסיבתיות.
5. מודל גילוי הונאה מראה 99.2% דיוק והצוות חוגג; עם זאת, שיעור העסקאות המזויפות בנתונים עומד על 0.8% בלבד והריקול של הדגם עומד על 6%. מה הטבלה הזו מראה?
- א) הדגם מושלם מכיוון שהדיוק הוא מעל 99%
- ב) דיוק מטעה עם נתונים לא מאוזנים; הדגם מפספס כמעט את כל הזיופים (ריקול נמוך), יש להסתכל על המדד המתאים ✔
- ג) אין בעיה מאחר והריקול של הדגם גבוה
- ד) לא היה צורך לבנות דגם כי שיעור הזיוף היה נמוך
הסבר: 'דיוק' מטעה בנתונים לא מאוזנים. כאשר הדגם קורא כמעט לכל עסקה 'נקייה', הוא מקבל דיוק גבוה כי הזיופים הם מעטים מאוד, אך הוא לא מצליח לתפוס זיופים, וזו המטרה העיקרית שלו (ריקול 6%). לכן, בבעיות לא מאוזנות, הפוקוס אינו על הדיוק, אלא על מטריצת הבלבול ומדדים המתאימים למטרת התפקיד, כמו ריקול/דיוק.
6. בפרויקט חיזוי ביקוש, נתונים תלויי זמן מפוצלים באופן אקראי לאימון/בדיקה. הדגם נותן דיוק של 93% אך קורס בייצור. מה צריכה להיות גישת החלוקה הנכונה?
- א) הגדלת מערך הבדיקות, למשל. פיצול 50%/50%
- ב) שימוש במודל מורכב יותר
- ג) הסר לחלוטין את המחיצה ותאמן עם כל הנתונים
- ד) פיצול כרונולוגי: אימון עם התקופה הישנה ובדיקה עם התקופה החדשה ובכך למנוע מהמודל לראות את העתיד ✔
הסבר: אם מתבצעת חלוקה אקראית בנתוני סדרות זמן, המודל רואה את העתיד ומנבא את העבר באימון; זו דליפה ומייצרת הצלחה שלא קיימת בפועל. הגישה הנכונה היא פיצול כרונולוגי: אימון עם התקופה הישנה ובדיקה עם התקופה החדשה, חיקוי המצב האמיתי בייצור (ניבוי מהעבר לעתיד).
7. מאילו נתונים יש לחשב פרמטרים של קנה מידה (StandardScaler) בהנדסת תכונות וכיצד יש ליישם אותם?
- א) יש לחשב אותו מכל הנתונים (אימון + בדיקה ביחד) כדי שיהיה מדויק יותר
- ב) יש לחשב זאת בנפרד עבור כל שורה, מהערך של אותה שורה
- ג) יש לחשב מנתוני הבדיקה בלבד
- ד) יש לחשב אותו רק מנתוני האימון, ואז יש להחיל את אותם פרמטרים על נתוני המבחן; אחרת זה ידלוף ✔
הסבר: יש ללמוד את הפרמטרים של כל הטרנספורמציות (ממוצע, סטיית תקן וכו') כגון קנה מידה, קידוד וריפוד רק מנתוני האימון, ואז יש להחיל את אותו הדבר על נתוני הבדיקה. התחשבות בנתוני הבדיקה גורמת גם למידע הבדיקה להפריע לאימון, כלומר לדליפה, וגורם לדגם להיראות טוב יותר ממה שהוא. שימוש ב-Pipeline מבטיח זאת.
8. דגם נותן דיוק של 98% על ערכת האימונים ו-72% דיוק על ערכת המבחן. מה מעיד סימפטום זה ומה צריך לעשות?
- א) למידה לא מספקת; יש להפוך את המודל למורכב יותר
- ב) דליפת נתונים; יש לשנות את ערכת הבדיקה
- ג) התאמת יתר; יש לפשט את המודל, ליישם רגולציה ואימות צולב ✔
- ד) מצב נורמלי; ציון ההשכלה ממילא תמיד גבוה יותר, אמצעי זהירות מיותרים
הסבר: ציון גבוה מאוד באימון וציון נמוך משמעותית בבדיקה הוא סימפטום קלאסי של התאמת יתר: המודל שינן את הרעש של נתוני האימון ולא את התבנית האמיתית. הפתרונות כוללים פישוט המודל, יותר נתונים, רגולציה ואימות המצב עם אימות צולב. ההסתמכות על ציון ההשכלה בלבד מסתירה את המהמורה הזו.
9. במצגת הנהלה, ציר ה-y של תרשים עמודות שבו המכירות גדלות מ-1,000 ל-1,020 מתחילים ב-980 כדי לגרום לגידול להיראות עצום. הגידול בפועל הוא 2%. מדוע זו בעיה אתית?
- א) ציר y קטום מגזים חזותית בהבדל קטן ומטעה את הצופה; למען ההגינות, הציר בסרגלי ההשוואה צריך להתחיל מ-0 ✔
- ב) לעולם לא ניתן להשתמש בתרשימי עמודות עבור נתוני מכירות
- ג) אין בעיה; תמיד טוב לגרום לתרשים להיראות מרשים
- ד) ציר Y צריך להתחיל תמיד מהערך הגדול ביותר של הנתונים
הסבר: בתרשימים עמודות למטרות השוואה, ציר ה-y צריך להתחיל בדרך כלל ב-0. חיתוך הציר והחל מ-980 גורם להפרש קטן של 2% להיראות עצום מבחינה ויזואלית ומטעה את הצופה. האחריות האתית של איש מקצוע הנתונים היא לצייר גרפים כנים שאינם ממעיטים או ממעיטים בנתונים.
10. אנליסט מוצא את המחזור הכולל 3 פעמים לאחר ההצטרפות להזמנות עם טבלת המוצרים; מספר הקווים גדל מ-240 אלף ל-690 אלף. מה היה צריך לעשות כדי למנוע את השגיאה השקטה הזו?
- א) חלקו את המחזור הכולל ב-3
- ב) השתמש תמיד בשאילתות נפרדות במקום JOIN
- ג) מחיקת טבלת המוצרים לחלוטין
- ד) בדיקת מספר השורות לאחר המיזוג/הצטרפות ואימות צירופן באמצעות המפתח הנכון; תופסת שכפול מוקדם ✔
הסבר: כאשר ישנן מספר שורות לכל מוצר (בצבע שונה, למשל) בטבלת המוצרים, JOIN באמצעות המפתח השגוי ישכפל כל הזמנה וינפח את הסכומים. הקוד פועל ללא שגיאות אך התוצאה שגויה. הדרך להימנע מכך היא לבדוק את מספר השורות לאחר כל מיזוג/JOIN ולמזג עם המפתח הנכון.
11. מודל מיון לגיוס עובדים לומד על חוסר איזון מגדרי בנתונים היסטוריים ובאופן שיטתי מתחת לציונים של מועמדות, אבל הדיוק הכולל שלו גבוה. מה זה אומר?
- א) אין בעיה כי לדגם דיוק גבוה
- ב) דיוק סטטיסטי אינו תחליף למקובלות אתית; המודל למד על אפליה בעבר, נדרשת בדיקת הוגנות מבוססת קבוצה ✔
- ג) הגדלת דיוק המודל פותרת את הבעיה
- ד) הוגנות היא מחוץ לתחום מדעי הנתונים
הסבר: גם אם מודל נכון סטטיסטית, הוא עשוי להיות בלתי מקובל מבחינה אתית. המודל לומד את העוול בנתוני העבר וממכן את האפליה. יושרה גבוהה אינה תחליף לצדק; במודלים בעלי השפעה גבוהה, בקרת הוגנות, המודדת את ההבדל בביצועים/החלטות עבור קבוצות שונות, היא חיונית והאחריות הסופית מוטלת על האדם.
12. עובד מעלה קובץ המכיל אימיילים אמיתיים של לקוחות והיסטוריית רכישות לכלי בינה מלאכותית ציבורית ואומר 'סיכום מקטעים'. מדוע זו טעות חמורה ומהי הדרך הנכונה?
- א) אין בעיה; כלי AI לעולם לא מאחסנים נתונים
- ב) השגיאה היא שהקובץ גדול מדי; היה צריך לצמצם
- ג) מתן נתונים אישיים אמיתיים לכלי פתוח מהווה הפרה של KVKK/GDPR; היה צריך להסיר שדות זהות ולחלוק רק סכימה/נכס אנונימי ✔
- ד) היה צריך להשתמש ב-CSV במקום באקסל בלבד
הסבר: כאשר נתונים אישיים אמיתיים (כגון דואר אלקטרוני, שם וכו') ניתנים לכלי בינה מלאכותית זמין לציבור, תהיה הפרת פרטיות במסגרת KVKK / GDPR; הנתונים עוזבים את הארגון. לרוב, דיאגרמה ודגימה אנונימית/סינטטית מספיקים לניתוח. הדרך הנכונה היא להסיר שדות זהות ולשתף רק נכסים אנונימיים.
13. מודל המלצה הוכנס לייצור אך לא נקבע מעקב; כאשר קטלוג המוצרים משתנה לאחר 4 חודשים, המודל ממשיך להמליץ על מוצרים ישנים ויחס ההמרה יורד בשקט ב-30%. מה שמה של התופעה הזו?
- א) לימוד יתר; הדגם משנן את ערכת האימונים
- ב) סחף דגם; ככל שהעולם משתנה, המודל מיושן בשקט, מבלי לשים לב כי הניטור אינו מבוסס ✔
- ג) הטיית בחירה; הטיה לדוגמה
- ד) הפרת מזעור נתונים
הסבר: זוהי סחיפה של מודל (סחיפה של מודל/נתונים): כאשר העולם משתנה (קטלוג, התנהגות, עונה) התנאים שבהם הוכשר המודל משתנים והמודל מתקלקל בשקט. דגם שהוכנס לייצור מתדרדר מעצמו; זה עניין של 'מתי'. פריסה ללא ניטור (מעקב אחר קלט וביצועים) לא מאפשרת לזהות השפלה.
14. למודל שמקבל דיוק של 88% בחלוקת אימון/מבחן בודד יש ציוני אימות צולב פי 5 של 88%, 71%, 83%, 64%, 79%. על מה זה מעיד ומדוע חשוב אימות צולב?
- א) הדגם יציב; 88% הם ביצועים אמיתיים
- ב) אימות צולב מיותר; מספיק תא אחד
- ג) תנודתיות גדולה של ציונים מצביעה על כך שהמודל אינו יציב; אימות צולב מבסס ביצועים על ממוצע והתפלגות של פחים מרובים, לא סל מזל אחד ✔
- ד) עדיף לדווח על הציון הגבוה ביותר (88%)
הסבר: תא בודד יכול להיות בר מזל או חסר מזל; 88% היו רק התוצאה של החלוקה הקלה ההיא. אימות צולב מפצל את הנתונים מספר פעמים, מבסס את הביצועים על הממוצע (כאן ~77%) ומראה את התנודתיות של הציונים. תנודתיות גבוהה כאן מעידה על כך שהמודל אינו יציב; הסתמכות על תא בודד היא מטעה.