רווחים:
- יכולת לייצר סטטיסטיקות תיאוריות ותרשימי הפצה/יחסים עם תמיכה בבינה מלאכותית ולבחור את סוג התרשים המתאים לפי הנתונים והשאלה
- יכולת לזהות בחירות מטעות (ציר מקווקו, קנה מידה לא מתאים, החלקה מוגזמת) בתמונות המופקות על ידי בינה מלאכותית וליישם עקרונות הדמיה כנים
- היכולת להבחין כי ניתוח חקרני נועד להפקת השערות והמלכודת של גילוי ואישור עם אותם נתונים (מה שפותח את הדלת ל-p-hacking).
לאחר ניקוי הנתונים, תפקידו הראשון של החוקר האמפירי הוא להכיר אותם. שלב זה נקרא ניתוח נתונים חקרניים (EDA – Exploratory Data Analysis): זהו תהליך בחינת הנתונים באמצעות גרפים וסטטיסטיקות מסכם וראיית המבנה, הדפוסים וההפתעות שלהם. המטרה היא עדיין לא לבדוק השערה, אלא להכיר את הנתונים, לייצר שאלות ולהניח את התשתית למודל שתבנה בעתיד. ביחידה זו נראה כיצד בינה מלאכותית (AI) מאיצה את ה-EDA וההדמיה, אך מדוע יש לבחון היטב את הגרפיקה שהיא מייצרת.
תחילה נעשה שתי הבחנות בסיסיות. ראשית, סטטיסטיקה תיאורית (מספרים המסכמים נתונים כגון ממוצע, חציון, סטיית תקן, רבעונים) והדמיה (המציגים את אותו מידע בצורה גרפית) משלימים זה את זה; יחד הם מתארים את הנתונים. שנית, והכי קריטית: יש להבחין בין גילוי ואישור. ניתוח חקרני מיועד להפקת השערות; חקירת ההשערה עם אותם נתונים ואמירה "בדקתי את זה ומצאתי שזה משמעותי" פותחת את הדלת ל-p-hacking, אותם נראה ביחידה הבאה. זה בחינם להסתכל על הנתונים ולראות דפוס; אבל ההכרזה על דפוס זה כ"ממצא מוכח" באותם נתונים היא מטעה.
ניתוח חקרני צעד אחר צעד
1. תצוגה חד-משתנית. בחן כל משתנה בנפרד: האם התפלגותו סימטרית או מוטה; כמה גבעות יש; איפה החריגות? עבור משתנים מספריים, היסטוגרמה (עלילה המציגה תדירות על ידי חלוקת ערכים לטווחים) ו-boxplot (boxplot - תרשים המציג ערכי חציון, רבעון וקיצונים); עבור משתנים קטגוריים, השתמש בטבלאות תדירות ובתרשימי עמודות.
2. תצוגה דו משתנית. ראה את הקשר בין שני משתנים: עלילת פיזור עבור שני משתנים מספריים (מראה כל תצפית כנקודה במישור x-y), עלילת תיבה מקובצת עבור מספרי-קטגורי, הצלבה עבור שניים קטגוריים. לפני שתסתכלו על מקדם המתאם, הקפידו להסתכל על עלילת הפיזור: אותו מתאם יכול להראות דפוסים שונים מאוד (רביעיית אנסקום המפורסמת מדגימה זאת; לארבעה מערכי נתונים יש נתונים סטטיסטיים כמעט זהים, אבל כשמתווים הם מתבררים כשונים לחלוטין).
3. בחר את סוג התרשים הנכון. סוג התרשים תלוי בשאלה ובסוג הנתונים שלך. היסטוגרמה להפצה; פיזור לזוגיות; תרשים קו לשינוי לאורך זמן; תרשים עמודות להשוואת קטגוריות; (בזהירות) סרגל מוערם עבור היחס בין חלקים למכלול. AI מייצר עבורך קוד במהירות, אבל ההחלטה "איזה גרף לאיזו שאלה" היא שלך.
4. שימו לב לתבנית, אל תצהירו על תוצאות. רשמו כל תבנית מעניינת שאתם רואים כ"פתק גילוי", אך אל תראו זאת כממצא מאושר. האישור נעשה בשלב נפרד, רצוי עם נתונים נפרדים או לוח זמנים קבוע מראש.
עקרונות הדמיה כנים
הגרפיקה משכנעת; לכן, גם כוחו המטעה גבוה. AI יכול לעשות בחירות אסתטיות אך לפעמים מטעות. בדוק את המדיניות הזו:
- בתרשימים עמודות, ציר ה-y חייב להתחיל באפס. הציר המקווקו מראה הבדלים קטנים כגדולים.
- הסולם צריך להיות עקבי. אם יש השוואה בין שני תרשימים, השתמש באותו טווח ציר.
- החלקה מוגזמת יכולה להסתיר את הדפוס האמיתי. קו מגמה נראה נחמד, אבל אם הוא "מחליק" את הנתונים יותר מדי, הוא עלול להטעות.
- צבע וקישוט תלת מימד מעוות את תשומת הלב, לא את הנתונים. בחר בפשטות.
- נתונים חסרים וגודל המדגם צריכים להיות גלויים. "n=12" ו-"n=12,000" לא אמורים להיראות זהים.
שימו לב: רק בגלל שהגרפיקה שמיוצרת על ידי AI יפה, היא לא נכונה. הטעות הנפוצה ביותר שהוא עושה היא לא להתחיל את הציר מאפס בתרשים העמודות ולהגזים בהפרש בין שתי הקבוצות. בדוק תמיד את הציר.
טבלת השוואה: שאלה → תרשים
תשאל
תרשים נכון
טעות נפוצה
איך המשתנה הזה מתחלק?
עלילת היסטוגרמה/קופסה
השתמש בתרשים עוגה
האם שני משתנים מספריים קשורים?
עלילת פיזור
רק מסתכלים על מספר המתאמים
איך זה השתנה עם הזמן?
תרשים קווים
מספר מגמה באמצעות תרשים עמודות
מה ההבדל בין הקבוצות?
קופסה/בר מקובצים (מאפס)
מוט ציר קטום
יחס חלק לשלם?
בר מוערם (בזהירות)
תרשים עוגה מרובה פרוסות
ארבע הנחיות הניתנות להעתקה
1. קוד גילוי אוטומטי:
תפקידך: עוזר EDA. אני לא חולק את הנתונים, אני רוצה את הקוד R (ggplot2). ישנם משתנים מספריים (הכנסה, גיל, הוצאה) ומשתנים קטגוריים (אזור, השכלה) במסגרת הנתונים.נתונים. משימה: כתוב קוד שמפיק היסטוגרמה עבור כל מספרי, תרשים עמודות עבור כל קטגוריה, ועלילת פיזור עבור הכנסה~גיל. בתרשימים עמודות, אפשר לציר ה-y להתחיל מאפס. הוסף שורת תגובה.
2. סקירת מתאם (מתאם + ויזואלי ביחד):
כתוב קוד שגם מחשב את המתאם של פירסון להכנסה והוצאות וגם משרטט עלילת פיזור + מגמה לינארית. הוסף שורת הערה שמזכירה לי לבחון את התרשים לפני שאני אמון על ספירת המתאם (אזהרת אנסקום). אל תחלק יתר על המידה את קו המגמה.
3. ביקורת יושרה:
בדוק את קוד ה-ggplot הבא להדמיה כנה: [קוד]. בדוק ותקן את הדברים הבאים: האם ציר ה-y מתחיל מאפס, האם הסולם עקבי, האם גודל המדגם נראה לעין, האם יש החלקה מוגזמת? הסבר את ההצדקה לכל תיקון שביצעת.
4. הפקת הערת גילוי (לא ממצא):
בהתבסס על הגרפים שאני מייצר, רשום OBSERVATIONS כ'הערת גילוי'; כתוב כל פריט בשפה של 'השערה שיש לבדוק', לא 'ממצא סופי'. דוגמה: "נראה שההכנסה בהשכלה גבוהה מפוזרת יותר; צריך להיבדק עם נתונים נפרדים.' הימנע מהצהרות סיבתיות ומוחלטות.
הנחיה חלשה / הנחיה חזקה
הנחיה חלשה:
צור גרפים יפים מהתשואה ותגיד לי מה הם אומרים.
הנחיה זו מזמנת פלט מטעה: "יפה" מתמקד באסתטיקה, בעוד "מה זה אומר" דוחף את הבינה המלאכותית לקפוץ מגילוי למסקנה סופית. הערות סיבתיות, מוגזמות בהמשך.
הנחיה עוצמתית:
תפקידך: עוזר EDA ישר. משימה: (1) בחר את סוג התרשים המתאים לשאלתי וכתוב את ההצדקה, (2) התחל את הציר מאפס בתרשימים עמודות, (3) לפרש את הפלט בשפת DISCOVERY NOTE: אין טענה סופית/סיבתית להציע השערה בשפה של "חייב להיבדק", (4) אזהרה אם הדגימה שלי היא קטנה (אני תריץ את התרשים שלי ב<30). זה.
הבדל: רצון חזק מצדיק את סוג התרשים, מטיל כללים של כנות ואינו מבלבל בין גילוי לאישור.
שלושה מיני תיקים
מקרה 1 - הגזמה בציר בדיד. אנליסט הראה את ציוני שביעות הרצון של שני ענפים (7.8 ו-8.0; מתוך 10) בתרשים עמודות. כאשר התניעו את ציר YZ מ-7.5, הענף השני נראה גבוה כמעט פי שניים מהראשון; ואילו ההפרש היה רק 2.5%. ההנהלה עמדה לתגמל סניף תחת רושם מוטעה. כשהתחלתי את הציר מאפס ההבדל היה כמעט בלתי נראה. שיעור: בחירת הציר לבדה משנה תפיסה.
מקרה 2 - אמון במתאם ודילוג על התרשים. חוקר ראה r = 0.81 בין שני משתנים וכתב "קשר ליניארי חזק". כשהיועץ שלו ביקש את עלילת הפיזור, נראה שהקשר נובע למעשה מתצפית קיצונית אחת, וכשהנקודה הזו הוסרה, המתאם ירד ל-0.12. שיעור: ספירת המתאם אינה תחליף לגרף; תמיד להסתכל על הפיזור.
מקרה 3 - גילוי מבלבל עם אישור. תלמיד אחד בחן את כל המתאמים הזוגיים במערך נתונים של 40 משתנים, בחר את הגבוה ביותר (r=0.52) וכתב, "מצאנו קשר מובהק בין השכלה וחיסכון (p=0.004)." עם זאת, היו מאות זוגות ב-40 משתנים; הבחירה הגבוהה ביותר הייתה ממצא שווא עקב מקרה. לקח: לא ניתן "לבדוק ולהכריז כמשמעותי" על הדפוס שהתגלה באותם נתונים; נדרש אישור נפרד.
טעויות נפוצות
- לא מתחיל את הציר מאפס בתרשים העמודות. זה מקצין את ההבדל הקטן; השקר החזותי הנפוץ ביותר. תמיד לבדוק.
- מסתכלים על המתאם ומדלגים על התרשים. אותו מתאם מגיע מדפוסים שונים מאוד; יכול להתאים ליחס חריג. ראשית, פיזור.
- בהתחשב בתבנית שנמצאה בגילוי כ"ראיה" באותם נתונים. זהו השער ל-p-hacking; האישור נעשה בנפרד.
- סוג תרשים שגוי. התאמות כגון סרגל טרנד ופשטידה להפצה מטעות. בחר ז'אנר על סמך השאלה.
- הסתרת גודל המדגם. n=8 ו-n=8,000 לא צריכים להיראות זהים באותו גרף; יש להראות אי ודאות.
טיפ: לפני פרסום תרשים, שאל את עצמך: "האם הסיפור ישתנה אם אשנה את הציר?" אם התשובה היא כן, כנראה שהתחלת את הציר ממקום לא ישר.
לסיכום
ניתוח נתונים חקרני הוא השלב של מפגש עם הנתונים, ראיית דפוסים ויצירת השערות; זה לא אישור. ה-AI מייצר במהירות סטטיסטיקה תיאורית וקוד גרף, אבל אתה בוחר את סוג הגרף על סמך השאלה שלך ושולט בעקרונות ההגינות (ציר אפס, קנה מידה עקבי, אי ודאות לכאורה). תסתכל על הפיזור לפני שאתה סומך על מספר המתאם; אל תכריז על הדפוס שמצאת בגילוי כ"ראיה" באותם נתונים. גרף יפה של AI לא אומר גרף נכון.
משימת יישום
בחר לפחות שלושה משתנים במערך נתונים. בקש מה-AI והרץ קוד שמייצר גרפי גישוש (היסטוגרמה, פיזור, מסגרת) עם הנחיה האוכפת כללי כנות. עבור כל תרשים: בדקו (1) את התאמת סוג התרשים לשאלה, (2) את כנות הציר, (3) את הנראות של גודל המדגם. כתוב לפחות "פתק גילוי" אחד בשפת השערות ("...נראה שנבדק בנפרד"). בדוק קורלציה עם ספירה ופיזור ודווח אם יש אי התאמה ביניהם.
רשימת בדיקה
- [ ] בחרתי את סוג התרשים על סמך השאלה וסוג הנתונים שלי.
- [ ] בתרשימים עמודות, אני מתחיל את ציר ה-y מאפס; בדקתי את כנות הציר.
- [ ] הסתכלתי בתרשים הפיזור לפני שסמכתי על המתאם.
- [ ] שיקפתי את גודל המדגם ואי הוודאות בגרף.
- [ ] כתבתי את הדפוסים שמצאתי בחקירה כ"השערה שיש לבדוק" ולא כ"ראיה".
- [ ] ציינתי שלא אשתמש באותם נתונים לצורך אישור וכי נדרש שלב נפרד.