กำไร:
- ความสามารถในการสร้างสถิติเชิงพรรณนาและแผนภูมิการกระจาย/ความสัมพันธ์ด้วยการสนับสนุนปัญญาประดิษฐ์ และเลือกประเภทแผนภูมิที่เหมาะสมตามข้อมูลและคำถาม
- ความสามารถในการรับรู้ตัวเลือกที่ทำให้เข้าใจผิด (แกนประ, ขนาดที่ไม่เหมาะสม, ปรับให้เรียบมากเกินไป) ในภาพที่ผลิตโดยปัญญาประดิษฐ์ และใช้หลักการสร้างภาพข้อมูลอย่างตรงไปตรงมา
- ความสามารถในการแยกแยะว่าการวิเคราะห์เชิงสำรวจมีไว้เพื่อสร้างสมมติฐานและเป็นกับดักของการค้นพบและการยืนยันด้วยข้อมูลเดียวกัน (ซึ่งเปิดประตูสู่ p-hacking)
หลังจากทำความสะอาดข้อมูลแล้ว งานแรกของนักวิจัยเชิงประจักษ์คือการทำความรู้จักข้อมูลดังกล่าว ขั้นตอนนี้เรียกว่าการวิเคราะห์ข้อมูลเชิงสำรวจ (EDA - Exploratory Data Analysis) เป็นกระบวนการตรวจสอบข้อมูลด้วยกราฟและสถิติสรุป ตลอดจนดูโครงสร้าง รูปแบบ และความประหลาดใจ เป้าหมายไม่ใช่เพื่อทดสอบสมมติฐาน แต่เพื่อทำความคุ้นเคยกับข้อมูล สร้างคำถาม และวางรากฐานสำหรับโมเดลที่คุณจะสร้างในอนาคต ในหน่วยนี้ เราจะดูว่าปัญญาประดิษฐ์ (AI) เร่ง EDA และการแสดงภาพได้อย่างไร แต่ทำไมกราฟิกที่สร้างขึ้นจึงต้องได้รับการตรวจสอบอย่างรอบคอบ
ก่อนอื่นเรามาสร้างความแตกต่างพื้นฐานสองประการกันก่อน ประการแรก สถิติเชิงพรรณนา (ตัวเลขที่สรุปข้อมูล เช่น ค่าเฉลี่ย ค่ามัธยฐาน ส่วนเบี่ยงเบนมาตรฐาน ควอไทล์) และการแสดงภาพ (แสดงข้อมูลเดียวกันเป็นกราฟ) เป็นส่วนเสริมซึ่งกันและกัน พวกเขาช่วยกันอธิบายข้อมูล ประการที่สองและสำคัญที่สุด: การค้นพบและการยืนยันต้องได้รับการแยกแยะ การวิเคราะห์เชิงสำรวจมีไว้เพื่อสร้างสมมติฐาน การสำรวจสมมติฐานด้วยข้อมูลเดียวกันแล้วพูดว่า "ฉันทดสอบแล้วพบว่ามีนัยสำคัญ" เปิดประตูสู่ p-hacking ซึ่งเราจะเห็นในหน่วยถัดไป ดูข้อมูลและดูรูปแบบได้ฟรี แต่การประกาศรูปแบบดังกล่าวว่าเป็น "การค้นพบที่พิสูจน์แล้ว" ในข้อมูลเดียวกันนั้นถือเป็นการทำให้เข้าใจผิด
การวิเคราะห์เชิงสำรวจทีละขั้นตอน
1. มุมมองที่ไม่แปรผัน ตรวจสอบตัวแปรแต่ละตัวแยกกัน: การกระจายตัวของมันมีความสมมาตรหรือบิดเบี้ยวหรือไม่ มีเนินเขากี่ลูก ค่าผิดปกติอยู่ที่ไหน? สำหรับตัวแปรตัวเลข ฮิสโตแกรม (พล็อตแสดงความถี่โดยการแบ่งค่าออกเป็นช่วง) และ boxplot (boxplot - แผนภูมิแสดงค่ามัธยฐาน ควอร์ไทล์ และค่าสุดขีด) สำหรับตัวแปรหมวดหมู่ ให้ใช้ตารางความถี่และแผนภูมิแท่ง
2. มุมมองแบบแปรผัน ดูความสัมพันธ์ระหว่างตัวแปรสองตัว: แผนภาพกระจายสำหรับตัวแปรตัวเลขสองตัว (แสดงแต่ละจุดสังเกตเป็นจุดบนระนาบ x-y), แผนภาพกล่องที่จัดกลุ่มสำหรับหมวดหมู่ที่เป็นตัวเลข, ครอสแท็บสำหรับสองหมวดหมู่ ก่อนที่จะดูค่าสัมประสิทธิ์สหสัมพันธ์ อย่าลืมดูแผนภาพกระจาย: ความสัมพันธ์เดียวกันสามารถแสดงรูปแบบที่แตกต่างกันมาก (กลุ่ม Anscombe ที่มีชื่อเสียงแสดงให้เห็นสิ่งนี้ ชุดข้อมูลสี่ชุดมีสถิติที่เกือบจะเหมือนกัน แต่เมื่อวางแผนแล้ว กลับกลายเป็นว่าแตกต่างอย่างสิ้นเชิง)
3. เลือกประเภทแผนภูมิที่ถูกต้อง ประเภทแผนภูมิขึ้นอยู่กับคำถามและประเภทข้อมูลของคุณ ฮิสโตแกรมสำหรับการกระจาย การกระจัดกระจายเพื่อความสัมพันธ์ แผนภูมิเส้นสำหรับการเปลี่ยนแปลงเมื่อเวลาผ่านไป แผนภูมิแท่งสำหรับการเปรียบเทียบหมวดหมู่ (อย่างระมัดระวัง) แท่งซ้อนกันสำหรับอัตราส่วนของชิ้นส่วนต่อทั้งหมด AI สร้างโค้ดให้คุณอย่างรวดเร็ว แต่การตัดสินใจว่า "กราฟใดสำหรับคำถามใด" นั้นเป็นของคุณ
4. สังเกตรูปแบบ อย่าประกาศผล บันทึกรูปแบบที่น่าสนใจที่คุณเห็นว่าเป็น "บันทึกการค้นพบ" แต่อย่าพิจารณาว่าเป็นการค้นพบที่ได้รับการยืนยัน การยืนยันจะดำเนินการในขั้นตอนแยกต่างหาก โดยควรใช้ข้อมูลที่แยกจากกันหรือตามกำหนดเวลาที่กำหนดไว้ล่วงหน้า
หลักการสร้างภาพอย่างซื่อสัตย์
กราฟิกโน้มน้าว; ดังนั้นพลังที่ทำให้เข้าใจผิดจึงสูงเช่นกัน AI สามารถสร้างทางเลือกที่สวยงามแต่บางครั้งก็ทำให้เข้าใจผิดได้ ตรวจสอบนโยบายเหล่านี้:
- ในแผนภูมิแท่ง แกน y ต้องเริ่มต้นที่ศูนย์ แกนเส้นประแสดงความแตกต่างเล็กน้อยแต่มาก
- ขนาดควรจะสอดคล้องกัน หากมีการเปรียบเทียบแผนภูมิสองแผนภูมิ ให้ใช้ช่วงแกนเดียวกัน
- การปรับให้เรียบมากเกินไปสามารถซ่อนรูปแบบที่แท้จริงได้ เส้นแนวโน้มดูดี แต่หาก "ปรับ" ข้อมูลให้เรียบเกินไป ก็อาจทำให้เข้าใจผิดได้
- สีและการตกแต่ง 3 มิติบิดเบือนความสนใจ ไม่ใช่ข้อมูล เลือกความเรียบง่าย
- ข้อมูลที่ขาดหายไปและขนาดตัวอย่างควรมองเห็นได้ "n=12" และ "n=12,000" ไม่ควรมีลักษณะเหมือนกัน
ข้อควรสนใจ: เพียงเพราะกราฟิกที่ AI สร้างขึ้นนั้นสวยงาม มันจึงไม่เป็นความจริง ข้อผิดพลาดที่พบบ่อยที่สุดที่เขาทำคือการไม่เริ่มต้นแกนจากศูนย์ในแผนภูมิแท่งและกล่าวเกินจริงถึงความแตกต่างระหว่างทั้งสองกลุ่ม ตรวจสอบแกนเสมอ
แผนภูมิเปรียบเทียบ: คำถาม → แผนภูมิ
ถาม
แผนภูมิที่ถูกต้อง
ข้อผิดพลาดทั่วไป
ตัวแปรนี้มีการกระจายอย่างไร?
ฮิสโตแกรม/กล่องพล็อต
ใช้แผนภูมิวงกลม
ตัวแปรตัวเลขสองตัวเกี่ยวข้องกันหรือไม่?
พล็อตกระจาย
แค่ดูจำนวนความสัมพันธ์
มันเปลี่ยนแปลงไปตามกาลเวลาอย่างไร?
แผนภูมิเส้น
บอกแนวโน้มด้วยแผนภูมิแท่ง
ความแตกต่างระหว่างกลุ่มคืออะไร?
กล่อง/แท่งที่จัดกลุ่ม (ตั้งแต่เริ่มต้น)
แกนแกนที่ถูกตัดทอน
อัตราส่วนต่อส่วนทั้งหมด?
แถบซ้อน (ด้วยความระมัดระวัง)
แผนภูมิวงกลมแบบหลายชิ้น
ข้อความแจ้งที่สามารถคัดลอกได้สี่รายการ
1. รหัสค้นพบอัตโนมัติ:
บทบาทของคุณ: ผู้ช่วย EDA ฉันไม่เปิดเผยข้อมูล ฉันต้องการรหัส R (ggplot2) มีตัวแปรที่เป็นตัวเลข (รายได้ อายุ ค่าใช้จ่าย) และหมวดหมู่ (ภูมิภาค การศึกษา) ใน data.frame 'data' งาน: เขียนโค้ดที่สร้างฮิสโตแกรมสำหรับตัวเลขแต่ละตัว แผนภูมิแท่งสำหรับแต่ละหมวดหมู่ และแผนภูมิกระจายสำหรับรายได้~อายุ ในแผนภูมิแท่ง ให้แกน y เริ่มต้นจากศูนย์ เพิ่มบรรทัดแสดงความคิดเห็น
2. การทบทวนความสัมพันธ์ (ความสัมพันธ์ + ภาพร่วมกัน):
เขียนโค้ดที่คำนวณความสัมพันธ์ของเพียร์สันสำหรับรายได้และการใช้จ่าย และพล็อตแผนภูมิกระจาย + แนวโน้มเชิงเส้น เพิ่มบรรทัดความคิดเห็นเพื่อเตือนให้ฉันตรวจสอบแผนภูมิก่อนที่จะเชื่อถือจำนวนความสัมพันธ์ (คำเตือน Anscombe) อย่าทำให้เส้นเทรนด์ไลน์เรียบเกินไป
3. การตรวจสอบความซื่อสัตย์:
ตรวจสอบโค้ด ggplot ต่อไปนี้เพื่อให้เห็นภาพได้ชัดเจน:[code] ตรวจสอบและแก้ไขสิ่งต่อไปนี้: แกน y เริ่มต้นจากศูนย์, สเกลสม่ำเสมอหรือไม่, ขนาดตัวอย่างมองเห็นได้หรือไม่, มีการเกลี่ยให้เรียบมากเกินไปหรือไม่ อธิบายเหตุผลสำหรับการแก้ไขแต่ละครั้งที่คุณทำ
4. การสร้างบันทึกการค้นพบ (ไม่ใช่การค้นพบ):
จากกราฟที่ฉันจัดทำ ให้แสดงรายการข้อสังเกตเป็น 'บันทึกการค้นพบ' เขียนแต่ละรายการในภาษาของ 'สมมติฐานที่จะทดสอบ' ไม่ใช่ 'การค้นพบที่สรุปได้' ตัวอย่าง: 'รายได้จากการศึกษาระดับอุดมศึกษาดูเหมือนจะกระจายออกไปมากขึ้น ควรทดสอบด้วยข้อมูลแยกต่างหาก' หลีกเลี่ยงข้อความที่เป็นเหตุและผลที่ชัดเจน
พรอมต์อ่อน / พรอมต์แรง
พรอมต์ที่อ่อนแอ:
สร้างกราฟสวยๆ จากผลผลิตแล้วบอกฉันว่ามันหมายถึงอะไร
ข้อความแจ้งนี้เชิญชวนให้เกิดผลลัพธ์ที่ทำให้เข้าใจผิด: “ความสวยงาม” มุ่งเน้นไปที่สุนทรียภาพ ในขณะที่ “ความหมาย” ผลักดันให้ AI ก้าวข้ามจากการค้นพบไปสู่ข้อสรุปที่ชัดเจน ตามมาด้วยความคิดเห็นที่เกินจริง
พรอมต์อันทรงพลัง:
บทบาทของคุณ: ผู้ช่วย EDA ที่ซื่อสัตย์ งาน: (1) เลือกประเภทของแผนภูมิที่เหมาะกับคำถามของฉันและเขียนเหตุผล (2) เริ่มต้นแกนจากศูนย์ในแผนภูมิแท่ง (3) ตีความผลลัพธ์ในภาษา DISCOVERY NOTE: ไม่มีการอ้างสิทธิ์ขั้นสุดท้าย/เชิงสาเหตุ แนะนำสมมติฐานในภาษา "ต้องได้รับการทดสอบ" (4) เตือนฉันหากตัวอย่างมีขนาดเล็ก (n<30) ฉันจะเรียกใช้แผนภูมิในสภาพแวดล้อมของฉันเองและตรวจสอบ
ความแตกต่าง: Strong จะทำให้ประเภทแผนภูมิเหมาะสม กำหนดกฎเกณฑ์แห่งความซื่อสัตย์ และไม่สับสนระหว่างการค้นพบกับการยืนยัน
มินิเคสสามอัน
กรณีที่ 1 — การพูดเกินจริงของแกนแยก นักวิเคราะห์แสดงคะแนนความพึงพอใจของสองสาขา (7.8 และ 8.0; จาก 10 คะแนน) ในแผนภูมิแท่ง เมื่อสตาร์ทแกน YZ จาก 7.5 กิ่งที่สองปรากฏสูงเป็นสองเท่าของกิ่งแรก ในขณะที่ความแตกต่างเพียง 2.5% ฝ่ายบริหารกำลังจะให้รางวัลสาขาภายใต้ความรู้สึกผิดๆ เมื่อฉันเริ่มต้นแกนตั้งแต่ต้น ความแตกต่างแทบจะมองไม่เห็น บทเรียน: การเลือกแกนเพียงอย่างเดียวเปลี่ยนการรับรู้
กรณีที่ 2 — เชื่อถือความสัมพันธ์และข้ามกราฟ นักวิจัยเห็น r = 0.81 ระหว่างตัวแปรสองตัว และเขียนว่า "ความสัมพันธ์เชิงเส้นตรงที่แข็งแกร่ง" เมื่อที่ปรึกษาของเขาถามถึงแผนภูมิกระจาย พบว่าความสัมพันธ์นี้แท้จริงแล้วเกิดจากการสังเกตสุดขั้วเพียงครั้งเดียว และเมื่อจุดนั้นถูกลบออก ความสัมพันธ์ก็ลดลงเหลือ 0.12 บทเรียน: การนับความสัมพันธ์ไม่สามารถทดแทนกราฟได้ มองที่การกระจายเสมอ
กรณีที่ 3 — การค้นพบที่น่าสับสนพร้อมการยืนยัน นักเรียนคนหนึ่งดูความสัมพันธ์แบบคู่ในชุดข้อมูล 40 ตัวแปร เลือกค่าสูงสุด (r=0.52) แล้วเขียนว่า "เราพบความสัมพันธ์ที่สำคัญระหว่างการศึกษาและการออม (p=0.004)" อย่างไรก็ตาม มีหลายร้อยคู่ใน 40 ตัวแปร การเลือกสูงสุดถือเป็นการค้นพบที่ผิดพลาดเนื่องจากโอกาส บทเรียน: รูปแบบที่ค้นพบไม่สามารถ "ทดสอบและประกาศว่ามีนัยสำคัญ" ในข้อมูลเดียวกันได้ จำเป็นต้องมีการยืนยันแยกต่างหาก
ข้อผิดพลาดทั่วไป
- ไม่เริ่มต้นแกนจากศูนย์ในแผนภูมิแท่ง มันเกินจริงถึงความแตกต่างเล็กน้อย การโกหกทางสายตาที่พบบ่อยที่สุด ตรวจสอบอยู่เสมอ
- การดูความสัมพันธ์และการข้ามแผนภูมิ ความสัมพันธ์เดียวกันนี้มาจากรูปแบบที่แตกต่างกันมาก สามารถเข้ากับความสัมพันธ์นอกกรอบได้ ขั้นแรกให้กระจัดกระจาย
- โดยพิจารณารูปแบบที่พบในการค้นพบว่าเป็น “หลักฐาน” ในข้อมูลเดียวกัน นี่คือประตูสู่ p-hacking; การยืนยันจะทำแยกกัน
- ประเภทแผนภูมิไม่ถูกต้อง การจับคู่เช่นแถบสำหรับแนวโน้มและวงกลมสำหรับการกระจายทำให้เข้าใจผิด เลือกประเภทตามคำถาม
- การซ่อนขนาดตัวอย่าง n=8 และ n=8,000 ไม่ควรมีลักษณะเหมือนกันบนกราฟเดียวกัน ต้องแสดงความไม่แน่นอน
เคล็ดลับ: ก่อนที่จะเผยแพร่แผนภูมิ ให้ถามตัวเองว่า: "เรื่องราวจะเปลี่ยนไปไหมถ้าฉันเปลี่ยนแกน" หากคำตอบคือใช่ คุณอาจเริ่มจุดเปลี่ยนจากจุดที่ไม่ซื่อสัตย์
โดยสรุป
การวิเคราะห์ข้อมูลเชิงสำรวจเป็นขั้นตอนของการประชุมข้อมูล การดูรูปแบบ และการสร้างสมมติฐาน มันไม่ใช่การยืนยัน AI สร้างสถิติเชิงพรรณนาและโค้ดกราฟอย่างรวดเร็ว แต่คุณเลือกประเภทกราฟตามคำถามของคุณและควบคุมหลักการของความยุติธรรม (แกนศูนย์ สเกลที่สอดคล้องกัน ความไม่แน่นอนที่ชัดเจน) ดูการกระจายก่อนที่จะเชื่อถือจำนวนสหสัมพันธ์ อย่าประกาศรูปแบบที่คุณพบในการค้นพบว่าเป็น "หลักฐาน" ในข้อมูลเดียวกัน กราฟที่สวยงามของ AI ไม่ได้หมายความว่ากราฟที่ถูกต้อง
งานสมัคร
เลือกอย่างน้อยสามตัวแปรในชุดข้อมูล ถาม AI และเรียกใช้โค้ดที่สร้างกราฟเชิงสำรวจ (ฮิสโตแกรม กระจาย กล่อง) พร้อมข้อความแจ้งที่บังคับใช้กฎความซื่อสัตย์ สำหรับแต่ละแผนภูมิ: ตรวจสอบ (1) ความเหมาะสมของประเภทแผนภูมิกับคำถาม (2) ความซื่อสัตย์ของแกน (3) การมองเห็นขนาดตัวอย่าง เขียน "บันทึกการค้นพบ" อย่างน้อยหนึ่งรายการในภาษาสมมุติฐาน (“...ดูเหมือนจะได้รับการทดสอบแยกกัน”) ตรวจสอบความสัมพันธ์กับทั้งการนับและการกระจาย และรายงานว่ามีความแตกต่างระหว่างกันหรือไม่
รายการตรวจสอบ
- [ ] ฉันเลือกประเภทแผนภูมิตามคำถามและประเภทข้อมูลของฉัน
- [ ] ในแผนภูมิแท่ง ฉันเริ่มต้นแกน y จากศูนย์ ฉันตรวจสอบความซื่อสัตย์ของแกน
- [ ] ฉันดูที่ Scatterplot ก่อนที่จะเชื่อถือความสัมพันธ์
- [ ] ฉันสะท้อนถึงขนาดตัวอย่างและความไม่แน่นอนบนกราฟ
- [ ] ฉันเขียนรูปแบบที่พบในการสำรวจว่าเป็น "สมมติฐานที่ต้องทดสอบ" ไม่ใช่ "หลักฐาน"
- [ ] ฉันสังเกตว่าฉันจะไม่ใช้ข้อมูลเดียวกันเพื่อยืนยัน และจำเป็นต้องมีขั้นตอนแยกต่างหาก