การตรวจสอบแหล่งที่มา การบิดเบือนข้อมูล และอคติ

กำไร:

• ความสามารถในการตรวจสอบการอ้างสิทธิ์อย่างเป็นระบบผ่านแหล่งที่มา ความน่าเชื่อถือของแหล่งที่มา และขั้นตอนการตรวจสอบข้ามที่เป็นอิสระ
• ความสามารถในการเข้าใจว่าปัญญาประดิษฐ์สามารถสร้างข้อมูลเท็จผ่านภาพหลอน การฝึกอบรมอคติของข้อมูล และการเยินยอ และจัดการกับผลลัพธ์ด้วยความสงสัยเป็นพิเศษ
• ความสามารถในการทดสอบอคติโดยการทำเครื่องหมายผลลัพธ์ด้วยป้ายระดับความเชื่อมั่นที่ชัดเจน และประเมินเหตุการณ์เดียวกันจากมุมมองที่แตกต่างกัน

การทูตทำงานกับข้อมูล และคุณค่าของข้อมูลขึ้นอยู่กับความถูกต้องแม่นยำ การบรรยายสรุป จุดยืนในการเจรจา หรือการแถลงต่อสาธารณะโดยอาศัยข้อมูลที่ไม่ถูกต้องมีผลกระทบที่ตามมาซึ่งยากจะย้อนกลับ นั่นคือเหตุผลที่ทักษะที่สำคัญที่สุดประการหนึ่งของนักการทูตคือการตรวจสอบแหล่งที่มา: การประเมินอย่างเป็นระบบว่าคำกล่าวอ้างมาจากไหน เชื่อถือได้เพียงใด และเป็นจริงหรือไม่ ในหน่วยนี้ คุณจะได้เรียนรู้วิธีรวมปัญญาประดิษฐ์เข้ากับการตรวจสอบ แต่คุณจะได้เรียนรู้วิธีใช้งานโดยคำนึงว่า AI เองอาจเป็นแหล่งที่มาของข้อมูลที่ผิดและอคติได้

ก่อนอื่นเรามาแยกแนวคิดทั้งสามนี้กันก่อน ข้อมูลที่ผิด: ข้อมูลที่ไม่ถูกต้องแพร่กระจายโดยไม่ได้ตั้งใจ ข้อมูลบิดเบือน: ข้อมูลเท็จที่เกิดขึ้นอย่างมีสติ มีเป้าหมาย และแพร่กระจาย อคติ: การเคลื่อนย้ายข้อมูลหรือการประเมินผลอย่างเป็นระบบไปสู่ด้านใดด้านหนึ่ง นักการทูตจะต้องตื่นตัวต่อทั้งสามคน และ AI ก็สามารถเป็นทั้งความช่วยเหลือและความเสี่ยงในทั้งสามคนได้

ทีละขั้นตอน: การตรวจสอบการเรียกร้อง

1. ระบุคำเรียกร้องให้ชัดเจน จะต้องตรวจสอบอะไรกันแน่? สรุปเป็นการกล่าวอ้างที่ชัดเจนเพียงข้อเดียว เช่น “ประเทศ X ถอนตัวจากข้อตกลง Y” ไม่สามารถตรวจสอบการอ้างสิทธิ์ที่ไม่ชัดเจนได้

2. ค้นหาต้นกำเนิดของคุณ การเรียกร้องนี้เกิดขึ้นครั้งแรกที่ไหน เมื่อใด และโดยใคร? ข้อมูลที่ผิดส่วนใหญ่มาจากแหล่งที่น่าสงสัยแหล่งเดียวและได้รับการขยายเพิ่มเติม กลับไปที่แหล่งที่มา

3. ประเมินความน่าเชื่อถือของแหล่งที่มา เจ้าหน้าที่ต้นทางเป็นอิสระหรือมีอคติหรือไม่? ที่ผ่านมาเขาให้ข้อมูลถูกต้องหรือไม่? เขามีความสนใจในเรื่องนี้หรือไม่? แม้แต่แหล่งข้อมูลที่เชื่อถือได้ก็อาจผิดได้ แต่แหล่งที่มาที่มีความน่าเชื่อถือต่ำต้องมีการยืนยันเพิ่มเติม

4. การตรวจสอบข้าม ยืนยันการกล่าวอ้างกับแหล่งข้อมูลอิสระและเชื่อถือได้อย่างน้อยสองแห่ง 50 ไซต์ที่ป้อนโดยสำนักข่าวเดียวกันไม่ใช่แหล่งข้อมูลอิสระ

5. ทดสอบความสอดคล้องและบริบทภายใน การอ้างสิทธิ์สอดคล้องกันภายในหรือไม่ มันขัดแย้งกับข้อเท็จจริงที่ทราบหรือไม่? ออกจากบริบท? ประโยคจริงอาจทำให้เข้าใจผิดในบริบทที่ไม่ถูกต้อง

6. ทำเครื่องหมายผลลัพธ์ด้วยระดับความมั่นใจ ระบุป้ายกำกับที่ชัดเจน เช่น "ยืนยันแล้ว" "ตรวจสอบแล้วบางส่วน" "แหล่งที่มาแต่เพียงผู้เดียว" "ตรวจสอบไม่ได้" "เท็จ" แม้แต่คำว่า "ไม่แน่ใจ" ก็ถือเป็นบทสรุปและควรกล่าวอย่างตรงไปตรงมา

เคล็ดลับ: ยิ่งคำกล่าวอ้างโดนใจหรือกระตุ้นให้เกิดการตอบสนองทางอารมณ์มากเท่าใด คุณควรตรวจสอบให้ละเอียดยิ่งขึ้นเท่านั้น ข้อมูลบิดเบือนมุ่งเป้าไปที่อารมณ์ความโกรธ ความกลัว หรือ "ข่าวที่เราต้องการ" ข้อมูลที่แจ้งให้คุณดำเนินการอย่างรวดเร็วมักเป็นข้อมูลที่ต้องได้รับการตรวจสอบมากที่สุด

AI เองก็เป็นแหล่งของความเสี่ยง

ข้อแม้ที่สำคัญที่สุดของหน่วยนี้: AI ไม่ใช่ผู้มีอำนาจในการตรวจสอบ มันสามารถสร้างข้อมูลที่ผิดและอคติได้ AI สามารถทำให้เข้าใจผิดได้สามวิธี:

1. ภาพหลอน: นำเสนอแหล่งที่มา คำพูด หรือเหตุการณ์ที่ไม่มีอยู่จริงตามความเป็นจริง “แหล่งใดยืนยันคำกล่าวอ้างนี้” เมื่อคุณถาม เขาอาจจะบอกชื่อแหล่งที่มาที่แต่งขึ้นให้กับคุณด้วยซ้ำ

2. ความลำเอียงของข้อมูลการฝึกอบรม: AI สะท้อนถึงมุมมองที่โดดเด่นในข้อความที่ได้รับการฝึกฝน หากมุมมองของส่วนหนึ่งของโลกในประเด็นใดประเด็นหนึ่งมีอิทธิพลเหนือข้อมูล AI ก็สามารถเปลี่ยนแปลงไปเช่นนั้นได้ นี่ไม่ได้ตั้งใจ แต่เป็นการสะท้อนข้อมูล แต่ผลลัพธ์ยังคงเป็นผลลัพธ์ที่มีอคติ

3. Sycophancy: AI อาจมีแนวโน้มที่จะตอบคำถามในแบบที่คุณพอใจ หากคุณต้องการยืนยันการอ้างสิทธิ์ ก็มีแนวโน้มที่จะให้คำตอบที่สนับสนุน

ดังนั้นใช้ AI เป็นเครื่องมือในการตรวจสอบ (แก้ไขแหล่งที่มา แจ้งข้อขัดแย้ง ช่วยในการติดตามแหล่งที่มา) แต่อย่าเอา AI ที่บอกว่า "นี่คือความจริง" เป็นคำสุดท้าย

ข้อควรระวัง: เมื่อคุณให้ AI ตรวจสอบแหล่งที่มา ให้ตรวจสอบว่า AI แสดงแหล่งที่มาจริงหรือสร้างการประดิษฐ์ที่ดูน่าเชื่อถือหรือไม่ อย่าพิจารณาว่าเป็น "การตรวจสอบแล้ว" จนกว่าคุณจะเปิดดูอย่างอิสระและเห็นชื่อแหล่งที่มา ลิงก์ และการอ้างอิงทั้งหมดที่เขาให้ แหล่งที่มาที่ปรุงโดย AI อาจดูน่าเชื่อถือมากกว่าแหล่งที่มาจริง

มินิเคสสามอัน

กรณีที่ 1 — บันทึกการตรวจสอบแหล่งกำเนิดแล้ว ภาพหน้าจอ "ประกาศอย่างเป็นทางการ" หล่นลงบนโต๊ะและมันก็ดูเหมือนจริง การตรวจสอบพบว่าไม่มีข้อความดังกล่าวในช่องทางการของสถาบันนั้น รูปภาพนั้นเป็นของปลอม การตรวจสอบแหล่งที่มาช่วยป้องกันไม่ให้ข้อความปลอมเข้าสู่การบรรยายสรุป

กรณีที่ 2 — แหล่งที่มาที่ประดิษฐ์โดย AI ผู้เชี่ยวชาญให้ AI ตรวจสอบสถิติ YZ อ้างแหล่งที่มาโดยกล่าวว่า "ตามรายงานปี 2023 ขององค์กรนี้..." เขาเรียกแหล่งที่มาของผู้เชี่ยวชาญว่า ไม่มีทั้งรายงานหรือตัวเลขดังกล่าว AI ได้สร้างทั้งสองอย่างขึ้นมา การตรวจสอบที่เป็นอิสระถือเป็น “การยืนยัน” ที่ปลอมแปลง

กรณีที่ 3 — การชดเชยอคติ ผู้เชี่ยวชาญให้ AI สรุปเหตุการณ์ที่เป็นที่ถกเถียงและสังเกตเห็นว่าผลลัพธ์นั้นใกล้เคียงกับการเล่าเรื่องของฝ่ายใดฝ่ายหนึ่งอย่างชัดเจน เมื่อฉันถามอีกครั้งว่า "สรุปเหตุการณ์เดียวกันจากมุมมองของอีกฝ่าย" ก็เกิดภาพที่ต่างออกไปมาก การเปรียบเทียบผลลัพธ์ทั้งสองทำให้ไม่สามารถแนะนำกรอบการทำงานด้านเดียวในรายงานได้

เทมเพลตที่สามารถคัดลอกได้สี่แบบ

1) โปรโตคอลการตรวจสอบการเรียกร้อง:

บทบาทของคุณ: นักวิเคราะห์การตรวจสอบ สำหรับการกล่าวอ้างต่อไปนี้: (1) ลดการอ้างสิทธิ์เป็นประโยค nettek (2) ค้นหาว่ามีการกล่าวถึงครั้งแรกเมื่อใดในแหล่งที่มาที่ฉันให้ไว้ (3) มีแหล่งข้อมูลอิสระกี่แห่งที่สนับสนุน (4) มีแหล่งที่มาที่ขัดแย้งกันหรือไม่ (5) ทำเครื่องหมายผลลัพธ์ด้วยแท็กใดแท็กหนึ่งต่อไปนี้: ยืนยันแล้ว / แหล่งที่มาเดียว / ขัดแย้ง / ยังไม่ยืนยัน การผลิตแหล่งที่มา แค่ใช้สิ่งที่ฉันให้คุณไป อ้างสิทธิ์ + แหล่งที่มา: [ที่นี่]

2) การทดสอบอคติของ AI:

ขั้นแรก สรุปเหตุการณ์ต่อไปนี้อย่างเป็นกลางที่สุดเท่าที่จะเป็นไปได้ จากนั้นสรุปเหตุการณ์ SAME แยกกัน (ก) จากมุมมองของฝ่าย A (b) จากมุมมองของฝ่าย B แสดงรายการความแตกต่างระหว่างทั้งสามเวอร์ชัน จะเห็นได้ว่าประเด็นไหนเป็นการตีความของคู่กรณี และประเด็นไหนเป็นข้อเท็จจริงทั่วไป กรณี/แหล่งที่มา: [ที่นี่]

3) การประเมินความน่าเชื่อถือของแหล่งที่มา:

ประเมินแหล่งที่มาต่อไปนี้: ประเภท (เป็นทางการ/เป็นอิสระ/ลำเอียง/ไม่เปิดเผยชื่อ) ความสนใจที่อาจเกิดขึ้นในเรื่องนั้น ข้อมูลที่ให้ไว้เกี่ยวกับความน่าเชื่อถือในอดีต ขั้นตอนเพิ่มเติมที่จำเป็นสำหรับการตรวจสอบ เขียนด้วยว่าเหตุใดแหล่งที่มาจึงอาจผิด ที่มา: [ที่นี่]

4) ธงแดงการบิดเบือนข้อมูล:

สแกนเนื้อหาด้านล่างเพื่อดูข้อมูลที่บิดเบือน มองหาธงเหล่านี้: สถิติที่ไม่มีแหล่งที่มา ภาษาที่กระตุ้นอารมณ์ รูปภาพที่ไม่มีบริบท ความกดดัน "รีบ/แบ่งปัน" คำที่มีอำนาจซึ่งตรวจสอบไม่ได้ การเผยแพร่ที่ประสานกันพร้อมกัน ทำเครื่องหมายการค้นพบแต่ละครั้งโดยให้เหตุผล อย่าตัดสินขั้นสุดท้าย เนื้อหา: [ที่นี่]

พรอมต์อ่อน / พรอมต์แรง

พรอมต์ที่อ่อนแอ:

การกล่าวอ้างนี้เป็นจริงหรือไม่? ค้นหาออนไลน์และแจ้งให้เราทราบ

AI ที่บอกว่า "จริง" ไม่ใช่การยืนยัน เขาอาจให้แหล่งข้อมูลที่เป็นเท็จหรือให้คำตอบที่มีอคติหรือประจบประแจง

พรอมต์อันทรงพลัง:

บทบาทของคุณ: นักวิเคราะห์การตรวจสอบ ด้านล่างนี้เป็นการอ้างสิทธิ์และแหล่งที่มาที่ฉันรวบรวม อย่าบอกฉันว่า "ถูก/ผิด"; แทน: แสดงที่มาของการกล่าวอ้าง จำนวนแหล่งข้อมูลอิสระ ข้อขัดแย้งใดๆ และระดับความเชื่อมั่น อย่าไปเกินกว่าแหล่งที่เราให้มา อย่าสร้างแหล่งขึ้นมา หากคุณไม่แน่ใจ ให้ทำเครื่องหมายว่า "ต้องมีการตรวจสอบโดยเจ้าหน้าที่" อ้างสิทธิ์ + แหล่งที่มา: [ที่นี่]

ความแตกต่างนั้นชัดเจน: การต้องมีแหล่งที่มา การยืนยันโดยอิสระ และระดับความไว้วางใจมากกว่าการตัดสินแบบ "จริง/เท็จ" จะจำกัดความเสี่ยงของ AI

ตารางสถานะการยืนยัน

ป้ายกำกับ

ความหมาย

การใช้งานในรายงาน

ตรวจสอบแล้ว

แหล่งข้อมูลอิสระที่เชื่อถือได้อย่างน้อย 2 แห่ง

สามารถใช้เป็นกรณีได้

ยืนยันแล้วบางส่วน

บ้างก็ยืนยัน

จำกัดพร้อมคำอธิบาย

แหล่งเดียว

แหล่งเดียวเท่านั้น

ในฐานะ "การเรียกร้อง" จำเป็นต้องมีการยืนยัน

ขัดแย้งกัน

แหล่งที่มาไม่ตรงกัน

นำเสนอเป็นความไม่แน่นอน

ไม่สามารถตรวจสอบได้

ไม่พบการยืนยัน

ไม่ได้ใช้เป็นข้อเท็จจริง

ผิด

ตรงกันข้ามได้รับการพิสูจน์แล้ว

เพื่อเป็นการแก้ไขในรายงาน

ข้อผิดพลาดทั่วไป

• ถือว่า AI บอกว่า "ถูกต้อง" เป็นเครื่องยืนยัน AI สามารถสร้าง อคติ หรือบิดเบือนได้
• เปิดแหล่งที่มาที่ AI ให้มาและยอมรับโดยไม่เห็น แหล่งที่มาที่ประดิษฐ์ขึ้นดูน่าเชื่อถือ
• การตรวจสอบข้อมูลเล็กๆ น้อยๆ ที่ตรงกับความต้องการของคุณ ข้อมูลทางอารมณ์/ที่เหมาะสมคือข้อมูลที่ต้องการการยืนยันมากที่สุด
• การเข้าใจผิดว่ามีสำเนาจำนวนมากเป็นการยืนยัน หลายร้อยไซต์ที่ป้อนจากแหล่งเดียวกันเป็นแหล่งเดียว
• ไม่ได้ทดสอบอคติแต่อย่างใด การสรุปเหตุการณ์เดียวกันจากมุมมองที่แตกต่างกันทำให้เกิดความสมดุล

โดยสรุป

การตรวจสอบแหล่งที่มาเป็นรากฐานของความรู้ทางการฑูต และ AI เป็นทั้งความช่วยเหลือและความเสี่ยงในงานนี้ AI จัดระเบียบแหล่งที่มา ช่วยในการติดตามแหล่งที่มาและการตั้งค่าสถานะข้อขัดแย้ง แต่ตัวมันเองสามารถสร้างข้อมูลที่ผิดได้เนื่องจากภาพหลอน การฝึกอบรมอคติของข้อมูล และการเยินยอ การติดตามแหล่งที่มา การตรวจสอบข้ามอิสระ การแยกความน่าเชื่อถือของแหล่งข้อมูล การติดแท็กระดับความน่าเชื่อถือ และความสงสัยเพิ่มเติมเกี่ยวกับเอาต์พุต AI ถือเป็นหัวใจสำคัญของหน่วยนี้

งานสมัคร

เลือกการกล่าวอ้างที่เป็นข้อขัดแย้งในปัจจุบันและรวบรวมแหล่งที่มาจากประเภทต่างๆ ประเมินการเรียกร้องสำหรับแหล่งที่มาและการตรวจสอบที่เป็นอิสระด้วย "โปรโตคอลการตรวจสอบการเรียกร้อง" ด้วย "การทดสอบอคติ AI" ให้สรุปเหตุการณ์เดียวกันจากมุมมองที่ต่างกันและแสดงรายการความแตกต่าง หาก AI ให้ทรัพยากรมาก็ให้เปิดแยกออกมาตรวจสอบว่ามีอยู่จริงหรือไม่

รายการตรวจสอบ

• [ ] ฉันลดคำกล่าวอ้างลงเหลือเพียงประโยคเดียวที่ชัดเจนและมองหาที่มาของประโยคนั้น
• [ ] ฉันได้ตรวจสอบกับแหล่งข้อมูลอิสระที่เชื่อถือได้อย่างน้อยสองแห่ง
• [ ] ฉันได้ตรวจสอบทุกแหล่งที่มาของ AI อย่างอิสระแล้ว
• [ ] ฉันทดสอบอคติโดยการสรุปเหตุการณ์เดียวกันจากมุมมองที่ต่างกัน
• [ ] ฉันทำเครื่องหมายผลลัพธ์ด้วยป้ายกำกับระดับความมั่นใจที่ชัดเจน