กำไร:
- ความสามารถในการจดจำประเภท เบาะแส และรูปแบบการแพร่กระจายของข้อความสังเคราะห์ รูปภาพ เสียง และวิดีโอ Deepfake
- ความสามารถในการจัดการข้อสงสัยเกี่ยวกับเนื้อหาสังเคราะห์ด้วยการติดตามแหล่งที่มา ข้อมูลเมตา การค้นหาย้อนกลับ และการตรวจสอบบริบท และใช้ปัญญาประดิษฐ์เป็นเครื่องมือขององค์กรในการป้องกัน
- ความสามารถในการเข้าใจว่าเครื่องมือตรวจจับไม่ใช่หลักฐานที่แน่ชัด การตัดสินนั้นมาจากแหล่งที่มา และข่าวการยืนยันควรเขียนด้วยภาษาที่สงบและโปร่งใส
ปัญญาประดิษฐ์ไม่ได้เป็นเพียงเครื่องมือของนักข่าวเท่านั้น อีกทั้งยังเป็นกลไกในการคุกคามอีกด้วย ทุกวันนี้ ข้อความปลอมที่น่าเชื่อ รูปภาพที่ดูเหมือนจริง ใบหน้าของคนที่ไม่มีอยู่จริง และเสียงพูดประโยคที่ใครบางคนไม่เคยพูดสามารถสร้างขึ้นได้ภายในไม่กี่นาที สิ่งเหล่านี้เรียกรวมกันว่าเนื้อหาสังเคราะห์ (สื่อที่ผลิตขึ้นเอง) ประเภทของวิดีโอ/เสียงที่เลียนแบบใบหน้าหรือเสียงของบุคคลอย่างสมจริงเรียกว่า Deepfake ข้อมูลบิดเบือน—จงใจเผยแพร่ข้อมูลเท็จ—มีราคาถูกลงและรวดเร็วยิ่งขึ้นผ่านเครื่องมือเหล่านี้ หน้าที่ของนักข่าวเพิ่มขึ้นเป็นสองเท่า ทั้งเพื่อป้องกันไม่ให้เนื้อหานี้ถูกเผยแพร่และแจ้งให้สาธารณชนทราบเกี่ยวกับภัยคุกคามนี้ ในหน่วยนี้ เราครอบคลุมถึงการใช้ AI เพื่อทำความเข้าใจภัยคุกคามและป้องกันมัน หลักการพื้นฐาน: ไม่มีเครื่องมือตรวจจับใดที่เป็นหลักฐานที่แน่ชัด ความสงสัยเกี่ยวกับเนื้อหาสังเคราะห์ได้รับการแก้ไขด้วยการตรวจสอบแบบคลาสสิกซึ่งลงลึกถึงแหล่งที่มาและบริบท
ประเภทและเคล็ดลับของเนื้อหาสังเคราะห์
ข้อความ AI สามารถสร้างข้อความที่สร้างขึ้นอย่างคล่องแคล่วแต่ว่างเปล่าและเต็มไปด้วยภาพรวม "เว็บไซต์ข่าว" ปลอมและกองทัพแสดงความคิดเห็นประสบความสำเร็จในเรื่องนี้ คำแนะนำ: แหล่งที่มาที่ไม่สามารถตรวจสอบได้, ข้อความที่กว้างเกินไป, การตีกรอบฝ่ายเดียวอย่างต่อเนื่อง
ภาพ. ในภาพเทียม มือ/นิ้ว ฟัน หู เครื่องประดับ ข้อความพื้นหลัง และภาพสะท้อน มักจะไม่สอดคล้องกัน แต่เทคโนโลยีกำลังพัฒนาอย่างรวดเร็ว ดังนั้น "ฉันสามารถบอกได้ด้วยตาของตัวเอง" จึงเป็นความไว้วางใจที่อันตราย
เสียง. ประโยคที่ไม่ได้พูดสามารถสร้างได้ด้วยเสียงของเจ้าหน้าที่ เคล็ดลับ: ความเป็นธรรมชาติของลมหายใจ/หยุด ความสม่ำเสมอของเสียงรอบข้าง แต่การตรวจสอบที่น่าเชื่อถือที่สุดคือการตรวจสอบแหล่งที่มาของเนื้อหา
วิดีโอ (ดีพเฟค) ใบหน้าและลำคอ/แสงไม่ตรงกัน การกระพริบตา การซิงโครไนซ์เสียงจากริมฝีปากอาจเป็นเบาะแส อย่างไรก็ตามมันก็ไม่แน่นอน
ข้อควรสนใจ: "เครื่องมือตรวจจับ AI บอกว่า 90% เป็นของปลอม" ไม่ใช่เหตุผลในการเผยแพร่ เครื่องมือเหล่านี้ผิด เขาสามารถเรียกของปลอมจริงและของปลอมจริงได้ ผลลัพธ์ของเครื่องมือเป็นเบาะแส การตัดสินลงมาที่แหล่งที่มา
ทีละขั้นตอน: จัดการข้อสงสัยเกี่ยวกับส่วนผสมสังเคราะห์
ขั้นตอนที่ 1 — ค้นหาแหล่งที่มา ใครเป็นผู้เผยแพร่เนื้อหาก่อน ที่ไหน และเมื่อไหร่? การลงไปที่แหล่งที่มาดั้งเดิมเพียงอย่างเดียวจะกำจัดของปลอมได้มากที่สุด
ขั้นตอนที่ 2 — ดูข้อมูลเมตาและค้นหาแบบย้อนกลับ ข้อมูลเมตาและการค้นหารูปภาพแบบย้อนกลับบนรูปภาพ/วิดีโออาจเปิดเผยเวอร์ชันก่อนหน้าหรือต้นฉบับ
ขั้นตอนที่ 3 — ทดสอบความสอดคล้องภายใน แสง เงา ภาพสะท้อน เสียงรอบข้าง เบาะแสในโลกแห่งความจริง (ป้าย สภาพอากาศ สถาปัตยกรรม) ตรงกับคำกล่าวอ้างหรือไม่
ขั้นตอนที่ 4 — ตรวจสอบบริบท เหตุการณ์ในเนื้อหาได้รับการเห็นจากแหล่งข่าวอิสระอื่นหรือไม่ มีร่องรอยของเหตุการณ์จริงมากมาย เนื้อหา "bombshell" จากแหล่งเดียวยังเป็นที่น่าสงสัย
ขั้นตอนที่ 5 — ใช้เครื่องมือตรวจจับเป็นเบาะแส นับผลลัพธ์ของเครื่องมือตรวจจับ AI เป็นสัญญาณเสริม ไม่ใช่หลักฐาน
ขั้นตอนที่ 6 — รายงานอย่างโปร่งใส หากคุณเผยแพร่ (เป็นการตรวจสอบข้อเท็จจริง) ให้แสดงสิ่งที่ปลอม/น่าสงสัย สาเหตุ และวิธีที่คุณตรวจสอบ
การใช้ AI ในการป้องกัน
AI ยังเป็นเครื่องมือขององค์กรในการต่อต้านเนื้อหาสังเคราะห์ โดยแสดงรายการสิ่งที่ต้องค้นหาในภาพ รายการสัญญาณว่าข้อความอาจสร้างขึ้นโดย AI ช่วยแยกวิเคราะห์เรื่องราวของแคมเปญข้อมูลที่บิดเบือน ร่างการตรวจสอบข้อเท็จจริงเชิงอธิบายสำหรับสาธารณะ แต่การตัดสินในตัวเอง — การตัดสินว่า “เป็นของปลอม” นั้น เกิดจากการตัดสินของมนุษย์และการตรวจสอบแหล่งที่มา
มินิเคสสามอัน
กรณีที่ 1 — การบันทึกเสียงปลอม มีการบันทึกเสียงการ "ลาออก" อย่างเป็นทางการ ในตอนแรกนักข่าวค้นหาแหล่งที่มา: การบันทึกนั้นมาจากบัญชีที่ไม่ระบุตัวตนเพียงบัญชีเดียว และไม่มีร่องรอยใดๆ เลยจากที่อื่น ทีมงานของเจ้าหน้าที่ปฏิเสธการบันทึก เสียงรอบข้างก็ไม่สอดคล้องกันเช่นกัน นักข่าวไม่ได้เผยแพร่การบันทึก แต่รายงานเรื่อง "การบันทึกเสียงที่ไม่สามารถตรวจสอบได้" แทน การบันทึกในภายหลังกลายเป็นการสังเคราะห์
กรณีที่ 2 — ความดันเวลาและการสะท้อนกลับของการหยุด ภาพ “ตึกถล่ม” หลังแผ่นดินไหวแพร่ระบาดอย่างรวดเร็ว นักข่าวค้นหารูปภาพแบบย้อนกลับ โดยเป็นรูปภาพจากเหตุการณ์อื่นเมื่อ 2 ปีที่แล้ว การตรวจสอบ 4 นาทีป้องกันไม่ให้ภาพที่ไม่ถูกต้องเข้าสู่เว็บไซต์ข่าว เว็บไซต์คู่แข่งบางแห่งเผยแพร่โดยไม่ได้ตรวจสอบและเผยแพร่การปฏิเสธ
กรณีที่ 3 — ความมั่นใจมากเกินไปในเครื่องมือตรวจจับ บรรณาธิการแทรกภาพถ่ายของนักข่าวตัวจริงลงในเครื่องมือตรวจจับ ยานพาหนะคันนี้เป็น "ของเทียม 78%" เขากล่าว บรรณาธิการกำลังจะถอนตัวออกจากการตีพิมพ์ เมื่อผู้ตรวจสอบข้อเท็จจริงอาวุโสแสดงข้อมูลเมตาในการถ่ายภาพของภาพถ่ายและไฟล์ Raw ของนักข่าว ก็เห็นได้ชัดว่าภาพถ่ายนั้นเป็นของจริง บทเรียน: ข้อผิดพลาดของคนกลาง แหล่งที่มาพูด
เทมเพลตที่คัดลอกได้
1) รายการตรวจสอบการสังเคราะห์ด้วยการมองเห็น:
ฉันสงสัยว่าภาพอาจถูกสร้างขึ้นโดยไม่ได้ตั้งใจ ทำรายการตรวจสอบสิ่งที่ฉันต้องทดสอบ: มือ/นิ้ว ฟัน เครื่องประดับ ข้อความพื้นหลัง การสะท้อน ความสม่ำเสมอของแสงและเงา การค้นหาแบบย้อนกลับ ข้อมูลเมตา เขียนวิธีการค้นหาแต่ละรายการ อย่าพูดว่า "ปลอม/จริง" อย่างแน่นอน แค่รายการตรวจสอบ คำอธิบายภาพ: [ที่นี่]
2) การวิเคราะห์การบรรยายข้อมูลที่บิดเบือน:
การกล่าวอ้างต่อไปนี้อาจเป็นการรณรงค์บิดเบือนข้อมูล สรุป: (1) อารมณ์ที่กำหนดเป้าหมาย (2) สิ่งที่แบ่งขยาย (3) องค์ประกอบที่ตรวจสอบได้/ตรวจสอบไม่ได้ (4) รูปแบบการแพร่กระจายโดยทั่วไปอาจเป็นเช่นไร พิพากษาความชอบธรรม วิเคราะห์. การอ้างสิทธิ์: [ที่นี่]
3) ร่างข่าวยืนยันให้ประชาชนทราบ:
ฉันได้ตรวจสอบกับแหล่งที่มาหลักแล้วว่าเนื้อหาต่อไปนี้เป็นการสังเคราะห์/ทำให้เข้าใจผิด: [สรุปผลการวิจัย] เขียนร่างเรื่องราวการยืนยันที่แจ้งให้ผู้อ่านทราบ ไม่กระจายความตื่นตระหนก และแสดงให้เห็นอย่างโปร่งใสว่าฉันตรวจสอบอย่างไร อย่ารวมผลการวิจัยใดๆ ที่ฉันไม่ได้ระบุไว้ ผลการวิจัย: [ที่นี่]
4) เครื่องหมายที่สร้างโดย AI (คำใบ้) ของข้อความ:
ระบุเบาะแสที่ข้อความต่อไปนี้อาจสร้างขึ้นอย่างไม่เป็นจริง: แหล่งที่มาที่ไม่สามารถตรวจสอบได้, ความกว้างใหญ่เกินไป, การวางกรอบด้านเดียว, รูปแบบที่ซ้ำกัน เน้นย้ำว่านี่ไม่ใช่หลักฐานที่แน่ชัดและจดบันทึกสิ่งที่จำเป็นต้องมีการตรวจสอบข้อเท็จจริง ข้อความ: [ที่นี่]
พรอมต์อ่อน / พรอมต์แข็งแกร่ง
ข้อความแจ้งที่อ่อนแอ: "บอกฉันว่าภาพนี้เป็นของปลอมหรือไม่"
ผลลัพธ์: AI ให้ “ใช่/ไม่ใช่” ที่ดูแม่นยำแต่ไม่น่าเชื่อถือ นักข่าวอาจเชื่อถือคำตัดสินนี้แล้วอาจเข้าใจผิดได้
ข้อความแจ้งที่ชัดเจน: "เขียนรายการสัญญาณที่ฉันจะตรวจสอบว่าภาพนี้อาจเป็นภาพปลอม และจดบันทึกว่าฉันจะมองหาภาพแต่ละภาพอย่างไร อย่าตัดสินขั้นสุดท้าย ชี้ให้เห็นว่าการตรวจสอบจริงจะกลับไปยังแหล่งที่มาและทำการค้นหาแบบย้อนกลับ"
ความแตกต่าง: ข้อความแจ้งที่มีประสิทธิภาพจะลด AI ให้เป็นเครื่องกำเนิดเบาะแส โดยปล่อยให้การตัดสินเป็นหน้าที่ของแหล่งที่มาและนักข่าว ทำให้มองเห็นข้อผิดพลาดของเครื่องมือได้
แผนภูมิเปรียบเทียบ
ประเภทเนื้อหา
เบาะแสที่อ่อนแอ
การควบคุมที่เชื่อถือได้มากที่สุด
บทบาทของเอไอ
ข้อความ
แหล่งที่มาทั่วไปที่จัดทำขึ้น
ลงไปที่แหล่งที่มา
ลงชื่อรายการ
ภาพ
มือ/ฟัน/การเขียนไม่ตรงกัน
การค้นหาแบบย้อนกลับ + ข้อมูลเมตา
รายการตรวจสอบ
เสียง
ความไม่สอดคล้องกันของลมหายใจ/สภาพแวดล้อม
การยืนยันแหล่งที่มาและบริบท
สิ่งที่ต้องมองหา
วิดีโอ (ดีพเฟค)
แสง/ซิงค์ไม่ตรงกัน
แหล่งที่มาดั้งเดิม ยืนยันข้าม
ช่วยวิเคราะห์
ข้อผิดพลาดทั่วไป
- ถือว่าเครื่องมือตรวจจับเป็นหลักฐาน ทำให้เปอร์เซ็นต์ของยานพาหนะเป็นเหตุผลในการตีพิมพ์ เครื่องมือผิดพลาดทั้งสองทิศทาง
- “ฉันบอกได้ด้วยการมองเห็น” ความมั่นใจ ภาพสังเคราะห์กำลังพัฒนาอย่างรวดเร็ว สัญชาตญาณการมองเห็นเพียงอย่างเดียวไม่เพียงพอ
- ไม่ไปที่ต้นทาง ของปลอมส่วนใหญ่จะพังทลายลงเมื่อพบแหล่งที่มาดั้งเดิมที่เผยแพร่ การข้ามขั้นตอนนี้ถือว่าผิดพลาด
- การแพร่กระจายผู้ต้องสงสัย การแชร์เนื้อหาที่น่าสงสัยโดยพูดว่า "มาดูกันว่าจริงหรือไม่" ถือเป็นการบิดเบือนข้อมูล
- ภาษาแห่งความตื่นตระหนก น้ำเสียงของผู้ตื่นตระหนกในข่าวยืนยันทำให้เกิดความกลัวครั้งใหม่ขณะแก้ไข เขียนอย่างใจเย็นและโปร่งใส
ความเร็วการแพร่กระจายและ "กับดักการปฏิเสธ"
พลังที่แท้จริงของข้อมูลที่บิดเบือนไม่ได้อยู่ในเนื้อหา แต่อยู่ที่ความเร็วของการแพร่กระจาย เนื้อหาที่ยั่วยุทางอารมณ์ที่ทำให้เกิดความโกรธหรือความกลัวจะถูกแชร์เร็วกว่าข่าวที่ได้รับการยืนยันมาก แม้ว่าเนื้อหาปลอมจะเข้าถึงคนนับล้านภายในไม่กี่ชั่วโมง แต่การปกปิดมักจะเข้าถึงผู้คนน้อยกว่ามาก ความไม่สมดุลนี้มอบความรับผิดชอบพิเศษให้กับนักข่าว: การแชร์เนื้อหาที่น่าสงสัย แม้จะพูดว่า "ดูน่าขันแค่ไหน" ก็ทำให้นักข่าวเข้าถึงได้ สิ่งนี้เรียกว่าการให้ออกซิเจน — การโกหกซ้ำๆ เพื่อพิสูจน์ว่ามันไม่ได้เติมเชื้อเพลิงให้กับมันจริงๆ
วิธีแก้พิษคือเทคนิค "แซนวิชความจริง" ในการตรวจสอบข้อเท็จจริง กล่าวความจริงก่อนกล่าวอ้างเท็จ แล้วแสดงให้เห็นว่าเหตุใดการกล่าวอ้างจึงเป็นเท็จ แล้วกล่าวซ้ำความจริงอีกครั้งในตอนท้าย ด้วยวิธีนี้ สิ่งที่เหลืออยู่ในใจของผู้อ่านไม่ใช่ความผิดพลาด แต่เป็นความจริง AI สามารถช่วยร่างเรื่องราวการตรวจสอบข้อเท็จจริงตามโครงสร้างนี้ได้ แต่เป็นการตัดสินใจของบรรณาธิการว่าจะหยิบยกความจริงใดและแจ้งภาษาโดยไม่กระจายความตื่นตระหนก วิธีปฏิบัติอีกอย่างหนึ่ง: การถามว่าข้อมูลบิดเบือนกำลังเติมช่องว่างอะไรอยู่? ผู้คนมักจะยอมรับเนื้อหาปลอมเนื่องจากขาดข้อมูลที่เชื่อถือได้ การเติมเต็มช่องว่างนั้นด้วยข่าวสารที่รวดเร็ว แม่นยำ และเข้าถึงได้เป็นการป้องกันที่มีประสิทธิภาพมากกว่าการไล่ตามคำโกหกทีละรายการ
โดยสรุป
เนื้อหาสังเคราะห์และดีพเฟคทำให้ข้อมูลบิดเบือนถูกลงและเร่งเร็วขึ้น หน้าที่ของนักข่าวคือไม่เผยแพร่เรื่องนี้และแจ้งให้สาธารณชนทราบ เครื่องมือตรวจจับและ AI จะให้เบาะแสและการจัดระเบียบ แต่ไม่ใช่ข้อพิสูจน์ที่แน่ชัด การตัดสินจะกระทำโดยไปที่แหล่งที่มา ข้อมูลเมตา และการค้นหาแบบย้อนกลับ ความสอดคล้องภายใน และบริบทที่เป็นอิสระ ข่าวการยืนยันเขียนด้วยภาษาที่สงบและโปร่งใสซึ่งแสดงให้เห็นว่ามีการตรวจสอบอย่างไร
งานสมัคร
ค้นหาเนื้อหาภาพหรือเสียงที่คุณคิดว่าน่าสงสัย ปฏิบัติตามข้อความแจ้ง “รายการตรวจสอบการสังเคราะห์ด้วยภาพ” (หรือการปรับเสียง) ตรวจสอบแต่ละรายการและค้นหาแบบย้อนกลับจริงๆ ให้คะแนนผลลัพธ์เป็น “หลักฐานจริง/ปลอม/ไม่เพียงพอ” และเปรียบเทียบกับการตัดสินใจที่คุณจะทำหากคุณพึ่งเครื่องมือตรวจจับเพียงอย่างเดียว
รายการตรวจสอบ
- [ ] ฉันถือว่าผลลัพธ์ของเครื่องมือตรวจจับเป็นเพียงเบาะแส ไม่ใช่หลักฐาน
- [ ] สำหรับเนื้อหาที่น่าสงสัย อันดับแรกฉันจะมองหาแหล่งที่มาดั้งเดิมและการตีพิมพ์ครั้งแรก
- [ ] ฉันแน่ใจว่าจะย้อนกลับการค้นหาและตรวจสอบข้อมูลเมตาในรูปภาพ
- [ ] ฉันไม่เผยแพร่เนื้อหาที่น่าสงสัยที่ไม่ได้รับการยืนยัน
- [ ] ฉันเขียนข่าวยืนยันด้วยภาษาที่สงบและโปร่งใสซึ่งแสดงให้เห็นว่าฉันตรวจสอบได้อย่างไร