การตรวจจับสื่อปลอมและสื่อสังเคราะห์: การตรวจสอบภาพ เสียง และวิดีโอปลอม

กำไร:

• ความสามารถในการเข้าใจทั้งหลักฐานเท็จและการคุกคาม 'การได้มาของผู้โกหก' ของสื่อสังเคราะห์และการตรวจสอบความถูกต้องของสื่อหลายชั้น
• ความสามารถในการประเมินแหล่งที่มา ข้อมูลเมตา ความผิดปกติทางเทคนิค แหล่งที่มา (C2PA) และเลเยอร์ความสอดคล้องตามบริบทร่วมกัน โดยไม่ต้องอาศัยคะแนนยานพาหนะเพียงตัวเดียว
• ความสามารถในการแสดงผลลัพธ์เป็นภาษาระดับความมั่นใจ ไม่ใช่ความแน่นอน และนำความรู้ด้านเทคนิคการผลิตมาใช้ในการตรวจจับและป้องกันเท่านั้น

วิดีโอถือเป็น "หลักฐาน" ในการสืบสวน เช่น การบันทึกเสียงของผู้จัดการที่ให้คำแนะนำที่ไม่เหมาะสม ภาพถ่ายที่แสดงบุคคลที่อยู่ที่ไหนสักแห่ง วิดีโอคำสารภาพ แต่ตอนนี้คำถามยังคงอยู่แถวหน้าของหลักฐานทุกชิ้น: นี่เป็นเรื่องจริงหรือผลิตโดยปัญญาประดิษฐ์? Deepfake (สื่อปลอมที่ผลิตโดยการเรียนรู้เชิงลึกที่เลียนแบบใบหน้า/เสียง/การเคลื่อนไหวของบุคคลจริง) และสื่อสังเคราะห์ในวงกว้างมากขึ้น (สื่อสังเคราะห์ เช่น รูปภาพ เสียง วิดีโอที่ผลิตทั้งหมดหรือบางส่วนโดยปัญญาประดิษฐ์) ถือเป็นขอบเขตใหม่ล่าสุดและท้าทายที่สุดของนิติเวชดิจิทัล ในบทนี้ เราจะกล่าวถึงบทบาทสองประการของ AI ในฐานะทั้งเครื่องมือภัยคุกคามและการตรวจจับ และเหตุใดการตรวจสอบจึงต้องมีหลายชั้น

เหตุใดจึงสำคัญมาก?

สื่อสังเคราะห์เป็นภัยคุกคามสองทาง ประการแรก หลักฐานปลอม: บางคนสามารถสร้าง Deepfake เพื่อ "พิสูจน์" เหตุการณ์ที่ไม่ได้เกิดขึ้นได้ ประการที่สอง ที่ร้ายกาจกว่านั้นคือ "เงินปันผลของผู้โกหก" (เงินปันผลของผู้โกหก - ต้องขอบคุณสื่อปลอมที่มีการแพร่กระจายอย่างกว้างขวาง แม้แต่หลักฐานที่แท้จริงก็ยังอาจถูกมองข้ามว่าเป็น "มันเป็นของปลอม") ดังนั้นสื่อสังเคราะห์จึงไม่เพียงแต่สร้างหลักฐานเท็จเท่านั้น นอกจากนี้ยังบ่อนทำลายความน่าเชื่อถือของหลักฐานที่แท้จริงอีกด้วย ดังนั้น นักวิเคราะห์ทางนิติวิทยาศาสตร์จะต้องตรวจสอบความถูกต้องของหลักฐานสื่อแต่ละชิ้นว่ามาจากแหล่งที่อ้างสิทธิ์อย่างแท้จริงโดยไม่มีการเปลี่ยนแปลงใดๆ

ข้อควรสนใจ: "เครื่องมือตรวจจับ AI กล่าวว่า Deepfake 98%" เพียงอย่างเดียวไม่เพียงพอในศาล โมเดลการตรวจจับนั้นผิด เทคนิครุ่นใหม่หลบเลี่ยง และคะแนนความน่าจะเป็นก็ไม่ใช่ข้อพิสูจน์ที่แน่ชัด การตรวจจับ Deepfake ควรได้รับการสนับสนุนโดยการตรวจสอบหลายชั้นเสมอ (ทางเทคนิค + บริบท + แหล่งที่มา)

ชั้นของการตรวจจับ

การตรวจจับสื่อสังเคราะห์ไม่สามารถพึ่งพาเครื่องมือวิเศษเพียงอันเดียวได้ ควรเป็นชั้น:

1. การวิเคราะห์ทางเทคนิค/ทางนิติเวช: ความไม่สอดคล้องกันของการบีบอัด ความผิดปกติของพิกเซล/ความถี่ การบิดเบี้ยวของขอบเขตใบหน้า การไม่มีสัญญาณทางชีวภาพ เช่น การกะพริบตาและชีพจร รูปแบบความถี่ที่ไม่เป็นธรรมชาติสำหรับเสียง
2. การวิเคราะห์ข้อมูลเมตาและแหล่งที่มา: ข้อมูลเมตา EXIF/คอนเทนเนอร์ของไฟล์ การติดตามการผลิต ลายนิ้วมือของอุปกรณ์ เส้นทางที่ไฟล์ผ่านไป (ห่วงโซ่การดูแล) ข้อมูลเมตาที่ถูกลบ/ไม่สอดคล้องกันถือเป็นคำเตือน
3. ที่มาของเนื้อหา: ตรวจสอบตามมาตรฐาน เช่น C2PA (มาตรฐานแบบเปิดที่เพิ่มข้อมูลแหล่งที่มาที่ลงนามด้วยการเข้ารหัสลับให้กับสื่อ โดยระบุว่ามาจากไหนและแก้ไขอย่างไร) มีลายเซ็นสอดคล้องกันหรือไม่?
4. การตรวจสอบบริบท: แสง เงา การสะท้อนในวิดีโอมีความสอดคล้องกันทางกายภาพหรือไม่ เสียงและลิปซิงค์ตรงกันหรือไม่ เนื้อหาขัดแย้งกับข้อเท็จจริงที่ทราบ (สภาพอากาศ สถานที่ เวลา) หรือไม่

AI เป็นตัวเร่งในหลายเลเยอร์เหล่านี้: แจ้งความผิดปกติ ตรวจจับความไม่สอดคล้องกัน สร้างรายการตรวจสอบ แต่การตัดสินขั้นสุดท้ายเกี่ยวกับความถูกต้องนั้นกระทำผ่านการตรวจสอบข้ามหลายชั้นและการประเมินโดยผู้เชี่ยวชาญ

AI: ทั้งภัยคุกคามและเครื่องมือ

ความตึงเครียดที่สำคัญของหน่วยนี้: เทคโนโลยีเดียวกันทั้งสร้างและตรวจจับ Deepfake นักวิเคราะห์ทางนิติวิทยาศาสตร์จะต้องเข้าใจเทคนิคการผลิต (จะตรวจจับของปลอมได้อย่างไรโดยไม่รู้ว่ามันถูกสร้างขึ้นมาได้อย่างไร) แต่ใช้สิ่งนี้เพื่อวัตถุประสงค์ในการตรวจจับและป้องกันเท่านั้น การใช้ AI เพื่อสร้างสื่อปลอมเพื่อหลอกผู้อื่นถือเป็นการฉ้อโกงและการละเมิดข้อมูลส่วนบุคคล ขอบเขตของโมดูลนี้คือการตรวจจับและตรวจสอบอย่างเข้มงวด

เคล็ดลับ: เมื่อประเมินหลักฐานของสื่อ ขั้นแรกให้ทำการทดสอบ "คำอธิบายที่ง่ายที่สุด" ก่อน: ไฟล์นี้มาจากที่ที่อ้างว่าเป็นจริงหรือไม่ ห่วงโซ่การดูแลปลอดภัยหรือไม่? โดยส่วนใหญ่แล้ว ปัญหาไม่ได้อยู่ที่ Deepfake แต่เป็นการลดบริบท (วิดีโอจากเหตุการณ์จริงแต่เก่า/อื่นๆ นำเสนอในบริบทที่ไม่ถูกต้อง) ตรวจสอบที่มาและบริบทก่อนการวิเคราะห์เชิงลึกที่ซับซ้อน

ความน่าจะเป็นไม่ใช่ความแน่นอน

เครื่องมือตรวจจับ Deepfake จะสร้างคะแนนความน่าจะเป็น ไม่ใช่ "ของปลอมแน่นอน" หรือ "ของจริงแน่นอน" คะแนนนี้มีขอบเขตของข้อผิดพลาด ช่วงความเชื่อมั่น และประสิทธิภาพลดลงในวิธีการผลิตใหม่ที่แบบจำลองไม่เคยเห็นมาก่อน ในรายงานทางนิติเวช แทนที่จะพูดว่า "มันเป็นของปลอม" สำหรับสื่อ ควรพูดว่า "ตัวชี้วัดเหล่านี้ชี้ไปที่การบิดเบือน การตรวจสอบหลายชั้นเหล่านี้แสดงให้เห็นสิ่งนี้ ระดับของความมั่นใจคือสิ่งนี้" การใช้ภาษาที่ชัดเจนมากเกินไปทำให้เกิดการคัดค้านในศาลและการสูญเสียชื่อเสียง

มินิเคสสามอัน

กรณีที่ 1 — การวิเคราะห์ต้นกำเนิดได้รับการแก้ไขก่อนที่จะทำการ Deepfake วิดีโอที่ส่งเป็น "หลักฐาน" ไปยังคณะกรรมการได้รับการตรวจสอบแล้ว ก่อนที่จะไปสู่การวิเคราะห์แบบ Deepfake มีการตรวจสอบข้อมูลเมตา: วิดีโอถูกสร้างขึ้น 8 เดือนก่อนวันที่อ้างสิทธิ์ และข้อมูลเมตาของคอนเทนเนอร์ชี้ไปที่แอปพลิเคชันอื่น วิดีโอดังกล่าวไม่ใช่วิดีโอปลอม แต่มีการนำเสนอในบริบทที่ไม่ถูกต้อง เลเยอร์ที่ง่ายที่สุดช่วยแก้ปัญหาได้

กรณีที่ 2 — การตรวจจับหลายชั้นจับของปลอมได้ ในการบันทึกเสียงเครื่องมือตรวจจับ AI ระบุว่าสังเคราะห์ 71% (ไม่แน่ใจ) ผู้เชี่ยวชาญพิจารณาเลเยอร์เพิ่มเติม ได้แก่ รูปแบบการวิเคราะห์ความถี่ที่ไม่เป็นธรรมชาติ การไม่มีเสียงลมหายใจ และการไม่มีลายเซ็น C2PA การรวมกันของตัวชี้วัดอิสระสามตัวให้ผลลัพธ์ที่ดีกว่าคะแนนเดียวมาก

กรณีที่ 3 — กลับจากความมั่นใจมากเกินไป “วิดีโอนี้เป็นวิดีโอปลอมอย่างแน่นอน” ร่างรายงานระบุโดยอ้างถึงคะแนนรถยนต์เพียงคันเดียว ผู้เชี่ยวชาญอาวุโสแก้ไข: เครื่องมือเดียวไม่เพียงพอ ภาษาไม่สามารถ "แน่นอน" ได้ รายงานได้รับการแปลเป็นภาษาที่แสดงถึงความแม่นยำหลายระดับและหลายระดับ จึงจะต่อสู้คดีในชั้นศาลได้

เทมเพลตที่สามารถคัดลอกได้สี่แบบ

1) รายการตรวจสอบการตรวจสอบสื่อ:

บทบาทของคุณ: ผู้เชี่ยวชาญด้านการตรวจสอบสื่อสังเคราะห์ สร้างรายการตรวจสอบแบบแบ่งชั้นเพื่อตรวจสอบความถูกต้องของหลักฐานรูปภาพ/เสียง/วิดีโอ: (1) ที่มา/สายการกำกับดูแล (2) ข้อมูลเมตา (3) ความผิดปกติทางเทคนิค (4) ที่มา/C2PA (5) ความสอดคล้องตามบริบท เขียนขั้นตอนการตรวจสอบคอนกรีตสำหรับแต่ละชั้น

2) การวิเคราะห์ความสอดคล้องของข้อมูลเมตา:

ฉันจะให้ข้อมูลเมตา (EXIF/คอนเทนเนอร์) ของไฟล์มีเดียแก่คุณ แจ้งความไม่สอดคล้องกัน: การสร้าง-แก้ไขความขัดแย้งของเมตา, การติดตามอุปกรณ์/ซอฟต์แวร์, ช่องที่หายไป/ถูกลบ, ความคลาดเคลื่อนทางภูมิศาสตร์ชั่วคราว ชี้ให้เห็นว่าสิ่งเหล่านี้อาจเป็นสัญญาณของการบิดเบือน แต่ไม่ใช่หลักฐานด้วยตนเอง

3) การตรวจสอบความสอดคล้องของบริบท:

ประเมินความสอดคล้องทางกายภาพในภาพ/วิดีโอนี้: ทิศทางของแสงและเงาสอดคล้องกันหรือไม่ การสะท้อนกลับแม่นยำหรือไม่ เสียงกับลิปซิงค์ตรงกันหรือไม่ พื้นหลังตรงกับตำแหน่ง/เวลาที่อ้างสิทธิ์หรือไม่ เชื่อมโยงแต่ละข้อสังเกตกับตำแหน่งที่เป็นรูปธรรม อย่าตัดสินถึงที่สุด ระบุประเด็นที่ทำให้เกิดความสงสัย

4) ภาษาระดับความแม่นยำ:

แปลผลการตรวจสอบต่อไปนี้ (คะแนน + ผลการแบ่งชั้น) ลงในย่อหน้าของรายงาน อย่าพูดว่า "ปลอม/จริงแน่นอน"; ให้แหล่งที่มาของการค้นพบแต่ละรายการและแสดงความมั่นใจในระดับทั่วไป (ความเชื่อมั่นต่ำ/กลาง/สูง) หลีกเลี่ยงการกล่าวอ้างที่น่ารังเกียจมากเกินไป

พรอมต์อ่อน / พรอมต์แรง

พรอมต์ที่อ่อนแอ:

บอกฉันทีว่าวิดีโอนี้เป็นวิดีโอปลอมหรือเปล่า

หนึ่งชั้น หนึ่งการพิพากษารออยู่ AI สร้าง "ใช่/ไม่ใช่" โดยไม่มีบริบท ซึ่งจะถูกปฏิเสธในศาล

พรอมต์อันทรงพลัง:

บทบาทของคุณ: ผู้เชี่ยวชาญด้านการตรวจสอบสื่อสังเคราะห์ ฉันจะอธิบายให้คุณทราบถึงข้อมูลเมตาของวิดีโอ คะแนนของเครื่องมือตรวจจับ และเฟรมบางส่วน ภารกิจ: ประเมินแหล่งที่มา ข้อมูลเมตา ความผิดปกติทางเทคนิค และความสอดคล้องตามบริบทแยกกัน เชื่อมต่อสิ่งที่คุณเห็นในแต่ละเลเยอร์กับแหล่งที่มา แสดงผลลัพธ์เป็นระดับความเชื่อมั่นรวมของเลเยอร์ ไม่ใช่ "แน่นอน" อย่าพึ่งพาคะแนนเดียว บ่งบอกถึงชั้นที่หายไป

การประเมินแบบหลายชั้น การเชื่อมโยงไปยังแหล่งที่มา และข้อจำกัด "ไม่มีการเรียก" ทำให้เอาต์พุตสามารถป้องกันได้

ตารางเลเยอร์การรับรองความถูกต้อง

ชั้น

เขามองอะไร?

จุดแข็ง

ขีด จำกัด

แหล่งกำเนิดสินค้า/CoC

ไฟล์มาจากไหน.

เรียบง่ายแม่นยำ

การฉ้อโกงสามารถซ่อนเร้นได้

ข้อมูลเมตา

EXIF/คอนเทนเนอร์

เคล็ดลับด่วน

ลบได้/ปลอม

ความผิดปกติทางเทคนิค

พิกเซล/ความถี่

ร่องรอยของการยักย้าย

เทคนิคใหม่หลบเลี่ยง

แหล่งกำเนิด/C2PA

ที่มาที่ลงนาม

ความไว้วางใจในการเข้ารหัส

ไม่ใช่ทุกที่

ตามบริบท

ความสามัคคีฟิสิกส์ / ความเป็นจริง

ยากที่จะโกง

จำเป็นต้องมีความคิดเห็น

ข้อผิดพลาดทั่วไป

• อาศัยคะแนนยานพาหนะหนึ่งรายการ การตรวจจับ Deepfake ควรมีหลายชั้น คะแนนเดียวไม่ใช่ข้อพิสูจน์
• แปลว่า "ปลอม/จริงอย่างแน่นอน" ใช้ภาษาของความน่าจะเป็น ความแม่นยำมากเกินไปทำให้เกิดการโต้แย้ง
• ละเว้นต้นกำเนิดและบริบท ปัญหาส่วนใหญ่ไม่ใช่ Deepfake แต่เป็นบริบทที่ผิด/สื่อเก่า
• ความไว้วางใจอย่างแท้จริงในข้อมูลเมตา ข้อมูลเมตาสามารถลบและปลอมแปลงได้
• การใช้เทคนิคการผลิตในทางที่ผิด ข้อมูลนี้มีไว้เพื่อการตรวจจับและป้องกันเท่านั้น

โดยสรุป

สื่อ Deepfake และสื่อสังเคราะห์เป็นขอบเขตใหม่ล่าสุดในนิติเวชดิจิทัล มันทั้งสร้างหลักฐานเท็จและทำให้หลักฐานจริงน่าสงสัย AI เป็นทั้งเครื่องมือภัยคุกคามและการตรวจจับ การตรวจสอบไม่ควรขึ้นอยู่กับเครื่องมือเดียว แต่อยู่บนการตรวจสอบข้ามชั้นของแหล่งที่มา ข้อมูลเมตา ความผิดปกติทางเทคนิค แหล่งที่มา และความสอดคล้องตามบริบท ผลลัพธ์ไม่ได้แสดงออกมาอย่างมั่นใจ แต่แสดงออกมาด้วยระดับความแน่นอน และข้อมูลนี้มีไว้สำหรับการตรวจจับและป้องกันเท่านั้น ไม่ใช่เพื่อสร้างสื่อปลอม

งานสมัคร

อธิบายสถานการณ์หลักฐานจากสื่อ (เช่น การบันทึกเสียง) สร้างแผนแบบหลายชั้นด้วยเทมเพลต "รายการตรวจสอบการยืนยันสื่อ" จากนั้นใช้เทมเพลต “การวิเคราะห์ความสอดคล้องของข้อมูลเมตา” และ “ภาษาระดับความแม่นยำ” พร้อมข้อมูลเมตาจำลองและคะแนนการตรวจจับ ลองแสดงผลลัพธ์ด้วยความมั่นใจเป็นชั้นๆ แทนที่จะเป็น "ของปลอมแน่นอน"

รายการตรวจสอบ

• [ ] ฉันใช้การตรวจสอบหลายชั้น ไม่ใช่เครื่องมือเดียว
• [ ] ฉันตรวจสอบที่มาและบริบทก่อน
• [ ] ฉันจำไว้ว่าข้อมูลเมตาสามารถลบ/ปลอมแปลงได้
• [ ] ฉันแสดงผลลัพธ์เป็นภาษาระดับความมั่นใจ ไม่ใช่ความแน่นอน
• [ ] ฉันใช้ข้อมูลการผลิตเพื่อการตรวจจับ/ป้องกันเท่านั้น