Lợi nhuận:
- Khả năng hiểu cả bằng chứng sai và mối đe dọa 'lợi ích của kẻ nói dối' của phương tiện tổng hợp và xác minh nhiều lớp về tính xác thực của phương tiện
- Khả năng đánh giá các lớp xuất xứ, siêu dữ liệu, điểm bất thường về kỹ thuật, xuất xứ (C2PA) và các lớp nhất quán theo ngữ cảnh cùng nhau và không dựa vào một điểm số duy nhất của xe
- Khả năng diễn đạt kết quả bằng ngôn ngữ ở mức độ tin cậy chứ không phải sự chắc chắn và chỉ áp dụng kiến thức về kỹ thuật sản xuất để phát hiện và phòng thủ.
Một đoạn video được coi là “bằng chứng” trong một cuộc điều tra: đoạn ghi âm người quản lý đưa ra những hướng dẫn không đúng, một bức ảnh cho thấy một người đang ở đâu đó, một đoạn video ghi lại lời thú tội. Nhưng giờ đây, câu hỏi vẫn được đặt lên hàng đầu trong mọi bằng chứng: Đây có phải là sự thật hay nó được tạo ra bởi trí tuệ nhân tạo? Deepfake (phương tiện giả mạo được tạo ra bằng deep learning bắt chước khuôn mặt/giọng nói/chuyển động của người thật) và rộng hơn là phương tiện tổng hợp (phương tiện tổng hợp - hình ảnh, âm thanh, video được sản xuất hoàn toàn hoặc một phần bởi trí tuệ nhân tạo) là biên giới mới nhất và thách thức nhất của pháp y kỹ thuật số. Trong phần này, chúng ta sẽ đề cập đến vai trò kép này của AI vừa là công cụ phát hiện vừa là mối đe dọa cũng như lý do tại sao việc xác minh phải có nhiều lớp.
Tại sao nó rất quan trọng?
Phương tiện truyền thông tổng hợp là một mối đe dọa hai hướng. Đầu tiên, bằng chứng giả: ai đó có thể tạo ra một bản deepfake để “chứng minh” một sự kiện đã không xảy ra. Thứ hai, xảo quyệt hơn, đó là "lợi tức của kẻ nói dối" (cổ tức của kẻ nói dối - nhờ sự phổ biến của các phương tiện truyền thông giả mạo, ngay cả bằng chứng thực tế cũng có thể bị bác bỏ vì cho rằng "đó là một trò lừa đảo sâu"). Vì vậy, phương tiện tổng hợp không chỉ tạo ra bằng chứng sai lệch; Nó cũng làm suy yếu độ tin cậy của bằng chứng thực tế. Do đó, nhà phân tích pháp y phải xác minh tính xác thực của từng bằng chứng trên phương tiện truyền thông—rằng nó thực sự đến từ nguồn được xác nhận, không bị thay đổi.
Lưu ý: Chỉ "công cụ phát hiện AI cho biết deepfake 98%" là chưa đủ trước tòa. Các mô hình phát hiện sai, các kỹ thuật thế hệ mới né tránh chúng và điểm xác suất không phải là bằng chứng chắc chắn. Việc phát hiện deepfake phải luôn được hỗ trợ bằng xác minh nhiều lớp (kỹ thuật + ngữ cảnh + nguồn).
Lớp phát hiện
Việc phát hiện phương tiện tổng hợp không thể dựa vào một công cụ ma thuật; nên được xếp lớp:
- Phân tích kỹ thuật/pháp y: Sự không nhất quán khi nén, điểm ảnh/tần số bất thường, biến dạng ranh giới khuôn mặt, thiếu các tín hiệu sinh học như chớp mắt và nhịp tim, mẫu tần số không tự nhiên cho âm thanh.
- Phân tích siêu dữ liệu và nguồn: Siêu dữ liệu EXIF/vùng chứa của tệp, dấu vết sản xuất, dấu vân tay của thiết bị, đường dẫn mà tệp đi qua (chuỗi hành trình sản phẩm). Siêu dữ liệu bị xóa/không nhất quán là một cảnh báo.
- Nguồn gốc nội dung: Được xác minh theo các tiêu chuẩn như C2PA (một tiêu chuẩn mở bổ sung thông tin nguồn gốc được ký bằng mật mã vào phương tiện, cho biết thông tin đó đến từ đâu và được chỉnh sửa như thế nào); Có chữ ký không, có nhất quán không?
- Xác minh theo ngữ cảnh: Ánh sáng, bóng tối, hình ảnh phản chiếu trong video có nhất quán về mặt vật lý không? Giọng nói và hát nhép có khớp nhau không? Nội dung có mâu thuẫn với các sự kiện đã biết (thời tiết, địa điểm, thời gian) không?
AI là công cụ tăng tốc ở nhiều lớp này: gắn cờ các điểm bất thường, phát hiện sự không nhất quán, tạo danh sách kiểm tra. Nhưng phán quyết cuối cùng về tính xác thực được đưa ra thông qua nhiều lớp xác thực chéo và đánh giá của chuyên gia.
AI: cả mối đe dọa và công cụ
Điểm mấu chốt của bộ phận này: cùng một công nghệ vừa tạo ra vừa phát hiện các tác phẩm sâu. Nhà phân tích điều tra phải hiểu các kỹ thuật sản xuất (làm thế nào để phát hiện hàng giả mà không biết nó được tạo ra như thế nào?) nhưng chỉ sử dụng kỹ thuật này cho mục đích phát hiện và phòng thủ. Sử dụng AI để tạo ra phương tiện giả mạo nhằm đánh lừa người khác là hành vi lừa đảo và lạm dụng danh tính; Phạm vi của mô-đun này là phát hiện và xác minh nghiêm ngặt.
Mẹo: Khi đánh giá bằng chứng truyền thông, trước tiên hãy thực hiện bài kiểm tra "giải thích đơn giản nhất": Tệp này có thực sự đến từ nơi nó tuyên bố không? Chuỗi hành trình sản phẩm có an toàn không? Trong hầu hết các trường hợp, vấn đề không phải là deepfake mà là decontextualization (một video từ một sự kiện có thật nhưng cũ/khác, được trình bày trong bối cảnh sai). Xác minh nguồn gốc và bối cảnh trước khi phân tích deepfake phức tạp.
Xác suất, không chắc chắn
Các công cụ phát hiện deepfake tạo ra điểm xác suất; Không phải "chắc chắn là giả" hay "chắc chắn là thật". Điểm này có sai sót, khoảng tin cậy và hiệu suất của nó giảm trong các phương pháp sản xuất mới mà mô hình chưa từng thấy. Trong báo cáo pháp y, thay vì nói “là giả” đối với một phương tiện truyền thông, nên nói “những dấu hiệu này chỉ ra sự thao túng, những lớp xác minh này đã cho thấy điều này, mức độ chắc chắn là thế này”. Ngôn ngữ quá chính xác sẽ tạo ra sự phản đối trước tòa và làm mất uy tín.
ba trường hợp nhỏ
Trường hợp 1 - Phân tích nguồn gốc được giải quyết trước khi deepfake. Một video được gửi làm "bằng chứng" cho hội đồng đã được xem xét. Trước khi chuyển sang phân tích deepfake, siêu dữ liệu đã được kiểm tra: video được tạo 8 tháng trước ngày xác nhận quyền sở hữu và siêu dữ liệu vùng chứa trỏ đến một ứng dụng khác. Video này không phải là giả nhưng được trình bày sai ngữ cảnh; Lớp đơn giản nhất đã giải quyết được vấn đề.
Trường hợp 2 - Phát hiện nhiều lớp đã bắt được hàng giả. Trong đoạn ghi âm giọng nói công cụ phát hiện AI cho biết tổng hợp 71% (không chắc chắn). Chuyên gia đã xem xét các lớp bổ sung: các mẫu phân tích tần số đều đặn một cách bất thường, sự vắng mặt của âm thanh hơi thở và sự vắng mặt của dấu hiệu C2PA. Sự kết hợp của ba chỉ số độc lập mang lại kết quả mạnh mẽ hơn nhiều so với một điểm số duy nhất.
Trường hợp 3 - Trở về từ sự chắc chắn quá mức. “Đoạn video này chắc chắn là một bản deepfake,” một báo cáo dự thảo cho biết, trích dẫn một điểm về phương tiện. Chuyên gia cao cấp đính chính: một công cụ thôi chưa đủ, ngôn ngữ không thể “tuyệt đối”. Báo cáo đã được dịch sang ngôn ngữ thể hiện nhiều lớp và mức độ chính xác; do đó trở nên có thể bào chữa trước tòa.
Bốn mẫu có thể sao chép
1) Danh sách kiểm tra xác minh phương tiện:
Vai trò của bạn: chuyên gia xác minh phương tiện tổng hợp. Cung cấp cho tôi danh sách kiểm tra nhiều lớp để xác thực bằng chứng hình ảnh/âm thanh/video: (1) xuất xứ/chuỗi hành trình sản phẩm, (2) siêu dữ liệu, (3) điểm bất thường về mặt kỹ thuật, (4) xuất xứ/C2PA, (5) tính nhất quán theo ngữ cảnh. Viết các bước kiểm tra cụ thể cho từng lớp.
2) Phân tích tính nhất quán của siêu dữ liệu:
Tôi sẽ cung cấp cho bạn siêu dữ liệu (EXIF/container) của tệp phương tiện. Gắn cờ sự không nhất quán: tạo-sửa đổi xung đột meta, dấu vết thiết bị/phần mềm, các trường bị thiếu/bị xóa, sự khác biệt về thời gian địa lý. Chỉ ra rằng đây có thể là DẤU HIỆU của sự thao túng nhưng bản thân chúng không phải là bằng chứng.
3) Kiểm tra tính nhất quán theo ngữ cảnh:
Đánh giá tính nhất quán về mặt vật lý trong hình ảnh/video này: hướng ánh sáng và bóng có nhất quán không, độ phản chiếu có chính xác không, âm thanh-nhép có khớp với nhau không, nền có khớp với vị trí/thời gian được xác nhận không? Liên kết mỗi quan sát với một vị trí cụ thể. Đừng đưa ra phán xét cuối cùng; liệt kê những điểm gây nghi ngờ.
4) Ngôn ngữ cấp độ chính xác:
Chuyển các kết quả xác nhận sau đây (điểm + kết quả phân tầng) thành đoạn báo cáo. Đừng nói "chắc chắn là giả/thật"; cung cấp cho mỗi phát hiện nguồn của nó và thể hiện mức độ chắc chắn chung (độ tin cậy thấp/trung bình/cao). Tránh những tuyên bố phản đối quá mức.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Nói cho tôi biết, video này có phải là deepfake không?
Một lớp, một phán xét đang chờ đợi; AI tạo ra câu trả lời “có/không” mà không có ngữ cảnh, điều này sẽ bị bác bỏ trước tòa.
Lời nhắc mạnh mẽ:
Vai trò của bạn: chuyên gia xác minh phương tiện tổng hợp. Tôi sẽ mô tả cho bạn siêu dữ liệu của video, điểm của công cụ phát hiện và một vài khung hình. Nhiệm vụ: đánh giá các lớp xuất xứ, siêu dữ liệu, sự bất thường về kỹ thuật và tính nhất quán theo ngữ cảnh RIÊNG; Kết nối những gì bạn nhìn thấy trong mỗi lớp với nguồn. Thể hiện kết quả dưới dạng mức độ tin cậy tổng hợp của các lớp chứ không phải là "chính xác". Đừng dựa vào một điểm số nào; chỉ ra các lớp bị thiếu.
Đánh giá theo lớp, liên kết với nguồn và ràng buộc “không gọi” làm cho đầu ra có thể được bảo vệ.
Bảng lớp xác thực
lớp
Anh ấy nhìn cái gì?
điểm mạnh
giới hạn
Xuất xứ/CoC
Tập tin đến từ đâu
Đơn giản, chính xác
Gian lận có thể được che giấu
siêu dữ liệu
EXIF/thùng chứa
mẹo nhanh
Xóa được/giả
sự bất thường về mặt kỹ thuật
Điểm ảnh/tần số
dấu vết thao túng
Kỹ thuật bỏ qua mới
Xuất xứ/C2PA
xuất xứ đã ký
ủy thác mật mã
Không phải ở khắp mọi nơi
theo ngữ cảnh
Sự hài hòa vật lý/thực tế
khó lừa
Yêu cầu bình luận
Những lỗi thường gặp
- Dựa vào một điểm xe. Việc phát hiện deepfake phải có nhiều lớp; điểm duy nhất không phải là bằng chứng.
- Nó có nghĩa là "hoàn toàn giả/thật". Sử dụng ngôn ngữ xác suất; Quá chính xác sẽ gây ra sự phản đối.
- Bỏ qua nguồn gốc và bối cảnh. Hầu hết các vấn đề không phải là lỗi sâu mà là bối cảnh/phương tiện truyền thông cũ sai.
- Tin tưởng tuyệt đối vào siêu dữ liệu. Siêu dữ liệu có thể bị xóa và giả mạo.
- Lạm dụng kỹ thuật sản xuất. Thông tin chỉ nhằm mục đích phát hiện và phòng thủ.
Tóm lại
Deepfake và phương tiện tổng hợp là biên giới mới nhất trong pháp y kỹ thuật số; Nó vừa tạo ra bằng chứng giả vừa khiến bằng chứng thật bị nghi ngờ. AI vừa là công cụ phát hiện vừa là mối đe dọa. Việc xác minh không nên dựa trên một công cụ duy nhất mà dựa trên việc xác minh chéo các lớp xuất xứ, siêu dữ liệu, điểm bất thường về kỹ thuật, xuất xứ và tính nhất quán theo ngữ cảnh. Kết quả được thể hiện không phải bằng sự chắc chắn mà bằng mức độ chắc chắn. Và thông tin này chỉ nhằm mục đích phát hiện và phòng vệ - không phải để tạo phương tiện giả mạo.
Nhiệm vụ ứng dụng
Mô tả một kịch bản bằng chứng truyền thông (ví dụ: bản ghi âm). Tạo một kế hoạch theo lớp với mẫu "danh sách kiểm tra xác minh phương tiện". Sau đó, áp dụng các mẫu “Phân tích tính nhất quán của siêu dữ liệu” và “Ngôn ngữ cấp độ chính xác” với siêu dữ liệu giả và điểm phát hiện; Hãy thử thể hiện kết quả với mức độ tự tin nhiều lớp thay vì “chắc chắn là giả mạo”.
danh sách kiểm tra
- [ ] Tôi xác minh dựa trên nhiều lớp chứ không phải một công cụ duy nhất.
- [ ] Tôi đã kiểm tra nguồn gốc và bối cảnh trước.
- [ ] Tôi luôn nhớ rằng siêu dữ liệu có thể bị xóa/giả mạo.
- [ ] Tôi trình bày kết quả bằng ngôn ngữ của mức độ tin cậy chứ không phải sự chắc chắn.
- [ ] Tôi chỉ sử dụng thông tin sản xuất để phát hiện/phòng thủ.