Lợi nhuận:
- Khả năng nhận biết các loại, manh mối và kiểu lan truyền của văn bản, hình ảnh, âm thanh và video deepfake tổng hợp
- Khả năng quản lý nghi ngờ nội dung tổng hợp bằng tính năng theo dõi nguồn, siêu dữ liệu, tìm kiếm ngược và xác minh ngữ cảnh, đồng thời sử dụng trí tuệ nhân tạo làm công cụ tổ chức phòng thủ
- Khả năng hiểu rằng các công cụ phát hiện không phải là bằng chứng chắc chắn, phán đoán đó phải được đưa ra từ nguồn và tin tức xác nhận đó phải được viết bằng ngôn ngữ bình tĩnh, minh bạch.
Trí tuệ nhân tạo không chỉ là công cụ của nhà báo; Nó cũng là động cơ của mối đe dọa chống lại nó. Ngày nay, những văn bản giả mạo đầy sức thuyết phục, những bức ảnh có vẻ như thật, những khuôn mặt của những người không tồn tại và những giọng nói thốt ra những câu mà ai đó chưa bao giờ thốt ra có thể được tạo ra chỉ trong vài phút. Chúng được gọi chung là nội dung tổng hợp (phương tiện được sản xuất nhân tạo); Loại video/âm thanh bắt chước khuôn mặt hoặc giọng nói của một người một cách chân thực nhất được gọi là deepfake. Thông tin sai lệch—cố tình lan truyền thông tin sai lệch—đã trở nên rẻ hơn và nhanh hơn thông qua các công cụ này. Nhiệm vụ của nhà báo đã tăng gấp đôi: vừa ngăn chặn nội dung này được xuất bản, vừa thông báo cho công chúng về mối đe dọa này. Trong phần này, chúng tôi đề cập đến việc sử dụng AI để vừa hiểu được mối đe dọa vừa phòng chống lại nó. Nguyên tắc cơ bản: Không có công cụ phát hiện nào là bằng chứng thuyết phục; Sự nghi ngờ về nội dung tổng hợp được giải quyết bằng cách xác minh cổ điển đi sâu vào nguồn và bối cảnh.
Các loại và thủ thuật của nội dung tổng hợp
Văn bản. AI có thể tạo ra những văn bản bịa đặt, trôi chảy nhưng trống rỗng, đầy tính khái quát hóa; Các "trang tin tức" giả mạo và đội quân bình luận phát triển mạnh về vấn đề này. Gợi ý: các nguồn không thể xác minh, các tuyên bố quá chung chung, liên tục đóng khung một chiều.
Thị giác. Trong hình ảnh nhân tạo, bàn tay/ngón tay, răng, tai, đồ trang sức, văn bản nền và hình ảnh phản chiếu thường không nhất quán; Nhưng công nghệ ngày càng được cải thiện nhanh chóng nên việc “nhìn tận mắt là có thể biết” là một sự tin tưởng nguy hiểm.
Âm thanh. Những câu không thành lời có thể được tạo ra bằng giọng nói của một quan chức. Mẹo: hơi thở/tạm dừng tự nhiên, tính nhất quán của âm thanh xung quanh nhưng cách kiểm tra đáng tin cậy nhất là xác minh nguồn nội dung.
Video (giả sâu). Mặt và cổ/ánh sáng không khớp, chớp mắt, môi-giọng nói có thể là manh mối; Tuy nhiên, nó không chắc chắn.
Lưu ý: "Công cụ phát hiện AI cho biết 90% là giả mạo" không phải là lý do để công bố. Những công cụ này sai; Anh ta có thể gọi cái thật là giả và cái giả là thật. Đầu ra của công cụ là một đầu mối; Sự phán xét đi xuống nguồn.
Từng bước: xử lý nghi ngờ về thành phần tổng hợp
Bước 1 - Tìm nguồn. Ai xuất bản nội dung đầu tiên, ở đâu và khi nào? Chỉ đi xuống nguồn ban đầu sẽ phát hiện được hầu hết hàng giả.
Bước 2 - Xem siêu dữ liệu và tìm kiếm ngược. Tìm kiếm siêu dữ liệu và hình ảnh ngược trên hình ảnh/video có thể tiết lộ phiên bản trước hoặc phiên bản gốc.
Bước 3 - Kiểm tra tính nhất quán nội bộ. Ánh sáng, bóng tối, sự phản chiếu, âm thanh xung quanh, các manh mối trong thế giới thực trong nền (biển báo, thời tiết, kiến trúc) có khớp với tuyên bố không?
Bước 4 - Xác minh bối cảnh. Sự cố trong nội dung đã được các nguồn độc lập khác nhìn thấy chưa? Có nhiều dấu vết của một sự kiện có thật; nội dung "quả bom" nguồn duy nhất là vấn đề.
Bước 5 - Sử dụng các công cụ phát hiện làm manh mối. Đếm đầu ra của các công cụ phát hiện AI là tín hiệu phụ, không phải bằng chứng.
Bước 6 - Báo cáo một cách minh bạch. Nếu bạn xuất bản nó (dưới dạng xác minh tính xác thực), hãy cho biết điều gì là giả mạo/đáng ngờ, lý do và cách bạn xác minh nó.
Sử dụng AI trong phòng thủ
AI cũng là một công cụ tổ chức chống lại nội dung tổng hợp: nó liệt kê những gì cần tìm trong một hình ảnh, liệt kê các dấu hiệu cho thấy văn bản có thể do AI tạo ra, giúp phân tích câu chuyện về một chiến dịch đưa thông tin sai lệch, soạn thảo bản kiểm tra tính xác thực có tính giải thích cho công chúng. Nhưng bản thân việc xác định - phán quyết “đó là giả” - được đưa ra bởi phán đoán của con người và xác minh nguồn gốc.
ba trường hợp nhỏ
Trường hợp 1 - Ghi âm giả. Một bản ghi âm về việc "từ chức" chính thức đã được lưu hành. Đầu tiên, phóng viên tìm kiếm nguồn: đoạn ghi âm đến từ một tài khoản ẩn danh duy nhất, không có dấu vết nào ở nơi nào khác. Nhóm của quan chức đã từ chối đoạn ghi âm; âm thanh xung quanh cũng không nhất quán. Người phóng viên đã không công bố đoạn ghi âm mà thay vào đó đưa tin về một "bản ghi âm không thể xác minh được". Bản ghi âm sau đó hóa ra là tổng hợp.
Trường hợp 2 - Áp lực thời gian và phản xạ dừng lại. Bức ảnh "tòa nhà sập" sau trận động đất được lan truyền nhanh chóng. Phóng viên đã tìm kiếm hình ảnh ngược: bức ảnh này là của một sự kiện khác cách đây 2 năm. Quá trình kiểm tra kéo dài 4 phút đã ngăn chặn hình ảnh không chính xác xâm nhập vào trang tin tức; Một số trang đối thủ đã xuất bản nó mà không kiểm tra và đưa ra lời phủ nhận.
Trường hợp 3 - Quá tin tưởng vào công cụ phát hiện. Một biên tập viên đã chèn ảnh của phóng viên thật vào công cụ phát hiện; Ông nói: “78% chiếc xe là nhân tạo”. Người biên tập chuẩn bị rút nó khỏi xuất bản; Khi người kiểm tra thực tế cấp cao cho xem siêu dữ liệu chụp của bức ảnh và tệp thô của phóng viên, thì rõ ràng bức ảnh đó là thật. Bài học: Người trung gian mắc lỗi, nguồn nói.
Mẫu có thể sao chép
1) Danh sách kiểm tra tổng hợp trực quan:
Tôi nghi ngờ một hình ảnh có thể được tạo ra một cách giả tạo. Lập danh sách kiểm tra những thứ tôi cần kiểm tra: bàn tay/ngón tay, răng, đồ trang sức, văn bản nền, phản chiếu, tính nhất quán của bóng sáng, tìm kiếm ngược, siêu dữ liệu. Viết ra cách tìm từng mục. Đừng nói chắc chắn là "giả/thật"; chỉ là danh sách kiểm tra. Mô tả trực quan: [tại đây]
2) Phân tích tường thuật thông tin sai lệch:
Tuyên bố sau đây có thể là một chiến dịch đưa thông tin sai lệch. Suy ra: (1) cảm xúc mà nó nhắm đến, (2) sự phân chia mà nó khuếch đại, (3) các thành phần có thể kiểm chứng/không thể kiểm chứng, (4) mô hình lan truyền điển hình có thể là gì. Đưa ra sự phán xét công bình; phân tích. Yêu cầu: [tại đây]
3) Dự thảo tin xác nhận cho công chúng:
Tôi đã xác minh với các nguồn chính rằng nội dung sau đây là tổng hợp/gây hiểu lầm: [tóm tắt các phát hiện]. Viết bản nháp của một câu chuyện xác nhận để thông báo cho người đọc, không gây hoảng sợ và thể hiện rõ ràng cách tôi đã xác minh. Không bao gồm bất kỳ phát hiện nào mà tôi không cung cấp. Kết quả: [tại đây]
4) Các dấu (gợi ý) do AI tạo ra của văn bản:
Liệt kê những Manh mối cho thấy văn bản sau đây có thể được tạo ra một cách giả tạo: nguồn không thể kiểm chứng, tính tổng quát quá mức, khuôn khổ phiến diện, các mẫu lặp đi lặp lại. Nhấn mạnh rằng đây không phải là bằng chứng thuyết phục và viết ra những xác minh thực tế cần được thực hiện. Văn bản: [tại đây]
Dấu nhắc yếu / Dấu nhắc mạnh
Lời nhắc yếu: "Hãy cho tôi biết nếu hình ảnh này là giả."
Kết quả: AI đưa ra câu trả lời “có/không” trông chính xác nhưng không đáng tin cậy; Nhà báo có thể dựa vào phán quyết này và mắc sai lầm.
Lời nhắc mạnh mẽ: "Lập danh sách các dấu hiệu tôi sẽ kiểm tra để biết hình ảnh này có thể là nhân tạo và viết ra cách tôi tìm kiếm từng hình ảnh đó. Đừng đưa ra bất kỳ phán xét cuối cùng nào; chỉ ra rằng việc xác minh thực sự sẽ quay trở lại nguồn và thực hiện tìm kiếm ngược lại."
Sự khác biệt: Một lời nhắc mạnh mẽ sẽ biến AI thành một công cụ tạo manh mối, để lại sự phán xét cho nguồn tin và nhà báo, giúp hiển thị giới hạn lỗi của công cụ.
biểu đồ so sánh
Loại nội dung
Manh mối yếu
Kiểm soát đáng tin cậy nhất
Vai trò của AI
văn bản
Nguồn tổng hợp, bổ sung
đi xuống nguồn
Danh sách ký tên
trực quan
Sự khác biệt giữa tay/răng/chữ viết
Tìm kiếm ngược + siêu dữ liệu
danh sách kiểm tra
âm thanh
Sự không nhất quán về hơi thở/môi trường
Xác nhận nguồn và bối cảnh
Cần tìm gì
Video (giả sâu)
Ánh sáng/đồng bộ không khớp
Nguồn gốc, được xác nhận chéo
Trợ giúp phân tích
Những lỗi thường gặp
- Coi công cụ phát hiện là bằng chứng. Lấy tỷ lệ phần trăm của xe làm lý do công bố; công cụ sai theo cả hai hướng.
- Sự tự tin "Tôi có thể nói bằng mắt thường". Hình ảnh tổng hợp đang được cải thiện nhanh chóng; Trực giác trực quan thôi là chưa đủ.
- Không đi tới nguồn. Hầu hết hàng giả đều sụp đổ khi nguồn gốc xuất bản chúng được tìm thấy; Bỏ qua bước này là một sai lầm.
- Truyền bá nghi phạm. Việc chia sẻ nội dung đáng ngờ với nội dung "hãy xem điều đó có đúng hay không" sẽ mang lại thông tin sai lệch.
- Ngôn ngữ hoảng loạn. Giọng điệu báo động trong tin tức xác nhận gieo rắc nỗi sợ hãi mới trong khi sửa chữa; Viết một cách bình tĩnh và minh bạch.
Tốc độ khuếch tán và “bẫy từ chối”
Sức mạnh thực sự của thông tin sai lệch không nằm ở nội dung mà nằm ở tốc độ lan truyền của nó. Nội dung khiêu khích cảm xúc gợi lên sự tức giận hoặc sợ hãi được chia sẻ nhanh hơn nhiều so với tin tức đã được xác minh; Trong khi nội dung giả mạo tiếp cận hàng triệu người trong vòng vài giờ, việc biên tập lại thường tiếp cận ít người hơn rất nhiều. Sự bất đối xứng này đặt ra một trách nhiệm đặc biệt cho nhà báo: việc chia sẻ nội dung có vấn đề, thậm chí bằng cách nói "trông thật lố bịch", sẽ cho phép họ tiếp cận. Điều này được gọi là oxy hóa - lặp đi lặp lại một lời nói dối để bác bỏ nó thực sự thúc đẩy nó.
Thuốc giải cho tình trạng này là kỹ thuật "bánh kẹp sự thật" trong việc kiểm tra thực tế: nói sự thật trước khi lặp lại tuyên bố sai, sau đó chỉ ra lý do tại sao tuyên bố đó sai, sau đó lặp lại sự thật một lần nữa ở cuối. Bằng cách này, điều đọng lại trong tâm trí người đọc không phải là sai lầm mà là sự thật. AI có thể giúp soạn thảo một câu chuyện xác minh sự thật theo cấu trúc này; Nhưng chính quyết định biên tập sẽ đưa ra sự thật và thông báo cho ngôn ngữ mà không làm lan truyền sự hoảng loạn. Một cách thực hành khác: hỏi thông tin sai lệch đang lấp đầy khoảng trống nào? Mọi người thường chấp nhận nội dung giả mạo do thiếu thông tin đáng tin cậy; Lấp đầy khoảng trống đó bằng những tin tức nhanh chóng, chính xác và dễ tiếp cận là cách phòng thủ hiệu quả hơn là theo đuổi từng lời nói dối một.
Tóm lại
Nội dung tổng hợp và tin giả sâu đã làm giảm giá trị và đẩy nhanh thông tin sai lệch; Nhiệm vụ của nhà báo là không công bố điều này và thông báo cho công chúng. Các công cụ phát hiện và AI cung cấp manh mối và tổ chức – nhưng không phải bằng chứng dứt khoát. Phán quyết được đưa ra bằng cách truy cập nguồn, siêu dữ liệu và tìm kiếm ngược, tính nhất quán nội bộ và bối cảnh độc lập. Tin tức xác nhận được viết bằng ngôn ngữ bình tĩnh, minh bạch cho thấy nó đã được xác minh như thế nào.
Nhiệm vụ ứng dụng
Tìm nội dung hình ảnh hoặc âm thanh mà bạn cho là đáng ngờ. Làm theo lời nhắc “Danh sách kiểm tra tổng hợp hình ảnh” (hoặc điều chỉnh cho âm thanh); thực sự kiểm tra từng mục và tìm kiếm ngược lại. Đánh giá kết quả là “thực/giả/không đủ bằng chứng” và so sánh kết quả đó với quyết định mà bạn sẽ đưa ra nếu chỉ dựa vào công cụ phát hiện.
danh sách kiểm tra
- [ ] Tôi coi kết quả của các công cụ phát hiện là manh mối chứ không phải bằng chứng.
- [ ] Đối với bất kỳ nội dung nghi vấn nào, trước tiên tôi tìm nguồn gốc và lần xuất bản đầu tiên.
- [ ] Tôi đảm bảo đảo ngược tìm kiếm và kiểm tra siêu dữ liệu hình ảnh.
- [ ] Tôi không lan truyền nội dung nghi vấn chưa được xác minh.
- [ ] Tôi viết tin xác nhận bằng ngôn ngữ bình tĩnh, minh bạch cho thấy tôi đã xác minh nó như thế nào.