Zyski:
- Umiejętność rozpoznawania typów, wskazówek i wzorców propagacji syntetycznego tekstu, obrazów, plików audio i fałszywych plików wideo
- Umiejętność zarządzania podejrzeniami treści syntetycznych za pomocą śledzenia źródła, metadanych, wyszukiwania wstecznego i weryfikacji kontekstu oraz wykorzystania sztucznej inteligencji jako narzędzia organizacyjnego w obronie
- Umiejętność zrozumienia, że narzędzia do wykrywania nie są ostatecznym dowodem, że ocena sprowadza się do źródła, a wiadomości potwierdzające powinny być pisane spokojnym, przejrzystym językiem.
Sztuczna inteligencja to nie tylko narzędzie dziennikarza; Jest także motorem zagrożenia wobec niego. Dziś przekonujący fałszywy tekst, pozornie prawdziwe zdjęcia, twarze nieistniejących ludzi i głosy wypowiadające zdania, których ktoś nigdy nie wypowiedział, można stworzyć w ciągu kilku minut. Nazywa się je zbiorczo treściami syntetycznymi (sztucznie wyprodukowanymi mediami); Rodzaj wideo/audio, który realistycznie imituje twarz lub głos danej osoby, nazywa się deepfake. Dezinformacja – celowe rozpowszechnianie fałszywych informacji – dzięki tym narzędziom stała się zarówno tańsza, jak i szybsza. Obowiązki dziennikarza zostały podwojone: zarówno zapobieganie publikacji tych treści, jak i informowanie opinii publicznej o zagrożeniu. W tej części omówimy wykorzystanie sztucznej inteligencji do zrozumienia zagrożenia i obrony przed nim. Podstawowa zasada: żadne narzędzie do wykrywania nie stanowi rozstrzygającego dowodu; Podejrzenia dotyczące treści syntetycznych rozwiązuje klasyczna weryfikacja, która sprowadza się do źródła i kontekstu.
Rodzaje i wskazówki dotyczące treści syntetycznych
Tekst. Sztuczna inteligencja może tworzyć płynne, ale puste, pełne uogólnień i zmyślone teksty; fałszywe „strony informacyjne” i armie komentarzy czerpią z tego korzyści. Wskazówka: źródła nieweryfikowalne, stwierdzenia zbyt ogólne, uparcie jednostronne kadrowanie.
Wizualny. Na sztucznych obrazach dłonie/palce, zęby, uszy, biżuteria, tekst w tle i odbicia są często niespójne; Jednak technologia szybko się rozwija, więc stwierdzenie „mogę to stwierdzić na własne oczy” jest niebezpiecznym zaufaniem.
Dźwięk. Niewypowiedziane zdania mogą być formułowane na podstawie głosu urzędnika. Wskazówka: naturalność oddechu/pauzy, spójność dźwięków otoczenia, ale najbardziej wiarygodną metodą sprawdzenia jest weryfikacja źródła treści.
Wideo (deepfake). Niedopasowanie twarzy i szyi/światła, mruganie oczami, synchronizacja głosu z ustami mogą być wskazówkami; Jednak nie jest to pewne.
Uwaga: „Narzędzie do wykrywania AI twierdzi, że 90% to podróbki” nie jest powodem do publikacji. Te narzędzia są błędne; Potrafi nazwać prawdziwą fałszywkę, a fałszywą prawdziwą. Dane wyjściowe narzędzia są wskazówką; Ocena sprowadza się do źródła.
Krok po kroku: zarządzanie podejrzeniami dotyczącymi składników syntetycznych
Krok 1 — Znajdź źródło. Kto jako pierwszy opublikował treść, gdzie i kiedy? Samo dotarcie do oryginalnego źródła eliminuje większość podróbek.
Krok 2 — Spójrz na metadane i wyszukaj wstecz. Wyszukiwanie metadanych i odwrotnego obrazu obrazu/wideo może ujawnić poprzednią wersję lub oryginał.
Krok 3 — Sprawdź spójność wewnętrzną. Czy światło, cień, odbicie, dźwięk otoczenia, wskazówki ze świata rzeczywistego w tle (oznakowanie, pogoda, architektura) odpowiadają twierdzeniu?
Krok 4 — Sprawdź kontekst. Czy wydarzenie opisane w treści zostało zauważone przez inne niezależne źródła? Istnieje wiele śladów prawdziwego wydarzenia; „bombowe” treści z jednego źródła są wątpliwe.
Krok 5 — Użyj narzędzi do wykrywania jako wskazówek. Policz wyniki narzędzi do wykrywania sztucznej inteligencji jako sygnał pomocniczy, a nie dowód.
Krok 6 — Zgłaszaj przejrzyście. Jeśli je opublikujesz (w ramach weryfikacji faktów), pokaż, co jest fałszywe/podejrzane, dlaczego i jak to zweryfikowałeś.
Wykorzystanie sztucznej inteligencji w obronie
Sztuczna inteligencja jest także narzędziem organizacyjnym chroniącym przed treściami syntetycznymi: wymienia, czego należy szukać na obrazie, wymienia oznaki wskazujące, że tekst może zostać wygenerowany przez sztuczną inteligencję, pomaga analizować narrację kampanii dezinformacyjnej, sporządza wyjaśniającą weryfikację faktów dla opinii publicznej. Jednak samo ustalenie – werdykt „to fałszywy” – opiera się na ludzkim osądzie i weryfikacji źródła.
trzy mini etui
Przypadek 1 – Fałszywe nagranie głosu. Rozesłano nagranie dźwiękowe oficjalnej „rezygnacji”. Reporter najpierw poszukał źródła: nagranie pochodziło z pojedynczej anonimowej relacji, nigdzie indziej nie było po nim śladu. Zespół urzędnika odrzucił nagranie; dźwięk otoczenia również był niespójny. Reporter nie opublikował nagrania, zamiast tego poinformował o „nieweryfikowalnym nagraniu dźwiękowym”. Nagranie okazało się później syntetyczne.
Przypadek 2 — Presja czasu i odruch stopu. Zdjęcie „zawalonego budynku” po trzęsieniu ziemi szybko się rozprzestrzeniło. Reporter przeszukał obraz od tyłu: zdjęcie pochodziło z innego wydarzenia sprzed 2 lat. Czterominutowa kontrola zapobiegła przedostaniu się nieprawidłowego obrazu do serwisu informacyjnego; Kilka konkurencyjnych witryn opublikowało to bez sprawdzania i opublikowało odmowę.
Przypadek 3 – Nadmierna pewność co do narzędzia wykrywającego. Redaktor umieścił zdjęcie prawdziwego reportera w narzędziu do wykrywania; Pojazd jest „w 78% sztuczny” – stwierdził. Redaktor miał zamiar wycofać go z publikacji; Kiedy starszy weryfikator faktów pokazał metadane zdjęcia i surowe pliki reportera, stało się jasne, że zdjęcie jest prawdziwe. Lekcja: medium błądzi, mówi źródło.
Szablony do kopiowania
1) Lista kontrolna syntetyki wizualnej:
Podejrzewam, że obraz może być sztucznie wytworzony. Zrób listę kontrolną rzeczy, które muszę przetestować: dłonie/palce, zęby, biżuteria, tekst w tle, odbicia, spójność światła i cienia, wyszukiwanie wsteczne, metadane. Zapisz, jak szukać każdego elementu. Na pewno nie mów „fałszywy/prawdziwy”; tylko lista kontrolna. Opis wizualny: [tutaj]
2) Analiza narracji dezinformacyjnej:
Poniższe twierdzenie może mieć charakter kampanii dezinformacyjnej. Wywnioskowaj: (1) na jakie emocje jest ukierunkowany, (2) jaki podział wzmacnia, (3) weryfikowalne/nieweryfikowalne elementy, (4) jaki może być typowy wzór rozprzestrzeniania się. Dokonywanie osądu sprawiedliwości; analizować. Roszczenie: [tutaj]
3) Wiadomość o potwierdzeniu projektu do wiadomości publicznej:
Na podstawie źródeł pierwotnych sprawdziłem, że następująca treść jest syntetyczna/wprowadzająca w błąd: [podsumowanie ustaleń]. Napisz wersję roboczą historii potwierdzenia, która poinformuje czytelnika, nie wywoła paniki i przejrzyście pokaże, w jaki sposób zweryfikowałem. Nie uwzględniaj żadnych ustaleń, których nie przedstawiłem. Wyniki: [tutaj]
4) Znaki (podpowiedź) tekstu wygenerowane przez AI:
Wypisz WSKAZÓWKI, że następujący tekst może zostać sztucznie wytworzony: źródła nieweryfikowalne, nadmierna ogólność, jednostronne kadrowanie, powtarzające się wzorce. Podkreśl, że nie jest to rozstrzygający dowód i zapisz, jakich weryfikacji faktycznych należy dokonać. Tekst: [tutaj]
Słaba zachęta/silna zachęta
Słaba zachęta: „Powiedz mi, czy ten obraz jest fałszywy”.
Wynik: sztuczna inteligencja daje precyzyjnie wyglądające, ale zawodne „tak/nie”; Dziennikarz może powoływać się na to orzeczenie i mylić się.
Mocna podpowiedź: „Zrób listę znaków, które sprawdziłbym pod kątem tego, czy ten obraz może być sztuczny, i zapisz, jak bym każdego z nich szukał. Nie dokonuj żadnych ostatecznych ocen; zwróć uwagę, że prawdziwą weryfikacją jest powrót do źródła i przeprowadzenie wyszukiwania odwrotnego”.
Różnica: potężny monit redukuje sztuczną inteligencję do generatora wskazówek, pozostawiając ocenę źródłu i dziennikarzowi, dzięki czemu widoczny jest margines błędu narzędzia.
tabela porównawcza
Typ treści
Słabe wskazówki
Najbardziej niezawodna kontrola
Rola sztucznej inteligencji
tekst
Ogólne, wymyślone źródło
zejść do źródła
Lista podpisów
wizualne
Rozbieżność dłoni/zębów/pisma
Wyszukiwanie wsteczne + metadane
lista kontrolna
dźwięk
Niespójność oddech/środowisko
Potwierdzenie źródła i kontekstu
Czego szukać
Wideo (głębokie oszustwo)
Niedopasowanie światła/synchronizacji
Oryginalne źródło, potwierdzone krzyżowo
Pomoc w analizie
Typowe błędy
- Traktowanie narzędzia do wykrywania jako dowodu. Podanie procentu pojazdu jako powodu publikacji; narzędzia błądzą w obu kierunkach.
- Pewność siebie „Widzę to z widzenia”. Syntetyczna oprawa wizualna szybko się poprawia; Sama intuicja wzrokowa nie wystarczy.
- Nie idę do źródła. Większość podróbek upada po odnalezieniu oryginalnego źródła, które je opublikowało; Pominięcie tego kroku jest błędem.
- Rozsiewanie podejrzanego. Udostępnianie podejrzanych treści ze słowami „zobaczymy, czy to prawda, czy nie” służy dezinformacji.
- Język paniki. Alarmujący ton wiadomości z potwierdzeniem sieje nowy strach podczas poprawiania; Pisz spokojnie i przejrzyście.
Szybkość dyfuzji i „pułapka odmowy”
Prawdziwa siła dezinformacji nie leży w samej treści, ale w szybkości jej rozprzestrzeniania się. Treści prowokacyjne emocjonalnie, które wywołują złość lub strach, są udostępniane znacznie szybciej niż zweryfikowane wiadomości; Podczas gdy fałszywe treści docierają do milionów w ciągu kilku godzin, redakcja często dociera do znacznie mniejszej liczby osób. Ta asymetria nakłada na dziennikarza szczególną odpowiedzialność: udostępnianie wątpliwych treści, nawet poprzez powiedzenie „zobacz, jakie śmieszne”, zapewnia im dostęp. Nazywa się to dotlenieniem — powtarzanie kłamstwa w celu jego obalenia w rzeczywistości je napędza.
Antidotum na tę sytuację stanowi technika „kanapki prawdy” stosowana przy sprawdzaniu faktów: powiedz prawdę przed powtórzeniem fałszywego twierdzenia, następnie pokaż, dlaczego twierdzenie jest fałszywe, a na koniec jeszcze raz powtórz prawdę. W ten sposób w umyśle czytelnika pozostaje nie błąd, ale prawda. Sztuczna inteligencja może pomóc w opracowaniu historii sprawdzającej fakty zgodnie z tą strukturą; Ale to redakcja podejmuje decyzję, jaką prawdę przedstawić i poinformować język bez siania paniki. Inna praktyka: pytanie, jaką lukę wypełnia dezinformacja? Ludzie często sięgają po fałszywe treści ze względu na brak wiarygodnych informacji; Wypełnienie tej luki szybkimi, dokładnymi i dostępnymi wiadomościami jest skuteczniejszą obroną niż ciągłe gonienie za kłamstwami.
Podsumowując
Treści syntetyczne i deepfakes obniżyły cenę i przyspieszyły dezinformację; Obowiązkiem dziennikarza jest niepublikować tego i poinformować opinię publiczną. Narzędzia do wykrywania i sztuczna inteligencja zapewniają wskazówki i organizację, ale nie ostateczny dowód. Oceny dokonuje się na podstawie sięgania do źródła, metadanych i wyszukiwania wstecznego, wewnętrznej spójności i niezależnego kontekstu. Wiadomość o bierzmowaniu napisana jest spokojnym, przejrzystym językiem, który pokazuje, w jaki sposób została zweryfikowana.
Zadanie aplikacji
Znajdź treści wizualne lub dźwiękowe, które Twoim zdaniem są podejrzane. Postępuj zgodnie z podpowiedziami „Lista kontrolna syntetyki wizualnej” (lub adaptacja do dźwięku); naprawdę sprawdź każdy element i odwróć wyszukiwanie. Oceń wynik jako „prawdziwy/fałszywy/niewystarczający dowód” i porównaj go z decyzją, którą podjąłbyś, gdybyś polegał wyłącznie na narzędziu do wykrywania.
lista kontrolna
- [ ] Wyniki narzędzi wykrywających traktuję jako wskazówki, a nie dowód.
- [ ] W przypadku jakichkolwiek wątpliwych treści najpierw szukam oryginalnego źródła i pierwszej publikacji.
- [ ] Pamiętaj o odwróceniu wyszukiwania i sprawdzeniu metadanych obrazów.
- [ ] Nie rozpowszechniam niezweryfikowanych, wątpliwych treści.
- [ ] Wiadomość potwierdzającą piszę spokojnym, przejrzystym językiem, który pokazuje, w jaki sposób ją zweryfikowałem.