Табыстар:
- Синтетикалық мәтіннің, кескіндердің, аудио және терең фейк бейнелердің түрлерін, анықтамаларын және таралу үлгілерін тану мүмкіндігі
- Дереккөзді бақылау, метадеректер, кері іздеу және мәтінмәнді тексеру арқылы синтетикалық мазмұнды күдікпен басқару және қорғаныста ұйымдық құрал ретінде жасанды интеллектті пайдалану мүмкіндігі
- Анықтау құралдары түпкілікті дәлел емес екенін, пайымдау көзге түсетінін және растау жаңалықтары сабырлы, мөлдір тілде жазылуы керек екенін түсіну қабілеті.
Жасанды интеллект журналистің ғана құралы емес; Бұл сонымен бірге оған қарсы қатердің қозғалтқышы. Бүгінгі күні сенімді жалған мәтін, шынайы болып көрінетін фотосуреттер, жоқ адамдардың бет-әлпеті және біреу ешқашан айтпаған сөйлемдерді айтатын дауыстар бірнеше минут ішінде жасалуы мүмкін. Бұлар жиынтықта синтетикалық контент (жасанды түрде өндірілген тасымалдаушылар) деп аталады; Адамның бетіне немесе дауысына шынайы еліктейтін бейне/аудио түрі терең фэйк деп аталады. Дезинформация — әдейі жалған ақпарат тарату — бұл құралдар арқылы арзан әрі жылдамырақ болды. Журналистің міндеті екі есеге артты: бұл мазмұнды жарияламау үшін де, қоғамды бұл қауіп туралы хабардар ету де. Бұл бөлімде біз қауіпті түсіну және одан қорғану үшін AI пайдалануды қарастырамыз. Негізгі принцип: Ешбір анықтау құралы түпкілікті дәлел емес; Синтетикалық мазмұнға күдік көзге және контекске түсетін классикалық тексеру арқылы шешіледі.
Синтетикалық мазмұнның түрлері мен кеңестері
Мәтін. AI еркін, бірақ бос, жалпылаумен толтырылған, құрастырылған мәтіндер жасай алады; Жалған «жаңалық сайттар» мен пікір армиялары осыған байланысты өркендеп жатыр. Нұсқау: тексерілмейтін дереккөздер, тым жалпы мәлімдемелер, тұрақты бір жақты фрейм.
Көрнекі. Жасанды бейнелерде қолдар/саусақтар, тістер, құлақтар, зергерлік бұйымдар, фондық мәтін және рефлексиялар жиі сәйкес келмейді; Бірақ технология қарқынды дамып келеді, сондықтан «өз көзіммен қарап айта аламын» деген қауіпті сенім.
Дыбыс. Шенеуніктің дауысы арқылы айтылмаған сөйлемдер жасалуы мүмкін. Кеңес: тыныс алу/кідірту табиғилығы, қоршаған дыбыстың үйлесімділігі, бірақ ең сенімді тексеру мазмұнның көзін тексеру болып табылады.
Бейне (терең фейк). Бет пен мойын/жарықтың сәйкессіздігі, көздің жыпылықтауы, ерін-дауысты синхрондауы анықтама болуы мүмкін; Дегенмен, бұл сенімді емес.
Назар аударыңыз: «AI анықтау құралы 90% жалған екенін айтады» жариялауға себеп емес. Бұл құралдар дұрыс емес; Нағыз жалғанды, жалғанды шынайы деп атай алады. Құралдың шығысы - бұл анықтама; Үкім көзге түседі.
Қадамдық: синтетикалық ингредиенттерге күдікпен күресу
1-қадам - дереккөзді табыңыз. Мазмұнды бірінші кім, қайда және қашан жариялады? Жалғыз бастапқы дереккөзге бару көптеген жалғандарды жояды.
2-қадам — метадеректерді қараңыз және кері іздеу. Кескін/бейнедегі метадеректер мен кері кескінді іздеу алдыңғы нұсқаны немесе түпнұсқаны көрсетуі мүмкін.
3-қадам — Ішкі үйлесімділікті тексеру. Жарық, көлеңке, шағылысу, қоршаған орта дыбысы, фондық нақты дүние белгілері (белгілер, ауа райы, сәулет) шағымға сәйкес келе ме?
4-қадам — Мәтінмәнді тексеріңіз. Мазмұндағы оқиғаны басқа тәуелсіз ақпарат көздері көрді ме? Шынайы оқиғаның ізі көп; бір көзден «бомба» мазмұны күмәнді.
5-қадам — Анықтау құралдарын анықтама ретінде пайдаланыңыз. AI анықтау құралдарының шығысын дәлел ретінде емес, көмекші сигнал ретінде санаңыз.
6-қадам — Мөлдір есеп беру. Егер сіз оны жарияласаңыз (фактчекинг ретінде), ненің жалған/күдікті екенін, неліктен және оны қалай тексергеніңізді көрсетіңіз.
Қорғаныста AI пайдалану
Сондай-ақ AI синтетикалық мазмұнға қарсы ұйымдастыру құралы болып табылады: ол суретте не іздеу керектігін тізеді, мәтіннің AI-мен жасалуы мүмкін белгілерін тізеді, жалған ақпарат беру науқаны туралы әңгімені талдауға көмектеседі, жұртшылық үшін түсіндірме факт-чек жобасын жасайды. Бірақ анықтаудың өзі — «бұл жалған» үкім — адамның пікірі мен дереккөзді тексеру арқылы жасалады.
үш шағын іс
1-жағдай — Жалған дауысты жазу. Шенеуніктің "отставкаға кетуі" туралы аудиожазба тарап кетті. Тілші алдымен дереккөзді іздеді: жазба бір ғана анонимді аккаунттан алынған, басқа жерде оның ізі де жоқ. Шенеуніктің командасы жазбаны қабылдамады; қоршаған орта дыбысы да сәйкес келмейтін. Тілші жазбаны жарияламады, оның орнына «тексерілмейтін аудиожазба» туралы хабарлады. Жазба кейінірек синтетикалық болып шықты.
2-жағдай — Уақыт қысымы және тоқтату рефлексі. Жер сілкінісінен кейінгі «қираған ғимараттың» суреті тез тарады. Репортер суретке кері іздеу жүргізді: фото 2 жыл бұрынғы басқа оқиғадан. 4 минуттық тексеру қате суреттің жаңалықтар сайтына кіруіне жол бермеді; Бірнеше бәсекелес сайттар оны тексермей жариялап, теріске шығарды.
3-жағдай — Анықтау құралына тым сенімділік. Редактор анықтау құралына шынайы репортердің фотосуретін енгізді; Көлік «78% жасанды» деді ол. Редактор оны баспадан алып тастамақ болды; Аға факт-тексер фотосуреттің түсірілім метадеректері мен репортердің шикі файлын көрсеткенде, фотосуреттің шынайы екені белгілі болды. Сабақ: орта қателеседі, көз сөйлейді.
Көшіретін үлгілер
1) Көрнекі синтетикалық бақылау тізімі:
Мен кескін жасанды түрде жасалуы мүмкін деп күдіктенемін. Маған тексеру керек заттардың тізімін жасаңыз: қолдар/саусақтар, тістер, зергерлік бұйымдар, фондық мәтін, шағылыстырулар, жарық-көлеңке консистенциясы, кері іздеу, метадеректер. Әрбір элементті қалай іздеу керектігін жазыңыз. Сөзсіз «жалған/шын» деп айтпаңыз; тек бақылау парағы. Көрнекі сипаттама: [мұнда]
2) Дезинформациялық әңгімені талдау:
Келесі шағым жалған ақпарат тарату науқаны болуы мүмкін. Қорытынды: (1) ол қандай эмоцияны мақсат етеді, (2) ол нені күшейтеді, (3) тексерілетін/тексерілмейтін компоненттер, (4) таралудың типтік үлгісі қандай болуы мүмкін. Әділдік туралы үкім шығару; талдау. Шағым: [мұнда]
3) халыққа арналған растау жаңалықтарының жобасы:
Мен негізгі дереккөздермен келесі мазмұнның синтетикалық/жаңашыл екенін растадым: [нәтижелердің қысқаша мазмұны]. Оқырманды хабардар ететін, дүрбелең тудырмайтын және қалай тексергенімді ашық көрсететін растау оқиғасының жобасын жазыңыз. Мен бермеген қорытындыларды қоспаңыз. Нәтижелер: [мұнда]
4) AI-генерацияланған мәтін белгілері (кеңес):
Төмендегі мәтіннің жасанды түрде жасалуы мүмкін НЕГІЗГІЛЕРДІ тізімдеңіз: тексерілмейтін дереккөздер, артық жалпылық, бір жақты жақтау, қайталанатын үлгілер. Бұл түпкілікті дәлел емес екенін атап өтіп, қандай фактілерді тексеру қажет екенін жазыңыз. Мәтін: [мұнда]
Әлсіз шақыру / Күшті шақыру
Әлсіз нұсқау: «Бұл суреттің жалған екенін айтыңыз».
Нәтиже: AI нақты көрінетін, бірақ сенімсіз «иә/жоқ» береді; Журналист бұл үкімге сүйеніп, қателесуі мүмкін.
Күшті нұсқау: "Мен бұл кескін жасанды болуы мүмкін екенін тексеретін белгілердің тізімін жасаңыз және олардың әрқайсысын қалай іздейтінімді жазыңыз. Ешқандай түпкілікті қорытынды жасамаңыз; нақты тексеру көзге қайта оралып, кері іздеу жүргізіп жатқанын көрсетіңіз."
Айырмашылық: күшті шақыру AI-ді анықтамалық генераторға дейін азайтып, пікірді көзге және журналистке қалдырып, құралдың қателік шегін көрсетеді.
салыстыру диаграммасы
Мазмұн түрі
Әлсіз анықтамалар
Ең сенімді басқару
АИ рөлі
мәтін
Жалпы, ойдан шығарылған дереккөз
көзге түсіңіз
Қол қою тізімі
көрнекі
Қол/тіс/жазба сәйкес келмеуі
Кері іздеу + метадеректер
бақылау парағы
дыбыс
Тыныс алу/қоршаған ортаның сәйкес келмеуі
Дереккөзді және контекстті растау
Не іздеу керек
Бейне (терең жалған)
Жарық/синхрондау сәйкессіздігі
Түпнұсқа дереккөз, айқас расталған
Талдауға көмек
Жалпы қателер
- Анықтау құралын дәлел ретінде қарастыру. Көлік құралының пайызын жариялау себебін жасау; құралдар екі бағытта да қателеседі.
- «Көру арқылы айта аламын» деген сенімділік. Синтетикалық көрнекіліктер тез жақсаруда; Тек визуалды интуиция жеткіліксіз.
- Дереккөзге бармайды. Жалғандардың көпшілігі оларды жариялаған бастапқы дереккөз табылған кезде жойылады; Бұл қадамды өткізіп жіберу қате.
- Күдіктіні тарату. «Оның рас па, жоқ па, көрейік» деп күдікті мазмұнды бөлісу жалған ақпарат береді.
- Дүрбелең тілі. Растау жаңалықтарындағы дабыл үні түзету кезінде жаңа қорқынышты таратады; Сабырлы және ашық жазыңыз.
Диффузия жылдамдығы және «бас тарту тұзағы»
Дезинформацияның нақты күші мазмұнның өзінде емес, оның таралу жылдамдығында. Ашуды немесе қорқынышты тудыратын эмоционалды арандатушылық мазмұн тексерілген жаңалықтарға қарағанда әлдеқайда жылдам таратылады; Жалған мазмұн бірнеше сағат ішінде миллиондарға жетсе, редакциялау көбінесе әлдеқайда аз адамдарға жетеді. Бұл асимметрия журналистке ерекше жауапкершілік жүктейді: күмәнді мазмұнды бөлісу, тіпті «қараңызшы, қандай күлкілі» деп айтса да, оған қолжетімділік береді. Бұл оттегімен қанықтыру деп аталады - өтірікті жоққа шығару үшін қайталау оны күшейтеді.
Бұған қарсы құрал фактчекингтегі «шындық сэндвичі» әдісі болып табылады: жалған мәлімдемені қайталамас бұрын шындықты айтыңыз, содан кейін шағымның неге жалған екенін көрсетіңіз, содан кейін шындықты соңында қайталаңыз. Осылайша оқырманның санасында қателік емес, шындық қалады. AI осы құрылымға сәйкес факт-тексеру тарихын құруға көмектесе алады; Бірақ қай шындықты алға тартып, үрей туғызбай тілге жеткізу – редакциялық шешім. Тағы бір тәжірибе: жалған ақпаратты толтыру дегеніміз не? Адамдар сенімді ақпараттың болмауына байланысты жалған мазмұнды жиі қабылдайды; Бұл олқылықты жылдам, дәл және қолжетімді жаңалықтармен толтыру - бірінен соң бірі өтірік қуудан гөрі тиімді қорғаныс.
Қысқаша айтқанда
Синтетикалық мазмұн мен терең фейктер дезинформацияны арзандатып, жеделдетті; Журналистің міндеті – бұны жарияламай, халыққа жеткізу. Анықтау құралдары мен AI анықтамалар мен ұйымдастыруды қамтамасыз етеді, бірақ нақты дәлел емес. Пікір көзге, метадеректерге және кері іздеуге, ішкі үйлесімділікке және тәуелсіз контекстке өту арқылы жасалады. Растау жаңалықтары оның қалай тексерілгенін көрсететін сабырлы, мөлдір тілде жазылған.
Қолданбалы тапсырма
Күдікті деп ойлайтын визуалды немесе аудио мазмұнды табыңыз. «Көрнекі синтетикалық тексеру тізімі» (немесе дыбысқа бейімделу) сұрауын орындаңыз; шынымен әрбір элементті тексеріп, іздеуді кері қайтарыңыз. Нәтижені «нақты/жалған/жеткіліксіз дәлелдер» деп бағалаңыз және оны анықтау құралына ғана сенген болсаңыз, оны қабылдайтын шешіммен салыстырыңыз.
бақылау парағы
- [ ] Мен анықтау құралдарының нәтижесін дәлел ретінде емес, анықтама ретінде қарастырамын.
- [ ] Кез келген күмәнді мазмұн үшін мен бастапқы дереккөзді және бірінші жарияланымды іздеймін.
- [ ] Мен кері іздеуді және метадеректерді суреттерді тексеруді қамтамасыз етемін.
- [ ] Мен тексерілмеген күмәнді мазмұнды таратпаймын.
- [ ] Мен растау жаңалықтарын қалай тексергенімді көрсететін сабырлы, мөлдір тілде жазамын.