Добици:
- Способност систематске провере тврдње путем порекла, кредибилитета извора и независних корака унакрсне провере
- Способност да се разуме да вештачка интелигенција сама по себи може да произведе лажне информације кроз халуцинације, пристрасност података о обуци и ласкање, и да се према њеним резултатима третира са додатном сумњом
- Способност тестирања пристрасности означавањем резултата јасном ознаком нивоа поузданости и проценом истог догађаја из различитих перспектива
Дипломатија ради са информацијама, а вредност информација зависи од њихове тачности. Брифинг, преговарачка позиција или јавна изјава заснована на нетачним информацијама има последице које је тешко преокренути. Зато је једна од најважнијих дипломатских вештина верификација извора: систематска процена одакле нека тврдња долази, колико је поуздана и да ли је заиста истинита. У овој јединици ћете научити како да укључите вештачку интелигенцију у верификацију; али научићете како да га користите имајући на уму да сама вештачка интелигенција може бити извор дезинформација и пристрасности.
Хајде да прво раздвојимо три концепта. Дезинформације: нетачне информације се ненамерно шире. Дезинформације: дезинформације које се свесно, циљано производе и шире. Предрасуде: систематско померање информација или евалуације на одређену страну. Дипломата мора бити на опрезу за сва три, а АИ може бити и помоћ и ризик у сва три.
Корак по корак: верификација захтева
1. Јасно наведите тврдњу. Шта тачно треба проверити? Сведите то на једну, јасну тврдњу попут „Земља Кс се повукла из споразума И“. Неразјашњене тврдње се не могу верификовати.
2. Пронађите своје порекло. Где, када и ко је први пут изнео ову тврдњу? Већина дезинформација потиче из једног сумњивог извора и појачава се. Врати се извору.
3. Оцените веродостојност извора. Да ли је извор званичан, независан или пристрасан? Да ли је дао тачне информације у прошлости? Да ли он има интерес у овоме? Чак и поуздан извор може погрешити; али извор ниске веродостојности захтева додатну потврду.
4. Унакрсна провера. Потврдите тврдњу са најмање два независна, поуздана извора. 50 сајтова које храни иста новинска агенција нису независни извори.
5. Тестирајте интерну доследност и контекст. Да ли је тврдња интерно конзистентна? Да ли је то у супротности са познатим чињеницама? Извучено из контекста? Права реченица може да доведе у заблуду у погрешном контексту.
6. Означите резултат нивоом поузданости. Дајте јасну ознаку као што је „проверено“, „делимично верификовано“, „једини извор“, „не може бити верификовано“, „нетачно“. Чак и „нисам сигуран“ је закључак и треба га рећи искрено.
Савет: Што више тврдња има одјека или изазива емоционални одговор, то би требало да будете пажљивији у њеној провери. Дезинформације циљају на саму емоцију беса, страха или „вести које желимо“. Информације које вас подстичу да брзо предузмете радњу су често оне које највише захтевају проверу.
Сама АИ је извор ризика
Најважније упозорење ове јединице: АИ није ауторитет за верификацију; Сама може да генерише дезинформације и пристрасност. АИ може да обмане на три начина:
1. Халуцинација: Непостојећи извор, цитат или догађај представља стварним. „Који извор потврђује ову тврдњу? Када питате, можда ће вам чак дати и измишљено име извора.
2. Пристрасност података о обуци: АИ одражава доминантну перспективу у текстовима на којима се обучава. Ако поглед једног дела света на одређено питање доминира подацима, вештачка интелигенција може да утиче на тај начин. Ово није намерно, већ одраз података — али резултат је и даље пристрасан резултат.
3. Подличност: АИ можда тежи да одговори на питање на начин који вам одговара. Ако желите да потврдите тврдњу, она има тенденцију да произведе одговор који то подржава.
Зато користите вештачку интелигенцију као алат за верификацију (уређивање извора, означавање сукоба, помоћ у праћењу порекла), али никада не узимајте вештачку интелигенцију која каже „ово је истина“ као последњу реч.
Опрез: Када имате АИ да потврди извор, проверите да ли вам АИ показује прави извор или производи измишљотину која изгледа уверљиво. Немојте га сматрати „провереним“ док не отворите и видите свако име извора, везу и цитат који он даје. Извор који је измислила вештачка интелигенција може изгледати убедљивије од стварног извора.
три мини кофера
Случај 1 — Верификација порекла је сачувана. Снимак екрана "званичног саопштења" пао је на сто и изгледао је стварно. Провера је показала да на званичним каналима те институције није било такве изјаве; слика је била лажна. Провера порекла спречила је лажну изјаву да уђе у брифинг.
Случај 2 — извор направљен од вештачке интелигенције. Експерт је дао АИ да потврди статистику. ИЗ је цитирао извор рекавши „према извештају ове организације из 2023. године...“ Он је позвао експертски извор: није било ни таквог извештаја ни такве бројке; АИ је измислио обоје. Независна провера ухватила је измишљену „потврду“.
Случај 3 — Биас оффсет. Експерт је натерао АИ да сумира контроверзни догађај и приметио да је резултат био изразито близак нарацији једне стране. Када сам поново питао „сажмите исти догађај из перспективе друге стране“, појавила се сасвим другачија слика. Поређење ова два исхода спречило је увођење једностраног оквира у извештај.
Четири шаблона за копирање
1) Протокол верификације потраживања:
Ваша улога: аналитичар валидације. За следећу тврдњу: (1) свести тврдњу на неттек реченицу, (2) пронађи где/када се први пут помиње у изворима које сам навео, (3) колико НЕЗАВИСНИХ извора то подржава, (4) да ли постоје конфликтни извори, (5) означите резултат једном од следећих ознака: верификовано / појединачни извор / контрадикторно / непроверено. Израда извора; Само искористи оно што ти дам. Тврдња+извори: [овде]
2) Тестирање АИ пристрасности:
Прво, резимирајте следећи инцидент што је могуће објективније. Затим сумирајте ИСТИ догађај одвојено (а) из гледишта стране А, (б) из гледишта стране Б. Наведите разлике између три верзије. Тако се види које су тачке тумачење странака, а које заједничке чињенице. Случај/извори: [овде]
3) Процена поузданости извора:
Процените за следећи извор: тип (званичан/независан/пристрасан/анониман), потенцијално интересовање за ствар, пружене информације о веродостојности из прошлости, додатни кораци потребни за верификацију. Такође запишите зашто би извор могао бити погрешан. Извор: [овде]
4) Дезинформације црвене заставице:
Скенирајте садржај испод за дезинформације. Потражите ове заставице: статистике без извора, језик који изазива емоције, слике без контекста, притисак „пожурите/делите“, непроверљива реч ауторитета, истовремено координирано ширење. Означите сваки налаз са оправдањем. Немојте доносити коначне пресуде. Садржај: [овде]
Слаби промпт / Јаки промпт
Слабо обавештење:
Да ли је ова тврдња тачна? Претражите на мрежи и обавестите ме.
АИ каже "тачно" није верификација; Он може дати лажне изворе или дати пристрасан или ласкав одговор.
Снажан упит:
Ваша улога: верификациони аналитичар. Испод је тврдња и извори које сам прикупио. Немојте ми рећи „тачно/погрешно“; Уместо тога: покажите порекло тврдње, број независних извора, све противречности и ниво поверења. Не иди даље од извора које сам дао, не измишљај изворе. Ако нисте сигурни, означите то као „захтева људску верификацију“. Тврдња+извори: [овде]
Разлика је јасна: захтевање порекла, независне потврде и нивоа поверења, а не „тачно/лажно” просуђивање ограничава ризике од АИ.
Табела статуса верификације
Лабел
Значење
Употреба у извештају
Верифиед
Најмање 2 независна поуздана извора
Може се користити као футрола
Делимично потврђено
Неки су потврдили
Ограничено, са објашњењем
један извор
Само један извор
Као "тврдња", потребна је потврда
контрадикторно
Извори се не поклапају
Представљен као неизвесност
Није могуће потврдити
Није пронађена потврда
Не користи се као чињеница
погрешно
Доказано је супротно
Као исправка у извештају
Уобичајене грешке
- Узимајући у обзир АИ изреку „тачно“ као валидацију. АИ може да измишља, пристрасне или повлађује.
- Отварање извора који је дао АИ и прихватање без његовог виђења. Измишљени извори делују убедљиво.
- Провера мало информација које одговарају вашим потребама. Емоционална/прикладна информација је информација која захтева највише потврде.
- Погрешити обиље копија као потврду. Стотине сајтова који се хране из истог извора су један извор.
- Уопште не тестира пристрасност. Сумирање истог догађаја из различитих перспектива даје равнотежу.
Укратко
Провера извора је основа дипломатског знања, а АИ је и помоћ и ризик у овом послу. АИ организује изворе, помаже у праћењу порекла и означавању сукоба; али сама може да генерише дезинформације због халуцинација, пристрасности података о обуци и ласкања. Праћење порекла, независна унакрсна провера, одвајање веродостојности извора и информација, означавање нивоа поверења и додатна сумња у АИ излаз су окосница ове јединице.
Задатак апликације
Одаберите актуелну, контроверзну тврдњу и прикупите изворе из различитих жанрова. Процените тврдњу за порекло и независну верификацију помоћу „протокола верификације потраживања“. Са „тестом пристрасности АИ“, сумирајте исти догађај из различитих перспектива и наведите разлике. Ако АИ даје ресурс, отворите га независно и проверите да ли заиста постоји.
контролна листа
- [ ] Тврдњу сам свео на једну јасну реченицу и потражио њено порекло.
- [ ] Унакрсно сам проверио са најмање два независна поуздана извора.
- [ ] Независно сам проверио сваки извор који је обезбедила АИ.
- [ ] Тестирао сам пристрасност сумирајући исти догађај из различитих перспектива.
- [ ] Означио сам резултат јасном ознаком нивоа поузданости.