Добивки:
- Способност систематски да се потврди барањето преку потеклото, кредибилитетот на изворот и независните чекори за вкрстена проверка
- Способност да се разбере дека самата вештачка интелигенција може да произведе лажни информации преку халуцинации, пристрасност на податоците за обука и ласкање, и да се третира нејзиниот резултат со дополнително сомневање
- Способност да се тестира пристрасноста со означување на резултатот со јасна ознака за ниво на доверба и оценување на истиот настан од различни перспективи
Дипломатијата работи со информации, а вредноста на информацијата зависи од нејзината точност. Брифинг, преговарачка позиција или јавна изјава заснована на неточни информации има последици кои тешко се менуваат. Затоа, една од најсуштинските вештини на дипломатот е проверка на изворот: систематско оценување од каде потекнува тврдењето, колку е веродостојно и дали е навистина точно. Во оваа единица, ќе научите како да ја вклучите вештачката интелигенција во верификацијата; но ќе научите како да го користите, имајќи на ум дека самата вештачка интелигенција може да биде извор на дезинформации и пристрасност.
Ајде прво да ги одвоиме трите концепти. Дезинформации: неточни информации се шират ненамерно. Дезинформации: дезинформации кои се свесно, насочени произведени и шират. Предрасуди: систематско префрлање на информациите или евалуацијата кон одредена страна. Дипломатот мора да биде внимателен за сите три, а вештачката интелигенција може да биде и помош и ризик за сите три.
Чекор по чекор: потврдување на барањето
1. Јасно наведете го барањето. Што точно треба да се потврди? Сведете го на едно, јасно тврдење како „Земјата X се повлече од договорот Y“. Нејасните тврдења не можат да се потврдат.
2. Најдете го вашето потекло. Каде, кога и од кого првпат беше изнесено ова тврдење? Повеќето дезинформации потекнуваат од еден сомнителен извор и се засилуваат. Врати се на изворот.
3. Оценете ја веродостојноста на изворот. Дали изворот е официјален, независен или пристрасен? Дали тој даваше точни информации во минатото? Дали тој има интерес во ова? Дури и сигурен извор може да биде погрешен; но извор со низок кредибилитет бара дополнителна потврда.
4. Вкрстена проверка. Потврдете го тврдењето со најмалку два независни, сигурни извори. 50 страници што ги храни истата новинска агенција не се независни извори.
5. Тестирајте ја внатрешната конзистентност и контекст. Дали барањето е внатрешно конзистентно? Дали е во спротивност со познатите факти? Извадени од контекст? Вистинската реченица може да биде погрешна во погрешен контекст.
6. Обележете го резултатот со нивото на доверба. Наведете јасна ознака како „проверено“, „делумно потврдено“, „единствен извор“, „не може да се потврди“, „неточно“. Дури и „не сум сигурен“ е заклучок и треба искрено да се каже.
Совет: Колку повеќе тврдењето резонира или предизвикува емоционален одговор, толку попрецизно треба да го потврдите. Дезинформациите се насочени кон самата емоција на гнев, страв или „вестите што ги сакаме“. Информациите што ве поттикнуваат да преземете акција брзо се често информациите на кои им треба најмногу проверка.
Самата вештачка интелигенција е извор на ризик
Најважното предупредување на оваа единица: ВИ не е орган за верификација; Тоа само по себе може да генерира дезинформации и пристрасност. ВИ може да доведе во заблуда на три начини:
1. Халуцинација: Претставува непостоечки извор, цитат или настан како вистински. „Кој извор го потврдува ова тврдење? Кога ќе побарате, тој може дури и да ви даде измислено изворно име.
2. Пристрасност на податоците за обуката: ВИ ја одразува доминантната перспектива во текстовите на кои се обучува. Ако погледот на еден дел од светот за одредено прашање доминира во податоците, вештачката интелигенција може да се ниша на тој начин. Ова не е намерно, туку одраз на податоците - но резултатот е сепак пристрасен излез.
3. Сикофанст: вештачката интелигенција може да има тенденција да одговори на прашањето на начин што ќе ве задоволи. Ако сакате да потврдите барање, тоа има тенденција да произведе одговор што го поддржува.
Затоа, користете вештачка интелигенција како алатка за верификација (уредување извори, означување конфликти, помош за следење на потеклото), но никогаш не земајте ја вештачката интелигенција велејќи „ова е вистина“ како последен збор.
Внимание: Кога вештачката интелигенција ќе потврди извор, проверете дали вештачката интелигенција ви покажува вистински извор или произведува измислица што изгледа веродостојно. Немојте да го сметате за „проверено“ додека самостојно не го отворите и не го видите секое име на изворот, врската и цитатот што тој го дава. Изворот смислен со вештачка интелигенција може да изгледа поубедлив од вистински извор.
три мини футроли
Случај 1 - Потврдата за потекло е зачувана. На масата падна скриншот од „официјална најава“ и изгледаше реално. Проверката покажа дека нема таква изјава на официјалните канали на таа институција; сликата беше лажна. Проверката на потекло спречи лажна изјава да влезе на брифингот.
Случај 2 - измислен извор со вештачка интелигенција. Експерт побара од вештачката интелигенција да потврди статистика. YZ цитира извор велејќи дека „според извештајот на оваа организација за 2023 година...“ Тој го повика експертскиот извор: немало ниту таков извештај ниту таква бројка; Вештачката интелигенција ги сочинуваше и двете. Независната проверка фати фабрикувана „потврда“.
Случај 3 - Неутрализирање на пристрасност. Експерт побара од вештачката интелигенција да резимира контроверзен настан и забележа дека резултатот е јасно блиску до наративот на едната страна. Кога повторно прашав „резимирајте го истиот настан од перспектива на другата страна“, се појави многу поинаква слика. Споредувањето на двата исхода спречи воведување на еднострана рамка во извештајот.
Четири шаблони за копирање
1) Протокол за верификација на приговорот:
Вашата улога: аналитичар за валидација. За следното тврдење: (1) намалете го тврдењето на реченица nettek, (2) најдете каде/кога првпат е спомнато во изворите што ги дадов, (3) колку НЕЗАВИСНИ извори го поддржуваат, (4) дали има конфликтни извори, (5) означете го резултатот со една од следните ознаки: проверен / единствен извор / контрадикторен / непроверен. Изработка на извор; Само искористете го тоа што ви го давам. Приговор+извори: [тука]
2) Тестирање пристрасност на вештачката интелигенција:
Прво, сумирајте го следниот инцидент што е можно пообјективно. Потоа резимирајте го ИСТИОТ настан одделно (а) од гледиштето на партијата А, (б) од погледот на партијата Б. Наведете ги разликите помеѓу трите верзии. Така, може да се види кои точки се толкувањето на странките, а кои се заедничките факти. Случај/извори: [тука]
3) Проценка на доверливоста на изворот:
Оценете за следниот извор: тип (официјален/независен/пристрасен/анонимен), потенцијален интерес за ова прашање, обезбедени информации за кредибилитетот на минатото, дополнителни чекори потребни за верификација. Запишете и зошто изворот може да не е во ред. Извор: [тука]
4) Црвени знамиња за дезинформации:
Скенирајте ја содржината подолу за дезинформации. Побарајте ги овие знамиња: статистика без извори, јазик што предизвикува емоции, слики без контекст, притисок „брзајте/споделете“, непроверлив авторитетен збор, истовремено координирано ширење. Обележете го секој наод со оправдување. Не донесувајте конечни пресуди. Содржина: [тука]
Слаб промпт / Силен промпт
Слаба навестување:
Дали е ова тврдење точно? Пребарајте онлајн и известете ме.
Вештачката интелигенција да каже „точно“ не е верификација; Тој може да даде лажни извори или да даде пристрасен или ласкав одговор.
Моќен потсетник:
Вашата улога: аналитичар за верификација. Подолу е тврдењето и изворите што ги собрав. Не ми кажувај „точно/погрешно“; Наместо тоа: покажете го потеклото на тврдењето, бројот на независни извори, какви било противречности и нивото на доверба. Не оди подалеку од изворите што ги дадов, не измислувај извори. Ако не сте сигурни, означете го како „потребна е човечка проверка“. Приговор+извори: [тука]
Разликата е јасна: барањето потекло, независна потврда и ниво на доверба наместо „вистинито/лажно“ расудување ги ограничува ризиците од вештачката интелигенција.
Табела со статуси за верификација
Етикета
Значење
Употреба во извештајот
Потврдено
Најмалку 2 независни доверливи извори
Може да се користи како футрола
Делумно потврдено
Некои потврдија
Ограничено, со објаснување
единствен извор
Само еден извор
Како „тврдење“, потребна е потврда
контрадикторни
Изворите не се совпаѓаат
Претставено како неизвесност
Не може да се потврди
Не е пронајдена потврда
Не се користи како факт
погрешно
Спротивното е докажано
Како корекција во извештајот
Вообичаени грешки
- Сметајќи ја вештачката интелигенција изреката „точно“ како потврда. Вештачката интелигенција може да фабрикува, да пристрасува или да гази.
- Отворање на изворот даден од ВИ и прифаќање без да го видите. Измислените извори изгледаат убедливи.
- Потврдување на малку информации што одговараат на вашите потреби. Емоционална/соодветна информација е информацијата која бара најмногу потврда.
- Грешка на изобилството на копии како потврда. Стотици локации кои се хранат од ист извор се единствен извор.
- Воопшто не се тестира пристрасноста. Сумирањето на истиот настан од различни перспективи обезбедува рамнотежа.
Сумирано
Проверката на изворот е основа на дипломатското знаење, а вештачката интелигенција е и помош и ризик во оваа работа. ВИ организира извори, помага при следење на потеклото и означување на конфликти; но самиот може да генерира дезинформации поради халуцинации, пристрасност на податоците за обуката и ласкање. Следење на потеклото, независна вкрстена проверка, поделба на кредибилитетот на извор-информации, означување на ниво на доверба и дополнителни сомневања за излезот на вештачката интелигенција се столбот на оваа единица.
Задача за апликација
Изберете актуелно, контроверзно тврдење и соберете извори од различни жанрови. Оценете го барањето за потекло и независна проверка со „протоколот за верификација на побарувањето“. Со „тестот за пристрасност на АИ“, сумирајте го истиот настан од различни перспективи и наведете ги разликите. Ако вештачката интелигенција дава ресурс, отворете го независно и проверете дали навистина постои.
листа за проверка
- [ ] Го намалив тврдењето на една јасна реченица и го барав неговото потекло.
- [ ] Проверив со најмалку два независни доверливи извори.
- [ ] Независно го потврдив секој извор обезбеден од вештачката интелигенција.
- [ ] Ја тестирав пристрасноста со сумирање на истиот настан од различни перспективи.
- [ ] Го означив резултатот со јасна ознака за нивото на доверба.