Печалби:
- Възможност за систематична проверка на твърдение чрез произход, достоверност на източника и независими стъпки за кръстосана проверка
- Способност да се разбере, че самият изкуствен интелект може да произведе невярна информация чрез халюцинации, пристрастия към данните за обучението и ласкателство, и да се отнасяме към продукцията му с допълнително подозрение
- Възможност за тестване на отклонение чрез маркиране на резултата с ясен етикет за ниво на достоверност и оценка на едно и също събитие от различни гледни точки
Дипломацията работи с информация и стойността на информацията зависи от нейната точност. Брифинг, преговорна позиция или публично изявление, базирано на невярна информация, води до последици, които трудно могат да бъдат обърнати. Ето защо едно от най-важните умения на дипломата е проверката на източника: систематично оценяване откъде идва твърдението, колко надеждно е то и дали всъщност е вярно. В този модул ще научите как да включите изкуствения интелект в проверката; но ще научите как да го използвате, като имате предвид, че самият AI може да бъде източник на дезинформация и пристрастия.
Нека първо разделим трите понятия. Дезинформация: неправилна информация, разпространявана неволно. Дезинформация: дезинформация, която съзнателно, целенасочено се произвежда и разпространява. Предразсъдък: систематично изместване на информация или оценка към определена страна. Дипломатът трябва да бъде нащрек и за трите, а ИИ може да бъде както помощ, така и риск и при трите.
Стъпка по стъпка: проверка на иск
1. Изложете ясно твърдението. Какво точно трябва да се провери? Сведете го до едно, ясно твърдение като „Страната X се оттегли от споразумение Y.“ Неясни твърдения не могат да бъдат проверени.
2. Намерете своя произход. Къде, кога и от кого е направено това твърдение за първи път? Повечето дезинформация произхожда от един съмнителен източник и се разширява. Върнете се към източника.
3. Оценете достоверността на източника. Официален, независим или пристрастен ли е източникът? Той предоставял ли е точна информация в миналото? Той има ли личен интерес от това? Дори надежден източник може да греши; но източник с ниска степен на доверие изисква допълнително потвърждение.
4. Кръстосана проверка. Потвърдете твърдението с поне два независими надеждни източника. 50 сайта, захранвани от една и съща информационна агенция, не са независими източници.
5. Тествайте вътрешната последователност и контекст. Искът вътрешно последователен ли е? Противоречи ли на известни факти? Извадено от контекста? Истинското изречение може да бъде подвеждащо в грешен контекст.
6. Отбележете резултата с нивото на достоверност. Дайте ясен етикет като „проверен“, „частично проверен“, „единствен източник“, „не може да бъде проверен“, „невярно“. Дори „не съм сигурен“ е заключение и трябва да се каже честно.
Съвет: Колкото повече дадено твърдение резонира или предизвиква емоционална реакция, толкова по-щателен трябва да сте в проверката му. Дезинформацията е насочена към самата емоция на гняв, страх или „новините, които искаме“. Информацията, която ви подтиква да предприемете действие бързо, често е информацията, която се нуждае от най-голяма проверка.
Самият AI е източник на риск
Най-важното предупреждение на тази единица: AI не е орган за проверка; Самият той може да генерира дезинформация и пристрастия. AI може да подведе по три начина:
1. Халюцинация: Представя несъществуващ източник, цитат или събитие като реални. „Кой източник потвърждава това твърдение?“ Когато попитате, той може дори да ви даде измислено име на източника.
2. Пристрастие към данните за обучение: AI отразява доминиращата гледна точка в текстовете, върху които се обучава. Ако гледната точка на една част от света по конкретен въпрос доминира в данните, AI може да повлияе по този начин. Това не е умишлено, а отражение на данните - но резултатът все още е предубеден резултат.
3. Подлизурство: AI може да е склонен да отговори на въпроса по начин, който ви харесва. Ако искате да потвърдите твърдение, то има тенденция да произвежда отговор, който го подкрепя.
Затова използвайте AI като инструмент за проверка (редактиране на източници, маркиране на конфликти, помощ при проследяване на произхода), но никога не приемайте AI, че „това е вярно“ като последна дума.
Внимание: Когато накарате AI да провери източник, проверете дали AI ви показва истински източник или създава правдоподобно изглеждаща измислица. Не го считайте за „потвърдено“, докато не отворите самостоятелно и видите всяко име на източник, връзка и цитат, които той дава. Измислен от AI източник може да изглежда по-убедителен от истински източник.
три мини калъфа
Случай 1 — Запазена проверка на произхода. Екранна снимка на „официално съобщение“ падна на масата и изглеждаше истинска. Проверката показа, че няма такова изявление по официалните канали на тази институция; изображението беше фалшиво. Проверката на произхода предотврати влизането на фалшиво изявление на брифинга.
Случай 2 — Изработен от AI източник. Експерт накара AI да провери статистика. YZ цитира източник, като каза „според доклада от 2023 г. на тази организация...“ Той се обади на експертния източник: нямаше нито такъв доклад, нито такава цифра; AI беше измислил и двете. Независима проверка улови изфабрикувано „потвърждение“.
Случай 3 — Изместване на отклонение. Експерт накара изкуствения интелект да обобщи противоречиво събитие и забеляза, че резултатът е ясно близък до разказа на едната страна. Когато попитах отново „обобщете същото събитие от гледната точка на другата страна“, се появи много различна картина. Сравняването на двата резултата предотврати въвеждането на едностранна рамка в доклада.
Четири копируеми шаблона
1) Протокол за проверка на иска:
Вашата роля: валидиращ анализатор. За следното твърдение: (1) намалете твърдението до изречение nettek, (2) намерете къде/кога е споменато за първи път в източниците, които дадох, (3) колко НЕЗАВИСИМИ източника го подкрепят, (4) има ли противоречиви източници, (5) маркирайте резултата с един от следните етикети: проверен / единичен източник / противоречив / непроверен. Изработка на източник; Просто използвай това, което ти давам. Твърдение+източници: [тук]
2) Тестване на отклонение от AI:
Първо, обобщете следния инцидент възможно най-обективно. След това обобщете СЪЩОТО събитие отделно (а) от гледната точка на страна А, (б) от гледната точка на страна Б. Избройте разликите между трите версии. Така може да се види кои точки са тълкуването на страните и кои са общите факти. Дело/източници: [тук]
3) Оценка на надеждността на източника:
Оценете за следния източник: тип (официален/независим/пристрастен/анонимен), потенциален интерес към въпроса, предоставена информация относно достоверността в миналото, допълнителни стъпки, необходими за проверка. Също така напишете защо източникът може да е грешен. Източник: [тук]
4) Червени знамена за дезинформация:
Сканирайте съдържанието по-долу за дезинформация. Потърсете тези флагове: статистика без източник, провокиращ емоция език, изображения без контекст, натиск „бързайте/споделете“, непроверима авторитетна дума, едновременно координирано разпространение. Отбележете всяка констатация с обосновка. Не правете окончателни присъди. Съдържание: [тук]
Слаба подкана / Силна подкана
Слаба подкана:
Вярно ли е това твърдение? Потърсете онлайн и ме уведомете.
AI казва "вярно" не е проверка; Той може да даде фалшиви източници или да даде предубеден или ласкателен отговор.
Мощна подкана:
Вашата роля: анализатор за проверка. По-долу е твърдение и източниците, които събрах. Не ми казвай "правилно/грешно"; Вместо това: покажете произхода на твърдението, броя на независимите източници, всички противоречия и нивото на доверие. Не излизайте извън посочените от мен източници, не си измисляйте източници. Ако не сте сигурни, маркирайте го като „изисква човешка проверка“. Твърдение+източници: [тук]
Разликата е ясна: изискването за произход, независимо потвърждение и ниво на доверие, а не преценка „вярно/невярно“ ограничава рисковете от ИИ.
Таблица със статуси на проверка
Етикет
Значение
Използване в отчета
Проверен
Поне 2 независими надеждни източника
Може да се използва като калъф
Частично потвърдено
Някои потвърдиха
Ограничено, с обяснение
един източник
Само един източник
Като "претенция" се изисква потвърждение
противоречиви
Източниците не съвпадат
Представено като несигурност
Не може да се потвърди
Няма намерено потвърждение
Не се използва като факт
грешно
Обратното е доказано
Като корекция в отчета
Често срещани грешки
- Като се има предвид, че AI казва „правилно“ като валидиране. AI може да фабрикува, пристрастие или поддръжник.
- Отваряне на източника, даден от AI, и приемането му, без да се вижда. Изфабрикуваните източници изглеждат убедителни.
- Проверка на малко информация, която отговаря на вашите нужди. Емоционалната/подходяща информация е информацията, която изисква най-много потвърждение.
- Погрешно приемайки изобилието от копия като потвърждение. Стотици сайтове, захранващи се от един и същи източник, са един източник.
- Изобщо не тества пристрастия. Обобщаването на едно и също събитие от различни гледни точки осигурява баланс.
В обобщение
Проверката на източника е в основата на дипломатическото познание, а AI е едновременно помощ и риск в тази работа. AI организира източниците, помага при проследяване на произхода и маркиране на конфликти; но самата тя може да генерира дезинформация поради халюцинации, пристрастия към данните за обучението и ласкателство. Проследяване на произхода, независима кръстосана проверка, разделяне на достоверността на източника на информация, маркиране на ниво на доверие и допълнителни съмнения относно изхода на AI са гръбнакът на това устройство.
Задача за приложение
Изберете актуално, противоречиво твърдение и съберете източници от различни жанрове. Оценете твърдението за произход и независима проверка с „протокола за проверка на твърдението“. С „теста за пристрастия на AI“ обобщете едно и също събитие от различни гледни точки и избройте разликите. Ако AI предоставя ресурс, отворете го независимо и проверете дали действително съществува.
контролен списък
- [ ] Сведох твърдението до едно ясно изречение и потърсих произхода му.
- [ ] Направих кръстосана проверка с поне два независими надеждни източника.
- [ ] Проверих независимо всеки източник, предоставен от AI.
- [ ] Тествах отклонението, като обобщих едно и също събитие от различни гледни точки.
- [ ] Маркирах резултата с ясен етикет за ниво на достоверност.