zisky:
- Schopnosť systematicky overovať tvrdenie prostredníctvom pôvodu, dôveryhodnosti zdroja a nezávislých krokov krížovej kontroly
- Schopnosť pochopiť, že samotná umelá inteligencia môže produkovať nepravdivé informácie prostredníctvom halucinácií, skreslenia trénovacích údajov a lichôtok a zaobchádzať s jej výstupmi s extra podozrením
- Schopnosť testovať zaujatosť označením výsledku jasným štítkom úrovne spoľahlivosti a vyhodnotením rovnakej udalosti z rôznych perspektív
Diplomacia pracuje s informáciami a hodnota informácií závisí od ich presnosti. Brífing, vyjednávacia pozícia alebo verejné vyhlásenie založené na nesprávnych informáciách má dôsledky, ktoré je ťažké zvrátiť. Preto je jednou z najdôležitejších zručností diplomata overovanie zdroja: systematické vyhodnocovanie toho, odkiaľ tvrdenie pochádza, nakoľko je spoľahlivé a či je skutočne pravdivé. V tejto lekcii sa naučíte, ako začleniť umelú inteligenciu do overovania; ale naučíte sa, ako ho používať, pričom budete mať na pamäti, že samotná AI môže byť zdrojom dezinformácií a zaujatosti.
Najprv oddeľme tri pojmy. Dezinformácie: nesprávne informácie sa šíria neúmyselne. Dezinformácie: dezinformácie, ktoré sú vedome, cielene vyrábané a šírené. Predsudok: systematické posúvanie informácií alebo hodnotenia na určitú stranu. Diplomat musí dávať pozor na všetky tri a AI môže byť pomocou aj rizikom vo všetkých troch.
Krok za krokom: overenie nároku
1. Jasne uveďte nárok. Čo presne treba overiť? Zredukujte to na jediné, jasné tvrdenie ako „Krajina X odstúpila od dohody Y“. Fuzzy tvrdenia nie je možné overiť.
2. Nájdite svoj pôvod. Kde, kedy a kým bolo toto tvrdenie prvýkrát vznesené? Väčšina dezinformácií pochádza z jediného pochybného zdroja a je rozšírená. Vráťte sa k zdroju.
3. Zhodnoťte dôveryhodnosť zdroja. Je zdroj oficiálny, nezávislý alebo zaujatý? Poskytol v minulosti presné informácie? Má o to záujem? Aj spoľahlivý zdroj sa môže mýliť; ale zdroj s nízkou dôveryhodnosťou si vyžaduje dodatočné potvrdenie.
4. Krížová kontrola. Tvrdenie potvrďte aspoň dvoma nezávislými a spoľahlivými zdrojmi. 50 stránok kŕmených tou istou tlačovou agentúrou nie sú nezávislé zdroje.
5. Otestujte vnútornú konzistenciu a kontext. Je tvrdenie vnútorne konzistentné? Je to v rozpore so známymi faktami? Vytrhnuté z kontextu? Pravdivá veta môže byť v nesprávnom kontexte zavádzajúca.
6. Označte výsledok úrovňou spoľahlivosti. Uveďte jasné označenie, ako napríklad „overené“, „čiastočne overené“, „jediný zdroj“, „nemožno overiť“, „nepravdivé“. Dokonca aj „nie som si istý“ je záver a treba ho úprimne povedať.
Tip: Čím viac tvrdenie rezonuje alebo vyvoláva emocionálnu odozvu, tým dôkladnejšie by ste ho mali overovať. Dezinformácie sa zameriavajú na samotné emócie hnevu, strachu alebo „správ, ktoré chceme“. Informácie, ktoré vás vyzývajú k rýchlej akcii, sú často tými informáciami, ktoré si vyžadujú najväčšie overenie.
Samotná AI je zdrojom rizika
Najdôležitejšie upozornenie tejto jednotky: AI nie je overovacia autorita; Sama môže generovať dezinformácie a zaujatosť. AI môže zavádzať tromi spôsobmi:
1. Halucinácia: Prezentuje neexistujúci zdroj, citát alebo udalosť ako skutočný. "Ktorý zdroj potvrdzuje toto tvrdenie?" Keď sa ho spýtate, môže vám dokonca poskytnúť vymyslený názov zdroja.
2. Skreslenie tréningových údajov: AI odráža dominantnú perspektívu v textoch, na ktorých je trénovaná. Ak v údajoch dominuje pohľad jednej časti sveta na konkrétnu otázku, AI sa tak môže zmeniť. Nie je to úmyselné, ale je to odraz údajov – výsledkom je však stále neobjektívny výstup.
3. Sykofanizmus: AI môže mať tendenciu odpovedať na otázku spôsobom, ktorý sa vám páči. Ak chcete overiť tvrdenie, má tendenciu vytvoriť odpoveď, ktorá ho podporuje.
Použite teda AI ako nástroj na overenie (úprava zdrojov, označovanie konfliktov, pomoc so sledovaním pôvodu), ale nikdy neberte AI „toto je pravda“ ako posledné slovo.
Upozornenie: Keď necháte AI overiť zdroj, skontrolujte, či vám AI zobrazuje skutočný zdroj alebo či produkuje vierohodne vyzerajúci výmysel. Nepovažujte to za „overené“, kým samostatne neotvoríte a neuvidíte každý názov zdroja, odkaz a citáciu, ktorú uvádza. Zdroj vytvorený AI sa môže zdať presvedčivejšie ako skutočný zdroj.
tri mini prípady
Prípad 1 – Overenie pôvodu bolo uložené. Snímka obrazovky s „oficiálnym oznámením“ padla na stôl a vyzerala ako skutočná. Overovanie ukázalo, že na oficiálnych kanáloch tejto inštitúcie takéto vyhlásenie nebolo; obraz bol falošný. Kontrola pôvodu zabránila vstupu falošného vyhlásenia na brífing.
Prípad 2 – AI vyrobený zdroj. Expert nechal AI overiť štatistiku. YZ citoval zdroj s tým, že „podľa správy tejto organizácie z roku 2023...“ Zavolal odbornému zdroju: neexistovala ani taká správa, ani takéto číslo; AI vymyslela oboje. Nezávislá kontrola zachytila vymyslené „potvrdenie“.
Prípad 3 – Kompenzácia zaujatosti. Expert nechal AI zhrnúť kontroverznú udalosť a všimol si, že výstup bol zreteľne blízky príbehu jednej strany. Keď som sa znova spýtal „zhrňte tú istú udalosť z pohľadu druhej strany“, objavil sa úplne iný obraz. Porovnanie týchto dvoch výsledkov zabránilo zavedeniu jednostranného rámca do správy.
Štyri kopírovateľné šablóny
1) Protokol o overení reklamácie:
Vaša úloha: validačný analytik. Pre nasledujúce tvrdenie: (1) zredukujte tvrdenie na vetu nettek, (2) nájdite, kde/kedy sa prvýkrát spomína v zdrojoch, ktoré som uviedol, (3) koľko NEZÁVISLÝCH zdrojov ho podporuje, (4) existujú nejaké konfliktné zdroje, (5) označte výsledok jedným z nasledujúcich značiek: overený / jediný zdroj / protichodný / neoverený. Výroba zdroja; Len použi to, čo ti dám. Nárok + zdroje: [tu]
2) Testovanie skreslenia AI:
Najprv čo najobjektívnejšie zhrňte nasledujúci incident. Potom zhrňte tú istú udalosť oddelene (a) z pohľadu strany A, (b) z pohľadu strany B. Uveďte rozdiely medzi týmito tromi verziami. Je teda možné vidieť, ktoré body sú výkladom strán a ktoré spoločné skutočnosti. Prípad/zdroje: [tu]
3) Hodnotenie spoľahlivosti zdroja:
Vyhodnoťte pre nasledujúci zdroj: typ (oficiálny/nezávislý/zaujatý/anonymný), potenciálny záujem o vec, poskytnuté informácie o minulej dôveryhodnosti, dodatočné kroky potrebné na overenie. Napíšte aj dôvod, prečo môže byť zdroj nesprávny. Zdroj: [tu]
4) Dezinformačné červené vlajky:
Naskenujte obsah nižšie, či neobsahuje dezinformácie. Hľadajte tieto príznaky: štatistika bez zdrojov, jazyk vyvolávajúci emócie, obrázky bez kontextu, tlak „ponáhľaj sa/zdieľaj“, neoveriteľné autoritatívne slovo, simultánne koordinované šírenie. Každý nález označte odôvodnením. Nevynášajte konečné súdy. Obsah: [tu]
Slabá výzva / Silná výzva
Slabá výzva:
Je toto tvrdenie pravdivé? Hľadajte online a dajte mi vedieť.
AI hovorí „pravda“ nie je overenie; Môže uviesť falošné zdroje alebo poskytnúť zaujatú či lichotivú odpoveď.
Výkonná výzva:
Vaša úloha: overovací analytik. Nižšie je uvedený nárok a zdroje, ktoré som zhromaždil. Nehovorte mi „správne/nesprávne“; Namiesto toho: ukážte pôvod tvrdenia, počet nezávislých zdrojov, prípadné rozpory a úroveň dôveryhodnosti. Neprekračujte zdroje, ktoré som uviedol, nevymýšľajte si zdroje. Ak si nie ste istý, označte to ako „vyžaduje overenie človekom“. Nárok + zdroje: [tu]
Rozdiel je jasný: požadovaním pôvodu, nezávislého potvrdenia a úrovne dôvery namiesto „pravdivého/nepravdivého“ úsudku sa obmedzujú riziká AI.
Tabuľka stavov overenia
Označenie
Význam
Použitie v prehľade
Overené
Aspoň 2 nezávislé spoľahlivé zdroje
Dá sa použiť ako puzdro
Čiastočne potvrdené
Niektorí potvrdili
Obmedzené, s vysvetlením
jediný zdroj
Len jeden zdroj
Ako "reklamácia" je potrebné potvrdenie
rozporuplné
Zdroje sa nezhodujú
Prezentované ako neistota
Nepodarilo sa overiť
Nenašlo sa žiadne potvrdenie
Nepoužije sa ako fakt
nesprávne
Dokázal sa opak
Ako oprava v správe
Časté chyby
- Berúc do úvahy výrok AI „správne“ ako overenie. Umelá inteligencia môže vymýšľať, skresľovať alebo podsúvať.
- Otvorenie zdroja poskytnutého AI a jeho prijatie bez toho, aby ste ho videli. Spracované zdroje pôsobia presvedčivo.
- Overovanie málo informácií, ktoré vyhovujú vašim potrebám. Emocionálne/vhodné informácie sú informácie, ktoré si vyžadujú najväčšie potvrdenie.
- Pomýlené množstvo kópií ako potvrdenie. Stovky miest napájajúcich sa z rovnakého zdroja sú jediným zdrojom.
- Vôbec netestovať zaujatosť. Zhrnutie tej istej udalosti z rôznych perspektív poskytuje rovnováhu.
V súhrne
Overenie zdroja je základom diplomatických znalostí a AI je v tejto práci pomocníkom aj rizikom. AI organizuje zdroje, pomáha so sledovaním pôvodu a označovaním konfliktov; ale môže sama generovať dezinformácie v dôsledku halucinácií, skreslenia tréningových údajov a lichôtok. Sledovanie pôvodu, nezávislá krížová kontrola, oddelenie dôveryhodnosti zdrojových informácií, značkovanie na úrovni dôveryhodnosti a ďalšie pochybnosti o výstupe AI sú chrbticou tejto jednotky.
Aplikačná úloha
Vyberte si aktuálne, kontroverzné tvrdenie a zozbierajte zdroje z rôznych žánrov. Vyhodnoťte reklamáciu na provenienciu a nezávislé overenie „protokolom na overenie reklamácie“. Pomocou „testu zaujatosti AI“ zhrňte rovnakú udalosť z rôznych perspektív a uveďte rozdiely. Ak AI poskytne zdroj, otvorte ho nezávisle a skontrolujte, či skutočne existuje.
kontrolný zoznam
- [ ] Tvrdenie som zredukoval na jedinú jasnú vetu a hľadal som jeho pôvod.
- [ ] Overil som si aspoň dva nezávislé spoľahlivé zdroje.
- [ ] Nezávisle som overil každý zdroj poskytnutý AI.
- [ ] Testoval som zaujatosť zhrnutím tej istej udalosti z rôznych perspektív.
- [ ] Výsledok som označil jasným štítkom úrovne spoľahlivosti.