zisky:
- Schopnost systematicky ověřovat tvrzení prostřednictvím provenience, důvěryhodnosti zdroje a nezávislých kroků křížové kontroly
- Schopnost porozumět tomu, že umělá inteligence sama o sobě může produkovat falešné informace prostřednictvím halucinací, zkreslení trénovacích dat a lichotek, a zacházet s jejími výstupy se zvláštním podezřením
- Schopnost testovat zkreslení označením výsledku jasným štítkem úrovně spolehlivosti a vyhodnocením stejné události z různých perspektiv
Diplomacie pracuje s informacemi a hodnota informací závisí na jejich přesnosti. Brífing, vyjednávací pozice nebo veřejné prohlášení založené na nesprávných informacích má důsledky, které je obtížné zvrátit. Proto je jednou z nejdůležitějších dovedností diplomata ověřování zdroje: systematické vyhodnocování toho, odkud tvrzení pochází, jak je spolehlivé a zda je skutečně pravdivé. V této lekci se naučíte, jak začlenit umělou inteligenci do ověřování; ale dozvíte se, jak ji používat, a přitom mít na paměti, že samotná umělá inteligence může být zdrojem dezinformací a zkreslení.
Nejprve oddělme tři pojmy. Dezinformace: nesprávné informace se šíří neúmyslně. Dezinformace: dezinformace, které jsou vědomě, cíleně vyráběny a šířeny. Předsudek: systematické přesouvání informace nebo hodnocení na určitou stranu. Diplomat musí dávat pozor na všechny tři a AI může být ve všech třech jak pomocí, tak i rizikem.
Krok za krokem: ověření reklamace
1. Jasně uveďte tvrzení. Co přesně se má ověřit? Shrňte to do jediného, jasného tvrzení jako „Země X odstoupila od dohody Y“. Fuzzy tvrzení nelze ověřit.
2. Najděte svůj původ. Kde, kdy a kým bylo toto tvrzení poprvé vzneseno? Většina dezinformací pochází z jediného pochybného zdroje a je rozšířena. Vraťte se ke zdroji.
3. Zhodnoťte důvěryhodnost zdroje. Je zdroj oficiální, nezávislý nebo zaujatý? Poskytl v minulosti přesné informace? Má o to zájem? I spolehlivý zdroj se může mýlit; ale zdroj s nízkou důvěryhodností vyžaduje další potvrzení.
4. Křížová kontrola. Potvrďte tvrzení alespoň dvěma nezávislými, spolehlivými zdroji. 50 stránek krmených stejnou tiskovou agenturou nejsou nezávislé zdroje.
5. Otestujte vnitřní konzistenci a kontext. Je tvrzení vnitřně konzistentní? Odporuje to známým faktům? Vytrženo z kontextu? Pravdivá věta může být ve špatném kontextu zavádějící.
6. Označte výsledek úrovní spolehlivosti. Uveďte jasné označení jako „ověřeno“, „částečně ověřeno“, „jediný zdroj“, „nelze ověřit“, „nepravdivé“. I „nejsem si jistý“ je závěr a měl by být vyjádřen upřímně.
Tip: Čím více tvrzení rezonuje nebo vyvolává emocionální odezvu, tím pečlivější byste měli být při jeho ověřování. Dezinformace cílí na samotnou emoci hněvu, strachu nebo „zprávy, kterou chceme“. Informace, které vás vybízejí k rychlé akci, jsou často těmi informacemi, které vyžadují největší ověření.
AI sama o sobě je zdrojem rizika
Nejdůležitější upozornění této jednotky: AI není ověřovací autorita; Sama může generovat dezinformace a zaujatost. Umělá inteligence může klamat třemi způsoby:
1. Halucinace: Prezentuje neexistující zdroj, citát nebo událost jako skutečný. "Který zdroj potvrzuje toto tvrzení?" Když se zeptáte, může vám dokonce poskytnout vymyšlené jméno zdroje.
2. Zkreslení tréninkových dat: AI odráží dominantní perspektivu v textech, na kterých je trénována. Pokud v datech dominuje pohled jedné části světa na konkrétní problém, umělá inteligence se tak může kývat. Není to záměrné, ale odraz dat – ale výsledek je stále neobjektivní výstup.
3. Sykofanismus: Umělá inteligence může mít tendenci odpovídat na otázku způsobem, který se vám líbí. Pokud chcete ověřit tvrzení, má tendenci vytvořit odpověď, která jej podporuje.
Používejte tedy AI jako nástroj pro ověřování (úpravy zdrojů, nahlašování konfliktů, pomoc se sledováním původu), ale nikdy neberte AI „to je pravda“ jako konečné slovo.
Upozornění: Když necháte AI ověřit zdroj, zkontrolujte, zda vám AI ukazuje skutečný zdroj nebo produkuje věrohodně vypadající výmysl. Nepovažujte jej za „ověřený“, dokud samostatně neotevřete a neuvidíte každý název zdroje, odkaz a citaci, kterou uvádí. Zdroj vytvořený umělou inteligencí se může zdát přesvědčivější než skutečný zdroj.
tři mini pouzdra
Případ 1 – Ověření původu bylo uloženo. Na stůl spadl snímek obrazovky „oficiální oznámení“ a vypadal jako skutečný. Ověření ukázalo, že na oficiálních kanálech této instituce takové prohlášení nebylo; obraz byl falešný. Kontrola původu zabránila vstupu falešného prohlášení na briefing.
Případ 2 – AI vyrobený zdroj. Expert nechal AI ověřit statistiku. YZ citoval zdroj s tím, že „podle zprávy této organizace z roku 2023...“ Zavolal odbornému zdroji: žádná taková zpráva ani takové číslo neexistovalo; AI vymyslela obojí. Nezávislá kontrola zachytila vykonstruované „potvrzení“.
Případ 3 – Offset zkreslení. Expert nechal AI shrnout kontroverzní událost a všiml si, že výstup byl zřetelně blízký příběhu jedné strany. Když jsem se znovu zeptal „shrňte stejnou událost z pohledu druhé strany“, objevil se velmi odlišný obrázek. Porovnání těchto dvou výsledků zabránilo zavedení jednostranného rámce do zprávy.
Čtyři kopírovatelné šablony
1) Protokol o ověření reklamace:
Vaše role: validační analytik. Pro následující tvrzení: (1) zredukujte nárok na větu nettek, (2) zjistěte, kde/kdy je poprvé zmíněn ve zdrojích, které jsem uvedl, (3) kolik NEZÁVISLÝCH zdrojů jej podporuje, (4) existují nějaké konfliktní zdroje, (5) označte výsledek jedním z následujících tagů: ověřeno / jeden zdroj / rozporuplné / neověřeno. Výroba zdroje; Jen použij to, co ti dám. Nárok+zdroje: [zde]
2) Testování zkreslení AI:
Nejprve co nejobjektivněji shrňte následující incident. Poté shrňte STEJNOU událost odděleně (a) z pohledu strany A, (b) z pohledu strany B. Uveďte rozdíly mezi těmito třemi verzemi. Je tedy vidět, které body jsou výkladem stran a které jsou běžná fakta. Případ/zdroje: [zde]
3) Posouzení spolehlivosti zdroje:
Vyhodnoťte pro následující zdroj: typ (oficiální/nezávislý/zaujatý/anonymní), potenciální zájem o věc, poskytnuté informace o minulé důvěryhodnosti, další kroky potřebné k ověření. Napište také, proč může být zdroj chybný. Zdroj: [zde]
4) Dezinformační varovné signály:
Naskenujte obsah níže, zda neobsahuje dezinformace. Hledejte tyto příznaky: nezdrojované statistiky, jazyk vzbuzující emoce, obrázky bez kontextu, tlak „spěchej/sdílej“, neověřitelné slovo autority, souběžné koordinované šíření. Každý nález označte zdůvodněním. Nevynášejte konečné soudy. Obsah: [zde]
Slabá výzva / Silná výzva
Slabá výzva:
Je toto tvrzení pravdivé? Hledejte online a dejte mi vědět.
AI říká „pravda“ není ověření; Může uvést falešné zdroje nebo vyvolat zaujatou či lichotivou odpověď.
Výkonná výzva:
Vaše role: ověřovací analytik. Níže je nárok a zdroje, které jsem shromáždil. Neříkejte mi „správně/špatně“; Místo toho: ukažte původ tvrzení, počet nezávislých zdrojů, případné rozpory a úroveň důvěryhodnosti. Nepřekračujte zdroje, které jsem uvedl, nevytvářejte si zdroje. Pokud si nejste jisti, označte to jako „vyžaduje ověření člověkem“. Nárok+zdroje: [zde]
Rozdíl je jasný: vyžadování provenience, nezávislého potvrzení a úrovně důvěry spíše než „pravdivý/nepravdivý“ úsudek omezuje rizika AI.
Tabulka stavů ověření
Štítek
Význam
Použití v přehledu
Ověřeno
Alespoň 2 nezávislé spolehlivé zdroje
Lze použít jako pouzdro
Částečně potvrzeno
Někteří potvrdili
Omezené, s vysvětlením
jediný zdroj
Jen jeden zdroj
Jako "reklamace" je vyžadováno potvrzení
rozporuplné
Zdroje se neshodují
Prezentováno jako nejistota
Nelze ověřit
Nebylo nalezeno žádné potvrzení
Nepoužívá se jako fakt
špatně
Opak byl prokázán
Jako oprava ve zprávě
Časté chyby
- Vzhledem k tomu, že AI říká „správné“ jako ověření. Umělá inteligence může vyrábět, zkreslovat nebo podbízet.
- Otevření zdroje poskytnutého umělou inteligencí a jeho přijetí, aniž byste jej viděli. Vymyšlené zdroje vypadají přesvědčivě.
- Ověřování málo informací, které vyhovují vašim potřebám. Emocionální/vhodné informace jsou informace, které vyžadují nejvíce potvrzení.
- Záměna množství kopií za potvrzení. Stovky webů napájejících ze stejného zdroje jsou jediným zdrojem.
- Vůbec netestovat zaujatost. Shrnutí stejné události z různých perspektiv poskytuje rovnováhu.
V souhrnu
Ověření zdroje je základem diplomatických znalostí a umělá inteligence je v této práci pomocníkem i rizikem. AI organizuje zdroje, pomáhá se sledováním původu a označováním konfliktů; ale sama může generovat dezinformace v důsledku halucinací, zkreslení trénovacích dat a lichotek. Páteří této jednotky je sledování původu, nezávislá křížová kontrola, oddělení důvěryhodnosti zdrojů a informací, značkování na úrovni důvěryhodnosti a další pochybnosti o výstupu AI.
Aplikační úkol
Vyberte si aktuální, kontroverzní tvrzení a shromážděte zdroje z různých žánrů. Vyhodnoťte reklamaci na provenienci a nezávislé ověření pomocí „protokolu o ověření reklamace“. Pomocí „testu zkreslení AI“ shrňte stejnou událost z různých perspektiv a vyjmenujte rozdíly. Pokud AI poskytne zdroj, otevřete jej nezávisle a zkontrolujte, zda skutečně existuje.
kontrolní seznam
- [ ] Tvrzení jsem zredukoval na jedinou jasnou větu a hledal jeho původ.
- [ ] Ověřil jsem si alespoň dva nezávislé spolehlivé zdroje.
- [ ] Nezávisle jsem ověřil každý zdroj poskytnutý AI.
- [ ] Testoval jsem zkreslení shrnutím stejné události z různých perspektiv.
- [ ] Výsledek jsem označil jasným štítkem úrovně spolehlivosti.