Nyereség:
- Képes az állítás szisztematikus ellenőrzésére a származás, a forrás hitelessége és a független keresztellenőrzési lépések révén
- Képes annak megértésére, hogy a mesterséges intelligencia önmagában is képes hamis információkat produkálni hallucináción, képzési adatok torzításán és hízelgésen keresztül, és fokozott gyanakvással kezelni a kimenetét
- Az elfogultság tesztelésének képessége az eredmény egyértelmű megbízhatósági szint címkével való megjelölésével és ugyanazon esemény különböző nézőpontokból történő értékelésével
A diplomácia információval dolgozik, és az információ értéke annak pontosságától függ. A téves információkon alapuló eligazítás, tárgyalási álláspont vagy nyilvános nyilatkozat nehezen visszafordítható következményekkel jár. Éppen ezért a diplomata egyik legfontosabb készsége a forrásellenőrzés: szisztematikusan értékeli, honnan származik az állítás, mennyire megbízható, és hogy valóban igaz-e. Ebben az egységben megtanulod, hogyan építsd be a mesterséges intelligenciát az ellenőrzésbe; de megtanulhatja, hogyan kell használni, miközben szem előtt kell tartania, hogy az AI maga is félretájékoztatás és elfogultság forrása lehet.
Először válasszuk szét a három fogalmat. Félretájékoztatás: akaratlanul terjedő téves információ. Dezinformáció: tudatosan, célzottan előállított és terjesztett félretájékoztatás. Előítélet: az információ vagy értékelés szisztematikus eltolódása egy bizonyos oldal felé. A diplomatának mindháromra ébernek kell lennie, és a mesterséges intelligencia mindhárom esetben segítséget és kockázatot jelenthet.
Lépésről lépésre: követelés ellenőrzése
1. Világosan fogalmazza meg az állítást. Pontosan mit kell ellenőrizni? Forraljuk le egyetlen, egyértelmű állításra, mint például: „X ország kilépett az Y megállapodásból”. A homályos állítások nem ellenőrizhetők.
2. Keresse meg származását. Hol, mikor és ki állította először ezt a követelést? A legtöbb téves információ egyetlen kétes forrásból származik, és felerősödik. Menj vissza a forráshoz.
3. Értékelje a forrás hitelességét! A forrás hivatalos, független vagy elfogult? Pontos információkat adott a múltban? Érdekelt ez neki? Még egy megbízható forrás is tévedhet; de egy alacsony hitelességű forrás extra megerősítést igényel.
4. Keresztellenőrzés. Erősítse meg az állítást legalább két független, megbízható forrással. Az ugyanazon hírügynökség által táplált 50 oldal nem független forrás.
5. Tesztelje a belső konzisztenciát és kontextust. Az állítás belsőleg konzisztens? Ellentmond az ismert tényeknek? Kiragadva a szövegkörnyezetből? Egy igaz mondat félrevezető lehet rossz kontextusban.
6. Jelölje meg az eredményt a megbízhatósági szinttel. Adjon egyértelmű címkét, például "ellenőrzött", "részben ellenőrzött", "egyetlen forrás", "nem ellenőrizhető", "hamis". Még a „nem vagyok benne biztos” is egy következtetés, és őszintén ki kell mondani.
Tipp: Minél nagyobb visszhangot kelt vagy vált ki érzelmi választ egy állítás, annál alaposabban kell ellenőriznie. A dezinformáció a düh, a félelem vagy a „hír, amit akarunk” érzelmét célozza meg. Gyakran azok az információk, amelyek gyors cselekvésre késztetik, azok az információk, amelyeket leginkább ellenőrizni kell.
Az AI maga is kockázatforrás
Ennek az egységnek a legfontosabb figyelmeztetése: az AI nem ellenőrző hatóság; Önmagában téves információkat és elfogultságot generálhat. Az AI háromféleképpen vezethet félre:
1. Hallucináció: Egy nem létező forrást, idézetet vagy eseményt valósnak mutat be. – Melyik forrás erősíti meg ezt az állítást? Amikor megkérdezi, még egy kitalált forrásnevet is adhat.
2. Képzési adatok torzítása: Az AI tükrözi a domináns perspektívát azokban a szövegekben, amelyekre képezték. Ha a világ egy részének nézete egy adott kérdésben dominál az adatok között, a mesterséges intelligencia ebbe a irányba változhat. Ez nem szándékos, hanem az adatok tükröződése – de az eredmény még mindig torz kimenet.
3. Szívósság: A mesterséges intelligencia hajlamos lehet úgy válaszolni a kérdésre, hogy az önnek tetszik. Ha ellenőrizni akar egy állítást, az általában olyan választ ad, amely azt alátámasztja.
Tehát használja az AI-t ellenőrzési eszközként (források szerkesztése, konfliktusok megjelölése, segítség a származás felderítésében), de soha ne vedd a mesterséges intelligencia végszót, hogy „ez igaz”.
Vigyázat: Ha az MI-vel ellenőrizni kell egy forrást, ellenőrizze, hogy az AI valódi forrást mutat-e, vagy hihetőnek tűnő kitalációt hoz létre. Ne tekintse "ellenőrzöttnek", amíg önállóan meg nem nyitja és meg nem látja az általa adott forrásnevet, hivatkozást és idézetet. Egy mesterséges intelligencia által kitalált forrás meggyőzőbbnek tűnhet, mint egy valódi forrás.
három mini tok
1. eset – Származási ellenőrzés mentve. Egy "hivatalos bejelentés" képernyőképe esett az asztalra, és valódinak tűnt. Az ellenőrzés kimutatta, hogy az intézmény hivatalos csatornáin nem volt ilyen nyilatkozat; a kép hamis volt. Az eredetellenőrzés megakadályozta, hogy hamis nyilatkozat kerüljön be az eligazításba.
2. eset – mesterséges intelligencia által gyártott forrás. Egy szakértő az MI-vel ellenőrizte a statisztikát. Az YZ egy forrásra hivatkozott, hogy "ennek a szervezetnek a 2023-as jelentése szerint..." Felhívta a szakértői forrást: sem ilyen jelentés, sem ilyen adat nem volt; Az AI mindkettőt kitalálta. A független ellenőrzés koholt „megerősítést” kapott.
3. eset – torzítás eltolása. Egy szakértő az MI-vel összefoglalta az ellentmondásos eseményt, és észrevette, hogy a kimenet kifejezetten közel áll az egyik fél narratívájához. Amikor ismét megkérdeztem, hogy „összefoglalja ugyanazt az eseményt a másik fél szemszögéből”, egészen más kép rajzolódott ki. A két eredmény összehasonlítása megakadályozta, hogy a jelentésbe egy egyoldalú keretrendszer kerüljön be.
Négy másolható sablon
1) Igényellenőrzési protokoll:
Az Ön szerepe: érvényesítési elemző. A következő állításhoz: (1) csökkentse az állítást nettek mondatra, (2) keresse meg, hol/mikor említik először az általam megadott forrásokban, (3) hány FÜGGETLEN forrás támasztja alá, (4) van-e ütköző forrás, (5) jelölje meg az eredményt a következő címkék egyikével: ellenőrzött / egyetlen forrás / ellentmondásos / ellenőrizetlen. Forrásgyártás; Csak használd, amit adok. Állítás+források: [itt]
2) AI torzítás tesztelése:
Először is foglalja össze a következő eseményt a lehető legobjektívebben. Ezután foglalja össze UGYANAZT az eseményt külön (a) az A fél szemszögéből, (b) a B fél szemszögéből. Sorolja fel a három változat közötti különbségeket! Így látható, hogy mely pontok a felek értelmezése, és melyek a közös tények. Ügy/források: [itt]
3) Forrás megbízhatóságának értékelése:
Értékelje a következő forrást: típus (hivatalos/független/elfogult/névtelen), potenciális érdeklődés az ügyben, múltbeli hitelességre vonatkozó információk, az ellenőrzéshez szükséges további lépések. Írd le azt is, hogy miért lehet rossz a forrás. Forrás: [itt]
4) Dezinformációs piros zászlók:
Olvassa be az alábbi tartalmat dezinformációért. Keresse ezeket a zászlókat: forrás nélküli statisztikák, érzelmeket kiváltó nyelvezet, kontextus nélküli képek, „siess/oszd meg” nyomás, ellenőrizhetetlen tekintélyszó, egyidejű koordinált terjesztés. Minden megállapítást jelöljön meg indoklással! Ne hozzon végső ítéletet. Tartalom: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Igaz ez az állítás? Keress online és tudasd velem.
Az AI, ha azt mondja, hogy "igaz", nem ellenőrzés; Lehet, hogy hamis forrásokat közöl, vagy elfogult vagy hízelgő választ ad.
Erőteljes felszólítás:
Az Ön szerepe: ellenőrző elemző. Az alábbiakban egy állítás és az általam gyűjtött források láthatók. Ne mondd nekem, hogy "jó/rossz"; Ehelyett: mutassa meg az állítás eredetét, a független források számát, az esetleges ellentmondásokat és a megbízhatósági szintet. Ne lépj túl az általam megadott forrásokon, ne alkoss forrásokat. Ha nem biztos benne, jelölje be, hogy "emberi ellenőrzést igényel". Állítás+források: [itt]
A különbség egyértelmű: a származás, a független megerősítés és a bizalom megkövetelése az „igaz/hamis” ítélet helyett korlátozza a mesterséges intelligencia kockázatait.
Ellenőrzési állapotok táblázata
Címke
Jelentése
Használat a jelentésben
Ellenőrzött
Legalább 2 független megbízható forrás
Tokként használható
Részben megerősítve
Néhányan megerősítették
Korlátozottan, magyarázattal
egyetlen forrás
Csak egy forrás
„Követelésként” megerősítés szükséges
ellentmondó
A források nem egyeznek
Bizonytalanságként mutatják be
Nem sikerült ellenőrizni
Nem található megerősítés
Nem használt tényként
rossz
Az ellenkezője bebizonyosodott
Helyesbítésként a jelentésben
Gyakori hibák
- Az AI „helyes” mondást érvényesítésnek tekintve. A mesterséges intelligencia konstruálhat, torzíthat vagy áldozhat.
- Az AI által megadott forrás megnyitása és elfogadása anélkül, hogy látná. A kitalált források meggyőzőnek tűnnek.
- Az Ön igényeinek megfelelő kevés információ ellenőrzése. Az érzelmi/megfelelő információ az az információ, amely a legtöbb megerősítést igényli.
- Félreértve a másolatok bőségét megerősítésként. Több száz, ugyanabból a forrásból táplálkozó webhely egyetlen forrásból származik.
- Egyáltalán nem teszteli az elfogultságot. Ugyanannak az eseménynek a különböző nézőpontokból való összefoglalása egyensúlyt teremt.
Összefoglalva
A forrásellenőrzés a diplomáciai tudás alapja, és a mesterséges intelligencia egyszerre jelent segítséget és kockázatot ebben a munkában. A mesterséges intelligencia rendszerezi a forrásokat, segít a származás nyomon követésében és a konfliktusok megjelölésében; de maga is téves információkat generálhat hallucinációk, edzési adatok torzítása és hízelgés miatt. A származás nyomon követése, a független keresztellenőrzés, a forrás-információ hitelességének szétválasztása, a megbízhatósági szint címkézése és az AI-kimenettel kapcsolatos további kétségek képezik ennek az egységnek a gerincét.
Pályázati feladat
Válassz egy aktuális, vitatott állítást, és gyűjts össze forrásokat különböző műfajokból. Értékelje az állítást a származásra és a független ellenőrzésre vonatkozóan a „igényellenőrzési protokoll” segítségével. Az „AI torzítási teszttel” foglalja össze ugyanazt az eseményt különböző nézőpontokból, és sorolja fel a különbségeket. Ha az AI erőforrást ad, nyissa meg függetlenül, és ellenőrizze, hogy valóban létezik-e.
ellenőrző lista
- [ ] Az állítást egyetlen egyértelmű mondatra redukáltam, és megkerestem az eredetét.
- [ ] Összehasonlítottam legalább két független megbízható forrást.
- [ ] Függetlenül ellenőriztem az AI által biztosított minden forrást.
- [ ] A torzítást úgy teszteltem, hogy ugyanazt az eseményt különböző nézőpontokból összegeztem.
- [ ] Az eredményt egyértelmű megbízhatósági szint címkével jelöltem.