Kasu:
- Võimalus väidet süstemaatiliselt kontrollida päritolu, allika usaldusväärsuse ja sõltumatute ristkontrollitoimingute kaudu
- Võime mõista, et tehisintellekt ise võib hallutsinatsioonide, koolitusandmete kallutatuse ja meelituste kaudu toota valeinfot, ning suhtuda selle väljundisse ekstra kahtlustavalt
- Võimalus testida kallutatust, märkides tulemuse selge usaldustaseme sildiga ja hinnates sama sündmust erinevatest vaatenurkadest
Diplomaatia töötab teabega ja teabe väärtus sõltub selle täpsusest. Ebaõigel teabel põhineval briifingul, läbirääkimispositsioonil või avalikul avaldusel on tagajärjed, mida on raske tagasi pöörata. Seetõttu on diplomaadi üks olulisemaid oskusi allika kontrollimine: süstemaatiliselt hinnata, kust väide pärineb, kui usaldusväärne see on ja kas see on ka tõsi. Selles üksuses saate teada, kuidas lisada tehisintellekti kontrollimisse; kuid saate teada, kuidas seda kasutada, pidades meeles, et AI ise võib olla valeinformatsiooni ja eelarvamuste allikas.
Esmalt eraldame need kolm mõistet. Väärinformatsioon: ebaõige teave levib tahtmatult. Desinformatsioon: desinformatsioon, mida toodetakse ja levitatakse teadlikult, sihipäraselt. Eelarvamus: süstemaatiline teabe või hinnangu nihutamine teatud poolele. Diplomaat peab olema tähelepanelik kõigi kolme suhtes ja tehisintellekt võib kõigis kolmes olla nii abiks kui ka ohuks.
Samm-sammult: nõude kinnitamine
1. Esitage väide selgelt. Mida täpselt tuleb kontrollida? Keetke see ühe selge väitega, näiteks "Riik X taganes kokkuleppest Y". Hägusaid väiteid ei saa kontrollida.
2. Leia oma päritolu. Kus, millal ja kes selle väite esmakordselt esitas? Enamik valeinformatsiooni pärineb ühest kahtlasest allikast ja seda võimendub. Mine tagasi allika juurde.
3. Hinda allika usaldusväärsust. Kas allikas on ametlik, sõltumatu või erapoolik? Kas ta on varem esitanud täpset teavet? Kas tal on selle vastu oma huvi? Isegi usaldusväärne allikas võib eksida; kuid madala usaldusväärsusega allikas nõuab lisakinnitust.
4. Ristkontroll. Kinnitage väide vähemalt kahe sõltumatu usaldusväärse allikaga. 50 saiti, mida toidab sama uudisteagentuur, ei ole sõltumatud allikad.
5. Testige sisemist järjepidevust ja konteksti. Kas väide on sisemiselt kooskõlas? Kas see on vastuolus teadaolevate faktidega? Kas kontekstist välja rebitud? Õige lause võib vales kontekstis olla eksitav.
6. Märgi tulemus usaldusnivooga. Lisage selge silt, näiteks "kinnitatud", "osaliselt kinnitatud", "ainus allikas", "ei saanud kontrollida", "vale". Isegi "ma pole kindel" on järeldus ja see tuleks ausalt välja öelda.
Näpunäide. Mida rohkem väide kõlab või tekitab emotsionaalset vastukaja, seda täpsemini peaksite seda kontrollima. Desinformatsioon on suunatud viha, hirmu või "uudiste, mida me tahame" emotsioonidele. Teave, mis kutsub teid kiiresti tegutsema, on sageli see teave, mis vajab kõige enam kinnitamist.
AI ise on riskiallikas
Selle üksuse kõige olulisem hoiatus: AI ei ole kontrolliasutus; See võib ise tekitada valeinformatsiooni ja eelarvamusi. AI võib eksitada kolmel viisil:
1. Hallutsinatsioon: esitleb olematut allikat, tsitaati või sündmust tõelisena. "Milline allikas seda väidet kinnitab?" Kui küsite, võib ta teile isegi väljamõeldud allikanime anda.
2. Treeningu andmete kallutatus: tehisintellekt peegeldab domineerivat vaatenurka tekstides, mille põhjal seda treenitakse. Kui andmete hulgas domineerib maailma ühe osa vaade konkreetsele küsimusele, võib tehisintellekt sellel teel kõikuda. See ei ole tahtlik, vaid andmete peegeldus, kuid tulemus on siiski kallutatud väljund.
3. Süükofanss: AI võib kalduda vastama küsimusele teile meelepärasel viisil. Kui soovite väidet kontrollida, kipub see andma seda toetava vastuse.
Seega kasutage AI-d kontrollimise vahendina (allikate redigeerimine, konfliktide märgistamine, päritolu jälgimise abi), kuid ärge kunagi võtke lõplikuks sõnaks tehisintellekti ütlust "see on tõsi".
Ettevaatust. Kui teil on tehisintellekt allikat kontrollinud, kontrollige, kas AI näitab teile tõelist allikat või loob usutava välimusega väljamõeldis. Ärge pidage seda "kontrollituks" enne, kui avate ja näete iga tema antud allika nime, linki ja viidet iseseisvalt. Tehisintellektiga väljamõeldud allikas võib tunduda veenvam kui tõeline allikas.
kolm minikarpi
Juhtum 1 – päritolu kinnitamine on salvestatud. "Ametliku teadaande" ekraanipilt langes lauale ja see tundus tõeline. Kontrollimine näitas, et selle asutuse ametlikes kanalites sellist avaldust ei olnud; pilt oli võlts. Päritolukontroll takistas võltsitud avalduse sisenemist briifingule.
Juhtum 2 – AI valmistatud allikas. Ekspert lasi tehisintellektil statistikat kontrollida. YZ viitas allikale, öeldes "selle organisatsiooni 2023. aasta aruande järgi..." Ta helistas ekspertallikale: ei olnud ei sellist aruannet ega sellist arvu; AI oli mõlemad välja mõelnud. Sõltumatu kontroll leidis väljamõeldud "kinnituse".
Juhtum 3 – kallutatud nihe. Üks ekspert lasi tehisintellektil teha vastuolulise sündmuse kokkuvõtte ja märkas, et väljund oli selgelt ühe poole narratiivi lähedal. Kui küsisin uuesti "võta sama sündmus kokku teise poole vaatenurgast", avanes hoopis teistsugune pilt. Kahe tulemuse võrdlemine takistas aruandesse ühekülgse raamistiku lisamist.
Neli kopeeritavat malli
1) Nõude kinnitamise protokoll:
Teie roll: valideerimisanalüütik. Järgmise väite puhul: (1) vähendage väide netteki lauseks, (2) leidke, kus/millal seda minu esitatud allikates esimest korda mainitakse, (3) kui palju ISESEISVAID allikaid seda toetab, (4) kas on vastuolulisi allikaid, (5) märkige tulemus ühega järgmistest märgenditest: kontrollitud / üks allikas / vastuoluline / kontrollimata. Allika valmistamine; Kasutage lihtsalt seda, mida ma teile annan. Nõue+allikad: [siin]
2) AI kallutatuse testimine:
Kõigepealt tehke järgmine juhtum võimalikult objektiivselt kokku. Seejärel tehke SAMA sündmuse kokkuvõte eraldi (a) osapoole A vaatest, (b) osapoole B vaatest. Loetlege erinevused kolme versiooni vahel. Seega on näha, millised punktid on poolte tõlgendused ja millised ühised faktid. Juhtum/allikad: [siin]
3) Allika usaldusväärsuse hindamine:
Hinnake järgmise allika jaoks: tüüp (ametlik/sõltumatu/kallutatud/anonüümne), võimalik huvi asja vastu, teave mineviku usaldusväärsuse kohta, kontrollimiseks vajalikud lisatoimingud. Kirjutage ka, miks allikas võib vale olla. Allikas: [siin]
4) Desinformatsiooni punased lipud:
Skannige allolevat sisu desinformatsiooni leidmiseks. Otsige neid lippe: allikateta statistika, emotsioone tekitav keelekasutus, kontekstita pildid, "kiirustage/jaga" surve, kontrollimatu autoriteet, samaaegne koordineeritud levitamine. Märkige iga leid koos põhjendusega. Ärge tehke lõplikke otsuseid. Sisu: [siin]
Nõrk viip / Tugev viip
Nõrk viip:
Kas see väide on tõsi? Otsige Internetist ja andke mulle teada.
AI ütlemine "tõene" ei ole kontrollimine; Ta võib esitada valeallikaid või anda erapooliku või meelitava vastuse.
Võimas viip:
Teie roll: kontrollianalüütik. Allpool on väide ja kogutud allikad. Ära ütle mulle "õige/vale"; Selle asemel: näidake väite päritolu, sõltumatute allikate arvu, võimalikke vastuolusid ja usalduse taset. Ärge minge kaugemale minu antud allikatest, ärge mõelge välja allikaid. Kui te pole kindel, märkige see kui "nõuab inimese kinnitust". Nõue+allikad: [siin]
Erinevus on selge: tehisintellektiga seotud riske piirab pigem päritolu, sõltumatu kinnituse ja usalduse taseme nõudmine kui "tõene/vale" otsus.
Kinnitusolekute tabel
Silt
Tähendus
Kasutamine aruandes
Kinnitatud
Vähemalt 2 sõltumatut usaldusväärset allikat
Saab kasutada vutlarina
Osaliselt kinnitatud
Mõned kinnitasid
Piiratud, koos selgitustega
üks allikas
Ainult üks allikas
"Nõuena" on vajalik kinnitus
vastuoluline
Allikad ei ühti
Esitatakse kui ebakindlus
Ei saanud kinnitada
Kinnitust ei leitud
Pole kasutatud faktina
vale
Tõestatud on vastupidine
Parandusena aruandes
Levinud vead
- Pidades valideerimiseks tehisintellekti ütlust "õige". Tehisintellekt võib meisterdada, kallutada või panustada.
- Tehisintellekti antud allika avamine ja selle aktsepteerimine ilma seda nägemata. Väljamõeldud allikad tunduvad veenvad.
- Teie vajadustele vastava vähese teabe kontrollimine. Emotsionaalne/sobiv info on informatsioon, mis vajab kõige enam kinnitust.
- Eksemplaride rohkuse võtmine kinnituseks. Sajad saidid, mis toidavad samast allikast, on ühest allikast.
- Üldse ei testi eelarvamusi. Sama sündmuse erinevatest vaatenurkadest kokkuvõte annab tasakaalu.
Kokkuvõttes
Allika kontrollimine on diplomaatiliste teadmiste alus ja tehisintellekt on selles töös nii abiks kui ka riskiks. AI korrastab allikaid, aitab päritolu jälgimisel ja konfliktide märgistamisel; kuid see võib hallutsinatsioonide, treeningandmete kallutatuse ja meelituste tõttu ise tekitada valeinformatsiooni. Päritolu jälgimine, sõltumatu ristkontroll, allikateabe usaldusväärsuse eraldamine, usaldustaseme märgistamine ja täiendavad kahtlused tehisintellekti väljundis on selle seadme selgroog.
Rakenduse ülesanne
Valige praegune vastuoluline väide ja koguge allikaid erinevatest žanritest. Hinnake päritolu väidet ja sõltumatut kontrollimist "nõude kontrollimise protokolli" abil. Tehke "AI eelarvamuste testiga" sama sündmuse kokkuvõte erinevatest vaatenurkadest ja loetlege erinevused. Kui AI annab ressursi, avage see iseseisvalt ja kontrollige, kas see on tegelikult olemas.
kontrollnimekiri
- [ ] Vähendasin nõude ühele selgele lausele ja otsisin selle päritolu.
- [ ] Olen ristkontrollinud vähemalt kahe sõltumatu usaldusväärse allikaga.
- [ ] Olen sõltumatult kontrollinud kõiki tehisintellekti pakutavaid allikaid.
- [ ] Testisin eelarvamust, võttes sama sündmuse erinevatest vaatenurkadest kokku.
- [ ] Märkisin tulemuse selge usaldustaseme sildiga.