Faida:
- Uwezo wa kuthibitisha dai kwa utaratibu kupitia asili, uaminifu wa chanzo, na hatua huru za kukagua.
- Uwezo wa kuelewa kuwa akili bandia yenyewe inaweza kutoa habari za uwongo kupitia udanganyifu, mafunzo ya upendeleo wa data, na kubembeleza, na kutibu matokeo yake kwa mashaka zaidi.
- Uwezo wa kupima upendeleo kwa kuashiria matokeo na lebo ya kiwango cha kujiamini na kutathmini tukio moja kutoka kwa mitazamo tofauti.
Diplomasia inafanya kazi na habari, na thamani ya habari inategemea usahihi wake. Muhtasari, msimamo wa mazungumzo au taarifa ya umma kulingana na habari isiyo sahihi ina matokeo ambayo ni ngumu kutengua. Ndiyo maana mojawapo ya ujuzi muhimu zaidi wa mwanadiplomasia ni uthibitishaji wa chanzo: kutathmini kwa utaratibu mahali dai linatoka, jinsi linavyoaminika, na kama ni kweli. Katika kitengo hiki, utajifunza jinsi ya kujumuisha akili bandia katika uthibitishaji; lakini utajifunza jinsi ya kuitumia huku ukikumbuka kuwa AI yenyewe inaweza kuwa chanzo cha habari potofu na upendeleo.
Hebu kwanza tutenganishe dhana tatu. Habari potofu: habari isiyo sahihi ilienea bila kukusudia. Disinformation: habari potofu ambayo inatolewa kwa uangalifu, inayolengwa na kuenea. Upendeleo: uhamishaji wa taarifa au tathmini kwa utaratibu kuelekea upande fulani. Mwanadiplomasia lazima awe macho kwa wote watatu, na AI inaweza kuwa msaada na hatari katika yote matatu.
Hatua kwa hatua: kuthibitisha dai
1. Eleza dai kwa uwazi. Ni nini hasa kinachopaswa kuthibitishwa? Chemsha hadi dai moja, lililo wazi kama "Nchi X ilijiondoa kwenye makubaliano Y." Madai yasiyoeleweka hayawezi kuthibitishwa.
2. Tafuta asili yako. Dai hili lilitolewa kwa mara ya kwanza wapi, lini na na nani? Habari nyingi za uwongo hutoka kwa chanzo kimoja cha shaka na hukuzwa. Rudi kwenye chanzo.
3. Tathmini uaminifu wa chanzo. Je, chanzo ni rasmi, kinajitegemea au kinapendelea? Je, ametoa taarifa sahihi huko nyuma? Je, ana maslahi binafsi katika hili? Hata chanzo kinachotegemeka kinaweza kuwa kibaya; lakini chanzo cha uaminifu wa chini kinahitaji uthibitisho wa ziada.
4. Mtambuka. Thibitisha dai kwa angalau vyanzo viwili huru na vinavyotegemeka. Tovuti 50 zinazolishwa na shirika moja la habari si vyanzo huru.
5. Jaribu uthabiti wa ndani na muktadha. Je, dai hilo linalingana ndani? Je, inapingana na mambo ya hakika yanayojulikana? Imetolewa nje ya muktadha? Sentensi ya kweli inaweza kupotosha katika muktadha usio sahihi.
6. Weka alama kwenye matokeo kwa kiwango cha kujiamini. Toa lebo wazi kama vile "imethibitishwa", "imethibitishwa kiasi", "chanzo pekee", "haikuweza kuthibitishwa", "sivyo". Hata "Sina hakika" ni hitimisho na inapaswa kusemwa kwa uaminifu.
Kidokezo: Kadiri dai linapojitokeza au kuibua jibu la kihisia, ndivyo unapaswa kuwa mwangalifu zaidi katika kulithibitisha. Taarifa potofu zinalenga hisia hasa za hasira, woga, au "habari tunazotaka." Habari inayokuhimiza kuchukua hatua haraka mara nyingi ndiyo habari inayohitaji uthibitishaji zaidi.
AI yenyewe ni chanzo cha hatari
Tahadhari muhimu zaidi ya kitengo hiki: AI sio mamlaka ya uthibitishaji; Inaweza yenyewe kutoa habari potofu na upendeleo. AI inaweza kupotosha kwa njia tatu:
1. Uzushi: Huwasilisha chanzo, nukuu au tukio ambalo halipo kama halisi. "Ni chanzo gani kinathibitisha dai hili?" Unapouliza, anaweza hata kukupa jina la chanzo kilichoundwa.
2. Upendeleo wa data ya mafunzo: AI huakisi mtazamo mkuu katika maandishi ambayo imefunzwa. Ikiwa mtazamo wa sehemu moja ya ulimwengu juu ya suala fulani unatawala data, AI inaweza kuyumba kwa njia hiyo. Hii sio ya kukusudia, lakini ni onyesho la data - lakini matokeo bado ni matokeo ya upendeleo.
3. Sycophancy: AI inaweza kuwa na mwelekeo wa kujibu swali kwa njia inayokupendeza. Ikiwa unataka kuthibitisha dai, huwa litatoa jibu ambalo linaunga mkono.
Kwa hivyo tumia AI kama zana ya uthibitishaji (vyanzo vya uhariri, migogoro ya kuripoti, usaidizi wa kutafuta asili), lakini usichukue AI "hii ni kweli" kama neno la mwisho.
Tahadhari: Unapokuwa na AI ya kuthibitisha chanzo, angalia ikiwa AI inakuonyesha chanzo halisi au inazalisha uzushi unaoonekana kuwa sawa. Usiichukulie kama "imethibitishwa" hadi ufungue kwa kujitegemea na uone kila jina la chanzo, kiungo na nukuu anayotoa. Chanzo kilichoundwa na AI kinaweza kuonekana kuwa cha kushawishi zaidi kuliko chanzo halisi.
kesi tatu ndogo
Kesi ya 1 - Uthibitishaji wa asili umehifadhiwa. Picha ya skrini ya "tangazo rasmi" ilianguka kwenye meza na ilionekana kuwa kweli. Uhakiki ulionyesha kuwa hakukuwa na taarifa kama hiyo kwenye njia rasmi za taasisi hiyo; picha ilikuwa fake. Ukaguzi wa asili ulizuia taarifa ghushi kuingia kwenye mkutano huo.
Kesi ya 2 - Chanzo kilichoundwa na AI. Mtaalam aliifanya AI ihakikishe takwimu. YZ alinukuu chanzo kwa kusema "kulingana na ripoti ya 2023 ya shirika hili..." Aliita chanzo cha kitaalam: hakukuwa na ripoti kama hiyo wala takwimu kama hiyo; AI alikuwa ameunda yote mawili. Ukaguzi wa kujitegemea ulipata "uthibitisho" uliobuniwa.
Kesi ya 3 - Kupunguza upendeleo. Mtaalamu aliifanya AI kufupisha tukio la kutatanisha na kugundua kuwa matokeo yalikuwa karibu kabisa na simulizi la upande mmoja. Nilipouliza tena "fanya muhtasari wa tukio lile lile kutoka kwa mtazamo wa upande mwingine", picha tofauti sana iliibuka. Kulinganisha matokeo hayo mawili kulizuia kuanzishwa kwa mfumo wa upande mmoja katika ripoti.
Violezo vinne vinavyoweza kunakiliwa
1) Itifaki ya uthibitishaji wa dai:
Jukumu lako: mchambuzi wa uthibitishaji. Kwa dai lifuatalo: (1) punguza dai liwe sentensi fupi, (2) tafuta ni wapi/linapotajwa kwa mara ya kwanza katika vyanzo nilivyotoa, (3) ni vyanzo vingapi HURU vinaunga mkono hilo, (4) kuna vyanzo vinavyokinzana, (5) weka tokeo alama kwa mojawapo ya vitambulisho vifuatavyo: vilivyothibitishwa / chanzo kimoja / kinapingana / hakijathibitishwa. Utengenezaji wa chanzo; Tumia tu kile ninachokupa. Dai+vyanzo: [hapa]
2) Mtihani wa upendeleo wa AI:
Kwanza, fanya muhtasari wa tukio lifuatalo kwa uwazi iwezekanavyo. Kisha fanya muhtasari wa tukio SAME kando (a) na mwonekano wa chama A, (b) na mwonekano wa chama B. Orodhesha tofauti kati ya matoleo matatu. Kwa hivyo, inaweza kuonekana ni pointi gani ni tafsiri ya vyama na ambayo ni ukweli wa kawaida. Kesi/vyanzo: [hapa]
3) Tathmini ya kuaminika kwa chanzo:
Tathmini kwa chanzo kifuatacho: aina (rasmi/inayojitegemea/inayopendelea/isiyojulikana), maslahi yanayoweza kutokea katika suala hili, maelezo yanayotolewa kuhusu uaminifu wa awali, hatua za ziada zinazohitajika kwa uthibitishaji. Pia andika kwa nini chanzo kinaweza kuwa kibaya. Chanzo: [hapa]
4) Bendera nyekundu za upotoshaji:
Changanua yaliyomo hapa chini kwa habari zisizo na habari. Tafuta alama hizi: takwimu ambazo hazina chanzo, lugha inayochochea hisia, picha zisizo na muktadha, shinikizo la "harakisha/shiriki", neno lenye mamlaka lisiloweza kuthibitishwa, usambazaji ulioratibiwa kwa wakati mmoja. Weka alama kwa kila utafutaji kwa uhalalishaji. Usitoe hukumu za mwisho. Maudhui: [hapa]
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Je, dai hili ni la kweli? Tafuta mtandaoni na unijulishe.
AI kusema "kweli" sio uthibitishaji; Anaweza kutoa vyanzo vya uwongo au kutoa jibu la upendeleo au la kubembeleza.
Agizo lenye nguvu:
Jukumu lako: mchambuzi wa uthibitishaji. Chini ni dai na vyanzo nilivyokusanya. Usiniambie "sahihi / mbaya"; Badala yake: onyesha asili ya dai, idadi ya vyanzo huru, ukinzani wowote, na kiwango cha kujiamini. Usiende zaidi ya vyanzo ambavyo nimetoa, usitengeneze vyanzo. Ikiwa huna uhakika, itie alama kama "inahitaji uthibitishaji wa kibinadamu". Dai+vyanzo: [hapa]
Tofauti ni wazi: kuhitaji uthibitisho, uthibitisho huru, na kiwango cha uaminifu badala ya hukumu ya "kweli/uongo" hupunguza hatari za AI.
Jedwali la hali ya uthibitishaji
Lebo
Maana
Matumizi katika ripoti
Imethibitishwa
Angalau vyanzo 2 vya kuaminika vya kujitegemea
Inaweza kutumika kama kesi
Imethibitishwa kwa kiasi
Baadhi walithibitisha
Mdogo, kwa maelezo
chanzo kimoja
Chanzo kimoja tu
Kama "dai", uthibitisho unahitajika
kinzani
Vyanzo havilingani
Imewasilishwa kama kutokuwa na uhakika
Haikuweza kuthibitisha
Hakuna uthibitisho uliopatikana
Haitumiki kama ukweli
vibaya
Kinyume chake kimethibitishwa
Kama marekebisho katika ripoti
Makosa ya kawaida
- Kwa kuzingatia msemo wa AI "sahihi" kama uthibitisho. AI inaweza kuunda, upendeleo, au pander.
- Kufungua chanzo kilichotolewa na AI na kuikubali bila kuiona. Vyanzo vilivyotengenezwa vinaonekana kushawishi.
- Inathibitisha habari ndogo ambayo inafaa mahitaji yako. Taarifa za kihisia/zinazofaa ni taarifa zinazohitaji uthibitisho zaidi.
- Kukosea wingi wa nakala kama uthibitisho. Mamia ya tovuti zinazolisha kutoka chanzo kimoja ni chanzo kimoja.
- Sio kupima upendeleo hata kidogo. Kufupisha tukio moja kutoka kwa mitazamo tofauti hutoa usawa.
Kwa muhtasari
Uthibitishaji wa chanzo ndio msingi wa maarifa ya kidiplomasia, na AI ni msaada na hatari katika kazi hii. AI hupanga vyanzo, husaidia kufuatilia asili na kuripoti migogoro; lakini yenyewe inaweza kutoa habari potofu kwa sababu ya uzushi, upendeleo wa data wa mafunzo, na kubembeleza. Ufuatiliaji wa asili, ukaguzi wa kujitegemea, utenganishaji wa uaminifu wa taarifa-chanzo, uwekaji alama wa kiwango cha uaminifu na shaka ya ziada juu ya matokeo ya AI ndio uti wa mgongo wa kitengo hiki.
Jukumu la maombi
Chagua dai la sasa, lenye utata na kukusanya vyanzo kutoka kwa aina tofauti. Tathmini dai la asili na uthibitishaji huru kwa "itifaki ya uthibitishaji wa dai". Ukiwa na "jaribio la upendeleo wa AI", fupisha tukio sawa kutoka kwa mitazamo tofauti na uorodheshe tofauti. Ikiwa AI itatoa rasilimali, ifungue kwa kujitegemea na uangalie ikiwa iko.
orodha ya ukaguzi
- [ ] Nilipunguza dai kuwa sentensi moja iliyo wazi na nikatafuta asili yake.
- [ ] Nimekagua kwa angalau vyanzo viwili huru vya kutegemewa.
- [ ] Nimethibitisha kwa kujitegemea kila chanzo kilichotolewa na AI.
- [ ] Nilijaribu upendeleo kwa kufupisha tukio lile lile kutoka kwa mitazamo tofauti.
- [ ] Niliweka alama kwenye matokeo kwa lebo ya kiwango cha kujiamini.