Fitimet:
- Aftësia për të verifikuar në mënyrë sistematike një pretendim përmes origjinës, besueshmërisë së burimit dhe hapave të pavarur të kontrollit të kryqëzuar
- Aftësia për të kuptuar se vetë inteligjenca artificiale mund të prodhojë informacion të rremë përmes halucinacioneve, paragjykimeve të të dhënave të trajnimit dhe lajkave, dhe për të trajtuar rezultatet e saj me dyshim shtesë
- Aftësia për të testuar paragjykimet duke shënuar rezultatin me një etiketë të qartë të nivelit të besimit dhe duke vlerësuar të njëjtën ngjarje nga këndvështrime të ndryshme
Diplomacia punon me informacion dhe vlera e informacionit varet nga saktësia e tij. Një konferencë, një pozicion negociues ose një deklaratë publike e bazuar në informacione të pasakta ka pasoja që janë të vështira për t'u kthyer. Kjo është arsyeja pse një nga aftësitë më thelbësore të një diplomati është verifikimi i burimit: vlerësimi sistematik nga vjen një pretendim, sa i besueshëm është ai dhe nëse është në të vërtetë i vërtetë. Në këtë njësi, do të mësoni se si të inkorporoni inteligjencën artificiale në verifikim; por do të mësoni se si ta përdorni duke mbajtur parasysh se vetë AI mund të jetë një burim keqinformimi dhe paragjykimi.
Le të veçojmë së pari tre konceptet. Keqinformim: informacion i pasaktë i përhapur pa dashje. Dezinformim: dezinformata që prodhohet dhe përhapet me vetëdije, qëllimisht. Paragjykimi: zhvendosja sistematike e informacionit ose e vlerësimit drejt një ane të caktuar. Një diplomat duhet të jetë vigjilent për të tre, dhe AI mund të jetë një ndihmë dhe një rrezik për të tre.
Hap pas hapi: verifikimi i një pretendimi
1. Paraqitni qartë pretendimin. Çfarë saktësisht duhet të verifikohet? Përfundoni në një pretendim të vetëm dhe të qartë si "Vendi X u tërhoq nga marrëveshja Y". Pretendimet e paqarta nuk mund të verifikohen.
2. Gjeni origjinën tuaj. Ku, kur dhe nga kush u bë për herë të parë ky pretendim? Shumica e dezinformatave burojnë nga një burim i vetëm i dyshimtë dhe përforcohen. Kthehu te burimi.
3. Vlerësoni besueshmërinë e burimit. A është burimi zyrtar, i pavarur apo i njëanshëm? A ka dhënë ai informacion të saktë në të kaluarën? A ka ai ndonjë interes për këtë? Edhe një burim i besueshëm mund të jetë i gabuar; por një burim me besueshmëri të ulët kërkon konfirmim shtesë.
4. Kontroll i kryqëzuar. Konfirmo pretendimin me të paktën dy burime të pavarura dhe të besueshme. 50 faqe të ushqyera nga e njëjta agjenci lajmesh nuk janë burime të pavarura.
5. Testoni konsistencën dhe kontekstin e brendshëm. A është pretendimi i brendshëm i qëndrueshëm? A bie ndesh me faktet e njohura? E hequr nga konteksti? Një fjali e vërtetë mund të jetë mashtruese në kontekstin e gabuar.
6. Shënoni rezultatin me nivelin e besimit. Jepni një etiketë të qartë si "verifikuar", "verifikuar pjesërisht", "burim i vetëm", "nuk mund të verifikohej", "e rreme". Edhe “nuk jam i sigurt” është përfundim dhe duhet thënë sinqerisht.
Këshillë: Sa më shumë që një pretendim të rezonojë ose të ngjall një përgjigje emocionale, aq më i përpiktë duhet të jeni në verifikimin e tij. Dezinformimi synon vetë emocionin e zemërimit, frikës ose "lajmit që duam". Informacioni që ju nxit të ndërmerrni veprime të shpejta është shpesh informacioni që ka nevojë për verifikimin më të madh.
AI në vetvete është një burim rreziku
Paralajmërimi më i rëndësishëm i kësaj njësie: UA nuk është një autoritet verifikimi; Ai vetë mund të gjenerojë dezinformata dhe paragjykime. AI mund të mashtrojë në tre mënyra:
1. Halucinacioni: Paraqet si të vërtetë një burim, citim ose ngjarje që nuk ekziston. “Cili burim e konfirmon këtë pretendim? Kur ju kërkoni, ai madje mund t'ju japë një emër burimi të sajuar.
2. Paragjykimi i të dhënave të trajnimit: AI pasqyron këndvështrimin dominues në tekstet mbi të cilat është trajnuar. Nëse pikëpamja e një pjese të botës për një çështje të caktuar dominon të dhënat, AI mund të lëkundet në atë mënyrë. Kjo nuk është e qëllimshme, por një pasqyrim i të dhënave - por rezultati është ende një rezultat i njëanshëm.
3. Sykofanti: AI mund të priret t'i përgjigjet pyetjes në një mënyrë që ju kënaq. Nëse dëshironi të verifikoni një pretendim, ai tenton të prodhojë një përgjigje që e mbështet atë.
Pra, përdorni AI si një mjet për verifikim (redaktimi i burimeve, raportimi i konflikteve, ndihma në gjurmimin e origjinës), por kurrë mos merrni AI që thotë "kjo është e vërtetë" si fjalën përfundimtare.
Kujdes: Kur keni AI të verifikojë një burim, kontrolloni nëse AI po ju tregon një burim të vërtetë ose po prodhon një fabrikim me pamje të besueshme. Mos e konsideroni atë "të verifikuar" derisa të hapni në mënyrë të pavarur dhe të shihni çdo emër burimi, lidhje dhe citim që ai jep. Një burim i krijuar nga AI mund të duket më bindës se një burim i vërtetë.
tre mini kuti
Rasti 1 - Verifikimi i origjinës u ruajt. Një pamje e ekranit "njoftim zyrtar" ra në tryezë dhe dukej e vërtetë. Nga verifikimi rezultoi se nuk kishte një deklaratë të tillë në kanalet zyrtare të atij institucioni; imazhi ishte i rremë. Kontrolli i origjinës parandaloi hyrjen e një deklarate të rreme në konferencë.
Rasti 2 - Burimi i fabrikuar nga AI. Një ekspert i kërkoi AI të verifikonte një statistikë. YZ citoi një burim duke thënë “sipas raportit të 2023 të kësaj organizate...” Ai e quajti burimin e ekspertit: nuk kishte as një raport të tillë dhe as një shifër të tillë; AI i kishte krijuar të dyja. Kontrolli i pavarur kapi një "konfirmim" të sajuar.
Rasti 3 - Kompensimi i paragjykimeve. Një ekspert i kërkoi AI të përmbledhë një ngjarje të diskutueshme dhe vuri re se rezultati ishte dukshëm afër narrativës së njërës palë. Kur pyeta përsëri "përmblidhni të njëjtën ngjarje nga këndvështrimi i palës tjetër", doli një pamje shumë e ndryshme. Krahasimi i dy rezultateve pengoi futjen e një kuadri të njëanshëm në raport.
Katër shabllone të kopjueshëm
1) Protokolli i verifikimit të kërkesës:
Roli juaj: analist i vlefshmërisë. Për pretendimin e mëposhtëm: (1) zvogëlojeni pretendimin në një fjali nettek, (2) gjeni ku/kur është përmendur për herë të parë në burimet që dhashë, (3) sa burime të PAVARUR e mbështesin atë, (4) a ka ndonjë burim konfliktual, (5) shënoni rezultatin me një nga etiketat e mëposhtme: i verifikuar / burim i vetëm / kontradiktor / i paverifikuar. Fabrikim burimor; Thjesht përdorni atë që ju jap. Pretendim+burimet: [këtu]
2) Testimi i paragjykimit të AI:
Së pari, përmblidhni incidentin e mëposhtëm sa më objektivisht të jetë e mundur. Pastaj përmblidhni të NJËJTËN ngjarje veçmas (a) nga këndvështrimi i palës A, (b) nga këndvështrimi i palës B. Rendisni ndryshimet midis tre versioneve. Kështu, mund të shihet se cilat pika janë interpretimi i palëve dhe cilat janë faktet e përbashkëta. Rasti/burimet: [këtu]
3) Vlerësimi i besueshmërisë së burimit:
Vlerësoni për burimin e mëposhtëm: llojin (zyrtar/i pavarur/i njëanshëm/anonim), interesi i mundshëm për këtë çështje, informacioni i dhënë mbi besueshmërinë e kaluar, hapat shtesë të kërkuar për verifikim. Shkruani gjithashtu pse burimi mund të jetë i gabuar. Burimi: [këtu]
4) Flamujt e kuq të dezinformimit:
Skanoni përmbajtjen e mëposhtme për dezinformata. Kërkoni këto flamuj: statistika pa burime, gjuhë që provokon emocione, imazhe pa kontekst, presion "nxito/shpërndaje", fjalë autoritare e paverifikueshme, shpërndarje e koordinuar e njëkohshme. Shënoni çdo gjetje me arsyetim. Mos bëni gjykime përfundimtare. Përmbajtja: [këtu]
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
A është i vërtetë ky pretendim? Kërkoni në internet dhe më njoftoni.
AI duke thënë "e vërtetë" nuk është verifikim; Ai mund të japë burime të rreme ose të japë një përgjigje të njëanshme ose lajkatare.
Njoftim i fuqishëm:
Roli juaj: analist verifikimi. Më poshtë është një pretendim dhe burimet që kam mbledhur. Mos më thuaj "e drejtë/gabim"; Në vend të kësaj: tregoni origjinën e pretendimit, numrin e burimeve të pavarura, çdo kontradiktë dhe nivelin e besimit. Mos shkoni përtej burimeve që kam dhënë, mos bëni burime. Nëse nuk jeni të sigurt, shënojeni si "kërkon verifikim njerëzor". Pretendim+burimet: [këtu]
Dallimi është i qartë: kërkimi i origjinës, konfirmimi i pavarur dhe një nivel besimi në vend të një gjykimi "i vërtetë/i rremë" kufizon rreziqet e AI.
Tabela e statuseve të verifikimit
Etiketa
Kuptimi
Përdorimi në raport
Verifikuar
Të paktën 2 burime të pavarura të besueshme
Mund të përdoret si kasë
Pjesërisht e konfirmuar
Disa e konfirmuan
E kufizuar, me shpjegim
burim i vetëm
Vetëm një burim
Si një "pretendim", kërkohet konfirmimi
kontradiktore
Burimet nuk përputhen
Paraqitur si pasiguri
Nuk mund të verifikohej
Nuk u gjet asnjë konfirmim
Nuk përdoret si fakt
gabim
E kundërta është vërtetuar
Si korrigjim në raport
Gabimet e zakonshme
- Duke e konsideruar thënien e AI "korrekte" si vërtetim. Inteligjenca artificiale mund të fabrikojë, të paragjykojë ose të përkeqësojë.
- Hapja e burimit të dhënë nga AI dhe pranimi i tij pa e parë atë. Burimet e fabrikuara duken bindëse.
- Verifikimi i pak informacionit që i përshtatet nevojave tuaja. Informacioni emocional/e duhur është informacioni që kërkon më shumë konfirmim.
- Gabimi i bollëkut të kopjeve si konfirmim. Qindra site që ushqehen nga i njëjti burim janë një burim i vetëm.
- Duke mos testuar fare paragjykimet. Përmbledhja e së njëjtës ngjarje nga këndvështrime të ndryshme siguron ekuilibër.
Në përmbledhje
Verifikimi i burimit është themeli i njohurive diplomatike, dhe AI është një ndihmë dhe një rrezik në këtë punë. AI organizon burimet, ndihmon me gjurmimin e origjinës dhe shënjimin e konflikteve; por ai vetë mund të gjenerojë dezinformata për shkak të halucinacioneve, paragjykimeve të të dhënave të trajnimit dhe lajkave. Gjurmimi i origjinës, kontrolli i pavarur i kryqëzuar, ndarja e besueshmërisë së informacionit burim, etiketimi i nivelit të besimit dhe dyshimi shtesë në daljen e AI janë shtylla kurrizore e kësaj njësie.
Detyra e aplikimit
Zgjidhni një pretendim aktual, të diskutueshëm dhe mblidhni burime nga zhanre të ndryshme. Vlerëso kërkesën për prejardhjen dhe verifikimin e pavarur me “protokollin e verifikimit të kërkesës”. Me "testin e paragjykimit të AI", përmblidhni të njëjtën ngjarje nga këndvështrime të ndryshme dhe renditni dallimet. Nëse AI jep një burim, hapeni atë në mënyrë të pavarur dhe kontrolloni nëse ekziston në të vërtetë.
listë kontrolli
- [ ] E reduktova pretendimin në një fjali të vetme të qartë dhe kërkova origjinën e saj.
- [ ] Unë kam kontrolluar me të paktën dy burime të pavarura të besueshme.
- [ ] Unë kam verifikuar në mënyrë të pavarur çdo burim të dhënë nga AI.
- [ ] Unë testova paragjykimin duke përmbledhur të njëjtën ngjarje nga këndvështrime të ndryshme.
- [ ] E shënova rezultatin me një etiketë të qartë të nivelit të besimit.