Hagnaður:
- Hæfni til að sannreyna kröfu með kerfisbundnum hætti með uppruna, trúverðugleika heimildar og óháðum krossathugunarskrefum
- Hæfni til að skilja að gervigreind sjálf getur framleitt rangar upplýsingar með ofskynjunum, þjálfunargagnahlutdrægni og smjaðri, og meðhöndla framleiðslu hennar af auka tortryggni
- Hæfni til að prófa hlutdrægni með því að merkja niðurstöðuna með skýru merki um sjálfstraust og meta sama atburð frá mismunandi sjónarhornum
Diplómatía vinnur með upplýsingar og gildi upplýsinga fer eftir nákvæmni þeirra. Kynningarfundur, samningsafstaða eða opinber yfirlýsing byggð á röngum upplýsingum hefur afleiðingar sem erfitt er að snúa við. Þess vegna er ein af mikilvægustu færni diplómata heimildarsannprófun: að meta kerfisbundið hvaðan krafa kemur, hversu áreiðanleg hún er og hvort hún sé í raun og veru sönn. Í þessari einingu muntu læra hvernig á að fella gervigreind inn í sannprófun; en þú munt læra hvernig á að nota það á meðan þú hefur í huga að gervigreind sjálft getur verið uppspretta rangra upplýsinga og hlutdrægni.
Við skulum fyrst aðgreina hugtökin þrjú. Rangar upplýsingar: rangar upplýsingar dreifast óviljandi. Óupplýsingar: rangar upplýsingar sem eru framleiddar og dreift meðvitað, markvisst. Fordómar: kerfisbundin tilfærsla upplýsinga eða mat í átt að ákveðnum hliðum. Diplómati verður að vera vakandi fyrir öllum þremur og gervigreind getur verið bæði hjálp og áhætta í öllum þremur.
Skref fyrir skref: staðfesta kröfu
1. Segðu kröfuna skýrt. Hvað nákvæmlega á að sannreyna? Snúðu það niður í einni, skýrri fullyrðingu eins og „Land X dró sig frá samningi Y.“ Ekki er hægt að sannreyna óljósar fullyrðingar.
2. Finndu uppruna þinn. Hvar, hvenær og af hverjum var þessi krafa fyrst sett fram? Flestar rangar upplýsingar koma frá einum vafasömum uppsprettu og eru magnaðar. Farðu aftur að upprunanum.
3. Metið trúverðugleika heimildarinnar. Er heimildarmaðurinn opinber, óháður eða hlutdrægur? Hefur hann veitt nákvæmar upplýsingar áður? Hefur hann hagsmuni af þessu? Jafnvel áreiðanleg heimild getur verið röng; en lítil trúverðug heimild krefst auka staðfestingar.
4. Krossskoðun. Staðfestu fullyrðinguna með að minnsta kosti tveimur óháðum, áreiðanlegum heimildum. 50 síður sem sömu fréttastofa veitir eru ekki óháðar heimildir.
5. Prófaðu innra samræmi og samhengi. Er krafan samræmd innbyrðis? Stendur það í bága við þekktar staðreyndir? Tekið úr samhengi? Sönn setning getur verið villandi í röngu samhengi.
6. Merktu niðurstöðuna með öryggisstiginu. Gefðu skýran merkimiða eins og "staðfest", "að hluta til", "eina uppspretta", "gæti ekki verið staðfest", "ósönn". Jafnvel "ég er ekki viss" er niðurstaða og ætti að segja það heiðarlega.
Ábending: Því meira sem fullyrðing endurómar eða vekur tilfinningaleg viðbrögð, því nákvæmari ættir þú að vera við að sannreyna hana. Óupplýsingar beinast að sjálfri tilfinningunni reiði, ótta eða „fréttunum sem við viljum“. Upplýsingar sem hvetja þig til að grípa til aðgerða fljótt eru oft þær upplýsingar sem þarfnast mestrar sannprófunar.
AI sjálft er uppspretta áhættu
Mikilvægasti fyrirvarinn við þessa einingu: AI er ekki sannprófunarvald; Það getur sjálft framkallað rangar upplýsingar og hlutdrægni. AI getur villt á þrjá vegu:
1. Ofskynjanir: Sýnir heimild, tilvitnun eða atburði sem ekki er til sem raunverulega. "Hvaða heimild staðfestir þessa fullyrðingu?" Þegar þú spyrð gæti hann jafnvel gefið þér tilbúið heimildarnafn.
2. Hlutdrægni í þjálfunargögnum: gervigreindin endurspeglar ríkjandi sjónarhorn í textunum sem það er þjálfað á. Ef skoðun eins heimshluta á tilteknu máli ræður ríkjum í gögnunum getur gervigreind sveiflast þannig. Þetta er ekki viljandi, heldur endurspeglun gagna - en niðurstaðan er samt hlutdræg framleiðsla.
3. Sycophancy: AI gæti haft tilhneigingu til að svara spurningunni á þann hátt sem þóknast þér. Ef þú vilt sannreyna fullyrðingu hefur það tilhneigingu til að gefa svar sem styður hana.
Svo notaðu gervigreind sem verkfæri til að sannprófa (breyta heimildum, flagga átök, aðstoð við upprunarakningu), en taktu aldrei gervigreindina sem segir „þetta er satt“ sem lokaorðið.
Varúð: Þegar þú hefur gervigreindina til að sannreyna heimild, athugaðu hvort gervigreindin sé að sýna þér raunverulegan uppruna eða framleiði trúverðugan tilbúning. Ekki líta á það sem „staðfest“ fyrr en þú opnar sjálfstætt og sérð hvert nafn heimildar, tengil og tilvitnun sem hann gefur. Uppspretta gervigreindar getur virst meira sannfærandi en raunveruleg heimild.
þrjú smámál
Tilfelli 1 — Upprunastaðfesting vistuð. "Opinber tilkynning" skjáskot féll á borðið og það leit raunverulegt út. Sannprófun sýndi að engin slík yfirlýsing var til á opinberum leiðum þeirrar stofnunar; myndin var fölsuð. Upprunaskoðun kom í veg fyrir að fölsuð yfirlýsing kæmist inn á kynningarfundinn.
Mál 2 - AI framleiddur uppspretta. Sérfræðingur lét gervigreindina sannreyna tölfræði. YZ vitnaði í heimildarmann með því að segja „samkvæmt 2023 skýrslu þessarar stofnunar...“ Hann kallaði sérfræðinginn: það var hvorki slík skýrsla né slík tala; Gervigreindin hafði gert bæði upp. Óháð athugun náði tilbúinni „staðfestingu“.
Mál 3 - Hlutdrægni. Sérfræðingur lét gervigreindina draga saman umdeildan atburð og tók eftir því að framleiðslan var greinilega nálægt frásögn annarrar hliðar. Þegar ég spurði aftur „tekið saman sama atburð frá sjónarhóli gagnaðila“ kom allt önnur mynd í ljós. Samanburður á þessum tveimur niðurstöðum kom í veg fyrir að innleiða einhliða ramma í skýrsluna.
Fjögur afritanleg sniðmát
1) Samskiptareglur um kröfustaðfestingar:
Hlutverk þitt: löggildingarfræðingur. Fyrir eftirfarandi fullyrðingu: (1) minnkaðu fullyrðinguna í nettek setningu, (2) finndu hvar/hvenær hennar er fyrst getið í heimildunum sem ég gaf upp, (3) hversu margar SJÁLFSTÆÐAR heimildir styðja hana, (4) eru einhverjar andstæðar heimildir, (5) merktu niðurstöðuna með einu af eftirfarandi merkjum: staðfest / ein heimild / mótsagnakennd / óstaðfest. Uppspretta tilbúningur; Notaðu bara það sem ég gef þér. Krafa+heimildir: [hér]
2) AI hlutdrægni prófun:
Fyrst skaltu draga eftirfarandi atvik saman eins hlutlægt og mögulegt er. Taktu síðan saman SAMA atburðinn sérstaklega (a) frá sjónarhóli aðila A, (b) frá sjónarhóli aðila B. Listaðu muninn á þremur útgáfum. Þannig má sjá hvaða atriði eru túlkun aðila og hverjar eru sameiginlegar staðreyndir. Mál/heimildir: [hér]
3) Mat á áreiðanleika heimilda:
Metið fyrir eftirfarandi heimild: tegund (opinber/óháður/hlutdrægur/nafnlaus), hugsanlegur áhugi á málinu, upplýsingar veittar um fyrri trúverðugleika, viðbótarskref sem þarf til að sannprófa. Skrifaðu líka niður hvers vegna heimildin gæti verið röng. Heimild: [hér]
4) Rauðir fánar óupplýsingar:
Skannaðu innihaldið hér að neðan fyrir rangfærslur. Leitaðu að þessum fánum: óheimilt tölfræði, tilfinningavekjandi tungumál, myndir án samhengis, „flýta/deila“ þrýstingi, ósannanlegt valdorð, samtímis samræmd miðlun. Merktu hverja niðurstöðu með rökstuðningi. Ekki fella endanlega dóma. Efni: [hér]
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Er þessi fullyrðing sönn? Leitaðu á netinu og láttu mig vita.
AI sem segir „satt“ er ekki sannprófun; Hann getur gefið rangar heimildir eða gefið hlutdrægt eða smjaðrandi svar.
Öflug tilvitnun:
Hlutverk þitt: sannprófunarfræðingur. Hér að neðan er krafa og þær heimildir sem ég safnaði. Ekki segja mér "rétt/rangt"; Í staðinn: sýndu uppruna fullyrðingarinnar, fjölda óháðra heimilda, hvers kyns mótsagnir og hversu mikið traust er. Ekki fara lengra en þær heimildir sem ég hef gefið, ekki búa til heimildir. Ef þú ert ekki viss skaltu merkja það sem "þarf mannlegrar staðfestingar". Krafa+heimildir: [hér]
Munurinn er skýr: að krefjast uppruna, óháðrar staðfestingar og trausts frekar en „sanna/ósanna“ dóms takmarkar áhættuna af gervigreind.
Tafla um staðfestingarstöðu
Merki
Merking
Notkun í skýrslunni
Staðfest
Að minnsta kosti 2 óháðar áreiðanlegar heimildir
Hægt að nota sem hulstur
Að hluta til staðfest
Sumir staðfestu
Takmarkað, með skýringu
ein heimild
Bara ein heimild
Sem „krafa“ þarf staðfestingu
misvísandi
Heimildir passa ekki saman
Sett fram sem óvissa
Gat ekki staðfest
Engin staðfesting fannst
Ekki notað sem staðreynd
rangt
Hið gagnstæða hefur verið sannað
Sem leiðrétting í greinargerð
Algeng mistök
- Lítur á gervigreind sem segir „rétt“ sem staðfestingu. AI getur búið til, hlutdrægt eða bakað.
- Opna heimildina sem gefin er af gervigreind og samþykkja hana án þess að sjá hana. Tilbúnar heimildir virðast sannfærandi.
- Að sannreyna litlar upplýsingar sem henta þínum þörfum. Tilfinningalegar/viðeigandi upplýsingar eru þær upplýsingar sem þarfnast mestrar staðfestingar.
- Að misskilja gnægð afrita sem staðfestingu. Hundruð vefsvæða sem fæða frá sama uppruna eru ein uppspretta.
- Alls ekki að prófa hlutdrægni. Að draga saman sama atburð frá mismunandi sjónarhornum gefur jafnvægi.
Í stuttu máli
Heimildastaðfesting er undirstaða diplómatískrar þekkingar og gervigreind er bæði hjálp og áhætta í þessu starfi. AI skipuleggur heimildir, hjálpar við upprunamælingu og árekstraflöggun; en það getur sjálft framkallað rangar upplýsingar vegna ofskynjana, hlutdrægni í þjálfunargögnum og smjaður. Upprunaleit, óháð krossathugun, trúverðugleikaaðskilnaður upprunaupplýsinga, merking á trausti og auka vafi á gervigreindarframleiðslunni er burðarás þessarar einingar.
Umsóknarverkefni
Veldu núverandi, umdeilda fullyrðingu og safnaðu heimildum úr mismunandi tegundum. Metið kröfuna um uppruna og óháða sannprófun með "kröfustaðfestingarreglum". Með „AI hlutdrægni prófinu“ skaltu draga saman sama atburð frá mismunandi sjónarhornum og lista muninn. Ef gervigreind gefur auðlind skaltu opna hana sjálfstætt og athuga hvort hún sé til í raun og veru.
gátlisti
- [ ] Ég minnkaði kröfuna í eina skýra setningu og leitaði uppruna hennar.
- [ ] Ég hef athugað með að minnsta kosti tveimur óháðum áreiðanlegum heimildum.
- [ ] Ég hef sjálfstætt sannreynt allar heimildir sem gervigreind gefur.
- [ ] Ég prófaði hlutdrægni með því að draga saman sama atburð frá mismunandi sjónarhornum.
- [ ] Ég merkti niðurstöðuna með skýru merki um sjálfstraust.