Voitot:
- Kyky järjestelmällisesti tarkistaa väite alkuperän, lähteen uskottavuuden ja riippumattomien ristiintarkistusvaiheiden avulla
- Kyky ymmärtää, että tekoäly itsessään voi tuottaa väärää tietoa hallusinaatioiden, harjoitustietoharhojen ja imartelun kautta, ja suhtautua sen tuottoon ylimääräisellä epäluulolla
- Kyky testata harhaa merkitsemällä tulos selkeällä luottamustasomerkinnällä ja arvioimalla samaa tapahtumaa eri näkökulmista
Diplomatia toimii tiedon kanssa, ja tiedon arvo riippuu sen tarkkuudesta. Virheelliseen tietoon perustuvalla tiedotuksella, neuvotteluasemalla tai julkisella lausunnolla on seurauksia, joita on vaikea peruuttaa. Siksi yksi diplomaatin tärkeimmistä taidoista on lähteen todentaminen: arvioida järjestelmällisesti, mistä väite tulee, kuinka luotettava se on ja onko se todella totta. Tässä osiossa opit sisällyttämään tekoälyn todentamiseen; mutta opit käyttämään sitä pitäen mielessä, että tekoäly itsessään voi olla väärän tiedon ja puolueellisuuden lähde.
Erottelemme ensin nämä kolme käsitettä. Väärä tieto: väärä tieto leviää tahattomasti. Disinformaatio: tietoisesti, kohdennetusti tuotettu ja levitetty väärä tieto. Ennakkoluulo: systemaattinen tiedon tai arvioinnin siirtäminen tietylle puolelle. Diplomaatin on oltava hereillä kaikissa kolmessa, ja tekoäly voi olla sekä apu että riski kaikissa kolmessa.
Vaihe vaiheelta: vaatimuksen vahvistaminen
1. Ilmaise väite selkeästi. Mitä tarkalleen ottaen on tarkistettava? Tiivistä se yhteen, selkeään väitteeseen, kuten "Maa X vetäytyi sopimuksesta Y". Sumeita väitteitä ei voida vahvistaa.
2. Etsi alkuperäsi. Missä, milloin ja kuka tämän väitteen esitti ensimmäisen kerran? Suurin osa väärästä tiedosta on peräisin yhdestä epäilyttävästä lähteestä, ja se lisääntyy. Palaa lähteeseen.
3. Arvioi lähteen uskottavuus. Onko lähde virallinen, riippumaton vai puolueellinen? Onko hän antanut tarkkoja tietoja aiemmin? Onko hänellä oma intressi tähän? Jopa luotettava lähde voi olla väärässä; mutta heikon uskottavuuden lähde vaatii lisävahvistuksen.
4. Ristiintarkastus. Vahvista väite vähintään kahdella riippumattomalla, luotettavalla lähteellä. 50 saman uutistoimiston syöttämää sivustoa eivät ole riippumattomia lähteitä.
5. Testaa sisäistä johdonmukaisuutta ja kontekstia. Onko väite sisäisesti johdonmukainen? Onko se ristiriidassa tunnettujen tosiasioiden kanssa? Irrotettu kontekstista? Todellinen lause voi olla harhaanjohtava väärässä kontekstissa.
6. Merkitse tulos luottamustasolla. Anna selkeä tunniste, kuten "vahvistettu", "osittain vahvistettu", "ainoa lähde", "ei voitu vahvistaa", "epätosi". Jopa "en ole varma" on johtopäätös, ja se on sanottava rehellisesti.
Vinkki: Mitä enemmän väite resonoi tai herättää tunnereaktion, sitä huolellisemmin sinun tulee varmistaa se. Disinformaatio kohdistuu vihan, pelon tai "haluamiemme uutisten" tunteeseen. Tiedot, jotka kehottavat sinua toimimaan nopeasti, ovat usein niitä tietoja, jotka tarvitsevat eniten vahvistusta.
Tekoäly itsessään on riskinlähde
Tämän yksikön tärkein varoitus: AI ei ole varmennusviranomainen; Se voi itse tuottaa väärää tietoa ja harhaa. AI voi johtaa harhaan kolmella tavalla:
1. Hallusinaatiot: Esittää olemattoman lähteen, lainauksen tai tapahtuman todellisena. "Mikä lähde vahvistaa tämän väitteen?" Kun kysyt, hän saattaa jopa antaa sinulle keksityn lähteen nimen.
2. Harjoitteludatan harha: Tekoäly heijastaa hallitsevaa näkökulmaa teksteissä, joihin se on koulutettu. Jos jonkin osan maailmaa näkemys tietystä asiasta hallitsee dataa, tekoäly voi vaikuttaa siihen suuntaan. Tämä ei ole tarkoituksellista, vaan heijastus tiedosta - mutta tulos on silti puolueellinen tulos.
3. Sycophancy: Tekoälyllä voi olla taipumus vastata kysymykseen tavalla, joka miellyttää sinua. Jos haluat vahvistaa väitteen, se tuottaa yleensä sitä tukevan vastauksen.
Käytä siis tekoälyä todentamistyökaluna (lähteiden muokkaaminen, ristiriitojen merkitseminen, apu alkuperän jäljittämisessä), mutta älä koskaan ota tekoälyä "tämä on totta" viimeisenä sanana.
Varoitus: Kun olet antanut tekoälyn vahvistaa lähteen, tarkista, näyttääkö tekoäly sinulle todellista lähtettä vai tuottaako uskottavan näköistä fiktiota. Älä pidä sitä "vahvistetuksi" ennen kuin avaat itsenäisesti ja näet jokaisen lähteen nimen, linkin ja lainauksen, jonka hän antaa. Tekoälyn keksimä lähde voi vaikuttaa vakuuttavammalta kuin todellinen lähde.
kolme minilaukkua
Tapaus 1 – Alkuperän vahvistus tallennettu. "Virallinen ilmoitus" kuvakaappaus putosi pöydälle ja se näytti aidolta. Tarkastus osoitti, että kyseisen toimielimen virallisilla kanavilla ei ollut tällaista lausuntoa; kuva oli väärennös. Alkuperätarkistus esti väärän lausunnon pääsyn tiedotustilaisuuteen.
Tapaus 2 – tekoälyn valmistettu lähde. Asiantuntija pyysi tekoälyä tarkistamaan tilaston. YZ viittasi lähteeseen sanomalla, että "tämän organisaation vuoden 2023 raportin mukaan..." Hän soitti asiantuntijalähteelle: sellaista raporttia tai lukua ei ollut; Tekoäly oli keksinyt molemmat. Riippumaton tarkistus sai väärennetyn "vahvistuksen".
Tapaus 3 – Bias offset. Asiantuntija pyysi tekoälyä tekemään yhteenvedon kiistanalaisesta tapahtumasta ja huomasi, että tulos oli selvästi lähellä toisen osapuolen kertomusta. Kun kysyin uudelleen "yhteenveto samasta tapahtumasta toisen osapuolen näkökulmasta", syntyi hyvin erilainen kuva. Kahden tuloksen vertailu esti yksipuolisen viitekehyksen sisällyttämisen raporttiin.
Neljä kopioitavaa mallia
1) Vaatimuksen vahvistusprotokolla:
Tehtäväsi: validointianalyytikko. Seuraavalle väitteelle: (1) vähennä väite nettek-lauseeseen, (2) etsi missä/milloin se mainitaan ensimmäisen kerran antamissani lähteissä, (3) kuinka monta RIIPPUMATTOMAT lähdettä sitä tukevat, (4) onko olemassa ristiriitaisia lähteitä, (5) merkitse tulos jollakin seuraavista tunnisteista: vahvistettu / yksi lähde / ristiriitainen / vahvistamaton. Lähde valmistus; Käytä vain sitä, mitä annan sinulle. Väite+lähteet: [täällä]
2) AI bias -testaus:
Tee ensiksi yhteenveto seuraavasta tapahtumasta mahdollisimman objektiivisesti. Tee sitten yhteenveto SAMAsta tapahtumasta erikseen (a) osapuolen A näkökulmasta, (b) osapuolen B näkökulmasta. Listaa erot kolmen version välillä. Siten voidaan nähdä, mitkä kohdat ovat osapuolten tulkintaa ja mitkä yhteisiä tosiseikkoja. Tapaus/lähteet: [täällä]
3) Lähteen luotettavuuden arviointi:
Arvioi seuraavan lähteen osalta: tyyppi (virallinen/riippumaton/puolue/anonyymi), mahdollinen kiinnostus asiaa kohtaan, tiedot aiemmasta uskottavuudesta, todentamisen edellyttämät lisävaiheet. Kirjoita myös, miksi lähde voi olla väärä. Lähde: [täällä]
4) Disinformaation punaiset liput:
Tarkista alla oleva sisältö disinformaation varalta. Etsi nämä liput: lähtemättömät tilastot, tunteita herättävä kielenkäyttö, kuvat ilman kontekstia, "kiire/jaa" -paine, todentamaton auktoriteettisana, samanaikainen koordinoitu levitys. Merkitse jokainen löydös perustelulla. Älä tee lopullisia tuomioita. Sisältö: [täällä]
Heikko kehote / Vahva kehote
Heikko kehote:
Onko tämä väite totta? Etsi netistä ja kerro minulle.
Tekoäly sanoo "tosi" ei ole varmennus; Hän voi antaa vääriä lähteitä tai tuottaa puolueellisen tai imartelevan vastauksen.
Tehokas kehotus:
Tehtäväsi: varmistusanalyytikko. Alla on väite ja keräämani lähteet. Älä sano minulle "oikein/väärin"; Sen sijaan: näytä väitteen alkuperä, riippumattomien lähteiden määrä, mahdolliset ristiriidat ja luotettavuustaso. Älä ylitä antamiani lähteitä, älä keksi lähteitä. Jos et ole varma, merkitse se "vaatii ihmisen vahvistuksen". Väite+lähteet: [täällä]
Ero on selvä: lähteen, riippumattoman vahvistuksen ja luottamuksen tason vaatiminen "tosi/väärä" -arvioinnin sijaan rajoittaa tekoälyn riskejä.
Vahvistuksen tilat -taulukko
Label
Merkitys
Käyttö raportissa
Vahvistettu
Vähintään 2 riippumatonta luotettavaa lähdettä
Voidaan käyttää kotelona
Osittain vahvistettu
Jotkut vahvistivat
Rajoitettu, selityksellä
yksi lähde
Vain yksi lähde
"Vaatimuksena" vaaditaan vahvistus
ristiriitaista
Lähteet eivät täsmää
Esitetty epävarmuudena
Ei voitu vahvistaa
Vahvistusta ei löytynyt
Ei käytetty faktana
väärin
Päinvastainen on todistettu
Korjauksena raporttiin
Yleisiä virheitä
- Tarkastellaan tekoälyn sanontaa "oikea" validointina. Tekoäly voi valmistaa, harhailla tai paritella.
- Tekoälyn antaman lähteen avaaminen ja sen hyväksyminen näkemättä sitä. Tehdyt lähteet vaikuttavat vakuuttavilta.
- Tarkistaa vähän tarpeitasi vastaavia tietoja. Emotionaalinen/sopiva tieto on se tieto, joka vaatii eniten vahvistusta.
- Luulisi kopioiden runsauden vahvistukseksi. Sadat sivustot, jotka syöttävät samasta lähteestä, ovat yhdestä lähteestä.
- Ei testata ennakkoluuloja ollenkaan. Saman tapahtuman yhteenveto eri näkökulmista tarjoaa tasapainoa.
Yhteenvetona
Lähteen todentaminen on diplomaattisen tiedon perusta, ja tekoäly on sekä apu että riski tässä työssä. Tekoäly järjestää lähteet, auttaa alkuperän jäljittämisessä ja konfliktien ilmoittamisessa; mutta se voi itse tuottaa väärää tietoa hallusinaatioiden, harjoitustietojen harhaan ja imartelun vuoksi. Lähteen jäljitys, riippumaton ristiintarkistus, lähdetietojen uskottavuuden erottaminen, luottamustason merkitseminen ja ylimääräinen epäilys tekoälytulosta ovat tämän laitteen selkäranka.
Sovellustehtävä
Valitse nykyinen, kiistanalainen väite ja kerää lähteitä eri genreistä. Arvioi väite alkuperästä ja riippumattomasta tarkastuksesta "väitteen vahvistusprotokollan" avulla. Tee yhteenveto samasta tapahtumasta eri näkökulmista "AI bias -testillä" ja luettele erot. Jos tekoäly antaa resurssin, avaa se itsenäisesti ja tarkista, onko se todella olemassa.
tarkistuslista
- [ ] Pelkäsin väitteen yhteen selkeään lauseeseen ja etsin sen alkuperää.
- [ ] Olen tarkistanut ainakin kaksi riippumatonta luotettavaa lähdettä.
- [ ] Olen tarkistanut itsenäisesti kaikki tekoälyn tarjoamat lähteet.
- [ ] Testasin harhaa tekemällä yhteenvedon samasta tapahtumasta eri näkökulmista.
- [ ] Merkitsin tuloksen selkeällä luottamustasolla.