Voitot:
- Kyky selittää, miksi hallusinaatiot (kehitetty lähde, lainaus, tapahtuma) ja anakronismi ovat historian vaarallisimpia virheitä
- Kyky soveltaa kurinalaisuutta tarkistaa luettelon jokainen viittaus, vertailla sisältöä asiakirjaan ja vahvistaa kriittisiä tosiasioita.
- Kyky kyseenalaistaa lähteiden puolueellisuutta ja puuttuvia ääniä kysymällä tekoälyltä, mistä etsiä todellisen lähteen sijaan
Tämän moduulin jokaisessa yksikössä toistetaan varoitus: AI:n tulos on väite, ei tosiasia, kunnes se on vahvistettu. Tämä yksikkö muuttaa varoituksen kurinalaiseksi. Historia ja arkistointi ovat luonnostaan todisteisiin perustuvia aloja; Historioitsijan perustaito on lähdekritiikki (kysymys siitä, kuka, milloin, mihin tarkoitukseen lähde on tuotettu ja kuinka luotettava se on). Tekoälyn aikakaudella tästä taidosta on tullut entistä kriittisempi, koska itse lähde voidaan nyt keksiä.
Tässä käsittelemme kolmea vaaraa perusteellisesti: hallusinaatiot (tekoäly tuottaa väärennettyä tietoa, lähteitä tai lainauksia), anakronismi (jaksolliset elementit siirretään väärälle ajanjaksolle) ja lähteen todentamisen kurinalaisuus yleensä. Näemme myös tekoälyn oppivan lähteistä, jotka olivat aiemmin epätarkkoja tai puolueellisia, joten se voi toistaa harhaa.
Hallusinaatiot: vaarallisin virhe
Hallusinaatio on, kun tekoäly esittää luottavaisesti jotain, jota ei todellisuudessa ole olemassa. Historiallisesti se näkyy yleisimmin seuraavissa muodoissa:
- Valmistettu lähde/viite: Olematon arkistorahasto, tiedostonumero, kirja tai artikkeli.
- Keksitty lainaus: Sana, jota ei todellisuudessa sanottu, lause, jota ei ole asiakirjassa.
- Keksitty tapahtuma/treffi/henkilö: Tapahtuma, jota ei tapahtunut, väärä päivämäärä, henkilö, jota ei ole olemassa.
- Fiktiivinen yhteys: Olematon syy-seuraussuhde kahden todellisen tapahtuman välillä.
Hallusinaatiosta vaarallisen tekee se, että se näyttää uskottavalta. Tehdyllä viitteellä on sama muoto kuin oikealla viitteellä: rahaston nimi, numero, päivämäärä. Joten "muoto näyttää oikealta" ei koskaan tarkoita "oikeaa".
Huomio: YZ:n tuottamaa resurssia ei voi käyttää ilman, että se on tarkistettu ja löydetty luettelosta tai luotettavasta paikasta. Ainoa tapa todistaa viitteen olemassaolo on nähdä se alkuperäisen lähteen sijaintipaikassa (arkistoluettelo, kirjasto, julkaisu). "AI antoi sen" ei ole todiste.
Anakronismi: aikakauden lasit
Anakronismi on menneisyyden näkemistä tämän päivän lasien läpi. Koska tekoäly on koulutettu nykykielellä, sillä on vahva taipumus:
- Termi anakronismi: Käytä sanaa, instituutiota tai käsitettä, joka ei kuulu ajanjaksoon.
- Käsitteen anakronismi: nykyhetken idean (esim. moderni ideologia tai identiteetti) projisointi menneisyyteen.
- Arvo-anakronismi: Aiemman käytöksen arvioiminen vain tämän päivän standardien mukaan.
Historioitsijan tehtävänä on ymmärtää menneisyyttä sen kontekstissa. Tekoälystä puuttuu tämä kontekstiherkkyys; Sinun on tarjottava se itse.
Ymmärtämällä, miksi hallusinaatioita tapahtuu niin usein, on helpompi suojautua niitä vastaan. AI on järjestelmä, joka tuottaa "seuraavan todennäköisimmän sanan"; Sillä ei ole muuta tarkoitusta kuin "totuuden tietäminen". Kun häneltä kysytään, tietääkö hän vastauksen vai ei, hän tuottaa tilastollisesti vakuuttavalta näyttävän tekstin. Arkistoviitteen muoto (rahaston nimi, numero, päivämäärä) on opittu malli; AI voi täyttää tämän kuvion ilman todellista viittausta. Joten "miksi tekoäly keksii sen?" Vastaus kysymykseen on yksinkertainen: hänen on helpompi sovittaa kuin "ei tiedä". Sinun vastuullasi on täyttää nämä muotit todellisilla resursseilla.
Lähteen varmistuskuri: askel askeleelta
1. Tarkista resurssin olemassaolo. Etsi kaikki AI:n antamat viitteet luettelosta/julkaisusta. Jos et löydä sitä, älä käytä sitä.
2. Vertaa sisältöä lähteeseen. Ovatko tekoälyn asiakirjalle määrittämät tiedot todella olemassa asiakirjassa? Onko lainaus täsmälleen sama?
3. Vahvista ristiin. Katso kriittisen tosiasian saamiseksi ainakin kaksi riippumatonta luotettavaa lähdettä.
4. Käytä lähdekritiikkiä. Onko lähde itse luotettava? Kuka sen on tuottanut, milloin ja mihin tarkoitukseen? Onko se puolueellinen?
5. Pujota se anakronismisuodattimen läpi. Onko olemassa termejä, käsitteitä tai arvoarvioita, jotka eivät sovi tuotoksen ajanjaksoon?
6. Kysymys ennakkoluuloista. Olisiko tekoäly voinut toistaa historiallisten lähteiden vääristymät (yhden ryhmän huomiotta jättäminen, yhden näkökulman suosiminen)?
Todennuskerros
Kysymys
kuka tekee
kokonaisuus
Onko tämä resurssi todella olemassa?
Olet luettelossa.
Sisältö
Sanotaanko tämä todella asiakirjassa?
Sinä dokumentissa
Vahvistus
Tukeeko joku muu lähde sitä?
sinä, risti
luotettavuus
Onko lähde luotettava?
asiantuntijan arvio
Kausi
Onko olemassa anakronismeja?
asiantuntijan arvio
ennakkoluulo
Kenen ääni puuttuu/vääristynyt?
asiantuntijan arvio
kolme minilaukkua
Tapaus 1 – Kuusi väärennettyä viittausta. Tutkija pyysi tekoälyltä luetteloa aiheeseen liittyvistä lähteistä. YZ toimitti 6 arkistoviitettä täydellisellä muotoilulla. Luettelohaussa 4 kuudesta puuttui, kahdella oli väärä numero. Jos tutkija ei olisi varmistanut, olisi syntynyt tutkimus, jossa viitataan olemattomiin lähteisiin. Oppitunti: jokainen viittaus tarkistetaan luettelosta.
Tapaus 2 – keksitty lainaus. Kirjoittaja käyttäisi silmiinpistävää lainausta, jonka tekoäly viittaa historialliseen henkilöön. Kun hän tutki lähdettä, hän näki, että ei ollut asiakirjaa, joka todistaisi, että henkilö sanoi niin ja että lausunto oli tekoälyn "keksimä". Oppitunti: lainauksia ei voi käyttää ilman ensisijaisesta tai luotettavasta lähteestä saatua vahvistusta.
Tapaus 3 — Ennakkoluulojen toistaminen. Opiskelija antoi tekoälyn selittää alueen historiaa. Tuotos jätti täysin huomiotta tietyn yhteisön tällä alueella, koska lähteet, joista tekoäly oli oppinut, olivat myös jättäneet ne huomiotta. Opiskelija huomasi tämän aukon ja korjasi sen ristiviittauksilla. Oppitunti: AI toistaa lähteiden hiljaisuudet ja vinoutumat; Täytyy kysyä, kenen ääni puuttuu.
Neljä kopioitavaa mallia
1) Viitevarmennusluettelo:
KAIKKI lähde-, viite-, lainaus-, päivämäärä- ja henkilönimet alla olevassa tekstissä näkyvät erillisessä luettelossa. Lisää jokaiselle huomautus: "väitetään tässä tekstissä, on vahvistettava itsenäisesti." Jos et valitse mitään, "vahvista"; Tuo vain luettelo tarkistettavaksi, jotta voin tarkistaa sen luettelosta/lähteestä. Teksti: [täällä]
2) Anakronismin skannaus:
Tutki alla olevaa tekstiä aiheesta [jakso]. Korosta termejä, instituutioita, käsitteitä ja arvoja, jotka EIVÄT kuulu tähän ajanjaksoon. Kirjoita jokaisen kohdalla lyhyesti, miksi olet epäilyttävä. Lopullisen tuomion tekeminen; Luo luettelo epäilyksistä, jotka asiantuntija tarkistaa. Teksti: [täällä]
3) Lähdekritiikkikehys:
Lähdekritiikki laaditaan seuraavasta lähteestä: (1) Kuka on saattanut tuottaa sen, (2) Milloin, (3) Mihin tarkoitukseen, (4) Mitkä ovat sen mahdolliset harhaanjohtavat kohdat, (5) Mihin asioihin tulisi luottaa ja mihin kannattaa olla varovaisia. Lopullisen tuomion antaminen; Esitä kysymyksiä ja mahdollisia vastausvaihtoehtoja. Lähde: [täällä]
4) Äänenvoimakkuuden/bias-säädin puuttuu:
KENEN ääni ja minkä ryhmän kokemus saattaa puuttua tai olla yksipuolista seuraavassa historiallisessa yhteenvedossa? Mikä näkökulma on hallitseva, mikä näkymätön? Tee tämä kysymysluettelona; Täytän sen ristiviittauksilla. Yhteenveto: [täällä]
Heikko kehote / Vahva kehote
Heikko:
Anna minulle luotettavia historiallisia lähteitä ja lainauksia tästä aiheesta.
Tekoäly on erittäin taipuvainen tuottamaan viittauksia, jotka ovat muodoltaan oikeanlaisia, mutta sisällöltään valmistettuja, kun kysytään "lähdettä" ja "viittausta". Tämä kehote on suora kutsu hallusinaatioihin.
Vahva:
Ehdota, minkälaisia lähteitä (arkistorahastotyyppi, julkaisutyyppi, laitos) minun pitäisi etsiä tätä aihetta käsittelevässä tutkimuksessani. Tietyn viitteen, tiedostonumeron tai tarjouksen SOPITTAMINEN; Kerro vain mistä etsiä. Sitten löydän todelliset lähteet luetteloista.
Ero: AI kysytään "mistä etsiä", ei "todellista viittausta"; Hallusinaatioiden riski pienenee radikaalisti ja todentaminen jätetään ihmiselle.
Yleisiä virheitä
- Luotetaan oikeaan viittaukseen. Myös tehty viite näyttää virheettömältä; on tarkistettava luettelosta.
- Suora lainaus tekoälystä. Lainauksia ei voida käyttää ilman ensisijaisen/luotettavan lähteen vahvistusta.
- Näköala anakronismiin. Tämän päivän termit ja käsitteet tunkeutuvat hiljaa menneisyyteen.
- Toistaa ennakkoluuloja. AI kopioi hiljaisuudet lähteistä; On tarpeen kysyä puuttuvasta äänestä.
- Yhteen lähteeseen luottaen. Kriittiset tosiasiat on vahvistettava vähintään kahdella riippumattomalla lähteellä.
Yhteenvetona
Lähteen vahvistaminen on historian ja arkistoinnin ytimessä, ja se on vieläkin kriittisempi tekoälyn aikakaudella. Hallusinaatiot tuottavat lähteitä, lainauksia ja tapahtumia, joiden muoto on täydellinen, mutta joiden sisältö on kuvitteellista; anakronismi vääristää menneisyyttä tämän päivän linssien kautta; ja tekoäly toistaa lähteiden harhaa. Puolustus on kurinalaisuutta: tarkista jokainen luettelon viittaus, vertaa sisältöä dokumenttiin, tarkista kriittiset tosiasiat, suodata jaksojen ja harhojen läpi. Kysy tekoälyltä "mistä etsiä", ei "todellista lähdettä". Totuuden vartija on aina asiantuntija.
Sovellustehtävä
Pyydä tekoälyä tuottamaan luettelo käsittelemääsi aihetta käsittelevistä resursseista (jolla on tarkoituksella "heikko kehote"). Pura sitten kaikki viitteet tästä lähdöstä "viitteiden validointiluettelo" -mallilla ja hae jokaista luettelosta. Laske kuinka monta todella on olemassa ja kuinka monet ovat keksittyjä tai epätarkkoja. Toista sama aihe "voimakkaalla kehotuksella" ("mihin minun pitäisi katsoa") ja koe ero.
tarkistuslista
- [ ] Tarkastin jokaisen viitteen luettelossa/luotettavassa lähteessä.
- [ ] Olen tarkistanut jokaisen lainauksen ensisijaisella/luotettavalla lähteellä.
- [ ] Olen tarkistanut kriittiset tosiasiat vähintään kahdesta riippumattomasta lähteestä.
- [ ] Suodatin tulosteen anakronismien varalta.
- [ ] Kyseenalaistin puuttuvat/vääristyneet äänet ja vinoutumat.