Voitot:
- Kyky vangita hallusinaatiot varmistamalla kunkin lähteen olemassaolo, siirtymällä ensisijaiseen lähteeseen ja riippumattomien ristiinvahvistusvaiheiden avulla
- Kyky säilyttää omaperäisyys ja akateeminen eheys väärennettyjä lainauksia ja asiakirjoja vastaan humanistisissa ja yhteiskuntatieteissä
- Kyky opettaa käyttäjille lähteiden todentamista ja tietolukutaitoja tekoälyn aikakaudella
Kirjastotyön sosiaalisen tehtävän ytimessä on yksi lupaus: luotettava tieto. Kirjastonhoitaja tuo käyttäjän tiedon lisäksi myös varmennettuun tietoon ja opettaa häntä arvioimaan tätä tietoa itse. Tekoälyn aikakaudella tästä tehtävästä on tullut sekä vaikeampaa että tärkeämpää; koska tekoäly voi tuottaa väärää tietoa erittäin vakuuttavalla tavalla. Tässä osiossa käsittelemme hallusinaatioiden tunnistamista, lähteiden todentamisen kurinalaisuutta ja tietolukutaidon opettamista tekoälyn aikakaudella.
Määritellään käsitteet. Hallusinaatioista on kyse, kun tekoäly tuottaa tietoja, lähteitä, lainauksia tai tapahtumia, joita ei todellisuudessa ole olemassa, ikään kuin ne olisivat todellisia. Lähteen varmistus on vahvistus siitä, että tiedot perustuvat todelliseen, luotettavaan ja ensisijaiseen lähteeseen. Tietolukutaito on ihmisen kykyä löytää tietoa, arvioida sitä, kyseenalaistaa sen luotettavuus ja käyttää sitä eettisesti. Tämän yksikön tavoitteena on, että kirjastonhoitaja vahvistaa näitä taitoja sekä omassa harjoittelussaan että käyttäjän opettamisessa.
Askel askeleelta: lähteen varmistuskuri
1. Pyydä lähdettä ja varmista sen olemassaolo. Kun tekoäly esittää väitteen tai lainauksen, "mistä lähteestä tämä on?" ja tarkista, että lähde on todella olemassa itsenäisessä luettelossa, tietokannassa tai ensisijaisessa asiakirjassa.
2. Siirry ensisijaiseen lähteeseen. Luotettavin tiedon muoto on sen ensikäden lähde. Älä tyydy tiivistelmään tekoälystä tai toissijaisesta tekstistä; Jos mahdollista, tutustu alkuperäiseen asiakirjaan, tietoihin tai julkaisuun.
3. Vahvista ristiin. Tarkista kriittinen väite vähintään kahdella luotettavalla, toisistaan riippumattomalla lähteellä. Yksi resurssi, erityisesti tekoälyresurssi, ei riitä.
4. Arvioi lähteen uskottavuus. Kuka sen kirjoitti, milloin, mihin tarkoitukseen, mihin todisteisiin? Onko se ajan tasalla? Tiedon olemassaolo ei tee siitä totta; Kyseenalaista myös lähteen luonne.
5. Ilmaise epävarmuus rehellisesti. Jos tietoja ei voida varmistaa, sano se selvästi. On aina parempi sanoa "vahvistamaton" kuin tarjota keinotekoinen varmuus.
Vinkki: Kun saat lainauksen tai lähteen tekoälystä, etsi ensin nimi ja tekijä todellisesta luettelosta. Olemattomat resurssit ilmestyvät heti tänne. Tämä 30 sekunnin tarkistus estää keksittyä lähdettä syöttämästä bibliografiaa, tehtävää tai julkaisua.
Aitous ja todentaminen humanistisissa ja yhteiskuntatieteissä
Humanistiset ja yhteiskuntatieteet ovat erityisen alttiita hallusinaatioiden riskille. Näillä alueilla todisteet perustuvat usein tiettyyn asiakirjaan, päivämäärään, lainaukseen tai kommentin lähteeseen. Tekoäly voi tuottaa erittäin tarkkoja, mutta täysin tekaistuja väitteitä, kuten "hän historioitsija sanoi" tai "se vuodelta 1923 peräisin oleva asiakirja sanoo". Kirjallisuuden, historian tai oikeustieteen teoksessa tämä tarkoittaa väärää todisteiden ketjua.
Lisäksi omaperäisyys on näiden alojen perusarvo: sillä on merkitystä, kenelle teksti, tulkinta tai käännös todella kuuluu. Tekoälyn tuottaman tekstin esittäminen alkuperäisteoksena tai tekoälyn muodostamaan "lähteeseen" luottaminen loukkaa akateemista rehellisyyttä. Kirjastonhoitaja on opas, joka opettaa käyttäjille sekä todentamista että omaperäisyyden ja plagioinnin rajoja.
Varoitus: Jopa tapauksissa, joissa tekoälyn luoma lainaus näyttää sanasta sanaan täsmälliseltä ja se johtuu todellisesta kirjoittajasta, lainaus voi olla väärennetty. Tarkista lainaus etsimällä se vain kirjoittajan varsinaisesta teoksesta; Logiikka "tämä kirjoittaja on saattanut sanoa jotain tällaista" ei riitä.
kolme minilaukkua
Tapaus 1 – Opiskelijalle opetettiin todentaminen. Kirjastonhoitaja näki viisi tekoälyn resurssia opiskelijan tehtävässä. Yhdessä he tarkistivat sen luettelosta: 2 lähdettä valmistettiin. Opiskelija koki omakohtaisesti oppitunnin, että "ei ole oikein, että se näyttää aidolta" ja sai jälleen tapansa tarkistaa jokainen lähde.
Tapaus 2 – Muokattu historiallinen asiakirja. Tutkija sai "vuoden 1919 sanomalehtiraportin" tekoälyltä; Päivämäärä, lehden nimi ja sisältö olivat erittäin vakuuttavia. Kirjastonhoitaja selaili sanomalehden arkistoa: tuollaista uutista ei tuolloin ollut. Teostettu primaarilähde saatiin kiinni ennen kuin siitä tuli artikkeli.
Tapaus 3 – Virheellinen lainaus. AI antoi lainauksen kuuluisalle ajattelijalle. Kirjastonhoitaja etsi tätä sanaa ajattelijan teoksista, eikä löytänyt sitä; Sanaa ei mainittu missään. Ristiintarkastus esti väärän lainauksen leviämisen.
Väärininformaation leviämisketju ja kirjastonhoitajan rooli
Väärininformaatio alkaa usein yhdestä valmistetusta tuloksesta, mutta se ei lopu siihen. Käyttäjä lisää tekoälyn luoman resurssin tehtävään; tehtävästä tulee julkaisu; julkaisu on muiden siteerattu, joten fiktiivinen lähde saa "totuuden" vaikutelman, kun sitä siteerataan toistuvasti. Voimme kutsua tätä attribuutiota kontaminaatioksi: väärä tieto saa legitimiteetin toistumalla yhä uudelleen. Kirjastonhoitaja on tämän ketjun kriittisimmässä lenkin päässä; koska se on viimeinen ohjauspiste, jossa tiedot tarkistetaan ennen järjestelmään siirtymistä. Vain siksi, että lähde "estyy monissa paikoissa", ei tee siitä totta; Samat väärennetyt tiedot voivat esiintyä monissa paikoissa kopioimalla ne toisistaan. Siksi ristiinvahvistuksen tulisi perustua kysymykseen "kuinka moni luotettava lähde vahvistaa sen toisistaan riippumatta", ei "kuinka monessa paikassa se esiintyy?" Kymmenen toissijaista lähdettä, jotka toistavat saman väitteen, eivät ole yhtä arvokkaita kuin yksi itsenäinen ensisijainen lähde. Kirjastonhoitajan tulisi asettaa tämä ero (joka ei pidä sekoittaa riippumattomuutta toistoon) sekä oman todentamisen että käyttäjälle opetuksen keskipisteeksi.
Huomio: Tietojen esiintyminen hakukoneessa tai monilla verkkosivuilla ei ole todiste sen oikeellisuudesta. Sama virhe on saattanut levitä laajalle, koska se on kopioitu lähteestä toiseen. Yleisyys ja tarkkuus ovat eri asioita; Vahvistus vaatii riippumattoman ja luotettavan lähteen.
Neljä kopioitavaa mallia
1) Resurssikokonaisuuden kysely:
Listaa alla olevaan tekstiin kaikki lähdeviitteet ja lainaukset. Jokaisen osalta: tekijä, nimi, vuosi ja julkaisutiedot (jos sellaisia on). Poimi yksitellen tiedot, jotka minun on tarkistettava; älä lisää.Teksti: [täällä]
2) Varmistusarvio:
Erottele kunkin seuraavan väitteen osalta tosiseikat (päivämäärä, nimi, numero, lainaus), jotka on tarkistettava. Ehdota minkä tyyppistä lähdettä (katalogi, ensisijainen asiakirja, tietokanta) vastaan se voidaan varmentaa. Älä tuomitse tarkkuutta, näytä vain vahvistuspolku. Väitteet: [täällä]
3) Hitsauksen luotettavuuden tarkistuslista:
Arvioi seuraavan lähteen uskottavuus: kuka sen on kirjoittanut, milloin, mihin tarkoitukseen, onko näyttöä, onko se ajantasaista, onko mahdollista harhaa? Luota vain antamiini tietoihin, kirjoita "tuntematon", jos se puuttuu. Lähdetiedot: [täällä]
4) Tietolukutaidon opetussuunnitelma:
Tuota lyhyt 20 minuutin opetusohjelma lähteiden todentamisesta ja hallusinaatioista tekoälyn aikakaudella seuraavalle käyttäjäryhmälle (esim. opiskelijat): tavoitteet, 3 esimerkkiä, 1 sovellus. Ryhmä: [täällä]
Heikko kehote / Vahva kehote
Heikko kehote:
Kirjoita tästä aiheesta yhteenveto luotettavien lähteiden avulla.
Sanomalla "luotettavista lähteistä" rohkaisee tekoälyä tuottamaan väärennettyjä lähteitä, jotka vaikuttavat todellisilta; Vahvistuskoukkua ei ole.
Tehokas kehotus:
Tehtäväsi: tietolukutaidon avustaja. KIRJOITTAA yhteenveto seuraavasta aiheesta; Sen sijaan luettele tosiasiakysymykset, jotka käyttäjän on tarkistettava, ja luotettavan lähteen tyyppi, jolla he voivat vahvistaa ne. Älä tee mitään lähdeviittauksia; Merkitse alue, josta et ole varma, "on tarkistettava". Aihe: [täällä]
Tehokas kehote; Se käyttää tekoälyä oppaana, joka näyttää tien todentamiseen, ei vastausten tuottamiseen, ja estää rakenteellisesti valmistuksen.
Todennustasojen taulukko
kerros
Kysymys
menetelmä
kokonaisuus
Onko tämä lähde todellinen?
Haku luettelosta/tietokannasta
ensisijaisuus
Onko tämä lähin lähde?
Alkuperäisen asiakirjan käyttö
Vahvistus
Vahvistaako toinen lähde tämän?
Riippumaton ristiintarkastus
luotettavuus
Kuinka vankka lähde on?
Tekijä, päivämäärä, tarkoitus, todisteet
rehellisyys
Olenko varma?
Valtion epävarmuus selvästi
Yleisiä virheitä
- Ajattelee, että se mikä on vakuuttavaa, on totta. Hyvältä näyttäminen ei ole todiste vanhurskaudesta.
- Tyytyväinen yhteen lähteeseen. Kriittiset tiedot vaativat riippumattoman ristiinvahvistuksen.
- Ei etsi lainausta sen lähteestä. Näin väärin kohdistetut sanat leviävät.
- Epävarmuuden piilottaminen. "Todentamaton" on parempi kuin väärä varmuus.
- Ei opeta käyttäjää todentamaan. Tietolukutaito on kirjastonhoitajan tehtävä.
Yhteenvetona
Lähteen todentaminen ja tietolukutaito ovat kirjastotyön kriittisimmät tehtävät tekoälyn aikakaudella. Hallusinaatiot tuottavat vakuuttavia, mutta väärennettyjä tietoja ja ovat erityisen vaarallisia humanistisilla ja yhteiskuntatieteillä. Kuri on selvä: tarkista kunkin lähteen olemassaolo, mene ensisijaiseen lähteeseen, suorita riippumaton ristiintarkastus, kyseenalaista lähteen uskottavuus ja ilmaise epävarmuus rehellisesti. Kirjastonhoitaja levittää tätä todentamiskulttuuria paitsi omissa toimissaan myös käyttäjiä opettamalla; Omaperäisyys ja akateeminen rehellisyys ovat olennainen osa tätä tehtävää.
Sovellustehtävä
Pyydä 6 lähdettä ja 2 lainausta alasi tekoälyltä. Tarkista jokainen lähde etsimällä sitä todellisesta luettelosta ja jokainen lainaus tekijän varsinaisesta teoksesta; Huomioi kuinka monta on tekoja. Käytä sitten "Tietolukutaidon opetussuunnitelma" -mallia käyttäen 20 minuutin opetusohjelma, jossa selitetään lähteen vahvistaminen käyttäjäryhmälle ja sisällytät mukaan oikeita esimerkkejä, joita löysit.
tarkistuslista
- [ ] Olen itsenäisesti varmistanut, että jokainen lähde on todella olemassa.
- [ ] Olen käyttänyt ensisijaisia lähteitä aina kun mahdollista.
- [ ] Olen tarkistanut kriittiset väitteet vähintään kahdesta riippumattomasta lähteestä.
- [ ] Tarkastin lainaukset etsimällä niitä kirjoittajan varsinaisesta teoksesta.
- [ ] Merkitsin varmentamattomat tiedot selvästi "ei varmentavaksi".