Nyereség:
- Meg kell különböztetni, hogy a mesterséges intelligencia hol takarít meg időt a könyvtári munkafolyamatban (metaadatok, összefoglaló, keresés, javaslat), és hol marad az emberre a pontosság, a forrás megbízhatósága és az adatvédelmi döntések a kockázat mértékétől függően.
- Képes olyan diszciplínát alkalmazni, amely az egyes kimeneteket a forráshoz való kapcsolásával, független forrásban való megerősítésével és egy torzításszűrőn való átengedésével ellenőrzi.
- Annak megértése, hogy a hallucinációk, a kitalált források és a felhasználók magánélete miért olyan kockázatok, amelyeket a kezdetektől fogva figyelembe kell venni ebben a szakmában.
Amikor egy katalogizáló szakember leül az íróasztalához reggel, több tucat újonnan érkezett könyv, adománygyűjtemény több száz dokumentuma és egy archív doboz várhat a digitalizálásra. Egy referenciakönyvtáros (az a szakértő, aki segít a felhasználóknak információk megtalálásában) a nap folyamán olyan kérdésekre válaszol, mint például: „hol a megbízható forrás ebben a témában?” Az információs menedzser felelős azért, hogy a szervezet több ezer dokumentumát fellelhető és megbízható legyen. Ebben a részben azt fogjuk tisztázni, hogy a mesterséges intelligencia (röviden AI; nagy nyelvi modellek és hasonló eszközök) pontosan hol takarít meg időt ezekben a feladatokban, és hol marad az emberé az ítélőképesség, a választás és a felelősség.
Kezdjük egy definícióval: mesterséges intelligencia, amely alatt nagy mennyiségű szövegre betanított nyelvgeneráló és mintafelismerő szoftvereszközöket értünk. Ezek az eszközök összegzik, lefordítják, osztályozást javasolnak, vázlatszöveget generálnak, és mintákat jelentenek nagy adattömbökben. De nem tudja, hogy egy forrás valóban létezik-e, hogy az információ helyes-e, vagy hogy a felhasználó magánélete védett-e. Ez az oka annak, hogy a könyvtárügyben és az információkezelésben az AI asszisztens, nem döntéshozó.
Hol működik és hol nem működik a mesterséges intelligencia?
Osszuk három rétegre a könyvtárosi munkafolyamatot. Az első réteg a mechanikus és ismétlődő feladatok: metaadat-vázlatok kinyerése egy könyv melléksorából, hosszú jelentés összefoglalása, szöveg fordítása egyik nyelvről a másikra, adattáblázat tisztítása. A mesterséges intelligencia itt erős, és rengeteg időt takarít meg.
A második réteg kvázi bírói munka: milyen tárgycímet adjunk egy dokumentumnak, szerepeltesse-e erőforrást a gyűjteményben, milyen forrást ajánljunk a felhasználónak. A mesterséges intelligencia itt készít javaslatokat, de az utolsó szót az a szakértő mondja ki, aki ismeri az intézmény szabályzatát és a felhasználó valós igényeit.
A harmadik réteg a tiszta ítélkezés és elszámoltathatóság: az információ pontosságának megerősítése, a szerzői jogok eldöntése, az érzékeny személyes adatok nyilvánosságra hozatala, a forrás megbízhatóságának megerősítése. Ezen a rétegen az AI kimenete csak kiindulópont; A felelősség teljes mértékben az embert terheli.
Tipp: Mielőtt feladatot adna az MI-nek, kérdezze meg magát: "Mi történik, ha ez a kimenet hibás?" Ha a válasz "Elpazarolok egy kis időt", nyugodtan használja az AI-t. Ha a válasz "hamis forrást terjesztenek, egy felhasználót félrevezetnek, vagy személyes adatok szivárognak ki", feltétlenül ellenőrizze a kimenetet.
Hallucináció: a könyvtáros legnagyobb veszélye
A hallucináció az, amikor a mesterséges intelligencia nem létező információt, forrást vagy idézetet állít elő, mintha valódi lenne, és rendkívül meggyőző nyelven. Ez különösen veszélyes a könyvtárügyre és az információkezelésre; mert szakmánk lényege a forrás hitelessége és megbízhatósága.
Ha azt mondja az AI-nak, hogy „javasljon öt tudományos dolgozatot ebben a témában”, olyan címeket, szerzőket és folyóiratneveket generálhat, amelyek valódinak tűnnek, de egyáltalán nem léteznek. Ezek a kitalált források annyira meggyőzőek, hogy egy mecénás vagy akár egy könyvtáros is felveheti őket az irodalomjegyzékbe anélkül, hogy ellenőrizné őket. A bölcsészet- és társadalomtudományokban még nagyobb a veszély: ha „az 1897-es dokumentumot” egy történésznek, vagy „azt a bírósági határozatot” egy jogásznak gyártják, az súlyos félretájékoztatást eredményez.
Figyelem: A mesterséges intelligencia által készített forráshivatkozás, idézet vagy hivatkozás nem vihető át sehova valódi katalógusban, adatbázisban vagy magában a forrásban történő ellenőrzés nélkül. Attól, hogy „meggyőzőnek tűnik”, még nem biztos, hogy igaz.
Ellenőrzési fegyelem: három lépés
Az alapvető fegyelem, amelyet a könyvtárosnak alkalmaznia kell, amikor az AI-val dolgozik:
1. Csatlakozás a forráshoz. Minden ténynek, ábrának, dátumnak és lenyomatnak eredeti forráson kell alapulnia. Kérdezze meg az AI-t, hogy „mondja el, milyen forrásból szerezte ezt az információt”, és ellenőrizze a forrást függetlenül.
2. Önállóan erősítse meg. Ellenőrizze a kritikus információkat legalább egy, az AI-n kívüli megbízható forrásból (hiteles katalógus, hivatalos adatbázis, elsődleges dokumentum).
3. Vezesse át az előfeszítő szűrőn. A mesterséges intelligencia hordozza a betanított adatok torzításait. Egy javasolt téma, a javaslatok listája vagy egy összefoglaló kiemelhet bizonyos szempontokat, míg másokat elfedhet. Kérdezd meg, aki kimaradt, milyen perspektíva hiányzik.
Adatvédelem és felhasználói adatvédelem
A könyvtáros szakma egyik legalapvetőbb etikai alapelve a felhasználói magánélet védelme: bizalmas az, amit az ember olvas, mit keres és milyen téma érdekli. Az adatok bevitele mesterséges intelligencia-eszközökbe, különösen az interneten keresztül működő nyilvános eszközökbe, amelyek magukban foglalják a felhasználók személyazonosságát, keresési előzményeit vagy kölcsönzött forrásait, sértheti ezt az elvet; mert ezek az adatok harmadik fél rendszereibe kerülhetnek.
Ugyanígy egy szervezetben a nem minősített, de kényes dokumentumokat (személyi információk, szerződések, belső levelezés) nem szabad feltölteni egy általános mesterséges intelligencia eszközbe. Az ilyen típusú adatokhoz előnyben részesítik az intézmény saját biztonságos, zárt rendszerén futó eszközöket.
Tipp: Mielőtt bármilyen adatot beírna az MI-be, kérdezze meg: "Nyilvános ez az információ?" kérdez. Ha a válasz nem, vagy nem biztos benne, helyezze el az adatokat személyre szabott, névtelen formátumba, vagy csak az intézmény által jóváhagyott biztonságos eszközöket használjon.
három mini tok
1. eset – 400 dokumentum metaadat-tervezete. Egy egyetemi könyvtárnak katalogizálnia kellett egy professzor által adományozott 400 dokumentumból álló archívumot. A szakértő minden mesterséges intelligenciával ellátott dokumentum első oldaláról kihúzott egy címtervezetet, dátumot és témajavaslatot: a dokumentumonkénti átlagos idő 12 percről 4 percre csökkent. De minden lenyomattervezetet összehasonlítottak az eredeti dokumentummal, és a szakértő jóváhagyta; Ebben a lépésben 17 hibás dátumot találtak ki az AI-ban.
2. eset – Hamis forrást kaptak. Egy tanácsadó könyvtáros 6 cikkjavaslatot kapott az YZ-től, miközben egy egyetemi hallgató számára keresett forrásokat a klímamigrációról. A könyvtáros mindet átkutatta az intézmény adatbázisában: 6 cikkből 2 egyáltalán nem létezett. Az igazolási lépés megakadályozta, hogy a hallgató koholt forrást kapjon.
3. eset – A titoktartási kötelezettség megsértése megakadályozva. Egy könyvtár azt fontolgatta, hogy egy általános mesterséges intelligencia eszközt használ, hogy elemezze „melyik felhasználó melyik téma iránt érdeklődik” a fizetési rekordokból. Az információs menedzser rájött, hogy az adatvédelem megsértését jelentené, ha ezek az adatok a felhasználói azonosítóval együtt megjelennének; az adatokat először anonimizáltuk, és kizárólag összesített, azonosítatlan statisztikaként dolgoztuk fel.
Négy másolható sablon
1) Kezdje el meghatározni a szerepeket és a határokat:
Az Ön szerepköre: tapasztalt katalogizálási és információkezelési asszisztens. Az Ön feladata: készítsen vázlatot az általam megadott forrásból. Szabályok: (1) Csak az általam megadott szövegben található információkat használja, saját adatait ne adja hozzá. (2) Ha nem biztos benne, jelölje be a „[ellenőrzött]” elemet. (3) Ne használjon dátumot, nevet vagy lenyomatot. Ha érted, kezdd el. Forrás: [itt]
2) Ellenőrző kérdés:
Soroljon fel minden tényállítást (dátum, név, szám, forráshivatkozás) az alábbi szövegben. Mindegyiknél: a szövegben honnan szerezted ezt az információt? Ha nem szerepel egyértelműen a szövegben, írja be, hogy "nem a szövegben". Szöveg: [itt]
3) Elfogultság és hiányzó perspektíva ellenőrzése:
Az alábbi összefoglaló/ajánlás mely szempontokat emeli ki és melyeket hagy ki? Milyen csoportok, régiók vagy nézetek hiányozhatnak? Csak hagyatkozz a szövegre, ne spekulálj. Szöveg: [itt]
4) Adatvédelmi előzetes ellenőrzés:
Tartalmaz-e az alábbi szöveg személyes adatokat (név, azonosítószám, kapcsolatfelvétel, olvasási/keresési előzmények) vagy érzékeny vállalati információkat? Ha igen, sorolja fel, és javasolja, hogyan tehető névtelenné. Szöveg: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Keress néhány forrást ebben a témában.
Ez a felszólítás felkéri az AI-t, hogy hamis erőforrásokat állítson elő. Nincsenek szerepek, határok, érvényesítési szabályok és erőforrások. Az AI hihető, de nem létező címkéket képes előállítani.
Erőteljes felszólítás:
Az Ön szerepe: referencia könyvtáros asszisztens. Válassza ki a „klímavándorlás” témájához kapcsolódókat az általam alább megadott katalógusbejegyzések közül, és indokolja meg, miért relevánsak. Ne adjon hozzá olyan forrást, amely nem szerepel a listán, ne gyártson forrásokat. Ha nem biztos benne, mondja azt, hogy „nincs megfelelő forrás a listán”. Katalógus bejegyzések: [itt]
A különbség egyértelmű: az erős felszólítás arra kényszeríti az AI-t, hogy az adott valós forrásból dolgozzon, ne a saját memóriájából, és megakadályozza a gyártást.
Réteg és felelősség táblázat
üzleti réteg
mintafeladat
Az AI szerepe
az ember döntése
mechanikus
Metaadat-tervezet, összefoglaló, fordítás
Gyorsan készít huzatot
ellenőrzés, jóváhagyás
kvázi bírói
Témacím, forrás javaslat
javaslatokat kínál
Kiválasztás házirend szerint
tiszta ítélet
Hitelesítés, szerzői jogi döntés
Csak előzetes információ
A teljes felelősség az embert terheli
Gyakori hibák
- Az AI kimenet helyettesítése a forrásként. A mesterséges intelligencia asszisztens, nem erőforrás; Minden kimenet érvényesítve van.
- A koholt forrás elfogadása meggyőzőnek. Attól, hogy jól néz ki, még nem biztos, hogy helyes.
- Személyes/érzékeny adatok bevitele a nyilvános eszközbe. A felhasználók személyes adatait és a vállalati titoktartást kezdettől fogva tiszteletben tartják.
- Az előítélet figyelmen kívül hagyása. A mesterséges intelligencia hordozza azon adatok perspektíváit, amelyekre képezték; Kérdezd meg, mi hiányzik.
- Az ítéletet az AI-ra bízzuk. A pontosságra, a szerzői jogokra és a magánélet védelmére vonatkozó döntések az embereket illetik.
Összefoglalva
mesterséges intelligencia; Hatékony asszisztens az összefoglaláshoz, szövegezéshez, fordításhoz és mintajelöléshez a könyvtári és információkezelésben. Sok időt takarít meg a mechanikai munkában; tanácsot ad kvázi bírósági ügyekben; De a pontosság, a forrás megbízhatósága, a felhasználói adatvédelem és az etikai döntések ellenőrzése az emberek feladata. A hallucináció jelenti a legnagyobb veszélyt erre a szakmára: semmilyen forráskódot vagy idézetet nem használnak igazolás nélkül. Futtassa az AI-t világos szerep-, határ- és érvényesítési szabályokkal; Minden kritikus kimenetet erősítsen meg független forrással.
Pályázati feladat
Válasszon valódi témát a szakterületéről. Kérjen az AI-tól 5 forrásajánlatot a témában, majd keressen mindegyiket egy tényleges katalógusban vagy adatbázisban, és jegyezze fel, hogy hány létezik. Ezután az „Indítási szerepek és határok meghatározása” sablonnal mondja meg az AI-nak, hogy csak az Ön által megadott szövegből dolgozzon, és hasonlítsa össze a két megközelítés kimenetét. Írja le, hogy melyik megközelítés akadályozza meg az illeszkedést!
ellenőrző lista
- [ ] Meghatároztam, hogy a feladat melyik rétegben (mechanikai, félbírói, tiszta ítélőképesség) van.
- [ ] "Mi történik, ha ez a kimenet helytelen?" – tettem fel a kérdést.
- [ ] Minden kreditet és idézetet független forrásból ellenőriztem.
- [ ] Ellenőriztem, hogy az AI-ba bevitt adatokban nincsenek-e személyes/érzékeny adatok.
- [ ] A végső döntést és a felelősséget a saját belátásomra bíztam.