Qligħ:
- Li tkun kapaċi tiddistingwi fejn l-intelliġenza artifiċjali tiffranka l-ħin fil-fluss tax-xogħol tal-librerija (metadata, sommarju, tfittxija, suġġeriment) u fejn l-eżattezza, l-affidabbiltà tas-sors u d-deċiżjonijiet tal-privatezza jitħallew f’idejn il-bnedmin, skont il-livell ta’ riskju.
- Kapaċità li tapplika dixxiplina li tivverifika kull output billi tgħaqqadha mas-sors, tikkonfermaha f'sors indipendenti, u tgħaddiha minn filtru bias.
- Nifhmu għaliex l-alluċinazzjoni, is-sorsi fabbrikati u l-privatezza tal-utent huma riskji li għandhom jitqiesu f'din il-professjoni mill-bidu nett.
Meta speċjalista tal-katalogar joqgħod bilqiegħda fuq l-iskrivanija tiegħu filgħodu, jista 'jkollu għexieren ta' kotba li jkunu għadhom kif waslu, mijiet ta 'dokumenti minn kollezzjoni ta' donazzjoni, u kaxxa tal-arkivju jistennew li jiġu diġitalizzati. Librerija ta’ referenza (l-espert li jgħin lill-utenti jsibu l-informazzjoni) iwieġeb mistoqsijiet matul il-ġurnata bħal “fejn hu s-sors affidabbli dwar dan is-suġġett?” Maniġer tal-informazzjoni huwa responsabbli biex iżomm l-eluf ta' dokumenti ta' organizzazzjoni li jistgħu jinstabu u affidabbli. F'din l-unità, se niċċaraw fejn eżattament l-intelliġenza artifiċjali (AI fil-qosor; mudelli kbar tal-lingwa u għodod simili) tiffranka l-ħin f'dawn il-kompiti, u fejn il-ġudizzju, l-għażla u r-responsabbiltà jibqgħu mal-bniedem.
Nibdew b'definizzjoni: intelliġenza artifiċjali, li biha nifhmu għodod tas-softwer li jiġġeneraw il-lingwa u li jirrikonoxxu l-mudelli mħarrġa fuq ammonti kbar ta' test. Dawn l-għodod jiġbru fil-qosor, jittraduċu, jissuġġerixxu klassifikazzjoni, jiġġeneraw abbozz ta’ test, u jxandru mudelli f’biċċiet kbar ta’ dejta. Iżda ma jafx jekk sors jeżistix verament, jekk informazzjoni hijiex korretta, jew jekk il-privatezza tal-utent hijiex protetta. Huwa għalhekk li fil-librerija u l-ġestjoni tal-informazzjoni, l-AI hija assistent, mhux tieħu d-deċiżjonijiet.
Fejn taħdem l-intelliġenza artifiċjali u fejn ma taħdimx?
Ejja naqsmu l-fluss tax-xogħol tal-librerija fi tliet saffi. L-ewwel saff huwa ħidmiet mekkaniċi u ripetittivi: estrazzjoni ta 'abbozz ta' metadata mill-linja ta 'ktieb, sommarju ta' rapport twil, traduzzjoni ta 'test minn lingwa għal oħra, tindif ta' tabella ta 'data. L-AI hija qawwija hawn u tiffranka ħafna ħin.
It-tieni saff huwa xogħol kważi ġudizzjarju: liema intestatura tas-suġġett tagħti dokument, jekk tinkludix riżorsa f'kollezzjoni, liema riżors tirrakkomanda lil utent. L-AI tipproduċi suġġerimenti hawnhekk, iżda l-espert li jaf il-politika tal-istituzzjoni u l-bżonnijiet reali tal-utent għandu l-aħħar kelma.
It-tielet saff huwa ġudizzju pur u responsabbiltà: konferma li l-informazzjoni hija preċiża, deċiżjoni dwar id-drittijiet tal-awtur, jekk tiżvelax data personali sensittiva, tikkonferma l-affidabilità ta 'sors. F'dan is-saff, l-output tal-AI huwa biss punt tat-tluq; Ir-responsabbiltà hija kompletament tal-bnedmin.
Tip: Qabel ma tagħti kompitu lill-AI, staqsi lilek innifsek: "X'jiġri jekk dan l-output huwa ħażin?" Jekk it-tweġiba hija "Se naħli ftit ħin", tħossok liberu li tuża l-AI. Jekk it-tweġiba hija "sors falz huwa mifrux, utent huwa mqarraq, jew data personali hija leaked", kun żgur li tivverifika l-output.
Alluċinazzjoni: l-akbar periklu tal-librar
L-alluċinazzjoni hija meta l-AI tipproduċi informazzjoni, sors jew kwotazzjoni ineżistenti bħallikieku kienu reali, u b'lingwaġġ estremament konvinċenti. Dan huwa partikolarment perikoluż għall-librerija u l-ġestjoni tal-informazzjoni; għax l-essenza tal-professjoni tagħna hija l-awtentiċità u l-affidabbiltà tas-sors.
Meta tgħid lill-AI biex "tissuġġerixxi ħames karti akkademiċi dwar dan is-suġġett," tista' tiġġenera titoli, awturi u ismijiet ta' ġurnali li jidhru reali iżda li ma jeżistu xejn. Dawn is-sorsi fabbrikati huma tant konvinċenti li patrun jew saħansitra librar jista 'jżidhom ma' biblijografija mingħajr ma jivverifikahom. Fl-umanitajiet u x-xjenzi soċjali, il-periklu huwa saħansitra akbar: meta "dak id-dokument mill-1897" huwa ffabbrikat għal storiku jew "dik id-deċiżjoni tal-qorti" għal ġurist, ir-riżultat huwa misinformazzjoni serja.
Attenzjoni: L-ebda ċitazzjoni tas-sors, kwotazzjoni jew referenza prodotta minn AI m'għandha tiġi ttrasferita kullimkien mingħajr verifika f'katalgu reali, database jew is-sors innifsu. Sempliċement għax "jidher konvinċenti" ma jfissirx li huwa veru.
Id-dixxiplina tal-verifika: tliet passi
Id-dixxiplina bażika li l-librar irid japplika meta jaħdem mal-AI hija din:
1. Qabbad mas-sors. Kull fatt, figura, data u stampa għandhom ikunu bbażati fuq sors oriġinali. Staqsi lill-AI "għidli minn liema sors ħadt din l-informazzjoni" u ċċekkja dak is-sors b'mod indipendenti.
2. Indipendentament tikkonferma. Ivverifika l-informazzjoni kritika f'mill-inqas sors wieħed affidabbli barra l-AI (katalgu awtentiku, database uffiċjali, dokument primarju).
3. Għaddiha mill-filtru bias. L-AI ġġorr il-preġudizzji tad-dejta li hija mħarrġa fuqha. Suġġett suġġerit, lista ta’ suġġerimenti, jew sommarju jistgħu jenfasizzaw ċerti opinjonijiet u joskuraw oħrajn. Staqsi min jitħalla barra, liema perspettiva hija nieqsa.
Privatezza u privatezza tal-utent
Wieħed mill-prinċipji etiċi l-aktar fundamentali tal-professjoni tal-librerija huwa l-privatezza tal-utent: dak li taqra persuna, dak li tfittex, u liema suġġett huwa interessat fih huma kunfidenzjali. Id-dħul ta' dejta f'għodod tal-IA, speċjalment għodod pubbliċi li joperaw fuq l-Internet, li jinkludu l-identitajiet tal-utenti, l-istorja tat-tiftix, jew riżorsi mislufa jista' jikser dan il-prinċipju; minħabba li din id-dejta tista’ tmur għal sistemi ta’ partijiet terzi.
Bl-istess mod, f'organizzazzjoni, dokumenti mhux klassifikati iżda sensittivi (informazzjoni tal-persunal, kuntratti, korrispondenza interna) m'għandhomx jittellgħu f'għodda ġenerali tal-IA. Għal dan it-tip ta' data huma ppreferuti għodod li jaħdmu fuq is-sistema sikura u magħluqa tal-istituzzjoni stess.
Tip: Qabel ma ddaħħal xi dejta fl-AI, staqsi "Din l-informazzjoni hija pubblika?" staqsi. Jekk it-tweġiba hija le, jew m'intix ċert, poġġi dik id-dejta f'format anonimu u depersonalizzat jew uża biss għodod siguri approvati mill-istituzzjoni.
tliet każijiet żgħar
Każ 1 — Abbozz ta' metadejta għal 400 dokument. Librerija universitarja kellha tikkataloga arkivju ta’ 400 dokument mogħtija minn professur. L-espert estratt abbozz ta' titolu, data u suġġeriment tas-suġġett mill-ewwel paġna ta' kull dokument bl-AI: il-ħin medju għal kull dokument naqas minn 12-il minuta għal 4 minuti. Iżda kull abbozz ta 'impronta tqabbel mad-dokument oriġinali u approvat mill-espert; F'dan il-pass inqabdu 17-il data mhux korretta magħmula mill-AI.
Każ 2 — Sors falz maqbud. Librar konsultattiv irċieva 6 suġġerimenti ta' artikli mingħand YZ waqt li kien qed ifittex riżorsi dwar "migrazzjoni tal-klima" għal student li għadu ma ggradwax. Il-librerija fittexhom kollha fid-database tal-istituzzjoni: 2 minn 6 artikli ma kienu jeżistu xejn. Il-pass tal-verifika żamm lill-istudent milli jingħata sors iffabbrikat.
Każ 3 — Ksur tal-kunfidenzjalità evitat. Librerija kkunsidrata li tuża għodda ġenerali tal-AI biex tanalizza "liema utent huwa interessat f'liema suġġett" mir-rekords tal-checkout. Il-maniġer tal-informazzjoni induna li jkun ksur tal-privatezza li din id-dejta toħroġ bl-ID tal-utent; id-dejta l-ewwel ġiet anonimizzata u pproċessata biss bħala statistika aggregata u deidentifikata.
Erba' mudelli li jistgħu jiġu kkupjati
1) Ibda tiddefinixxi r-rwoli u l-konfini:
Ir-rwol tiegħek: assistent b'esperjenza speċjalizzata fil-katalogu u l-ġestjoni tal-informazzjoni. Il-kompitu tiegħek: li tipproduċi abbozz mill-informazzjoni fis-sors li tajtek. Regoli: (1) Uża biss l-informazzjoni fit-test li tajtek, iżżidx l-informazzjoni tiegħek stess. (2) Immarka "[irid jiġi vverifikat]" fejn m'intix ċert. (3) Tagħmel ebda data, ismijiet jew stampi. Jekk tifhem, ibda. Sors: [hawn]
2) Mistoqsija tal-verifika tal-validazzjoni:
Elenka kull talba fattwali (data, isem, numru, ċitazzjoni tas-sors) fit-test hawn taħt. Għal kull wieħed: fejn fit-test ħadt din l-informazzjoni? Jekk ma jkunx ċar fit-test, ikteb "mhux fit-test". Test: [hawn]
3) Preġudizzju u verifika tal-perspettiva nieqsa:
Liema perspettivi jenfasizza s-sommarju/rakkomandazzjoni li ġejja u liema tħalli barra? Liema gruppi, reġjuni jew fehmiet jistgħu jkunu neqsin? Tistrieħ biss fuq it-test, tispekulax. Test: [hawn]
4) Iċċekkja minn qabel tal-privatezza:
It-test hawn taħt fih data personali (isem, numru tal-ID, kuntatt, qari/storja ta’ tfittxija) jew informazzjoni korporattiva sensittiva? Jekk iva, elenkaha u ssuġġerixxi kif tista' tiġi anonimizzata. Test: [hawn]
Pront dgħajjef / Pront qawwi
Pront dgħajjef:
Sibni xi riżorsi dwar dan is-suġġett.
Dan il-pront jistieden lill-AI biex tiġġenera riżorsi foloz. M'hemm l-ebda rwoli, konfini, regoli ta' validazzjoni u riżorsi. AI tista 'tipproduċi tikketti kredibbli iżda ineżistenti.
Pront qawwi:
Ir-rwol tiegħek: assistent tal-librar ta' referenza. Agħżel dawk relatati mas-suġġett tal-"migrazzjoni tal-klima" mill-entrati fil-katalgu li tajtlek hawn taħt u spjega għaliex huma rilevanti. Iżżidx sorsi li mhumiex fil-lista, ma tiffabbrikax sorsi. Meta m'intix ċert, għid "m'hemm l-ebda sorsi xierqa elenkati." Entrati fil-katalogu: [hawn]
Id-differenza hija ċara: pront qawwi jġiegħel lill-AI taħdem mis-sors reali partikolari, mhux mill-memorja tagħha stess, u tipprevjeni l-fabbrikazzjoni.
Saff u tabella responsabbiltà
saff tan-negozju
kampjun kompitu
Rwol tal-AI
deċiżjoni tal-bniedem
mekkaniċi
Abbozz ta' metadata, sommarju, traduzzjoni
Jipproduċi abbozzi malajr
verifika, approvazzjoni
kważi ġudizzjarju
It-titlu tas-suġġett, is-suġġeriment tas-sors
joffri suġġerimenti
Għażla skond il-politika
ġudizzju pur
Awtentikazzjoni, deċiżjoni dwar id-drittijiet tal-awtur
Informazzjoni preliminari biss
Ir-responsabbiltà sħiħa hija tal-persuna
Żbalji komuni
- Tissostitwixxi l-output AI għas-sors. AI hija assistent, mhux riżorsa; Kull output huwa vvalidat.
- Jaċċettaw is-sors iffabbrikat bħala konvinċenti. Sempliċement għax jidher tajjeb ma jfissirx li huwa tajjeb.
- Id-dħul ta' data personali/sensittiva fl-għodda pubblika. Il-privatezza tal-utent u l-kunfidenzjalità korporattiva huma rispettati mill-bidu nett.
- Injora l-preġudizzju. L-AI ġġorr il-perspettivi tad-dejta li fuqha hija mħarrġa; Staqsi x'inhu nieqes.
- Inħallu s-sentenza f'idejn AI. Deċiżjonijiet ta 'eżattezza, awtur, u privatezza jappartjenu lill-bnedmin.
Fil-qosor
intelliġenza artifiċjali; Huwa assistent b'saħħtu biex jiġbor fil-qosor, abbozzar, traduzzjoni u mmarkar tal-mudelli fil-librerija u l-ġestjoni tal-informazzjoni. Jiffranka ħafna ħin fix-xogħol mekkaniku; jagħti pariri dwar kwistjonijiet kważi ġudizzjarji; Iżda l-verifika tal-eżattezza, l-affidabbiltà tas-sors, il-privatezza tal-utent, u d-deċiżjonijiet etiċi jappartjenu lill-bnedmin. L-alluċinazzjoni hija l-akbar periklu għal din il-professjoni: l-ebda krediti jew kwotazzjonijiet sors ma jintużaw mingħajr verifika. Mexxi l-AI b'regoli ċari dwar ir-rwol, il-konfini u l-validazzjoni; Ikkonferma kull output kritiku b'sors indipendenti.
Kompitu ta' applikazzjoni
Agħżel suġġett reali mill-qasam tiegħek. Staqsi lill-AI għal 5 rakkomandazzjonijiet ta 'riżorsi dwar dak is-suġġett, imbagħad fittex kull waħda f'katalgu jew database attwali u nnota kemm jeżistu attwalment. Imbagħad, bil-mudell "Istartup li jiddefinixxi r-rwoli u l-konfini", għid lill-AI biex taħdem biss minn test li tipprovdi u qabbel l-output taż-żewġ approċċi. Ikteb liema approċċ jipprevjeni t-twaħħil.
lista ta' kontroll
- [ ] Iddeterminajt f'liema saff (mekkaniku, semi-ġudizzjarju, ġudizzju pur) jinsab il-kompitu.
- [ ] "X'jiġri jekk din l-output ma jkunx korrett?" Staqsejt il-mistoqsija.
- [ ] I vverifikajt kull kreditu u ċitazzjoni kontra sors indipendenti.
- [ ] Ivverifikajt li m'hemm l-ebda informazzjoni personali/sensittiva fid-dejta li ddaħħal fl-AI.
- [ ] Żammejt id-deċiżjoni finali u r-responsabbiltà fid-diskrezzjoni tiegħi stess.