Keuntungan:
- Dapat membezakan di mana kecerdasan buatan menjimatkan masa dalam aliran kerja perpustakaan (metadata, ringkasan, carian, cadangan) dan di mana ketepatan, kebolehpercayaan sumber dan keputusan privasi diserahkan kepada manusia, bergantung pada tahap risiko.
- Keupayaan untuk menggunakan disiplin yang mengesahkan setiap keluaran dengan memautkannya kepada sumber, mengesahkannya dalam sumber bebas dan menghantarnya melalui penapis berat sebelah.
- Memahami mengapa halusinasi, sumber rekaan dan privasi pengguna merupakan risiko yang mesti diambil kira dalam profesion ini sejak awal lagi.
Apabila pakar pengkatalogan duduk di mejanya pada waktu pagi, dia mungkin mempunyai berpuluh-puluh buku yang baru tiba, beratus-ratus dokumen daripada koleksi derma dan kotak arkib menunggu untuk didigitalkan. Pustakawan rujukan (pakar yang membantu pengguna mencari maklumat) menjawab soalan sepanjang hari seperti "di manakah sumber yang boleh dipercayai mengenai topik ini?" Pengurus maklumat bertanggungjawab untuk memastikan beribu-ribu dokumen organisasi boleh ditemui dan boleh dipercayai. Dalam unit ini, kami akan menjelaskan di mana tepatnya kecerdasan buatan (pendek kata AI; model bahasa yang besar dan alat yang serupa) menjimatkan masa dalam tugasan ini, dan di mana pertimbangan, pilihan dan tanggungjawab kekal dengan manusia.
Mari kita mulakan dengan definisi: kecerdasan buatan, yang kami maksudkan dengan alat perisian penjana bahasa dan pengecam corak yang dilatih pada sejumlah besar teks. Alat ini meringkaskan, menterjemah, mencadangkan pengelasan, menjana teks draf dan membenderakan corak dalam sebahagian besar data. Tetapi ia tidak tahu sama ada sumber benar-benar wujud, sama ada maklumat itu betul atau sama ada privasi pengguna dilindungi. Itulah sebabnya dalam pengurusan perpustakaan dan maklumat, AI adalah pembantu, bukan pembuat keputusan.
Di manakah kecerdasan buatan berfungsi dan di mana ia tidak berfungsi?
Mari bahagikan aliran kerja perpustakaan kepada tiga lapisan. Lapisan pertama ialah tugas mekanikal dan berulang: mengekstrak draf metadata dari garis kecil buku, meringkaskan laporan panjang, menterjemah teks daripada satu bahasa ke bahasa lain, membersihkan jadual data. AI berkuasa di sini dan menjimatkan masa yang besar.
Lapisan kedua ialah kerja separa kehakiman: tajuk subjek apa yang perlu diberikan kepada dokumen, sama ada untuk memasukkan sumber dalam koleksi, sumber apa yang perlu disyorkan kepada pengguna. AI menghasilkan cadangan di sini, tetapi pakar yang mengetahui dasar institusi dan keperluan sebenar pengguna mempunyai kata terakhir.
Lapisan ketiga ialah pertimbangan dan akauntabiliti tulen: mengesahkan bahawa maklumat adalah tepat, memutuskan hak cipta, sama ada untuk mendedahkan data peribadi yang sensitif, mengesahkan kebolehpercayaan sumber. Pada lapisan ini, output AI hanyalah titik permulaan; Tanggungjawab terletak sepenuhnya pada manusia.
Petua: Sebelum memberikan tugas kepada AI, tanya diri anda: "Apakah yang berlaku jika output ini salah?" Jika jawapannya ialah "Saya akan membuang masa", sila gunakan AI. Jika jawapannya ialah "sumber palsu disebarkan, pengguna diperdayakan atau data peribadi dibocorkan", pastikan anda mengesahkan output.
Halusinasi: bahaya terbesar pustakawan
Halusinasi ialah apabila AI menghasilkan maklumat, sumber atau petikan yang tidak wujud seolah-olah ia benar, dan dalam bahasa yang sangat meyakinkan. Ini amat berbahaya untuk pengurusan perpustakaan dan maklumat; kerana intipati profesion kami adalah ketulenan dan kebolehpercayaan sumber.
Apabila anda memberitahu AI untuk "cadangkan lima kertas akademik mengenai topik ini," ia boleh menjana tajuk, pengarang dan nama jurnal yang kelihatan nyata tetapi tidak wujud sama sekali. Sumber rekaan ini sangat meyakinkan bahawa penaung atau pustakawan boleh menambahkannya ke bibliografi tanpa mengesahkannya. Dalam bidang kemanusiaan dan sains sosial, bahayanya lebih besar: apabila "dokumen dari 1897 itu" direka untuk ahli sejarah atau "keputusan mahkamah itu" untuk seorang ahli undang-undang, hasilnya adalah maklumat salah yang serius.
Perhatian: Tiada petikan sumber, petikan atau rujukan yang dihasilkan oleh AI harus dipindahkan ke mana-mana tanpa pengesahan dalam katalog sebenar, pangkalan data atau sumber itu sendiri. Hanya kerana ia "nampak meyakinkan" tidak bermakna ia benar.
Disiplin pengesahan: tiga langkah
Disiplin asas yang mesti diterapkan oleh pustakawan semasa bekerja dengan AI ialah:
1. Sambung ke sumber. Setiap fakta, angka, tarikh dan kesan mestilah berdasarkan sumber asal. Tanya AI "beritahu saya dari sumber mana anda mendapat maklumat ini" dan semak sumber itu secara bebas.
2. Sahkan secara bebas. Sahkan maklumat kritikal dalam sekurang-kurangnya satu sumber yang boleh dipercayai di luar AI (katalog sahih, pangkalan data rasmi, dokumen utama).
3. Lulus melalui penapis bias. AI membawa bias data yang dilatihnya. Topik yang dicadangkan, senarai cadangan atau ringkasan mungkin menyerlahkan pandangan tertentu dan mengaburkan pandangan lain. Tanya siapa yang tertinggal, perspektif apa yang hilang.
Privasi dan privasi pengguna
Salah satu prinsip etika yang paling asas dalam profesion kepustakaan ialah privasi pengguna: perkara yang dibaca oleh seseorang, perkara yang dia cari dan subjek yang dia minati adalah sulit. Memasukkan data ke dalam alatan AI, terutamanya alatan awam yang beroperasi melalui Internet, yang termasuk identiti pengguna, sejarah carian atau sumber yang dipinjam mungkin melanggar prinsip ini; kerana data ini mungkin pergi ke sistem pihak ketiga.
Begitu juga, dalam organisasi, dokumen yang tidak diklasifikasikan tetapi sensitif (maklumat kakitangan, kontrak, surat-menyurat dalaman) tidak boleh dimuat naik ke alat AI umum. Alat yang dijalankan pada sistem tertutup dan selamat institusi sendiri lebih disukai untuk jenis data ini.
Petua: Sebelum memasukkan sebarang data ke dalam AI, tanya "Adakah maklumat ini awam?" bertanya. Jika jawapannya tidak, atau anda tidak pasti, letakkan data tersebut dalam format yang tidak diperibadikan, tanpa nama atau gunakan hanya alat selamat yang diluluskan oleh institusi.
tiga kes mini
Kes 1 — Draf metadata untuk 400 dokumen. Sebuah perpustakaan universiti terpaksa mengkatalogkan arkib 400 dokumen yang disumbangkan oleh seorang profesor. Pakar mengekstrak tajuk draf, tarikh dan cadangan topik dari halaman pertama setiap dokumen dengan AI: purata masa setiap dokumen berkurangan daripada 12 minit kepada 4 minit. Tetapi setiap jejak draf dibandingkan dengan dokumen asal dan diluluskan oleh pakar; 17 tarikh salah yang dibuat oleh AI telah ditangkap dalam langkah ini.
Kes 2 — Sumber palsu ditangkap. Seorang pustakawan penasihat menerima 6 cadangan artikel daripada YZ semasa mencari sumber tentang "migrasi iklim" untuk pelajar sarjana. Pustakawan mencari kesemuanya dalam pangkalan data institusi: 2 daripada 6 artikel tidak wujud sama sekali. Langkah pengesahan menghalang pelajar daripada diberi sumber rekaan.
Kes 3 — Pelanggaran kerahsiaan dihalang. Perpustakaan dipertimbangkan menggunakan alat AI umum untuk menganalisis "pengguna mana yang berminat dengan topik mana" daripada rekod pembayaran. Pengurus maklumat menyedari bahawa ia akan menjadi pelanggaran privasi untuk data ini dikeluarkan dengan ID pengguna; data itu mula-mula tanpa nama dan diproses semata-mata sebagai statistik terkumpul dan dinyahcam.
Empat templat yang boleh disalin
1) Mula menentukan peranan dan sempadan:
Peranan anda: penolong pakar pengkatalogan dan pengurusan maklumat yang berpengalaman. Tugas anda: untuk menghasilkan draf daripada maklumat dalam sumber yang saya berikan kepada anda. Peraturan: (1) Hanya gunakan maklumat dalam teks yang saya berikan kepada anda, jangan tambah maklumat anda sendiri. (2) Tandakan "[mesti disahkan]" di mana anda tidak pasti. (3) Jangan membuat sebarang tarikh, nama atau cetakan. Jika anda faham, mulakan. Sumber: [sini]
2) Soalan semakan pengesahan:
Senaraikan setiap tuntutan fakta (tarikh, nama, nombor, petikan sumber) dalam teks di bawah. Untuk setiap: di manakah dalam teks anda mendapat maklumat ini? Jika tidak jelas dalam teks, tulis "bukan dalam teks". Teks: [di sini]
3) Bias dan tiada pemeriksaan perspektif:
Perspektif manakah yang diserlahkan oleh ringkasan/pengesyoran berikut dan manakah yang dikecualikan? Apakah kumpulan, wilayah atau pandangan yang mungkin tiada? Hanya bergantung pada teks, jangan membuat spekulasi. Teks: [di sini]
4) Pra-semakan privasi:
Adakah teks di bawah mengandungi data peribadi (nama, nombor ID, kenalan, sejarah bacaan/carian) atau maklumat korporat yang sensitif? Jika ya, senaraikan dan cadangkan cara ia boleh dianonimkan. Teks: [di sini]
Gesaan lemah / Gesaan kuat
Gesaan yang lemah:
Cari saya beberapa sumber mengenai subjek ini.
Gesaan ini menjemput AI untuk menjana sumber palsu. Tiada peranan, sempadan, peraturan pengesahan dan sumber. AI boleh menghasilkan teg yang boleh dipercayai tetapi tidak wujud.
Gesaan kuat:
Peranan anda: pembantu pustakawan rujukan. Pilih yang berkaitan dengan subjek "migrasi iklim" daripada entri katalog yang saya berikan kepada anda di bawah dan terangkan mengapa ia relevan. Jangan tambah sumber yang tiada dalam senarai, jangan reka sumber. Apabila anda tidak pasti, sebut "tiada sumber yang sesuai disenaraikan." Entri katalog: [di sini]
Perbezaannya adalah jelas: segera yang kuat memaksa AI untuk bekerja dari sumber sebenar yang diberikan, bukan dari ingatannya sendiri, dan menghalang fabrikasi.
Lapisan dan meja tanggungjawab
lapisan perniagaan
contoh tugasan
Peranan AI
keputusan lelaki
mekanikal
Draf metadata, ringkasan, terjemahan
Menghasilkan draf dengan cepat
pengesahan, kelulusan
separa kehakiman
Tajuk topik, cadangan sumber
menawarkan cadangan
Pemilihan mengikut dasar
penghakiman murni
Pengesahan, keputusan hak cipta
Maklumat awal sahaja
Tanggungjawab penuh terletak pada orang itu
Kesilapan biasa
- Menggantikan output AI untuk sumber. AI ialah pembantu, bukan sumber; Setiap keluaran disahkan.
- Menerima sumber rekaan sebagai meyakinkan. Hanya kerana ia kelihatan baik tidak bermakna ia betul.
- Memasukkan data peribadi/sensitif ke dalam alat awam. Privasi pengguna dan kerahsiaan korporat dihormati sejak awal lagi.
- Mengabaikan prasangka. AI membawa perspektif data di mana ia dilatih; Tanya apa yang kurang.
- Serahkan penghakiman kepada AI. Keputusan ketepatan, hak cipta dan privasi adalah milik manusia.
Secara ringkasnya
kecerdasan buatan; Ia adalah pembantu yang berkuasa untuk meringkaskan, mendraf, menterjemah dan menanda corak dalam pengurusan perpustakaan dan maklumat. Ia menjimatkan banyak masa dalam kerja mekanikal; memberi nasihat tentang perkara separa kehakiman; Tetapi pengesahan ketepatan, kebolehpercayaan sumber, privasi pengguna dan keputusan beretika adalah milik manusia. Halusinasi adalah bahaya terbesar kepada profesion ini: tiada kredit sumber atau petikan digunakan tanpa pengesahan. Jalankan AI dengan peraturan peranan, sempadan dan pengesahan yang jelas; Sahkan setiap keluaran kritikal dengan sumber bebas.
Tugasan permohonan
Pilih topik sebenar daripada bidang anda. Minta AI untuk 5 cadangan sumber mengenai topik itu, kemudian cari setiap satu dalam katalog atau pangkalan data sebenar dan perhatikan bilangan yang sebenarnya wujud. Kemudian, dengan templat "Permulaan menentukan peranan dan sempadan", beritahu AI untuk berfungsi hanya daripada teks yang anda berikan dan bandingkan output kedua-dua pendekatan. Tulis pendekatan mana yang menghalang pemasangan.
senarai semak
- [ ] Saya menentukan lapisan mana (mekanikal, separa kehakiman, penghakiman tulen) tugas itu.
- [ ] "Apakah yang berlaku jika output ini tidak betul?" Saya bertanya soalan itu.
- [ ] Saya telah mengesahkan setiap kredit dan petikan terhadap sumber bebas.
- [ ] Saya telah menyemak bahawa tiada maklumat peribadi/sensitif dalam data yang memasuki AI.
- [ ] Saya mengekalkan keputusan dan tanggungjawab muktamad mengikut budi bicara saya sendiri.