Keuntungan:
- Mampu membedakan di mana kecerdasan buatan menghemat waktu dalam alur kerja kepustakawanan (metadata, ringkasan, pencarian, saran) dan di mana keakuratan, keandalan sumber, dan keputusan privasi diserahkan kepada manusia, bergantung pada tingkat risikonya.
- Kemampuan untuk menerapkan disiplin yang memverifikasi setiap keluaran dengan menghubungkannya ke sumber, mengonfirmasinya di sumber independen, dan meneruskannya melalui filter bias.
- Memahami mengapa halusinasi, sumber palsu, dan privasi pengguna merupakan risiko yang harus diperhitungkan dalam profesi ini sejak awal.
Ketika seorang spesialis katalogisasi duduk di mejanya di pagi hari, dia mungkin memiliki lusinan buku baru, ratusan dokumen dari koleksi sumbangan, dan kotak arsip yang menunggu untuk didigitalkan. Pustakawan referensi (ahli yang membantu pengguna menemukan informasi) menjawab pertanyaan sepanjang hari seperti “di mana sumber terpercaya mengenai topik ini?” Manajer informasi bertanggung jawab menjaga ribuan dokumen organisasi dapat ditemukan dan diandalkan. Dalam unit ini, kami akan mengklarifikasi di mana tepatnya kecerdasan buatan (singkatnya AI; model bahasa besar dan alat serupa) menghemat waktu dalam tugas-tugas ini, dan di mana penilaian, pilihan, dan tanggung jawab tetap berada di tangan manusia.
Mari kita mulai dengan definisi: kecerdasan buatan, yang kami maksud adalah perangkat lunak penghasil bahasa dan pengenalan pola yang dilatih pada teks dalam jumlah besar. Alat-alat ini merangkum, menerjemahkan, menyarankan klasifikasi, menghasilkan draf teks, dan menandai pola dalam sejumlah besar data. Namun ia tidak mengetahui apakah suatu sumber benar-benar ada, apakah suatu informasi benar, atau apakah privasi pengguna dilindungi. Itu sebabnya dalam kepustakawanan dan manajemen informasi, AI adalah asisten, bukan pengambil keputusan.
Di mana kecerdasan buatan berfungsi dan di mana tidak?
Mari kita bagi alur kerja kepustakawanan menjadi tiga lapisan. Lapisan pertama adalah tugas mekanis dan berulang: mengekstraksi draf metadata dari baris demi baris buku, merangkum laporan panjang, menerjemahkan teks dari satu bahasa ke bahasa lain, membersihkan tabel data. AI sangat kuat di sini dan menghemat banyak waktu.
Lapisan kedua adalah pekerjaan kuasi-yudisial: judul subjek apa yang akan diberikan pada dokumen, apakah sumber daya akan disertakan dalam koleksi, sumber daya apa yang akan direkomendasikan kepada pengguna. AI menghasilkan saran di sini, namun pakar yang mengetahui kebijakan institusi dan kebutuhan nyata penggunalah yang mengambil keputusan.
Lapisan ketiga adalah penilaian murni dan akuntabilitas: memastikan bahwa informasi tersebut akurat, memutuskan hak cipta, apakah akan mengungkapkan data pribadi yang sensitif, memastikan keandalan suatu sumber. Pada lapisan ini, keluaran AI hanyalah titik awal; Tanggung jawab sepenuhnya ada pada manusia.
Tip: Sebelum memberikan tugas kepada AI, tanyakan pada diri Anda: “Apa yang terjadi jika keluaran ini salah?” Jika jawabannya adalah "Saya akan membuang-buang waktu", silakan gunakan AI. Jika jawabannya adalah "sumber palsu tersebar, pengguna disesatkan, atau data pribadi bocor", pastikan untuk memverifikasi hasilnya.
Halusinasi: bahaya terbesar bagi pustakawan
Halusinasi adalah ketika AI menghasilkan informasi, sumber, atau kutipan yang tidak ada seolah-olah nyata, dan dalam bahasa yang sangat meyakinkan. Hal ini sangat berbahaya bagi kepustakawanan dan manajemen informasi; karena hakikat profesi kami adalah keaslian dan keandalan sumbernya.
Saat Anda memberi tahu AI untuk “menyarankan lima makalah akademis tentang topik ini”, AI dapat menghasilkan judul, penulis, dan nama jurnal yang tampak nyata tetapi tidak ada sama sekali. Sumber-sumber palsu ini begitu meyakinkan sehingga pelindung atau bahkan pustakawan dapat menambahkannya ke daftar pustaka tanpa memverifikasinya. Dalam bidang humaniora dan ilmu-ilmu sosial, bahayanya bahkan lebih besar lagi: ketika "dokumen dari tahun 1897" dibuat untuk seorang sejarawan atau "keputusan pengadilan" untuk seorang ahli hukum, akibatnya adalah informasi yang salah.
Perhatian: Tidak ada sumber kutipan, kutipan atau referensi yang dihasilkan oleh AI yang boleh ditransfer ke mana pun tanpa verifikasi dalam katalog, database, atau sumber itu sendiri. Hanya karena “terlihat meyakinkan” bukan berarti itu benar.
Disiplin verifikasi: tiga langkah
Disiplin dasar yang harus diterapkan pustakawan ketika bekerja dengan AI adalah:
1. Hubungkan ke sumber. Setiap fakta, angka, tanggal dan cetakan harus berdasarkan sumber asli. Tanyakan kepada AI “beri tahu saya dari sumber mana Anda mendapatkan informasi ini” dan periksa sumber tersebut secara mandiri.
2. Konfirmasikan secara independen. Verifikasi informasi penting di setidaknya satu sumber terpercaya di luar AI (katalog asli, database resmi, dokumen utama).
3. Lewatkan melalui filter bias. AI membawa bias dari data yang dilatihnya. Topik yang disarankan, daftar saran, atau ringkasan mungkin menonjolkan sudut pandang tertentu dan mengaburkan sudut pandang lainnya. Tanyakan siapa yang tertinggal, perspektif apa yang hilang.
Privasi dan privasi pengguna
Salah satu prinsip etika paling mendasar dari profesi pustakawan adalah privasi pengguna: apa yang dibaca seseorang, apa yang dia cari, dan subjek apa yang dia minati bersifat rahasia. Memasukkan data ke alat AI, khususnya alat publik yang beroperasi melalui Internet, yang mencakup identitas pengguna, riwayat pencarian, atau sumber daya yang dipinjam mungkin melanggar prinsip ini; karena data ini mungkin masuk ke sistem pihak ketiga.
Demikian pula, dalam suatu organisasi, dokumen yang tidak rahasia namun sensitif (informasi personalia, kontrak, korespondensi internal) tidak boleh diunggah ke alat AI umum. Alat yang dijalankan pada sistem tertutup dan aman milik institusi lebih disukai untuk jenis data ini.
Tip: Sebelum memasukkan data apa pun ke AI, tanyakan "Apakah informasi ini bersifat publik?" bertanya. Jika jawabannya tidak, atau Anda tidak yakin, simpan data tersebut dalam format yang tidak dipersonalisasi dan anonim, atau gunakan hanya alat aman yang disetujui oleh institusi.
tiga kasus mini
Kasus 1 — Draf metadata untuk 400 dokumen. Perpustakaan universitas harus membuat katalog arsip berisi 400 dokumen yang disumbangkan oleh seorang profesor. Pakar mengekstrak draf judul, tanggal, dan saran topik dari halaman pertama setiap dokumen dengan AI: waktu rata-rata per dokumen berkurang dari 12 menit menjadi 4 menit. Namun setiap rancangan cetakan dibandingkan dengan dokumen aslinya dan disetujui oleh ahli; 17 tanggal salah yang dibuat oleh AI tertangkap dalam langkah ini.
Kasus 2 — Sumber palsu tertangkap. Seorang pustakawan penasehat menerima 6 saran artikel dari YZ saat mencari sumber daya tentang "migrasi iklim" untuk seorang mahasiswa sarjana. Pustakawan mencari semuanya di database institusi: 2 dari 6 artikel tidak ada sama sekali. Langkah verifikasi mencegah siswa diberikan sumber palsu.
Kasus 3 — Pelanggaran kerahasiaan dapat dicegah. Sebuah perpustakaan mempertimbangkan untuk menggunakan alat AI umum untuk menganalisis “pengguna mana yang tertarik dengan topik mana” dari catatan pembayaran. Manajer informasi menyadari bahwa merupakan pelanggaran privasi jika data ini keluar bersama ID pengguna; data pertama kali dianonimkan dan diproses semata-mata sebagai statistik agregat dan tidak teridentifikasi.
Empat templat yang dapat disalin
1) Mulailah menentukan peran dan batasan:
Peran Anda: asisten berpengalaman dalam katalogisasi dan spesialis manajemen informasi. Tugas Anda: membuat draf dari informasi di sumber yang saya berikan kepada Anda. Aturan: (1) Gunakan hanya informasi dalam teks yang saya berikan kepada Anda, jangan menambahkan informasi Anda sendiri. (2) Tandai "[harus diverifikasi]" jika Anda tidak yakin. (3) Jangan membuat tanggal, nama, atau cetakan apa pun. Jika Anda mengerti, mulailah. Sumber: [di sini]
2) Pertanyaan pemeriksaan validasi:
Cantumkan setiap klaim faktual (tanggal, nama, nomor, sumber kutipan) pada teks di bawah ini. Untuk masing-masing: di bagian mana dalam teks Anda mendapatkan informasi ini? Jika tidak jelas di dalam teks, tulislah “tidak ada di dalam teks”. Teks: [di sini]
3) Pemeriksaan bias dan perspektif yang hilang:
Perspektif mana yang disoroti oleh ringkasan/rekomendasi berikut dan mana yang diabaikan? Kelompok, wilayah, atau pandangan apa yang mungkin hilang? Andalkan saja teksnya, jangan berspekulasi. Teks: [di sini]
4) Pra-pemeriksaan privasi:
Apakah teks di bawah ini berisi data pribadi (nama, nomor ID, kontak, riwayat membaca/pencarian) atau informasi sensitif perusahaan? Jika ya, daftarkan dan sarankan bagaimana cara menganonimkannya. Teks: [di sini]
Perintah lemah / Perintah kuat
Perintah yang lemah:
Temukan saya beberapa sumber tentang hal ini.
Permintaan ini mengundang AI untuk menghasilkan sumber daya palsu. Tidak ada peran, batasan, aturan validasi, dan sumber daya. AI dapat menghasilkan tag yang dapat dipercaya namun tidak ada.
Perintah yang kuat:
Peran Anda: referensi asisten pustakawan. Pilihlah yang terkait dengan subjek "migrasi iklim" dari entri katalog yang saya berikan di bawah dan jelaskan mengapa mereka relevan. Jangan menambahkan sumber apa pun yang tidak ada dalam daftar, jangan mengarang sumber. Jika Anda tidak yakin, katakan "tidak ada sumber yang sesuai dalam daftar". Entri katalog: [di sini]
Perbedaannya jelas: perintah yang kuat memaksa AI untuk bekerja dari sumber nyata yang diberikan, bukan dari memorinya sendiri, dan mencegah pemalsuan.
Tabel lapisan dan tanggung jawab
lapisan bisnis
contoh tugas
Peran AI
keputusan pria
mekanis
Draf metadata, ringkasan, terjemahan
Menghasilkan draft dengan cepat
verifikasi, persetujuan
kuasi-yudisial
Judul topik, saran sumber
menawarkan saran
Seleksi berdasarkan kebijakan
penilaian murni
Otentikasi, keputusan hak cipta
Hanya informasi awal
Tanggung jawab penuh ada pada orangnya
Kesalahan umum
- Mengganti keluaran AI dengan sumbernya. AI adalah asisten, bukan sumber daya; Setiap keluaran divalidasi.
- Menerima sumber palsu sebagai sesuatu yang meyakinkan. Hanya karena terlihat bagus bukan berarti itu benar.
- Memasukkan data pribadi/sensitif ke dalam alat publik. Privasi pengguna dan kerahasiaan perusahaan dihormati sejak awal.
- Mengabaikan prasangka. AI membawa perspektif data yang dilatihnya; Tanyakan apa yang hilang.
- Menyerahkan penilaian pada AI. Keputusan mengenai keakuratan, hak cipta, dan privasi adalah milik manusia.
Singkatnya
kecerdasan buatan; Ini adalah asisten yang ampuh untuk merangkum, menyusun, menerjemahkan dan menandai pola dalam kepustakawanan dan manajemen informasi. Ini menghemat banyak waktu dalam pekerjaan mekanis; memberikan nasihat mengenai hal-hal yang bersifat kuasi-yudisial; Namun verifikasi keakuratan, keandalan sumber, privasi pengguna, dan keputusan etis adalah milik manusia. Halusinasi adalah bahaya terbesar bagi profesi ini: tidak ada sumber atau kutipan yang digunakan tanpa verifikasi. Jalankan AI dengan aturan peran, batasan, dan validasi yang jelas; Konfirmasikan setiap keluaran penting dengan sumber independen.
Tugas aplikasi
Pilih topik nyata dari bidang Anda. Mintalah AI untuk 5 rekomendasi sumber daya tentang topik tersebut, lalu cari masing-masing di katalog atau database sebenarnya dan catat berapa banyak yang sebenarnya ada. Kemudian, dengan template “Startup yang menentukan peran dan batasan”, beri tahu AI untuk bekerja hanya dari teks yang Anda berikan dan bandingkan keluaran dari kedua pendekatan tersebut. Tulis pendekatan mana yang mencegah pemasangan.
daftar periksa
- [ ] Saya menentukan di lapisan mana (mekanik, semi-yudisial, penilaian murni) tugas tersebut berada.
- [ ] "Apa yang terjadi jika keluaran ini salah?" Saya menanyakan pertanyaan itu.
- [ ] Saya telah memverifikasi setiap kredit dan kutipan terhadap sumber independen.
- [ ] Saya telah memeriksa bahwa tidak ada informasi pribadi/sensitif dalam data yang masuk ke AI.
- [ ] Saya menyimpan keputusan akhir dan tanggung jawab atas kebijakan saya sendiri.