Keuntungan:
- Kemampuan menangkap halusinasi dengan memverifikasi keberadaan masing-masing sumber, mendatangi sumber utama, dan langkah konfirmasi silang independen
- Kemampuan untuk menjaga orisinalitas dan integritas akademik terhadap kutipan dan dokumen palsu di bidang humaniora dan ilmu sosial
- Kemampuan untuk mengajarkan keterampilan verifikasi sumber dan literasi informasi kepada pengguna di era AI
Inti dari misi sosial perpustakaan adalah satu janji: informasi yang dapat diandalkan. Pustakawan membawa pengguna tidak hanya pada informasi, tetapi juga pada informasi terverifikasi, dan mengajarinya cara mengevaluasi informasi ini sendiri. Di era kecerdasan buatan, misi ini menjadi lebih sulit dan lebih penting; karena AI dapat menghasilkan informasi yang salah dengan cara yang sangat meyakinkan. Dalam unit ini, kami akan membahas pengenalan halusinasi, disiplin verifikasi sumber, dan pengajaran literasi informasi di era AI.
Mari kita definisikan konsepnya. Halusinasi adalah ketika AI menghasilkan informasi, sumber, kutipan atau peristiwa yang sebenarnya tidak ada seolah-olah nyata. Verifikasi sumber adalah konfirmasi bahwa informasi didasarkan pada sumber yang nyata, dapat diandalkan, dan utama. Literasi informasi adalah kemampuan seseorang untuk menemukan informasi, mengevaluasinya, mempertanyakan keandalannya, dan menggunakannya secara etis. Unit ini bertujuan agar pustakawan memperkuat keterampilan ini baik dalam praktiknya sendiri maupun dalam mengajar pengguna.
Langkah demi langkah: disiplin verifikasi sumber
1. Minta sumbernya dan verifikasi keberadaannya. Saat AI memberikan klaim atau kutipan, “ini dari sumber mana?” dan periksa apakah sumbernya benar-benar ada dalam katalog, database, atau dokumen utama yang independen.
2. Buka sumber utama. Bentuk informasi yang paling dapat diandalkan adalah sumbernya langsung. Jangan puas dengan ringkasan AI atau teks sekunder; Jika memungkinkan, akses dokumen, data, atau publikasi asli.
3. Konfirmasi silang. Verifikasi klaim kritis dengan setidaknya dua sumber terpercaya, independen satu sama lain. Satu sumber daya, khususnya sumber daya AI, tidaklah cukup.
4. Evaluasi kredibilitas sumbernya. Siapa yang menulisnya, kapan, untuk tujuan apa, atas dasar bukti apa? Apakah ini mutakhir? Keberadaan informasi tidak menjadikannya benar; Pertanyakan juga sifat sumbernya.
5. Ekspresikan ketidakpastian dengan jujur. Jika informasi tidak dapat diverifikasi, sampaikan dengan jelas. Selalu lebih baik untuk mengatakan "belum dikonfirmasi" daripada memberikan kepastian yang dibuat-buat.
Tip: Saat Anda mendapatkan kutipan atau sumber dari AI, cari dulu judul dan penulisnya di katalog sebenarnya. Sumber daya yang tidak ada langsung muncul di sini. Pemeriksaan 30 detik ini mencegah sumber palsu memasukkan bibliografi, tugas, atau publikasi.
Keaslian dan verifikasi dalam ilmu humaniora dan sosial
Ilmu humaniora dan ilmu sosial sangat rentan terhadap risiko halusinasi. Di bidang ini, bukti sering kali didasarkan pada dokumen tertentu, tanggal, kutipan, atau sumber komentar. AI dapat menghasilkan klaim yang sangat spesifik namun sepenuhnya dibuat-buat, seperti “yang dikatakan oleh sejarawan” atau “yang dikatakan dalam dokumen dari tahun 1923”. Dalam sebuah karya sastra, sejarah atau hukum, ini berarti rangkaian bukti palsu.
Terlebih lagi, orisinalitas adalah nilai mendasar dari bidang-bidang ini: penting bagi siapa sebuah teks, interpretasi, atau terjemahan benar-benar dimiliki. Menyajikan teks yang dihasilkan oleh AI sebagai karya orisinal atau mengandalkan "sumber" yang dibuat oleh AI merupakan pelanggaran integritas akademik. Pustakawan adalah pemandu yang mengajarkan pengguna verifikasi dan batasan orisinalitas dan plagiarisme.
Perhatian: Sekalipun kutipan yang dibuat oleh AI tampak akurat kata demi kata dan dikaitkan dengan penulis sebenarnya, kutipan tersebut mungkin dibuat-buat. Verifikasi kutipan dengan menemukannya hanya dalam karya penulis yang sebenarnya; Logika "penulis ini mungkin mengatakan hal seperti ini" tidaklah cukup.
tiga kasus mini
Kasus 1 — Siswa diajari verifikasi. Seorang pustakawan melihat 5 sumber daya dari AI dalam tugas siswa. Bersama-sama mereka memeriksanya di katalog: 2 sumber dibuat. Siswa tersebut merasakan secara langsung pelajaran bahwa "tidaklah benar jika hal itu terlihat nyata" dan sekali lagi mendapatkan kebiasaan untuk memverifikasi setiap sumber.
Kasus 2 — Dokumen sejarah palsu. Seorang peneliti menerima "laporan surat kabar tahun 1919" dari AI; Tanggal, nama surat kabar, dan isinya sangat meyakinkan. Pustakawan memindai arsip surat kabar: tidak ada berita seperti itu saat itu. Sumber utama yang dibuat-buat telah ditangkap bahkan sebelum dijadikan artikel.
Kasus 3 — Kutipan yang salah diatribusikan. AI mengaitkan kutipan tersebut dengan seorang pemikir terkenal. Pustakawan mencari kata ini dalam karya pemikir dan tidak dapat menemukannya; Kata itu tidak disebutkan dimanapun. Pemeriksaan silang mencegah penyebaran kutipan yang salah atribusi.
Rantai penyebaran misinformasi dan peran pustakawan
Misinformasi sering kali dimulai dengan satu keluaran yang dibuat-buat, namun tidak berhenti di situ. Seorang pengguna memasukkan sumber daya palsu yang dihasilkan AI ke dalam tugas; penugasannya menjadi publikasi; publikasi tersebut dikutip oleh orang lain, sehingga sumber fiktif tampak "benar" dengan dikutip berulang kali. Kita dapat menyebutnya sebagai kontaminasi atribusi: informasi palsu memperoleh legitimasi jika diulang terus menerus. Pustakawan berada pada titik paling kritis dalam rantai ini; karena ini adalah titik kontrol terakhir di mana informasi diverifikasi sebelum masuk ke sistem. Hanya karena suatu sumber "terdapat di banyak tempat" tidak berarti sumber tersebut benar; Informasi palsu yang sama dapat muncul di banyak tempat dengan cara disalin satu sama lain. Oleh karena itu, konfirmasi silang harus didasarkan pada pertanyaan "berapa banyak sumber terpercaya yang mengonfirmasinya secara independen", bukan "di berapa tempat kemunculannya?" Sepuluh sumber sekunder yang mengulangi klaim yang sama tidak sebanding dengan satu sumber primer independen. Pustakawan harus menempatkan pembedaan ini (tidak mengacaukan independensi dengan pengulangan) sebagai pusat verifikasinya sendiri dan pengajarannya kepada pengguna.
Perhatian: Munculnya informasi di mesin pencari atau di banyak halaman web bukan merupakan bukti keakuratannya. Kesalahan yang sama mungkin tersebar luas karena disalin dari satu sumber ke sumber lainnya. Prevalensi dan akurasi adalah dua hal yang berbeda; Konfirmasi memerlukan sumber yang independen dan dapat diandalkan.
Empat templat yang dapat disalin
1) Kueri entitas sumber daya:
Cantumkan setiap kutipan sumber dan sitasi pada teks di bawah ini. Untuk masing-masing: informasi penulis, judul, tahun dan publikasi (jika ada). Ekstrak item demi item informasi yang perlu saya verifikasi; jangan tambahkan. Teks: [di sini]
2) Penilaian konfirmabilitas:
Untuk setiap klaim berikut, pisahkan elemen faktual (tanggal, nama, nomor, kutipan) yang perlu diverifikasi. Sarankan jenis sumber apa (katalog, dokumen utama, database) yang dapat diverifikasi. Jangan menilai keakuratannya, cukup tunjukkan jalur verifikasinya. Pernyataan: [di sini]
3) Daftar periksa keandalan pengelasan:
Evaluasi kredibilitas sumber berikut: siapa yang menulisnya, kapan, untuk tujuan apa, apakah ada buktinya, apakah terkini, apakah ada kemungkinan bias? Hanya mengandalkan informasi yang saya berikan, tulis "tidak diketahui" jika hilang. Sumber informasi: [di sini]
4) Rencana pengajaran literasi informasi:
Buatlah tutorial singkat berdurasi 20 menit tentang verifikasi sumber dan halusinasi di era AI untuk kelompok pengguna berikut (misalnya sarjana): tujuan, 3 contoh, 1 penerapan. Grup: [di sini]
Perintah lemah / Perintah kuat
Perintah yang lemah:
Tulis ringkasan tentang topik ini dengan sumber terpercaya.
Mengatakan “dengan sumber yang dapat dipercaya” mendorong AI untuk menghasilkan sumber palsu yang tampak nyata; Tidak ada kait validasi.
Perintah yang kuat:
Peran Anda: asisten literasi informasi. MENULIS ringkasan tentang topik berikut; Sebagai gantinya, buatlah daftar pertanyaan faktual yang perlu diverifikasi oleh pengguna dan jenis sumber terpercaya yang dapat mereka gunakan untuk memverifikasinya. Jangan membuat kutipan sumber apa pun; Tandai area yang Anda tidak yakin sebagai "harus diverifikasi". Subyek: [di sini]
Perintah yang kuat; Ia menggunakan AI sebagai panduan yang menunjukkan cara verifikasi, bukan menghasilkan jawaban, dan secara struktural mencegah pemalsuan.
Tabel lapisan otentikasi
lapisan
Pertanyaan
Metode
entitas
Apakah sumber ini nyata?
Pencarian katalog/database
keutamaan
Apakah ini sumber terdekat?
Mengakses dokumen asli
Konfirmasi
Apakah sumber lain membenarkan hal ini?
Pemeriksaan silang mandiri
keandalan
Seberapa kuat sumbernya?
Penulis, tanggal, tujuan, bukti
kejujuran
Apakah saya yakin?
Nyatakan ketidakpastian dengan jelas
Kesalahan umum
- Berpikir bahwa apa yang meyakinkan itu benar. Berpenampilan baik bukanlah bukti kebenaran.
- Puas dengan satu sumber. Informasi penting memerlukan konfirmasi silang yang independen.
- Bukan mencari kutipan pada sumbernya. Beginilah penyebaran kata-kata yang disalahartikan.
- Menyembunyikan ketidakpastian. “Tidak dapat diverifikasi” lebih baik daripada kepastian palsu.
- Tidak mengajari pengguna untuk mengautentikasi. Literasi informasi adalah misi pustakawan.
Singkatnya
Verifikasi sumber dan literasi informasi adalah tugas paling penting dari kepustakawanan di era AI. Halusinasi menghasilkan informasi yang meyakinkan tetapi dibuat-buat dan sangat berbahaya dalam bidang humaniora/ilmu sosial. Disiplinnya jelas: memverifikasi keberadaan masing-masing sumber, mendatangi sumber utama, melakukan cross-checking independen, mempertanyakan kredibilitas sumber, dan mengungkapkan ketidakpastian dengan jujur. Pustakawan menyebarkan budaya verifikasi ini tidak hanya dalam praktiknya tetapi juga dalam pengajaran pengguna; Orisinalitas dan integritas akademik merupakan bagian integral dari misi ini.
Tugas aplikasi
Minta 6 sumber dan 2 kutipan dari AI di bidang Anda. Verifikasi setiap sumber dengan mencarinya di katalog aktual dan setiap kutipan dalam karya aktual penulis; Perhatikan berapa banyak yang palsu. Kemudian, dengan menggunakan templat “Rencana pengajaran literasi informasi”, buatlah draf tutorial berdurasi 20 menit untuk menjelaskan verifikasi sumber kepada kelompok pengguna dan sertakan contoh nyata yang Anda temukan sendiri.
daftar periksa
- [ ] Saya telah memverifikasi secara independen bahwa setiap sumber benar-benar ada.
- [ ] Saya telah menggunakan sumber primer sedapat mungkin.
- [ ] Saya telah memeriksa ulang klaim-klaim penting dengan setidaknya dua sumber independen.
- [ ] Saya memverifikasi kutipan tersebut dengan mencarinya di karya sebenarnya penulis.
- [ ] Saya dengan jelas menandai informasi yang tidak dapat diverifikasi sebagai "tidak dapat diverifikasi".