Keuntungan:
- Keupayaan untuk menangkap halusinasi dengan mengesahkan kewujudan setiap sumber, pergi ke sumber utama, dan langkah pengesahan silang bebas
- Keupayaan untuk mengekalkan keaslian dan integriti akademik terhadap petikan dan dokumen rekaan dalam bidang kemanusiaan dan sains sosial
- Keupayaan untuk mengajar pengguna pengesahan sumber dan kemahiran literasi maklumat dalam era AI
Di tengah-tengah misi sosial perpustakaan adalah satu janji: maklumat yang boleh dipercayai. Seorang pustakawan membawa pengguna bukan sahaja kepada maklumat, tetapi kepada maklumat yang disahkan, dan mengajarnya cara menilai sendiri maklumat ini. Pada zaman kecerdasan buatan, misi ini telah menjadi lebih sukar dan lebih penting; kerana AI boleh menghasilkan maklumat yang salah dengan cara yang sangat meyakinkan. Dalam unit ini, kami akan merangkumi pengecaman halusinasi, disiplin pengesahan sumber dan pengajaran literasi maklumat dalam era AI.
Mari kita tentukan konsep. Halusinasi ialah apabila AI menghasilkan maklumat, sumber, petikan atau peristiwa yang sebenarnya tidak wujud seolah-olah ia adalah benar. Pengesahan sumber ialah pengesahan bahawa maklumat adalah berdasarkan sumber sebenar, boleh dipercayai dan utama. Literasi maklumat ialah keupayaan seseorang untuk mencari maklumat, menilainya, mempersoalkan kebolehpercayaannya, dan menggunakannya secara beretika. Unit ini bertujuan agar pustakawan mengukuhkan kemahiran ini dalam amalannya sendiri dan dalam mengajar pengguna.
Langkah demi langkah: disiplin pengesahan sumber
1. Minta sumber dan sahkan kewujudannya. Apabila AI memberi tuntutan atau petikan, "dari mana sumber ini?" dan semak sama ada sumber itu benar-benar wujud dalam katalog bebas, pangkalan data atau dokumen utama.
2. Pergi ke sumber utama. Bentuk maklumat yang paling boleh dipercayai ialah sumbernya sendiri. Jangan puas dengan ringkasan AI atau teks sekunder; Jika boleh, akses dokumen asal, data atau penerbitan.
3. Sahkan silang. Sahkan tuntutan kritikal dengan sekurang-kurangnya dua sumber yang boleh dipercayai, bebas antara satu sama lain. Satu sumber, terutamanya sumber AI, tidak mencukupi.
4. Menilai kredibiliti sumber. Siapa yang menulisnya, bila, untuk tujuan apa, atas bukti apa? Adakah ia terkini? Kewujudan maklumat tidak menjadikannya benar; Juga mempersoalkan sifat sumber.
5. Nyatakan ketidakpastian secara jujur. Jika maklumat tidak dapat disahkan, nyatakan dengan jelas. Adalah lebih baik untuk mengatakan "tidak disahkan" daripada menawarkan kepastian yang diada-adakan.
Petua: Apabila anda mendapat petikan atau sumber daripada AI, mula-mula cari tajuk dan pengarang dalam katalog sebenar. Sumber yang tidak wujud muncul serta-merta di sini. Semakan selama 30 saat ini menghalang sumber rekaan daripada memasuki bibliografi, tugasan atau penerbitan.
Ketulenan dan pengesahan dalam kemanusiaan dan sains sosial
Kemanusiaan dan sains sosial sangat terdedah kepada risiko halusinasi. Dalam bidang ini, bukti selalunya berdasarkan dokumen tertentu, tarikh, petikan atau sumber ulasan. AI boleh menghasilkan tuntutan yang sangat spesifik tetapi direka sepenuhnya, seperti "kata ahli sejarah itu" atau "kata dokumen dari 1923 itu". Dalam karya kesusasteraan, sejarah atau undang-undang, ini bermaksud rantaian bukti palsu.
Selain itu, keaslian adalah nilai asas bidang ini: ia penting kepada siapa teks, tafsiran atau terjemahan itu benar-benar milik. Mempersembahkan teks yang dihasilkan oleh AI sebagai karya asli atau bergantung pada "sumber" yang dibuat oleh AI melanggar integriti akademik. Pustakawan ialah panduan yang mengajar pengguna kedua-dua pengesahan dan had keaslian dan plagiarisme.
Awas: Walaupun dalam kes di mana petikan yang dijana AI kelihatan tepat perkataan demi perkataan dan dikaitkan dengan pengarang sebenar, petikan itu mungkin direka-reka. Sahkan petikan dengan mencarinya hanya dalam karya sebenar pengarang; Logik "pengarang ini mungkin mengatakan sesuatu seperti ini" tidak mencukupi.
tiga kes mini
Kes 1 — Pelajar diajar pengesahan. Seorang pustakawan melihat 5 sumber daripada AI dalam tugasan pelajar. Bersama-sama mereka menyemaknya dalam katalog: 2 sumber telah diada-adakan. Pelajar mengalami sendiri pengajaran bahawa "tidak sesuai untuk ia kelihatan nyata" dan sekali lagi mendapat tabiat mengesahkan setiap sumber.
Kes 2 — Dokumen sejarah rekaan. Seorang penyelidik menerima "laporan akhbar 1919" daripada AI; Tarikh, nama akhbar dan kandungannya sangat meyakinkan. Pustakawan mengimbas arkib akhbar: tidak ada berita sedemikian pada masa itu. Sumber utama rekaan telah ditangkap sebelum ia dijadikan artikel.
Kes 3 — Petikan salah atribut. AI mengaitkan petikan kepada seorang pemikir terkenal. Pustakawan mencari perkataan ini dalam karya pemikir dan tidak menemuinya; Perkataan itu tidak disebut di mana-mana. Semakan silang menghalang penyebaran petikan yang salah atribut.
Rantaian penyebaran maklumat salah dan peranan pustakawan
Maklumat salah selalunya bermula dengan satu output yang direka, tetapi ia tidak berhenti di situ. Seorang pengguna meletakkan sumber buatan AI palsu ke dalam tugasan; tugasan menjadi penerbitan; penerbitan itu dipetik oleh orang lain, supaya sumber rekaan memperoleh rupa "kebenaran" dengan dipetik berulang kali. Kita boleh memanggil pencemaran atribusi ini: maklumat palsu mendapat kesahihan dengan diulang lagi dan lagi. Pustakawan berdiri di pautan paling kritikal dalam rantaian ini; kerana ia adalah titik kawalan terakhir di mana maklumat disahkan sebelum memasuki sistem. Hanya kerana sumber "berlaku di banyak tempat" tidak menjadikannya benar; Maklumat palsu yang sama boleh muncul di banyak tempat dengan disalin antara satu sama lain. Oleh itu, pengesahan silang hendaklah berdasarkan soalan "berapa banyak sumber yang boleh dipercayai mengesahkannya secara bebas antara satu sama lain", bukan "berapa banyak tempat yang muncul?" Sepuluh sumber sekunder yang mengulangi tuntutan yang sama tidak bernilai sama seperti sumber primer bebas tunggal. Pustakawan harus meletakkan perbezaan ini (tidak mengelirukan kebebasan dengan pengulangan) di tengah-tengah pengesahannya sendiri dan pengajarannya kepada pengguna.
Perhatian: Kemunculan maklumat dalam enjin carian atau pada banyak halaman web bukanlah bukti ketepatannya. Kesilapan yang sama mungkin telah berleluasa dengan disalin dari sumber ke sumber. Kelaziman dan ketepatan adalah perkara yang berbeza; Pengesahan memerlukan sumber yang bebas dan boleh dipercayai.
Empat templat yang boleh disalin
1) Pertanyaan entiti sumber:
Senaraikan setiap petikan dan petikan sumber dalam teks di bawah. Untuk setiap: pengarang, tajuk, tahun dan maklumat penerbitan (jika ada). Ekstrak item demi item maklumat yang saya perlukan untuk mengesahkan; jangan tambah.Teks: [di sini]
2) Penilaian kebolehpercayaan:
Bagi setiap tuntutan berikut, asingkan elemen fakta (tarikh, nama, nombor, petikan) yang perlu disahkan. Cadangkan jenis sumber (katalog, dokumen utama, pangkalan data) yang boleh disahkan. Jangan menilai ketepatan, cuma tunjukkan laluan pengesahan. Pernyataan: [di sini]
3) Senarai semak kebolehpercayaan kimpalan:
Nilaikan kredibiliti sumber berikut: siapa yang menulisnya, bila, untuk tujuan apa, ada bukti, adakah ia terkini, adakah terdapat kemungkinan berat sebelah? Hanya bergantung pada maklumat yang saya berikan, tulis "tidak diketahui" di mana ia hilang. Maklumat sumber: [di sini]
4) Rancangan pengajaran literasi maklumat:
Hasilkan tutorial ringkas selama 20 minit tentang pengesahan sumber dan halusinasi dalam usia AI untuk kumpulan pengguna berikut (mis. mahasiswa): objektif, 3 contoh, 1 aplikasi. Kumpulan: [di sini]
Gesaan lemah / Gesaan kuat
Gesaan yang lemah:
Tulis ringkasan mengenai topik ini dengan sumber yang boleh dipercayai.
Menyebut "dengan sumber yang boleh dipercayai" menggalakkan AI menghasilkan sumber palsu yang kelihatan nyata; Tiada cangkuk pengesahan.
Gesaan kuat:
Peranan anda: pembantu literasi maklumat. MENULIS ringkasan mengenai topik berikut; Sebaliknya, senaraikan soalan fakta yang pengguna perlukan untuk mengesahkan dan jenis sumber yang boleh dipercayai yang mereka boleh mengesahkannya. Jangan reka sebarang petikan sumber; Tandai kawasan yang anda tidak pasti sebagai "mesti disahkan". Subjek: [di sini]
Gesaan yang kuat; Ia menggunakan AI sebagai panduan yang menunjukkan cara untuk pengesahan, bukannya menghasilkan jawapan, dan secara struktur menghalang pemalsuan.
Jadual lapisan pengesahan
lapisan
soalan
Kaedah
entiti
Adakah sumber ini benar?
Carian katalog/pangkalan data
keutamaan
Adakah ini sumber terdekat?
Mengakses dokumen asal
Pengesahan
Adakah sumber lain mengesahkan ini?
Semak silang bebas
kebolehpercayaan
Sejauh manakah sumber itu kukuh?
Pengarang, tarikh, tujuan, bukti
kejujuran
Adakah saya pasti?
Nyatakan ketidakpastian dengan jelas
Kesilapan biasa
- Berfikir bahawa apa yang meyakinkan adalah benar. Penampilan yang baik bukanlah bukti kebenaran.
- Berpuas hati dengan satu sumber. Maklumat kritikal memerlukan pengesahan silang bebas.
- Tidak mencari petikan pada sumbernya. Beginilah cara penyebaran perkataan yang salah.
- Menyembunyikan ketidakpastian. "Tidak boleh disahkan" adalah lebih baik daripada kepastian palsu.
- Tidak mengajar pengguna untuk mengesahkan. Literasi maklumat adalah misi pustakawan.
Secara ringkasnya
Pengesahan sumber dan literasi maklumat ialah tugas kepustakaan yang paling kritikal pada zaman AI. Halusinasi menghasilkan maklumat yang meyakinkan tetapi rekaan dan amat berbahaya dalam kemanusiaan/sains sosial. Disiplinnya jelas: sahkan kewujudan setiap sumber, pergi ke sumber utama, jalankan semakan silang bebas, persoalkan kredibiliti sumber, dan nyatakan ketidakpastian secara jujur. Pustakawan menyebarkan budaya pengesahan ini bukan sahaja dalam amalannya tetapi juga dengan mengajar pengguna; Keaslian dan integriti akademik adalah penting dalam misi ini.
Tugasan permohonan
Minta 6 sumber dan 2 petikan daripada AI dalam bidang anda. Sahkan setiap sumber dengan mencarinya dalam katalog sebenar dan setiap petikan dalam karya sebenar pengarang; Perhatikan berapa banyak rekaan. Kemudian, menggunakan templat "Rancangan pengajaran literasi maklumat", draf tutorial selama 20 minit untuk menerangkan pengesahan sumber kepada kumpulan pengguna dan sertakan contoh sebenar yang anda temui sendiri.
senarai semak
- [ ] Saya telah mengesahkan secara bebas bahawa setiap sumber benar-benar wujud.
- [ ] Saya telah menggunakan sumber primer di mana mungkin.
- [ ] Saya telah menyemak silang tuntutan kritikal dengan sekurang-kurangnya dua sumber bebas.
- [ ] Saya mengesahkan petikan dengan mencarinya dalam karya sebenar pengarang.
- [ ] Saya dengan jelas menandai maklumat yang tidak boleh disahkan sebagai "tidak boleh disahkan".