Keuntungan:
- Mengetahui sebab halusinasi disembunyikan dalam domain manusia dan dapat meneruskan setiap sumber melalui rantaian pengesahan lima langkah (kewujudan, jejak, petikan, konteks, atribusi)
- Keupayaan untuk mengesahkan ketulenan sumber dengan identiti konkrit seperti DOI, ISBN dan katalog.
- Fahami disiplin melarang kecerdasan buatan daripada membuat rekaan dan tidak sekali-kali mewakilkan pengesahan petikan dan kejujuran atribusi kepadanya.
Nilai teks dalam bidang manusia dan sosial bergantung kepada ketulenan dan pemindahan tepat sumber yang menjadi asasnya. Esei sastera, tesis, nota kuliah—semuanya bergantung pada sumber yang boleh dipercayai dan atribusi yang jujur (menunjukkan siapa/tempat anda mendapat maklumat atau petikan). AI menawarkan kemudahan yang hebat dalam bidang ini, tetapi ia juga membawa bahaya terbesar: halusinasi, iaitu, menghasilkan sumber, petikan atau fakta yang tidak wujud sebagai nyata. Unit ini didedikasikan untuk mewujudkan "perisai pengesahan" terhadap bahaya ini.
Peraturan satu ayat: Tiada sumber, petikan, tarikh atau nombor yang dijana AI boleh memasukkan teks tanpa pengesahan orang pertama daripada sumber utama atau boleh dipercayai. Peraturan ini ialah peraturan yang paling berulang dan paling tidak fleksibel bagi modul ini.
Mengapa halusinasi sangat berbahaya dalam bidang ini?
Jika AI salah pada soalan teknikal, ia selalunya akan diperhatikan; tetapi dalam lingkungan manusia halusinasi disembunyikan dengan mahir:
- Garis kecil yang realistik: AI menggabungkan nama pengarang sebenar dengan tajuk yang sesuai dengan bidang dan tahun yang munasabah. Hasilnya ialah sumber yang tidak wujud tetapi kelihatan betul-betul nyata.
- Petikan yang sesuai dengan gaya: AI boleh meniru gaya pengarang dan mengemukakan ayat yang bukan miliknya sebagai "katanya".
- Tarikh tutup tetapi salah: Tahun sesuatu kerja mungkin dianjak satu atau dua tahun; Ini melarikan diri dari pembaca yang cuai.
- Atribusi keliru: Boleh mengaitkan idea kepada orang yang salah.
Kesemua ini boleh menyusup masuk ke dalam teks penulis secara senyap dengan niat yang jujur, dan jika tidak ditangkap, merosakkan reputasi pengarang dan kepercayaan pembaca.
Awas: Hanya kerana sumber kelihatan "realistik" kepada AI tidak bermakna ia adalah nyata. Realisme dan realiti adalah dua perkara yang berbeza; AI adalah pakar pada yang pertama, ia tidak dapat menjamin yang terakhir.
Perisai pengesahan: langkah demi langkah
Untuk setiap sumber dan petikan, ikuti rantaian ini:
- ada ke? Cari sumber dalam katalog perpustakaan, pangkalan data yang boleh dipercayai atau tapak penerbit. Jika ia tidak ditemui, ia tidak wujud — jangan gunakannya.
- Adakah kesannya betul? Pengarang, tajuk, penerbit/jurnal, tahun, halaman — semuanya mesti sepadan dengan tepat.
- Adakah petikan itu benar? Cari petikan dalam sumber itu sendiri, pada halaman yang ditentukan, dan bandingkannya secara verbatim.
- Adakah konteksnya betul? Adakah petikan itu digunakan secara literal, atau adakah ia telah diputarbelitkan?
- Adakah atribusi itu jujur? Adakah idea itu dikaitkan dengan orang yang betul, adakah sesuatu yang diambil daripada sumber sekunder digambarkan sebagai primer?
Jika walaupun satu pautan rantai ini terputus, ia tidak boleh memasuki teks sumber.
Petua: Arahkan AI dari awal: "Jangan berikan sebarang sumber yang anda tidak pasti wujud; jika anda tidak pasti, katakan 'Saya tidak dapat mencari sumbernya'." Ini tidak menamatkan halusinasi sepenuhnya, tetapi ia menggesa AI untuk berkata "Saya tidak tahu" dan bukannya mengada-ada.
Disiplin petikan dan petikan
Bersama-sama dengan pengesahan, atribusi jujur juga merupakan satu disiplin:
- Berikan petikan langsung dengan petikan dan halaman; Biarlah secara literal.
- Juga pautkan petikan tidak langsung (diringkaskan dalam perkataan anda sendiri) kepada sumber; Jika idea itu bukan milik anda, ia memerlukan atribusi.
- Nyatakan secara telus sumbangan AI mengikut peraturan organisasi anda; AI bukanlah "sumber", tetapi jika digunakan, ia mesti diisytiharkan.
- Jangan menggambarkan sumber sekunder sebagai primer; Jika anda mengambil petikan daripada pengarang daripada buku lain, nyatakan ini.
tiga kes mini
Kes 1 — Dua daripada lima sumber itu ternyata rekaan. Seorang penyelidik telah melalui proses pengesahan 5 sumber yang diberikan oleh AI. 2 tidak ada dalam katalog sama sekali, 1 salah tahun, 2 benar dan betul. Hanya 2 yang disahkan digunakan; artikel dilindungi daripada atribusi rekaan.
Kes 2 — herotan petikan ditangkap. Seorang pelajar menemui petikan daripada AI dalam buku sebenar, tetapi petikan itu bermaksud sebaliknya dalam konteks asal. AI telah mengambil ayat itu di luar konteks. Murid membetulkan petikan dengan konteks yang betul.
Kes 3 — Atribusi yang salah diperbetulkan. Dalam satu nota kuliah, AI mengaitkan pendapat kepada pengarang yang salah. Apabila guru menyemaknya dengan dua sumber yang boleh dipercayai, dia menemui pemilik yang sah dan membetulkannya. Nota itu terselamat tanpa salah kepada pelajar.
Empat templat yang boleh disalin
1) Arahan larangan fabrikasi:
Mulai sekarang: JANGAN keluarkan sebarang sumber, petikan, tarikh atau nombor yang anda tidak pasti wujud. Jika anda tidak pasti, sebut "memerlukan pengesahan" atau "Saya tidak menemuinya". Jangan sekali-kali memberikan teg yang realistik tetapi anda tidak dapat menjamin kesahihannya. Ikuti peraturan ini dengan setiap respons.
2) Pelan hala tuju pengesahan sumber:
Saya akan mengesahkan sumber di bawah sendiri. Beritahu saya di mana untuk mencari sumber ini (katalog, pangkalan data, penerbit) dan dengan maklumat penting apa. ANDA mengesahkan bahawa sumber itu wujud; hanya berikan langkah pengesahan.Sumber: [tampal kredit]
3) Semakan konteks petikan:
Di bawah ialah petikan dan perenggan sebenar di mana ia berlaku. Adakah petikan itu digunakan dalam konteks asalnya atau adakah petikan itu telah diputarbelitkan? Hanya bergantung pada teks yang saya berikan kepada anda; menambah ulasan.Petikan: [...] Perenggan asal: [...]
4) Audit integriti atribusi:
Dalam teks saya di bawah: ayat yang manakah memerlukan sumber tetapi kekal tidak dikaitkan, idea yang manakah mungkin milik orang lain, adakah tempat saya menunjukkan sumber sekunder sebagai primer? Mencadangkan sumber rekaan; cuma tunjukkan petikan yang tiada.Teks: [tampal teks]
Gesaan lemah / Gesaan kuat
Lemah: "Berikan 5 sumber akademik dan petikan tentang topik ini."
Güçlü: "Beritahu saya jenis sumber dan kata kunci yang perlu saya cari semasa meneliti subjek ini. Jangan keluarkan sebarang rujukan atau petikan yang anda tidak pasti wujud; jika anda tidak pasti, katakan 'Saya tidak dapat menemuinya'. Saya akan memberikan anda sumber yang saya dapati kemudian; Saya akan mengesahkan petikan daripada buku-buku itu."
Gesaan kuat menutup pintu kepada halusinasi dan meninggalkan pengesahan kepada manusia. Gesaan yang lemah secara langsung mengundang pengeluaran sumber khayalan.
Jadual rantai pengesahan
langkah
soalan
lokasi pengesahan
entiti
Adakah sumber itu benar-benar wujud?
Katalog / pangkalan data
kesan
Adakah pengarang, tahun, halaman betul?
Penerbit/cetak
petikan
Adakah ia verbatim dalam teks?
sumber itu sendiri
Konteks
Adakah maksud terpesong?
perenggan utama
Petikan
Kepada orang yang betul?
semak silang
Pengesahan dengan pautan kekal dan jejak
Terdapat cara konkrit untuk mengesahkan dengan cepat dan boleh dipercayai sama ada sumber itu benar-benar wujud. Kebanyakan penerbitan akademik moden mempunyai DOI (Pengenal Objek Digital—ID unik yang tidak berubah yang ditetapkan secara kekal kepada penerbitan; ia bertindak seperti pautan dan membawa terus kepada penerbitan). Jika anda mengakses penerbitan sebenar apabila anda menaip DOI artikel ke dalam pelayar, sumber itu wujud; Jika anda tidak menemuinya atau DOI tidak wujud sama sekali, curiga. "DOI" yang dijana AI sering dibuat-buat dan tidak ke mana-mana; Ini adalah salah satu ujian paling praktikal untuk menangkap sumber khayalan.
ISBN (Nombor Buku Piawai Antarabangsa) menyediakan pengenalan yang sama untuk buku; Anda boleh mengesahkan ketulenan buku dengan mencarinya mengikut ISBN dalam katalog perpustakaan atau pangkalan data buku yang boleh dipercayai. Untuk terbitan berkala, semak nama jurnal dan maklumat jumlah/keluaran di laman web rasmi penerbit. Identiti konkrit ini adalah jawapan kepada soalan "Adakah sumbernya benar?" Ia menjawab soalan anda dengan jelas dalam beberapa minit.
Kaedah ini menukar pengesahan kepada "urus niaga" dan bukannya "saham": apabila anda membuka dan melihat setiap sumber secara peribadi, dalam katalog, oleh DOI atau di tapak penerbit, risiko atribusi hantu sebahagian besarnya dihapuskan.
Petua: Apabila anda menyelesaikan bibliografi anda, lakukan "lawatan klik": sebenarnya buka DOI atau rekod katalog setiap sumber. Malah satu sumber yang tidak dibuka adalah amaran; sama ada membetulkannya dengan cetakan yang betul atau mengeluarkannya daripada senarai.
Kesilapan biasa
- Menganggap realisme sebagai realiti. Identiti munasabah AI tidak membuktikan kewujudannya.
- Tidak mengesahkan petikan dari sumber. Petikan yang direka atau diherotkan mungkin bocor.
- Mendapat sejarah daripada satu sumber. Semak silang dengan sekurang-kurangnya dua sumber yang boleh dipercayai.
- Menjadikan yang sekunder kelihatan seperti yang utama. Nyatakan rantai penghantaran dengan jujur.
- Memetik AI sebagai sumber. AI bukan sumber; penggunaannya diisytiharkan, rujukan dibuat kepada sumber utama.
Secara ringkasnya
Kejujuran dalam bidang kemanusiaan bergantung pada sumber dan ketepatan petikan. Bahaya terbesar AI ialah ia menghasilkan sumber dan petikan yang kelihatan realistik tetapi tidak wujud. Lulus setiap sumber dan petikan melalui rantaian pengesahan lima langkah (entiti, kredit, petikan, konteks, atribusi). Larang AI daripada mengada-adakan dari awal dan jangan sekali-kali mewakilkan pengesahan kepadanya. Disiplin ini adalah jaminan kebolehpercayaan anda dalam profesion ini.
Tugasan permohonan
Cuba minta AI mencadangkan beberapa sumber dan petikan tentang topik. Jalankan setiap sumber melalui rantaian pengesahan: berapa banyak yang benar-benar wujud, berapa banyak yang mempunyai atribusi yang betul, adakah petikan itu sebenarnya dalam sumber? Tulis keputusan dalam jadual. Pengalaman ini secara konkrit akan menunjukkan had AI dalam bidang ini.
senarai semak
- [ ] Saya mengesahkan kewujudan setiap sumber dalam katalog.
- [ ] Saya telah mengesahkan setiap petikan kata demi kata daripada sumber asal.
- [ ] Saya telah menyemak bahawa konteks petikan tidak diputarbelitkan.
- [ ] Saya telah menyemak silang tarikh dengan sekurang-kurangnya dua sumber.
- [ ] Saya melarang AI daripada mengarang dan tidak mewakilkan pengesahan kepadanya.