Keuntungan:
- Mengetahui mengapa halusinasi tersembunyi dalam domain manusia dan mampu melewati setiap sumber melalui rantai verifikasi lima langkah (eksistensi, jejak, kutipan, konteks, atribusi)
- Kemampuan untuk mengkonfirmasi keaslian sumber dengan identitas nyata seperti DOI, ISBN dan katalog.
- Memahami disiplin yang melarang kecerdasan buatan membuat pemalsuan dan tidak pernah mendelegasikan verifikasi kejujuran kutipan dan atribusi padanya.
Nilai suatu teks dalam bidang kemanusiaan dan sosial bergantung pada keaslian dan keakuratan sumber yang mendasarinya. Esai sastra, tesis, catatan kuliah—semuanya bergantung pada sumber terpercaya dan atribusi yang jujur (menunjukkan siapa/di mana Anda mendapatkan informasi atau kutipan). AI menawarkan kemudahan besar dalam bidang ini, namun juga membawa bahaya terbesar: halusinasi, yaitu menghasilkan sumber, kutipan, atau fakta yang tidak ada sebagai nyata. Unit ini didedikasikan untuk membangun "pelindung verifikasi" terhadap bahaya ini.
Aturan satu kalimat: Tidak ada sumber, kutipan, tanggal atau nomor yang dihasilkan AI yang dapat memasukkan teks tanpa konfirmasi orang pertama dari sumber utama atau sumber terpercaya. Aturan ini adalah aturan yang paling sering diulang dan paling tidak fleksibel dalam modul ini.
Mengapa halusinasi sangat berbahaya di bidang ini?
Jika AI salah dalam suatu pertanyaan teknis, hal itu akan sering diperhatikan; tapi di dunia manusia, halusinasinya disembunyikan dengan cerdik:
- Byline yang realistis: AI menggabungkan nama penulis asli dengan judul yang sesuai dengan bidangnya dan tahun yang masuk akal. Hasilnya adalah sumber yang tidak ada tetapi terlihat nyata.
- Kutipan yang sesuai dengan gayanya: AI dapat meniru gaya seorang penulis dan menampilkan kalimat yang bukan miliknya sebagai "kata-katanya".
- Tutup tetapi tanggal salah: Tahun suatu karya dapat bergeser satu atau dua tahun; Hal ini luput dari perhatian pembaca yang ceroboh.
- Atribusi yang membingungkan: Mungkin mengaitkan suatu ide dengan orang yang salah.
Semua ini secara diam-diam dapat menyusup ke dalam teks seorang penulis dengan niat yang jujur, dan jika tidak tertangkap, akan merusak reputasi penulis dan kepercayaan pembaca.
Perhatian: Hanya karena suatu sumber daya tampak "realistis" bagi AI tidak berarti sumber daya tersebut nyata. Realisme dan realitas adalah dua hal yang berbeda; AI ahli dalam hal pertama, namun tidak dapat menjamin hal kedua.
Armor verifikasi: langkah demi langkah
Untuk setiap sumber dan kutipan, ikuti rantai ini:
- Apakah disana? Cari sumbernya di katalog perpustakaan, database terpercaya, atau situs penerbit. Jika tidak dapat ditemukan, berarti tidak ada — jangan gunakan.
- Apakah cetakannya benar? Penulis, judul, penerbit/jurnal, tahun, halaman — semuanya harus sama persis.
- Apakah kutipan itu asli? Temukan kutipan di sumbernya, pada halaman yang ditentukan, dan bandingkan kata demi kata.
- Apakah konteksnya benar? Apakah kutipan tersebut digunakan secara harfiah atau telah diubah?
- Apakah atribusinya jujur? Apakah gagasan tersebut diberikan kepada orang yang tepat, apakah sesuatu yang diambil dari sumber sekunder digambarkan sebagai sumber utama?
Jika satu saja mata rantai ini putus, ia tidak dapat masuk ke teks sumber.
Tip: Instruksikan AI dari awal: "Jangan berikan sumber apa pun yang Anda tidak yakin keberadaannya; jika Anda tidak yakin, katakan 'Saya tidak dapat menemukan sumbernya'." Ini tidak mengakhiri halusinasi sepenuhnya, tetapi mendorong AI untuk mengatakan "Saya tidak tahu" alih-alih berbaikan.
Disiplin kutipan dan kutipan
Selain verifikasi, atribusi yang jujur juga merupakan suatu disiplin:
- Berikan kutipan langsung dengan kutipan dan halaman; Biarlah secara harfiah.
- Tautkan juga kutipan tidak langsung (meringkas dengan kata-kata Anda sendiri) ke sumbernya; Jika ide tersebut bukan milik Anda, maka diperlukan atribusi.
- Nyatakan secara transparan kontribusi AI sesuai dengan aturan organisasi Anda; AI bukanlah “sumber daya”, tetapi jika digunakan, AI harus diumumkan.
- Jangan menggambarkan sumber sekunder sebagai sumber utama; Jika Anda mengambil kutipan dari seorang penulis dari buku lain, tunjukkan ini.
tiga kasus mini
Kasus 1 — Dua dari lima sumber ternyata fiktif. Seorang peneliti melalui proses verifikasi terhadap 5 sumber yang diberikan oleh AI. 2 tidak ada di katalog sama sekali, 1 salah tahun, 2 asli dan benar. Hanya 2 yang terverifikasi yang digunakan; artikel dilindungi dari atribusi fiktif.
Kasus 2 — Distorsi kutipan tertangkap. Seorang siswa menemukan kutipan dari AI di buku sebenarnya, tetapi kutipan tersebut memiliki arti sebaliknya dalam konteks aslinya. AI telah mengambil kalimat tersebut di luar konteks. Siswa mengoreksi kutipan tersebut dengan konteks yang benar.
Kasus 3 — Atribusi yang salah diperbaiki. Dalam salah satu catatan kuliah, AI mengaitkan opini tersebut dengan penulis yang salah. Ketika guru memeriksa silang dengan dua sumber yang dapat dipercaya, dia menemukan pemilik yang sah dan memperbaikinya. Catatan itu selamat tanpa menimbulkan kesalahan pada siswanya.
Empat templat yang dapat disalin
1) Instruksi larangan fabrikasi:
Mulai sekarang: JANGAN memberikan sumber, kutipan, tanggal atau nomor apa pun yang Anda tidak yakin keberadaannya. Jika Anda tidak yakin, ucapkan "perlu verifikasi" atau "Saya tidak dapat menemukannya". Jangan pernah memberikan label yang realistis tetapi Anda tidak dapat menjamin keasliannya. Ikuti aturan ini dengan setiap tanggapan.
2) Peta jalan verifikasi sumber:
Saya akan memverifikasi sendiri sumbernya di bawah. Beri tahu saya di mana mencari sumber daya ini (katalog, database, penerbit) dan dengan informasi penting apa. ANDA mengonfirmasi bahwa sumber daya tersebut ada; langsung saja kasih langkah verifikasinya. Sumber: [paste credit]
3) Pemeriksaan konteks kutipan:
Di bawah ini adalah kutipan dan paragraf sebenarnya di mana kutipan itu muncul. Apakah kutipan tersebut digunakan dalam konteks aslinya atau telah terdistorsi? Andalkan saja teks yang saya berikan kepada Anda; menambahkan komentar.Kutipan: [...] Paragraf asli: [...]
4) Audit integritas atribusi:
Dalam teks saya di bawah ini: kalimat mana yang memerlukan sumber tetapi tetap tidak diberi atribusi, ide mana yang mungkin dimiliki orang lain, adakah tempat di mana saya menampilkan sumber sekunder sebagai sumber utama? Menyarankan sumber palsu; cukup tunjukkan kutipan yang hilang. Teks: [tempel teks]
Perintah lemah / Perintah kuat
Lemah: "Berikan 5 sumber akademis dan kutipan tentang topik ini."
Güçlü: "Beri tahu saya sumber dan kata kunci apa yang harus saya cari saat meneliti subjek ini. Jangan membuat referensi atau kutipan apa pun yang Anda tidak yakin keberadaannya; jika Anda tidak yakin, katakan 'Saya tidak dapat menemukannya'. Saya akan memberikan sumber yang saya temukan nanti; saya akan mengkonfirmasi kutipan dari buku."
Perintah yang kuat menutup pintu halusinasi dan menyerahkan verifikasi kepada manusia. Permintaan yang lemah secara langsung mengundang produksi sumber daya imajiner.
Tabel rantai validasi
langkah
Pertanyaan
lokasi verifikasi
entitas
Apakah sumbernya benar-benar ada?
Katalog / basis data
jejak
Apakah penulis, tahun, halaman benar?
Penerbit/percetakan
kutipan
Apakah itu kata demi kata dalam teks?
sumber itu sendiri
Konteks
Apakah maknanya menyimpang?
paragraf utama
Kutipan
Kepada orang yang tepat?
pemeriksaan silang
Verifikasi dengan tautan permanen dan jejak
Ada cara konkrit untuk memastikan dengan cepat dan andal apakah suatu sumber daya benar-benar ada. Sebagian besar publikasi akademis modern memiliki DOI (Digital Object Identifier—ID unik yang tidak berubah yang ditetapkan secara permanen ke sebuah publikasi; berfungsi seperti tautan dan mengarah langsung ke publikasi). Jika Anda mengakses publikasi sebenarnya saat Anda mengetikkan DOI artikel ke dalam browser, sumber tersebut ada; Kalau tidak ketemu atau DOInya tidak ada sama sekali, patut curiga. “DOI” yang dihasilkan AI sering kali dibuat-buat dan tidak menghasilkan apa-apa; Ini adalah salah satu tes paling praktis dalam menangkap sumber imajiner.
ISBN (Nomor Buku Standar Internasional) memberikan identifikasi serupa untuk buku; Anda dapat memverifikasi keaslian buku dengan mencarinya berdasarkan ISBN di katalog perpustakaan atau database buku yang dapat dipercaya. Untuk terbitan berkala, periksa nama jurnal dan informasi volume/terbitan di situs resmi penerbit. Identitas konkrit ini adalah jawaban atas pertanyaan “Apakah sumbernya nyata?” Ini menjawab pertanyaan Anda dengan jelas dalam beberapa menit.
Metode ini mengubah verifikasi menjadi sebuah “transaksi” dan bukan “stok”: ketika Anda membuka dan melihat setiap sumber secara langsung, dalam katalog, melalui DOI, atau di situs penerbit, risiko atribusi palsu sebagian besar dihilangkan.
Tip: Ketika Anda menyelesaikan bibliografi Anda, lakukan “tur klik”: buka DOI atau catatan katalog setiap sumber. Bahkan satu sumber daya yang tidak terbuka merupakan peringatan; baik memperbaikinya dengan cetakan yang benar atau menghapusnya dari daftar.
Kesalahan umum
- Salah mengira realisme sebagai kenyataan. Identitas AI yang masuk akal tidak membuktikan keberadaannya.
- Tidak memverifikasi kutipan dari sumbernya. Kutipan yang dibuat-buat atau terdistorsi mungkin bocor.
- Mendapatkan sejarah dari satu sumber. Periksa kembali dengan setidaknya dua sumber terpercaya.
- Menjadikan yang sekunder terlihat seperti yang utama. Nyatakan rantai penularannya dengan jujur.
- Mengutip AI sebagai sumber. AI bukanlah sumber daya; penggunaannya dinyatakan, referensi dibuat ke sumber utama.
Singkatnya
Kejujuran di bidang humaniora bergantung pada keakuratan sumber dan kutipan. Bahaya terbesar AI adalah menghasilkan sumber dan kutipan yang tampak realistis namun sebenarnya tidak ada. Lewati setiap sumber dan kutipan melalui rantai verifikasi lima langkah (entitas, kredit, kutipan, konteks, atribusi). Larang AI melakukan fabrikasi sejak awal dan jangan pernah mendelegasikan verifikasi kepadanya. Disiplin ini adalah jaminan kehandalan Anda dalam profesi ini.
Tugas aplikasi
Coba minta AI menyarankan beberapa sumber dan kutipan tentang suatu topik. Jalankan setiap sumber melalui rantai verifikasi: berapa banyak yang benar-benar ada, berapa banyak yang memiliki atribusi yang benar, apakah kutipannya benar-benar ada dalam sumbernya? Tuliskan hasilnya dalam sebuah tabel. Pengalaman ini secara nyata akan menunjukkan batasan AI di bidang ini.
daftar periksa
- [ ] Saya mengonfirmasi keberadaan setiap sumber daya di katalog.
- [ ] Saya telah memverifikasi setiap kutipan kata demi kata dari sumber aslinya.
- [ ] Saya telah memeriksa bahwa konteks kutipan tidak terdistorsi.
- [ ] Saya telah memeriksa ulang tanggalnya dengan setidaknya dua sumber.
- [ ] Saya melarang AI membuat dan tidak mendelegasikan verifikasi padanya.