Keuntungan:
- Keupayaan untuk menerangkan mengapa halusinasi (sumber rekaan, petikan, peristiwa) dan anakronisme adalah kesilapan yang paling berbahaya dalam sejarah
- Keupayaan untuk menerapkan disiplin mengesahkan setiap rujukan dalam katalog, membandingkan kandungan dengan dokumen, dan mengesahkan silang fakta kritikal.
- Keupayaan untuk menyoal berat sebelah dan suara yang hilang dalam sumber dengan bertanya kecerdasan buatan di mana hendak mencari dan bukannya sumber sebenar
Terdapat kaveat yang diulang dalam setiap unit modul ini: output AI adalah tuntutan, bukan fakta, sehingga disahkan. Unit ini menjadikan amaran itu sebagai satu disiplin. Sejarah dan pengarkiban sememangnya merupakan bidang berasaskan bukti; Kemahiran paling asas ahli sejarah ialah kritikan sumber (menyoal oleh siapa, bila, untuk tujuan apa sumber itu dihasilkan dan sejauh mana ia boleh dipercayai). Pada zaman AI, kemahiran ini menjadi lebih kritikal kerana sumber itu sendiri kini mungkin direka-reka.
Di sini kita akan membincangkan tiga bahaya secara mendalam: halusinasi (AI menghasilkan maklumat rekaan, sumber atau petikan), anakronisme (elemen berkala dialihkan ke tempoh yang salah), dan disiplin pengesahan sumber secara umum. Kita juga akan melihat AI belajar daripada sumber yang tidak tepat atau berat sebelah pada masa lalu, jadi ia boleh menghasilkan semula berat sebelah.
Halusinasi: kesilapan yang paling berbahaya
Halusinasi ialah apabila AI dengan yakin membentangkan sesuatu yang sebenarnya tidak wujud. Dari segi sejarah, ia paling biasa dilihat dalam bentuk berikut:
- Sumber/rujukan rekaan: Dana arkib, nombor fail, buku atau artikel yang tidak wujud.
- Petikan rekaan: Perkataan yang sebenarnya tidak disebut, ayat yang tiada dalam dokumen.
- Acara/tarikh/orang yang dibuat-buat: Peristiwa yang tidak berlaku, tarikh palsu, orang yang tidak wujud.
- Sambungan rekaan: Hubungan sebab-akibat yang tidak wujud antara dua peristiwa sebenar.
Apa yang menjadikan halusinasi berbahaya ialah ia kelihatan boleh dipercayai. Rujukan yang dibuat mempunyai format yang sama seperti rujukan sebenar: nama dana, nombor, tarikh. Jadi "format kelihatan betul" tidak pernah bermaksud "betul".
Perhatian: Tiada sumber yang dihasilkan oleh YZ boleh digunakan tanpa disahkan dan ditemui dalam katalog atau di tempat yang boleh dipercayai. Satu-satunya cara untuk membuktikan bahawa rujukan wujud adalah dengan melihatnya di mana sumber asal terletak (katalog arkib, perpustakaan, penerbitan). "AI memberikannya" bukan bukti.
Anakronisme: cermin mata tempoh
Anakronisme adalah melihat masa lalu melalui kaca mata hari ini. Oleh kerana AI dilatih dalam bahasa hari ini, ia mempunyai kecenderungan yang kuat untuk:
- Istilah anakronisme: Menggunakan perkataan, institusi atau konsep yang bukan milik tempoh.
- Anakronisme konsep: Memproyeksikan idea masa kini (mis. ideologi atau identiti moden) ke masa lalu.
- Nilai anakronisme: Menilai tingkah laku masa lalu hanya mengikut piawaian hari ini.
Tugas ahli sejarah adalah untuk memahami masa lalu dalam konteksnya. AI tidak mempunyai sensitiviti konteks ini; Anda mesti menyediakannya sendiri.
Memahami mengapa halusinasi berlaku begitu kerap menjadikannya lebih mudah untuk melindungi daripadanya. AI ialah sistem yang berfungsi untuk menghasilkan "perkataan kemungkinan besar seterusnya"; Ia tidak mempunyai tujuan seperti "mengetahui kebenaran". Apabila ditanya soalan, sama ada dia tahu jawapannya atau tidak, dia menghasilkan teks yang kelihatan meyakinkan secara statistik. Format rujukan arkib (nama dana, nombor, tarikh) ialah corak yang dipelajari; AI boleh mengisi corak ini tanpa rujukan sebenar. Jadi "mengapa AI menciptanya?" Jawapan kepada soalan itu mudah: lebih mudah untuk dia mengada-adakan daripada "tidak tahu". Tanggungjawab terletak pada anda untuk mengisi acuan ini dengan sumber sebenar.
Disiplin pengesahan sumber: langkah demi langkah
1. Mengesahkan kewujudan sumber. Cari setiap rujukan yang diberikan oleh AI dalam katalog/penerbitan. Jika anda tidak menemuinya, jangan gunakannya.
2. Bandingkan kandungan dengan sumber. Adakah maklumat yang disifatkan AI kepada dokumen sebenarnya wujud dalam dokumen itu? Adakah petikan itu betul-betul sama?
3. Sahkan silang. Untuk fakta kritikal, lihat sekurang-kurangnya dua sumber bebas yang boleh dipercayai.
4. Terapkan kritikan sumber. Adakah sumber itu sendiri boleh dipercayai? Siapa yang menghasilkannya, bila dan untuk tujuan apa? Adakah ia berat sebelah?
5. Lulus melalui penapis anakronisme. Adakah terdapat sebarang terma, konsep atau pertimbangan nilai yang tidak sesuai dengan tempoh dalam output?
6. Persoalan prasangka. Mungkinkah AI telah menghasilkan semula bias dalam sumber sejarah (mengabaikan satu kumpulan, memihak kepada satu sudut pandangan)?
Lapisan pengesahan
soalan
siapa yang buat
entiti
Adakah sumber ini benar-benar wujud?
Anda dalam katalog.
kandungan
Adakah ini benar-benar dinyatakan dalam dokumen?
Anda dalam dokumen
Pengesahan
Adakah sumber lain menyokongnya?
awak, salib
kebolehpercayaan
Adakah sumbernya boleh dipercayai?
pertimbangan pakar
Tempoh
Adakah terdapat sebarang anakronisme?
pertimbangan pakar
prasangka
Suara siapa yang hilang/terherot?
pertimbangan pakar
tiga kes mini
Kes 1 — Enam rujukan rekaan. Seorang penyelidik meminta AI untuk senarai sumber mengenai topik. YZ menyediakan 6 rujukan arkib dengan pemformatan yang sempurna. Dalam carian katalog, 4 daripada 6 telah hilang, 2 daripadanya mempunyai nombor yang salah. Sekiranya penyelidik tidak mengesahkan, kajian yang memetik sumber yang tidak wujud akan muncul. Pengajaran: setiap rujukan disahkan dalam katalog.
Kes 2 — Petikan rekaan. Seorang penulis akan menggunakan petikan yang menarik yang disifatkan AI kepada tokoh sejarah. Apabila dia menyiasat sumber itu, dia melihat bahawa tiada dokumen yang membuktikan orang itu berkata sedemikian, dan kenyataan itu "dibuat-buat" oleh AI. Pengajaran: petikan tidak boleh digunakan tanpa pengesahan daripada sumber utama atau boleh dipercayai.
Kes 3 - Pengeluaran semula prasangka. Seorang pelajar mempunyai AI menerangkan sejarah sesuatu wilayah. Keluaran itu sama sekali tidak menghiraukan komuniti tertentu di kawasan itu kerana sumber AI telah belajar daripadanya juga mengabaikannya. Pelajar melihat dan membetulkan jurang ini dengan rujukan silang. Pengajaran: AI menghasilkan semula kesunyian dan berat sebelah dalam sumber; Seseorang mesti bertanya suara siapa yang hilang.
Empat templat yang boleh disalin
1) Senarai pengesahan rujukan:
SEMUA sumber, rujukan, petikan, tarikh dan nama orang dalam teks di bawah muncul dalam senarai berasingan. Tambahkan nota untuk setiap: "dituntut dalam teks ini, mesti disahkan secara bebas." Jika anda memilih tiada, "sahkan"; Hanya hasilkan senarai untuk mengesahkan supaya saya boleh menyemaknya dari katalog/sumber. Teks: [di sini]
2) Pengimbasan anakronisme:
Teliti teks tentang [tempoh] di bawah. Serlahkan istilah, institusi, konsep dan nilai yang MUNGKIN TIDAK tergolong dalam tempoh ini. Untuk setiap satu, tulis secara ringkas mengapa anda curiga. Membuat penghakiman muktamad; Buat senarai syak wasangka yang pakar akan semak. Teks: [di sini]
3) Rangka kerja kritikan sumber:
Kritikan sumber digubal tentang sumber berikut: (1) Siapa yang mungkin menghasilkannya, (2) Bila, (3) Untuk tujuan apa, (4) Apakah kecenderungannya, (5) Isu mana yang harus dipercayai dan yang mana harus berhati-hati. Mengenakan penghakiman muktamad; Sediakan soalan dan pilihan jawapan yang mungkin. Sumber: [sini]
4) Tiada kawalan kelantangan/bias:
Suara SIAPA dan pengalaman kumpulan manakah yang mungkin hilang atau berat sebelah dalam ringkasan sejarah berikut? Perspektif mana yang dominan, mana yang tidak kelihatan? Hasilkan ini sebagai senarai soalan; Saya akan mengisinya dengan rujukan silang. Ringkasan: [di sini]
Gesaan lemah / Gesaan kuat
lemah:
Berikan saya sumber sejarah yang boleh dipercayai dan petikan mengenai perkara ini.
AI sangat cenderung untuk menghasilkan rujukan yang betul dalam bentuk tetapi direka dalam kandungan apabila diminta untuk "sumber" dan "kutipan". Gesaan ini adalah jemputan langsung kepada halusinasi.
kuat:
Cadangkan JENIS sumber (jenis dana arkib, jenis penerbitan, institusi) yang perlu saya cari dalam penyelidikan saya mengenai subjek ini. MEMASANG rujukan, nombor fail atau petikan tertentu; Beritahu saya di mana untuk mencari. Kemudian saya akan mencari sumber sebenar dari katalog.
Perbezaan: AI diminta untuk "di mana hendak mencari", bukan "rujukan sebenar"; Risiko halusinasi dikurangkan secara radikal dan pengesahan diserahkan kepada manusia.
Kesilapan biasa
- Bergantung pada rujukan yang betul. Rujukan yang dibuat-buat juga kelihatan sempurna; mesti disahkan dalam katalog.
- Mengambil petikan langsung daripada AI. Sebut harga tidak boleh digunakan tanpa pengesahan daripada sumber utama/boleh dipercayai.
- Menghadapi anakronisme. Istilah dan konsep hari ini secara senyap meresap ke dalam masa lalu.
- Menghasilkan semula prasangka. AI menyalin senyap daripada sumber; Ia adalah perlu untuk bertanya tentang bunyi yang hilang.
- Bergantung pada satu sumber. Fakta kritikal mesti disahkan oleh sekurang-kurangnya dua sumber bebas.
Secara ringkasnya
Pengesahan sumber berada di tengah-tengah sejarah dan pengarkiban, malah lebih kritikal pada zaman AI. Halusinasi menghasilkan sumber, petikan, dan peristiwa yang bentuknya sempurna tetapi kandungannya adalah rekaan; anakronisme memutarbelitkan masa lalu melalui lensa hari ini; dan AI menghasilkan semula bias dalam sumber. Pertahanan ialah satu disiplin: sahkan setiap rujukan dalam katalog, bandingkan kandungan dengan dokumen, semak silang fakta kritikal, tapis melalui tempoh dan berat sebelah. Tanya AI untuk "di mana hendak mencari," bukan "sumber sebenar." Penjaga kebenaran sentiasa pakar.
Tugasan permohonan
Minta AI menghasilkan senarai sumber tentang topik yang anda sedang usahakan (dengan "gesaan lemah" yang sengaja dibuat). Kemudian ekstrak semua rujukan daripada output ini dengan templat "senarai pengesahan rujukan" dan cari setiap satu dalam katalog. Kira berapa banyak sebenarnya yang wujud dan berapa banyak yang dibuat atau tidak tepat. Ulang topik yang sama dengan "gesaan kuat" ("di mana saya harus melihat") dan alami perbezaannya.
senarai semak
- [ ] Saya mengesahkan setiap rujukan dalam katalog/sumber yang dipercayai.
- [ ] Saya telah mengesahkan setiap petikan dengan sumber utama/boleh dipercayai.
- [ ] Saya telah menyemak silang fakta kritikal dengan sekurang-kurangnya dua sumber bebas.
- [ ] Saya menapis output untuk anakronisme.
- [ ] Saya mempersoalkan suara yang hilang/terherot dan berat sebelah.