Daromadlar:
- Nima uchun gallyutsinatsiya (soxta manba, iqtibos, voqea) va anaxronizm tarixdagi eng xavfli xatolar ekanligini tushuntirish qobiliyati
- Katalogdagi har bir ma'lumotnomani tekshirish, hujjat mazmunini solishtirish va tanqidiy faktlarni o'zaro tasdiqlash intizomini qo'llash qobiliyati.
- Sun'iy intellektdan haqiqiy manba o'rniga qayerga qarashni so'rash orqali manbalardagi noto'g'ri va etishmayotgan ovozlarga shubha qilish qobiliyati
Ushbu modulning har bir birligida takrorlanadigan ogohlantirish mavjud: AIning chiqishi tasdiqlanmaguncha haqiqat emas, balki da'vodir. Bu birlik bu ogohlantirishni intizomga aylantiradi. Tarix va arxiv ishi tabiatan dalillarga asoslangan sohalardir; Tarixchining eng asosiy mahorati manba tanqididir (manba kim tomonidan, qachon, qanday maqsadda yaratilganligi va qanchalik ishonchli ekanligiga savol berish). AI asrida bu mahorat yanada muhimroq bo'ldi, chunki manbaning o'zi endi uydirilishi mumkin.
Bu erda biz uchta xavfni chuqurroq ko'rib chiqamiz: gallyutsinatsiya (soxta ma'lumot, manbalar yoki iqtiboslar ishlab chiqaradigan AI), anaxronizm (davriy elementlarning noto'g'ri davrga ko'chirilishi) va umuman manbani tekshirish intizomi. Shuningdek, biz sun'iy intellektni o'tmishda noto'g'ri yoki noto'g'ri bo'lgan manbalardan o'rganishni ko'ramiz, shuning uchun u noto'g'rilikni ko'paytirishi mumkin.
Gallyutsinatsiya: eng xavfli xato
Gallyutsinatsiya - bu sun'iy intellekt haqiqatda mavjud bo'lmagan narsani ishonchli tarzda taqdim etishi. Tarixiy jihatdan u eng ko'p quyidagi shakllarda namoyon bo'ladi:
- Soxta manba/ma'lumotnoma: mavjud bo'lmagan arxiv fondi, fayl raqami, kitob yoki maqola.
- O'ylab topilgan iqtibos: aslida aytilmagan so'z, hujjatda bo'lmagan gap.
- O'ylab topilgan voqea/sana/shaxs: sodir bo'lmagan voqea, yolg'on sana, mavjud bo'lmagan shaxs.
- Xayoliy bog'lanish: Ikki real hodisa o'rtasidagi mavjud bo'lmagan sabab-natija munosabatlari.
Gallyutsinatsiyani xavfli qiladigan narsa shundaki, u ishonarli ko'rinadi. Tuzilgan ma'lumotnoma haqiqiy ma'lumotnoma bilan bir xil formatga ega: fond nomi, raqami, sanasi. Shunday qilib, "format to'g'ri ko'rinadi" hech qachon "to'g'ri" degani emas.
Diqqat: YZ tomonidan ishlab chiqarilgan hech qanday resurs tekshirilmasdan va katalogda yoki ishonchli joyda topilmasdan foydalanilmaydi. Ma'lumotnoma mavjudligini isbotlashning yagona yo'li - uni asl manba qaerda (arxiv katalogi, kutubxona, nashr) ko'rish. "AI berdi" dalil emas.
Anaxronizm: davr ko'zoynaklari
Anaxronizm o'tmishni bugungi ko'zoynak orqali ko'rishdir. AI bugungi tilda o'qitilganligi sababli, u quyidagilarga kuchli moyillikka ega:
- Anaxronizm atamasi: davrga tegishli bo'lmagan so'z, muassasa yoki tushunchadan foydalanish.
- Kontseptsiyaning anaxronizmi: hozirgi g'oyani (masalan, zamonaviy mafkura yoki o'ziga xoslik) o'tmishga aylantirish.
- Qiymat anaxronizmi: o'tmishdagi xatti-harakatlarni faqat bugungi standartlarga muvofiq baholash.
Tarixchining vazifasi o'tmishni uning kontekstida tushunishdir. AIda bu kontekst sezgirligi yo'q; Siz uni o'zingiz ta'minlashingiz kerak.
Nima uchun gallyutsinatsiya tez-tez sodir bo'lishini tushunish undan himoya qilishni osonlashtiradi. AI - bu "keyingi so'zni" ishlab chiqarish uchun ishlaydigan tizim; Buning "haqiqatni bilish" kabi maqsadi yo'q. Savol berilganda, u javobni biladimi yoki yo'qmi, u statistik jihatdan ishonchli ko'rinadigan matnni ishlab chiqaradi. Arxiv ma'lumotnomasining formati (fond nomi, raqami, sanasi) o'rganilgan namunadir; AI bu naqshni haqiqiy ma'lumotnomasiz to'ldirishi mumkin. Xo'sh, "nima uchun AI buni yaratadi?" Savolning javobi oddiy: unga “bilmaganlik”dan ko‘ra to‘g‘ri kelishi osonroq. Ushbu qoliplarni haqiqiy resurslar bilan to'ldirish uchun javobgarlik sizning zimmangizga tushadi.
Manbani tekshirish intizomi: bosqichma-bosqich
1. Resurs mavjudligini tekshiring. Katalog/nashrda AI tomonidan berilgan har bir ma'lumotnomani toping. Agar uni topa olmasangiz, undan foydalanmang.
2. Tarkibni manba bilan solishtiring. AI hujjatga tegishli bo'lgan ma'lumot hujjatda haqiqatan ham mavjudmi? Iqtibos aynan bir xilmi?
3. O‘zaro tasdiqlash. Muhim fakt uchun kamida ikkita mustaqil ishonchli manbaga qarang.
4. Manba tanqidini qo'llang. Manbaning o'zi ishonchlimi? Uni kim, qachon va nima maqsadda ishlab chiqardi? Bu tarafkashmi?
5. Anaxronizm filtridan o'tkazing. Chiqarishda davrga mos kelmaydigan atamalar, tushunchalar yoki qiymat mulohazalari bormi?
6. Savol-javob. AI tarixiy manbalardagi noto'g'ri fikrlarni takrorlashi mumkinmi (bir guruhga e'tibor bermaslik, bir nuqtai nazarni qo'llab-quvvatlash)?
Autentifikatsiya qatlami
Savol
kim qiladi
shaxs
Bu resurs haqiqatan ham mavjudmi?
Siz katalogdasiz.
Tarkib
Bu haqiqatan ham hujjatda aytilganmi?
Hujjatda siz
Tasdiqlash
Boshqa manbalar buni qo'llab-quvvatlaydimi?
siz, xoch
ishonchlilik
Manba ishonchlimi?
ekspert xulosasi
Davr
Anaxronizmlar bormi?
ekspert xulosasi
xurofot
Kimning ovozi etishmayotgan/buzilgan?
ekspert xulosasi
uchta mini holat
1-holat - Oltita soxta ma'lumotnoma. Tadqiqotchi AIdan mavzu bo'yicha manbalar ro'yxatini so'radi. YZ mukammal formatlash bilan 6 ta arxiv ma'lumotnomalarini taqdim etdi. Katalogni qidirishda 6 tadan 4 tasi yo'qolgan, 2 tasida noto'g'ri raqam bor edi. Agar tadqiqotchi tasdiqlamaganida, mavjud bo'lmagan manbalarga asoslangan tadqiqot paydo bo'lar edi. Dars: har bir ma'lumotnoma katalogda tasdiqlangan.
2-holat - O'ylab topilgan iqtibos. Yozuvchi AI tarixiy shaxsga tegishli bo'lgan ajoyib iqtibosdan foydalanadi. Manbani tekshirib ko‘rganida, u kishining bunday gaplarni aytganini tasdiqlovchi hujjat yo‘qligini va bu bayonot AI tomonidan “to‘qilgan”ligini ko‘rdi. Dars: tirnoqlarni asosiy yoki ishonchli manbadan tasdiqlamasdan foydalanib bo'lmaydi.
3-holati - noto'g'ri fikrni takrorlash. Talabadan AI mintaqaning tarixini tushuntirib berdi. Natija o'sha hududdagi ma'lum bir jamoani butunlay e'tiborsiz qoldirdi, chunki AI o'rgangan manbalar ham ularni e'tiborsiz qoldirgan. Talaba bu bo'shliqni payqab qoldi va o'zaro havolalar bilan tuzatdi. Dars: AI manbalardagi sukunat va tarafkashliklarni takrorlaydi; Kimning ovozi yo'qligini so'rash kerak.
To'rt nusxa ko'chirish shablonlari
1) Ma'lumotni tekshirish ro'yxati:
Quyidagi matndagi BARCHA manba, ma'lumotnoma, iqtibos, sana va shaxs ismlari alohida ro'yxatda ko'rsatilgan. Har biriga eslatma qo'shing: "ushbu matnda da'vo qilingan, mustaqil ravishda tekshirilishi kerak." Hech birini tanlamasangiz, "tekshiring"; Katalogdan/manbadan tekshirishim uchun tekshirish uchun roʻyxat tuzing. Matn: [bu yerda]
2) Anaxronizmni skanerlash:
Quyidagi [davr] haqidagi matnni ko'rib chiqing. Ushbu davrga tegishli bo'lmasligi mumkin bo'lgan atamalar, institutlar, tushunchalar va qadriyatlarni ajratib ko'rsating. Har biri uchun nima uchun shubhalanayotganingizni qisqacha yozing. Yakuniy hukm chiqarish; Mutaxassis tekshiradigan shubhalar ro'yxatini tuzing. Matn: [bu yerda]
3) Manba tanqidiy doirasi:
Manba tanqidi quyidagi manba bo'yicha tuziladi: (1) uni kim yaratgan bo'lishi mumkin, (2) qachon, (3) qanday maqsadda, (4) uning mumkin bo'lgan tarafkashliklari qanday, (5) qaysi masalalarga ishonish va qaysilariga ehtiyot bo'lish kerak. Yakuniy hukm chiqarish; Savollar va javob variantlarini taqdim eting. Manba: [bu yerda]
4) Yo'qolgan ovoz balandligi/burilish nazorati:
Quyidagi tarixiy xulosada KIMning ovozi va qaysi guruh tajribasi etishmayotgan yoki bir tomonlama bo'lishi mumkin? Qaysi nuqtai nazar hukmron, qaysi biri ko'rinmas? Buni savollar ro'yxati sifatida yarating; Men uni o'zaro havolalar bilan to'ldiraman. Xulosa: [bu yerda]
Zaif taklif / Kuchli taklif
Zaif:
Menga bu borada ishonchli tarixiy manbalar va iqtiboslar keltiring.
AI "manba" va "iqtibos" so'ralganda, shakli to'g'ri, ammo mazmuni bo'yicha ishlab chiqarilgan havolalarni yaratishga juda moyil. Bu gallyutsinatsiyaga to'g'ridan-to'g'ri taklif.
Kuchli:
Ushbu mavzu bo'yicha tadqiqotimda qanday manbalarni (arxiv fondi turi, nashr turi, muassasa) izlashimni taklif qiling. Muayyan ma'lumotnoma, fayl raqami yoki iqtibosni QO'YISH; Faqat qayerga qarashni ayting. Keyin men kataloglardan haqiqiy manbalarni topaman.
Farqi: AIdan "haqiqiy ma'lumotnoma" emas, balki "qaerga qarash kerak" so'raladi; Gallyutsinatsiya xavfi tubdan kamayadi va tekshirish insonga qoldiriladi.
Umumiy xatolar
- To'g'ri ma'lumotnomaga tayanish. Tayyorlangan ma'lumotnoma ham benuqson ko'rinadi; Katalogda tasdiqlanishi kerak.
- AIdan to'g'ridan-to'g'ri iqtibos olish. Kotirovkalarni asosiy/ishonchli manbadan tasdiqlamasdan foydalanib bo'lmaydi.
- Anaxronizmga e'tibor bermaslik. Bugungi atamalar va tushunchalar jimgina o'tmishga singib ketadi.
- Xurofotni takrorlash. AI manbalardan sukunatlarni nusxa ko'chiradi; Yo'qolgan tovush haqida so'rash kerak.
- Bitta manbaga tayanish. Muhim faktlar kamida ikkita mustaqil manba tomonidan tasdiqlanishi kerak.
Xulosa
Manbani tekshirish tarix va arxivlashning markazida bo'lib, sun'iy intellekt davrida yanada muhimroqdir. Gallyutsinatsiya shakli mukammal, ammo mazmuni xayoliy bo'lgan manbalar, iqtiboslar va hodisalarni keltirib chiqaradi; anaxronizm bugungi linzalar orqali o'tmishni buzadi; va AI manbalarda noto'g'ri fikrlarni takrorlaydi. Himoya - bu intizom: katalogdagi har bir ma'lumotnomani tekshiring, tarkibni hujjat bilan solishtiring, tanqidiy faktlarni o'zaro tekshiring, davr va tarafkashlik bo'yicha filtrlang. AIdan "haqiqiy manbani" emas, balki "qaerga qarashni" so'rang. Haqiqatning qo'riqchisi har doim mutaxassisdir.
Ilova vazifasi
AI siz ishlayotgan mavzu bo'yicha manbalar ro'yxatini ishlab chiqarsin (ataylab "zaif taklif" bilan). Keyin ushbu chiqishdan barcha havolalarni "ma'lumotni tekshirish ro'yxati" shablonini chiqarib oling va har birini katalogdan qidiring. Qanchalari haqiqatda borligini va qanchasi tuzilgan yoki noto'g'ri ekanligini hisoblang. Xuddi shu mavzuni "kuchli taklif" ("qaerga qarashim kerak") bilan takrorlang va farqni his qiling.
nazorat ro'yxati
- [ ] Katalogdagi/ishonchli manbadagi har bir havolani tasdiqladim.
- [ ] Men har bir iqtibosni asosiy/ishonchli manba bilan tasdiqladim.
- [ ] Men tanqidiy faktlarni kamida ikkita mustaqil manba bilan o‘zaro tekshirdim.
- [ ] Men anaxronizmlar uchun chiqishni filtrladim.
- [ ] Men etishmayotgan/buzilgan ovozlar va tarafkashliklarga shubha qildim.