Daromadlar:
- Da'voni kelib chiqishi, manba ishonchliligi va mustaqil o'zaro tekshirish bosqichlari orqali tizimli ravishda tekshirish qobiliyati
- Sun'iy intellektning o'zi gallyutsinatsiyalar, ma'lumotlarga qarama-qarshilik va xushomadgo'ylik orqali yolg'on ma'lumot ishlab chiqarishi mumkinligini tushunish va uning natijalariga qo'shimcha shubha bilan munosabatda bo'lish qobiliyati
- Natijani aniq ishonch darajasi yorlig'i bilan belgilash va bir xil hodisani turli nuqtai nazardan baholash orqali noto'g'rilikni sinab ko'rish qobiliyati
Diplomatiya axborot bilan ishlaydi va ma'lumotlarning qiymati uning to'g'riligiga bog'liq. Noto'g'ri ma'lumotlarga asoslangan brifing, muzokara pozitsiyasi yoki ommaviy bayonot qaytarilishi qiyin bo'lgan oqibatlarga olib keladi. Shuning uchun diplomatning eng muhim ko'nikmalaridan biri bu manbalarni tekshirish: da'vo qaerdan kelib chiqqanligi, uning qanchalik ishonchliligi va haqiqatda haqiqat yoki yo'qligini tizimli ravishda baholash. Ushbu bo'limda siz sun'iy intellektni tekshirishga qanday kiritishni o'rganasiz; ammo AIning o'zi noto'g'ri ma'lumot va tarafkashlik manbai bo'lishi mumkinligini yodda tutgan holda undan qanday foydalanishni o'rganasiz.
Avval uchta tushunchani ajratamiz. Noto'g'ri ma'lumot: noto'g'ri ma'lumot beixtiyor tarqaldi. Dezinformatsiya: ongli ravishda, maqsadli ishlab chiqarilgan va tarqatiladigan noto'g'ri ma'lumotlar. Xurofot: ma'lumotni yoki baholashni ma'lum bir tomonga muntazam ravishda siljitish. Diplomat uchalasiga ham hushyor bo'lishi kerak va AI har uchalasida ham yordam, ham xavf bo'lishi mumkin.
Bosqichma-bosqich: da'voni tekshirish
1. Da'voni aniq ko'rsating. Aynan nimani tekshirish kerak? Uni “X davlati Y kelishuvidan chiqdi” kabi yagona, aniq daʼvoga aylantiring. Noaniq da'volarni tekshirib bo'lmaydi.
2. O'zingizning kelib chiqishingizni toping. Bu da'vo birinchi marta qayerda, qachon va kim tomonidan bildirilgan? Aksariyat noto'g'ri ma'lumotlar bitta shubhali manbadan kelib chiqadi va kuchaytiriladi. Manbaga qayting.
3. Manbaning ishonchliligini baholang. Manba rasmiymi, mustaqilmi yoki xolismi? U o'tmishda aniq ma'lumot berganmi? Bunda uning shaxsiy manfaati bormi? Hatto ishonchli manba noto'g'ri bo'lishi mumkin; ammo ishonchliligi past manba qo'shimcha tasdiqlashni talab qiladi.
4. O‘zaro tekshirish. Da'voni kamida ikkita mustaqil, ishonchli manbalar bilan tasdiqlang. Xuddi shu axborot agentligi tomonidan taqdim etilgan 50 ta sayt mustaqil manbalar emas.
5. Ichki izchillik va kontekstni sinab ko'ring. Da'vo ichki jihatdan mos keladimi? Bu ma'lum faktlarga zid keladimi? Kontekstdan olib tashlanganmi? Haqiqiy jumla noto'g'ri kontekstda chalg'itishi mumkin.
6. Natijani ishonch darajasi bilan belgilang. "Tasdiqlangan", "qisman tasdiqlangan", "yagona manba", "tekshirib bo'lmadi", "noto'g'ri" kabi aniq belgi bering. Hatto "ishonchim komil emas" ham xulosa va uni halol aytish kerak.
Maslahat: Da'vo qanchalik ko'p aks sado bersa yoki hissiy javob uyg'otsa, uni tekshirishda shunchalik puxta bo'lishingiz kerak. Dezinformatsiya g'azab, qo'rquv hissi yoki "biz xohlagan yangilik" ga qaratilgan. Tezkor chora ko'rishga undaydigan ma'lumotlar ko'pincha tekshirilishi kerak bo'lgan ma'lumotlardir.
AIning o'zi xavf manbai hisoblanadi
Ushbu birlikning eng muhim ogohlantirishi: AI tekshirish organi emas; Uning o'zi noto'g'ri ma'lumot va noto'g'ri ma'lumotlarni keltirib chiqarishi mumkin. AI uchta usulda chalg'itishi mumkin:
1. Gallyutsinatsiya: mavjud bo'lmagan manba, iqtibos yoki voqeani haqiqiy deb ko'rsatadi. "Bu da'voni qaysi manba tasdiqlaydi?" Siz so'raganingizda, u sizga hatto o'ylab topilgan manba nomini ham berishi mumkin.
2. O'quv ma'lumotlarining noto'g'riligi: AI o'qitilgan matnlarda ustun istiqbolni aks ettiradi. Agar ma'lum bir masala bo'yicha dunyoning bir qismining nuqtai nazari ma'lumotlarda ustunlik qilsa, sun'iy intellekt shu tarzda o'zgarishi mumkin. Bu qasddan emas, balki ma'lumotlarning aksidir - ammo natija hali ham noxolis chiqishdir.
3. Sycophancy: AI savolga sizga yoqadigan tarzda javob berishga moyil bo'lishi mumkin. Agar siz da'voni tasdiqlamoqchi bo'lsangiz, u odatda uni qo'llab-quvvatlaydigan javob beradi.
Shunday qilib, AIni tekshirish vositasi sifatida foydalaning (manbalarni tahrirlash, nizolarni aniqlash, kelib chiqishni aniqlashda yordam berish), lekin hech qachon AIni yakuniy so'z sifatida "bu haqiqat" deb qabul qilmang.
Diqqat: AI manbani tekshirgandan so'ng, AI sizga haqiqiy manbani ko'rsatayotganini yoki ishonchli ko'rinishdagi uydirma ishlab chiqarayotganini tekshiring. Mustaqil ravishda ochmaguningizcha va u bergan har bir manba nomi, havolasi va iqtiboslarini ko'rmaguningizcha, uni "tasdiqlangan" deb hisoblamang. AI tomonidan yaratilgan manba haqiqiy manbadan ko'ra ishonchliroq ko'rinishi mumkin.
uchta mini holat
1-holat - Kelib chiqishini tekshirish saqlangan. Stolga "rasmiy e'lon" skrinshoti tushdi va u haqiqiy ko'rindi. Tekshirish shuni ko'rsatdiki, ushbu muassasaning rasmiy kanallarida bunday bayonot yo'q; tasvir soxta edi. Kelib chiqishini tekshirish soxta bayonotning brifingga kirishiga to'sqinlik qildi.
2-holat - AI tomonidan yaratilgan manba. Mutaxassisga AI statistik ma'lumotlarni tekshirishni buyurdi. YZ manbaga iqtibos keltirgan holda “ushbu tashkilotning 2023 yilgi hisobotiga ko‘ra...” deya ekspert manbasiga qo‘ng‘iroq qildi: na bunday hisobot, na bunday raqam bor edi; AI ikkalasini ham o'ylab topdi. Mustaqil tekshiruv uydirma "tasdiq" ni ushladi.
3-holat - tarafkashlik ofset. Mutaxassis AI munozarali voqeani sarhisob qildi va natija bir tomonning hikoyasiga aniq yaqin ekanligini payqadi. Men yana "bir xil voqeani boshqa tomon nuqtai nazaridan umumlashtiring" deb so'raganimda, butunlay boshqacha manzara paydo bo'ldi. Ikki natijani solishtirish hisobotga bir tomonlama asosni kiritishga to'sqinlik qildi.
To'rt nusxa ko'chirish shablonlari
1) Da'voni tekshirish protokoli:
Sizning rolingiz: tekshirish tahlilchisi. Quyidagi da'vo uchun: (1) da'voni nettek jumlasiga qisqartiring, (2) men bergan manbalarda birinchi marta qaerda/qachon tilga olinganini toping, (3) nechta MUSTAQIL manbalar uni qo'llab-quvvatlaydi, (4) qarama-qarshi manbalar bormi, (5) natijani quyidagi teglardan biri bilan belgilang: tasdiqlangan / yagona manba / ziddiyatli / tasdiqlanmagan. Manba ishlab chiqarish; Men bergan narsadan foydalaning. Daʼvo+manbalari: [bu yerda]
2) AI tarafkashlik sinovi:
Birinchidan, quyidagi voqeani iloji boricha ob'ektiv ravishda umumlashtiring. So'ngra SHU hodisani (a) A tomonning nuqtai nazaridan, (b) B tomoni nuqtai nazaridan alohida umumlashtiring. Uchta versiya o'rtasidagi farqlarni sanab o'ting. Shunday qilib, qaysi nuqtalar tomonlarning talqini va qaysilari umumiy faktlar ekanligini ko'rish mumkin. Ish/manbalar: [bu yerda]
3) Manba ishonchliligini baholash:
Quyidagi manba bo'yicha baholang: turi (rasmiy/mustaqil/xolis/anonim), masalaga potentsial qiziqish, o'tgan ishonchlilik haqida taqdim etilgan ma'lumotlar, tekshirish uchun zarur bo'lgan qo'shimcha qadamlar. Shuningdek, manba nima uchun noto'g'ri bo'lishi mumkinligini yozing. Manba: [bu yerda]
4) dezinformatsion qizil bayroqlar:
Dezinformatsiya uchun quyidagi tarkibni skanerlang. Ushbu bayroqlarni qidiring: manbasiz statistika, hissiyotlarni qo'zg'atuvchi til, kontekstsiz tasvirlar, "shoshilinch/baham ko'rish" bosimi, tasdiqlanmaydigan vakolatli so'z, bir vaqtning o'zida muvofiqlashtirilgan tarqatish. Har bir topilmani asoslash bilan belgilang. Yakuniy hukmlarni chiqarmang. Tarkib: [bu yerda]
Zaif taklif / Kuchli taklif
Zaif taklif:
Bu da'vo haqiqatmi? Internetda qidiring va menga xabar bering.
AIning "to'g'ri" deyishi tekshirish emas; U yolg'on manbalar berishi yoki noxolis yoki xushomadgo'y javob berishi mumkin.
Kuchli so'rov:
Sizning rolingiz: tekshirish tahlilchisi. Quyida men to'plagan da'vo va manbalar keltirilgan. Menga "to'g'ri / noto'g'ri" deb aytmang; Buning o'rniga: da'voning kelib chiqishini, mustaqil manbalar sonini, har qanday qarama-qarshiliklarni va ishonch darajasini ko'rsating. Men keltirgan manbalardan tashqariga chiqmang, manbalarni to'qib qilmang. Ishonchingiz komil bo'lmasa, uni "odam tomonidan tekshirishni talab qiladi" deb belgilang. Daʼvo+manbalari: [bu yerda]
Farqi aniq: "to'g'ri/noto'g'ri" hukm emas, kelib chiqish, mustaqil tasdiqlash va ishonch darajasini talab qilish AI xavfini cheklaydi.
Tasdiqlash holatlari jadvali
Yorliq
Ma'nosi
Hisobotda foydalanish
Tasdiqlangan
Kamida 2 ta mustaqil ishonchli manba
Kassa sifatida foydalanish mumkin
Qisman tasdiqlangan
Ba'zilar tasdiqladi
Cheklangan, tushuntirish bilan
yagona manba
Faqat bitta manba
"Da'vo" sifatida tasdiqlash talab qilinadi
qarama-qarshi
Manbalar mos kelmaydi
Noaniqlik sifatida taqdim etilgan
Tasdiqlab bo‘lmadi
Hech qanday tasdiq topilmadi
Fakt sifatida ishlatilmaydi
noto'g'ri
Buning aksi isbotlangan
Hisobotda tuzatish sifatida
Umumiy xatolar
- AIning "to'g'ri" deyishini tasdiqlash sifatida hisobga olsak. Sun'iy intellekt o'ylab topishi, noto'g'ri qilishi yoki pand qilishi mumkin.
- AI tomonidan berilgan manbani ochish va uni ko'rmasdan qabul qilish. Soxta manbalar ishonchli ko'rinadi.
- Ehtiyojlaringizga mos keladigan kichik ma'lumotlarni tekshirish. Hissiy/tegishli ma'lumotlar eng ko'p tasdiqlashni talab qiladigan ma'lumotdir.
- Tasdiq sifatida nusxalarning ko'pligini xato qilish. Xuddi shu manbadan oziqlanadigan yuzlab saytlar bitta manbadir.
- Tarafsizlikni sinab ko'rmaslik. Xuddi shu hodisani turli nuqtai nazardan sarhisob qilish muvozanatni ta'minlaydi.
Xulosa
Manbani tekshirish diplomatik bilimlarning asosidir va AI bu ishda ham yordam, ham xavf hisoblanadi. AI manbalarni tartibga soladi, kelib chiqishini kuzatish va nizolarni aniqlashda yordam beradi; ammo u gallyutsinatsiyalar, o'qitish ma'lumotlarining noto'g'riligi va xushomadgo'ylik tufayli noto'g'ri ma'lumot yaratishi mumkin. Kelib chiqishini kuzatish, mustaqil o'zaro tekshirish, manba ma'lumotlarining ishonchliligini ajratish, ishonch darajasini belgilash va AI chiqishidagi qo'shimcha shubhalar ushbu birlikning asosidir.
Ilova vazifasi
Joriy, bahsli da'voni tanlang va turli janrlardan manbalarni to'plang. Da'voni kelib chiqishi va mustaqil tekshirish uchun "da'voni tekshirish protokoli" bilan baholang. "AI tarafkashlik testi" yordamida bir xil voqeani turli nuqtai nazardan umumlashtiring va farqlarni sanab o'ting. Agar AI resurs bersa, uni mustaqil ravishda oching va u haqiqatan ham mavjudligini tekshiring.
nazorat ro'yxati
- [ ] Men da'voni bitta aniq jumlaga qisqartirdim va uning kelib chiqishini qidirdim.
- [ ] Men kamida ikkita mustaqil ishonchli manba bilan o'zaro tekshirdim.
- [ ] Men AI tomonidan taqdim etilgan har bir manbani mustaqil ravishda tekshirdim.
- [ ] Men bir xil voqeani turli nuqtai nazardan umumlashtirib, tarafkashlikni sinab ko'rdim.
- [ ] Natijani aniq ishonch darajasi belgisi bilan belgiladim.