Qazanclar:
- Mənbə, mənbənin etibarlılığı və müstəqil qarşılıqlı yoxlama addımları vasitəsilə iddianı sistematik şəkildə yoxlamaq bacarığı
- Süni intellektin özünün hallüsinasiya, təlim məlumatlarına qərəzlilik və yaltaqlıq yolu ilə yalan məlumat yarada biləcəyini başa düşmək və onun nəticələrinə əlavə şübhə ilə yanaşmaq bacarığı
- Nəticəni aydın etimad səviyyəsi etiketi ilə qeyd etməklə və eyni hadisəni müxtəlif perspektivlərdən qiymətləndirmək yolu ilə qərəzliliyi yoxlamaq bacarığı
Diplomatiya informasiya ilə işləyir və məlumatın dəyəri onun düzgünlüyündən asılıdır. Yanlış məlumatlara əsaslanan brifinq, danışıqlar mövqeyi və ya ictimai bəyanatın geri qaytarılması çətin olan nəticələri var. Buna görə də diplomatın ən vacib bacarıqlarından biri mənbənin yoxlanılmasıdır: iddianın haradan gəldiyini, onun nə dərəcədə etibarlı olduğunu və həqiqətən də doğru olub olmadığını sistematik şəkildə qiymətləndirmək. Bu bölmədə siz süni intellektin yoxlamaya necə daxil edilməsini öyrənəcəksiniz; ancaq süni intellektin özünün dezinformasiya və qərəz mənbəyi ola biləcəyini nəzərə alaraq ondan necə istifadə edəcəyinizi öyrənəcəksiniz.
Əvvəlcə üç anlayışı ayıraq. Yanlış məlumat: yanlış məlumatın istəmədən yayılması. Dezinformasiya: şüurlu, məqsədyönlü şəkildə istehsal edilən və yayılan dezinformasiya. Qərəz: məlumatın və ya qiymətləndirmənin müəyyən bir tərəfə sistematik şəkildə dəyişdirilməsi. Diplomat hər üçün ayıq olmalıdır və AI hər üçündə həm kömək, həm də risk ola bilər.
Addım-addım: iddianın təsdiqlənməsi
1. İddianı aydın şəkildə bildirin. Tam olaraq nə yoxlanılmalıdır? Bunu “X ölkəsi Y sazişindən çıxdı” kimi vahid, dəqiq bir iddiaya çevirin. Qeyri-səlis iddialar yoxlanıla bilməz.
2. Mənşəyinizi tapın. Bu iddia ilk dəfə harada, nə vaxt və kim tərəfindən irəli sürülüb? Əksər dezinformasiyalar tək şübhəli mənbədən qaynaqlanır və gücləndirilir. Mənbəyə qayıt.
3. Mənbənin etibarlılığını qiymətləndirin. Mənbə rəsmidir, müstəqildir, yoxsa qərəzlidir? O, keçmişdə dəqiq məlumat veribmi? Onun bunda xüsusi marağı varmı? Hətta etibarlı mənbə səhv ola bilər; lakin aşağı etibarlı mənbə əlavə təsdiq tələb edir.
4. Qarşılıqlı yoxlama. Ən azı iki müstəqil, etibarlı mənbə ilə iddianı təsdiqləyin. Eyni xəbər agentliyi tərəfindən qidalanan 50 sayt müstəqil mənbələr deyil.
5. Daxili ardıcıllığı və konteksti yoxlayın. İddia daxili uyğundurmu? Bu, məlum faktlarla ziddiyyət təşkil edirmi? Kontekstdən çıxarılıb? Doğru cümlə yanlış kontekstdə yanıltıcı ola bilər.
6. Nəticəni etibarlılıq səviyyəsi ilə qeyd edin. "Təsdiqlənmiş", "qismən təsdiqlənmiş", "yeganə mənbə", "təsdiq edilə bilmədi", "yanlış" kimi aydın etiket verin. Hətta “mən əmin deyiləm” də bir nəticədir və səmimi şəkildə bildirilməlidir.
İpucu: İddia nə qədər çox rezonans doğurursa və ya emosional reaksiya doğurursa, onu yoxlamaqda bir o qədər diqqətli olmalısınız. Dezinformasiya qəzəb, qorxu və ya “istədiyimiz xəbər” emosiyasını hədəf alır. Sizi cəld hərəkətə keçməyə sövq edən məlumatlar çox vaxt yoxlanılmaya ehtiyacı olan məlumatlardır.
AI özü risk mənbəyidir
Bu bölmənin ən vacib xəbərdarlığı: AI yoxlama orqanı deyil; Özü də dezinformasiya və qərəz yarada bilər. Süni intellekt üç yolla çaşdıra bilər:
1. Halüsinasiya: Mövcud olmayan mənbə, sitat və ya hadisəni gerçək kimi təqdim edir. “Hansı mənbə bu iddianı təsdiqləyir? Siz soruşduqda o, hətta sizə uydurma mənbə adı verə bilər.
2. Təlim məlumatlarının qərəzliliyi: AI təlim keçdiyi mətnlərdə dominant perspektivi əks etdirir. Müəyyən bir məsələ ilə bağlı dünyanın bir hissəsinin baxışı məlumatlarda üstünlük təşkil edərsə, süni intellekt bu şəkildə hərəkət edə bilər. Bu qəsdən deyil, məlumatların əksidir - lakin nəticə yenə də qərəzli bir nəticədir.
3. Sycophancy: AI suala sizi razı salacaq şəkildə cavab verməyə meylli ola bilər. İddianı yoxlamaq istəyirsinizsə, o, onu dəstəkləyən cavab verməyə meyllidir.
Beləliklə, AI-ni yoxlama vasitəsi kimi istifadə edin (mənbələri redaktə etmək, münaqişələri qeyd etmək, mənşəyi izləməyə kömək etmək), lakin heç vaxt "bu doğrudur" deyərək AI-ni son söz kimi qəbul etməyin.
Diqqət: Süni intellekt mənbəni təsdiqlədikdə, AI-nin sizə real mənbə göstərib-göstərmədiyini və ya inandırıcı görünən uydurma istehsal edib-etmədiyini yoxlayın. Müstəqil olaraq açıb onun verdiyi hər bir mənbə adını, keçidini və sitatını görməyincə onu "təsdiqlənmiş" hesab etməyin. Süni intellektlə yaradılmış mənbə real mənbədən daha inandırıcı görünə bilər.
üç mini qutu
1-ci hal – Mənşə doğrulaması saxlanıldı. Masanın üzərinə "rəsmi elan" skrinşotu düşdü və o, real görünürdü. Yoxlama göstərdi ki, həmin qurumun rəsmi kanallarında belə bir bəyanat yoxdur; görüntü saxta idi. Mənşəyinin yoxlanılması saxta bəyanatın brifinqə daxil olmasının qarşısını alıb.
2-ci hal – süni intellektlə hazırlanmış mənbə. Mütəxəssis süni intellektlə statistikanı təsdiqlədi. YZ mənbəyə istinadən “bu təşkilatın 2023-cü il hesabatına görə...” deyə ekspert mənbəyə zəng edib: nə belə bir hesabat var idi, nə də belə bir rəqəm; Süni intellekt hər ikisini uydurmuşdu. Müstəqil yoxlama uydurma “təsdiq”i tutdu.
3-cü hal – qərəzlilik ofset. Mütəxəssis süni intellektə mübahisəli bir hadisəni yekunlaşdırdı və nəticənin bir tərəfin hekayəsinə açıq şəkildə yaxın olduğunu gördü. Yenidən “eyni hadisəni qarşı tərəfin prizmasından ümumiləşdirin” deyə soruşduqda isə çox fərqli mənzərə yarandı. İki nəticənin müqayisəsi hesabata birtərəfli çərçivənin daxil edilməsinin qarşısını aldı.
Dörd kopyalana bilən şablon
1) İddia yoxlama protokolu:
Rolunuz: doğrulama analitiki. Aşağıdakı iddia üçün: (1) iddianı nettek cümləsinə endirin, (2) verdiyim mənbələrdə ilk dəfə harada/nə vaxt qeyd olunduğunu tapın, (3) neçə MÜSTƏQİL mənbənin bunu dəstəklədiyini, (4) ziddiyyətli mənbələr varmı, (5) nəticəni aşağıdakı etiketlərdən biri ilə qeyd edin: doğrulanmış / tək mənbə / ziddiyyətli / yoxlanılmamış. Mənbə istehsalı; Sadəcə sizə verdiyimdən istifadə edin. İddia+mənbələri: [burada]
2) AI qərəzli test:
Birincisi, aşağıdakı hadisəni mümkün qədər obyektiv şəkildə ümumiləşdirin. Sonra EYNİ hadisəni (a) A tərəfinin, (b) B tərəfinin nəzərindən ayrıca ümumiləşdirin. Üç versiya arasındakı fərqləri sadalayın. Beləliklə, hansı məqamların tərəflərin şərhi, hansıların isə ortaq faktlar olduğu aydın görünür. Dava/mənbələr: [burada]
3) Mənbənin etibarlılığının qiymətləndirilməsi:
Aşağıdakı mənbə üçün qiymətləndirin: növ (rəsmi/müstəqil/qərəzli/anonim), məsələyə potensial maraq, keçmiş etibarlılıq haqqında təqdim edilən məlumat, yoxlama üçün tələb olunan əlavə addımlar. Mənbənin niyə səhv ola biləcəyini də yazın. Mənbə: [burada]
4) Dezinformasiya qırmızı bayraqları:
Dezinformasiya üçün aşağıdakı məzmunu skan edin. Bu bayraqları axtarın: mənbəsiz statistika, emosiyaya səbəb olan dil, kontekstsiz şəkillər, “tələsmək/paylaş” təzyiqi, təsdiq olunmayan səlahiyyət sözü, eyni vaxtda əlaqələndirilmiş yayma. Hər tapıntını əsaslandırma ilə qeyd edin. Yekun hökmlər verməyin. Məzmun: [burada]
Zəif məlumat / Güclü göstəriş
Zəif çağırış:
Bu iddia doğrudurmu? İnternetdə axtarın və mənə bildirin.
Süni intellektin "doğru" deməsi yoxlama deyil; Yalan mənbələr verə bilər və ya qərəzli və ya yaltaq cavab verə bilər.
Güclü göstəriş:
Rolunuz: yoxlama analitiki. Aşağıda bir iddia və topladığım mənbələr var. Mənə “doğru/yanlış” deməyin; Bunun əvəzinə: iddianın mənşəyini, müstəqil mənbələrin sayını, hər hansı ziddiyyətləri və etimad səviyyəsini göstərin. Verdiyim mənbələrdən kənara çıxmayın, mənbə uydurmayın. Əmin deyilsinizsə, "insan yoxlaması tələb olunur" kimi qeyd edin. İddia+mənbələri: [burada]
Fərq aydındır: “doğru/yanlış” mülahizədən daha çox mənşə, müstəqil təsdiq və etimad səviyyəsi tələb etmək AI risklərini məhdudlaşdırır.
Doğrulama statusları cədvəli
Etiket
Mənası
Hesabatda istifadə
Doğrulanıb
Ən azı 2 müstəqil etibarlı mənbə
Kassa kimi istifadə etmək olar
Qismən təsdiqlənib
Bəziləri təsdiqlədi
Məhdud, izahatla
tək mənbə
Sadəcə bir mənbə
"İddia" olaraq, təsdiq tələb olunur
ziddiyyətli
Mənbələr uyğun gəlmir
Qeyri-müəyyənlik kimi təqdim olunur
Doğrulamaq mümkün olmadı
Təsdiq tapılmadı
Fakt kimi istifadə olunmur
səhv
Bunun əksi sübut olunub
Hesabatda düzəliş kimi
Ümumi səhvlər
- Süni intellektin təsdiqləmə kimi "düzgün" dediyini nəzərə alsaq. Süni intellekt düzəldə, qərəzli və ya təhrif edə bilər.
- Süni intellektin verdiyi mənbəni açıb onu görmədən qəbul etmək. Uydurma mənbələr inandırıcı görünür.
- Ehtiyaclarınıza uyğun olan kiçik məlumatları yoxlamaq. Emosional/uyğun məlumat ən çox təsdiq tələb edən məlumatdır.
- Təsdiq kimi nüsxələrin çoxluğunu səhv salmaq. Eyni mənbədən qidalanan yüzlərlə sayt tək mənbədir.
- Qərəzliyi heç sınama. Eyni hadisəni müxtəlif rakurslardan ümumiləşdirmək balansı təmin edir.
Xülasə
Mənbənin yoxlanılması diplomatik biliyin əsasını təşkil edir və AI bu işdə həm kömək, həm də riskdir. Süni intellekt mənbələri təşkil edir, mənşəyi izləməyə və münaqişələri qeyd etməyə kömək edir; lakin o, hallüsinasiya, təlim məlumatlarının qərəzliliyi və yaltaqlıq səbəbindən dezinformasiya yarada bilər. Mənbənin izlənməsi, müstəqil çarpaz yoxlama, mənbə-məlumat etibarlılığının ayrılması, etibar səviyyəsinin etiketlənməsi və AI çıxışında əlavə şübhə bu bölmənin əsasını təşkil edir.
Tətbiq tapşırığı
Cari, mübahisəli iddia seçin və müxtəlif janrlardan mənbələr toplayın. "İddia yoxlama protokolu" ilə mənbə və müstəqil yoxlama üçün iddianı qiymətləndirin. "AI qərəzli test" ilə eyni hadisəni müxtəlif perspektivlərdən ümumiləşdirin və fərqləri sadalayın. Süni intellekt resurs verirsə, onu müstəqil olaraq açın və həqiqətən mövcud olub olmadığını yoxlayın.
yoxlama siyahısı
- [ ] İddianı bircə aydın cümləyə endirdim və mənşəyini axtardım.
- [ ] Mən ən azı iki müstəqil etibarlı mənbə ilə çarpaz yoxladım.
- [ ] Mən AI tərəfindən təmin edilən hər bir mənbəni müstəqil olaraq yoxladım.
- [ ] Eyni hadisəni müxtəlif nöqteyi-nəzərdən ümumiləşdirməklə qərəzliyi sınaqdan keçirdim.
- [ ] Nəticəni aydın etimad səviyyəsi etiketi ilə qeyd etdim.