Qazanclar:
- Halüsinasiya (uydurma mənbə, sitat, hadisə) və anaxronizmin tarixin niyə ən təhlükəli səhvləri olduğunu izah etmək bacarığı
- Kataloqdakı hər bir istinadı yoxlamaq, məzmunu sənədlə müqayisə etmək və tənqidi faktları çarpaz təsdiqləmək intizamını tətbiq etmək bacarığı.
- Süni intellektə həqiqi mənbə əvəzinə hara baxacağını soruşaraq mənbələrdəki qərəzliliyi və çatışmayan səsləri sorğulamaq bacarığı
Bu modulun hər bir vahidində təkrarlanan bir xəbərdarlıq var: AI-nin çıxışı təsdiqlənənə qədər fakt deyil, iddiadır. Bu bölmə həmin xəbərdarlığı intizama çevirir. Tarix və arxivləşdirmə mahiyyətcə sübuta əsaslanan sahələrdir; Tarixçinin ən əsas bacarığı mənbə tənqididir (mənbənin kim tərəfindən, nə vaxt, hansı məqsədlə hazırlandığını və nə dərəcədə etibarlı olduğunu sorğulamaq). Süni intellekt əsrində bu bacarıq daha da kritik hala gəldi, çünki mənbənin özü artıq uydurula bilər.
Burada üç təhlükəni dərindən əhatə edəcəyik: hallüsinasiya (uydurma məlumat, mənbələr və ya sitatlar istehsal edən süni intellekt), anaxronizm (dövri elementlərin yanlış dövrə köçürülməsi) və ümumiyyətlə mənbə yoxlaması intizamı. Biz həmçinin süni intellektin keçmişdə qeyri-dəqiq və ya qərəzli olan mənbələrdən öyrəndiyini görəcəyik, buna görə də qərəzliliyi təkrarlaya bilər.
Halüsinasiya: ən təhlükəli səhvdir
Halüsinasiya süni intellektin əslində mövcud olmayan bir şeyi inamla təqdim etməsidir. Tarixən, ən çox aşağıdakı formalarda görünür:
- Uydurma mənbə/istinad: Mövcud olmayan arxiv fondu, fayl nömrəsi, kitab və ya məqalə.
- Uydurma sitat: Əslində deyilməmiş söz, sənəddə olmayan cümlə.
- Uydurma hadisə/tarix/şəxs: Olmamış hadisə, yalançı tarix, olmayan şəxs.
- Uydurma əlaqə: İki real hadisə arasında mövcud olmayan səbəb-nəticə əlaqəsi.
Halüsinasiyanı təhlükəli edən şey onun inandırıcı görünməsidir. Hazırlanmış arayış real arayışla eyni formata malikdir: fondun adı, nömrəsi, tarixi. Beləliklə, "format düzgün görünür" heç vaxt "düzgün" demək deyil.
Diqqət: YZ tərəfindən istehsal olunan heç bir resurs yoxlanılmadan və kataloqda və ya etibarlı yerdə tapılmadan istifadə edilə bilməz. Arayışın mövcud olduğunu sübut etməyin yeganə yolu onu orijinal mənbənin harada yerləşdiyini görməkdir (arxiv kataloqu, kitabxana, nəşr). "AI verdi" sübut deyil.
Anaxronizm: dövrün eynəkləri
Anaxronizm keçmişə bu günün eynəyi ilə baxmaqdır. Süni intellekt bugünkü dildə öyrədildiyi üçün onun aşağıdakılara güclü meyli var:
- Termin anaxronizmi: Dövrə aid olmayan bir söz, qurum və ya anlayışdan istifadə etmək.
- Konsepsiya anaxronizmi: Keçmişə indiki zamanın (məsələn, müasir ideologiya və ya şəxsiyyətin) bir fikrinin proyeksiyası.
- Dəyər anaxronizmi: Keçmiş davranışları yalnız bugünkü standartlarla mühakimə etmək.
Tarixçinin işi keçmişi onun kontekstində dərk etməkdir. AI bu kontekst həssaslığına malik deyil; Siz özünüz təmin etməlisiniz.
Halüsinasiyanın niyə tez-tez baş verdiyini başa düşmək ondan qorunmağı asanlaşdırır. Süni intellekt “növbəti ən çox ehtimal olunan sözü” istehsal etmək üçün işləyən sistemdir; Bunun “həqiqəti bilmək” kimi bir məqsədi yoxdur. Cavabını bilsə də, bilməsə də sual verəndə statistik cəhətdən inandırıcı görünən mətn hazırlayır. Arxiv arayışının formatı (fondun adı, nömrəsi, tarixi) öyrənilmiş nümunədir; AI bu nümunəni real istinad olmadan doldura bilər. Beləliklə, "Niyə AI bunu düzəldir?" Sualın cavabı sadədir: onun üçün “bilməməkdən” düzəltmək daha asandır. Bu qəlibləri real resurslarla doldurmaq məsuliyyəti sizin üzərinizə düşür.
Mənbənin yoxlanılması intizamı: addım-addım
1. Resursun mövcudluğunu yoxlayın. Kataloqda/nəşrdə AI tərəfindən verilən hər bir istinadı tapın. Əgər tapa bilmirsinizsə, istifadə etməyin.
2. Məzmunu mənbə ilə müqayisə edin. AI-nin sənədə aid etdiyi məlumat həqiqətən sənəddə mövcuddurmu? Sitat tam olaraq eynidir?
3. Çarpaz təsdiq edin. Kritik fakt üçün ən azı iki müstəqil etibarlı mənbəyə baxın.
4. Mənbə tənqidini tətbiq edin. Mənbənin özü etibarlıdırmı? Onu kim, nə vaxt və hansı məqsədlə istehsal edib? Qərəzlidir?
5. Onu anaxronizm filtrindən keçirin. Çıxışda dövrə uyğun olmayan hər hansı terminlər, anlayışlar və ya dəyər mühakimələri varmı?
6. Qərəzlə bağlı sual. Süni intellekt tarixi mənbələrdəki qərəzləri təkrarlaya bilərmi (bir qrupa məhəl qoymadan, bir nöqteyi-nəzərdən yanaşaraq)?
Doğrulama təbəqəsi
Sual
kim edir
qurum
Bu resurs həqiqətən mövcuddurmu?
Siz kataloqdasınız.
Məzmun
Bu, həqiqətən də sənəddə yazılıbmı?
Sənəddə sən
Təsdiq
Başqa bir mənbə bunu dəstəkləyirmi?
sən, keç
etibarlılıq
Mənbə etibarlıdırmı?
ekspert rəyi
Dövr
Anaxronizmlər varmı?
ekspert rəyi
qərəz
Kimin səsi yoxdur/təhrif olunub?
ekspert rəyi
üç mini qutu
Case 1 - Altı uydurma istinad. Bir tədqiqatçı süni intellektdən mövzu ilə bağlı mənbələrin siyahısını istədi. YZ mükəmməl formatlaşdırma ilə 6 arxiv arayışı təqdim etdi. Kataloq axtarışında 6-dan 4-ü yox idi, 2-nin nömrəsi səhv idi. Tədqiqatçı təsdiqləməsəydi, mövcud olmayan mənbələrə istinad edən bir araşdırma ortaya çıxacaqdı. Dərs: hər bir istinad kataloqda yoxlanılır.
2-ci hal - Uydurma sitat. Bir yazıçı AI-nin tarixi bir şəxsiyyətə aid etdiyi təəccüblü bir sitatdan istifadə edərdi. Mənbəni araşdıranda həmin şəxsin belə bir söz dediyini sübut edən heç bir sənədin olmadığını, ifadənin Aİ tərəfindən “uydurma” olduğunu görüb. Dərs: sitatlar əsas və ya etibarlı mənbədən yoxlanılmadan istifadə edilə bilməz.
İş 3 – Qərəzlərin təkrar istehsalı. Bir tələbənin süni intellekt bir bölgənin tarixini izah etdi. Çıxış həmin ərazidəki müəyyən bir icmaya tamamilə məhəl qoymadı, çünki AI-nin öyrəndiyi mənbələr də onlara məhəl qoymadı. Tələbə bu boşluğu fərq etdi və çarpaz istinadlarla düzəltdi. Dərs: Süni intellekt mənbələrdəki susqunluqları və qərəzləri təkrarlayır; Soruşmaq lazımdır ki, kimin səsi yoxdur.
Dörd kopyalana bilən şablon
1) İstinad yoxlama siyahısı:
Aşağıdakı mətndəki BÜTÜN mənbə, istinad, sitat, tarix və şəxs adları ayrıca siyahıda göstərilir. Hər biri üçün bir qeyd əlavə edin: "bu mətndə iddia edilir, müstəqil şəkildə yoxlanılmalıdır." Heç birini seçməsəniz, "yoxlayın"; Kataloqdan/mənbədən yoxlaya bilmək üçün yoxlamaq üçün sadəcə siyahı hazırlayın. Mətn: [burada]
2) Anaxronizmin skan edilməsi:
Aşağıdakı [dövr] haqqında mətni araşdırın. Bu dövrə aid OLMAYAN terminləri, institutları, anlayışları və dəyərləri vurğulayın. Hər biri üçün niyə şübhələndiyinizi qısaca yazın. Yekun qərarın verilməsi; Ekspertin yoxlayacağı şübhələrin siyahısını yaradın. Mətn: [burada]
3) Mənbə tənqidi çərçivəsi:
Aşağıdakı mənbə haqqında mənbə tənqidi tərtib edilir: (1) Onu kim hazırlamış ola bilər, (2) Nə vaxt, (3) Hansı məqsədlə, (4) Onun mümkün qərəzləri nələrdir, (5) Hansı məsələlərə etibar edilməli və hansına ehtiyatlı olmaq lazımdır. Yekun hökmün çıxarılması; Sualları və mümkün cavab variantlarını təqdim edin. Mənbə: [burada]
4) Çatışmayan səs/qərəz nəzarəti:
Aşağıdakı tarixi xülasədə KİMİN səsi və hansı qrupun təcrübəsi çatışmayan və ya birtərəfli ola bilər? Hansı perspektiv üstünlük təşkil edir, hansı görünməzdir? Bunu suallar siyahısı kimi hazırlayın; Mən onu çarpaz istinadlarla dolduracağam. Xülasə: [burada]
Zəif məlumat / Güclü göstəriş
Zəif:
Mənə bu mövzuda etibarlı tarixi mənbələr və sitatlar verin.
Süni intellekt formaca düzgün, lakin “mənbə” və “sitat” tələb olunduqda məzmunca uydurulmuş istinadlar yaratmağa çox meyllidir. Bu çağırış hallüsinasiyaya birbaşa dəvətdir.
Güclü:
Bu mövzu ilə bağlı araşdırmamda hansı NÖVLƏR mənbələrinə (arxiv fondunun növü, nəşrin növü, qurum) baxmaq lazım olduğunu təklif edin. Müəyyən bir arayış, fayl nömrəsi və ya sitatın uyğunlaşdırılması; Sadəcə hara baxacağımı söylə. Sonra kataloqlardan əsl mənbələri tapacağam.
Fərq: Süni intellektdən “hara baxmalı” sualı verilir, “faktiki istinad” yox; Halüsinasiya riski kökündən azalır və yoxlanış insanın ixtiyarına verilir.
Ümumi səhvlər
- Düzgün istinada əsaslanaraq. Hazırlanmış istinad da qüsursuz görünür; kataloqda yoxlanılmalıdır.
- AI-dən birbaşa sitat götürmək. Sitatlar əsas/etibarlı mənbədən təsdiq olmadan istifadə edilə bilməz.
- Anaxronizmə nəzər salmaq. Bu günün terminləri və anlayışları səssizcə keçmişə sızır.
- Ön mühakimənin təkrar istehsalı. Süni intellekt mənbələrdən səssizliyi kopyalayır; Çatışmayan səs haqqında soruşmaq lazımdır.
- Tək mənbəyə arxalanaraq. Kritik faktlar ən azı iki müstəqil mənbə tərəfindən təsdiqlənməlidir.
Xülasə
Mənbənin yoxlanılması tarixin və arxivləşdirmənin mərkəzində dayanır və süni intellekt dövründə daha da vacibdir. Halüsinasiya forması mükəmməl, lakin məzmunu uydurma olan mənbələr, sitatlar və hadisələr yaradır; anaxronizm bu günün obyektivindən keçmişi təhrif edir; və AI mənbələrdəki qərəzləri təkrarlayır. Müdafiə bir intizamdır: kataloqdakı hər bir istinadı yoxlayın, məzmunu sənədlə müqayisə edin, kritik faktları çarpaz yoxlayın, dövr və qərəzliliyi süzün. Süni intellektdən “həqiqi mənbəni” yox, “hara baxmaq lazım olduğunu” soruşun. Həqiqətin keşikçisi həmişə ekspertdir.
Tətbiq tapşırığı
Süni intellekt üzərində işlədiyiniz mövzu üzrə resursların siyahısını tərtib etsin (qəsdən “zəif göstəriş” ilə). Sonra bu çıxışdan bütün istinadları "referans təsdiqləmə siyahısı" şablonu ilə çıxarın və hər birini kataloqda axtarın. Nə qədərinin əslində mövcud olduğunu və neçəsinin uydurma və ya qeyri-dəqiq olduğunu hesablayın. Eyni mövzunu "güclü təklif" ("hara baxmalıyam") ilə təkrarlayın və fərqi hiss edin.
yoxlama siyahısı
- [ ] Kataloqda/etibarlı mənbədə hər bir istinadı yoxladım.
- [ ] Mən hər bir sitatı əsas/etibarlı mənbə ilə təsdiqləmişəm.
- [ ] Mən ən azı iki müstəqil mənbə ilə tənqidi faktları çarpaz yoxladım.
- [ ] Mən anaxronizmlər üçün çıxışı süzdüm.
- [ ] Mən çatışmayan/təhrif edilmiş səsləri və qərəzliyi sorğuladım.