Qazanclar:
- Süni intellektin kitabxanaçılıq işində harda vaxta qənaət etdiyini (metadata, xülasə, axtarış, təklif) və risk səviyyəsindən asılı olaraq dəqiqlik, mənbə etibarlılığı və məxfilik qərarlarının insanların ixtiyarına verildiyini ayırd edə bilmək.
- Hər bir çıxışı mənbə ilə əlaqələndirərək, müstəqil mənbədə təsdiq edərək və qərəzli filtrdən keçirərək yoxlayan intizamı tətbiq etmək bacarığı.
- Halüsinasiyanın, uydurma mənbələrin və istifadəçi məxfiliyinin niyə bu peşədə ən əvvəldən nəzərə alınmalı olan risklər olduğunu başa düşmək.
Kataloq üzrə mütəxəssis səhər saatlarında iş masasına əyləşəndə onun əlinə yeni gəlmiş onlarla kitab, ianə kolleksiyasından yüzlərlə sənəd və rəqəmsallaşmanı gözləyən arxiv qutusu ola bilər. İstinad kitabxanaçısı (istifadəçilərə məlumat tapmaqda kömək edən ekspert) gün ərzində “bu mövzuda etibarlı mənbə haradadır?” kimi suallara cavab verir. İnformasiya meneceri təşkilatın minlərlə sənədinin aşkar və etibarlı olmasına cavabdehdir. Bu bölmədə biz süni intellektin (qısacası AI; böyük dil modelləri və buna bənzər alətlər) bu işlərdə tam olaraq harada vaxta qənaət etdiyini, mühakimə, seçim və məsuliyyətin insanda qaldığını aydınlaşdıracağıq.
Bir təriflə başlayaq: süni intellekt, bununla biz böyük həcmdə mətn üzərində öyrədilmiş dil yaradan və nümunəni tanıyan proqram vasitələrini nəzərdə tuturuq. Bu alətlər ümumiləşdirir, tərcümə edir, təsnifatı təklif edir, qaralama mətni yaradır və böyük məlumat hissələrində nümunələri işarələyir. Amma mənbənin həqiqətən var olub-olmadığını, məlumatın düzgün olub olmadığını və ya istifadəçinin məxfiliyinin qorunub saxlanmadığını bilmir. Buna görə də kitabxanaçılıq və informasiya idarəçiliyində süni intellekt qərar qəbul edən deyil, köməkçidir.
Süni intellekt harada işləyir və harada işləmir?
Gəlin kitabxanaçılıq işini üç təbəqəyə ayıraq. Birinci təbəqə mexaniki və təkrarlanan tapşırıqlardır: kitabın bayraq xəttindən qaralama metadatanın çıxarılması, uzun hesabatın ümumiləşdirilməsi, mətnin bir dildən digərinə tərcüməsi, verilənlər cədvəlinin təmizlənməsi. AI burada güclüdür və böyük vaxta qənaət edir.
İkinci təbəqə kvazi-məhkəmə işidir: sənədi hansı mövzu başlığı ilə vermək, kolleksiyaya resurs daxil edib-etməmək, istifadəçiyə hansı resurs tövsiyə etmək. Süni intellekt burada təkliflər verir, lakin son sözü qurumun siyasətini və istifadəçinin real ehtiyaclarını bilən ekspert deyir.
Üçüncü səviyyə təmiz mühakimə və hesabatlılıqdır: məlumatın düzgünlüyünü təsdiqləmək, müəllif hüququna dair qərar vermək, həssas şəxsi məlumatların açıqlanıb-açılmaması, mənbənin etibarlılığını təsdiqləmək. Bu təbəqədə AI-nin çıxışı yalnız başlanğıc nöqtəsidir; Məsuliyyət tamamilə insanların üzərinə düşür.
İpucu: Süni intellektə tapşırıq verməzdən əvvəl özünüzdən soruşun: "Bu çıxış səhv olarsa nə olar?" Cavab "Mən bir az vaxt itirəcəyəm" olarsa, AI-dən istifadə etməkdən çəkinməyin. Cavab "yanlış mənbə yayılıb, istifadəçi aldadılıb və ya şəxsi məlumatlar sızıb" olarsa, çıxışı yoxladığınızdan əmin olun.
Halüsinasiya: kitabxanaçının ən böyük təhlükəsi
Halüsinasiya süni intellektin mövcud olmayan məlumatları, mənbəni və ya sitatları realmış kimi və son dərəcə inandırıcı bir dildə istehsal etməsidir. Bu, kitabxanaçılıq və informasiya idarəçiliyi üçün xüsusilə təhlükəlidir; çünki bizim peşəmizin mahiyyəti mənbənin həqiqiliyi və etibarlılığıdır.
Süni intellektə “bu mövzuda beş akademik məqalə təklif et” dediyiniz zaman o, real görünən, lakin ümumiyyətlə mövcud olmayan başlıqlar, müəlliflər və jurnal adları yarada bilər. Bu uydurma mənbələr o qədər inandırıcıdır ki, bir patron və ya hətta bir kitabxanaçı onları yoxlamadan biblioqrafiyaya əlavə edə bilər. Humanitar və ictimai elmlərdə təhlükə daha da böyükdür: tarixçi üçün “1897-ci ilin həmin sənədi” və ya hüquqşünas üçün “həmin məhkəmə qərarı” uydurulduqda, nəticədə ciddi dezinformasiya yaranır.
Diqqət: AI tərəfindən hazırlanmış heç bir mənbə sitatı, sitat və ya arayış real kataloqda, verilənlər bazasında və ya mənbənin özündə yoxlanılmadan heç bir yerə köçürülməməlidir. Sadəcə "inandırıcı görünməsi" bunun doğru olduğu demək deyil.
Doğrulama intizamı: üç addım
Kitabxanaçının AI ilə işləyərkən tətbiq etməli olduğu əsas intizam budur:
1. Mənbəyə qoşulun. Hər bir fakt, rəqəm, tarix və çap orijinal mənbəyə əsaslanmalıdır. Süni intellektdən “bu məlumatı hansı mənbədən aldığınızı deyin” deyə soruşun və müstəqil olaraq həmin mənbəni yoxlayın.
2. Müstəqil olaraq təsdiq edin. AI xaricində ən azı bir etibarlı mənbədə kritik məlumatları yoxlayın (əsl kataloq, rəsmi məlumat bazası, ilkin sənəd).
3. Onu əyilmə filtrindən keçirin. AI, öyrədildiyi məlumatların qərəzlərini daşıyır. Təklif olunan mövzu, təkliflər siyahısı və ya xülasə müəyyən nöqteyi-nəzərləri vurğulaya və digərlərini ört-basdır edə bilər. Kimin kənarda qaldığını, hansı perspektivin çatışmadığını soruş.
Məxfilik və istifadəçi məxfiliyi
Kitabxanaçılıq peşəsinin ən fundamental etik prinsiplərindən biri istifadəçi məxfiliyidir: insanın nə oxuduğu, nə axtardığı və hansı mövzu ilə maraqlandığı məxfidir. Süni intellekt alətlərinə, xüsusən də istifadəçilərin şəxsiyyətləri, axtarış tarixçəsi və ya borc götürülmüş resursları əhatə edən İnternet üzərindən işləyən ictimai alətlərə məlumatların daxil edilməsi bu prinsipi poza bilər; çünki bu məlumatlar üçüncü tərəf sistemlərinə keçə bilər.
Eyni şəkildə, bir təşkilatda təsnif edilməmiş, lakin həssas sənədlər (kadr məlumatları, müqavilələr, daxili yazışmalar) ümumi AI alətinə yüklənməməlidir. Bu tip məlumat üçün qurumun özünün təhlükəsiz, qapalı sistemində işləyən alətlərə üstünlük verilir.
İpucu: Süni intellektə hər hansı məlumat daxil etməzdən əvvəl "Bu məlumat açıqdırmı?" soruş. Cavabınız yoxsa və ya əmin deyilsinizsə, həmin məlumatları şəxsiləşdirilməmiş, anonim formata qoyun və ya yalnız qurum tərəfindən təsdiqlənmiş təhlükəsiz vasitələrdən istifadə edin.
üç mini qutu
Case 1 — 400 sənəd üçün metadata layihəsi. Universitet kitabxanası professorun bağışladığı 400 sənəddən ibarət arxivi kataloqlaşdırmalı idi. Ekspert süni intellektlə hər bir sənədin ilk səhifəsindən layihənin başlığını, tarixini və mövzu təklifini çıxardı: bir sənəd üçün orta vaxt 12 dəqiqədən 4 dəqiqəyə qədər azaldı. Amma hər bir layihə çapı orijinal sənədlə müqayisə edildi və ekspert tərəfindən təsdiq edildi; Bu addımda AI tərəfindən hazırlanmış 17 səhv tarix tutuldu.
İş 2 - Saxta mənbə tutuldu. Məsləhətçi kitabxanaçı bakalavr tələbəsi üçün “iqlim miqrasiyası” ilə bağlı resursları axtararkən YZ-dən 6 məqalə təklifi aldı. Kitabxanaçı onların hamısını qurumun məlumat bazasında axtardı: 6 məqalədən 2-si ümumiyyətlə yox idi. Doğrulama addımı tələbəyə uydurma mənbə verilməsinin qarşısını aldı.
3-cü hal - Məxfiliyin pozulmasının qarşısı alındı. Kitabxana kassa qeydlərindən “hansı istifadəçinin hansı mövzu ilə maraqlandığını” təhlil etmək üçün ümumi AI alətindən istifadə etməyi düşünür. Məlumat meneceri anladı ki, bu məlumatların istifadəçi ID ilə çıxması məxfiliyin pozulması olacaq; məlumatlar əvvəlcə anonimləşdirilib və yalnız ümumiləşdirilmiş, identifikasiya olunmayan statistika kimi işlənib.
Dörd kopyalana bilən şablon
1) Rolları və sərhədləri müəyyən etməyə başlayın:
Rolunuz: kataloqlaşdırma və məlumatların idarə edilməsi üzrə təcrübəli mütəxəssis köməkçisi. Tapşırıq: sizə verdiyim mənbədəki məlumatdan qaralama hazırlamaq. Qaydalar: (1) Yalnız sizə verdiyim mətndəki məlumatlardan istifadə edin, öz məlumatınızı əlavə etməyin. (2) Əmin olmadığınız yerdə "[təsdiq edilməlidir]" qeyd edin. (3) Heç bir tarix, ad və ya iz uydurmayın. Əgər başa düşürsənsə, başla. Mənbə: [burada]
2) Doğrulama yoxlama sualı:
Aşağıdakı mətndə hər bir faktiki iddianı (tarix, ad, nömrə, mənbəyə istinad) sadalayın. Hər biri üçün: bu məlumatı mətndə haradan almısınız? Mətndə aydın deyilsə, "mətndə yox" yazın. Mətn: [burada]
3) Qərəz və çatışmayan perspektiv yoxlanışı:
Aşağıdakı xülasə/tövsiyə hansı perspektivləri vurğulayır və hansını kənarda qoyur? Hansı qruplar, bölgələr və ya baxışlar çatışmayan ola bilər? Sadəcə mətnə etibar edin, spekulyasiya etməyin. Mətn: [burada]
4) Məxfiliyin ilkin yoxlanışı:
Aşağıdakı mətndə şəxsi məlumatlar (ad, şəxsiyyət nömrəsi, əlaqə, oxu/axtarış tarixçəsi) və ya həssas korporativ məlumat varmı? Əgər belədirsə, onu sadalayın və necə anonimləşdirilə biləcəyini təklif edin. Mətn: [burada]
Zəif məlumat / Güclü göstəriş
Zəif çağırış:
Mənə bu mövzuda bəzi mənbələr tapın.
Bu xəbərdarlıq süni intellektləri saxta resurslar yaratmağa dəvət edir. Rollar, sərhədlər, doğrulama qaydaları və resursları yoxdur. AI inandırıcı, lakin mövcud olmayan etiketlər yarada bilər.
Güclü göstəriş:
Sizin rolunuz: istinad kitabxanaçı köməkçisi. Aşağıda sizə verdiyim kataloq yazılarından “iqlim miqrasiyası” mövzusuna aid olanları seçin və onların nə üçün aktual olduğunu izah edin. Siyahıda olmayan heç bir mənbə əlavə etməyin, mənbə uydurmayın. Əmin olmadığınız zaman "sadalanan uyğun mənbələr yoxdur" deyin. Kataloq qeydləri: [burada]
Fərq aydındır: güclü sürət süni intellektni öz yaddaşından deyil, verilmiş real mənbədən işləməyə məcbur edir və uydurmanın qarşısını alır.
Lay və məsuliyyət cədvəli
iş təbəqəsi
nümunə tapşırıq
AI-nin rolu
insanın qərarı
mexaniki
Qaralama metadata, xülasə, tərcümə
Qaralamaları tez hazırlayır
yoxlama, təsdiq
kvazi-məhkəmə
Mövzu adı, mənbə təklifi
təkliflər verir
Siyasət üzrə seçim
təmiz mühakimə
Doğrulama, müəllif hüququ ilə bağlı qərar
Yalnız ilkin məlumat
Tam məsuliyyət insanın üzərinə düşür
Ümumi səhvlər
- Mənbə üçün AI çıxışını əvəz etmək. AI resurs deyil, köməkçidir; Hər bir çıxış təsdiqlənir.
- Uydurma mənbəni inandırıcı kimi qəbul etmək. Sadəcə yaxşı görünməsi onun düzgün olduğu demək deyil.
- Şəxsi/həssas məlumatların ictimai alətə daxil edilməsi. İstifadəçinin məxfiliyinə və korporativ məxfiliyinə lap əvvəldən hörmət edilir.
- Qərəzlərə məhəl qoymamaq. Süni intellekt, öyrədildiyi məlumatların perspektivlərini daşıyır; Nəyin çatışmadığını soruş.
- Qərar verməyi AI-ya buraxın. Dəqiqlik, müəllif hüququ və məxfiliyə dair qərarlar insanlara məxsusdur.
Xülasə
süni intellekt; O, kitabxanaçılıq və informasiya idarəçiliyində ümumiləşdirmə, layihə tərtib etmək, tərcümə etmək və nümunə işarələmək üçün güclü köməkçidir. Mexanik işlərdə çox vaxta qənaət edir; kvazi-məhkəmə məsələləri üzrə məsləhətlər verir; Lakin düzgünlüyün yoxlanılması, mənbənin etibarlılığı, istifadəçi məxfiliyi və etik qərarlar insanlara aiddir. Halüsinasiya bu peşə üçün ən böyük təhlükədir: heç bir mənbə krediti və ya sitat yoxlanılmadan istifadə edilmir. Aydın rol, sərhəd və doğrulama qaydaları ilə AI işləyin; Hər bir kritik çıxışı müstəqil mənbə ilə təsdiqləyin.
Tətbiq tapşırığı
Sahənizdən real mövzu seçin. Süni intellektdən həmin mövzu ilə bağlı 5 resurs tövsiyəsi soruşun, sonra hər birini faktiki kataloqda və ya verilənlər bazasında axtarın və neçəsinin həqiqətən mövcud olduğunu qeyd edin. Sonra, “Başlanğıcda rolları və sərhədləri müəyyənləşdirən” şablonu ilə AI-yə yalnız təqdim etdiyiniz mətndən işləməyi və iki yanaşmanın nəticəsini müqayisə etməyi söyləyin. Hansı yanaşmanın uyğunlaşmaya mane olduğunu yazın.
yoxlama siyahısı
- [ ] Tapşırığın hansı təbəqədə (mexaniki, yarı məhkəmə, təmiz mühakimə) olduğunu müəyyən etdim.
- [ ] "Bu çıxış səhv olarsa nə olar?" sualını verdim.
- [ ] Mən hər bir krediti və sitatı müstəqil mənbə ilə təsdiqləmişəm.
- [ ] Mən AI-yə daxil olan məlumatlarda şəxsi/həssas məlumatın olmadığını yoxladım.
- [ ] Son qərarı və məsuliyyəti öz ixtiyarımda saxladım.