Kazanimlar:
- Yapay zekanın kütüphanecilik iş akışının (meta veri, özet, arama, öneri) neresinde zaman kazandırdığını, neresinde doğruluk, kaynak güvenilirliği ve mahremiyet kararlarının insana kaldığını risk düzeyine göre ayırt edebilme
- Her çıktıyı kaynağa bağlama, bağımsız kaynakta teyit etme ve önyargı süzgecinden geçirme adımlarıyla doğrulayan bir disiplin uygulayabilme
- Halüsinasyonun, uydurma kaynağın ve kullanıcı mahremiyetinin bu meslek için neden en baştan gözetilmesi gereken riskler olduğunu kavrayabilme
Bir kataloglama uzmanı sabah masasına oturduğunda önünde onlarca yeni gelmiş kitap, bir bağış koleksiyonundan çıkan yüzlerce belge ve dijitalleştirilmeyi bekleyen bir arşiv kutusu olabilir. Bir danışma kütüphanecisi (kullanıcıların bilgi bulmasına yardım eden uzman) gün boyunca "bu konuda güvenilir kaynak nerede" sorularına yanıt verir. Bir bilgi yöneticisi ise bir kurumun binlerce belgesinin bulunabilir ve güvenilir kalmasından sorumludur. Bu ünitede, yapay zekanın (kısaca YZ; büyük dil modelleri ve benzeri araçlar) bu işlerin tam olarak neresinde zaman kazandırdığını, neresinde ise yargının, seçimin ve sorumluluğun insanda kaldığını netleştireceğiz.
Bir tanımla başlayalım: yapay zeka, burada büyük miktarda metinle eğitilmiş, dil üreten ve örüntü tanıyan yazılım araçlarını kastediyoruz. Bu araçlar özetler, çevirir, sınıflandırma önerir, taslak metin üretir ve büyük veri yığınlarında örüntü işaretler. Ama bir kaynağın gerçekten var olup olmadığını, bir bilginin doğru olup olmadığını, bir kullanıcının gizliliğinin korunup korunmadığını bilmez. İşte bu yüzden kütüphanecilik ve bilgi yönetiminde YZ bir asistandır, karar mercii değildir.
Yapay zeka nerede işe yarar, nerede yaramaz
Kütüphanecilik iş akışını üç katmana ayıralım. Birinci katman mekanik ve tekrarlı işler: bir kitabın künyesinden taslak meta veri çıkarmak, uzun bir raporu özetlemek, bir metni bir dilden diğerine çevirmek, bir tablo veriyi temizlemek. YZ burada güçlüdür ve büyük zaman kazandırır.
İkinci katman yarı-yargısal işler: bir belgeye hangi konu başlığının verileceği, bir kaynağın koleksiyona alınıp alınmayacağı, bir kullanıcıya hangi kaynağın önerileceği. YZ burada öneri üretir ama son sözü, kurumun politikasını ve kullanıcının gerçek ihtiyacını bilen uzman söyler.
Üçüncü katman saf yargı ve sorumluluk işleri: bir bilginin doğru olduğunun teyidi, bir telif iznine karar vermek, hassas bir kişisel veriyi ifşa edip etmemek, bir kaynağın güvenilirliğini onaylamak. Bu katmanda YZ'nin çıktısı yalnızca bir başlangıç noktasıdır; sorumluluk tamamen insandadır.
İpucu: Bir görevi YZ'ye vermeden önce kendinize sorun: "Bu çıktı yanlış olursa ne olur?" Cevap "biraz zaman kaybederim" ise YZ'yi rahatça kullanın. Cevap "yanlış bir kaynak yayılır, bir kullanıcı yanlış yönlendirilir veya bir kişisel veri sızar" ise, çıktıyı mutlaka doğrulayın.
Halüsinasyon: kütüphanecinin en büyük tehlikesi
Halüsinasyon, YZ'nin var olmayan bir bilgiyi, kaynağı ya da alıntıyı gerçekmiş gibi, üstelik son derece ikna edici bir dille üretmesidir. Bu, kütüphanecilik ve bilgi yönetimi için özellikle tehlikelidir; çünkü bizim mesleğimizin özü kaynağın gerçekliği ve güvenilirliğidir.
YZ'ye "şu konuda beş akademik makale öner" dediğinizde, size gerçek gibi görünen ama hiç var olmayan başlıklar, yazarlar ve dergi adları üretebilir. Bu uydurma kaynaklar o kadar inandırıcıdır ki, bir kullanıcı ya da hatta bir kütüphaneci bunları doğrulamadan bir kaynakçaya ekleyebilir. Beşeri ve sosyal bilimlerde bu tehlike daha da büyüktür: bir tarihçi için "1897 tarihli şu belge" ya da bir hukukçu için "şu mahkeme kararı" uydurulduğunda, sonuç ciddi bir yanlış bilgilendirmedir.
Dikkat: YZ'nin ürettiği hiçbir kaynak künyesi, alıntı ya da atıf, gerçek bir katalogda, veri tabanında ya da kaynağın kendisinde doğrulanmadan hiçbir yere aktarılmamalıdır. "İkna edici görünmesi" doğru olduğunu asla göstermez.
Doğrulama disiplini: üç adım
Kütüphanecinin YZ ile çalışırken uygulaması gereken temel disiplin şudur:
1. Kaynağa bağla. Her olgu, rakam, tarih ve künye bir asıl kaynağa dayanmalıdır. YZ'ye "bu bilgiyi hangi kaynaktan aldığını söyle" diye sorun ve o kaynağı bağımsız olarak kontrol edin.
2. Bağımsız teyit et. Kritik bir bilgiyi, YZ'nin dışındaki en az bir güvenilir kaynakta (gerçek katalog, resmî veri tabanı, birincil belge) doğrulayın.
3. Önyargı süzgecinden geçir. YZ eğitildiği verinin önyargılarını taşır. Bir konu başlığı önerisi, bir öneri listesi ya da bir özet belirli bakış açılarını öne çıkarıp başkalarını gizleyebilir. Kim dışarıda kaldı, hangi bakış açısı eksik diye sorun.
Gizlilik ve kullanıcı mahremiyeti
Kütüphanecilik mesleğinin en köklü etik ilkelerinden biri kullanıcı mahremiyetidir: bir kişinin ne okuduğu, ne aradığı, hangi konuya ilgi duyduğu gizlidir. YZ araçlarına, özellikle internet üzerinden çalışan genel araçlara, kullanıcıların kimliğini, arama geçmişini ya da ödünç aldıkları kaynakları içeren veriyi girmek bu ilkeyi çiğneyebilir; çünkü bu veri üçüncü tarafın sistemlerine gidebilir.
Aynı şekilde bir kurumda, sınıflandırılmamış ama hassas belgeler (personel bilgileri, sözleşmeler, iç yazışmalar) genel bir YZ aracına yüklenmemelidir. Kurumun kendi güvenli, kapalı sisteminde çalışan araçlar bu tür veri için tercih edilir.
İpucu: Bir veriyi YZ'ye girmeden önce "Bu bilgi kamuya açık mı?" diye sorun. Cevap hayırsa ya da emin değilseniz, o veriyi kişiselleştirilmemiş, anonim bir biçime getirin veya yalnızca kurumun onayladığı güvenli araçları kullanın.
Üç mini vaka
Vaka 1 — 400 belgeye taslak meta veri. Bir üniversite kütüphanesi, bir profesörün bağışladığı 400 belgelik arşivi kataloglamak zorundaydı. Uzman, her belgenin ilk sayfasından YZ ile taslak başlık, tarih ve konu önerisi çıkardı: belge başına ortalama süre 12 dakikadan 4 dakikaya indi. Ama her taslak künye, asıl belgeyle karşılaştırılıp uzman tarafından onaylandı; YZ'nin uydurduğu 17 hatalı tarih bu adımda yakalandı.
Vaka 2 — Uydurma kaynak yakalandı. Bir danışma kütüphanecisi, bir lisans öğrencisine "iklim göçü" konusunda kaynak ararken YZ'den 6 makale önerisi aldı. Kütüphaneci hepsini kurumun veri tabanında aradı: 6 makaleden 2'si hiç var olmuyordu. Doğrulama adımı, öğrenciye uydurma kaynak verilmesini önledi.
Vaka 3 — Gizlilik ihlali önlendi. Bir kütüphane, ödünç verme kayıtlarından "hangi kullanıcı hangi konuya ilgi duyuyor" analizi yapmak için genel bir YZ aracı kullanmayı düşündü. Bilgi yöneticisi, bu verinin kullanıcı kimliğiyle birlikte dışarı gitmesinin mahremiyet ihlali olacağını fark etti; veri önce anonimleştirildi ve yalnızca toplu, kimliksiz istatistik olarak işlendi.
Dört kopyalanabilir şablon
1) Rol ve sınır tanımlayan başlangıç:
Rolün: deneyimli kataloglama ve bilgi yönetimi uzmanı asistanı.Görevin: sana verdiğim kaynaktaki bilgiden taslak üretmek.Kurallar: (1) Yalnızca verdiğim metindeki bilgiyi kullan,kendi bilginden ekleme yapma. (2) Emin olmadığın yeri"[doğrulanmalı]" diye işaretle. (3) Hiçbir tarih, isim veyakünye uydurma. Anladıysan başla. Kaynak: [buraya]
2) Doğrulama kontrol sorusu:
Aşağıdaki metinde geçen her olgusal iddiayı (tarih, isim, rakam,kaynak künyesi) madde madde listele. Her biri için: bu bilgiyimetnin neresinden aldın? Metinde açıkça yok ise "metinde yok"yaz. Metin: [buraya]
3) Önyargı ve eksik bakış açısı denetimi:
Aşağıdaki özet/öneri hangi bakış açılarını öne çıkarıyor,hangilerini dışarıda bırakıyor? Eksik kalan gruplar, bölgelerveya görüşler neler olabilir? Yalnızca metne dayan, spekülasyonyapma. Metin: [buraya]
4) Gizlilik ön kontrolü:
Aşağıdaki metinde kişisel veri (isim, kimlik no, iletişim,okuma/arama geçmişi) veya hassas kurumsal bilgi var mı?Varsa listele ve nasıl anonimleştirilebileceğini öner.Metin: [buraya]
Zayıf prompt / Güçlü prompt
Zayıf prompt:
Bu konuda bana bazı kaynaklar bul.
Bu prompt, YZ'yi uydurma kaynak üretmeye davet eder. Rol, sınır, doğrulama kuralı ve kaynak yok. YZ inandırıcı ama var olmayan künyeler üretebilir.
Güçlü prompt:
Rolün: danışma kütüphanecisi asistanı. Aşağıda sana verdiğimkatalog kayıtları arasından "iklim göçü" konusuyla ilgili olanlarıseç ve neden ilgili olduğunu açıkla. Listede olmayan hiçbir kaynakekleme, kaynak uydurma. Emin olmadığında "listede uygun kaynak yok"de. Katalog kayıtları: [buraya]
Fark açıktır: güçlü prompt YZ'yi kendi belleğinden değil, verilen gerçek kaynaktan çalışmaya zorlar ve uydurmayı engeller.
Katman ve sorumluluk tablosu
İş katmanı
Örnek görev
YZ'nin rolü
İnsanın kararı
Mekanik
Taslak meta veri, özet, çeviri
Hızlı taslak üretir
Doğrulama, onay
Yarı-yargısal
Konu başlığı, kaynak önerisi
Öneri sunar
Politikaya göre seçim
Saf yargı
Doğruluk teyidi, telif kararı
Yalnızca ön bilgi
Tam sorumluluk insanda
Sık yapılan hatalar
- YZ çıktısını kaynak yerine koymak. YZ bir kaynak değil, bir asistandır; her çıktı doğrulanır.
- Uydurma kaynağı ikna edici diye kabul etmek. İyi görünmesi doğru olduğunu göstermez.
- Kişisel/hassas veriyi genel araca girmek. Kullanıcı mahremiyeti ve kurumsal gizlilik en baştan gözetilir.
- Önyargıyı görmezden gelmek. YZ eğitildiği verinin bakış açılarını taşır; eksik kalanı sorun.
- Yargı işini YZ'ye bırakmak. Doğruluk, telif ve mahremiyet kararları insana aittir.
Özetle
Yapay zeka; kütüphanecilik ve bilgi yönetiminde özetleyen, taslak üreten, çeviren ve örüntü işaretleyen güçlü bir asistandır. Mekanik işlerde büyük zaman kazandırır; yarı-yargısal işlerde öneri verir; ama doğruluğun teyidi, kaynağın güvenilirliği, kullanıcı mahremiyeti ve etik kararlar insana aittir. Halüsinasyon bu meslek için en büyük tehlikedir: hiçbir kaynak künyesi ya da alıntı, doğrulanmadan kullanılmaz. YZ'yi net rol, sınır ve doğrulama kurallarıyla çalıştırın; her kritik çıktıyı bağımsız bir kaynakta teyit edin.
Uygulama görevi
Kendi alanınızdan gerçek bir konu seçin. YZ'den o konuda 5 kaynak önerisi isteyin, sonra her birini gerçek bir katalogda veya veri tabanında arayın ve kaç tanesinin gerçekten var olduğunu not edin. Ardından "Rol ve sınır tanımlayan başlangıç" şablonuyla, YZ'ye yalnızca kendi verdiğiniz bir metinden çalışmasını söyleyin ve iki yaklaşımın çıktısını karşılaştırın. Hangi yaklaşımın uydurmayı engellediğini yazın.
Kontrol listesi
- [ ] Görevin hangi katmanda (mekanik, yarı-yargısal, saf yargı) olduğunu belirledim.
- [ ] "Bu çıktı yanlış olursa ne olur?" sorusunu sordum.
- [ ] Her kaynak künyesini ve alıntıyı bağımsız bir kaynakta doğruladım.
- [ ] YZ'ye giren veride kişisel/hassas bilgi olmadığını kontrol ettim.
- [ ] Nihai kararı ve sorumluluğu kendi yargımda tuttum.