Kazanimlar:
- Bir iddiayı köken, kaynak güvenilirliği ve bağımsız çapraz kontrol adımlarıyla sistematik olarak doğrulayabilme
- Yapay zekanın halüsinasyon, eğitim verisi önyargısı ve yalakalık yoluyla kendisinin de yanlış bilgi üretebileceğini kavrayıp çıktısını ekstra şüpheyle ele alabilme
- Sonucu net bir güven düzeyi etiketiyle işaretleyip aynı olayı farklı perspektiflerden değerlendirerek önyargıyı test edebilme
Diplomasi bilgiyle çalışır ve bilginin değeri doğruluğuna bağlıdır. Yanlış bir bilgiye dayanan bir brifing, bir müzakere pozisyonu ya da bir kamu açıklaması, geri alınması zor sonuçlar doğurur. Bu yüzden bir diplomatın en temel becerilerinden biri kaynak doğrulamadır: bir iddianın nereden geldiğini, ne kadar güvenilir olduğunu ve gerçekten doğru olup olmadığını sistematik olarak değerlendirmek. Bu ünitede, yapay zekayı doğrulama işine nasıl katacağınızı; ama YZ'nin kendisinin de bir yanlış bilgi ve önyargı kaynağı olabileceğini akılda tutarak nasıl kullanacağınızı öğreneceksiniz.
Önce üç kavramı ayıralım. Yanlış bilgi (misinformation): kasıt olmadan yayılan hatalı bilgi. Dezenformasyon (disinformation): bilinçli, hedefli olarak üretilip yayılan yanlış bilgi. Önyargı (bias): bilginin veya değerlendirmenin belli bir tarafa sistematik olarak kayması. Bir diplomat üçüne karşı da uyanık olmalıdır ve YZ bu üçünde hem yardımcı hem de risk olabilir.
Adım adım: bir iddiayı doğrulamak
1. İddiayı net ifade et. Doğrulanacak şey tam olarak nedir? "X ülkesi Y anlaşmasından çekildi" gibi net, tek bir iddiaya indirgeyin. Bulanık iddialar doğrulanamaz.
2. Kökeni bul. Bu iddia ilk nerede, ne zaman, kim tarafından ortaya atıldı? Çoğu yanlış bilgi, tek bir şüpheli kaynaktan çıkıp çoğaltılır. Kaynağa kadar geri gidin.
3. Kaynağın güvenilirliğini değerlendir. Kaynak resmî mi, bağımsız mı, taraflı mı? Geçmişte doğru bilgi vermiş mi? Bu konuda çıkarı var mı? Güvenilir bir kaynak bile yanılabilir; ama düşük güvenilirlikli kaynak ekstra teyit ister.
4. Çapraz kontrol yap. İddiayı birbirinden bağımsız en az iki güvenilir kaynakla teyit edin. Aynı haber ajansından beslenen 50 site bağımsız kaynak değildir.
5. İç tutarlılığı ve bağlamı sına. İddia kendi içinde tutarlı mı? Bilinen olgularla çelişiyor mu? Bağlamından koparılmış mı? Bir doğru cümle, yanlış bağlamda yanıltıcı olabilir.
6. Sonucu güven düzeyiyle işaretle. "Doğrulandı", "kısmen doğrulandı", "tek kaynaklı", "doğrulanamadı", "yanlış" gibi net bir etiket verin. "Emin değilim" bile bir sonuçtur ve dürüstçe belirtilmelidir.
İpucu: Bir iddia ne kadar çok işinize geliyor veya duygusal tepki uyandırıyorsa, doğrulamada o kadar titiz olun. Dezenformasyon tam da öfke, korku veya "istediğimiz haber" duygusunu hedefler. Sizi hızla harekete geçirmek isteyen bir bilgi, genellikle en çok doğrulama gereken bilgidir.
YZ'nin kendisi bir risk kaynağıdır
Bu ünitenin en önemli uyarısı: YZ bir doğrulama otoritesi değildir; kendisi de yanlış bilgi ve önyargı üretebilir. YZ üç yolla yanıltabilir:
1. Halüsinasyon: Var olmayan bir kaynağı, alıntıyı veya olayı gerçekmiş gibi sunar. "Bu iddiayı hangi kaynak doğruluyor?" diye sorduğunuzda uydurma bir kaynak adı bile verebilir.
2. Eğitim verisi önyargısı: YZ, eğitildiği metinlerdeki baskın bakış açısını yansıtır. Belli bir konuda dünyanın bir bölgesinin görüşü verilerde ağır basıyorsa, YZ o tarafa kayabilir. Bu, kasıt değil, verinin bir yansımasıdır — ama sonuç yine de taraflı bir çıktıdır.
3. Yalakalık (sycophancy): YZ, sorulan soruya sizi memnun edecek biçimde cevap verme eğiliminde olabilir. Bir iddiayı doğrulatmak isterseniz, onu destekleyen bir cevap üretmeye meyillidir.
Bu yüzden YZ'yi doğrulamada bir araç olarak kullanın (kaynakları düzenlemek, çelişkileri işaretlemek, köken izlemede yardım), ama YZ'nin "bu doğrudur" demesini asla son söz saymayın.
Dikkat: Bir kaynağı YZ'ye doğrulattığınızda, YZ size gerçek bir kaynağı mı gösteriyor, yoksa makul görünen bir uydurma mı üretiyor kontrol edin. Verdiği her kaynak adını, bağlantıyı ve alıntıyı bağımsız olarak açıp görmeden "doğrulandı" saymayın. YZ'nin uydurduğu bir kaynak, gerçek bir kaynaktan daha ikna edici görünebilir.
Üç mini vaka
Vaka 1 — Köken doğrulaması kurtardı. Bir "resmî açıklama" ekran görüntüsü masaya düştü ve gerçek görünüyordu. Doğrulama, o kurumun resmî kanallarında böyle bir açıklama olmadığını gösterdi; görüntü sahteydi. Köken kontrolü, sahte bir açıklamanın brifinge girmesini önledi.
Vaka 2 — YZ uydurma kaynak verdi. Bir uzman, YZ'ye bir istatistiği doğrulattı. YZ, "şu kuruluşun 2023 raporuna göre..." diyerek bir kaynak gösterdi. Uzman kaynağı aradı: ne öyle bir rapor ne de öyle bir rakam vardı; YZ ikisini de uydurmuştu. Bağımsız kontrol, uydurma bir "doğrulamayı" yakaladı.
Vaka 3 — Önyargı dengelendi. Bir uzman, tartışmalı bir olayı YZ'ye özetletti ve çıktının belirgin biçimde bir tarafın anlatısına yakın olduğunu fark etti. Aynı olayı "karşı tarafın bakış açısıyla da özetle" diye tekrar sorunca çok farklı bir tablo çıktı. İki çıktıyı karşılaştırmak, tek taraflı bir çerçeveyi rapora sokmayı önledi.
Dört kopyalanabilir şablon
1) İddia doğrulama protokolü:
Rolün: doğrulama analisti. Aşağıdaki iddia için: (1) iddiayı nettek cümleye indir, (2) verdiğim kaynaklarda ilk nerede/ne zamangeçtiğini bul, (3) kaç BAĞIMSIZ kaynak destekliyor, (4) çelişenkaynak var mı, (5) sonucu şu etiketlerden biriyle işaretle:doğrulandı / tek kaynaklı / çelişkili / doğrulanamadı. Kaynakuydurma; yalnızca verdiklerimi kullan. İddia+kaynaklar: [buraya]
2) YZ önyargı testi:
Aşağıdaki olayı önce olabildiğince tarafsız özetle. Sonra AYNIolayı (a) taraf A'nın bakışıyla, (b) taraf B'nin bakışıyla ayrıözetle. Üç versiyon arasındaki farkları listele. Böylece hanginoktaların tarafların yorumu, hangilerinin ortak olgu olduğugörünsün. Olay/kaynaklar: [buraya]
3) Kaynak güvenilirlik değerlendirmesi:
Aşağıdaki kaynak için değerlendir: türü (resmî/bağımsız/taraflı/anonim), bu konuda olası çıkarı, geçmiş güvenilirliğine dairverilen bilgiler, doğrulama için gereken ek adımlar. Kaynağın"neden yanlış olabileceğini" de ayrıca yaz. Kaynak: [buraya]
4) Dezenformasyon kırmızı bayrakları:
Aşağıdaki içeriği dezenformasyon açısından tara. Şu bayraklarıara: kaynağı olmayan istatistik, duygu kışkırtan dil, bağlamsızgörsel, "acele et/paylaş" baskısı, doğrulanamayan yetkili ağzı,eşzamanlı koordineli yayılma. Her bulguyu gerekçesiyle işaretle.Kesin hüküm verme. İçerik: [buraya]
Zayıf prompt / Güçlü prompt
Zayıf prompt:
Bu iddia doğru mu? İnternette araştır ve bana söyle.
YZ'nin "doğru" demesi doğrulama değildir; uydurma kaynak verebilir, önyargılı ya da yalakalık eden bir cevap üretebilir.
Güçlü prompt:
Rolün: doğrulama analisti. Aşağıda bir iddia ve topladığımkaynaklar var. Bana "doğru/yanlış" deme; onun yerine: iddianınkökenini, kaç bağımsız kaynakta geçtiğini, çelişkileri vegüven düzeyini göster. Verdiğim kaynakların dışına çıkma,kaynak uydurma. Emin olmadığın yeri "insan teyidi gerekir"diye işaretle. İddia+kaynaklar: [buraya]
Fark açıktır: "doğru/yanlış" hükmü yerine köken, bağımsız teyit ve güven düzeyi istemek, YZ'nin risklerini sınırlar.
Doğrulama durumları tablosu
Etiket
Anlamı
Rapordaki kullanımı
Doğrulandı
En az 2 bağımsız güvenilir kaynak
Olgu olarak kullanılabilir
Kısmen doğrulandı
Bir kısmı teyitli
Sınırlı, açıklamayla
Tek kaynaklı
Yalnızca bir kaynak
"İddia" olarak, teyit gerekli
Çelişkili
Kaynaklar uyuşmuyor
Belirsizlik olarak sunulur
Doğrulanamadı
Teyit bulunamadı
Olgu olarak kullanılmaz
Yanlış
Aksi kanıtlandı
Raporda düzeltme olarak
Sık yapılan hatalar
- YZ'nin "doğru" demesini doğrulama saymak. YZ uydurabilir, önyargılı veya yalakalık edebilir.
- YZ'nin verdiği kaynağı açıp görmeden kabul etmek. Uydurma kaynaklar ikna edici görünür.
- İşine gelen bilgiyi az doğrulamak. Duygusal/uygun bilgi en çok teyit gerektiren bilgidir.
- Kopya çokluğunu teyit sanmak. Aynı kaynaktan beslenen yüzlerce site tek kaynaktır.
- Önyargıyı hiç test etmemek. Aynı olayı farklı perspektiflerden özetletmek dengeyi sağlar.
Özetle
Kaynak doğrulama, diplomatik bilginin temelidir ve YZ bu işte hem yardımcı hem risktir. YZ kaynakları düzenler, köken izlemede ve çelişki işaretlemede yardımcı olur; ama halüsinasyon, eğitim verisi önyargısı ve yalakalık nedeniyle kendisi de yanlış bilgi üretebilir. Köken izleme, bağımsız çapraz kontrol, kaynak-bilgi güvenilirlik ayrımı, güven düzeyi etiketleme ve YZ çıktısına ekstra şüphe bu ünitenin omurgasıdır.
Uygulama görevi
Güncel, tartışmalı bir iddia seçin ve farklı türlerden kaynaklar toplayın. "İddia doğrulama protokolü" ile iddiayı köken ve bağımsız teyit açısından değerlendirin. "YZ önyargı testi" ile aynı olayı farklı perspektiflerden özetletin ve farkları listeleyin. YZ bir kaynak verirse, onu bağımsız olarak açıp gerçekten var olup olmadığını kontrol edin.
Kontrol listesi
- [ ] İddiayı net tek cümleye indirip kökenini aradım.
- [ ] En az iki bağımsız güvenilir kaynakla çapraz kontrol yaptım.
- [ ] YZ'nin verdiği her kaynağı bağımsız olarak doğruladım.
- [ ] Aynı olayı farklı perspektiflerden özetletip önyargıyı test ettim.
- [ ] Sonucu net bir güven düzeyi etiketiyle işaretledim.