Ünite 3 / 11

Dilbilim ve Derlem (Corpus) Analizi: Söz Varlığını Sayılarla Okumak

Kazanimlar:

  • Kelime sıklığı, kolokasyon, söz varlığı zenginliği ve anahtar sözcük gibi derlem ölçümlerini yapay zeka ile taslak olarak çıkarabilme
  • Yapay zekanın kesin sayımda güvenilmez olduğunu bilip her sayımı ayrı bir araçla doğrulayabilme
  • Bir sayının tek başına bir şey söylemediğini, anlamı kuran dilbilimsel yorumun insana ait olduğunu kavrayabilme

Edebiyat ve dil çalışmaları yalnızca "yorum" değildir; ölçülebilir, sayılabilir bir yanı da vardır. Bir yazarın kaç farklı sözcük kullandığı, hangi kelimeleri hangi kelimelerle birlikte kullanmayı sevdiği, bir dönemde hangi sözcüklerin sıklaştığı — bunlar dilbilim (dilin sesini, yapısını, anlamını ve kullanımını inceleyen bilim) ve özellikle derlem dilbilimi ile araştırılır. Derlem (İngilizcede corpus — belli bir amaçla bir araya getirilmiş, düzenli ve büyük metin yığını; çoğulu corpora), bir yazarın tüm eserleri, bir gazetenin yıllık arşivi ya da bir dönemin şiirleri gibi bir metin topluluğudur. Derlem analizi, bu yığında sayısal örüntüler arar.

Bu ünitede YZ'yi bir derlem analizi asistanı olarak kullanmayı öğreneceğiz: kelime sıklığı (bir sözcüğün metinde kaç kez geçtiği), kolokasyon (birlikte sık geçen sözcük çiftleri, örneğin "kara" + "bahtım"), söz varlığı zenginliği ve dönemsel değişim gibi ölçümleri hızlıca çıkarmak. Ama en baştan bir uyarı: YZ, tek başına sayarken hata yapabilir; büyük ve kesin sayımlar için özel araçlara ihtiyaç vardır ve her sayının anlamını kuran dilbilimci sizsiniz.

Derlem analizinde YZ nerede güçlü, nerede zayıf?

Güçlü olduğu yer: Küçük ve orta metinlerde örüntü fark ettirme, bir metnin söz varlığı hakkında hipotez üretme, kolokasyon adayları önerme, bir sonucu yorumlama, bir metodolojiyi tarif etme. YZ, "bu yazarda hangi sözcük öbekleri dikkat çekiyor?" sorusuna hızlı bir başlangıç verir.

Zayıf olduğu yer: Kesin sayım. YZ bir dil modelidir, bir hesap makinesi değil; uzun bir metinde "kaç kez geçti" sorusuna yaklaşık ve bazen yanlış cevap verebilir. Binlerce sözcüklük kesin frekans, tam kolokasyon istatistiği ya da büyük derlem taraması için özel yazılımlar (örneğin AntConc gibi derlem araçları ya da bir hesap tablosu) kullanılır. YZ bu araçların çıktısını yorumlamada değerlidir; ama ham sayımı ona körü körüne yaptırmayın.

İpucu: Kesin sayı gerekiyorsa iki yol kullanın: küçük metinde sayımı bir araca yaptırıp YZ'ye yorumlatın; ya da YZ'ye sayım yaptırıp mutlaka bir başka yolla doğrulayın. "YZ dedi ki 47 kez geçiyor" cümlesini asla teyitsiz kullanmayın.

Adım adım bir derlem çalışması

  1. Soru koyun. "Bu şairde renk sözcükleri nasıl dağılıyor?" gibi net bir soru olmadan sayım anlamsızdır.
  2. Derlemi tanımlayın. Hangi metinler? Hangi baskı? Hangi dönem? Sınır net olmalı.
  3. Ölçümü seçin. Sıklık mı, kolokasyon mu, söz varlığı zenginliği mi?
  4. Ölçün ve doğrulayın. Sayımı yapın, sonra ikinci bir yolla teyit edin.
  5. Yorumlayın. Sayı tek başına bir şey söylemez; "renk sözcükleri ikinci dönemde iki katına çıkmış" bulgusunu anlamlı kılan sizin yorumunuzdur.

Söz varlığı zenginliği için sık kullanılan bir ölçü, farklı sözcük sayısının toplam sözcük sayısına oranıdır (tür/belirteç oranı). Bu oran yüksekse metin sözcük bakımından çeşitli, düşükse tekrara dayalı demektir. Ama bu oran metin uzunluğundan etkilenir; kısa ve uzun metinleri doğrudan karşılaştırırken dikkatli olun.

Üç mini vaka

Vaka 1 — Kolokasyon bir üslubu gösterdi. Bir araştırmacı, bir romancının 3 romanındaki sıfat-isim eşleşmelerini inceledi. YZ, "solgun" sözcüğünün 5 farklı isimle eşleştiğini önerdi; araştırmacı metinden 4'ünü doğrulayıp 1'inin uydurma olduğunu görerek eledi. Doğrulanan örüntü, yazarın betimleme üslubu hakkında bir tez cümlesine dönüştü.

Vaka 2 — Sayım hatası yakalandı. Bir öğrenci, YZ'ye 2.000 sözcüklük bir metinde "gece" sözcüğünün kaç kez geçtiğini sordu; YZ "23" dedi. Öğrenci metni bir hesap tablosuna atıp saydırınca gerçek sayı 17 çıktı. YZ'nin ham sayıma güvenilmez olduğu somutlaştı.

Vaka 3 — Dönemsel değişim tartışma açtı. Bir grup, bir şairin ilk ve son dönem şiirlerinde soyut sözcüklerin oranını karşılaştırdı. YZ ilk taslak bir eğilim önerdi; grup metne dönüp sayımı doğrulayınca eğilim gerçek çıktı ama YZ'nin önerdiği "nedenler" doğrulanamayan spekülasyondu ve elendi.

Dört kopyalanabilir şablon

1) Kelime sıklığı taslağı (doğrulama şartıyla):

Aşağıdaki metinde en sık geçen 15 içerik sözcüğünü (bağlaç,edat gibi işlev sözcüklerini hariç tut) yaklaşık sıklıklarıylalistele. UYARI: Sayımların kesin OLMAYABİLECEĞİNİ belirt ve"kesin sonuç için ayrı bir sayım aracıyla doğrulanmalı" notuekle. Metin: [metni buraya yapıştır]

2) Kolokasyon adayları:

Aşağıdaki metinde birlikte sık geçen sözcük çiftlerini(kolokasyonları) öner. Her çift için metinden en az biralıntı ver. Metinde karşılığı olmayan çift uydurma; eminolmadığını "doğrulanmalı" diye işaretle.Metin: [metni yapıştır]

3) Söz varlığı karşılaştırması:

Sana iki metin vereceğim. Her biri için: yaklaşık toplamsözcük, farklı sözcük çeşitliliği hakkında gözlem ve öneçıkan sözcük alanları (örn. renk, doğa, duygu). Sayılarınyaklaşık olduğunu belirt. Karşılaştırmanın yorumunu benimdoğrulamama bırak. Metin A: [...] Metin B: [...]

4) Sonuç yorumlama:

Bir sayım aracından şu sonuçları aldım: [sonuçları yapıştır].Bu sayıların dilbilimsel olarak ne anlama gelebileceğine dair2-3 hipotez üret. Her hipotezi "kanıt gerektirir" diyeişaretle ve nasıl test edebileceğimi söyle. Aşırı yorumdankaçın.

Zayıf prompt / Güçlü prompt

Zayıf: "Bu metinde en çok hangi kelime geçiyor?"

Güçlü: "Bu metinde en sık geçen içerik sözcüklerini yaklaşık sıklıklarıyla listele; işlev sözcüklerini hariç tut. Sayıların kesin olmadığını ve ayrı bir araçla doğrulanması gerektiğini açıkça belirt. Her sözcük için bir örnek cümle ver."

Güçlü prompt, YZ'nin sayım sınırını kabul ettirir ve doğrulama gerektiğini baştan söyler. Zayıf promptta YZ tek bir sayı verir ve siz onun yanlış olabileceğini bilmezsiniz.

Ölçüm ve güvenilirlik tablosu

Ölçüm

Ne gösterir

YZ tek başına

Doğru yol

Kelime sıklığı

Sık sözcükler

Yaklaşık, riskli

Sayım aracı + YZ yorumu

Kolokasyon

Birlikte geçenler

Aday üretir

Metinden teyit

Tür/belirteç oranı

Söz çeşitliliği

Yanıltıcı olabilir

Araçla hesap

Dönemsel değişim

Zaman içinde eğilim

Hipotez üretir

Ölçüp doğrulama

Sonuç yorumu

Anlam

Güçlü ama abartır

İnsan yargısı

Anahtar sözcük ve n-gram kavramları

Derlem analizinde iki kavram işinizi kolaylaştırır. Birincisi anahtar sözcük (İngilizcede keyword — bir metinde ya da yazarda, genel dile kıyasla beklenenden çok daha sık geçen, o metne "karakterini" veren sözcük). Bir yazarın anahtar sözcükleri, onun ilgi alanlarını ve üslubunu ele verir; örneğin bir şairde "deniz" ve "ayrılık" beklenenin çok üzerinde geçiyorsa, bu istatistiksel çıkıntı bir yorum için başlangıç noktası olur. Anahtar sözcük belirlemek için bir metnin sıklıklarını, bir referans derlemin (karşılaştırma için kullanılan genel, büyük metin yığını) sıklıklarıyla kıyaslamak gerekir; bu kıyas kesin araç işidir, YZ'nin tek başına güvenilir yapamayacağı bir hesaptır.

İkincisi n-gram (bir metinde art arda gelen n sözcüklük dizi; iki sözcüklük diziye "bigram", üç sözcüklüğe "trigram" denir). N-gram analizi, bir yazarın kalıplaşmış ifadelerini, sık kullandığı öbekleri ortaya çıkarır. Örneğin bir yazarda "bir tür" ya da "ne var ki" gibi bir öbek olağanüstü sık geçiyorsa, bu onun cümle kurma alışkanlığını gösterir. YZ, bu öbekleri aday olarak önerebilir; ama gerçek sıklık ve istatistiksel anlamlılık için sayım aracına dönmek gerekir.

İpucu: YZ'ye "bu metindeki dikkat çekici sözcük öbeklerini (iki-üç sözcüklük) aday olarak listele, her biri için metinden örnek ver" deyin. Aday listeyi alıp gerçek sıklığı ayrı bir araçla ölçün. YZ'yi "fark ettirici", aracı "sayıcı", kendinizi "yorumcu" olarak konumlandırın.

Sık yapılan hatalar

  • YZ'nin ham sayımına güvenmek. YZ hesap makinesi değildir; kesin sayıyı ayrı araçla doğrulayın.
  • Sayıyı yorumsuz sunmak. "47 kez geçti" bir şey söylemez; anlamı siz kurarsınız.
  • Metin uzunluğunu göz ardı etmek. Söz çeşitliliği oranları uzunluğa duyarlıdır.
  • Kolokasyonu doğrulamadan tez yapmak. YZ olmayan çiftler önerebilir; metinden teyit edin.
  • Aşırı yorum. YZ'nin önerdiği "nedenleri" kanıtsız kabul etmeyin.

Özetle

Derlem analizi, edebiyatın sayılabilir yüzünü açar: sıklık, kolokasyon, söz varlığı, dönemsel değişim. YZ bu alanda örüntü fark ettirmede ve sonuç yorumlamada güçlüdür; ama kesin sayımda güvenilmezdir. Sayıyı ayrı araçla doğrulayın, kolokasyonları metinden teyit edin ve her sayının anlamını kendiniz kurun. Sayı kanıt değil, kanıta giden kapıdır.

Uygulama görevi

Kısa bir metin (500-1000 sözcük) seçin. Bir içerik sözcüğü belirleyin (örneğin "gece" ya da "yol"). Önce metinde kendiniz sayın. Sonra YZ'ye saydırın. İki sonucu karşılaştırın; fark varsa nedenini araştırın. Ardından bu sözcüğün metindeki işlevine dair tek paragraflık bir yorum yazın — sayıyı anlama dönüştürün.

Kontrol listesi

  • [ ] Net bir dilbilimsel soru koydum.
  • [ ] Derlemin sınırlarını (metin, baskı, dönem) tanımladım.
  • [ ] YZ'nin sayımını ikinci bir yolla doğruladım.
  • [ ] Kolokasyonları metinden teyit ettim.
  • [ ] Sayıyı yorumsuz bırakmadım; anlamını kendim kurdum.