Kazanimlar:
- Token, bağlam penceresi ve multimodalite kavramlarını günlük dille açıklayabilme
- Bir işin geniş bağlam ya da multimodalite gerektirip gerektirmediğini teşhis etme
- Bu kavramların maliyet ve model seçimini nasıl etkilediğini hesaba katabilme
Şimdiye kadar sağlayıcıları ve model türlerini tanıdık. Ancak doğru model seçimi için, modellerin "içinde" nasıl çalıştığını da anlamak gerekir; çünkü fiyat, kapasite ve uygunluk kararlarının hepsi üç temel kavrama dayanır: token, bağlam penceresi ve multimodalite. Bu kavramları bilmeyen biri, fiyat sayfasını okuyamaz, "bu belge modele sığar mı?" sorusunu yanıtlayamaz ve görsel işlemenin ne zaman şart olduğunu göremez. Bu ünite bittiğinde bu üç kavramı günlük dille açıklayacak, bir işin geniş bağlam ya da multimodalite gerektirip gerektirmediğini teşhis edecek ve bunların maliyete etkisini hesaba katabileceksiniz.
Token: Modelin Kelime Yerine Kullandığı Birim
Yapay zekâ modelleri metni kelime kelime değil, token denen küçük parçalar hâlinde işler. Bir token; bir kelime, bir kelimenin parçası, bir noktalama işareti ya da bir boşluk olabilir. Kabaca bir hesap yapmak gerekirse: İngilizcede ortalama bir token yaklaşık dört karaktere denk gelir ve 100 kelime yaklaşık 130-150 token eder. Türkçede, ekli ve uzun kelimeler nedeniyle bu oran biraz daha yüksek olabilir; yani aynı anlamı taşıyan Türkçe bir metin, İngilizceye göre biraz daha fazla token tüketir.
Bunu bilmek neden önemli? Çünkü her şey token üzerinden ücretlendirilir ve ölçülür. Modele gönderdiğiniz metin (girdi) ve modelin ürettiği cevap (çıktı) ayrı ayrı token olarak sayılır. Faturanız da, modelin kapasitesi de token cinsindendir.
İpucu: Bir metnin kaç token olduğunu kabaca kestirmek için karakter sayısını dörde bölün. 4.000 karakterlik bir e-posta yaklaşık 1.000 token demektir. Türkçede güvenli tarafta kalmak için biraz daha yüksek varsayın.
Bağlam Penceresi: Modelin "Kısa Süreli Belleği"
Bağlam penceresi (context window), modelin bir seferde aklında tutabildiği toplam token miktarıdır. Girdi ve çıktı birlikte bu pencereye sığmak zorundadır. Bunu, bir masanın üzerine aynı anda serebileceğiniz kâğıt miktarı gibi düşünün: Masaya sığmayan kâğıt, o an görüş alanınızın dışında kalır.
Bir modelin bağlam penceresi 200.000 token ise, bu yaklaşık 150.000 kelimeye, yani orta boy birkaç kitaba denk gelir. 1 milyon token ise çok daha büyük belgeleri bir bütün olarak işleyebilir. Bugün bazı güçlü modeller (örneğin Claude Opus 4.8 ve Sonnet 5) 1 milyon token bağlam sunarken, hafif modeller genellikle daha küçük pencerelerle gelir (örneğin Haiku 4.5 için 200.000 token).
Neden önemli? Çünkü bir belge bağlam penceresine sığmıyorsa, model onun tamamını bir arada göremez. 500 sayfalık bir sözleşmeyi 200.000 token'lık bir modele bütün olarak veremezsiniz; ya belgeyi parçalara bölersiniz (bu da parçalar arası ilişkiyi kaybettirebilir) ya da daha geniş bağlamlı bir model seçersiniz.
Dikkat: Bağlam penceresi büyük diye her belgeyi olduğu gibi doldurmak akıllıca değildir. Pencereye ne kadar çok token koyarsanız o kadar çok ödersiniz ve bazen model, çok uzun metinlerde ortadaki ayrıntıları gözden kaçırabilir. Sadece işe yarayan bölümü göndermek çoğu zaman hem ucuz hem daha isabetlidir.
Bağlam Penceresi Bir Karar Kriteridir
Görev
Yaklaşık gereken bağlam
Uygun kademe
Kısa e-posta yanıtı
Birkaç yüz token
Hafif
Tek sayfa özet
Birkaç bin token
Hafif/dengeli
40 sayfalık rapor analizi
~30.000 token
Dengeli/güçlü
300 sayfalık sözleşme incelemesi
~250.000 token
Geniş bağlamlı güçlü
Yüzlerce belgeyi tek seferde işleme
500.000+ token
En geniş bağlam
Bu tablo, "hangi model?" sorusunun bir kısmının doğrudan belge boyutuyla cevaplandığını gösterir. Kısa işler için geniş bağlamlı pahalı bir model almak israftır; büyük belgeler için küçük pencereli bir model ise yetersiz kalır.
Multimodalite: Metnin Ötesine Geçmek
Multimodalite, bir modelin yalnızca metni değil, birden çok veri türünü (görsel, ses, bazen video) işleyebilme yeteneğidir. "Modal" burada "veri türü" anlamına gelir; multimodal, "çok türlü" demektir.
- Yalnızca metin modeli: Sadece yazılı metni okur ve yazar.
- Multimodal model: Bir fatura fotoğrafını okuyabilir, bir grafikteki eğilimi yorumlayabilir, bir el yazısı notu çözebilir, bazen bir ses kaydını metne dökebilir.
Neden önemli? Çünkü işinizin doğası, multimodaliteyi zorunlu kılabilir. Fatura görsellerinden tutar çıkaran bir muhasebe ekibi, ürün fotoğraflarını sınıflandıran bir e-ticaret ekibi ya da hasar fotoğraflarını değerlendiren bir sigorta ekibi, yalnızca metin okuyan bir modelle bu işi yapamaz. Görsel işleme, bu görevlerin olmazsa olmazıdır.
Üç Gerçekçi Vaka
Vaka 1 — Token maliyeti sürprizi. Bir içerik ekibi, her blog yazısını üretirken modele 20 sayfalık bir "marka rehberi" belgesini de gönderiyor. Bu rehber yaklaşık 15.000 token. Ayda 2.000 yazı üretiyorlar; yani sadece rehberi tekrar tekrar göndermek 30 milyon token'lık girdi demek. Rehberi kısaltıp yalnızca ilgili bölümü göndererek (yaklaşık 2.000 token) girdiyi yedide bire indiriyor ve faturayı ciddi biçimde düşürüyorlar.
Vaka 2 — Bağlam penceresi yetmiyor. Bir hukuk firması, 280 sayfalık bir birleşme sözleşmesini incelettirmek istiyor. İlk denedikleri model 200.000 token bağlama sahip ve belge sığmıyor; belgeyi parçalayınca da model, birinci bölümdeki bir maddeyle son bölümdeki bir maddenin çeliştiğini fark edemiyor. 1 milyon token bağlamlı bir modele geçince belgeyi bütün olarak okuyor ve çelişkiyi yakalıyor. Burada bağlam penceresi doğrudan doğruluğu belirledi.
Vaka 3 — Multimodalite şart. Bir sigorta şirketi, araç hasar fotoğraflarından ön değerlendirme yapmak istiyor. Yalnızca metin okuyan bir modelle bu imkânsız; fotoğrafı "gören" multimodal bir model gerekiyor. Multimodal bir modele geçince, fotoğraftaki hasarın konumunu ve şiddetini kabaca sınıflandırıp eksperi yönlendiren bir ön eleme sistemi kuruyorlar. Yine de nihai kararı bir insan eksperin verdiğini not ediyorlar; çünkü model bir ön eleme aracıdır, son söz değildir.
Zayıf Prompt / Güçlü Prompt
Zayıf prompt:
Bu belgeyi özetle. [çok uzun belge yapıştırılır]
Güçlü prompt:
Aşağıdaki 40 sayfalık raporu özetle.Önce raporun yaklaşık kaç token olduğunu tahmin et ve bunun tipik bir dengelimodelin bağlam penceresine sığıp sığmadığını söyle.Sonra özeti şu formatta ver: 5 maddelik yönetici özeti + 3 riskli bulgu.Sadece rapordaki bilgiyi kullan; emin olmadığın yeri "raporda net değil" diye işaretle.[rapor]
Güçlü prompt hem token/bağlam farkındalığı taşır hem de çıktının biçimini ve doğrulanabilirliğini kontrol eder.
Kopyalanabilir Şablonlar
1. Token tahmini:
Şu metnin yaklaşık kaç token olduğunu tahmin et ve bunu girdi maliyeti açısındanyorumla: "[METİN]". Türkçe olduğunu hesaba katarak biraz yukarı yuvarla.
2. Bağlam uygunluk kontrolü:
İşim şu belgeleri işlemek: ortalama [SAYFA] sayfalık, ayda [ADET] belge.Bu boyut hangi bağlam penceresini gerektirir? Hafif/dengeli/güçlü kademelerdenhangisi yeterli olur? Parçalamak gerekirse hangi risk doğar?
3. Multimodalite teşhisi:
İş akışım: [TANIM]. Bu akışta görsel, ses veya video işleme var mı?Varsa multimodal bir model şart mı, yoksa metne çevirip (OCR/transkripsiyon)metin modeliyle çözülebilir mi? İki yolun artı/eksisini karşılaştır.
4. Bağlam optimizasyonu:
Bir belgeyi her istekte modele gönderiyorum ama çoğu gereksiz. Şu belgeden[GÖREV] için gerçekten gerekli bölümleri nasıl ayıklarım? Girdiyi küçültmekiçin 3 somut yöntem öner ve tahmini token tasarrufunu belirt.
Sık yapılan hatalar
- Token'ı kelime sanmak: Token, kelimeden farklıdır; fatura ve kapasite hep token cinsindendir, kelimeyle hesap yapmak yanıltır.
- Bağlam penceresini sonsuz sanmak: Her modelin bir sınırı vardır; belge sığmazsa model bütünü göremez.
- Gereksiz büyük bağlam kullanmak: Kısa iş için geniş bağlamlı pahalı model almak; ya da her isteğe koca belgeler doldurup boşuna ödemek.
- Multimodaliteyi varsaymak: Her model görsel işleyemez; görselli iş için modelin multimodal olduğunu teyit etmeden başlamak.
- Türkçenin token yükünü unutmak: Türkçe metinler aynı anlam için genelde biraz daha fazla token tüketir; maliyet tahmininde bunu göz ardı etmek.
Özetle
- Token, modelin metni işlediği küçük birimdir; girdi ve çıktı ayrı ayrı token olarak ölçülür ve faturalanır.
- Bağlam penceresi, modelin bir seferde aklında tutabildiği toplam token'dır; belge boyutu doğrudan model seçimini etkiler.
- Multimodalite, modelin görsel/ses gibi metin dışı veriyi işleyebilmesidir; görselli işlerde şarttır.
- Bu üç kavram, hem "hangi model?" hem de "ne kadara mal olur?" sorularının temelini oluşturur.
Uygulama görevi
İşinizde tekrar eden bir AI görevini seçin. 1. şablonla (token tahmini) bu görevde tipik bir girdinin kaç token olduğunu hesaplatın. Ardından 2. şablonla (bağlam uygunluk kontrolü) hangi kademenin yeterli olduğunu belirleyin. Eğer görselli bir işiniz varsa 3. şablonla (multimodalite teşhisi) multimodal bir modelin şart olup olmadığını netleştirin. Çıkan token tahminini bir sonraki ünitedeki maliyet hesabında kullanacağız.
Kontrol listesi
- [ ] Token kavramını ve bir metnin kaç token olduğunu kabaca kestirmeyi biliyorum.
- [ ] Bağlam penceresini bir "masa/bellek" benzetmesiyle açıklayabiliyorum.
- [ ] Bir belgenin bir modele sığıp sığmayacağını değerlendirebiliyorum.
- [ ] Multimodalitenin ne zaman şart olduğunu teşhis edebiliyorum.
- [ ] Türkçenin token yükünü ve gereksiz bağlamın maliyetini hesaba katıyorum.