Kazanimlar:
- Model seçimini yedi temel soruyla yapılandırılmış bir karar ağacına dönüştürme
- Gerçek iş senaryolarına karar ağacını uygulayarak model önerebilme
- Tek modele bağımlılık yerine model portföyü kurmanın avantaj ve yükünü değerlendirme
Sekiz ünite boyunca parçaları topladık: sağlayıcılar, kapalı/açık ağırlık, bağlam, multimodalite, maliyet, kademeler ve veri egemenliği. Şimdi bu parçaları tek bir karar mekanizmasında birleştirme zamanı. Bu ünitenin amacı, "hangi model?" sorusunu artık sezgiyle değil, yapılandırılmış bir karar ağacıyla yanıtlayabilmenizdir. Ayrıca olgun kurumların neden tek bir modele değil, bir model portföyüne yöneldiğini göreceksiniz. Ünite bittiğinde gerçek iş senaryolarına karar ağacını uygulayabilecek ve kendi portföyünüzün taslağını çıkarabileceksiniz.
Yedi Soruluk Karar Ağacı
Model seçimini yedi soruya indirgeyebiliriz. Bu soruları sırayla yanıtlamak, sizi neredeyse otomatik olarak doğru adaya götürür.
- Veri hassas mı? Kişisel/gizli veri işliyorsanız → önce veri egemenliği (açık ağırlık, bölgesel, sıfır saklama) belirleyici olur. Değilse esnekliğiniz artar.
- Görev ne kadar zor? Basit/kalıplaşmış → hafif kademe. Karmaşık/çok adımlı → güçlü kademe + akıl yürütme.
- Hacim ne kadar? Çok yüksek hacim → hız ve maliyet öne çıkar, hafif kademeye eğil. Düşük hacim → kaliteye yatırım yapabilirsin.
- Belge/bağlam ne kadar büyük? Uzun belgeler → geniş bağlam penceresi şart. Kısa metinler → küçük pencere yeter.
- Görsel/ses var mı? Varsa → multimodal model zorunlu. Yoksa metin modeli yeter.
- Bütçe hassasiyeti nedir? Yüksekse → kademe optimizasyonu, önbellek, batch; belki açık ağırlık. Düşükse → kaliteye öncelik.
- Ekip ve altyapı ne durumda? Teknik ekip yoksa → kapalı ağırlık, hazır arayüz. Güçlü ekip varsa → açık ağırlık seçeneği masada.
İpucu: Bu yedi soruyu bir kez cevapladığınızda, aday model havuzu genellikle bire iki modele daralır. Karar ağacının amacı size tek bir "doğru cevap" dayatmak değil, seçenekleri hızla elemek ve kalanları küçük bir pilotla test etmenizi kolaylaştırmaktır.
Karar Ağacını Bir Tabloya Dökmek
Soru
Cevap → Yönlendirme
Veri hassas mı?
Evet → açık ağırlık / bölgesel / sıfır saklama önce
Görev zor mu?
Evet → güçlü + akıl yürütme / Hayır → hafif
Hacim yüksek mi?
Evet → hız & maliyet önceliği (hafif)
Belge büyük mü?
Evet → geniş bağlam
Görsel var mı?
Evet → multimodal zorunlu
Bütçe kısıtlı mı?
Evet → optimizasyon + belki açık ağırlık
Teknik ekip var mı?
Yok → kapalı/hazır arayüz
Bu tablo bir kontrol listesi gibi çalışır: her satırı işaretleyin, ortaya çıkan profili birleştirin. Örneğin "veri hassas + görev zor + düşük hacim + teknik ekip var" profili sizi büyük olasılıkla kendi sunucunuzda çalışan güçlü bir açık ağırlık modele yönlendirir.
Tek Model Değil, Bir Portföy
Deneyimli kurumlar bir süre sonra fark eder ki, tek bir modelle her işi yapmak ne en ucuz ne en iyi yoldur. Bunun yerine model portföyü kurarlar: göreve göre farklı modeller kullanmak. Mantığı basittir:
- Basit, hacimli işler → hafif ve ucuz model.
- Karmaşık, kritik işler → güçlü model.
- Gizli veri işleyen işler → açık ağırlık / bölgesel model.
- Görselli işler → multimodal model.
Portföy yaklaşımının iki büyük faydası vardır. Birincisi maliyet optimizasyonu: her işi ihtiyacı kadar güçlü modele yaptırırsınız, fazlasına ödemezsiniz. İkincisi sağlayıcı bağımsızlığı: tek bir sağlayıcıya bağımlı kalmazsınız; biri fiyat artırır, politika değiştirir ya da hizmet kesintisi yaşarsa, alternatifiniz hazırdır. Buna "tedarikçi kilidinden (vendor lock-in) kaçınmak" denir.
Dikkat: Portföy yaklaşımı bedava değildir; birden çok modeli yönetmek, izlemek ve tutarlı kalite sağlamak ek yük getirir. Küçük bir ekipseniz, tek bir dengeli modelle başlayıp işiniz olgunlaştıkça portföye geçmek çoğu zaman daha akıllıcadır. Portföyü olması gerektiğinden erken kurmak, yönetim karmaşası yaratabilir.
Bir Portföy Örneği
Aşağıda orta ölçekli bir hizmet firmasının kurabileceği örnek bir portföy var:
İş türü
Örnek görev
Seçilen model tipi
Neden
Yüksek hacimli sınıflandırma
Yorum/ticket etiketleme
Hafif kapalı
Ucuz, hızlı, yeterli
Genel içerik üretimi
E-posta, açıklama taslağı
Dengeli kapalı
İyi denge
Karmaşık analiz
Sözleşme risk incelemesi
Güçlü kapalı (geniş bağlam)
Doğruluk kritik
Gizli veri işleme
Mali/hasta verisi analizi
Açık ağırlık (kendi sunucu)
Veri dışarı çıkmaz
Görsel işleme
Fatura/fotoğraf okuma
Multimodal
Görsel şart
Bu tablo, tek bir cümlelik "hangi model kullanıyorsunuz?" sorusunun aslında yanlış soru olduğunu gösterir. Doğru cevap: "Hangi iş için hangi model?"
Üç Gerçekçi Vaka: Karar Ağacını Uygulamak
Vaka 1 — Küçük hukuk bürosu. Beş kişilik bir büro, sözleşme özetlemek istiyor. Karar ağacı: veri hassas (evet, ama açık rıza ve sözleşmeyle yönetilebilir) → görev zor (evet) → hacim düşük (ayda ~100) → belge büyük (evet, 40+ sayfa) → görsel yok → bütçe orta → teknik ekip yok. Sonuç: geniş bağlamlı, güçlü, kapalı ağırlık bir modeli, sıfır saklama sözleşmesiyle hazır arayüzden kullanmak. Düşük hacim, güçlü kademenin maliyetini yönetilebilir kılıyor.
Vaka 2 — E-ticaret operasyonu. Yirmi kişilik ekip, üç işi var: ürün açıklaması (yüksek hacim), müşteri yorumu sınıflama (çok yüksek hacim), fatura görselinden veri çıkarma (orta hacim, görsel). Tek model yerine portföy: açıklamalara dengeli model, yorumlara hafif model, faturalara multimodal model. Böylece her işe uygun maliyet ve yetenek düşüyor; toplam fatura, her şeyi güçlü modele yaptırmalarına göre kabaca üçte bire iniyor.
Vaka 3 — Kamu kurumu. Bir kamu kurumu, vatandaş başvurularını özetlemek istiyor ama veriler kişisel ve yurt dışına çıkması istenmiyor. Karar ağacı ilk soruda kilitleniyor: veri hassas ve egemenlik zorunlu → açık ağırlık / bölgesel model önce gelir. Teknik ekipleri olduğu için açık ağırlık bir modeli kendi altyapılarında çalıştırıyorlar. Diğer sorular (zorluk, hacim) hangi kademeyi seçecekleri konusunda ince ayar yapıyor.
Zayıf Prompt / Güçlü Prompt
Zayıf prompt:
Bize hangi modeli önerirsin?
Güçlü prompt:
Rolün: AI çözüm mimarı.Şu yedi soruyu benim işim için yanıtladım:1) Veri hassas mı: [CEVAP]2) Görev zorluğu: [CEVAP]3) Hacim: [CEVAP]4) Belge boyutu: [CEVAP]5) Görsel/ses: [CEVAP]6) Bütçe hassasiyeti: [CEVAP]7) Teknik ekip: [CEVAP]Görev: Bu cevaplara göre aday model tipini daralt (kademe, ağırlık türü, bağlam,multimodalite). 2 somut aday öner. Sonra bu işi tek modelle mi yoksa 2-3 modellibir portföyle mi çözmem gerektiğini gerekçelendir.
Güçlü prompt, karar ağacının cevaplarını doğrudan modele taşır; böylece model tahmin yürütmez, sizin gerçek profilinize göre daraltma yapar.
Kopyalanabilir Şablonlar
1. Karar ağacı çalıştırma:
İşimi tanımlayayım: [TANIM]. Yedi karar sorusunu (veri hassasiyeti, görevzorluğu, hacim, belge boyutu, görsel, bütçe, ekip) benim için sırayla sor,her cevabımdan sonra aday havuzunu daralt ve sonunda 2 model tipi öner.
2. Portföy taslağı:
Şu işlerim var: [İŞ LİSTESİ]. Her iş için karar ağacını uygulayıp uygun modeltipini eşleştir ve bir portföy tablosu çıkar (iş / model tipi / gerekçe).Portföyün yönetim yükünü de tek cümleyle değerlendir.
3. Tek model mi portföy mü:
Ekip büyüklüğüm [SAYI], iş çeşitliliğim [DÜŞÜK/ORTA/YÜKSEK], aylık AI bütçem[ARALIK]. Tek dengeli modelle mi başlamalıyım, yoksa hemen portföye mi geçmeliyim?Artı ve eksileri karşılaştır, aşamalı bir yol öner.
4. Bağımlılık riski değerlendirme:
Şu an tek sağlayıcıya [SAĞLAYICI] bağımlıyız. Bu bağımlılığın riskleri neler(fiyat, politika, kesinti)? Riski azaltmak için hangi ikinci sağlayıcıyı yedekolarak hazır tutmalıyım? Geçişi kolaylaştıracak 3 önlem öner.
Sık yapılan hatalar
- Sezgiyle seçmek: Karar ağacını atlayıp "kulağa iyi geliyor" diye model seçmek; sonradan uyumsuzluk ortaya çıkar.
- Veri sorusunu sona bırakmak: Hassas veride, egemenlik sorusu en başta gelir; onu sona atmak yanlış modele kilitlenmeye yol açar.
- Her işi tek modele yıkmak: Farklı zorluk ve hacimdeki işleri tek modele yaptırıp ya kaliteden ya bütçeden kaybetmek.
- Portföyü çok erken kurmak: Küçük ekipken üç-dört modeli yönetmeye kalkıp gereksiz karmaşa yaratmak.
- Bağımlılığı hiç düşünmemek: Tek sağlayıcıya tam bağımlı kalıp, fiyat/politika değişiminde alternatifsiz kalmak.
Özetle
- Model seçimi yedi soruya (veri, zorluk, hacim, bağlam, görsel, bütçe, ekip) indirgenebilir; bu sorular aday havuzunu hızla daraltır.
- Hassas veride egemenlik sorusu en başta gelir ve diğer kararları çerçeveler.
- Olgun kurumlar tek model yerine, göreve göre farklı modellerden oluşan bir portföy kurar; bu hem maliyeti optimize eder hem bağımlılığı azaltır.
- Portföyün bir yönetim yükü vardır; küçük ekipler tek dengeli modelle başlayıp aşamalı geçmelidir.
Uygulama görevi
Önceki ünitelerde çıkardığınız tüm notları (ihtiyaç profili, ağırlık tercihi, token/maliyet tahmini, kademe teşhisi, veri haritası) bir araya getirin. Bu ünitedeki 1. şablonla (karar ağacı çalıştırma) yedi soruyu işiniz için yanıtlayın ve iki aday model tipine ulaşın. Birden fazla iş türünüz varsa 2. şablonla (portföy taslağı) bir portföy tablosu çıkarın. Bu taslak, son ünitedeki değerlendirme ve doğrulama çalışmasının girdisi olacak.
Kontrol listesi
- [ ] Yedi karar sorusunu sırayla uygulayarak aday havuzunu daraltabiliyorum.
- [ ] Hassas veride egemenlik sorusunun neden başta geldiğini biliyorum.
- [ ] Gerçek bir iş senaryosuna karar ağacını uygulayıp model önerebiliyorum.
- [ ] Model portföyünün avantajlarını ve yönetim yükünü değerlendirebiliyorum.
- [ ] Tek sağlayıcıya bağımlılık riskini ve azaltma yollarını biliyorum.