Kazanimlar:
- Token, olasılık ve tahmin kavramlarını sezgisel olarak açıklayabilir
- Bir dil modelinin metni neden 'parça parça' ürettiğini anlar
- Modelin neden bazen kararlı bazen yaratıcı davrandığını yorumlayabilir
Bir dil modeline "İstanbul'un en güzel yanı" diye yazdığınızda, birkaç saniye içinde akıcı bir paragraf üretir. Bu nasıl oluyor? Model gerçekten "düşünüyor" mu, yoksa arkasında çok daha basit ama güçlü bir mekanizma mı var? Bu ünitede üretken AI'nın nasıl çalıştığını, teknik denklemlere girmeden ama doğru sezgiyi kurarak açıklayacağız. Bu sezgi, ilerideki her şeyin — özellikle halüsinasyon, doğrulama ve iyi prompt yazma konularının — temelidir. Üretken AI, yani "üreten yapay zeka", var olan bir cevabı bulup getirmek yerine metni sıfırdan oluşturan araçların ortak adıdır.
Temel Fikir: Bir Sonraki Parçayı Tahmin Etmek
Şaşırtıcı olan şu: Bir dil modelinin öğrendiği tek temel görev, "bir metnin devamında hangi parçanın gelmesi en olası?" sorusuna cevap vermektir. Model bir cümleyi bütün olarak hazırlayıp önünüze koymaz. Bunun yerine cümleyi parça parça, soldan sağa üretir.
Adım adım şöyle işler:
- Sizin yazdığınız metni (prompt'u) okur.
- Bu metnin devamında gelmesi en olası parçayı tahmin eder.
- O parçayı ekler.
- Yeni oluşan metne tekrar bakar ve bir sonraki en olası parçayı tahmin eder.
- Cevap tamamlanana kadar bunu tekrarlar.
Örnek: "Sabah kalkınca bir bardak sıcak..." metnini modele verseydiniz, en olası devam "çay" veya "kahve" olurdu; "asfalt" değil. Model, milyonlarca metinden bu tür olasılıkları öğrenmiştir. Sonra "çay" ekler, ardından oluşan yeni cümleye bakıp bir sonraki en olası parçayı tahmin eder ve bu böyle sürer.
Yani model her adımda kendi yazdığına bakarak bir sonraki adımı atar. Bu yüzden bazen "otomatik tamamlamanın çok gelişmiş hali" denir. Ama bu benzetme yeteneği küçümsememeli; doğru ölçekte bu tahmin, mantık yürütme gibi görünen sonuçlar üretebilir.
Token: Kelimeden Küçük Parçalar
Model aslında tam olarak "kelime" ile değil, token denen daha küçük parçalarla çalışır. Bir token; bazen tam bir kelime, bazen bir kelimenin parçası, bazen bir noktalama işaretidir.
- "kitap" tek bir token olabilir.
- "kitaplarımızdan" ise "kitap", "lar", "ımız", "dan" gibi birkaç token'a bölünebilir.
- Boşluklar ve noktalama işaretleri de token sayılır.
Dikkat: Token yalnızca teknik bir ayrıntı değildir. Çoğu AI aracının ücretlendirmesi token sayısına göredir ve modellerin bir seferde işleyebileceği metin uzunluğu (bağlam penceresi) da token cinsinden sınırlıdır. Yani "ne kadar uzun yazdığınız" doğrudan maliyet ve sınır demektir.
Olasılık ve "Sıcaklık": Kararlılık mı, Yaratıcılık mı?
Model her adımda tek bir kesin cevap değil, olası devamların bir olasılık listesini üretir. Örneğin "sıcak" kelimesinden sonra: çay %55, kahve %35, süt %7, diğer %3. Peki hangisini seçer?
Burada sıcaklık (temperature) denen bir ayar devreye girer. Sıcaklık, modelin ne kadar "risk alacağını" belirleyen bir çeşit yaratıcılık düğmesidir.
Ayar
Davranış
Sonuç
Nerede işe yarar
Düşük sıcaklık
Hep en olası seçeneği alır
Kararlı, tekrarlanabilir
Hukuki özet, teknik açıklama, veri çıkarma
Orta sıcaklık
Dengeli seçim
Doğal ama tutarlı
Genel e-posta, rapor taslağı
Yüksek sıcaklık
Az olası seçenekleri de dener
Yaratıcı, çeşitli, öngörülemez
Beyin fırtınası, slogan, isim üretimi
Bu, şu sık sorulan soruyu da açıklar: "Neden aynı soruyu iki kez sorunca farklı cevaplar alıyorum?" Çünkü seçim sürecinde bir miktar rastgelelik vardır; model bir veritabanından sabit cevap çekmez, her seferinde yeniden üretir.
Zayıf Prompt / Güçlü Prompt
Modelin "olasılık" ile çalıştığını bilmek, ona nasıl talimat verdiğinizi de değiştirir. Ne kadar bağlam verirseniz, doğru devamın olasılığı o kadar artar.
Zayıf prompt:Bir tanıtım metni yaz.
Sonuç: Model hangi ürün, hangi kitle, hangi ton olduğunu bilmediği için en "ortalama" ve genel metni üretir.
Güçlü prompt:Küçük bir kafenin yeni filtre kahvesi için Instagram tanıtım metni yaz.Kitle: 25-35 yaş, kahve meraklısı. Ton: samimi, kısa. En fazla 3 cümle,sonunda 2 hashtag.
Sonuç: Bağlam olasılıkları daralttığı için hedefe uygun, kullanılabilir bir metin.
Üç Mini Vaka
Vaka 1 — Pazarlama, yüksek çeşitlilik. Bir ekip yeni bir ürün için 30 slogan istedi. Yüksek sıcaklık ayarıyla model birbirinden farklı, yaratıcı seçenekler üretti; ekip 30 içinden 4'ünü seçip geliştirdi. Toplam süre: 10 dakika. Elle yapılsa yarım gün sürerdi.
Vaka 2 — Hukuk, yüksek kararlılık. Aynı şirketin hukuk ekibi bir sözleşme maddesini sadeleştiriyordu. Yaratıcılık değil, tutarlılık istediler; düşük sıcaklıkla model her seferinde neredeyse aynı, ölçülü özeti verdi. Böylece farklı denemeler arasında tutarsızlık yaşanmadı.
Vaka 3 — "Neden değişti?" sorusu. Bir çalışan aynı e-posta taslağını iki kez istedi ve iki farklı sonuç aldı; bunu "hata" sandı. Aslında bu, modelin rastgeleliğinin doğal sonucudur. Çalışan, beğendiği versiyonu kaydetmeyi ve gerekirse "bir öncekine benzet" demeyi öğrenince sorun kalmadı.
Model "Anlıyor" mu?
Bu en çok merak edilen sorudur. Model, kelimeler arasındaki istatistiksel ilişkileri o kadar derinlemesine öğrenmiştir ki birçok görevi anlıyormuş gibi yapar. Ama bilinçli bir anlayışı, niyeti veya gerçeği kontrol eden bir mekanizması yoktur. O, "en olası devamı" üretir; "en doğru bilgiyi" üretmeyi garanti etmez. Bu ayrım, bir sonraki ünitelerde ele alacağımız halüsinasyon konusunun da temelidir.
Sık Yapılan Hatalar
Sık yapılan hatalar
- Modeli bir arama motoru sanmak. Model internette arayıp kaynak getirmez (özel bir arama özelliği yoksa); hafızasından olası metni üretir. Bu yüzden kaynak/rakam uydurabilir.
- Akıcılığı doğruluk sanmak. Metnin güzel ve emin olması, içeriğinin doğru olduğunu göstermez.
- Her seferinde aynı cevabı beklemek. Rastgelelik doğaldır; kritik işlerde beğendiğiniz çıktıyı kaydedin.
- Çok uzun, gereksiz metin yapıştırıp token sınırını zorlamak. Uzunluk hem maliyeti artırır hem de modelin odağını dağıtabilir; yalnızca gerekli bağlamı verin.
Dikkat: Modelin akıcı ve kendinden emin konuşması, doğru konuştuğu anlamına gelmez. Akıcılık, olasılık tahmininin doğal sonucudur; doğruluk ise ayrı ve bağımsız olarak kontrol edilmesi gereken bir şeydir.
Özetle
- Üretken AI, metni bir sonraki en olası parçayı (token) tahmin ederek adım adım üretir; cümleyi parça parça kurar.
- Token, kelimeden küçük parçalardır ve hem maliyeti hem de uzunluk sınırlarını belirler.
- Model her adımda bir olasılık listesi üretir; sıcaklık ayarı çıktının ne kadar kararlı veya yaratıcı olacağını belirler.
- Aynı soruya farklı cevaplar gelmesi, bu sürecin doğasındaki rastgelelikten kaynaklanır.
- Model akıcı konuşur ama bu, doğruyu söylediğini garanti etmez; akıcılık ile doğruluk farklı şeylerdir.
Uygulama Görevi
Kullandığınız AI aracına aynı yaratıcı görevi (ör. "kısa bir teşekkür notu yaz") arka arkaya iki kez verin ve çıktıların nasıl farklılaştığını gözlemleyin. Ardından "Güçlü prompt" şablonuyla aynı görevi bağlam ekleyerek tekrarlayın ve iki sonuç arasındaki kalite farkını not edin.
Kontrol Listesi
- [ ] Modelin metni "bir sonraki olası parçayı tahmin ederek" ürettiğini açıklayabiliyorum.
- [ ] Token'ın ne olduğunu ve neden maliyet/sınır anlamına geldiğini biliyorum.
- [ ] Kararlılık isteyen ve yaratıcılık isteyen işleri ayırt edebiliyorum.
- [ ] Aynı soruya farklı cevap gelmesinin normal olduğunu biliyorum.
- [ ] Akıcılığın doğruluk garantisi olmadığını içselleştirdim.