Kazanimlar:
- Tıbbi yapay zeka çıktısındaki halüsinasyon türlerini (uydurma kaynak, yanlış doz, hayali çalışma) tanıyabilme
- Çok katmanlı doğrulama ile her klinik iddiayı güncel kılavuz ve birincil kaynağa bağlayabilme
- Model belirsizliğini, güven ifadesinin doğruluk kanıtı olmadığını ve emin görünen hatanın riskini yönetebilme
Yapay zekanın (AI) tıptaki en büyük tehlikesi, hata yapması değil, hatayı büyük bir özgüvenle yapmasıdır. Dil modelleri metni akıcı ve ikna edici üretir; bir cümle doğru da olsa yanlış da olsa aynı emin tonda gelir. Buna "halüsinasyon" denir: modelin gerçekte var olmayan bir bilgiyi (uydurma kaynak, yanlış doz, hayali çalışma, olmayan kılavuz maddesi) gerçekmiş gibi üretmesi. Diğer alanlarda halüsinasyon bir rahatsızlıktır; tıpta bir güvenlik sorunudur. Bu ünitede halüsinasyon türlerini tanımayı, çok katmanlı doğrulamayı ve modelin belirsizliğini yönetmeyi öğreneceksiniz. Temel ilke: Güven ifadesi doğruluk kanıtı değildir; her klinik iddia birincil kaynağa ve güncel kılavuza bağlanmadan kullanılamaz.
Halüsinasyon neden olur
AI, "bir sonraki en olası kelimeyi" tahmin eden bir sistemdir; bir gerçeklik veritabanından okumaz. Bir soruya cevabı bilmese bile, eğitildiği metinlere "benzeyen" akla yatkın bir cevap üretir. Bu yüzden var olmayan bir makaleyi tam biçimli bir atıfla, yanlış bir dozu net bir sayıyla, güncelliğini yitirmiş bir öneriyi kesin bir dille verebilir. Model "bilmiyorum" demek yerine boşluğu doldurma eğilimindedir. Ayrıca eğitim verisi bir tarihte donmuştur; o tarihten sonra değişen kılavuzları bilmeyebilir.
İpucu: AI'a "emin misin?" diye sormak güvenilir bir test değildir; model kolayca "evet, eminim" diyebilir ya da tam tersine doğru cevabından döndürülebilir. Gerçek test, iddiayı bağımsız birincil kaynakta aramaktır.
Tıbbi halüsinasyon türleri
Tür
Örnek
Tehlike
Uydurma kaynak
Var olmayan makale/DOI
Yanlış kanıt zinciri
Yanlış doz/birim
Hatalı mg veya birim
Doğrudan hasta zararı
Hayali çalışma/sonuç
Olmayan RKÇ "kanıtı"
Yanlış klinik karar
Güncelliğini yitirmiş öneri
Eski kılavuz maddesi
Modası geçmiş tedavi
Yanlış atıf
Gerçek makale, yanlış sonuç
Çarpıtılmış bilgi
Aşırı genelleme
Özel durumu atlama
Yanlış uygulama
Çok katmanlı doğrulama
Halüsinasyona karşı tek savunma, sistematik doğrulamadır. Beş katman:
- Kaynağa in. Her doz, kriter ve öneriyi güncel kılavuz, prospektüs veya birincil makaleden aç ve teyit et.
- Çapraz kontrol. İki bağımsız güvenilir kaynak aynı şeyi söylüyor mu?
- Güncellik. Bilgi hangi tarihe ait, sonrasında değişti mi?
- Klinik tutarlılık. İddia hastanın gerçeğiyle ve genel klinik mantıkla uyuyor mu?
- Uzman gözü. Şüpheli veya kritik noktada ilgili branşa danış.
Üç mini vaka
Vaka 1 — Emin görünen yanlış doz. Bir hekim, seyrek kullanılan bir ilacın dozunu AI'a soruyor. AI çok net bir sayı veriyor. Hekim prospektüse bakıyor; gerçek doz AI'ın söylediğinin üçte biri. AI'ın kesin üslubu doğruluğu göstermiyordu; teyit ölümcül bir hatayı önledi.
Vaka 2 — Hayali çalışma. AI, bir tedaviyi desteklemek için "2020'de yayımlanmış 1.200 hastalık çok merkezli bir RKÇ"den söz ediyor. Hekim bu çalışmayı arıyor; böyle bir çalışma yok. AI, iddiasını inandırıcı kılmak için sayı ve ayrıntı uydurmuştu.
Vaka 3 — Güncelliğini yitirmiş öneri. AI, bir hastalığın tedavisinde artık ilk sırada önerilmeyen eski bir ilacı öneriyor. Hekim güncel kılavuza bakıyor; yaklaşım değişmiş, yeni bir ajan ilk sıraya geçmiş. AI'ın bilgisi bir önceki dönemde donmuştu; güncel kılavuz kararı düzeltti.
Adım adım: bir iddiayı doğrulama
- İddiayı tek cümleye indir. "X ilacı Y dozunda önerilir" gibi.
- Kaynak tipini belirle. Doz mu, kriter mi, kanıt mı?
- Birincil kaynağı aç. Prospektüs, kılavuz, PubMed.
- İki kaynakla çapraz kontrol et.
- Güncelliği doğrula.
- Uymuyorsa reddet; şüpheliyse uzmana danış.
Dört kopyalanabilir şablon
Görev: Aşağıdaki AI çıktısındaki HER doğrulanabilir iddiayı (doz, tanı kriteri,kaynak, sayısal sonuç, kılavuz önerisi) ayrı satırlarda listele. Her biri için"hangi birincil kaynaktan teyit edilmeli" sütunu ekle. Kendin doğrulama;yalnızca kontrol edilecek noktaları çıkar.Çıktı: [...]
Görev: Aşağıdaki iddianın DOĞRU olması için hangi koşulların sağlanmasıgerektiğini ve hangi durumlarda YANLIŞ olabileceğini listele.Böylece nerede teyit etmem gerektiğini görebileyim.İddia: [...]
Görev: Aşağıdaki metinde, kaynağı belirtilmeden yapılmış sayısal veya kesinifadeleri işaretle (ör. "%80 etkilidir", "günde 500 mg"). Her biri için"kaynaksız - teyit gerekli" etiketi koy.Metin: [...]
Görev: Bu klinik önerinin GÜNCELLİK riskini değerlendirmem için sor:hangi kılavuza dayanıyor olabilir, en son ne zaman güncellendi,son yıllarda bu alanda değişiklik olma olasılığı var mı?Kılavuz metnini uydurma; kontrol sorularını üret.Öneri: [...]
Zayıf prompt / Güçlü prompt
Zayıf: "Bu doğru mu?" (AI kolayca "evet" der.)
Güçlü: "Aşağıdaki AI çıktısındaki her doz, kaynak ve kılavuz önerisini ayrı satırda listele ve her biri için hangi birincil kaynaktan (prospektüs/kılavuz/PubMed) teyit etmem gerektiğini yaz. Kaynaksız veya kesin görünen ifadeleri 'teyit gerekli' olarak işaretle. Kendin doğrulama; yalnızca kontrol listesi üret."
Güçlü promptta AI'ı "onaylayıcı" değil, "kendi çıktısını denetlenebilir kılan" bir role sokarsınız.
Sık yapılan hatalar
- Emin üslubu doğruluk sanmak. Güven ifadesi kanıt değildir.
- "Emin misin?" ile test etmek. Model her iki yöne de kolayca kayar.
- Tek kaynakla yetinmek. Çapraz kontrol şart.
- Güncelliği atlamak. Model bilgisi bir tarihte donmuştur.
- Kritik noktada uzmana danışmamak. Şüpheli kararda ikinci görüş alınmalı.
Otomasyon yanlılığı: insanın kendi tuzağı
Halüsinasyon modelin hatasıdır; ama bir de insanın kendi hatası vardır: otomasyon yanlılığı (automation bias). Bu, bir makine bir cevap verdiğinde, insanın onu sorgulamadan doğru kabul etme eğilimidir. Bir hesap makinesi güvenilirdir diye ona alışmış oluruz; aynı güveni dil modeline de yanlışlıkla taşırız. Oysa dil modeli bir hesap makinesi gibi kesin değildir; olasılıksal ve yanılabilirdir.
Otomasyon yanlılığı özellikle yorgunken, zaman baskısı altında ve rutin işlerde tehlikelidir. Nöbetin sonunda, akıcı ve düzgün görünen bir AI çıktısını "nasılsa doğrudur" diye geçmek kolaydır. Bunun panzehiri, doğrulamayı bir alışkanlık ve sistem haline getirmektir: kişinin o anki dikkatine değil, yazılı bir kontrol adımına bağlamak. "Yorgunum ama kontrol listesi böyle diyor" cümlesi, otomasyon yanlılığına karşı en iyi savunmadır.
Dikkat: En büyük risk, AI'ın hata yapması değil; sizin yorgun bir anda o hatayı sorgulamadan kabul etmenizdir. Doğrulamayı kişisel dikkate değil, yazılı bir sisteme bağlayın.
Özetle
Halüsinasyon, tıpta AI'ın en ciddi riskidir: model yanlışı da doğruyu da aynı emin tonda üretir. Uydurma kaynak, yanlış doz, hayali çalışma ve güncelliğini yitirmiş öneri en sık türlerdir. Tek savunma çok katmanlı doğrulamadır: her iddiayı birincil kaynak ve güncel kılavuzla, çapraz kontrol ve güncellik testiyle sınayın; kritik noktada uzmana danışın. Güven ifadesini asla doğruluk kanıtı saymayın.
Uygulama görevi
AI'a bilerek zorlayıcı bir klinik soru sorun (nadir bir doz veya güncel bir tedavi). Verdiği her doz, kaynak ve öneriyi birincil kaynaktan teyit edin. Kaç iddia doğru, kaçı yanlış veya uydurma çıktı? Yanlışların hangi halüsinasyon türüne girdiğini tabloyla eşleştirin ve emin üslubun sizi nasıl yanıltabileceğini not edin.
Kontrol listesi
- [ ] Her iddiayı tek cümleye indirdim.
- [ ] Doz/kriter/kaynak/öneriyi birincil kaynaktan teyit ettim.
- [ ] İki bağımsız kaynakla çapraz kontrol yaptım.
- [ ] Bilginin güncelliğini doğruladım.
- [ ] İddiayı klinik tutarlılıkla sınadım.
- [ ] Şüpheli/kritik noktada uzmana danıştım.
- [ ] Emin üslubu doğruluk kanıtı saymadım.