Kazanimlar:
- Modelin uydurma (halüsinasyon) üretebileceğini ve her çıktının doğrulanması gerektiğini kavrar
- Gizli ve kişisel veriyi prompt'a koymanın risklerini ve güvenli alternatiflerini bilir
- Yapay zekâ kullanımında etik, telif ve sorumluluk sınırlarını uygular
Prompt yazmayı ustaca öğrenmek yetmez; yapay zekâyı sorumlu kullanmayı da öğrenmek gerekir. Bu ünite, teknik becerinin üstüne konması gereken güvenlik katmanıdır. Yapay zekâ hızlı, ikna edici ve çoğu zaman doğru cevaplar üretir; ama bazen tamamen yanlış bilgiyi de aynı özgüvenle üretir, hassas veriyi riske atabilir ve etik sınırları zorlayabilir. Bu ünitede çıktıyı doğrulamayı, modelin sınırlarını, gizliliği ve etik sorumluluğu ele alacağız. Bu bilgi olmadan diğer tüm teknikler eksik kalır.
Halüsinasyon: Modelin Uydurması
Halüsinasyon, modelin gerçek olmayan bir bilgiyi kendinden emin bir dille üretmesidir. Var olmayan bir kaynak, yanlış bir tarih, uydurma bir istatistik ya da hiç yazılmamış bir yasa maddesi bunlara örnektir. Neden olur? Çünkü model "doğruyu bilmek" için değil, "olası devamı üretmek" için tasarlanmıştır (ilk ünitedeki mantığı hatırlayın). Bir cümlenin gramer olarak olası olması, olgu olarak doğru olduğu anlamına gelmez.
Bunun pratik sonucu nettir: yapay zekânın ürettiği her olgu, bağımsız olarak doğrulanana kadar bir iddiadır, gerçek değildir. Özellikle şunları her zaman kontrol edin:
- Sayılar ve istatistikler
- İsimler, tarihler, yer adları
- Alıntılar ve kaynak referansları
- Yasal maddeler, teknik standartlar, tıbbi/finansal bilgiler
Doğrulama Alışkanlığı
Doğrulamayı bir prompt tekniğiyle azaltabilir ama sıfırlayamazsınız. İki katmanlı çalışın:
- Prompt katmanı: Modele "sadece verdiğim kaynağa dayan, olmayan bilgiyi ekleme, emin değilsen 'bilmiyorum' yaz, her iddianın kaynağını göster" gibi kısıtlar verin. Bu, uydurmayı azaltır.
- İnsan katmanı: Kritik her olguyu kendiniz kaynaktan doğrulayın. Bu adım pazarlık konusu değildir; özellikle yayınlanacak, karar dayanağı olacak veya başkasını etkileyecek içeriklerde zorunludur.
Sınırlar: Model Neyi İyi Yapmaz
Alan
Risk
Doğru yaklaşım
Güncel olaylar
Eğitim verisi eski olabilir
Tarihli/güncel kaynaktan doğrula
Kesin sayılar
Uydurma ihtimali yüksek
Hesap makinesi/kaynakla kontrol et
Hukuki/tıbbi/finansal
Ciddi zarar riski
Gerçek uzmana danış, tek dayanak yapma
Kaynak/alıntı
Var olmayan kaynak üretebilir
Kaynağın gerçekliğini bizzat kontrol et
Nadir/niş konu
Yüzeysel veya yanlış
Uzman bilgisiyle karşılaştır
Model bir asistandır, nihai otorite değildir. Sorumluluk her zaman onu kullanan insandadır.
Gizlilik ve Kişisel Veri
Herkese açık bir yapay zekâ aracına yazdığınız metin, o aracın işleme politikalarına tabidir ve kurumunuzun kontrolünden çıkabilir. Bu yüzden gizli ve kişisel veriyi düşünmeden girmek ciddi bir risktir. Türkiye'de kişisel verilerin işlenmesi KVKK (Kişisel Verilerin Korunması Kanunu) ile düzenlenir; kurumların da genellikle kendi veri politikaları vardır.
Güvenli çalışma yolları:
- Anonimleştir/maskele: Gerçek isim yerine "müşteri", gerçek numara yerine "[hesap no]" yazın. Çoğu zaman "3 yıllık kurumsal müşteri" demek işi görür.
- Kurumun onayladığı aracı kullan: Bazı kurumlar veriyi dışarı sızdırmayan, sözleşmeli/kurumsal araçlar sunar. Hassas veriyi yalnızca bunlarda işleyin.
- Gerekmeyeni verme: Görevi yapmak için gerçekten şart olmayan hiçbir hassas ayrıntıyı eklemeyin.
- Politikayı bil: Kurumunuzun yapay zekâ kullanım kurallarını öğrenin ve uyun.
Etik ve Telif
Sorumlu kullanım gizlilikle bitmez. Üç ilke:
- Şeffaflık: Yapay zekânın ürettiği içeriği, bağlam gerektiriyorsa (örneğin insan emeği beklenen bir yerde) uygun biçimde belirtin. Aldatıcı kullanımlardan kaçının.
- Telif ve özgünlük: Modelin çıktısı başka eserlere benzeyebilir. Ticari kullanımdan önce özgünlüğü ve haklar durumunu gözden geçirin; başkasının markasını/eserini taklit etmeyin.
- Zarar vermeme: Yanıltıcı, ayrımcı, manipülatif veya birini hedef alan içerik üretmek için kullanmayın. Aracın gücü, sorumluluğu artırır.
Dört Kopyalanabilir Şablon
1) Uydurmayı sınırlayan kısıt:
Sadece aşağıdaki kaynağa dayan. Kaynakta olmayan hiçbirbilgi ekleme. Emin olmadığın yerde "kaynakta yok" yaz.Her önemli iddianın yanına dayandığı satırı belirt.Kaynak: [metin]
2) Doğrulama listesi çıkartma:
Aşağıdaki metinde doğrulanması gereken tüm olguları(sayı, tarih, isim, iddia) listele. Her biri için nasıldoğrulayabileceğimi kısaca öner.Metin: [çıktı]
3) Anonimleştirme:
Aşağıdaki metindeki tüm kişisel/gizli verileri maskele:isimleri [KİŞİ], şirketi [FİRMA], numaraları [NUMARA] yap.Anlam bozulmadan anonimleştirilmiş halini ver.Metin: [metin]
4) Etik gözden geçirme:
Bu içeriği yayınlamadan önce etik açıdan değerlendir:yanıltıcı, ayrımcı veya haksız bir yön var mı?Varsa işaretle ve düzeltme öner.İçerik: [metin]
Zayıf Prompt / Güçlü Prompt
Zayıf (riskli):
Ahmet Yılmaz'ın (TC: ...) sözleşmesindeki sorunları bul vesektör ortalamalarıyla karşılaştır.
Güçlü (güvenli):
Aşağıdaki sözleşme metnindeki riskli maddeleri bul.- Kişisel veri kullanma; taraflar [FİRMA-A] ve [KİŞİ] olarak geçsin.- Sadece metinde yazana dayan; sektör ortalaması uydurma, "veri yok" yaz.- Her riski maddesiyle birlikte göster.Metin (anonimleştirilmiş): [metin]
Güçlü sürüm hem kişisel veriyi korur hem de uydurma sektör verisini engeller; çıktı hukuk ekibinin denetimine hazır olur.
Üç Mini Vaka
Vaka 1 — Uydurma kaynak. Bir araştırmacı, modelin verdiği 3 "akademik kaynağı" doğrulamadan sunuma koydu; kaynaklardan ikisi hiç yoktu. Sunumdan önce bir meslektaşı fark etti. Sonrasında ekip "her kaynağı yayınlamadan önce bizzat bul ve aç" kuralını benimsedi.
Vaka 2 — Gizlilik. Bir çalışan, gerçek müşteri sözleşmesini olduğu gibi herkese açık bir araca yapıştırıp özet istedi. Kurumun bilgi güvenliği ekibi bunu tespit edince süreç gözden geçirildi; artık hassas belgeler yalnızca kurumun onayladığı kurumsal araçta ve anonimleştirilerek işleniyor.
Vaka 3 — Karar sorumluluğu. Bir küçük işletme sahibi, modelin verdiği vergi yorumuna dayanarak işlem yapmak üzereydi; yorum güncel mevzuata uymuyordu. Mali müşavirine danışınca hata yakalandı. Ders net: yapay zekâ hazırlık yapar, uzman ve insan karar verir.
İpucu: Bir olguyu "doğrulanmadı" olarak işaretlemeyi alışkanlık edinin. Çıktıdaki her sayı ve kaynağın yanına siz onaylayana kadar bir işaret koyun; bu basit disiplin, yanlış bilginin sessizce yayılmasını engeller.
Dikkat: "Yapay zekâ söyledi" bir mazeret değildir. Yayınladığınız, gönderdiğiniz veya karar dayanağı yaptığınız her içeriğin sorumluluğu sizindir. Aracın hızı, sizin denetim yükümlülüğünüzü ortadan kaldırmaz.
Sık yapılan hatalar
- Akıcı çıktıyı doğru sanmak. İkna edici dili doğruluk kanıtı zannetmek.
- Kaynağı kontrol etmeden kullanmak. Var olmayan kaynağı yayınlamak.
- Gizli veriyi düşünmeden girmek. Anonimleştirmeden hassas belge yapıştırmak.
- Uzmanlık işini tek başına modele bırakmak. Hukuki/tıbbi/finansal kararı doğrulatmamak.
- Sorumluluğu araca yıkmak. "AI söyledi" diyerek denetimden kaçmak.
Özetle
- Halüsinasyon, modelin gerçek olmayanı emin bir dille üretmesidir; her olgu doğrulanana kadar iddiadır.
- Doğrulama iki katmanlıdır: prompt kısıtları uydurmayı azaltır, insan kontrolü onu yakalar.
- Model güncel, kesin, hukuki/tıbbi/finansal konularda sınırlıdır; nihai otorite değildir.
- Gizli ve kişisel veriyi anonimleştirin veya yalnızca kurumun onayladığı araçta işleyin (KVKK ve kurum politikası).
- Etik, telif ve zarar vermeme ilkelerine uyun; içeriğin sorumluluğu her zaman insandadır.
Uygulama görevi
Yakın zamanda ürettiğiniz bir çıktıyı alın ve içindeki tüm olguları (sayı, tarih, isim, kaynak, iddia) bir doğrulama listesi olarak çıkarın. Her biri için doğrulama yöntemini yazın ve en az üçünü gerçekten kontrol edin. Ayrıca aynı çıktının girişinde gizli/kişisel veri olup olmadığını denetleyip gerekiyorsa anonimleştirin.
Kontrol listesi
- [ ] Halüsinasyonun ne olduğunu ve neden olduğunu açıklayabiliyorum.
- [ ] Olgusal çıktıyı bağımsız kaynaktan doğruluyorum.
- [ ] Gizli/kişisel veriyi anonimleştiriyor veya güvenli araçta işliyorum.
- [ ] Hukuki/tıbbi/finansal konularda gerçek uzmana danışıyorum.
- [ ] İçeriğin sorumluluğunun bende olduğunu kabul ediyorum.