Kazanimlar:
- Sorumlu yapay zeka ilkelerini (adalet, şeffaflık, hesap verebilirlik, gizlilik, insan gözetimi, güvenlik, sürdürülebilirlik) somut kararlara bağlayabilme
- Etiği yasal uyumdan ayırıp 'yapabiliriz' ile 'yapmalıyız' arasındaki farkı gözeterek etkilenen tarafları ve önyargıyı test edebilme
- Şeffaflık, insan gözetimi ve itiraz yolunu tasarıma gömerek kötüye kullanım senaryolarını baştan azaltabilme
Bir yapay zeka girişimi teknik olarak mükemmel, finansal olarak kârlı ve yasal olarak uygun olabilir; ama yine de yanlış olabilir. Etik, "yapabiliriz" ile "yapmalıyız" arasındaki farktır. Bir üst düzey yönetici için etik, bir süsleme ya da halkla ilişkiler konusu değil; kurumun uzun vadeli güvenilirliğini, itibarını ve toplumsal meşruiyetini koruyan temeldir. Bu üniteda, sorumlu yapay zeka (responsible AI; yapay zekayı adil, şeffaf, hesap verebilir ve insan onuruna saygılı biçimde geliştirme ve kullanma yaklaşımı) ilkelerini ve bunları günlük kararlara nasıl yansıtacağınızı öğreneceksiniz.
Sorumlu yapay zekanın temel ilkeleri
Farklı çerçeveler benzer ilkelerde buluşur. Bir yönetici için pratik özet:
İlke
Ne demek?
Yönetici sorusu
Adalet
Ayrımcılık yapmama
Bu, bir grubu haksızca etkiler mi?
Şeffaflık
Anlaşılır olma
Kararın nedenini açıklayabiliyor muyuz?
Hesap verebilirlik
Sorumlunun belli olması
Bir hata olursa kim sorumlu?
Gizlilik
Kişisel veriye saygı
Veriyi kullanma hakkımız var mı?
İnsan gözetimi
İnsanın kontrolde kalması
İnsan itiraz edip durdurabiliyor mu?
Güvenlik
Zarar vermeme
Bu kötüye kullanılabilir mi?
Sürdürülebilirlik
Çevresel/toplumsal etki
Maliyeti kime yüklüyoruz?
Bu ilkeler soyut değildir; her biri somut bir karara bağlanabilir. Örneğin "şeffaflık", bir müşteriye yapay zekayla konuştuğunu bildirmek demektir; "insan gözetimi", bir kredi reddini bir insanın gözden geçirip itiraza açık tutması demektir.
İpucu: Her yüksek etkili yapay zeka kararında tek bir soru sorun: "Bu kararı, en olumsuz etkilenen kişiye açık açık anlatabilir miyim ve arkasında durabilir miyim?" Yanıt rahatsız ediyorsa, etik bir sorun vardır.
Etik, yasadan farklıdır
Kritik bir ayrım: yasal uyum (Ünite 9) minimum çizgidir; etik daha yüksek bir çizgidir. Bir şey yasal olabilir ama etik olmayabilir. Örneğin bir uygulamanın kullanıcı davranışını manipüle etmek için yapay zeka kullanması yasak olmayabilir ama etik değildir. Sorumlu kurumlar "yasak mı?" diye değil, "doğru mu?" diye sorar.
Adım adım: etiği karara gömme
1. Etkilenen tarafları belirle. Bu girişimden kim etkilenir? (Müşteri, çalışan, toplum, dezavantajlı gruplar)
2. İlkelerle tara. Yukarıdaki ilkelerin her biri açısından girişimi sorgula.
3. Önyargı ve zararı test et. Model belirli grupları haksızca etkiliyor mu? Kötüye kullanım senaryoları neler?
4. Şeffaflık ve gözetim ekle. Yapay zeka kullanıldığını bildir, insan itiraz yolu bırak.
5. Belgeler ve gözden geçir. Etik değerlendirmeyi kaydet; dönemsel olarak yeniden bak.
Üç mini vaka
Vaka 1 — Yasal ama yanlış. Bir uygulama, kullanıcıları uygulamada daha uzun tutmak için yapay zekayla bağımlılık yaratan bildirimler üretti. Yasal engel yoktu ama basına yansıyınca ciddi itibar kaybı yaşandı; özellikle genç kullanıcıları hedeflemesi tepki çekti. Şirket özelliği kaldırdı. Etik süzgeç baştan olsaydı bu risk görülürdü.
Vaka 2 — Adalet testinin değeri. Bir bankanın kredi skorlama modeli, korunan gruplardan gelen başvurulara sistematik olarak daha düşük skor veriyordu. Bir adalet denetiminde bu yakalandı. Model, sonuçlarında gruplar arası eşitliği gözetecek biçimde yeniden tasarlandı ve düzenli test edildi. Etik ilke (adalet) somut bir teste dönüştü ve gerçek zararı önledi.
Vaka 3 — Şeffaflık güven kazandırdı. Bir e-ticaret şirketi, müşteri destek chatbot'unun başında "Size bir yapay zeka asistan yardımcı oluyor, dilediğiniz an bir insan temsilciye bağlanabilirsiniz" ibaresini koydu. Şeffaflık ve insan çıkış yolu, memnuniyeti düşürmedi; tam tersine güveni artırdı ve şikayetler %15 azaldı. Doğru yapılan şeffaflık, maliyet değil değerdi.
Dört kopyalanabilir şablon
1) Etik tarama:
Rolün: sorumlu yapay zeka danışmanı. Şu girişimi 7 ilke açısından tara:adalet, şeffaflık, hesap verebilirlik, gizlilik, insan gözetimi, güvenlik,sürdürülebilirlik. Her ilke için bir risk ve bir öneri yaz. Girişim: [metin]
2) Etkilenen taraf analizi:
Şu yapay zeka girişiminden etkilenen tüm tarafları listele (müşteri,çalışan, toplum, dezavantajlı gruplar). Her taraf için olası olumlu veolumsuz etkiyi yaz; en çok zarar görebilecek grubu işaretle. Girişim: [metin]
3) Kötüye kullanım senaryosu:
Şu yapay zeka özelliğinin kötüye kullanılabileceği 5 senaryo üret(manipülasyon, ayrımcılık, gizlilik ihlali, yanıltma dahil). Her senaryoiçin bir önleyici tasarım kararı öner. Özellik: [metin]
4) Şeffaflık ve gözetim kontrolü:
Şu müşteriye dönük yapay zeka için bir şeffaflık ve insan gözetimi planıyaz: kullanıcıya ne, nasıl bildirilecek; nasıl insana geçebilecek; kararınasıl itiraz edebilecek. Kullanım: [metin]
Zayıf prompt / Güçlü prompt
Zayıf: "Bu yapay zeka etik mi?"
Sonuç: Yüzeysel bir "evet/hayır"; hangi ilke, kim etkileniyor, ne önlem belirsiz.
Güçlü: "Bir işe alım ön eleme aracında yapay zeka kullanmayı değerlendiriyoruz (insan son kararı verecek). Bunu adalet, şeffaflık, hesap verebilirlik ve insan gözetimi ilkeleri açısından tara. Adaylardan hangi grupların haksızca etkilenebileceğini, hangi önyargı testlerini yapmam gerektiğini ve adayların karara nasıl itiraz edebileceğini somutça yaz."
Sonuç: İlke bazlı, etkilenen tarafı belirleyen, test ve itiraz yolu öneren pratik bir değerlendirme.
Sık yapılan hatalar
- Etiği yasal uyumla karıştırmak. Yasal olan her şey etik değildir; etik daha yüksek bir çizgidir.
- Etiği en sona bırakmak. Tasarımdan sonra "etik onayı" almak geç kalmaktır; etik baştan tasarıma gömülmeli.
- Adaleti test etmemek. "Bizim modelimiz tarafsız" varsayımı tehlikelidir; ölçülmeden bilinemez.
- Şeffaflığı maliyet sanmak. Doğru yapılan şeffaflık güveni ve değeri artırır.
- Etkilenen tarafları dar tutmak. Sadece müşteriyi düşünüp çalışanı, toplumu ve dezavantajlı grupları atlamak kör nokta yaratır.
Dikkat: Etik değerlendirmeyi yapay zekaya tamamen bırakmak çelişkili ve tehlikelidir. Yapay zeka etik soruları gündeme getirmede yardımcı olabilir ama değer yargısı, kültürel bağlam ve nihai ahlaki sorumluluk insana aittir. Bir kurumun etik duruşu, "yapay zeka böyle dedi" ile değil, insanların bilinçli seçimleriyle belirlenir.
Özetle
Etik, "yapabiliriz" ile "yapmalıyız" arasındaki farktır ve kurumun uzun vadeli güvenilirliğini korur. Sorumlu yapay zeka; adalet, şeffaflık, hesap verebilirlik, gizlilik, insan gözetimi, güvenlik ve sürdürülebilirlik ilkelerine dayanır. Bu ilkeler soyut değildir; etkilenen tarafları belirleme, önyargıyı test etme, şeffaflık sağlama ve insan gözetimi ekleme gibi somut kararlara dönüşür. Etik yasadan farklıdır ve daha yüksek bir çizgidir; en sona bırakılamaz, tasarıma gömülmelidir. Bir sonraki üniteda, etiğin yasal karşılığı olan uyumu, özellikle AB AI Yasası ve KVKK'yı ele alacağız.
Uygulama görevi
Bir yüksek etkili yapay zeka girişimi seçin. 2. şablonla etkilenen tüm tarafları listeleyin ve en çok zarar görebilecek grubu işaretleyin. 1. şablonla girişimi yedi ilke açısından tarayın. En kritik iki etik risk için somut bir önlem (adalet testi, şeffaflık bildirimi, itiraz yolu vb.) tanımlayın. Son olarak "en olumsuz etkilenen kişiye bu kararı açıklayabilir miyim?" sorusunu dürüstçe yanıtlayın.
Kontrol listesi
- [ ] Etkilenen tüm tarafları belirledim.
- [ ] Girişimi yedi sorumlu yapay zeka ilkesiyle taradım.
- [ ] Önyargı/adalet için bir test planladım.
- [ ] Şeffaflık bildirimini tasarladım.
- [ ] İnsan gözetimi ve itiraz yolu bıraktım.
- [ ] Kötüye kullanım senaryolarını düşündüm.
- [ ] "En olumsuz etkilenene açıklayabilir miyim?" testini geçtim.