Kazanimlar:
- ISO 26262 fonksiyonel güvenlik ve ISO 21448 (SOTIF) çerçevelerini ve yapay zeka içeren sistemlere etkilerini açıklayabilme
- Veri gizliliği, sürücü verisi, siber güvenlik (ISO/SAE 21434) ve etik risklerini otomotiv bağlamında yönetebilme
- AI çıktısının yetkin mühendis onayının yerine geçmediğini kavrayıp güvenlik-kritik kararlarda insan sorumluluğunu koruyabilme
Bu modülün en kritik ünitesindesiniz. Şimdiye kadar yapay zekayı tasarımdan üretime, testten tedarik zincirine kadar bir hızlandırıcı olarak gördük. Ama otomotivde asıl belirleyici soru şudur: bu sistem birine zarar verir mi ve kim sorumludur? Bu ünite, güvenlik-kritik bir sektörde yapay zekayı sorumlu biçimde kullanmanın çerçevelerini — fonksiyonel güvenlik, SOTIF, siber güvenlik, gizlilik ve etik — sade bir dille ele alır. Ana ilke değişmez: AI çıktısı hiçbir zaman yetkin mühendisin onayının yerine geçmez; güvenlik-kritik karar ve sorumluluk insanındır.
ISO 26262: fonksiyonel güvenlik
ISO 26262, karayolu araçlarının elektrik/elektronik sistemlerinde fonksiyonel güvenlik standardıdır. Fonksiyonel güvenlik; bir sistemin arızalandığında (bir sensör bozulduğunda, bir yazılım hata verdiğinde) tehlikeli bir duruma yol açmamasını güvence altına almakla ilgilenir.
Bu standardın kalbinde ASIL (Automotive Safety Integrity Level / Otomotiv Güvenlik Bütünlük Seviyesi) vardır. Bir tehlike üç boyutta değerlendirilir:
- Şiddet (Severity): Olursa ne kadar kötü olur? (küçük yaralanma mı, ölüm mü)
- Maruz kalma (Exposure): Bu durum ne sıklıkta ortaya çıkar?
- Kontrol edilebilirlik (Controllability): Sürücü durumu ne kadar kontrol edebilir?
Bu üçü birleşince ASIL A'dan (en düşük) ASIL D'ye (en yüksek, ör. fren, direksiyon) kadar bir seviye çıkar. Seviye yükseldikçe geliştirme, test ve dokümantasyon gereksinimleri katılaşır.
ASIL
Örnek sistem
Gereksinim yoğunluğu
A
İç aydınlatma arızası
Düşük
B
Arka lamba
Orta
C
Bazı ADAS işlevleri
Yüksek
D
Fren, direksiyon, airbag
En yüksek
İpucu: Bir işlevin ASIL seviyesini bilmek, o işlevde AI kullanımının ne kadar dikkat gerektirdiğini söyler. ASIL D bir işlevde AI çıktısına dayanan hiçbir karar bağımsız güvenlik doğrulaması olmadan kabul edilemez.
ISO 21448 (SOTIF): niyet edilen işlevin güvenliği
Klasik fonksiyonel güvenlik (ISO 26262) "sistem arızalanırsa ne olur" sorusuna odaklanır. Ama yapay zekalı algılama sistemlerinde yeni bir sorun var: sistem hiç arızalanmasa bile, yetersiz kalabilir. Kamera düzgün çalışıyor ama karlı bir levhayı tanıyamıyor; radar sağlam ama duran bir aracı hayalet sinyal sanıp yok sayıyor. Burada bir donanım/yazılım arızası yok; sorun işlevin niyet edilen kapsamının sınırında.
İşte ISO 21448 - SOTIF (Safety Of The Intended Functionality / Niyet Edilen İşlevin Güvenliği) tam bu boşluğu ele alır: sistem tasarlandığı gibi çalışsa bile, tanınmayan senaryolar, algılama sınırları ve öngörülemeyen durumlar yüzünden doğan riskleri yönetmek. Yapay zeka temelli ADAS/otonom sürüşte SOTIF, ISO 26262 kadar kritiktir.
Çerçeve
Odak
Örnek
ISO 26262
Arıza kaynaklı risk
Sensör bozulur, sinyal kaybolur
ISO 21448 (SOTIF)
Yetersizlik/tanımama riski
Sağlam kamera karlı levhayı tanımaz
ISO/SAE 21434
Siber güvenlik
Sisteme saldırı, veri manipülasyonu
Dikkat: AI modelleri istatistikseldir; "her durumu doğru görür" garantisi veremezler. SOTIF, bu doğası gereği sınırlı sistemlerde bilinmeyen tehlikeli senaryoları daraltmayı ve kalan riski kabul edilebilir seviyeye indirmeyi hedefler. "Model %99,9 doğru" bir güvenlik kanıtı değildir.
ISO/SAE 21434: siber güvenlik
Bağlantılı ve yazılım tanımlı araçlar (software-defined vehicle) siber saldırıya açıktır. Uzaktan bir saldırgan fren komutunu değiştirebilir, telemetriyi çalabilir veya algılama modelini kandırabilir (adversarial attack: bir levhaya yapıştırılan küçük çıkartmayla modelin onu yanlış tanımasını sağlamak). ISO/SAE 21434, araç siber güvenliği için mühendislik çerçevesidir. Yapay zeka bağlamında iki risk öne çıkar: modeli kandırma (adversarial) ve eğitim verisini zehirleme (data poisoning). Güvenlik-kritik AI sistemleri bu saldırılara karşı test edilmelidir.
Gizlilik ve kişisel veri
Modern araç bir "tekerlekli veri merkezi"dir: konum, sürüş davranışı, ses, hatta kabin kamerası. Bunların çoğu kişisel veridir ve KVKK (Türkiye) ile GDPR (Avrupa) kapsamındadır. VIN (şasi numarası) bir aracı ve dolaylı olarak sahibini tanımlayabilir. Temel ilkeler:
- Veri minimizasyonu: Sadece gerekeni topla.
- Amaç sınırlaması: Veriyi toplandığı amaç dışında kullanma.
- Anonimleştirme/takma adlandırma: Kişiyi tanımlayan bilgiyi kaldır veya kodla.
- Açık rıza ve şeffaflık: Sürücü ne toplandığını bilmeli.
- Güvenli saklama ve aktarım.
Dikkat: Ham VIN, konum geçmişi veya sürüş davranışını genel bir bulut AI aracına göndermek hem gizlilik ihlali hem sözleşme riski olabilir. Bu veriyle çalışırken anonimleştirin ve kurumsal, veri-korumalı bir ortam kullanın.
Etik ve mühendis sorumluluğu
Yapay zeka bazı etik riskleri de beraberinde getirir:
- Önyargı (bias): Eğitim verisi belirli koşulları (ör. gündüz, açık ten, belirli bölge yolları) baskın içeriyorsa, model az temsil edilen durumlarda (gece, farklı koşullar) kötü çalışabilir. Bu, güvenlik açığıdır.
- Aşırı güven (automation bias): İnsanların otomasyona körü körüne güvenip kendi yargısını devre dışı bırakması. Test mühendisi AI "geçti" dedi diye ham veriye bakmayı bırakırsa, bu tehlikeli bir eğilimdir.
- Sorumluluğun kaybolması: "Model karar verdi" bir savunma değildir. Kararın arkasında her zaman imza atan bir insan olmalıdır.
Mini vaka çalışmaları
Vaka 1 - SOTIF sınırı. Bir otomatik acil frenleme sistemi tüm laboratuvar testlerini geçiyor, hiçbir arıza yok. Sahada, alçak güneşte beyaz bir tır dorsesini gökyüzü sanıp geç fren yapıyor. Bu bir arıza değil, bir SOTIF açığı: sistem sağlam ama senaryo algılama sınırının dışında. Ekip bu senaryoyu test kütüphanesine ekliyor ve radar füzyonunu güçlendiriyor. Sonuç: "Arıza yok" güvenlik kanıtı değildir; yetersizlik de risktir.
Vaka 2 - Önyargılı veri. Bir yaya tespit modeli gündüz verisiyle ağırlıklı eğitilmiş; gece recall'ü belirgin düşük çıkıyor. Ekip gece ve düşük ışık verisini dengeleyip yeniden eğitiyor ve gece senaryolarını ayrı raporluyor. Sonuç: Dengesiz veri, belirli koşullarda ölümcül güvenlik açığı yaratır.
Vaka 3 - Gizlilik ihlali önleme. Bir analist filo verisini genel bir AI aracına yapıştırmak üzereyken veride ham VIN ve GPS konumları olduğunu fark ediyor. Veriyi anonimleştirip (VIN yerine arac_01..arac_50, konum yerine bölge kodu) kurumsal ortamda çalışıyor. Sonuç: Bir dakikalık dikkat, ciddi bir KVKK ihlalini önledi.
Prompt şablonları
Şablon 1 - ASIL/risk ön değerlendirmesi (taslak):
Rol: Fonksiyonel güvenlik danışmanısın.Görev: Bir işlev için tehlike ve risk analizine yardımcı taslak çıkar.Bağlam: İşlev: otomatik acil frenleme; şehir içi ve şehirlerarası.Kısıt: ASIL'i kesin atama; şiddet/maruziyet/kontrol edilebilirlikboyutlarında soru listesi ve dikkat noktaları ver; nihai atamanınyetkili güvenlik mühendisinde olduğunu belirt.Çıktı: Boyut | değerlendirme sorusu | dikkat notu tablosu.
Şablon 2 - SOTIF senaryo taraması:
Rol: SOTIF uzmanısın.Görev: Bir algılama işlevi için 'sistem sağlam ama yetersiz'olabileceği senaryoları listele.Bağlam: Kamera + radar; alçak güneş, kar, tünel çıkışı,alışılmadık nesneler.Çıktı: Senaryo | neden yetersizlik | azaltma önerisi.
Şablon 3 - Gizlilik denetimi:
Rol: Veri koruma (KVKK/GDPR) danışmanısın.Görev: Bir veri setini paylaşmadan önce gizlilik denetimi yap.Bağlam: Filo telemetrisi; sütunlarda VIN, GPS, sürüş skoru var.Kısıt: Hangi alanlar kişisel veri, nasıl anonimleştirilmeli,neyi hiç paylaşmamalıyım; sırala.Çıktı: Alan | risk | önerilen işlem tablosu.
Şablon 4 - Önyargı kontrolü:
Rol: ML güvenlik ve adalet denetçisisin.Görev: Bir algılama modelinde önyargı riskini nasıl arayacağımıanlat.Bağlam: Yaya tespiti; eğitim verisi ağırlıklı gündüz/şehir.Çıktı: Kontrol edilecek koşul | ölçüm | risk işareti.
Zayıf prompt / Güçlü prompt
Zayıf prompt:
Bu otonom fren sistemi güvenli mi, onayla.
AI'ya güvenlik onayı yaptırmaya çalışmak tehlikelidir; onay yetkili mühendisindir.
Güçlü prompt:
Rol: Fonksiyonel güvenlik ve SOTIF danışmanısın.Görev: Otomatik fren işlevimin güvenlik değerlendirmesinde hangisoruları sormam ve hangi kanıtları toplamam gerektiğini listele.Bağlam: AI temelli algılama; kamera+radar; ASIL yüksek olabilir.Kısıt: Sistemi 'onaylama'; ISO 26262 (arıza) ve SOTIF (yetersizlik)açısından ayrı ayrı soru ve kanıt listesi ver; nihai onayın yetkiligüvenlik mühendisinde olduğunu vurgula.Çıktı: Çerçeve | soru | gerekli kanıt tablosu.
Sık yapılan hatalar
- "Arıza yok" ile "güvenli"yi karıştırmak. SOTIF yetersizliği arıza olmadan da öldürebilir.
- AI'ya güvenlik onayı yaptırmak. Onay ve sorumluluk yetkili mühendistedir.
- Model doğruluğunu güvenlik kanıtı sanmak. %99,9 doğruluk, kalan riskin yönetildiğini göstermez.
- Kişisel veriyi korumamak. VIN/konum/sürüş davranışı KVKK/GDPR kapsamındadır.
- Önyargıyı ve aşırı güveni görmezden gelmek. Dengesiz veri ve otomasyona körü güven güvenlik açığıdır.
Ozetle
- ISO 26262 arıza kaynaklı riski (ASIL ile), ISO 21448/SOTIF ise arıza olmadan yetersizlik riskini yönetir; AI algılamada ikisi de kritiktir.
- ISO/SAE 21434 siber güvenliği; adversarial ve veri zehirleme saldırıları AI'ya özgü tehditlerdir.
- KVKK/GDPR kapsamında veri minimizasyonu, amaç sınırlaması ve anonimleştirme zorunludur; VIN/konum kişisel veridir.
- Önyargı, aşırı güven ve sorumluluğun kaybı başlıca etik risklerdir.
- AI çıktısı yetkin mühendis onayının yerine geçmez; güvenlik-kritik karar ve imza her zaman insanındır.
Uygulama gorevi
Bir güvenlik-ilgili işlev seçin (ör. şeritte tutma). (1) Bu işlevin ASIL seviyesinin neden yüksek/düşük olabileceğini şiddet/maruziyet/kontrol edilebilirlik boyutlarında tartışın. (2) Şablon 2 ile "sistem sağlam ama yetersiz" 5 senaryo üretin. (3) İlgili bir veri setini Şablon 3 ile gizlilik açısından denetleyin. (4) "Model onayladı" demenin neden bir savunma olmadığını açıklayın.
Kontrol listesi
- [ ] İşlevin ASIL boyutlarını değerlendirdim (kesin atamayı yetkiliye bıraktım).
- [ ] ISO 26262 (arıza) ile SOTIF (yetersizlik) ayrımını yaptım.
- [ ] Siber güvenlik (adversarial/zehirleme) riskini dikkate aldım.
- [ ] Kişisel veriyi anonimleştirip minimize ettim.
- [ ] Önyargı ve aşırı güven risklerini kontrol ettim.
- [ ] Güvenlik onayının yetkin mühendiste olduğunu teyit ettim.