Güvenlik-Kritik İşler, Etik, Gizlilik ve Sorumluluk

Kazanimlar:

• Güvenlik-kritik mühendislik işlerinde AI'ın sınırlarını ve doğrulama zorunluluğunu değerlendirebilme
• Gizli tasarım/veri paylaşımında gizlilik, veri politikası ve fikri mülkiyet risklerini yönetebilme
• AI çıktısının mühendis onayı ve imza sorumluluğunun yerine geçemeyeceğini uygulamalı olarak savunabilme

Makine mühendisliğinde çıktının bir kısmı estetik bir tercih değil, insan hayatı ve mülk güvenliği meselesidir: bir asansör freni, bir basınçlı kap, bir kaldırma ekipmanı, bir otomotiv süspansiyon parçası. Bu güvenlik-kritik işlerde hata, yaralanma veya ölümle sonuçlanabilir. Yapay zeka (AI) bu alanlarda da hızlandırıcıdır; ama sınırları en keskin biçimde burada belirir. Bu ünite modülün etik ve sorumluluk omurgasıdır ve tek bir ilkeyi merkeze alır: AI çıktısı, güvenlik-kritik hiçbir işte yetkin mühendisin doğrulaması, onayı ve imzasının yerine geçmez. AI bir taslak, bir girdi, bir ikinci göz olabilir; ama sorumluluğu üstlenemez, çünkü hukuki ve etik sorumluluk imzayı atan mühendise aittir. Bunun yanında iki büyük risk daha yönetilmelidir: gizlilik (şirket tasarımları, müşteri verisi, patentlenmemiş fikirler) ve doğruluk (halüsinasyon). Bu ünitede güvenlik-kritik işlerde AI'ın sınırlarını, gizlilik ve fikri mülkiyet risklerini ve sorumluluğun neden devredilemez olduğunu öğreneceksiniz.

Güvenlik-Kritik İşte AI'ın Yeri ve Sınırı

Bir işin "güvenlik-kritik" olup olmadığını, hata halinde sonucun ağırlığı belirler. Bu ölçekte AI'ın rolü daralır: fikir üretmek, taslak hazırlamak, kontrol listesi çıkarmak evet; ama nihai hesabı onaylamak, "güvenli" hükmü vermek veya üretime izin vermek hayır. Aşağıdaki ayrım bunu somutlaştırır:

İş türü

AI'ın uygun rolü

Mühendisin devredilemez rolü

Rutin, düşük risk

Taslak, otomasyon, ilk hesap

Gözden geçirme

Orta risk

Alternatif, kontrol listesi, ön analiz

Doğrulama ve karar

Güvenlik-kritik

Yalnızca taslak/ikinci göz

Analiz, test, onay, imza, sorumluluk

Kritik ilke: AI'ın çıktısı ne kadar ikna edici olursa olsun, bir hipotez ve taslaktır. Güvenlik-kritik bir hesap, bağımsız yöntemle yeniden üretilir, standarda göre denetlenir, gerekiyorsa test edilir ve yetkin mühendis tarafından imzalanır. İmza, "ben bunu doğruladım ve sorumluluğunu alıyorum" demektir; bir dil modeli bu beyanı veremez.

İpucu: Kendinize her AI çıktısında şu soruyu sorun: "Bu yanlışsa kim zarar görür ve sorumlu kim olur?" Cevap "insanlar zarar görür, sorumlu benim" ise, o çıktı en yüksek doğrulama standardından geçmeden hiçbir yere gitmez.

Halüsinasyon ve Aşırı Güven Tuzağı

AI'ın en tehlikeli özelliği, yanlış bir bilgiyi doğru bir bilgiyle aynı özgüvenle sunmasıdır. Bir standart maddesini uydurabilir, bir malzeme değerini yanlış verebilir, bir formülü yanlış uygulayabilir ve hepsini akıcı, profesyonel bir dille yazar. Buna aşırı güven yanlılığı (automation bias; otomatik bir sistemin çıktısına insanın gereğinden fazla güvenme eğilimi) eklenince tehlike büyür: mühendis, ekranda düzgün duran çıktıyı kontrol etmeden kabul edebilir. Savunma, kültürel bir alışkanlıktır: AI çıktısına "muhtemelen doğru" değil "aksi kanıtlanana kadar şüpheli" gözüyle bakmak.

Dikkat: "AI emin görünüyordu" bir savunma değildir. Bir kaza soruşturmasında, denetimde veya davada "yapay zeka böyle demişti" mazeret sayılmaz; sorumluluk onaylayan mühendiste kalır. AI'ı, hiçbir zaman sorumluluğu paylaşmayan ama bazen çok yanılan bir stajyer gibi düşünün: fikrini alırsınız, işini asla kontrol etmeden imzalamazsınız.

Gizlilik, Fikri Mülkiyet ve Veri Politikası

İkinci büyük risk gizliliktir. Şirketin patentlenmemiş bir tasarımını, bir müşterinin verisini veya rekabet açısından hassas bir çözümü, veri politikası bilinmeyen halka açık bir AI aracına yüklemek; fikri mülkiyet kaybına, gizlilik ihlaline ve sözleşme ihlaline yol açabilir. Bazı araçlar girdileri modeli eğitmek için kullanabilir; yüklediğiniz gizli geometri başkasının önüne çıkabilir. Doğru yaklaşım: şirketin veri politikasına uymak, hassas veriyi anonimleştirmek (belirleyici bilgileri çıkarıp genel biçime getirmek) veya verinin dışarı çıkmadığı kurumsal/izole bir araç kullanmak.

Adım Adım: Güvenli ve Etik AI Kullanımı

1. Riski sınıflandırın. Bu iş güvenlik-kritik mi, hata halinde sonuç ne?
2. Gizliliği değerlendirin. Bu veri dışarı çıkabilir mi; politika ne diyor?
3. Anonimleştirin veya izole araç kullanın. Hassas bilgiyi çıkarın.
4. AI'ı taslak/ikinci göz olarak kullanın. Onay değil, girdi.
5. Bağımsız doğrulayın. Yeniden üretme, standart, test.
6. Yetkin mühendis onaylar ve imzalar. Sorumluluk devredilemez; izlenebilirlik kaydı tutulur.

Risk ve gizlilik değerlendirme promptu

Rol: Mühendislik etiği ve risk yönetimi danışmanı.Görev: Aşağıdaki işi güvenlik-kritiklik ve gizlilik açısından değerlendir.İş: [işin tarifi; hata halinde olası sonuç; paylaşılacak veri türü].Çıktı:- Risk sınıfı (rutin / orta / güvenlik-kritik) ve gerekçe- Bu işte AI'a NELERİ yaptırabilirim, NELERİ yaptıramam- Gizlilik riski var mı; veri anonimleştirilmeli mi; izole araç mı gerekirKural: Nihai onay ve sorumluluğun yetkin mühendiste kaldığını vurgula.

Anonimleştirme promptu

Bir tasarım problemini AI'a soracağım ama şirket bilgisi paylaşmakistemiyorum. Şu bağlamı ANONİMLEŞTİR: firma adı, ürün adı, müşteri vetanımlayıcı ölçüleri çıkar; problemi genel mühendislik terimleriyleyeniden yaz ki hassas bilgi sızmasın ama teknik öz korunsun.Bağlam: [metin]

Doğrulama disiplini promptu

Bu güvenlik-kritik hesabı bir bağımsız gözden geçiren gibi denetle,bana ASLA katılma. Formül, birim, varsayım ve standart uygunluğunusorgula. Sonucu bağımsız bir yöntemle yeniden üret ve farkı göster.Her bulgu için "bunu nasıl kanıtlar/test ederim" yaz.Kural: Sen onay VEREMEZSİN; sadece kontrol edilecek noktaları çıkar.[hesap]

Sorumluluk kaydı promptu

Bu tasarım kararı için bir izlenebilirlik/karar kaydı taslağı yaz.Alanlar: karar, dayanak (hesap/standart/test), AI'ın katkısı (taslak mı),bağımsız doğrulama yöntemi, onaylayan mühendis, tarih, imza alanı.Kural: AI katkısını açıkça "taslak/yardımcı" olarak etiketle; onay alanı boş kalsın.

Zayıf Prompt / Güçlü Prompt

Zayıf prompt:

Bu asansör freni tasarımı güvenli mi, onayla.

AI bir güvenlik onayı veremez ve vermemeli; "güvenli" derse bu yanıltıcı ve tehlikelidir, çünkü sorumluluğu taşıyamaz.

Güçlü prompt:

Bu fren hesabını bağımsız bir gözden geçiren gibi denetle; katılma,zayıf noktaları ve doğrulanması gereken varsayımları çıkar. Sonucubağımsız yöntemle yeniden üret ve farkı göster. Onay ve sorumluluğunbende olduğunu bil; sen sadece kontrol noktalarını listele.

İkinci prompt AI'ı onay makamı değil eleştirel bir kontrol aracı olarak konumlandırır; sorumluluğu mühendiste tutar.

Üç Mini Vaka (Sayılarla)

Vaka 1 - İmza sorumluluğu. Bir mühendis, AI'ın 2 saatte hazırladığı bir kaldırma kancası hesabını kullanacak. Kanca 2 ton kaldıracak; kopması ölümcül olur. Mühendis hesabı bağımsız yöntemle yeniden yapıyor, emniyet katsayısını AI'ın verdiği 1,8 yerine standardın istediği ≥ 4 olacak şekilde düzeltiyor ve geometriyi büyütüyor. AI'ın sayısı "makul görünüyordu" ama güvenlik-kritik eşiği karşılamıyordu. İmzayı ancak doğruladıktan sonra atıyor. Ders: onay ve emniyet katsayısı kararı devredilemez.

Vaka 2 - Sızan tasarım. Bir stajyer, şirketin patent başvurusu yapılmamış yeni bir mekanizmasını halka açık bir AI aracına yükleyip "optimize et" diyor. Aracın veri politikası girdileri saklıyor ve eğitimde kullanabiliyor. Şirket bunu fark edince hukuk ekibi devreye giriyor; fikri mülkiyet riski nedeniyle patent stratejisi zarar görüyor. Doğru yol, mekanizmayı anonimleştirmek veya kurumsal izole araç kullanmaktı. Ders: gizli tasarım politika bilinmeyen araca girmez.

Vaka 3 - Anonimleştirme kurtarır. Bir mühendis, bir müşteri için özel bir redüktör problemini AI ile tartışmak istiyor ama müşteri ve ürün gizli. Bağlamı anonimleştiriyor: firma/ürün adını, tanımlayıcı ölçüleri çıkarıp problemi "belirli bir dişli oranı ve tork için genel bir redüktör" olarak yeniden yazıyor. Teknik özü koruyarak, hassas bilgi sızdırmadan AI'dan yararlanıyor. Ders: anonimleştirme, gizlilik ile verimlilik arasında güvenli yoldur.

Sık yapılan hatalar

• AI'a onay yetkisi vermek: "Güvenli mi, onayla" deyip sorumluluğu devretmeye çalışmak.
• Aşırı güven (automation bias): İkna edici çıktıyı kontrol etmeden kabul etmek.
• Gizli veriyi halka açık araca yüklemek: Politika bilmeden tasarım/müşteri verisi paylaşmak.
• Anonimleştirmeyi atlamak: Tanımlayıcı bilgileri çıkarmadan hassas problemi sormak.
• İzlenebilirlik kaydı tutmamak: AI katkısını ve doğrulamayı belgelememek.
• Emniyet katsayısını hafife almak: Güvenlik-kritik eşiği AI'ın verdiği düşük değerle geçmek.

Özetle

• Güvenlik-kritik işlerde AI bir taslak ve ikinci göz olabilir; onay, imza ve sorumluluk yetkin mühendise aittir.
• AI yanlışı doğru gibi ikna edici sunar; aşırı güven yanlılığına karşı "aksi kanıtlanana kadar şüpheli" tutumu şarttır.
• "AI emin görünüyordu" hukuki ya da etik bir savunma değildir; sorumluluk onaylayanda kalır.
• Gizli tasarım, müşteri verisi ve patentlenmemiş fikirler politika bilinmeyen araçlara yüklenmez; anonimleştir veya izole araç kullan.
• Güvenlik-kritik hesap bağımsız yöntemle yeniden üretilir, standarda göre denetlenir ve imzalanarak sorumluluk üstlenilir.

Uygulama görevi

Güvenlik-kritik olabilecek bir iş seçin (kaldırma elemanı, basınçlı bileşen, fren veya taşıyıcı yapı). Önce işi risk ve gizlilik açısından sınıflandırın: hata halinde sonuç ne, hangi veri hassas? AI'a bu işi değerlendirtip "nelerini yaptırabilirim, nelerini yaptıramam" listesini çıkarttırın. Paylaşacağınız bir bağlamı anonimleştirin (firma/ürün/müşteri bilgisini çıkarın). Ardından AI'ı yalnızca eleştirel bir kontrol aracı olarak kullanıp bir hesabı denetletin, ama sonucu bağımsız bir yöntemle kendiniz yeniden üretin ve emniyet katsayısını ilgili standartla karşılaştırın. Son olarak bir izlenebilirlik/karar kaydı taslağı hazırlayın; AI katkısını "taslak/yardımcı" olarak etiketleyin ve onay alanını yetkin mühendise bırakın.

Kontrol listesi

• [ ] İş, risk sınıfına (rutin/orta/güvenlik-kritik) göre değerlendirildi.
• [ ] Gizlilik değerlendirildi; hassas veri anonimleştirildi veya izole araç kullanıldı.
• [ ] AI onay makamı değil, taslak/ikinci göz olarak kullanıldı.
• [ ] Güvenlik-kritik hesap bağımsız yöntemle yeniden üretildi ve standarda göre denetlendi.
• [ ] Emniyet katsayısı ilgili standardın eşiğiyle karşılaştırıldı.
• [ ] İzlenebilirlik/karar kaydı tutuldu; onay, imza ve sorumluluk yetkin mühendise bırakıldı.

Modul Sinavi

1. CAD ve tasarım iş akışında AI'ın en gerçekçi ve güvenli rolü aşağıdakilerden hangisidir?

• A) Tasarım alternatifi önerme ve parametrik script/makro üretme gibi yardımcı roller ✔
• B) Statik ve mukavemet onayını otomatik olarak verme
• C) Tasarımı mühendis onayı olmadan doğrudan üretime gönderme
• D) İmza ve onay yetkisini mühendisten devralma

Aciklama: AI, tasarım alternatifi önerme, parametrik script/makro üretme, malzeme ve metadata taslağı çıkarma gibi yardımcı görevlerde güçlüdür (ıraksak düşünme). Nihai geometri, tolerans, mukavemet onayı ve üretime gönderme kararı (yakınsak karar) mühendiste kalır.

2. AI bir malzeme için 'akma dayanımı 250 MPa' değeri verdi. Bu değeri tasarıma esas almadan önce ne yapmalısınız?

• A) AI güncel olduğu için değeri doğrudan hesaba koymak
• B) Değeri üreticinin veri sayfasından veya malzeme standardından doğrulamak ✔
• C) Değeri yukarı yuvarlayıp güvenli tarafta olduğunu varsaymak
• D) Rastgele bir emniyet katsayısı ekleyip geçmek

Aciklama: AI, malzeme özelliklerini yaklaşık, eski ya da tamamen uydurma (halüsinasyon) verebilir; aynı malzemenin temper/ısıl işlem durumuna göre değeri değişir. Değer, üreticinin veri sayfasından (datasheet) veya ilgili malzeme standardından doğrulanmadan tasarıma girmemelidir.

3. Ashby (malzeme seçim) diyagramları temel olarak hangi amaçla kullanılır?

• A) Parçanın kesin üretim maliyetini hesaplamak için
• B) Tedarikçi fiyat listesi oluşturmak için
• C) Malzeme özelliklerini (örneğin dayanım-yoğunluk) karşılaştırıp aday seçmek için ✔
• D) Parça toleranslarını belirlemek için

Aciklama: Ashby diyagramları, iki malzeme özelliğini (örneğin dayanım-yoğunluk, elastisite modülü-yoğunluk) eksenlere koyarak malzemeleri karşılaştırır ve bir performans indeksine göre en uygun aday grubunu görselleştirir. Kesin maliyet, tolerans veya tedarik fiyatı belirlemek için değildir.

4. AI bir gerilme hesabı verdi ancak birim tutarlılığından emin değilsiniz. Boyut (birim) analizi öncelikle neyi yakalar?

• A) Metindeki yazım hatalarını
• B) Grafiklerdeki renk hatalarını
• C) Çıktı dosyasının boyutunu
• D) Denklemin iki tarafının birim tutarsızlığını ve dönüşüm hatalarını ✔

Aciklama: Boyut (birim) analizi, denklemin her iki tarafının birimlerinin tutarlı olduğunu kontrol eder; örneğin gerilme için sonucun N/m² = Pa çıkması gerekir. Birimler tutmuyorsa formülde veya dönüşümde bir hata vardır. Yazım, renk veya dosya boyutuyla ilgili değildir.

5. AI bir ısıl hesapta 5 kW'lık bir ısıtıcının 1 litre suyu 2 saniyede 20°C ısıttığını söyledi. En doğru ilk tepki nedir?

• A) Sonucu enerji korunumu ve büyüklük mertebesiyle sağlaması yapıp reddetmek ✔
• B) Sonucu daha çok ondalık basamakla yazıp kabul etmek
• C) AI'a 'emin misin?' deyip 'evet' cevabıyla yetinmek
• D) Soruyu silip baştan sormak ve ilk gelen cevabı almak

Aciklama: Büyüklük mertebesi (sanity check) ve enerji korunumu ile hızlı sağlama yapılır: 1 kg suyu 20°C ısıtmak yaklaşık 84 kJ ister; 5 kW ile bu ~17 saniye sürer, 2 saniye değil. Sonuç fizik dışıdır ve doğrulama yapılmadan kabul edilemez.

6. Bir FEA analizinde AI'ın yorumladığı gerilme sonucuna güvenmeden önce yapılması gereken en kritik kontrol hangisidir?

• A) Renkli gerilme haritasının görsel olarak 'güzel' görünmesi
• B) Mesh bağımsızlığı, sınır koşulu ve analitik karşılaştırma ile doğrulama ✔
• C) Çözümün kısa sürede tamamlanması
• D) AI'ın 'sonuç güvenli' demesi

Aciklama: FEA sonucu mesh yoğunluğuna, sınır koşullarına ve malzeme tanımına bağlıdır. Sonuç; mesh bağımsızlığı (mesh sıklaştırılınca sonucun değişmemesi), sınır koşulunun doğruluğu ve mümkünse analitik bir yaklaşımla karşılaştırılarak doğrulanmalıdır.

7. FEA'da keskin bir iç köşede mesh sıklaştıkça gerilme değeri sürekli artıyor. Bu durum çoğunlukla neyi gösterir?

• A) Malzemenin kesin olarak hatalı olduğunu
• B) Sensör ölçüm hatası bulunduğunu
• C) Keskin köşedeki yapay (tekil) gerilme yığılmasını; köşe yarıçapı modellenmeli ✔
• D) Çözümün her zaman güvenli tarafta olduğunu

Aciklama: İdeal keskin (sıfır yarıçaplı) iç köşe, elastik teoride tekil (singular) bir noktadır; mesh sıklaştıkça gerilme sonsuza yönelir. Bu yapay bir sonuçtur. Gerçek parçada köşe yarıçapı modellenmeli veya çentik faktörü/yerel değerlendirme ile yorumlanmalıdır.

8. Bir rulmanın titreşim verisinde AI 'olası iç bilezik arızası' tespit etti. En doğru yaklaşım hangisidir?

• A) Makineyi sormadan tamamen hurdaya ayırmak
• B) Yorumu görmezden gelip çalışmaya devam etmek
• C) Sensörü tamamen devre dışı bırakmak
• D) Karakteristik arıza frekansı, kalibrasyon ve saha incelemesiyle yorumu doğrulamak ✔

Aciklama: AI'ın anomali/arıza yorumu bir hipotezdir. Titreşim spektrumundaki karakteristik arıza frekansları (örneğin iç bilezik geçiş frekansı BPFI), sensör kalibrasyonu ve olası veri hataları kontrol edilmeli; yorum saha incelemesi ve fiziksel arıza mekanizmasıyla doğrulanmadan bakım kararına dönüştürülmemelidir.

9. Bir parçanın üretilebilirliğini (DFM) AI ile değerlendirirken çıktının en çok dikkat gerektiren yönü nedir?

• A) Önerilerin gerçek tezgah, takım ve proses limitleriyle uyumu ✔
• B) Sadece parçanın estetik görünümü
• C) CAD modelinin dosya boyutu
• D) Renk ve kaplama seçenekleri

Aciklama: AI; tezgah, takım, kalıp ve proses limitlerini gerçek atölye kısıtları olmadan varsayabilir. Örneğin ulaşılamayan bir iç köşe yarıçapı ya da imkansız bir tolerans önerebilir. DFM önerileri, mevcut ekipman ve gerçek proses limitleriyle doğrulanmalıdır.

10. AI'ın ürettiği bir teknik resim tolerans/GD&T notunu üretime göndermeden önce ne yapılmalıdır?

• A) AI ürettiği için notları doğrudan çizime işlemek
• B) Notları standart ve fonksiyonel gereksinime göre denetleyip onaylamak ✔
• C) Toleransları rastgele daraltıp güvenli sanmak
• D) Sembolleri hatırda kalması için değiştirmek

Aciklama: AI; tolerans değerlerini, GD&T (geometrik boyutlandırma ve toleranslama) sembollerini veya yüzey işleme gösterimlerini yanlış ya da standart dışı üretebilir. Notlar ilgili standart (örneğin ISO/ASME GD&T) ve fonksiyonel gereksinime göre denetlenmeli; toleransların montaj ve işlev açısından tutarlılığı mühendis tarafından onaylanmalıdır.

11. AI, bir tasarımın 'EN 13445 madde 7.4.2'ye göre uygun' olduğunu belirtti. En doğru davranış hangisidir?

• A) AI atıf verdiği için doğrudan rapora yazmak
• B) Bir internet forumundaki yoruma güvenmek
• C) Madde numarasını ve içeriğini resmi/güncel standart metninden doğrulamak ✔
• D) Madde numarasını akılda kalması için değiştirmek

Aciklama: AI, standart madde numaralarını ve sınır değerlerini yanlış veya uydurma (halüsinasyon) biçimde üretebilir. Atıf verilen madde ve değer, resmi ve güncel standart metninden doğrulanmadan tasarıma ya da rapora esas alınmamalıdır.

12. AI'ın ürettiği bir Python mühendislik hesap scriptini kullanmadan önce hangisi zorunludur?

• A) Kod hatasız çalıştığı için doğrudan güvenmek
• B) Değişken adlarını kısaltıp yorum satırlarını silmek
• C) Scripti daha uzun yazıp güvenli varsaymak
• D) Bilinen sonuçlu testler, birim kontrolü ve kenar durumlarla doğrulamak ✔

Aciklama: AI kodu yanlış birim dönüşümü, hatalı formül veya kenar durumlarda yanlış sonuç içerebilir ve hatasız çalışsa bile yanlış hesaplayabilir. Kod; bilinen sonuçlu test girdileri, birim (boyut) kontrolü ve kenar durumlarla doğrulanmalıdır.

13. Makine mühendisliğinde güvenlik-kritik bir hesabın AI ile yapılmasında sorumluluk açısından hangisi doğrudur?

• A) Sorumluluk onaylayan yetkin mühendiste kalır; AI onay yerine geçmez ✔
• B) AI onayladıysa mühendis sorumluluktan muaf olur
• C) AI çıktısı mühendis imzasının yerine geçer
• D) Güvenlik-kritik hesapta insan doğrulaması gereksizdir

Aciklama: Mühendislik çıktısının doğruluğundan ve onaylanmasından/imzalanmasından sorumlu olan yetkin mühendistir; AI bu sorumluluğu üstlenemez. Güvenlik-kritik hesap ve tasarımlarda AI bir taslak/girdidir, mühendis onayının ve doğrulamasının yerine geçmez.

14. Şirketin gizli bir ürün tasarımını halka açık bir AI aracıyla analiz etmek isterken en doğru davranış hangisidir?

• A) Gizli tasarımı hız için olduğu gibi halka açık araca yüklemek
• B) Veri politikasına uymak, hassas veriyi anonimleştirmek veya kurumsal/izole araç kullanmak ✔
• C) Müşteri verisini paylaşmak hız için her zaman gereklidir
• D) Gizlilik konusu AI kullanımıyla ilgisizdir

Aciklama: Gizli tasarım, müşteri verisi veya patentlenmemiş fikirler, veri politikası bilinmeyen halka açık araçlara olduğu gibi yüklenmemelidir; bu fikri mülkiyet ve gizlilik ihlali riski taşır. Şirket veri politikasına uyulmalı, hassas veri anonimleştirilmeli veya kurumsal/izole araç kullanılmalıdır.