Satuan
1. Pengantar Kecerdasan Buatan dan Disiplin Verifikasi di Bidang Teknik Otomotif 2. Dukungan Desain dan Simulasi Kendaraan: CAE, CFD dan FEA 3. ADAS dan Mengemudi Otonom: Dasar-Dasar Penginderaan 4. Kontrol Kualitas Lini Produksi: Deteksi Cacat Visual 5. Pemeliharaan Prediktif dan Telemetri Kendaraan 6. Analisis Data Uji dan Validasi 7. Pemilihan Bahan dan Ringan 8. Analisis Rantai Pasokan, Permintaan, dan Inventaris 9. Analisis Data Otomotif dengan Python: End-to-End 10. Keamanan Fungsional, SOTIF, Etika dan Privasi 11. Integrasi End-to-End, MLOps dan Tanggung Jawab Insinyur
Satuan 10 / 11

Keamanan Fungsional, SOTIF, Etika dan Privasi

Keuntungan:

  • Kemampuan untuk menjelaskan keamanan fungsional ISO 26262 dan kerangka kerja ISO 21448 (SOTIF) serta pengaruhnya terhadap sistem yang mengandung kecerdasan buatan
  • Kemampuan untuk mengelola privasi data, data pengemudi, keamanan siber (ISO/SAE 21434) dan risiko etika dalam konteks otomotif
  • Kemampuan untuk mempertahankan tanggung jawab manusia atas keputusan penting keselamatan dengan memahami bahwa keluaran AI bukanlah pengganti persetujuan insinyur yang kompeten

Anda berada di unit paling kritis dari modul ini. Sejauh ini kita telah melihat AI sebagai akselerator mulai dari desain hingga manufaktur, dari pengujian hingga rantai pasokan. Namun pertanyaan yang menentukan dalam otomotif adalah: apakah sistem ini akan merugikan siapa pun dan siapa yang bertanggung jawab? Unit ini secara sederhana membahas kerangka kerja untuk menggunakan AI secara bertanggung jawab dalam industri yang kritis terhadap keselamatan—keselamatan fungsional, SOTIF, keamanan siber, privasi, dan etika. Prinsip intinya tetap sama: keluaran AI tidak pernah menggantikan persetujuan insinyur yang kompeten; Keputusan dan tanggung jawab yang penting bagi keamanan adalah milik manusia.

ISO 26262: keamanan fungsional

ISO 26262 adalah standar keselamatan fungsional untuk sistem kelistrikan/elektronik kendaraan jalan raya. Keamanan fungsional; Hal ini berkaitan dengan memastikan bahwa ketika suatu sistem gagal (sensor rusak, perangkat lunak gagal) hal itu tidak menyebabkan situasi berbahaya.

Inti dari standar ini adalah ASIL (Automotive Safety Integrity Level). Suatu bahaya dievaluasi dalam tiga dimensi:

  • Tingkat Keparahan: Seberapa buruk dampaknya jika hal itu terjadi? (cedera ringan atau kematian)
  • Paparan: Seberapa sering hal ini terjadi?
  • Pengendalian: Seberapa besar pengemudi dapat mengendalikan situasi?

Kombinasi ketiganya menghasilkan level dari ASIL A (terendah) hingga ASIL D (tertinggi, misalnya pengereman, kemudi). Seiring meningkatnya level, persyaratan pengembangan, pengujian, dan dokumentasi menjadi lebih ketat.

UTAMA

sistem sampel

Intensitas kebutuhan

SEBUAH.

Kerusakan pencahayaan interior

rendah

B.

lampu belakang

sedang

C.

Beberapa fungsi ADAS

tinggi

D.

Rem, kemudi, airbag

tertinggi

Tip: Mengetahui tingkat UTAMA suatu fungsi memberi tahu Anda seberapa besar perhatian yang dibutuhkan dalam penggunaan AI dalam fungsi tersebut. TIDAK ada keputusan berdasarkan keluaran AI dalam suatu fungsi yang dapat diterima tanpa verifikasi keamanan independen.

ISO 21448 (SOTIF): keamanan fungsi yang diinginkan

Keamanan fungsional klasik (ISO 26262) berfokus pada pertanyaan “apa yang terjadi jika sistem gagal?” Namun ada masalah baru dalam sistem deteksi kecerdasan buatan: meskipun sistem tidak pernah mengalami kegagalan fungsi, sistem tersebut mungkin tidak memadai. Kamera berfungsi dengan baik tetapi tidak dapat mengenali lempengan bersalju; Radarnya solid, tetapi mengabaikan kendaraan yang tidak bergerak sebagai sinyal hantu. Tidak ada kegagalan perangkat keras/perangkat lunak di sini; Permasalahannya terletak pada batas lingkup fungsi yang dimaksudkan.

ISO 21448 - SOTIF (Keamanan Fungsi yang Diinginkan) mengatasi kesenjangan ini dengan tepat: mengelola risiko yang timbul dari skenario yang tidak diketahui, batas deteksi, dan situasi yang tidak terduga, bahkan jika sistem berfungsi sesuai desain. Dalam ADAS/penggerak otonom berbasis AI, SOTIF sama pentingnya dengan ISO 26262.

Bingkai

Fokus

contoh

ISO 26262

Resiko akibat kegagalan

Sensor rusak, sinyal hilang

ISO 21448 (SOTIF)

Risiko ketidakcukupan/tidak diakuinya

Kamera yang kokoh tidak mengenali lempengan bersalju

ISO/SAE 21434

keamanan siber

Serangan sistem, manipulasi data

Perhatian: Model AI bersifat statistik; Mereka tidak dapat menjamin bahwa mereka akan “melihat setiap situasi dengan benar”. SOTIF bertujuan untuk mempersempit skenario bahaya yang tidak diketahui dalam sistem yang terbatas ini dan mengurangi risiko yang tersisa ke tingkat yang dapat diterima. “Model ini 99,9% akurat” bukanlah bukti keamanan.

ISO/SAE 21434: keamanan siber

Kendaraan yang terhubung dan ditentukan oleh perangkat lunak rentan terhadap serangan dunia maya. Penyerang jarak jauh dapat mengubah perintah rem, mencuri telemetri, atau mengelabui model deteksi (serangan permusuhan: membuat model salah mengenalinya dengan menempelkan stiker kecil di piring). ISO/SAE 21434 adalah kerangka rekayasa untuk keamanan siber kendaraan. Dalam konteks kecerdasan buatan, ada dua risiko yang menonjol: menipu model (adversarial) dan meracuni data pelatihan (data keracunan). Sistem AI yang kritis terhadap keamanan harus diuji terhadap serangan ini.

Privasi dan data pribadi

Kendaraan modern adalah “pusat data di atas roda”: lokasi, perilaku berkendara, audio, bahkan kamera kabin. Sebagian besar adalah data pribadi dan dilindungi oleh KVKK (Türkiye) dan GDPR (Eropa). VIN (nomor sasis) dapat mengidentifikasi kendaraan dan pemiliknya secara tidak langsung. Prinsip dasar:

  • Minimalkan data: Kumpulkan hanya yang diperlukan.
  • Batasan tujuan: Jangan menggunakan data untuk tujuan selain tujuan pengumpulannya.
  • Anonimisasi/pseudonimisasi: Menghapus atau menyandikan informasi identitas pribadi.
  • Persetujuan eksplisit dan transparansi: Pengemudi harus mengetahui apa yang dikumpulkan.
  • Penyimpanan dan transfer yang aman.
Perhatian: Mengirim VIN mentah, riwayat lokasi, atau perilaku mengemudi ke alat AI cloud publik dapat merupakan pelanggaran privasi dan risiko kontrak. Saat menangani data ini, anonimkan data tersebut dan gunakan lingkungan institusional yang dilindungi data.

Etika dan tanggung jawab insinyur

Kecerdasan buatan membawa beberapa risiko etika:

  • Bias: Jika data pelatihan mendominasi kondisi tertentu (misalnya siang hari, kondisi kulit terang, jalan regional tertentu), model mungkin berperforma buruk dalam kondisi yang kurang terwakili (malam hari, kondisi berbeda). Ini adalah kerentanan.
  • Terlalu percaya diri (bias otomasi): Orang-orang secara membabi buta mempercayai otomasi dan mengesampingkan penilaian mereka sendiri. Jika teknisi penguji berhenti melihat data mentah hanya karena AI mengatakan “lulus”, ini adalah tren yang berbahaya.
  • Hilangnya tanggung jawab: "Model yang diputuskan" bukanlah pembelaan. Harus selalu ada orang yang menandatangani di balik keputusan tersebut.

Studi kasus kecil

Kasus 1 - Batas SOTIF. Sistem pengereman darurat otomatis lulus semua uji laboratorium, tanpa kegagalan fungsi. Di lapangan, di bawah terik matahari, sebuah truk putih salah mengira trailernya berada di langit dan terlambat mengerem. Ini bukan kegagalan fungsi, namun kerentanan SOTIF: sistem masih utuh namun skenario berada di luar batas deteksi. Tim menambahkan skenario ini ke perpustakaan pengujian dan memperkuat fusi radar. Kesimpulan: “Tidak ada kegagalan” bukanlah bukti keamanan; Ketidakcukupan juga merupakan sebuah risiko.

Kasus 2 - Data yang bias. Model deteksi pejalan kaki dilatih terutama dengan data siang hari; Ingatan malam hari jauh lebih rendah. Tim menyeimbangkan dan melatih kembali data malam hari dan cahaya redup serta melaporkan skenario malam hari secara terpisah. Kesimpulan: Data yang tidak seimbang menciptakan kerentanan yang mematikan dalam keadaan tertentu.

Kasus 3 - Pencegahan pelanggaran privasi. Seorang analis akan menempelkan data armada ke alat AI publik ketika dia menyadari bahwa data tersebut berisi lokasi VIN dan GPS mentah. Ia bekerja di lingkungan perusahaan dengan menganonimkan data (vehicle_01..arac_50 bukan VIN, kode wilayah bukan lokasi). Hasil: Perhatian sesaat dapat mencegah terjadinya pelanggaran serius KVKK.

templat cepat

Templat 1 - Penilaian awal SEBELUMNYA/risiko (draf):

Peran: Anda adalah konsultan keselamatan fungsional. Tugas: Menyiapkan draf untuk membantu analisis bahaya dan risiko suatu fungsi. Konteks: Fungsi: pengereman darurat otomatis; perkotaan dan antar kota. Kendala: penugasan ASIL yang tepat; Memberikan daftar pertanyaan dan perhatian pada dimensi tingkat keparahan/paparan/pengendalian; menunjukkan bahwa tugas akhir berada pada security engineer yang berwenang.Output: Ukuran | pertanyaan evaluasi | tabel catatan perhatian.

Templat 2 - Pemindaian skenario SOTIF:

Peran: Anda adalah pakar SOTIF. Tugas: Membuat daftar skenario ketika fungsi deteksi mungkin 'sistem utuh namun tidak memadai'. Konteks: Kamera + radar; sinar matahari rendah, salju, pintu keluar terowongan, objek yang tidak biasa.Keluaran: Skenario | mengapa kekurangan | rekomendasi pengurangan.

Templat 3 - Kontrol privasi:

Peran: Anda adalah konsultan perlindungan data (KVKK/GDPR). Tugas: Melakukan audit privasi sebelum membagikan kumpulan data. Konteks: Telemetri armada; Kolom berisi VIN, GPS, skor mengemudi. Batasan: Bidang mana yang merupakan data pribadi, bagaimana cara menganonimkannya, apa yang tidak boleh saya bagikan sama sekali; sort.Output: Bidang | risiko | grafik transaksi yang direkomendasikan.

Templat 4 - Pemeriksaan bias:

Peran: Anda adalah auditor keselamatan dan keadilan ML. Tugas: Beri tahu saya cara mencari risiko bias dalam model deteksi. Konteks: Deteksi pejalan kaki; data pelatihan hari/kota tertimbang.Output: Kondisi untuk diperiksa | pengukuran | tanda risiko.

Perintah lemah / Perintah kuat

Perintah yang lemah:

Apakah sistem pengereman otonom ini aman, konfirmasi.

Mencoba mendapatkan izin keamanan AI itu berbahaya; Persetujuan adalah milik teknisi yang berwenang.

Perintah yang kuat:

Peran: Anda adalah konsultan keselamatan fungsional dan SOTIF. Tugas: Buat daftar pertanyaan apa yang harus saya ajukan dan bukti apa yang harus saya kumpulkan dalam penilaian keselamatan fungsi pengereman otomatis saya. Konteks: Deteksi berbasis AI; kamera+radar; ASIL bisa jadi tinggi. Kendala: 'Setujui' sistem; Memberikan daftar pertanyaan dan bukti terpisah terkait ISO 26262 (cacat) dan SOTIF (kekurangan); Tekankan bahwa persetujuan akhir ada pada insinyur keamanan yang berwenang. Keluaran: Kerangka | pertanyaan | tabel bukti yang diperlukan.

Kesalahan umum

  • Membingungkan "tidak ada kerusakan" dengan "aman". Defisiensi SOTIF dapat mematikan tanpa menyebabkan kerusakan.
  • Mendapatkan izin keamanan AI. Persetujuan dan tanggung jawab terletak pada insinyur yang berwenang.
  • Mengira keakuratan model sebagai bukti keamanan. Akurasi 99,9% tidak menunjukkan bahwa risiko yang tersisa telah dikelola.
  • Tidak melindungi data pribadi. VIN/lokasi/perilaku mengemudi berada dalam cakupan KVKK/GDPR.
  • Mengabaikan bias dan terlalu percaya diri. Data yang tidak seimbang dan kepercayaan buta terhadap otomatisasi adalah kerentanannya.

Singkatnya

  • ISO 26262 mengelola risiko kegagalan (dengan ASIL), sedangkan ISO 21448/SOTIF mengelola risiko kegagalan tanpa kegagalan; Keduanya penting dalam deteksi AI.
  • keamanan siber ISO/SAE 21434; serangan permusuhan dan keracunan data merupakan ancaman khusus AI.
  • Minimalkan data, pembatasan tujuan, dan anonimisasi adalah wajib dalam lingkup KVKK/GDPR; VIN/lokasi adalah data pribadi.
  • Prasangka, terlalu percaya diri dan hilangnya tanggung jawab adalah risiko etika utama.
  • Keluaran AI bukanlah pengganti persetujuan insinyur yang berkualifikasi; Keputusan dan tanda tangan yang penting bagi keamanan selalu menjadi milik orang tersebut.

Tugas aplikasi

Pilih fungsi yang berhubungan dengan keselamatan (misalnya menjaga jalur). (1) Diskusikan mengapa tingkat ASIL dari fungsi ini mungkin tinggi/rendah sepanjang dimensi tingkat keparahan/paparan/pengendalian. (2) Hasilkan 5 skenario “sistem yang solid namun tidak memadai” dengan Templat 2. (3) Audit kerahasiaan kumpulan data yang relevan dengan Templat 3. (4) Jelaskan mengapa mengatakan “Model dikonfirmasi” bukanlah sebuah pembelaan.

daftar periksa

  • [ ] Saya mengevaluasi dimensi SEBENARNYA dari fungsi tersebut (saya menyerahkan penugasan persisnya kepada otoritas).
  • [ ] Saya membedakan antara ISO 26262 (kerusakan) dan SOTIF (kekurangan).
  • [ ] Saya telah memperhitungkan risiko keamanan siber (permusuhan/keracunan).
  • [ ] Saya menganonimkan dan meminimalkan data pribadi.
  • [ ] Saya memeriksa risiko bias dan terlalu percaya diri.
  • [ ] Saya telah memastikan bahwa izin keamanan ada pada teknisi yang berkualifikasi.
Sebelumnya Selanjutnya