Yayasan MLOps, Etika, Privasi dan Analitis Bertanggungjawab — Kecerdasan Buatan dalam Sains Data dan Analitis

Keuntungan:

Keupayaan untuk memahami fasa MLOps (pelepasan, penggunaan, pemantauan, latihan semula, rollback) dan model drift dan merancang penggunaan yang dipantau
Keupayaan untuk menggunakan prinsip keadilan model, ketelusan dan akauntabiliti dan membezakan ketepatan statistik daripada penerimaan etika
Keupayaan untuk melindungi data peribadi dengan prinsip KVKK/GDPR dan menyerahkan tanggungjawab akhir kepada manusia dalam keputusan berimpak tinggi

Melatih model dan mendapat markah tinggi bukanlah penamat, tetapi pertengahan. Nilai sebenar datang apabila model dimasukkan ke dalam pengeluaran dan berfungsi dengan pasti, dipantau dari semasa ke semasa tanpa kemerosotan, dan keseluruhan proses dijalankan dalam sempadan etika dan undang-undang. Unit penutup ini menggabungkan tiga topik: MLOps (disiplin menyiarkan secara langsung, memantau dan mengekalkan model), etika (keadilan, ketelusan, bukan kejahatan) dan privasi (melindungi data peribadi). AI menghasilkan kod, senarai semak dan cetak biru dalam bidang ini; Tetapi manusia memutuskan sama ada model disiarkan secara langsung, siapa yang akan terjejas dan data yang boleh digunakan. Keputusan ini bukan teknikal, tetapi keputusan tanggungjawab.

MLOps: model hidup seperti produk

MLOps (Operasi Pembelajaran Mesin - amalan menjalankan, memantau dan mengemas kini model pembelajaran mesin dalam pengeluaran) ialah penyesuaian DevOps dalam pembangunan perisian kepada sains data. Idea asas: model bukan fail yang dilatih sekali dan dilupakan, tetapi produk hidup yang memerlukan penyelenggaraan berterusan. Peringkat utama:

1. Versi: Kod (Git), data dan model diversi bersama; Ia direkodkan model mana yang dihasilkan dengan data dan kod yang mana.

2. Penerapan: Model disiarkan secara langsung sebagai API atau kerja kelompok. Ia biasanya diberikan kepada khalayak kecil terlebih dahulu (pengedaran naungan/kenari).

3. Pemantauan: Prestasi model dan data input sentiasa dipantau.

4. Latihan semula: Apabila prestasi menurun, model dilatih semula dengan data yang dikemas kini.

Anjakan corak: herotan senyap

Bahaya terbesar dalam pengeluaran ialah model drift (model drift / data drift). Dunia berubah; Keadaan di mana anda melatih model anda (tingkah laku pelanggan, harga, musim, perundangan) berubah dari semasa ke semasa dan model itu mula menjadi usang. Sebagai contoh, model permintaan yang dilatih sebelum wabak adalah salah sama sekali semasa wabak. Drift berlaku dalam dua bentuk: data drift (pengagihan perubahan data input) dan concept drift (hubungan antara input dan perubahan sasaran). Cara untuk menangkap ini ialah pemantauan: sentiasa menjejaki pengedaran input, pengedaran ramalan dan (jika boleh) prestasi berbanding dengan hasil sebenar.

Awas: Model yang dimasukkan ke dalam pengeluaran akan merosot dengan sendirinya; Ia bukan soal "jika" tetapi "bila." Menggunakan model tanpa menyediakan pemantauan adalah seperti memandu kereta tanpa mengawal enjinnya; Suatu hari ia hanya duduk di sana dengan senyap dan anda tidak perasan.

Elemen MLOps

Tujuan

Jika diabaikan

Versi

Mengetahui apa yang dihasilkan

Tidak boleh dihasilkan semula, tidak boleh dikesan

Pemantauan

Nampak slip awal

Model itu rosak secara senyap

latihan semula

kekal sehingga kini

Ramalan menjadi tua

Balik semula

kembali kepada model yang buruk

Model yang rosak kekal secara langsung

Dokumentasi

ketelusan, perolehan

Maklumat terperangkap dalam satu orang

Etika: keputusan model mempengaruhi orang ramai

Model data semakin digunakan dalam keputusan yang mempengaruhi kehidupan orang ramai: kredit, pengambilan pekerja, insurans, keadilan. Dengan kuasa ini datang tanggungjawab. Risiko etika utama:

Bias dan diskriminasi: Model ini boleh mempelajari dan mengekalkan ketidakadilan dalam data sejarah. Jika kumpulan tertentu telah diberikan kurang kredit pada masa lalu, model menganggap ini adalah "peraturan" dan mengautomasikan diskriminasi. Itulah sebabnya analisis keadilan — menyemak sama ada model menunjukkan prestasi yang sama untuk kumpulan yang berbeza (jantina, umur, wilayah) — adalah penting.

Ketelusan dan kebolehjelasan: Anda sepatutnya dapat menerangkan sebab model menolak seseorang. "Kotak hitam berkata demikian" secara etika dan selalunya tidak boleh diterima di sisi undang-undang. Itulah sebabnya alat kebolehjelasan (kepentingan ciri, nilai SHAP) adalah berharga.

Akauntabiliti: Siapa yang bertanggungjawab jika model membuat keputusan yang salah? Jawapannya sentiasa orang/institusi, bukan model. Pengawasan manusia (human-in-the-loop — manusia yang meluluskan keputusan muktamad) harus dipelihara dalam keputusan berimpak tinggi.

Awas: Model mungkin "betul" secara statistik tetapi tidak boleh diterima dari segi etika. Model yang sangat tepat yang secara sistematik merugikan satu kumpulan bukanlah model yang baik. Kejujuran bukan pengganti keadilan.

Privasi: data peribadi dilindungi dengan teliti

Bahan mentah sains data selalunya adalah data peribadi, dan data ini dilindungi oleh undang-undang: KVKK di Türkiye, GDPR di Eropah. Prinsip asas ialah: pengehadan tujuan (data tidak digunakan untuk tujuan selain daripada tujuan ia dikumpul), pengecilan data (tiada lagi data dikumpul/dikekalkan daripada yang diperlukan), anonimisasi (pengenal pasti maklumat dialih keluar) dan keselamatan (data disimpan disulitkan dan akses terhad). Peraturan kritikal apabila bekerja dengan alatan AI: jangan sekali-kali menampal data peribadi sebenar ke dalam alat AI awam. Selalunya, gambar rajah dan sampel tanpa nama/sintetik adalah mencukupi untuk analisis.

Penekanan tambahan dalam konteks keselamatan maklumat: gunakan alat dan teknik sains data hanya pada data dan sistem yang anda mempunyai kuasa, untuk tujuan analisis defensif dan sah. Akses tanpa kebenaran kepada data orang lain, pengenalan semula individu (mengekstrak identiti daripada data tanpa nama) atau pemprofilan tanpa kebenaran adalah menyalahi undang-undang dan tidak beretika.

tiga kes mini

Kes 1 — Runtuhan tidak dijejaki. Sebuah syarikat e-dagang disiarkan secara langsung dengan model pengesyorannya dan tidak menyediakan penjejakan. Selepas 4 bulan katalog produk telah banyak berubah; model itu terus mengesyorkan produk lapuk, dan kadar penukaran secara senyap menurun sebanyak 30%. Tidak ada yang perasan selama berbulan-bulan. Pengajaran: penempatan tanpa pemantauan menjadi buta.

Kes 2 — Diskriminasi tersembunyi. Model saringan pengambilan pekerja mempelajari tentang ketidakseimbangan jantina dalam data sejarah dan calon wanita yang dipandang rendah secara sistematik. Ia tidak disedari kerana tiada analisis keadilan; Ia didedahkan dalam audit dan institusi itu menghadapi risiko reputasi/undang-undang yang serius. Pengajaran: kawalan keadilan berasaskan kumpulan adalah penting dalam model berimpak tinggi.

Kes 3 — Pelanggaran kerahsiaan. Seorang penganalisis memuatkan fail yang mengandungi e-mel pelanggan sebenar dan sejarah pembelian ke dalam alat AI awam dan berkata, "ringkaskan segmen." Data peribadi telah meninggalkan institusi; Proses KVKK telah bermula. Cara yang betul ialah mengalih keluar medan identiti dan berkongsi sifat tanpa nama sahaja. Pelajaran: data peribadi sebenar tidak memasuki alat terbuka.

Empat templat yang boleh disalin

1) Senarai semak pra-pengerahan:

Peranan anda: Perunding MLOps. Senaraikan perkara yang perlu saya periksa sebelum meletakkan model ke dalam pengeluaran: versi, metrik pemantauan, pelan rollback, ambang prestasi, amaran hanyutan data, orang yang bertanggungjawab. Tambahkan satu ayat penjelasan "mengapa ia penting" untuk setiap item. Saya akan membuat keputusan.

2) Reka bentuk penjejakan peralihan model:

Cadangkan pelan pemantauan drift untuk model klasifikasi dalam pengeluaran: (1) apakah pengagihan input yang harus saya pantau, (2) apakah penggera untuk pengagihan ramalan, (3) cara membandingkan prestasi apabila keputusan sebenar tiba, (4) pada ambang latihan semula yang harus dicetuskan. Juga sediakan rangka kod.

3) Kawalan keadilan:

Tulis kod yang membandingkan prestasi model saya untuk kumpulan yang berbeza (cth. kumpulan umur, wilayah): ingatan/ketepatan dan kadar keputusan positif untuk setiap kumpulan. Beri amaran jika terdapat perbezaan yang ketara antara kumpulan. Membuat tafsiran kausal/politik; Tunjukkan sahaja perbezaannya dan saya akan mempertimbangkan keputusannya.

4) Pra-semakan privasi:

Sebelum memberikan data kepada alat AI, semak: adakah terdapat data peribadi/identiti (nama, e-mel, ID, telefon, alamat, IP) dalam senarai lajur di bawah? Jika ya, senaraikan yang mana harus dialih keluar atau dianonimkan. Lajur: [senarai]. Tujuan: untuk berkongsi skema tanpa nama sahaja.

Gesaan lemah / Gesaan kuat

Gesaan yang lemah:

Model saya sudah sedia, buat siaran langsung.

Penggunaan bukan satu langkah; Disiarkan secara langsung tanpa pemantauan, rollback, keadilan dan kawalan privasi ialah jemputan senyap untuk bencana.

Gesaan kuat:

Peranan anda: perunding MLOps yang bertanggungjawab. Model saya telah dilatih, saya mahukan persediaan sepenuhnya sebelum bersiaran langsung. Hasilkan: (1) senarai semak pra-pengerahan, (2) pelan pemantauan drift, (3) kod semakan keadilan berasaskan kumpulan, (4) semakan privasi (adakah data peribadi). Cadangkan juga cara melindungi persetujuan manusia dalam keputusan berimpak tinggi. Keputusan muktamad adalah milik saya.

Di sini pengedaran, pemantauan, keadilan dan privasi dianggap sebagai satu proses yang bertanggungjawab.

Kesilapan biasa

Menggunakan model tanpa menyediakan pemantauan. Model secara senyap tergelincir dan herot; Ia boleh mengambil masa berbulan-bulan untuk diperhatikan.
Melangkaui pemeriksaan keadilan. Model kesetiaan tinggi boleh merugikan kumpulan secara sistematik.
Membuat keputusan kotak hitam yang tidak dapat dijelaskan. Keputusan berimpak tinggi mesti boleh dijelaskan; "Model itu berkata begitu" tidak mencukupi.
Memberi data peribadi sebenar untuk membuka alat AI. Pelanggaran KVKK/GDPR; Gambar rajah dan contoh tanpa nama sudah memadai.
Mewakilkan keputusan kepada model. Tanggungjawab sentiasa terletak pada seseorang; Pengawasan manusia berimpak tinggi dikekalkan.

Petua: Sebelum anda membuat siaran langsung dengan setiap model, tanya satu soalan dengan lantang: "Jika model ini secara senyap-senyap melanggar esok atau secara tidak adil menghukum kumpulan, bagaimanakah saya akan melihat dan melancarkannya?" Jika anda tidak mempunyai jawapan yang jelas untuk soalan ini, model itu belum bersedia untuk pengeluaran lagi.

Secara ringkasnya

Pekerjaan model tidak berakhir dengan skor yang tinggi, tetapi dengan bekerja dengan andal dan bertanggungjawab dalam pengeluaran. MLOps ialah disiplin untuk menyiarkan secara langsung, memantau hanyut, melatih semula dan melancarkan model; Penggunaan tanpa penjejakan adalah keruntuhan senyap. Etika memerlukan keadilan, ketelusan dan akauntabiliti model; ketepatan statistik bukan pengganti untuk penerimaan etika. Privasi bermaksud melindungi data peribadi dengan prinsip KVKK/GDPR dan menjauhkan data sebenar daripada alat terbuka. Semua keputusan ini bukan keputusan teknikal tetapi tanggungjawab dan sentiasa menjadi milik manusia.

Tugasan permohonan

Fikirkan ia seolah-olah anda akan meletakkan model yang telah anda bina (atau hipotesis) ke dalam pengeluaran dan isi empat senarai: (1) senarai semak pra-pengerahan, (2) metrik hanyut yang anda akan jejak, (3) pelan kawalan kesaksamaan berasaskan kumpulan, (4) kawalan privasi. Kemudian tulis jawapan konkrit kepada soalan "Bagaimanakah saya akan perasan jika ia secara senyap pecah esok dan mendapatkannya semula?"

senarai semak

[ ] Adakah saya menggunakan model dengan pemantauan (amaran slip) dan pelan balik?
[ ] Adakah saya telah menyemak jurang keadilan/prestasi untuk kumpulan yang berbeza?
[ ] Adakah saya telah mengekalkan manusia-dalam-gelung pada keputusan berimpak tinggi?
[ ] Adakah saya telah melindungi data peribadi dengan prinsip KVKK/GDPR dan menjauhkannya daripada alat terbuka?
[ ] Adakah saya telah meletakkan tanggungjawab utama kepada manusia, bukan model?

Peperiksaan Modul

1. Seorang saintis data bertanya kepada kecerdasan buatan, "Seberapa tepat hutan rawak pada data ini?" tanpa melatih model sama sekali, dan secara langsung meletakkan jawapan "89%" ke dalam pembentangan. Apakah kesilapan asas dalam pendekatan ini?

A) Menunggu metrik tanpa memberikan data dan model kepada kecerdasan buatan; Mengabaikan bahawa nombor yang dihasilkannya adalah palsu dan metrik sebenar hanya boleh didapati melalui latihan dan ujian ✔
B) Mesti menggunakan regresi logistik dan bukannya hutan rawak
C) Kadar ketepatan mestilah sentiasa melebihi 90%.
D) Dilarang sama sekali untuk memasukkan metrik dalam pembentangan

Penjelasan: Kepintaran buatan tidak boleh menghasilkan metrik tanpa mengakses model dan data; Nombor yang dia beri adalah halusinasi (rekaan). Metrik diperolehi oleh pengiraan saintis data sendiri hanya selepas model itu benar-benar dilatih dan diuji. Output yang tidak disahkan adalah seperti laporan yang tidak ditandatangani.

2. Lajur 'sebab penutupan akaun' disertakan semasa mengumpul data untuk ramalan churn; Lajur ini diisi hanya selepas pelanggan keluar. Model memberikan 97% pada set ujian, tetapi tidak berfungsi dalam pengeluaran. Apakah nama dan punca keadaan ini?

A) Pembelajaran berlebihan; Modelnya terlalu kompleks
B) Kebocoran data; ✔ Menggunakan maklumat yang tidak akan tersedia pada masa ramalan, tetapi merupakan hasil sasaran, sebagai ciri
C) Pembelajaran yang tidak mencukupi; Modelnya terlalu ringkas
D) Bias pemilihan; saiz sampel yang kecil

Penjelasan: Ini ialah kebocoran data klasik: 'sebab penutupan' adalah hasil daripada sasaran dan masih kosong pada masa ramalan. Model melakukan silap mata dengan pengetahuan masa depan ini, ia kelihatan hebat pada set ujian tetapi ranap dalam pengeluaran kerana lajur itu kosong. Soalan 'adakah saya mempunyainya pada masa ramalan' harus ditanya pada setiap lajur.

3. Seorang penganalisis mengisi nilai yang hilang dalam lajur hasil dengan min; tetapi yang hilang sebenarnya tergolong dalam segmen berpendapatan rendah yang tidak pernah mengisytiharkan pendapatan (systematic missing). Mengapa pengisian ini tidak betul?

A) Min sentiasa lebih besar daripada median, jadi ia tidak betul
B) Nilai yang hilang tidak boleh diisi, ia hendaklah sentiasa dipadamkan
C) Mengisi jurang sistematik dengan min memesongkan data dengan mewakili kumpulan itu secara buatan; Pengisian dilakukan tanpa bertanya soalan 'kenapa kosong?' ✔
D) Mengira purata menimbulkan masalah prestasi kerana ia terlalu perlahan

Penjelasan: Punca kekurangan menentukan penyelesaian. Apabila hilang sistematik (jurang tertumpu dalam kumpulan tertentu) diisi dengan purata, kumpulan itu menjadi 'pendapatan purata' buatan dan data diherotkan. Sebelum mengisinya, soalan 'kenapa kosong' perlu ditanya; min yang hilang sistematik/signifikan tidak boleh diisi.

4. Satu pasukan menemui korelasi 0.78 antara 'perbelanjaan iklan' dan 'jualan' dan menggandakan belanjawan; Walau bagaimanapun, apa yang sebenarnya mencetuskan kedua-duanya ialah kempen bermusim. Apakah prinsip dalam statistik yang menerangkan ralat ini?

A) Korelasi bukan sebab; Pembolehubah ketiga yang tersembunyi mungkin mempengaruhi kedua-dua pembolehubah ✔
B) Memandangkan korelasi 0.78 terlalu rendah, hubungan itu harus diabaikan
C) Korelasi sentiasa membuktikan sebab, pasukan mendapatnya dengan betul
D) Korelasi antara pengiklanan dan jualan tidak boleh dikira secara matematik.

Penjelasan: Korelasi bukan sebab. Kedua-dua pembolehubah mungkin bertindak bersama kerana pembolehubah ketiga yang tersembunyi (di sini kempen bermusim) mempengaruhi kedua-duanya. Kesimpulan bahawa satu menyebabkan yang lain hanya boleh diwujudkan melalui eksperimen dan pengetahuan lapangan; Bilangan korelasi sahaja bukanlah bukti kausalitas.

5. Model pengesanan penipuan menunjukkan ketepatan 99.2% dan pasukan meraikannya; Walau bagaimanapun, kadar transaksi palsu dalam data hanya 0.8% dan penarikan semula model ialah 6%. Apakah yang ditunjukkan oleh jadual ini?

A) Model ini sempurna kerana ketepatan melebihi 99%
B) Ketepatan mengelirukan dengan data yang tidak seimbang; Model ini merindui hampir semua palsu (paling ingat rendah), metrik yang sesuai harus dilihat ✔
C) Tiada masalah kerana penarikan balik model adalah tinggi
D) Tidak perlu membina model kerana kadar palsu adalah rendah

Penjelasan: 'Ketepatan' mengelirukan dalam data tidak seimbang. Apabila model memanggil hampir setiap transaksi 'bersih', ia mendapat ketepatan yang tinggi kerana palsu sangat sedikit, tetapi ia gagal menangkap palsu, yang merupakan tujuan utamanya (ingat 6%). Oleh itu, dalam masalah tidak seimbang, tumpuan bukan pada ketepatan, tetapi pada matriks kekeliruan dan metrik yang sesuai untuk tujuan kerja, seperti ingat semula/ketepatan.

6. Dalam projek ramalan permintaan, data bergantung pada masa dibahagikan secara rawak kepada latihan/ujian. Model ini memberikan ketepatan 93% tetapi ranap dalam pengeluaran. Apakah pendekatan pembahagian yang betul?

A) Membesarkan set ujian, cth. membelah 50%/50%
B) Menggunakan model yang lebih kompleks
C) Keluarkan partition sepenuhnya dan latih dengan semua data
D) Pemisahan kronologi: latihan dengan tempoh lama dan ujian dengan tempoh baru, dengan itu menghalang model daripada melihat masa depan ✔

Penjelasan: Jika pembahagian rawak dilakukan dalam data siri masa, model melihat masa depan dan meramalkan masa lalu dalam latihan; ia adalah satu kebocoran dan menghasilkan kejayaan yang sebenarnya tidak wujud. Pendekatan yang betul ialah pemisahan kronologi: latihan dengan tempoh lama dan ujian dengan tempoh baru, meniru keadaan sebenar dalam pengeluaran (meramalkan dari masa lalu ke masa depan).

7. Daripada data apakah parameter penskalaan (StandardScaler) harus dikira dalam kejuruteraan ciri dan bagaimana ia harus digunakan?

A) Ia perlu dikira daripada semua data (latihan + ujian bersama) supaya lebih tepat
B) Ia perlu dikira secara berasingan untuk setiap baris, daripada nilai baris itu sendiri
C) Perlu dikira daripada data ujian sahaja
D) Ia hendaklah dikira hanya daripada data latihan, maka parameter yang sama hendaklah digunakan pada data ujian; jika tidak ia akan bocor ✔

Penjelasan: Parameter semua transformasi (min, sisihan piawai, dsb.) seperti penskalaan, pengekodan dan padding hendaklah dipelajari hanya daripada data latihan, maka perkara yang sama harus digunakan pada data ujian. Mengambil kira data ujian juga menyebabkan maklumat ujian mengganggu latihan, iaitu, kebocoran, dan menjadikan model kelihatan lebih baik daripada sebelumnya. Menggunakan Pipeline memastikan ini.

8. Model memberikan 98% ketepatan pada set latihan dan 72% ketepatan pada set ujian. Apakah yang ditunjukkan oleh gejala ini dan apa yang perlu dilakukan?

A) Pembelajaran yang tidak mencukupi; model harus dibuat lebih kompleks
B) Kebocoran data; set ujian mesti diubah
C) Overfitting; model harus dipermudahkan, regularization dan cross-validation hendaklah digunakan ✔
D) Keadaan biasa; Skor pendidikan sentiasa lebih tinggi, langkah berjaga-jaga tidak diperlukan

Penjelasan: Skor yang sangat tinggi dalam latihan dan skor yang sangat rendah dalam ujian adalah gejala klasik overfitting: model telah menghafal hingar data latihan dan bukannya corak sebenar. Penyelesaian termasuk memudahkan model, lebih banyak data, penyelarasan dan mengesahkan keadaan dengan pengesahan silang. Bergantung pada skor pendidikan semata-mata menyembunyikan perangkap ini.

9. Dalam pembentangan pengurusan, paksi-y carta bar di mana peningkatan jualan daripada 1,000 kepada 1,020 dimulakan pada 980 untuk menjadikan peningkatan itu kelihatan besar. Peningkatan sebenar ialah 2%. Mengapa ini isu etika?

A) Paksi y yang dipotong secara visual membesar-besarkan perbezaan kecil dan mengelirukan penonton; Untuk keadilan, paksi dalam bar perbandingan hendaklah bermula dari 0 ✔
B) Carta bar tidak boleh digunakan untuk data jualan
C) Tiada masalah; Ia sentiasa baik untuk menjadikan carta kelihatan menarik
D) Paksi-Y hendaklah sentiasa bermula daripada nilai terbesar data

Penjelasan: Dalam carta bar untuk tujuan perbandingan, paksi-y biasanya bermula pada 0. Pemotongan paksi dan bermula pada 980 menjadikan perbezaan kecil 2% kelihatan besar secara visual dan mengelirukan penonton. Tanggungjawab etika profesional data adalah untuk melukis graf jujur yang tidak terlalu menyatakan atau memandang rendah data.

10. Seorang penganalisis mencari jumlah pusing ganti 3 kali selepas MENYERTAI pesanan dengan jadual produk; Bilangan baris meningkat daripada 240 ribu kepada 690 ribu. Apakah yang sepatutnya dilakukan untuk mengelakkan ralat senyap ini?

A) Bahagikan jumlah perolehan dengan 3
B) Sentiasa gunakan pertanyaan berasingan dan bukannya JOIN
C) Memadam jadual produk sepenuhnya
D) Menyemak bilangan baris selepas bergabung/SERTAI dan mengesahkan bahawa ia disambungkan melalui kekunci yang betul; Menangkap replikasi awal ✔

Penjelasan: Apabila terdapat berbilang baris untuk setiap produk (warna yang berbeza, contohnya) dalam jadual produk, SERTAI melalui kekunci yang salah akan menduplikasi setiap pesanan dan meningkatkan jumlahnya. Kod berjalan tanpa ralat tetapi hasilnya salah. Cara untuk mengelakkan ini adalah dengan menyemak bilangan baris selepas setiap cantuman/JOIN dan cantumkan dengan kekunci yang betul.

11. Model saringan pengambilan pekerja mempelajari tentang ketidakseimbangan jantina dalam data sejarah dan secara sistematik di bawah markah calon wanita, tetapi ketepatan keseluruhannya adalah tinggi. Apakah maksud ini?

A) Tiada masalah kerana model mempunyai ketepatan yang tinggi
B) Ketepatan statistik bukanlah pengganti kepada kebolehterimaan etika; model telah belajar tentang diskriminasi masa lalu, semakan keadilan berasaskan kumpulan diperlukan ✔
C) Meningkatkan lagi ketepatan model menyelesaikan masalah
D) Keadilan berada di luar skop sains data

Penjelasan: Walaupun model adalah betul dari segi statistik, ia mungkin tidak boleh diterima dari segi etika. Model ini mempelajari ketidakadilan dalam data masa lalu dan mengautomasikan diskriminasi. Integriti yang tinggi bukan pengganti keadilan; Dalam model berimpak tinggi, kawalan kesaksamaan, yang mengukur perbezaan prestasi/keputusan untuk kumpulan yang berbeza, adalah penting dan tanggungjawab muktamad terletak pada manusia.

12. Seorang pekerja memuat naik fail yang mengandungi e-mel pelanggan sebenar dan sejarah pembelian ke dalam alat AI awam dan mengatakan 'ringkaskan segmen'. Mengapa ini satu kesilapan yang serius dan apakah cara yang betul?

A) Tiada masalah; Alat AI tidak pernah menyimpan data
B) Ralatnya ialah fail terlalu besar; sepatutnya dikurangkan
C) Menyediakan data peribadi sebenar kepada alat terbuka adalah pelanggaran KVKK/GDPR; medan identiti sepatutnya telah dialih keluar dan hanya skema/harta tanpa nama dikongsi ✔
D) CSV sepatutnya digunakan dan bukannya Excel sahaja

Penjelasan: Apabila data peribadi sebenar (seperti e-mel, nama, dll.) diberikan kepada alat kecerdasan buatan yang tersedia secara umum, akan berlaku pelanggaran privasi dalam skop KVKK / GDPR; data meninggalkan organisasi. Selalunya, gambar rajah dan sampel tanpa nama/sintetik adalah mencukupi untuk analisis. Cara yang betul ialah mengalih keluar medan identiti dan berkongsi sifat tanpa nama sahaja.

13. Model cadangan dimasukkan ke dalam pengeluaran tetapi penjejakan tidak ditetapkan; Apabila katalog produk berubah selepas 4 bulan, model terus mengesyorkan produk lama dan kadar penukaran secara senyap menurun sebanyak 30%. Apakah nama fenomena ini?

A) Pembelajaran berlebihan; Model menghafal set latihan
B) Model hanyut; Apabila dunia berubah, model menjadi usang secara senyap, tanpa disedari kerana pemantauan tidak ditubuhkan ✔
C) Bias pemilihan; bias sampel
D) Pelanggaran pengecilan data

Penjelasan: Ini ialah model drift (model/data drift): apabila dunia berubah (katalog, tingkah laku, musim) keadaan di mana model dilatih beralih dan model rosak secara senyap. Model yang dimasukkan ke dalam pengeluaran merosot dengan sendirinya; Ini soal 'bila'. Penggunaan tanpa pemantauan (menjejaki input dan prestasi) menjadikannya mustahil untuk mengesan kemerosotan.

14. Model yang mendapat ketepatan 88% dalam pembahagian latihan/ujian tunggal mempunyai skor pengesahan silang 5 kali ganda sebanyak 88%, 71%, 83%, 64%, 79%. Apakah yang ditunjukkan oleh ini dan mengapa pengesahan silang penting?

A) Model adalah stabil; 88% adalah prestasi sebenar
B) Pengesahan silang adalah tidak perlu; Satu petak sudah memadai
C) Kemeruapan skor yang besar menunjukkan bahawa model tidak stabil; pengesahan silang mengasaskan prestasi pada purata dan pengedaran berbilang tong sampah, bukan satu tong bertuah ✔
D) Adalah lebih baik untuk melaporkan skor tertinggi (88%)

Penjelasan: Satu petak boleh bertuah atau tidak bertuah; 88% hanyalah hasil daripada pembahagian yang mudah itu. Pengesahan silang membahagikan data berbilang kali, berdasarkan prestasi pada min (di sini ~77%) dan menunjukkan turun naik markah. Kemeruapan yang tinggi di sini menunjukkan bahawa model itu tidak stabil; Bergantung pada satu petak adalah mengelirukan.