Keuntungan:
- Mampu membedakan mana dalam alur kerja ML (kode, data, dokumen) kecerdasan buatan menghemat waktu dengan risiko rendah, dan mana keputusan seperti metrik/data/memasukkan ke dalam produksi diserahkan kepada manusia, sesuai dengan tingkat risiko tugas.
- Kemampuan untuk menerapkan disiplin yang memverifikasi setiap keluaran AI dengan menghubungkannya ke sumber, menjalankannya kembali, mengukurnya, dan meneruskannya melalui filter teknik.
- Kemampuan untuk membiasakan diri tidak mengirimkan data mentah rahasia dan pribadi ke alat eksternal, menggunakan alat yang disetujui perusahaan, dan menangani masalah keamanan hanya untuk tujuan defensif.
Kecerdasan Buatan dalam Rekayasa Pembelajaran Mesin: Peran, Batasan, Validasi, dan Tanggung Jawab
Seorang insinyur pembelajaran mesin (insinyur ML: seorang profesional perangkat lunak yang merancang, melatih, dan menghadirkan model yang belajar dari data ke produksi) saat ini bekerja dengan alat kecerdasan buatan lainnya di setiap langkah pekerjaannya. Asisten pengkodean berlaku saat menulis kode, model percakapan saat menjelajahi data, dan model bahasa besar (LLM: jaringan saraf dengan miliaran parameter yang memahami dan menghasilkan teks) saat membuat dokumentasi. Modul ini menganggap kecerdasan buatan sebagai produk yang dikembangkan dan alat kerja sehari-hari seorang insinyur ML. Ini beroperasi dengan menggambarkan secara jelas batas-batas tanggung jawab tanpa mencampuradukkan kedua peran tersebut.
Pada unit pertama ini, kita akan menjawab pertanyaan mendasar: Di bagian mana dalam rekayasa ML kecerdasan buatan dapat menghemat waktu secara real-time, dan di bagian mana kita harus menyerahkan keputusannya kepada manusia? Jawabannya adalah inti dari disiplin teknik: yang membuat cepat, yang memverifikasi bertanggung jawab.
Di manakah kegunaan kecerdasan buatan dalam rekayasa ML?
Proyek ML kira-kira melalui jalur berikut: pengumpulan data, pembersihan data, rekayasa fitur (menerjemahkan data mentah menjadi sinyal digital yang dapat dipahami model), pelatihan model, evaluasi, penerapan (penerapan: membuka model ke pengguna sebenarnya) dan pemantauan. AI membantu di setiap pemberhentian di jalur ini, namun tingkat otoritasnya berbeda-beda.
Area dengan imbalan tinggi dan risiko rendah: membuat kerangka kode, menyusun fungsi transformasi data, menafsirkan pesan log, mendeskripsikan pelacakan tumpukan, meringkas catatan eksperimen, menulis dokumentasi dan README, mengusulkan kasus uji. Di sini, kesalahan kecerdasan buatan tidaklah mahal; karena keluarannya sudah melalui pengujian dan review.
Area berisiko tinggi: memutuskan data apa yang dimasukkan ke dalam pelatihan, mengonfirmasi apakah suatu model harus dimasukkan ke dalam produksi, menilai suatu metrik "cukup baik", keputusan untuk memproses data pribadi, menutup kerentanan keamanan sebagai "sampah". Hal ini memengaruhi uang, privasi, tanggung jawab hukum, dan kepercayaan pengguna. Kecerdasan buatan memberikan saran di sini; Keputusan dibuat oleh insinyur yang kompeten dan tim yang bertanggung jawab.
Tip: Sebelum melakukan outsourcing tugas ke AI, tanyakan: “Berapa kerugiannya jika output ini salah, dan seberapa mudah seseorang mengetahui kesalahan tersebut?” Jika harganya murah dan penangkapannya mudah, sebarkan saja. Jika harganya tinggi atau penangkapannya sulit, gunakan AI hanya untuk draft dan Anda yang memutuskan.
Disiplin verifikasi: tiga langkah
Dalam rekayasa ML, keluaran AI tidak pernah merupakan “pekerjaan selesai”; Ini adalah rancangan. Jalankan setiap keluaran melalui tiga langkah berikut:
- Hubungkan ke sumbernya. Jika model menyebutkan angka, ambang batas, atau “praktik terbaik”, dasarkan model tersebut pada dokumentasi resmi, nilai aktual dalam basis kode, atau metrik terukur. “Penyesuaian model” (halusinasi: produksi informasi non-nyata yang percaya diri melalui model bahasa) paling sering ditangkap di sini.
- Mulai ulang dan ukur. Jalankan kode yang dihasilkan, hitung ulang metrik yang dihasilkan pada set pengujian Anda sendiri, validasi kueri SQL yang diusulkan pada sampel kecil. Kode yang tidak berfungsi tidak ada gunanya, meskipun terlihat bagus.
- Lewatkan melalui filter teknik. Apakah outputnya bertahan dalam skala besar? Apakah kasus tepi (data kosong, masukan sangat besar, kolom hilang) telah dipertimbangkan? Apakah ada pelanggaran keamanan dan privasi? Hanya orang yang mengetahui bidangnya yang dapat melakukan langkah ini.
Perintah lemah / Perintah kuat
Perintah lemah: "Tuliskan saya beberapa kode pelatihan model."
Perintah yang kuat: "Tulis skrip pelatihan untuk klasifikasi biner dengan scikit-learn. Masukan: data/train.parquet, kolom target is_churn. Ada ketidakseimbangan kelas (tingkat positif ~8%), tangani dengan class_weight. Gunakan PR-AUC (area di bawah kurva presisi-recall) sebagai metrik evaluasi, karena akurasi menyesatkan untuk data yang tidak seimbang. Perbaiki seed acak ke 42. Uji di akhir set cetak kode PR-AUC."
Perbedaan: tugas prompt kedua berisi kebenaran data, metrik yang benar, informasi ketidakseimbangan, dan persyaratan pengulangan. Dari konteks inilah keluarannya dapat diverifikasi dan digunakan.
Privasi dan keamanan data: tanggung jawab pertama teknisi
Insinyur ML sering kali menyentuh data paling sensitif perusahaan: catatan pelanggan, riwayat transaksi, data kesehatan atau keuangan, log sistem produksi. Tiga aturan saat memberikan data ke alat kecerdasan buatan:
- Jangan mengirimkan data pribadi dan rahasia mentah ke alat eksternal. Misalnya, daripada menempelkan email pelanggan ke prompt, kirimkan skema dan sampel tiruan (sintetis). Gunakan contoh terselubung seperti "misal: ahmet@example.com" alih-alih data sebenarnya.
- Gunakan kendaraan yang disetujui perusahaan. Pilih alat yang secara kontrak jelas di mana data diproses, apakah disimpan, apakah digunakan untuk pendidikan atau tidak. Memproses data perusahaan dengan akun pribadi merupakan pelanggaran di sebagian besar perusahaan.
- Kebijakan data minimum. Berikan konteks minimum yang diperlukan untuk menyelesaikan tugas. Bukan keseluruhan tabel, tetapi 5 kolom dan skema yang relevan.
Perhatian: Asumsikan bahwa teks yang Anda berikan ke model bahasa tidak dapat dibatalkan. Jangan mengirimkan data pribadi mentah sambil berpikir "Saya akan menghapusnya nanti"; Risiko terjadi pada saat dikirim.
Penggunaan defensif di bidang keamanan
Insinyur ML sering memasang sistem keamanan: deteksi penipuan, klasifikasi lalu lintas berbahaya, autentikasi. Sepanjang modul ini, kami membahas masalah keamanan untuk tujuan defensif saja: mendeteksi serangan, memperkuat sistem, menutup kerentanan. Menggunakan kecerdasan buatan untuk akses tidak sah, kebocoran data, atau intervensi tidak sah ke dalam sistem orang lain adalah tindakan ilegal dan melanggar etika profesional. Saat Anda menemukan kerentanan, cara yang tepat adalah melaporkannya secara bertanggung jawab dan memperbaikinya; bukan mengeksploitasi.
tiga kasus mini
Kasus 1 - Waktu dihemat. Seorang insinyur ML biasanya menghabiskan setengah hari melakukan analisis data eksplorasi (EDA) dari kumpulan data 40 kolom. Dia memberikan keluaran skema dan df.describe() ke kecerdasan buatan dan bertanya, "Kolom mana yang memiliki tingkat outlier dan hilang yang tinggi, transformasi mana yang Anda rekomendasikan?" Dalam 20 menit, dia menerima daftar prioritas, memverifikasi setiap item dengan kodenya sendiri. Hemat: ~3 jam, risiko kesalahan rendah karena diukur setiap klaim.
Kasus 2 - Tertangkap kesalahan. “Akurasi pelatihannya 99%, bagus,” kata asisten obrolan model tersebut. Insinyur menerapkan langkah ketiga (filter teknik) dan menyadari: kolom target secara tidak sengaja membocorkan atribut (kebocoran data: model melihat informasi yang seharusnya tidak dilihat dalam pelatihan). Kinerja sebenarnya jauh lebih rendah. Skeptisisme sang insinyur, bukan interpretasi AI yang "hebat", menyelamatkan pekerjaan tersebut.
Kasus 3 - Mencegah pelanggaran privasi. Sebuah tim menempelkan log kesalahan produksi ke model eksternal dan berkata "perbaiki kesalahan ini". Ada nomor identifikasi pelanggan di log. Tim membuat aturan dengan menulis skrip kecil yang menutupi log terlebih dahulu (membuat nomor ID mereka ***) dan mengirimkannya seperti itu. Risiko pelanggaran telah hilang, dan kecepatan bantuan tidak berubah.
Templat yang dapat disalin
Tugas: [apa yang harus dilakukan, satu kalimat]Konteks: [skema data, ukuran, batasan; TIDAK ADA data pribadi SEBENARNYA]Kendala: [bahasa/perpustakaan, kinerja, reproduktifitas]Metrik: [cara mengukur keberhasilan]Keluaran yang diinginkan: [kode/deskripsi/daftar] dan alasannya dalam format ini
Lihat kode ini. Evaluasi tidak hanya apakah ini berfungsi, tetapi juga dalam hal: 1) Kasus tepi (input kosong, kolom hilang, data sangat besar) 2) Risiko kebocoran data 3) Reproduksibilitas (seed, versi) Sarankan perbaikan untuk setiap masalah yang Anda temukan. Tandai "verifikasi" jika Anda tidak yakin. Kode: [kode]
Tafsirkan hasil metrik ini, namun tanyakan terlebih dahulu: apakah metrik ini benar untuk masalah ini? Masalah: [klasifikasi seimbang/tidak seimbang, regresi, peringkat...]Metrik dan nilai yang dilaporkan: [mis. akurasi 0,99]Metrik mana yang akan Anda rekomendasikan dan alasannya, serta tanda apa yang harus saya cari agar saya meragukan hasil saat ini?
Periksa apakah ada informasi pribadi/rahasia dalam data yang akan saya berikan pada perintah berikut. Cantumkan bidang (nama, email, nomor ID, telepon, alamat) yang perlu ditutupi dalam teks di bawah ini. Teks: [teks]
Tabel peran dan wewenang
Pencarian
Peran kecerdasan buatan
Pemilik keputusan
Kerangka kode/fungsi transformasi
generator rancangan
Insinyur (ulasan)
EDA / ringkasan data
akselerator
Insinyur (memverifikasi dengan mengukur)
Interpretasi metrik
Saran
insinyur
Data apa yang akan dimasukkan ke dalam pelatihan?
Saran
Tim + pemilik data
Masukkan model ke dalam produksi
Pengingat daftar periksa
Insinyur + tim yang bertanggung jawab
Pemrosesan data pribadi
Tidak ada (tidak digunakan)
Hukum + pengontrol data
Kesalahan umum
- Menggunakan output tanpa memvalidasinya. Kesalahan paling umum dan paling mahal. Kode atau metrik yang terlihat bagus belum tentu benar.
- Menempelkan data rahasia mentah ke dalam alat. Setelah dikirim, tidak dapat diambil kembali.
- Mengandalkan metrik yang salah. Metrik yang tidak kompatibel seperti akurasi dalam data yang tidak seimbang dan RMSE dalam masalah pemeringkatan adalah hal yang menyesatkan.
- Salah mengira kecerdasan buatan sebagai pengambil keputusan. Dia memberikan saran; Tanggung jawab ada pada penandatangan.
- Perintah tanpa konteks. Permintaan yang ambigu seperti “tulis model” menghasilkan keluaran yang tidak dapat diverifikasi.
Singkatnya
Kecerdasan buatan adalah produk yang dikembangkan oleh insinyur ML dan replikator hariannya. Nilainya paling tinggi pada tugas-tugas yang berisiko rendah dan mudah diverifikasi seperti dokumen-kode-data; Keputusan yang mempengaruhi uang, privasi, dan keamanan tetap berada di tangan orang tersebut. Hubungkan setiap keluaran ke sumbernya, ukur lagi, lewati filter teknik. Lindungi data rahasia, gunakan kendaraan yang disetujui, bekerja di bidang keamanan hanya untuk tujuan defensif. Disiplin ini menjadi dasar bagi semua unit berikutnya.
Tugas aplikasi
Pilih tugas dari proyek Anda sendiri (misalnya menulis fungsi pembersihan data). Pertama-tama tulislah prompt yang lemah, kemudian tulislah prompt yang kuat dengan menggunakan templat di unit ini. Ambil kedua keluaran, terapkan verifikasi tiga langkah (tautan ke sumber, jalankan kembali, filter teknik). Catat prompt mana yang menghemat berapa menit dan berapa banyak koreksi.
daftar periksa
- [ ] Saya telah menentukan tingkat risiko (rendah/tinggi) dari tugas saya.
- [ ] Saya tidak memasukkan data pribadi/rahasia apa pun ke dalam perintah; Saya menutupinya atau menggunakan sampel sintetis.
- [ ] Saya menghubungkan output ke sumbernya, menjalankannya lagi, memfilternya dari perspektif teknik.
- [ ] Saya memeriksa apakah saya memilih metrik yang benar.
- [ ] Saya membuat keputusan penting (memasukkannya ke dalam produksi, pemrosesan data) sendiri/bersama tim, saya tidak menyerahkannya kepada kecerdasan buatan.
- [ ] Saya menggunakan kendaraan yang disetujui perusahaan.