Keuntungan:
- Buat daftar prinsip dasar penggunaan AI yang bertanggung jawab
- Dapat menjelaskan mengapa pengendalian manusia sangat diperlukan
- Dapat membuat daftar periksa penggunaan yang bertanggung jawab untuk karyanya sendiri
Dalam modul ini, kita mempelajari apa itu AI, cara kerjanya, kekuatan, kelemahan, risiko, dan alur kerjanya. Dalam unit ini, kami menggabungkan semua hal tersebut dalam kerangka praktis di bawah judul penggunaan yang bertanggung jawab. AI adalah alat yang ampuh; Namun kekuatannya menjadi resiko bila tidak diimbangi dengan tanggung jawab orang yang menggunakannya. “Penggunaan yang bertanggung jawab” mungkin terdengar seperti prinsip etika yang abstrak; Namun, itu terdiri dari kebiasaan sehari-hari yang sangat konkrit. Dalam unit ini, kita akan menempatkan kebiasaan-kebiasaan ini dalam kerangka yang sederhana dan mudah diingat.
Lima Prinsip Dasar Penggunaan yang Bertanggung Jawab
1. Orang-orang Memiliki Keputusan Terakhir
Ini adalah prinsip paling dasar. AI menghasilkan rekomendasi; Rakyat memikul keputusan dan tanggung jawab. Khususnya dalam isu-isu yang berdampak besar seperti keuangan, kesehatan, hukum, ketenagakerjaan, dan reputasi, hasil dari AI tidak boleh diterapkan tanpa pengawasan. “Mesin memberitahuku” bukanlah alasan yang sah.
2. Verifikasi, Lalu Percaya
Ingat unit halusinasi. Jangan menggunakan fakta yang dapat diverifikasi yang dihasilkan AI (nomor, tanggal, nama, sumber) tanpa mengonfirmasinya secara independen. Bahasa yang lancar dan percaya diri bukanlah bukti keakuratan.
3. Lindungi Privasi
Menerapkan prinsip dalam unit privasi data: Tidak menulis data pribadi, rahasia dagang, dan informasi rahasia di media publik; anonimkan jika perlu dan patuhi kebijakan perusahaan Anda.
4. Perhatikan Keadilan
Waspadai bias: pastikan bahwa keluarannya tidak mengecualikan atau membuat stereotip kelompok tertentu secara tidak adil; Mengawasi berbagai perhatian terhadap keputusan berdampak tinggi.
5. Bersikaplah Transparan
Jangan salah menggambarkan bahwa Anda menggunakan AI. Menyatakan dengan tepat bahwa hasil utama telah disiapkan dengan bantuan AI, berdasarkan konteks bisnis dan kebijakan perusahaan, akan membangun kepercayaan.
Catatan: Kelima prinsip ini saling melengkapi. Tidaklah cukup hanya menerapkan satu hal saja; Misalnya, jika Anda memperhatikan privasi dan melewatkan verifikasi, Anda tetap berisiko.
Mengapa Pengendalian Manusia Sangat Penting?
AI tidak bisa mengambil tanggung jawab; Ketika dia melakukan kesalahan, bukan dia yang menanggung akibatnya, tapi orang dan institusi yang memanfaatkannya. Selain itu, AI tidak dapat melihat konteks keseluruhannya (kebijakan perusahaan, hubungan, sensitivitas sektoral, situasi spesifik saat ini). Kontrol manusia; Hal ini menentukan otoritas yang akan memikul tanggung jawab hukum dan merupakan filter yang menangkap titik-titik buta model (halusinasi, bias, ketidakpantasan). Semakin dekat audit dengan keputusan yang berdampak besar, maka audit tersebut harus semakin ketat.
Tingkat Audit Menurut Risiko
Jenis tugas
contoh
Inspeksi yang diperlukan
dampak rendah
Draf memo internal, brainstorming
Ulasan ringan
efek sedang
Email keluar, ringkasan laporan
Membaca dengan cermat + memeriksa fakta
dampak tinggi
Keputusan hukum/keuangan/kesehatan/pekerjaan
Verifikasi ahli + konfirmasi tertulis
Pendekatan Lemah / Pendekatan Kuat
Pendekatan yang lemah: Menerapkan keputusan yang berdampak besar (misalnya evaluasi karyawan) berdasarkan keluaran AI tanpa verifikasi.
Hasil: Halusinasi atau prasangka membawa langsung ke dalam pengambilan keputusan yang mempengaruhi kehidupan seseorang.
Pendekatan yang kuat: Gunakan AI hanya untuk dukungan/draft; Justifikasi sendiri keputusan tersebut dengan bukti-bukti yang relevan, konsultasikan dengan ahli terkait dan berikan persetujuan akhir secara tertulis.
Hasilnya: Anda mendapatkan keuntungan dari kecepatan, namun tanggung jawab dan keadilan tetap terjaga.
Tiga Kasus Mini
Kasus 1 — Daftar periksa menemukan kesalahan. Saat memulai dengan AI, satu tim mencetak lima prinsip pada sebuah kartu dan meletakkannya di atas meja. Seorang karyawan menemukan pertanyaan "privasi" pada proposal yang akan dikirim dan memperhatikan bahwa proposal tersebut berisi nama pelanggan dan menganonimkannya. Daftar sederhana mencegah kemungkinan pelanggaran.
Kasus 2 — “Mesin berkata demikian” tidak berfungsi. Karyawan lain menerapkan informasi peraturan yang salah yang diberikan oleh AI tanpa memverifikasinya, dan ketika masalah muncul, dia membela diri dengan mengatakan, "Itulah yang dikatakan AI." Alasan ini tidak diterima; karena dialah yang menggunakan dan mengimplementasikan alat tersebut. Tanggung jawab ada pada pengguna.
Kasus 3 — Pengendalian fleksibel sesuai risiko. Ketika seorang manajer dengan cepat menggunakan keluaran curah pendapat internal; Diperlukan persetujuan ahli + justifikasi tertulis untuk keputusan berdampak besar seperti perekrutan dan kinerja. Oleh karena itu, hal ini mempercepat pekerjaan berisiko rendah dan meningkatkan keamanan dalam pengambilan keputusan penting.
Templat yang Dapat Disalin
Sebelum menggunakan keluaran ini, tanyakan kepada saya lima pertanyaan penggunaan yang bertanggung jawab secara berurutan dan minta saya menandai “ok / tidak lengkap” untuk masing-masing pertanyaan: 1) Apakah sudah ada audit manusia? 2) Apakah faktanya sudah diverifikasi? 3) Apakah kerahasiaan dijaga? 4) Apakah ini adil dan inklusif? 5) Apakah saya siap bertanggung jawab atas hasilnya?
Evaluasi tingkat dampak (rendah/sedang/tinggi) dari tugas ini dan usulkan daftar langkah audit yang sesuai. Tugas: [tugas tulis]
Pada keluaran di bawah ini, buatlah daftar poin-poin berisiko (kebenaran, kerahasiaan, keadilan, komitmen) yang harus diperiksa seseorang, berdasarkan tingkat kepentingannya. Keluaran: [tempel di sini]
Persiapkan saya "kode penggunaan AI yang bertanggung jawab" pribadi dan singkat untuk peran saya; Jadikan item berorientasi pada tindakan dan mudah diingat. Peran saya: [tulis peran Anda]
Daftar Periksa Praktis
kontrol
Pertanyaan
Audit
Sudahkah saya meninjau keluaran ini sebagai manusia?
ketepatan
Apakah saya sudah memastikan fakta (nomor, nama, tanggal) di dalamnya?
Privasi
Sudahkah saya menulis data sensitif atau pribadi ke alat tersebut?
keadilan
Apakah hasilnya adil dan inklusif?
transparansi
Apakah penggunaan AI dinyatakan dengan tepat dan tidak menyesatkan?
Tanggung jawab
Apakah saya siap bertanggung jawab atas konsekuensi dari keluaran ini?
Jawaban atas pertanyaan terakhir harus selalu “ya”; Karena selama Anda yang menggunakan alat tersebut, hasilnya ada di tangan Anda.
Kesalahan Umum
Kesalahan umum
- Menerapkan keputusan berdampak tinggi tanpa pengawasan. Persetujuan ahli dan pengawasan tertulis sangat penting dalam bidang keuangan, kesehatan, hukum dan pekerjaan.
- Artinya, "Mesin yang mengatakannya." Tanggung jawab tidak mengikat alatnya, melainkan orang yang menggunakannya.
- Menerapkan kebijakan secara selektif. Kelima prinsip tersebut merupakan satu kesatuan; Jika salah satu hilang, risikonya tetap ada.
- Selalu lakukan pemeriksaan dengan ketelitian yang sama. Pengendalian skala berdasarkan risiko; kecepatan dengan risiko rendah, ketelitian dengan risiko tinggi.
Tanggung Jawab Membawa Kebebasan
Aturan penggunaan yang bertanggung jawab mungkin tampak membatasi, namun justru sebaliknya: Setelah Anda memiliki kebiasaan keselamatan ini, Anda dapat menggunakan AI dengan lebih nyaman dan berani. Karena kalaupun ada kesalahan, Anda tahu Anda punya filter untuk menangkapnya. Peraturan dibuat bukan untuk memperlambat Anda, melainkan untuk membantu Anda mempercepat perjalanan dengan aman.
Singkatnya
- Lima prinsip penggunaan yang bertanggung jawab: masyarakat mempunyai keputusan akhir, memverifikasi lalu mempercayai, melindungi kerahasiaan, mengejar keadilan, bersikap transparan.
- Prinsip-prinsip ini saling melengkapi; Jika salah satu hilang, risikonya terus berlanjut.
- Pengawasan manusia sangat diperlukan karena AI tidak dapat mengambil tanggung jawab dan melihat konteks secara utuh.
- Skalakan audit berdasarkan risiko: ringan dalam dampak rendah, persetujuan ahli, dan justifikasi tertulis dalam dampak tinggi.
- Karena Andalah yang menggunakan alat tersebut, Anda juga bertanggung jawab atas hasilnya; "Mesin memberitahuku" bukanlah alasan.
Tugas Aplikasi
Buat “kode penggunaan AI yang bertanggung jawab” pribadi yang singkat untuk peran Anda menggunakan templat di atas (maksimum 6 item). Catat di tempat yang terlihat dan praktikkan pertanyaan-pertanyaan di tabel “daftar periksa latihan” satu per satu pada penyampaian AI penting berikutnya.
Daftar periksa
- [ ] Saya dapat menyebutkan lima prinsip penggunaan yang bertanggung jawab.
- [ ] Saya dapat menjelaskan mengapa pengendalian manusia sangat diperlukan.
- [ ] Saya dapat menyesuaikan tingkat kendali sesuai dengan risiko tugas.
- [ ] Saya telah membuat daftar periksa penggunaan yang bertanggung jawab untuk peran saya.
- [ ] Saya telah menginternalisasi bahwa "mesin memberi tahu saya" bukanlah sebuah alasan.