Keuntungan:
- Mengenali risiko penggunaan AI tanpa kebijakan (AI bayangan) dengan contoh numerik
- Pahami bahwa kebijakan yang baik bukanlah sebuah daftar larangan, namun sebuah kerangka kerja yang memungkinkan penggunaan yang bertanggung jawab
- Menjelaskan pilar manusia, proses dan teknologi serta peran pemangku kepentingan dalam tata kelola AI
Pada hari Senin pagi, kepala kepatuhan perusahaan asuransi menengah (orang yang bertanggung jawab atas kepatuhan organisasi terhadap undang-undang dan peraturan internal) membuka emailnya dan terkejut: seorang pelanggan menanyakan apakah informasi kesehatannya "ditulis ke dalam alat AI dan ke mana perginya." Investigasi cepat mengungkapkan bahwa seorang ahli dari tim klaim menggunakan akun AI pribadi untuk meringkas file klaim dengan cepat. Tidak ada orang yang jahat; Tidak ada yang mengira mereka melanggar aturan. Karena tidak ada aturan tertulis. Kesenjangan ini disebut shadow AI, dan modul ini mengajarkan Anda cara membangun kerangka tata kelola untuk mengisi kesenjangan ini.
Membawa AI ke dalam bisnis tidak semudah menginstal perangkat lunak biasa. AI memengaruhi keputusan, memproses data pribadi, dapat menghasilkan konten berhak cipta, dan menimbulkan tanggung jawab jika melakukan kesalahan. Itu sebabnya setiap organisasi yang “menggunakan” AI juga membutuhkan kerangka kerja yang “mengelolanya”. Pada unit pertama ini, kami membahas mengapa kebijakan AI tertulis diperlukan, dampak nyata dari shadow AI, dan tiga pilar tata kelola.
Apa itu shadow AI dan mengapa hal itu tidak bisa dihindari?
Shadow AI adalah penggunaan AI tanpa sepengetahuan, persetujuan dan kendali institusi. Kata "shadow" berasal dari nama "shadow IT" yang diberikan kepada perangkat lunak yang tidak disetujui oleh departemen IT. Karyawan mulai menggunakan alat AI dengan atau tanpa kebijakan; karena alat ini gratis, cepat dan mempermudah pekerjaannya. Bahkan adanya larangan tidak menghentikan penggunaan, hanya menyembunyikannya.
Penggunaan tanpa kebijakan menimbulkan risiko nyata berikut ini:
- Kebocoran data: Seorang karyawan mungkin tanpa sadar menempelkan data rahasia pelanggan atau rahasia perusahaan ke dalam alat AI. Data berada di luar kendali institusi.
- Hukuman bagi ketidakpatuhan: Pelanggaran terhadap KVKK (UU Perlindungan Data Pribadi) mengakibatkan denda administratif jutaan lira; Melanggar GDPR dapat mengakibatkan denda hingga 4% dari omset tahunan.
- Keputusan berdasarkan misinformasi: Keputusan yang dibuat dengan mengandalkan misinformasi (“halusinasi”) yang dibuat oleh AI merugikan pelanggan dan organisasi.
- Masalah hak cipta dan kekayaan intelektual: Penggunaan keluarannya dapat melanggar kekayaan intelektual orang lain.
- Hilangnya reputasi: Ketika penggunaan yang tidak terkendali diberitakan di media, kepercayaan terhadap merek akan terguncang.
Perhatian: Melarang sepenuhnya penggunaan AI bukanlah solusi. Larangan tidak menghilangkan penggunaan; itu hanya membuatnya tidak terlihat dan tidak terkendali. Tujuannya bukan untuk mengakhiri penggunaan, namun untuk menempatkannya dalam kerangka yang aman.
Tiga kasus kecil: biaya sebenarnya dari shadow AI
Kasus 1 — Kontrak bocor. Seorang spesialis hukum menempelkan seluruh teks ke dalam akun AI individu untuk merangkum perjanjian merger rahasia sepanjang 40 halaman. Kontrak tersebut belum tersedia untuk umum. Teks diproses di server penyedia dan tersedia untuk pelatihan model prospektif. Perusahaan menunda merger selama 3 minggu untuk menghilangkan risiko kemungkinan kebocoran informasi; Biaya konsultasi meningkat sekitar 250,000 TL.
Kasus 2 — Yurisprudensi halusinasi. Seorang pengacara melampirkan tiga “keputusan preseden” dari AI pada petisinya. Dua dari nomor keputusan tersebut merupakan keputusan yang dibuat-buat dan tidak ada dalam kenyataan. Pengadilan menyadari hal ini; Pengacara tersebut menghadapi proses disipliner serta kehilangan reputasi. Aturan verifikasi satu baris (verifikasi setiap sumber terhadap sistem keputusan resmi) akan mencegah krisis ini.
Kasus 3 — Penghematan yang tidak terlihat. Di perusahaan yang sama, tim pemasaran menghasilkan salinan kampanye 6 jam per minggu lebih cepat dengan alat AI perusahaan bersertifikat. Namun penghematan ini tidak dilaporkan dimanapun karena penggunaannya tidak terdaftar. Manajemen menolak anggaran perizinan baru karena tidak melihat manfaat AI. Shadow AI tidak hanya menghilangkan risiko tetapi juga visibilitas manfaat.
Apa yang dijamin oleh kebijakan yang baik?
Kebijakan AI yang baik bukanlah daftar larangan; Ini adalah kerangka kerja yang memungkinkan penggunaan yang bertanggung jawab. Itu melakukan lima hal:
- Kejelasan: Karyawan mengetahui apa yang diperbolehkan, apa yang dilarang, dan apa yang harus mendapat persetujuan.
- Kepercayaan: Manajemen dapat menyetujui proyek baru dengan mengetahui bahwa AI digunakan secara terkendali.
- Kepatuhan: Kewajiban hukum (KVKK, GDPR, UU AI UE) dipenuhi secara sistematis.
- Konsistensi: Tim yang berbeda mengikuti aturan yang sama.
- Akuntabilitas: Ketika ada masalah, jelas siapa yang bertanggung jawab.
Apa itu tata kelola? tiga kaki
Tata kelola AI adalah seperangkat aturan dan proses yang menentukan bagaimana kecerdasan buatan akan dipilih, digunakan, dikendalikan, dan siapa yang akan bertanggung jawab atas hal tersebut di suatu institusi. Kebijakan adalah dokumen tertulis dari pemerintahan ini; Tata kelola adalah sistem kehidupan yang menghidupkan kebijakan. Itu dibangun dengan tiga kaki:
kaki
Artinya
Contoh dalam kebijakan AI
manusia
Peran dan tanggung jawab
Pengontrol AI, manajer pemberi persetujuan, petugas perlindungan data
Proses
Aturan dan arus
Proses persetujuan kendaraan baru, inspeksi rutin, respons insiden
teknologi
Alat dan kontrol
Daftar kendaraan yang disetujui, kontrol akses, pencatatan
Jika salah satu dari tiga pilar tersebut hilang, maka kerangka tersebut akan runtuh: tanpa aturan, alat tidak ada gunanya, tanpa alat, aturan tidak dapat dikontrol, tanpa tanggung jawab, tidak ada yang dapat dimiliki.
Satu departemen tidak dapat melakukan pekerjaan ini.
Kebijakan AI bukan hanya tugas departemen TI. Kerangka kerja yang sukses memerlukan partisipasi berbagai unit: hukum/kepatuhan (kewajiban dan kontrak hukum), TI/keamanan (kontrol teknis dan keamanan data), sumber daya manusia (pelatihan karyawan dan kode etik), unit bisnis (kebutuhan penggunaan aktual) dan manajemen senior (persetujuan, sumber daya, dan kepemilikan perusahaan).
Tip: Adakan pertemuan selama 30 menit dengan perwakilan dari setiap unit pemangku kepentingan sebelum Anda mulai menulis kebijakan. “Untuk apa Anda saat ini menggunakan atau ingin menggunakan AI?” pertanyaan mengungkapkan kebutuhan nyata dan penggunaan bayangan saat ini.
Memanfaatkan AI: templat yang dapat direplikasi
AI sendiri merupakan bantuan ketika menyiapkan kerangka tata kelola — selama keluarannya divalidasi. Templat berikut mempercepat kerja unit ini.
TEMPLATE 1 — Survei untuk pemindaian dasar (AI bayangan): "Draf survei karyawan anonim berisi 8 pertanyaan siap memetakan penggunaan AI di organisasi kami. Pertanyaan harus mencakup: alat apa, tugas apa, tipe data apa yang dimasukkan, kebutuhan pelatihan. Keluaran: pertanyaan bernomor + jenis jawaban untuk setiap pertanyaan (pilihan ganda/terbuka)."
TEMPLATE 2 — Buat ringkasan risiko: "Pertimbangkan kasus penggunaan AI berikut: [tempel skenario]. Beri saya ringkasan risiko singkat dengan judul berikut: privasi data, kepatuhan, halusinasi, royalti, reputasi. Beri label 'rendah/sedang/tinggi' dan alasan satu kalimat untuk setiap judul. Jangan memberikan nasihat hukum; cukup cantumkan poin untuk ditinjau."
TEMPLATE 3 — Agenda rapat pemangku kepentingan: "Siapkan agenda rapat dewan berdurasi 60 menit untuk meluncurkan kerangka tata kelola AI. Peserta: hukum, TI, SDM, unit bisnis, manajemen senior. Tulis durasi dan hasil yang diharapkan untuk setiap item agenda."
TEMPLATE 4 — Pengarahan singkat kepada manajemen: "Tulis pengarahan setengah halaman berjudul 'Mengapa kita memerlukan kebijakan AI' untuk disampaikan kepada manajemen senior. Sertakan 3 risiko nyata + 3 manfaat nyata; jangan gunakan jargon teknis; buat permintaan keputusan yang jelas di baris terakhir."
Perintah lemah / Perintah kuat
LEMAH: “Tulis kebijakan AI.”-> Model menghasilkan teks yang umum, non-institusional, dan tidak dapat diaudit; tidak mencerminkan kelas data, peran, dan konteks peraturan. GÜÇLÜ: "Kami adalah perusahaan asuransi yang beranggotakan 50 orang, tunduk pada KVKK, kami memproses data kesehatan pelanggan. Usulkan rancangan untuk bagian 'ruang lingkup' dan 'penggunaan yang dilarang' dari kebijakan AI. Jangan memaksakan penilaian akhir; tambahkan catatan 'perlu persetujuan hukum' di setiap artikel dan serahkan celahnya kepada saya."-> Model menghasilkan draf yang sesuai konteks dan dapat diverifikasi; Keputusan tetap ada pada Anda.
Kesalahan umum
- Melarang penggunaan AI sama sekali dan membuat bayangan AI tidak terlihat.
- Membiarkan TI menulis kebijakan saja dan tidak termasuk kebutuhan riil unit bisnis.
- Mulai menulis aturan langsung dari pemetaan penggunaan bayangan yang ada.
- Menulis kebijakan dalam bahasa hukum dengan cara yang tidak dapat dipahami oleh karyawan.
- Menerapkan rancangan kebijakan yang dihasilkan oleh AI tanpa persetujuan hukum.
- Berbicara mengenai risiko namun tidak mengukur manfaatnya; sehingga kehilangan dukungan dari pemerintah.
- Menulis kebijakan satu kali dan lupa memperbaruinya; sedangkan pemerintahan adalah suatu sistem yang hidup.
Singkatnya
- Shadow AI tidak bisa dihindari dalam organisasi tanpa kebijakan dan menimbulkan risiko data, kepatuhan, dan reputasi.
- Kebijakan yang baik bukanlah daftar larangan; Ini adalah kerangka kerja yang memungkinkan penggunaan yang bertanggung jawab.
- Tata kelola AI dibangun berdasarkan manusia (peran), proses (aturan), dan teknologi (kontrol); Jika ada yang hilang maka akan crash.
- Kebijakan bukanlah tanggung jawab satu departemen saja; Ini adalah kerja sama hukum, TI, SDM, unit bisnis, dan manajemen senior.
- AI dapat membantu dalam menyiapkan kerangka kerja, tetapi setiap keluaran harus melalui persetujuan manusia dan hukum.
Tugas aplikasi
Pilih organisasi tempat Anda bekerja atau impikan (biarkan industri, jumlah karyawan, dan jenis data yang diprosesnya jelas). Pertama buat draf survei 8 pertanyaan untuk penyaringan AI bayangan (Anda dapat menggunakan Templat 1). Kemudian tuliskan tiga risiko nyata yang dapat ditimbulkan oleh AI bayangan dalam organisasi ini, dan tambahkan perkiraan dampak numerik (penalti, penundaan, jam kerja yang hilang) pada masing-masing risiko tersebut. Terakhir, identifikasikan contoh spesifik bagi organisasi Anda untuk masing-masing dari tiga pilar tata kelola (manusia, proses, teknologi) dan catat unit pemangku kepentingan mana yang akan bertanggung jawab atas pilar ini.
daftar periksa
- [ ] Saya memetakan penggunaan AI (bayangan) saat ini di organisasi saya.
- [ ] Saya menulis tiga risiko konkrit dari kurangnya kebijakan yang mempunyai dampak numerik.
- [ ] Saya menyiapkan pengarahan yang menyampaikan risiko dan manfaat AI bagi manajemen.
- [ ] Saya telah menentukan contoh spesifik institusi dan penanggung jawab tiga pilar tata kelola.
- [ ] Saya membuat rencana untuk melibatkan setidaknya tiga unit pemangku kepentingan dalam proses tersebut.
- [ ] Saya tunduk pada setiap draf yang saya hasilkan dengan AI untuk mendapatkan persetujuan hukum/kepatuhan.