Keuntungan:
- Kemampuan untuk membangun komponen kerangka tata kelola AI yang menyeimbangkan kecepatan, keamanan, dan konsistensi
- Kemampuan untuk merancang papan AI multifungsi dan kebijakan inti yang sederhana dan dapat diterapkan (penggunaan, data, risiko yang dapat diterima)
- Kemampuan untuk melapisi persetujuan sesuai tingkat risiko dan menjaga tata kelola di lapangan dengan sistem inventaris dan audit berkala
Strategi, kasus penggunaan, ROI dan risiko; Mereka semua kuat, tapi sendirian mereka berantakan. Yang menyatukan hal-hal tersebut, membuat hal-hal tersebut dapat diulangi dan memberikan kepercayaan kepada institusi adalah governance (tata kelola; kerangka kerja yang menentukan siapa yang akan mengambil keputusan, dengan peraturan apa, dan dengan kendali apa). Tata kelola adalah jawaban permanen untuk “bagaimana kita menerapkan AI secara bertanggung jawab di perusahaan ini?” Di unit ini, Anda akan mempelajari cara menetapkan tata kelola AI, kebijakan tertulis, dan struktur dewan pengambilan keputusan. Tujuannya bukan untuk menciptakan birokrasi; Untuk memastikan pengoperasian yang aman dan berulang tanpa memperlambat kecepatan.
Mengapa tata kelola penting?
Dalam sebuah organisasi tanpa tata kelola, masing-masing tim membuat aturannya sendiri: satu tim menempelkan data pelanggan ke alat publik, satu tim memasukkan model yang tidak tersertifikasi ke dalam produksi, dan satu lagi tidak melakukan penilaian risiko sama sekali. Ketika masalah muncul, “siapa yang menyetujuinya?” Tidak ada jawaban atas pertanyaan itu. Tata kelola mengisi kesenjangan ini: siapa yang memutuskan, aturan apa yang berlaku, siapa yang memantau, dan siapa yang bertanggung jawab ketika masalah muncul.
Tata kelola yang baik menyeimbangkan tiga hal: kecepatan (bukan menghambat inisiatif), keamanan (mengendalikan risiko), dan konsistensi (semua orang mengikuti aturan yang sama). Tata kelola yang berlebihan mematikan kecepatan; Tata kelola yang tidak lengkap membunuh kepercayaan. Keseimbangan adalah seni.
Tip: Saat menyiapkan tata kelola, buat lapisan berdasarkan tingkat risiko, dari “jalur paling lambat dan paling aman” hingga “jalur paling cepat dan paling berisiko”. Pekerjaan berisiko rendah harus dilakukan dengan cepat; Hanya pekerjaan berisiko tinggi yang harus mendapat persetujuan ketat. Menerapkan proses yang sama dan memberatkan kepada semua orang menjadikan pemerintahan dinyatakan sebagai musuh.
Komponen tata kelola
komponen
Apa fungsinya?
contoh
dewan kecerdasan buatan
Keputusan strategis, prioritas, persetujuan
Pertemuan bulanan, persetujuan risiko tinggi
Kumpulan kebijakan/prinsip
aturan tertulis
Penggunaan, data, pemasok yang dapat diterima
Peran dan kepemilikan
Siapa yang bertanggung jawab atas apa
Pemilik bisnis untuk setiap bidang penggunaan
Proses risiko dan persetujuan
Bagaimana memulainya
Tingkat persetujuan berdasarkan tingkat risiko
Pemantauan dan audit
Kontrol berkelanjutan
Pemantauan drift, inspeksi berkala
Registrasi/inventarisasi
Apa yang berhasil di mana
Inventarisasi sistem kecerdasan buatan
Dewan kecerdasan buatan (dewan AI/komite pengarah) adalah badan yang terdiri dari perwakilan tingkat tinggi dari berbagai fungsi (bisnis, teknologi, hukum, risiko, data), yang memberikan arahan strategis dan menyetujui inisiatif berisiko tinggi. Dewan tidak mengelola proyek; menetapkan kerangka kerja dan membuat keputusan penting.
Kebijakan dasar
Setiap organisasi setidaknya memerlukan kebijakan berikut:
- Kebijakan penggunaan yang dapat diterima: Alat AI apa yang dapat digunakan karyawan, dengan data apa, dan untuk apa? (Mis: "Jangan memasukkan data pribadi pelanggan ke alat eksternal yang tidak sah.")
- Kebijakan data dan privasi: Data apa, di mana, dan bagaimana cara memprosesnya? Bagaimana cara memastikan kepatuhan KVKK?
- Kebijakan risiko dan persetujuan: Evaluasi apa yang dilakukan oleh sebuah startup sebelum memulai produksi?
- Kebijakan pemasok/pembelian: Berdasarkan kriteria apa penyedia AI eksternal dipilih? (Satuan 11)
- Kebijakan transparansi: Kapan pelanggan/karyawan diberitahu bahwa AI sedang digunakan?
Langkah demi langkah: membangun tata kelola
1. Buat papan. Perwakilan dari bisnis, teknologi, hukum, risiko dan data; otoritas yang jelas dan ritme pertemuan.
2. Tulis kebijakan inti. Tuliskan lima kebijakan di atas secara sederhana dan aplikatif; Ini bukan sebuah novel, ini sebuah aturan.
3. Menetapkan alur persetujuan berbasis risiko. Persetujuan cepat berisiko rendah, persetujuan berat berisiko tinggi.
4. Simpan inventaris. Sistem kecerdasan buatan yang mana, dimana, siapa yang bertanggung jawab, pada tingkat risiko apa.
5. Melembagakan pemantauan dan pengendalian. Tinjauan berkala, penyimpangan dan kontrol kepatuhan.
tiga kasus mini
Kasus 1 — Kebocoran tanpa kebijakan. Di salah satu firma hukum, para pengacara memiliki dokumen kasus rahasia yang dirangkum dengan alat kecerdasan buatan yang tersedia untuk umum. Hal ini dianggap wajar karena tidak ada kebijakan penggunaan yang dapat diterima. Ketika klien mengetahui hal ini, terjadi krisis kepercayaan. Perusahaan tersebut segera menulis kebijakan, menyediakan alat perusahaan (bukti data), dan memberikan pelatihan. Seandainya kebijakan itu dilakukan sejak awal, maka krisis tidak akan terjadi.
Kasus 2 — Keseimbangan papan. Salah satu pabrikan membuat papan AI-nya hanya dari tim teknologinya. Dewan memberikan persetujuan yang secara teknis brilian namun memiliki kebutaan hukum dan etika. Ketika perwakilan hukum dan risiko ditambahkan ke dewan, masalah kepatuhan yang serius ditemukan sebelum usaha berisiko tinggi dapat mulai berproduksi. Keberagaman adalah visi dewan.
Kasus 3 – Pemerintahan menghambat momentum. Di satu bank, setiap ide AI, bahkan yang berisiko rendah, harus melalui proses persetujuan yang ketat selama 6 minggu. Tim mulai menghindari proses tersebut dan menggunakan kendaraan "bayangan". Bank mengelompokkan persetujuan berdasarkan tingkat risiko: pekerjaan berisiko rendah dalam 3 hari, pekerjaan berisiko tinggi melalui proses penuh. Kecepatan dan kendali kembali; Penggunaan bayangan berkurang.
Empat templat yang dapat disalin
1) Rancangan pembentukan dewan:
Peran Anda: penasihat tata kelola AI. Sarankan kami rancangan dewan kecerdasan buatan: berapa banyak anggota yang berfungsi, wewenang dewan, frekuensi pertemuan, keputusan apa yang disetujui, keputusan mana yang diserahkan kepada tim. Hindari birokrasi yang berlebihan; Sarankan keseimbangan yang akan menjaga kecepatan.
2) Draf kebijakan penggunaan yang dapat diterima:
[Industri] menyusun “kebijakan penggunaan AI yang dapat diterima” yang sederhana dan dapat diterapkan untuk sebuah organisasi: alat apa yang dapat digunakan, dengan data apa, untuk apa; apa yang dilarang keras; Apa yang terjadi jika terjadi pelanggaran? Tulis item demi item, dalam bahasa yang dapat dimengerti.
3) Alur persetujuan berbasis risiko:
Rancang alur persetujuan AI berlapis untuk kami berdasarkan tingkat risiko: langkah apa, persetujuan siapa, berapa lama, secara terpisah untuk risiko rendah/sedang/tinggi. Pastikan pekerjaan berisiko rendah mengalir dengan cepat dan pekerjaan berisiko tinggi melalui pemeriksaan ketat.
4) Templat inventaris AI:
Rancang templat inventaris untuk mencatat sistem AI dalam organisasi: nama sistem, tujuan penggunaan, pemilik bisnis, tingkat risiko, data yang digunakan, pemasok, tanggal audit terakhir. Jelaskan secara singkat mengapa setiap bidang diperlukan.
Perintah lemah / Perintah kuat
Lemah: “Tuliskan kepada kami kebijakan AI.”
Hasil: Teks yang bersifat umum, tidak sesuai institusi, dan terlalu abstrak untuk diterapkan.
Güçlü: "Kami adalah perusahaan teknologi kesehatan yang beranggotakan 200 orang, kami bekerja dengan data pasien dan tunduk pada KVKK. Buatlah rancangan kebijakan penggunaan yang sederhana dan dapat diterapkan tentang bagaimana karyawan dapat menggunakan alat kecerdasan buatan: aturan data pasien, alat yang disetujui, larangan, dan konsekuensi pelanggaran. Tuliskan klausa demi klausa dan dalam bahasa yang jelas; asumsikan tim hukum kami akan meninjaunya."
Hasil: Rancangan yang dapat diterapkan dan sesuai dengan institusi, sektor, dan peraturan perundang-undangan.
Kesalahan umum
- Tidak membangun pemerintahan sama sekali. Mengatakan "kita lihat saja nanti" berarti akumulasi risiko secara diam-diam.
- Birokrasi yang berlebihan. Menerapkan persetujuan yang besar pada setiap pekerjaan mendorong tim ke dalam penggunaan bayangan.
- Papan fungsi tunggal. Teknologi saja atau dewan yang hanya mempunyai perwakilan hukum menghasilkan titik buta; keberagaman adalah suatu keharusan.
- Tidak menulis kebijakan dan menuangkannya ke lapangan. Polis yang disimpan di rak tidak memberikan perlindungan; Hal ini harus didukung dengan pelatihan dan peralatan.
- Tidak menyimpan inventaris. Suatu institusi yang tidak mengetahui apa yang sedang dikerjakannya tidak dapat mengetahui apa yang harus diaudit.
Perhatian: AI dapat menghasilkan rancangan kebijakan atau dewan; Namun rancangan ini tidak boleh diberlakukan tanpa disesuaikan dengan realitas, sektor, dan perundang-undangan lembaga serta ditinjau oleh fungsi hukum dan risiko. Kebijakan yang dihasilkan oleh AI adalah cetak biru keputusan perusahaan yang bertanggung jawab, bukan keputusan itu sendiri.
Singkatnya
Tata kelola adalah kerangka kerja yang menjadikan strategi AI permanen, dapat diulang, dan dapat diandalkan; menyeimbangkan kecepatan, keamanan, dan konsistensi. Komponen utamanya adalah papan AI multifungsi, kebijakan sederhana dan dapat ditindaklanjuti, peran yang jelas, alur persetujuan berbasis risiko, pemantauan berkelanjutan, dan inventaris sistem. Kecepatan birokrasi yang berlebihan dan tata kelola yang tidak lengkap menghancurkan kepercayaan; Keseimbangannya tergantung pada pelapisan berdasarkan tingkat risiko. Kebijakan harus ada di lapangan dengan adanya pelatihan dan peralatan, bukan di rak. Pada unit berikutnya, kita akan membahas prinsip-prinsip AI yang beretika dan bertanggung jawab, yang merupakan landasan moral tata kelola.
Tugas aplikasi
Buat rancangan dewan AI untuk organisasi Anda: siapa yang berfungsi, dengan otoritas apa, dan ritme apa. Kemudian buatlah rancangan kebijakan penggunaan yang dapat diterima dengan templat 2 dan sesuaikan secara manual setidaknya tiga klausul sesuai dengan kondisi data/peraturan aktual institusi Anda. Terakhir, jelaskan tiga tingkatan (rendah/sedang/tinggi) alur persetujuan berbasis risiko dalam satu kalimat.
daftar periksa
- [ ] Saya merancang struktur papan multifungsi.
- [ ] Saya telah menyusun setidaknya satu kebijakan inti.
- [ ] Saya menyesuaikan kebijakan tersebut dengan undang-undang organisasi dan realitas data.
- [ ] Saya mendefinisikan alur persetujuan berjenjang berbasis risiko.
- [ ] Saya telah menyiapkan template inventaris sistem AI.
- [ ] Saya merencanakan ritme pemantauan dan pengendalian.
- [ ] Saya berpikir bagaimana menerapkan kebijakan di lapangan (pelatihan/alat).