Keuntungan:
- Keupayaan untuk mewujudkan komponen rangka kerja tadbir urus AI yang mengimbangi kelajuan, keselamatan dan konsistensi
- Keupayaan untuk mereka bentuk papan AI pelbagai fungsi dan dasar teras yang mudah dan terpakai (penggunaan, data, risiko yang boleh diterima)
- Keupayaan untuk melapisi kelulusan mengikut tahap risiko dan mengekalkan tadbir urus di lapangan dengan inventori sistem dan pengauditan berkala
Strategi, kes penggunaan, ROI dan risiko; Mereka semua kuat, tetapi sendirian mereka tidak kemas. Apa yang menyatukan mereka, menjadikannya berulang dan memberi keyakinan kepada institusi adalah tadbir urus (governance; rangka kerja yang menentukan siapa yang akan membuat keputusan, dengan peraturan apa dan dengan kawalan apa). Tadbir urus ialah jawapan tetap kepada "bagaimana kita melakukan AI secara bertanggungjawab dalam perusahaan ini?" Dalam unit ini, anda akan belajar cara mewujudkan tadbir urus AI, dasar bertulis dan struktur lembaga pembuat keputusan. Matlamatnya bukan untuk mewujudkan birokrasi; Untuk memastikan operasi yang selamat dan boleh diulang tanpa memperlahankan kelajuan.
Mengapa tadbir urus penting?
Dalam organisasi tanpa tadbir urus, setiap pasukan membuat peraturannya sendiri: seseorang menampal data pelanggan ke dalam alat awam, seseorang meletakkan model yang tidak diperakui ke dalam pengeluaran, seseorang tidak melakukan penilaian risiko sama sekali. Apabila masalah timbul, "siapa yang meluluskannya?" Tiada jawapan untuk soalan itu. Tadbir urus mengisi jurang ini: siapa yang membuat keputusan, apakah peraturan yang digunakan, siapa yang memantau, dan siapa yang bertanggungjawab apabila timbul masalah.
Tadbir urus yang baik mengimbangi tiga perkara: kepantasan (tidak menyekat inisiatif), keselamatan (mengawal risiko) dan konsisten (semua orang bermain mengikut peraturan yang sama). Tadbir urus yang berlebihan membunuh kelajuan; Tadbir urus yang tidak lengkap membunuh kepercayaan. Keseimbangan adalah seni.
Petua: Apabila menyediakan tadbir urus, buat lapisan berdasarkan tahap risiko, daripada "laluan paling perlahan, paling selamat" kepada "laluan terpantas, paling berisiko." Kerja berisiko rendah harus mengalir dengan cepat; Hanya kerja berisiko tinggi harus menjalani kelulusan yang ketat. Menerapkan proses yang membebankan yang sama kepada semua orang menjadikan tadbir urus diisytiharkan sebagai musuh.
Komponen tadbir urus
komponen
Apa yang ia lakukan?
contoh
papan kecerdasan buatan
Keputusan strategik, keutamaan, kelulusan
Mesyuarat bulanan, kelulusan berisiko tinggi
Dasar/prinsip ditetapkan
peraturan bertulis
Penggunaan, data, pembekal yang boleh diterima
Peranan dan pemilikan
Siapa yang bertanggungjawab untuk apa
Pemilik perniagaan untuk setiap bidang kegunaan
Risiko dan proses kelulusan
Bagaimana untuk bermula
Peringkat kelulusan berdasarkan tahap risiko
Pemantauan dan pengauditan
Kawalan berterusan
Pemantauan drift, pemeriksaan berkala
Pendaftaran/inventori
Apa yang berfungsi di mana
Inventori sistem kecerdasan buatan
Lembaga kecerdasan buatan (majlis AI / jawatankuasa pemandu) ialah badan yang terdiri daripada wakil peringkat tinggi daripada fungsi yang berbeza (perniagaan, teknologi, undang-undang, risiko, data), memberikan hala tuju strategik dan meluluskan inisiatif berisiko tinggi. Lembaga tidak menguruskan projek; menetapkan rangka kerja dan membuat keputusan kritikal.
Dasar asas
Setiap organisasi memerlukan sekurang-kurangnya dasar ini:
- Dasar penggunaan yang boleh diterima: Alat AI yang manakah boleh digunakan oleh pekerja, dengan data apa, dan untuk apa? (Cth: "Jangan masukkan data peribadi pelanggan ke dalam alat luaran yang tidak dibenarkan.")
- Dasar data dan privasi: Data yang manakah, di mana dan bagaimana diproses? Bagaimana untuk memastikan pematuhan KVKK?
- Dasar risiko dan kelulusan: Apakah penilaian yang dilalui oleh syarikat pemula sebelum memulakan pengeluaran?
- Dasar pembekal/pembelian: Berdasarkan kriteria apakah penyedia AI luaran dipilih? (Unit 11)
- Dasar ketelusan: Bilakah pelanggan/pekerja diberitahu bahawa AI sedang digunakan?
Langkah demi langkah: mewujudkan tadbir urus
1. Buat papan. Wakil daripada perniagaan, teknologi, undang-undang, risiko dan data; kuasa yang jelas dan irama pertemuan.
2. Tulis dasar teras. Tulis lima dasar di atas secara ringkas dan terpakai; Ia bukan novel, ia adalah peraturan.
3. Wujudkan aliran kelulusan berasaskan risiko. Risiko rendah cepat, risiko tinggi kelulusan berat.
4. Simpan inventori. Sistem kecerdasan buatan manakah di mana, siapa yang bertanggungjawab, pada tahap risiko apa.
5. Menginstitusikan pemantauan dan kawalan. Semakan berkala, drift dan kawalan pematuhan.
tiga kes mini
Kes 1 — Kebocoran tanpa polisi. Di sebuah firma guaman, peguam mempunyai dokumen kes sulit yang diringkaskan oleh alat kecerdasan buatan yang tersedia untuk umum. Ini dianggap perkara biasa kerana tiada dasar penggunaan yang boleh diterima. Apabila pelanggan mengetahui perkara ini, berlaku krisis keyakinan. Firma itu segera menulis dasar, menyediakan alat perusahaan (bukti data), dan menyediakan latihan. Jika dasar itu dari awal, krisis tidak akan berlaku.
Kes 2 — Baki papan. Satu pengeluar membina papan AInya semata-mata daripada pasukan teknologinya. Lembaga memberikan kelulusan yang secara teknikalnya cemerlang tetapi mempunyai buta undang-undang dan etika. Apabila wakil yang sah dan berisiko telah ditambahkan pada lembaga pengarah, masalah pematuhan yang serius telah ditemui sebelum usaha niaga berisiko tinggi boleh masuk ke dalam pengeluaran. Kepelbagaian adalah visi lembaga.
Kes 3 — Momentum tadbir urus menyekat. Dalam satu bank, setiap idea AI, walaupun yang berisiko rendah, melalui proses kelulusan 6 minggu yang ketat. Pasukan mula mengelak proses itu dan menggunakan kenderaan "bayangan". Bank berstrata kelulusan mengikut tahap risiko: pekerjaan berisiko rendah dalam 3 hari, yang berisiko tinggi melalui proses penuh. Kedua-dua kelajuan dan kawalan kembali; Penggunaan bayang-bayang berkurangan.
Empat templat yang boleh disalin
1) Draf penubuhan lembaga:
Peranan anda: Penasihat tadbir urus AI. Cadangkan kami draf lembaga kecerdasan buatan: bilangan ahli yang berfungsi, kuasa lembaga, kekerapan mesyuarat, keputusan yang diluluskan, yang mana diserahkan kepada pasukan. Elakkan birokrasi yang berlebihan; Cadangkan keseimbangan yang akan mengekalkan kelajuan.
2) Draf dasar penggunaan yang boleh diterima:
[Industri] merangka "dasar penggunaan boleh diterima AI" yang mudah dan boleh dikuatkuasakan untuk organisasi: alat yang boleh digunakan, dengan data apa, untuk apa; apa yang dilarang sama sekali; Apa yang berlaku sekiranya berlaku pelanggaran? Tulis item demi item, dalam bahasa yang boleh difahami.
3) Aliran kelulusan berasaskan risiko:
Reka bentuk aliran kelulusan AI berlapis berdasarkan tahap risiko: apakah langkah, kelulusan siapa, berapa lama, secara berasingan untuk risiko rendah/sederhana/tinggi. Pastikan kerja berisiko rendah mengalir dengan cepat dan kerja berisiko tinggi melalui pemeriksaan yang ketat.
4) Templat inventori AI:
Reka bentuk templat inventori untuk merekodkan sistem AI dalam organisasi: nama sistem, tujuan penggunaan, pemilik perniagaan, tahap risiko, data yang digunakan, pembekal, tarikh audit terakhir. Terangkan secara ringkas mengapa setiap bidang diperlukan.
Gesaan lemah / Gesaan kuat
Lemah: "Tulis kami dasar AI."
Keputusan: Teks yang umum, tidak sesuai dengan institusi, dan terlalu abstrak untuk digunakan.
Güçlü: "Kami ialah syarikat teknologi kesihatan 200 orang, kami bekerja dengan data pesakit dan tertakluk kepada KVKK. Draf dasar penggunaan boleh diterima yang mudah dan boleh dikuatkuasakan tentang cara pekerja boleh menggunakan alat kecerdasan buatan: peraturan data pesakit, alat yang diluluskan, larangan dan akibat pelanggaran. Tulis klausa mengikut klausa dan dalam bahasa yang jelas; andaikan pasukan undang-undang kami akan menyemaknya."
Keputusan: Draf terpakai yang sesuai dengan institusi, sektor dan perundangan.
Kesilapan biasa
- Tidak mewujudkan tadbir urus sama sekali. Sebut "kita lihat nanti" bermakna pengumpulan risiko secara senyap.
- Birokrasi yang berlebihan. Memohon kelulusan berat untuk setiap kerja mendorong pasukan ke dalam penggunaan bayangan.
- Papan fungsi tunggal. Teknologi sahaja atau lembaga dengan hanya perwakilan undang-undang menghasilkan titik buta; kepelbagaian adalah satu kemestian.
- Tidak menulis dasar dan meletakkannya di lapangan. Polisi yang diletakkan di atas rak tidak memberikan perlindungan; Ia harus disokong dengan latihan dan alat.
- Tidak menyimpan inventori. Institusi yang tidak tahu apa yang sedang diusahakannya tidak tahu apa yang perlu diaudit.
Awas: AI boleh menghasilkan dasar atau draf lembaga; Tetapi draf ini tidak seharusnya dilaksanakan tanpa disesuaikan dengan realiti, sektor dan perundangan institusi serta disemak oleh fungsi undang-undang dan risiko. Dasar yang dihasilkan oleh AI ialah rangka tindakan untuk keputusan korporat yang bertanggungjawab, bukan dirinya sendiri.
Secara ringkasnya
Tadbir urus ialah rangka kerja yang menjadikan strategi AI kekal, boleh diulang dan boleh dipercayai; mengimbangi kelajuan, keselamatan dan konsistensi. Komponen utamanya ialah papan AI pelbagai fungsi, dasar mudah dan boleh diambil tindakan, peranan yang jelas, aliran kelulusan berasaskan risiko, pemantauan berterusan dan inventori sistem. Kepantasan birokrasi dan tadbir urus yang tidak lengkap membunuh kepercayaan; Baki turun ke lapisan mengikut tahap risiko. Polisi harus hidup di lapangan dengan latihan dan alat, bukan di rak. Dalam unit seterusnya, kami akan merangkumi prinsip AI yang beretika dan bertanggungjawab, yang merupakan asas moral tadbir urus.
Tugasan permohonan
Draf papan AI untuk organisasi anda: dari siapa berfungsi, dengan kuasa apa, dalam rentak apa. Kemudian hasilkan draf dasar penggunaan yang boleh diterima dengan templat 2 dan sesuaikan secara manual sekurang-kurangnya tiga klausa mengikut syarat data/kawal selia sebenar institusi anda. Akhir sekali, huraikan tiga peringkat (rendah/sederhana/tinggi) aliran kelulusan berasaskan risiko dalam satu ayat.
senarai semak
- [ ] Saya mereka bentuk struktur papan pelbagai fungsi.
- [ ] Saya telah merangka sekurang-kurangnya satu dasar teras.
- [ ] Saya menyesuaikan dasar kepada perundangan organisasi dan realiti data.
- [ ] Saya menentukan aliran kelulusan berperingkat berasaskan risiko.
- [ ] Saya telah menyediakan templat inventori sistem AI.
- [ ] Saya merancang rentak pemantauan dan kawalan.
- [ ] Saya berfikir tentang cara memasukkan dasar ke dalam bidang (latihan/alat).