Mga nadagdag:
- Kakayahang magtatag ng mga bahagi ng isang balangkas ng pamamahala ng AI na nagbabalanse sa bilis, seguridad, at pagkakapare-pareho
- Kakayahang magdisenyo ng multifunctional AI board at simple, naaangkop na mga pangunahing patakaran (katanggap-tanggap na paggamit, data, panganib)
- Kakayahang mag-layer ng pag-apruba ayon sa antas ng panganib at mapanatili ang pamamahala sa larangan na may imbentaryo ng system at regular na pag-audit
Diskarte, kaso ng paggamit, ROI at panganib; Lahat sila ay malakas, ngunit mag-isa sila ay magulo. Ang pinagsasama-sama, ginagawang paulit-ulit at nagbibigay ng kumpiyansa sa institusyon ay ang pamamahala (pamamahala; ang balangkas na tumutukoy kung sino ang gagawa ng mga desisyon, kung anong mga patakaran at kung anong kontrol). Ang pamamahala ay ang permanenteng sagot sa "paano natin gagawin ang AI nang responsable sa negosyong ito?" Sa unit na ito, matututunan mo kung paano magtatag ng pamamahala sa AI, nakasulat na mga patakaran, at istruktura ng board sa paggawa ng desisyon. Ang layunin ay hindi lumikha ng burukrasya; Upang matiyak ang ligtas at paulit-ulit na operasyon nang hindi nagpapabagal sa bilis.
Bakit mahalaga ang pamamahala?
Sa isang organisasyong walang pamamahala, ang bawat koponan ay gumagawa ng sarili nitong mga panuntunan: ang isa ay nagpe-paste ng data ng customer sa isang pampublikong tool, ang isa ay naglalagay ng isang hindi sertipikadong modelo sa produksyon, ang isa ay walang anumang pagtatasa ng panganib. Kapag lumitaw ang mga problema, "sino ang nag-apruba nito?" Walang sagot sa tanong. Pinupuunan ng pamamahala ang puwang na ito: kung sino ang nagpapasya, kung anong mga patakaran ang naaangkop, sino ang sumusubaybay, at sino ang mananagot kapag may mga problema.
Binabalanse ng mabuting pamamahala ang tatlong bagay: bilis (hindi nakakapigil na inisyatiba), seguridad (pagkontrol sa panganib) at pagkakapare-pareho (naglalaro ang lahat sa parehong mga panuntunan). Ang sobrang pamamahala ay pumapatay ng bilis; Ang hindi kumpletong pamamahala ay pumapatay ng tiwala. Ang balanse ay sining.
Tip: Kapag nagse-set up ng pamamahala, gumawa ng mga layer batay sa antas ng panganib, mula sa "pinakamabagal, pinakaligtas na landas" hanggang sa "pinakamabilis, pinakamapanganib na landas." Ang trabahong mababa ang panganib ay dapat dumaloy nang mabilis; Tanging ang trabahong may mataas na peligro ay dapat sumailalim sa mahigpit na pag-apruba. Ang paglalapat ng parehong mabigat na proseso sa lahat ay ginagawang idineklara ang pamamahala na kalaban.
Mga bahagi ng pamamahala
sangkap
Ano ang ginagawa nito?
halimbawa
artificial intelligence board
Madiskarteng desisyon, priyoridad, pag-apruba
Buwanang pagpupulong, mataas na panganib na pag-apruba
Itinakda ang patakaran/prinsipyo
nakasulat na mga tuntunin
Katanggap-tanggap na paggamit, data, supplier
Mga tungkulin at pagmamay-ari
Sino ang may pananagutan sa kung ano
May-ari ng negosyo para sa bawat larangan ng paggamit
Panganib at proseso ng pag-apruba
Paano magsimula
Tier ng pag-apruba batay sa antas ng panganib
Pagsubaybay at pag-audit
Patuloy na kontrol
Drift monitoring, pana-panahong inspeksyon
Pagpaparehistro/imbentaryo
Ano ang gumagana kung saan
Imbentaryo ng artificial intelligence system
Ang artificial intelligence board (AI council / steering committee) ay ang katawan na binubuo ng mga high-level na kinatawan mula sa iba't ibang function (negosyo, teknolohiya, batas, panganib, data), na nagbibigay ng madiskarteng direksyon at pag-apruba ng mga high-risk na inisyatiba. Ang lupon ay hindi namamahala ng mga proyekto; nagtatakda ng balangkas at gumagawa ng mga kritikal na desisyon.
Mga pangunahing patakaran
Ang bawat organisasyon ay nangangailangan ng hindi bababa sa mga patakarang ito:
- Patakaran sa katanggap-tanggap na paggamit: Aling mga tool ng AI ang maaaring gamitin ng mga empleyado, sa anong data, at para sa ano? (Hal: "Huwag ipasok ang personal na data ng customer sa isang hindi awtorisadong panlabas na tool.")
- Patakaran sa data at privacy: Aling data, saan at paano pinoproseso? Paano masisiguro ang pagsunod sa KVKK?
- Patakaran sa peligro at pag-apruba: Anong mga pagsusuri ang pinagdadaanan ng isang startup bago pumasok sa produksyon?
- Patakaran sa supplier/pagbili: Sa anong pamantayan pinipili ang mga external na provider ng AI? (Yunit 11)
- Patakaran sa transparency: Kailan inaabisuhan ang customer/empleyado na ginagamit ang AI?
Hakbang-hakbang: pagtatatag ng pamamahala
1. Gumawa ng board. Kinatawan mula sa negosyo, teknolohiya, legal, panganib at data; malinaw na awtoridad at ritmo ng pagpupulong.
2. Sumulat ng mga pangunahing patakaran. Isulat ang limang patakaran sa itaas nang simple at naaangkop; Ito ay hindi isang nobela, ito ay isang panuntunan.
3. Magtatag ng daloy ng pag-apruba na nakabatay sa panganib. Mabilis na mababang panganib, mabigat na pag-apruba sa mataas na panganib.
4. Panatilihin ang imbentaryo. Aling sistema ng artificial intelligence ang nasaan, sino ang responsable, sa anong antas ng panganib.
5. I-institutionalize ang pagsubaybay at kontrol. Pana-panahong pagsusuri, drift at kontrol sa pagsunod.
tatlong mini case
Kaso 1 — Tumagas nang walang patakaran. Sa isang law firm, ang mga abogado ay nagkakaroon ng mga kumpidensyal na dokumento ng kaso na ibinubuod ng isang pampublikong magagamit na tool na artificial intelligence. Ito ay naisip na normal dahil walang katanggap-tanggap na patakaran sa paggamit. Kapag nalaman ito ng isang kliyente, nagkaroon ng krisis ng kumpiyansa. Ang kompanya ay agad na nagsulat ng patakaran, nagbigay ng enterprise (data-proof) na tool, at nagbigay ng pagsasanay. Kung ang patakaran ay mula pa sa simula, hindi sana nangyari ang krisis.
Case 2 — Balanse ng board. Isang manufacturer ang nagtayo ng AI board nito mula lamang sa team ng teknolohiya nito. Ang lupon ay nagbigay ng mga pag-apruba na teknikal na napakatalino ngunit may legal at etikal na pagkabulag. Kapag ang isang legal at risk na kinatawan ay idinagdag sa board, isang seryosong problema sa pagsunod ang natuklasan bago ang isang high-risk na pakikipagsapalaran ay maaaring pumasok sa produksyon. Ang pagkakaiba-iba ay ang pananaw ng board.
Kaso 3 — Ang pamumuno ay nakakahadlang sa momentum. Sa isang bangko, ang bawat ideya ng AI, kahit isang mababang panganib, ay dumaan sa isang mahigpit na 6 na linggong proseso ng pag-apruba. Nagsimulang iwasan ng mga koponan ang proseso at gumamit ng mga "anino" na sasakyan. Pinagsama-sama ng bangko ang pag-apruba ayon sa antas ng panganib: mga trabahong mababa ang panganib sa loob ng 3 araw, mga trabahong may mataas na peligro sa buong proseso. Ang parehong bilis at kontrol ay bumalik; Nabawasan ang paggamit ng anino.
Apat na maaaring kopyahin na mga template
1) draft ng pagtatatag ng board:
Ang iyong tungkulin: AI governance advisor. Magmungkahi sa amin ng draft ng isang artificial intelligence board: kung gaano karaming mga miyembro mula sa aling mga function, ang mga kapangyarihan ng board, ang dalas ng mga pagpupulong, kung aling mga desisyon ang inaaprubahan nito, kung alin ang ibinibigay nito sa mga koponan. Iwasan ang labis na burukrasya; Magmungkahi ng balanse na magpapanatili ng bilis.
2) Bumuo ng patakaran sa katanggap-tanggap na paggamit:
[Industry] draft ng isang simple at maipapatupad na "AI acceptable use policy" para sa isang organisasyon: anong mga tool ang maaaring gamitin, kung anong data, para saan; kung ano ang mahigpit na ipinagbabawal; Ano ang mangyayari sa kaso ng paglabag? Isulat ang item sa pamamagitan ng item, sa naiintindihan na wika.
3) Daloy ng pag-apruba na nakabatay sa panganib:
Magdisenyo sa amin ng isang layered na daloy ng pag-apruba ng AI batay sa antas ng panganib: anong mga hakbang, kaninong pag-apruba, gaano katagal, hiwalay para sa mababa/katamtaman/mataas na panganib. Tiyakin na ang trabahong mababa ang panganib ay mabilis na dumadaloy at ang trabahong may mataas na peligro ay dumaan sa mahigpit na inspeksyon.
4) template ng imbentaryo ng AI:
Magdisenyo ng template ng imbentaryo upang maitala ang mga AI system sa organisasyon: pangalan ng system, nilalayon na paggamit, may-ari ng negosyo, antas ng panganib, data na ginamit, supplier, petsa ng huling pag-audit. Ipaliwanag nang maikli kung bakit kailangan ang bawat field.
Mahinang prompt / Malakas na prompt
Mahina: "Sumulat kami ng patakaran sa AI."
Resulta: Isang text na pangkalahatan, hindi akma sa institusyon, at masyadong abstract para ilapat.
Güçlü: "Kami ay isang 200-kataong kumpanya ng teknolohiyang pangkalusugan, nakikipagtulungan kami sa data ng pasyente at napapailalim sa KVKK. Bumuo ng isang simple, maipapatupad na patakaran sa katanggap-tanggap na paggamit sa kung paano magagamit ng mga empleyado ang mga tool ng artificial intelligence: panuntunan sa data ng pasyente, mga inaprubahang tool, pagbabawal at kahihinatnan ng paglabag. Isulat ito ng sugnay ayon sa sugnay at sa malinaw na wika; ipagpalagay na susuriin ito ng aming legal na team."
Resulta: Isang naaangkop na draft na akma sa institusyon, sektor at batas.
Mga karaniwang pagkakamali
- Hindi nagtatag ng pamamahala sa lahat. Ang ibig sabihin ng "magkikita tayo mamaya" ay ang tahimik na akumulasyon ng panganib.
- Labis na burukrasya. Ang paglalapat ng matinding pag-apruba sa bawat trabaho ay nagtutulak sa mga koponan sa paggamit ng anino.
- Single function board. Ang teknolohiyang nag-iisa o isang board na may legal na representasyon lamang ay gumagawa ng mga blind spot; ang pagkakaiba-iba ay kinakailangan.
- Hindi pagsusulat ng patakaran at paglalagay nito sa larangan. Ang patakarang nakaupo sa istante ay hindi nagbibigay ng proteksyon; Dapat itong suportahan ng pagsasanay at mga tool.
- Hindi nag-iingat ng imbentaryo. Ang isang institusyon na hindi alam kung ano ang ginagawa nito ay hindi maaaring malaman kung ano ang i-audit.
Pag-iingat: Maaaring gumawa ang AI ng patakaran o draft ng board; Ngunit ang mga draft na ito ay hindi dapat maipatupad nang hindi iniangkop sa realidad, sektor at batas ng institusyon at sinusuri ng legal at risk functions. Ang isang patakarang ginawa ng AI ay isang blueprint para sa isang responsableng desisyon ng kumpanya, hindi mismo.
Sa buod
Ang pamamahala ay ang balangkas na ginagawang permanente, nauulit at maaasahan ang diskarte sa AI; binabalanse ang bilis, seguridad at pagkakapare-pareho. Ang mga pangunahing bahagi nito ay isang multifunctional AI board, simple at naaaksyunan na mga patakaran, malinaw na tungkulin, daloy ng pag-apruba na nakabatay sa panganib, patuloy na pagsubaybay, at isang imbentaryo ng system. Ang sobrang bilis ng burukrasya at hindi kumpletong pamamahala ay pumapatay ng tiwala; Ang balanse ay bumaba sa layering ayon sa antas ng panganib. Ang mga patakaran ay dapat na nabubuhay sa larangan na may pagsasanay at mga tool, hindi sa istante. Sa susunod na yunit, tatalakayin natin ang mga prinsipyo ng etikal at responsableng AI, na siyang moral na batayan ng pamamahala.
Gawain ng aplikasyon
Bumuo ng AI board para sa iyong organisasyon: kanino mula sa aling mga function, kung anong awtoridad, sa anong ritmo. Pagkatapos ay gumawa ng draft na katanggap-tanggap na patakaran sa paggamit na may template 2 at manu-manong iakma ang hindi bababa sa tatlong sugnay ayon sa aktwal na data/kondisyon ng regulasyon ng iyong institusyon. Panghuli, ilarawan ang tatlong tier (mababa/medium/high) ng daloy ng pag-apruba na nakabatay sa panganib sa isang pangungusap.
checklist
- [ ] Nagdisenyo ako ng multifunctional board structure.
- [ ] Naka-draft ako ng kahit isang pangunahing patakaran.
- [ ] Iniangkop ko ang patakaran sa batas ng organisasyon at katotohanan ng data.
- [ ] Tinukoy ko ang isang nakabatay sa panganib na tiered na daloy ng pag-apruba.
- [ ] Nag-set up ako ng template ng imbentaryo ng AI system.
- [ ] Pinlano ko ang ritmo ng pagsubaybay at kontrol.
- [ ] Naisip ko kung paano ipasok ang mga patakaran sa larangan (training/tool).