Ieguvumi:
- Spēja izveidot AI pārvaldības sistēmas sastāvdaļas, kas līdzsvaro ātrumu, drošību un konsekvenci
- Spēja izstrādāt daudzfunkcionālu AI paneli un vienkāršas, piemērojamas pamatpolitikas (pieņemama izmantošana, dati, risks)
- Spēja slāņot apstiprinājumu atbilstoši riska līmenim un uzturēt pārvaldību jomā ar sistēmas inventarizāciju un regulāru auditu
Stratēģija, lietošanas gadījums, ROI un risks; Viņi visi ir spēcīgi, bet vieni paši ir nekārtīgi. Tas, kas tos satur kopā, padara tos atkārtojamus un dod iestādei pārliecību, ir pārvaldība (pārvaldība; ietvars, kas nosaka, kas pieņems lēmumus, ar kādiem noteikumiem un ar kādu kontroli). Pārvaldība ir pastāvīga atbilde uz jautājumu “kā mēs šajā uzņēmumā veicam AI atbildīgi?” Šajā nodaļā jūs uzzināsit, kā izveidot AI pārvaldību, rakstiskas politikas un lēmumu pieņemšanas padomes struktūru. Mērķis nav radīt birokrātiju; Lai nodrošinātu drošu un atkārtojamu darbību, nesamazinot ātrumu.
Kāpēc pārvaldība ir būtiska?
Organizācijā bez pārvaldības katra komanda izstrādā savus noteikumus: viena ielīmē klienta datus publiskā rīkā, viena ieliek ražošanā nesertificētu modeli, vispār neveic riska novērtējumu. Ja rodas problēmas, "kas to apstiprināja?" Uz jautājumu nav atbildes. Pārvaldība aizpilda šo plaisu: kurš lemj, kādi noteikumi tiek piemēroti, kurš uzrauga un kurš ir atbildīgs, ja rodas problēmas.
Laba pārvaldība līdzsvaro trīs lietas: ātrumu (nesamazinot iniciatīvu), drošību (riska kontrole) un konsekvenci (visi spēlē pēc vieniem un tiem pašiem noteikumiem). Pārmērīga pārvaldība nogalina ātrumu; Nepilnīga pārvaldība nogalina uzticību. Līdzsvars ir māksla.
Padoms. Iestatot pārvaldību, izveidojiet slāņus, pamatojoties uz riska līmeni, sākot no “lēnākā, drošākā ceļa” līdz “ātrākajam, riskantākajam ceļam”. Zema riska darbam vajadzētu plūst ātri; Tikai augsta riska darbiem ir jāsaņem stingra apstiprināšana. Piemērojot vienu un to pašu apgrūtinošo procesu visiem, pārvaldība kļūst par ienaidnieku.
Pārvaldības sastāvdaļas
sastāvdaļa
Ko tas dara?
piemērs
mākslīgā intelekta padome
Stratēģisks lēmums, prioritāte, apstiprināšana
Ikmēneša tikšanās, augsta riska apstiprināšana
Politikas/principu komplekts
rakstiski noteikumi
Pieņemams lietojums, dati, piegādātājs
Lomas un īpašumtiesības
Kurš par ko atbild
Uzņēmuma īpašnieks katrā lietošanas jomā
Riska un apstiprināšanas process
Kā sākt
Apstiprinājuma līmenis, pamatojoties uz riska līmeni
Uzraudzība un audits
Nepārtraukta kontrole
Dreifa uzraudzība, periodiskā apskate
Reģistrācija/inventarizācija
Kas kur darbojas
Mākslīgā intelekta sistēmas inventarizācija
Mākslīgā intelekta padome (AI padome / vadības komiteja) ir struktūra, kas sastāv no dažādu funkciju (biznesa, tehnoloģiju, tiesību, riska, datu) augsta līmeņa pārstāvjiem, kas dod stratēģisku virzību un apstiprina augsta riska iniciatīvas. Valde nevada projektus; nosaka ietvaru un pieņem kritiskus lēmumus.
Pamatpolitikas
Katrai organizācijai ir vajadzīgas vismaz šādas politikas:
- Pieņemamas lietošanas politika: kādus AI rīkus darbinieki var izmantot, ar kādiem datiem un kādam nolūkam? (Piemēram: "Neievadiet klienta personas datus nesankcionētā ārējā rīkā.")
- Datu un privātuma politika: kādi dati, kur un kā tiek apstrādāti? Kā nodrošināt KVKK atbilstību?
- Riska un apstiprināšanas politika: kādus novērtējumus starta uzņēmums veic pirms ražošanas uzsākšanas?
- Piegādātāja/pirkšanas politika: pēc kādiem kritērijiem tiek izvēlēti ārējie AI nodrošinātāji? (11. vienība)
- Pārredzamības politika: kad klients/darbinieks tiek informēts, ka tiek izmantots mākslīgais intelekts?
Soli pa solim: pārvaldības izveide
1. Izveidojiet dēli. Biznesa, tehnoloģiju, juridisko, riska un datu pārstāvis; skaidra autoritāte un tikšanās ritms.
2. Uzrakstiet galvenās politikas. Uzrakstiet iepriekš minētās piecas politikas vienkārši un piemērojamas; Tas nav romāns, tas ir noteikums.
3. Izveidojiet uz risku balstītu apstiprināšanas plūsmu. Zema riska ātra, augsta riska smaga apstiprināšana.
4. Saglabājiet inventāru. Kura mākslīgā intelekta sistēma ir kur, kurš ir atbildīgs, kādā riska līmenī.
5. Institucionalizēt uzraudzību un kontroli. Periodiska pārskatīšana, novirzes un atbilstības kontrole.
trīs mini futrāļi
1. gadījums — noplūde bez polises. Vienā advokātu birojā juristi glabāja konfidenciālus lietas dokumentus, kas tika apkopoti ar publiski pieejamu mākslīgā intelekta rīku. Uzskatīja, ka tas ir normāli, jo nebija pieņemamas lietošanas politikas. Kad klients par to uzzināja, iestājās uzticības krīze. Uzņēmums nekavējoties uzrakstīja politiku, nodrošināja uzņēmuma (datu drošu) rīku un apmācīja. Ja politika būtu bijusi no paša sākuma, krīze nebūtu iestājusies.
2. gadījums — Valdes līdzsvars. Viens ražotājs savu AI paneli izveidoja tikai no savas tehnoloģiju komandas. Valde sniedza apstiprinājumus, kas bija tehniski izcili, taču tiem bija juridisks un ētisks aklums. Kad padomei pievienoja juridisko un riska pārstāvi, pirms augsta riska uzņēmuma ražošanas uzsākšanas tika atklāta nopietna atbilstības problēma. Daudzveidība bija valdes redzējums.
3. gadījums — pārvaldības slāpēšanas temps. Vienā bankā katra AI ideja, pat zema riska ideja, tika cauri stingram 6 nedēļu apstiprināšanas procesam. Komandas sāka izvairīties no procesa un izmantot "ēnu" transportlīdzekļus. Banka sadalīja apstiprinājumu pēc riska līmeņa: zema riska darbi 3 dienās, augsta riska darbi visā procesā. Atgriezās gan ātrums, gan kontrole; Samazināta ēnu izmantošana.
Četras kopējamas veidnes
1) Valdes izveides projekts:
Jūsu loma: AI pārvaldības padomnieks. Iesakiet mums mākslīgā intelekta padomes projektu: cik locekļu no kurām funkcijām, padomes pilnvaras, sanāksmju biežumu, kādus lēmumus tā apstiprina, kādus atstāj komandu ziņā. Izvairieties no pārmērīgas birokrātijas; Iesakiet līdzsvaru, kas saglabās ātrumu.
2) Pieņemamās lietošanas politikas projekts:
[Industry] izstrādā vienkāršu, izpildāmu “AI pieņemamas lietošanas politiku” organizācijai: kādus rīkus var izmantot, ar kādiem datiem, kam; kas ir stingri aizliegts; Kas notiek pārkāpuma gadījumā? Rakstiet pa vienumam saprotamā valodā.
3) Uz risku balstīta apstiprināšanas plūsma:
Izveidojiet mums slāņveida AI apstiprināšanas plūsmu, pamatojoties uz riska līmeni: kādi soļi, kura apstiprināšana, cik ilgi, atsevišķi zemam/vidējam/augstam riskam. Nodrošiniet, lai zema riska darbs noritētu ātri un augsta riska darbs tiktu stingri pārbaudīts.
4) AI inventāra veidne:
Izveidojiet inventāra veidni, lai reģistrētu AI sistēmas organizācijā: sistēmas nosaukums, paredzētais lietojums, uzņēmuma īpašnieks, riska līmenis, izmantotie dati, piegādātājs, pēdējais audita datums. Īsi paskaidrojiet, kāpēc katrs lauks ir nepieciešams.
Vāja uzvedne / spēcīga uzvedne
Vāji: “Uzrakstiet mums AI politiku.”
Rezultāts: teksts, kas ir vispārīgs, neatbilst iestādei un ir pārāk abstrakts, lai to lietotu.
Güçlü: "Mēs esam 200 personu veselības tehnoloģiju uzņēmums, mēs strādājam ar pacientu datiem un esam pakļauti KVKK. Izveidojiet vienkāršu, izpildāmu pieņemamas lietošanas politiku par to, kā darbinieki var izmantot mākslīgā intelekta rīkus: pacienta datu noteikumu, apstiprinātos rīkus, aizliegumus un pārkāpumu sekas. Rakstiet to pa klauzulai un skaidrā valodā; pieņemsim, ka mūsu juridiskā komanda to pārskatīs."
Rezultāts: piemērojams projekts, kas atbilst iestādei, nozarei un tiesību aktiem.
Biežas kļūdas
- Neveidot pārvaldību vispār. Sakot "redzēsim vēlāk" nozīmē klusu riska uzkrāšanu.
- Pārmērīga birokrātija. Stingra apstiprinājuma piemērošana katram darbam liek komandām izmantot ēnu.
- Vienas funkcijas plate. Tikai tehnoloģija vai dēlis ar tikai juridisku pārstāvniecību rada aklās zonas; dažādība ir obligāta.
- Polises nerakstīšana un laišana laukumā. Politika, kas sēž plauktā, nenodrošina aizsardzību; Tas būtu jāatbalsta ar apmācību un instrumentiem.
- Neuzglabā inventāru. Iestāde, kas nezina, pie kā strādā, nevar zināt, ko auditēt.
Uzmanību: AI var sagatavot politikas vai valdes projektu; Taču šos projektus nevajadzētu stāties spēkā, ja tie nav pielāgoti realitātei, nozarei un iestādes likumdošanai un nav izskatīti juridiskajā un riska funkcijā. AI izstrādātā politika ir atbildīga korporatīvā lēmuma projekts, nevis pati par sevi.
Rezumējot
Pārvaldība ir sistēma, kas padara AI stratēģiju par pastāvīgu, atkārtojamu un uzticamu; līdzsvaro ātrumu, drošību un konsekvenci. Tās galvenās sastāvdaļas ir daudzfunkcionāla AI dēlis, vienkāršas un īstenojamas politikas, skaidras lomas, uz risku balstīta apstiprināšanas plūsma, nepārtraukta uzraudzība un sistēmas inventarizācija. Pārmērīgs birokrātijas ātrums un nepilnīga pārvaldība nogalina uzticību; Līdzsvars ir saistīts ar slāņošanu atbilstoši riska līmenim. Politikai jādzīvo laukā ar apmācību un instrumentiem, nevis plauktā. Nākamajā nodaļā aplūkosim ētiskas un atbildīgas AI principus, kas ir pārvaldības morālais pamats.
Lietojumprogrammas uzdevums
Izveidojiet savai organizācijai mākslīgā intelekta dēli: kurš no kurām funkcijām, ar kādām pilnvarām, kādā ritmā. Pēc tam izveidojiet pieņemamas lietošanas politikas projektu ar 2. veidni un manuāli pielāgojiet vismaz trīs klauzulas atbilstoši jūsu iestādes faktiskajiem datiem/regulatīvajiem nosacījumiem. Visbeidzot, vienā teikumā aprakstiet uz risku balstītas apstiprināšanas plūsmas trīs līmeņus (zems/vidējs/augsts).
kontrolsaraksts
- [ ] Es projektēju daudzfunkcionālu dēļu konstrukciju.
- [ ] Esmu izstrādājis vismaz vienu pamatpolitikas projektu.
- [ ] Politiku pielāgoju organizācijas likumdošanai un datu realitātei.
- [ ] Es definēju uz risku balstītu daudzpakāpju apstiprināšanas plūsmu.
- [ ] Esmu iestatījis AI sistēmas inventarizācijas veidni.
- [ ] Plānoju uzraudzības un kontroles ritmu.
- [ ] Es domāju par to, kā ieviest politiku šajā jomā (apmācība/rīks).