Upravljanje, politika in struktura odbora AI

Dobički:

• Sposobnost vzpostavitve komponent okvira upravljanja AI, ki uravnoteži hitrost, varnost in doslednost
• Sposobnost oblikovanja večnamenske plošče z umetno inteligenco in preprostih, uporabnih osnovnih politik (sprejemljiva uporaba, podatki, tveganje)
• Sposobnost odobritve slojev glede na stopnjo tveganja in vzdrževanja upravljanja na terenu s sistemskim popisom in rednimi revizijami

Strategija, primer uporabe, ROI in tveganje; Vsi so močni, a sami so neurejeni. Tisto, kar jih drži skupaj, jih naredi ponovljive in daje instituciji zaupanje, je governance (upravljanje; okvir, ki določa, kdo bo odločal, s kakšnimi pravili in s kakšnim nadzorom). Upravljanje je trajen odgovor na vprašanje "kako v tem podjetju delamo odgovorno z umetno inteligenco?" V tej enoti se boste naučili, kako vzpostaviti upravljanje AI, pisne politike in strukturo odbora za odločanje. Cilj ni ustvarjanje birokracije; Za zagotovitev varnega in ponovljivega delovanja brez upočasnitve hitrosti.

Zakaj je upravljanje nujno?

V organizaciji brez upravljanja vsaka ekipa oblikuje svoja pravila: ena prilepi podatke o strankah v javno orodje, ena da necertificiran model v proizvodnjo, ena sploh ne oceni tveganja. Ko se pojavijo težave, "kdo je odobril?" Na vprašanje ni odgovora. Upravljanje zapolnjuje to vrzel: kdo odloča, kakšna pravila veljajo, kdo spremlja in kdo je odgovoren, ko se pojavijo težave.

Dobro upravljanje uravnoteži tri stvari: hitrost (ne zavira pobude), varnost (nadzor tveganja) in doslednost (vsi igrajo po enakih pravilih). Pretirano vladanje ubija hitrost; Nepopolno upravljanje ubija zaupanje. Ravnovesje je umetnost.

Nasvet: Ko nastavljate upravljanje, ustvarite plasti glede na stopnjo tveganja, od »najpočasnejše, najvarnejše poti« do »najhitrejše, najbolj tvegane poti«. Delo z nizkim tveganjem mora potekati hitro; Samo delo z visokim tveganjem mora biti podvrženo strogi odobritvi. Uporaba istega obremenjujočega postopka za vse pomeni, da je vladanje razglašeno za sovražnika.

Komponente upravljanja

komponento

Kaj počne?

primer

plošča z umetno inteligenco

Strateška odločitev, prioriteta, odobritev

Mesečni sestanek, odobritev visokega tveganja

Nabor politik/načel

zapisana pravila

Sprejemljiva uporaba, podatki, dobavitelj

Vloge in lastništvo

Kdo je za kaj odgovoren

Lastnik podjetja za vsako področje uporabe

Tveganje in postopek odobritve

Kako začeti

Stopnja odobritve glede na stopnjo tveganja

Spremljanje in revizija

Stalni nadzor

Nadzor zanašanja, periodični pregledi

Registracija/popis

Kaj deluje kje

Inventar sistema umetne inteligence

Odbor za umetno inteligenco (svet/usmerjevalni odbor AI) je telo, ki ga sestavljajo predstavniki na visoki ravni iz različnih funkcij (podjetje, tehnologija, pravo, tveganje, podatki), ki dajejo strateško usmeritev in odobravajo pobude z visokim tveganjem. Odbor ne vodi projektov; postavlja okvir in sprejema kritične odločitve.

Osnovne politike

Vsaka organizacija potrebuje vsaj te politike:

1. Politika sprejemljive uporabe: Katera orodja AI lahko zaposleni uporabljajo, s katerimi podatki in za kaj? (Primer: "Ne vnašajte osebnih podatkov stranke v nepooblaščeno zunanje orodje.")
2. Podatki in politika zasebnosti: kateri podatki, kje in kako se obdelujejo? Kako zagotoviti skladnost s KVKK?
3. Politika tveganja in odobritve: skozi kakšna vrednotenja gre startup, preden gre v proizvodnjo?
4. Dobavitelj/nabavna politika: Po kakšnih merilih so izbrani zunanji ponudniki umetne inteligence? (Enota 11)
5. Politika preglednosti: Kdaj je stranka/zaposleni obveščen o uporabi umetne inteligence?

Korak za korakom: vzpostavitev upravljanja

1. Ustvarite tablo. Predstavnik za podjetja, tehnologijo, pravo, tveganja in podatke; jasna avtoriteta in ritem srečanj.

2. Napišite temeljne politike. Napišite zgornjih pet politik preprosto in uporabno; To ni roman, to je pravilo.

3. Vzpostavite tok odobritve na podlagi tveganja. Nizko tveganje, hitro, visoko tveganje, težka odobritev.

4. Vodite inventar. Kateri sistem umetne inteligence je kje, kdo je odgovoren, na kakšni stopnji tveganja.

5. Institucionalizirati spremljanje in nadzor. Periodični pregled, drift in kontrola skladnosti.

trije mini kovčki

Primer 1 – Puščanje brez politike. V eni od odvetniških pisarn so imeli odvetniki zaupne dokumente primerov, povzete z javno dostopnim orodjem umetne inteligence. To je veljalo za normalno, ker ni bilo sprejemljive politike uporabe. Ko je stranka izvedela za to, je prišlo do krize zaupanja. Podjetje je nemudoma napisalo politiko, zagotovilo podjetje (podatkovno varno) orodje in zagotovilo usposabljanje. Če bi bila politika od začetka, do krize ne bi prišlo.

Primer 2 – Ravnovesje plošče. En proizvajalec je svojo ploščo z umetno inteligenco zgradil izključno iz svoje tehnološke ekipe. Odbor je izdal odobritve, ki so bile tehnično briljantne, vendar so imele pravno in etično slepoto. Ko je bil upravnemu odboru dodan pravni zastopnik in zastopnik za tveganja, je bila odkrita resna težava s skladnostjo, preden se je lahko visoko tvegan podvig začel s proizvodnjo. Raznolikost je bila vizija odbora.

Primer 3 – Upravljanje zavira zagon. V eni banki je šla vsaka ideja AI, tudi tista z nizkim tveganjem, skozi strog 6-tedenski postopek odobritve. Ekipe so se začele izogibati procesu in uporabljati "senčna" vozila. Banka je odobritev stratificirala glede na stopnjo tveganja: zaposlitve z nizkim tveganjem v 3 dneh, tiste z visokim tveganjem skozi celoten proces. Vrnila sta se tako hitrost kot nadzor; Uporaba sence se je zmanjšala.

Štiri predloge za kopiranje

1) Osnutek ustanovitve odbora:

Vaša vloga: svetovalec za upravljanje AI. Predlagajte nam osnutek odbora za umetno inteligenco: koliko članov iz katerih funkcij, pristojnosti odbora, pogostost sestankov, katere odločitve sprejema, katere prepušča ekipam. Izogibajte se pretirani birokraciji; Predlagajte ravnotežje, ki bo ohranjalo hitrost.

2) Osnutek politike sprejemljive uporabe:

[Industrija] osnutek preproste, izvršljive »politike sprejemljive uporabe AI« za organizacijo: katera orodja je mogoče uporabiti, s katerimi podatki, za kaj; kaj je strogo prepovedano; Kaj se zgodi v primeru kršitve? Pišite po postavkah v razumljivem jeziku.

3) Potek odobritve na podlagi tveganja:

Oblikujte nam večplasten tok odobritve AI glede na stopnjo tveganja: kateri koraki, čigava odobritev, kako dolgo, ločeno za nizko/srednje/visoko tveganje. Zagotovite, da delo z nizkim tveganjem poteka hitro, delo z visokim tveganjem pa pod strogim nadzorom.

4) Predloga popisa AI:

Oblikujte predlogo popisa za beleženje sistemov AI v organizaciji: ime sistema, predvidena uporaba, lastnik podjetja, stopnja tveganja, uporabljeni podatki, dobavitelj, datum zadnje revizije. Na kratko pojasnite, zakaj je posamezno polje potrebno.

Šibek poziv/močan poziv

Šibko: "Napišite nam politiko AI."

Rezultat: Besedilo, ki je splošno, ne ustreza ustanovi in ​​je preveč abstraktno, da bi ga lahko uporabili.

Güçlü: "Smo podjetje za zdravstveno tehnologijo z 200 zaposlenimi, delamo s podatki o pacientih in smo podvrženi KVKK. Pripravite osnutek preproste, izvršljive politike sprejemljive uporabe o tem, kako lahko zaposleni uporabljajo orodja umetne inteligence: pravilo o podatkih o pacientih, odobrena orodja, prepovedi in posledice kršitev. Napišite klavzulo za klavzulo in v jasnem jeziku; domnevamo, da jo bo pregledala naša pravna ekipa."

Rezultat: uporaben osnutek, ki ustreza instituciji, sektorju in zakonodaji.

Pogoste napake

• Sploh ne vzpostaviti upravljanja. Rek "bomo videli kasneje" pomeni tiho kopičenje tveganja.
• Pretirana birokracija. Uporaba močne odobritve za vsako delo potisne ekipe v uporabo v senci.
• Enofunkcionalna plošča. Sama tehnologija ali upravni odbor, ki ima le pravno zastopstvo, ustvarja slepe pege; raznolikost je nujna.
• Ne pisanje pravilnika in njegovo dajanje na teren. Politika, ki leži na polici, ne zagotavlja zaščite; Podpreti ga je treba z usposabljanjem in orodji.
• Ne vodenje inventarja. Institucija, ki ne ve, kaj dela, ne more vedeti, kaj revidirati.

Pozor: umetna inteligenca lahko ustvari osnutek politike ali odbora; Vendar teh osnutkov ne bi smeli začeti izvajati, ne da bi jih prilagodili realnosti, sektorju in zakonodaji institucije ter pregledali pravne funkcije in funkcije za tveganje. Politika, ki jo je ustvaril AI, je načrt za odgovorno korporativno odločitev, ne sama.

Če povzamem

Upravljanje je okvir, zaradi katerega je strategija AI stalna, ponovljiva in zanesljiva; uravnoteži hitrost, varnost in doslednost. Njegove ključne komponente so večnamenska plošča z umetno inteligenco, preproste in izvedljive politike, jasne vloge, potek odobritve na podlagi tveganja, stalno spremljanje in sistemski popis. Prekomerna hitrost birokracije in nepopolno upravljanje ubijata zaupanje; Ravnovesje se zmanjša na plastenje glede na stopnjo tveganja. Politike bi morale živeti na terenu z usposabljanjem in orodji, ne pa na polici. V naslednji enoti bomo obravnavali načela etične in odgovorne umetne inteligence, ki so moralna osnova upravljanja.

Aplikacijska naloga

Pripravite osnutek odbora AI za vašo organizacijo: kdo iz katere funkcije, s kakšno avtoriteto, v kakšnem ritmu. Nato pripravite osnutek politike sprejemljive uporabe s predlogo 2 in ročno prilagodite vsaj tri klavzule glede na dejanske podatke/regulativne pogoje vaše ustanove. Na koncu opišite tri stopnje (nizko/srednje/visoko) toka odobritve na podlagi tveganja v enem stavku.

kontrolni seznam

• [ ] Oblikoval sem strukturo večnamenske plošče.
• [ ] Pripravil sem vsaj eno temeljno politiko.
• [ ] Politiko sem prilagodil zakonodaji organizacije in realnosti podatkov.
• [ ] Definiral sem večstopenjski tok odobritve na podlagi tveganja.
• [ ] Nastavil sem predlogo inventarja sistema AI.
• [ ] Načrtoval sem ritem spremljanja in nadzora.
• [ ] Razmišljal sem o tem, kako spraviti politike na teren (usposabljanje/orodje).