AI upravljanje, politika i struktura odbora

Dobici:

• Sposobnost uspostavljanja komponenti okvira upravljanja umjetnom inteligencijom koji balansira brzinu, sigurnost i konzistentnost
• Sposobnost dizajniranja multifunkcionalne AI ploče i jednostavnih, primjenjivih osnovnih pravila (prihvatljiva upotreba, podaci, rizik)
• Sposobnost postavljanja slojeva odobrenja prema nivou rizika i održavanja upravljanja na terenu sa inventarom sistema i redovnom revizijom

Strategija, slučaj upotrebe, ROI i rizik; Svi su jaki, ali sami su neuredni. Ono što ih drži na okupu, čini ponovljivim i daje povjerenje instituciji je upravljanje (upravljanje; okvir koji određuje ko će donositi odluke, s kojim pravilima i s kojom kontrolom). Upravljanje je trajni odgovor na pitanje "kako da odgovorno radimo AI u ovom preduzeću?" U ovoj jedinici ćete naučiti kako uspostaviti AI upravljanje, pisane politike i strukturu odbora za donošenje odluka. Cilj nije stvaranje birokratije; Za siguran i ponovljiv rad bez usporavanja brzine.

Zašto je upravljanje ključno?

U organizaciji bez upravljanja, svaki tim donosi svoja vlastita pravila: jedan lijepi podatke o klijentima u javni alat, drugi stavlja necertificirani model u proizvodnju, jedan uopće ne procjenjuje rizik. Kada se pojave problemi, "ko je to odobrio?" Nema odgovora na pitanje. Upravljanje popunjava ovu prazninu: ko odlučuje, koja pravila se primenjuju, ko nadgleda i ko se smatra odgovornim kada se pojave problemi.

Dobro upravljanje balansira tri stvari: brzinu (ne guši inicijativu), sigurnost (kontrolisanje rizika) i dosljednost (svi igraju po istim pravilima). Pretjerano upravljanje ubija brzinu; Nepotpuno upravljanje ubija povjerenje. Ravnoteža je umjetnost.

Savjet: Prilikom postavljanja upravljanja, kreirajte slojeve na osnovu nivoa rizika, od "najsporijeg, najsigurnijeg puta" do "najbržeg, najrizičnijeg puta". Posao niskog rizika treba da teče brzo; Strogo odobrenje treba da prođe samo rad visokog rizika. Primjena istog opterećujućeg procesa na sve čini vlast proglašenom neprijateljem.

Komponente upravljanja

komponenta

šta to radi?

primjer

odbor za umjetnu inteligenciju

Strateška odluka, prioritet, odobrenje

Mjesečni sastanak, odobrenje visokog rizika

Skup politika/principa

pisanim pravilima

Prihvatljiva upotreba, podaci, dobavljač

Uloge i vlasništvo

Ko je za šta odgovoran

Vlasnik preduzeća za svaku oblast upotrebe

Rizik i proces odobravanja

Kako započeti

Nivo odobrenja zasnovan na nivou rizika

Monitoring i revizija

Kontinuirana kontrola

Praćenje zanošenja, periodični pregled

Registracija/inventar

Šta gde radi

Inventar sistema umjetne inteligencije

Odbor za umjetnu inteligenciju (vijeće za umjetnu inteligenciju/upravni odbor) tijelo je sastavljeno od predstavnika na visokom nivou iz različitih funkcija (biznis, tehnologija, zakon, rizik, podaci), koji daje strateško usmjerenje i odobrava inicijative visokog rizika. Odbor ne upravlja projektima; postavlja okvir i donosi kritične odluke.

Osnovne politike

Svaka organizacija treba barem ove politike:

1. Politika prihvatljive upotrebe: Koje alate umjetne inteligencije zaposleni mogu koristiti, s kojim podacima i za šta? (Primjer: "Ne unosite lične podatke korisnika u neovlašteni vanjski alat.")
2. Podaci i politika privatnosti: Koji podaci, gdje i kako se obrađuju? Kako osigurati usklađenost s KVKK?
3. Politika rizika i odobravanja: kroz koje evaluacije prolazi startup prije nego što krene u proizvodnju?
4. Politika dobavljača/nabavke: Po kojim kriterijumima se biraju eksterni dobavljači veštačke inteligencije? (Jedinica 11)
5. Politika transparentnosti: Kada je kupac/zaposleni obaviješten da se AI koristi?

Korak po korak: uspostavljanje upravljanja

1. Kreirajte ploču. Predstavnik poslovanja, tehnologije, prava, rizika i podataka; jasan autoritet i ritam sastanka.

2. Napišite osnovne politike. Napišite gornjih pet pravila jednostavno i primjenjivo; To nije roman, to je pravilo.

3. Uspostaviti tok odobravanja zasnovan na riziku. Nizak rizik brzo, visok rizik teško odobrenje.

4. Čuvajte inventar. Gdje je sistem umjetne inteligencije, ko je odgovoran, na kom nivou rizika.

5. Institucionalizirati praćenje i kontrolu. Periodični pregled, drift i kontrola usklađenosti.

tri mini kofera

Slučaj 1 — Curenje bez politike. U jednoj advokatskoj kancelariji, advokati su imali poverljive dokumente predmeta sažete javno dostupnim alatom veštačke inteligencije. Smatralo se da je to normalno jer nije postojala politika prihvatljivog korištenja. Kada je klijent saznao za ovo, došlo je do krize povjerenja. Firma je odmah napisala politiku, obezbedila alatku za preduzeća (dokaz podataka) i obezbedila obuku. Da je politika bila od početka, do krize ne bi došlo.

Slučaj 2 — Ravnoteža ploče. Jedan proizvođač je napravio svoju AI ploču isključivo od svog tehnološkog tima. Odbor je dao odobrenja koja su bila tehnički briljantna, ali su imala pravno i etičko sljepilo. Kada je u odbor dodat pravni predstavnik i predstavnik rizika, otkriven je ozbiljan problem usklađenosti prije nego što je visokorizični poduhvat mogao krenuti u proizvodnju. Raznolikost je bila vizija odbora.

Slučaj 3 — Upravljanje guši zamah. U jednoj banci, svaka ideja AI, čak i niskorizična, prošla je kroz rigorozni 6-sedmični proces odobrenja. Timovi su počeli izbjegavati proces i koristiti vozila iz sjene. Banka je stratificirala odobrenje prema nivou rizika: poslovi niskog rizika za 3 dana, visokorizični kroz cijeli proces. I brzina i kontrola su vraćeni; Smanjena je upotreba sjene.

Četiri šablona za kopiranje

1) Nacrt osnivanja odbora:

Vaša uloga: savjetnik za upravljanje umjetnom inteligencijom. Predložite nam nacrt odbora za umjetnu inteligenciju: koliko članova iz kojih funkcija, ovlaštenja odbora, učestalost sastanaka, koje odluke odobrava, koje prepušta timovima. Izbjegavajte pretjeranu birokratiju; Predložite ravnotežu koja će održati brzinu.

2) Nacrt politike prihvatljivog korišćenja:

[Industrija] izraditi jednostavnu, sprovodljivu „politiku prihvatljive upotrebe AI” za organizaciju: koji alati se mogu koristiti, sa kojim podacima, za šta; šta je strogo zabranjeno; Šta se dešava u slučaju kršenja? Pišite stavku po stavku, razumljivim jezikom.

3) Tok odobrenja zasnovan na riziku:

Dizajnirajte nam slojeviti tok odobrenja AI zasnovan na nivou rizika: koji koraci, čije odobrenje, koliko dugo, odvojeno za nizak/srednji/visoki rizik. Osigurajte da posao niskog rizika teče brzo i da visokorizični posao prođe strogu inspekciju.

4) AI predložak inventara:

Dizajnirajte predložak inventara za snimanje AI sistema u organizaciji: naziv sistema, predviđena upotreba, vlasnik preduzeća, nivo rizika, korišćeni podaci, dobavljač, datum poslednje revizije. Ukratko objasnite zašto je svako polje neophodno.

Slaba prompt / Jaka prompt

Slabo: "Napišite nam politiku AI."

Rezultat: Tekst koji je opšti, ne uklapa se u instituciju i previše je apstraktan da bi se mogao primijeniti.

Güçlü: "Mi smo kompanija za zdravstvenu tehnologiju sa 200 ljudi, radimo s podacima o pacijentima i podliježemo KVKK-u. Nacrtajte jednostavnu, provedivu prihvatljivu politiku upotrebe o tome kako zaposleni mogu koristiti alate umjetne inteligencije: pravilo o podacima o pacijentima, odobreni alati, zabrane i posljedice kršenja. Napišite to klauzulu po klauzulu i jasnim jezikom; pretpostavite da će naš pravni tim pregledati."

Rezultat: Primjenjiv nacrt koji odgovara instituciji, sektoru i zakonodavstvu.

Uobičajene greške

• Ne uspostavljanje vlasti uopšte. Reći "videćemo kasnije" znači tiho gomilanje rizika.
• Pretjerana birokratija. Primjena velikog odobrenja na svaki posao gura timove u korištenje u sjeni.
• Jednostruka funkcionalna ploča. Sama tehnologija ili odbor sa samo pravnim zastupništvom stvara slijepe tačke; raznolikost je neophodna.
• Ne pisati politiku i stavljati je na teren. Politika sjedenja na polici ne pruža zaštitu; Trebalo bi da bude podržano obukom i alatima.
• Ne vodi inventar. Institucija koja ne zna na čemu radi ne može znati šta da revidira.

Oprez: AI može izraditi nacrt politike ili odbora; Ali ovi nacrti ne bi trebalo da budu stavljeni na snagu bez prilagođavanja realnosti, sektora i zakonodavstva institucije i pregledani od strane pravnih i rizičnih funkcija. Politika koju proizvodi AI je nacrt za odgovornu korporativnu odluku, a ne ona sama.

Ukratko

Upravljanje je okvir koji AI strategiju čini trajnom, ponovljivom i pouzdanom; balansira brzinu, sigurnost i konzistentnost. Njegove ključne komponente su multifunkcionalna AI ploča, jednostavne i praktične politike, jasne uloge, tok odobrenja zasnovan na riziku, kontinuirano praćenje i inventar sistema. Pretjerana brzina birokratije i nepotpuno upravljanje ubija povjerenje; Ravnoteža se svodi na slojevitost prema nivou rizika. Politike treba da žive na terenu sa obukom i alatima, a ne na polici. U sljedećoj cjelini ćemo obraditi principe etičke i odgovorne AI, koji su moralna osnova upravljanja.

Zadatak aplikacije

Nacrtajte AI tablu za svoju organizaciju: ko iz koje funkcije, sa kojim autoritetom, u kom ritmu. Zatim izradite nacrt politike prihvatljivog korišćenja sa šablonom 2 i ručno prilagodite najmanje tri klauzule u skladu sa stvarnim podacima/regulatornim uslovima vaše institucije. Na kraju, u jednoj rečenici opišite tri nivoa (nizak/srednji/visok) toka odobravanja zasnovanog na riziku.

kontrolna lista

• [ ] Dizajnirao sam multifunkcionalnu strukturu ploče.
• [ ] Napravio sam nacrt najmanje jedne osnovne politike.
• [ ] Prilagodio sam politiku zakonodavstvu organizacije i stvarnosti podataka.
• [ ] Definirao sam tok odobravanja zasnovan na riziku.
• [ ] Postavio sam predložak inventara AI sistema.
• [ ] Planirao sam ritam praćenja i kontrole.
• [ ] Razmišljao sam o tome kako staviti politike na teren (obuka/alat).