Upravljanje AI, politika i struktura odbora

Dobici:

• Sposobnost uspostavljanja komponenti okvira upravljanja umjetnom inteligencijom koji uravnotežuje brzinu, sigurnost i dosljednost
• Sposobnost dizajniranja višenamjenske AI ploče i jednostavnih, primjenjivih temeljnih politika (prihvatljiva upotreba, podaci, rizik)
• Sposobnost slojevitog odobrenja prema razini rizika i održavanja upravljanja na terenu s popisom sustava i redovitom revizijom

Strategija, slučaj korištenja, ROI i rizik; Svi su jaki, ali sami su neuredni. Ono što ih drži na okupu, čini ponovljivima i daje povjerenje instituciji je governance (upravljanje; okvir koji određuje tko će donositi odluke, s kojim pravilima i s kojom kontrolom). Upravljanje je trajni odgovor na pitanje "kako odgovorno raditi AI u ovom poduzeću?" U ovoj jedinici naučit ćete kako uspostaviti upravljanje umjetnom inteligencijom, pisane politike i strukturu odbora za donošenje odluka. Cilj nije stvoriti birokraciju; Kako bi se osigurao siguran i ponovljiv rad bez usporavanja brzine.

Zašto je upravljanje bitno?

U organizaciji bez upravljanja, svaki tim stvara vlastita pravila: jedan lijepi podatke o kupcima u javni alat, drugi stavlja necertificirani model u proizvodnju, jedan uopće ne radi procjenu rizika. Kad se pojave problemi, "tko je to odobrio?" Nema odgovora na pitanje. Upravljanje popunjava ovu prazninu: tko odlučuje, koja se pravila primjenjuju, tko nadzire i tko se smatra odgovornim kada se pojave problemi.

Dobro upravljanje uravnotežuje tri stvari: brzinu (ne gušenje inicijative), sigurnost (kontrola rizika) i dosljednost (svi igraju po istim pravilima). Pretjerano vladanje ubija brzinu; Nepotpuno upravljanje ubija povjerenje. Ravnoteža je umjetnost.

Savjet: prilikom postavljanja upravljanja stvorite slojeve na temelju razine rizika, od "najsporijeg, najsigurnijeg puta" do "najbržeg, najrizičnijeg puta". Rad niskog rizika trebao bi teći brzo; Samo visokorizični radovi trebaju proći rigorozno odobrenje. Primjena istog opterećujućeg procesa na sve čini vladavinu proglašenom neprijateljem.

Komponente upravljanja

komponenta

Što radi?

primjer

ploča umjetne inteligencije

Strateška odluka, prioritet, odobrenje

Mjesečni sastanak, odobrenje visokog rizika

Skup politika/načela

pisana pravila

Prihvatljiva uporaba, podaci, dobavljač

Uloge i vlasništvo

Tko je za što odgovoran

Vlasnik tvrtke za svako područje primjene

Rizik i proces odobravanja

Kako započeti

Razina odobrenja na temelju razine rizika

Praćenje i revizija

Kontinuirana kontrola

Praćenje zanošenja, periodični pregled

Registracija/inventar

Što radi gdje

Inventar sustava umjetne inteligencije

Odbor za umjetnu inteligenciju (vijeće/upravljački odbor) tijelo je sastavljeno od predstavnika na visokoj razini iz različitih funkcija (posao, tehnologija, pravo, rizik, podaci), koji daju strateške smjernice i odobravaju visokorizične inicijative. Odbor ne upravlja projektima; postavlja okvir i donosi kritične odluke.

Osnovne politike

Svaka organizacija treba barem ove politike:

1. Politika prihvatljive upotrebe: Koje AI alate zaposlenici mogu koristiti, s kojim podacima i za što? (Primjer: "Nemojte unositi osobne podatke korisnika u neovlašteni vanjski alat.")
2. Podaci i politika privatnosti: Koji se podaci, gdje i kako obrađuju? Kako osigurati usklađenost s KVKK?
3. Politika rizika i odobrenja: kroz koje procjene prolazi startup prije nego što krene u proizvodnju?
4. Politika dobavljača/kupnje: prema kojim se kriterijima biraju vanjski pružatelji AI? (jedinica 11)
5. Politika transparentnosti: Kada se kupac/zaposlenik obavještava da se koristi AI?

Korak po korak: uspostavljanje upravljanja

1. Napravite ploču. Predstavnik za poslovanje, tehnologiju, pravo, rizik i podatke; jasan autoritet i ritam sastanaka.

2. Napišite temeljne politike. Napišite gornjih pet pravila jednostavno i primjenjivo; To nije roman, to je pravilo.

3. Uspostavite tijek odobravanja temeljen na riziku. Nizak rizik brzo, visok rizik teško odobrenje.

4. Vodite inventar. Koji je sustav umjetne inteligencije gdje, tko je odgovoran, na kojoj razini rizika.

5. Institucionalizirati praćenje i kontrolu. Periodični pregled, drift i kontrola usklađenosti.

tri mini kućišta

Slučaj 1 — Curenje bez politike. U jednoj odvjetničkoj tvrtki odvjetnici su imali povjerljive dokumente predmeta sažete putem javno dostupnog alata za umjetnu inteligenciju. To se smatralo normalnim jer nije postojala prihvatljiva politika korištenja. Kada je klijent saznao za to, došlo je do krize povjerenja. Tvrtka je odmah napisala politiku, osigurala poslovni alat (zaštićen podacima) i osigurala obuku. Da je politika bila od početka, krize ne bi bilo.

Slučaj 2 — Ravnoteža ploče. Jedan je proizvođač napravio svoju AI ploču isključivo od svog tehnološkog tima. Odbor je dao odobrenja koja su bila tehnički briljantna, ali su imala pravno i etičko sljepilo. Kada je odboru dodan pravni predstavnik i predstavnik za rizike, otkriven je ozbiljan problem usklađenosti prije nego što je visokorizični pothvat mogao krenuti u proizvodnju. Raznolikost je bila vizija odbora.

Slučaj 3 — Upravljanje guši zamah. U jednoj je banci svaka ideja o umjetnoj inteligenciji, čak i ona niskog rizika, prošla kroz rigorozan 6-tjedni postupak odobravanja. Timovi su počeli izbjegavati proces i koristiti vozila u "sjeni". Banka je stratificirala odobrenje prema razini rizika: niskorizični poslovi u 3 dana, visokorizični kroz cijeli proces. I brzina i kontrola su se vratile; Smanjena upotreba sjene.

Četiri predloška za kopiranje

1) Nacrt osnivanja odbora:

Vaša uloga: savjetnik za upravljanje umjetnom inteligencijom. Predložite nam nacrt odbora za umjetnu inteligenciju: koliko članova iz kojih funkcija, ovlasti odbora, učestalost sastanaka, koje odluke odobrava, koje prepušta timovima. Izbjegavajte pretjeranu birokraciju; Predložite ravnotežu koja će održati brzinu.

2) Nacrt politike prihvatljive upotrebe:

[Industrija] izraditi jednostavnu, provedivu „Politiku prihvatljive upotrebe umjetne inteligencije” za organizaciju: koji se alati mogu koristiti, s kojim podacima, za što; što je strogo zabranjeno; Što se događa u slučaju kršenja? Pišite stavku po stavku, razumljivim jezikom.

3) Tijek odobrenja temeljen na riziku:

Osmislite nam slojeviti tok odobrenja AI-a na temelju razine rizika: koji koraci, čije odobrenje, koliko dugo, odvojeno za nizak/srednji/visoki rizik. Osigurajte da rad s niskim rizikom teče brzo, a rad s visokim rizikom prolazi strogu inspekciju.

4) Predložak AI inventara:

Dizajnirajte predložak inventara za bilježenje AI sustava u organizaciji: naziv sustava, namjeravana upotreba, vlasnik tvrtke, razina rizika, korišteni podaci, dobavljač, datum posljednje revizije. Ukratko objasnite zašto je svako polje potrebno.

Slab upit / Jak upit

Slabo: "Napišite nam politiku umjetne inteligencije."

Rezultat: Tekst koji je općenit, ne odgovara instituciji i previše je apstraktan da bi se mogao primijeniti.

Güçlü: "Mi smo tvrtka za zdravstvenu tehnologiju od 200 ljudi, radimo s podacima o pacijentima i podložni smo KVKK-u. Nacrtajte jednostavnu, provedivu politiku prihvatljive upotrebe o tome kako zaposlenici mogu koristiti alate umjetne inteligencije: pravilo o podacima o pacijentima, odobreni alati, zabrane i posljedice kršenja. Napišite to klauzulu po klauzulu i jasnim jezikom; pretpostavimo da će naš pravni tim to pregledati."

Rezultat: Primjenjiv nacrt koji odgovara instituciji, sektoru i zakonodavstvu.

Uobičajene greške

• Uopće ne uspostavljanje vlasti. Reći "vidjet ćemo kasnije" znači tiho gomilanje rizika.
• Pretjerana birokracija. Primjena velikog odobrenja za svaki posao gura timove u korištenje u sjeni.
• Ploča s jednom funkcijom. Sama tehnologija ili odbor koji ima samo zakonsko zastupanje stvaraju slijepe točke; raznolikost je neophodna.
• Ne napisati politiku i staviti je na teren. Politika koja stoji na polici ne pruža zaštitu; Treba ga podržati obukom i alatima.
• Ne čuvanje inventara. Institucija koja ne zna na čemu radi ne može znati što revidirati.

Oprez: AI može proizvesti politiku ili nacrt odbora; Ali ti se nacrti ne bi trebali staviti na snagu bez prilagodbe stvarnosti, sektoru i zakonodavstvu institucije i pregledavanja pravnih funkcija i funkcija rizika. Politika koju je izradila AI nacrt je za odgovornu korporativnu odluku, a ne ona sama.

Ukratko

Upravljanje je okvir koji strategiju umjetne inteligencije čini trajnom, ponovljivom i pouzdanom; uravnotežuje brzinu, sigurnost i dosljednost. Njegove ključne komponente su višenamjenska ploča s umjetnom inteligencijom, jednostavne i djelotvorne politike, jasne uloge, tijek odobrenja temeljen na riziku, kontinuirani nadzor i inventar sustava. Pretjerana brzina birokracije i nepotpuno upravljanje ubija povjerenje; Ravnoteža se svodi na slojevitost prema razini rizika. Politike bi trebale živjeti na terenu s obukom i alatima, a ne na polici. U sljedećoj cjelini pokrit ćemo načela etičke i odgovorne umjetne inteligencije, koja su moralna osnova upravljanja.

Zadatak aplikacije

Napravite AI odbor za svoju organizaciju: tko iz koje funkcije, s kojim ovlastima, u kojem ritmu. Zatim izradite nacrt prihvatljive politike korištenja s predloškom 2 i ručno prilagodite najmanje tri klauzule prema stvarnim podacima/regulatornim uvjetima vaše ustanove. Na kraju, opišite tri razine (niska/srednja/visoka) tijeka odobrenja temeljenog na riziku u jednoj rečenici.

popis za provjeru

• [ ] Dizajnirao sam strukturu višenamjenske ploče.
• [ ] Napisao sam barem jednu temeljnu politiku.
• [ ] Politiku sam prilagodio zakonodavstvu organizacije i stvarnosti podataka.
• [ ] Definirao sam višeslojni tijek odobrenja temeljen na riziku.
• [ ] Postavio sam predložak inventara sustava umjetne inteligencije.
• [ ] Planirao sam ritam praćenja i kontrole.
• [ ] Razmišljao sam o tome kako staviti pravila na teren (obuka/alat).