AI valdymas, politika ir valdybos struktūra

Pelnas:

• Gebėjimas sukurti AI valdymo sistemos komponentus, subalansuojančius greitį, saugumą ir nuoseklumą
• Gebėjimas sukurti daugiafunkcę dirbtinio intelekto plokštę ir paprastą, taikomą pagrindinę politiką (priimtinas naudojimas, duomenys, rizika)
• Gebėjimas sluoksniuoti patvirtinimą pagal rizikos lygį ir išlaikyti valdymą šioje srityje atliekant sistemos inventorizaciją ir reguliarų auditą

Strategija, naudojimo atvejis, IG ir rizika; Visi jie stiprūs, bet vieni netvarkingi. Tai, kas juos laiko kartu, daro juos pakartojamais ir suteikia institucijai pasitikėjimo, yra valdymas (valdymas; sistema, kuri lemia, kas priims sprendimus, kokiomis taisyklėmis ir kokia kontrolė). Valdymas yra nuolatinis atsakymas į klausimą „kaip atsakingai dirbti dirbtinį intelektą šioje įmonėje? Šiame skyriuje sužinosite, kaip nustatyti AI valdymą, rašytinę politiką ir sprendimų priėmimo valdybos struktūrą. Siekiama ne kurti biurokratiją; Kad būtų užtikrintas saugus ir kartojamas veikimas nesumažinant greičio.

Kodėl valdymas yra būtinas?

Organizacijoje be valdymo kiekviena komanda kuria savo taisykles: viena įklijuoja klientų duomenis į viešą įrankį, viena įveda nesertifikuotą modelį į gamybą, visiškai nevertina rizikos. Iškilus problemoms, "kas tai patvirtino?" Atsakymo į klausimą nėra. Šią spragą užpildo valdymas: kas sprendžia, kokios taisyklės taikomos, kas stebi ir kas atsako iškilus problemoms.

Geras valdymas subalansuoja tris dalykus: greitį (neslopina iniciatyvos), saugumą (rizikos valdymą) ir nuoseklumą (visi žaidžia pagal tas pačias taisykles). Per didelis valdymas žudo greitį; Neužbaigtas valdymas žudo pasitikėjimą. Balansas yra menas.

Patarimas: nustatydami valdymą kurkite sluoksnius pagal rizikos lygį, nuo „lėčiausio, saugiausio kelio“ iki „greičiausio, rizikingiausio kelio“. Mažos rizikos darbai turėtų vykti greitai; Tik didelės rizikos darbai turi būti griežtai patvirtinti. Taikant tą patį varginantį procesą visiems, valdymas paskelbiamas priešu.

Valdymo komponentai

komponentas

Ką tai daro?

pavyzdys

dirbtinio intelekto lenta

Strateginis sprendimas, prioritetas, pritarimas

Mėnesinis susitikimas, didelės rizikos patvirtinimas

Politikos/principo rinkinys

parašytos taisyklės

Priimtinas naudojimas, duomenys, tiekėjas

Vaidmenys ir nuosavybė

Kas už ką atsakingas

Verslo savininkas kiekvienai naudojimo sričiai

Rizikos ir patvirtinimo procesas

Kaip pradėti

Patvirtinimo pakopa, pagrįsta rizikos lygiu

Stebėsena ir auditas

Nuolatinis valdymas

Dreifo stebėjimas, periodinė patikra

Registracija/inventorizacija

Kas kur veikia

Dirbtinio intelekto sistemos inventorius

Dirbtinio intelekto valdyba (DI taryba / valdymo komitetas) yra institucija, sudaryta iš aukšto lygio įvairių funkcijų (verslo, technologijų, teisės, rizikos, duomenų) atstovų, duodančių strateginę kryptį ir tvirtinančių didelės rizikos iniciatyvas. Valdyba projektams nevaldo; nustato pagrindą ir priima svarbius sprendimus.

Pagrindinė politika

Kiekvienai organizacijai reikia bent šios politikos:

1. Priimtino naudojimo politika: kokius AI įrankius darbuotojai gali naudoti, su kokiais duomenimis ir kam? (Pvz.: „Neįveskite kliento asmens duomenų į neleistiną išorinį įrankį“.)
2. Duomenų ir privatumo politika: kokie duomenys, kur ir kaip tvarkomi? Kaip užtikrinti KVKK atitiktį?
3. Rizikos ir patvirtinimo politika: kokius vertinimus atlieka startuolis prieš pradėdamas gaminti?
4. Tiekėjo / pirkimo politika: pagal kokius kriterijus atrenkami išoriniai AI teikėjai? (11 skyrius)
5. Skaidrumo politika: kada klientui / darbuotojui pranešama, kad naudojamas dirbtinis intelektas?

Žingsnis po žingsnio: valdymo nustatymas

1. Sukurkite lentą. Verslo, technologijų, teisės, rizikos ir duomenų atstovas; aiškus autoritetas ir susitikimo ritmas.

2. Parašykite pagrindinę politiką. Parašykite pirmiau minėtas penkias taisykles paprastai ir taikomas; Tai ne romanas, tai taisyklė.

3. Sukurkite rizika pagrįstą patvirtinimo srautą. Mažos rizikos greitas, didelės rizikos didelis patvirtinimas.

4. Laikykite inventorių. Kuri dirbtinio intelekto sistema kur yra, kas atsakingas, koks rizikos lygis.

5. Institucionalizuoti stebėseną ir kontrolę. Periodinė peržiūra, dreifo ir atitikties kontrolė.

trys mini dėklai

1 atvejis – nutekėjimas be politikos. Vienoje advokatų kontoroje teisininkai turėjo konfidencialių bylos dokumentų, apibendrintų viešai prieinamu dirbtinio intelekto įrankiu. Manoma, kad tai normalu, nes nebuvo priimtinos naudojimo politikos. Kai klientas apie tai sužinojo, ištiko pasitikėjimo krizė. Įmonė nedelsdama surašė politiką, suteikė įmonės (duomenims patikimą) įrankį ir surengė mokymus. Jei politika būtų buvusi nuo pat pradžių, krizės nebūtų buvę.

2 atvejis – lentos balansas. Vienas gamintojas sukūrė savo AI plokštę tik iš savo technologijų komandos. Valdyba davė patvirtinimus, kurie buvo techniškai puikūs, tačiau teisiškai ir etiškai buvo aklūs. Kai į valdybą buvo įtrauktas teisinis ir rizikos atstovas, rimta atitikties problema buvo aptikta prieš pradedant gaminti didelės rizikos įmonę. Įvairovė buvo valdybos vizija.

3 atvejis – valdymo stabdymas. Viename banke kiekviena AI idėja, net ir mažai rizikinga, buvo griežtai patvirtinta 6 savaites. Komandos pradėjo vengti proceso ir naudoti „šešėlines“ transporto priemones. Bankas suskirstė patvirtinimą pagal rizikos lygį: mažos rizikos darbai per 3 dienas, didelės rizikos – per visą procesą. Grįžo greitis ir kontrolė; Sumažėjo šešėlių naudojimas.

Keturi kopijuojami šablonai

1) Valdybos steigimo projektas:

Jūsų vaidmuo: AI valdymo patarėjas. Pasiūlykite dirbtinio intelekto valdybos projektą: kiek narių iš kurių funkcijų, valdybos įgaliojimus, posėdžių dažnumą, kokius sprendimus ji tvirtina, kokius palieka komandoms. Venkite per didelės biurokratijos; Pasiūlykite balansą, kuris išlaikytų greitį.

2) Priimtino naudojimo politikos projektas:

[Pramonė] parengti paprastą, vykdytiną „AI priimtino naudojimo politiką“ organizacijai: kokius įrankius galima naudoti, su kokiais duomenimis, kam; kas yra griežtai draudžiama; Kas nutinka pažeidimo atveju? Rašykite po punkto, suprantama kalba.

3) Rizika pagrįsto patvirtinimo srautas:

Sukurkite mums daugiasluoksnį AI patvirtinimo srautą, pagrįstą rizikos lygiu: kokie žingsniai, kieno patvirtinimas, kiek laiko, atskirai maža/vidutinė/didelė rizika. Užtikrinkite, kad mažai rizikingas darbas vyktų greitai, o didelės rizikos darbas būtų griežtai tikrinamas.

4) AI inventoriaus šablonas:

Sukurkite inventoriaus šabloną AI sistemoms registruoti organizacijoje: sistemos pavadinimas, numatomas naudojimas, įmonės savininkas, rizikos lygis, naudojami duomenys, tiekėjas, paskutinė audito data. Trumpai paaiškinkite, kodėl kiekvienas laukas yra būtinas.

Silpnas raginimas / Stiprus raginimas

Silpnas: „Parašykite mums AI politiką“.

Rezultatas: tekstas yra bendras, netinka institucijai ir yra pernelyg abstraktus, kad jį būtų galima pritaikyti.

Güçlü: "Esame 200 žmonių sveikatos technologijų įmonė, dirbame su pacientų duomenimis ir mums taikomas KVKK. Sukurkite paprastą, vykdytiną priimtino naudojimo politiką, kaip darbuotojai gali naudoti dirbtinio intelekto priemones: paciento duomenų taisyklę, patvirtintus įrankius, draudimus ir pažeidimo pasekmes. Rašykite tai punktas po punkto ir aiškia kalba; manykite, kad mūsų teisininkų komanda tai peržiūrės.

Rezultatas: taikomas projektas, atitinkantis instituciją, sektorių ir teisės aktus.

Dažnos klaidos

• Visai nenustato valdymo. Sakymas „pamatysime vėliau“ reiškia tylų rizikos kaupimąsi.
• Perteklinė biurokratija. Didelio patvirtinimo taikymas kiekvienam darbui stumia komandas į šešėlinį darbą.
• Vienfunkcinė plokštė. Vien tik technologija arba valdyba su tik teisiniu atstovavimu sukuria akląsias zonas; įvairovė yra būtina.
• Nerašant politikos ir išleidžiant ją į lauką. Politikas, sėdintis lentynoje, nesuteikia apsaugos; Tai turėtų būti paremta mokymu ir priemonėmis.
• Netvarko inventoriaus. Institucija, kuri nežino, ką dirba, negali žinoti, ką audituoti.

Atsargiai: AI gali parengti politikos arba lentos projektą; Tačiau šie projektai neturėtų būti įgyvendinami nepritaikant prie tikrovės, sektoriaus ir institucijos teisės aktų bei peržiūrėti teisinių ir rizikos funkcijų. AI sukurta politika yra atsakingo įmonės sprendimo planas, o ne ji pati.

Apibendrinant

Valdymas yra sistema, kuri daro AI strategiją nuolatine, pakartojama ir patikima; subalansuoja greitį, saugumą ir nuoseklumą. Pagrindiniai jo komponentai yra daugiafunkcė AI plokštė, paprasta ir įgyvendinama politika, aiškūs vaidmenys, rizika pagrįstas patvirtinimo srautas, nuolatinis stebėjimas ir sistemos aprašas. Per didelis biurokratijos greitis ir nepilnas valdymas žudo pasitikėjimą; Pusiausvyra lemia sluoksniavimą pagal rizikos lygį. Politika turėtų gyventi lauke su mokymais ir įrankiais, o ne lentynoje. Kitame skyriuje apžvelgsime etiško ir atsakingo AI principus, kurie yra moralinis valdymo pagrindas.

Taikymo užduotis

Sukurkite savo organizacijos AI lentą: kas iš kokių funkcijų, su kokiais įgaliojimais, kokiu ritmu. Tada sukurkite priimtino naudojimo politikos projektą su 2 šablonu ir rankiniu būdu pritaikykite bent tris sąlygas pagal faktinius jūsų institucijos duomenis / teisės aktų sąlygas. Galiausiai vienu sakiniu apibūdinkite tris rizika pagrįsto patvirtinimo srauto pakopas (žemas/vidutinis/aukštas).

kontrolinis sąrašas

• [ ] Suprojektavau daugiafunkcinę lentos konstrukciją.
• [ ] Aš parengiau bent vieną pagrindinę politiką.
• [ ] Politiką pritaikiau prie organizacijos teisės aktų ir duomenų tikrovės.
• [ ] Apibrėžiau rizika pagrįstą pakopinį patvirtinimo srautą.
• [ ] Sukūriau AI sistemos inventoriaus šabloną.
• [ ] Suplanavau stebėjimo ir kontrolės ritmą.
• [ ] Galvojau, kaip pritaikyti politiką šioje srityje (mokymas/priemonė).