zisky:
- Schopnosť vytvoriť komponenty rámca riadenia AI, ktorý vyvažuje rýchlosť, bezpečnosť a konzistenciu
- Schopnosť navrhnúť multifunkčnú dosku AI a jednoduché, použiteľné základné pravidlá (prijateľné použitie, údaje, riziko)
- Schopnosť vrstviť schvaľovanie podľa úrovne rizika a udržiavať riadenie v teréne pomocou inventarizácie systému a pravidelného auditu
Stratégia, prípad použitia, ROI a riziko; Všetci sú silní, ale sami sú neporiadni. To, čo ich drží pohromade, robí ich opakovateľnými a dodáva inštitúcii dôveru, je riadenie (riadenie; rámec, ktorý určuje, kto bude rozhodovať, s akými pravidlami a akou kontrolou). Riadenie je trvalou odpoveďou na otázku: „Ako v tomto podniku robíme AI zodpovedne? V tejto časti sa naučíte, ako zaviesť riadenie AI, písomné zásady a štruktúru rady pre rozhodovanie. Cieľom nie je vytvárať byrokraciu; Na zaistenie bezpečnej a opakovateľnej prevádzky bez spomalenia rýchlosti.
Prečo je riadenie nevyhnutné?
V organizácii bez riadenia si každý tím vytvára svoje vlastné pravidlá: jeden vloží údaje o zákazníkoch do verejného nástroja, jeden zavedie do výroby necertifikovaný model, nevykonáva žiadne hodnotenie rizika. Keď nastanú problémy, "kto to schválil?" Na otázku neexistuje odpoveď. Riadenie vypĺňa túto medzeru: kto rozhoduje, aké pravidlá platia, kto monitoruje a kto nesie zodpovednosť, keď nastanú problémy.
Dobré riadenie vyvažuje tri veci: rýchlosť (neobmedzuje iniciatívu), bezpečnosť (kontrola rizika) a konzistentnosť (každý hrá podľa rovnakých pravidiel). Prílišné riadenie zabíja rýchlosť; Neúplné riadenie zabíja dôveru. Rovnováha je umenie.
Tip: Pri nastavovaní správy vytvorte vrstvy na základe úrovne rizika, od „najpomalšej, najbezpečnejšej cesty“ po „najrýchlejšiu a najrizikovejšiu cestu“. Práca s nízkym rizikom by mala plynúť rýchlo; Len vysokorizikové práce by mali prejsť prísnym schvaľovaním. Uplatnenie rovnakého zaťažujúceho procesu na každého robí vládnutie vyhlásené za nepriateľa.
Zložky riadenia
komponent
čo to robí?
príklad
doska umelej inteligencie
Strategické rozhodnutie, priorita, schválenie
Mesačné stretnutie, vysokorizikové schválenie
Sada zásad/zásad
písané pravidlá
Prijateľné použitie, údaje, dodávateľ
Úlohy a vlastníctvo
Kto je za čo zodpovedný
Majiteľ firmy pre každú oblasť použitia
Riziko a schvaľovací proces
Ako začať
Schvaľovacia úroveň na základe úrovne rizika
Monitorovanie a audit
Nepretržitá kontrola
Monitorovanie driftu, pravidelná kontrola
Registrácia/inventarizácia
Čo kde funguje
Inventár systému umelej inteligencie
Rada pre umelú inteligenciu (rada / riadiaci výbor AI) je orgán zložený z predstaviteľov na vysokej úrovni z rôznych funkcií (obchod, technológia, právo, riziko, údaje), ktorý udáva strategické smerovanie a schvaľuje vysokorizikové iniciatívy. Predstavenstvo neriadi projekty; stanovuje rámec a robí kritické rozhodnutia.
Základné zásady
Každá organizácia potrebuje aspoň tieto zásady:
- Zásady prijateľného používania: Ktoré nástroje AI môžu zamestnanci používať, s akými údajmi a na čo? (Napríklad: „Nezadávajte osobné údaje zákazníka do neoprávneného externého nástroja.“)
- Zásady ochrany osobných údajov a ochrany osobných údajov: Ktoré údaje, kde a ako sa spracúvajú? Ako zabezpečiť dodržiavanie KVKK?
- Politika rizika a schvaľovania: Akými hodnoteniami prechádza startup pred spustením výroby?
- Zásady dodávateľa/nákupu: Podľa akých kritérií sa vyberajú externí poskytovatelia AI? (Jednotka 11)
- Politika transparentnosti: Kedy je zákazník/zamestnanec upozornený, že sa používa AI?
Krok za krokom: vytvorenie správy
1. Vytvorte dosku. Zástupca z oblasti obchodu, technológie, práva, rizík a údajov; jasná autorita a rytmus stretnutí.
2. Napíšte základné pravidlá. Napíšte vyššie uvedených päť zásad jednoducho a použiteľných; Nie je to román, je to pravidlo.
3. Vytvorte postup schvaľovania založený na riziku. Nízke riziko rýchle, vysoké riziko ťažké schválenie.
4. Udržujte inventár. Ktorý systém umelej inteligencie je kde, kto je zodpovedný, na akej úrovni rizika.
5. Inštitucionalizovať monitorovanie a kontrolu. Pravidelná kontrola, posun a kontrola súladu.
tri mini prípady
Prípad 1 – Únik bez politiky. V jednej právnickej firme mali právnici zhrnuté dôverné dokumenty prípadu pomocou verejne dostupného nástroja umelej inteligencie. Toto sa považovalo za normálne, pretože neexistovali žiadne prijateľné zásady používania. Keď sa o tom dozvedel klient, nastala kríza dôvery. Firma promptne spísala politiku, poskytla podnikový (dáta-zabezpečený) nástroj a poskytla školenie. Ak by bola politika od začiatku, kríza by nenastala.
Prípad 2 – Zostatok rady. Jeden výrobca postavil svoju dosku AI výlučne zo svojho technologického tímu. Správna rada udelila schválenia, ktoré boli technicky vynikajúce, ale mali právnu a etickú slepotu. Keď bol do predstavenstva pridaný právny a rizikový zástupca, objavil sa vážny problém s dodržiavaním predpisov ešte predtým, ako sa mohol začať vyrábať vysoko rizikový podnik. Víziou predstavenstva bola rozmanitosť.
Prípad 3 – Riadenie dusí dynamiku. V jednej banke prešiel každý nápad AI, dokonca aj ten s nízkym rizikom, prísnym 6-týždňovým schvaľovacím procesom. Tímy sa tomuto procesu začali vyhýbať a používať „tieňové“ vozidlá. Banka stratifikovala schvaľovanie podľa úrovne rizika: nízkorizikové úlohy do 3 dní, vysokorizikové cez celý proces. Rýchlosť aj kontrola sa vrátili; Použitie tieňa sa znížilo.
Štyri kopírovateľné šablóny
1) Návrh na vytvorenie správnej rady:
Vaša úloha: poradca pre riadenie AI. Navrhnite nám návrh rady umelej inteligencie: koľko členov z akých funkcií, právomoci rady, frekvenciu zasadnutí, aké rozhodnutia schvaľuje, ktoré necháva na tímy. Vyhnite sa nadmernej byrokracii; Navrhnite rovnováhu, ktorá udrží rýchlosť.
2) Návrh pravidiel prijateľného používania:
[Priemysel] navrhne jednoduchú, vynútiteľnú „politiku prijateľného používania AI“ pre organizáciu: aké nástroje možno použiť, s akými údajmi, na čo; čo je prísne zakázané; Čo sa stane v prípade porušenia? Píšte položku po položke v zrozumiteľnom jazyku.
3) Schvaľovací postup založený na riziku:
Navrhnite nám vrstvený tok schvaľovania AI založený na úrovni rizika: aké kroky, ktorých schválenie, ako dlho, oddelene pre nízke/stredné/vysoké riziko. Zabezpečte, aby nízkoriziková práca prebiehala rýchlo a vysokoriziková práca prešla prísnou kontrolou.
4) Šablóna inventára AI:
Navrhnite šablónu inventára na zaznamenanie systémov AI v organizácii: názov systému, zamýšľané použitie, vlastník firmy, úroveň rizika, použité údaje, dodávateľ, dátum posledného auditu. Stručne vysvetlite, prečo je každé pole potrebné.
Slabá výzva / Silná výzva
Slabé: „Napíšte nám zásady AI.“
Výsledok: Text, ktorý je všeobecný, nezodpovedá inštitúcii a je príliš abstraktný na to, aby sa dal použiť.
Güçlü: "Sme 200-členná spoločnosť zaoberajúca sa zdravotníckymi technológiami, pracujeme s údajmi o pacientoch a podliehame KVKK. Navrhnite jednoduchú, vynútiteľnú politiku prijateľného používania o tom, ako môžu zamestnanci používať nástroje umelej inteligencie: pravidlo pre údaje o pacientoch, schválené nástroje, zákazy a dôsledky porušenia. Napíšte to doložku po doložke a jasným jazykom; predpokladajme, že náš právny tím to skontroluje."
Výsledok: Použiteľný návrh, ktorý vyhovuje inštitúcii, sektoru a legislatíve.
Časté chyby
- Vôbec nie nastolenie vládnutia. Povedať „uvidíme neskôr“ znamená tichú akumuláciu rizika.
- Prílišná byrokracia. Uplatňovanie prísneho schvaľovania každej úlohy tlačí tímy do tieňového používania.
- Jednofunkčná doska. Samotná technológia alebo predstavenstvo len s právnym zastúpením vytvára slepé miesta; rozmanitosť je nevyhnutnosťou.
- Nie napísať politiku a dať ju na ihrisko. Politika sediaca na poličke neposkytuje ochranu; Mala by byť podporená školením a nástrojmi.
- Neudržiavanie zásob. Inštitúcia, ktorá nevie, na čom pracuje, nemôže vedieť, čo má kontrolovať.
Upozornenie: AI môže vytvoriť politiku alebo návrh predstavenstva; Tieto návrhy by však nemali nadobudnúť účinnosť bez toho, aby boli prispôsobené realite, sektoru a legislatíve inštitúcie a posúdené právnymi a rizikovými funkciami. Politika vytvorená AI je plánom pre zodpovedné podnikové rozhodnutie, nie ona sama.
V súhrne
Riadenie je rámec, vďaka ktorému je stratégia AI trvalá, opakovateľná a spoľahlivá; vyvažuje rýchlosť, bezpečnosť a konzistentnosť. Jeho kľúčovými komponentmi sú multifunkčná doska AI, jednoduché a použiteľné politiky, jasné úlohy, tok schvaľovania založený na riziku, nepretržité monitorovanie a inventár systému. Prílišná rýchlosť byrokracie a neúplné riadenie zabíjajú dôveru; Rovnováha spočíva vo vrstvení podľa úrovne rizika. Politiky by mali žiť v teréne so školením a nástrojmi, nie na poličke. V ďalšej časti sa budeme venovať princípom etickej a zodpovednej AI, ktoré sú morálnym základom vládnutia.
Aplikačná úloha
Navrhnite pre svoju organizáciu tabuľu AI: kto z akých funkcií, s akou právomocou, v akom rytme. Potom vytvorte návrh politiky prijateľného použitia so vzorom 2 a manuálne upravte aspoň tri klauzuly podľa aktuálnych údajov/regulačných podmienok vašej inštitúcie. Nakoniec opíšte tri úrovne (nízka/stredná/vysoká) toku schvaľovania založeného na riziku v jednej vete.
kontrolný zoznam
- [ ] Navrhol som multifunkčnú štruktúru dosky.
- [ ] Vypracoval som aspoň jednu základnú politiku.
- [ ] Prispôsobil som politiku legislatíve organizácie a dátovej realite.
- [ ] Definoval som postupný schvaľovací postup založený na riziku.
- [ ] Nastavil som šablónu inventára systému AI.
- [ ] Naplánoval som si rytmus sledovania a kontroly.
- [ ] Rozmýšľal som, ako dostať politiky do terénu (školenie/nástroj).