Voitot:
- Kyky luoda tekoälyn hallintokehyksen komponentteja, jotka tasapainottavat nopeutta, turvallisuutta ja johdonmukaisuutta
- Kyky suunnitella monitoiminen tekoälykortti ja yksinkertaiset, sovellettavat ydinkäytännöt (hyväksyttävä käyttö, data, riski)
- Kyky kerrostaa hyväksyntä riskitason mukaan ja ylläpitää alan hallintoa järjestelmäkartoituksen ja säännöllisen auditoinnin avulla
Strategia, käyttötapaus, ROI ja riski; He ovat kaikki vahvoja, mutta yksin he ovat sotkuisia. Se, mikä pitää ne koossa, tekee niistä toistettavia ja antaa instituutiolle luottamusta, on hallinto (governance; kehys, joka määrittää, kuka tekee päätökset, millä säännöillä ja millä valvonnalla). Hallinto on pysyvä vastaus kysymykseen "miten teemme tekoälyä vastuullisesti tässä yrityksessä?" Tässä osiossa opit luomaan tekoälyn hallinnan, kirjalliset käytännöt ja päätöksentekolautakunnan rakenteen. Tavoitteena ei ole luoda byrokratiaa; Turvallisen ja toistettavan toiminnan varmistamiseksi nopeutta hidastamatta.
Miksi hallinto on välttämätöntä?
Organisaatiossa, jossa ei ole hallintoa, jokainen tiimi laatii omat säännöt: liitetään asiakastiedot julkiseen työkaluun, sertifioimaton malli viedään tuotantoon, riskiarviointia ei tehdä ollenkaan. Kun ongelmia ilmenee, "kuka hyväksyi sen?" Kysymykseen ei ole vastausta. Hallinto täyttää tämän aukon: kuka päättää, mitä sääntöjä sovelletaan, kuka valvoo ja kuka on vastuussa ongelmien ilmetessä.
Hyvä hallinto tasapainottaa kolmea asiaa: nopeutta (ei tukahduttavaa aloitetta), turvallisuutta (riskin hallintaa) ja johdonmukaisuutta (kaikki pelaavat samojen sääntöjen mukaan). Liiallinen hallinto tappaa nopeuden; Epätäydellinen hallinto tappaa luottamuksen. Tasapaino on taidetta.
Vinkki: Kun määrität hallintoa, luo riskitason perusteella tasoja "hitain, turvallisin polku" ja "nopein, riskialttiin polku". Vähäriskisen työn tulisi sujua nopeasti; Vain korkean riskin työt tulisi hyväksyä tiukasti. Saman raskaan prosessin soveltaminen kaikkiin tekee hallinnosta vihollisen.
Hallituksen osat
komponentti
Mitä se tekee?
esimerkki
tekoälykortti
Strateginen päätös, prioriteetti, hyväksyntä
Kuukausittainen kokous, suuren riskin hyväksyntä
Käytäntö/periaate asetettu
kirjalliset säännöt
Hyväksyttävä käyttö, tiedot, toimittaja
Roolit ja omistus
Kuka on vastuussa mistäkin
Yrityksen omistaja jokaiselle käyttöalalle
Riski- ja hyväksymisprosessi
Kuinka päästä alkuun
Hyväksyntätaso riskitason perusteella
Valvonta ja auditointi
Jatkuva ohjaus
Poikkeaman valvonta, määräaikaistarkastus
Ilmoittautuminen/inventaari
Mikä toimii missä
Tekoälyjärjestelmän kartoitus
Tekoälylautakunta (AI Council / Steering Committee) on eri toimintojen (liiketoiminta, teknologia, laki, riski, data) korkean tason edustajista koostuva elin, joka antaa strategista suuntaa ja hyväksyy riskialttiita aloitteita. Hallitus ei johda projekteja; asettaa puitteet ja tekee kriittisiä päätöksiä.
Peruskäytännöt
Jokainen organisaatio tarvitsee ainakin nämä käytännöt:
- Hyväksytyn käytön käytäntö: Mitä tekoälytyökaluja työntekijät voivat käyttää, millä tiedoilla ja mihin? (Esimerkiksi: "Älä syötä asiakkaan henkilötietoja luvattomaan ulkoiseen työkaluun.")
- Tieto- ja tietosuojakäytäntö: Mitä tietoja, missä ja miten käsitellään? Kuinka varmistaa KVKK:n noudattaminen?
- Riski- ja hyväksymispolitiikka: Millaiset arvioinnit startup käy läpi ennen tuotantoon ryhtymistä?
- Toimittaja/ostopolitiikka: Millä kriteereillä ulkopuoliset tekoälypalveluntarjoajat valitaan? (Osakko 11)
- Avoimuuskäytäntö: Milloin asiakkaalle/työntekijälle ilmoitetaan, että tekoälyä käytetään?
Askel askeleelta: hallinnon luominen
1. Luo taulu. Liiketoiminnan, teknologian, lakiasioiden, riskien ja datan edustaja; selkeä auktoriteetti ja kohtaamisrytmi.
2. Kirjoita keskeiset käytännöt. Kirjoita yllä olevat viisi käytäntöä yksinkertaisesti ja soveltuvin osin; Se ei ole romaani, se on sääntö.
3. Luo riskiin perustuva hyväksyntävirta. Pieni riski nopea, suuri riski raskas hyväksyntä.
4. Pidä varastoa. Mikä tekoälyjärjestelmä on missä, kuka on vastuussa, millä riskitasolla.
5. Institutionalisoi seuranta ja valvonta. Säännöllinen tarkistus, ajautuminen ja vaatimustenmukaisuuden valvonta.
kolme minilaukkua
Tapaus 1 – Vuoto ilman politiikkaa. Yhdessä asianajotoimistossa asianajajilla oli luottamuksellisia tapausasiakirjoja, jotka oli tiivistetty julkisesti saatavilla olevalla tekoälytyökalulla. Tätä pidettiin normaalina, koska ei ollut hyväksyttävää käyttökäytäntöä. Kun asiakas sai tietää tästä, vallitsi luottamuskriisi. Yritys kirjoitti nopeasti politiikan, tarjosi yrityskäyttöön tarkoitetun (tietoturvallisen) työkalun ja tarjosi koulutusta. Jos politiikka olisi ollut alusta asti, kriisiä ei olisi syntynyt.
Tapaus 2 – Hallituksen tasapaino. Yksi valmistaja rakensi tekoälylevynsä yksinomaan teknologiatiimistään. Hallitus antoi hyväksynnät, jotka olivat teknisesti loistavia, mutta joissa oli oikeudellista ja eettistä sokeutta. Kun hallitukseen lisättiin laki- ja riskiedustaja, vakava vaatimustenmukaisuusongelma havaittiin ennen kuin riskialttiita yrityksiä pystyttiin aloittamaan tuotantoon. Monimuotoisuus oli hallituksen visio.
Tapaus 3 – Hallinto tukahduttaa vauhtia. Yhdessä pankissa jokainen tekoäly-idea, jopa pieniriskinen, käytiin läpi tiukan kuuden viikon hyväksymisprosessin. Tiimit alkoivat kiertää prosessia ja käyttää "varjoajoneuvoja". Pankki ositi hyväksynnän riskitason mukaan: matalariskiset työt 3 päivässä, korkeariskiset koko prosessin ajan. Sekä nopeus että hallinta palasivat; Varjojen käyttö väheni.
Neljä kopioitavaa mallia
1) Hallituksen perustamisluonnos:
Tehtäväsi: AI-hallinnon neuvonantaja. Ehdota meille luonnos tekoälyhallitukselle: kuinka monta jäsentä mistä tehtävistä, hallituksen valtuudet, kokoustiheys, mitkä päätökset se hyväksyy, mitkä jättää ryhmien tehtäväksi. Vältä liiallista byrokratiaa; Ehdota tasapainoa, joka ylläpitää nopeutta.
2) Luonnos hyväksyttävän käytön käytännöksi:
[Teollisuus] laatii organisaatiolle yksinkertaisen, täytäntöönpanokelpoisen "AI hyväksytyn käytön politiikan": mitä työkaluja voidaan käyttää, millä tiedoilla, mihin; mikä on ehdottomasti kiellettyä; Mitä tapahtuu rikkomustapauksessa? Kirjoita yksittäin, ymmärrettävällä kielellä.
3) Riskeihin perustuva hyväksyntäkulku:
Suunnittele meille kerroksellinen tekoälyn hyväksyntävirta riskitason perusteella: mitkä vaiheet, kenen hyväksyntä, kuinka kauan, erikseen pieni/keskimääräinen/korkea riski. Varmista, että vähäriskiset työt sujuvat nopeasti ja riskialttiit työt käyvät läpi tiukan tarkastuksen.
4) AI-inventaarimalli:
Suunnittele inventaariomalli kirjaamaan AI-järjestelmät organisaatiossa: järjestelmän nimi, käyttötarkoitus, yrityksen omistaja, riskitaso, käytetyt tiedot, toimittaja, viimeinen tarkastuspäivä. Selitä lyhyesti, miksi jokainen kenttä on välttämätön.
Heikko kehote / Vahva kehote
Heikko: "Kirjoita meille tekoälypolitiikka."
Tulos: Teksti, joka on yleinen, ei sovi oppilaitokseen ja on liian abstrakti sovellettavaksi.
Güçlü: "Olemme 200 hengen terveysteknologiayritys, työskentelemme potilastietojen parissa ja olemme KVKK:n alaisia. Laadi yksinkertainen, täytäntöönpanokelpoinen hyväksyttävä käyttökäytäntö siitä, kuinka työntekijät voivat käyttää tekoälytyökaluja: potilastietosääntö, hyväksytyt työkalut, kiellot ja rikkomusseuraamukset. Kirjoita se lausekkeelta ja selkeällä kielellä; oleta, että lakitiimimme tarkistaa sen."
Tulos: Soveltuva luonnos, joka sopii laitokseen, alaan ja lainsäädäntöön.
Yleisiä virheitä
- Ei perustaa hallintoa ollenkaan. Sanomalla "katsomme myöhemmin" tarkoittaa hiljaista riskin kertymistä.
- Liiallista byrokratiaa. Kovan hyväksynnän soveltaminen jokaiseen työhön ajaa tiimit varjokäyttöön.
- Yksitoiminen kortti. Pelkästään teknologia tai lauta, jossa on vain laillinen edustus, tuottaa kuolleita kulmia; monimuotoisuus on välttämätöntä.
- Älä kirjoita politiikkaa ja laita sitä kentälle. Hyllyllä istuminen ei tarjoa suojaa; Sitä tulee tukea koulutuksella ja työkaluilla.
- Ei pidä varastoa. Toimielin, joka ei tiedä, mitä se työskentelee, ei voi tietää, mitä tarkastaa.
Varoitus: tekoäly voi tuottaa käytäntö- tai hallitusluonnoksen; Näitä luonnoksia ei kuitenkaan pitäisi panna täytäntöön ilman, että niitä on mukautettu laitoksen todellisuuteen, toimialaan ja lainsäädäntöön ja että laki- ja riskitoimintojen on tarkasteltava niitä. Tekoälyn tuottama politiikka on suunnitelma vastuulliselle yrityksen päätökselle, ei itse.
Yhteenvetona
Hallinto on kehys, joka tekee tekoälystrategiasta pysyvän, toistettavan ja luotettavan; tasapainottaa nopeutta, turvallisuutta ja johdonmukaisuutta. Sen avainkomponentit ovat monitoiminen tekoälykortti, yksinkertaiset ja käytännölliset käytännöt, selkeät roolit, riskiperusteinen hyväksyntäkulku, jatkuva seuranta ja järjestelmäkartoitus. Liiallinen byrokratian nopeus ja epätäydellinen hallinto tappaa luottamuksen; Tasapaino muodostuu kerroksellisuudesta riskitason mukaan. Politiikkojen tulee elää kentällä koulutuksen ja työkalujen kanssa, ei hyllyssä. Seuraavassa osiossa käsittelemme eettisen ja vastuullisen tekoälyn periaatteita, jotka ovat hallinnon moraalinen perusta.
Sovellustehtävä
Laadi organisaatiollesi tekoälylautakunta: kuka mistä toiminnoista, millä valtuuksilla, missä rytmissä. Laadi sitten luonnos hyväksyttävän käytön käytännöksi mallilla 2 ja mukauta manuaalisesti vähintään kolme lauseketta oppilaitoksesi todellisten tietojen/säännösten mukaisesti. Lopuksi kuvaile riskiperusteisen hyväksyntävirran kolmea tasoa (matala/keskitaso/korkea) yhdellä lauseella.
tarkistuslista
- [ ] Suunnittelin monikäyttöisen levyrakenteen.
- [ ] Olen laatinut ainakin yhden peruspolitiikan.
- [ ] Sovitin politiikan organisaation lainsäädäntöön ja datatodellisuuteen.
- [ ] Määritin riskiin perustuvan porrastetun hyväksymisvirran.
- [ ] Olen määrittänyt tekoälyjärjestelmän inventaariomallin.
- [ ] Suunnittelin seurannan ja valvonnan rytmin.
- [ ] Ajattelin, kuinka saada politiikkaa alalle (koulutus/työkalu).