Nyereség:
- Képes létrehozni egy mesterséges intelligencia irányítási keretrendszer elemeit, amelyek egyensúlyt teremtenek a sebesség, a biztonság és a következetesség között
- Többfunkciós mesterséges intelligencia tábla és egyszerű, alkalmazható alapszabályok (elfogadható használat, adatok, kockázat) tervezésének képessége
- Képes a jóváhagyás kockázati szintje szerint rétegezni, és fenntartani az irányítást a területen rendszerleltárral és rendszeres auditálással
Stratégia, használati eset, ROI és kockázat; Mind erősek, de egyedül rendetlenek. Ami összetartja, megismételhetővé teszi és bizalmat ad az intézménynek, az a kormányzás (kormányzás; az a keret, amely meghatározza, hogy ki, milyen szabályokkal és milyen ellenőrzés mellett dönt). A kormányzás az állandó válasz arra a kérdésre, hogy „hogyan végezzük az AI-t felelősen ebben a vállalkozásban?” Ebben az egységben megtanulhatja, hogyan alakíthatja ki a mesterséges intelligencia irányítását, az írott irányelveket és a döntéshozó testületi struktúrát. A cél nem a bürokrácia megteremtése; A biztonságos és megismételhető működés biztosítása a sebesség lassítása nélkül.
Miért elengedhetetlen a kormányzás?
Egy kormányzás nélküli szervezetben minden csapat felállítja a saját szabályait: egy nyilvános eszközbe illeszti be az ügyfelek adatait, egy nem tanúsított modellt helyez gyártásba, egyáltalán nem végez kockázatértékelést. Ha problémák merülnek fel, "ki hagyta jóvá?" A kérdésre nincs válasz. A kormányzás ezt a hiányt pótolja: ki dönt, milyen szabályok vonatkoznak rá, ki figyel, és kit vonnak felelősségre, ha problémák merülnek fel.
A jó kormányzás három dolgot egyensúlyoz: a gyorsaságot (nem fojtja el a kezdeményezést), a biztonságot (kockázatkezelés) és a következetességet (mindenki ugyanazon szabályok szerint játszik). A túlzott kormányzás megöli a sebességet; A hiányos kormányzás megöli a bizalmat. Az egyensúly művészet.
Tipp: Az irányítás beállításakor a kockázati szint alapján hozzon létre rétegeket, a „leglassabb, legbiztonságosabb úttól” a „leggyorsabb, legkockázatosabb útig”. Az alacsony kockázatú munkának gyorsan kell folynia; Csak a magas kockázatú munkákat kell szigorúan jóváhagyni. Ha mindenkire ugyanazt a megterhelő eljárást alkalmazzuk, a kormányzást ellenségnek nyilvánítják.
A kormányzás összetevői
komponens
Mit csinál?
példa
mesterséges intelligencia tábla
Stratégiai döntés, prioritás, jóváhagyás
Havi találkozó, nagy kockázatú jóváhagyás
Szabályzat/elv
írott szabályok
Elfogadható felhasználás, adatok, szállító
Szerepek és tulajdonjog
Ki miért felelős
Cégtulajdonos minden felhasználási területen
Kockázati és jóváhagyási folyamat
Hogyan kezdjünk hozzá
Jóváhagyási szint a kockázati szint alapján
Monitoring és auditálás
Folyamatos vezérlés
Elsodródás figyelés, időszakos ellenőrzés
Regisztráció/leltár
Mi hol működik
Mesterséges intelligencia rendszer leltár
A mesterséges intelligencia testület (AI Tanács / Irányító Bizottság) a különböző funkciók (üzleti, technológiai, jogi, kockázati, adatok) magas szintű képviselőiből álló testület, amely stratégiai irányt ad és jóváhagyja a magas kockázatú kezdeményezéseket. Az igazgatóság nem kezel projekteket; meghatározza a kereteket és meghozza a kritikus döntéseket.
Alapvető irányelvek
Minden szervezetnek szüksége van legalább ezekre az irányelvekre:
- Elfogadható felhasználási szabályzat: Milyen AI-eszközöket használhatnak az alkalmazottak, milyen adatokkal és mire? (Pl.: "Ne vigye be az ügyfél személyes adatait jogosulatlan külső eszközbe.")
- Adat- és adatvédelmi szabályzat: Milyen adatokat, hol és hogyan kezelünk? Hogyan biztosítható a KVKK megfelelés?
- Kockázati és jóváhagyási politika: Milyen értékeléseken megy keresztül egy startup a termelés megkezdése előtt?
- Szállítói/beszerzési politika: Milyen kritériumok alapján választják ki a külső mesterséges intelligencia-szolgáltatókat? (11. egység)
- Átláthatósági szabályzat: Mikor értesítik az ügyfelet/alkalmazottat a mesterséges intelligencia használatáról?
Lépésről lépésre: a kormányzás kialakítása
1. Hozd létre a táblát. Üzleti, technológiai, jogi, kockázati és adatok képviselője; tiszta tekintély és találkozási ritmus.
2. Írja meg az alapvető irányelveket. Írja le a fenti öt irányelvet egyszerűen és alkalmazható; Ez nem regény, ez egy szabály.
3. Kockázatalapú jóváhagyási folyamat létrehozása. Alacsony kockázatú gyors, magas kockázatú súlyos jóváhagyás.
4. Tartson leltárt. Melyik mesterséges intelligencia rendszer hol van, ki a felelős, milyen kockázati szinten.
5. A monitoring és ellenőrzés intézményesítése. Időszakos felülvizsgálat, drift és megfelelőségi ellenőrzés.
három mini tok
1. eset – Szabályzat nélküli szivárgás. Az egyik ügyvédi irodában az ügyvédek bizalmas ügyiratokat foglaltak össze egy nyilvánosan elérhető mesterséges intelligencia eszközzel. Ezt normálisnak gondolták, mert nem volt elfogadható használati szabályzat. Amikor egy ügyfél megtudta ezt, bizalmi válság támadt. A cég azonnal szabályzatot írt, vállalati (adatbiztos) eszközt biztosított, és képzést nyújtott. Ha a politika kezdettől fogva lett volna, a válság nem következett volna be.
2. eset – A testület mérlege. Az egyik gyártó a mesterséges intelligencia tábláját kizárólag a technológiai csapatából készítette. A testület olyan jóváhagyásokat adott, amelyek technikailag zseniálisak voltak, de jogi és etikai vakságuk volt. Amikor egy jogi és kockázati képviselőt felvettek az igazgatóságba, komoly megfelelési problémát fedeztek fel, mielőtt egy magas kockázatú vállalkozás gyártásba indulhatott volna. A testület elképzelése a sokszínűség volt.
3. eset – A kormányzás elfojtja a lendületet. Egy bankban minden mesterséges intelligencia-ötlet, még az alacsony kockázatú is, szigorú 6 hetes jóváhagyási folyamaton ment keresztül. A csapatok elkezdték kijátszani a folyamatot, és "árnyék" járműveket használtak. A bank kockázati szint szerint rétegezte a jóváhagyást: alacsony kockázatú munkák 3 nap alatt, magas kockázatúak a teljes folyamaton keresztül. Mind a sebesség, mind az irányítás visszatért; Az árnyékhasználat csökkent.
Négy másolható sablon
1) A testület létrehozásának tervezete:
Az Ön szerepe: AI irányítási tanácsadó. Javasoljon egy mesterséges intelligencia testület tervezetét: melyik funkcióból hány tagot, a testület hatásköreit, ülésezési gyakoriságát, mely döntéseket hagyja jóvá, melyiket hagyja a csapatokra. Kerülje a túlzott bürokráciát; Javasoljon egy egyensúlyt, amely fenntartja a sebességet.
2) Elfogadható felhasználási szabályzat tervezete:
[Iparág] készítsen egy egyszerű, végrehajtható „AI elfogadható felhasználási szabályzatot” egy szervezet számára: milyen eszközök, milyen adatokkal, mire használhatók; mi szigorúan tilos; Mi történik szabálysértés esetén? Írjon tételenként, érthető nyelven.
3) Kockázatalapú jóváhagyási folyamat:
Tervezz meg nekünk egy réteges AI jóváhagyási folyamatot a kockázati szint alapján: milyen lépések, kinek a jóváhagyása, mennyi ideig, külön-külön alacsony/közepes/magas kockázat esetén. Gondoskodjon arról, hogy az alacsony kockázatú munka gyorsan folyjon, és a magas kockázatú munka szigorú ellenőrzésen essen át.
4) AI leltársablon:
Készítsen leltársablont az AI-rendszerek rögzítéséhez a szervezetben: rendszernév, tervezett felhasználás, cégtulajdonos, kockázati szint, felhasznált adatok, szállító, utolsó ellenőrzési dátum. Röviden magyarázza el, miért van szükség az egyes mezőkre.
Gyenge felszólítás / Erős felszólítás
Gyenge: "Írjon nekünk egy AI szabályzatot."
Eredmény: Általános szöveg, nem illik az intézményhez, és túl elvont ahhoz, hogy alkalmazni lehessen.
Güçlü: "Egy 200 fős egészségügyi technológiai cég vagyunk, betegadatokkal dolgozunk, és a KVKK hatálya alá tartozunk. Készítsen egyszerű, végrehajtható, elfogadható használati szabályzatot arról, hogyan használhatják a mesterséges intelligencia eszközöket: betegadatokra vonatkozó szabály, jóváhagyott eszközök, tilalmak és szabálysértési következmények. Írja le záradékonként és érthető nyelven; feltételezze, hogy jogi csapatunk felülvizsgálja."
Eredmény: Az intézménynek, ágazatnak és jogszabálynak megfelelő, alkalmazható tervezet.
Gyakori hibák
- Kormányzás létrehozása egyáltalán nem. A „majd meglátjuk” mondás a kockázatok csendes halmozódását jelenti.
- Túlzott bürokrácia. Ha minden munkára szigorú jóváhagyást alkalmaznak, a csapatok árnyékhasználatba kerülnek.
- Egyfunkciós tábla. Önmagában a technológia vagy a csak jogi képviselettel rendelkező tábla okoz vakfoltokat; a sokszínűség elengedhetetlen.
- Nem megírni a szabályzatot és pályára tenni. A polcon ülő házirend nem nyújt védelmet; Ezt képzéssel és eszközökkel kell támogatni.
- Nem vezet leltárt. Az az intézmény, amely nem tudja, min dolgozik, nem tudhatja, mit kell ellenőriznie.
Vigyázat: A mesterséges intelligencia szabályzat- vagy táblatervezetet készíthet; De ezeket a tervezeteket nem szabad életbe léptetni anélkül, hogy az intézmény valóságához, ágazatához és jogszabályaihoz igazodnának, és ne a jogi és kockázati funkciók felülvizsgálnák őket. Az AI által kidolgozott irányelv a felelős vállalati döntés tervezete, nem önmagában.
Összefoglalva
A kormányzás az a keret, amely állandóvá, megismételhetővé és megbízhatóvá teszi az AI-stratégiát; egyensúlyt teremt a sebesség, a biztonság és a következetesség között. Főbb összetevői a többfunkciós mesterséges intelligencia tábla, az egyszerű és végrehajtható irányelvek, az egyértelmű szerepek, a kockázatalapú jóváhagyási folyamat, a folyamatos felügyelet és a rendszerleltár. A bürokrácia túlzott sebessége és a hiányos kormányzás megöli a bizalmat; Az egyensúly a kockázati szint szerinti rétegezésben adódik. A politikáknak a terepen kell élniük képzésekkel és eszközökkel, nem pedig a polcon. A következő részben az etikus és felelős mesterséges intelligencia alapelveivel foglalkozunk, amelyek a kormányzás erkölcsi alapját képezik.
Pályázati feladat
Készítsen mesterséges intelligencia táblát szervezete számára: ki melyik funkcióból, milyen felhatalmazással, milyen ritmusban. Ezután készítsen egy elfogadható felhasználási szabályzat tervezetét a 2. sablonnal, és manuálisan igazítson hozzá legalább három záradékot az intézmény tényleges adatainak/szabályozási feltételeinek megfelelően. Végül egy mondatban írja le a kockázatalapú jóváhagyási folyamat három szintjét (alacsony/közepes/magas).
ellenőrző lista
- [ ] Többfunkciós táblaszerkezetet terveztem.
- [ ] Legalább egy alapvető irányelvet készítettem.
- [ ] A szabályzatot a szervezet jogszabályaihoz és adatvalóságához igazítottam.
- [ ] Kockázatalapú többszintű jóváhagyási folyamatot határoztam meg.
- [ ] Beállítottam egy AI rendszerleltársablont.
- [ ] Megterveztem a monitorozás és ellenőrzés ritmusát.
- [ ] Azon gondolkodtam, hogyan lehet a politikákat bevinni a területre (képzés/eszköz).