Hagnaður:
- Viðurkenna áhættuna af stefnulausri gervigreind notkun (skugga gervigreind) með tölulegum dæmum
- Skilja að góð stefna er ekki listi yfir bönn, heldur rammi sem gerir ábyrga notkun kleift
- Útskýrðu fólk, ferli og tæknistoðir og hlutverk hagsmunaaðila í stjórnunarháttum gervigreindar
Á mánudagsmorgni opnar regluvörður meðalstórs tryggingafélags (sá sem ber ábyrgð á því að stofnunin fari að lögum og innri reglum) tölvupóstinn sinn á óvart: viðskiptavinur spyr hvort heilsufarsupplýsingar hans „hafi verið skrifaðar inn í gervigreindartæki og hvert þær fóru.“ Fljótleg rannsókn leiðir í ljós að sérfræðingur frá kröfuteyminu notar persónulegan gervigreindarreikning til að draga saman kröfuskrár fljótt. Enginn er illgjarn; Enginn heldur að þeir séu að brjóta reglurnar. Vegna þess að það er engin skrifleg regla. Þetta bil er kallað skuggi AI og þessi eining kennir þér hvernig á að byggja upp stjórnkerfi til að fylla nákvæmlega þetta bil.
Að koma gervigreind inn í viðskipti er ekki eins einfalt og að setja upp venjulegan hugbúnað. Gervigreind hefur áhrif á ákvarðanir, vinnur úr persónuupplýsingum, getur framleitt höfundarréttarvarið efni og skapar ábyrgð þegar það gerir mistök. Þess vegna þarf sérhver stofnun sem „notar“ gervigreind líka ramma sem „stýrir“ henni. Í þessari fyrstu einingu förum við yfir hvers vegna þörf er á skriflegri gervigreindarstefnu, áþreifanlegan kostnað við skuggagervigreind og þrjár stoðir stjórnunar.
Hvað er shadow AI og hvers vegna er það óumflýjanlegt?
Shadow AI er notkun gervigreindar án vitundar, samþykkis og eftirlits stofnunarinnar. Orðið „skuggi“ kemur frá nafninu „skuggi IT“ sem er gefið hugbúnaði sem ekki er samþykktur af upplýsingatæknideild. Starfsmenn byrja að nota gervigreindarverkfæri með eða án stefnu; vegna þess að þessi verkfæri eru ókeypis, hröð og auðvelda vinnu þeirra. Jafnvel að hafa bann stöðvar ekki notkunina, það felur það bara.
Notkun án stefnu skapar eftirfarandi áþreifanlega áhættu:
- Gagnaleki: Starfsmaður getur óafvitandi límt trúnaðargögn viðskiptavina eða leyndarmál fyrirtækja í gervigreindartæki. Gögn fara út fyrir stjórn stofnunarinnar.
- Viðurlög við vanefnda: Brot á KVKK (Persónuverndarlögum) varða stjórnvaldssekt upp á milljónir líra; Brot á GDPR getur leitt til sekta allt að 4% af ársveltu.
- Ákvörðun byggð á röngum upplýsingum: Ákvarðanir sem teknar eru á grundvelli gervigreindar röng upplýsinga („ofskynjanir“) skaða viðskiptavininn og stofnunina.
- Höfundarréttur og hugverkaréttindi: Notkun framleiðslunnar getur brotið gegn hugverkarétti einhvers annars.
- Orðsporsmissir: Þegar tilkynnt er um stjórnlausa notkun í blöðum er truflun á vörumerkjum hnekkt.
Varúð: Að banna notkun gervigreindar algjörlega er ekki lausn. Bann útilokar ekki notkun; það gerir það bara ósýnilegt og stjórnlaust. Markmiðið er ekki að binda enda á notkun heldur setja hana í öruggan ramma.
Þrjú smátilvik: raunverulegur kostnaður við skuggagervigreind
Mál 1 - Leki samningur. Lögfræðingur límir allan textann inn á einstakan gervigreindarreikning til að draga saman 40 blaðsíðna trúnaðarsamrunasamning. Samningurinn er ekki enn aðgengilegur almenningi. Textinn er unninn á netþjónum þjónustuveitunnar og verður aðgengilegur fyrir væntanlega líkanþjálfun. Félagið seinkar sameiningunni um 3 vikur til að útiloka hættu á hugsanlegum upplýsingaleka; Ráðgjafarkostnaður hækkar um um það bil 250.000 TL.
Mál 2 - Ofskynja lögfræði. Lögfræðingur leggur þrjár „fordæmisákvarðanir“ frá gervigreindinni við beiðni sína. Tvær ákvarðananúmeranna eru tilbúnar ákvarðanir sem eru ekki til í raunveruleikanum. Dómurinn gerir sér grein fyrir þessu; Lögfræðingurinn stendur frammi fyrir agaferli sem og mannorðsmissi. Einlínu sannprófunarregla (staðfestu hverja heimild gegn opinbera ákvörðunarkerfinu) hefði komið í veg fyrir þessa kreppu.
Tilfelli 3 — Ósýnilegur sparnaður. Hjá sama fyrirtæki framleiðir markaðsteymið herferðafrit 6 klukkustundum á viku hraðar með vottuðu gervigreindarverkfæri fyrir fyrirtæki. Hins vegar er hvergi greint frá þessum sparnaði vegna þess að notkunin er óskráð. Stjórnendur hafna nýju leyfisáætluninni vegna þess að þeir geta ekki séð ávinninginn af gervigreind. Shadow AI útilokar ekki aðeins áhættu heldur einnig sýnileika ávinnings.
Hvað tryggir góð stefna?
Góð gervigreind stefna er ekki listi yfir bönn; Það er rammi sem gerir ábyrga notkun kleift. Það gerir fimm hluti:
- Skýrleiki: Starfsmaður veit hvað er leyfilegt, hvað er bannað og hvað er háð samþykki.
- Traust: Stjórnendur geta samþykkt ný verkefni vitandi að gervigreind er notuð á stjórnaðan hátt.
- Fylgni: Lagalegum skyldum (KVKK, GDPR, ESB AI Law) er uppfyllt kerfisbundið.
- Samræmi: Mismunandi lið fylgja sömu reglum.
- Ábyrgð: Þegar vandamál koma upp er ljóst hver ber ábyrgðina.
Hvað er stjórnun? þremur fetum
Stjórnun gervigreindar er sett af reglum og ferlum sem ákvarða hvernig gervigreind verður valin, notuð, stjórnað og hver ber ábyrgð á henni í stofnun. Stefna er skriflegt skjal þessarar stjórnarhátta; Stjórnarhættir eru það lifandi kerfi sem lífgar stefnuna. Það er byggt á þremur fótum:
fótur
Merking
Dæmi í AI stefnu
mannlegur
Hlutverk og ábyrgð
AI stjórnandi, samþykkisstjóri, gagnaverndarfulltrúi
Ferli
Reglur og flæði
Nýtt ökutæki viðurkenningarferli, regluleg skoðun, viðbrögð við atvikum
tækni
Verkfæri og stýringar
Viðurkenndur ökutækjalisti, aðgangsstýring, skráningarhald
Ef eina af stoðunum þremur vantar hrynur ramminn: án reglunnar er tólið ónýtt, án tólsins er ekki hægt að stjórna reglunni, án ábyrgðar, ekkert er hægt að eiga.
Ein deild getur ekki sinnt þessu starfi.
AI stefna er ekki bara starf upplýsingatæknideildarinnar. Farsæll rammi krefst þátttöku ólíkra eininga: laga/fylgni (lagalegar skuldbindingar og samningar), upplýsingatækni/öryggi (tæknilegt eftirlit og gagnaöryggi), mannauð (þjálfun starfsmanna og siðareglur), rekstrareiningar (raunverulegar notkunarþarfir) og yfirstjórn (samþykki, uppspretta og eignarhald fyrirtækja).
Ábending: Haltu 30 mínútna fundi með fulltrúa frá hverri einingu hagsmunaaðila áður en þú byrjar að skrifa stefnuna. „Hvað ertu að nota eða leitast við að nota gervigreind í núna? spurningin sýnir bæði raunverulegar þarfir og núverandi skugganotkun.
Að koma gervigreind í verk: afritanleg sniðmát
Gervigreind er sjálft hjálpartæki við að setja upp stjórnunarrammann - svo framarlega sem framleiðsla þess er fullgilt. Eftirfarandi sniðmát flýta fyrir vinnu þessarar einingar.
Sniðmát 1 — Könnun fyrir grunnlínu (skugga gervigreind) skönnun: "Drög að nafnlausri starfsmannakönnun með 8 spurningum eru tilbúin til að kortleggja gervigreindarnotkun í fyrirtækinu okkar. Spurningar ættu að ná yfir: hvaða verkfæri, hvaða verkefni, hvaða gagnategundir voru færðar inn, þjálfunarþörf. Úttak: númeraðar spurningar + svartegund fyrir hverja spurningu (margval/opin)."
SNIÐMÁT 2 — Búðu til áhættusamantekt: "Íhugaðu eftirfarandi gervigreind notkunartilvik: [líma atburðarás]. Gefðu mér stutta áhættusamantekt undir eftirfarandi fyrirsögnum: persónuvernd gagna, fylgni, ofskynjanir, kóngafólk, orðspor. Merktu „lágt/miðlungs/hár“ og einnar setningar rökstuðningur fyrir hverja fyrirsögn. Ekki gefa lögfræðiráðgjöf, bara lista upp atriði til að skoða."
SKJÁMMIÐ 3 — Dagskrá hagsmunaaðilafundar: "Undirbúa 60 mínútna dagskrá stjórnarfundar til að koma AI stjórnunarrammanum af stað. Þátttakendur: lögfræði, upplýsingatækni, HR, viðskiptaeining, yfirstjórn. Skrifaðu tímalengd og væntanleg framleiðsla fyrir hvern dagskrárlið."
SKJÁMÁT 4 — Stutt kynning til stjórnenda: "Skrifaðu hálfsíðu kynningarfund sem ber titilinn 'Af hverju við þurfum AI stefnu' til að kynna fyrir yfirstjórn. Taktu með 3 áþreifanlegar áhættur + 3 áþreifanlega kosti; ekki nota tæknilegt hrognamál; hafa skýra ákvörðunarbeiðni í síðustu línu."
Veik kvaðning / Sterk kvaðning
WEAK: „Skrifaðu gervigreindarstefnu.“-> Líkanið framleiðir almennan, óstofnanalegan, óendurskoðanlegan texta; endurspeglar ekki gagnaflokka, hlutverk og reglugerðarsamhengi. GÜÇLÜ: "Við erum 50 manna vátryggingafélag, með fyrirvara um KVKK, við vinnum úr heilsufarsupplýsingum viðskiptavina. Leggjum til drög að "umfangi" og "bönnuð notkun" hluta gervigreindarstefnunnar. Ekki leggja lokaákvörðun; bættu við "lagalegt samþykki krafist" athugasemd í hverri grein og leyfðu mér eyðurnar fyrir mig."-> Fyrirmyndin framleiðir samhengi; Ákvörðunin er áfram hjá þér.
Algeng mistök
- Að banna notkun gervigreindar með öllu og gera skuggagervigreind ósýnilega.
- Að láta upplýsingatækni skrifa aðeins stefnuna og útiloka raunverulegar þarfir rekstrareininganna.
- Byrjað að skrifa reglur beint úr núverandi skugganotkunarkortlagningu.
- Að skrifa stefnuna á lögmáli á þann hátt að starfsmaðurinn geti ekki skilið.
- Að setja stefnudrög sem gervigreind hefur framleitt í gildi án lagalegrar samþykkis.
- Talandi um áhættuna en ekki að mæla ávinninginn; missa þannig stuðning stjórnvalda.
- Að skrifa stefnuna einu sinni og gleyma að uppfæra hana; en stjórnarhættir eru lifandi kerfi.
Í stuttu máli
- Shadow AI er óhjákvæmilegt í stofnunum án stefnu og hefur í för með sér gagna-, fylgni- og orðsporsáhættu.
- Góð stefna er ekki bannlisti; Það er rammi sem gerir ábyrga notkun kleift.
- Stjórnarhættir gervigreindar eru byggðir á fólki (hlutverkum), ferli (reglum) og tækni (eftirlit); Ef einn vantar þá hrynur hann.
- Stefna er ekki á ábyrgð einnar deildar; Það er sameiginlegt starf lögfræði, upplýsingatækni, starfsmannamála, rekstrareininga og yfirstjórnar.
- Gervigreind getur hjálpað til við að setja upp rammann, en sérhver framleiðsla verður að gangast undir mannlegt og lagalegt samþykki.
Umsóknarverkefni
Veldu stofnun sem þú hefur unnið fyrir eða dreymir um (láttu greinina, fjölda starfsmanna og tegund gagna sem hún vinnur með vera skýr). Gerðu fyrst drög að 8 spurninga könnun fyrir skimun á skuggagervigreind (þú getur notað sniðmát 1). Skrifaðu síðan upp þrjár áþreifanlegar áhættur sem skuggagervigreind gæti haft í för með sér fyrir þessa stofnun, bættu tölulegum áætluðum áhrifum (refsing, töf, tapaðar klukkustundir) við hverja. Að lokum skaltu tilgreina dæmi sem eru sértæk fyrir fyrirtæki þitt fyrir hverja af þremur stoðum stjórnarhátta (fólk, ferli, tækni) og athugaðu hvaða hagsmunaaðilaeining mun bera ábyrgð á þessari stoð.
gátlisti
- [ ] Ég kortlagði núverandi (skugga) gervigreindarnotkun í fyrirtækinu mínu.
- [ ] Ég skrifaði þrjár áþreifanlegar hættur á stefnuleysi með tölulegum áhrifum.
- [ ] Ég útbjó kynningarfund þar sem bæði áhættu og ávinningur gervigreindar kom til stjórnenda.
- [ ] Ég hef ákveðið stofnunarsértækt fordæmi og ábyrgðarmann fyrir þremur stoðum stjórnarhátta.
- [ ] Ég gerði áætlun um að taka að minnsta kosti þrjár af hagsmunaaðilaeiningunum inn í ferlið.
- [ ] Ég læt öll drög sem ég framleiði með gervigreind verða fyrir samþykki laga/samræmis.