Kasu:
- Poliitikavaba tehisintellekti kasutamise (shadow AI) riskide äratundmine numbrinäidetega
- Saage aru, et hea poliitika ei ole keeldude loetelu, vaid vastutustundlikku kasutamist võimaldav raamistik
- Selgitage tehisintellekti juhtimise inimesi, protsesse ja tehnoloogiasambaid ning sidusrühmade rolle
Esmaspäeva hommikul avab keskmise suurusega kindlustusseltsi järelevalveametnik (organisatsiooni seaduste ja sise-eeskirjade järgimise eest vastutav isik) oma meili üllatusena: klient küsib, kas tema terviseteave "kirjutati tehisintellekti tööriista ja kuhu see läks". Kiire uurimine paljastab, et nõuete meeskonna ekspert kasutab nõuete failide kiireks kokkuvõtmiseks isiklikku tehisintellekti kontot. Keegi pole pahatahtlik; Keegi ei arva, et nad rikuvad reegleid. Sest kirja pandud reeglit pole. Seda lünka nimetatakse vari-AI-ks ja see moodul õpetab teile, kuidas luua juhtimisraamistik, mis täpselt selle tühimiku täidaks.
AI ärisse toomine pole nii lihtne kui tavalise tarkvara installimine. Tehisintellekt mõjutab otsuseid, töötleb isikuandmeid, võib toota autoriõigustega kaitstud sisu ja tekitab vigade korral vastutuse. Seetõttu vajab iga AI-d "kasutav" organisatsioon ka raamistikku, mis seda "haldab". Selles esimeses osas käsitleme seda, miks on vaja kirjalikku tehisintellekti poliitikat, mis on vari-AI käegakatsutav hind ja mis on kolm juhtimissammast.
Mis on vari-AI ja miks see on vältimatu?
Shadow AI on AI kasutamine ilma asutuse teadmata, heakskiidu ja kontrollita. Sõna "vari" tuleneb nimetusest "shadow IT", mis on antud tarkvarale, mis pole IT-osakonna poolt heaks kiidetud. Töötajad hakkavad kasutama tehisintellekti tööriistu poliitikaga või ilma; sest need tööriistad on tasuta, kiired ja muudavad nende töö lihtsamaks. Isegi keelu kehtestamine ei lõpeta kasutamist, vaid peidab seda.
Ilma poliitikata kasutamine tekitab järgmisi konkreetseid riske:
- Andmeleke: töötaja võib teadmatusest kleepida tehisintellekti tööriista konfidentsiaalseid kliendiandmeid või ettevõtte saladusi. Andmed väljuvad asutuse kontrolli alt.
- Karistused eeskirjade eiramise eest: KVKK (isikuandmete kaitse seaduse) rikkumine toob kaasa miljonite liiride suuruse haldustrahvi; GDPR-i rikkumine võib kaasa tuua trahvi kuni 4% aastakäibest.
- Väärteabel põhinev otsus: tehisintellekti väljamõeldud valeinfole (“hallutsinatsioonile”) tuginedes tehtud otsused kahjustavad klienti ja organisatsiooni.
- Autoriõiguse ja intellektuaalomandi küsimused: väljundi kasutamine võib rikkuda kellegi teise intellektuaalomandit.
- Maine kaotus: kui ajakirjanduses kajastatakse kontrollimatut kasutamist, lööb kaubamärgi usaldus kõikuma.
Ettevaatust: AI kasutamise täielik keelamine ei ole lahendus. Keeld ei välista kasutamist; see muudab selle lihtsalt nähtamatuks ja kontrollimatuks. Eesmärk ei ole kasutamist lõpetada, vaid panna see turvalisse raamistikku.
Kolm minijuhtumit: vari-AI tegelik hind
Juhtum 1 – lekkinud leping. Õigusspetsialist kleebib kogu teksti individuaalsele tehisintellekti kontole, et teha kokkuvõte konfidentsiaalsest 40-leheküljelisest ühinemislepingust. Leping pole veel avalikult kättesaadav. Teksti töödeldakse teenusepakkuja serverites ja see on saadaval tulevaste mudelikoolituste jaoks. Ettevõte lükkab ühinemisega 3 nädalat edasi, et välistada võimaliku infolekke oht; Konsultatsioonikulu tõuseb ligikaudu 250 000 TL võrra.
Juhtum 2 – hallutsinatsiooniline kohtupraktika. Advokaat lisab oma petitsioonile kolm tehisintellekti "pretsedendiotsust". Kaks otsustusnumbrit on väljamõeldud otsused, mida tegelikkuses ei eksisteeri. Kohus mõistab seda; Advokaadi ees ootab nii distsiplinaarmenetlus kui ka maine kaotus. Üherealine kontrollireegel (kontrollige iga allikat ametliku otsustussüsteemi alusel) oleks selle kriisi ära hoidnud.
Juhtum 3 – nähtamatu kokkuhoid. Samas ettevõttes toodab turundusmeeskond sertifitseeritud ettevõtte tehisintellekti tööriistaga kampaaniakoopiat 6 tundi nädalas kiiremini. Seda kokkuhoidu aga kuskil ei kajastata, sest kasutus on registreerimata. Juhtkond lükkab uue litsentsieelarve tagasi, kuna ei näe tehisintellekti eeliseid. Shadow AI välistab mitte ainult riski, vaid ka kasu nähtavuse.
Mida hea poliitika tagab?
Hea tehisintellekti poliitika ei ole keeldude loetelu; See on vastutustundlikku kasutamist võimaldav raamistik. See teeb viit asja:
- Selgus: töötaja teab, mis on lubatud, mis keelatud ja mis tuleb kooskõlastada.
- Usaldus: juhtkond saab uusi projekte heaks kiita, teades, et tehisintellekti kasutatakse kontrollitud viisil.
- Vastavus: juriidilisi kohustusi (KVKK, GDPR, EL AI seadus) täidetakse süstemaatiliselt.
- Järjepidevus: erinevad meeskonnad järgivad samu reegleid.
- Vastutus: kui on probleem, on selge, kes vastutab.
Mis on valitsemine? kolm jalga
AI juhtimine on reeglite ja protsesside kogum, mis määrab, kuidas tehisintellekti valitakse, kasutatakse, kontrollitakse ja kes selle eest asutuses vastutab. Poliitika on selle valitsemise kirjalik dokument; Valitsemine on elav süsteem, mis toob poliitika ellu. See on ehitatud kolmele jalale:
jalg
Tähendus
Näide AI poliitikast
inimene
Rollid ja kohustused
AI vastutav töötleja, kinnitav juht, andmekaitseametnik
Protsess
Reeglid ja vood
Uue sõiduki tüübikinnitusprotsess, regulaarne ülevaatus, intsidentidele reageerimine
tehnoloogia
Tööriistad ja juhtnupud
Kinnitatud sõidukite nimekiri, läbipääsukontroll, arvestus
Kui üks kolmest sambast puudub, kukub raamistik kokku: ilma reeglita on tööriist kasutu, ilma tööriistata ei saa reeglit kontrollida, ilma vastutuseta ei saa omada ühtegi.
Üks osakond ei saa seda tööd teha.
AI-poliitika ei ole ainult IT-osakonna töö. Edukaks raamistikuks on vaja erinevate üksuste osalemist: juriidiline/vastavus (õiguslikud kohustused ja lepingud), IT/turvalisus (tehniline kontroll ja andmeturve), inimressursid (töötajate koolitus ja käitumisreeglid), äriüksused (tegelikud kasutusvajadused) ja tippjuhtkond (kinnitamine, hankimine ja ettevõtte omand).
Näpunäide. Enne poliitika kirjutamise alustamist korraldage 30-minutiline kohtumine iga sidusrühmade üksuse esindajaga. "Milleks te praegu kasutate või kavatsete kasutada tehisintellekti?" küsimus paljastab nii tegelikud vajadused kui ka praegune varjukasutus.
AI tööle panemine: paljundatavad mallid
AI ise on abiks juhtimisraamistiku loomisel – seni, kuni selle väljund on kinnitatud. Järgmised mallid kiirendavad selle seadme tööd.
MALL 1 — Uuring algtaseme (vari-AI) skannimiseks: "8 küsimusest koosnev anonüümne töötajate küsitluse mustand on valmis AI kasutuse kaardistamiseks meie organisatsioonis. Küsimused peaksid hõlmama: milliseid tööriistu, milliseid ülesandeid, milliseid andmetüüpe on vaja, koolitust on vaja. Väljund: nummerdatud küsimused + iga küsimuse vastuse tüüp (mitmevalikuga/avatud)."
MALL 2 – koostage riskikokkuvõte: "Kaaluge järgmist tehisintellekti kasutusjuhtumit: [kleebi stsenaarium]. Andke mulle lühike riskikokkuvõte järgmiste pealkirjade all: andmete privaatsus, vastavus, hallutsinatsioonid, autoritasu, maine. Märgistage iga pealkirja jaoks "madal/keskmine/kõrge" ja ühelauseline põhjendus. Ärge lihtsalt loetlege õigusnõustamise punkte.
MALL 3 – sidusrühmade koosoleku päevakord: "Valmistage ette 60-minutiline juhatuse koosoleku päevakord, et käivitada tehisintellekti juhtimisraamistik. Osalejad: juriidiline, IT, personaliüksus, äriüksus, tippjuhtkond. Kirjutage iga päevakorrapunkti jaoks kestus ja eeldatav väljund."
MALL 4 – Lühiülevaade juhtkonnale: "Kirjutage poole lehekülje pikkune infotund pealkirjaga "Miks me vajame tehisintellekti poliitikat", et seda kõrgemale juhtkonnale tutvustada. Kaasake 3 konkreetset riski + 3 konkreetset eelist; ärge kasutage tehnilist kõnepruuki; jätke viimasel real selge otsusetaotlus."
Nõrk viip / Tugev viip
NÕRK: “Kirjutage tehisintellekti poliitikat.”-> Mudel loob üldise, mitteinstitutsionaalse, mitteauditaalse teksti; ei kajasta andmeklasse, rolle ega regulatiivset konteksti. GÜÇLÜ: "Oleme 50-liikmeline kindlustusselts, allub KVKK-le, töötleme klientide terviseandmeid. Tehke tehisintellekti poliitika jaotiste "ulatuse" ja "keelatud kasutusviiside" kohta eelnõu. Ärge tehke lõplikku otsust; lisage igasse artiklisse märge "nõutav juriidiline kinnitus" ja jätke lüngad minu teada. Otsus jääb teile.
Levinud vead
- Tehisintellekti kasutamise täielik keelamine ja vari-AI nähtamatuks muutmine.
- Laske IT-l kirjutada ainult poliitika ja välistades äriüksuste tegelikud vajadused.
- Reeglite kirjutamise alustamine otse olemasolevast varjukasutuse kaardist.
- Poliisi kirjutamine juriidilises keeles viisil, millest töötaja aru ei saa.
- Tehisintellekti koostatud poliitikakavandi rakendamine ilma juriidilise heakskiiduta.
- Riskist rääkimine, kuid kasu mitte mõõtmine; kaotades seega administratsiooni toetuse.
- Poliitika üks kord kirjutamine ja selle uuendamise unustamine; arvestades, et valitsemine on elav süsteem.
Kokkuvõttes
- Shadow AI on vältimatu poliitikata organisatsioonides ning see kujutab endast riske andmetele, vastavusele ja mainele.
- Hea poliitika ei ole keeldude nimekiri; See on vastutustundlikku kasutamist võimaldav raamistik.
- AI juhtimine on üles ehitatud inimestele (rollid), protsessile (reeglid) ja tehnoloogiale (juhtelemendid); Kui üks on puudu, jookseb see kokku.
- Poliitika ei ole ühe osakonna vastutusala; See on õiguse, IT, personali, äriüksuste ja tippjuhtkonna ühine töö.
- AI võib aidata raamistikku luua, kuid iga väljund peab saama inimeste ja juriidilise heakskiidu.
Rakenduse ülesanne
Valige organisatsioon, mille heaks olete töötanud või millest unistate (olgu selge, milline on tööstusharu, töötajate arv ja töödeldavate andmete tüüp). Esmalt koostage 8 küsimusest koosnev uuring vari-AI-sõeluuringu jaoks (saate kasutada malli 1). Seejärel kirjutage üles kolm konkreetset riski, mida vari-AI selles organisatsioonis võib põhjustada, lisades igaühele arvulise hinnangulise mõju (trahv, viivitus, kaotatud tunnid). Lõpuks leidke oma organisatsioonile omased näited iga kolme juhtimissamba (inimesed, protsess, tehnoloogia) kohta ja märkige üles, milline sidusrühmade üksus selle samba eest vastutab.
kontrollnimekiri
- [ ] Kaardistasin AI praeguse (vari)kasutuse oma organisatsioonis.
- [ ] Kirjutasin kolm konkreetset numbrilise mõjuga poliitika puudumise riski.
- [ ] Valmistasin ette briifingu, mis andis juhtkonnale edasi nii tehisintellektiga seotud riskid kui kasu.
- [ ] Olen määranud kolme valitsemissamba jaoks institutsioonispetsiifilise eeskuju ja vastutava isiku.
- [ ] Tegin plaani kaasata protsessi vähemalt kolm huvigruppide üksust.
- [ ] Kinnitan iga tehisintellektiga koostatud kavandi juriidilise/nõuetekohasuse kinnitamise.