Pelnas:
- Nepriklausomo dirbtinio intelekto (šešėlinio AI) rizikos pripažinimas naudojant skaitinius pavyzdžius
- Supraskite, kad gera politika yra ne draudimų sąrašas, o sistema, leidžianti atsakingai naudotis
- Paaiškinkite dirbtinio intelekto valdymo žmones, procesus ir technologijas bei suinteresuotųjų šalių vaidmenis
Pirmadienio rytą vidutinės draudimo bendrovės vyriausiasis atitikties pareigūnas (asmuo, atsakingas už organizacijos įstatymų ir vidaus taisyklių laikymąsi) netikėtai atidaro savo elektroninį laišką: klientas klausia, ar jo sveikatos informacija „buvo įrašyta į AI įrankį ir kur ji nukeliavo“. Greitas tyrimas atskleidžia, kad pretenzijų komandos ekspertas naudoja asmeninę AI paskyrą, kad greitai apibendrintų pretenzijų failus. Niekas nėra piktybiškas; Niekas nemano, kad jie pažeidžia taisykles. Nes rašytinės taisyklės nėra. Ši spraga vadinama šešėliniu AI, o šis modulis moko, kaip sukurti valdymo sistemą, kuri užpildytų būtent šią spragą.
Įtraukti dirbtinį intelektą į verslą nėra taip paprasta, kaip įdiegti įprastą programinę įrangą. AI daro įtaką sprendimams, apdoroja asmens duomenis, gali gaminti autorių teisių saugomą turinį ir užtraukia atsakomybę, kai padaro klaidų. Štai kodėl kiekvienai AI „naudojančiai“ organizacijai reikia ir ją „valdančios“ sistemos. Šiame pirmajame skyriuje aptarsime, kodėl reikalinga rašytinė AI politika, apčiuopiamos šešėlinės AI sąnaudos ir trys valdymo ramsčiai.
Kas yra šešėlinis AI ir kodėl tai neišvengiama?
Šešėlinis AI – tai AI naudojimas be institucijos žinios, patvirtinimo ir kontrolės. Žodis „šešėlis“ kilęs iš pavadinimo „shadow IT“, kuris suteikiamas IT skyriaus nepatvirtintai programinei įrangai. Darbuotojai pradeda naudoti AI įrankius su politika arba be jos; nes šie įrankiai yra nemokami, greiti ir palengvina jų darbą. Net ir draudimas nesustabdo naudojimo, tai tik paslepia.
Naudojimas be politikos kelia tokią konkrečią riziką:
- Duomenų nutekėjimas: darbuotojas gali nesąmoningai įklijuoti konfidencialius klientų duomenis arba įmonės paslaptis į AI įrankį. Duomenys nepriklauso nuo institucijos kontrolės.
- Baudos už įsipareigojimų nevykdymą: Už KVKK (asmens duomenų apsaugos įstatymo) pažeidimą skiriama milijonų litų administracinė bauda; Pažeidus GDPR, gali būti skiriamos baudos iki 4% metinės apyvartos.
- Dezinformacija pagrįstas sprendimas: sprendimai, priimti remiantis dirbtinio intelekto sukurta klaidinga informacija („haliucinacija“), kenkia klientui ir organizacijai.
- Autorių teisių ir intelektinės nuosavybės problemos: naudojant išvestį gali būti pažeistos kažkieno intelektinės nuosavybės teisės.
- Reputacijos praradimas: kai spaudoje pranešama apie nekontroliuojamą naudojimą, susvyruoja pasitikėjimas prekės ženklu.
Atsargiai: visiškai uždrausti naudoti AI nėra sprendimas. Draudimas nepanaikina naudojimo; tai tiesiog daro jį nematomą ir nekontroliuojamą. Tikslas yra ne nutraukti naudojimą, o įdėti jį į saugią sistemą.
Trys mini atvejai: tikroji šešėlinio AI kaina
1 atvejis – nutekėjusi sutartis. Teisės specialistas įklijuoja visą tekstą į individualią AI paskyrą, kad apibendrintų konfidencialią 40 puslapių susijungimo sutartį. Sutartis dar nėra viešai skelbiama. Tekstas apdorojamas teikėjo serveriuose ir tampa prieinamas būsimiems modelių mokymams. Bendrovė atideda susijungimą 3 savaitėmis, kad pašalintų galimo informacijos nutekėjimo riziką; Konsultacijos kaina išauga apie 250 000 Lt.
2 atvejis – Haliucinacinė jurisprudencija. Advokatas prie savo peticijos prideda tris „precedento sprendimus“ iš AI. Du iš sprendimų skaičių yra išgalvoti sprendimai, kurių realybėje nėra. Teismas tai suvokia; Advokatui gresia drausminė procedūra ir reputacijos praradimas. Vienos eilutės tikrinimo taisyklė (kiekvieno šaltinio patikrinimas pagal oficialią sprendimų sistemą) būtų užkirtęs kelią šiai krizei.
3 atvejis – nematomos santaupos. Toje pačioje įmonėje rinkodaros komanda, naudodama sertifikuotą įmonės AI įrankį, kampanijos kopiją gamina 6 valandomis per savaitę greičiau. Tačiau šis sutaupymas niekur nepranešamas, nes naudojimas yra neregistruotas. Vadovybė atmeta naują licencijavimo biudžetą, nes nemato AI naudos. „Shadow AI“ pašalina ne tik riziką, bet ir naudos matomumą.
Ką užtikrina gera politika?
Gera AI politika nėra draudimų sąrašas; Tai sistema, leidžianti atsakingai naudotis. Jis atlieka penkis dalykus:
- Aiškumas: darbuotojas žino, kas leidžiama, kas draudžiama ir kas turi būti patvirtinta.
- Pasitikėjimas: vadovybė gali patvirtinti naujus projektus žinodama, kad dirbtinis intelektas naudojamas kontroliuojamai.
- Atitiktis: sistemingai vykdomi teisiniai įsipareigojimai (KVKK, GDPR, ES AI įstatymas).
- Nuoseklumas: skirtingos komandos laikosi tų pačių taisyklių.
- Atsakomybė: kai iškyla problema, aišku, kas atsakingas.
Kas yra valdymas? trys pėdos
AI valdymas – tai taisyklių ir procesų visuma, nulemianti, kaip dirbtinis intelektas bus atrenkamas, naudojamas, kontroliuojamas ir kas už tai bus atsakingas institucijoje. Politika yra rašytinis šio valdymo dokumentas; Valdymas yra gyva sistema, kuri įgyvendina politiką. Jis pastatytas ant trijų kojų:
pėda
Reikšmė
AI politikos pavyzdys
žmogaus
Vaidmenys ir pareigos
AI valdytojas, patvirtinantis vadovas, duomenų apsaugos pareigūnas
Procesas
Taisyklės ir srautai
Naujos transporto priemonės patvirtinimo procesas, reguliari apžiūra, reagavimas į incidentus
technologija
Įrankiai ir valdikliai
Patvirtintas transporto priemonių sąrašas, įvažiavimo kontrolė, apskaitos vedimas
Jei trūksta vieno iš trijų ramsčių, karkasas žlunga: be taisyklės įrankis nenaudingas, be įrankio taisyklės negalima valdyti, be atsakomybės negali būti jokios nuosavybės.
Vienas skyrius negali atlikti šio darbo.
AI politika nėra tik IT skyriaus darbas. Kad sistema būtų sėkminga, dalyvautų įvairūs padaliniai: teisės ir (arba) atitikties (teisiniai įsipareigojimai ir sutartys), IT ir saugumo (techninė kontrolė ir duomenų saugumas), žmogiškųjų išteklių (darbuotojų mokymas ir elgesio kodeksai), verslo padalinių (faktiniai naudojimo poreikiai) ir vyresniosios vadovybės (patvirtinimas, tiekimas ir įmonės nuosavybė).
Patarimas: prieš pradėdami rašyti politiką surengkite 30 minučių susitikimą su kiekvieno suinteresuotųjų šalių padalinio atstovu. „Kam šiuo metu naudojate ar ketinate naudoti AI? klausimas atskleidžia tiek realius poreikius, tiek dabartinį šešėlių naudojimą.
AI pritaikymas darbui: pakartojami šablonai
Pats dirbtinis intelektas yra pagalba kuriant valdymo sistemą, kol jos rezultatai yra patvirtinti. Šie šablonai pagreitina šio įrenginio darbą.
1 ŠABLONAS – apklausa, skirta pradiniam (šešėliniam AI) nuskaitymui: "8 klausimų anoniminės darbuotojų apklausos juodraštis parengtas, kad būtų galima nustatyti AI naudojimą mūsų organizacijoje. Klausimai turėtų apimti: kokių įrankių, kokių užduočių, kokių duomenų tipų reikia, mokymų reikia. Rezultatas: sunumeruoti klausimai + atsakymo tipas kiekvienam klausimui (keli pasirinkimai / atviras)."
2 ŠABLONAS – Sukurkite rizikos santrauką: „Apsvarstykite šį AI naudojimo atvejį: [įklijuoti scenarijų]. Pateikite trumpą rizikos santrauką tokiomis antraštėmis: duomenų privatumas, laikymasis, haliucinacijos, honoraras, reputacija. Kiekvienai antraštei pažymėkite „mažas/vidutinis/didelis“ ir vieno sakinio pagrindimą. Tiesiog nenurodykite teisinės konsultacijos taškų.
3 ŠABLONAS. Suinteresuotųjų šalių susitikimo darbotvarkė: "Parengkite 60 minučių valdybos posėdžio darbotvarkę, kad pradėtumėte dirbtinio intelekto valdymo sistemą. Dalyviai: teisiniai, IT, žmogiškųjų išteklių, verslo padalinys, vyresnioji vadovybė. Parašykite kiekvieno darbotvarkės punkto trukmę ir numatomą rezultatą."
4 ŠABLONAS. Trumpas instruktažas vadovybei: „Parašykite pusės puslapio instruktažą pavadinimu „Kodėl mums reikia dirbtinio intelekto politikos“, kad pateiktumėte jį vyresniajai vadovybei. Įtraukite 3 konkrečias rizikas + 3 konkrečią naudą; nenaudokite techninio žargono; paskutinėje eilutėje pateikite aiškų prašymą priimti sprendimą.
Silpnas raginimas / Stiprus raginimas
SILPNA: „Rašykite AI politiką“.-> Modelis sukuria bendrą, neinstitucinį, neaudituojamą tekstą; neatspindi duomenų klasių, vaidmenų ir reguliavimo konteksto. GÜÇLÜ: "Esame 50 žmonių draudimo bendrovė, kuriai taikomas KVKK, tvarkome klientų sveikatos duomenis. Siūlykite AI politikos skilčių "apimties" ir "draudžiamo naudojimo" projektą. Nepriimkite galutinio sprendimo; kiekviename straipsnyje pridėkite pastabą "reikalingas teisinis patvirtinimas" ir palikite spragas man, patikrinkite kontekstą."-> Sprendimas lieka jums.
Dažnos klaidos
- Visiškai uždrausti naudoti AI ir padaryti šešėlinį AI nematomą.
- Leisti IT rašyti tik politiką ir neįtraukti realių verslo padalinių poreikių.
- Pradedama rašyti taisykles tiesiai iš esamo šešėlinio naudojimo atvaizdavimo.
- Politikos surašymas teisine kalba darbuotojui nesuprantama forma.
- AI parengto politikos projekto įgyvendinimas be teisinio patvirtinimo.
- Kalbėti apie riziką, bet nematuoti naudos; taip netenka administracijos paramos.
- Vieną kartą parašius politiką ir pamiršus ją atnaujinti; kadangi valdymas yra gyva sistema.
Apibendrinant
- Šešėlinis AI yra neišvengiamas organizacijose, kuriose nėra politikos, ir kelia pavojų duomenims, atitikčiai ir reputacijai.
- Gera politika nėra draudimų sąrašas; Tai sistema, leidžianti atsakingai naudotis.
- AI valdymas grindžiamas žmonėmis (vaidmenimis), procesu (taisyklėmis) ir technologijomis (kontrolėmis); Jei kurio nors trūksta, jis sugenda.
- Už politiką atsakingas ne vienas skyrius; Tai bendras teisės, IT, personalo, verslo padalinių ir vyresniosios vadovybės darbas.
- AI gali padėti sukurti sistemą, tačiau kiekviena produkcija turi gauti žmogaus ir teisinį patvirtinimą.
Taikymo užduotis
Pasirinkite organizaciją, kurioje dirbote arba apie kurią svajojote (aiškiai nurodykite pramonės šaką, darbuotojų skaičių ir apdorojamų duomenų tipą). Pirmiausia sukurkite 8 klausimų apklausą, skirtą šešėlinei AI patikrai (galite naudoti 1 šabloną). Tada parašykite tris konkrečias rizikas, kurias šešėlinis AI gali kelti šioje organizacijoje, prie kiekvienos pridėdami skaitinį įvertintą poveikį (baudą, vėlavimą, prarastas valandas). Galiausiai nurodykite savo organizacijai būdingus pavyzdžius kiekvienam iš trijų valdymo ramsčių (žmonės, procesas, technologijos) ir pažymėkite, kuris suinteresuotųjų šalių padalinys bus atsakingas už šį ramstį.
kontrolinis sąrašas
- [ ] Sudariau dabartinį (šešėlinį) AI naudojimą savo organizacijoje.
- [ ] Parašiau tris konkrečias politikos nebuvimo rizikas, turinčias skaitinį poveikį.
- [ ] Parengiau instruktažą, kuriame vadovybei perteikiau AI riziką ir naudą.
- [ ] Nustačiau konkrečiai institucijai pavyzdį ir atsakingą asmenį trims valdymo ramsčiams.
- [ ] Sudariau planą į procesą įtraukti bent tris suinteresuotųjų šalių padalinius.
- [ ] Kiekvienam projektui, kurį gaminu naudodamas AI, turiu teisinį / atitikties patvirtinimą.