Fitimet:
- Njohja e rreziqeve të përdorimit të AI pa politikë (AI hije) me shembuj numerikë
- Kuptoni se një politikë e mirë nuk është një listë ndalimesh, por një kornizë që mundëson përdorim të përgjegjshëm
- Shpjegoni njerëzit, shtyllat e procesit dhe teknologjisë dhe rolet e palëve të interesuara të qeverisjes së AI
Të hënën në mëngjes, shefi i pajtueshmërisë së një kompanie sigurimesh të mesme (personi përgjegjës për respektimin e ligjeve dhe rregullave të brendshme të organizatës) hap emailin e tij për një surprizë: një klient po pyet nëse informacioni i tij shëndetësor "ishte shkruar në një mjet AI dhe ku shkoi". Një hetim i shpejtë zbulon se një ekspert nga ekipi i pretendimeve përdor një llogari personale të AI për të përmbledhur shpejt dosjet e pretendimeve. Askush nuk është keqdashës; Askush nuk mendon se po thyen rregullat. Sepse nuk ka rregull të shkruar. Ky boshllëk quhet AI hije, dhe ky modul ju mëson se si të ndërtoni një kornizë qeverisjeje për të mbushur pikërisht këtë boshllëk.
Sjellja e AI në biznes nuk është aq e thjeshtë sa instalimi i softuerit të zakonshëm. AI ndikon në vendime, përpunon të dhënat personale, mund të prodhojë përmbajtje me të drejtë autori dhe krijon përgjegjësi kur bën gabime. Kjo është arsyeja pse çdo organizatë që "përdor" AI ka nevojë gjithashtu për një kornizë që "e menaxhon" atë. Në këtë njësi të parë, ne mbulojmë pse nevojitet një politikë e shkruar e AI, koston e prekshme të AI hije dhe tre shtyllat e qeverisjes.
Çfarë është AI hije dhe pse është e pashmangshme?
Shadow AI është përdorimi i AI pa dijeninë, miratimin dhe kontrollin e institucionit. Fjala "hije" vjen nga emri "hije IT", që i jepet softuerit që nuk miratohet nga departamenti i IT. Punonjësit fillojnë të përdorin mjetet e AI me ose pa një politikë; sepse këto mjete janë falas, të shpejta dhe ua lehtësojnë punën. Edhe të kesh një ndalim nuk e ndalon përdorimin, por vetëm e fsheh atë.
Përdorimi pa politikë krijon rreziqet konkrete të mëposhtme:
- Rrjedhja e të dhënave: Një punonjës mund të ngjisë pa e ditur të dhënat konfidenciale të klientit ose sekretet e kompanisë në një mjet AI. Të dhënat shkojnë përtej kontrollit të institucionit.
- Gjobat për mospërputhje: Shkelja e KVKK-së (Ligji për Mbrojtjen e të Dhënave Personale) rezulton në një gjobë administrative prej miliona lirash; Shkelja e GDPR mund të çojë në gjoba deri në 4% të xhiros vjetore.
- Vendimi i bazuar në keqinformim: Vendimet e marra duke u mbështetur në dezinformatat e sajuara nga AI (“halucinacione”) dëmtojnë klientin dhe organizatën.
- Çështjet e së drejtës së autorit dhe pronës intelektuale: Përdorimi i produktit mund të cenojë pronën intelektuale të dikujt tjetër.
- Humbja e reputacionit: Kur raportohet për përdorim të pakontrolluar në shtyp, besimi i markës tronditet.
Kujdes: Ndalimi i plotë i përdorimit të AI nuk është zgjidhje. Ndalimi nuk e eliminon përdorimin; thjesht e bën atë të padukshëm dhe të pakontrolluar. Qëllimi nuk është t'i jepet fund përdorimit, por ta vendosim atë në një kornizë të sigurt.
Tre mini raste: kostoja reale e AI hije
Rasti 1 — Kontrata e rrjedhur. Një specialist ligjor ngjit të gjithë tekstin në një llogari individuale të AI për të përmbledhur një marrëveshje konfidenciale bashkimi prej 40 faqesh. Kontrata nuk është ende e disponueshme për publikun. Teksti përpunohet në serverët e ofruesit dhe bëhet i disponueshëm për trajnimin e modelit të ardhshëm. Kompania vonon bashkimin me 3 javë për të eliminuar rrezikun e një rrjedhjeje të mundshme informacioni; Kostoja e konsulencës rritet me rreth 250,000 TL.
Rasti 2 — Jurisprudenca halucinative. Një avokat i bashkangjit peticionit të tij tre "vendime precedente" nga AI. Dy nga numrat e vendimeve janë vendime të marra që nuk ekzistojnë në realitet. Gjykata e kupton këtë; Avokati përballet me proces disiplinor si dhe humbje të reputacionit. Një rregull verifikimi me një linjë (verifikoni çdo burim kundrejt sistemit zyrtar të vendimeve) do ta kishte parandaluar këtë krizë.
Rasti 3 - Kursime të padukshme. Në të njëjtën kompani, ekipi i marketingut prodhon kopje të fushatës 6 orë në javë më shpejt me një mjet të certifikuar të inteligjencës artificiale të ndërmarrjes. Megjithatë, ky kursim nuk raportohet askund sepse përdorimi është i paregjistruar. Menaxhmenti refuzon buxhetin e ri të licencimit sepse nuk mund të shohë përfitimet e AI. Shadow AI eliminon jo vetëm rrezikun, por edhe dukshmërinë e përfitimit.
Çfarë siguron politika e mirë?
Një politikë e mirë e AI nuk është një listë ndalimesh; Është një kornizë që mundëson përdorim të përgjegjshëm. Ai bën pesë gjëra:
- Qartësia: Punonjësi e di se çfarë lejohet, çfarë është e ndaluar dhe çfarë i nënshtrohet miratimit.
- Besimi: Menaxhmenti mund të miratojë projekte të reja duke ditur që AI po përdoret në mënyrë të kontrolluar.
- Pajtueshmëria: Detyrimet ligjore (KVKK, GDPR, Ligji i UA i BE-së) përmbushen në mënyrë sistematike.
- Konsistenca: Ekipet e ndryshme ndjekin të njëjtat rregulla.
- Përgjegjësia: Kur ka një problem, është e qartë se kush është përgjegjës.
Çfarë është qeverisja? tre këmbë
Qeverisja e AI është një grup rregullash dhe procesesh që përcaktojnë se si do të zgjidhet, përdoret, kontrollohet inteligjenca artificiale dhe kush do të jetë përgjegjës për të në një institucion. Politika është dokumenti i shkruar i kësaj qeverisjeje; Qeverisja është sistemi i gjallë që sjell politikën në jetë. Është ndërtuar mbi tre këmbë:
këmbë
Kuptimi
Shembull në politikën e AI
njerëzore
Rolet dhe përgjegjësitë
Kontrollues i AI, menaxher miratues, zyrtar i mbrojtjes së të dhënave
Procesi
Rregullat dhe rrjedhat
Procesi i miratimit të automjetit të ri, inspektimi i rregullt, reagimi ndaj incidentit
teknologjisë
Mjetet dhe kontrollet
Lista e miratuar e automjeteve, kontrolli i aksesit, mbajtja e të dhënave
Nëse mungon një nga tre shtyllat, korniza shembet: pa rregull, mjeti është i kotë, pa mjet, rregulli nuk mund të kontrollohet, pa përgjegjësi, askush nuk mund të zotërohet.
Një departament i vetëm nuk mund ta bëjë këtë punë.
Politika e AI nuk është vetëm punë e departamentit të IT. Një kornizë e suksesshme kërkon pjesëmarrjen e njësive të ndryshme: ligjore/përputhshmëri (detyrime ligjore dhe kontrata), IT/siguri (kontrollet teknike dhe siguria e të dhënave), burimet njerëzore (trajnimi i punonjësve dhe kodet e sjelljes), njësitë e biznesit (nevojat aktuale të përdorimit) dhe menaxhmenti i lartë (miratimi, burimi dhe pronësia e korporatës).
Këshillë: Mbani një takim 30-minutësh me një përfaqësues nga çdo njësi e palëve të interesuara përpara se të filloni të shkruani politikën. "Për çfarë po përdorni ose po kërkoni të përdorni aktualisht AI?" pyetja zbulon nevojat reale dhe përdorimin aktual të hijes.
Vënia në punë e AI: shabllone të përsëritur
Vetë AI është një ndihmë kur vendoset kuadri i qeverisjes - për sa kohë që produkti i tij është i vlefshëm. Modelet e mëposhtëm përshpejtojnë punën e kësaj njësie.
TABLE 1 — Anketa për skanimin bazë (AI hije): "Një draft anketimi anonim i punonjësve me 8 pyetje është gati për të hartuar përdorimin e AI në organizatën tonë. Pyetjet duhet të mbulojnë: cilat mjete, cilat detyra, cilat lloje të dhënash janë futur, nevojiten trajnime. Rezultatet: pyetje me numër + lloj përgjigjeje për secilën pyetje (me shumë zgjedhje/të hapura).
SHBALL 2 — Krijoni një përmbledhje rreziku: "Kini parasysh rastin e mëposhtëm të përdorimit të AI: [ngjit skenarin]. Më jep një përmbledhje të shkurtër të rrezikut nën titujt e mëposhtëm: privatësia e të dhënave, pajtueshmëria, halucinacionet, të drejtat e autorit, reputacioni. Etiketo "i ulët/mesatar/i lartë" dhe jepni një arsyetim me një fjali për secilin titull;
TABLE 3 — Axhenda e takimit të palëve të interesuara: "Përgatitni një axhendë 60-minutëshe të takimit të bordit për të nisur kuadrin e qeverisjes së AI. Pjesëmarrësit: ligjor, IT, HR, njësi biznesi, menaxhment i lartë. Shkruani kohëzgjatjen dhe rezultatin e pritur për çdo pikë të rendit të ditës."
TABLE 4 — Përmbledhje e shkurtër për menaxhmentin: "Shkruani një konferencë gjysmë faqe me titull "Pse na duhet një politikë e AI" për t'ia paraqitur menaxhmentit të lartë. Përfshi 3 rreziqe konkrete + 3 përfitime konkrete; mos përdorni zhargon teknik; keni një kërkesë të qartë vendimi në rreshtin e fundit."
Prompt i dobët / Prompt i fortë
I DOBËT: “Shkruani politikën e AI.”-> Modeli prodhon një tekst të përgjithshëm, joinstitucional, të paauditueshëm; nuk pasqyron klasat e të dhënave, rolet dhe kontekstin rregullator. GÜÇLÜ: "Ne jemi një kompani sigurimesh prej 50 personash, subjekt i KVKK-së, ne përpunojmë të dhënat shëndetësore të klientëve. Propozoni një draft për seksionet e 'fushëveprimit' dhe 'përdorimeve të ndaluara' të politikës së AI. Mos impononi një gjykim përfundimtar; shtoni një shënim 'kërkohet miratimi ligjor' në çdo artikull dhe lërini boshllëqet tek unë, modele të verifikueshme, të cilat janë të verifikueshme, ->. Vendimi mbetet me ju.
Gabimet e zakonshme
- Ndalimi total i përdorimit të AI dhe bërja e AI hije të padukshme.
- Lejimi i IT-së të shkruajë vetëm politikat dhe duke përjashtuar nevojat reale të njësive të biznesit.
- Fillimi i shkrimit të rregullave direkt nga harta ekzistuese e përdorimit të hijes.
- Shkrimi i politikës në gjuhën ligjore në një mënyrë që punonjësi nuk mund ta kuptojë.
- Vënia në fuqi e draftit të politikave të prodhuar nga AI pa miratim ligjor.
- Duke folur për rrezikun, por jo për të matur përfitimin; duke humbur kështu mbështetjen e administratës.
- Të shkruash politikën një herë dhe të harrosh ta përditësosh atë; kurse qeverisja është një sistem i gjallë.
Në përmbledhje
- Shadow AI është e pashmangshme në organizatat pa politika dhe paraqet rreziqe të të dhënave, pajtueshmërisë dhe reputacionit.
- Një politikë e mirë nuk është një listë ndalimi; Është një kornizë që mundëson përdorim të përgjegjshëm.
- Qeverisja e AI është ndërtuar mbi njerëzit (rolet), proceset (rregullat) dhe teknologjinë (kontrollet); Nëse dikujt i mungon ai rrëzohet.
- Politika nuk është përgjegjësi e një departamenti të vetëm; Është punë e përbashkët e ligjit, IT, HR, njësive të biznesit dhe menaxhmentit të lartë.
- AI mund të ndihmojë në vendosjen e kornizës, por çdo produkt duhet t'i nënshtrohet miratimit njerëzor dhe ligjor.
Detyra e aplikimit
Zgjidhni një organizatë për të cilën keni punuar ose ëndërroni (le të jenë të qarta industria, numri i punonjësve dhe lloji i të dhënave që përpunon). Fillimisht hartoni një anketë me 8 pyetje për shqyrtimin e inteligjencës artificiale në hije (mund të përdorni shabllonin 1). Më pas shkruani tre rreziqe konkrete që AI hije mund të paraqesë në këtë organizatë, duke shtuar një ndikim të vlerësuar numerik (penalitet, vonesë, orë të humbura) për secilin. Së fundi, identifikoni shembuj specifikë për organizatën tuaj për secilën nga tre shtyllat e qeverisjes (njerëzit, procesi, teknologjia) dhe vini re se cila njësi e palëve të interesuara do të jetë përgjegjëse për këtë shtyllë.
listë kontrolli
- [ ] Kam vënë në hartë përdorimin aktual (hije) të AI në organizatën time.
- [ ] Kam shkruar tre rreziqe konkrete të mungesës së politikës me efekt numerik.
- [ ] Unë përgatita një konferencë që përcolli rrezikun dhe përfitimin e AI për menaxhmentin.
- [ ] Kam përcaktuar një shembull specifik për institucionin dhe person përgjegjës për tre shtyllat e qeverisjes.
- [ ] Unë bëra një plan për të përfshirë të paktën tre nga njësitë e palëve të interesuara në proces.
- [ ] Unë i nënshtroj çdo draft që prodhoj me AI miratimit ligjor/përputhshmërisë.