Ieguvumi:
- Bezpolitiku AI (ēnu AI) risku atpazīšana ar skaitliskiem piemēriem
- Saprotiet, ka laba politika nav aizliegumu saraksts, bet gan ietvars, kas nodrošina atbildīgu lietošanu
- Izskaidrojiet cilvēkus, procesu un tehnoloģiju pīlārus un ieinteresēto personu lomas AI pārvaldībā
Pirmdienas rītā vidēja lieluma apdrošināšanas sabiedrības galvenais atbilstības speciālists (persona, kas atbild par organizācijas atbilstību likumiem un iekšējiem noteikumiem) pārsteigumā atver savu e-pastu: klients jautā, vai viņa veselības informācija "tika ierakstīta AI rīkā un kur tā nokļuva". Ātra izmeklēšana atklāj, ka prasījumu grupas eksperts izmanto personīgo AI kontu, lai ātri apkopotu prasību failus. Neviens nav ļaunprātīgs; Neviens nedomā, ka viņi pārkāpj noteikumus. Jo nav rakstītu noteikumu. Šo plaisu sauc par ēnu AI, un šis modulis māca jums izveidot pārvaldības sistēmu, lai aizpildītu tieši šo plaisu.
AI ieviešana uzņēmējdarbībā nav tik vienkārša kā parastas programmatūras instalēšana. AI ietekmē lēmumus, apstrādā personas datus, var radīt ar autortiesībām aizsargātu saturu un rada atbildību, ja tas pieļauj kļūdas. Tāpēc katrai organizācijai, kas "izmanto" AI, ir vajadzīgs arī ietvars, kas to "pārvalda". Šajā pirmajā daļā mēs apskatīsim, kāpēc ir nepieciešama rakstiska AI politika, ēnu AI taustāmās izmaksas un trīs pārvaldības pīlārus.
Kas ir ēnu AI un kāpēc tas ir neizbēgami?
Ēnu AI ir AI izmantošana bez iestādes ziņas, apstiprinājuma un kontroles. Vārds "ēna" cēlies no nosaukuma "shadow IT", kas tiek dots programmatūrai, kuru IT nodaļa nav apstiprinājusi. Darbinieki sāk izmantot AI rīkus ar politiku vai bez tās; jo šie rīki ir bezmaksas, ātri un atvieglo darbu. Pat aizliegums neaptur lietošanu, tas tikai slēpj to.
Lietošana bez politikas rada šādus konkrētus riskus:
- Datu noplūde: darbinieks var neapzināti ielīmēt konfidenciālus klientu datus vai uzņēmuma noslēpumus AI rīkā. Dati ir ārpus iestādes kontroles.
- Sodi par noteikumu neievērošanu: par KVKK (Personas datu aizsardzības likuma) pārkāpšanu tiek uzlikts administratīvais sods miljoniem liru apmērā; Par GDPR pārkāpšanu var uzlikt naudas sodu līdz 4% no gada apgrozījuma.
- Lēmums, kas balstīts uz dezinformāciju: lēmumi, kas pieņemti, balstoties uz AI izdomātu dezinformāciju (“halucinācijām”), kaitē klientam un organizācijai.
- Autortiesību un intelektuālā īpašuma problēmas: izvades izmantošana var pārkāpt kādas citas personas intelektuālo īpašumu.
- Reputācijas zaudēšana: kad presē tiek ziņots par nekontrolētu lietošanu, zīmola uzticība tiek satricināta.
Uzmanību: AI izmantošanas pilnīga aizliegšana nav risinājums. Aizliegums neizslēdz lietošanu; tas tikai padara to neredzamu un nekontrolējamu. Mērķis nav izbeigt lietošanu, bet gan ievietot to drošā ietvarā.
Trīs mini gadījumi: ēnu AI reālās izmaksas
1. gadījums — noplūdis līgums. Juridiskais speciālists ielīmē visu tekstu atsevišķā AI kontā, lai apkopotu konfidenciālu 40 lappušu apvienošanās līgumu. Līgums vēl nav publiski pieejams. Teksts tiek apstrādāts pakalpojumu sniedzēja serveros un kļūst pieejams nākotnes modeļu apmācībai. Uzņēmums apvieno apvienošanos par 3 nedēļām, lai novērstu iespējamās informācijas noplūdes risku; Konsultāciju izmaksas palielinās par aptuveni 250 000 TL.
2. lieta — halucinācijas jurisprudence. Advokāts savai lūgumrakstam pievieno trīs “precedenta lēmumus” no AI. Divi no lēmumu numuriem ir izdomāti lēmumi, kas patiesībā neeksistē. Tiesa to apzinās; Advokātam draud disciplinārsods, kā arī reputācijas zaudēšana. Vienas rindas pārbaudes noteikums (katra avota pārbaude attiecībā pret oficiālo lēmumu sistēmu) būtu novērsusi šo krīzi.
3. gadījums — Neredzami ietaupījumi. Tajā pašā uzņēmumā mārketinga komanda, izmantojot sertificētu uzņēmuma AI rīku, izgatavo kampaņas kopiju par 6 stundām nedēļā ātrāk. Taču šis ietaupījums nekur netiek ziņots, jo lietojums ir nereģistrēts. Vadība noraida jauno licencēšanas budžetu, jo tā neredz AI priekšrocības. Shadow AI novērš ne tikai risku, bet arī ieguvuma redzamību.
Ko nodrošina laba politika?
Laba AI politika nav aizliegumu saraksts; Tas ir ietvars, kas nodrošina atbildīgu lietošanu. Tas veic piecas lietas:
- Skaidrība: darbinieks zina, kas ir atļauts, kas ir aizliegts un kas ir jāapstiprina.
- Uzticēšanās: vadība var apstiprināt jaunus projektus, zinot, ka mākslīgais intelekts tiek izmantots kontrolētā veidā.
- Atbilstība: Juridiskās saistības (KVKK, GDPR, ES AI likums) tiek ievērotas sistemātiski.
- Konsekvence: dažādas komandas ievēro vienus un tos pašus noteikumus.
- Atbildība: kad ir problēma, ir skaidrs, kurš ir atbildīgs.
Kas ir pārvaldība? trīs pēdas
AI pārvaldība ir noteikumu un procesu kopums, kas nosaka, kā mākslīgais intelekts tiks atlasīts, izmantots, kontrolēts un kurš par to atbildēs iestādē. Politika ir šīs pārvaldības rakstisks dokuments; Pārvaldība ir dzīvā sistēma, kas iedzīvina politiku. Tas ir veidots uz trim kājām:
pēda
Nozīme
Piemērs AI politikā
cilvēks
Lomas un pienākumi
AI kontrolieris, apstiprināšanas vadītājs, datu aizsardzības speciālists
Process
Noteikumi un plūsmas
Jauna transportlīdzekļa apstiprināšanas process, regulāra pārbaude, reaģēšana uz incidentiem
tehnoloģija
Rīki un vadības ierīces
Apstiprināts transportlīdzekļu saraksts, piekļuves kontrole, lietvedība
Ja trūkst viena no trim pīlāriem, ietvars sabrūk: bez noteikuma rīks ir bezjēdzīgs, bez rīka noteikumu nevar kontrolēt, bez atbildības neviens nevar piederēt.
Viena nodaļa nevar veikt šo darbu.
AI politika nav tikai IT nodaļas darbs. Veiksmīgai sistēmai ir nepieciešama dažādu struktūrvienību līdzdalība: juridiskā/atbilstība (juridiskie pienākumi un līgumi), IT/drošība (tehniskā kontrole un datu drošība), cilvēkresursi (darbinieku apmācība un rīcības kodeksi), biznesa vienības (faktiskās lietošanas vajadzības) un augstākā vadība (apstiprināšana, piegāde un korporatīvās īpašumtiesības).
Padoms. Pirms politikas rakstīšanas organizējiet 30 minūšu tikšanos ar pārstāvi no katras ieinteresēto personu vienības. "Kam jūs pašlaik izmantojat vai vēlaties izmantot AI?" jautājums atklāj gan reālās vajadzības, gan pašreizējo ēnu lietojumu.
AI ieviešana darbā: atkārtojamas veidnes
AI pati par sevi ir palīglīdzeklis, veidojot pārvaldības sistēmu, ja vien tā rezultāti ir apstiprināti. Tālāk norādītās veidnes paātrina šīs vienības darbu.
1. VEINNE — aptauja bāzes līnijas (ēnu AI) skenēšanai: "8 jautājumu anonīma darbinieku aptaujas melnraksts ir gatavs, lai kartētu mākslīgā intelekta lietojumu mūsu organizācijā. Jautājumiem ir jāattiecas uz: kādi rīki, kādi uzdevumi, kādi datu tipi ir ievadīti, apmācība ir nepieciešama. Rezultāts: numurēti jautājumi + atbildes veids katram jautājumam (atbilstoša izvēle/atvērts)."
2. VEINNE — izveidojiet riska kopsavilkumu: "Apsveriet šādu AI lietošanas gadījumu: [ielīmēt scenāriju]. Sniedziet man īsu riska kopsavilkumu šādās sadaļās: datu konfidencialitāte, atbilstība, halucinācijas, autoratlīdzība, reputācija. Katram virsrakstam atzīmējiet "zems/vidējs/augsts" un vienu teikumu pamatojumu. Vienkārši nesniedziet juridiskas konsultācijas punktus.
3. VEINNE — Ieinteresēto pušu sanāksmes darba kārtība: "Sagatavojiet 60 minūšu valdes sanāksmes darba kārtību, lai uzsāktu AI pārvaldības sistēmu. Dalībnieki: juridiskie, IT, HR, biznesa vienība, augstākā vadība. Uzrakstiet katra darba kārtības punkta ilgumu un paredzamo rezultātu."
4. VEINNE — Īsa instruktāža vadībai: "Uzrakstiet pusi lappuses garu instruktāžu ar nosaukumu "Kāpēc mums ir vajadzīga AI politika", ko iepazīstināt ar augstāko vadību. Iekļaujiet 3 konkrētus riskus + 3 konkrētus ieguvumus; neizmantojiet tehnisko žargonu; pēdējā rindiņā iekļaujiet skaidru lēmuma pieprasījumu."
Vāja uzvedne / spēcīga uzvedne
VĀJS: “Rakstiet AI politiku.”-> Modelis rada vispārīgu, neinstitucionālu, neauditējamu tekstu; neatspoguļo datu klases, lomas un regulējošo kontekstu. GÜÇLÜ: "Mēs esam apdrošināšanas sabiedrība, kurā ir 50 personu, uz kuru attiecas KVKK, mēs apstrādājam klientu veselības datus. Ierosiniet projektu mākslīgā intelekta politikas sadaļām "joma" un "aizliegtie lietojumi". Nepiesakiet galīgo spriedumu; pievienojiet piezīmi "nepieciešams juridisks apstiprinājums" katrā rakstā un atstājiet nepilnības, pārbaudot kontekstu."-> Lēmums paliek jūsu ziņā.
Biežas kļūdas
- Pilnīgi aizliegt AI izmantošanu un padarīt ēnu AI neredzamu.
- Ļaujot IT rakstīt tikai politiku un izslēgt biznesa vienību reālās vajadzības.
- Sāk rakstīt noteikumus tieši no esošās ēnu lietojuma kartēšanas.
- Politikas rakstīšana juridiskā valodā darbiniekam nesaprotamā veidā.
- AI izstrādātā politikas projekta ieviešana bez juridiska apstiprinājuma.
- Runāt par risku, bet nemērīt ieguvumu; tādējādi zaudējot administrācijas atbalstu.
- Vienreiz uzrakstot politiku un aizmirstot to atjaunināt; tā kā pārvaldība ir dzīva sistēma.
Rezumējot
- Ēnu AI ir neizbēgama organizācijās bez politikas un rada datu, atbilstības un reputācijas riskus.
- Laba politika nav aizliegumu saraksts; Tas ir ietvars, kas nodrošina atbildīgu lietošanu.
- AI pārvaldība ir balstīta uz cilvēkiem (lomām), procesu (noteikumiem) un tehnoloģijām (kontroles); Ja viena trūkst, tas avarē.
- Politika nav viena departamenta atbildība; Tas ir tiesību, IT, personāla, biznesa struktūrvienību un augstākās vadības kopīgs darbs.
- AI var palīdzēt izveidot sistēmu, taču katrai produkcijai ir jāsaņem cilvēku un juridiska apstiprinājums.
Lietojumprogrammas uzdevums
Izvēlieties organizāciju, kurā esat strādājis vai par kuru sapņojat (lai skaidri norādīta nozare, darbinieku skaits un datu veids, ko tā apstrādā). Vispirms izveidojiet 8 jautājumu aptauju ēnu AI skrīningam (varat izmantot 1. veidni). Pēc tam uzrakstiet trīs konkrētus riskus, ko ēnu AI varētu radīt šajā organizācijā, katram pievienojot skaitlisku paredzamo ietekmi (sods, kavēšanās, zaudētās stundas). Visbeidzot, identificējiet savai organizācijai raksturīgus piemērus katram no trim pārvaldības pīlāriem (cilvēki, process, tehnoloģija) un atzīmējiet, kura ieinteresēto personu vienība būs atbildīga par šo pīlāru.
kontrolsaraksts
- [ ] Es kartēju pašreizējo (ēnu) AI lietojumu savā organizācijā.
- [ ] Es uzrakstīju trīs konkrētus politikas trūkuma riskus ar skaitlisku efektu.
- [ ] Es sagatavoju instruktāžu, kurā vadība sniedza gan AI risku, gan ieguvumus.
- [ ] Esmu noteicis iestādei raksturīgu piemēru un atbildīgo personu trīs pārvaldības pīlāriem.
- [ ] Es plānoju šajā procesā iekļaut vismaz trīs no ieinteresēto personu vienībām.
- [ ] Es pakļauju katram uzmetumam, ko izstrādāju, izmantojot AI, juridiskai/atbilstības apstiprināšanai.