Faida:
- Kutambua hatari za matumizi ya AI bila sera (kivuli AI) na mifano ya nambari
- Elewa kwamba sera nzuri si orodha ya makatazo, bali ni mfumo unaowezesha matumizi yanayowajibika
- Eleza watu, nguzo za mchakato na teknolojia na majukumu ya washikadau wa utawala wa AI
Siku ya Jumatatu asubuhi, afisa mkuu wa utiifu wa kampuni ya bima ya ukubwa wa kati (mtu anayehusika na kufuata sheria na sheria za ndani za shirika) anafungua barua pepe yake kwa mshangao: mteja anauliza ikiwa taarifa zake za afya "ziliandikwa kwenye chombo cha AI na mahali kilipoenda." Uchunguzi wa haraka unaonyesha kuwa mtaalam kutoka kwa timu ya madai hutumia akaunti ya kibinafsi ya AI kufanya muhtasari wa faili za madai haraka. Hakuna mtu mbaya; Hakuna anayefikiri wanavunja sheria. Kwa sababu hakuna sheria iliyoandikwa. Pengo hili linaitwa kivuli AI, na moduli hii inakufundisha jinsi ya kujenga mfumo wa utawala ili kujaza pengo hili haswa.
Kuleta AI katika biashara si rahisi kama kusakinisha programu ya kawaida. AI huathiri maamuzi, kuchakata data ya kibinafsi, inaweza kutoa maudhui yenye hakimiliki, na kuunda dhima inapofanya makosa. Ndio maana kila shirika "linalotumia" AI pia linahitaji mfumo ambao "unaisimamia". Katika kitengo hiki cha kwanza, tunashughulikia kwa nini sera iliyoandikwa ya AI inahitajika, gharama inayoonekana ya kivuli AI, na nguzo tatu za utawala.
AI ya kivuli ni nini na kwa nini haiwezi kuepukika?
Kivuli AI ni matumizi ya AI bila ujuzi, idhini na udhibiti wa taasisi. Neno "kivuli" linatokana na jina "kivuli IT", ambalo hutolewa kwa programu ambayo haijaidhinishwa na idara ya IT. Wafanyakazi wanaanza kutumia zana za AI wakiwa na au bila sera; kwa sababu zana hizi ni bure, haraka na kufanya kazi yao rahisi. Hata kuwa na marufuku haizuii matumizi, inaficha tu.
Matumizi bila sera huunda hatari zifuatazo:
- Uvujaji wa data: Mfanyakazi anaweza kubandika data ya siri ya mteja au siri za kampuni bila kujua katika zana ya AI. Data huenda zaidi ya udhibiti wa taasisi.
- Adhabu kwa kutotii: Ukiukaji wa KVKK (Sheria ya Ulinzi wa Data ya Kibinafsi) husababisha faini ya utawala ya mamilioni ya lira; Kukiuka GDPR kunaweza kusababisha faini ya hadi 4% ya mauzo ya kila mwaka.
- Uamuzi unaotokana na taarifa potofu: Maamuzi yanayofanywa kwa kutegemea taarifa potofu zilizoundwa na AI (“hallucination”) hudhuru mteja na shirika.
- Masuala ya hakimiliki na uvumbuzi: Matumizi ya matokeo yanaweza kukiuka haki miliki ya mtu mwingine.
- Kupoteza sifa: Wakati matumizi yasiyodhibitiwa yanaripotiwa kwenye vyombo vya habari, uaminifu wa chapa hutetereka.
Tahadhari: Kupiga marufuku matumizi ya AI kabisa sio suluhisho. Kupiga marufuku hakuondoi matumizi; inaifanya tu isionekane na isidhibitiwe. Kusudi sio kukomesha matumizi, lakini kuiweka katika mfumo salama.
Kesi tatu za mini: gharama halisi ya kivuli AI
Kesi ya 1 - Mkataba uliovuja. Mtaalamu wa sheria hubandika maandishi yote kwenye akaunti ya kibinafsi ya AI ili kufanya muhtasari wa makubaliano ya siri ya kuunganisha kurasa 40. Mkataba bado haujapatikana hadharani. Maandishi huchakatwa kwenye seva za mtoa huduma na hupatikana kwa mafunzo ya kielelezo yanayotarajiwa. Kampuni inachelewesha kuunganishwa kwa wiki 3 ili kuondoa hatari ya uvujaji wa habari unaowezekana; Gharama ya ushauri huongezeka kwa takriban TL 250,000.
Kesi ya 2 - Sheria ya hallucinatory. Wakili huambatanisha "maamuzi ya kitangulizi" matatu kutoka kwa AI kwa ombi lake. Nambari mbili za uamuzi ni maamuzi yaliyofanywa ambayo hayapo katika ukweli. Mahakama inatambua hili; Mwanasheria anakabiliwa na mchakato wa kinidhamu pamoja na kupoteza sifa. Sheria ya uthibitishaji wa mstari mmoja (thibitisha kila chanzo dhidi ya mfumo rasmi wa uamuzi) ingezuia mgogoro huu.
Kesi ya 3 - Akiba isiyoonekana. Katika kampuni hiyo hiyo, timu ya uuzaji hutoa nakala ya kampeni kwa masaa 6 kwa wiki haraka na zana iliyoidhinishwa ya AI ya biashara. Hata hivyo, akiba hii haijaripotiwa popote kwa sababu matumizi hayajasajiliwa. Menejimenti inakataa bajeti mpya ya utoaji leseni kwa sababu haiwezi kuona manufaa ya AI. Kivuli AI huondoa sio hatari tu bali pia mwonekano wa faida.
Sera nzuri inahakikisha nini?
Sera nzuri ya AI sio orodha ya marufuku; Ni mfumo unaowezesha matumizi ya kuwajibika. Inafanya mambo matano:
- Uwazi: Mfanyakazi anajua ni nini kinaruhusiwa, ni nini kinakatazwa, na kile ambacho kinaweza kuidhinishwa.
- Amini: Wasimamizi wanaweza kuidhinisha miradi mipya wakijua kuwa AI inatumika kwa njia inayodhibitiwa.
- Uzingatiaji: Majukumu ya kisheria (KVKK, GDPR, EU AI Law) yanatimizwa kwa utaratibu.
- Uthabiti: Timu tofauti hufuata sheria sawa.
- Uwajibikaji: Wakati kuna shida, ni wazi ni nani anayehusika.
Utawala ni nini? miguu mitatu
Utawala wa AI ni seti ya sheria na michakato ambayo huamua jinsi akili ya bandia itachaguliwa, kutumiwa, kudhibitiwa na nani atawajibika kwayo katika taasisi. Sera ni hati iliyoandikwa ya utawala huu; Utawala ni mfumo wa maisha unaoleta sera maishani. Imejengwa kwa miguu mitatu:
mguu
Maana
Mfano katika sera ya AI
binadamu
Wajibu na majukumu
Mdhibiti wa AI, meneja anayeidhinisha, afisa wa ulinzi wa data
Mchakato
Sheria na mtiririko
Mchakato mpya wa idhini ya gari, ukaguzi wa mara kwa mara, majibu ya tukio
teknolojia
Zana na vidhibiti
Orodha ya gari iliyoidhinishwa, udhibiti wa ufikiaji, utunzaji wa kumbukumbu
Ikiwa moja ya nguzo tatu haipo, mfumo huanguka: bila utawala, chombo hakina maana, bila chombo, utawala hauwezi kudhibitiwa, bila wajibu, hakuna mtu anayeweza kumilikiwa.
Idara moja haiwezi kufanya kazi hii.
Sera ya AI sio tu kazi ya idara ya IT. Mfumo uliofanikiwa unahitaji ushiriki wa vitengo tofauti: kisheria/utiifu (majukumu na mikataba ya kisheria), TEHAMA/usalama (udhibiti wa kiufundi na usalama wa data), rasilimali watu (mafunzo ya wafanyikazi na kanuni za maadili), vitengo vya biashara (mahitaji halisi ya matumizi) na usimamizi mkuu (kibali, upataji na umiliki wa shirika).
Kidokezo: Kuwa na mkutano wa dakika 30 na mwakilishi kutoka kwa kila kitengo cha washikadau kabla ya kuanza kuandika sera. "Kwa sasa unatumia AI au unatafuta nini?" swali linaonyesha mahitaji halisi na utumiaji wa kivuli wa sasa.
Kuweka AI kufanya kazi: violezo vinavyoweza kuigwa
AI yenyewe ni msaada wakati wa kuweka mfumo wa utawala - mradi tu matokeo yake yamethibitishwa. Violezo vifuatavyo vinaharakisha kazi ya kitengo hiki.
KIOESHO CHA 1 — Utafiti wa uchanganuzi wa msingi (kivuli wa AI): "Rasimu ya uchunguzi wa mfanyakazi yenye maswali 8 bila kutaja jina iko tayari kuorodhesha matumizi ya AI katika shirika letu. Maswali yanafaa kujumuisha: zana zipi, ni kazi gani, ni aina gani za data zilizoingizwa, zinahitaji mafunzo. Pato: maswali yenye nambari + aina ya jibu kwa kila swali (chaguo nyingi/wazi)."
KIOESHO CHA 2 — Unda muhtasari wa hatari: "Zingatia kesi ifuatayo ya utumiaji wa AI: [bandika hali]. Nipe muhtasari mfupi wa hatari chini ya vichwa vifuatavyo: faragha ya data, utiifu, dhana potofu, mrabaha, sifa. Weka lebo 'chini/kati/juu' na mantiki ya hukumu ya sentensi moja kwa kila kichwa. Usiorodheshe tu vidokezo vya kisheria kwa kila kichwa.
KIOESHO CHA 3 - Ajenda ya mkutano wa Wadau: "Andaa ajenda ya mkutano wa bodi ya dakika 60 ili kuzindua mfumo wa utawala wa AI. Washiriki: sheria, IT, HR, kitengo cha biashara, usimamizi mkuu. Andika muda na matokeo yanayotarajiwa kwa kila kipengele cha ajenda."
KIOESHO CHA 4 — Muhtasari mfupi kwa wasimamizi: "Andika muhtasari wa nusu ukurasa unaoitwa 'Kwa nini tunahitaji sera ya AI' ili kuwasilisha kwa wasimamizi wakuu. Jumuisha hatari 3 thabiti + manufaa 3 madhubuti; usitumie jargon ya kiufundi; kuwa na ombi la uamuzi wazi katika mstari wa mwisho."
Agizo dhaifu / Ukumbusho thabiti
DHAIFU: “Andika sera ya AI.”-> Muundo huu hutoa maandishi ya jumla, yasiyo ya kitaasisi na yasiyoweza kusikika; haionyeshi madarasa ya data, majukumu na muktadha wa udhibiti. GÜÇLÜ: "Sisi ni kampuni ya bima ya watu 50, chini ya KVKK, tunachakata data ya afya ya mteja. Pendekeza rasimu ya sehemu za 'upeo' na 'matumizi yasiyoruhusiwa' ya sera ya AI. Usitoe uamuzi wa mwisho; ongeza kidokezo cha 'kibali cha kisheria kinachohitajika' katika kila makala na uniachie mapengo."-> Muundo unaokubalika hutoa rasimu ya kipekee; Uamuzi unabaki kwako.
Makosa ya kawaida
- Kupiga marufuku matumizi ya AI kabisa na kufanya kivuli AI isionekane.
- Kuiruhusu IT kuandika sera pekee na bila kujumuisha mahitaji halisi ya vitengo vya biashara.
- Kuanza kuandika sheria moja kwa moja kutoka kwa ramani ya matumizi ya kivuli iliyopo.
- Kuandika sera katika lugha ya kisheria kwa njia ambayo mfanyakazi hawezi kuelewa.
- Kuweka rasimu ya sera iliyotolewa na AI kuanza kutumika bila idhini ya kisheria.
- Kuzungumza juu ya hatari lakini sio kupima faida; hivyo kupoteza uungwaji mkono wa utawala.
- Kuandika sera mara moja na kusahau kuisasisha; ilhali utawala ni mfumo wa maisha.
Kwa muhtasari
- Shadow AI haiwezi kuepukika katika mashirika bila sera na inaleta hatari za data, kufuata na sifa.
- Sera nzuri sio orodha ya marufuku; Ni mfumo unaowezesha matumizi ya kuwajibika.
- Utawala wa AI umejengwa juu ya watu (majukumu), mchakato (sheria), na teknolojia (vidhibiti); Mtu akikosa huanguka.
- Sera si jukumu la idara moja; Ni kazi ya pamoja ya sheria, IT, HR, vitengo vya biashara na usimamizi mkuu.
- AI inaweza kusaidia katika kusanidi mfumo, lakini kila pato lazima lipitie idhini ya kibinadamu na ya kisheria.
Jukumu la maombi
Chagua shirika ambalo umelifanyia kazi au unalolitamani (acha sekta, idadi ya wafanyakazi na aina ya data inayochakata iwe wazi). Kwanza andaa uchunguzi wa maswali 8 kwa uchunguzi wa AI ya kivuli (unaweza kutumia Kiolezo 1). Kisha andika hatari tatu madhubuti ambazo kivuli AI inaweza kuleta katika shirika hili, ukiongeza athari ya makadirio ya nambari (adhabu, kucheleweshwa, masaa yaliyopotea) kwa kila moja. Hatimaye, tambua mifano mahususi kwa shirika lako kwa kila moja ya nguzo tatu za utawala (watu, mchakato, teknolojia) na kumbuka ni kitengo gani cha washikadau kitawajibika kwa nguzo hii.
orodha ya ukaguzi
- [ ] Nilipanga matumizi ya sasa ya (kivuli) AI katika shirika langu.
- [ ] Niliandika hatari tatu halisi za ukosefu wa sera na athari ya nambari.
- [ ] Nilitayarisha muhtasari ambao uliwasilisha hatari na manufaa ya AI kwa wasimamizi.
- [ ] Nimeweka mfano mahususi wa taasisi na mtu anayewajibika kwa mihimili mitatu ya utawala.
- [ ] Nilifanya mpango wa kujumuisha angalau vitengo vitatu vya washikadau katika mchakato huo.
- [ ] Ninaweka kila rasimu ninayotoa na AI kwa idhini ya kisheria/ya kufuata.