Faida:
- Uwezo wa kuainisha data iliyo na siri, data ya kibinafsi na mali ya siri ya biashara na kutambua mistari nyekundu
- Kuficha, kuficha utambulisho na kulinda kwa data sanisi kabla ya kuingiza data
- Uteuzi wa zana ulioidhinishwa, kupunguza muktadha na uwezo wa kutumia kielelezo muhimu cha kuzungusha iwapo kuna uvujaji
Chochote unachobandika kwenye kiratibu cha usimbaji kinaweza kuwa nje ya udhibiti wako. Ufunguo wa API, utupaji wa hifadhidata ya mteja, msimbo wa chanzo wamiliki ambao bado haujatangazwa, au rekodi ya mgonjwa - hizi zinaweza kuwa uvujaji usioweza kutenduliwa pindi zinapoingia kwenye zana ambayo haijaidhinishwa. Hatari kubwa ya AI kwa timu za programu haitokani na hitilafu ya mstari, lakini kutoka kwa nakala-kubandika isiyojali. Kitengo hiki kinahusu kufanya nakala-bandika kuwa salama.
Hapa tunatofautisha mambo matatu: ni data gani haipaswi kamwe kuingizwa, ni zana zipi zinaweza kutumika kwa ulinzi gani, na jinsi ya kulinda data kabla ya kuiingiza (kuficha, data ya syntetisk, kufanya kazi ndani ya nchi). Hili sio chaguo "itakuwa nzuri"; Ni wajibu wa kimkataba na kisheria katika taasisi nyingi.
Kwa Nini Ni Muhimu Sana?
Data unayotuma kwa zana ya AI; kuchakatwa kwenye seva za mtoa huduma, wakati mwingine kuhifadhiwa kwa muda, inaweza kutumika kuboresha muundo katika baadhi ya mipangilio ya bidhaa. Kusema "nimefuta gumzo" mara nyingi haitoshi; Wakati data inapoondoka kwenye mtandao, hatari hutokea. Zaidi ya hayo, gharama ya uvujaji ni kubwa: ufunguo wa wingu uliovuja unaweza kutumika vibaya ndani ya dakika chache, data ya mteja iliyovuja inaweza kusababisha arifa na adhabu chini ya kanuni kama vile KVKK/GDPR, na msimbo wa chanzo cha kibinafsi uliovuja unaweza kuharibu faida ya ushindani.
Kwa hivyo kanuni ya kidole gumba ni rahisi: Usiingize chochote kwenye gari lisiloidhinishwa ambalo huwezi kumudu kupoteza. Ikiwa una shaka, usiingie.
Tahadhari: Mawazo ya "mara moja tu, haraka" ndiyo sababu ya kawaida ya uvujaji. Kubandika logi ya uzalishaji au faili ya usanidi kama ilivyo wakati wa kusuluhisha hitilafu ya haraka ndivyo hasa hufanyika na maamuzi kama haya yanayofanywa kwa shinikizo. Uharaka hausitishi sheria ya usiri.
Nini Kisiingizwe Kamwe (mstari mwekundu)
- Siri: funguo za API, manenosiri, funguo za kufikia wingu, vyeti vya faragha, ishara, miunganisho.
- Data ya kibinafsi (PII): Jina-jina, nambari ya kitambulisho cha TR, barua pepe, simu, anwani, rekodi za afya/fedha, data ya mteja.
- Siri ya mali ya biashara: Msimbo wa chanzo ambao haujafichuliwa, kanuni za umiliki, siri za usanifu wa ndani, maelezo ya mkataba.
- Data inayodhibitiwa: Kategoria maalum zinazolindwa kama vile huduma ya afya, kadi ya malipo (PCI), fedha za kibinafsi.
Hatua kwa Hatua: Mtiririko wa Matumizi Salama
- Kuainisha data. Je! una aina gani - ya umma, ya ndani, ya siri, iliyodhibitiwa?
- Chagua gari kwa darasa. Data ya siri/inayodhibitiwa huchakatwa tu katika zana zilizoidhinishwa na taasisi zinazotoa uhakikisho wa data (kutotumika katika elimu, kikomo cha kuhifadhi, kuchakata kanda).
- Salama kabla ya kuingia. Siri za michirizi, mask/ficha PII, tumia data ya sanisi (iliyobuniwa lakini ya kweli) badala ya halisi ikiwezekana.
- Punguza muktadha. Punguza tatizo lako hadi kwa mfano mdogo kabisa unaoweza kuzaliana ambao haujumuishi sehemu nyeti.
- Pia angalia matokeo. Hakikisha kuwa hakuna siri iliyo na msimbo mgumu au masalio ya data yako katika msimbo unaozalishwa na AI.
Kesi Tatu Ndogo
Kesi ya 1 - Kitufe kilichobandikwa kilighairiwa. Msanidi programu alibandika faili nzima ya usanidi kwenye AI wakati akirekebisha hitilafu; Faili hiyo ilikuwa na ufunguo wa moja kwa moja wa API wa wahusika wengine. Timu ilipogundua, mara moja walighairi (kuzungusha) ufunguo na kutoa ufunguo mpya; Hakukuwa na unyanyasaji, lakini lilikuwa tukio la 'nafuu'. Somo: ondoa glaze kabla ya kuunganisha-na ugeuze ufunguo mara moja ikiwa umevuja.
Kesi ya 2 - Data ya syntetisk ilihifadhi biashara. Timu ilikuwa ikipata hitilafu ya uchanganuzi na rekodi halisi za wateja. Badala ya kuingiza data halisi, walitoa mistari 20 ya data ya synthetic na muundo sawa lakini bandia kabisa, walitoa tena kosa hilo na kulitatua na AI. Wala PII haikuvuja wala utambuzi ulipungua; data ya syntetisk ilikuwa salama na ya kutosha.
Kesi ya 3 - Siri iliyofichwa katika uchapishaji. Wakati wa kuunda usanidi wa sampuli, AI ilipachika kitufe cha "sampuli" kinachoonekana kihalisi ndani yake na kuiweka kwenye msimbo bila msanidi programu kugundua; Kichanganuzi cha msingi wa msimbo (kitambazaji cha siri) kilinasa hili na kuonya. Siri isiyoweza kubadilika haipaswi kamwe kuifanya kuwa kanuni; Njia sahihi ilikuwa kutumia mabadiliko ya mazingira au meneja wa siri. Somo: changanua matokeo kwa siri pia.
Violezo Vinne Vinakiliwa
Kufunga orodha kabla ya kuingia (binafsi):
Kabla ya kutoa maandishi haya kwa AI, hakikisha kwamba ninaondoa yafuatayo na kubadilisha yale unayopata kwa [MASKED]: ufunguo wa API, nenosiri, tokeni, kamba ya muunganisho, jina la ukoo, barua pepe, simu, nambari ya kitambulisho, data ya mteja. Maandishi:{{maandishi}}
Uzalishaji wa data ya jaribio la syntetisk:
Tengeneza data iliyobuniwa KABISA (isiyohusiana na mtu/taasisi halisi) {{N}}data ya majaribio ya safu mlalo kwa mujibu wa mpango ulio hapa chini. Ifanye ionekane ya kweli, lakini usitumie PII yoyote halisi. Utaratibu: {{uga na aina}}Inajumuisha visanduku vya ukingo (tupu, mipaka, muundo mbaya).
Uwindaji wa siri usiobadilika (kwa nambari):
Tafuta siri yenye msimbo mgumu katika msimbo/usanidi huu: ufunguo, nenosiri, tokeni, URL maalum. Ukiipata, taja eneo lake na upendekeze njia sahihi (kutofautisha kwa mazingira / msimamizi wa siri). Msimbo:{{code}}
Tathmini ya ulinganifu wa gari (kulingana na darasa la data):
Nina aina ifuatayo ya data: {{darasa: la umma / la ndani / la siri / linalodhibitiwa}}. Zana ninayokusudia kutumia ni: {{chombo}}. Je, ni ulinzi gani (uhifadhi, kutotumika katika elimu, eneo, ufikiaji) kabla ya kuchakata data hii kwenye zana hii? Toa orodha ya ukaguzi. Uamuzi ni wangu; Unafafanua vigezo.
Agizo dhaifu / Ukumbusho thabiti
Dhaifu: (Inabandika safu mlalo 200 za watumiaji halisi zilizotolewa kutoka hifadhidata ya uzalishaji) "Kwa nini kuna hitilafu ya uchanganuzi katika data hii?"
Imara: "Hapa chini kuna safu mlalo 15 zenye muundo sawa na data halisi lakini sintetiki kabisa (hakuna PII). parse_user() hutupa ValueError kwenye 3, 8 na 12 ya safu mlalo hizi. Je, unaweza kuwa mchoro gani wa kawaida, ninawezaje kuurekebisha?"
Toleo dhabiti halina data halisi ya kibinafsi huku likihifadhi muundo unaohitajika ili kuzalisha mdudu tena. Utambuzi unabaki sawa, hatari imewekwa upya.
Darasa la data
Je, inaweza kuchakatwa katika AI?
Sharti
umma
Ndiyo
-
Matumizi ya ndani (yasiyo ya usahihi)
Kwa ujumla
Kuzingatia sera ya ushirika
Siri (msimbo wa chanzo, siri ya biashara)
Gari iliyoidhinishwa pekee
Uhakikisho wa shirika + kupunguza
PII / umewekwa
Kama kanuni No
Kinyago/ficha utambulisho au tumia sintetiki
Uzingatiaji wa Sera na Ufuatiliaji
Matumizi salama ni zaidi ya tabia ya kibinafsi, ni mfumo wa ushirika: ni zana zipi zimeidhinishwa, ni darasa gani la data linaweza kwenda wapi, na nini cha kufanya katika kesi ya ukiukaji inapaswa kufafanuliwa katika sera iliyoandikwa. Ikiwa siri imevuja, hatua ya kwanza muhimu zaidi sio hofu, lakini kurejea mara moja (kufuta na kuzalisha mpya) kitambulisho kilichovuja na kuripoti tukio hilo. Ikiwa hujui orodha ya shirika lako ya zana zilizoidhinishwa na sheria za uainishaji wa data, kazi yako ya kwanza ni kujifunza.
Kidokezo: Bainisha orodha ya mradi mahususi ya "puuza" (k.m. .env, folda zilizofichwa, faili za utambulisho) katika zana yako ya Mhariri/CLI ili faili hizi zisijumuishwe kimakosa katika muktadha wa mratibu. Kuzuia daima ni nafuu kuliko kusafisha.
Makosa ya kawaida
- Inabandika data nyeti "mara moja tu". Haraka haina kusimamisha mstari mwekundu; Uvujaji wa kawaida hutokea hapa.
- Kufikiria "Nitafuta mazungumzo". Wakati data inapoacha mtandao, hatari hutokea; Kufuta hakutendui.
- Kuchagua gari bila kuangalia darasa lake. Kuchakata data ya siri ya shirika kwa kutumia akaunti ya kibinafsi ni ukiukaji mkubwa.
- Sio kuchanganua matokeo. AI inaweza kupachika siri isiyobadilika kuwa msimbo; Pia kagua uzalishaji na skana ya siri.
- Si kugeuka wakati siri inavuja. Kutobatilisha ufunguo uliovuja hugeuza uvujaji kuwa matumizi ya moja kwa moja.
Kwa muhtasari
Hatari kubwa ya AI katika programu ni kuvuja kwa faragha, na nyingi hutokana na uamuzi wa kunakili-kubandika uliofanywa kwa kulazimishwa. Sheria ni wazi: siri, data ya kibinafsi, mali ya siri ya biashara na data iliyodhibitiwa haijaingizwa kwenye zana zisizoidhinishwa. Panga data kabla ya kuingiza, chagua wakala kulingana na darasa, toa siri, funika PII au tumia data ya sanisi, punguza muktadha, na uchanganue towe ili kupata siri pia. Ikiwa kuna uvujaji, jambo la kwanza: rudisha hati na uripoti.
Jukumu la maombi
Chukua kipande cha msimbo/logi/data ambayo umetoa hivi karibuni (au unazingatia kutoa) kwa AI. Kwanza, tambua wagombeaji wa siri na wa PII ndani kwa kutumia kiolezo cha "orodha ya kuficha". Kisha, ikiwa ina data halisi, toa toleo linalofanana na kiolezo cha "kizazi cha data ya jaribio la syntetisk" lakini limeundwa kikamilifu, na ufanye tatizo lako liweze kuzaliana nalo. Hatimaye, tafuta na usome orodha ya zana iliyoidhinishwa ya taasisi yako na sera ya uainishaji wa data; Vinginevyo, kumbuka upungufu huu.
orodha ya ukaguzi
- [ ] Ninaainisha data kabla ya kuiingiza (wazi/ndani/siri/chini ya udhibiti).
- [ ] Siwahi kuweka siri, PII na mali za siri za biashara kwenye zana ambazo hazijaidhinishwa.
- [ ] Mimi hutumia ufichaji uso au data ya sintetiki kila inapowezekana badala ya data halisi.
- [ ] Ninapunguza muktadha kwa mfano mdogo kabisa ambao haujumuishi sehemu nyeti.
- [ ] Ninachanganua pato la AI kwa siri iliyozikwa ngumu.
- [ ] Ninajua kwamba ikiwa siri itafichuliwa, nitarudisha mara moja taarifa ya kitambulisho na kuripoti tukio hilo.