Mga nadagdag:
- Kakayahang suriin ang impormasyon ayon sa sensitivity class (pampubliko / panloob / kumpidensyal / nangungunang sikreto) at ilapat ang 'magtanong ng klase, tumugma sa tool' reflex
- Pag-unawa sa pag-iimbak ng data, pagsasanay sa modelo, pagkolekta at mga panganib sa paglabag ng AI at pagpapanatiling hiwalay ang bukas at nauuri na mundo
- Kakayahang gamitin ang pinakamababang prinsipyo ng data, proteksyon ng personal na data at ang disiplina sa pagprotekta sa hindi tiyak na impormasyon na parang ito ay isang mas mataas na klase.
Ang diplomasya ay nakabatay sa tiwala, at ang tiwala ay nakabatay sa lihim. Ang isang posisyon sa negosasyon, isang intelligence assessment, ang nilalaman ng isang pakikipag-usap sa isang kausap, o isang pa-aanunsyo na desisyon, sa maling mga kamay, ay maaaring malagay sa alanganin ang mga interes ng estado, ang resulta ng isang negosasyon, o maging ang seguridad ng mga tao. Ang artificial intelligence ay nagdudulot ng napakalaking bilis sa larangang ito, ngunit nagdadala rin ito ng bago at malubhang mga panganib sa privacy. Sa unit na ito, matututunan mo kung paano protektahan ang classified at sensitibong impormasyon sa edad ng artificial intelligence, kung aling data ang maaaring pumasok sa kung aling sasakyan, at ang disiplina sa ligtas na paggamit.
Ang yunit na ito ang pinakamahalagang aralin sa seguridad ng module. Isang pagkakamali dito — pag-paste ng kumpidensyal na dokumento sa maling tool — ay hindi na maibabalik. Samakatuwid, ang isang reflex na kailangang isaulo ay itatatag dito: Bago magbigay ng anumang data sa isang AI tool, palaging itanong: sa anong klase ang data na ito at ang tool na ito ay naaprubahan para sa klase na ito?
Pag-uuri ng impormasyon: pangunahing pagkakaiba
Ang diplomatikong impormasyon ay kadalasang inuuri ayon sa pagiging sensitibo nito. Bagaman ito ay nag-iiba-iba sa bawat institusyon, ang pangunahing lohika ay ito:
- Unclassified/public: Impormasyong nai-publish na at naa-access ng publiko. Halimbawa: opisyal na press release, pampublikong balita.
- Restricted/internal: Internal na impormasyon na hindi available sa publiko ngunit may mababang sensitivity.
- Kumpidensyal: Ang impormasyon na ang pagsisiwalat ay maaaring seryosong makapinsala sa mga interes ng estado. Halimbawa: posisyon ng negosasyon, panloob na pagsusuri.
- Nangungunang sikreto: Impormasyon kung saan ang pagbubunyag ay magdudulot ng pinakamalubhang pinsala. Halimbawa: sensitibong katalinuhan, kritikal na impormasyon sa seguridad.
Simple lang ang rule of thumb: Walang classified information na hindi available sa publiko ang ilalagay sa AI tool na hindi inaprubahan ng iyong institusyon para sa klase na iyon. Ang isang pampublikong serbisyo ng AI ay, sa kahulugan, ay hindi sertipikado para sa klase ng impormasyong ito.
Tip: Kung hindi ka sigurado, ituring ang impormasyon bilang isang nakatatanda. Ang pagsasabi ng "malamang alam na ito" ay isang mapanganib na hula. Hanggang sa ikaw ay 100 porsyentong sigurado na ang impormasyon ay pampubliko, protektahan ito na parang kumpidensyal. Ang hindi kinakailangang pag-iingat ay hindi isang gastos, ito ay isang kasiguruhan.
Mga panganib sa privacy ng AI
Ang mga tool ng AI ay nagdudulot ng iba't ibang mga panganib sa privacy kaysa sa tradisyonal na software:
1. Pagproseso at pag-iimbak ng data: Ang tekstong isinulat mo sa isang pampublikong serbisyo ng AI ay maaaring maproseso at maiimbak sa mga server ng serbisyong iyon. Hindi mo makokontrol kung sino ang nag-a-access nito, kung gaano katagal ito itinatago, at kung paano ito ginagamit.
2. Gamitin sa pagsasanay sa modelo: Maaaring gamitin ng ilang serbisyo ang data na iyong ipinasok upang pahusayin ang modelo. Lumilikha ito ng panganib na ang iyong kumpidensyal na impormasyon ay hindi direktang makapasok sa "memorya" ng modelo at tumagas sa iba.
3. Panganib sa pagsasama-sama: Ang mga piraso ng impormasyon na tila hindi nakakapinsala nang paisa-isa ay maaaring bumuo ng isang sensitibong larawan kapag pinagsama. Ang maliliit na piraso ng impormasyong ipinasok sa iba't ibang oras ay maaaring sama-samang magbigay ng isang lihim na posisyon.
4. Panganib sa pag-access at paglabag: Tulad ng anumang panlabas na sistema, ang mga serbisyo ng AI ay maaaring sumailalim sa isang paglabag sa data. Ang data na iyong ibibigay ay maaaring malantad sa paglabag na iyon.
Ang solusyon sa mga panganib na ito ay ang magtatag ng dalawang magkahiwalay na mundo: mga pangkalahatang kasangkapan para sa open source na trabaho; Tanging in-house, secure, naaprubahang mga system na hindi nag-e-export ng data para sa classified na trabaho. Huwag kailanman paghaluin ang dalawa.
Pansin: Ang pagsasabi ng "Ginawa ko itong anonymous" ay kadalasang hindi sapat. Kahit na tanggalin mo ang mga pangalan, ang konteksto (petsa, lokasyon, kaganapan, bilang ng mga partido) ay maaaring sapat para sa isang eksperto na i-redact ang mga pagkakakilanlan at posisyon. Ang tunay na sensitibong impormasyon ay protektado hindi sa pamamagitan ng pag-mask ngunit sa pamamagitan ng naaangkop na pagpili ng mga tool at media.
Ligtas na disiplina sa paggamit
Mag-set up ng isang praktikal na daloy ng kontrol:
- Tukuyin ang klase. Ang data ba na ito ay pampubliko, panloob, kumpidensyal, o pinakalihim?
- Ipares ang sasakyan. Maaari bang iproseso ang klase sa tool na ito? Kung hindi, huminto.
- Minimum na patakaran sa data. Kahit na sa isang trabahong magagawa, huwag magbigay ng higit pang impormasyon kaysa sa kinakailangan ng trabaho.
- Protektahan ang personal na data. Ang personal na data (pangalan, contact, lokasyon) ay pinoproseso lamang kung kinakailangan at sa isang legal na batayan; Kung hindi kinakailangan, ito ay nakamaskara o hindi ibinigay.
- Panatilihin ang rekord. Idokumento kung aling tool ang ginamit mo para sa aling trabaho, kung saan ang data; Kung may problema, maaari itong ma-trace.
Tip: Magtatag ng kulturang "privacy muna" sa iyong team: dapat matutunan ng bagong clerk o intern ang reflex na "walang kumpidensyal na dokumento ang pumapasok sa pampublikong domain" mula sa unang araw. Karamihan sa mga paglabag ay hindi nagmumula sa malisya kundi sa hindi alam kung gaano kabukas ang isang sasakyan.
tatlong mini case
Kaso 1 — Pinigilan ng reflex ang paglabag. Ibubuod na sana ng isang eksperto ang isang tala sa pakikipanayam nang huminto siya at tanungin ang klasipikasyon nito: ang tala ay isang kumpidensyal na pag-uusap sa isang kausap. Lumipat sa isang in-house na secure na system sa halip na isang pampublikong tool. Ang isang simpleng "magtanong muna sa klase" reflex ay pumigil sa isang paglabag.
Kaso 2 — Kinikilala ang panganib sa koleksyon. Ang isang koponan ay maglalagay ng maliliit, tila "hindi nakapipinsala" na mga piraso ng impormasyon sa isang panlabas na tool sa iba't ibang araw. Ang isang pagsusuri sa seguridad ay nagpakita na kapag pinagsama, ang mga piraso ay nagbigay ng agenda ng isang paparating na negosasyon. Ang aplikasyon ay itinigil; Ang trabaho ay inilipat sa isang ligtas na kapaligiran.
Case 3 — Pekeng anonymity. Itinuring ng isang klerk na "anonymous" ang isang dokumento dahil tinanggal niya ang mga pangalan at ibinigay ito sa ahente sa labas. Gayunpaman, nilinaw ng petsa, lugar at paglalarawan ng kaganapan sa dokumento kung sino ang tinutukoy. Ang pagtanggal ng pangalan ay hindi sapat; Dapat ay naproseso pa rin ang dokumento sa isang ligtas na kapaligiran.
Apat na maaaring kopyahin na mga template
1) Pre-check ng klase at sasakyan:
Ilalarawan ko ang gawain sa ibaba. Sabihin sa akin (huwag gawin ang trabaho): (1) anong klase ng pagiging sensitibo ang maaaring mayroon ang data na ito (pampubliko / panloob / lihim / nangungunang sikreto), (2) kung ang klase na ito ay maproseso sa isang pampublikong AI tool, (3) kung hindi, anong uri ng kapaligiran ang kinakailangan. Paglalarawan ng trabaho/data: [dito]
2) Pag-scan at pag-mask ng personal na data:
Ilista ang personal/sensitibong data (pangalan, titulo, contact, lokasyon, kalusugan, numero ng ID) na dapat itago bago iproseso sa text sa ibaba. PAGPROSESO NG TEKSTO; Sabihin lang sa akin kung aling mga lugar ang kailangang alisin. Gagawin ko ang masking at ipapadala muli. Teksto: [dito]
3) Pagtatasa ng panganib sa koleksyon:
Isinasaalang-alang ko ang pag-export ng mga sumusunod na piraso ng impormasyon nang hiwalay sa isang panlabas na tool: [mga piraso]. Kahit na ang mga ito ay maaaring mukhang hindi nakakapinsala nang paisa-isa, kapag COMBINED maaari silang lumikha ng isang sensitibong larawan (hal. isang posisyon, agenda, pagkakakilanlan)? Suriin ang panganib ng pagkolekta at sabihin kung aling mga item ang hindi dapat ibigay nang magkasama.
4) Kumpirmasyon sa pampublikong availability:
Hindi ako sigurado kung pampubliko ang sumusunod na impormasyon: [impormasyon]. Ilista kung anong pagpapatunay ang kailangan kong gawin bago ito ituring na pampubliko (mayroon bang opisyal na paglabas, kung sino ang nag-publish nito, petsa). Kung hindi ako sigurado, ipaalala sa akin ang prinsipyong "itrato bilang kumpidensyal".
Mahinang prompt / Malakas na prompt
Mahinang prompt:
Ibuod ang tala sa panayam na ito. (direktang i-paste ang nakatagong nilalaman sa tala)
Ito ang pinaka-mapanganib na pagkakamali: ang isang kumpidensyal na dokumento ay pumasok sa isang pampublikong daluyan nang hindi tinatanong ang klase nito. Ang panganib ng pagtagas ay naganap at hindi na maibabalik.
Napakahusay na prompt (tingnan muna):
Gusto kong magproseso ng tala sa pagpupulong. Ngunit una: ang tala na ito ay malamang na nasa lihim na klase. Sabihin sa akin kung ang ganitong uri ng dokumento ay maaaring iproseso sa isang pampublikong tool at ano ang tamang paraan? HINDI KO IBINIBIGAY ANG NILALAMAN NG DOKUMENTO SA IYO; Ask ko lang po yung tamang proseso.
Ang pagkakaiba ay malinaw: ang kumpidensyal na nilalaman ay hindi ibinigay sa lahat, ang tamang proseso ay tinanong muna at ang gawain ay nakadirekta sa naaangkop na kapaligiran.
Class-to-vehicle mapping table
klase ng impormasyon
halimbawa
Pampublikong AI
tamang kapaligiran
pampubliko
press release
angkop
pangkalahatang kasangkapan
Partikular sa panloob/serbisyo
panloob na tala
Kadalasan hindi
In-house na inaprubahan
sikreto
posisyon ng negosasyon
hindi kailanman
Secure na sistema ng institusyon
nangungunang sikreto
sensitibong katalinuhan
hindi kailanman
pinakamataas na seguridad
personal na data
mga kredensyal
Kailangan+legal lang
Nakamaskara/secured
Mga karaniwang pagkakamali
- Pagpasok ng data nang hindi hinihingi ang klase. Bago ang bawat trabaho, ang reflex "sa anong klase ito?" ay isang kinakailangan.
- Sa pag-aakalang "malamang halata". Ang hindi tiyak na impormasyon ay protektado bilang kumpidensyal.
- Napagkakamalang pagtanggal ng pangalan bilang anonymization. Ang konteksto ay maaaring magbigay ng mga pagkakakilanlan.
- Hindi pinapansin ang panganib ng pagkolekta. Ang maliliit na bahagi ay maaaring maging maselan kapag binuo.
- Paghahalo ng dalawang mundo. Ang mga bukas at classified na trabaho ay tumatakbo sa magkahiwalay na mga tool/environment.
Sa buod
Ang pagiging lihim ay ang pinakamahalagang limitasyon ng paggamit ng diplomatikong AI. Kunin ang pag-uuri ng impormasyon (pampubliko/internal/kumpidensyal/pangunahing sikreto), "magtanong sa klase, tumugma sa sasakyan" na reflex, minimum na prinsipyo ng data, proteksyon ng personal na data at panganib sa pagkolekta bilang backbone ng unit na ito. Pangkalahatang mga tool para sa open source na trabaho; Gumamit lamang ng in-house na secure, aprubadong mga sistema para sa classified na trabaho. Huwag kailanman malito ang dalawa; Kapag may pagdududa, bantayan ang impormasyon tulad ng isang nakatatanda.
Gawain ng aplikasyon
Maglista ng 8 iba't ibang piraso ng data mula sa iyong sariling (o haka-haka) na desk (ilang pampubliko, ilang sensitibo). Ilagay ang bawat isa sa isang klase at magpasya "kung saang tool ito mapoproseso". Suriin ang mga hindi maliwanag gamit ang template na "Class and vehicle pre-check." Pumili ng tatlong piraso at suriin kung bumubuo sila ng isang sensitibong larawan kapag pinagsama sa "pagtatasa ng panganib sa pagkolekta".
checklist
- [ ] Una kong tinukoy ang sensitivity class para sa bawat data.
- Hindi pa ako nagpasok ng data na ang [ ] klase ay hindi angkop para sa pampublikong sasakyan.
- [ ] Binantayan ko ang impormasyong hindi ko sigurado na parang superior.
- [ ] Pinoproseso ko lang ang personal na data kapag kinakailangan at ayon sa batas, nakamaskara.
- [ ] I took the risk of collecting and the separation of two worlds.