Pelnas:
- Gebėjimas vertinti informaciją pagal jautrumo klasę (vieša / vidinė / konfidenciali / labai slapta) ir pritaikyti refleksą „klausti klasę, suderinti įrankį“
- Suprasti AI duomenų saugojimą, modelių mokymą, rinkimą ir pažeidimo riziką bei atskirti atvirą ir įslaptintą pasaulį
- Gebėjimas perimti minimalių duomenų principą, asmens duomenų apsaugą ir neapibrėžtos informacijos apsaugos discipliną, tarsi ji būtų aukštesnė klasė.
Diplomatija grindžiama pasitikėjimu, o pasitikėjimas – slaptumu. Netinkamose rankose atsidūrusi derybų pozicija, žvalgybos įvertinimas, pokalbio su pašnekovu turinys ar dar nepaskelbtas sprendimas gali kelti pavojų valstybės interesams, derybų rezultatui ar net žmonių saugumui. Dirbtinis intelektas atneša didžiulį greitį šiai sričiai, tačiau taip pat kelia naujų rimtų pavojų privatumui. Šiame skyriuje sužinosite, kaip dirbtinio intelekto amžiuje apsaugoti įslaptintą ir neskelbtiną informaciją, kokie duomenys gali patekti į kurią transporto priemonę ir saugaus naudojimo disciplinos.
Šis modulis yra svarbiausia saugumo pamoka. Viena klaida – konfidencialaus dokumento įklijavimas į netinkamą įrankį – yra negrįžtama. Todėl čia bus sukurtas refleksas, kurį reikia įsiminti: prieš pateikdami bet kokius duomenis AI įrankiui, visada paklauskite: kokioje klasėje šie duomenys yra ir ar šis įrankis yra patvirtintas šiai klasei?
Informacijos klasifikavimas: pagrindinis skirtumas
Diplomatinė informacija dažnai klasifikuojama pagal jos jautrumą. Nors įvairiose institucijose ji skiriasi, pagrindinė logika yra tokia:
- Neįslaptinta/vieša: jau paskelbta ir viešai prieinama informacija. Pavyzdys: oficialūs pranešimai spaudai, viešos naujienos.
- Apribota / vidinė: vidinė informacija, kuri nėra viešai prieinama, bet yra mažo jautrumo.
- Konfidencialu: informacija, kurios atskleidimas galėtų rimtai pakenkti valstybės interesams. Pavyzdys: derybų pozicija, vidinis įvertinimas.
- Visiškai slapta: informacija, kurios atskleidimas padarytų didžiausią žalą. Pavyzdys: jautri žvalgyba, svarbi saugumo informacija.
Nykščio taisyklė paprasta: jokia įslaptinta informacija, kuri nėra viešai prieinama, nebus įtraukta į AI įrankį, kurio jūsų institucija nepatvirtino tai klasei. Viešoji AI paslauga pagal apibrėžimą nėra sertifikuota šiai informacijos klasei.
Patarimas: jei nesate tikri, elkitės su informacija kaip su vyresniuoju. Pasakyti „tai tikriausiai jau žinoma“ yra pavojingas spėjimas. Kol nesate 100 procentų tikri, kad informacija yra vieša, saugokite ją taip, lyg ji būtų konfidenciali. Bereikalingas atsargumas nėra kaina, tai yra užtikrinimas.
AI rizika privatumui
AI įrankiai kelia kitokią privatumo riziką nei tradicinė programinė įranga:
1. Duomenų apdorojimas ir saugojimas: tekstas, kurį rašote į viešąją AI paslaugą, gali būti apdorojamas ir saugomas tos paslaugos serveriuose. Negalite kontroliuoti, kas jį pasiekia, kiek laiko jis saugomas ir kaip naudojamas.
2. Naudojimas modelio mokymuose: kai kurios paslaugos gali naudoti jūsų įvestus duomenis modeliui tobulinti. Taip kyla pavojus, kad jūsų konfidenciali informacija netiesiogiai pateks į modelio „atmintį“ ir nutekės kitiems.
3. Apibendrinimo rizika: informacijos dalys, kurios atskirai atrodo nekenksmingos, gali sudaryti jautrų vaizdą, kai sujungiami. Mažos informacijos dalys, įvestos skirtingu laiku, gali bendrai atskleisti slaptą poziciją.
4. Prieigos ir pažeidimo rizika: kaip ir bet kuriai išorinei sistemai, dirbtinio intelekto paslaugoms gali būti taikomas duomenų pažeidimas. Jūsų pateikti duomenys gali būti atskleisti pažeidus.
Šių pavojų sprendimas yra sukurti du atskirus pasaulius: bendruosius atvirojo kodo darbo įrankius; Tik vidinės, saugios, patvirtintos sistemos, kurios neeksportuoja duomenų įslaptintam darbui. Niekada nemaišykite šių dviejų.
Dėmesio: dažnai neužtenka pasakyti „Padariau anoniminį“. Net jei ištrinsite vardus, gali pakakti konteksto (data, vieta, įvykis, vakarėlių skaičius), kad ekspertas galėtų redaguoti tapatybes ir poziciją. Tikra jautri informacija saugoma ne maskuojant, o tinkamai parinkus priemones ir laikmenas.
Saugaus naudojimo disciplina
Nustatykite praktinį valdymo srautą:
- Nustatykite klasę. Ar šie duomenys yra vieši, vidiniai, konfidencialūs ar itin slapti?
- Suporuokite transporto priemonę. Ar šią klasę galima apdoroti šiuo įrankiu? Jei ne, sustokite.
- Minimali duomenų politika. Net dirbdami darbingą darbą nesuteikite daugiau informacijos nei reikalaujama darbui.
- Apsaugokite asmeninius duomenis. Asmens duomenys (vardas, pavardė, kontaktas, vieta) tvarkomi tik esant būtinybei ir esant teisiniam pagrindui; Jei nereikia, užmaskuojama arba visai neduodama.
- Laikykite įrašą. Dokumentuokite, kokį įrankį kokiam darbui naudojote, kokiais duomenimis; Jei yra problema, ją galima atsekti.
Patarimas: sukurkite savo komandoje kultūrą „pirmiausia privatumas“: naujas tarnautojas ar praktikantas nuo pat pirmos dienos turėtų išmokti refleksą „jokie konfidencialūs dokumentai nepatenka į viešąją erdvę“. Dauguma pažeidimų kyla ne dėl piktumo, o dėl nežinojimo, kiek atvira yra transporto priemonė.
trys mini dėklai
1 atvejis – Reflekso išvengta pažeidimo. Ekspertas ruošėsi apibendrinti pokalbio užrašą, kai sustojo ir paklausė jo klasifikavimo: raštelis buvo konfidencialus pokalbis su pašnekovu. Perjungta į vidinę saugią sistemą, o ne viešą įrankį. Paprastas refleksas „klausk klasė pirmiausia“ užkirto kelią pažeidimui.
2 atvejis – pripažinta surinkimo rizika. Komanda skirtingomis dienomis įvesdavo mažas, iš pažiūros „nekenksmingas“ informacijos dalis į išorinį įrankį. Saugumo peržiūra parodė, kad sujungus šias dalis, buvo prarasta būsimų derybų darbotvarkė. Programa buvo sustabdyta; Darbas buvo perkeltas į saugią aplinką.
3 atvejis – netikras anonimiškumas. Tarnautojas laikė dokumentą „anoniminiu“, nes ištrynė pavardes ir perdavė jį išorės agentui. Tačiau dokumente nurodyta data, vieta ir įvykio aprašymas aiškiai parodė, kas turimas galvoje. Nepakako ištrinti vardo; Dokumentas vis tiek turėjo būti tvarkomas saugioje aplinkoje.
Keturi kopijuojami šablonai
1) Išankstinė klasė ir transporto priemonės patikra:
Toliau aprašysiu darbą. Pasakykite man (neatlikti darbo): (1) kokią jautrumo klasę gali turėti šie duomenys (viešas / vidinis / slaptas / labai slaptas), (2) ar ši klasė turi būti apdorota viešajame AI įrankyje, (3) jei ne, kokio tipo aplinka reikalinga. Darbo/duomenų aprašymas: [čia]
2) Asmens duomenų nuskaitymas ir maskavimas:
Žemiau esančiame tekste išvardykite asmeninius / neskelbtinus duomenis (vardą, vardą, pavardę, kontaktą, vietą, sveikatą, asmens tapatybės numerį), kuriuos reikia užmaskuoti prieš apdorojant. TEKSTO APDOROJIMAS; Tiesiog pasakykite man, kurias sritis reikia pašalinti. Padarysiu maskavimą ir išsiųsiu iš naujo. Tekstas: [čia]
3) Surinkimo rizikos įvertinimas:
Svarstau, ar eksportuoti toliau nurodytas informacijos dalis atskirai į išorinį įrankį: [gabalai]. Nors jie gali atrodyti nekenksmingi atskirai, SUJUNGTI gali sukurti jautrų vaizdą (pvz., poziciją, darbotvarkę, tapatybę)? Įvertinkite surinkimo riziką ir nurodykite, kurių daiktų nereikėtų duoti kartu.
4) Viešo pasiekiamumo patvirtinimas:
Nesu tikras, ar ši informacija yra vieša: [informacija]. Išvardykite, kokį patvirtinimą turiu atlikti, kad galėčiau jį paskelbti viešu (ar yra oficialus leidimas, kas jį paskelbė, data). Jei nesu tikras, priminkite man principą „laikyti konfidencialiais“.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Apibendrinkite šį interviu pastabą. (paslėptas turinys įklijuojamas tiesiai į užrašą)
Tai pati pavojingiausia klaida: slaptas dokumentas pateko į viešąją laikmeną, nekvestionuojant jo klasės. Atsirado nuotėkio pavojus ir jo negalima panaikinti.
Galingas raginimas (pirmiausia patikrinkite):
Noriu apdoroti susitikimo užrašą. Bet pirmiausia: šis užrašas tikriausiai yra slaptosios klasės. Pasakykite man, ar tokio tipo dokumentus galima apdoroti viešuoju įrankiu ir koks yra teisingas būdas? DOKUMENTO TURINIO JUMS NEPERDUODU; Aš tiesiog prašau teisingo proceso.
Skirtumas akivaizdus: konfidencialus turinys išvis nepateikiamas, pirmiausia klausiama teisingo proceso ir darbas nukreipiamas į atitinkamą aplinką.
Klasių ir transporto priemonių kartografavimo lentelė
informacinė klasė
pavyzdys
Viešasis AI
tinkama aplinka
viešas
pranešimas spaudai
tinkamas
bendra priemonė
Vidinis/paslauginis
vidinė nata
Paprastai ne
Patvirtinta viduje
paslaptis
derybinė pozicija
niekada
Saugi institucijų sistema
aukščiausia paslaptis
jautrus intelektas
niekada
aukščiausias saugumas
asmens duomenis
kredencialus
Būtinas + tik legalus
Užmaskuotas/apsaugotas
Dažnos klaidos
- Duomenų įvedimas neprašant klasės. Prieš kiekvieną darbą, refleksas "kurioje klasėje tai?" yra būtina.
- Darant prielaidą, kad „tai tikriausiai akivaizdu“. Neaiški informacija saugoma kaip konfidenciali.
- Neteisingas vardo ištrynimas kaip anonimiškumas. Kontekstas gali atskleisti tapatybes.
- Nepaisydami surinkimo rizikos. Surinkus mažos dalys gali būti gležnos.
- Sumaišyti du pasaulius. Atviri ir klasifikuoti darbai vykdomi atskiruose įrankiuose/aplinkose.
Apibendrinant
Slaptumas yra svarbiausia diplomatinio AI naudojimo riba. Šio skyriaus pagrindas yra informacijos klasifikavimas (viešas/vidinis/konfidencialus/visiškai slaptas), refleksas „klausk klasę, suderink transporto priemonę“, minimalių duomenų principą, asmens duomenų apsaugą ir rinkimo riziką. Bendrieji atvirojo kodo darbo įrankiai; Įslaptintam darbui naudokite tik vidines saugias, patvirtintas sistemas. Niekada nepainiokite šių dviejų; Jei abejojate, saugokite informaciją kaip senjoras.
Taikymo užduotis
Išvardykite 8 skirtingus duomenis iš savo (arba įsivaizduojamo) stalo (kai kurie vieši, kai kurie neskelbtini). Padėkite kiekvieną į klasę ir nuspręskite, „kuriame įrankyje jis gali būti apdorojamas“. Dviprasmiškus įvertinkite naudodami šabloną „Klasės ir transporto priemonės išankstinė patikra“. Pasirinkite tris gabalus ir patikrinkite, ar jie sudaro jautrų vaizdą kartu su „rinkimo rizikos vertinimu“.
kontrolinis sąrašas
- [ ] Pirmiausia nustatiau jautrumo klasę kiekvienam duomenims.
- Niekada neįvedžiau duomenų, kurių [ ] klasė netinka viešajam transportui.
- [ ] Informaciją, dėl kurios nebuvau tikras, saugojau kaip viršininkas.
- [ ] Asmens duomenis tvarkau tik esant būtinybei ir teisėtai, užmaskuotai.
- [ ] Surizikavau rinkti ir atskirti du pasaulius.