Nyereség:
- Képesség az információk érzékenységi osztályok szerinti értékelésére (nyilvános / belső / bizalmas / szigorúan titkos), és alkalmazza a „kérdezzen osztályt, illessze az eszközt” reflexet
- A mesterséges intelligencia adattárolásának, modellképzésének, gyűjtésének és betörési kockázatainak megértése, valamint a nyitott és a minősített világ elkülönítése
- Képes átvenni a minimális adatszolgáltatás elvét, a személyes adatok védelmét és a bizonytalan információk védelmének fegyelmét, mintha az egy magasabb osztály lenne.
A diplomácia alapja a bizalom, a bizalom pedig a titoktartáson. Egy tárgyalási pozíció, egy titkosszolgálati értékelés, egy beszélgetőpartnerrel folytatott beszélgetés tartalma, vagy egy még kihirdetésre váró, rossz kezekben lévő döntés veszélyeztetheti az állam érdekeit, a tárgyalás kimenetelét vagy akár az emberek biztonságát is. A mesterséges intelligencia óriási sebességet hoz ezen a területen, de új és komoly adatvédelmi kockázatokat is hordoz magában. Ebben a részben megtudhatja, hogyan védheti meg a minősített és érzékeny információkat a mesterséges intelligencia korában, mely adatok melyik járműbe kerülhetnek, illetve a biztonságos használat szabályait.
Ez az egység a modul legkritikusabb biztonsági leckéje. Egy hiba itt – egy bizalmas dokumentum rossz eszközbe illesztése – visszafordíthatatlan. Ezért itt kialakul egy memorizálandó reflex: Mielőtt bármilyen adatot megadna egy AI-eszköznek, mindig kérdezze meg: melyik osztályba tartozik ez az adat, és ez az eszköz engedélyezett-e ehhez az osztályhoz?
Információk osztályozása: alapvető megkülönböztetés
A diplomáciai információkat gyakran érzékenységük szerint osztályozzák. Bár intézményenként változik, az alapvető logika a következő:
- Nem minősített/nyilvános: Már közzétett és nyilvánosan hozzáférhető információ. Példa: hivatalos sajtóközlemények, nyilvános hírek.
- Korlátozott/belső: Belső információ, amely nem nyilvános, de alacsony érzékenységű.
- Bizalmas: Olyan információ, amelynek nyilvánosságra hozatala súlyosan sértheti az állam érdekeit. Példa: tárgyalási pozíció, belső értékelés.
- Szigorúan titkos: Olyan információk, amelyek nyilvánosságra hozatala a legsúlyosabb károkat okozná. Példa: érzékeny intelligencia, kritikus biztonsági információk.
A hüvelykujjszabály egyszerű: A nyilvánosan nem elérhető minősített információk nem kerülnek be olyan mesterséges intelligencia-eszközbe, amelyet intézménye nem hagyott jóvá az adott osztály számára. Egy nyilvános mesterséges intelligencia szolgáltatás értelemszerűen nem rendelkezik erre az információosztályra vonatkozó tanúsítvánnyal.
Tipp: Ha nem biztos benne, kezelje az információkat idősebbként. Veszélyes találgatás az, hogy „ez valószínűleg már ismert”. Amíg 100 százalékig nem biztos abban, hogy az információ nyilvános, védje meg úgy, mintha bizalmas lenne. A felesleges óvatosság nem költség, hanem biztosíték.
Az AI adatvédelmi kockázatai
Az AI-eszközök eltérő adatvédelmi kockázatokat jelentenek, mint a hagyományos szoftverek:
1. Adatfeldolgozás és tárolás: Egy nyilvános mesterségesintelligencia-szolgáltatásba írt szöveg feldolgozható és tárolható az adott szolgáltatás szerverein. Nem szabályozhatja, hogy ki férhessen hozzá, mennyi ideig őrzi meg és hogyan használja.
2. Használat a modellképzésben: Egyes szolgáltatások felhasználhatják az Ön által megadott adatokat a modell fejlesztésére. Ez azzal a kockázattal jár, hogy bizalmas információi közvetve bekerülnek a modell „memóriájába”, és kiszivárognak másoknak.
3. Aggregáció kockázata: Az egyenként ártalmatlannak tűnő információk együttesen érzékeny képet alkothatnak. A különböző időpontokban bevitt apró információk együttesen titkos pozíciót adhatnak.
4. Hozzáférés és incidens kockázata: Mint minden külső rendszerhez hasonlóan, az AI-szolgáltatások is ki vannak téve adatvédelmi incidensnek. Az Ön által megadott adatok nyilvánosságra kerülhetnek a jogsértés során.
E kockázatok megoldása két külön világ létrehozása: általános eszközök a nyílt forráskódú munkához; Csak házon belüli, biztonságos, jóváhagyott rendszerek, amelyek nem exportálnak adatokat minősített munkához. Soha ne keverje a kettőt.
Figyelem: gyakran nem elég azt mondani, hogy „névtelenné tettem”. Még ha törli is a neveket, a kontextus (dátum, helyszín, esemény, felek száma) elegendő lehet ahhoz, hogy egy szakértő leírja a személyazonosságot és a pozíciót. A valódi érzékeny információkat nem maszkolás, hanem megfelelő eszközök és médiák védik.
Biztonságos használat fegyelem
Gyakorlati vezérlési folyamat létrehozása:
- Határozza meg az osztályt. Nyilvános, belső, bizalmas vagy szigorúan titkos adat?
- Párosítsa a járművet. Feldolgozható ez az osztály ebben az eszközben? Ha nem, hagyd abba.
- Minimális adatkezelési szabályzat. Még működőképes munkánál se adjon ki több információt, mint amennyit a munka megkövetel.
- Védje a személyes adatokat. Személyes adatokat (név, elérhetőség, tartózkodási hely) csak szükség esetén és jogalappal kezelünk; Ha szükségtelen, akkor maszkolja, vagy egyáltalán nem adják.
- Tartsa a nyilvántartást. Dokumentálja, hogy melyik munkához melyik eszközt használta, milyen adatokkal; Ha probléma van, az nyomon követhető.
Tipp: Alakítson ki egy „első a magánélet” kultúrát a csapatában: az új ügyintézőnek vagy gyakornoknak az első naptól kezdve meg kell tanulnia azt a reflexet, hogy „nem kerülhetnek bizalmas dokumentumok a nyilvánosság elé”. A legtöbb szabálysértés nem rosszindulatból fakad, hanem abból, hogy nem tudjuk, mennyire nyitott egy jármű.
három mini tok
1. eset – Reflex megakadályozta szabálysértés. Egy szakértő éppen össze akart foglalni egy interjút, amikor megállt, és megkérdezte a besorolását: a jegyzet egy beszélgetőpartnerrel folytatott bizalmas beszélgetés volt. Nyilvános eszköz helyett házon belüli biztonságos rendszerre váltott. Egy egyszerű "kérd meg az osztályt először" reflex megakadályozta a jogsértést.
2. eset – A beszedési kockázat felismerése. Egy csapat különböző napokon apró, látszólag „ártalmatlan” információkat visz be egy külső eszközbe. Egy biztonsági felülvizsgálat kimutatta, hogy ezek a darabok összeadva egy közelgő tárgyalás napirendjét tették ki. Az alkalmazást leállították; A mű biztonságos környezetbe került.
3. eset – Hamis névtelenség. Egy ügyintéző "névtelennek" ítélt egy dokumentumot, mert neveket törölt, és átadta a külső megbízottnak. A dokumentumban szereplő dátum, hely és eseményleírás azonban egyértelművé tette, hogy kire gondoltak. A név törlése nem volt elég; A dokumentumot egyébként is biztonságos környezetben kellett volna feldolgozni.
Négy másolható sablon
1) Osztály és jármű előzetes ellenőrzése:
Az alábbiakban ismertetem a munkát. Mondja meg (ne végezze el a feladatot): (1) milyen érzékenységi osztálya lehet ezeknek az adatoknak (nyilvános / belső / titkos / szigorúan titkos), (2) kell-e ezt az osztályt nyilvános AI-eszközben feldolgozni, (3) ha nem, milyen típusú környezet szükséges. Munkakör/adatok leírása: [itt]
2) Személyes adatok szkennelése és maszkolása:
Sorolja fel az alábbi szövegben azokat a személyes/érzékeny adatokat (név, beosztás, elérhetőség, tartózkodási hely, egészségi állapot, személyi azonosító szám), amelyeket a feldolgozás előtt el kell rejteni. A SZÖVEG FELDOLGOZÁSA; Csak mondja meg, mely területeket kell eltávolítani. Megcsinálom a maszkolást és újraküldöm. Szöveg: [itt]
3) Begyűjtési kockázatértékelés:
Azt fontolgatom, hogy a következő információkat külön-külön exportálom egy külső eszközre: [darab]. Bár ezek külön-külön ártalmatlannak tűnhetnek, EGYESÍTÉSÜL érzékeny képet alkothatnak (pl. álláspont, napirend, identitás)? Mérje fel a begyűjtés kockázatát, és mondja meg, mely tárgyakat nem szabad együtt adni.
4) Nyilvános elérhetőség megerősítése:
Nem vagyok biztos benne, hogy a következő információ nyilvános-e: [információ]. Sorolja fel, milyen ellenőrzést kell végrehajtanom, mielőtt nyilvánossá nyilvánítanám (van-e hivatalos kiadás, ki tette közzé, dátum). Ha nem vagyok biztos benne, emlékeztessen a „bizalmasként való kezelés” elvre.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Foglalja össze ezt az interjújegyzetet. (a rejtett tartalom közvetlenül a jegyzetbe kerül beillesztésre)
Ez a legveszélyesebb hiba: egy bizalmas dokumentum bekerült a nyilvános adathordozóra anélkül, hogy az osztályát megkérdőjelezték volna. A szivárgás veszélye fennáll, és nem lehet visszafordítani.
Hatékony felszólítás (először ellenőrizze):
Egy értekezlet-jegyzetet szeretnék feldolgozni. De először is: ez a jegyzet valószínűleg a titkos osztályba tartozik. Mondja meg nekem, hogy az ilyen típusú dokumentum feldolgozható-e nyilvános eszközzel, és mi a helyes módja? A DOKUMENTUM TARTALMÁT NEM ADOM AZ ÖNNEK; Csak a helyes eljárást kérem.
A különbség egyértelmű: a bizalmas tartalmat egyáltalán nem adják meg, először megkérdezik a helyes folyamatot, és a munkát a megfelelő környezetbe irányítják.
Osztály-jármű leképezési táblázat
információs osztály
példa
Nyilvános AI
megfelelő környezet
nyilvános
sajtóközlemény
alkalmas
általános eszköz
Belső/szolgáltatás specifikus
belső jegyzet
Általában nem
Házon belül jóváhagyva
titkos
tárgyalási pozíció
soha
Biztonságos intézményrendszer
szigorúan titkos
érzékeny intelligencia
soha
legmagasabb biztonság
személyes adatok
hitelesítő adatok
Csak szükséges+legális
Álarcos/biztosított
Gyakori hibák
- Adatok bevitele az osztály kérése nélkül. Minden munka előtt a reflex "ez melyik osztályba tartozik?" kötelező.
- Feltéve, hogy "valószínűleg nyilvánvaló". A bizonytalan információkat bizalmasan védjük.
- Hibás névtörlés névtelenítésként. A kontextus identitást adhat fel.
- A begyűjtés kockázatának figyelmen kívül hagyása. Az apró alkatrészek összeszereléskor kényesek lehetnek.
- Két világ keveredése. A nyílt és minősített munkák külön eszközökben/környezetekben futnak.
Összefoglalva
A titoktartás a diplomáciai mesterséges intelligencia használatának legkritikusabb korlátja. Ennek az egységnek a gerincét tekintse az információk besorolásának (nyilvános/belső/bizalmas/szigorúan titkos), „kérdezzen osztály, párosítsd a járművet” reflexet, a minimális adatszolgáltatás elvét, a személyes adatok védelmét és a gyűjtési kockázatot. Általános eszközök nyílt forráskódú munkához; Csak házon belüli biztonságos, jóváhagyott rendszereket használjon minősített munkához. Soha ne keverje össze a kettőt; Ha kétségei vannak, őrizze az információkat, mint egy idősebb.
Pályázati feladat
Soroljon fel 8 különböző adatot a saját (vagy képzeletbeli) asztaláról (néhány nyilvános, néhány érzékeny). Helyezze el mindegyiket egy osztályba, és döntse el, hogy "melyik eszközzel lehet feldolgozni". Értékelje a kétértelműeket az „Osztály és jármű előzetes ellenőrzése” sablon segítségével. Válasszon ki három darabot, és vizsgálja meg, hogy a „gyűjtési kockázatértékeléssel” kombinálva érzékeny képet alkotnak-e.
ellenőrző lista
- [ ] Először az egyes adatok érzékenységi osztályát határoztam meg.
- Soha nem adtam meg olyan adatot, aminek [ ] osztálya nem alkalmas közösségi járműre.
- [ ] Feljebbvalóként őriztem azokat az információkat, amelyekben bizonytalan voltam.
- [ ] Személyes adatot csak akkor kezelek, ha szükséges és jogszerű, álcázva.
- [ ] Vállaltam a gyűjtés kockázatát és két világ szétválasztását.