Qazanclar:
- Məlumatı həssaslıq sinfinə (ictimai/daxili/məxfi/tam məxfi) görə qiymətləndirmək və “soruş sinfi, alətlə uyğunlaş” refleksini tətbiq etmək bacarığı
- Məlumatların saxlanması, model təlimi, AI-nin toplanması və pozulması risklərini anlamaq və açıq və təsnif edilmiş dünyanı ayrı saxlamaq
- Minimum məlumat prinsipini, fərdi məlumatların mühafizəsini və qeyri-müəyyən məlumatların daha yüksək sinif kimi mühafizəsi intizamını qəbul etmək bacarığı.
Diplomatiya etimada, güvən isə məxfiliyə əsaslanır. Danışıq mövqeyi, kəşfiyyat qiymətləndirməsi, həmsöhbətlə söhbətin məzmunu və ya hələ açıqlanmayan qərarın yanlış əllərdə olması dövlətin maraqlarını, danışıqların nəticəsini və hətta insanların təhlükəsizliyini təhlükə altına qoya bilər. Süni intellekt bu sahəyə böyük sürət gətirir, eyni zamanda yeni və ciddi məxfilik riskləri daşıyır. Bu bölmədə siz süni intellekt əsrində məxfi və həssas məlumatların necə qorunacağını, hansı məlumatların hansı avtomobilə daxil ola biləcəyini və təhlükəsiz istifadə intizamını öyrənəcəksiniz.
Bu bölmə modulun ən kritik təhlükəsizlik dərsidir. Burada bir səhv - məxfi sənədi yanlış alətə yapışdırmaq - geri dönməzdir. Buna görə də, yadda saxlanması lazım olan bir refleks burada qurulacaq: Süni intellekt alətinə hər hansı məlumat verməzdən əvvəl həmişə soruşun: bu məlumat hansı sinifdədir və bu alət bu sinif üçün təsdiqlənib?
İnformasiya təsnifatı: əsas fərq
Diplomatik məlumatlar çox vaxt həssaslığına görə təsnif edilir. Qurumdan quruma fərqli olsa da, əsas məntiq belədir:
- Təsnifatsız/ictimai: Artıq dərc edilmiş və ictimaiyyət üçün açıq olan məlumat. Nümunə: rəsmi press-relizlər, ictimai xəbərlər.
- Məhdudlaşdırılmış/daxili: İctimaiyyətə açıq olmayan, lakin həssaslığı aşağı olan daxili məlumat.
- Məxfi: Açıqlanması dövlətin maraqlarına ciddi zərər vura bilən məlumatlar. Nümunə: danışıqlar mövqeyi, daxili qiymətləndirmə.
- Tam məxfi: Açıqlanması ən ciddi zərərə səbəb olacaq məlumatlar. Misal: həssas kəşfiyyat, kritik təhlükəsizlik məlumatları.
Əsas qayda sadədir: İctimaiyyətə açıq olmayan heç bir məxfi məlumat müəssisənizin həmin sinif üçün təsdiq etmədiyi AI alətinə daxil edilməyəcək. İctimai AI xidməti, tərifinə görə, bu məlumat sinfi üçün sertifikatlaşdırılmır.
İpucu: Əgər əmin deyilsinizsə, məlumatı böyüklər kimi qəbul edin. “Bu, yəqin ki, artıq məlumdur” demək təhlükəli ehtimaldır. Məlumatın açıq olduğuna 100 faiz əmin olana qədər onu məxfi olduğu kimi qoruyun. Lazımsız ehtiyatlılıq xərc deyil, zəmanətdir.
AI-nin məxfilik riskləri
AI alətləri ənənəvi proqram təminatından fərqli məxfilik riskləri yaradır:
1. Məlumatların işlənməsi və saxlanması: İctimai AI xidmətinə yazdığınız mətn həmin xidmətin serverlərində emal oluna və saxlanıla bilər. Siz ona kimin daxil olduğunu, nə qədər saxlanıldığını və necə istifadə edildiyini idarə edə bilməzsiniz.
2. Model təlimində istifadə edin: Bəzi xidmətlər modeli təkmilləşdirmək üçün daxil etdiyiniz məlumatlardan istifadə edə bilər. Bu, məxfi məlumatlarınızın dolayı yolla modelin "yaddaşına" daxil olması və başqalarına sızması riski yaradır.
3. Aqreqasiya riski: Ayrı-ayrılıqda zərərsiz görünən informasiya parçaları birləşdirildikdə həssas bir şəkil yarada bilər. Müxtəlif vaxtlarda daxil edilmiş kiçik məlumatlar toplu olaraq gizli mövqe verə bilər.
4. Giriş və pozuntu riski: Hər hansı xarici sistem kimi, AI xidmətləri də məlumatların pozulmasına məruz qala bilər. Təqdim etdiyiniz məlumatlar bu pozuntuda ifşa oluna bilər.
Bu risklərin həlli iki ayrı dünya yaratmaqdır: açıq mənbə işi üçün ümumi alətlər; Yalnız gizli iş üçün məlumatları ixrac etməyən daxili, təhlükəsiz, təsdiq edilmiş sistemlər. Heç vaxt ikisini qarışdırmayın.
Diqqət: "Anonim etdim" demək çox vaxt kifayət etmir. Adları silsəniz belə, kontekst (tarix, yer, hadisə, tərəflərin sayı) bir mütəxəssisin şəxsiyyətləri və mövqeyi redaktə etməsi üçün kifayət edə bilər. Həqiqi həssas məlumat maskalanma ilə deyil, alətlər və medianın müvafiq seçimi ilə qorunur.
Təhlükəsiz istifadə intizamı
Praktiki nəzarət axını qurun:
- Sinfi müəyyənləşdirin. Bu məlumatlar ictimai, daxili, məxfi və ya çox məxfidir?
- Avtomobili cütləşdirin. Bu sinif bu alətdə işlənə bilərmi? Yoxdursa, dayan.
- Minimum məlumat siyasəti. Hətta işlək bir işdə olsa da, işin tələb etdiyindən daha çox məlumat verməyin.
- Şəxsi məlumatları qoruyun. Şəxsi məlumatlar (ad, əlaqə, yer) yalnız zəruri hallarda və qanuni əsaslarla emal edilir; Lazım deyilsə, maskalanır və ya ümumiyyətlə verilmir.
- Qeydi saxlayın. Hansı iş üçün hansı alətdən, hansı məlumatla istifadə etdiyinizi sənədləşdirin; Problem varsa, onu izləmək olar.
İpucu: Komandanızda “əvvəlcə məxfilik” mədəniyyətini formalaşdırın: yeni işçi və ya təcrübəçi ilk gündən “heç bir məxfi sənəd ictimai sahəyə daxil deyil” refleksini öyrənməlidir. Əksər pozuntular pis niyyətdən deyil, nəqliyyat vasitəsinin nə qədər açıq olduğunu bilməməkdən qaynaqlanır.
üç mini qutu
Hal 1 - Refleks pozuntunun qarşısını aldı. Mütəxəssis müsahibə qeydini yekunlaşdırmaq üzrə idi ki, o, dayanıb onun təsnifatını soruşdu: qeyd həmsöhbətlə məxfi söhbət idi. İctimai alət əvəzinə daxili təhlükəsiz sistemə keçdi. Sadə "ilk növbədə sinifdən soruş" refleksi pozuntunun qarşısını aldı.
Hal 2 – Yığım riski tanınır. Komanda müxtəlif günlərdə kiçik, zahirən “zərərsiz” informasiya hissələrini xarici alətə daxil edərdi. Bir təhlükəsizlik araşdırması göstərdi ki, bu parçalar birləşdirildikdə qarşıdan gələn danışıqların gündəmini verir. Tətbiq dayandırıldı; İş təhlükəsiz mühitə köçürüldü.
3-cü hal - Saxta anonimlik. Bir məmur sənədi "anonim" hesab etdi, çünki adları silib onu kənar agentə təhvil verdi. Bununla belə, sənəddəki tarix, yer və hadisə təsviri kimin nəzərdə tutulduğunu aydın göstərirdi. Adı silmək kifayət deyildi; Sənəd hər halda təhlükəsiz mühitdə işlənməli idi.
Dörd kopyalana bilən şablon
1) Sinif və avtomobilin ilkin yoxlanışı:
Aşağıda işi təsvir edəcəyəm. Mənə deyin (işi görməyin): (1) bu məlumat hansı həssaslıq sinfinə malik ola bilər (ictimai / daxili / məxfi / çox məxfi), (2) bu sinif ictimai AI alətində işlənməlidirmi, (3) yoxsa, hansı mühit növü tələb olunur. İş/məlumat təsviri: [burada]
2) Şəxsi məlumatların skan edilməsi və maskalanması:
Aşağıdakı mətndə emaldan əvvəl maskalanmalı olan şəxsi/həssas məlumatları (ad, başlıq, əlaqə, yer, sağlamlıq, ID nömrəsi) sadalayın. MƏTNİN EMALLANMASI; Sadəcə mənə deyin ki, hansı sahələri silmək lazımdır. Maskanı edib yenidən göndərəcəm. Mətn: [burada]
3) Kolleksiya riskinin qiymətləndirilməsi:
Aşağıdakı məlumat hissələrini ayrı-ayrılıqda xarici alətə ixrac etməyi düşünürəm: [parçalar]. Bunlar ayrı-ayrılıqda zərərsiz görünsə də, BİRLƏŞDİRİLdikdə həssas bir şəkil (məsələn, mövqe, gündəm, şəxsiyyət) yarada bilərmi? Toplama riskini qiymətləndirin və hansı əşyaların birlikdə verilməməsi lazım olduğunu söyləyin.
4) İctimaiyyətin əlçatanlığının təsdiqi:
Aşağıdakı məlumatların ictimai olub olmadığına əmin deyiləm: [məlumat]. Onu ictimai hesab etməzdən əvvəl hansı yoxlamanı etməli olduğumu sadalayın (rəsmi buraxılış varmı, onu kim dərc edib, tarix). Əgər əmin deyiləmsə, mənə "məxfilik kimi davranmaq" prinsipini xatırlat.
Zəif məlumat / Güclü göstəriş
Zəif çağırış:
Bu müsahibə qeydini ümumiləşdirin. (gizli məzmun birbaşa qeydə yapışdırılır)
Bu, ən təhlükəli səhvdir: məxfi sənəd sinfi sorğulanmadan ictimai mediaya daxil olub. Sızma riski baş verdi və onu geri qaytarmaq mümkün deyil.
Güclü sorğu (əvvəlcə yoxlayın):
Mən görüş qeydini emal etmək istəyirəm. Amma birincisi: bu qeyd yəqin ki, gizli sinifdədir. Mənə deyin ki, bu cür sənəd ictimai alətdə işlənilə bilərmi və düzgün yol nədir? SƏNƏDİN MƏZMUNUNU SİZƏ VERMİRƏM; Mən sadəcə prosesin düzgün aparılmasını xahiş edirəm.
Fərq aydındır: məxfi məzmun ümumiyyətlə verilmir, əvvəlcə düzgün proses soruşulur və iş uyğun mühitə yönəldilir.
Sinifdən avtomobilə xəritəçəkmə cədvəli
məlumat sinfi
misal
İctimai AI
düzgün mühit
ictimai
press-reliz
uyğun
ümumi alət
Daxili/xidmət xüsusi
daxili qeyd
Adətən yox
Evdə təsdiqlənmişdir
sirr
danışıqlar mövqeyi
heç vaxt
Təhlükəsiz təşkilat sistemi
çox sirr
həssas zəka
heç vaxt
ən yüksək təhlükəsizlik
şəxsi məlumatlar
etimadnamələr
Zəruri+yalnız qanuni
Maskalı/təhlükəsiz
Ümumi səhvlər
- Sinif tələb etmədən məlumatların daxil edilməsi. Hər işdən əvvəl refleks "bu hansı sinifdədir?" mütləqdir.
- “Yəqin ki, aydındır” fərz etsək. Qeyri-müəyyən məlumatlar məxfi kimi qorunur.
- Adın silinməsini anonimləşdirmə kimi səhv salmaq. Kontekst şəxsiyyətləri verə bilər.
- Toplama riskinə məhəl qoymamaq. Kiçik hissələr yığıldıqda incə ola bilər.
- İki dünyanı qarışdırmaq. Açıq və təsnif edilmiş işlər ayrı alətlərdə/mühitlərdə işləyir.
Xülasə
Məxfilik diplomatik süni intellektdən istifadənin ən kritik həddidir. Bu bölmənin əsası kimi məlumat təsnifatını (ictimai/daxili/məxfi/tam məxfi), “sorğu sinfi, uyğun nəqliyyat vasitəsi” refleksini, minimum məlumat prinsipini, şəxsi məlumatların qorunması və toplanması riskini götürün. Açıq mənbə işi üçün ümumi alətlər; Məxfi iş üçün yalnız daxili təhlükəsiz, təsdiq edilmiş sistemlərdən istifadə edin. Heç vaxt ikisini qarışdırmayın; Şübhə olduqda, məlumatı böyüklər kimi qoruyun.
Tətbiq tapşırığı
Öz (və ya xəyali) masanızdan (bəzi ictimai, bəziləri həssas) 8 fərqli məlumatı sadalayın. Hər birini bir sinifə yerləşdirin və "hansı alətdə işlənə biləcəyinə" qərar verin. Birmənalı olmayanları "Sinif və nəqliyyat vasitəsinin əvvəlcədən yoxlanılması" şablonu ilə qiymətləndirin. Üç parça seçin və onların “kolleksiya riskinin qiymətləndirilməsi” ilə birləşdirildikdə həssas şəkil yaradıb-yaratmadığını yoxlayın.
yoxlama siyahısı
- [ ] Mən əvvəlcə hər bir məlumat üçün həssaslıq sinfini təyin etdim.
- Mən heç vaxt [ ] sinfi ictimai nəqliyyat vasitəsi üçün uyğun olmayan məlumatları daxil etməmişəm.
- [ ] Əmin olmadığım məlumatları bir rəis kimi qorudum.
- [ ] Mən şəxsi məlumatları yalnız zəruri və qanuni, maskalı halda emal edirəm.
- [ ] Mən iki dünyanı toplamaq və ayırmaq riskini götürdüm.