Qazanclar:
- Ən az imtiyaz prinsipindən istifadə edərək əsaslandırma, kontekst və rədd etmə ssenarisi ilə icazə tələb etmək imkanı
- Anahtarlık/Açar anbarı ilə şifrələnmiş həssas məlumatları saxlamaq, məlumatların minimuma endirilməsini tətbiq etmək və süni intellektin həddən artıq çox icazə əlavə etmək meylinə nəzarət etmək bacarığı
- İstifadəçi məlumatlarının bulud və ya süni intellekt xidmətinə axınını məxfilik qərarı kimi idarə etmək, istifadəçi razılığını almaq və təhlükəsizlik texnikalarından yalnız səlahiyyətli, müdafiə məqsədləri üçün istifadə etmək bacarığı
Mobil proqram istifadəçinin ən şəxsi cihazında işləyir: o, onun yerini, kontaktlarını, şəkillərini, sağlamlıq məlumatlarını, mikrofonunu bilir. Bu giriş böyük gücdür və güc məsuliyyət deməkdir. Məxfilik və təhlükəsizlik mobil inkişafda “əlavə xüsusiyyət” deyil, əvvəldən arxitekturaya toxunmuş bir prinsipdir; Bu dizaynla məxfilik adlanır. Üstəlik, bu, təkcə etik seçim deyil, qanuni (KVKK, GDPR) və mağaza (App Store, Google Play) öhdəliyidir. Bu bölmədə biz icazələri düzgün tələb etməyi, məlumatları təhlükəsiz emal etməyi, AI-dən bu sahədə köməkçi kimi istifadə etməyi və özümüzü onun tələlərindən qorumağı öyrənəcəyik. Süni intellekt kontekstində əlavə kritik məsələ var: AI modellərinə (xüsusilə bulud) gedən istifadəçi məlumatı özlüyündə məxfilik qərarıdır.
İcazə istəmə sənəti: ən az imtiyaz
Təhlükəsizliyin əsas prinsipi ən az imtiyazdır (işin tələb etdiyindən daha çox imtiyaz tələb etməmək). Tətbiqiniz yalnız ehtiyac duyduğu anda, həqiqətən ehtiyac duyduğu icazəni tələb etməlidir. Əgər kamera funksiyası yoxdursa, kamera icazəsi tələb olunmayacaq; Məkan yalnız xəritə açıq olduqda tələb olunursa, "həmişə" deyil, "istifadə edərkən" icazəsi kifayətdir. Həddindən artıq icazələr üçqat zərərə səbəb olur: bu, istifadəçi etibarını sarsıdır, mağazanın rədd edilməsinə səbəb olur və məlumat sızması riskini artırır.
İcazə istəməyin düzgün vaxtı və izahı çox vacibdir. İstifadəçidən kontekstdə və əsaslandırma ilə icazə istəyin, məsələn, "Qəbzinizi skan etmək üçün kameraya giriş tələb olunur". iOS bu təsviri Info.plist-də tələb edir; Boş və ya yanıltıcı təsvir mağazanın rədd edilməsidir.
İcazə növü
pis yanaşma
yaxşı yanaşma
vaxtlama
Başlanğıcda hamısını tələb edin
funksiyadan istifadə edərkən xəbərdar olun
Əhatə dairəsi
"Həmişə yer"
"istifadə edərkən yer"
Təsvir
Boş və ya ümumi
Konkret, konkret əsaslandırma
rədd statusu
Tətbiq çökür/çarpışır
Zəhmət olmasa alternativlər təklif edin
İpucu: İcazə rədd edildikdə tətbiqiniz işləməyə davam edə bilməlidir. İstifadəçi kameradan imtina edərsə, "əllə giriş" seçimini təklif edin. "İcazə verin, yoxsa proqram işləməyəcək" ifadəsinin tətbiqi həm pis təcrübədir, həm də mağaza problemidir. Süni intellektə icazə kodunu çap edərkən həmişə imtina ssenarisini soruşun.
AI ilə razılıq və məxfilik kodu: mülahizələr
Süni intellekt tez bir zamanda icazə tələb edən kod yaradır, lakin onun iki tipik tələsi var. Birincisi, lazım olduğundan daha çox icazə əlavə etmək: yer, kontaktlar "hər halda" saxlama icazələrini toplu şəkildə qoya bilər. İkincisi, imtina ssenarisini atlamaq: sadəcə olaraq "icazə verilir" statusunu yazın və rədd cavabına məhəl qoymayın. Yaranan hər bir icazə üçün sizdən "bu, həqiqətən lazımdırmı?" və "rədd edilsə nə olacaq?" Suallarınızı verin.
Diqqət: Süni intellekt tərəfindən yaradılan nümunə kodu istifadəçi məlumatlarını şifrələmədən saxlaya və ya etibarsız ötürə bilər. Həssas məlumatlar (parol, sağlamlıq, maliyyə) cihazda (Açarlıq — iOS, Açar anbarı — Android; əməliyyat sisteminin şifrələnmiş anbar sahəsi) təhlükəsiz yaddaşda saxlanmalı və şifrələnmiş əlaqə (HTTPS/TLS) vasitəsilə şəbəkəyə ötürülməlidir. AI bunu həmişə kortəbii etmir; Aydın şəkildə soruşun və yoxlayın.
Məlumatların minimuma endirilməsi və məlumatların AI-yə göndərilməsi
Toplamadığınız məlumatlar sıza bilməz. Məlumatların minimuma endirilməsi (yalnız faktiki olaraq lazım olan məlumatların toplanması) məxfilik üçün ən güclü vasitədir. Süni intellekt xüsusiyyətlərində bu prinsip ikiqat vacibdir: məlumatı bulud LLM və ya xarici AI xidmətinə göndərərkən, bu məlumat sizin nəzarətinizdən kənardadır. İstifadəçinin sağlamlıq qeydini, söhbət məzmununu və ya şəxsi məlumatını buluda göndərməzdən əvvəl üç sual verin: (1) Bu məlumat həqiqətən lazımdırmı? (2) Cihazda emal edilə bilərmi? (3) Əgər göndəriləcəksə, istifadəçi bunu bilir və təsdiq edirmi? İstifadəçiyə məlumatlarının AI xidmətinə getdiyini aydın şəkildə bildirmək həm hüquqi, həm də etik tələbdir.
Təhlükəsiz istifadə və müdafiə diqqəti
İT və təhlükəsizlik nöqteyi-nəzərindən xəbərdarlıq: bu modulda öyrənilən üsullar yalnız səlahiyyətli və müdafiə məqsədli istifadə üçündür. Öz tətbiqinizin təhlükəsizliyini yoxlamaq, istifadəçi məlumatlarını qorumaq və zəiflikləri bağlamaq qanunidir. İcazəsiz başqasının tətbiqinin tərs mühəndisliyi, razılıq olmadan istifadəçi məlumatlarının toplanması və ya zərərli proqram yaratmaq üçün AI-dən istifadə qanunsuz və qeyri-etikdir. Süni intellektdən təhlükəsizlik yardımı üçün müraciət edərkən həmişə öz sisteminizi müdafiə etmək çərçivəsində qalın.
üç mini qutu
1-ci hal - Həddindən artıq məzuniyyətdən imtina. Qeyd tətbiqi süni intellekt tərəfindən istehsal edilən kodla işə salınarkən kamera, mikrofon, məkan və əlaqə icazələri tələb etdi. Google Play, "funksiya ilə əlaqəli olmayan icazələrə" istinad edərək, buraxılışı rədd etdi. Komanda yalnız faktiki istifadə edilən saxlama icazəsini buraxdıqda buraxılış təsdiqləndi. Dərs: hər əlavə məzuniyyət riskdir.
Case 2 - Parolsuz saxlama. Sağlamlıq proqramı istifadəçi ölçmələrini AI nümunəsində olduğu kimi düz mətn faylında saxladı. Təhlükəsizlik auditi aşkar edib ki, cihazı əldə edən hər kəs bütün sağlamlıq məlumatlarını oxuya bilər. Data Açar Deposu/Açarlıq ilə şifrələnmiş yaddaşa köçürüldü. Dərs: həssas məlumatlar həmişə şifrələnmiş qalır.
3-cü hal - Buluda elan edilməmiş təkan. Tətbiq istifadəçilərin gündəlik qeydlərini ümumiləşdirmək üçün bulud LLM-ə göndərirdi, lakin istifadəçiyə bildirmədi. Bu barədə mətbuatda məlumat yayılanda inam və hüquqi yoxlama itkisi oldu. Komanda aydın bildiriş və təsdiq, eləcə də cihazda seçim əlavə etdi. Dərs: istifadəçi məlumatların AI-yə getdiyini bilməli və təsdiq etməlidir.
Zəif məlumat / Güclü göstəriş
Zəif göstəriş: "Məkan icazəsi tələb edin."
Güclü göstəriş: "Ən az imtiyaz prinsipi ilə iOS/Swift-də məkan icazəsi tələb edin. - "Həmişə" deyil, yalnız "istifadə edildikdə" icazəsi - Info.plist təsviri: "Yaxınlıqdakı mağazaları göstərmək üçün" - İcazə rədd edilərsə: şəhəri əl ilə seçmək üçün seçim təklif edin, qəza edin - İcazə əvvəllər rədd edilibsə, lazım olandan daha çox icazə əlavə edin. inkar axını da var”.
Kopyalana bilən şablonlar
İcazə tələb etmək üçün şablon: "[platforma] üçün [icazə növü] icazə tələb edin.- Minimum əhatə dairəsi (istifadə edərkən/lazım olduqda)- Kontekstdə, əsaslandırılmış izahatla- Rədd edildiyi təqdirdə nəzakətli alternativ, heç vaxt qəzaya uğramayın- Info.plist / Manifest girişini də verin Əlavə icazələr əlavə etməyin; hər icazəni əsaslandırın."
İcazə audit şablonu: "Tətbiq sorğularım icazələri yoxlayın: [icazə siyahısı + xassələr]. Hər bir icazə üçün: bu, həqiqətən lazımdırmı? Daha dar əhatə dairəsi kifayət edərmi? Mağazanın rədd edilməsinə səbəb olarmı? Lazımsız olaraq qeyd edin."
Təhlükəsiz məlumat saxlama şablonu: "[platforma] üçün həssas məlumatları ([növ]) təhlükəsiz şəkildə saxlayın: - Açar zəncirləri/açar anbarı ilə şifrələnmişdir - lazımsız uzun müddət yaddaşda saxlamayın - jurnallara və ehtiyat nüsxələrə sızmayın Kod və yoxlama addımlarını təmin edin."
Süni intellektə verilənlərin göndərilməsi üçün şablon: "Aşağıdakı məlumatları bulud AI xidmətinə göndərməyi düşünürəm: [məlumat]. Qiymətləndirin: həqiqətən lazımdırmı? O, cihazda emal edilə bilərmi? Göndərilibsə, hansı sahələr maskalanmalıdır? İstifadəçi razılığı necə alınmalıdır? Məxfilik baxımından ən təhlükəsiz dizaynı tövsiyə edin."
Ümumi səhvlər
- Lazım olduğundan daha çox icazə istəmək. Güvən, mağaza təsdiqi və təhlükəsizliyin üçqat təhlükəsi.
- Başlanğıcda icazələrin toplu şəkildə tələb edilməsi. Kontekstsiz icazə sorğusu rədd edilir; funksiyanı dərhal tələb edin.
- Rədd skriptini yazmamaq. İcazə verilmədiyi zaman qəzaya uğrayan proqram həm pisdir, həm də rədd edilir.
- Parol olmadan həssas məlumatların saxlanması. Sağlamlıq, maliyyə və parollar təhlükəsiz anbarda saxlanmalıdır.
- İstifadəçiyə məlumat vermədən məlumatların bulud/AI-ə göndərilməsi. Hüquqi və etik pozuntu; Bildiriş və təsdiq tələb olunur.
- Təhlükəsizlik texnikalarından icazəsiz istifadə. Bu, yalnız öz sisteminizdə müdafiə məqsədləri üçün qanunidir.
Xülasə
Məxfilik və təhlükəsizlik əvvəldən hazırlanmışdır, sonradan əlavə olunmur. Əsas prinsip ən az imtiyazdır: yalnız lazım gəldikdə, əsaslandırılmaqla lazımi icazə tələb edin və imtina halında nəzakətli alternativ təklif edin. Həssas məlumatlar şifrələnmiş yaddaşda saxlanılır və şifrələnmiş əlaqə vasitəsilə ötürülür. Məlumatların minimuma endirilməsi ən güclü qorunmadır: toplamadığınız məlumatlar sıza bilməz. Məlumatların AI-yə, xüsusən də buludlara göndərilməsi özlüyündə məxfilik qərarıdır; Bunun zəruriliyi sorğulanır, mümkünsə cihazda üstünlük verilir, istifadəçi məlumatlandırılır və onun razılığı alınır. İstehsal edilən hər bir kod AI-nin həddindən artıq icazələr əlavə etmək və təhlükəsiz saxlama meyllərinə qarşı yoxlanılır. Təhlükəsizlik texnikaları yalnız səlahiyyətli və müdafiə məqsədləri üçün istifadə olunur.
Tətbiq tapşırığı
Tətbiqin (öz layihəniz və ya xəyali) tələb etdiyi icazələrin siyahısını tərtib edin və "İcazə auditi şablonu" ilə AI-dan hansının lazımsız və ya həddən artıq geniş olduğunu yoxlayın. Ən azı bir icazəni dəqiqləşdirin və ya silin və həmin xüsusiyyət üçün rədd etmə ssenarisini yazın. Əlavə olaraq, əgər siz istifadəçi məlumatlarını buludlara göndərirsinizsə, “Aİ-yə məlumat göndərmə qərar şablonu” ilə ən təhlükəsiz dizaynı müəyyənləşdirin və istifadəçi təsdiq mətnini yazın.
yoxlama siyahısı
- [ ] Mən hər bir icazəni əsaslandırma ilə, ən az imtiyaz prinsipi ilə istədim.
- [ ] Mən kontekstdə icazə istədim, başlanğıc zamanı toplu deyil
- [ ] Mən hər bir icazə üçün rədd skripti yazdım, qəza yox idi
- [ ] Mən açarlıq/açar anbarı ilə şifrələnmiş həssas məlumatları saxladım
- [ ] Bulud/AI-ə gedən məlumatları minimuma endirdim və istifadəçi təsdiqini əlavə etdim
- [ ] Mən yalnız öz sistemimdə müdafiə məqsədləri üçün təhlükəsizlik texnikalarından istifadə etdim