Табыстар:
- Ең аз артықшылық принципін қолдана отырып, негіздеу, контекст және қабылдамау сценарийі бар рұқсаттарды сұрау мүмкіндігі
- Keychain/Keystore көмегімен шифрланған құпия деректерді сақтау, деректерді азайтуды қолдану және тым көп рұқсаттарды қосу үшін жасанды интеллект үрдісін басқару мүмкіндігі
- Құпиялылық шешімі ретінде бұлтқа немесе жасанды интеллект қызметіне пайдаланушы деректерінің ағынын басқару, пайдаланушының келісімін алу және қауіпсіздік әдістерін тек рұқсат етілген, қорғаныс мақсаттарында пайдалану мүмкіндігі
Мобильді қосымша пайдаланушының ең жеке құрылғысында жұмыс істейді: ол оның орналасқан жерін, контактілерін, фотосуреттерін, денсаулық деректерін, микрофонын біледі. Бұл қол жеткізу үлкен күш, ал күш жауапкершілікті білдіреді. Құпиялылық пен қауіпсіздік мобильді дамудағы «қосымша мүмкіндік» емес, басынан бастап архитектураға тоқылған принцип; Бұл дизайн бойынша құпиялылық деп аталады. Оның үстіне, бұл тек этикалық таңдау ғана емес, бұл заңды (KVKK, GDPR) және дүкен (App Store, Google Play) міндеттемесі. Бұл бөлімде біз рұқсаттарды қалай дұрыс сұрауды, деректерді қауіпсіз өңдеуді, AI-ны осы салада көмекші ретінде пайдалануды және өзімізді оның тұзақтарынан қорғауды үйренеміз. AI контекстінде қосымша маңызды мәселе бар: AI үлгілеріне (әсіресе бұлтқа) жіберілетін пайдаланушы деректері жеке құпиялылық шешімі болып табылады.
Рұқсат сұрау өнері: ең аз артықшылық
Қауіпсіздіктің негізгі принципі - ең аз артықшылық (жұмыс талап ететін артықшылықтарды сұрау емес). Қолданбаңыз тек қажет уақытта, шын мәнінде қажет рұқсатты сұрауы керек. Егер камера мүмкіндігі болмаса, камераға рұқсат сұралмайды; Орын карта ашық болғанда ғана қажет болса, «әрдайым» емес, «пайдалану кезінде» рұқсаты жеткілікті. Шамадан тыс рұқсаттар үш есе зиян келтіреді: ол пайдаланушы сеніміне нұқсан келтіреді, қоймадан бас тартуға әкеледі және деректердің ағып кету қаупін арттырады.
Рұқсат сұраудың дұрыс уақыты мен түсіндірмесі өте маңызды. «Түбіртекті сканерлеу үшін камераға кіру қажет» сияқты контекстте және негіздеу арқылы пайдаланушыдан рұқсат сұраңыз. iOS бұл сипаттаманы Info.plist ішінде қажет етеді; Бос немесе жаңылыстыратын сипаттама дүкеннен бас тарту болып табылады.
Рұқсат түрі
жаман көзқарас
жақсы көзқарас
уақыт
Іске қосу кезінде барлығын сұраңыз
мүмкіндікті пайдалану кезінде ескерту
Қолдану аясы
«Әрқашан орын»
«пайдалану кезіндегі орын»
Сипаттама
Бос немесе жалпы
Нақты, нақты негіздеу
бас тарту мәртебесі
Қолданба бұзылады/бұзылады
Балама нұсқаларды ұсынады
Кеңес: Рұқсат берілмеген кезде қолданбаңыз жұмысын жалғастыра алуы керек. Пайдаланушы камерадан бас тартса, «қолмен кіру» опциясын ұсыныңыз. «Рұқсат етіңіз, әйтпесе қолданба жұмыс істемейді» деп таңу жағымсыз тәжірибе де, дүкен мәселесі де. AI үшін рұқсат кодын басып шығару кезінде әрқашан бас тарту сценарийін сұраңыз.
Жасанды интеллектпен келісім және құпиялылық коды: ойлар
Жасанды интеллект рұқсат сұрау кодын тез жасайды, бірақ оның екі типтік қатесі бар. Біріншіден, қажет болғаннан көбірек рұқсаттарды қосу: орын, контактілер сақтау рұқсаттарын «қандай жағдайда болса да» жаппай қоя алады. Екіншіден, қабылдамау сценарийін өткізіп жіберу: жай ғана «рұқсат етілген» күйін жазып, бас тартуды елемеу. Әрбір жасалған рұқсат үшін сізден «бұл шынымен қажет пе?» Деп сұралады. және «қабылданбаған жағдайда не болады?» Сұрақтарыңызды қойыңыз.
Абайлаңыз: AI жасаған үлгі коды пайдаланушы деректерін шифрлаусыз сақтауы немесе оны қауіпсіз түрде жіберуі мүмкін. Құпиялық деректер (құпия сөз, денсаулық сақтау, қаржы) құрылғыдағы қауіпсіз жадта сақталуы керек (Keychain — iOS, Keystore — Android; операциялық жүйенің шифрланған қойма аймағы) және желіде шифрланған қосылым (HTTPS/TLS) арқылы жіберіледі. AI мұны әрқашан өздігінен жасай бермейді; Нақты сұраңыз және тексеріңіз.
Деректерді азайту және AI-ге деректерді жіберу
Сіз жинамайтын деректер ағып кетуі мүмкін емес. Деректерді азайту (тек қажет деректерді жинау) құпиялылықтың ең күшті құралы болып табылады. AI мүмкіндіктерінде бұл принцип екі есе маңызды: деректерді бұлттық LLM немесе сыртқы AI қызметіне жіберу кезінде бұл деректер сіздің бақылауыңыздан тыс болады. Пайдаланушының денсаулығы туралы жазбаны, сөйлесу мазмұнын немесе жеке ақпаратты бұлтқа жібермес бұрын, үш сұрақ қойыңыз: (1) Бұл деректер шынымен қажет пе? (2) Оны құрылғыда өңдеуге бола ма? (3) Егер ол жіберілетін болса, пайдаланушы оны біледі және мақұлдай ма? Пайдаланушыға деректерінің AI қызметіне жіберілетіні туралы нақты хабарлау заңды және этикалық талап болып табылады.
Қауіпсіз пайдалану және қорғаныс фокусы
АТ және қауіпсіздік тұрғысынан ескерту: осы модульде үйренген әдістер тек рұқсат етілген және қорғаныс мақсатында ғана қолданылады. Жеке қолданбаңыздың қауіпсіздігін тексеру, пайдаланушы деректерін қорғау және осалдықтарды жабу заңды. Рұқсатсыз басқа біреудің қолданбасын кері өңдеу, келісімсіз пайдаланушы деректерін жинау немесе зиянды бағдарлама жасау үшін AI пайдалану заңсыз және этикалық емес. AI-дан қауіпсіздік көмегін сұрағанда, әрқашан өз жүйеңізді қорғау аясында болыңыз.
үш шағын іс
1-жағдай - Артық демалыстан бас тарту. Жазба қолданбасы іске қосу кезінде AI шығарған кодпен камераны, микрофонды, орынды және контакт рұқсаттарын сұрады. Google Play «функцияға қатысы жоқ рұқсаттарға» сілтеме жасап, бұл шығарылымды қабылдамады. Шығарылым команда тек нақты пайдаланылған сақтау рұқсатын шығарған кезде мақұлданды. Сабақ: әрбір қосымша демалыс тәуекел.
2-жағдай — құпия сөзсіз сақтау. Денсаулық қолданбасы пайдаланушы өлшемдерін AI мысалындағыдай қарапайым мәтіндік файлда сақтайды. Қауіпсіздік аудиті құрылғыны алған кез келген адам денсаулық туралы барлық деректерді оқи алатынын анықтады. Деректер Keystore/Keychain көмегімен шифрланған жадқа жылжытылды. Сабақ: құпия деректер әрқашан шифрланған болып қалады.
3-жағдай - бұлтқа хабарландырусыз басу. Қолданба пайдаланушылардың күнделікті жазбаларын қорытындылау үшін бұлттық LLM жүйесіне жіберді, бірақ ол пайдаланушыға айтпады. Баспасөзде жарияланған кезде сенім жоғалып, заңдық тексеру болды. Команда нақты хабарландыру мен растауды, сондай-ақ құрылғыдағы опцияны қосты. Сабақ: пайдаланушы деректердің АИ-ге түсетінін білуі және растауы керек.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру: "Орналасқан жерді анықтау рұқсатын сұрау."
Күшті нұсқау: "Ең аз артықшылық принципімен iOS/Swift жүйесінде орналасу рұқсатын сұраңыз. - "Әрдайым" емес, тек "пайдаланылған кезде" рұқсатын сұраңыз - Info.plist сипаттамасы: "Жақын маңдағы дүкендерді көрсету үшін" - Рұқсат берілмесе: қаланы қолмен таңдау опциясын ұсыныңыз, апатқа ұшыраңыз - Рұқсат бұрыннан бас тартылған болса, қажет емес рұқсатты қайта бағыттаңыз. бас тарту ағыны да».
Көшіретін үлгілер
Рұқсат сұрау үлгісі: "[платформа] үшін [рұқсат түрі] рұқсатын сұрау.- Ең аз аумақ (пайдалану кезінде/қажет болса)- Контекстте, дәлелді түсіндірмені бар- Қабылданбаған жағдайда сыпайы балама, ешқашан бұзылмайды- Info.plist / Манифест жазбасын да беріңіз. Қосымша рұқсаттарды қоспаңыз; әрбір рұқсатты негіздеңіз."
Рұқсат аудитінің үлгісі: "Қолданбам сұрайтын рұқсаттарды тексеріңіз: [рұқсат тізімі + сипаттар]. Әрбір рұқсат үшін: бұл шынымен қажет пе? Ауқымның тарлығы жеткілікті ме? Дүкенді қабылдамау мүмкін бе? Қажет емес деп белгілеу."
Қауіпсіз деректерді сақтау үлгісі: «[платформа] үшін құпия деректерді ([түрі]) қауіпсіз сақтаңыз:- Keychain/кілт қоймасымен шифрланған- Жадта қажетсіз ұзақ уақыт сақтамаңыз- Журналдар мен сақтық көшірмелерге ағып кетпеңіз Код пен растау қадамдарын қамтамасыз етіңіз."
Деректерді AI жүйесіне жіберу үлгісі: "Мен бұлттық AI қызметіне келесі деректерді жіберуді қарастырып жатырмын: [деректер]. Бағалаңыз: бұл шынымен қажет пе? Оны құрылғыда өңдеуге бола ма? Жіберілсе, қандай өрістерді бүркеу керек? Пайдаланушы келісімін қалай алу керек? Құпиялылық тұрғысынан ең қауіпсіз дизайнды ұсыныңыз."
Жалпы қателер
- Қажетінен көбірек рұқсат сұрау. Сенімге, дүкенді мақұлдауға және қауіпсіздікке үш есе қауіп төндіреді.
- Іске қосу кезінде рұқсаттарды жаппай сұрау. Мәтінмәнсіз рұқсат сұрауы қабылданбайды; мүмкіндікті дереу сұраңыз.
- Қабылдамау сценарийін жазбаңыз. Рұқсат қабылданбаған кезде істен шыққан қолданба нашар және қабылданбаған.
- Құпия деректерді құпия сөзсіз сақтау. Денсаулық, қаржы және құпия сөздер қауіпсіз қоймада сақталуы керек.
- Деректерді бұлтқа/AI жүйесіне пайдаланушыға хабарламай жіберу. Құқықтық және этикалық нормаларды бұзу; Хабарландыру және мақұлдау қажет.
- Қауіпсіздік техникасын рұқсатсыз пайдалану. Бұл тек сіздің жүйеңіздегі қорғаныс мақсаттары үшін ғана заңды.
Қысқаша айтқанда
Құпиялық пен қауіпсіздік басынан бастап жасалған, кейін қосылмайды. Негізгі қағида - ең аз артықшылық: қажет болған жағдайда, негізді түрде қажетті рұқсатты ғана сұраңыз және бас тартқан жағдайда сыпайы балама ұсыныңыз. Сезімтал деректер шифрланған жадта сақталады және шифрланған қосылым арқылы беріледі. Деректерді азайту - ең күшті қорғаныс: сіз жинамаған деректер ағып кетуі мүмкін емес. Деректерді AI-ға, әсіресе бұлтқа жіберудің өзі құпиялылық шешімі болып табылады; Оның қажеттілігі сұралады, мүмкін болса, құрылғыда артықшылық беріледі, пайдаланушыға хабарланады және оның мақұлдауын алады. Жасалған әрбір код AI-ның шамадан тыс рұқсаттарды қосу және қауіпсіз сақтау үрдістеріне қарсы тексеріледі. Қауіпсіздік техникасы тек рұқсат етілген және қорғаныс мақсаттарында қолданылады.
Қолданбалы тапсырма
Қолданбаның (жеке жобаңыз немесе ойдан шығарылған) сұрауларының тізімін жасаңыз және "Рұқсаттарды тексеру үлгісі" арқылы AI-ның қайсысы қажет емес немесе шектен тыс екенін тексеруге мүмкіндік беріңіз. Кем дегенде бір рұқсатты нақтылаңыз немесе жойыңыз және сол мүмкіндік үшін бас тарту сценарийін жазыңыз. Бұған қоса, егер сіз пайдаланушы деректерін бұлтқа жіберіп жатсаңыз, «Деректерді AI-ға жіберу шешімі үлгісі» арқылы ең қауіпсіз дизайнды анықтаңыз және пайдаланушыны мақұлдау мәтінін жазыңыз.
бақылау парағы
- [ ] Мен әрбір рұқсатты негізді түрде, ең аз артықшылық принципімен сұрадым.
- [ ] Мен рұқсаттарды іске қосу кезінде жаппай емес, мүмкіндік уақытында контексте сұрадым
- [ ] Мен әрбір рұқсат үшін қабылдамау сценарийін жаздым, ешқандай бұзылулар жоқ
- [ ] Мен құпия деректерді Keychain/Keystore арқылы шифрланған сақтадым
- [ ] Мен бұлтқа/AI жүйесіне жіберілетін деректерді азайтып, пайдаланушының мақұлдауын қостым
- [ ] Мен қорғаныс әдістерін тек өз жүйемде қорғаныс мақсатында қолдандым