Табыстар:
- Сезімталдық класы бойынша ақпаратты бағалау мүмкіндігі (жария / ішкі / құпия / өте құпия) және «сыныпты сұраңыз, құралды сәйкестендіріңіз» рефлексін қолдану
- Деректерді сақтауды, модельдерді оқытуды, AI жинау және бұзу тәуекелдерін түсіну және ашық және жіктелген әлемді бөлек ұстау
- Ең төменгі деректер принципін, жеке деректерді қорғауды және белгісіз ақпаратты жоғары сынып сияқты қорғау тәртібін қабылдау мүмкіндігі.
Дипломатия сенімге негізделген, ал сенім құпияға негізделген. Келіссөз позициясы, барлау бағасы, сұхбаттасушымен әңгімелесу мазмұны немесе әлі жарияланбаған шешім дұрыс емес адамдардың қолында болуы мемлекеттің мүдделеріне, келіссөздердің нәтижесіне немесе тіпті адамдардың қауіпсіздігіне қауіп төндіруі мүмкін. Жасанды интеллект бұл салаға үлкен жылдамдық әкеледі, бірақ ол сонымен қатар жеке өмірге қатысты жаңа және елеулі тәуекелдерді де тудырады. Бұл бөлімде сіз жасанды интеллект дәуірінде құпия және құпия ақпаратты қалай қорғау керектігін, қандай деректер қандай көлікке кіре алатынын және қауіпсіз пайдалану тәртібін үйренесіз.
Бұл блок модульдің ең маңызды қауіпсіздік сабағы болып табылады. Мұндағы бір қате — құпия құжатты дұрыс емес құралға қою — қайтымсыз. Сондықтан есте сақтауды қажет ететін рефлекс осы жерде орнатылады: AI құралына кез келген деректерді бермес бұрын әрқашан сұраңыз: бұл деректер қай сыныпта және бұл құрал осы сынып үшін бекітілген бе?
Ақпараттың жіктелуі: негізгі айырмашылық
Дипломатиялық ақпарат көбінесе сезімталдығына қарай жіктеледі. Ол әр мекемеде әртүрлі болғанымен, негізгі логика мынада:
- Құпияланбаған/жалпыға ортақ: Жарияланған және жалпыға қолжетімді ақпарат. Мысалы: ресми пресс-релиздер, қоғамдық жаңалықтар.
- Шектеулі/ішкі: жалпыға қолжетімді емес, бірақ сезімталдығы төмен ішкі ақпарат.
- Құпия: ашылуы мемлекет мүдделеріне елеулі зиян келтіруі мүмкін ақпарат. Мысалы: келіссөз позициясы, ішкі бағалау.
- Өте құпия: Ашылуы аса ауыр зиян келтіретін ақпарат. Мысал: сезімтал интеллект, маңызды қауіпсіздік ақпараты.
Ереже қарапайым: жалпыға қолжетімді емес құпия ақпарат сіздің мекемеңіз сол сынып үшін мақұлдамаған AI құралына енгізілмейді. Қоғамдық AI қызметі анықтамасы бойынша ақпараттың осы сыныбы үшін сертификатталмаған.
Кеңес: Егер сенімсіз болсаңыз, ақпаратты аға буын ретінде қарастырыңыз. «Бұл бұрыннан белгілі» деу қауіпті болжам. Ақпараттың ашық екеніне 100 пайыз сенімді болмайынша, оны құпия сияқты қорғаңыз. Қажетсіз сақтық - бұл шығын емес, бұл кепілдік.
AI құпиялылық тәуекелдері
AI құралдары дәстүрлі бағдарламалық жасақтамаға қарағанда әртүрлі құпиялылыққа қауіп төндіреді:
1. Деректерді өңдеу және сақтау: Жалпыға қолжетімді AI қызметіне жазған мәтініңіз сол қызметтің серверлерінде өңделуі және сақталуы мүмкін. Оған кім кіретінін, қанша уақыт сақталатынын және қалай пайдаланылғанын басқара алмайсыз.
2. Үлгіні оқытуда пайдалану: Кейбір қызметтер үлгіні жақсарту үшін енгізген деректерді пайдалануы мүмкін. Бұл сіздің құпия ақпаратыңыз модельдің «жадына» жанама түрде түсіп, басқаларға ағып кету қаупін тудырады.
3. Агрегация тәуекелі: жеке-жеке зиянсыз болып көрінетін ақпарат бөліктері біріктірілген кезде сезімтал суретті құра алады. Әртүрлі уақытта енгізілген ақпараттың шағын бөліктері бірлесіп құпия позицияны бере алады.
4. Қол жеткізу және бұзу қаупі: Кез келген сыртқы жүйе сияқты, AI қызметтері де деректердің бұзылуына ұшырауы мүмкін. Сіз берген деректер бұл бұзушылықта ашылуы мүмкін.
Бұл тәуекелдердің шешімі екі бөлек әлемді құру болып табылады: ашық бастапқы жұмыс үшін жалпы құралдар; Тек құпия жұмыс үшін деректерді экспорттамайтын ішкі, қауіпсіз, бекітілген жүйелер. Ешқашан екеуін араластырмаңыз.
Назар аударыңыз: «Мен оны жасырын етіп қойдым» деп айту жиі жеткіліксіз. Тіпті атауларды жойсаңыз да, контекст (күні, орны, оқиғасы, тараптардың саны) сарапшының жеке басын және ұстанымын түзетуі үшін жеткілікті болуы мүмкін. Нақты құпия ақпарат бүркемелеу арқылы емес, құралдар мен медианы дұрыс таңдау арқылы қорғалады.
Қауіпсіз пайдалану тәртібі
Практикалық басқару ағынын орнату:
- Сыныпты анықтаңыз. Бұл деректер ашық па, ішкі ма, құпия ма, әлде өте құпия ма?
- Көлікті жұптаңыз. Бұл сыныпты осы құралда өңдеуге бола ма? Болмаса, тоқта.
- Минималды деректер саясаты. Тіпті жұмысқа жарамды жұмыста болса да, жұмыс талап ететіннен артық ақпарат бермеңіз.
- Жеке деректерді қорғау. Жеке деректер (аты-жөні, байланысы, орналасқан жері) қажет болған жағдайда және заңды негізде өңделеді; Қажет болмаса, ол маскамен жабылады немесе мүлдем берілмейді.
- Жазбаны сақтаңыз. Қай жұмыс үшін қандай құралды, қандай деректермен пайдаланғаныңызды құжаттаңыз; Мәселе болса, оны анықтауға болады.
Кеңес: Командаңызда «біріншіден құпиялылық» мәдениетін орнатыңыз: жаңа кеңсе қызметкері немесе интерн бірінші күннен бастап «қоғамдық игілікке ешқандай құпия құжат енбейді» рефлексін үйренуі керек. Құқық бұзушылықтардың көпшілігі арам ниеттен емес, көліктің қаншалықты ашық екенін білмеуден туындайды.
үш шағын іс
1-жағдай — рефлекс бұзылудың алдын алды. Сарапшы сұхбат жазбасын қорытындыламақшы болған, ол тоқтап, оның жіктелуін сұраған кезде: жазба сұхбаттасушымен құпия әңгіме болды. Қоғамдық құралдың орнына ішкі қауіпсіздік жүйесіне ауысты. Қарапайым «бірінші сыныптан сұра» рефлексі бұзудың алдын алды.
2-жағдай – Инкассо тәуекелі танылды. Команда әртүрлі күндерде сыртқы құралға шағын, «зиянсыз» болып көрінетін ақпарат бөліктерін енгізеді. Қауіпсіздікті шолу бұл бөліктер біріктірілгенде алдағы келіссөздердің күн тәртібін беретінін көрсетті. Қолданба тоқтатылды; Жұмыс қауіпсіз ортаға көшірілді.
3-жағдай – жалған анонимділік. Кеңсе қызметкері құжатты «анонимді» деп санады, өйткені ол атауларды жойып, оны сыртқы агентке берді. Алайда құжаттағы күн, орын және оқиғаның сипаттамасы кімнің айтқысы келгенін анық көрсетті. Атын жою жеткіліксіз болды; Құжат бәрібір қауіпсіз ортада өңделуі керек еді.
Көшірілетін төрт үлгі
1) Класс пен көлік құралын алдын ала тексеру:
Мен төменде жұмысты сипаттаймын. Маған айтыңыз (жұмысты орындамаңыз): (1) бұл деректердің қандай сезімталдық класы болуы мүмкін (қоғамдық / ішкі / құпия / өте құпия), (2) бұл сыныпты жалпыға ортақ AI құралында өңдеу керек пе, (3) болмаса, қандай орта түрі қажет. Жұмыс/деректер сипаттамасы: [мұнда]
2) Жеке деректерді сканерлеу және бүркемелеу:
Төмендегі мәтінде өңдеу алдында бүркемелеу керек жеке/сезімтал деректердің (аты-жөні, лауазымы, контакті, орналасқан жері, денсаулығы, жеке куәлігінің нөмірі) тізімін жасаңыз. МӘТІНДІ ӨҢДЕУ; Тек қай жерлерді алып тастау керектігін айтыңыз. Мен масканы жасап, қайта жіберемін. Мәтін: [мұнда]
3) Коллекциялық тәуекелді бағалау:
Мен келесі ақпарат бөліктерін сыртқы құралға бөлек экспорттауды қарастырып жатырмын: [бөліктер]. Олар жеке-жеке зиянсыз болып көрінсе де, БІРІКТЕГЕН кезде олар сезімтал суретті (мысалы, ұстаным, күн тәртібі, жеке басын куәландыратын) жасай ала ма? Жинау қаупін бағалаңыз және қандай заттарды бірге беруге болмайтынын айтыңыз.
4) Жалпыға қолжетімділікті растау:
Мен келесі ақпараттың жалпыға ортақ екеніне сенімді емеспін: [ақпарат]. Оны жалпыға ортақ деп санамас бұрын қандай тексеруден өтуім керек екенін көрсетіңіз (ресми шығарылым бар ма, оны кім жариялады, күні). Егер мен сенімсіз болсам, маған «құпия ретінде қарау» қағидасын еске түсіріңіз.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Осы сұхбат жазбасын қорытындылаңыз. (жасырын мазмұн жазбаға тікелей қойылады)
Бұл ең қауіпті қате: құпия құжат өзінің сыныбына күмән келтірмей, көпшілікке арналған ақпарат құралдарына енген. Ағып кету қаупі орын алды және оны қайтару мүмкін емес.
Күшті шақыру (алдымен тексеріңіз):
Мен кездесу жазбасын өңдегім келеді. Бірақ бірінші: бұл жазба құпия сыныпта болуы мүмкін. Айтыңызшы, бұл құжат түрін жалпыға ортақ құралда өңдеуге болады ма және дұрыс жолы қандай? МЕН СІЗГЕ ҚҰЖАТ МАЗМҰНЫН БЕРМЕЙМІН; Мен тек дұрыс процесті сұраймын.
Айырмашылық анық: құпия мазмұн мүлде берілмейді, алдымен дұрыс процесс сұралады және жұмыс тиісті ортаға бағытталады.
Класс-көлік картасының кестесі
ақпараттық сынып
мысал
Қоғамдық AI
дұрыс орта
қоғамдық
пресс-релиз
қолайлы
жалпы құрал
Ішкі/қызметке тән
ішкі нота
Әдетте жоқ
Үйде бекітілген
құпия
келіссөздер позициясы
ешқашан
Қауіпсіз мекеме жүйесі
аса құпия
сезімтал интеллект
ешқашан
ең жоғары қауіпсіздік
жеке деректер
тіркелгі деректері
Тек қажетті+заңды
Бетперделенген/қорғалған
Жалпы қателер
- Деректерді сыныпты сұрамай енгізу. Әрбір жұмыстың алдында «бұл қай сыныпта?» рефлексі. міндетті болып табылады.
- «Бұл анық шығар» деп болжасақ. Белгісіз ақпарат құпия ретінде қорғалады.
- Атын жоюды анонимизация деп қателесу. Мәтінмән сәйкестіктерді бере алады.
- Жинау қаупін елемеу. Кішкентай бөлшектер жиналған кезде нәзік болуы мүмкін.
- Екі дүниені араластыру. Ашық және жіктелген жұмыстар бөлек құралдарда/ортада орындалады.
Қысқаша айтқанда
Құпиялылық - бұл дипломатиялық AI пайдаланудың ең маңызды шегі. Ақпараттың жіктелуін (жария/ішкі/құпия/өте құпия), «сұрау класы, сәйкес көлік» рефлексі, деректердің минималды принципі, жеке деректерді қорғау және жинау тәуекелі осы бөлімшенің негізі ретінде қабылданады. Ашық кодпен жұмыс істеуге арналған жалпы құралдар; Құпия жұмыстарды орындау үшін тек ішкі қауіпсіз, бекітілген жүйелерді пайдаланыңыз. Ешқашан екеуін шатастырмаңыз; Күмәндансаңыз, ақпаратты аға сияқты қорғаңыз.
Қолданбалы тапсырма
Өзіңіздің (немесе ойдан шығарылған) үстеліңізден (кейбіреулері жалпыға ортақ, кейбіреулері сезімтал) 8 түрлі деректер бөлігін тізімдеңіз. Әрқайсысын сыныпқа орналастырып, «оны қай құралда өңдеуге болатынын» шешіңіз. «Класс пен көлікті алдын ала тексеру» үлгісімен түсініксіздерді бағалаңыз. Үш бөлікті таңдап, олардың «жинақтау тәуекелін бағалаумен» үйлескенде сезімтал суретті құрайтынын тексеріңіз.
бақылау парағы
- [ ] Мен алдымен әрбір деректер үшін сезімталдық класын анықтадым.
- Мен ешқашан [ ] класы қоғамдық көлікке сәйкес келмейтін деректерді енгізген емеспін.
- [ ] Мен сенімді емес ақпаратты басшы сияқты қорғадым.
- [ ] Мен жеке деректерді қажет болғанда және заңды, бүркенішпен өңдеймін.
- [ ] Мен екі дүниені жинап, бөлуге тәуекел еттім.