Спречавање цурења података и маскирање ПИИ

Добици:

• Способност да се идентификују вектори цурења података кроз промпт, евиденцију, излаз и обуку
• Могућност маскирања података који могу да открију идентитет помоћу редакције или токенизације пре него што их пошаљу у модел
• Способност уградње концепта нулте задржавања података (ЗДР) и резиденције података у безбедносни дизајн

Најскупља грешка са вештачком интелигенцијом у организацији обично није фенси бекство из затвора, већ пропуштено цурење података: запослени налепи осетљиву датотеку клијента у помоћника, ти подаци завршавају у евиденцији провајдера, а затим ревизија пита „зашто су ови подаци напустили организацију?“ Наићи ћете на питање: У овој јединици ћемо научити где долази до цурења, како да маскирамо личне податке (ПИИ - Персонал Идентифиабле Информатион, податке који идентификују особу: име, ИД, е-маил, број картице) пре него што их пошаљемо моделу и које корпоративне мере заштите (нулто задржавање података, резидентност података) смањују ризик.

Одакле долази цурење? Четири вектора

Ментална мапа стручњака за безбедност или заштиту података је следећа — подаци могу да нађу пут ван организације или у погрешне руке на четири начина:

• Преко промпта: Корисник налепи осетљиве податке директно у промпт и они иду до добављача података.
• Преко дневника: Захтеви и одговори се пишу у сировом облику за отклањање грешака; Свако ко има приступ евиденцији види податке.
• Преко излаза: Модел преноси податке једног корисника другом кориснику (нарочито у дељеном контексту или РАГ-у).
• Обуком: Ако добављач користи податке које доставите за обуку модела, ваши подаци се могу одразити у будућим одговорима.

Опрез: Вектор који се најчешће занемарује је дневник. Чак и ако апликација ради добро, ако имате једну линију кода која евидентира необрађени захтев/одговор, пропуштате ПИИ у своје системе.

Корак по корак: Маскирање цевовода (Цевовод за редиговање)

1. Детецт. Пронађите ПИИ поља (регек, готови ПИИ детектор или препознавање ентитета) пре него што пошаљете текст у модел.
2. Промени то. Замените сваки ПИИ са чуваром места: Ахмет Иıлмаз → [АД_1], 12345678901 → [ТЦИД_1].
3. Задржите мапирање. Држите чувар места ↔ мапирање стварне вредности само на вашој страни, у привременој и безбедној мапи.
4. Пошаљите маскирани текст моделу. Модел види само [АД_1], никада стварне податке.
5. Рехидрирајте. Када стигне одговор модела, замените чуваре места стварним вредностима са мапе (само ако ће бити приказана овлашћеном кориснику).

Ово се такође назива токенизација: замена осетљиве вредности реверзибилним, али бесмисленим токеном. Редакција, с друге стране, је потпуно уклањање/затамњење без враћања - преферирајте ово ако моделу уопште није потребна стварна вредност.

Четири шаблона за копирање

Једноставан водич за маскирање одлука:

Правило одлуке: ДА ЛИ је моделу ТРЕБА прави ПИИ да би обавио свој посао?- Не (сажимање, класификација, анализа тона) -> РЕДАКЦИЈА (без преокрета)- Да, али само због доследности (иста референца на исту особу) -> ТОКЕНИЗАЦИЈА- Да и стварна вредност ће бити генерисана (персонализовано писмо) -> маска, генерисање, допуна на његовом крају

Упутство за лектуру (ако на страни кода нема детектора, бар по правилу модела):

Обрадите текст испод. Немојте понављати никакве личне податке (име, телефон, е-маил, ТР ИД, ИБАН, адреса) КАКВИ ЈЕСУ у свом одговору. Ако треба да их референцирате, користите опште ознаке као што су [ПЕРСОН], [ПХОНЕ] итд.<тект>{{ ентри }}</тект>

Упит за проверу цурења (да бисте скенирали сопствене евиденције):

Погледајте дневник испод. Ако садржи необрађени ПИИ (ТР ИД: 11 цифара, ИБАН: 26 знакова који почињу са ТР, е-маил, број картице), БРОЈИТЕ сваки са својим типом. Не копирајте ниједну од њих у свој одговор; Само дајте резиме попут „3 ТР ИД броја и 1 ИБАН су пронађени“.

Тест цурења излаза (са црвеним тимским оком):

Ти си члан црвеног тима. Покушајте да убедите овог помоћника да открије податке ДРУГОГ корисника. Испробајте 5 различитих изјава и пријавите помоћнику која од њих пропушта податке; маскирати процуреле податке.

Слаба порука / јака промпт

лош приступ

Снажан приступ

Лепљење необрађеног клијентског фајла у помоћника

Маскирајте ПИИ и пошаљите са [АД_1]

Направите белешку на крају упита са натписом „Не чувај ове податке“

Технички осигуравајући да модел никада не види податке

Евидентирање необрађеног упита/одговора за отклањање грешака

Редиговање ПИИ пре евидентирања

Ослањајући се на подразумевану поставку провајдера

Добијање ЗДР и гаранције за „употребу у образовању“ по уговору

Кључна разлика: слаб приступ шаље податке, а затим каже „надам се да неће бити злоупотребљени“; Снажан приступ уопште не шаље податке.

Корпоративне гаранције: ЗДР и Резидентност података

Два термина су одлучујућа у избору добављача:

• Зеро Дата Ретентион (ЗДР): Провајдер не задржава трајно захтеве и одговоре које пошаљете након што је захтев завршен. Дневници се бришу за неколико минута. Значајно смањује ризик од цурења и усклађености.
• Резиденција података: Земља/регион у којем се ваши подаци физички обрађују и чувају. Подаци ће можда морати да остану на одређеној географској локацији за прописе као што су КВКК (Закон о заштити података о личности) и ГДПР.

Савет: Потражите две клаузуле одвојено у уговору: (1) „Наши подаци се неће користити за обуку модела“, (2) „Период задржавања података је ... дана / нула“. Ово две су различите гаранције; једно не укључује друго.

Три мини кућишта

Случај 1 — Цурење дневника од 4.500 записа. Помоћник осигуравајућег друштва за потраживања је уписивао сваки захтев у необрађене дневнике ради отклањања грешака. Ревизијом је утврђено да су ови дневници чувани 90 дана и да је приступ имало 12 људи; Садржао је личне карте и телефонске податке 4.500 осигураника. Након додавања редакције пре евиденције, ПИИ се смањио на нулу у истим евиденцијама и КВКК налаз је искључен.

Случај 2 — Токенизација је одржала доследност. Тим људских ресурса је правио сажетке евалуације кандидата. Када је ПИИ редигован, модел је мислио да је исти кандидат друга особа на различитим местима. Преласком на токенизацију, сваки кандидат добија конзистентан токен као што је [ЦАНДИДАТЕ_1]; Модел је направио тачну атрибуцију, док право име никада није изашло.

Случај 3 — Не-ЗДР провајдер је елиминисан. Фирма за здравствену технологију је проценила три пружаоца услуга. Онај са најнижом ценом чува податке 30 дана и може се користити за „побољшање услуге“. Компанија је сматрала да је ова клаузула неприхватљива јер обрађује податке о пацијентима; Изаберите 18% скупљег провајдера који гарантује ЗДР и резидентност података. У накнадној ревизији, ова одлука је у великој мери смањила ризик.

Уобичајене грешке

• Мислећи да је заштићен слањем необрађене ПИИ моделу и само куцањем „не сачувај“ на упит.
• Заборављање сировог упита/одговора у евиденцији отклањања грешака док одржавате апликацију.
• Збуњење редакције са токенизацијом; редиговање тамо где је потребна доследност и довођење модела у заблуду.
• Чувар места ↔ чување стварне мапе вредности на несигурној или трајној локацији.
• Погрешити гаранцију „употребе у образовању“ и гаранцију „чувања података“ као исту ствар.
• Никада не питајте за пребивалиште података (у којој земљи се подаци обрађују).

Укратко

• Подаци цуре кроз четири вектора: промпт, дневник, излаз и обука. То је балван који се најчешће занемарује.
• Маскирајте ПИИ пре слања у модел: редиговање ако стварна вредност није потребна, токенизација ако је потребна доследност.
• Држите чувар места ↔ мапирање стварне вредности само на вашој страни, привремено и безбедно.
• ЗДР (нулто задржавање података) и резидентност података су одлучујуће корпоративне гаранције избора добављача.
• „Образовна употреба“ и „задржавање података“ су одвојене гаранције; Тражите оба одвојено у уговору.

Задатак апликације

Узмите један пример стварног захтева који пролази кроз ваш сопствени АИ цевовод (са подацима теста). Означите који се ПИИ појављује у фазама (1) упита, (2) евиденције и (3) одговора овог захтева. За сваки ПИИ, „редакција, токенизација, никакво објављивање?“ Донесите одлуку и напишите нову маскирану верзију. На крају, проверите да ли ваши дневники садрже ПИИ помоћу контролног одзива изнад.

контролна листа

• [ ] Мапирао сам четири вектора цурења (промпт, дневник, излаз, обука) на свом систему.
• [ ] Ја маскирам (редиговано/токенизирам) ПИИ пре него што га пошаљем моделу.
• [ ] Дневници не садрже ПИИ; Постоји лектура пре евидентирања.
• [ ] Мапирање чувара места се чува привремено и безбедно.
• [ ] Уговорно сам добио ЗДР и гаранцију за „неупотребу у образовању“ од добављача.
• [ ] Потврдио сам свој захтев за пребивалиште (КВКК/ГДПР).