Пайдалар:
- Ыкчам, журнал, чыгаруу жана окутуу аркылуу маалыматтардын агып кетишинин векторлорун аныктоо мүмкүнчүлүгү
- PII берилиштерин моделге жөнөтүүдөн мурун редакциялоо же токенизациялоо менен жаап коюу мүмкүнчүлүгү
- Коопсуздук дизайнына маалыматтарды нөлдүк сактоо (ZDR) жана маалыматтардын резиденттик концепцияларын киргизүү мүмкүнчүлүгү
Уюмдун эң кымбат AI кырсыктары, адатта, укмуштуудай джейлбрейк эмес, тез арада берилүүчү маалыматтардын агып чыгышы болуп саналат: кызматкер сезимтал кардар файлын жардамчыга чаптайт, ал маалыматтар провайдердин журналына түшүп калат, андан кийин аудит "эмне үчүн бул маалымат уюмдан чыгып кетти?" Сиз суроого туш болосуз: Бул бөлүмдө биз жеке маалыматтарды (PII - Жеке идентификациялоочу маалымат, адамды аныктаган маалыматтар: аты-жөнү, ID, e-mail, картанын номери) моделге жөнөтүүдөн мурун жана кайсы корпоративдик коргоо чаралары (маалыматтарды нөлдүк сактоо, маалыматтардын резиденттиги) тобокелдикти азайтат.
Суу кайдан чыгат? Төрт вектор
Коопсуздук же маалыматтарды коргоо боюнча адистин психикалык картасы бул — маалыматтар уюмдан тышкары же туура эмес колго төрт жол менен жол таба алат:
- Сурам аркылуу: Колдонуучу купуя маалыматтарды түздөн-түз эскертүүгө чаптайт жана ал маалымат камсыздоочуга барат.
- Журнал аркылуу: Сурамдар жана жооптор журналдарды оңдоо үчүн чийки түрүндө жазылат; Журналдарга кирүү мүмкүнчүлүгү бар адам дайындарды көрөт.
- Чыгуу аркылуу: Модель бир колдонуучунун маалыматтарын башка колдонуучуга (айрыкча жалпы контекстте же RAG) агып берет.
- Тренинг боюнча: Эгерде провайдер сиз тапшырган маалыматтарды моделди үйрөтүү үчүн колдонсо, сиздин маалыматтар келечектеги жооптордо чагылдырылышы мүмкүн.
Эскертүү: Эң көп көз жаздымда калган вектор бул журнал. Тиркеме жакшы иштесе дагы, эгер сизде чийки суроо-жоопту каттаган бир сап код бар болсо, сиз PIIди өз тутумуңузга агып жатасыз.
Кадам-кадам: Маскалоочу түтүк (редакция түтүгү)
- аныктоо. Текстти моделге жөнөтүүдөн мурун PII талааларын табыңыз (регекс, даяр PII детектору же объектти таануу).
- Аны өзгөрт. Ар бир PIIди толтургуч менен алмаштырыңыз: Ахмет Йылмаз → [AD_1], 12345678901 → [TCID_1].
- Картаны сактаңыз. Убактылуу жана коопсуз картада толтургуч ↔ чыныгы маани картасын сиз тарапта гана сактаңыз.
- Үлгүгө маскаланган текстти жөнөтүңүз. Модель [AD_1] гана көрөт, эч качан чыныгы дайындар.
- Регидратациялоо. Модель жообу келгенде, толтургучтарды картадагы чыныгы маанилер менен алмаштырыңыз (эгерде ал ыйгарым укуктуу колдонуучуга көрсөтүлсө гана).
Бул дагы токенизация деп аталат: сезимтал маанини кайра кайтарылуучу, бирок маанисиз белгиге алмаштыруу. Редакция, экинчи жагынан, кайра кайтарбастан, толугу менен алып салуу/караңгылатууда — эгер моделге чыныгы маани такыр эле керек болбосо, муну тандаңыз.
Көчүрмө төрт шаблон
Чечимдерди жашыруу үчүн жөнөкөй жол:
Чечим кабыл алуу эрежеси: Модельге өз ишин аткаруу үчүн чыныгы PII КЕРЕКПИ?- Жок (жыйынтыктоо, классификация, тон анализи) -> REDACTION (кайтаруу жок)- Ооба, бирок ырааттуулук үчүн гана (ошол эле адамга шилтеме) -> TOKENIZATION- Ооба жана чыныгы маани түзүлөт (жекелештирилген кат) -> маска, генерациялоо, анын аягында толтуруу
Корректордук инструкция (эгерде код тарабында эч кандай детектор жок болсо, жок эле дегенде, моделдин эрежеси боюнча):
Төмөнкү текстти иштетиңиз. Жообуңузда кандай болсо да жеке маалыматтарды (аты-жөнү, телефону, e-mail, TR ID, IBAN, дарек) кайталабаңыз. Эгер аларга шилтеме керек болсо, [АДАМ], [ТЕЛЕФОН] ж.б. сыяктуу жалпы тегдерди колдонуңуз.<text>{{ entry }}</text>
агып текшерүү (өз журналдарын сканерлөө үчүн):
Төмөндөгү журналды текшериңиз. Эгерде анда чийки PII камтылса (TR ID: 11 цифра, IBAN: TR менен башталган 26 белги, электрондук почта, карта номери), ар бирин өзүнүн түрү менен санаңыз. Жообуңузга алардын бирин да көчүрбөңүз; Жөн гана "3 TR ID номери жана 1 IBAN табылды" сыяктуу кыскача маалымат бериңиз.
Чыгуу агып чыгуу сыноо (кызыл команда көзү менен):
Сиз кызыл команданын мүчөсүсүз. Бул жардамчыны БАШКА колдонуучунун дайындарын ачууга көндүрүүгө аракет кылыңыз. 5 түрдүү билдирүүлөрдү колдонуп көрүңүз жана кайсынысы маалымат агып кеткенин жардамчыга билдириңиз; чыгып кеткен маалыматтарды маска.
Алсыз тездик / Күчтүү эскертүү
начар мамиле
Күчтүү мамиле
Чийки кардар файлын жардамчыга чаптоо
PII маскасын жана [AD_1] менен жөнөтүү
Билдирүүнүн аягында "Бул дайындарды сактаба" деп жазып коюңуз
Техникалык жактан моделдин эч качан маалыматтарды көрбөшүн камсыз кылуу
Мүчүлүштүктөрдү оңдоо үчүн чийки билдирүү/жооп жазуу
Каттоодон мурун PII түзөтүү
Провайдердин демейки жөндөөсүнө таянуу
Келишим боюнча ZDR жана "билимде колдонуу" гарантиясын алуу
Негизги айырма: начар ыкма маалыматтарды жөнөтөт, анан "ал кыянаттык менен колдонулбайт деп үмүттөнөм" дейт; Күчтүү мамиле такыр маалыматтарды жибербейт.
Корпоративдик кепилдиктер: ZDR жана маалыматтар резиденциясы
Жөнөтүүчүлөрдү тандоодо эки шарт чечүүчү:
- Нөлдүк маалыматты сактоо (ZDR): Провайдер сурам аяктагандан кийин сиз жөнөткөн суроо-талаптарды жана жоопторду биротоло сактабайт. Журналдар бир нече мүнөттүн ичинде жок кылынат. Ачуу жана ылайык келүү коркунучун олуттуу түрдө азайтат.
- Маалымат резиденциясы: Сиздин маалыматтарыңыз физикалык жактан иштетилип, сакталган өлкө/регион. KVKK (Жеке маалыматтарды коргоо мыйзамы) жана GDPR сыяктуу эрежелер үчүн маалымат белгилүү бир географияда сакталышы керек болушу мүмкүн.
Кеңеш: Келишимде эки пунктту өзүнчө издеңиз: (1) "Биздин маалыматтар моделди окутуу үчүн колдонулбайт", (2) "Маалыматтарды сактоо мөөнөтү ... күн / нөл". Бул эки башка кепилдиктер; бири экинчисин камтыбайт.
Үч мини Case
1-жагдай - 4,500 жазуулардын агып чыгышы. Камсыздандыруу компаниясынын дооматтар боюнча жардамчысы ар бир суроону мүчүлүштүктөрдү оңдоо үчүн чийки журналдарга жазып жаткан. Аудит бул журналдар 90 күн бою сакталганын жана 12 адам кирүү мүмкүнчүлүгүнө ээ болгонун аныктады; Анда 4500 камсыздандыруучунун ID жана телефон маалыматтары камтылган. Алдын ала журналды оңдоо кошулгандан кийин, ошол эле журналдарда PII нөлгө чейин азайып, KVKK табылышы өчүрүлгөн.
2-жагдай - Токенизация ырааттуулукту сактады. Адам ресурстары командасы талапкерлердин баалоо корутундусун чыгарып жаткан. PII түзөтүлгөндө, модель бир эле талапкер ар кайсы жерлерде башка адам деп ойлоду. Токенизацияга өтүү менен ар бир талапкер [CANDIDATE_1] сыяктуу ырааттуу белгилерди алды; Модель туура атрибуция жасаган, ал эми чыныгы аты эч качан чыккан эмес.
3-жагдай - ZDR эмес камсыздоочу жок кылынды. Саламаттыкты сактоо технологиялык фирмасы үч камсыздоочуга баа берди. Эң төмөн баадагы маалымат 30 күн бою сакталып, "кызматты жакшыртуу" үчүн колдонулушу мүмкүн. Компания бул пунктту кабыл алынгыс деп тапты, анткени ал пациенттин маалыматтарын иштетет; ZDR жана маалыматтардын резиденциясына кепилдик берген 18% кымбатыраак камсыздоочуну тандаңыз. Кийинки аудитте бул чечим тобокелдикти бир топ азайтты деп эсептелген.
Жалпы каталар
- Бул моделге чийки PII жөнөтүү менен корголгон деп ойлоп, жөн гана "сактаба" деп терүү.
- Колдонмону сактап жатканда мүчүлүштүктөрдү оңдоо журналдарындагы чийки ыкчам/жоопту унутуу.
- Редакцияны токенизация менен чаташтыруу; ырааттуулук керек болгон жерде түзөтүү жана моделди адаштыруу.
- Толтургуч ↔ кооптуу же туруктуу жерде чыныгы маани картасын сактоо.
- "Билим берүүдө колдонуу" кепилдиги менен "маалыматтарды сактоо" кепилдиги бир эле нерсе деп жаңылыштык.
- Эч качан маалымат резиденциясын сурабаңыз (маалыматтар кайсы өлкөдө иштетилет).
Кыскача айтканда
- Маалыматтар төрт вектор аркылуу агып кетет: ыкчам, журнал, чыгаруу жана окутуу. Бул көбүнчө көз жаздымда калган журнал.
- Моделге жөнөтүүдөн мурун Маска PII: эгерде чыныгы маани керек болбосо, редакциялоо, ырааттуулук керек болсо, токенизация.
- Толтургуч ↔ чыныгы маани картасын сиз тарапта гана, убактылуу жана коопсуз сактаңыз.
- ZDR (нөлдүк маалыматты сактоо) жана маалымат резиденттиги жеткирүүчүлөрдү тандоонун чечүүчү корпоративдик кепилдиктери болуп саналат.
- "Билим берүү максатында пайдалануу" жана "маалыматтарды сактоо" өзүнчө кепилдиктер болуп саналат; Келишимде экөөнү өзүнчө сураңыз.
Колдонмо тапшырмасы
Өзүңүздүн AI түтүкчөңүз аркылуу (сыноо маалыматтары менен) реалдуу суроо-талаптын бир мисалын алалы. Бул сурамдын (1) сунушта, (2) журналда жана (3) жооп фазаларында кайсы PII көрсөтүлөрүн белгилеңиз. Ар бир PII үчүн "редакция, токенизация, такыр жарыялоо жокпу?" Чечим кабыл алып, жаңы маскаланган версияны жазыңыз. Акыр-аягы, журналдарыңызда PII камтылганбы же жокпу, жогорудагы башкаруу сунушу менен текшериңиз.
текшерүү тизмеси
- [ ] Мен тутумумдагы төрт агып кетүү векторунун (тез, журнал, чыгаруу, окутуу) картасын түздүм.
- [ ] Мен PIIди моделге жөнөтүүдөн мурун маска кылам (редакцияланган/токенизациялайм).
- [ ] Журналдарда PII камтылган эмес; Каттоодон мурун текшерүү бар.
- [ ] Толтургучтун картасы убактылуу жана коопсуз сакталат.
- [ ] Мен келишим боюнча ZDR жана провайдерден "билим берүү тармагында колдонбоо" гарантиясын алдым.
- [ ] Мен өзүмдүн дайындарымдын жашаган жери боюнча талапты ырастадым (KVKK/GDPR).