Daromadlar:
- Tezkor, jurnal, chiqish va o'qitish orqali ma'lumotlarning sizib chiqishi vektorlarini aniqlash qobiliyati
- Modelga yuborishdan oldin PII ma'lumotlarini redaktsiya yoki tokenizatsiya bilan niqoblash imkoniyati
- Xavfsizlik dizayniga nol ma'lumotlarni saqlash (ZDR) va ma'lumotlar rezidentligi tushunchalarini kiritish qobiliyati
Tashkilotdagi eng qimmat sun'iy intellekt xatosi odatda xayoliy jailbreak emas, balki tez orada ma'lumotlarning sizib chiqishidir: xodim nozik mijoz faylini yordamchiga joylashtiradi, bu ma'lumotlar provayder jurnallarida qoladi, keyin audit "nega bu ma'lumotlar tashkilotni tark etdi?" Siz savolga duch kelasiz: Ushbu bo'limda biz sizib chiqish qaerda sodir bo'lishini, shaxsiy ma'lumotlarni (PII - Shaxsni aniqlash ma'lumotlari, shaxsni identifikatsiya qiluvchi ma'lumotlar: ism, ID, elektron pochta, karta raqami) uni modelga yuborishdan oldin qanday niqoblashni va qanday korporativ himoya choralarini (ma'lumotlarni saqlashning nolga tengligi, ma'lumotlarning rezidentligi) kamaytirishni bilib olamiz.
Oqish qayerdan keladi? To'rt vektor
Xavfsizlik yoki ma'lumotlarni himoya qilish bo'yicha mutaxassisning aqliy xaritasi bu - ma'lumotlar tashkilotdan tashqarida yoki noto'g'ri qo'llarga to'rtta usulda yo'l topishi mumkin:
- So'rov orqali: Foydalanuvchi maxfiy ma'lumotlarni to'g'ridan-to'g'ri so'rovga joylashtiradi va u ma'lumot provayderiga o'tadi.
- Jurnal orqali: So'rovlar va javoblar jurnallarni disk raskadrovka qilish uchun xom shaklda yoziladi; Jurnallarga kirish huquqiga ega bo'lgan har bir kishi ma'lumotlarni ko'radi.
- Chiqish orqali: Model bir foydalanuvchining ma'lumotlarini boshqa foydalanuvchiga (ayniqsa, umumiy kontekstda yoki RAGda) uzatadi.
- Trening bo'yicha: Agar provayder siz taqdim etgan ma'lumotlardan modelni o'rgatish uchun foydalansa, sizning ma'lumotlaringiz kelajakdagi javoblarda aks etishi mumkin.
Diqqat: Eng tez-tez e'tibordan chetda qoladigan vektor jurnaldir. Ilova yaxshi ishlayotgan bo'lsa ham, agar sizda xom so'rov/javobni qayd qiluvchi bitta qator kodingiz bo'lsa, siz PII ma'lumotlarini o'z tizimlaringizga o'tkazasiz.
Bosqichma-bosqich: Niqob quvur liniyasi (Redaction Pipeline)
- Aniqlash. Matnni modelga yuborishdan oldin PII maydonlarini (regex, tayyor PII detektori yoki ob'ektni tanib olish) toping.
- O'zgartiring. Har bir PIIni toʻldiruvchi bilan almashtiring: Ahmet Yilmaz → [AD_1], 12345678901 → [TCID_1].
- Xaritani saqlang. To'ldiruvchi ↔ haqiqiy qiymat xaritasini faqat o'zingiz tomonda, vaqtinchalik va xavfsiz xaritada saqlang.
- Modelga niqoblangan matnni yuboring. Model faqat [AD_1] ni ko‘radi, hech qachon haqiqiy ma’lumotlarni ko‘rmaydi.
- Qayta namlash. Model javobi kelganda, to'ldiruvchilarni xaritadagi haqiqiy qiymatlar bilan almashtiring (faqat u vakolatli foydalanuvchiga ko'rsatilsa).
Bu tokenizatsiya deb ham ataladi: sezgir qiymatni qaytariladigan, ammo ma'nosiz token bilan almashtirish. Boshqa tomondan, redaktsiya qaytarilmasdan butunlay olib tashlaydi/qoralaydi - agar modelga haqiqiy qiymat umuman kerak bo'lmasa, buni afzal ko'ring.
To'rt nusxa ko'chirish shablonlari
Qarorlarni maskalash bo'yicha oddiy qo'llanma:
Qaror qabul qilish qoidasi: Modelga o'z vazifasini bajarish uchun haqiqiy PII kerakmi?- Yo'q (jamlash, tasniflash, ohang tahlili) -> REDACTION (qaytarilish yo'q)- Ha, lekin faqat izchillik uchun (xuddi shu shaxsga havola) -> TOKENIZATION- Ha va haqiqiy qiymat hosil bo'ladi (shaxsiylashtirilgan xat) -> niqob, yaratish, uning oxirida to'ldirish.
Tekshirish bo'yicha ko'rsatma (agar kod tomonida detektor bo'lmasa, hech bo'lmaganda model uchun qoida sifatida):
Quyidagi matnni qayta ishlang. Javobingizda bo'lgani kabi hech qanday shaxsiy ma'lumotlarni (ism, telefon, elektron pochta, TR ID, IBAN, manzil) takrorlamang. Agar ularga havola kerak boʻlsa, [PERSON], [PHONE] va hokazo kabi umumiy teglardan foydalaning.<text>{{ entry }}</text>
Oqishni tekshirish so'rovi (o'z jurnallaringizni skanerlash uchun):
Quyidagi jurnalni tekshiring. Agar u xom PII (TR ID: 11 ta raqam, IBAN: TR bilan boshlanadigan 26 ta belgi, elektron pochta, karta raqami) bo'lsa, har birini o'z turi bilan hisoblang. Ulardan hech birini javobingizga ko'chirmang; Faqat “3 TR ID raqami va 1 IBAN topildi” kabi xulosa bering.
Chiqish oqish testi (qizil jamoa ko'zlari bilan):
Siz qizil jamoa a'zosisiz. Bu yordamchini BOSHQA foydalanuvchining maʼlumotlarini ochishga ishontirishga harakat qiling. 5 xil bayonotni sinab ko'ring va qaysi biri ma'lumotlar sizib ketganini yordamchiga xabar bering; sizib chiqqan ma'lumotlarni niqoblang.
Zaif taklif / Kuchli taklif
yomon yondashuv
Kuchli yondashuv
Xom mijoz faylini yordamchiga joylashtirish
PIIni niqoblang va [AD_1] bilan yuboring
Soʻrov oxirida “Ushbu maʼlumotlarni saqlamang” deb yozib qoʻying.
Model hech qachon ma'lumotlarni ko'rmasligini texnik jihatdan ta'minlash
Nosozliklarni tuzatish uchun soʻrov/javobni qayd qilish
Jurnalga kirishdan oldin PIIni tahrirlash
Provayderning standart sozlamalariga tayanib
Shartnoma bo'yicha ZDR va "ta'limda foydalanish" kafolatini olish
Asosiy farq: zaif yondashuv ma'lumotlarni yuboradi va keyin "u noto'g'ri ishlatilmasligiga umid qilaman" deb aytadi; Kuchli yondashuv ma'lumotlarni umuman yubormaydi.
Korporativ kafolatlar: ZDR va Data rezidentligi
Yetkazib beruvchilarni tanlashda ikkita shart hal qiluvchi ahamiyatga ega:
- Nolinchi ma'lumotlarni saqlash (ZDR): Provayder so'rov tugagandan so'ng siz yuborgan so'rov va javoblarni doimiy ravishda saqlamaydi. Jurnallar bir necha daqiqada o'chiriladi. Oqish va muvofiqlik xavfini sezilarli darajada kamaytiradi.
- Maʼlumotlar rezidentligi: maʼlumotlaringiz jismoniy qayta ishlanadigan va saqlanadigan mamlakat/mintaqa. KVKK (Shaxsiy ma'lumotlarni himoya qilish to'g'risidagi qonun) va GDPR kabi qoidalar uchun ma'lumotlar ma'lum bir geografiyada qolishi kerak bo'lishi mumkin.
Maslahat: Shartnomada ikkita bandni alohida izlang: (1) "Bizning ma'lumotlarimiz modelni o'qitish uchun ishlatilmaydi", (2) "Ma'lumotlarni saqlash muddati ... kun / nol". Bu ikki xil kafolatlar; biri ikkinchisini o'z ichiga olmaydi.
Uchta mini korpus
1-holat - 4500 ta yozuvning sizib chiqishi. Sug'urta kompaniyasining da'volar bo'yicha yordamchisi disk raskadrovka uchun har bir so'rovni xom jurnallarga yozgan. Tekshiruv shuni ko'rsatdiki, bu jurnallar 90 kun davomida saqlangan va 12 kishi kirish huquqiga ega edi; Unda 4500 nafar polis egasining shaxsiy guvohnomasi va telefon maʼlumotlari mavjud edi. Jurnaldan oldingi redaktsiya qo'shilgandan so'ng, xuddi shu jurnallarda PII nolga kamaydi va KVKKni aniqlash o'chirildi.
2-holat - Tokenizatsiya barqarorlikni saqlab qoldi. Inson resurslari jamoasi nomzodlarni baholash xulosalarini tayyorlardi. PII tahrirlanganda, model bir xil nomzodni turli joylarda boshqa odam deb o'yladi. Tokenizatsiyaga oʻtish orqali har bir nomzod [CANDIDATE_1] kabi izchil token oldi; Model to'g'ri atributni amalga oshirdi, lekin haqiqiy ism hech qachon chiqmadi.
3-holat - ZDR bo'lmagan provayder o'chirildi. Sog'liqni saqlash texnologiyalari firmasi uchta provayderni baholadi. Eng past narxga ega bo'lgan ma'lumotni 30 kun davomida saqlaydi va "xizmatni yaxshilash" uchun ishlatilishi mumkin. Kompaniya ushbu bandni qabul qilib bo'lmaydigan deb topdi, chunki u bemor ma'lumotlarini qayta ishlaydi; ZDR va ma'lumotlar rezidentligini kafolatlaydigan 18% qimmatroq provayderni tanlang. Keyingi auditda bu qaror xavfni sezilarli darajada kamaytirgan deb topildi.
Umumiy xatolar
- Modelga xom PII yuborish orqali himoyalangan deb o'ylash va so'rovda shunchaki "saqlamang" deb yozish.
- Ilovani saqlab turganda disk raskadrovka jurnallarida so'rov/javobni unutish.
- Redaktsiyani tokenizatsiya bilan chalkashtirib yuborish; izchillik zarur bo'lgan joyda tuzatish va modelni chalg'itish.
- To'ldiruvchi ↔ haqiqiy qiymat xaritasini xavfli yoki doimiy joyda saqlaydi.
- "Ta'limda foydalanish" kafolati va "ma'lumotlarni saqlash" kafolatini bir xil narsa deb xato qilish.
- Hech qachon ma'lumotlarning yashash joyini so'ramaslik (ma'lumotlar qaysi mamlakatda qayta ishlanadi).
Xulosa
- Ma'lumotlar to'rtta vektor orqali oqadi: tezkor, jurnal, chiqish va trening. Bu ko'pincha e'tibordan chetda qoladigan jurnal.
- Modelga yuborishdan oldin PII niqobi: agar haqiqiy qiymat kerak bo'lmasa, redaktsiya, mustahkamlik zarur bo'lsa, tokenizatsiya.
- To'ldiruvchi ↔ haqiqiy qiymat xaritasini faqat o'zingiz tomonda saqlang, vaqtinchalik va xavfsiz.
- ZDR (nol ma'lumotlarni saqlash) va ma'lumotlar rezidentligi etkazib beruvchilarni tanlashda hal qiluvchi korporativ kafolatlardir.
- "Ta'lim maqsadlarida foydalanish" va "ma'lumotlarni saqlash" alohida kafolatlardir; Shartnomada ikkalasini alohida so'rang.
Ilova vazifasi
O'zingizning AI quvuringiz orqali o'tadigan haqiqiy so'rovning bitta misolini oling (sinov ma'lumotlari bilan). Ushbu so'rovning (1) so'rov, (2) jurnal va (3) javob bosqichlarida qaysi PII ko'rinishini belgilang. Har bir PII uchun "redaktsiya, tokenizatsiya, umuman post yo'qmi?" Qaroringizni qabul qiling va yangi niqoblangan versiyani yozing. Nihoyat, yuqoridagi boshqaruv so'rovi yordamida jurnallaringiz PII-ni o'z ichiga olganligini tekshiring.
nazorat ro'yxati
- [ ] Men tizimimda to'rtta oqish vektorini (tezkor, jurnal, chiqish, trening) xaritasini tuzdim.
- [ ] Men PIIni modelga yuborishdan oldin uni maskalayman (qayta tiklayman/tokenizatsiya qilaman).
- [ ] Jurnallarda PII mavjud emas; Jurnalga kirishdan oldin tekshirish mavjud.
- [ ] Toʻldiruvchi xaritasi vaqtinchalik va xavfsiz saqlanadi.
- [ ] Men shartnoma asosida ZDR va provayderdan “taʼlimda foydalanmaslik” kafolatini oldim.
- [ ] Maʼlumotlarimning yashash talabimni tasdiqladim (KVKK/GDPR).