Daromadlar:
- Voqeani qayta qurish uchun etarli bo'lgan minimal audit sxemasini loyihalash qobiliyati
- Tezkor/javobni maskalash orqali jurnalning oqish manbai bo'lishining oldini olish qobiliyati
- Korrelyatsiya identifikatori, o'zgarmasligi va saqlash muddati bilan tekshiriladigan jurnallarni yaratish qobiliyati
AI tizimida bir kun albatta savol tug'iladi: "Nega bunday qaror qabul qilindi, o'sha kuni aynan nima bo'ldi?" Bu savol mijoz, auditor, tartibga soluvchi yoki sud tomonidan berilishi mumkin. Sizning javobingiz tekshirilishi mumkin bo'lgan audit izi yoki "biz bilmaymiz" bo'ladi. Ikkinchisi korporativ muhitda qabul qilinishi mumkin emas. Ushbu bo'limda biz sun'iy intellektga xos bo'lgan narsalarni ro'yxatga olish kerak va nima bo'lmasligi kerakligini, audit izini qanday yaratishni va jurnallarni xavfsizlik va maxfiylik bilan muvozanatda saqlashni bilib olamiz.
Nima uchun AIda jurnalga kirish farq qiladi?
Klassik dasturiy ta'minotda "kim nima qildi" qayd qilinadi. AIda bunga uchta yangi o'lchov qo'shiladi: qanday model/versiya ishlatilgan, qanday so'rov yuborilgan va qanday javob ishlab chiqarilgan. Xato yoki shikoyat yuzaga kelganda, ushbu uchtasisiz hodisani qayta tiklay olmaysiz. Ammo bu tezkor/javob PIIni o'z ichiga olishi mumkin, biz 2-bo'limda ko'rganimizdek, jurnalning o'zi sizib chiqish manbasiga aylanishi mumkin. Bu muvozanat san'ati.
Diqqat: Jurnalga kirish "hamma narsani qayd qilish" emas. Juda ko'p ro'yxatga olish maxfiylikka xavf tug'diradi va juda kam qayd etish dalil etishmasligini keltirib chiqaradi. Maqsad, hodisani niqoblash orqali qayta qurish uchun etarli darajada PIIni saqlashdir.
Nimani qayd qilish kerak? Audit izi sxemasi
Qattiq AI tekshiruvi kamida quyidagilarni o'z ichiga oladi:
- Kim: Foydalanuvchi identifikatori va roli (yoki xizmat identifikatori).
- Qachon: Vaqt tamg'asi (faqat iloji bo'lsa, qo'shing).
- Nima: Istalgan harakat va chaqirilgan vositalar.
- Qaysi model: Model nomi va versiyasi (masalan, claude-opus-4-8), harorat kabi muhim parametrlar.
- Kirish/chiqish dayjesti: so'rov va javobning niqoblangan versiyasi yoki dayjest/xesh.
- Qaror: u avtomatik tarzda qayta ishlandimi, odamga yuborildimi, tasdiqlanganmi yoki rad etilganmi?
- Natija: operatsiya muvaffaqiyatlimi yoki xato, qaysi resurs ta'sir qiladi?
Bosqichma-bosqich: Audit izini yaratish
- Maqsad qo'ying. Ushbu jurnallarni kim o'qiydi va nima uchun? (Hodisaga javob, muvofiqlik auditi, disk raskadrovka.) Maqsad nima saqlayotganingizni belgilaydi.
- PII siyosatini qo'llash. Jurnalga kirishdan oldin taklif/javobni niqoblang (2-birlik).
- O'zgarmaslikni ta'minlang. Muhim jurnallar faqat qo'shish uchun bo'lsin; Hech kim o'tmishni jimgina o'chira olmasligi kerak.
- Saqlash muddatini belgilang. Qonuniy talab va maxfiylik balansiga muvofiq muddatni belgilash; Vaqt tugashi bilan avtomatik o'chirish.
- Kirishni cheklash. Jurnallarga kirish ham RBAC bilan himoyalangan bo'lishi kerak; Jurnalni o'qish ham jurnalga kiritilishi kerak.
- Korrelyatsiya identifikatorini qo'shing (trace ID). So'rovning barcha bosqichlarini (kirish, asboblarni chaqirish, tekshirish, chiqish) bitta identifikator bilan ulang.
To'rt nusxa ko'chirish shablonlari
Audit jurnali sxemasi (JSON):
{ "trace_id": "...", "vaqt": "YYYY-MM-DDTh:dd:ssZ", "foydalanuvchi": "...", "rol": "...", "model": "claude-opus-4-8", "parametrlar": { "harorat": 0 }, "request_summary:" "respondent_summary:" "<masked>", "asboblar": ["tool_a", "vosita_b"], "qaror": "avto|inson_tasdiqlash", "tasdiqlash": "tasdiqlangan|rad etilgan|yo'q", "natija": "muvaffaqiyat|xato", "ta'sirlangan_resurs": "..."}
Log PII boshqaruv so'rovi:
Quyidagi jurnal misollarini ko'rib chiqing. Audit izi uchun talab qilinadigan maydonlar (kim, qachon, model, qaror, natija) to'ldirilganmi? Bundan tashqari, xom PII sizib ketganmi? Har bir qator uchun “etarli emas / boʻsh joy yoʻq: ... /PII sizib chiqishi: ...” sifatida hisobot bering. <logs>{{ examples }}</logs>
Hodisani qayta tiklash so'rovi:
Quyidagi audit yozuvlari bitta trace_id ga tegishli. Voqeani xronologik tartibda hikoyaga aylantiring: foydalanuvchi nimani xohladi, model nima qildi, qanday tekshiruvlar o'tkazildi, qaror qanday qabul qilindi, natija qanday bo'ldi? Qadamlar etishmayotgan yoki nomuvofiq deb belgilang.<records>{{ trace_registers }}</records>
Saqlash siyosatini qaror qabul qilish qoidasi:
Har bir jurnal turi uchun quyidagilarni aniqlang: - Yuridik saqlash majburiyati bormi? (agar mavjud bo'lsa, minimal davr) - unda PII mavjudmi? (agar qo'shilgan bo'lsa, muddatni qisqartiring, kirishni toraytiring) - Xavfsizlik hodisasining dalillari? (do'konni o'zgartirib bo'lmaydi) Natija: "N kun saqlash + faqat mi qo'shish + kirish darajasi".
Zaif taklif / Kuchli taklif
yomon yondashuv
Kuchli yondashuv
Hech qanday tizimga kirmaslik ("kerak emas")
Hodisani qayta qurish uchun minimal to'plamni qayd qilish
Xom so'rov/javobni xuddi shunday qayd qilish
Niqoblangan xulosa + iz identifikatori jurnali
Jurnallarni cheksiz saqlash
Huquqiy + maxfiylik balansi bilan saqlash muddati
Har kim jurnallarni o'chirib tashlashi mumkin
Muhim jurnallar faqat qo'shiladi, kirish nazorat qilinadi
Uchta mini korpus
1-holat - Trace ID bir kunlik tekshiruvni 15 daqiqaga qisqartirdi. “Mening arizam nohaq rad etildi”, dedi mijoz bankning kreditni oldindan baholash bo‘yicha yordamchisiga. Korrelyatsiya identifikatori tufayli jamoa 15 daqiqada ushbu ilovaning kiritilishi, xodimlarning tekshiruvlari va qarorini qayta tikladi; xatolik qoidani tekshirishda noto'g'ri chegara tufayli yuzaga kelganligini ko'rsatdi va uni tuzatdi.
2-holat - Auditda ortiqcha jurnallar aniqlandi. Elektron tijorat kompaniyasi nosozliklarni tuzatish uchun xom jurnallarga barcha takliflar/javoblarni yozayotgan edi. Yillik audit davomida ushbu jurnallarda mijozlarning manzillari va telefon raqamlari borligi va 2 yil davomida saqlanganligi aniqlandi. Topilma niqoblash + 90 kunlik saqlash siyosatiga o'tish orqali yopildi; Audit izi funksiyasi saqlanib qoldi.
3-holat - Faqat qo'shish jurnalida ichki suiiste'mollik aniqlandi. Bir provayderning xodimi o'zi qilgan xato to'plamni yashirish uchun jurnallarni o'chirishga harakat qildi. Jurnallar faqat qo'shish uchun mo'ljallangan va jurnalni o'qish/o'chirishga urinishlar qayd etilganligi sababli, urinish darhol ko'rindi; Hodisa intizomiy va jarayonni tuzatishga olib keldi.
Maslahat: Har bir so'rovga korrelyatsiya identifikatorini (iz identifikatori) belgilang va uni barcha bosqichlarda bajaring. Muammo yuzaga kelganda, bitta so'rov bilan "bu so'rov bo'yicha hamma narsani" to'plash imkoni hodisaga javob berishning eng katta tezlatuvchisidir.
Umumiy xatolar
- Hech qanday tizimga kirmaslik yoki juda oz ro'yxatga olish, siz voqeani qayta tiklay olmaysiz.
- Xom so'rovni/javobni niqobsiz yozib olish va jurnalni oqish manbasiga aylantirish.
- Model nomi/versiyasi va qarorini qayd qilmaslik (avtomatik/inson).
- Jurnallarni cheksiz vaqt davomida saqlash maxfiylik xavfini oshiradi.
- O'zgartirish mumkin bo'lgan muhim jurnallarni qoldirish; Jurnalga kirishga ruxsat berilmayapti.
- Bosqichlarni bir-biriga ulab bo'lmaydi, chunki u korrelyatsiya identifikatoridan (trace ID) foydalanmaydi.
Xulosa
- AI jurnali "kim nima qildi" ga uchta o'lchovni qo'shadi: qaysi model/versiya, qaysi taklif, qaysi javob.
- Maqsad, hodisani maskalash orqali qayta qurish uchun PIIni minimal darajada ushlab turishdir - ko'proq yoki kam emas.
- Audit izi kim/qachon/nima/qaysi model/qaror/natija maydonlarini o'z ichiga olishi kerak.
- Muhim jurnallar faqat qo'shilishi kerak, kirish cheklangan bo'lishi kerak va jurnalga kirish ham jurnalga kiritilishi kerak.
- Korrelyatsiya identifikatori (trace ID) so'rovning barcha bosqichlarini bog'laydi va hodisani tekshirishni tezlashtiradi.
Ilova vazifasi
O'zingizning sun'iy intellekt oqimidan so'rovni tanlang va yuqoridagi JSON sxemasi bilan u uchun ideal audit izini yozing. Keyin ikkita testni bajaring: (1) Siz voqeani boshidan oxirigacha shu yozuv bilan aytib bera olasizmi? (2) Yozuvda xom PII bormi? Agar etishmayotgan maydon bo'lsa, uni qo'shing, agar PII bo'lsa, uni maskalang. Nihoyat, saqlash muddati va kirish darajasini belgilang.
nazorat ro'yxati
- [ ] Audit izi kim/qachon/nima/naqsh/qaror/natija maydonlarini o'z ichiga oladi.
- [ ] Soʻrov/javob jurnallardan oldin maskalanadi (PII yoʻq).
- [ ] Har bir soʻrovga korrelyatsiya identifikatori (trace ID) tayinlanadi.
- [ ] Muhim jurnallar faqat qo'shish uchun mo'ljallangan va kirish nazorati ostida.
- [ ] Saqlash muddati qonuniy + maxfiylik balansi bilan belgilanadi va muddat oxirida oʻchiriladi.
- [ ] Jurnallar yordamida voqeani 30 daqiqadan kamroq vaqt ichida qayta qurishim mumkin.