Qazanclar:
- Hadisəni yenidən qurmaq üçün kifayət qədər minimum audit planını tərtib etmək bacarığı
- Tez/cavabın maskalanması ilə jurnalın sızma mənbəyi olmasının qarşısını almaq imkanı
- Korrelyasiya şəxsiyyəti, dəyişməzliyi və saxlama müddəti ilə yoxlanıla bilən qeydlər yaratmaq imkanı
Süni intellekt sistemində bir gün mütləq sual veriləcək: "Niyə bu qərar belə verildi, həmin gün tam olaraq nə oldu?" Bu sual müştəri, auditor, tənzimləyici və ya məhkəmə tərəfindən verilə bilər. Cavabınız ya yoxlanıla bilən audit izi olacaq, ya da "biz bilmirik". Sonuncu korporativ mühitdə qəbuledilməzdir. Bu bölmədə biz süni intellektə nəyin daxil edilməli və nəyin daxil edilməməli olduğunu, audit yolunun necə qurulacağını və qeydləri təhlükəsizlik və məxfilik ilə balansda saxlamağı öyrənəcəyik.
AI-də Giriş Niyə Fərqlidir?
Klassik proqram təminatında "kim nə etdi" qeyd olunur. Süni intellektdə buna üç yeni ölçü əlavə olunur: hansı model/versiya istifadə edilib, hansı sorğu göndərilib və hansı cavab verilib. Səhv və ya şikayət baş verdikdə, bu üçü olmadan hadisəni yenidən qura bilməzsiniz. Lakin 2-ci bölmədə gördüyümüz kimi, bu çox operativ/cavab PII ehtiva edə bilər - yəni log özü sızma mənbəyinə çevrilə bilər. Bu tarazlıq sənətidir.
Diqqət: Giriş "hər şeyi qeyd etmək" deyil. Həddindən artıq giriş məxfilik riski yaradır və çox az giriş sübut çatışmazlığı yaradır. Məqsəd hadisəni maskalamaqla onu yenidən qurmaq üçün kifayət qədər PII saxlamaqdır.
Nə qeyd edilməlidir? Audit izi sxemi
Möhkəm AI audit cığırına ən azı aşağıdakılar daxildir:
- Kim: İstifadəçi ID və rolu (və ya xidmət ID).
- Nə vaxt: Vaxt möhürü (yalnız mümkünsə əlavə edin).
- Nə: İstədiyiniz hərəkət və çağırılan alətlər.
- Hansı model: Model adı və versiyası (məsələn, claude-opus-4-8), temperatur kimi kritik parametrlər.
- Giriş/çıxış həzmi: sorğu və cavabın maskalı versiyası və ya həzm/heş.
- Qərar: O, avtomatik işlənib, insana gedib, təsdiqlənib, yoxsa rədd edilib?
- Nəticə: Əməliyyat uğurlu və ya xətadır, hansı resurs təsirlənir?
Addım-addım: Audit İzinin yaradılması
- Bir məqsəd qoyun. Bu jurnalları kim oxuyacaq və niyə? (Hadisə cavabı, uyğunluq auditi, sazlama.) Məqsəd nə saxladığınızı müəyyən edir.
- PII siyasətini tətbiq edin. Girişdən əvvəl sorğu/cavabı maskalayın (vahid 2).
- Dəyişməzliyi təmin edin. Kritik qeydlər yalnız əlavə olunsun; Heç kim səssizcə keçmişi silə bilməməlidir.
- Saxlama müddətini müəyyənləşdirin. Qanuni tələb və məxfilik balansına uyğun olaraq müddəti müəyyən etmək; Vaxt bitdikdə avtomatik silin.
- Girişi məhdudlaşdırın. Qeydlərə giriş də RBAC ilə qorunmalıdır; Jurnal oxu da daxil edilməlidir.
- Korrelyasiya ID (iz ID) əlavə edin. Sorğunun bütün addımlarını (giriş, alət çağırışı, yoxlama, çıxış) tək identifikasiya ilə birləşdirin.
Dörd Kopyalana bilən Şablon
Audit jurnalının sxemi (JSON):
{ "trace_id": "...", "vaxt": "YYYY-AA-GGTh:dd:ssZ", "istifadəçi": "...", "rol": "...", "model": "claude-opus-4-8", "parametrlər": { "temperatur": 0 }, "request_summary":"response":" "<masked>", "alətlər": ["alət_a", "alət_b"], "qərar": "avtomatik|insan_təsdiqi", "təsdiq": "təsdiq edildi|reddedildi|heç biri", "nəticə": "uğur|xəta", "təsirə məruz qalan_resurs": "..."}
PII nəzarət sorğusunu qeyd edin:
Aşağıdakı log nümunələrinə baxın. Audit izi üçün tələb olunan sahələr (kim, nə vaxt, model, qərar, nəticə) tamamlanıbmı? Həmçinin xam PII sızdırılıbmı? Hər cərgə üçün aşağıdakı kimi hesabat verin: "kifayət qədər yer yoxdur / çatışmayan yer: ... /PII sızması: ..." <logs>{{ examples }}</logs>
Tədbirin yenidən qurulması sorğusu:
Aşağıdakı audit qeydləri tək trace_id-ə aiddir. Hadisəni xronoloji ardıcıllıqla povestə çevirin: istifadəçi nə istədi, model nə etdi, hansı yoxlamalardan keçdi, qərar necə verildi, nəticə nə oldu? Çatışmayan və ya uyğun olmayan addımları qeyd edin.<records>{{ trace_registers }}</records>
Saxlama siyasəti qərar qaydası:
Hər bir jurnal növü üçün müəyyən edin: - Qanuni saxlama öhdəliyi varmı? (əgər varsa minimum müddət)- PII ehtiva edirmi? (əgər daxil edilərsə, müddəti qısaldın, girişi daraldın) - Təhlükəsizlik insidentinin sübutu? (mağaza dəyişdirilə bilməz) Nəticə: "N gün saxlamaq + yalnız mi əlavə etmək + giriş səviyyəsi".
Zəif Tələb / Güclü Tələb
pis yanaşma
Güclü yanaşma
Heç qeydiyyatdan keçmir ("lazım deyil")
Tədbiri yenidən qurmaq üçün minimum dəsti qeyd edin
Xam sorğu/cavab olduğu kimi qeyd olunur
Maskalı xülasə + iz ID qeydi
Qeydləri məhdudiyyətsiz saxlayın
Hüquqi + məxfilik balansı ilə saxlama müddəti
Hər kəs qeydləri silə bilər
Kritik qeydlər yalnız əlavə olunur, girişə nəzarət edilir
Üç mini qutu
Case 1 — Trace ID bir günlük araşdırmanı 15 dəqiqəyə endirdi. Müştəri bankın krediti qiymətləndirmək üzrə köməkçisinə "Müraciətim haqsız olaraq rədd edildi" dedi. Korrelyasiya identifikatoru sayəsində komanda 15 dəqiqə ərzində həmin tətbiqin daxil edilməsini, işçi yoxlamalarını və qərarını yenidən qurdu; xətanın qaydanın yoxlanılmasında səhv həddən qaynaqlandığını göstərdi və onu düzəltdi.
2-ci hal - Audit zamanı həddindən artıq loglama aşkar edilmişdir. Bir e-ticarət şirkəti sazlama üçün xam qeydlərə bütün sorğuları/cavabları yazırdı. İllik audit zamanı həmin jurnallarda müştəri ünvanları və telefon nömrələrinin olduğu və 2 il müddətində saxlanıldığı görülüb. Tapıntı maskalanma + 90 günlük saxlama siyasətinə keçməklə bağlandı; Audit izi funksiyası qorunub saxlanıldı.
3-cü hal - Yalnız əlavələr jurnalı aşkar edilmiş daxili sui-istifadə. Bir provayderin əməkdaşı etdiyi səhv partiyanı gizlətmək üçün qeydləri silməyə cəhd etdi. Qeydlər yalnız əlavə olunduğundan və jurnalı oxumaq/silmək cəhdləri qeydə alındığından cəhd dərhal göründü; Hadisə intizam və proses korreksiyası ilə nəticələndi.
İpucu: Hər sorğuya korrelyasiya ID (iz ID) təyin edin və onu bütün addımlarda keçirin. Problem baş verdikdə, bir sorğu ilə "həmin sorğu ilə bağlı hər şeyi" toplaya bilmək hadisəyə reaksiyanın ən böyük sürətləndiricisidir.
Ümumi səhvlər
- Qətiyyən daxil olmamaq və ya o qədər az qeyd etmək ki, hadisəni yenidən qura bilməyəcəksiniz.
- Xam sorğunun/cavabın maskasız qeyd edilməsi və jurnalın sızma mənbəyinə çevrilməsi.
- Model adını/versiyasını və qərarını qeyd etməmək (avtomatik/insan).
- Qeydlərin qeyri-məhdud müddətə saxlanması məxfilik riskini artırır.
- Dəyişikliyə məruz qalan kritik qeydləri tərk etmək; Jurnal girişi qeydə alınmır.
- Korrelyasiya identifikatorundan (iz ID) istifadə etmədiyi üçün addımları bir-birinə bağlaya bilməmək.
Xülasə
- AI qeydi “kim nə etdi”yə üç ölçü əlavə edir: hansı model/versiya, hansı sorğu, hansı cavab.
- Məqsəd hadisəni maskalamaqla yenidən qurmaq üçün PII-ni kifayət qədər minimal saxlamaqdır - nə çox, nə də az.
- Audit cığırına kim/nə vaxt/nə/hansı model/qərar/nəticə sahələri daxil edilməlidir.
- Kritik qeydlər yalnız əlavə edilməli, giriş məhdudlaşdırılmalı və log girişi də daxil edilməlidir.
- Korrelyasiya ID (iz ID) sorğunun bütün addımlarını birləşdirir və insident araşdırmasını sürətləndirir.
Tətbiq tapşırığı
Öz AI axınınızdan sorğu seçin və yuxarıdakı JSON sxemi ilə onun üçün ideal audit yolunu yazın. Sonra iki test edin: (1) Siz hekayəni əvvəldən axıra qədər yalnız bu səsyazma ilə danışa bilərsinizmi? (2) Qeyddə xam PII varmı? Çatışmayan sahə varsa, onu əlavə edin, PII varsa, maskalayın. Nəhayət, saxlama müddəti və giriş səviyyəsini təyin edin.
yoxlama siyahısı
- [ ] Audit cığırına kim/nə vaxt/nə/naxış/qərar/nəticə sahələri daxildir.
- [ ] Tələb/cavab qeydlərdən əvvəl maskalanır (PII yoxdur).
- [ ] Hər sorğuya korrelyasiya identifikatoru (iz ID) təyin edilir.
- [ ] Kritik qeydlər yalnız əlavə edilir və girişə nəzarət edilir.
- [ ] Saxlama müddəti qanuni + məxfilik balansı ilə müəyyən edilir və dövrün sonunda silinir.
- [ ] Qeydlərlə mən hadisəni 30 dəqiqədən az müddətdə yenidən qura bilərəm.