Ieguvumi:
- Spēja izstrādāt minimālo audita izsekojamības shēmu, kas ir pietiekama, lai rekonstruētu notikumu
- Spēja novērst to, ka žurnāls kļūst par noplūdes avotu, maskējot uzvedni/atbildi
- Spēja izveidot pārbaudāmus žurnālus ar korelācijas identitāti, nemainīgumu un saglabāšanas periodu
AI sistēmā kādu dienu noteikti tiks uzdots jautājums: "Kāpēc šis lēmums tika pieņemts šādā veidā, kas tieši notika tajā dienā?" Šo jautājumu var uzdot klients, auditors, regulators vai tiesa. Jūsu atbilde būs vai nu pārbaudāma audita izsekojamība, vai arī "mēs nezinām". Pēdējais ir nepieņemams korporatīvajā vidē. Šajā nodaļā mēs uzzināsim, ko vajadzētu un ko nedrīkst reģistrēt AI, kā izveidot audita izsekojamību un kā saglabāt žurnālus līdzsvarā ar drošību un privātumu.
Kāpēc mežizstrāde atšķiras AI?
Klasiskajā programmatūrā "kurš ko izdarīja" tiek reģistrēts. AI tam ir pievienotas trīs jaunas dimensijas: kāds modelis/versija tika izmantota, kāda uzvedne tika nosūtīta un kāda atbilde tika sniegta. Ja rodas kļūda vai sūdzība, jūs nevarat rekonstruēt incidentu bez šiem trim. Taču šī ļoti uzvedne/atbilde var saturēt PII, kā mēs redzējām 2. nodaļā — tas nozīmē, ka pats baļķis var kļūt par noplūžu avotu. Tā ir līdzsvara māksla.
Uzmanību: reģistrēšana nav "visu reģistrēšana". Pārāk daudz mežizstrādes rada privātuma risku, un pārāk maz reģistrēšanas rada pierādījumu trūkumu. Mērķis ir saglabāt pietiekami daudz PII, lai rekonstruētu notikumu, to maskējot.
Kas būtu jāreģistrē? Revīzijas izsekojamības shēma
Stingrā AI audita izsekojamība ietver vismaz:
- Kam: lietotāja ID un loma (vai pakalpojuma ID).
- Kad: laikspiedols (pievienojiet tikai, ja iespējams).
- Kas: vēlamā darbība un izsauktie rīki.
- Kurš modelis: modeļa nosaukums un versija (piemēram, claude-opus-4-8), kritiskie parametri, piemēram, temperatūra.
- Ievades/izejas īssavilkums: pieprasījuma un atbildes maskēta versija vai īssavilkums/jaukums.
- Lēmums: vai tas tika apstrādāts automātiski, tika nodots cilvēkam, vai tas tika apstiprināts vai noraidīts?
- Rezultāts: vai darbība ir veiksmīga vai kļūda, kurš resurss tiek ietekmēts?
Soli pa solim: audita pēdas izveide
- Uzstādiet mērķi. Kurš lasīs šos žurnālus un kāpēc? (Reakcija uz incidentiem, atbilstības audits, atkļūdošana.) Mērķis nosaka, ko jūs paturat.
- Ieviest PII politiku. Maskējiet uzvedni/atbildi pirms reģistrēšanas (2. vienība).
- Nodrošiniet nemainīgumu. Ļaujiet kritiskajiem žurnāliem būt tikai pievienojamiem; Nevienam nevajadzētu būt iespējai klusībā izdzēst pagātni.
- Nosakiet glabāšanas periodu. Noteikt ilgumu atbilstoši juridisko prasību un konfidencialitātes līdzsvaram; Automātiski dzēst, kad beidzas laiks.
- Ierobežot piekļuvi. Piekļuve žurnāliem arī jāaizsargā ar RBAC; Žurnāla nolasījums arī jāreģistrē.
- Pievienojiet korelācijas ID (izsekošanas ID). Savienojiet visas pieprasījuma darbības (ievade, rīka izsaukums, pārbaude, izvade) ar vienu identitāti.
Četras kopējamas veidnes
Audita žurnāla shēma (JSON):
{ "trace_id": "...", "time": "GGGG-MM-DDThh:mm:ssZ", "user": "...", "role": "...", "model": "claude-opus-4-8", "parameters": { "temperatūra": 0 }, "request_temperature": 0 }, "request_demperature": 0 }, "request_theme": "rīki": ["rīks_a", "rīks_b"], "lēmums": "auto|cilvēka_apstiprinājums", "apstiprinājums": "apstiprināts|noraidīts|nav", "rezultāts": "veiksme|kļūda", "ietekmētais_resurss": "..."}
Žurnāla PII vadības uzvedne:
Apskatiet zemāk esošos žurnālu piemērus. Vai audita izsekojamībai nepieciešamie lauki (kas, kad, modelis, lēmums, rezultāts) ir aizpildīti? Vai arī ir nopludināta neapstrādāta PII? Par katru rindu ziņojiet šādi: "nepietiek / trūkst vietas: ... /PII noplūde: ..." <logs>{{ piemēri }}</logs>
Pasākuma atjaunošanas uzvedne:
Tālāk norādītie audita ieraksti pieder vienam trace_id. Pārvērtiet notikumu par stāstījumu hronoloģiskā secībā: ko lietotājs vēlējās, ko darīja modelis, kādas pārbaudes tika veiktas, kā tika pieņemts lēmums, kāds bija rezultāts? Atzīmējiet trūkstošus vai nekonsekventus soļus.<records>{{ trace_registers }}</records>
Saglabāšanas politikas lēmuma noteikums:
Katram baļķa veidam nosakiet:- Vai pastāv juridisks saglabāšanas pienākums? (minimālais periods, ja tāds ir)- Vai tajā ir ietverta PII? (ja iekļauts, saīsiniet ilgumu, sašauriniet piekļuvi)- Drošības incidenta pierādījumi? (veikalu nevar mainīt) Rezultāts: "glabāt N dienas + pievienot tikai mi + piekļuves līmenis".
Vāja uzvedne / spēcīga uzvedne
slikta pieeja
Spēcīga pieeja
Nereģistrējas vispār ("nav nepieciešams")
Reģistrē minimālo iestatījumu, lai rekonstruētu notikumu
Neapstrādātas uzvednes/atbildes reģistrēšana, kāda tā ir
Maskēts kopsavilkums + izsekošanas ID reģistrēšana
Uzglabājiet žurnālus neierobežoti
Uzglabāšanas periods ar līdzsvaru starp juridisko un privātumu
Ikviens var dzēst žurnālus
Kritiskie žurnāli ir tikai pievienojami, piekļuve tiek kontrolēta
Trīs mini futrāļi
1. gadījums — Trace ID samazināja dienas izmeklēšanu līdz 15 minūtēm. "Mans pieteikums tika negodīgi noraidīts," kāda kliente sacīja bankas kredīta priekšnovērtējuma asistentei. Pateicoties korelācijas ID, komanda 15 minūšu laikā atjaunoja šīs lietojumprogrammas ievadi, darbinieku pārbaudes un lēmumu; parādīja, ka kļūdu izraisīja nepareizs kārtulas validācijas slieksnis, un to izlaboja.
2. gadījums — revīzijā tika atklāta pārmērīga mežizstrāde. E-komercijas uzņēmums visas uzvednes/atbildes rakstīja uz neapstrādātiem žurnāliem atkļūdošanai. Ikgadējā audita laikā tika konstatēts, ka šajos žurnālos ir klientu adreses un tālruņu numuri un tie tika glabāti 2 gadus. Atklājums tika slēgts, pārejot uz maskēšanas + 90 dienu saglabāšanas politiku; Tika saglabāta revīzijas liecību funkcija.
3. gadījums — tikai pievienot žurnālu atklāja iekšējo ļaunprātīgu izmantošanu. Viena pakalpojumu sniedzēja darbinieks mēģināja dzēst žurnālus, lai paslēptu kļūdainu partiju, ko viņš izveidojis. Tā kā žurnāli ir tikai pievienojami un žurnāla lasīšanas/dzēšanas mēģinājumi tiek reģistrēti, mēģinājums bija uzreiz redzams; Negadījuma rezultātā tika piemērota disciplinārsoda un procesa korekcija.
Padoms. Katram pieprasījumam piešķiriet korelācijas ID (izsekošanas ID) un veiciet visas darbības. Ja rodas problēma, iespēja apkopot "visu par šo pieprasījumu" ar vienu vaicājumu ir lielākais incidentu atbildes paātrinātājs.
Biežas kļūdas
- Nereģistrējas vispār vai tiek reģistrēts tik maz, ka notikumu nevar rekonstruēt.
- Neapstrādāta pieprasījuma/atbildes reģistrēšana bez maskas un žurnāla pārvēršana par noplūdes avotu.
- Netiek reģistrēts modeļa nosaukums/versija un lēmums (automātisks/cilvēks).
- Žurnālu glabāšana neierobežotu laiku palielina privātuma risku.
- Svarīgo žurnālu atstāšana var tikt mainīta; Nereģistrē piekļuvi žurnālam.
- Nevar savienot darbības kopā, jo netiek izmantots korelācijas ID (izsekošanas ID).
Rezumējot
- AI reģistrēšana pievieno trīs dimensijas “kurš ko izdarīja”: kurš modelis/versija, kura uzvedne, kura atbilde.
- Mērķis ir saglabāt PII pietiekami minimālu, lai rekonstruētu notikumu, maskējot to — ne vairāk, ne mazāk.
- Audita izsekojamībā jāiekļauj kas/kad/kas/kura modeļa/lēmuma/rezultāta lauki.
- Kritiskajiem žurnāliem jābūt tikai pievienojamiem, piekļuvei jābūt ierobežotai, un ir jāreģistrē arī piekļuve žurnālam.
- Korelācijas ID (izsekošanas ID) savieno visas pieprasījuma darbības un paātrina incidentu izmeklēšanu.
Lietojumprogrammas uzdevums
Atlasiet pieprasījumu no savas AI plūsmas un uzrakstiet tam ideālo audita izsekojamību, izmantojot iepriekš minēto JSON shēmu. Pēc tam veiciet divus testus: (1) Vai varat pastāstīt stāstu no sākuma līdz beigām tikai ar šo ierakstu? (2) Vai ierakstā ir neapstrādāta PII? Ja trūkst lauku, pievienojiet to, ja ir PII, maskējiet to. Visbeidzot, iestatiet saglabāšanas periodu un piekļuves līmeni.
kontrolsaraksts
- [ ] Audita izsekojamība ietver laukus kurš/kad/kas/modelis/lēmums/rezultāts.
- [ ] Uzvedne/atbilde ir maskēta pirms žurnāliem (bez PII).
- [ ] Katram pieprasījumam tiek piešķirts korelācijas ID (izsekošanas ID).
- [ ] Kritiskie žurnāli ir tikai pievienojami un tiek kontrolēti.
- [ ] Glabāšanas periodu nosaka juridiskais + konfidencialitātes atlikums, un perioda beigās tas tiek dzēsts.
- [ ] Izmantojot žurnālus, es varu rekonstruēt notikumu mazāk nekā 30 minūtēs.