Raie, kontrolljälg ja tõestatavus

Kasu:

• Võimalus koostada minimaalse kontrolljälje skeem, mis on piisav sündmuse rekonstrueerimiseks
• Võimalus takistada logi saamist lekkeallikaks, varjates viipa/vastust
• Võimalus luua kontrollitavaid logisid korrelatsiooniidentiteedi, muutumatuse ja säilitusperioodiga

AI-süsteemis esitatakse ühel päeval kindlasti küsimus: "Miks see otsus just nii tehti, mis tol päeval täpselt juhtus?" Selle küsimuse võib esitada klient, audiitor, reguleeriv asutus või kohus. Teie vastus on kas kontrollitav kontrolljälg või "me ei tea". Viimane on korporatiivses keskkonnas vastuvõetamatu. Selles üksuses õpime, mida tuleks ja mida ei tohiks AI-le spetsiifiliselt logida, kuidas luua kontrolljälge ning kuidas hoida logisid tasakaalus turvalisuse ja privaatsusega.

Miks on logimine AI-s erinev?

Klassikalises tarkvaras logitakse "kes mida tegi". AI-s lisatakse sellele kolm uut dimensiooni: millist mudelit/versiooni kasutati, milline viip saadeti ja milline vastus anti. Kui ilmneb viga või kaebus, ei saa te juhtumit rekonstrueerida ilma nende kolmeta. Kuid see väga kiire/vastus võib sisaldada isikut tuvastavat teavet, nagu nägime 2. üksuses – see tähendab, et palk ise võib muutuda lekete allikaks. See on tasakaalu kunst.

Ettevaatust: logimine ei ole "kõik logimine". Liiga palju metsaraie loob privaatsusriski ja liiga väike logimine tekitab tõendite puudumise. Eesmärk on hoida piisavalt isikut tuvastavaid andmeid, et sündmust maskeerides rekonstrueerida.

Mida tuleks logida? Kontrolljälje skeem

Tugev AI kontrolljälg sisaldab vähemalt järgmist:

• Kes: kasutaja ID ja roll (või teenuse ID).
• Millal: ajatempel (lisada võimalusel ainult).
• Mis: soovitud tegevus ja välja kutsutud tööriistad.
• Milline mudel: mudeli nimi ja versioon (nt claude-opus-4-8), kriitilised parameetrid, nagu temperatuur.
• Sisend/väljund kokkuvõte: päringu ja vastuse maskeeritud versioon või kokkuvõte/räsi.
• Otsus: kas seda töödeldi automaatselt, kas see läks inimesele, kas see kiideti heaks või lükati tagasi?
• Tulemus: kas toiming on edukas või viga, millist ressurssi see mõjutab?

Samm-sammult: kontrolljälje loomine

1. Seadke eesmärk. Kes neid logisid loeb ja miks? (Intsidentidele reageerimine, vastavusaudit, silumine.) Eesmärk määrab, mida te alles jätate.
2. Jõustage isikuandmete tuvastamise eeskirjad. Maskeerige viip/vastus enne logimist (üksus 2).
3. Pakkuda muutumatust. Olgu kriitilised logid ainult lisatavad; Keegi ei peaks saama minevikku vaikselt kustutada.
4. Määrake säilitusperiood. Määrake kestus vastavalt juriidilise nõude ja konfidentsiaalsuse tasakaalule; Kustutage aja möödudes automaatselt.
5. Piirata juurdepääsu. Juurdepääs logidele peaks olema kaitstud ka RBAC-ga; Logi lugemine tuleks ka logida.
6. Lisage korrelatsiooni ID (jälje ID). Ühendage päringu kõik etapid (sisend, tööriistakutse, kinnitamine, väljund) ühe identiteediga.

Neli kopeeritavat malli

Auditi logiskeem (JSON):

{ "trace_id": "...", "time": "YYYY-MM-DDThh:mm:ssZ", "user": "...", "role": "...", "model": "claude-opus-4-8", "parameters": { "temperature": 0 }, "request_demperature": 0 }, "request_demperature": 0 }, "request_deterature": 0 }, "request_mm" "tööriistad": ["tööriist_a", "tööriist_b"], "otsus": "auto|inimene_kinnitus", "kinnitus": "kinnitatud|tagasi lükatud|puudub", "tulemus": "edu|viga", "mõjutatud_ressurss": "..."}

Logi PII juhtviip:

Vaadake allolevaid loginäiteid. Kas kontrolljälje jaoks vajalikud väljad (kes, millal, mudel, otsus, tulemus) on täidetud? Kas toores PII on ka lekkinud? Iga rea kohta esitage aruanne järgmiselt: "pole piisavalt / puudu ruumi: ... /PII leke: ..." <logs>{{ näited }}</logs>

Sündmuse taastamise viip:

Järgmised auditikirjed kuuluvad ühele trace_id-le. Muutke sündmus kronoloogilises järjekorras narratiiviks: mida kasutaja tahtis, mida mudel tegi, millised valideerimised toimusid, kuidas tehti otsus, milline oli tulemus? Märgistage sammud puuduvad või ebajärjekindlad.<records>{{ trace_registers }}</records>

Säilituspoliitika otsuse reegel:

Tehke iga palgitüübi puhul kindlaks:- Kas on olemas seaduslik säilitamiskohustus? (minimaalne periood, kui see on olemas) – Kas see sisaldab isikut tuvastavat teavet? (kui see on lisatud, lühendage kestust, kitsendage juurdepääsu)- Kas tõendid turvaintsidendi kohta? (poodi ei saa muuta) Tulemus: "salvesta N päeva + lisa ainult mi + juurdepääsutase".

Nõrk viip / Tugev viip

halb lähenemine

Tugev lähenemine

Ei logi üldse ("pole vaja")

Sündmuse rekonstrueerimiseks minimaalse hulga logimine

Toores viipa/vastuse logimine nii, nagu see on

Maskeeritud kokkuvõte + jälje ID logimine

Salvestage logisid piiramatult

Säilitusperiood koos õigusliku ja privaatsuse tasakaaluga

Igaüks saab logisid kustutada

Kriitilised logid on ainult lisatavad, juurdepääs kontrollitud

Kolm miniümbrist

Juhtum 1 – Trace ID vähendas päeva uurimist 15 minutini. "Minu taotlus lükati ebaõiglaselt tagasi," ütles üks klient panga krediidi eelhindamise assistendile. Tänu korrelatsiooni ID-le rekonstrueeris meeskond selle rakenduse sisendi, töötajate kinnitused ja otsuse 15 minutiga; näitas, et vea põhjustas reegli valideerimise vale lävi, ja parandas selle.

Juhtum 2 – Auditi käigus avastati ülemäärane metsaraie. E-kaubandusega tegelev ettevõte kirjutas kõik vead/vastused silumiseks töötlemata logidele. Iga-aastase auditi käigus oli näha, et need logid sisaldasid klientide aadresse ja telefoninumbreid ning neid säilitati 2 aastat. Leid suleti maskeerimise + 90-päevase säilitamise poliitikale üleminekuga; Kontrolljälje funktsioon säilis.

Juhtum 3 – ainult logi lisamine paljastas sisemise väärkasutuse. Ühe teenusepakkuja töötaja üritas tema tehtud vigase partii peitmiseks logisid kustutada. Kuna logid on ainult lisatavad ja logi lugemise/kustutamise katsed salvestatakse, oli katse kohe näha; Juhtum tõi kaasa distsiplinaar- ja menetluskorrektsiooni.

Näpunäide. Määrake igale päringule korrelatsiooni ID (jälje ID) ja viige see läbi kõigis etappides. Kui probleem ilmneb, on suutlikkus koguda "kõik selle päringu kohta" ühe päringuga suurim intsidendi reageerimise kiirendaja.

Levinud vead

• Ei logi üldse või logib nii vähe, et te ei saa sündmust rekonstrueerida.
• Toorpäringu/vastuse logimine ilma maskita ja logi muutmine lekkeallikaks.
• Ei logi mudeli nime/versiooni ja otsust (automaatne/inimene).
• Logide säilitamine piiramatu aja jooksul suurendab privaatsusriski.
• Kriitiliste logide jätmine võib muutuda; Logi juurdepääsu ei logi.
• Ei saa samme omavahel ühendada, kuna see ei kasuta korrelatsiooni ID-d (jälje ID).

Kokkuvõttes

• AI logimine lisab "kes mida tegi" kolm mõõdet: milline mudel/versioon, milline viip, milline vastus.
• Eesmärk on hoida PII piisavalt minimaalne, et sündmust maskeerides rekonstrueerida – ei rohkem ega vähem.
• Kontrolljälg peaks sisaldama kes/millal/mis/millise mudeli/otsuse/tulemuse välju.
• Kriitilised logid peaksid olema ainult lisatavad, juurdepääs peaks olema piiratud ja logijuurdepääs tuleks samuti logida.
• Korrelatsiooni ID (jälje ID) ühendab kõik päringu etapid ja kiirendab juhtumi uurimist.

Rakenduse ülesanne

Valige päring oma tehisintellekti voost ja kirjutage ülaltoodud JSON-skeemi abil selle jaoks ideaalne kontrolljälg. Seejärel tehke kaks testi: (1) Kas saate jutustada loo algusest lõpuni ainult selle salvestusega? (2) Kas kirjes on töötlemata isikuandmeid? Kui väli on puudu, lisa see, kui on PII, maskeeri. Lõpuks määrake säilitusperiood ja juurdepääsutase.

kontrollnimekiri

• [ ] Kontrolljälg sisaldab välju kes/millal/mis/muster/otsus/tulemus.
• [ ] Viip/vastus on enne logisid maskeeritud (PII puudub).
• [ ] Igale päringule määratakse korrelatsiooni ID (jälje ID).
• [ ] Kriitilised logid on ainult lisatavad ja juurdepääsu kontrollitud.
• [ ] Säilitusperiood määratakse juriidilise + konfidentsiaalsuse saldoga ja kustutatakse perioodi lõpus.
• [ ] Logidega saan sündmuse rekonstrueerida vähem kui 30 minutiga.