Ukataji miti, Njia ya Ukaguzi na Uthibitisho

Faida:

• Uwezo wa kuunda mpango wa chini wa ukaguzi wa kutosha kuunda tena tukio hilo
• Uwezo wa kuzuia logi kutoka kuwa chanzo cha kuvuja kwa kuficha haraka/jibu
• Uwezo wa kuanzisha kumbukumbu zinazoweza kuthibitishwa na utambulisho wa uwiano, kutobadilika na muda wa kuhifadhi

Katika mfumo wa AI, siku moja swali hakika litaulizwa: "Kwa nini uamuzi huu ulifanyika kwa njia hii, ni nini hasa kilichotokea siku hiyo?" Swali hili linaweza kuulizwa na mteja, mkaguzi, mdhibiti, au mahakama. Jibu lako litakuwa njia ya ukaguzi inayoweza kuthibitishwa au "hatujui." Mwisho haukubaliki katika mazingira ya ushirika. Katika kitengo hiki, tutajifunza ni nini kinafaa na kisichopaswa kuandikwa mahususi kwa AI, jinsi ya kuanzisha njia ya ukaguzi, na jinsi ya kuweka kumbukumbu katika usawa na usalama na faragha.

Kwa nini Uwekaji Magogo ni Tofauti katika AI?

Katika programu ya classical, "nani alifanya nini" imeingia. Katika AI, vipimo vitatu vipya vinaongezwa kwa hili: ni mfano gani / toleo gani lilitumiwa, ni haraka gani iliyotumwa, na majibu gani yalitolewa. Hitilafu au malalamiko yanapotokea, huwezi kuunda upya tukio bila hizi tatu. Lakini jibu hili la haraka/jibu linaweza kuwa na PII, kama tulivyoona katika kitengo cha 2 - kumaanisha kuwa logi yenyewe inaweza kuwa chanzo cha uvujaji. Hii ni sanaa ya usawa.

Tahadhari: Kuingia sio "logi kila kitu". Ukataji miti mwingi huleta hatari ya faragha, na ukataji mdogo sana husababisha ukosefu wa ushahidi. Lengo ni kuweka PII ya kutosha ili kuunda upya tukio kwa kuficha.

Nini kinapaswa kurekodiwa? Mpangilio wa Njia ya Ukaguzi

Njia thabiti ya ukaguzi wa AI ni pamoja na, kwa kiwango cha chini:

• Nani: Kitambulisho cha Mtumiaji na jukumu (au kitambulisho cha huduma).
• Wakati: Muhuri wa saa (ongeza-ikiwezekana tu).
• Nini: Hatua inayotarajiwa na zana zilizoitishwa.
• Muundo upi: Jina la kielelezo na toleo (k.m. claude-opus-4-8), vigezo muhimu kama vile halijoto.
• Muhtasari wa ingizo/pato: Toleo lililofichwa au muhtasari/heshi ya ombi na jibu.
• Uamuzi: Je, ilichakatwa kiotomatiki, ikaenda kwa binadamu, iliidhinishwa au kukataliwa?
• Matokeo: Je, operesheni imefanikiwa au hitilafu, ni rasilimali gani imeathirika?

Hatua kwa Hatua: Kuanzisha Njia ya Ukaguzi

1. Weka lengo. Nani atasoma kumbukumbu hizi na kwa nini? (Jibu la tukio, ukaguzi wa kufuata, utatuzi.) Kusudi huamua unachohifadhi.
2. Tekeleza sera ya PII. Funga kidokezo/jibu kabla ya kuingia (kitengo cha 2).
3. Kutoa kutobadilika. Acha kumbukumbu muhimu ziwe nyongeza tu; Hakuna mtu anayepaswa kufuta yaliyopita kimya kimya.
4. Bainisha muda wa kubaki. Kuamua muda kulingana na usawa wa mahitaji ya kisheria na usiri; Futa kiotomati wakati muda umekwisha.
5. Weka kikomo cha ufikiaji. Upatikanaji wa magogo unapaswa pia kulindwa na RBAC; Usomaji wa kumbukumbu unapaswa pia kurekodiwa.
6. Ongeza kitambulisho cha uunganisho (kitambulisho cha kufuatilia). Unganisha hatua zote za ombi (ingizo, simu ya zana, uthibitishaji, pato) na kitambulisho kimoja.

Violezo Vinne Vinakiliwa

Ratiba ya kumbukumbu ya ukaguzi (JSON):

{ "trace_id": "...", "time": "YYYY-MM-DDThh:mm:ssZ", "user": "...", "role": "...", "model": "claude-opus-4-8", "parameters": { "joto": 0 }, "request_summary", "request_summary", "request_summary": "<ponsemasked> "tools": ["tool_a", "tool_b"], "decision": "auto|human_approval", "approval": "approved|rejected|none", "result": "success|error", "affected_resource": "..."}

Agizo la kudhibiti PII la logi:

Angalia mifano ya logi hapa chini. Je, nyanja zinazohitajika kwa ufuatiliaji wa ukaguzi (nani, lini, modeli, uamuzi, matokeo) zimekamilika? Pia PII mbichi imevuja? Kwa kila safu mlalo, ripoti kama: "haitoshi / nafasi inayokosekana: ... /PII leak: ..." <logs>{{ examples }}</logs>

Agizo la kuunda upya tukio:

Rekodi zifuatazo za ukaguzi ni za trace_id moja. Geuza tukio kuwa simulizi kwa mpangilio: mtumiaji alitaka nini, kielelezo kilifanya nini, ni uthibitisho gani ulifanyika, uamuzi ulifanywaje, matokeo yalikuwa nini? Ripoti hatua zinazokosekana au zisizolingana.<records>{{ trace_registers }}</records>

Kanuni ya uamuzi wa sera ya kubaki:

Kwa kila aina ya logi, bainisha:- Je, kuna wajibu wa kisheria wa kuhifadhi? (kipindi cha chini zaidi ikiwa kipo)- Je, kina PII? (ikiwa imejumuishwa, fupisha muda, punguza ufikiaji)- Ushahidi wa tukio la usalama? (duka haliwezi kubadilishwa)Tokeo: "siku N za duka + na kiwango cha ufikiaji cha mi + pekee".

Uhamasishaji dhaifu / Uhamasishaji Wenye Nguvu

mbinu mbaya

Mbinu kali

Sio kukata miti kabisa ("hauhitaji")

Kuweka kumbukumbu ya kiwango cha chini kilichowekwa ili kuunda upya tukio

Kuweka kumbukumbu ghafi haraka/jibu kama lilivyo

Muhtasari uliofichwa + fuatilia kumbukumbu za kitambulisho

Hifadhi kumbukumbu bila kikomo

Kipindi cha kubaki na usawa wa faragha + wa kisheria

Mtu yeyote anaweza kufuta kumbukumbu

Kumbukumbu muhimu ni nyongeza tu, ufikiaji unadhibitiwa

Kesi Tatu Ndogo

Kesi ya 1 - Kitambulisho cha kufuatilia kilipunguza uchunguzi wa siku hadi dakika 15. "Ombi langu lilikataliwa isivyo haki," mteja alisema kwa msaidizi wa benki ya kukagua tathmini ya awali. Shukrani kwa kitambulisho cha uunganisho, timu iliunda upya ingizo la programu hiyo, uthibitishaji wa wafanyikazi na uamuzi katika dakika 15; ilionyesha kuwa kosa lilisababishwa na kizingiti kisicho sahihi katika uthibitishaji wa sheria na kurekebishwa.

Kesi ya 2 - Ukataji miti kupita kiasi uligunduliwa katika ukaguzi. Kampuni ya e-commerce ilikuwa ikiandika vidokezo/majibu yote kwa kumbukumbu mbichi za utatuzi. Wakati wa ukaguzi wa kila mwaka, ilionekana kuwa kumbukumbu hizi zilikuwa na anwani za wateja na nambari za simu na zilihifadhiwa kwa miaka 2. Utambuzi ulifungwa kwa kubadili sera ya uhifadhi wa barakoa + ya siku 90; Shughuli ya ufuatiliaji wa ukaguzi ilihifadhiwa.

Kesi ya 3 - Kumbukumbu ya nyongeza pekee ilifichua matumizi mabaya ya ndani. Mfanyakazi katika mtoa huduma mmoja alijaribu kufuta kumbukumbu ili kuficha kundi potofu alilotengeneza. Kwa kuwa kumbukumbu ni za nyongeza tu na majaribio ya kusoma/kufuta yanarekodiwa, jaribio hilo lilionekana mara moja; Tukio hilo lilisababisha marekebisho ya kinidhamu na mchakato.

Kidokezo: Peana kitambulisho cha uunganisho (kitambulisho cha kufuatilia) kwa kila ombi na upitishe hatua zote. Tatizo linapotokea, kuweza kukusanya "kila kitu kuhusu ombi hilo" kwa swali moja ndicho kichochezi kikuu cha majibu ya tukio.

Makosa ya kawaida

• Sio kukata miti kabisa, au kukata magogo kidogo sana hivi kwamba huwezi kuunda tena tukio hilo.
• Kuweka ombi/jibu ghafi bila kinyago na kugeuza logi kuwa chanzo cha kuvuja.
• Sio kukata jina la mfano / toleo na uamuzi (otomatiki/binadamu).
• Kuhifadhi kumbukumbu kwa muda usio na kikomo huongeza hatari ya faragha.
• Kuacha kumbukumbu muhimu kubadilika; Sio ufikiaji wa kumbukumbu.
• Kutoweza kuunganisha hatua pamoja kwa sababu haitumii kitambulisho cha uunganisho (kitambulisho cha kufuatilia).

Kwa muhtasari

• Ukataji miti wa AI huongeza vipimo vitatu kwa "nani alifanya nini": ni modeli/toleo gani, ambalo lilihimiza, jibu lipi.
• Lengo ni kuweka PII iwe ndogo vya kutosha kuunda tena tukio kwa kuficha - sio zaidi, sio chini.
• Njia ya ukaguzi inapaswa kujumuisha ni nani/lini/nini/ni sehemu gani za modeli/maamuzi/matokeo.
• Kumbukumbu muhimu zinapaswa kuwa kiambatisho pekee, ufikiaji unapaswa kuwa mdogo, na ufikiaji wa kumbukumbu unapaswa kurekodiwa.
• Kitambulisho cha Uwiano (kitambulisho cha kufuatilia) huunganisha hatua zote za ombi na kuharakisha uchunguzi wa tukio.

Jukumu la maombi

Chagua ombi kutoka kwa mtiririko wako mwenyewe wa AI na uandike njia bora ya ukaguzi kwa kutumia schema ya JSON hapo juu. Kisha fanya majaribio mawili: (1) Je, unaweza kusimulia hadithi kutoka mwanzo hadi mwisho kwa kurekodi hii tu? (2) Je, kuna PII mbichi kwenye rekodi? Ikiwa hakuna sehemu inayokosekana, iongeze, ikiwa kuna PII, ifunge. Hatimaye, weka muda wa kubaki na kiwango cha ufikiaji.

orodha ya ukaguzi

• [ ] Njia ya ukaguzi inajumuisha sehemu za nani/ni/nini/muundo/maamuzi/matokeo.
• [ ] Kidokezo/jibu limefichwa kabla ya kumbukumbu (hakuna PII).
• [ ] Kitambulisho cha uunganisho (kitambulisho cha kufuatilia) kimetolewa kwa kila ombi.
• [ ] Kumbukumbu muhimu ni nyongeza tu na ufikiaji unadhibitiwa.
• [ ] Kipindi cha kuhifadhi kinafafanuliwa na salio la kisheria + la usiri, na hufutwa mwishoni mwa kipindi.
• [ ] Kwa kumbukumbu naweza kuunda upya tukio kwa chini ya dakika 30.