Pembalakan, Jejak Audit dan Kebolehbuktian — Keselamatan dan Tadbir Urus Korporat

Keuntungan:

Keupayaan untuk mereka bentuk skim jejak audit minimum yang mencukupi untuk membina semula acara
Keupayaan untuk menghalang log daripada menjadi sumber kebocoran dengan menutup gesaan/tindak balas
Keupayaan untuk mewujudkan log yang boleh disahkan dengan identiti korelasi, kebolehubahan dan tempoh pengekalan

Dalam sistem AI, suatu hari nanti soalan pasti akan ditanya: "Mengapa keputusan ini dibuat dengan cara ini, apa sebenarnya yang berlaku pada hari itu?" Soalan ini mungkin ditanya oleh pelanggan, juruaudit, pengawal selia atau mahkamah. Jawapan anda sama ada ialah jejak audit yang boleh disahkan atau "kami tidak tahu". Yang terakhir ini tidak boleh diterima dalam persekitaran korporat. Dalam unit ini, kami akan mempelajari perkara yang patut dan tidak patut dilog khusus untuk AI, cara mewujudkan jejak audit dan cara memastikan log seimbang dengan keselamatan dan privasi.

Mengapa Pembalakan Berbeza dalam AI?

Dalam perisian klasik, "siapa melakukan apa" dilog. Dalam AI, tiga dimensi baharu ditambahkan pada ini: model/versi yang digunakan, gesaan yang dihantar dan respons yang dihasilkan. Apabila ralat atau aduan berlaku, anda tidak boleh membina semula kejadian tanpa ketiga-tiga ini. Tetapi yang sangat cepat/tindak balas ini boleh mengandungi PII, seperti yang kita lihat dalam unit 2 — bermakna log itu sendiri boleh menjadi sumber kebocoran. Ini adalah seni keseimbangan.

Awas: Pembalakan bukan "log segala-galanya". Pembalakan terlalu banyak menimbulkan risiko privasi, dan pembalakan terlalu sedikit menyebabkan kekurangan bukti. Matlamatnya adalah untuk menyimpan cukup PII untuk membina semula acara dengan menutupnya.

Apa yang perlu dilog? Skim Jejak Audit

Jejak audit AI yang kukuh termasuk, sekurang-kurangnya:

Siapa: ID pengguna dan peranan (atau ID perkhidmatan).
Bila: Cap masa (tambahkan sahaja jika boleh).
Apa: Tindakan yang diingini dan alat yang dipanggil.
Model yang manakah: Nama model dan versi (cth. claude-opus-4-8), parameter kritikal seperti suhu.
Ringkasan input/output: Versi bertopeng atau ringkasan/cincang permintaan dan respons.
Keputusan: Adakah ia diproses secara automatik, pergi kepada manusia, adakah ia diluluskan atau ditolak?
Keputusan: Adakah operasi berjaya atau ralat, sumber mana yang terjejas?

Langkah demi Langkah: Mewujudkan Jejak Audit

Tetapkan matlamat. Siapa yang akan membaca log ini dan mengapa? (Respons insiden, pengauditan pematuhan, penyahpepijatan.) Tujuan menentukan perkara yang anda simpan.
Menguatkuasakan dasar PII. Tutup gesaan/tindak balas sebelum mengelog (unit 2).
Menyediakan kebolehubahan. Biarkan log kritikal menjadi tambahan sahaja; Tiada siapa yang boleh memadam masa lalu secara senyap.
Tentukan tempoh pengekalan. Tentukan tempoh mengikut baki keperluan undang-undang dan kerahsiaan; Padam secara automatik apabila masa tamat.
Hadkan akses. Akses kepada log juga harus dilindungi dengan RBAC; Pembacaan log juga perlu dilog.
Tambah ID korelasi (ID jejak). Sambungkan semua langkah permintaan (input, panggilan alat, pengesahan, output) dengan satu identiti.

Empat Templat Boleh Disalin

Skema log audit (JSON):

{ "trace_id": "...", "time": "YYYY-MM-DDThh:mm:ssZ", "user": "...", "role": "...", "model": "claude-opus-4-8", "parameters": { "suhu": 0 }, "request_summary": "<masked>", "request_summary": "<masked>", "request_summary": "<masked>" ["tool_a", "tool_b"], "decision": "auto|human_approval", "approval": "approved|rejected|none", "result": "kejayaan|error", "affected_resource": "..."}

Log PII kawalan gesaan:

Lihat contoh log di bawah. Adakah medan yang diperlukan untuk jejak audit (siapa, bila, model, keputusan, keputusan) lengkap? Juga adakah PII mentah telah dibocorkan? Untuk setiap baris, laporkan sebagai: "tidak mencukupi / tiada ruang: ... /PII bocor: ..." <log>{{ contoh }}</log>

Gesaan membina semula acara:

Rekod audit berikut tergolong dalam satu trace_id. Tukar peristiwa itu menjadi naratif dalam susunan kronologi: apakah yang pengguna inginkan, apakah yang dilakukan oleh model, apakah pengesahan yang dijalankan, bagaimana keputusan dibuat, apakah hasilnya? Tandakan langkah yang tiada atau tidak konsisten.<records>{{ trace_registers }}</records>

Peraturan keputusan dasar pengekalan:

Untuk setiap jenis log, tentukan:- Adakah terdapat kewajipan pengekalan undang-undang? (tempoh minimum jika ada)- Adakah ia mengandungi PII? (jika disertakan, pendekkan tempoh, sempitkan akses)- Bukti insiden keselamatan? (kedai tidak boleh ditukar)Keputusan: "kedai N hari + tambah-hanya mi + tahap akses".

Gesaan Lemah / Gesaan Kuat

pendekatan yang lemah

Pendekatan yang kuat

Tidak log masuk sama sekali ("tidak perlu")

Log set minimum untuk membina semula acara

Melog segera/tindak balas mentah sebagaimana adanya

Ringkasan bertopeng + pengelogan ID surih

Simpan log tanpa had

Tempoh pengekalan dengan baki undang-undang + privasi

Sesiapa sahaja boleh memadamkan log

Log kritikal adalah tambahan sahaja, akses dikawal

Tiga Kes Mini

Kes 1 — Trace ID mengurangkan penyiasatan sehari kepada 15 minit. "Permohonan saya ditolak secara tidak adil," kata seorang pelanggan kepada pembantu pra-penilaian kredit sebuah bank. Terima kasih kepada ID korelasi, pasukan membina semula input aplikasi, pengesahan pekerja dan keputusan dalam masa 15 minit; menunjukkan bahawa ralat itu disebabkan oleh ambang yang salah dalam pengesahan peraturan dan membetulkannya.

Kes 2 — Pembalakan berlebihan ditemui dalam audit. Sebuah syarikat e-dagang sedang menulis semua gesaan/balas kepada log mentah untuk penyahpepijatan. Semasa audit tahunan, didapati bahawa log ini mengandungi alamat pelanggan dan nombor telefon dan disimpan selama 2 tahun. Penemuan itu ditutup dengan menukar kepada dasar pengekalan topeng + 90 hari; Fungsi jejak audit dipelihara.

Kes 3 — Log tambahan sahaja mendedahkan penyalahgunaan dalaman. Seorang pekerja di satu pembekal cuba memadamkan log untuk menyembunyikan kumpulan salah yang dibuatnya. Memandangkan log adalah tambahan sahaja dan percubaan membaca/memadam log direkodkan, percubaan itu dapat dilihat dengan serta-merta; Insiden itu mengakibatkan pembetulan disiplin dan proses.

Petua: Berikan ID korelasi (ID jejak) kepada setiap permintaan dan bawanya melalui semua langkah. Apabila masalah berlaku, dapat mengumpul "segala-galanya tentang permintaan itu" dengan satu pertanyaan ialah pemecut terbesar tindak balas insiden.

Kesilapan biasa

Tidak log masuk sama sekali, atau log terlalu sedikit sehingga anda tidak boleh membina semula acara tersebut.
Log permintaan/tindak balas mentah tanpa topeng dan menjadikan log menjadi sumber kebocoran.
Tidak mengelog nama model/versi dan keputusan (automatik/manusia).
Menyimpan log untuk tempoh masa yang tidak terhad meningkatkan risiko privasi.
Meninggalkan log kritikal tertakluk kepada perubahan; Tidak log akses log.
Tidak dapat menyambungkan langkah bersama kerana tidak menggunakan ID korelasi (ID jejak).

Secara ringkasnya

Pengelogan AI menambah tiga dimensi kepada "siapa yang melakukan apa": model/versi yang mana, yang menggesa, yang mana respons.
Matlamatnya adalah untuk memastikan PII cukup minimum untuk membina semula acara dengan menutupnya—tidak lebih, tidak kurang.
Jejak audit hendaklah termasuk medan siapa/bila/apa/model/keputusan/keputusan yang mana.
Log kritikal hendaklah ditambah sahaja, akses hendaklah dihadkan, dan akses log juga harus dilog.
ID Korelasi (ID jejak) menghubungkan semua langkah permintaan dan mempercepatkan penyiasatan insiden.

Tugasan permohonan

Pilih permintaan daripada aliran AI anda sendiri dan tulis jejak audit yang ideal untuknya dengan skema JSON di atas. Kemudian lakukan dua ujian: (1) Bolehkah anda menceritakan kisah dari awal hingga akhir dengan hanya rakaman ini? (2) Adakah terdapat PII mentah dalam rekod? Jika terdapat medan yang hilang, tambahkannya, jika terdapat PII, tutupkannya. Akhir sekali, tetapkan tempoh pengekalan dan tahap akses.

senarai semak

[ ] Jejak audit termasuk medan siapa/bila/apa/corak/keputusan/hasil.
[ ] Gesaan/balas disembunyikan sebelum log (tiada PII).
[ ] ID korelasi (ID jejak) diberikan kepada setiap permintaan.
[ ] Log kritikal adalah tambahan sahaja dan akses dikawal.
[ ] Tempoh penyimpanan ditakrifkan oleh baki undang-undang + kerahsiaan, dan dipadamkan pada penghujung tempoh.
[ ] Dengan log saya boleh membina semula acara dalam masa kurang daripada 30 minit.