רישום, שביל ביקורת והוכחה

רווחים:

• יכולת לתכנן תכנית מסלול ביקורת מינימלית המספיקה לשחזור האירוע
• יכולת למנוע מהיומן להיות מקור לדליפה על ידי מיסוך ההנחיה/תגובה
• יכולת להקים יומנים ניתנים לאימות עם זהות מתאם, אי-שינוי ותקופת שמירה

במערכת AI, יום אחד בוודאי תישאל השאלה: "מדוע ההחלטה הזו התקבלה כך, מה בדיוק קרה באותו היום?" שאלה זו עשויה להישאל על ידי לקוח, מבקר, רגולטור או בית משפט. התשובה שלך תהיה נתיב ביקורת שניתן לאמת או "אנחנו לא יודעים". זה האחרון אינו מקובל בסביבה ארגונית. ביחידה זו, נלמד מה צריך ומה לא צריך להיות מתועד ספציפית ל-AI, כיצד ליצור מסלול ביקורת וכיצד לשמור על איזון יומנים עם אבטחה ופרטיות.

מדוע רישום שונה ב-AI?

בתוכנה הקלאסית, "מי עשה מה" מתועד. ב-AI, מתווספים לכך שלושה מימדים חדשים: באיזה דגם/גרסה השתמשו, איזו הנחיה נשלחה ואיזו תגובה הופקה. כאשר מתרחשת שגיאה או תלונה, אינך יכול לשחזר את האירוע ללא שלושת אלה. אבל ההודעה/תגובה הזו יכולה להכיל PII, כפי שראינו ביחידה 2 - כלומר היומן עצמו יכול להפוך למקור לדליפות. זוהי אומנות האיזון.

זהירות: רישום הוא לא "רישום הכל". רישום רב מדי יוצר סיכון פרטיות, ומעט מדי רישום יוצר חוסר ראיות. המטרה היא לשמור מספיק מה-PII כדי לשחזר את האירוע על ידי מיסוך שלו.

מה צריך לרשום? סכימת שביל ביקורת

מסלול ביקורת AI מוצק כולל, לכל הפחות:

• מי: מזהה משתמש ותפקיד (או מזהה שירות).
• מתי: חותמת זמן (הוספה רק אם אפשר).
• מה: פעולה רצויה וכלים שזומנו.
• איזה דגם: שם הדגם והגרסה (למשל claude-opus-4-8), פרמטרים קריטיים כמו טמפרטורה.
• תקציר קלט/פלט: גרסה ממוסכת או תקציר/האש של הבקשה והתגובה.
• החלטה: האם זה עובד באופן אוטומטי, עבר לאדם, האם זה אושר או נדחה?
• תוצאה: האם הפעולה מוצלחת או שגיאה, איזה משאב מושפע?

צעד אחר צעד: הקמת שביל ביקורת

1. הגדר מטרה. מי יקרא את היומנים האלה ומדוע? (תגובה לאירועים, ביקורת תאימות, איתור באגים.) המטרה קובעת מה אתה שומר.
2. אכיפת מדיניות PII. מסווה את ההנחיה/התגובה לפני רישום (יחידה 2).
3. לספק חוסר שינוי. תן ליומנים קריטיים להיות הוספה בלבד; אף אחד לא צריך להיות מסוגל למחוק את העבר בשקט.
4. הגדירו תקופת שמירה. לקבוע את משך הזמן לפי מאזן הדרישה החוקית והסודיות; מחק אוטומטית כאשר הזמן יפוג.
5. הגבל גישה. גישה ליומנים צריכה להיות מוגנת גם באמצעות RBAC; יש לרשום גם קריאת יומן.
6. הוסף מזהה מתאם (זיהוי מעקב). חבר את כל השלבים של בקשה (קלט, קריאת כלי, אימות, פלט) עם זהות אחת.

ארבע תבניות הניתנות להעתקה

סכימת יומן ביקורת (JSON):

{ "trace_id": "...", "time": "YYYY-MM-DDThh:mm:ssZ", "user": "...", "role": "...", "model": "claude-opus-4-8", "parameters": { "temperature": 0 }, "request_summary", "request_summary">: "",<response_masked>mary "tools": ["tool_a", "tool_b"], "decision": "auto|human_approval", "approval": "אושר|נדחה|אף אחד", "result": "הצלחה|שגיאה", "affected_resource": "..."}

הודעת בקרת PII:

בדוק את דוגמאות היומן שלהלן. האם השדות הנדרשים עבור מסלול הביקורת (מי, מתי, מודל, החלטה, תוצאה) מלאים? האם גם PII גולמי דלף? עבור כל שורה, דווח כ: "לא מספיק / רווח חסר: ... /PII leak: ..." <logs>{{ examples }}</logs>

בקשת בנייה מחדש של האירוע:

רשומות הביקורת הבאות שייכות ל- trace_id יחיד. הפכו את האירוע לנרטיב לפי סדר כרונולוגי: מה המשתמש רצה, מה עשה המודל, אילו אימותים רצו, איך התקבלה ההחלטה, מה הייתה התוצאה? סמן שלבים חסרים או לא עקביים.<records>{{ trace_registers }}</records>

כלל החלטת מדיניות שימור:

עבור כל סוג יומן, קבע: האם קיימת חובת שמירה חוקית? (תקופה מינימלית אם בכלל)- האם זה מכיל PII? (אם כלול, קצר את משך הזמן, צמצם את הגישה)- עדות לאירוע ביטחוני? (לא ניתן לשנות את החנות) תוצאה: "חנות N ימים + הוספה בלבד mi + רמת גישה".

הנחיה חלשה / הנחיה חזקה

גישה גרועה

גישה חזקה

לא רושם בכלל ("לא צריך")

רישום הסט המינימלי כדי לשחזר את האירוע

רישום הודעה/תגובה גולמית כפי שהיא

סיכום מסכה + רישום מזהה עקבות

אחסן יומנים ללא הגבלה

תקופת שמירה עם איזון משפטי + פרטיות

כל אחד יכול למחוק יומנים

יומנים קריטיים ניתנים להוספה בלבד, מבוקרת גישה

שלושה מיני מארזים

מקרה 1 - Trace ID הפחית את החקירה של יום ל-15 דקות. "הבקשה שלי נדחתה שלא בצדק", אמר לקוח לעוזר להערכת אשראי מראש של הבנק. הודות למזהה המתאם, הצוות שיחזר את הקלט של האפליקציה, אימותי העובדים וההחלטה תוך 15 דקות; הראה שהשגיאה נגרמה מסף שגוי באימות כלל ותיקן אותה.

מקרה 2 - בביקורת התגלתה רישום מופרז. חברת מסחר אלקטרוני כתבה את כל ההנחיות/תגובות ליומנים גולמיים לצורך ניפוי באגים. במהלך הביקורת השנתית, נראה כי יומנים אלו מכילים כתובות ומספרי טלפון של לקוחות ונשמרו למשך שנתיים. הממצא נסגר במעבר למדיניות מיסוך + שמירה של 90 יום; פונקציית מסלול הביקורת נשמרה.

מקרה 3 - יומן הוספה בלבד חשף התעללות פנימית. עובד בספק אחד ניסה למחוק יומנים כדי להסתיר אצווה שגויה שעשה. מכיוון שהיומנים הם הוספה בלבד וניסיונות קריאה/מחיקה של יומן מתועדים, הניסיון היה גלוי מיד; האירוע הביא לתיקון משמעתי ותהליך.

טיפ: הקצה מזהה מתאם (זיהוי מעקב) לכל בקשה ובצע אותו בכל השלבים. כאשר מתרחשת בעיה, היכולת לאסוף את "הכל על הבקשה הזו" באמצעות שאילתה אחת היא המאיץ הגדול ביותר לתגובה לאירועים.

טעויות נפוצות

• אי רישום כלל, או רישום כל כך מעט עד שלא ניתן לשחזר את האירוע.
• רישום הבקשה/תגובה הגולמית ללא מסיכה והפיכת היומן למקור דליפה.
• לא רישום שם/גרסה והחלטה של ​​הדגם (אוטומטי/אנושי).
• אחסון יומנים לפרק זמן בלתי מוגבל מגביר את הסיכון לפרטיות.
• השארת יומנים קריטיים כפופה לשינויים; לא רושם גישה ליומן.
• אי יכולת לחבר את השלבים יחד מכיוון שהוא לא משתמש במזהה מתאם (זיהוי עקבות).

לסיכום

• רישום AI מוסיף שלושה מימדים ל"מי עשה מה": איזה דגם/גרסה, איזו הנחיה, איזו תגובה.
• המטרה היא לשמור על PII מינימלי מספיק כדי לשחזר את האירוע על ידי מיסוך שלו - לא יותר ולא פחות.
• מסלול הביקורת צריך לכלול שדות מי/מתי/מה/איזה מודל/החלטה/תוצאה.
• יומנים קריטיים צריכים להיות בתוספת בלבד, הגישה צריכה להיות מוגבלת, וגם גישה ליומן צריכה להירשם.
• מזהה מתאם (זיהוי עקבות) מחבר את כל שלבי הבקשה ומאיץ את חקירת האירוע.

משימת יישום

בחר בקשה מתוך זרימת הבינה המלאכותית שלך וכתוב את נתיב הביקורת האידיאלי עבורה עם סכימת JSON למעלה. לאחר מכן בצע שני מבחנים: (1) האם אתה יכול לספר את הסיפור מתחילתו ועד סופו רק באמצעות ההקלטה הזו? (2) האם יש PII גולמי ברשומה? אם חסר שדה, הוסף אותו, אם יש PII, מסווה אותו. לבסוף, הגדר תקופת שמירה ורמת גישה.

רשימת בדיקה

• [ ] מסלול הביקורת כולל שדות מי/מתי/מה/דפוס/החלטה/תוצאה.
• [ ] ההנחיה/התגובה מוסווה לפני יומנים (ללא PII).
• [ ] מזהה מתאם (זיהוי מעקב) מוקצה לכל בקשה.
• [ ] יומנים קריטיים ניתנים להוספה בלבד ונשלטים בגישה.
• [ ] תקופת האחסון מוגדרת על ידי היתרה המשפטית + סודיות, ונמחקת בתום התקופה.
• [ ] בעזרת יומנים אני יכול לשחזר אירוע בפחות מ-30 דקות.