Табыстар:
- Оқиғаны қайта құру үшін жеткілікті ең аз аудит сызбасын жобалау мүмкіндігі
- Хабарламаны/жауапты бүркемелеу арқылы журналдың ағып кету көзі болуына жол бермеу мүмкіндігі
- Корреляция сәйкестігі, өзгермейтіндігі және сақтау мерзімі бар тексерілетін журналдарды орнату мүмкіндігі
AI жүйесінде бір күні сұрақ міндетті түрде қойылады: «Неге бұл шешім осылай қабылданды, дәл сол күні не болды?» Бұл сұрақты тапсырыс беруші, аудитор, реттеуші немесе сот қоюы мүмкін. Сіздің жауабыңыз тексерілетін аудит ізі немесе «біз білмейміз». Соңғысы корпоративтік ортада қабылданбайды. Бұл бөлімде біз AI үшін нені тіркеу керек және нені тіркеуге болмайтынын, аудит ізін қалай құру керектігін және журналдарды қауіпсіздік пен құпиялылықпен тепе-теңдікте қалай ұстау керектігін үйренеміз.
Неліктен AI жүйесінде тіркеу әртүрлі?
Классикалық бағдарламалық жасақтамада «кім не істеді» журналы жазылады. AI-де бұған үш жаңа өлшем қосылады: қандай үлгі/нұсқа пайдаланылды, қандай сұрау жіберілді және қандай жауап жасалды. Қате немесе шағым орын алғанда, осы үшеуінсіз оқиғаны қалпына келтіре алмайсыз. Бірақ бұл жедел/жауап PII қамтуы мүмкін, біз 2-бөлімде көргеніміздей, журналдың өзі ағып кету көзіне айналуы мүмкін. Бұл тепе-теңдік өнері.
Абайлаңыз: Журналға жазу «барлығын тіркеу» емес. Тым көп тіркеу құпиялылық қаупін тудырады, ал тым аз тіркеу дәлелдердің жетіспеушілігін тудырады. Мақсат - оқиғаны бүркемелеу арқылы қайта құру үшін жеткілікті PII сақтау.
Нені тіркеу керек? Аудит ізінің схемасы
Қатты AI аудитінің ізі кем дегенде:
- Кім: пайдаланушы идентификаторы және рөлі (немесе қызмет идентификаторы).
- Қашан: Уақыт белгісі (мүмкін болса ғана қосыңыз).
- Не: Қалаған әрекет және шақырылған құралдар.
- Қай модель: Үлгі атауы және нұсқасы (мысалы, claude-opus-4-8), температура сияқты маңызды параметрлер.
- Енгізу/шығару дайджесті: сұрау мен жауаптың маскаланған нұсқасы немесе дайджест/хэш.
- Шешім: ол автоматты түрде өңделді ме, адамға жіберілді ме, мақұлданды ма немесе қабылданбады ма?
- Нәтиже: операция сәтті ме, әлде қате ме, қай ресурс әсер етті?
Қадам бойынша: Аудит ізін құру
- Мақсат қойыңыз. Бұл журналдарды кім оқиды және неге? (Оқиғаға жауап беру, сәйкестік аудиті, жөндеу.) Мақсат нені сақтайтыныңызды анықтайды.
- PII саясатын қолдану. Тіркеу алдында сұрауды/жауапты бүркеңіз (2-бірлік).
- Өзгермейтіндігін қамтамасыз ету. Маңызды журналдар тек қосуға рұқсат етіңіз; Өткенді ешкім үнсіз өшіре алмау керек.
- Сақтау мерзімін анықтаңыз. Заң талабы мен құпиялылық балансына сәйкес ұзақтықты анықтау; Уақыт біткен кезде автоматты түрде жою.
- Қол жеткізуді шектеңіз. Журналдарға қол жеткізу де RBAC көмегімен қорғалуы керек; Журналды оқуды да тіркеу керек.
- Корреляция идентификаторын қосыңыз (із идентификаторы). Сұраудың барлық қадамдарын (енгізу, құралды шақыру, тексеру, шығару) бір идентификациямен байланыстырыңыз.
Көшірілетін төрт үлгі
Аудит журналының схемасы (JSON):
{ "trace_id": "...", "уақыт": "ЖЖЖЖ-АА-ККК:мм:ssZ", "пайдаланушы": "...", "рөл": "...", "модель": "клад-опус-4-8", "параметрлер": { "температура": 0 }, "сұрау_жинақ":" "<маскаланған>", "құралдар": ["құрал_а", "құрал_б"], "шешім": "авто|адам_бекіту", "бекіту": "бекітілді|қабылданбады|жоқ", "нәтиже": "сәттілік|қате", "әсер етілген_ресурс": "..."}
Журнал PII басқару сұрауы:
Төмендегі журнал мысалдарын тексеріңіз. Аудит жолына қажетті өрістер (кім, қашан, үлгі, шешім, нәтиже) толтырылған ба? Сондай-ақ шикі PII ағып кетті ме? Әрбір жол үшін келесідей есеп беріңіз: "жеткіліксіз / бос орын жоқ: ... /PII ағып кетуі: ..." <logs>{{ мысалдар }}</logs>
Оқиғаны қалпына келтіруге шақыру:
Келесі аудит жазбалары жалғыз trace_id-ге жатады. Оқиғаны хронологиялық тәртіпте баяндауға айналдырыңыз: пайдаланушы нені қалайды, модель не істеді, қандай тексерулер жүргізілді, шешім қалай қабылданды, нәтиже қандай болды? Жетіспейтін немесе сәйкес келмейтін қадамдарды белгілеңіз.<records>{{ trace_registers }}</records>
Сақтау саясаты шешімінің ережесі:
Әрбір журнал түрі үшін мынаны анықтаңыз: - Заңды сақтау міндеттемесі бар ма? (егер бар болса, ең аз кезең)- Онда PII бар ма? (егер қосылған болса, ұзақтығын қысқартыңыз, қолжетімділікті тарылтыңыз)- Қауіпсіздік оқиғасының дәлелі? (дүкенді өзгерту мүмкін емес)Нәтиже: "N күн сақтау + тек mi қосу + кіру деңгейі".
Әлсіз шақыру / Күшті шақыру
нашар көзқарас
Күшті көзқарас
Жүйеге мүлдем кірмейді («қажет емес»)
Оқиғаны қайта құру үшін ең аз жиынды тіркеу
Шикі шақыруды/жауапты сол күйінде тіркеу
Маскаланған қорытынды + бақылау идентификаторы журналы
Журналдарды шектеусіз сақтаңыз
Заңды + құпиялылық балансымен сақтау мерзімі
Кез келген адам журналдарды жоя алады
Маңызды журналдар тек қосуға арналған, қатынасу басқарылады
Үш шағын корпус
1-жағдай — Trace ID бір күндік тергеуді 15 минутқа дейін қысқартты. «Менің өтінішім әділетсіз қабылданбады», - деді клиент банктің несиені алдын ала бағалау жөніндегі көмекшісіне. Корреляция идентификаторының арқасында команда 15 минут ішінде сол қолданбаның енгізуін, қызметкерлерді тексеруді және шешімді қайта құрды; қатенің ережені тексерудегі қате шекті мәннен туындағанын көрсетті және оны түзетті.
2-жағдай — Аудит барысында шамадан тыс тіркеу фактісі анықталды. Электрондық коммерция компаниясы отладтау үшін өңделмеген журналдарға барлық сұрауларды/жауаптарды жазып жатты. Жыл сайынғы аудит барысында бұл журналдарда тұтынушылардың мекенжайлары мен телефондары бар және 2 жыл бойы сақталатыны анықталды. Анықтама бетперделеу + 90 күндік сақтау саясатына ауысу арқылы жабылды; Аудит ізі функциясы сақталды.
3-жағдай — Тек қосу журналында ішкі бұзушылық анықталды. Бір провайдердің қызметкері өзі жасаған қате топтаманы жасыру үшін журналдарды жоюға әрекеттенді. Журналдар тек қосуға арналған және журналды оқу/жою әрекеттері жазылғандықтан, әрекет бірден көрінді; Оқиға тәртіптік және процестік түзетуге әкелді.
Кеңес: Әрбір сұрауға корреляция идентификаторын (бақылау идентификаторы) тағайындаңыз және оны барлық қадамдар арқылы өткізіңіз. Мәселе туындаған кезде, бір сұрау арқылы «сұрау туралы бәрін» жинау мүмкіндігі оқиғаға жауап берудің ең үлкен үдеткіші болып табылады.
Жалпы қателер
- Оқиғаны қайта құру мүмкін болмайтындай мүлде журналға кірмеу немесе аз тіркеу.
- Шикі сұрауды/жауапты маскасыз тіркеу және журналды ағып кету көзіне айналдыру.
- Үлгі атауы/нұсқасы және шешімі журналға жазылмау (автоматты/адам).
- Журналдарды шектеусіз уақыт кезеңі ішінде сақтау құпиялылық қаупін арттырады.
- Критикалық журналдарды өзгертуге қалдыру; Журналға кіру рұқсаты тіркелмейді.
- Қадамдарды біріктіру мүмкін емес, себебі ол корреляция идентификаторын (із идентификаторы) пайдаланбайды.
Қысқаша айтқанда
- AI журналы «кім не істеді» дегенге үш өлшем қосады: қай модель/нұсқа, қай шақыру, қандай жауап.
- Мақсат - оқиғаны бүркемелеу арқылы қайта құру үшін PII-ны жеткілікті түрде минималды ұстау - артық емес, кем емес.
- Аудит жолы кім/қашан/қандай/қай модель/шешім/нәтиже өрістерін қамтуы керек.
- Маңызды журналдар тек қосу үшін болуы керек, кіру шектелуі керек және журналға кіру де журналға жазылуы керек.
- Корреляция идентификаторы (бақылау идентификаторы) сұраудың барлық қадамдарын байланыстырады және оқиғаны тергеуді жылдамдатады.
Қолданбалы тапсырма
Жеке AI ағынынан сұрауды таңдап, жоғарыдағы JSON схемасымен ол үшін тамаша аудит ізін жазыңыз. Содан кейін екі сынақты орындаңыз: (1) Осы жазба арқылы оқиғаны басынан аяғына дейін айтып бере аласыз ба? (2) Жазбада өңделмеген PII бар ма? Егер өріс жоқ болса, оны қосыңыз, PII болса, оны бүркеңіз. Соңында сақтау мерзімін және кіру деңгейін орнатыңыз.
бақылау парағы
- [ ] Аудит жолы кім/қашан/қандай/үлгі/шешім/нәтиже өрістерін қамтиды.
- [ ] Шақыру/жауап журналдар алдында жасырылады (PII жоқ).
- [ ] Корреляция идентификаторы (бақылау идентификаторы) әрбір сұрауға тағайындалады.
- [ ] Маңызды журналдар тек қосуға арналған және қатынасу басқарылады.
- [ ] Сақтау мерзімі заңды + құпиялылық балансымен анықталады және кезең соңында жойылады.
- [ ] Журналдар арқылы оқиғаны 30 минуттан аз уақыт ішінде қалпына келтіре аламын.