Qazanclar:
- Süni intellektə məxsus insident növlərini təsnif etmək və cavab dövrü dizayn etmək bacarığı
- Tədbirdən əvvəl rolları, səlahiyyətləri və hüquqi hesabat öhdəliklərini müəyyən etmək bacarığı
- Biznesin davamlılığı və günahsız postmortem ilə daimi təkmilləşdirmə qurmaq bacarığı
Onu nə qədər yaxşı müdafiə etsəniz də, bir gün nəsə səhv gedəcək: açar sızacaq, inyeksiya işləyəcək, provayder qəzaya uğrayacaq və ya çıxış müştəriyə zərər verəcək. Yetkin bir qurumu yetkin edən hadisələrin olmaması deyil, hadisə baş verən zaman hazır və tez olmasıdır. Bu bölmədə biz süni intellektə məxsus insidentlərə cavab planını, rolları, addımları və işin davamlılığını öyrənəcəyik.
Niyə AI-də insident reaksiyası fərqlidir?
Klassik təhlükəsizlik hadisəsində "sistemi bağla, təcrid et" çox vaxt kifayətdir. AI hadisələrinin əlavə ölçüləri var: hadisə kodda deyil, modelin davranışında ola bilər (məsələn, sistematik yanlış/qərəzli çıxış); sübut sorğu/cavab qeydlərindədir; və "geri qaytarmaq" bəzən mümkün olmur, çünki səhv çıxış artıq qərara çevrilib. Buna görə də, AI hadisə planı həm klassik təhlükəsizlik, həm də model davranışını əhatə etməlidir.
Diqqət: Hadisə baş verən zaman plan yazılmır, həyata keçirilir. Kimin kimə zəng edəcəyi, kimin “sistemi dayandırmaq” səlahiyyətinə sahib olacağı və ünsiyyətin necə aparılacağı tədbirdən əvvəl müəyyən edilməlidir.
AI Hadisə növləri
- Məlumat sızması: PII və ya məxfi məlumat sızdı (məlumat, jurnal və ya çıxış vasitəsilə).
- Təhlükəsizlik pozuntusu: Sızdırılmış açar, uğurlu inyeksiya, icazəsiz giriş.
- Zərərli/qərəzli çıxış: Model sistematik olaraq səhv, ayrı-seçkilik və ya təhlükəli cavab verdi.
- Xidmətin dayandırılması: Provayder qəzaya uğradı və ya sürət həddinə çatdı; Sistem cavab verə bilmir.
- Sui-istifadə: Sistem nəzərdə tutulmadığı zərərli məqsədlər üçün istifadə edilmişdir.
Addım-addım: Hadisəyə Cavab Döngüsü
- Aşkarlama. Monitorinq siqnalı, istifadəçi şikayəti və ya audit tapıntısı hadisəni aşkar edir.
- Sıralayın və prioritetləşdirin. Təsir və yayılma əsasında səviyyələr verin (məsələn, P1 kritik – P3 aşağı).
- ehtiva edir. Yaymağı dayandırın: açarı ləğv edin, funksiyanı söndürün, sistemi yalnız oxumaq üçün çəkin.
- Silin və bərpa edin. Kök səbəbi düzəldin, təhlükəsiz vəziyyətə qayıdın.
- Şikayət et. Hüquqi/müqavilə üzrə bildiriş öhdəlikləri (KVKK 72 saat kimi) və təsirə məruz qalanları vaxtında məlumatlandırın.
- Hadisədən sonrakı müayinə (postmortem). Günahlandırmadan, kök səbəbi və daimi həllini sənədləşdirin.
Rol və Məsuliyyətlər
Hadisə zamanı kimin nə etdiyi aydın olmalıdır: hadisə komandiri (qərar verən tək şəxs), texniki reaksiya (sistemin dayandırılması/təmiri), rabitə (müştəri/rəhbərlik/tənzimləyici), hüquqi/uyğunluq (məlumat vermək öhdəliyi). Kiçik komandalarda bir nəfər bir neçə rolu yerinə yetirə bilər, lakin rollar yazılmalıdır.
Dörd Kopyalana bilən Şablon
Hadisə təsnifatı sorğusu:
Aşağıdakı hadisəni təsnif edin: {{ event_description }}Müəyyən edin:- Növ: məlumat sızması / təhlükəsizlik pozuntusu / zərərli çıxış / kəsilmə / sui-istifadə- Təsir: neçə nəfər/qeyd, hansı məlumat sinfi, pul/uyğunluq nəticələri?- Yayılma: dayandırılıb və ya davam edir?- Prioritet: P1 / P2 / P3: dərhal nəyə nəzarət edilməlidir?
İlk cavab (saxlama) yoxlama siyahısı:
Hadisə təsdiqləndikdə ilk 30 dəqiqə ərzində:- [ ] Təsirə məruz qalan funksiyanı/aləti söndürün və ya onu yalnız oxumaq üçün təyin edin- [ ] Şübhəli açarları/sessiyaları ləğv edin- [ ] Sübutları qoruyun (müvafiq qeydləri dondurun, trace_id-i qeyd edin)- [ ] Hadisə komandirinə və tələb olunan rollara bildirin- [ ] Müvəqqəti ehtiyat axınının ehtiyat nüsxəsini yerləşdirin /
Bildiriş layihəsi sorğusu:
Aşağıdakı insident üçün daxili bildirişin layihəsini yazın: {{ insident_summary }}Daxil edilməlidir: nə baş verib (qeyri-texniki dildə), nə zaman aşkar edilib, hansı məlumat/kimin təsirinə məruz qalıb, indiyə qədər nə edilib, növbəti addımlar, kimdən əlavə məlumat əldə etmək olar. Fərziyyə və ya ittihamları daxil etməyin.
Ölümdən sonra skelet:
Hadisədən sonrakı baxış (günah yoxdur):- Zaman qrafiki: aşkarlama -> nəzarət -> bərpa (dəqiqə)- Əsas səbəb: texnika + prosesin ölçüsü- Nə yaxşı getdi / nə pis oldu- Daimi düzəlişlər (kim, nə vaxt)- Bu hadisəni tez bir zamanda tutmaq üçün monitorinq/nəzarət
Zəif Tələb / Güclü Tələb
pis yanaşma
Güclü yanaşma
Tədbirdə plansız ekspromtu
Əvvəlcədən yazılmış plan, rollar və səlahiyyətlər
Əvvəlcə “günahkar kimdir” deyin.
Əvvəlcə təcrid, sonra günahsız ölümdən sonra
Gecikmə / bildirişi ötür
Qanuni müddət ərzində bildiriş (məsələn, 72 saat)
Eyni hadisənin yenidən təkrarlanmasını gözləyirik
Postmortemdən daimi nəzarətin çıxarılması
Üç mini qutu
1-ci hal - 72 saat qaydası ərzində tutuldu. Bir şirkətdə çalışan bir işçi səhv konfiqurasiyaya görə 1200 müştəri qeydinin jurnalda açıq qaldığını fərq etdi. Yazılı plan sayəsində hadisə komandiri aydın idi; Qrup 40 dəqiqədə girişi bağladı və qanun 72 saat içində KVKK xəbərdarlığını etdi. Vaxtında hesabat vermək cinayət riskini və nüfuza zərəri əhəmiyyətli dərəcədə azaldıb.
Hal 2 - Yalnız oxumaq üçün təhlükəsiz rejim kəsilməni idarə etdi. Əsas model provayderi 3 saata çıxdı. Firmanın iş davamlılığı planına ehtiyat provayderə və “təhlükəsiz rejimə” keçid (yalnız kritik funksiyalar) daxildir. İstifadəçilər tam funksionallığı itirsələr də, sistem sağ qaldı; kritik əməliyyatlar dayanmadı.
3-cü hal - Postmortem təkrarlanmanın qarşısını aldı. Uğurlu dolayı inyeksiya başqa bir istifadəçinin məlumatlarını köməkçiyə sızdırdı. Qeyri-günahkar postmortem göstərdi ki, əsas səbəb <data> izolyasiyasının olmamasıdır. Əlavə daimi düzəliş (izolyasiya + çıxış skanı + reqressiya testi); Eyni sinif hücumu yenə uğurlu alınmadı.
İpucu: Postmorteni günahlandırmadan aparın. Məqsəd adam tapmaq deyil, eyni hadisənin təkrarlanmasına imkan verməyəcək şəkildə sistemi gücləndirməkdir. Günah mədəniyyəti insanların hər şeyi gizlətməsinə səbəb olur və bu, ən təhlükəlisidir.
Ümumi səhvlər
- Tədbirdən əvvəl yazılı plan və rol bölgüsü hazırlamamaq.
- Nəzarəti ələ keçirməzdən əvvəl mübahisə/günahlandırma.
- Çatışmayan hüquqi bildiriş öhdəlikləri (KVKK/GDPR son tarixləri).
- Sübutları (logları) qorumadan sistemin sıfırlanması.
- İşin davamlılığı üçün ehtiyat provayderi/təhlükəsiz rejimi nəzərə almırıq.
- Postmortem etməmək və eyni hadisənin təkrarlanması üçün yer buraxmaq.
Xülasə
- Yetkinlik hadisələrin yoxluğu deyil; Bu, baş verəndə hazır olmaq və sürətli olmaq deməkdir.
- AI hadisələri koddan çox model davranışında ola bilər; sübut tez/cavab qeydlərindədir və geri qaytarmaq həmişə mümkün olmur.
- Cavab dövrü: aşkar etmək, təsnif etmək, ehtiva etmək, bərpa etmək, hesabat vermək, ölümdən sonra.
- Rol və səlahiyyətlər (hadisə komandiri, texniki, rabitə, hüquqi) hadisədən əvvəl yazılı şəkildə olmalıdır.
- İşin davamlılığı üçün ehtiyat provayder/təhlükəsiz rejim; Günahsız postmortem və daimi düzəliş hadisənin nəticələri üçün vacibdir.
Tətbiq tapşırığı
Öz AI sisteminiz üçün hadisəyə cavab planının layihəsini yazın: ən çox ehtimal olunan üç hadisə növünü sadalayın, ilkin 30 dəqiqəlik nəzarət siyahısını və hər biri üçün rolları müəyyənləşdirin. Sonra masa üstü məşq edin: “açar sızdırılmış” ssenarini addım-addım oynayın və planınızdakı çatışmayan/müəyyən məqamları qeyd edin və düzəldin.
yoxlama siyahısı
- [ ] Yazılı insident cavab planı və rol bölgüsü var.
- [ ] “Sistemi dayandırmaq” səlahiyyətinin kimdə olduğu aydındır.
- [ ] İlk 30 dəqiqə saxlama siyahısı hazırdır.
- [ ] Qanuni məlumatlandırma müddətləri və məsul şəxs müəyyən edilmişdir.
- [ ] İşin davamlılığı üçün ehtiyat nüsxə provayderi/təhlükəsiz rejim planlaşdırılır.
- [ ] Hər bir hadisə üçün günahsız postmortem və daimi korreksiya aparılır.