Qligħ:
- Kapaċità li tikklassifika tipi ta 'inċidenti speċifiċi għall-AI u tfassal ċiklu ta' rispons
- Kapaċità li tiddefinixxi rwoli, awtoritajiet u obbligi ta 'rappurtar legali qabel l-avveniment
- Kapaċità li jiġi stabbilit titjib permanenti b'kontinwità tan-negozju u post-mortem mingħajr tort
Ma jimpurtax kemm tiddefendiha tajjeb, xi darba xi ħaġa tmur ħażin: ċavetta se tnixxi, injezzjoni taħdem, fornitur se jikkraxxja, jew output se jagħmel ħsara lil klijent. Dak li jagħmel istituzzjoni matura matura mhuwiex in-nuqqas ta 'avvenimenti, iżda li tkun ippreparat u mgħaġġel meta jseħħ avveniment. F'din l-unità, se nitgħallmu pjan ta 'rispons għall-inċidenti speċifiċi għall-AI, rwoli, passi u kontinwità tan-negozju.
Għaliex Ir-Reazzjoni għall-Inċidenti Huwa Differenti fl-AI?
F'inċident tas-sigurtà klassiku, "itfi s-sistema, iżola" ħafna drabi hija biżżejjed. Hemm dimensjonijiet addizzjonali għall-avvenimenti tal-AI: l-avveniment jista’ ma jkunx f’kodiċi iżda fl-imġiba tal-mudell (eż. output sistematiku mhux korrett/preġudikat); il-prova tinsab fir-reġistri fil-pront/rispons; u "jneħħu" xi drabi mhux possibbli minħabba li l-output żbaljat diġà sar deċiżjoni. Għalhekk, il-pjan tal-inċidenti tal-AI għandu jkopri kemm is-sigurtà klassika kif ukoll l-imġiba mudell.
Attenzjoni: Fiż-żmien tal-inċident, pjan ma jkunx miktub, huwa implimentat. Min se jsejjaħ lil min, min għandu l-awtorità li "jwaqqaf is-sistema" u kif se ssir il-komunikazzjoni għandhom jiġu deċiżi qabel l-avveniment.
Tipi ta' Avvenimenti AI
- Tnixxija tad-dejta: PII jew dejta kunfidenzjali ħarġet (permezz tal-pront, log, jew output).
- Ksur tas-sigurtà: Ċavetta leaked, injezzjoni b'suċċess, aċċess mhux awtorizzat.
- Produzzjoni ta' ħsara/preġudikata: Il-mudell ipproduċa sistematikament reazzjoni mhux korretta, diskriminatorja jew perikoluża.
- Qtugħ tas-servizz: Il-fornitur waqa' jew laqat il-limitu tal-veloċità; Is-sistema ma tistax tirrispondi.
- Abbuż: Is-sistema ntużat għal skop ta’ ħsara li ma kinitx iddisinjata għalih.
Pass pass: Ċiklu ta' Rispons għall-Inċidenti
- Sejbien. Allarm ta' monitoraġġ, ilment ta' l-utent, jew sejba ta' verifika tiżvela l-inċident.
- Issortja u prijoritizza. Agħti livelli bbażati fuq l-impatt u t-tixrid (eż. P1 kritiku – P3 baxx).
- Fih. Waqqaf it-tixrid: irrevoka ċ-ċavetta, itfi l-karatteristika, iġbed is-sistema biex tinqara biss.
- Eradika u tirkupra. Waħħal il-kawża ewlenija, terġa 'lura għal stat sigur.
- Irrapportaha. Informa l-obbligi ta’ notifika legali/kuntrattwali (bħal KVKK 72 siegħa) u lil dawk affettwati fil-ħin.
- Eżami ta' wara l-avveniment (post mortem). Mingħajr ma tpoġġi t-tort, iddokumenta l-kawża ewlenija u tiffissa permanenti.
Rwoli u Responsabbiltajiet
Għandu jkun ċar min jagħmel xiex f'inċident: kmandant tal-inċident (persuna unika li tieħu d-deċiżjoni), rispons tekniku (waqfien/tiswija tas-sistema), komunikazzjonijiet (klijent/ġestjoni/regolatur), legali/konformità (obbligu ta' rapport). F'timijiet żgħar, persuna waħda tista' tieħu diversi rwoli, iżda r-rwoli jridu jinkitbu.
Erba' Mudelli Kopjabbli
Klassifikazzjoni tal-avveniment fil-pront:
Ikklassifika l-avveniment li ġej: {{ event_description }}Identifika:- Tip: tnixxija tad-dejta / ksur tas-sigurtà / output malizzjuż / qtugħ / abbuż- Impatt: kemm nies/rekords, liema klassi tad-dejta, flus/konsegwenzi ta’ konformità?- Propagazzjoni: waqfet jew għaddejja?- Prijorità: P1 / P2 / P3 + ġustifikazzjoni- L-ewwel pass ta’ kontroll: x’għandu jsir immedjatament?
Lista ta' kontroll tal-ewwel rispons (konteniment):
Fl-ewwel 30 minuta meta l-inċident jiġi kkonfermat:- [ ] Itfi l-karatteristika/għodda affettwata jew issettjaha biex tinqara biss- [ ] Ikkanċella ċwievet/sessjonijiet suspettużi- [ ] Ippreserva l-evidenza (iffriża r-zkuk rilevanti, irreġistra trace_id)- [ ] Avża lill-kmandant tal-inċident u r-rwoli meħtieġa- [ ] Tiskjera modalità sigura temporanja / fluss ta’ backup
Abbozz ta' notifika fil-pront:
Ikteb abbozz ta' notifika interna għall-inċident li ġej: {{ incident_summary }}Irid jinkludi: x'ġara (b'lingwaġġ mhux tekniku), meta ġie nnutat, liema data/min ġiet affettwata, x'sar s'issa, passi li jmiss, mingħand min tista' tinkiseb informazzjoni addizzjonali. Tinkludix spekulazzjoni jew akkużi.
Skeletru ta' wara l-mewt:
Reviżjoni ta’ wara l-avveniment (l-ebda tort):- Skeda ta’ żmien: skoperta -> kontroll -> irkupru (minutament)- Kawża ewlenija: teknika + daqs tal-proċess- X’mar tajjeb / x’mar ħażin- Tirranġa permanenti (min, meta)- Monitoraġġ/kontroll biex jinqabad dan l-avveniment aktar kmieni milli wara
Prompt Dgħajjef / Prompt Qawwija
approċċ fqir
Approċċ qawwi
Impromptu fl-avveniment mingħajr pjan
Pjan, rwoli u awtoritajiet miktuba minn qabel
L-ewwel għid "min hu ħati"
L-ewwel trażżin, imbagħad wara l-mewt mingħajr tort
Dewmien/aqbeż in-notifika
Notifika fil-perjodu legali (eż. 72 siegħa)
Nistennew li jerġa' jiġri l-istess avveniment
Estrazzjoni ta' kontroll permanenti minn postmortem
Tliet Każijiet Mini
Każ 1 — Maqbuda fir-regola tat-72 siegħa. Impjegat f'kumpanija waħda nnota li 1,200 rekord tal-klijenti tħallew esposti f'reġistru minħabba konfigurazzjoni ħażina. Grazzi għall-pjan bil-miktub, il-kmandant tal-inċident kien ċar; It-tim għalaq l-aċċess f'40 minuta, u l-liġi għamlet in-notifika tal-KVKK fi żmien 72 siegħa. Rappurtar f'waqtu naqqas b'mod sinifikanti r-riskju kriminali u l-ħsara għar-reputazzjoni.
Każ 2 — Il-mod sikur li jinqara biss ittratta l-qtugħ. Il-fornitur ewlieni tal-mudell ħareġ għal 3 sigħat. Il-pjan ta' kontinwità tan-negozju tad-ditta kien jinkludi l-bidla għal fornitur ta' backup u "mod sikur" (funzjonijiet kritiċi biss). Għalkemm l-utenti tilfu l-funzjonalità sħiħa, is-sistema baqgħu ħajjin; operazzjonijiet kritiċi ma waqfux.
Każ 3 — Postmortem impedixxa rikorrenza. Injezzjoni indiretta b'suċċess ħarġet dejta ta' utent ieħor lil assistent. Postmortem li ma twaħħalx wera li l-kawża ewlenija kienet in-nuqqas ta' iżolament <data>. Fixed permanenti miżjud (iżolament + skan tal-output + test ta 'rigressjoni); L-istess klassi ta’ attakk ma reġgħetx rnexxiet.
Tip: Iwettaq il-post mortem mingħajr tort. L-għan mhux li jinstabu n-nies, iżda li tissaħħaħ is-sistema b’mod li ma jerġax jippermetti l-istess inċident. Kultura ta’ tort iġġiegħel lin-nies jaħbu l-affarijiet, u dan huwa l-aktar perikoluż.
Żbalji komuni
- Mhux tħejji pjan bil-miktub u distribuzzjoni tar-rwoli qabel l-avveniment.
- Idħol f'argument/tort qabel ma tieħu l-kontroll.
- Obbligi ta’ notifika legali nieqsa (iskadenzi KVKK/GDPR).
- Issettjar mill-ġdid tas-sistema mingħajr ma tippreserva l-evidenza (zkuk).
- Mhux qed tikkunsidra fornitur backup/mod sikur għall-kontinwità tan-negozju.
- Li ma tagħmilx post-mortem u tħalli lok biex l-istess avveniment jiġi ripetut.
Fil-qosor
- Il-maturità mhix in-nuqqas ta’ avvenimenti; Ifisser li tkun ippreparat u mgħaġġel meta jiġri.
- L-avvenimenti tal-IA jistgħu jkunu fl-imġiba tal-mudell aktar milli fil-kodiċi; il-prova tinsab fir-reġistri fil-pront/rispons u t-treġġigħ lura mhux dejjem possibbli.
- Ċiklu ta' rispons: skopri, ikklassifikati, fihom, jirkupraw, jirrapportaw, postmortem.
- Ir-rwoli u l-awtoritajiet (kmandant tal-inċident, tekniku, komunikazzjonijiet, legali) għandhom ikunu bil-miktub qabel l-avveniment.
- Fornitur tal-backup/mod sikur għall-kontinwità tan-negozju; Postmortem bla tort u korrezzjoni permanenti huma essenzjali għall-konsegwenzi tal-avveniment.
Kompitu ta' applikazzjoni
Ikteb abbozz ta' pjan ta' rispons għall-inċidenti għas-sistema AI tiegħek stess: elenka t-tliet tipi ta' inċidenti l-aktar probabbli, identifika lista ta' kontroll inizjali ta' konteniment ta' 30 minuta u rwoli għal kull wieħed. Imbagħad agħmel eżerċizzju fuq il-mejda: Ilgħab ix-xenarju “ċavetta leaked” pass pass u indika u kkoreġi kwalunkwe punt neqsin/ambigwi fil-pjan tiegħek.
lista ta' kontroll
- [ ] Hemm pjan ta' reazzjoni għall-inċidenti bil-miktub u distribuzzjoni tar-rwoli.
- [ ] Huwa ċar min għandu l-awtorità li "jwaqqaf is-sistema".
- [ ] Il-lista ta' kontroll tal-konteniment tal-ewwel 30 minuta hija lesta.
- [ ] Perjodi ta' notifika legali u persuna responsabbli huma definiti.
- [ ] Fornitur ta' backup/mod sikur ippjanat għall-kontinwità tan-negozju.
- [ ] Korrezzjoni postmortem u permanenti mingħajr tort huma mwettqa għal kull inċident.