Pelnas:
- Gebėjimas atskirti, kur dirbtinis intelektas sutaupo laiko gynybinio saugumo darbo eigoje (aptikimas, analizė, intervencija, tobulinimas, ataskaitų teikimas), o kur saugumui svarbūs sprendimai (atakos deklaravimas, izoliavimas, blokavimas, oficiali ataskaita) paliekami analitikui, priklausomai nuo užduoties rizikos lygio.
- Gebėjimas pritaikyti kiekvienos AI išvesties prijungimo prie neapdorotų įrodymų (log, IOC, CVE, kodo) discipliną, savarankiškai juos tikrinant ir perduodant konteksto filtravimą.
- Galimybė anonimizuoti žurnalo ir saugos duomenis KVKK/privatumo ribose ir įpratinti naudoti tik įgaliotus, gynybinius tikslus ir gavus raštišką leidimą.
Apsaugos operacijų centre (angl. SOC – Security Operations Center; komanda, kuri visą parą stebi organizacijos tinklą, serverius ir vartotojus), kas sekundę teka tūkstančiai įvykių įrašų. Darbuotojas prisijungė prie serverio Rusijoje 3:14 val.: tai ataka ar komandiruotė į užsienį? Vienas vartotojas per penkias minutes užšifravo 4000 failų: ar tai išpirkos reikalaujanti programa, ar atsarginis įrankis? El. laiške rašoma „Sąskaita faktūra pridėta“: ar tai tikras apskaitos el. laiškas ar sukčiavimas? Kodo peržiūros metu SQL užklausa tiesiogiai sujungia vartotojo įvestį: ar tai yra išnaudojamas pažeidžiamumas, ar saugus scenarijus, veikiantis vidiniame tinkle? Daugelis šių klausimų kartojasi ir vargina; Kai kurie iš jų yra sprendimai, galintys tiesiogiai lemti duomenų pažeidimą, milijonų litų žalą ar institucijos reputaciją.
Dirbtinis intelektas (AI arba trumpai AI – kompiuterinės sistemos, kurios gali nuskaityti, apibendrinti, klasifikuoti, pažymėti anomalijas ir sukurti didelio kiekio teksto bei raštų juodraščius) telpa tiesiai į šio paveikslo vidurį. Tinkamai naudojant, jis per kelias sekundes apibendrina tūkstančius žurnalų eilučių, teikia pirmenybę pažeidžiamumui, išanalizuoja sukčiavimo el. laišką per kelias sekundes, o ne minutes ir suteikia laiko pagalvoti. Kai naudojamas neteisingai, jis gali nepaisyti tikros atakos, pažymėdamas ją kaip „normalią“, klaidingai įspėti komandą sugalvodamas neegzistuojančią grėsmę arba nutekėti konfidencialius žurnalo duomenis už organizacijos ribų.
Šio įrenginio tikslas nėra transporto priemonės reklama. Tikslas yra išsiaiškinti, kur AI naudoti saugos specialisto darbe, o kur jo nedėti. Pakartokime pagrindinį principą nuo pat pradžių: dirbtinis intelektas yra asistentas, o ne sprendimus priimanti institucija vietoj saugumo analitiko. Kvalifikuotas ekspertas turi paskelbti incidentą tikra ataka, izoliuoti sistemą, blokuoti vartotoją ir paversti radinį oficialiu pranešimu. Nepatvirtinta AI išvestis yra neįrodytas teiginys. Ir pati raudoniausia šio modulio eilutė: viskas, kas čia paaiškinta, skirta gynybos (gynybos) tikslams. AI naudojimas siekiant įsiskverbti į sistemą be leidimo, sukurti atakos įrankį arba atlikti neteisėtą testavimą yra neteisėtas ir nepatenka į šio modulio taikymo sritį.
Saugos darbo eiga ir AI vieta
Norint suprasti gynybinio saugumo verslą, naudinga procesą suskirstyti į penkis etapus. Aptikimas: įtartino elgesio fiksavimas iš žurnalo ir SIEM duomenų. Analizė/rūšiavimas: įvertinimas ir prioritetų nustatymas, ar pavojaus signalas yra tikras, ar klaidingas (klaidingas teigiamas). Atsakymas: įvykio sulaikymas, izoliavimas, valymas. Ištaisymas: pažeidžiamumo pašalinimas, pagrindinės priežasties pašalinimas. Ataskaitų teikimas: išvados vertimas į techninius ir vadybinius dokumentus. AI gali paliesti visus penkis etapus, bet ne kiekvienas turi tą patį autoritetą.
Apibrėžkime keletą terminų nuo pat pradžių. SIEM (Security Information and Event Management) – tai sistema, kuri renka ir koreliuoja žurnalo įrašus iš įvairių šaltinių (serverio, ugniasienės, taikomosios programos) ir generuoja taisyklėmis pagrįstus pavojaus signalus. Klaidingas teigiamas rezultatas yra tada, kai įvykis, kuris iš tikrųjų nėra grėsmė, sukelia pavojaus signalą; Tai skausmas užpakalyje, kuris išvargina SOC komandas ir sukelia „budrų nuovargį“. Klaidingas neigiamas rezultatas yra tada, kai tikras išpuolis niekada nepagaunamas; Tai pati pavojingiausia klaida, nes ji padaro žalą tyliai. IOC (Indicator of Compromise) yra techninis pėdsakas, rodantis atakos pėdsaką: kenkėjiškas IP adresas, failo maiša (hash), domeno vardas. TTP (Tactics, Techniques, Procedures) – tai elgesio modelis, nusakantis, kaip užpuolikas elgiasi.
Šioje lentelėje apibendrinamas AI vaidmuo ir rizikos lygis pagal misiją:
Quest
AI vaidmuo
Rizikos lygis
Kas pritaria
Žurnalų apibendrinimas, triukšmo mažinimas
greitintuvas, sumatorius
žemas
analitikas
Pažeidžiamumo prioritetų nustatymo metmenys
Rūšiuotojas, pasiūlymas
Žemas-Vidutinis
analitikas
Sukčiavimo el. pašto analizė
Išankstinė kvalifikacija, išaiškinimas
vidutinis
analitikas
Signalizacijos skirstymas (teisinga / klaidinga)
Pasiūlymas sukuria pagrindimą
Vidutinis-aukštas
Analitikas (vis tiek teisus)
Reagavimo į incidentą plano juodraštis
eskizų generatorius
Vidutinis-aukštas
Vyresnysis analitikas / IR vadovas
Saugaus kodo peržiūros radimas
Antroji akis, rodyklė
Vidutinis-aukštas
Kūrėjas + apsauga
Sprendimas dėl sistemos izoliavimo / blokavimo
nepadeda
labai aukštas
įgaliotas analitikas
Oficiali ataskaita/pranešimas apie įvykį
Juodraštis, ekspertas taiso
labai aukštas
IR vadovas + teisinis/atitikimas
Nepamirškite vienos šios diagramos eilutės: didėjant rizikai, AI vaidmuo mažėja, žmonių pritarimas auga. Jokia AI eilutė negali atleisti įvykio nuo peržiūros.
Kodėl patvirtinimas yra šio verslo esmė
Atrodo, kad dirbtinis intelektas yra įsitikinęs savo teikiama produkcija, tačiau jis gali būti ne tikras. Kalbos modelis gali sukurti neegzistuojantį CVE numerį (pažeidžiamumo ID), nurodyti faktiškai neegzistuojančią žurnalo eilutę arba teigti, kad IP adresas yra „kenkėjiškas“ be jokių įrodymų; tai vadinama haliucinacija. Tas pats modelis taip pat gali praleisti tikrą atakos grandinę. Abu spąstai yra vienodai sklandūs; Vienintelis dalykas, kuris skiria teisingą nuo neteisingo, yra jūsų žinios ir įprotis tikrinti.
Patikrinimo disciplina susideda iš trijų etapų:
- Susiekite tai su įrodymais: suderinkite kiekvieną AI teiginį su neapdorotu žurnalu, tikruoju IOC, patikrinamu CVE įrašu arba pačiu kodu. Bet koks teiginys, kurio šaltinio negalima nurodyti, negali būti įtrauktas į ataskaitą. Naudokite AI norėdami pritraukti dėmesį, o ne kaip įrodymą.
- Nepriklausomai patikrinkite: taip pat ištirkite sritis, kurias AI vadina „švariomis“. Neigiamas dirbtinio intelekto išvestis negarantuoja, kad „nėra grėsmės“; Niekada nepraleiskite savo sisteminės analizės.
- Konteksto filtras: ekspertiškai patikrinkite, ar išvestis atitinka organizacijos architektūrą, verslo kontekstą ir žinomą įprastą elgesį. „Anomalija“ ne visada reiškia „puolimą“.
Atsargiai: Pasirašant AI sukurtą incidento ataskaitą, nesuderinus kiekvieno reikalavimo su neapdorotais įrodymais, kyla tokia pati atsakomybė, kaip ir pateikus kaltinimą be įrodymų. Sklandus išvestis nėra tiksli išvestis; Jei saugumo sprendimas yra neteisingas, kaina yra sistemos gedimas arba praleistas pažeidimas.
Privatumas ir etika: žurnalo duomenys yra neskelbtini duomenys
Žurnalo įrašuose yra naudotojų vardai, IP adresai, vidinių serverių pavadinimai, failų keliai ir kartais asmeniniai duomenys. Jie saugomi pagal KVKK (asmens duomenų apsaugos įstatymą) Turkijoje ir GDPR Europoje; Be to, tai yra „vidinė žvalgyba“, atskleidžianti institucijos puolimo paviršių. Įklijuojant įvykį su neapdorotu žurnalu, tikrais IP adresais ir vidinių serverių pavadinimais į viešąjį AI įrankį, ne tik atskleidžiami asmeniniai duomenys, bet ir perduodamas naudingas tinklo žemėlapis į išorinį serverį. Taisyklė paprasta: pirmiausia anonimizuoti ir užmaskuoti. Pakeiskite tikrus IP adresus, naudotojų vardus, vidinius pagrindinio kompiuterio pavadinimus vietos rezervavimo ženklais; Jei įmanoma, rinkitės įmonės įrankius, kurie turi duomenų apdorojimo sutartį ir nenaudokite savo duomenų modelių mokymuose.
Etinė riba yra ne mažiau svarbi kaip techninė riba. Skirtumas tarp pažeidžiamumo radimo ir išnaudojimo be leidimo yra skirtumas tarp legalaus ir nusikalstamo. Šiame modulyje AI naudojate tik tose sistemose, kurioms esate įgaliotas, gynybos tikslais ir gavę raštišką leidimą. Prašymas dirbtinio intelekto daryti tokius dalykus kaip „parašyti atakos įrankį“, „kaip man įsiskverbti į tą svetainę“, „sukurti veikiančią kenkėjišką programą“ yra už profesijos ribų, o šiuolaikiniai AI įrankiai vis tiek juos atmeta.
trys mini dėklai
1 atvejis – saugus naudojimas. Naktinės pamainos metu SIEM analitikas susiduria su 1200 pavojaus signalų. Ar AI apibendrina neapdorotus įspėjimus (anoniminius); AI sutraukia 1 200 aliarmų į 18 grupių ir pateikia šabloną „340 nepavykusių prisijungimų iš to paties vidinio IP, po kurio seka 1 sėkmingas prisijungimas“. Analitikas patikrina šią grupę naudodamas neapdorotą žurnalą, suranda tikrą slaptažodžio brutalios jėgos ataką ir užrakina paskyrą per 9 minutes. AI pagreitintas rūšiavimas; Analitikas priėmė sprendimą ir patikrino.
2 atvejis – nepatikrintas išvesties gaudyklė. Kitas analitikas AI teikia pirmenybę pažeidžiamumų sąrašui. AI sako: „CVE-2024-99999 yra labai svarbus, pataisykite jį dabar“. Analitikas planuoja pataisyti, bet niekada neatidaro CVE įrašo; kadangi tokio CVE nėra – modelis sudarė skaičių. Komanda praranda valandas ieškodama neegzistuojančio pataiso, o tikrasis kritinis pažeidžiamumas vėluoja. Patikrinimas praleistas, pretenzija nesusieta su šaltiniu.
3 atvejis. Konfidencialumo pažeidimas. Kad paspartintų incidento tyrimą, ekspertas įklijuoja neapdorotą ugniasienės žurnalą su faktiniais vidiniais IP, naudotojų vardais ir VPN serverių pavadinimais į viešą AI įrankį. Organizacijos tinklo topologija, pavadinimų schema ir vartotojų sąrašas buvo perkelti į išorinį serverį. Teisingas būdas buvo užmaskuoti IP ir pavadinimus ir bendrinti tik šabloną.
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Ar šiame žurnale yra ataka: 10.2.14.7 vartotojas ahmet.yilmaz įėjo į VPN, tada prisijungė prie failų serverio FS-MUHASEBE-01. Taip pat pirmenybę teikite šiems pažeidžiamumui.
Ši užklausa yra klaidinga trimis būdais: bendrinamas tikrasis IP, vartotojo ir serverio vardas (privatumo pažeidimas), AI vaidmuo ir ribos neapibrėžti, nereikalaujama patikrinamų įrodymų. AI užpildo spragas spėlionėmis ir kyla fabrikavimo rizika.
Galingas raginimas:
Jūsų vaidmuo: DRAFT SOC analitiko padėjėjas. Sprendimų priėmimas; Paskelbkite incidentą kaip „ataką“, izoliuokite sistemą arba užblokuokite vartotoją. Tiesiog išanalizuokite anoniminį žurnalo modelį, kurį jums pateikiau. Prie kiekvienos pretenzijos nurodykite, kuria žurnalo eilute ją grindžiate; Pažymėkite „[analitikas patvirtina]“, kur nesate tikri; IOC, CVE arba IP klastojimas. Anoniminis incidentas: USER_A prisijungė prie VPN per YURTDISI_IP 03:14; tada pasiekė 4000 failų į vidinį failų serverį; Vartotojas paprastai dirba nuo 09:00 iki 18:00. Klausimai: (1) kokie modeliai yra įtartini, (2) kokių papildomų žurnalo įrodymų turėčiau ieškoti, (3) ar gali būti klaidingų teigiamų rezultatų?
Stipri valia yra anoniminė, apibrėžia vaidmenį ir ribas, kvestionuoja prisirišimą prie įrodymų ir klaidingų teigiamų rezultatų galimybę bei draudžia prasimanymą.
Kopijuojami raginimo šablonai
VAIDMUO IR RIBŲ APRAŠYMO ŠABLONASJūsų vaidmuo: saugos analitiko asistentas, rengiantis JURAŽĄ / ANALIZĘ. Jūs nesate analitikas; Įvykio paskelbimas ataka, sistemos izoliavimas, vartotojo blokavimas arba oficialaus pranešimo užbaigimas. Galutinį sprendimą ir parašą turi analitikas. Rodyti kiekvieno ieškinio įrodymus (logo eilutę, IOC, CVE, kodą); Pažymėkite tai, kas neturi įrodymų, kaip „[būtina patikrinti]“, negalvokite. Užduotis: [rašyti užduotį].
ANONIMIZAVIMO VALDYMO ŠABLONAS Iš toliau nurodytų saugos duomenų ištraukite tikrus IP adresus, vartotojų vardus, vidinius pagrindinio kompiuterio / serverio pavadinimus, el. pašto ir domenų pavadinimus, įmonės informaciją; pakeiskite nuosekliais vietos rezervavimo ženklais (USER_A, IC_IP_1, HOST_1). Išsaugokite tik analizei reikalingą šabloną. Pranešti man apie sąrašo pakeitimus. Duomenys: [įklijuoti duomenis]
PATVIRTINIMO PATIKRINIMO ŠABLONAS Prie kiekvieno pateikto radinio parašykite: (1) kokiais įrodymais ji pagrįsta, (2) kokį neapdorotą įrašą / šaltinį turėčiau atidaryti, kad patikrinčiau, (3) klaidingo teigiamo tikimybę ir kodėl. Jei reikia, naudokite žodį „galimas / įtariamas“, o ne tikslią kalbą. Neegzistuojanti CVE/IOC/IP gamyba.
RIZIKOS LYGIO PASKIRSTYMO ŠABLONIS Saugumo užduotį skirstysiu į kategorijas ir parašysiu pagrindimą: (A) maža rizika – AI metmenys/santrauka pakankama, (B) vidutinė rizika – analitikas turi patikrinti, (C) didelė/labai didelė rizika – sprendimas/izoliavimas/pranešimas priklauso analitikui, AI tik padeda. Užduotis: [rašyti užduotį].
Dažnos klaidos
- AI klysta su analitiku. AI nuskaito šablonus, bet neturi atsakomybės ar įgaliojimų; Jūs nuspręsite. Rezultatas yra juodraštis, o ne nuosprendis.
- Dalijimasis tikru IP, vartotojo ir pagrindinio kompiuterio vardu. Tai ir KVKK pažeidimas, ir tinklo žemėlapio nutekėjimas, kuris bus naudingas užpuolikui; pirmiausia kaukė.
- Pasikliaukite neigiama AI išvestimi ir atpalaiduokite paiešką. „Nėra grėsmės“ iš tikrųjų nereiškia, kad jos nėra; Niekada nepraleiskite savo sisteminės analizės.
- Sukurto CVE/IOC naudojimas be patvirtinimo. Gali atitikti modelio numerį ir indikatorių; Patvirtinkite kiekvieną naudodami oficialų šaltinį.
- Neleistinas/įžeidžiantis naudojimas. Dirbti tik gynybai, savo sistemomis, gavus raštišką leidimą; Priešingu atveju tai yra neteisėta ir neetiška.
Patarimas: užduokite sau vieną klausimą kiekvienai užduočiai: „Kas nutiks, jei ši išvestis neteisinga? Jei atsakymas yra „ataka pabėga“ arba „nutrūksta verslas“ (kaip dažnai nutinka saugos srityje), PG naudokite tik santraukai / pasiūlymui / metmenyse ir niekada nepraleiskite patvirtinimo.
Apibendrinant
Dirbtinis intelektas yra galingas kibernetinio saugumo asistentas: jis apibendrina žurnalą, rūšiuoja aliarmą, analizuoja sukčiavimą, nuskaito kodą, generuoja ataskaitų juodraščius. Tačiau tai saugumui svarbi sritis; Kvalifikuotas ekspertas turi paskelbti incidentą ataka, izoliuoti sistemą, blokuoti vartotoją ir pateikti oficialią ataskaitą. PG vaidmuo penkiuose proceso etapuose (aptikimas, analizė, intervencija, ištaisymas, ataskaitų teikimas) skiriasi priklausomai nuo rizikos lygio; Didėjant rizikai, didėja žmonių pritarimas. Trys disciplinos saugo kiekvieną žingsnį: įrodymai, nepriklausomas patikrinimas, konteksto filtras. Ir po visu tuo yra dvi ribos: konfidencialumas (neapdorotų duomenų eksportavimas be anonimiškumo) ir etika (tik įgaliotas, gynybinis, įgaliotas naudojimas).
Taikymo užduotis
Pasirinkite tris užduotis iš savo organizacijos (arba scenarijaus pavyzdį): vieną mažos rizikos riziką (pvz., kasdieninių įspėjimų suvestinė), vieną vidutinę riziką (pvz., sukčiavimo analizė), vieną labai didelę riziką (pvz., sprendimą izoliuoti sistemą). Kiekvienam iš jų (1) vienu sakiniu apibūdinkite AI vaidmenį, (2) užrašykite, kokį patikrinimo veiksmą atliksite, (3) nurodykite, kaip anonimizuojate duomenis. Tada pritaikykite šabloną „Vaidmuo ir ribų apibrėžimas“ savo vidutinės rizikos užduočiai, parašykite raginimą ir atkreipkite dėmesį, kaip patikrinsite jo rezultatus naudodami neapdorotus įrodymus.
kontrolinis sąrašas
- [ ] Nustačiau užduoties rizikos lygį (žema/vidutinė/aukšta/labai aukšta).
- [ ] Apribojau AI vaidmenį iki „asistento/santrauka/pasiūlymas/juodraštis“; Sprendimas ir parašas yra pas analitiką.
- [ ] anonimizuojau duomenis; Tikrasis IP, vartotojo, pagrindinio kompiuterio ir domenų vardai yra užmaskuoti.
- [ ] Pažadėjau kiekvieną teiginį patikrinti neapdorotais įrodymais (log, IOC, CVE, kodas).
- [ ] Nepaisant neigiamos AI išvesties, aš atliksiu savo sisteminę analizę.
- [ ] Žinodamas, kad tai gali būti netikras CVE/IOC/IP, patvirtinsiu tai oficialiu šaltiniu.
- [ ] Aš naudoju tik įgaliotą, gynybinį ir rašytinį leidimą.