Nyereség:
- Megkülönböztetni, hogy a mesterséges intelligencia hol takarít meg időt a védekező biztonsági munkafolyamatban (észlelés, elemzés, beavatkozás, fejlesztés, jelentés), és hol marad a biztonság szempontjából kritikus döntés (támadás bejelentése, elkülönítés, blokkolás, hivatalos jelentés) az elemzőre, a feladat kockázati szintjétől függően.
- Képes alkalmazni az egyes mesterséges intelligencia kimenetek nyers bizonyítékokhoz (napló, IOC, CVE, kód) való kapcsolását, önállóan ellenőrizni és átadni a kontextus szűrésen
- Lehetőség a naplózási és biztonsági adatok anonimizálására a KVKK/privacy keretein belül, és megszokni, hogy csak engedélyezett, védelmi célokat és írásos engedélyt kapjanak.
Egy biztonsági műveleti központban (angolul SOC - Security Operations Center; a szervezet hálózatát, szervereit és a felhasználókat éjjel-nappal figyelő csapat) több ezer eseményrekord áramlik másodpercenként. Egy alkalmazott csatlakozott egy oroszországi szerverhez hajnali 3:14-kor: ez egy támadás vagy egy külföldi üzleti út? Egy felhasználó öt perc alatt 4000 fájlt titkosított: ez ransomware vagy biztonsági mentési eszköz? Egy e-mailben ez áll: „Számla csatolva”: ez valódi könyvelési e-mail vagy adathalászat? A kód áttekintése során az SQL-lekérdezés közvetlenül összefűzi a felhasználói bevitelt: ez kihasználható biztonsági rés vagy a belső hálózaton futó biztonságos szkript? E kérdések közül sok ismétlődő és fárasztó; Ezek egy része olyan döntés, amely közvetlenül adatszivárgáshoz, több millió lírás kárhoz vagy egy intézmény hírnevéhez vezethet.
A mesterséges intelligencia (az AI vagy röviden AI – olyan számítógépes rendszerek, amelyek képesek szkennelni, összegezni, osztályozni, megjelölni az anomáliákat, és nagy mennyiségű szöveget és mintát készíteni) a kép közepén elfér. Helyes használat esetén másodpercek alatt összefoglalja a naplók ezreit, prioritást ad a sebezhetőségek csoportjának, percek helyett másodpercek alatt elemzi az adathalász e-maileket, és gondolkodási időt ad. Ha helytelenül használják, figyelmen kívül hagyhatja a valódi támadást azzal, hogy "normálisnak" jelöli, hamisan riaszthatja a csapatot egy nem létező fenyegetés kitalálásával, vagy bizalmas naplóadatokat szivárogtathat ki a szervezeten kívül.
Ennek az egységnek nem célja a jármű reklámozása. A cél annak tisztázása, hogy a mesterséges intelligencia hol helyezhető el egy biztonsági szakember munkájában, és hová ne. Az elejétől fogva ismételjük meg az alapelvet: A mesterséges intelligencia asszisztens, nem pedig döntéshozó a biztonsági elemző helyett. A képzett szakértő feladata, hogy egy incidenst valódi támadásnak nyilvánítson, a rendszert elkülönítse, blokkolja a felhasználót, és a leletet hivatalos jelentéssé alakítsa. A nem ellenőrzött AI-kimenet nem bizonyított állítás. És ennek a modulnak a legvörösebb sora: Minden, amit itt leírtunk, védekezési (védelmi) célokat szolgál. A mesterséges intelligencia engedély nélküli behatolása a rendszerbe, támadóeszköz létrehozása vagy jogosulatlan tesztelés végrehajtása illegális, és nem tartozik a modul hatálya alá.
Biztonsági munkafolyamat és az AI helye
A védekező biztonság üzletének megértéséhez hasznos a folyamatot öt szakaszra bontani. Észlelés: Gyanús viselkedés rögzítése napló- és SIEM-adatokból. Elemzés/triage: annak értékelése és rangsorolása, hogy a riasztás valós vagy hamis (hamis pozitív). Válasz: az esemény visszaszorítása, elkülönítés, takarítás. Kárelhárítás: A sebezhetőség megszüntetése, a kiváltó ok megszüntetése. Jelentéskészítés: a megállapítás lefordítása műszaki és vezetői dokumentációba. A mesterséges intelligencia mind az öt szakaszt érintheti, de nem mindegyik azonos jogosultsággal.
Az elejétől fogva határozzunk meg néhány fogalmat. A SIEM (Security Information and Event Management) egy olyan rendszer, amely különböző forrásokból (szerver, tűzfal, alkalmazás) származó naplórekordokat gyűjt össze és korrelál, és szabályalapú riasztásokat generál. Hamis pozitív, ha egy esemény, amely valójában nem fenyegetés, riasztást vált ki; Fájdalom, ami kifárasztja az SOC-csapatokat, és „éber fáradtsághoz” vezet. Hamis negatív az, amikor egy igazi támadást soha nem kapnak el; Ez a legveszélyesebb hiba, mert csendben okoz kárt. Az IOC (Indicator of Compromise) az a technikai nyom, amely a támadás nyomát mutatja: rosszindulatú IP-cím, fájlkivonat (hash), domain név. A TTP (Tactics, Techniques, Procedures) egy viselkedési minta, amely leírja a támadó viselkedését.
Az alábbi táblázat összefoglalja az AI szerepét és kockázati szintjét küldetésenként:
Quest
Az AI szerepe
Kockázati szint
Aki jóváhagyja
Napló összesítés, zajcsökkentés
gyorsító, összegző
alacsony
elemzője
A sebezhetőségi prioritások vázlata
Válogató, javaslat
Alacsony-közepes
elemzője
Adathalász e-mail elemzés
Előminősítés, tisztázás
közepes
elemzője
Riasztási osztályozás (igaz/hamis)
A javaslat igazolást eredményez
Közepes-magas
Elemző (még mindig helyes)
Az incidensre adott válaszok tervezete
vázlatgenerátor
Közepes-magas
Vezető elemző / IR vezető
Biztonságos kódellenőrzés
Második szem, mutató
Közepes-magas
Fejlesztő + biztonság
Rendszerleválasztási/blokkolási döntés
nem segítőkész
nagyon magas
feljogosított elemző
Hivatalos eseményjelentés/értesítés
Tervezet, szakértő javít
nagyon magas
IR vezető + jogi/megfelelő
Ne feledje a diagram egyetlen vonalát: a kockázat növekedésével a mesterséges intelligencia szerepe csökken, az emberi jóváhagyás pedig nő. A mesterséges intelligencia egyetlen sora sem mentesíthet eseményt a felülvizsgálat alól.
Miért az igazolás ennek a vállalkozásnak a lényege?
A mesterséges intelligencia magabiztosnak tűnik az általa nyújtott teljesítményben, de lehet, hogy nem biztos. Egy nyelvi modell előállíthat egy nem létező CVE-számot (sebezhetőség-azonosító), hivatkozhat egy ténylegesen nem létező naplósorra, vagy bizonyíték nélkül állíthatja, hogy egy IP-cím "rosszindulatú"; ezt nevezik hallucinációnak. Ugyanabból a modellből hiányozhat egy igazi támadási lánc is. Mindkét csapda azonos folyékonysággal érkezik; Az egyetlen dolog, ami elválasztja a jót a rossztól, az a szakértelmed és az ellenőrzési szokásod.
Az ellenőrzési fegyelem három lépésből áll:
- Kösd össze bizonyítékokkal: Minden mesterséges intelligencia igényt egy nyers naplóhoz, egy tényleges IOC-hoz, egy ellenőrizhető CVE-rekordhoz vagy magához a kódhoz igazítson. A jelentésben nem szerepelhet olyan állítás, amelynek forrására nem lehet hivatkozni. Használja az AI-t a figyelem felkeltésére, ne bizonyítékként.
- Független ellenőrzés: Vizsgálja meg azokat a területeket is, amelyeket az AI "tisztának" nevez. A negatív mesterséges intelligencia kimenet nem garancia arra, hogy nincs veszély; Soha ne hagyja ki saját szisztematikus elemzését.
- Kontextusszűrő: Szakszerűen tesztelje, hogy a kimenet illeszkedik-e a szervezet architektúrájához, üzleti környezetéhez és ismert normál viselkedéséhez. Az „anomália” nem mindig jelent „támadást”.
Figyelem: A mesterséges intelligencia által generált eseményjelentés aláírása anélkül, hogy minden követelést nyers bizonyítékokkal párosítana, ugyanolyan felelősséggel jár, mint bizonyíték nélküli vádemelés. A sima kimenet nem pontos kimenet; Ha egy biztonsági döntés rossz, a költség a rendszer összeomlása vagy egy elmulasztott incidens.
Adatvédelem és etika: a naplóadatok érzékeny adatok
A naplóbejegyzések felhasználóneveket, IP-címeket, belső szerverneveket, fájl elérési utat és néha személyes adatokat tartalmaznak. Törökországban a KVKK (személyes adatvédelmi törvény) és Európában a GDPR értelmében védik őket; Ráadásul ezek "belső hírszerzés", amelyek felfedik az intézmény támadási felületét. Ha egy eseményt a nyers naplóval, valós IP-címekkel és belső kiszolgálónevekkel egy nyilvános mesterségesintelligencia-eszközbe illeszt be, akkor nemcsak személyes adatokat tesz közzé, hanem hasznos hálózati térképet is továbbít a külső szerver felé. A szabály egyszerű: először anonimizálja és maszkolja. Cserélje ki a valódi IP-címeket, felhasználóneveket, belső gazdagépneveket helyőrzőkkel; Lehetőség szerint válasszon olyan vállalati eszközöket, amelyeknek adatkezelési szerződésük van, és ne használja fel adatait modellképzésben.
Az etikai határ legalább olyan fontos, mint a technikai határ. A sebezhetőség megtalálása és az engedély nélküli kihasználás közötti különbség a jogi és a büntetőjogi különbség. Ebben a modulban az AI-t csak olyan rendszerekben használja, amelyekre jogosult, védekezési célból és írásos engedéllyel. A mesterséges intelligencia megkérése, hogy tegyen olyan dolgokat, mint "írjon egy támadóeszközt", "hogyan tudok beszivárogni arra az oldalra", "működő rosszindulatú programot állítson elő", a szakmán kívül esik, és a modern AI-eszközök egyébként is elutasítják őket.
három mini tok
1. eset – Biztonságos használat. Egy elemző 1200 riasztást észlel a SIEM-ben egy éjszakai műszak során. Összefoglalja-e az AI a nyers riasztásokat (anonimizált); A mesterséges intelligencia 1200 riasztást 18 klaszterbe bont, és egy „340 sikertelen bejelentkezés ugyanarról a belső IP-ről, majd 1 siker” mintát húz előre. Az elemző a nyers naplóval ellenőrzi ezt a klasztert, valódi jelszóval járó brute force támadást talál, és 9 percen belül zárolja a fiókot. AI gyorsított válogatás; Az elemző meghozta a döntést és az ellenőrzést.
2. eset – Ellenőrizetlen kimeneti csapda. Egy másik elemző szerint az AI prioritásként kezeli a sebezhetőségek listáját. Az AI azt mondja: "A CVE-2024-99999 kritikus, javítsd meg most." Az elemző a javítást tervezi, de soha nem nyitja meg a CVE rekordot; mivel ilyen CVE nincs – a modell alkotta a számot. A csapat órákat veszít egy nem létező javítás után, miközben a valódi kritikus sebezhetőség késik. Az ellenőrzés elmarad, az állítás nem kapcsolódik a forráshoz.
3. eset – A titoktartás megsértése. Az incidens kivizsgálásának felgyorsítása érdekében egy szakértő beilleszti a nyers tűzfalnaplót – a tényleges belső IP-címekkel, felhasználónevekkel és VPN-kiszolgálók neveivel – egy nyilvános AI-eszközbe. A szervezet hálózati topológiája, elnevezési sémája és felhasználói listája külső szerverre került. A helyes módszer az IP-címek és nevek elfedése és csak a minta megosztása volt.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Van-e támadás a következő naplóban: 10.2.14.7 ahmet.yilmaz felhasználó belépett a VPN-be, majd csatlakozott az FS-MUHASEBE-01 fájlszerverhez. Adjon prioritást ezeknek a sebezhetőségeknek is.
Ez a kérés három szempontból hibás: a valódi IP-cím, a felhasználó és a szerver neve meg van osztva (adatvédelmi megsértés), az AI szerepe és határai nincsenek meghatározva, és nem kérnek ellenőrizhető bizonyítékot. A mesterséges intelligencia találgatásokkal pótolja a hiányosságokat, és felmerül a gyártás kockázata.
Erőteljes felszólítás:
Az Ön szerepe: DRAFT asszisztens a SOC elemzőjénél. Döntéshozatal; Az incidenst nyilvánítsa "támadásnak", izolálja a rendszert, vagy blokkolja a felhasználót. Csak elemezze az általam adott névtelen naplómintát. Minden követelésnél jelezze, hogy melyik naplósorra alapozza; Ha nem biztos benne, jelölje be az „[analyst verify]” elemet; IOC, CVE vagy IP hamisítás. Névtelen incidens: USER_A hozzáfért a VPN-hez YURTDISI_IP-n keresztül 03:14-kor; majd elért 4000 fájlt a belső fájlszerveren; A felhasználó általában 09:00-18:00 között dolgozik. Kérdések: (1) milyen minták gyanúsak, (2) milyen további log bizonyítékokat kell keresnem, (3) lehetnek téves pozitív eredmények?
Az erős akarat névtelen, meghatározza a szerepet és a határokat, megkérdőjelezi a bizonyítékokhoz való kötődést és a hamis pozitívumok lehetőségét, és megtiltja a kitalációt.
Másolható prompt sablonok
SZEREP- ÉS HATÁRLEÍRÁS SABLONAz Ön szerepköre: biztonsági elemző asszisztense TERVEZET/ELEMZÉS elkészítésében. Ön nem elemző; Az incidens támadásnak nyilvánítása, a rendszer leválasztása, a felhasználó letiltása vagy a hivatalos jelentés véglegesítése. A végső döntés és az aláírás az elemzőnél van. Mutasson bizonyítékot (naplósor, IOC, CVE, kód) minden követelésnél; Jelölj olyat, aminek nincs bizonyítéka, hogy "[ellenőrizendő]", ne találd ki. Feladat: [feladat írása].
ANONIMIZÁLÁSI VEZÉRLÉS SABLON Valódi IP-címek, felhasználónevek, belső gazdagép/szervernevek, e-mail- és tartománynevek, valamint vállalati információk kinyerése a következő biztonsági adatokból; cserélje ki következetes helyőrzőkre (USER_A, IC_IP_1, HOST_1). Csak az elemzéshez szükséges mintát tartsa meg. Értesítést kérek a lista változásairól. Adatok: [adatok beillesztése]
ÉRVÉNYESÍTÉSI ELLENŐRZÉS SABLON Minden egyes lelethez írja mellé: (1) milyen bizonyítékon alapul, (2) milyen nyers rekordot/forrást kell megnyitnom az ellenőrzéshez, (3) a hamis pozitív eredmény valószínűségét és miért. Ha szükséges, használja a „lehetséges/gyanús” szót a pontos megfogalmazás helyett. Nem létező CVE/IOC/IP gyártás.
KOCKÁZATI SZINT KIBOCSÁTÁSI SABLON A biztonsági hozzárendelés kategorizálása Kiadom és megírom az indoklást: (A) alacsony kockázat - AI vázlat/összefoglaló elegendő, (B) közepes kockázat - elemzőnek ellenőriznie kell, (C) magas/nagyon magas kockázat - a döntés/elszigetelés/értesítés az elemzőt illeti, az AI csak segít. Feladat: [feladat írása].
Gyakori hibák
- Az AI összetévesztése egy elemzővel. Az AI mintákat keres, de nincs felelőssége vagy felhatalmazása; Te döntesz. A kimenet tervezet, nem ítélet.
- Valódi IP-cím, felhasználó és gazdagépnév megosztása. Ez egyrészt a KVKK megsértése, másrészt a hálózati térkép kiszivárgása, ami a támadó javára válik; először maszk.
- A negatív AI-kimenetre támaszkodva és a keresés lazításával. A „nincs fenyegetés” valójában nem jelenti azt, hogy nincs; Soha ne hagyja ki saját szisztematikus elemzését.
- Készített CVE/IOC használata ellenőrzés nélkül. Megfelel a modellszámnak és a jelzőnek; Erősítse meg mindegyiket hivatalos forrással.
- Jogosulatlan/sértő használat. Csak védekező módon, saját rendszerein dolgozzon, írásos engedéllyel; Ellenkező esetben jogellenes és etikátlan is.
Tipp: Tegyen fel magának egy kérdést minden feladathoz: „Mi történik, ha ez a kimenet rossz?” Ha a válasz „a támadás megszökik” vagy „üzleti megszakítás történik” – ahogy ez gyakran történik a biztonságban –, csak az összefoglaláshoz/javaslathoz/vázlathoz használja az AI-t, és soha ne hagyja ki az ellenőrzést.
Összefoglalva
A mesterséges intelligencia hatékony asszisztens a kiberbiztonságban: összefoglalja a naplót, rendezi a riasztásokat, elemzi az adathalászatot, beolvassa a kódot, jelentéstervezeteket készít. De ez egy biztonsági szempontból kritikus terület; A képzett szakértő feladata, hogy egy incidenst támadásnak nyilvánítson, a rendszert elkülönítse, egy felhasználót blokkoljon, és hivatalos jelentést készítsen. A mesterséges intelligencia szerepe a folyamat öt szakaszában (észlelés, elemzés, beavatkozás, helyreállítás, jelentés) a kockázat mértékétől függően változik; A kockázat növekedésével az emberi jóváhagyás növekszik. Három tudományág őrzi minden lépést: bizonyítékok, független ellenőrzés, kontextusszűrő. És mindezek alatt két korlát van: a titoktartás (nyers adatok anonimizálás nélküli exportálása) és az etika (csak engedélyezett, védekező, engedélyezett felhasználás).
Pályázati feladat
Válasszon ki három feladatot a saját szervezetéből (vagy egy példa forgatókönyvből): egy alacsony kockázatú (pl. napi riasztási összefoglaló), egy közepes kockázat (pl. adathalász elemzés), egy nagyon magas kockázat (pl. döntés egy rendszer elkülönítéséről). Mindegyiknél (1) írja le egy mondatban az AI szerepét, (2) írja le, hogy milyen ellenőrzési lépést fog tenni, (3) jelezze, hogyan anonimizálja az adatokat. Ezután igazítsa a „Szerep és határok meghatározása” sablont közepes kockázatú feladatához, írjon egy felszólítást, és jegyezze fel, hogyan fogja nyers bizonyítékokkal ellenőrizni a kimenetét.
ellenőrző lista
- [ ] Meghatároztam a feladat kockázati szintjét (alacsony/közepes/magas/nagyon magas).
- [ ] Az AI szerepét az „asszisztens/összefoglaló/javaslat/vázlat”-ra korlátoztam; A döntés és az aláírás az elemzőnél van.
- [ ] anonimizáltam az adatokat; a valódi IP-cím, a felhasználó, a gazdagép és a domain nevek maszkolásra kerülnek.
- [ ] Megígértem, hogy minden állítást nyers bizonyítékokkal (napló, NOB, CVE, kód) igazolok.
- [ ] A negatív AI-kimenet ellenére saját szisztematikus elemzést fogok végezni.
- [ ] Tudva, hogy hamis CVE/IOC/IP lehet, megerősítem a hivatalos forrással.
- [ ] Csak az engedélyezett, védekező és írásban engedélyezett felhasználásra korlátozódok.