Įvadas į dirbtinį intelektą sistemų ir tinklų valdyme: vaidmenys, ribos, autentifikavimas ir autoritetas

Pelnas:

• Galimybė atskirti, kuriose užduotyse (scenarijose, žurnaluose, dokumentų juodraščiuose) dirbtinis intelektas taupo realų laiką, o kuriose tokios užduotys kaip prastovos, duomenų praradimas ir saugumui įtakos turintys vadovų sprendimai paliekami žmonėms, priklausomai nuo užduoties rizikos lygio.
• Gebėjimas taikyti keturių žingsnių discipliną, kuri patikrina kiekvieną AI išvestį ją nuskaitant, prijungiant prie dokumento, išbandant izoliuotoje aplinkoje ir parengiant grąžinimo planą.
• Galimybė internalizuoti slaptų duomenų maskavimo žurnaluose ir konfigūracijoje principą ir naudoti dirbtinį intelektą gynybos tikslais tik įgaliotose sistemose

Gaviklis pypsi 3 valandą nakties, gamybinis serveris nereaguoja, tūkstančiai svarų per valandą gedimų apdorojami už jūsų nugaros ir visų žvilgsniai nukreipti į jus. Sistemų ir tinklų valdymas; Tai yra disciplina, kuri užtikrina nepertraukiamą, saugų ir našų serverių, tinklų, saugyklos ir paslaugų veikimą – nuo ​​diegimo iki pataisymo, stebėjimo iki reagavimo į incidentus, atsarginės kopijos iki atkūrimo po nelaimių. Šio darbo pobūdis yra tas, kad po daugybe pasikartojančių užduočių (scenarijų rašymas, žurnalų skaitymas, konfigūracijų palyginimas) slypi nedidelis skaičius labai sunkių sprendimų (serverio paleidimas iš naujo, ugniasienės taisyklės keitimas, atsarginės kopijos atkūrimas). Čia dirbtinis intelektas (AI – programinė įranga, kuri ištraukia šablonus iš istorinių duomenų ir sukuria tekstą, kodą ir prognozes) sutaupo jūsų laiką šios dvigubos struktūros centre. Tačiau pirmasis ir nuolatinis šio modulio pažadas yra aiškus: AI yra asistentas, juodraščių generatorius ir sprendimų palaikymo įrankis; Belieka vykdyti komandą, patvirtinti pakeitimą ir prisiimti atsakomybę už sistemą.

Šis pažangus modulis įdiegia inžinieriaus refleksus, o ne transporto priemonės raktus. Šiame pirmajame skyriuje mes išnagrinėsime, kur AI sukuria tikrą vertę, o kur tikras pavojus sistemos ir tinklo pasaulyje; kaip patvirtinti kiekvieną išvestį; Sužinosite, kokius duomenis kokiam įrankiui galite pateikti, ir, svarbiausia, kad tik įgaliotas ir gynybinis šios galios naudojimas yra teisėtas. Nepaklojus šio pagrindo, tolesni agregatai virs pavojingu greičiu.

Kur AI praverčia atliekant operaciją?

Padalinkime sistemos ir tinklo darbą į dvi dideles grupes. Pirmoji grupė: pasikartojantis, tekstu ir kodu pagrįstas darbas. Pirmojo atsarginio scenarijaus juodraščio rašymas, tūkstančių žurnalo eilučių apibendrinimas ir anomalijų žymėjimas, nginx konfigūracijos sintaksės paaiškinimas, pomirtinės ataskaitos įrėminimas, cron teiginio dekodavimas, galimų klaidos pranešimo priežasčių sąrašas. Atlikdamas šias užduotis AI sutrumpina minutes iki sekundžių, nepavargsta ir veikia ta pačia kokybe net vidurnaktį.

Antrasis klasteris: vykdymo sprendimai, dėl kurių nutrūksta, prarandami duomenys arba pažeidžiami saugos pažeidimai. DELETE paleidimas gamybos duomenų bazėje, ugniasienės taisyklės atidarymas, serverio pašalinimas iš klasterio, atsarginės kopijos atkūrimas gamyboje, pataisos diegimas visam parkui. Šie sprendimai reikalauja konteksto, institucinių žinių, tolerancijos rizikai ir atsakomybės. Čia AI leidžia matyti parinktis ir galimus efektus, bet jūs paspauskite klavišą Enter.

Paaiškinkime skirtumą vienu sakiniu: AI yra stiprus „ką tai reiškia ir kas tai galėtų būti“ klausimais; Jūs turite nuspręsti, kai kyla klausimų, pavyzdžiui, „ar turėčiau tai pradėti dabar ir kas už tai garantuoja?“ Inžinierius, kuris įsisavina šį skirtumą, nei aklai pasitikėdamas, nei atkakliai atmeta AI; Jis naudoja jį tinkamoje vietoje ir reikiama doze.

Patarimas: prieš pateikdami užduotį dirbtiniam intelektui, paklauskite: „Ką aš prarasiu, jei ši išvestis neteisinga? Jei atsakymas yra „kelios minutės“, nedvejodami deleguokite. Jei atsakymas yra „pertraukimas, duomenys arba saugumas“, leiskite dirbtiniam intelektui parengti juodraštį, jūs jį patikrinate bandomojoje aplinkoje ir įgyvendinate.

Tikrinimo disciplina: keturi žingsniai

AI kalba sklandžiai ir užtikrintai; Tai nereiškia, kad tai tiesa. AI retkarčiais sukelia haliucinacijas, ty neegzistuojančią komandų vėliavėlę, konfigūracijos raktą arba API iškvietimą suklastoja kaip tikrą. Suklastota rm vėliavėlė sistemoje ištrina duomenis, netikra ugniasienės sintaksė arba atveria apsaugą, arba nutraukia prieigą. Taigi sukurkite keturių žingsnių refleksą, pritaikytą kiekvienam išėjimui:

1. Skaityti ir suprasti. Prieš paleisdami perskaitykite kiekvieną komandą ir konfigūracijos eilutę, kurią AI sukuria, kad suprastumėte, ką ji daro. Niekada nevykdykite komandos, kurios nesuprantate; Paprašykite AI paaiškinti kiekvieną vėliavėlę.
2. Nuoroda į dokumentą. Patvirtinkite AI pateiktą vėliavėlę, raktą ar sintaksę oficialiame vadove (man puslapis, gaminio dokumentacija). – Ar ši vėliava tikrai egzistuoja? Patikrinkite klausimą naudodami paiešką.
3. Išbandykite izoliuotoje aplinkoje. Pirmiausia paleiskite svarbią komandą bandymo / sustojimo mašinoje, jei įmanoma, su --dry-run. Produkcija – ne vieta repeticijoms.
4. Paruoškite savo sugrįžimą. Prieš įgyvendindami užsirašykite planą „kaip grįžti, jei nepavyks“: atsarginė kopija, momentinė kopija, ankstesnės konfigūracijos kopija. Nedarykite negrįžtamų pakeitimų vien dėl to, kad dirbtinis intelektas tai pasiūlė.

Atsargiai: „AI taip pasakė“ nėra pateisinimas. Jei įvyksta pertraukimas, atsakomybė tenka ne AI, o inžinieriui, kuris įvykdė tą komandą jos nepatikrinęs. Nepatvirtinta AI komanda yra tokia pat rizikinga kaip sudo, įjungta į gamybą neperskaitant.

Autoritetas, gynyba ir etika: raudona linija

Sistemos ir tinklo informacija gali būti naudojama dvejopai: ta pati informacija gali apsaugoti ir sunaikinti tinklą. Todėl etinė šio modulio kryptis yra viena ir neginčijama: DI naudokite tik tose sistemose, kurioms turite įgaliojimus, gynybos ir veiklos tikslais. Teisėta sustiprinti savo įstaigos serverį, ieškoti grėsmių savo žurnale ir uždaryti pažeidžiamumą savo tinkle. Neteisėta skenuoti jums nepriklausančią sistemą, bandyti įsilaužti į kažkieno prieigą, įsiskverbti į tinklą be leidimo, taip pat neteisėta naudoti AI šiam tikslui. AI klausiate ne „kaip man įsiskverbti į šią sistemą“, o „kaip apsaugoti savo sistemą nuo šios atakos?

Panašaus griežtumo reikalaujama ir duomenų pusėje. Žurnalai, konfigūracijos ir topologijos dažnai yra jautrūs ir konfidencialūs: vidiniai IP adresai, naudotojų vardai, pagrindinio kompiuterio vardai, API raktai, sertifikatai. Užmaskuokite žurnalą arba konfigūraciją prieš įklijuodami jį į viešąjį įrankį (10.x.x.x vietoj tikrojo IP, user1 vietoj tikro vartotojo, REDACTED raktai). Konfidencialius duomenis suteikite tik toms įstaigos sutartinėms transporto priemonėms, kurių duomenys nepatenka į modelių mokymus.

trys mini dėklai

1 atvejis – laiko taupymas tinkamoje vietoje. Sistemos administratorius kiekvieną rytą praleisdavo 45 minutes rankiniu būdu nuskaitydamas syslog išvestį iš 60 serverių. Jis atidavė žurnalą su užmaskuotais IP ir pagrindinio kompiuterio pavadinimais AI ir pasakė: „Sugrupuokite klaidas pagal jų sunkumo lygį ir pažymėkite 5 pasikartojančius modelius“. Laikas sutrumpintas iki 8 minučių. Sutaupytas 37 minutes jis skyrė tam, kad patvirtintų esminius modelius, kuriuos AI pažymėjo realioje sistemoje. AI pakartojo; Sprendimas liko inžinieriui.

2 atvejis – patikrinimu išvengta nelaimės. „DevOps“ inžinierius paprašė AI pateikti disko valymo scenarijų. YZ rasti /var/log -mtime +30 -exec rm {} \; Jis davė panašią komandą; Tai buvo sklandi, bet inžinierius atliko "perskaitykite ir supraskite" veiksmą ir suprato, kad komanda gali būti paleista šakniniame kataloge, o ne /var/log dėl neteisingo kelio kintamojo. Jis bandė naudoti --dry-run logiką, bandomojoje mašinoje pakeisdamas rm į echo, pamatė klaidą ir ją ištaisė. Šis žingsnis užkirto kelią galimam valandų valandas trunkančiam gelbėjimui.

3 atvejis. Etikos ir konfidencialumo riba. Stažuotojas ką tik įklijavo visą gamybos duomenų bazės ryšio eilutę (įskaitant vartotojo vardą, slaptažodį, pagrindinį kompiuterį) į viešąjį įrankį ir pasakė „optimizuoti šį ryšį“. Vyresnysis inžinierius įsikišo: tai buvo tiesioginis kredencialas, kuris tapo nekontroliuojamas, todėl reikėjo nedelsiant pasukti slaptažodį (pakeisti). Tas pats darbas vėl buvo atliktas institucijos patvirtintame įrankyje, visas paslaptis užmaskavus REDACTED, o nutekintas slaptažodis buvo nedelsiant pakeistas.

Keturi kopijuojami šablonai

1) Misijos rizikos įvertinimas:

Jūsų vaidmuo: vyresnysis sistemų / tinklų inžinerijos konsultantas. Toliau aprašysiu vaidmenį. Pasakykite man (1) ar tai yra rengimo / analizės darbas, kurį galima saugiai perduoti dirbtiniam intelektui, ar kritinis vykdymo darbas, kai žmogus turi nuspręsti, (2) galimas netinkamos išvesties poveikis (prastova / duomenys / saugumas), (3) kokį patvirtinimo ir atsarginį planą turėčiau parengti prieš vykdymą. Užduotis: [įterpti užduotį čia]

2) Komandos aprašymas ir saugumo patikra:

Paaiškinkite šią komandų eilutę po eilutės: nurodykite, ką kiekviena vėliavėlė daro, kurį failą / katalogą ji paveikia ir galimus destruktyvius padarinius. Sugalvotos vėliavėlės naudojimas; Jei nesate tikri, parašykite „reikia patvirtinimo“. Išvardykite 3 rizikas, į kurias turėčiau atkreipti dėmesį prieš paleisdamas šią komandą gamyboje. Komanda: [komanda]

3) Duomenų maskavimo valdymas:

Žurnalo / konfigūracijos tekste, kurį jums pateiksiu, gali būti slaptų duomenų (IP, pagrindinio kompiuterio pavadinimas, vartotojas, slaptažodis, API raktas, sertifikatas). Pirmiausia išvardykite, kurias šio teksto sritis reikia užmaskuoti; Užmaskuosiu ir vėl atsiųsiu. Neanalizuokite tokio, koks jis yra.

4) Įgaliojimų sistema ir tikslas:

Mano tikslas yra gynyba ir veikla [sistemoje / tinkle], kurioje esu įgaliotas. Užduosiu tau klausimą; Atsakymą pateikite tik gynybos, grūdinimosi ir patikrinimo rėmuose. Įspėkite mane neteisėtos prieigos arba užklausos imtis atakos veiksmų ir pasiūlykite teisėtą gynybos alternatyvą.

Silpnas raginimas / Stiprus raginimas

Silpnas raginimas:

Paspartink mano serverį.

Šis raginimas yra be konteksto: neaišku, kuri OS, kuri kliūtis, kuri metrika. AI yra įprastas dalykas, netaikomas, o kai kurie išskiria pavojingas medžiagas.

Galingas raginimas:

Jūsų vaidmuo: vyresnysis Linux sistemų inžinieriaus asistentas. Turiu 8 branduolių / 16 GB žiniatinklio serverį, kuriame veikia Ubuntu 22.04 ir CPU nuolat yra 85%. Turiu užmaskuotą „rutulio“ ir „iostato“ išvestį (žemiau). Mano tikslas yra nustatyti kliūtis. Nurodykite man (1) kokios metrikos ieškoti išvestyje, (2) galimas priežastis pagal tikimybę, (3) tik skaitomas diagnostikos komandas kiekvienai priežasčiai, kurias galiu vykdyti nepaliesdamas gamybos. Siūlyti pakeitimus; pirmiausia diagnozė. Išėjimai: [užmaskuoti duomenys]

Prieiga

greitis

Sąžiningumo / saugumo rizika

Kieno atsakomybė

Vykdoma svarbi komanda su AI be patikrinimo

aukštas

labai aukštas

Neaišku – pavojinga

AI projektas, žmogaus patikrinimas ir vykdymas

aukštas

Žemas (jei patvirtinta)

Žmogus – tiesa

Nedarykite visko rankomis

žemas

žemas

žmogiškas, bet lėtas

Niekada nenaudokite AI

žemas

žemas

atsilieka nuo konkurentų

Dažnos klaidos

• Sklandumas klaidinamas su tikslumu. AI sukuria patikimas komandas; Tai nereiškia, kad komanda yra saugi, perskaitykite kiekvieną eilutę.
• Kritinio vykdymo delegavimas. Gamyboje gavus AI „patvirtinti“ RM, DELETE, ugniasienės pakeitimus ir atkūrimą, atsakomybė pakimba ore.
• Skelbtinų duomenų eksportavimas į atvirą įrankį. Žurnalo, kuriame yra IP, slaptažodis ir raktas, įklijavimas be maskavimo yra saugumo pažeidimas.
• Paliekant autoritetą ir tikslą neaiškūs. Naudokite tik savo įgaliotose sistemose gynybos tikslais; kitu atveju tai yra neteisėta.
• Įgyvendinimas be atsarginio plano. Keisti be atsarginės kopijos ar momentinės nuotraukos vien todėl, kad dirbtinis intelektas pasiūlė, kad tai būtų nelaimės receptas.

Patarimas: kiekvieną AI seansą pradėkite nuo „vaidmuo + sistemos kontekstas + užmaskuoti duomenys + užduotis + apribojimas + įgaliojimai / tikslas + sprendimų priėmėjas“. Ši sistema tuo pačiu pagerina išvesties kokybę ir saugumą.

Apibendrinant

Sistemų ir tinklo administravimas yra disciplina, kurioje daug pasikartojančių užduočių lemia nedidelis sunkių sprendimų skaičius. AI yra galingas asistentas, kuris pagreitina pasikartojančias teksto ir kodo užduotis; bet už prastovą, duomenų praradimą ir vykdomuosius sprendimus, turinčius įtakos saugumui, atsako inžinierius. Perskaitykite kiekvieną išvestį, susiekite ją su dokumentu, išbandykite atskirai, paruoškite deklaraciją. Užmaskuokite neskelbtinus duomenis, pateikite juos tik saugiems įrankiams. Ir svarbiausia: naudokite šią galią gynybos tikslais tik sistemose, kurioms esate įgalioti. Inžinierius, kuris nustato šią discipliną, saugiai taiko kiekvieną techniką tolesniuose padaliniuose.

Taikymo užduotis

Išvardykite 10 savo verslo užduočių, kurias atlikote per paskutinę savaitę. Pažymėkite kiekvieną iš jų kaip „AI pavedamas juodraštis / analizė“ arba „žmogaus vykdymo sprendimas“ ir šalia jo pridėkite stulpelį „poveikis, jei neteisingas (pertraukimas / duomenys / saugumas)“. Pasirinkite vieną iš perkeliamų ir pasitarkite su AI naudodami aukščiau pateiktą šabloną „Užduoties rizikos įvertinimas“. Tada užmaskuokite vieną iš savo žurnalų (IP, pagrindinio kompiuterio, vartotojo) ir paprašykite pavyzdžio analizės. Taikykite keturių žingsnių patikros refleksą ir surašykite savo pastebėjimus 6 punktais.

kontrolinis sąrašas

• [ ] Ar atskyriau užduotis į „perduodamą“ ir „žmogaus vykdomąjį sprendimą“?
• [ ] Ar perskaičiau kiekvieną kritinę išvestį, susiejau ją su dokumentu, išbandžiau izoliuotoje aplinkoje, parengiau grąžinimo planą?
• [ ] Ar žurnale ir konfigūracijoje užmaskavau IP, pagrindinį kompiuterį, vartotoją, slaptažodį ir raktus?
• [ ] Ar neskelbtinus duomenis išleidau tik institucijos patvirtintam saugiam įrankiui?
• [ ] Ar AI naudojau tik sistemose, kurioms esu įgaliotas, ir gynybos tikslais?
• [ ] Ar į raginimą įtraukiau vaidmenį, kontekstą, paslėptus duomenis, užduotį, apribojimą, įgaliojimus ir sprendimų priėmėją?