Utangulizi wa Akili Bandia katika Usimamizi wa Mfumo na Mtandao: Majukumu, Mipaka, Uthibitishaji na Mamlaka. — Akili Bandia katika Usimamizi wa Mfumo na Mtandao

Faida:

Uwezo wa kutofautisha katika kazi gani (hati, kumbukumbu, rasimu za hati) akili ya bandia huokoa wakati halisi, na ambayo kazi kama vile wakati wa kupumzika, upotezaji wa data na maamuzi ya mtendaji yanayoathiri usalama huachwa kwa wanadamu, kulingana na kiwango cha hatari ya kazi.
Uwezo wa kutumia nidhamu ya hatua nne ambayo inathibitisha kila pato la AI kwa kuisoma, kuunganisha kwenye hati, kupima katika mazingira ya pekee na kuandaa mpango wa kurudi.
Uwezo wa kuweka ndani kanuni ya kuficha data nyeti katika kumbukumbu na usanidi na kutumia akili ya bandia kwa madhumuni ya ulinzi tu katika mifumo iliyoidhinishwa.

Peja inalia saa 3 asubuhi, seva ya uzalishaji haifanyi kazi, maelfu ya pauni kwa saa moja ya kukatika huchakatwa nyuma yako, na macho yote yanakutazama. Usimamizi wa mfumo na mtandao; Ni nidhamu inayohakikisha utendakazi usiokatizwa, salama na wa hali ya juu wa seva, mitandao, hifadhi na huduma - kutoka kwa usakinishaji hadi uwekaji viraka, ufuatiliaji hadi mwitikio wa matukio, chelezo hadi uokoaji wa maafa. Asili ya kazi hii ni kwamba chini ya idadi kubwa ya kazi za kurudia (maandiko ya kuandika, kumbukumbu za kusoma, kulinganisha usanidi) kuna idadi ndogo ya maamuzi mazito (kuanzisha tena seva, kubadilisha sheria ya firewall, kurejesha nakala rudufu). Hapa, akili ya bandia (AI - programu ambayo hutoa ruwaza kutoka kwa data ya kihistoria na kutoa maandishi, msimbo na ubashiri) hukuokoa wakati katika kiini cha muundo huu wa pande mbili. Lakini ahadi ya kwanza na ya mara kwa mara ya moduli hii ni wazi: AI ni msaidizi, jenereta ya rasimu na chombo cha usaidizi wa maamuzi; Umesalia kutekeleza amri, kuthibitisha mabadiliko, na kuchukua jukumu la mfumo.

Sehemu hii ya hali ya juu husakinisha tafakari za mhandisi, si funguo za gari. Katika kitengo hiki cha kwanza, tutachunguza ambapo AI inazalisha thamani halisi na ambapo hatari halisi katika mfumo na ulimwengu wa mtandao; jinsi ya kuhalalisha kila pato; Utajifunza ni data gani unaweza kutoa kwa chombo gani na, muhimu zaidi, kwamba matumizi yaliyoidhinishwa na ya kujihami ya nguvu hii ni halali. Bila kuweka msingi huu, vitengo vifuatavyo vitageuka kuwa kasi ya hatari.

AI inaweza kusaidia wapi katika operesheni?

Wacha tugawanye kazi ya mfumo na mtandao katika vikundi viwili vikubwa. Kundi la kwanza: kazi inayorudiwa, maandishi na msimbo, inayoweza kutolewa. Kuandika rasimu ya kwanza ya hati mbadala, kufupisha maelfu ya mistari ya kumbukumbu na kuripoti hitilafu, kuelezea sintaksia ya usanidi wa nginx, kutunga ripoti ya baada ya kifo, kusimbua taarifa ya cron, kuorodhesha sababu zinazowezekana za ujumbe wa hitilafu. Katika kazi hizi, AI inapunguza dakika hadi sekunde, haina uchovu, na inafanya kazi kwa ubora sawa hata usiku wa manane.

Kundi la pili: maamuzi ya utekelezaji ambayo husababisha kukatika, kupoteza data au ukiukaji wa usalama. Kuendesha DELETE kwenye hifadhidata ya uzalishaji, kufungua sheria ya ngome, kuondoa seva kutoka kwa nguzo, kurejesha nakala kwenye uzalishaji, kupeleka kiraka kwa kundi zima. Maamuzi haya yanahitaji muktadha, maarifa ya kitaasisi, uvumilivu wa hatari na uwajibikaji. Hapa, AI hufanya chaguzi na athari zinazowezekana zionekane - lakini bonyeza kitufe cha Ingiza.

Hebu tufafanue tofauti katika sentensi moja: AI ina nguvu juu ya "nini hii ina maana na nini inaweza kuwa" maswali; Uamuzi ni wako inapokuja kwa maswali kama "ninapaswa kuendesha hii sasa na ni nani anayeithibitisha?" Mhandisi ambaye anaweka tofauti hii ndani haiweki AI katika uzalishaji kwa kujiamini kipofu wala kuikataa kwa ukaidi; Anaitumia mahali pazuri na kwa kipimo sahihi.

Kidokezo: Kabla ya kutoa kazi kwa AI, uliza: "Nitapoteza nini ikiwa pato hili si sahihi?" Ikiwa jibu ni "dakika chache", jisikie huru kuwakabidhi. Ikiwa jibu ni "kukatizwa, data au usalama", acha AI itoe rasimu, uithibitishe katika mazingira ya majaribio na utekeleze.

Nidhamu ya uthibitishaji: hatua nne

AI inazungumza kwa ufasaha na kwa ujasiri; Hiyo haimaanishi kuwa ni kweli. AI mara kwa mara hutoa maonyesho - yaani, hughushi bendera ya amri ambayo haipo, ufunguo wa usanidi, au simu ya API kama halisi. Alama ya uwongo ya rm katika mfumo hufuta data, sintaksia bandia ya ngome hufungua usalama au kuzima ufikiaji. Kwa hivyo kukuza reflex ya hatua nne ili kuomba kwa kila pato:

Soma na uelewe. Soma kila mstari wa amri na usanidi AI inazalisha, mstari kwa mstari, kabla ya kuiendesha ili kuelewa inafanya nini. Kamwe usiendeshe amri usiyoielewa; Uliza AI kuelezea kila bendera.
Unganisha kwa hati. Thibitisha bendera, ufunguo au syntax iliyotolewa na AI kwa mwongozo rasmi (ukurasa wa mtu, nyaraka za bidhaa). "Hii bendera ipo kweli?" Thibitisha swali kwa utafutaji.
Jaribu katika mazingira ya pekee. Tekeleza amri muhimu kwanza kwenye mashine ya majaribio/hatua, na --dry-run ikiwezekana. Uzalishaji sio mahali pa kufanya mazoezi.
Tayarisha kurudi kwako. Andika mpango wa "nitarudije ikiwa hii itaenda vibaya" kabla ya utekelezaji: chelezo, picha, nakala ya usanidi ya hapo awali. Usifanye mabadiliko yasiyoweza kutenduliwa kwa sababu tu AI ilipendekeza.

Tahadhari: "AI ilisema hivyo" sio uhalali. Ikiwa kuna usumbufu, jukumu si la AI, bali ni la mhandisi aliyetekeleza amri hiyo bila kuithibitisha. Amri ya AI ambayo haijathibitishwa ni hatari kama vile sudo iliyoshinikizwa kwenye uzalishaji bila kusomwa.

Mamlaka, ulinzi na maadili: mstari mwekundu

Maelezo ya mfumo na mtandao yana matumizi mawili: maelezo sawa yanaweza kulinda na kuharibu mtandao. Kwa hiyo, mstari wa kimaadili wa moduli hii ni moja na hauna ubishi: Tumia AI tu katika mifumo ambayo una mamlaka nayo, kwa madhumuni ya ulinzi na uendeshaji. Ni halali kufanya seva ya taasisi yako kuwa ngumu, kutafuta vitisho katika kumbukumbu yako mwenyewe, na kufunga athari katika mtandao wako mwenyewe. Ni kinyume cha sheria kuchunguza mfumo ambao sio wako, kujaribu kuingia kwenye upatikanaji wa mtu mwingine, kuingiza mtandao bila ruhusa, na pia ni kinyume cha sheria kutumia AI kwa kusudi hili. Huwaulizi AI si "ninawezaje kujipenyeza katika mfumo huu" lakini "ninawezaje kulinda mfumo wangu dhidi ya shambulio hili?"

Ukali sawa unahitajika kwa upande wa data. Kumbukumbu, usanidi na topolojia mara nyingi ni nyeti na ni siri: anwani za IP za ndani, majina ya watumiaji, majina ya wapangishaji, funguo za API, vyeti. Finya kumbukumbu au usanidi kabla ya kuibandika kwenye zana ya umma (10.x.x.x badala ya IP halisi, mtumiaji1 badala ya mtumiaji halisi, vitufe REDACTED). Toa data ya siri tu kwa magari ya kandarasi ya taasisi ambayo data yake haiendi kwa mafunzo ya mfano.

kesi tatu ndogo

Kesi ya 1 - Kiokoa wakati mahali pazuri. Msimamizi wa mfumo alikuwa akitumia dakika 45 kila asubuhi kuchanganua mwenyewe matokeo ya syslog kutoka kwa seva 60. Alitoa logi, na IP na majina ya mwenyeji yamefunikwa, kwa AI na kusema, "Panga makosa kulingana na kiwango chao cha ukali na uweke alama 5 mifumo inayojirudia." Muda umepunguzwa hadi dakika 8. Alitumia dakika 37 zilizohifadhiwa ili kudhibitisha mifumo muhimu iliyoalamishwa na AI katika mfumo halisi. AI ilichukua mchezo wa marudio; Uamuzi ulibaki kwa mhandisi.

Kesi ya 2 - Uthibitishaji uliepusha maafa. Mhandisi wa DevOps aliuliza AI kwa hati ya kusafisha diski. YZ pata /var/log -mtime +30 -exec rm {} \; Alitoa amri kama hiyo; Ilikuwa fasaha, lakini mhandisi alifanya hatua ya "kusoma na kuelewa" na kugundua kuwa amri inaweza kukimbia kwenye saraka ya mizizi badala ya /var/log kwa sababu ya kutofautisha kwa njia isiyo sahihi. Alijaribu kutumia --dry-run mantiki kwa kubadilisha rm na echo kwenye mashine ya majaribio, aliona hitilafu na akairekebisha. Hatua hii ilizuia uokoaji wa saa nyingi.

Kesi ya 3 - Mipaka ya maadili na usiri. Mwanafunzi amebandika kamba kamili ya unganisho la hifadhidata ya uzalishaji (pamoja na jina la mtumiaji, nenosiri, mwenyeji) kwenye zana ya umma na kusema "boresha muunganisho huu". Mhandisi mkuu aliingilia kati: hii ilikuwa kitambulisho cha moja kwa moja ambacho hakijadhibitiwa na kilihitaji kuzungushwa kwa nenosiri mara moja (mabadiliko). Kazi sawa ilifanyika tena katika chombo kilichoidhinishwa na taasisi, na siri zote zimefunikwa na REDACTED, na nenosiri lililovuja lilibadilishwa mara moja.

Violezo vinne vinavyoweza kunakiliwa

1) Tathmini ya hatari ya dhamira:

Jukumu lako: mshauri mkuu wa uhandisi wa mifumo/mtandao.Nitaelezea jukumu lililo hapa chini. Niambie (1) ikiwa hii ni kazi ya kuandaa/uchanganuzi ambayo inaweza kukabidhiwa kwa AI kwa njia salama au kazi muhimu ya utekelezaji ambapo lazima mwanadamu aamue, (2) athari inayowezekana ya matokeo yasiyo sahihi (muda wa chini/data/usalama), (3) ni uthibitisho gani na mpango mbadala ambao ninapaswa kuandaa kabla ya utekelezaji.Task: [weka kazi hapa]

2) Maelezo ya amri na ukaguzi wa usalama:

Eleza safu ya amri ifuatayo kwa mstari: ukibainisha kile ambacho kila bendera hufanya, faili/saraka gani inaathiri, na athari zake za uharibifu zinazowezekana. Kutumia bendera iliyotengenezwa; Ikiwa huna uhakika, andika "inahitaji kuthibitishwa". Orodhesha hatari 3 ambazo ninapaswa kuzingatia kabla ya kutekeleza amri hii katika uzalishaji. Amri: [amri]

3) Udhibiti wa kuficha data:

Maandishi ya kumbukumbu/mipangilio nitakayokupa yanaweza kuwa na data nyeti (IP, jina la mwenyeji, mtumiaji, nenosiri, ufunguo wa API, cheti). Orodhesha kwanza ni maeneo gani katika maandishi haya yanahitaji kufunikwa; Nitaificha na kuituma tena. Usichambue kama ilivyo.

4) Mfumo wa mamlaka na madhumuni:

Lengo langu ni ulinzi na uendeshaji kwenye [mfumo/mtandao] ambamo nimeidhinishwa. Nitakuuliza swali; Toa jibu lako ndani ya mfumo wa ulinzi, ugumu na uthibitishaji pekee. Nionye iwapo nitapata ufikiaji usioidhinishwa au ombi la hatua za uvamizi na upendekeze njia mbadala halali ya ulinzi.

Mwongozo dhaifu / Mwongozo thabiti

Agizo dhaifu:

Ongeza kasi ya seva yangu.

Kidokezo hiki hakina muktadha: haijulikani ni OS gani, ni kizuizi gani, kipimo gani. AI ni ya kawaida, haitumiki, na baadhi hutoa dutu hatari.

Agizo lenye nguvu:

Jukumu lako: mhandisi mkuu wa mifumo ya Linux. Nina seva ya wavuti ya 8-msingi/16GB inayoendesha Ubuntu 22.04 na CPU kila wakati kwa 85%. Nina matokeo ya "mpira" na "iostat" iliyofunikwa (chini). Lengo langu ni kubaini tatizo. Nipe (1) ni vipimo vipi vya kutafuta katika matokeo, (2) sababu zinazowezekana kwa mpangilio wa uwezekano, (3) amri za uchunguzi wa kusoma pekee kwa kila sababu ambayo ninaweza kutekeleza bila kugusa uzalishaji. Pendekeza mabadiliko; utambuzi kwanza.Matokeo: [data iliyofichwa]

Mbinu

kasi

Hatari ya uadilifu/usalama

Wajibu wa nani

Utekelezaji wa amri muhimu na AI bila kuthibitisha

juu

juu sana

Kutokuwa na uhakika - hatari

Rasimu ya AI, uthibitishaji wa binadamu na utekelezaji

juu

Chini (ikiwa imethibitishwa)

Binadamu - kweli

Usifanye kila kitu kwa mkono

chini

binadamu lakini polepole

Kamwe usitumie AI

chini

nyuma ya washindani

Makosa ya kawaida

Kukosea ufasaha kwa usahihi. AI hutoa amri ya kujiamini; Hii haionyeshi kuwa amri ni salama, soma kila mstari.
Kukabidhi utekelezaji muhimu. Katika uzalishaji, kupata AI "kuidhinisha" rm, DELETE, mabadiliko ya ngome na urejeshaji huacha jukumu likiwa hewani.
Inahamisha data nyeti kwa zana iliyofunguliwa. Kubandika logi iliyo na IP, nenosiri na ufunguo bila kuficha ni ukiukaji wa usalama.
Kuacha mamlaka na kusudi wazi. Tumia tu kwenye mifumo yako iliyoidhinishwa kwa madhumuni ya kujihami; vinginevyo ni haramu.
Utekelezaji bila mpango mbadala. Kufanya mabadiliko bila chelezo au muhtasari kwa sababu tu AI ilipendekeza itakuwa kichocheo cha maafa.

Kidokezo: Anzisha kila kipindi cha AI kwa "jukumu + muktadha wa mfumo + data iliyofunikwa + kazi + kizuizi + mamlaka / madhumuni + mtoa maamuzi." Mfumo huu wakati huo huo huboresha ubora na usalama wa pato.

Kwa muhtasari

Mifumo na usimamizi wa mtandao ni taaluma ambapo idadi ndogo ya maamuzi mazito huweka idadi kubwa ya kazi zinazorudiwa. AI ni msaidizi mwenye nguvu anayeharakisha kazi za kurudia maandishi na nambari; lakini muda wa mapumziko, upotezaji wa data, na maamuzi ya utendaji yanayoathiri usalama ni jukumu la mhandisi. Soma kila pato, uunganishe na hati, jaribu kwa pekee, uandae kurudi. Finya data nyeti, ipe tu zana salama. Na muhimu zaidi: tumia nguvu hii kwa madhumuni ya kujihami tu kwenye mifumo ambayo umeidhinishwa. Mhandisi anayeanzisha nidhamu hii hutumia kwa usalama kila mbinu katika vitengo vinavyofuata.

Jukumu la maombi

Orodhesha kazi 10 kutoka kwa biashara yako mwenyewe ambazo umefanya katika wiki iliyopita. Tia kila moja alama kuwa “rasimu/uchambuzi unaoweza kukabidhiwa AI” au “uamuzi wa utekelezaji wa binadamu” na uongeze safu wima ya “athari ikiwa si sahihi (ukatizaji/data/usalama)” karibu nayo. Chagua mojawapo ya zinazoweza kuhamishwa na uwasiliane na AI ukitumia kiolezo cha "Tathmini ya hatari ya Kazi" hapo juu. Kisha funga moja ya kumbukumbu zako (IP, mwenyeji, mtumiaji) na uulize uchambuzi wa sampuli. Tumia kielelezo cha uthibitishaji cha hatua nne na uandike uchunguzi wako katika vipengee 6.

orodha ya ukaguzi

[ ] Je, nimetenganisha kazi kuwa “maamuzi yanayoweza kukabidhiwa” na “uamuzi wa utendaji wa kibinadamu”?
[ ] Je, nimesoma kila matokeo muhimu, nikaiunganisha na hati, nimeijaribu katika mazingira ya pekee, nimetayarisha mpango wa kurejesha?
[ ] Je, nimeficha IP, seva pangishi, mtumiaji, nenosiri na vitufe kwenye kumbukumbu na usanidi?
[ ] Je, nimetoa data nyeti pekee kwa zana iliyoidhinishwa na taasisi, na salama?
[ ] Je, nimetumia AI katika mifumo ambayo nimeidhinishwa kwayo na kwa madhumuni ya kujihami pekee?
[ ] Je, nimejumuisha jukumu, muktadha, data iliyofichwa, kazi, kizuizi, mamlaka, na mtoa maamuzi katika dodoso langu?