Табыстар:
- Жасанды интеллект қандай тапсырмаларда (сценарийлер, журналдар, құжат жобалары) нақты уақытты үнемдейтінін және қандай тапсырмаларды орындау қаупінің деңгейіне байланысты тоқтау, деректердің жоғалуы және қауіпсіздікке әсер ететін атқарушы шешімдер сияқты тапсырмалардың адамдарға қалдырылатынын ажырату мүмкіндігі.
- Әрбір AI нәтижесін оқу, құжатқа қосу, оқшауланған ортада сынау және қайтару жоспарын дайындау арқылы тексеретін төрт сатылы пәнді қолдану мүмкіндігі.
- Журналдар мен конфигурациялардағы құпия деректерді бүркемелеу және жасанды интеллектіні тек рұқсат етілген жүйелерде қорғаныс мақсатында пайдалану принципін ішкі қабылдау мүмкіндігі
Сағат 3-те пейджер дыбыстық сигнал береді, өндіріс сервері жауап бермейді, сағатына мыңдаған фунт үзілістер сіздің артыңызда өңделуде және барлық назар сізде. Жүйе мен желіні басқару; Бұл серверлердің, желілердің, сақтау және қызметтердің үзіліссіз, қауіпсіз және жоғары өнімді жұмысын қамтамасыз ететін тәртіп - орнатудан патчингке, бақылаудан инциденттерге жауап беруге, резервтік көшірмеден апатты қалпына келтіруге дейін. Бұл жұмыстың сипаты қайталанатын көптеген тапсырмалардың (скрипттерді жазу, журналдарды оқу, конфигурацияларды салыстыру) астында өте ауыр шешімдердің (серверді қайта іске қосу, брандмауэр ережесін өзгерту, сақтық көшірмені қалпына келтіру) аз саны жатыр. Мұнда жасанды интеллект (AI - тарихи деректерден үлгілерді шығарып, мәтінді, кодты және болжамдарды шығаратын бағдарламалық жасақтама) осы қос құрылымның негізінде уақытты үнемдейді. Бірақ бұл модульдің бірінші және тұрақты уәдесі анық: AI - ассистент, жоба генераторы және шешімдерді қолдау құралы; Пәрменді іске қосу, өзгертуді растау және жүйе үшін жауапкершілікті алу сізге қалды.
Бұл кеңейтілген модуль көліктің кілттерін емес, инженердің рефлекстерін орнатады. Бұл бірінші бөлімде біз AI нақты мәнді қай жерде тудыратынын және жүйе мен желі әлеміндегі нақты қауіп қай жерде екенін қарастырамыз; әрбір шығысты қалай тексеруге болады; Сіз қай құралға қандай деректерді бере алатыныңызды және, ең бастысы, бұл қуатты тек рұқсат етілген және қорғаныс мақсатында пайдалану заңды екенін білесіз. Бұл іргетас қаламай, кейінгі қондырғылар қауіпті жылдамдыққа айналады.
Операцияда AI қай жерде пайдалы?
Жүйелік және желілік жұмысты екі үлкен кластерге бөлейік. Бірінші кластер: қайталанатын, мәтіндік және кодтық, шығарылатын жұмыс. Сақтық көшірме сценарийінің бірінші жобасын жазу, журналдың мыңдаған жолдарын қорытындылау және аномалияларды белгілеу, nginx конфигурациясының синтаксисін түсіндіру, өлгеннен кейінгі есепті жақтау, cron мәлімдемесін декодтау, қате туралы хабардың ықтимал себептерін тізімдеу. Бұл тапсырмаларда AI минуттарды секундтарға қысқартады, шаршамайды және түн ортасында да бірдей сапада жұмыс істейді.
Екінші кластер: тоқтауларға, деректердің жоғалуына немесе қауіпсіздіктің бұзылуына әкелетін орындау шешімдері. Өндіріс дерекқорында DELETE іске қосу, желіаралық қалқан ережесін ашу, серверді кластерден жою, сақтық көшірмені өндіріске қалпына келтіру, бүкіл флотқа патчты қолдану. Бұл шешімдер контекстті, институционалдық білімді, тәуекелге төзімділікті және жауапкершілікті талап етеді. Мұнда AI опциялар мен ықтимал әсерлерді көрінеді - бірақ сіз Enter пернесін басасыз.
Айырмашылықты бір сөйлеммен түсіндірейік: AI «бұл нені білдіреді және бұл не болуы мүмкін» сұрақтарына күшті; «Мен мұны қазір жүргізуім керек пе және оған кім кепілдік береді?» сияқты сұрақтарға келгенде шешім сіздікі. Бұл ерекшелікті іштей қабылдайтын инженер AI-ны өндіріске соқыр сеніммен енгізбейді де, оны қыңырлықпен қабылдамайды; Оны дұрыс жерде және дұрыс мөлшерде қолданады.
Кеңес: Жұмысты AI-ға бермес бұрын: «Бұл нәтиже дұрыс емес болса, мен не жоғалтамын?» Деп сұраңыз. Егер жауап «бірнеше минут» болса, өкілеттік беруден тартынбаңыз. Егер жауап «үзіліс, деректер немесе қауіпсіздік» болса, AI жобаны жасауға рұқсат етіңіз, сіз оны сынақ ортасында тексеріп, оны жүзеге асырасыз.
Тексеру пәні: төрт қадам
AI еркін және сенімді сөйлейді; Бұл шындық дегенді білдірмейді. Жасанды интеллект анда-санда галлюцинация жасайды, яғни ол жоқ пәрмен жалауын, конфигурация кілтін немесе API шақыруын шынайы етіп жасайды. Жүйедегі жалған rm жалаушасы деректерді жояды, жалған желіаралық қалқан синтаксисі қауіпсіздікті ашады немесе кіруді тоқтатады. Сондықтан әрбір нәтижеге қолдану үшін төрт қадамдық рефлекс жасаңыз:
- Оқып, түсін. Не істеп жатқанын түсіну үшін оны іске қоспас бұрын, AI шығаратын әрбір пәрмен мен конфигурация жолын жол бойынша оқыңыз. Түсінбейтін пәрменді ешқашан орындамаңыз; AI-дан әр жалаушаны түсіндіруді сұраңыз.
- Құжатқа сілтеме. AI берген жалаушаны, кілтті немесе синтаксисті ресми нұсқаулықпен (адам беті, өнім құжаттамасы) растаңыз. «Бұл ту шынымен бар ма?» Сұрақты іздеу арқылы тексеріңіз.
- Оны оқшауланған ортада қолданып көріңіз. Мүмкіндігінше --dry-run параметрімен алдымен сынақ/кезеңдеу құрылғысында маңызды пәрменді іске қосыңыз. Өндіріс репетицияның орны емес.
- Қайтуыңызды дайындаңыз. Орындау алдында «егер бұл дұрыс емес болса, оны қалай қайтарамын» жоспарын жазып алыңыз: сақтық көшірме, сурет, алдыңғы конфигурация көшірмесі. AI ұсынғандықтан қайтымсыз өзгеріс жасамаңыз.
Абайлаңыз: «AI осылай деді» - бұл ақтау емес. Егер үзіліс болса, жауапкершілік АИ-де емес, сол команданы тексермей орындаған инженерде болады. Тексерілмеген AI пәрмені оқылмай өндіріске басылған sudo сияқты қауіпті.
Билік, қорғаныс және этика: қызыл сызық
Жүйелік және желілік ақпараттың екі жақты қолданылуы бар: бірдей ақпарат желіні қорғай да, жоя да алады. Сондықтан, бұл модульдің этикалық бағыты біртұтас және даусыз: AI-ны қорғаныс және операциялық мақсаттар үшін өкілеттігі бар жүйелерде ғана пайдаланыңыз. Өз мекемеңіздің серверін қатайту, өз журналыңыздан қауіптерді іздеу және өз желіңіздегі осалдықты жабу заңды. Сізге тиесілі емес жүйені сканерлеу, басқа біреудің рұқсатын бұзуға әрекет жасау, желіге рұқсатсыз ену, сондай-ақ бұл мақсатта AI пайдалану заңсыз болып табылады. Сіз AI-дан «бұл жүйеге қалай енемін» емес, «өз жүйемді осы шабуылдан қалай қорғаймын?» деп сұрайсыз.
Деректер жағында да осындай қатаңдық қажет. Журналдар, конфигурациялар және топологиялар жиі сезімтал және құпия болып табылады: ішкі IP мекенжайлары, пайдаланушы аттары, хост атаулары, API кілттері, сертификаттар. Журналды немесе конфигурацияны жалпыға ортақ құралға қоймас бұрын бүркемелеу (нақты IP орнына 10.x.x.x, нақты пайдаланушы орнына пайдаланушы1, ӨЗІРЛЕДІ кілттер). Құпия деректерді тек модельдік оқытуға кірмейтін мекеменің келісім-шарттағы көліктеріне ғана беріңіз.
үш шағын іс
1-жағдай — Уақытты үнемдеу дұрыс жерде. Жүйе әкімшісі күн сайын таңертең 60 серверден жүйе журналының шығысын қолмен сканерлеуге 45 минут жұмсады. Ол IP және хост атаулары бүркенген журналды AI-ға берді және «Қателерді ауырлық деңгейіне қарай топтаңыз және 5 қайталанатын үлгіні белгілеңіз» деді. Уақыт 8 минутқа дейін қысқарды. Ол үнемделген 37 минутты нақты жүйеде AI белгілеген сыни үлгілерді растауға арнады. AI қайталауды қабылдады; Шешім инженерде қалды.
2-жағдай - Тексеру апаттың алдын алды. DevOps инженері AI-дан дискіні тазалауға арналған сценарийді сұрады. YZ табу /var/log -mtime +30 -exec rm {} \; Ол осындай бұйрық берді; Ол еркін болды, бірақ инженер «оқу және түсіну» қадамын орындады және қате жол айнымалысына байланысты пәрмен /var/log орнына түбірлік каталогта жұмыс істей алатынын түсінді. Ол сынақ машинасында rm-ді echo-мен ауыстыру арқылы --dry-run логикасын қолданып көрді, қатені көрді және оны түзетті. Бұл қадам бірнеше сағатқа созылатын құтқарудың алдын алды.
3-жағдай — Этика және құпиялылық шекарасы. Тағылымдамадан өтуші өндірістік дерекқордың толық қосылым жолын (соның ішінде пайдаланушы аты, құпия сөз, хост) жалпыға ортақ құралға қойды және «осы қосылымды оңтайландыру» деді. Аға инженер араласты: бұл бақылаудан шығып кеткен тірі тіркелгі деректері және құпия сөзді дереу айналдыруды (өзгертуді) талап етті. Барлық құпияларды REDACTED көмегімен жасырып, мекеме бекіткен құралда дәл осындай жұмыс қайта жасалды және ағып кеткен құпия сөз дереу өзгертілді.
Көшірілетін төрт үлгі
1) Миссиялық тәуекелді бағалау:
Сіздің рөліңіз: аға жүйелер/желілік инженерия жөніндегі кеңесші. Мен төменде рөлді сипаттаймын. Маған (1) бұл AI-ға қауіпсіз түрде тапсырылатын жобаны жасау/талдау жұмысы ма, әлде адам шешуі керек маңызды орындау жұмысы ма, (2) қате шығарылымның ықтимал әсері (тоқтап тұру/деректер/қауіпсіздік), (3) орындау алдында қандай валидация және резервтік жоспарды дайындауым керек екенін айтыңыз. Тапсырма: [тапсырманы осы жерге енгізу]
2) Пәрмен сипаттамасы және қауіпсіздікті тексеру:
Келесі пәрмен жолын жол бойынша түсіндіріңіз: әрбір жалаудың не істейтінін, оның қай файлға/каталогқа әсер ететінін және оның ықтимал деструктивті әсерлерін көрсету. Жасалған жалаушаны пайдалану; Егер сенімді болмасаңыз, «тексеру қажет» деп жазыңыз. Осы пәрменді өндірісте іске қоспас бұрын назар аудару керек 3 тәуекелді тізімдеңіз. Пәрмен: [команда]
3) Деректерді бүркемелеуді басқару:
Мен беретін журнал/конфигурация мәтінінде құпия деректер болуы мүмкін (IP, хост атауы, пайдаланушы, құпия сөз, API кілті, сертификат). Алдымен осы мәтіндегі қай аймақтарды бүркеу керек екенін тізімдеңіз; Мен оны бүркеп, қайта жіберемін. Оны сол күйінде талдамаңыз.
4) өкілеттіктері мен мақсаты:
Менің мақсатым – мен рұқсат етілген [жүйедегі/желідегі] қорғаныс және жұмыс. Мен сізге сұрақ қоямын; Жауабыңызды тек қорғау, шыңдау және тексеру аясында беріңіз. Рұқсат етілмеген қол жеткізу немесе шабуыл қадамдарын сұрау жағдайында маған ескертіңіз және заңды қорғаныс баламасын ұсыныңыз.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Менің серверімді жылдамдатыңыз.
Бұл шақыру мәтінмәнсіз: қай ОЖ, қандай кедергі, қай көрсеткіш екені белгісіз. AI негізгі, қолданылмайды және кейбіреулері қауіпті заттарды шығарады.
Күшті шақыру:
Сіздің рөліңіз: Linux жүйелерінің инженерінің аға көмекшісі. Менде Ubuntu 22.04 жұмыс істейтін 8 ядролы/16 ГБ веб-серверім бар, процессоры 85%. Менде «шар» және «иостат» шығысы маскаланған (төменде). Менің мақсатым - кедергіні анықтау. Маған (1) шығыста қандай көрсеткіштерді іздеу керектігін, (2) ықтималдық реті бойынша ықтимал себептерді, (3) өндіріске қол тигізбестен іске қосуға болатын әрбір себеп үшін тек оқуға арналған диагностикалық пәрмендерді беріңіз. Өзгерістерді ұсыну; алдымен диагностика. Шығарулар: [маскирленген деректер]
Тәсіл
жылдамдық
Тұтастық/қауіпсіздік тәуекелі
Кімнің жауапкершілігі
Критикалық пәрменді AI көмегімен тексерусіз орындау
жоғары
өте жоғары
Белгісіз - қауіпті
AI жобасы, адамдық тексеру және орындау
жоғары
Төмен (егер расталса)
Адам – шын
Барлығын қолмен жасамаңыз
төмен
төмен
адам, бірақ баяу
Ешқашан AI қолданбаңыз
төмен
төмен
бәсекелестердің артында
Жалпы қателер
- Еркін сөйлеуді дәлдікпен қателесу. AI сенімді команда береді; Бұл команданың қауіпсіз екенін көрсетпейді, әр жолды оқыңыз.
- Сыни орындауды тапсыру. Өндірісте AI-ны «мақұлдау» rm, DELETE, брандмауэрді өзгерту және қалпына келтіру үшін алу жауапкершілікті ауада қалдырады.
- Ашық құралға құпия деректерді экспорттау. IP, құпия сөз және кілті бар журналды жасырмай қою қауіпсіздікті бұзу болып табылады.
- Билік пен мақсатты түсініксіз қалдыру. Қорғаныс мақсатында тек өзіңіздің рұқсат етілген жүйелеріңізде пайдаланыңыз; әйтпесе бұл заңсыз.
- Резервтік жоспарсыз іске асыру. Сақтық көшірмесіз немесе суретсіз өзгеріс жасау AI бұл апаттың рецепті болатынын айтқандықтан.
Кеңес: Әрбір AI сеансын «рөл + жүйелік контекст + жасырын деректер + тапсырма + шектеу + өкілеттік/мақсат + шешім қабылдаушы» арқылы бастаңыз. Бұл құрылым бір уақытта өнімнің сапасын да, қауіпсіздігін де жақсартады.
Қысқаша
Жүйелер мен желіні басқару - бұл қайталанатын тапсырмалардың көп санының негізінде аздаған ауыр шешімдер болатын пән. AI - қайталанатын мәтіндік және кодтық тапсырмаларды тездететін қуатты көмекші; бірақ тоқтап қалу, деректердің жоғалуы және қауіпсіздікке әсер ететін атқарушы шешімдер инженердің жауапкершілігі болып табылады. Әрбір шығысты оқып шығыңыз, оны құжатпен байланыстырыңыз, оны оқшаулап көріңіз, қайтаруды дайындаңыз. Сезімтал деректерді жасырыңыз, оны тек қауіпсіз құралдарға беріңіз. Ең бастысы: бұл қуатты қорғаныс мақсаттары үшін тек сізге рұқсат етілген жүйелерде пайдаланыңыз. Бұл тәртіпті орнатқан инженер әрбір техниканы келесі бөлімшелерде қауіпсіз қолданады.
Қолданбалы тапсырма
Соңғы аптада орындаған жеке бизнесіңізден 10 тапсырманы тізімдеңіз. Әрқайсысын «AI-өкілетті жоба/талдау» немесе «адамның орындау шешімі» деп белгілеп, оның жанына «қате болса әсер ету (үзіліс/деректер/қауіпсіздік)» бағанасын қосыңыз. Тасымалданатындардың бірін таңдап, жоғарыдағы «Тапсырма тәуекелін бағалау» үлгісімен АИ-мен кеңесіңіз. Содан кейін журналдарыңыздың біреуін (IP, хост, пайдаланушы) бүркемелеп, үлгі талдауды сұраңыз. Төрт сатылы тексеру рефлексін қолданыңыз және өз бақылауларыңызды 6 элементке жазыңыз.
бақылау парағы
- [ ] Мен тапсырмаларды «өкілетті» және «адамның атқарушы шешімі» деп бөлдім бе?
- [ ] Мен әрбір маңызды нәтижені оқып, оны құжатпен байланыстырдым, оны оқшауланған ортада сынап көрдім, қайтару жоспарын дайындадым ба?
- [ ] Журнал мен конфигурацияда IP, хост, пайдаланушы, құпия сөз және кілттерді маскировкаладым ба?
- [ ] Мен құпия деректерді тек мекеме бекіткен, қауіпсіз құралға шығардым ба?
- [ ] Мен AI-ны тек рұқсат етілген жүйелерде және қорғаныс мақсатында пайдаландым ба?
- [ ] Сұрауымда рөлді, контекстті, жасырын деректерді, тапсырманы, шектеуді, өкілеттікті және шешім қабылдаушыны қостым ба?