Добивки:
- Способност да се разликува во кои задачи (скрипти, дневници, нацрти на документи) вештачката интелигенција заштедува реално време, а во кои задачи како што се времето на прекин, губење на податоци и извршните одлуки кои влијаат на безбедноста се препуштени на луѓето, во зависност од нивото на ризик на задачата.
- Способност да се примени дисциплина во четири чекори која го потврдува секој излез на вештачка интелигенција со негово читање, поврзување со документ, тестирање во изолирана средина и подготвување план за враќање.
- Способност за интернализирање на принципот на маскирање чувствителни податоци во дневници и конфигурација и користење вештачка интелигенција за одбранбени цели само во овластени системи
Пејџер звучи во 3 часот по полноќ, производствениот сервер не реагира, илјадници фунти на час прекини се обработуваат зад вашиот грб, а сите очи се вперени во вас. Управување со системот и мрежата; Тоа е дисциплина која обезбедува непречено, безбедно и со високи перформанси работење на серверите, мрежите, складирањето и услугите - од инсталација до поправање, следење до одговор на инцидентот, резервна копија до враќање од катастрофи. Природата на оваа работа е дека под голем број повторувачки задачи (пишување скрипти, читање логови, споредување на конфигурации) лежат мал број на многу тешки одлуки (рестартирање на сервер, промена на правило за заштитен ѕид, враќање на резервна копија). Овде, вештачката интелигенција (ВИ - софтвер кој извлекува обрасци од историски податоци и произведува текст, код и предвидувања) ви заштедува време во срцето на оваа двојна структура. Но, првото и постојано ветување на овој модул е јасно: ВИ е асистент, генератор на нацрти и алатка за поддршка на одлуки; Останува да ја извршувате командата, да ја потврдите промената и да ја преземете одговорноста за системот.
Овој напреден модул ги инсталира рефлексите на инженерот, а не клучевите на возилото. Во оваа прва единица, ќе испитаме каде вештачката интелигенција произведува вистинска вредност и каде е вистинска опасност во системот и мрежниот свет; како да се потврди секој излез; Ќе дознаете кои податоци можете да ги дадете на која алатка и, што е најважно, дека само овластените и одбранбените употреби на оваа моќ се легитимни. Без поставување на оваа основа, следните единици ќе се претворат во опасна брзина.
Каде ви помага вештачката интелигенција во операцијата?
Ајде да ја поделиме работата на системот и мрежата на два големи кластери. Прв кластер: повторувачка, текстуална и шифра заснована, продуктивна работа. Пишување на првиот нацрт на резервна скрипта, сумирање на илјадници линии од дневници и означување аномалии, објаснување на синтаксата на конфигурацијата на nginx, врамување на извештај за пост-мортем, декодирање на изјава за cron, наведување можни причини за порака за грешка. Во овие задачи, вештачката интелигенција ги намалува минутите на секунди, не се заморува и работи со ист квалитет дури и на полноќ.
Вториот кластер: одлуки за извршување кои резултираат со прекини, губење податоци или прекршување на безбедноста. Вклучување DELETE на базата на податоци за производство, отворање правило за заштитен ѕид, отстранување на сервер од кластерот, враќање на резервната копија во производството, распоредување на закрпа на целата флота. Овие одлуки бараат контекст, институционално знаење, толеранција на ризик и одговорност. Овде, вештачката интелигенција ги прави видливи опциите и можните ефекти - но вие притиснете го копчето Enter.
Да ја разјасниме разликата во една реченица: ВИ е силна на прашањата „што значи ова и што би можело да биде“; Одлуката е ваша кога станува збор за прашања од типот „дали треба да го водам ова сега и кој гарантира за тоа?“. Инженерот кој ја интернализира оваа разлика ниту ја става вештачката интелигенција во производство со слепа самодоверба ниту тврдоглаво ја отфрла; Го користи на вистинското место и во вистинската доза.
Совет: Пред да префрлите работа на вештачка интелигенција, прашајте: „Што ќе изгубам ако овој излез е погрешен?“ Ако одговорот е „неколку минути“, слободно делегирајте. Ако одговорот е „прекин, податоци или безбедност“, дозволете вештачката интелигенција да произведе нацрт, вие ја потврдувате во околина за тестирање и ја имплементирате.
Дисциплина за верификација: четири чекори
ВИ зборува течно и самоуверено; Тоа не значи дека е вистина. Вештачката интелигенција повремено произведува халуцинации - односно лажира непостоечко командно знаме, клуч за конфигурација или повик API како вистински. Лажното знаменце rm во системот ги брише податоците, а лажната синтакса на заштитен ѕид или ја отвора безбедноста или го прекинува пристапот. Затоа, развијте рефлекс од четири чекори за да се примени на секој излез:
- Прочитајте и разберете. Прочитајте ја секоја команда и конфигурациска линија што вештачката интелигенција ја произведува, линија по ред, пред да ја извршите за да разберете што прави. Никогаш не извршувајте команда што не ја разбирате; Побарајте од вештачката интелигенција да го објасни секое знаме.
- Врска до документ. Потврдете го знамето, клучот или синтаксата дадени од вештачката интелигенција со официјалниот прирачник (човечка страница, документација за производот). „Дали ова знаме навистина постои? Потврдете го прашањето со пребарување.
- Пробајте го во изолирана средина. Извршете критична команда прво на машина за тестирање/сценирање, со --dry-run ако е можно. Производството не е место за проба.
- Подгответе го вашето враќање. Запишете план „како да се вратам ако ова тргне наопаку“ пред имплементацијата: резервна копија, слика, претходна копија од конфигурација. Не правете неповратна промена само затоа што вештачката интелигенција ја предложи.
Внимание: „Ви го кажа тоа“ не е оправдување. Доколку дојде до прекин, одговорноста не е на вештачката интелигенција, туку на инженерот кој ја извршил таа команда без да ја потврди. Непроверената команда со вештачка интелигенција е подеднакво ризична како и судо притиснато во производство без да се прочита.
Авторитет, одбрана и етика: црвената линија
Информациите за системот и мрежата имаат двојна употреба: истите информации можат и да ја заштитат и уништат мрежата. Затоа, етичката линија на овој модул е единствена и неспорна: Користете вештачка интелигенција само во системи за кои имате авторитет, за одбранбени и оперативни цели. Легитимно е да го зацврстите серверот на вашата институција, да барате закани во вашиот дневник и да затворите ранливост во вашата мрежа. Нелегално е да скенирате систем што не ви припаѓа, да се обидувате да упаднете во туѓ пристап, да се инфилтрирате во мрежа без дозвола, а исто така е нелегално да користите вештачка интелигенција за оваа намена. Ја прашувате вештачката интелигенција не „како да се инфилтрирам во овој систем“, туку „како да го заштитам сопствениот систем од овој напад?
Слична строгост е потребна на страната на податоците. Логовите, конфигурациите и топологиите често се чувствителни и доверливи: внатрешни IP адреси, кориснички имиња, имиња на домаќини, клучеви API, сертификати. Маскирајте дневник или конфигурација пред да ја залепите во јавна алатка (10.x.x.x наместо вистинска IP адреса, user1 наместо вистински корисник, РЕДАКТИРАНИ клучеви). Давајте доверливи податоци само на возилата со договор на институцијата чии податоци не одат на обука за модели.
три мини футроли
Случај 1 — Заштедува време на вистинското место. Системскиот администратор трошеше 45 минути секое утро рачно скенирајќи го излезот од системскиот дневник од 60 сервери. Тој го даде дневникот, со маскирани имиња на IP и домаќини, на вештачката интелигенција и рече: „Групирајте ги грешките според степенот на нивната сериозност и означете 5 повторливи обрасци“. Времето е намалено на 8 минути. Зачуваните 37 минути ги посвети на потврдување на критичните обрасци означени од вештачката интелигенција во реалниот систем. АИ ја презеде репризата; Одлуката остана кај инженерот.
Случај 2 - Верификацијата избегна катастрофа. Инженер за DevOps побара од AI скрипта за чистење на дискот. YZ најдете /var/log -mtime +30 -exec rm {} \; Тој даде слична заповед; Беше течно, но инженерот го направи чекорот „читај и разбирај“ и сфати дека командата може да работи во root директориумот наместо /var/log поради неточна променлива на патеката. Тој се обиде да ја искористи логиката --dry-run со замена на rm со ехо на машината за тестирање, ја виде грешката и ја поправи. Овој чекор спречи можно повеќечасовно спасување.
Случај 3 - Граница на етика и доверливост. Практикантот штотуку ја залепи целата низа за поврзување на производната база на податоци (вклучувајќи корисничко име, лозинка, домаќин) во јавна алатка и рече „оптимизирај ја оваа врска“. Високиот инженер интервенираше: ова беше акредитив во живо што излезе од контрола и бараше итна ротација на лозинката (промена). Истата работа беше повторно направена во алатката одобрена од институција, со сите тајни маскирани со REDACTED, а протечената лозинка веднаш беше сменета.
Четири шаблони за копирање
1) Проценка на ризикот од мисијата:
Вашата улога: виш консултант за системи/мрежен инженеринг. Ќе ја опишам улогата подолу. Кажете ми (1) дали ова е работа на изготвување/анализа што може безбедно да се делегира на ВИ или критична работа за извршување каде човекот мора да одлучи, (2) можното влијание на неточниот излез (време на прекин/податоци/безбедност), (3) каков валидација и резервен план треба да подготвам пред извршувањето. Задача: [внеси задача овде]
2) Опис на командата и безбедносна проверка:
Објаснете ја следната командна линија по ред: специфицирање што прави секое знаме, на која датотека/директориум влијае и неговите можни деструктивни ефекти. Користење на измислено знаме; Ако не сте сигурни, напишете „треба да се потврди“. Наведете 3 ризици на кои треба да обрнам внимание пред да ја извршам оваа команда во производството. Команда: [команда]
3) Контрола на маскирање податоци:
Текстот за дневник/конфигурација што ќе ви го дадам може да содржи чувствителни податоци (IP, име на домаќин, корисник, лозинка, клуч API, сертификат). Прво наведете кои области во овој текст треба да се маскираат; Ќе го маскирам и пак ќе го испратам. Не го анализирајте како што е.
4) Рамка на авторитет и цел:
Мојата цел е одбрана и работа на [системот/мрежата] во кој сум овластен. ќе ти поставам прашање; Одговорот дајте го само во рамките на одбрана, стврднување и верификација. Предупредете ме во случај на неовластен пристап или барање за чекори за напад и предложете легитимна алтернатива за одбрана.
Слаб промпт / Силен промпт
Слаба навестување:
Забрзај го мојот сервер.
Овој потсетник е без контекст: не е јасно кој ОС, кое тесно грло, која метрика. ВИ е мејнстрим, неприменлива, а некои испуштаат опасни материи.
Моќен потсетник:
Вашата улога: виш асистент инженер за системи за Linux. Имам веб-сервер со 8 јадра/16 GB што работи Ubuntu 22.04 со процесор постојано на 85%. Излезот на „топка“ и „јостат“ го имам маскирано (подолу). Мојата цел е да го идентификувам тесното грло. Дајте ми (1) какви метрики да барам во излезот, (2) можни причини по редослед на веројатност, (3) дијагностички команди само за читање за секоја причина што можам да ја извршам без да го допрам производството. Предложете промени; дијагноза прво. Излези: [маскирани податоци]
Пристап
брзина
Интегритет/безбедносен ризик
Чија одговорност
Извршување критична команда со вештачка интелигенција без верификација
високо
многу високо
Несигурно - опасно
Нацрт вештачка интелигенција, човечка проверка и спроведување
високо
Ниско (ако е потврдено)
Човечки - вистина
Не правете сè со рака
низок
низок
човечки, но бавен
Никогаш не користете вештачка интелигенција
низок
низок
зад конкурентите
Вообичаени грешки
- Погрешно флуентност со точност. ВИ произведува сигурна команда; Ова не покажува дека командата е безбедна, прочитајте ја секоја линија.
- Делегирање на критичко извршување. Во производството, добивањето на вештачката интелигенција да „одобрува“ rm, DELETE, заштитниот ѕид се менува и обновува, ја остава одговорноста да виси во воздухот.
- Извезување чувствителни податоци во отворена алатка. Вметнувањето на дневникот што содржи IP, лозинка и клуч без маскирање е безбедносно прекршување.
- Оставањето на авторитетот и целта нејасни. Користете само на вашите сопствени овластени системи за одбранбени цели; во спротивно е незаконски.
- Спроведување без резервен план. Да се направи промена без резервна копија или слика само затоа што вештачката интелигенција сугерираше дека тоа би било рецепт за катастрофа.
Совет: Започнете ја секоја сесија на вештачка интелигенција со „улога + системски контекст + маскирани податоци + задача + ограничување + авторитет/цел + носител на одлуки“. Оваа рамка истовремено ги подобрува и квалитетот и безбедноста на излезот.
Сумирано
Администрацијата на системи и мрежа е дисциплина каде што мал број тешки одлуки се во основата на голем број повторувачки задачи. AI е моќен асистент кој ги забрзува задачите што се повторуваат со текст и код; но застојот, загубата на податоци и извршните одлуки кои влијаат на безбедноста се одговорност на инженерот. Прочитајте го секој излез, поврзете го со документот, пробајте го во изолација, подгответе го враќањето. Маскирај ги чувствителните податоци, давај ги само на безбедни алатки. И што е најважно: користете ја оваа моќ за одбранбени цели само на системи за кои сте овластени. Инженерот кој ја воспоставува оваа дисциплина безбедно ја применува секоја техника во следните единици.
Задача за апликација
Наведете 10 задачи од вашиот сопствен бизнис што сте ги направиле во последната недела. Обележете го секој како „нацрт/анализа што може да се пренесе со вештачка интелигенција“ или „одлука за извршување на луѓе“ и до неа додајте ја колоната „влијание ако е погрешно (прекин/податоци/безбедност)“. Изберете една од преносливите и консултирајте се со вештачката интелигенција со шаблонот „Проценка на ризикот од задачи“ погоре. Потоа маскирајте еден од вашите дневници (IP, домаќин, корисник) и побарајте анализа на примерокот. Применете го рефлексот за проверка во четири чекори и напишете ги вашите забелешки во 6 ставки.
листа за проверка
- [ ] Дали ги одвоив задачите на „достапни“ и „човечки извршни одлуки“?
- [ ] Дали го прочитав секој критичен излез, го поврзав со документот, го пробав во изолирана средина, подготвив план за враќање?
- [ ] Дали ги маскирав IP, домаќинот, корисникот, лозинката и клучевите во дневникот и конфигурацијата?
- [ ] Дали објавив чувствителни податоци само на безбедна алатка одобрена од институција?
- [ ] Дали користев вештачка интелигенција само во системи за кои сум овластен и за одбранбени цели?
- [ ] Дали ги вклучив улогата, контекстот, маскираните податоци, задачата, ограничувањето, овластувањето и одлучувачот во мојата порака?