单位 1 / 11

系统和网络管理中的人工智能简介:角色、边界、身份验证和权限

收益:

  • 能够区分哪些任务(脚本、日志、文档草稿)人工智能可以实时节省时间,以及哪些任务(例如停机、数据丢失和影响安全的执行决策)留给人类,具体取决于任务风险级别。
  • 能够应用四步规则,通过读取每个人工智能输出、将其连接到文档、在隔离环境中测试它并准备返回计划来验证每个人工智能输出。
  • 能够内化在日志和配置中屏蔽敏感数据的原则,并仅在授权系统中使用人工智能进行防御目的

凌晨 3 点寻呼机会发出蜂鸣声,生产服务器没有响应,每小时数千英镑的停机费用正在您背后处理,所有的目光都集中在您身上。系统和网络管理;它是确保服务器、网络、存储和服务不间断、安全和高性能运行的学科——从安装到修补、监控到事件响应、备份到灾难恢复。这项工作的本质是,在大量重复性任务(编写脚本、读取日志、比较配置)的背后隐藏着少量非常繁重的决策(重新启动服务器、更改防火墙规则、恢复备份)。在这里,人工智能(AI——从历史数据中提取模式并生成文本、代码和预测的软件)在这种双重结构的核心为您节省了时间。但该模块的首要承诺是明确的:人工智能是助手、草稿生成器和决策支持工具;您需要运行命令、确认更改并对系统负责。

这个先进的模块安装了工程师的反应能力,而不是车辆的钥匙。在第一个单元中,我们将研究人工智能在系统和网络世界中何处产生真正的价值以及何处存在真正的危险;如何验证每个输出;您将了解可以向哪个工具提供哪些数据,最重要的是,只有授权和防御性使用此权力才是合法的。如果不打好这个基础,后续的部队就会变成危险的速度。

AI在运营中的用武之地在哪里?

让我们将系统和网络工作划分为两个大集群。第一组:重复的、基于文本和代码的、可生产的工作。编写备份脚本的初稿,总结数千行日志并标记异常,解释 nginx 配置的语法,构建事后分析报告,解码 cron 语句,列出错误消息的可能原因。在这些任务中,人工智能将分钟缩短为秒,不会感到疲倦,即使在午夜也能以相同的质量工作。

第二组:导致中断、数据丢失或安全漏洞的执行决策。在生产数据库上运行 DELETE、打开防火墙规则、从集群中删除服务器、将备份恢复到生产中、向整个队列部署补丁。这些决策需要背景、机构知识、风险承受能力和责任。在这里,人工智能使选项和可能的效果可见——但你按下 Enter 键。

让我们用一句话来澄清区别:人工智能擅长解决“这意味着什么以及可能是什么”问题;而人工智能则擅长解决“这意味着什么以及可能是什么”问题。当涉及到“我现在应该运行这个程序以及谁来担保它吗?”之类的问题时,决定权在您手中。内化了这种区别的工程师既不会盲目自信地将人工智能投入生产,也不会顽固地拒绝它;他在正确的地方并以正确的剂量使用它。

提示:在将工作外包给人工智能之前,问问自己:“如果这个输出错误,我会损失什么?”如果答案是“几分钟”,请随意委托。如果答案是“中断、数据或安全”,让AI出一个草案,你在测试环境中验证并实施。

验证纪律:四个步骤

AI说话流利、自信;这并不意味着这是真的。人工智能偶尔会产生幻觉,也就是说,它会将不存在的命令标志、配置密钥或 API 调用伪装成真实的。系统中的假 rm 标志会删除数据,假防火墙语法要么打开安全性,要么切断访问。因此,制定一个四步反射来应用于每个输出:

  1. 阅读并理解。在运行 AI 之前,逐行阅读 AI 生成的每个命令和配置行,以了解它在做什么。永远不要运行你不理解的命令;请AI解释每个标志。
  2. 链接到文档。通过官方手册(手册页、产品文档)确认 AI 给出的标志、键或语法。 “这面旗帜真的存在吗?”通过搜索验证问题。
  3. 在隔离环境中尝试一下。首先在测试/登台机器上运行关键命令,如果可能的话使用 --dry-run 。制作不是排练的地方。
  4. 准备你的复出。在实施之前写下“如果出现问题我该如何恢复”计划:备份、快照、以前的配置副本。不要仅仅因为人工智能的建议就做出不可逆转的改变。
注意:“AI这么说”并不是理由。如果出现中断,责任不属于人工智能,而属于未经验证而执行该命令的工程师。未经验证的 AI 命令与未经读取而压入生产环境的 sudo 一样有风险。

权威、防御和道德:红线

系统和网络信息具有双重用途:相同的信息既可以保护网络,也可以破坏网络。因此,该模块的道德路线是单一且无可争议的:仅在您有权的系统中使用人工智能,以用于防御和操作目的。强化自己机构的服务器、在自己的日志中查找威胁以及消除自己网络中的漏洞是合法的。扫描不属于你的系统、试图闯入他人的访问权限、未经许可渗透网络都是非法的,为此目的使用人工智能也是非法的。你问人工智能不是“我如何渗透这个系统”,而是“我如何保护我自己的系统免受这种攻击?”

数据方面也需要类似的严格性。日志、配置和拓扑通常是敏感和机密的:内部 IP 地址、用户名、主机名、API 密钥、证书。在将日志或配置粘贴到公共工具之前对其进行屏蔽(10.x.x.x 而不是真实 IP,user1 而不是真实用户,已编辑密钥)。仅将机密数据提供给机构的签约车辆,其数据不用于模型训练。

三个迷你箱子

案例 1 — 在正确的地方节省时间。系统管理员每天早上花费 45 分钟手动扫描 60 台服务器的系统日志输出。他将屏蔽了 IP 和主机名的日志交给 AI,并说道:“根据错误的严重程度对错误进行分组,并标记 5 个重复出现的模式。”时间缩短为8分钟。他将节省下来的 37 分钟用于确认真实系统中人工智能标记的关键模式。 AI进行重播;决定权仍由工程师决定。

案例 2——验证避免了一场灾难。一位 DevOps 工程师向 AI 请求一个用于磁盘清理的脚本。 YZ find /var/log -mtime +30 -exec rm {} \;他也发出了类似的命令;它很流畅,但工程师执行了“阅读并理解”步骤,并意识到由于路径变量不正确,该命令可能在根目录而不是 /var/log 中运行。他尝试使用 --dry-run 逻辑,在测试机上用 echo 替换 rm,发现错误并修复了它。这一步骤阻止了可能长达数小时的救援。

案例 3——道德和保密边界。一名实习生刚刚将生产数据库的完整连接字符串(包括用户名、密码、主机)粘贴到公共工具中,并说“优化此连接”。高级工程师介入:这是一个失控的实时凭证,需要立即轮换(更改)密码。在机构批准的工具中再次进行了相同的工作,所有秘密都用 REDACTED 掩盖,并且泄漏的密码立即被更改。

四个可复制模板

1)任务风险评估:

您的角色:高级系统/网络工程顾问。我将在下面描述该角色。告诉我 (1) 这是可以安全地委托给人工智能的起草/分析工作还是人类必须决定的关键执行工作,(2) 错误输出(停机/数据/安全)可能产生的影响,(3) 在执行之前我应该准备什么验证和后备计划。任务:[在此处插入任务]

2)命令说明及安全检查:

逐行解释以下命令行:指定每个标志的作用、它影响哪个文件/目录以及它可能的破坏性影响。使用人造旗帜;如果您不确定,请写“需要验证”。列出在生产中运行此命令之前我应该​​注意的 3 个风险。命令:[命令]

3)数据脱敏控制:

我给您的日志/配置文本可能包含敏感数据(IP、主机名、用户、密码、API 密钥、证书)。首先列出本文中哪些区域需要屏蔽;我将其屏蔽并再次发送。不要按原样分析它。

4) 权限和宗旨框架:

我的目标是在我被授权的[系统/网络]上进行防御和操作。我会问你一个问题;仅在防御、强化和验证的框架内给出您的答案。如果发生未经授权的访问或请求攻击步骤,请向我发出警告,并建议合法的防御替代方案。

弱提示/强提示

弱提示:

加快我的服务器速度。

此提示与上下文无关:不清楚哪个操作系统、哪个瓶颈、哪个指标。 AI是主流,不适用,有的还排放危险物质。

强力提示:

您的角色:高级助理 Linux 系统工程师。我有一个 8 核/16GB 的网络服务器,运行 Ubuntu 22.04,CPU 始终保持在 85%。我将“ball”和“iostat”的输出屏蔽(如下)。我的目标是找出瓶颈。给我(1)在输出中寻找哪些指标,(2)按概率顺序排列的可能原因,(3)我可以在不接触生产的情况下运行的每个原因的只读诊断命令。建议更改;首先诊断。输出:[屏蔽数据]

方法

速度

完整性/安全风险

谁的责任

无需验证即可使用 AI 执行关键命令

非常高

不确定——危险

人工智能草案、人工验证和执行

低(如果得到确认)

人类——真实

不要事事亲力亲为

人类但缓慢

永远不要使用人工智能

落后于竞争对手

常见错误

  • 将流畅性误认为准确性。人工智能产生自信的指挥;这并不表明该命令是安全的,请阅读每一行。
  • 委派关键执行。在生产中,让人工智能“批准”rm、DELETE、防火墙更改和恢复让责任悬而未决。
  • 将敏感数据导出到开放工具。粘贴包含 IP、密码和密钥的日志而不屏蔽它是一种安全违规行为。
  • 权力和目的不明确。仅在您自己的授权系统上用于防御目的;否则是非法的。
  • 在没有后备计划的情况下实施。在没有备份或快照的情况下进行更改只是因为人工智能表明这将导致灾难。
提示:以“角色+系统上下文+屏蔽数据+任务+约束+权威/目的+决策者”开始每个人工智能会话。该框架同时提高了输出的质量和安全性。

总之

系统和网络管理是一门学科,其中少量的繁重决策是大量重复性任务的基础。 AI是一个强大的助手,可以加速重复性文本和代码任务;但停机、数据丢失和影响安全的执行决策是工程师的责任。阅读每个输出,将其链接到文档,单独尝试,准备返回。屏蔽敏感数据,仅将其提供给安全工具。最重要的是:仅在您有权使用的系统上将此权力用于防御目的。建立这一学科的工程师在后续单元中安全地应用每项技术。

应用任务

列出上周您在自己的企业中完成的 10 项任务。将每一项标记为“人工智能可委托的草稿/分析”或“人类执行决策”,并在其旁边添加“错误影响(中断/数据/安全)”列。选择其中一个可转移的,并用上面的“任务风险评估”模板咨询AI。然后屏蔽您的日志之一(IP、主机、用户)并要求进行样本分析。应用四步验证反射并将您的观察结果写成 6 项。

清单

  • [ ] 我是否将任务分为“可委派”和“人类执行决策”?
  • [ ] 我是否阅读了每个关键输出,将其链接到文档,在隔离环境中进行了尝试,准备了返回计划?
  • [ ] 我是否屏蔽了日志和配置中的 IP、主机、用户、密码和密钥?
  • [ ] 我是否仅将敏感数据发布到机构批准的安全工具?
  • [ ] 我是否仅在我获得授权的系统中以及出于防御目的使用人工智能?
  • [ ] 我是否在提示中包含了角色、上下文、屏蔽数据、任务、约束、权限和决策者?