المكاسب:
- القدرة على التمييز بين المهام (البرامج النصية والسجلات ومسودات المستندات) التي يوفر فيها الذكاء الاصطناعي الوقت الفعلي، وفي أي المهام مثل التوقف عن العمل وفقدان البيانات والقرارات التنفيذية التي تؤثر على الأمان تُترك للبشر، اعتمادًا على مستوى مخاطر المهمة.
- القدرة على تطبيق نظام من أربع خطوات يتحقق من كل مخرجات الذكاء الاصطناعي من خلال قراءتها وربطها بمستند واختبارها في بيئة معزولة وإعداد خطة الإرجاع.
- القدرة على استيعاب مبدأ إخفاء البيانات الحساسة في السجلات والتكوين واستخدام الذكاء الاصطناعي لأغراض الدفاع فقط في الأنظمة المعتمدة
سيصدر جهاز النداء صفيرًا في الساعة 3 صباحًا، وخادم الإنتاج لا يستجيب، وتتم معالجة انقطاعات الخدمة التي تبلغ قيمتها آلاف الجنيهات في الساعة خلف ظهرك، وكل الأنظار عليك. إدارة النظام والشبكة؛ إنه النظام الذي يضمن التشغيل دون انقطاع وآمن وعالي الأداء للخوادم والشبكات والتخزين والخدمات - بدءًا من التثبيت وحتى التصحيح والمراقبة وحتى الاستجابة للحوادث والنسخ الاحتياطي وحتى التعافي من الكوارث. طبيعة هذه المهمة هي أنه يوجد تحت عدد كبير من المهام المتكررة (كتابة البرامج النصية، وقراءة السجلات، ومقارنة التكوينات) عدد صغير من القرارات الثقيلة جدًا (إعادة تشغيل الخادم، وتغيير قاعدة جدار الحماية، واستعادة نسخة احتياطية). هنا، الذكاء الاصطناعي (الذكاء الاصطناعي - برنامج يستخرج الأنماط من البيانات التاريخية وينتج النصوص والأكواد والتنبؤات) يوفر لك الوقت في قلب هذه البنية المزدوجة. لكن الوعد الأول والدائم لهذه الوحدة واضح: الذكاء الاصطناعي هو مساعد ومولد مسودة وأداة لدعم القرار؛ لم يتبق لك سوى تشغيل الأمر وتأكيد التغيير وتحمل مسؤولية النظام.
تقوم هذه الوحدة المتقدمة بتثبيت ردود أفعال المهندس، وليس مفاتيح السيارة. في هذه الوحدة الأولى، سوف ندرس أين ينتج الذكاء الاصطناعي قيمة حقيقية وأين الخطر الحقيقي في النظام وعالم الشبكات؛ كيفية التحقق من صحة كل مخرجات؛ سوف تتعلم ما هي البيانات التي يمكنك تقديمها لأي أداة، والأهم من ذلك، أن الاستخدامات المصرح بها والدفاعية لهذه السلطة هي فقط المشروعة. وبدون وضع هذا الأساس، ستتحول الوحدات اللاحقة إلى سرعة خطيرة.
أين يكون الذكاء الاصطناعي مفيدًا في العملية؟
دعونا نقسم عمل النظام والشبكة إلى مجموعتين كبيرتين. المجموعة الأولى: العمل المتكرر القائم على النص والتعليمات البرمجية والقابل للإنتاج. كتابة المسودة الأولى لبرنامج نصي احتياطي، وتلخيص آلاف الأسطر من السجل والإبلاغ عن الحالات الشاذة، وشرح بناء جملة تكوين nginx، وتأطير تقرير ما بعد الوفاة، وفك تشفير بيان cron، وسرد الأسباب المحتملة لرسالة الخطأ. وفي هذه المهام، يقوم الذكاء الاصطناعي بتقليل الدقائق إلى ثوانٍ، ولا يتعب، ويعمل بنفس الجودة حتى في منتصف الليل.
المجموعة الثانية: قرارات التنفيذ التي تؤدي إلى انقطاع الخدمة أو فقدان البيانات أو الخروقات الأمنية. تشغيل عملية الحذف في قاعدة بيانات الإنتاج، وفتح قاعدة جدار الحماية، وإزالة الخادم من المجموعة، واستعادة نسخة احتياطية إلى الإنتاج، ونشر التصحيح على الأسطول بأكمله. تتطلب هذه القرارات السياق والمعرفة المؤسسية وتحمل المخاطر والمسؤولية. هنا، يجعل الذكاء الاصطناعي الخيارات والتأثيرات المحتملة مرئية – ولكنك تضغط على مفتاح Enter.
دعونا نوضح الفرق في جملة واحدة: الذكاء الاصطناعي قوي في الإجابة على أسئلة "ماذا يعني هذا وماذا يمكن أن يكون"؛ القرار لك عندما يتعلق الأمر بأسئلة مثل "هل يجب أن أقوم بهذا الآن ومن يضمن ذلك؟" المهندس الذي يستوعب هذا التمييز لا يضع الذكاء الاصطناعي في الإنتاج بثقة عمياء ولا يرفضه بعناد؛ ويستخدمه في المكان المناسب وبالجرعة المناسبة.
نصيحة: قبل الاستعانة بمصادر خارجية لذكاء اصطناعي في مهمة ما، اسأل: "ما الذي سأخسره إذا كان هذا الإخراج خاطئًا؟" إذا كانت الإجابة "بضع دقائق"، فلا تتردد في التفويض. إذا كانت الإجابة "الانقطاع أو البيانات أو الأمان"، دع الذكاء الاصطناعي ينتج مسودة، يمكنك التحقق منها في بيئة اختبار وتنفيذها.
نظام التحقق: أربع خطوات
يتحدث الذكاء الاصطناعي بطلاقة وثقة؛ هذا لا يعني أن هذا صحيح. يُنتج الذكاء الاصطناعي أحيانًا هلوسات، أي أنه يُزيف إشارة أمر غير موجودة، أو مفتاح تكوين، أو استدعاء واجهة برمجة التطبيقات (API) على أنها حقيقية. تقوم علامة rm المزيفة في النظام بحذف البيانات، كما أن بناء جملة جدار الحماية المزيف إما يفتح الأمان أو يقطع الوصول. لذا قم بتطوير منعكس من أربع خطوات لتطبيقه على كل مخرجات:
- اقرأ وافهم. اقرأ كل سطر أوامر وتكوين ينتجه الذكاء الاصطناعي، سطرًا تلو الآخر، قبل تشغيله لفهم ما يفعله. لا تقم أبدًا بتشغيل أمر لا تفهمه؛ اطلب من الذكاء الاصطناعي شرح كل علم.
- رابط إلى الوثيقة. قم بتأكيد العلامة أو المفتاح أو بناء الجملة المقدم من الذكاء الاصطناعي باستخدام الدليل الرسمي (صفحة الدليل، وثائق المنتج). "هل هذا العلم موجود بالفعل؟" التحقق من السؤال مع البحث.
- جربه في بيئة معزولة. قم بتشغيل أمر بالغ الأهمية أولاً على جهاز اختبار/تدريج، باستخدام --dry-run إن أمكن. الإنتاج ليس المكان المناسب للتمرين.
- الاستعداد لعودتك. قم بتدوين خطة "كيف يمكنني العودة إذا حدث خطأ ما" قبل التنفيذ: النسخ الاحتياطي، اللقطة، نسخة التكوين السابقة. لا تقم بإجراء تغيير لا رجعة فيه لمجرد أن الذكاء الاصطناعي اقترح ذلك.
تحذير: عبارة "قال الذكاء الاصطناعي" ليست مبررًا. وإذا حدث انقطاع، فالمسؤولية لا تقع على عاتق الذكاء الاصطناعي، بل على عاتق المهندس الذي نفذ ذلك الأمر دون التحقق منه. يعد أمر الذكاء الاصطناعي الذي لم يتم التحقق منه أمرًا محفوفًا بالمخاطر تمامًا مثل الضغط على sudo في الإنتاج دون قراءته.
السلطة والدفاع والأخلاق: الخط الأحمر
لمعلومات النظام والشبكة استخدامات مزدوجة: يمكن لنفس المعلومات حماية الشبكة وتدميرها. ولذلك، فإن الخط الأخلاقي لهذه الوحدة هو خط واحد ولا جدال فيه: استخدم الذكاء الاصطناعي فقط في الأنظمة التي لديك سلطة عليها، وذلك لأغراض الدفاع والعمليات. من المشروع تقوية خادم مؤسستك، والبحث عن التهديدات في السجل الخاص بك، وإغلاق الثغرات الأمنية في شبكتك الخاصة. من غير القانوني فحص نظام لا ينتمي إليك، ومحاولة اقتحام وصول شخص آخر، والتسلل إلى شبكة دون إذن، كما أنه من غير القانوني أيضًا استخدام الذكاء الاصطناعي لهذا الغرض. أنت تسأل الذكاء الاصطناعي ليس "كيف يمكنني اختراق هذا النظام" ولكن "كيف يمكنني حماية نظامي من هذا الهجوم؟"
مطلوب دقة مماثلة على جانب البيانات. غالبًا ما تكون السجلات والتكوينات والهيكليات حساسة وسرية: عناوين IP الداخلية وأسماء المستخدمين وأسماء المضيفين ومفاتيح API والشهادات. قم بإخفاء سجل أو تكوين قبل لصقه في أداة عامة (10.x.x.x بدلاً من IP الحقيقي، user1 بدلاً من المستخدم الحقيقي، المفاتيح المنقحة). قم بإعطاء البيانات السرية فقط للمركبات المتعاقدة مع المؤسسة والتي لا تذهب بياناتها إلى التدريب النموذجي.
ثلاث حالات صغيرة
الحالة 1 - توفير الوقت في المكان المناسب. كان مسؤول النظام يقضي 45 دقيقة كل صباح في فحص مخرجات سجل النظام يدويًا من 60 خادمًا. أعطى السجل، مع إخفاء عناوين IP وأسماء المضيفين، إلى الذكاء الاصطناعي وقال: "قم بتجميع الأخطاء وفقًا لمستوى خطورتها وحدد 5 أنماط متكررة." تم تقليل الوقت إلى 8 دقائق. وخصص 37 دقيقة المحفوظة لتأكيد الأنماط الحرجة التي أشار إليها الذكاء الاصطناعي في النظام الحقيقي. أخذ الذكاء الاصطناعي الإعادة؛ وبقي القرار للمهندس.
الحالة 2 - التحقق أدى إلى تجنب وقوع كارثة. طلب أحد مهندسي DevOps من الذكاء الاصطناعي برنامجًا نصيًا لتنظيف القرص. YZ ابحث عن /var/log -mtime +30 -exec rm {} \; وأعطى أمراً مماثلاً؛ كان الأمر سلسًا، لكن المهندس قام بخطوة "القراءة والفهم" وأدرك أن الأمر قد يعمل في الدليل الجذر بدلاً من /var/log بسبب متغير مسار غير صحيح. لقد حاول استخدام منطق --dry-run عن طريق استبدال rm بـ echo على جهاز الاختبار، ورأى الخطأ وأصلحه. منعت هذه الخطوة عملية إنقاذ محتملة لمدة ساعات.
الحالة 3 - الأخلاقيات وحدود السرية. قام أحد المتدربين للتو بلصق سلسلة الاتصال الكاملة لقاعدة بيانات الإنتاج (بما في ذلك اسم المستخدم وكلمة المرور والمضيف) في أداة عامة وقال "تحسين هذا الاتصال". تدخل كبير المهندسين: لقد كانت هذه بيانات اعتماد حية خرجت عن نطاق السيطرة وتطلبت التناوب الفوري لكلمة المرور (تغييرها). تم تنفيذ نفس العمل مرة أخرى في الأداة المعتمدة من المؤسسة، مع إخفاء جميع الأسرار بـ REDACTED، وتم تغيير كلمة المرور المسربة على الفور.
أربعة قوالب قابلة للنسخ
1) تقييم مخاطر المهمة:
دورك: مستشار أول لهندسة الأنظمة / الشبكات. سأصف الدور أدناه. أخبرني (1) ما إذا كان هذا عمل صياغة/تحليل يمكن تفويضه بأمان إلى الذكاء الاصطناعي أو عمل تنفيذ حاسم حيث يجب على الإنسان أن يقرر، (2) التأثير المحتمل للمخرجات غير الصحيحة (وقت التوقف عن العمل/البيانات/الأمان)، (3) ما هي خطة التحقق من الصحة والخطة الاحتياطية التي يجب أن أقوم بإعدادها قبل التنفيذ. المهمة: [أدخل المهمة هنا]
2) وصف الأمر والفحص الأمني:
اشرح سطر الأوامر التالي بسطر: تحديد ما تفعله كل علامة، والملف/الدليل الذي يؤثر عليه، وتأثيراته المدمرة المحتملة. استخدام العلم المصطنع؛ إذا لم تكن متأكدًا، فاكتب "يحتاج إلى التحقق". اذكر 3 مخاطر يجب أن أنتبه إليها قبل تشغيل هذا الأمر في الإنتاج. الأمر: [الأمر]
3) التحكم في إخفاء البيانات:
قد يحتوي نص السجل/التكوين الذي سأقدمه لك على بيانات حساسة (IP، اسم المضيف، المستخدم، كلمة المرور، مفتاح API، الشهادة). قم أولاً بإدراج المناطق في هذا النص التي تحتاج إلى إخفاءها؛ سأخفيه وأرسله مرة أخرى. لا تقم بتحليلها كما هي.
4) إطار السلطة والغرض:
هدفي هو الدفاع والتشغيل على [النظام/الشبكة] المصرح لي فيه. سأطرح عليك سؤالاً؛ أعط إجابتك فقط في إطار الدفاع والتصلب والتحقق. حذرني في حالة الوصول غير المصرح به أو طلب خطوات الهجوم واقترح بديلاً دفاعيًا مشروعًا.
موجه ضعيف / موجه قوي
حث ضعيف:
تسريع الخادم الخاص بي.
هذه المطالبة خالية من السياق: ليس من الواضح أي نظام تشغيل وأي عنق الزجاجة وأي مقياس. الذكاء الاصطناعي هو السائد، وغير قابل للتطبيق، وبعضها ينبعث منه مواد خطيرة.
مطالبة قوية:
دورك: مساعد أول مهندس أنظمة Linux. لدي خادم ويب 8 نواة/16 جيجابايت يعمل بنظام Ubuntu 22.04 مع وحدة المعالجة المركزية (CPU) بنسبة 85% باستمرار. لدي إخراج "الكرة" و"iostat" ملثمين (أدناه). هدفي هو تحديد عنق الزجاجة. أعطني (1) المقاييس التي يجب البحث عنها في المخرجات، (2) الأسباب المحتملة مرتبة حسب الاحتمالية، (3) أوامر تشخيصية للقراءة فقط لكل سبب يمكنني تشغيلها دون لمس الإنتاج. اقتراح التغييرات. التشخيص أولاً. المخرجات: [بيانات مقنعة]
النهج
السرعة
مخاطر النزاهة / الأمن
مسؤولية من
تنفيذ الأوامر المهمة باستخدام الذكاء الاصطناعي دون التحقق
عالية
عالية جدا
غير مؤكد – خطير
مشروع الذكاء الاصطناعي والتحقق البشري والإنفاذ
عالية
منخفض (إذا تم تأكيده)
الإنسان - صحيح
لا تفعل كل شيء باليد
منخفض
منخفض
الإنسان ولكن بطيء
لا تستخدم الذكاء الاصطناعي أبدًا
منخفض
منخفض
خلف المنافسين
الأخطاء الشائعة
- الخلط بين الطلاقة والدقة. الذكاء الاصطناعي ينتج قيادة واثقة؛ هذا لا يعني أن الأمر آمن، اقرأ كل سطر.
- تفويض التنفيذ الحاسم. في الإنتاج، يؤدي الحصول على الذكاء الاصطناعي إلى "الموافقة" على rm وDELETE وتغييرات جدار الحماية واستعادته إلى ترك المسؤولية معلقة في الهواء.
- تصدير البيانات الحساسة إلى أداة مفتوحة. يعد لصق السجل الذي يحتوي على عنوان IP وكلمة المرور والمفتاح دون إخفاءه انتهاكًا أمنيًا.
- ترك السلطة والغرض غير واضح. استخدم فقط على أنظمتك المعتمدة لأغراض دفاعية؛ وإلا فهو غير قانوني.
- التنفيذ بدون خطة احتياطية. إجراء تغيير دون نسخة احتياطية أو لقطة لمجرد أن الذكاء الاصطناعي اقترح أن ذلك سيكون بمثابة وصفة لكارثة.
نصيحة: ابدأ كل جلسة للذكاء الاصطناعي بـ "الدور + سياق النظام + البيانات المقنعة + المهمة + القيد + السلطة/الغرض + صانع القرار". يعمل هذا الإطار في نفس الوقت على تحسين جودة وأمان المخرجات.
في ملخص
تعد إدارة الأنظمة والشبكات مجالًا يعتمد فيه عدد صغير من القرارات الثقيلة على عدد كبير من المهام المتكررة. يعد الذكاء الاصطناعي مساعدًا قويًا يعمل على تسريع مهام النص والتعليمات البرمجية المتكررة؛ ولكن التوقف عن العمل، وفقدان البيانات، والقرارات التنفيذية التي تؤثر على الأمن هي مسؤولية المهندس. اقرأ كل مخرجات، واربطها بالمستند، وجربها على حدة، وقم بإعداد الإرجاع. إخفاء البيانات الحساسة، وإعطائها فقط للأدوات الآمنة. والأهم من ذلك: استخدم هذه القوة لأغراض دفاعية فقط على الأنظمة المصرح لك باستخدامها. المهندس الذي أسس هذا النظام يطبق بأمان كل التقنيات في الوحدات اللاحقة.
مهمة التطبيق
قم بإدراج 10 مهام من عملك الخاص قمت بها في الأسبوع الماضي. قم بوضع علامة على كل منها على أنها "مسودة/تحليل قابل للتفويض بواسطة الذكاء الاصطناعي" أو "قرار تنفيذ بشري" وأضف عمود "التأثير إذا كان خاطئًا (المقاطعة/البيانات/الأمن)" بجواره. اختر أحد العناصر القابلة للتحويل واستشر الذكاء الاصطناعي باستخدام قالب "تقييم مخاطر المهمة" أعلاه. ثم قم بإخفاء أحد سجلاتك (IP، المضيف، المستخدم) واطلب تحليل عينة. قم بتطبيق منعكس التحقق المكون من أربع خطوات واكتب ملاحظاتك في 6 عناصر.
قائمة مرجعية
- [ ] هل قمت بفصل المهام إلى "قابلة للتفويض" و"قرار تنفيذي بشري"؟
- [ ] هل قرأت كل المخرجات الهامة، وربطتها بالمستند، وجربتها في بيئة معزولة، وقمت بإعداد خطة العودة؟
- [ ] هل قمت بإخفاء عنوان IP والمضيف والمستخدم وكلمة المرور والمفاتيح في السجل والتكوين؟
- [ ] هل قمت فقط بإصدار بيانات حساسة إلى أداة آمنة ومعتمدة من المؤسسة؟
- [ ] هل استخدمت الذكاء الاصطناعي فقط في الأنظمة المصرح لي باستخدامها ولأغراض دفاعية؟
- [ ] هل قمت بتضمين الدور والسياق والبيانات المقنعة والمهمة والقيود والسلطة وصانع القرار في الموجه الخاص بي؟