سير العمل الشامل والحوكمة والمصادقة والاستخدام المسؤول

المكاسب:

• القدرة على تضمين الذكاء الاصطناعي باستمرار في كل مرحلة من التصميم إلى التشغيل، مع بوابات التحقق البشرية وشروط الانتقال من جملة واحدة
• القدرة على إنشاء إطار حوكمة بقائمة المركبات المعتمدة وتصنيف البيانات وإمكانية التتبع والتدريب والتحقق المستمر
• القدرة على دمج مبادئ المسؤولية الإنسانية والأولوية الأمنية والتحقق والسرية والشفافية والمسؤولية البيئية والاجتماعية في سير العمل

في الوحدات العشر السابقة، رأينا كيفية استخدام الذكاء الاصطناعي بأمان في المجالات الفردية للهندسة الكيميائية - التصميم، والمحاكاة، والحركية، والتنبؤ بالخصائص، والتحسين، وبيانات التحكم، وHAZOP، والبحث عن المعايير، وPython. في هذه الوحدة النهائية، نجمع الأجزاء معًا: سنتعلم كيفية دمج الذكاء الاصطناعي من البداية إلى النهاية في مشروع أو منشأة ذات نظام متسق وبوابات تحقق بشرية وهيكل حوكمة - الإطار الذي يحدد القواعد التي سيتم بموجبها استخدام الأدوات والبيانات والقرارات في المؤسسة. الهدف هو بناء نظام متعدد الطبقات يمنع خطأ ذكاء اصطناعي واحد من التسلل إلى التصميم أو قرار العمل أو مستند الأمان.

الفكرة الأساسية بسيطة: يتم وضع بوابة تحقق بشرية وشرط انتقالي واضح في كل مرحلة؛ لا يمكنك المرور من باب واحد دون المرور من آخر. وهذا هيكل منقذ للحياة في الهندسة الكيميائية، وكذلك في مجالات الطب الشرعي أو الطب - لأن الأخطاء هنا أيضًا لها عواقب ليس على الورق ولكن في الواقع، على الناس والبيئة.

سير العمل الشامل: مع بوابات التحقق

دعونا نفكر في مشروع الهندسة الكيميائية في خمس مراحل ونضع دور الذكاء الاصطناعي وبوابة التحقق في كل منها:

1. التصميم والمفهوم. يقوم الذكاء الاصطناعي بإنشاء خيارات المسار ومسودة PFD. الباب: هل يتم الحفاظ على التوازن المادي يدوياً، وهل تم اختيار المسار بحكمة هندسية؟

2. التحليل والمحاكاة. يلخص مخرجات محاكاة الذكاء الاصطناعي، ويعطي رسمًا حركيًا/خاصيًا. البوابة: هل النموذج الديناميكي الحراري مناسب، هل يحافظ على توازن الكتلة/الطاقة، هل القيم الحرجة تعتمد على المصدر التجريبي/قاعدة البيانات؟

3. التحسين والتحجيم. يقوم الذكاء الاصطناعي بإنتاج مسودة كود التحسين والحساب. الباب: هل القيود كاملة، هل تم اختبار الكود، هل هو في نافذة الأمان الأمثل؟

4. الأمن والامتثال. يوفر هيكلًا عظميًا لـ AI HAZOP وخريطة قياسية. الباب: هل تم إجراء تحليل المخاطر من قبل فريق من الخبراء، هل تم التحقق من العناصر القياسية من المصدر الأساسي، هل تم الحصول على الموافقة المصرح بها؟

5. التشغيل والمراقبة. يراقب الذكاء الاصطناعي بيانات المستشعر ويحدد الحالات الشاذة. الباب: إشارة حقيقية أم مستشعر، حماية السلامة في نظام SIS المستقل؟

تمنع هذه البوابات نقل مخرج واحد لم يتم التحقق منه إلى المرحلة التالية. حتى لو هربت حشرة ما، هناك احتمال كبير أن يتم القبض عليها عند الباب المجاور.

نصيحة: اكتب "حالة انتقالية" من جملة واحدة لكل مرحلة واجعلها مرئية للفريق: "لا يمكن بدء المحاكاة حتى يتم التحقق من رصيد المواد يدويًا". وتضمن مثل هذه القواعد الواضحة الحفاظ على الانضباط حتى في ظل ضغط الوقت.

إطار الحوكمة: الانضباط المؤسسي

يعد التحقق الفردي أمرًا جيدًا، ولكن هناك حاجة إلى إطار عمل للحوكمة على مستوى المنشأة. خمسة مكونات رئيسية:

1. قائمة المركبات والنماذج المعتمدة. فهو يحدد أدوات الذكاء الاصطناعي التي يمكن استخدامها للمهام. لا يتم استخدام الأدوات غير المعتمدة للحسابات الأمنية الهامة.

2. تصنيف البيانات. في أي مركبة يمكن إدخال الوصفات الطبية وظروف التشغيل والبيانات الشخصية المسجلة؟ لا يتم منح البيانات السرية/الملكية للأدوات التي تسرب البيانات خارج المؤسسة.

3. التسجيل والتتبع (مسار التدقيق). ما هو الناتج الذي جاء من أي أداة، ومن قام بالتحقق منه، وما هو المصدر الذي تم ربطه به؟ يجب أن يكون قابلاً للتتبع في حالة حدوث مشكلة.

4. التدريب والكفاءة. يجب أن يعرف المستخدمون حدود الذكاء الاصطناعي، ومخاطر الهلوسة، ونظام التحقق. الأداة قوية، ولكنها خطيرة في الأيدي الخطأ.

5. التحقق المستمر. تختلف النماذج والمركبات؛ يتم إعادة اختبار موثوقية المخرجات بشكل دوري.

انتبه: في المؤسسة، يمثل النهج "يجب على الجميع تقديم البيانات التي يريدونها إلى أداة الذكاء الاصطناعي التي يريدونها" خطرًا يتمثل في تسرب معلومات الملكية والفشل الأمني. إن الحوكمة هي البنية التحتية غير المرئية ولكنها بالغة الأهمية التي تحد من هذه المخاطر.

مبادئ الاستخدام المسؤول

دعونا نربط الوحدة بستة مبادئ:

1. مسؤولية الإنسان. القرار النهائي والتوقيع يقع على عاتق الخبير المختص؛ إن مخرجات الذكاء الاصطناعي ليست بديلاً عن موافقتها.
2. الأولوية الأمنية. تتطلب القرارات الحاسمة المتعلقة بالسلامة (السلامة والمخاطر والمواد والتحجيم) التحقق والموافقة المصرح بها.
3. انضباط التحقق. يتم توصيل كل مخرج بالفيزياء/المصدر، ويتم اختباره بطريقة مستقلة، ويتم تمريره عبر مرشح التفسير.
4. حماية. تتم معالجة بيانات الملكية والبيانات الشخصية فقط بطريقة آمنة ومعتمدة.
5. الشفافية. تم ذكر استخدام الذكاء الاصطناعي بأمانة في التقارير والوثائق.
6. المسؤولية البيئية والاجتماعية. ولا تأخذ القرارات في الاعتبار الاقتصاد فحسب، بل أيضًا صحة الإنسان والبيئة.

ثلاث حالات صغيرة

الحالة 1 - الباب اشتعلت فيه الحشرة. في أحد المشاريع، تم اكتشاف خلل في التوازن الكتلي بنسبة 4% في مسودة PFD الخاصة بالذكاء الاصطناعي في بوابة التوازن قبل الانتقال إلى مرحلة المحاكاة. تم إصلاح الخلل في المصدر؛ إذا لم يكن هناك باب، فإن هذا الخطأ سيمتد إلى المحاكاة ومن ثم إلى الأبعاد. نجح الهيكل الطبقي.

الحالة 2 - الحوكمة تمنع تسرب البيانات. كان أحد المهندسين على وشك لصق وصفة محفز خاصة به في مركبة مفتوحة تعمل بالذكاء الاصطناعي. تنص قاعدة تصنيف البيانات الخاصة بالوكالة على أنه لا يمكن معالجة هذه البيانات إلا من خلال أداة معتمدة داخليًا. منعت القاعدة حدوث تسرب تجاري مهم.

الحالة 3 - التتبع جلب الثقة. في إحدى عمليات التدقيق، سُئلنا عن كيفية اتخاذ قرار التصميم. بفضل نظام التسجيل في المؤسسة، كان من الممكن توثيق أن الذكاء الاصطناعي أنتج مسودة فقط، وأن كل قيمة حرجة تُنسب إلى المصدر التجريبي، وأن القرار تمت الموافقة عليه من قبل المهندس المعتمد. وتوفر الشفافية الثقة والحماية القانونية.

أربعة قوالب قابلة للنسخ

1) خطة بوابة سير العمل:

دورك: مستشار ضمان المشروع. مشروعي: [وصف]. جهز لي خطة بوابة التحقق للمراحل (التصميم، التحليل، التحجيم، الأمان، التشغيل): ماذا يفعل الذكاء الاصطناعي في كل مرحلة، أي شرط انتقالي مكون من جملة واحدة لا يمكن الانتقال إلى المرحلة التالية دون استيفائه، من يتحقق. التركيز بشكل خاص على الأبواب الأمنية الحرجة.

2) الحكم والتنظيم الذاتي:

يتم إصدار قائمة تدقيق ذاتي لاستخدام الذكاء الاصطناعي في مؤسستنا: (1) هل توجد قائمة بالأدوات المعتمدة، (2) هل تم تحديد تصنيف البيانات، (3) هل يتم الاحتفاظ بالسجل/إمكانية التتبع، (4) هل يوجد تدريب للمستخدمين، (5) هل هناك تحقق مستمر؟ اطلب تقييم "نعم/جزئي/لا" واقتراحات التحسين لكل عنصر. السياق: [تعريف]

3) الشفافية/ إعلان الاستخدام:

قم بصياغة فقرة شفافية تصف بصدق استخدام الذكاء الاصطناعي في التقرير الهندسي: في أي مراحل تم استخدام الذكاء الاصطناعي في الصياغة/التحليل، وكيف تم التحقق من صحة المخرجات، مع المسؤولية النهائية على عاتق المهندس المسؤول. مبالغة؛ فقط تعكس ما تم إنجازه بالفعل.الأفعال: [الوصف]

4) الفحص الأخير قبل القرار:

أنا على وشك اتخاذ هذا القرار: [القرار]. مررني بقائمة مرجعية نهائية قبل التخلي عنها: (1) هل هذا أمر بالغ الأهمية للأمان، (2) هل أي قيم أعتمد عليها من مصادر/تجريب، (3) هل تم التحقق المستقل، (4) هل موافقة السلطة مطلوبة، (5) هل تمت ملاحظة السرية/الامتثال؟ حدد الخطوة التي تراها مفقودة. القرار لي. أنت تتبع القائمة المرجعية.

موجه ضعيف / موجه قوي

حث ضعيف:

كيف يمكنني استخدام الذكاء الاصطناعي في مشروعي؟

لا يوجد سياق، ولا بنية التحقق من الصحة. يقدم الذكاء الاصطناعي إجابة عامة، متجاوزًا البوابات الأمنية المهمة.

مطالبة قوية:

دورك: مستشار ضمان المشروع. أريد استخدام الذكاء الاصطناعي بدءًا من التصميم وحتى التشغيل في مشروع إنتاج كيميائي بقدرة 50 ألف طن سنويًا. في كل مرحلة، أحصل على إطار عمل لدور الذكاء الاصطناعي، وبنية التحقق التي لا يمكن تمريرها دون اجتيازها، ومن سيوافق عليها، وما هي البيانات التي يمكن تقديمها لأي أداة. ضع علامة أيضًا على الخطوات الأمنية الحاسمة وسلط الضوء على الأماكن التي تكون فيها الموافقة البشرية إلزامية.

الفرق واضح: سياق المشروع، والبوابات، والموافقة، وقواعد البيانات تنظم استخدام الذكاء الاصطناعي.

توزيع الأدوار في هيكل شامل

المرحلة

دور الذكاء الاصطناعي

بوابة التحقق

التصميم

الطريق، مسودة PFD

الرصيد + تأكيد المسار

التحليل

ملخص المحاكاة والتنبؤ

الموديل + تأكيد المصدر

التحجيم

الأمثل، رمز

القيد + الاختبار + الأمن

الأمن/الامتثال

هيكل عظمي HAZOP، خريطة

فريق الخبراء + المصدر الأساسي

الأعمال

تتبع الشذوذ

حقيقي/مستشعر + SIS مستقل

الأخطاء الشائعة

• القفز على الأبواب تحت ضغط الوقت. سيؤدي تخطي البوابة إلى السماح للخطأ بالتسرب إلى المراحل اللاحقة.
• إهمال الحكم. الاستخدام غير المنتظم للأدوات والبيانات يشكل مخاطر تسرب وأمنية.
• إخفاء الاستخدام. إذا لم يتم توثيق استخدام الذكاء الاصطناعي بشكل شفاف، فسيتم تقويض الثقة والحماية القانونية.
• موافقة أمنية حاسمة لرؤية رسمية. إن الموافقة المصرح بها ليست إجراءً شكليًا للتوقيع ولكنها مسؤولية تحقق حقيقية.
• نسيان الجوانب البيئية والاجتماعية. ولا يتم وزن القرارات من الناحية الاقتصادية فحسب، بل أيضًا من المنظور الصحي والبيئي.

في ملخص

في هيكل شامل، تم دمج الذكاء الاصطناعي مع بوابات التحقق البشرية في كل مرحلة من مراحل الهندسة الكيميائية؛ لا يمكنك المرور من باب واحد دون المرور من آخر. إطار الحوكمة (الأدوات المعتمدة، وتصنيف البيانات، وإمكانية التتبع، والتدريب، والتحقق المستمر) يجلب هذا الانضباط إلى نطاق المؤسسة. العمود الفقري للاستخدام المسؤول هو ستة مبادئ: المسؤولية الإنسانية، والأولوية الأمنية، والانضباط في التحقق، والسرية، والشفافية، ومسؤولية المجتمع البيئي. الذكاء الاصطناعي هو مساعد قوي؛ ولكن صاحب التصميم والأمن والكلمة الأخيرة هو دائما الخبير المختص.

مهمة التطبيق

أنشئ خطة بوابة تحقق من خمس خطوات لمشروعك الخاص (أو الخيالي) باستخدام قالب "خطة بوابة سير العمل"؛ اكتب شرط انتقالي من جملة واحدة لكل مرحلة. بعد ذلك، باستخدام نموذج "التدقيق الذاتي للحوكمة"، قم بتقييم كيفية استخدام الذكاء الاصطناعي في هذا المشروع من حيث الأدوات المعتمدة، وتصنيف البيانات، وإمكانية التتبع، والتدريب، وتحديد تحسينين على الأقل.

قائمة مرجعية

• [ ] أضع بوابة تحقق بشرية وشرط النجاح المكون من جملة واحدة في كل مرحلة.
• [ ] قمت بتحديد قائمة الأدوات المعتمدة وتصنيف البيانات.
• [ ] احتفظت بالسجل/إمكانية التتبع (ما هو المخرج ومن قام بالتحقق منه وما هو المصدر).
• [ ] ذكرت استخدام الذكاء الاصطناعي بشفافية في التقرير.
• [ ] أعزو القرارات الحاسمة المتعلقة بالسلامة إلى موافقة الخبراء المعتمدين ومسؤولية المجتمع البيئي.

امتحان الوحدة

1. أي مما يلي هو الموضع الأكثر دقة للذكاء الاصطناعي في الهندسة الكيميائية؟

• أ) يمكن للذكاء الاصطناعي كتابة حسابات السلامة مباشرة في التصميم دون موافقة الإنسان
• ب) الذكاء الاصطناعي هو مُسرّع للحسابات ومولد للمخططات؛ مسؤولية تحديد مدى سلامة التصميم والقرار النهائي تقع على عاتق الإنسان✔
• ج) بما أن الذكاء الاصطناعي دائمًا أكثر موثوقية من البشر، فيجب ترك القرارات الأمنية له.
• د) الذكاء الاصطناعي مفيد فقط في تلخيص النص، ولا علاقة له بالحسابات الهندسية

الوصف: الذكاء الاصطناعي. إنه مساعد يقوم بفرز البيانات الضخمة ووضع علامات على الأنماط وإنتاج الحسابات/مسودات التعليمات البرمجية. المسؤولية والموافقة على القضايا الحاسمة مثل سلامة التصميم وتفسير المحاكاة والقرار النهائي تقع على عاتق الخبير المختص؛ يمكن أن يؤدي الإنتاج غير المؤكد إلى تسرب المفاعل أو انفجاره. ولذلك فإن مخرجات الذكاء الاصطناعي لا تحل محل موافقة الخبراء المختصين.

2. ما هو نظام التحقق المكون من ثلاث خطوات لنتيجة الحساب الهندسي التي يقدمها الذكاء الاصطناعي؟

• أ) معرفة ما إذا كان الإخراج سلسًا وواثقًا
• ب) اطرح نفس السؤال على الذكاء الاصطناعي ثلاث مرات وخذ المتوسط
• ج) قم بتوصيله بالفيزياء/المصدر، واختباره بشكل مستقل، وتمريره عبر مرشح حدود التعليق ✔
• د) قبول النتيجة مباشرة والتحقق منها فقط في مرحلة التقرير

شرح: يتم توصيل كل مخرج أولاً بالفيزياء/المصدر (أي معادلة، أي مصدر، أي افتراض)، ثم يتم اختباره بطريقة مستقلة (الحساب اليدوي، المحاكاة، البيانات المرجعية، فحص الطلب)، وأخيراً يتم تمريره عبر مرشح حدود التعليق (هل الكتلة/الطاقة محفوظة، هل القيمة واقعية). هذه الخطوات الثلاث تلتقط معظم الهلوسة.

3. ما الذي يجب فعله إذا كانت الكتلة الإجمالية الداخلة والخارجة لا تتطابق مع مسودة توازن المواد التي حددها الذكاء الاصطناعي في تصميم العملية؟

• أ) الاختلاف البسيط غير مهم، تجاهله واستمر في التصميم
• ب) إيجاد الفرق وتصحيحه؛ غالبًا ما يكون هناك تدفق منسي أو استرجاع مزدوج العد ✔
• ج) يعتبر الرصيد صحيحا لأن الذكاء الاصطناعي يحسبه بهذه الطريقة.
• د) يتم تكبير قيمة التدفق الصادر يدويًا لتعويض الفارق

شرح: في الهندسة الكيميائية، الكتلة إما أن تكون محفوظة أو لا؛ "يكلف تقريبًا" أمر غير مقبول. إذا كانت معادلة الإدخال = الإخراج غير راضية، فغالبًا ما يكون هناك تدفق جانبي منسي، أو إعادة تدوير مزدوجة العد، أو خطأ. لا يمكن التقدم في التصميم حتى يتم العثور على ذلك وتصحيحه؛ وإلا فإن الخطأ سوف ينتشر إلى كل التحجيم اللاحق.

4. محاكاة العملية "تقاربت وأعطت صورة واضحة". ما هو الخطر الأكثر أهمية على دقة هذه النتيجة؟

• أ) لم يتم تقديم الجدول بالألوان وبشكل مقروء
• ب) تتقارب المحاكاة بسرعة كبيرة جدًا
• ج) النموذج الديناميكي الحراري غير المناسب لخصائص النظام يعطي نتائج مقنعة ولكنها غير صحيحة✔
• د) هناك عدد كبير جدًا من المنازل العشرية في جدول التدفق

توضيح: معظم أخطاء المحاكاة ليست رقمية، ولكن بسبب اختيار النموذج الديناميكي الحراري (حزمة الخصائص). إن تطبيق نموذج مثالي على خليط قطبي يمكن أن يجعل الأزيوتروب غير مرئي، وستكون النتيجة سلسة ولكنها خاطئة تمامًا. إن الصورة التي تبدو متقاربة وجميلة لا تثبت صحتها؛ مطلوب تناسب النموذج والمقارنة التجريبية.

5. كيف ينبغي للمرء أن يتصرف عندما يعطي الذكاء الاصطناعي قيمة ثابتة لمعدل التفاعل (k) لتصميم المفاعل؟

• أ) ينبغي تحديد القيمة تجريبيا؛ لا يتم استخدام التنبؤ بالذكاء الاصطناعي كبيانات تصميم ✔
• ب) يتم وضع القيمة مباشرة في التصميم حيث يقدم الذكاء الاصطناعي بثقة
• ج) يفترض أن القيمة هي نفسها في كل رد فعل بغض النظر عن الظروف
• د) تكون القيمة كافية بمجرد ظهور رقم مماثل على الإنترنت

الوصف: يتم تحديد ثوابت المعدل وطاقة وآلية التنشيط فقط عن طريق التجربة؛ يتصرف نفس التفاعل بشكل مختلف تمامًا مع المحفزات أو الشوائب أو المراحل المختلفة. قد تكون قيمة k التي يتم إرجاعها بواسطة الذكاء الاصطناعي بمثابة تخمين أولي، ولكنها ليست بيانات تصميم. يجب أن تستند كل معلمة حركية تدخل في أساس التصميم إلى مصدر تجريبي.

6. كيف ينبغي تحديد حرارة التفاعل الطارد للحرارة (المحتوى الحراري للتفاعل) من أجل تصميم تبريد آمن؟

• أ) يتم إدخال القيمة الأولية التي يقدمها الذكاء الاصطناعي مباشرة في تصميم التبريد
• ب) يتم قياس القيمة عن طريق قياس السعرات الحرارية وتقييمها من قبل مهندس معتمد، ولا تعتمد على توقعات الذكاء الاصطناعي ✔
• ج) إذا كان التفاعل طارداً للحرارة، فيمكن إهمال الحمل الحراري
• د) يتم استخدام قيمة مركب مماثل بغض النظر عن الحالة

الوصف: تعتبر حرارة التفاعل وإمكانية الانفلات الحراري من المسائل الحرجة المتعلقة بالسلامة. قد تنتمي القيمة التي يتم إرجاعها بواسطة الذكاء الاصطناعي إلى مذيب/حالة مختلفة وقد تحرف بشكل كبير الحمل الحراري الفعلي. ويتم قياس هذه القيم عن طريق قياس السعرات الحرارية (مثل قياس السعرات الحرارية للتفاعل) ويتم تقييمها من قبل المهندس المختص؛ ولا يعتمد أبدًا على التنبؤ بالذكاء الاصطناعي وحده.

7. أعطى الذكاء الاصطناعي ضغط بخار المذيب برقم موثوق. ما الذي يجب فعله قبل استخدام هذه القيمة؟

• أ) بما أن القيمة تُعطى بطلاقة، فإنها توضع مباشرة في تصميم العمود
• ب) يتم التحكم بالوحدة فقط، ليست هناك حاجة للنظر إلى المصدر
• ج) يتم التحقق من القيمة من خلال قاعدة بيانات موثوقة (DIPPR/NIST) أو التجربة، مع الشرط ✔
• د) إذا قورنت قيمته بقيمة مذيب آخر وكان مشابهاً له قبل.

Explanation: تقدير الميزة هو الأساس الرقمي للتصميم، وينتشر الخطأ هنا خلال الحساب. قد تنتمي قيمة الذكاء الاصطناعي إلى مركب آخر، أو تكون في حالة خاطئة، أو تكون هلوسة. ولذلك، يتم التحقق من كل ميزة هامة من خلال قاعدة بيانات موثوقة (DIPPR/NIST) أو التجربة؛ يجب أيضًا طلبها مع حالة القيمة (درجة الحرارة، الضغط، الطور).

8. ماذا يحدث إذا طُلب من الذكاء الاصطناعي "تقليل الطاقة" في عملية تحسين العملية ولكن لم يتم وضع أي قيد على نقاء المنتج؟

• أ) النتيجة آمنة دائمًا وذات جودة عالية، ولا داعي للقيود
• ب) قد يظهر الأمثل المضلل الذي يبدو جيدًا على الورق ولكنه يضحي بالنقاوة أو الأمان ✔
• ج) الذكاء الاصطناعي يكمل القيود المفقودة بشكل عفوي وصحيح
• د) التحسين لا يعمل ولا يعطي أي نتائج

Explanation: التحسين غير المقيد هو أمر مضلل: قد يقترح الذكاء الاصطناعي أو الخوارزمية "الحد الأمثل" الذي يقلل الطاقة على الورق ولكنه في الواقع يقلل من نقاء المنتج إلى ما دون المواصفات أو يتجاوز هامش الأمان. لذلك، يجب تحديد جميع قيود الجودة والأمن، بالإضافة إلى متغيرات الغرض والقرار بشكل كامل؛ ويجب أيضًا اختبار الأمثل الرياضي من حيث السلامة والجدوى.

9. ما هو أول شيء يجب فعله عندما يشير الذكاء الاصطناعي إلى حدوث قفزة مفاجئة في بيانات المستشعر على أنها "تسرب محتمل"؟

• أ) إيقاف العملية فوراً، لأن الذكاء الاصطناعي قال إنها تتسرب
• ب) تجاهل الإشارة لأن الحساسات دائماً تكون خاطئة
• ج) التحقق باستخدام مرشح الموثوقية مما إذا كانت الإشارة عبارة عن حدث عملية حقيقي أو مشكلة في المستشعر/القياس ✔
• د) حذف القفزة تلقائيًا من مجموعة البيانات

التفسير: يمكن لأجهزة الاستشعار أن تكذب: تنقطع المعايرة، ويصبح الاتصال مفككًا، ويلتقط الخط الضوضاء. يجب أولاً تصفية الإشارة الشاذة للتأكد من موثوقية البيانات: هل تتسق مع أجهزة الاستشعار المجاورة/المرتبطة، وهل هي ممكنة ماديًا، وهل تتطابق مع سجل الصيانة/المعايرة؟ فقط بعد اجتيازها يتم التحقيق فيها كحدث عملية حقيقي؛ وبخلاف ذلك، قد يتم التدخل بناءً على إنذار كاذب.

10. ما هو الدور المناسب والآمن للذكاء الاصطناعي في دراسة HAZOP؟

• أ) إنتاج HAZOP كاملاً من خلال معرفة العملية وجعل الاجتماع غير ضروري
• ب) تصنيف مستويات المخاطر بدقة واتخاذ القرارات الاحترازية
• ج) توفير إطار العمل، والأسئلة الإرشادية، وإعداد المحاضر؛ اترك تقييم الخطر الفعلي لفريق الخبراء ✔
• د) الذهاب إلى مكان الاجتماع والتوقيع على تقرير المخاطر النهائي بمفردك

الوصف: HAZOP هو نشاط متخصص ذو أهمية أمنية كبيرة. الذكاء الاصطناعي؛ يعمل إطار مصفوفة العقدة/المعلمة/الكلمات الإرشادية على تسريع عملية التوثيق، مثل استدعاء السيناريو النموذجي وتحرير الدقائق. ولكن أي انحراف هو الخطر الحقيقي، وخطورة العواقب وكفاية الاحتياط يعود إلى فريق الخبراء المتعدد التخصصات؛ علاوة على ذلك، لا توجد مخاطر خاصة بالعملية في الذكاء الاصطناعي. مسودة الذكاء الاصطناعي هي مدخلات اجتماع الخبراء، وليس مخرجاته.

11. ما هو التحذير الأكثر أهمية للذكاء الاصطناعي في المعايير والبحوث التنظيمية؟

• أ) الذكاء الاصطناعي لا يخطئ أبدًا في معرفته المعيارية، بل يمكن استخدامه مباشرة
• ب) يجب التحقق من رقم كل مادة وقيمتها الحدية وتاريخها من مصدر أساسي وحالي؛ يوفر الذكاء الاصطناعي الاتجاه ✔ فقط
• ج) التحقق من التحديث غير ضروري لأن المعايير لا تتغير أبدًا.
• د) إنشاء قائمة مرجعية وحده يثبت الامتثال

الشرح: يعد البحث عن المعايير أحد المجالات التي يمكن أن تكون فيها هلوسة الذكاء الاصطناعي أكثر تدميراً: يمكن تقديم رقم عنصر غير موجود، أو نقطة توقف غير صحيحة، أو متطلب قديم بطريقة مقنعة للغاية. الامتثال يعني كلا من الأمن والقانون. ولذلك، لا يمكن استخدام كل مادة وقيمة حدية وتاريخ دون التأكد من المصدر الأساسي والحالي؛ الذكاء الاصطناعي يوفر التوجيه فقط.

12. كود حساب هندسي بايثون مكتوب بواسطة الذكاء الاصطناعي يعمل بدون أخطاء وينتج رقمًا. ما الذي يتطلبه الأمر للثقة في هذا الاستنتاج؟

• أ) يثبت التشغيل الخالي من الأخطاء للكود أن النتيجة صحيحة.
• ب) يجب اختبار الكود بنتيجة معروفة، ويجب اختبار حالات الوحدة والحافة، كما يجب التحقق من حساب الأمان من قبل الهيئة ✔
• ج) إذا كان الرمز طويلًا ويبدو معقدًا، فيمكن اعتباره صحيحًا
• د) بما أنها مكتوبة بواسطة الذكاء الاصطناعي، فلا حاجة لمزيد من التحقق

توضيح: "العمل" و"الصحيح" شيئان مختلفان: قد يتم تشغيل التعليمات البرمجية بدون أخطاء وينتج رقمًا خاطئًا (ارتباك الوحدة، خطأ في الإشارة، إزاحة الفهرس). ولذلك، ينبغي اختبار كل رمز على حالة اختبار (عينة تحليلية، حساب يدوي، بيانات مرجعية) تكون إجابتها معروفة بشكل مستقل؛ يجب فحص الوحدات وحالات الحافة؛ ويجب أيضًا التحقق من الحسابات الهامة للسلامة بواسطة المهندس المعتمد.

13. ما هي الطريقة الأكثر فعالية لحماية عملية الهندسة الكيميائية الشاملة المدعومة بالذكاء الاصطناعي من تسرب خطأ واحد إلى التصميم أو مستند الأمان؟

• أ) تفويض العملية برمتها إلى أداة واحدة للذكاء الاصطناعي وإلقاء نظرة على النهاية
• ب) إزالة التحقق الوسيط من السرعة والتحقق فقط في المرحلة النهائية
• ج) وضع بوابة تحقق بشرية وشرط النجاح من جملة واحدة في كل مرحلة (التحقق الطبقي) ✔
• د) يمكن لكل مهندس استخدام مركبته الخاصة بحرية دون الاحتفاظ بسجلات.

الوصف: يتم وضع بوابة تحقق بشرية وحالة انتقالية واضحة (هل هي مستقرة، هل هي متصلة بالمصدر، هل تم اختبار الكود، هل تم الحصول على موافقة الخبراء) في كل مرحلة (التصميم، التحليل، التحجيم، الأمان، التشغيل). لا يمكنك المرور من باب دون المرور من باب آخر؛ تمنع هذه البنية الطبقية خطأً واحدًا في الذكاء الاصطناعي من التسرب إلى المراحل اللاحقة.

14. أي من التطبيقات التالية يجعل استخدام الذكاء الاصطناعي في المؤسسة آمنًا من حيث الحوكمة؟

• أ) يمكن لكل مستخدم إدخال بيانات الملكية بحرية في أي أداة مفتوحة من اختياره.
• ب) إطار حوكمة يتضمن قائمة المركبات المعتمدة وتصنيف البيانات وإمكانية التتبع والتدريب والتحقق المستمر ✔
• ج) لا يتم تسجيل استخدام الذكاء الاصطناعي على الإطلاق
• د) استخدام أداة واحدة غير معتمدة لكل وظيفة، بما في ذلك الحسابات الأمنية الهامة

الشرح: يشكل أسلوب "يجب على الجميع تقديم البيانات التي يريدونها إلى السيارة التي يريدونها" خطر تسرب معلومات الملكية والأخطاء الأمنية. إطار حوكمة متين؛ وهي تتضمن قائمة المركبات والنماذج المعتمدة، وتصنيف البيانات (أي مركبة يمكنها تسجيل البيانات المسجلة/الشخصية)، والتسجيل وإمكانية التتبع (مسار التدقيق)، وتدريب المستخدم والتحقق المستمر. هذه هي البنية التحتية الحيوية التي تحد من المخاطر.