گردش کار پایان به انتها، حاکمیت، احراز هویت و استفاده مسئولانه

سود:

• امکان جاسازی مداوم هوش مصنوعی در هر مرحله از طراحی تا عملیات، با گیت های تایید انسانی و شرایط انتقال یک جمله
• امکان ایجاد چارچوب حاکمیتی با لیست خودروهای تایید شده، طبقه بندی داده ها، قابلیت ردیابی، آموزش و تأیید مداوم
• توانایی تعبیه اصول مسئولیت انسانی، اولویت امنیتی، تایید، محرمانه بودن، شفافیت و مسئولیت زیست محیطی - اجتماعی در گردش کار

در ده بخش قبلی، نحوه استفاده ایمن از هوش مصنوعی را در حوزه‌های جداگانه مهندسی شیمی-طراحی، شبیه‌سازی، سینتیک، پیش‌بینی ویژگی، بهینه‌سازی، داده‌های کنترل، HAZOP، جستجوی استانداردها و پایتون دیدیم. در این بخش نهایی، قطعات را کنار هم قرار می‌دهیم: ما یاد می‌گیریم که چگونه هوش مصنوعی را از ابتدا تا انتهای یک پروژه یا یک تسهیلات با نظم و انضباط ثابت، دروازه‌های تأیید انسانی و ساختار حاکمیتی تعبیه کنیم - چارچوبی که قوانینی را تعیین می‌کند که براساس آن ابزارها، داده‌ها و تصمیم‌ها در یک سازمان استفاده می‌شوند. هدف ساختن یک سیستم لایه‌ای است که از نفوذ یک باگ هوش مصنوعی به یک طرح، تصمیم تجاری یا یک سند امنیتی جلوگیری کند.

ایده اصلی ساده است: یک دروازه تأیید انسانی و یک شرایط انتقال واضح در هر مرحله قرار می گیرد. شما نمی توانید از یک در بدون عبور از در دیگری عبور کنید. این یک ساختار نجات بخش در مهندسی شیمی، و همچنین در زمینه های پزشکی قانونی یا پزشکی است - زیرا در اینجا نیز، اشتباهات عواقبی را نه بر روی کاغذ، بلکه در واقعیت، بر مردم و محیط زیست دارد.

گردش کار انتها به انتها: با گیت های تأیید

بیایید یک پروژه مهندسی شیمی را در پنج مرحله در نظر بگیریم و نقش هوش مصنوعی و دروازه تأیید را در هر مرحله قرار دهیم:

1. طراحی و مفهوم. هوش مصنوعی گزینه های مسیر و پیش نویس PFD را تولید می کند. درب: آیا تعادل مواد با دست حفظ می شود، آیا مسیر با قضاوت مهندسی انتخاب شده است؟

2. تجزیه و تحلیل و شبیه سازی. خروجی شبیه سازی هوش مصنوعی را خلاصه می کند، طرح سینتیک/ویژگی را ارائه می دهد. گیت: آیا مدل ترمودینامیکی مناسب است، آیا تعادل جرم/انرژی برقرار است، آیا مقادیر بحرانی به منبع تجربی/پایگاه داده بستگی دارد؟

3. بهینه سازی و اندازه. هوش مصنوعی بهینه سازی و پیش نویس کد محاسبه را تولید می کند. Door: آیا محدودیت ها کامل هستند، آیا کد تست شده است، آیا در پنجره امنیتی بهینه است؟

4. امنیت و انطباق. اسکلت AI HAZOP و نقشه استاندارد را ارائه می دهد. درب: آیا تجزیه و تحلیل خطر توسط تیم متخصص انجام شده است، آیا موارد استاندارد از منبع اولیه تأیید شده است، آیا تأییدیه مجاز اخذ شده است؟

5. بهره برداری و نظارت. هوش مصنوعی داده‌های حسگر را نظارت می‌کند و ناهنجاری‌ها را نشان می‌دهد. درب: سیگنال واقعی یا سنسور، حفاظت ایمنی در SIS مستقل؟

این گیت ها از انتقال یک خروجی تایید نشده به مرحله بعدی جلوگیری می کنند. حتی اگر یک حشره فرار کند، احتمال زیادی وجود دارد که در درب بعدی گرفتار شود.

نکته: برای هر مرحله یک جمله "شرط انتقال" بنویسید و آن را برای تیم قابل مشاهده کنید: "شبیه سازی را نمی توان تا زمانی که تعادل مواد به صورت دستی تایید شود آغاز کرد." چنین قوانین روشنی تضمین می کند که نظم و انضباط حتی تحت فشار زمان حفظ می شود.

چارچوب حکمرانی: انضباط نهادی

راستی‌آزمایی فردی خوب است، اما یک چارچوب حاکمیتی در مقیاس تسهیلات مورد نیاز است. پنج جزء کلیدی:

1. خودرو و لیست مدل تایید شده. تعریف می کند که از کدام ابزارهای هوش مصنوعی می توان برای چه وظایفی استفاده کرد. ابزارهای تایید نشده برای حساب های امنیتی مهم استفاده نمی شود.

2. طبقه بندی داده ها. نسخه ها، شرایط عملیاتی و اطلاعات شخصی ثبت شده در کدام وسیله نقلیه می تواند وارد شود؟ داده های محرمانه/اختصاصی به ابزارهایی که داده های خارج از سازمان را درز می کنند داده نمی شود.

3. ثبت و ردیابی (پیمای حسابرسی). کدام خروجی از کدام ابزار آمده است، چه کسی آن را تأیید کرده است، به کدام منبع پیوند داده شده است؟ در صورت بروز مشکل باید قابل ردیابی باشد.

4. آموزش و شایستگی. کاربران باید محدودیت های هوش مصنوعی، خطر توهم و نظم و انضباط تایید را بدانند. این ابزار قدرتمند است، اما در دستان اشتباه خطرناک است.

5. تأیید مستمر. مدل ها و وسایل نقلیه متفاوت است. قابلیت اطمینان خروجی ها به صورت دوره ای دوباره آزمایش می شود.

توجه: در یک موسسه، رویکرد "همه باید داده های مورد نظر خود را به ابزار هوش مصنوعی مورد نظر خود بدهند" خطر نشت اطلاعات اختصاصی و نقص امنیتی است. حکمرانی زیرساخت نامرئی اما حیاتی است که این خطرات را محدود می کند.

اصول استفاده مسئولانه

بیایید ماژول را با شش اصل وصل کنیم:

1. مسئولیت انسانی. تصمیم و امضای نهایی با کارشناس ذیصلاح است. خروجی هوش مصنوعی جایگزینی برای تایید آن نیست.
2. اولویت امنیتی تصمیمات حیاتی ایمنی (ایمنی، خطر، مواد، اندازه) نیاز به تأیید و تأیید مجاز دارند.
3. رشته تأیید. هر خروجی به فیزیک/منبع متصل می شود، با یک روش مستقل آزمایش می شود و از فیلتر تفسیر عبور می کند.
4. امنیت. داده های اختصاصی و شخصی فقط به شیوه ای تایید شده و ایمن پردازش می شوند.
5. شفافیت. استفاده از هوش مصنوعی در گزارش ها و مستندات صادقانه بیان شده است.
6. مسئولیت زیست محیطی و اجتماعی تصمیمات نه تنها اقتصاد، بلکه سلامت انسان و محیط زیست را نیز در نظر می گیرند.

سه کیف کوچک

مورد 1 - درب اشکال را گرفت. در یک پروژه، عدم تعادل جرمی 4 درصدی در پیش نویس PFD هوش مصنوعی قبل از انتقال به فاز شبیه سازی در دروازه تعادل گیر افتاد. اشکال در منبع رفع شد. اگر دری وجود نداشت، این خطا به شبیه سازی و سپس به ابعاد سازی سرایت می کرد. ساختار لایه ای کار کرد.

مورد 2 - حکومت از نشت داده ها جلوگیری کرد. یک مهندس قصد داشت یک دستور کاتالیزور اختصاصی را در یک وسیله نقلیه هوش مصنوعی باز بچسباند. قانون طبقه‌بندی داده‌های آژانس می‌گوید که این داده‌ها فقط در یک ابزار تایید شده داخلی قابل پردازش هستند. این قانون از نشت تجاری مهم جلوگیری کرد.

مورد 3 - قابلیت ردیابی باعث اعتماد شد. در یک ممیزی، از ما پرسیده شد که چگونه تصمیم طراحی گرفته شده است. به لطف نظم و انضباط ضبط مؤسسه، این امکان وجود داشت که مستند شود که هوش مصنوعی فقط یک پیش نویس تولید می کند، که هر مقدار بحرانی به منبع آزمایشی نسبت داده می شود و این تصمیم توسط مهندس مجاز تأیید شده است. شفافیت هم اعتماد و هم حمایت قانونی را فراهم کرد.

چهار قالب قابل کپی

1) طرح دروازه گردش کار:

نقش شما: مشاور تضمین پروژه پروژه من: [توضیح]. برای من یک طرح VERIFICATION GATE برای مراحل (طراحی، تجزیه و تحلیل، اندازه، امنیت، عملیات) آماده کنید: هوش مصنوعی در هر مرحله چه کاری انجام می دهد، شرط انتقال یک جمله نمی تواند بدون برآورده شدن به مرحله بعدی منتقل شود، چه کسی تأیید می کند. تاکید ویژه بر روی درب های امنیتی حیاتی.

2) خودتنظیمی حاکمیتی:

یک چک لیست خود ممیزی برای استفاده از هوش مصنوعی در سازمان ما صادر می شود: (1) آیا فهرستی از ابزارهای تایید شده وجود دارد، (2) آیا طبقه بندی داده ها تعریف شده است، (3) آیا رکورد/قابلیت ردیابی نگهداری می شود، (4) آیا آموزش کاربر وجود دارد، (5) آیا تأیید مستمر وجود دارد؟ برای هر مورد یک ارزیابی و پیشنهادات بهبود "بله/جزئی/نه" درخواست کنید. زمینه: [تعریف]

3) شفافیت / اعلام استفاده:

یک پاراگراف شفافیت پیش‌نویس کنید که صادقانه استفاده از هوش مصنوعی را برای گزارش مهندسی شرح دهد: در چه مراحلی از هوش مصنوعی برای پیش‌نویس/تحلیل استفاده شد، خروجی‌ها چگونه اعتبارسنجی شدند و مسئولیت نهایی بر عهده مهندس مسئول بود. اغراق؛ فقط آنچه را که واقعاً انجام شده است منعکس کنید. انجام‌ها: [توضیح]

4) آخرین بررسی قبل از تصمیم گیری:

من در حال گرفتن این تصمیم هستم: [تصمیم]. قبل از ارائه یک چک لیست نهایی، من را از طریق آن بررسی کنید: (1) آیا این از نظر امنیتی بسیار مهم است، (2) آیا مقادیری که من به آنها تکیه می کنم منبع/آزمایش شده است، (3) آیا تأیید مستقلی انجام شده است، (4) آیا تأیید مرجع مورد نیاز است، (5) آیا محرمانه بودن/انطباق رعایت شده است؟ مرحله ای را که می بینید از دست رفته علامت بزنید. تصمیم با من است. شما چک لیست را دنبال کنید.

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

چگونه باید از هوش مصنوعی در پروژه خود استفاده کنم؟

بدون زمینه، بدون ساختار اعتبار سنجی. هوش مصنوعی پاسخی کلی می دهد و دروازه های مهم امنیتی را دور می زند.

اعلان قدرتمند:

نقش شما: مشاور تضمین پروژه من می خواهم از هوش مصنوعی از طراحی تا عملیات در یک پروژه تولید شیمیایی 50000 تن در سال استفاده کنم. برای هر مرحله، چارچوبی برای نقش هوش مصنوعی دریافت می‌کنم، ساختار تأییدی که نمی‌توان بدون گذراندن آن عبور کرد، چه کسی آن را تأیید می‌کند، و چه داده‌هایی را می‌توان به کدام ابزار داد. همچنین مراحل مهم امنیتی را علامت گذاری کنید و مواردی را که تأیید انسانی اجباری است برجسته کنید.

تفاوت واضح است: زمینه پروژه، دروازه‌ها، قوانین تأیید و داده، استفاده از هوش مصنوعی را نظام‌مند می‌کنند.

توزیع نقش در یک ساختار انتها به انتها

مرحله

نقش هوش مصنوعی

دروازه تایید

طراحی

مسیر، پیش نویس PFD

موجودی + تایید مسیر

تجزیه و تحلیل

خلاصه شبیه سازی، پیش بینی

مدل + تایید منبع

سایز بندی

بهینه سازی، کد

محدودیت + تست + امنیت

امنیت / انطباق

اسکلت HAZOP، نقشه

تیم متخصص + منبع اصلی

تجارت

ردیابی ناهنجاری

واقعی/حسگر + SIS مستقل

اشتباهات رایج

• پرش درب ها تحت فشار زمان. پرش از یک گیت باعث می شود که خطا به مراحل بعدی نشت کند.
• غفلت از حاکمیت استفاده نامنظم از ابزارها و داده ها باعث نشت و خطرات امنیتی می شود.
• پنهان کردن استفاده اگر استفاده از هوش مصنوعی به طور شفاف مستند نشده باشد، هم اعتماد و هم حفاظت قانونی تضعیف می شود.
• تأییدیه امنیتی حیاتی برای مشاهده رسمی. تأیید مجاز یک رسمی امضا نیست، بلکه یک مسئولیت راستی‌آزمایی واقعی است.
• فراموشی جنبه های زیست محیطی و اجتماعی. تصمیمات نه تنها از جنبه های اقتصادی بلکه از منظر بهداشتی و زیست محیطی نیز سنجیده می شوند.

به طور خلاصه

در یک ساختار انتها به انتها، هوش مصنوعی با دروازه‌های تأیید انسانی در هر مرحله از مهندسی شیمی تعبیه شده است. شما نمی توانید از یک در بدون عبور از در دیگری عبور کنید. یک چارچوب حاکمیتی (ابزارهای تایید شده، طبقه بندی داده ها، قابلیت ردیابی، آموزش، تأیید مستمر) این رشته را به مقیاس سازمانی می آورد. ستون فقرات استفاده مسئولانه شش اصل است: مسئولیت انسانی، اولویت امنیتی، نظم و انضباط راستی آزمایی، رازداری، شفافیت و مسئولیت زیست محیطی-اجتماعی. هوش مصنوعی یک دستیار قدرتمند است. اما صاحب طراحی، امنیت و حرف آخر همیشه کارشناس شایسته است.

وظیفه کاربردی

با الگوی "طرح دروازه گردش کار" یک طرح دروازه تأیید پنج مرحله ای برای پروژه خود (یا خیالی) ایجاد کنید. برای هر مرحله یک شرط انتقال یک جمله ای بنویسید. سپس با الگوی «خودممیزی حاکمیتی»، نحوه عملکرد استفاده از هوش مصنوعی در این پروژه را از نظر ابزارهای تأیید شده، طبقه بندی داده ها، قابلیت ردیابی و آموزش ارزیابی کنید و حداقل دو پیشرفت را شناسایی کنید.

چک لیست

• [ ] من در هر مرحله یک دروازه تأیید انسانی و یک شرط عبور یک جمله قرار دادم.
• [ ] من فهرست ابزار تایید شده و طبقه بندی داده ها را تعریف کردم.
• [ ] من رکورد/قابلیت ردیابی را نگه داشتم (چه خروجی، چه کسی تأیید کرد، چه منبعی).
• [ ] من استفاده از هوش مصنوعی را به طور شفاف در گزارش بیان کردم.
• [ ] من تصمیمات حیاتی ایمنی را به تایید کارشناسی مجاز و مسئولیت محیط زیست-جامعه نسبت می دهم.

امتحان ماژول

1. کدام یک از موارد زیر دقیق ترین موقعیت یابی هوش مصنوعی در مهندسی شیمی است؟

• الف) هوش مصنوعی می تواند محاسبات ایمنی را مستقیماً بدون تایید انسان در طرح بنویسد
• ب) هوش مصنوعی یک شتاب دهنده حساب و تولید کننده نقشه است. مسئولیت تعیین ایمنی طرح و تصمیم نهایی بر عهده انسان است ✔
• ج) از آنجایی که هوش مصنوعی همیشه قابل اعتمادتر از انسان است، تصمیم گیری های امنیتی باید به آن واگذار شود.
• د) هوش مصنوعی فقط برای خلاصه کردن متن مفید است، ربطی به محاسبات مهندسی ندارد.

توضیحات: هوش مصنوعی; این یک دستیار است که داده های حجیم را تریاژ می کند، الگوها را علامت گذاری می کند و محاسبات/ پیش نویس های کد را تولید می کند. مسئولیت و تایید مسائل حیاتی مانند ایمنی طرح، تفسیر شبیه سازی و تصمیم گیری نهایی بر عهده کارشناس ذیصلاح می باشد. خروجی تایید نشده می تواند منجر به نشت رآکتور یا انفجار شود. بنابراین، خروجی هوش مصنوعی جایگزین تاییدیه متخصص صالح نمی شود.

2. رشته تأیید سه مرحله ای برای نتیجه محاسبات مهندسی که توسط هوش مصنوعی داده می شود کدام است؟

• الف) مشاهده اینکه آیا خروجی روان و مطمئن است یا خیر
• ب) همین سوال را سه بار از هوش مصنوعی بپرسید و میانگین بگیرید
• ج) آن را به فیزیک/منبع وصل کنید، آن را به طور مستقل آزمایش کنید، آن را از فیلتر مرز نظر عبور دهید ✔
• د) پذیرش مستقیم نتیجه و بررسی آن فقط در مرحله گزارش

توضیح: هر خروجی ابتدا به فیزیک/منبع (کدام معادله، کدام منبع، کدام فرض) متصل می شود، سپس با روشی مستقل (محاسبه دستی، شبیه سازی، داده های مرجع، بررسی سفارش) آزمایش می شود و در نهایت از فیلتر مرز نظر عبور می کند (آیا جرم/انرژی حفظ شده است، مقدار واقعی است). این سه مرحله بیشتر توهمات را می گیرند.

3. اگر کل جرم ورودی و خروجی با پیش نویس تعادل مواد ایجاد شده توسط هوش مصنوعی در طراحی فرآیند مطابقت نداشته باشد، چه باید کرد؟

• الف) تفاوت کوچک بی اهمیت است، آن را نادیده بگیرید و طرح را ادامه دهید
• ب) اختلاف پیدا و اصلاح شود; اغلب یک جریان فراموش شده یا یک حلقه بک دو شمارش وجود دارد ✔
• ج) تراز را صحیح می دانند زیرا هوش مصنوعی آن را به این صورت محاسبه می کند.
• د) مقدار یک جریان خروجی به صورت دستی بزرگ‌نمایی می‌شود تا تفاوت را جبران کند

توضیح: در مهندسی شیمی جرم یا حفظ می شود یا خیر. "هزینه آن تقریبا" غیر قابل قبول است. اگر معادله ورودی = خروجی برآورده نشود، اغلب یک جریان جانبی فراموش شده، یک بازیافت شمارش دوگانه یا یک خطا وجود دارد. تا زمانی که این طرح پیدا و اصلاح نشود، نمی توان طرح را پیش برد. در غیر این صورت خطا به تمام اندازه های بعدی منتشر می شود.

4. یک شبیه‌سازی فرآیند "همگرا شد و یک تصویر منظم ارائه کرد". مهم ترین خطر برای صحت این نتیجه چیست؟

• الف) جدول به صورت رنگی و خوانا ارائه نشده است
• ب) شبیه سازی خیلی سریع همگرا می شود
• ج) یک مدل ترمودینامیکی که برای ویژگی های سیستم مناسب نیست، نتایج قانع کننده اما نادرست ایجاد می کند.
• د) تعداد اعشار بیش از حد در جدول جریان

توضیح: اکثر خطاهای شبیه سازی عددی نیستند، بلکه به دلیل انتخاب مدل ترمودینامیکی (پکیج خواص) می باشند. اعمال یک مدل ایده آل برای یک مخلوط قطبی می تواند یک آزئوتروپ را نامرئی کند و نتیجه صاف اما کاملاً اشتباه خواهد بود. یک تصویر به ظاهر همگرا و زیبا صحت ندارد. برازش مدل و مقایسه تجربی مورد نیاز است.

5. وقتی هوش مصنوعی مقدار ثابت سرعت واکنش (k) را برای طراحی راکتور می دهد چگونه باید عمل کرد؟

• الف) مقدار باید به صورت تجربی تعیین شود. پیش‌بینی هوش مصنوعی به عنوان داده طراحی استفاده نمی‌شود
• ب) ارزش مستقیماً در طراحی قرار می گیرد زیرا هوش مصنوعی با اطمینان ارائه می دهد
• ج) مقدار در هر واکنش بدون توجه به شرایط یکسان فرض می شود
• د) زمانی که یک عدد مشابه در اینترنت ظاهر می شود، مقدار کافی است

توضیحات: ثابت های سرعت، انرژی فعال سازی و مکانیسم فقط با آزمایش تعیین می شوند. واکنش یکسان با کاتالیزورها، ناخالصی ها یا فازهای مختلف بسیار متفاوت عمل می کند. یک مقدار k که توسط هوش مصنوعی برگردانده می شود ممکن است یک حدس اولیه باشد، اما داده طراحی نیست. هر پارامتر جنبشی که در اساس طراحی قرار می گیرد باید بر اساس منبع تجربی باشد.

6. چگونه باید گرمای یک واکنش گرمازا (آنتالپی واکنش) را برای طراحی خنک کننده ایمن تعیین کرد؟

• الف) مقدار اولیه داده شده توسط هوش مصنوعی مستقیماً در طراحی خنک کننده وارد می شود
• ب) مقدار با کالریمتری اندازه گیری شده و توسط مهندس مجاز ارزیابی می شود، بر اساس پیش بینی هوش مصنوعی نیست ✔
• ج) اگر واکنش گرمازا باشد، بار حرارتی را می توان نادیده گرفت
• د) ارزش یک ترکیب مشابه بدون توجه به شرایط استفاده می شود

توضیحات: گرمای واکنش و پتانسیل فرار حرارتی یک مسئله ایمنی حیاتی است. مقداری که توسط هوش مصنوعی برگردانده می شود ممکن است به یک حلال/شرایط متفاوت تعلق داشته باشد و ممکن است بار حرارتی واقعی را به طور قابل توجهی نادرست نشان دهد. این مقادیر با کالری سنجی (به عنوان مثال کالریمتری واکنش) اندازه گیری می شوند و توسط مهندس ذیصلاح ارزیابی می شوند. هرگز تنها بر اساس پیش بینی هوش مصنوعی نیست.

7. هوش مصنوعی فشار بخار یک حلال را با یک عدد مطمئن نشان داد. قبل از استفاده از این مقدار چه باید کرد؟

• الف) از آنجایی که مقدار به صورت روان داده می شود، مستقیماً در طرح ستون قرار می گیرد
• ب) فقط واحد کنترل می شود، نیازی به نگاه کردن به منبع نیست
• ج) مقدار توسط یک پایگاه داده قابل اعتماد (DIPPR/NIST) یا آزمایش، با شرط ✔ تأیید می شود
• د) اگر مقدار با حلال دیگری مقایسه شود و مشابه باشد، پذیرفته می شود.

توضیح: تخمین ویژگی مبنای عددی طراحی است و یک خطا در اینجا در سراسر محاسبه منتشر می شود. مقدار AI ممکن است متعلق به ترکیب دیگری باشد، در شرایط نامناسبی قرار داشته باشد یا یک توهم باشد. بنابراین، هر ویژگی حیاتی توسط یک پایگاه داده قابل اعتماد (DIPPR/NIST) یا آزمایش تایید می شود. همچنین باید به همراه شرایط مقدار (دما، فشار، فاز) درخواست شود.

8. اگر به هوش مصنوعی گفته شود در بهینه‌سازی فرآیند «انرژی را به حداقل برسانید» اما هیچ محدودیتی برای خلوص محصول داده نشود، چه اتفاقی می‌افتد؟

• الف) نتیجه همیشه ایمن و با کیفیت بالا است، محدودیت ها غیر ضروری است
• ب) ممکن است یک بهینه گمراه کننده ظاهر شود که روی کاغذ خوب به نظر می رسد اما خلوص یا امنیت را قربانی می کند ✔
• ج) هوش مصنوعی محدودیت های از دست رفته را به طور خود به خود و به درستی تکمیل می کند
• د) بهینه سازی کار نمی کند و نتیجه ای نمی دهد

توضیح: بهینه‌سازی بدون محدودیت گمراه‌کننده است: هوش مصنوعی یا الگوریتم ممکن است «بهینه» را پیشنهاد کند که روی کاغذ انرژی را کاهش می‌دهد اما در واقع خلوص محصول را زیر مشخصات کاهش می‌دهد یا از حاشیه ایمنی فراتر می‌رود. بنابراین، تمام محدودیت های کیفیت و امنیت، و همچنین متغیرهای هدف و تصمیم باید به طور کامل تعریف شوند. بهینه ریاضی نیز باید از نظر ایمنی و امکان سنجی آزمایش شود.

9. وقتی هوش مصنوعی یک جهش ناگهانی در داده های حسگر را به عنوان "نشت احتمالی" علامت گذاری می کند، اولین کاری که باید انجام داد چیست؟

• الف) فوراً این فرآیند را متوقف کنید، زیرا هوش مصنوعی گفته است که در حال نشت است
• ب) نادیده گرفتن سیگنال زیرا سنسورها همیشه اشتباه می کنند
• ج) با فیلتر قابلیت اطمینان بررسی کنید که آیا سیگنال یک رویداد واقعی فرآیند است یا یک مشکل حسگر/اندازه گیری ✔
• د) حذف خودکار پرش از مجموعه داده ها

توضیح: سنسورها می توانند دروغ بگویند: کالیبراسیون می لغزد، اتصال شل می شود، خط نویز می گیرد. یک سیگنال ناهنجاری ابتدا باید برای قابلیت اطمینان داده ها فیلتر شود: آیا با حسگرهای همسایه/مرتبط سازگار است، آیا از نظر فیزیکی ممکن است، آیا با سابقه نگهداری/کالیبراسیون مطابقت دارد؟ تنها پس از تصویب این موارد، به عنوان یک رویداد فرآیند واقعی بررسی می شود. در غیر این صورت، مداخله ممکن است بر اساس هشدار نادرست رخ دهد.

10. نقش مناسب و ایمن هوش مصنوعی در مطالعه HAZOP چیست؟

• الف) تولید یک HAZOP کامل با آگاهی از فرآیند و غیرضروری جلسه
• ب) طبقه بندی دقیق سطوح ریسک و اتخاذ تصمیمات احتیاطی
• ج) ارائه چارچوب کاری، سوالات راهنما و تنظیم صورتجلسه. ارزیابی خطر واقعی را به تیم متخصص بسپارید ✔
• د) رفتن به محل جلسه و امضای گزارش ریسک نهایی به تنهایی

توضیحات: HAZOP یک فعالیت تخصصی امنیتی حیاتی است. هوش مصنوعی؛ چارچوب ماتریس گره/پارامتر/کلمه راهنما اسناد را سرعت می بخشد، مانند یادآوری سناریوهای معمولی و ویرایش دقیقه. اما اینکه کدام انحراف خطر واقعی است، جدی بودن عواقب و کفایت احتیاط متعلق به تیم کارشناسی چند رشته ای است. علاوه بر این، خطرات خاص فرآیند در هوش مصنوعی یافت نمی شود. پیش نویس هوش مصنوعی ورودی جلسه کارشناسی است نه خروجی.

11. مهم ترین هشدار برای هوش مصنوعی در استانداردها و تحقیقات نظارتی چیست؟

• الف) هوش مصنوعی در دانش استاندارد خود هرگز اشتباه نمی کند، می توان از آن به طور مستقیم استفاده کرد
• ب) هر عدد ماده، مقدار حد و تاریخ باید از منبع اصلی و فعلی تأیید شود. هوش مصنوعی فقط جهت را ارائه می دهد ✔
• ج) بررسی به روز رسانی غیر ضروری است زیرا استانداردها هرگز تغییر نمی کنند.
• د) ایجاد چک لیست به تنهایی انطباق را ثابت می کند

توضیح: تحقیق استانداردها یکی از حوزه‌هایی است که توهم هوش مصنوعی می‌تواند مخرب‌ترین باشد: یک شماره آیتم موجود نیست، یک نقطه شکست نادرست یا یک نیاز قدیمی می‌تواند به روشی بسیار قانع‌کننده ارائه شود. انطباق به معنای امنیت و قانون است. بنابراین، هر ماده، مقدار محدود و تاریخ را نمی توان بدون تأیید منبع اصلی و فعلی استفاده کرد. هوش مصنوعی فقط جهت می دهد.

12. یک کد محاسباتی مهندسی پایتون که توسط هوش مصنوعی نوشته شده بود بدون خطا کار می کرد و یک عدد تولید می کرد. برای اعتماد به این نتیجه گیری چه چیزی لازم است؟

• الف) عملکرد بدون خطای کد، صحت نتیجه را ثابت می کند.
• ب) کد باید با نتیجه مشخص تست شود، یونیت و موارد لبه تست شود و محاسبات امنیتی نیز توسط مرجع تایید شود ✔
• ج) اگر کد طولانی و پیچیده به نظر می رسد، می توان آن را صحیح دانست
• د) از آنجایی که توسط هوش مصنوعی نوشته شده است، نیازی به تایید اضافی نیست

توضیح: «در حال کار» و «درست» چیزهای متفاوتی هستند: ممکن است کد بدون خطا اجرا شود و عدد اشتباهی تولید کند (گیج شدن واحد، خطای علامت، تغییر فهرست). بنابراین، هر کد باید روی یک مورد آزمایشی (نمونه تحلیلی، محاسبه دستی، داده‌های مرجع) که پاسخ آن به طور مستقل مشخص است، آزمایش شود. واحدها و موارد لبه باید بررسی شوند. محاسبات مهم ایمنی نیز باید توسط مهندس مجاز تأیید شود.

13. موثرترین راه برای محافظت از فرآیند مهندسی شیمی با قابلیت هوش مصنوعی از یک باگ منفرد که در طراحی یا سند امنیتی نشت می کند، چیست؟

• الف) واگذاری کل فرآیند به یک ابزار هوش مصنوعی و نگاهی به پایان
• ب) حذف تاییدیه های میانی برای سرعت و بررسی فقط در مرحله نهایی
• ج) قرار دادن دروازه تایید انسانی و شرط عبور یک جمله در هر مرحله (تایید لایه ای) ✔
• د) هر مهندس می تواند آزادانه از وسیله نقلیه خود بدون ثبت سوابق استفاده کند.

توضیحات: در هر مرحله (طراحی، تجزیه و تحلیل، اندازه، امنیت، عملیات) یک گیت تأیید انسانی و یک شرایط انتقال واضح (آیا پایدار است، آیا به منبع متصل است، آیا کد آزمایش شده است، آیا تأییدیه متخصص دریافت شده است) قرار داده شده است. شما نمی توانید از یک در بدون عبور از در دیگری عبور کنید. این ساختار لایه ای از نشت یک خطای AI به مراحل بعدی جلوگیری می کند.

14. کدام یک از کاربردهای زیر استفاده از هوش مصنوعی در یک موسسه را از نظر حاکمیت ایمن می کند؟

• الف) هر کاربر می تواند آزادانه داده های اختصاصی را در هر ابزار باز که انتخاب می کند وارد کند.
• ب) یک چارچوب حاکمیتی که شامل لیست خودروهای تایید شده، طبقه بندی داده ها، قابلیت ردیابی، آموزش و راستی آزمایی مداوم است ✔
• ج) استفاده از هوش مصنوعی اصلا ثبت نمی شود
• د) استفاده از یک ابزار واحد و تایید نشده برای هر شغل، از جمله حساب‌های امنیتی حیاتی

توضیح: رویکرد "همه باید داده های مورد نظر خود را به وسیله نقلیه مورد نظر خود بدهند" خطر نشت اطلاعات اختصاصی و خطاهای امنیتی را به همراه دارد. چارچوب حکمرانی محکم؛ این شامل لیست خودرو و مدل تایید شده، طبقه بندی داده ها (که کدام وسیله نقلیه می تواند داده های ثبت شده/شخصی را ثبت کند)، ثبت نام و قابلیت ردیابی (ردیابی حسابرسی)، آموزش کاربر و تأیید مداوم است. این زیرساخت حیاتی است که خطرات را محدود می کند.