کیفیت، مدیریت ایمنی و عوامل انسانی: SMS و Dirty Dozen

سود:

• اصول اس ام اس و فرهنگ عادلانه را بدانید و از هوش مصنوعی برای تحلیل روند و تهیه گزارش سیستم محور در اطلاعیه های امنیتی استفاده کنید.
• امکان مرتبط کردن عوامل Dirty Dozen، به ویژه رضایت و سوگیری اتوماسیون، با استفاده از هوش مصنوعی و مدیریت آنها به عنوان سپر
• درک این نکته که داده های امنیتی باید ناشناس باشند و تصمیم/شهود/امضا با انسان باقی می ماند.

ایمنی هوانوردی تنها با سفت کردن پیچ سمت راست به گشتاور مناسب به دست نمی آید. این از طریق فرهنگی به دست می آید که بر نحوه انجام کار حاکم است. در این واحد با نحوه استفاده از هوش مصنوعی (AI) در زمینه مدیریت کیفیت، سیستم مدیریت ایمنی (SMS) و عوامل انسانی آشنا می شوید. اما ما بحث خواهیم کرد که چرا قضاوت انسانی باید همیشه در مرکز فرهنگ امنیتی باقی بماند.

فرهنگ پیامک و گزارش دهی

پیامک (سیستم مدیریت ایمنی) یک رویکرد سیستماتیک مبتنی بر شناسایی پیشگیرانه خطرات و مدیریت ریسک است. در قلب آن فقط فرهنگ است (رویکردی که در آن شخصی که صادقانه یک اشتباه را گزارش می کند مجازات نمی شود و سهل انگاری/عمد و خطا از هم جدا می شود) و گزارش خطر. یک سیستم امنیتی تنها زمانی کار می کند که مردم بدون ترس آن را گزارش کنند.

هوش مصنوعی در اینجا کمک ارزشمندی است، اما به تعادل ظریفی نیاز دارد. کاربردهای مفید:

1. طبقه‌بندی و اعلان‌های روند: موضوعات تکرارشونده، بخش‌های ATA، شرایط در صدها اعلان امنیتی/کیفیت را گروه‌بندی کنید.
2. پیش نویس گزارش: تبدیل حقایق یک حادثه به یک گزارش ساختاریافته (با زبانی که فرآیند را بررسی می کند، نه شخص را،).
3. تسهیل تجزیه و تحلیل علت ریشه ای: ایجاد سؤال برای "5 چرا" یا تجزیه و تحلیل مانع.
4. پیش نویس چک لیست ممیزی کیفیت
5. خلاصه درس آموزی: جمع آوری درس های تکراری از رویدادهای گذشته.

احتیاط: اعلان‌های امنیتی اغلب داده‌های شخصی و حساس هستند. ناشناس سازی و خط مشی داده های شرکتی هنگام تجزیه و تحلیل با هوش مصنوعی ضروری است. علاوه بر این، هوش مصنوعی نباید اجازه داشته باشد رویدادی را به عنوان "تقصیر کیست" برچسب گذاری کند. هدف از پیامک یافتن مجرمان نیست، بلکه تعمیر سیستم است. استفاده نادرست از هوش مصنوعی می تواند به فرهنگ آسیب برساند.

Dirty Dozen: 12 محرک خطای انسانی

کلاسیک عوامل انسانی تعمیر و نگهداری، فهرست دوجین کثیف گوردون دوپون است - 12 عامل انسانی رایج که منجر به شکست تعمیر و نگهداری می شود: عدم ارتباط، رضایت، عدم آگاهی، حواس پرتی، عدم کار تیمی، خستگی، کمبود منابع، فشار، عدم ابراز وجود، استرس، عدم آگاهی، هنجارها (عادات نابجا).

مهم ترین پیوند در مورد هوش مصنوعی در اینجا، رابطه بین رضایت (اعتماد بیش از حد / رضایت) و سوگیری اتوماسیون (اعتماد بیش از حد به اتوماسیون - پذیرش آن به عنوان درست فقط به این دلیل که یک سیستم آن را می گوید) است. خروجی روان و مطمئن هوش مصنوعی می تواند دقیقاً باعث ایجاد رضایت خاطر شود. ایده "این چیزی است که سیستم گفته است، نیازی به بررسی نیست" یک نسخه مدرن از Dirty Dozen است.

نکته: استفاده از هوش مصنوعی را به عنوان یک سپر در برابر Dirty Dozen تنظیم کنید، نه به عنوان یک ماشه: خوب است در پایان یک شیفت خسته، یک یادآوری چک لیست داشته باشید. اما نادیده گرفتن معاینه فیزیکی با گفتن "هوش مصنوعی قبلا به نظر می رسید" خود راضی است. این ابزار باید توجه شما را افزایش دهد، نه اینکه آن را بی حس کند.

قاطعیت و هوش مصنوعی

«عدم قاطعیت» در Dirty Dozen ناتوانی یک تکنسین در بیان چیزی است که به نظر او اشتباه است. جالب اینجاست که هوش مصنوعی در اینجا یک اثر دو طرفه دارد. مثبت: یک تکنسین می تواند از هوش مصنوعی برای ساختاربندی نگرانی خود استفاده کند و پیش نویس "چگونه این را بیان کنم؟" منفی: لحن مستبدانه هوش مصنوعی می تواند انسان را به سرکوب شهود واقعی خود سوق دهد. تعادل مناسب: هوش مصنوعی ورودی است، شهود حرفه ای و مشاهده شما تصمیم گیرنده است. حس شما از "چیزی اشتباه است" باید بیشتر از خروجی هوش مصنوعی باشد که "همه چیز عادی است" - توقف کنید و نگاه کنید.

سه کیف کوچک

مورد 1 - تجزیه و تحلیل روند خطای تکرار شونده را پیدا کرد. هنگامی که اعلان‌های کیفیت شش ماهه توسط YZ گروه‌بندی شدند (ناشناس)، موضوع تکرارشونده «بسته‌ای که به درستی نصب نشده است» برای یک نوع پانل خاص برجسته شد. تیم کیفیت به علت اصلی رسید: یک مرحله در کارت وظیفه نامشخص بود. کارت مشخص شده است؛ یک منبع تکراری خطا به صورت سیستمی بسته شده است.

مورد 2 - تله تعصب اتوماسیون شناسایی شد. در یک شیفت شب خسته، یک تکنسین می خواست از بازرسی بصری بر اساس خلاصه هوش مصنوعی «این بررسی عادی به نظر می رسد» صرف نظر کند. رهبر تیم مداخله کرد: هوش مصنوعی داده ها را خلاصه کرده بود اما قطعه را ندیده بود. معاینه فیزیکی اثر کوچکی از نشت پیدا کرد. رضایت با دخالت انسان شکسته شد.

مورد 3 - حمایت قاطعیت. یک تکنسین جوان فکر می کرد که یک طرح غیرواقعی است اما نمی دانست چگونه آن را بیان کند. با هوش مصنوعی، او نگرانی خود را به زبان واقعی و محترمانه ساختار داد: "این کار به دلیل آن پیش نیاز نمی تواند در زمان معین با خیال راحت تکمیل شود." اعتراض ساختاری در نظر گرفته شد. پله ای که تحت فشار از بین می رفت حفظ شد.

چهار قالب قابل کپی

نقش: تحلیل گر روند اعلان های امنیتی (با داده های ناشناس). وظیفه: گروه بندی مضامین تکرار شونده، بخش های ATA و شرایط در اعلان های ناشناس زیر. قوانین: فرد سرزنش. برچسب "تقصیر کیست" را نزنید. تمرکز بر الگوی سیستمی. اعلان‌ها: [داده‌های ناشناس]

نقش: دستیار پیش نویس گزارش حادثه (فقط زبان فرهنگ). وظیفه: یک گزارش حادثه از روی حقایق زیر تهیه کنید، فرآیند را بررسی کنید، نه شخص را. قوانین: از صفت های اتهامی استفاده نکنید. از ساختار "چه اتفاقی افتاد، چه شرایطی، چه مانعی گم شد" استفاده کنید. حقایق: [اطلاعات رویداد]

نقش: علت اصلی (5 چرا) تسهیل کننده. وظیفه: برای رویداد زیر سؤالات «5 چرا» ایجاد کنید و بپرسید که آیا هر پاسخ نشان دهنده ضعف سیستمی است یا خیر. قوانین: من پاسخ ها را می دهم. شما سوالات درستی ایجاد می کنید. به فرآیند مراجعه کنید، نه سرزنش شخصی. حادثه: [خلاصه]

نقش: کمک به ابراز قاطعیت. وظیفه: ساختار جمله ای را به من پیشنهاد دهید تا نگرانی خود را در زیر به زبان واقعی، محترمانه و واضح بیان کنم. قوانین: احساسی/تهمت آمیز نباشید. مرکز منطق امنیتی. نگرانی: [نگرانی فنی]

اعلان ضعیف / اعلان قوی

ضعیف: «چه کسی در این حادثه مقصر است، گزارش بنویس».

چارچوب مقصر جویی فرهنگ عادلانه را تضعیف می کند و علت واقعی سیستمی را پنهان می کند.

قوی: "پیش نویس گزارش حادثه را از حقایق زیر بنویسید. شخص را سرزنش نکنید؛ از ساختار "چه اتفاقی افتاده، چه شرایطی وجود داشته است، چه مانعی وجود ندارد، چه چیزی می تواند به صورت سیستمی برطرف شود" استفاده کنید. داده ها ناشناس، اطلاعات شخصی اضافه نکنید."

این اعلان تمرکز را از فردی به سیستم دیگر، از تنبیه به یادگیری تغییر می‌دهد.

جدول: Dirty Dozen و تعامل هوش مصنوعی

عامل

خطر هوش مصنوعی

استفاده صحیح از هوش مصنوعی

از خود راضی بودن

از خود راضی "از قبل به نظر می رسید".

یادآوری چک لیست

تعصب اتوماسیون

کورکورانه به خروجی اعتماد کنید

به عنوان ورودی استفاده کنید، تأیید کنید

عدم ارتباط

انتقال خلاصه نادرست

گردش مالی را پیکربندی کنید

عدم قاطعیت

لحن استبدادی سرکوب می کند

کمک به ابراز اضطراب

خستگی

میانبر در لحظه بحرانی

مراحل را یادآوری نکنید، امضا را به خود شخص بسپارید

اشتباهات رایج

• وادار کردن هوش مصنوعی این سوال را بپرسد که مقصر کیست؟ فقط فرهنگ رو خراب میکنه
• تجزیه و تحلیل اعلان های حساس بدون ناشناس کردن آنها. نقض حریم خصوصی
• افتادن به سوگیری اتوماسیون "سیستم گفت" جایگزین معاینه فیزیکی نمی شود.
• فدا کردن شهود خود در برابر لحن هوش مصنوعی. به احساس "چیزی اشتباه است" توجه کنید.
• استفاده از هوش مصنوعی برای میانبر تحت فشار خودرو شتاب می گیرد اما یک قدم هم نمی گذرد.

به طور خلاصه

امنیت یک فرهنگ است و قضاوت انسان در قلب آن است. هوش مصنوعی کمک ارزشمندی در استخراج روندها از اعلان‌های ایمنی/کیفیت، تهیه پیش‌نویس گزارش‌ها در فرهنگ درست و تجزیه و تحلیل علل ریشه‌ای است. اما بزرگ‌ترین خطر این است که سیال بودن هوش مصنوعی موجب رضایت و سوگیری اتوماسیون می‌شود. هوش مصنوعی را به عنوان سپری در برابر دوجین کثیف بسازید: توجه خود را افزایش دهید، نه اینکه آن را بی حس کنید. تصمیم، شهود و امضا را به شخص بسپارید.

وظیفه کاربردی

چند اعلان کیفیت/ایمنی ناشناس دریافت کنید (یا ویرایش کنید). با الگوی اول، از هوش مصنوعی برای تجزیه و تحلیل روند بخواهید. سپس از خود بپرسید: هوش مصنوعی کدام مضامین را پیدا کرد، کدام موضوعات را از دست داد، آیا به معنای "مقصر کیست" افتاد؟ یک پیشنهاد «بهبود سیستم» بنویسید و بررسی کنید که با اصل فرهنگ عادلانه مطابقت دارد.

چک لیست

• [ ] من داده های امنیتی را ناشناس کرده ام و از خط مشی داده تبعیت کرده ام.
• [ ] من از هوش مصنوعی در یک چارچوب تثبیت سیستم استفاده کردم، نه یک چارچوب جرم یاب.
• [ ] من از معاینه فیزیکی در برابر سوگیری اتوماسیون صرفنظر نکردم.
• [ ] من شهود "چیزی اشتباه است" خود را بالاتر از خروجی هوش مصنوعی قرار می دهم.
• [ ] من زبان فرهنگ عادلانه را در گزارش حفظ کردم.
• [ ] تصمیم، تفسیر و امضا را به عهده شخص گذاشتم.