Lợi nhuận:
- Hiểu các nguyên tắc của SMS và văn hóa công bằng, đồng thời sử dụng trí tuệ nhân tạo để phân tích xu hướng và soạn thảo báo cáo theo định hướng hệ thống trong các thông báo bảo mật.
- Khả năng liên kết các yếu tố Dirty Dozen, đặc biệt là xu hướng tự mãn và tự động hóa, với việc sử dụng trí tuệ nhân tạo và quản lý chúng như một lá chắn
- Hiểu rằng dữ liệu bảo mật phải được ẩn danh và quyết định/trực giác/chữ ký vẫn thuộc về con người.
An toàn hàng không không chỉ đạt được bằng cách siết chặt bu-lông bên phải với đúng mô-men xoắn; Nó đạt được thông qua một nền văn hóa chi phối cách thức thực hiện công việc. Trong học phần này, bạn sẽ học cách sử dụng trí tuệ nhân tạo (AI) trong lĩnh vực quản lý chất lượng, hệ thống quản lý an toàn (SMS) và yếu tố con người; Nhưng chúng ta sẽ thảo luận tại sao sự phán xét của con người phải luôn là trung tâm của văn hóa an ninh.
SMS và văn hóa báo cáo
SMS (Hệ thống quản lý an toàn) là một cách tiếp cận có hệ thống dựa trên việc chủ động phát hiện các mối nguy hiểm và quản lý rủi ro. Trọng tâm của nó chỉ là văn hóa (một cách tiếp cận trong đó người báo cáo sai sót một cách trung thực sẽ không bị trừng phạt và sự sơ suất/cố ý và sai sót sẽ được tách biệt) và báo cáo mối nguy hiểm. Một hệ thống an ninh chỉ hoạt động khi mọi người báo cáo mà không sợ hãi.
AI là một trợ giúp có giá trị ở đây, nhưng nó đòi hỏi sự cân bằng tinh tế. Công dụng hữu ích:
- Phân loại và thông báo xu hướng: Nhóm các chủ đề định kỳ, phần ATA, điều kiện trên hàng trăm thông báo về bảo mật/chất lượng.
- Bản thảo báo cáo: Chuyển các sự việc của một vụ việc thành một báo cáo có cấu trúc (với ngôn ngữ xem xét quá trình chứ không phải con người).
- Tạo điều kiện thuận lợi cho việc phân tích nguyên nhân gốc rễ: Tạo câu hỏi cho phân tích “5 Tại sao” hoặc rào cản.
- Dự thảo danh sách kiểm tra chất lượng
- Tóm tắt bài học rút ra: Biên soạn các bài học định kỳ từ các sự kiện trong quá khứ.
Thận trọng: Thông báo bảo mật thường là dữ liệu cá nhân và nhạy cảm. Chính sách ẩn danh và dữ liệu của công ty là điều cần thiết khi phân tích bằng AI. Ngoài ra, AI không được phép gắn nhãn một sự kiện là "lỗi của ai"; Mục đích của SMS không phải là tìm tội phạm mà là sửa chữa hệ thống. Một AI được sử dụng không đúng cách có thể làm hỏng nền văn hóa.
Dirty Dozen: 12 nguyên nhân gây ra lỗi của con người
Kinh điển về các yếu tố con người bảo trì là danh sách Dirty Dozen của Gordon Dupont - 12 yếu tố con người phổ biến dẫn đến thất bại trong bảo trì: thiếu giao tiếp, tự mãn, thiếu kiến thức, mất tập trung, thiếu tinh thần đồng đội, mệt mỏi, thiếu nguồn lực, áp lực, thiếu quyết đoán, căng thẳng, thiếu nhận thức, chuẩn mực (thói quen không đúng chỗ).
Mối liên kết quan trọng nhất liên quan đến AI ở đây là mối quan hệ giữa tính tự mãn (quá tự tin/tự mãn) và thành kiến tự động hóa (quá tự tin vào tự động hóa - chấp nhận nó là đúng chỉ vì hệ thống nói điều đó). Kết quả linh hoạt và tự tin của AI có thể tạo ra sự tự mãn một cách chính xác. Ý tưởng “hệ thống nói thế, không cần kiểm tra” là một phiên bản hiện đại của Dirty Dozen.
Mẹo: Thiết lập việc sử dụng AI như một lá chắn chống lại Dirty Dozen chứ không phải như một yếu tố kích hoạt: bạn nên có lời nhắc về danh sách kiểm tra khi kết thúc một ca làm việc mệt mỏi; nhưng bỏ qua việc kiểm tra thể chất bằng cách nói "AI đã xem rồi" bản thân nó là sự tự mãn. Công cụ này sẽ làm tăng sự chú ý của bạn chứ không phải làm tê liệt nó.
Sự quyết đoán và AI
Sự “thiếu quyết đoán” trong Dirty Dozen là việc một kỹ thuật viên không có khả năng nói ra điều mà anh ta cho là sai. Điều thú vị là AI có tác động hai chiều ở đây. Tích cực: kỹ thuật viên có thể sử dụng AI để sắp xếp mối quan tâm của mình và soạn thảo “làm cách nào để diễn đạt điều này?” Tiêu cực: Giọng điệu độc đoán của AI có thể khiến con người kìm nén trực giác thực sự của chính mình. Sự cân bằng phù hợp: AI là đầu vào, trực giác và khả năng quan sát chuyên nghiệp của bạn là người đưa ra quyết định. Cảm giác “có gì đó không ổn” của bạn phải lớn hơn kết quả “mọi thứ đều bình thường” của AI - hãy dừng lại và nhìn.
ba trường hợp nhỏ
Trường hợp 1 - Phân tích xu hướng phát hiện lỗi lặp lại. Khi các thông báo về chất lượng sáu tháng được nhóm theo YZ (ẩn danh), chủ đề lặp đi lặp lại là “dây buộc được cài đặt không chính xác” nổi bật đối với một loại bảng điều khiển cụ thể. Nhóm chất lượng đã tìm ra nguyên nhân cốt lõi: một bước trong thẻ nhiệm vụ không rõ ràng. Thẻ đã được làm rõ; Nguồn lỗi tái diễn đã bị đóng một cách có hệ thống.
Trường hợp 2 - Đã phát hiện bẫy sai lệch tự động hóa. Trong một ca đêm mệt mỏi, một kỹ thuật viên muốn bỏ qua việc kiểm tra trực quan dựa trên bản tóm tắt của AI về "việc kiểm tra này có vẻ bình thường". Trưởng nhóm xen vào: AI đã tóm tắt dữ liệu nhưng chưa thấy đoạn đó. Kiểm tra vật lý tìm thấy một dấu vết rò rỉ nhỏ. Sự tự mãn đã bị phá vỡ bởi sự can thiệp của con người.
Trường hợp 3 - Hỗ trợ sự quyết đoán. Một kỹ thuật viên trẻ nghĩ rằng một kế hoạch là không thực tế nhưng không biết phải diễn đạt như thế nào. Với AI, anh ấy đã cấu trúc mối quan tâm của mình bằng ngôn ngữ thực tế, tôn trọng: “Nhiệm vụ đó không thể hoàn thành một cách an toàn trong thời gian nhất định do điều kiện tiên quyết đó”. Phản đối có cấu trúc được xem xét; Một bước có thể bị bỏ qua dưới áp lực đã được bảo tồn.
Bốn mẫu có thể sao chép
Vai trò: Trình phân tích xu hướng thông báo bảo mật (với dữ liệu ẩn danh). Nhiệm vụ: Nhóm các chủ đề lặp lại, các phần ATA và điều kiện trong các thông báo ẩn danh sau. Quy tắc: Đổ lỗi cho người; KHÔNG dán nhãn “lỗi của ai”; tập trung vào mô hình hệ thống. Thông báo: [dữ liệu ẩn danh]
Vai trò: Trợ lý dự thảo báo cáo sự cố (chỉ là ngôn ngữ văn hóa). Nhiệm vụ: Soạn thảo báo cáo sự việc từ các tình tiết sau, xem xét quá trình chứ không phải con người. Quy tắc: Không sử dụng tính từ buộc tội; Sử dụng cấu trúc "chuyện gì đã xảy ra, hoàn cảnh nào, rào cản nào bị thiếu". Sự thật: [thông tin sự kiện]
Vai trò: Người hỗ trợ nguyên nhân gốc rễ (5 Whys). Nhiệm vụ: Tạo câu hỏi "5 Tại sao" cho sự kiện tiếp theo và đặt câu hỏi liệu mỗi câu trả lời có chỉ ra điểm yếu mang tính hệ thống hay không. Quy tắc: Tôi đưa ra câu trả lời; bạn tạo ra những câu hỏi phù hợp; Hãy tham khảo quá trình chứ không phải đổ lỗi cá nhân. Sự cố: [tóm tắt]
Vai trò: Hỗ trợ thể hiện sự quyết đoán. Nhiệm vụ: Gợi ý cho em một cấu trúc câu để bày tỏ mối quan tâm của em dưới đây bằng ngôn ngữ thực tế, tôn trọng và rõ ràng. Quy tắc: Đừng xúc động/buộc tội; tập trung vào lý do bảo mật. Mối quan tâm: [mối quan tâm kỹ thuật]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “Việc này ai có lỗi, viết báo đi.”
Khuôn khổ tìm kiếm thủ phạm làm suy yếu nền văn hóa công bằng và che khuất nguyên nhân hệ thống thực sự.
Mạnh: "Viết bản thảo báo cáo sự cố từ những sự kiện sau. Đừng đổ lỗi cho người đó; hãy sử dụng cấu trúc 'chuyện gì đã xảy ra, hoàn cảnh nào hiện tại, rào cản nào còn thiếu, điều gì có thể khắc phục một cách có hệ thống'. Dữ liệu ẩn danh, không thêm thông tin cá nhân."
Lời nhắc này chuyển trọng tâm từ con người sang hệ thống, từ hình phạt sang học tập.
Bảng: Tương tác giữa Dirty Dozen và AI
yếu tố
Rủi ro AI
Sử dụng AI đúng cách
Sự tự mãn
Sự tự mãn "đã nhìn"
Lời nhắc danh sách kiểm tra
thiên vị tự động hóa
Tin tưởng một cách mù quáng vào kết quả đầu ra
Sử dụng làm đầu vào, xác nhận
thiếu giao tiếp
Chuyển tóm tắt không chính xác
Định cấu hình doanh thu
Thiếu sự quyết đoán
Giọng điệu độc đoán đàn áp
Giúp thể hiện sự lo lắng
mệt mỏi
Lối tắt vào thời điểm quan trọng
Đừng nhắc các bước, hãy để lại chữ ký cho người đó
Những lỗi thường gặp
- Làm cho AI đặt câu hỏi “ai có lỗi?” Chỉ làm hỏng văn hóa.
- Phân tích các thông báo nhạy cảm mà không ẩn danh chúng. Vi phạm quyền riêng tư.
- Rơi vào xu hướng tự động hóa. "Hệ thống nói" không thay thế việc kiểm tra thể chất.
- Hy sinh trực giác của chính mình để nghe theo giai điệu của AI. Hãy chú ý đến cảm giác "có gì đó không ổn".
- Sử dụng AI để đi tắt dưới áp lực. Xe tăng tốc nhưng không hề lùi một bước.
Tóm lại
An ninh là một nền văn hóa và sự phán xét của con người là trọng tâm của nó. AI là một công cụ hỗ trợ có giá trị trong việc trích xuất các xu hướng từ các thông báo về an toàn/chất lượng, soạn thảo báo cáo về văn hóa công bằng và phân tích nguyên nhân gốc rễ. Nhưng rủi ro lớn nhất là tính linh hoạt của AI nuôi dưỡng sự tự mãn và thiên vị tự động hóa. Xây dựng AI như một lá chắn chống lại Dirty Dozen: tăng cường sự chú ý của bạn chứ không làm tê liệt nó; Hãy để lại quyết định, trực giác và chữ ký cho người đó.
Nhiệm vụ ứng dụng
Nhận (hoặc chỉnh sửa) một số thông báo ẩn danh về chất lượng/an toàn. Với mẫu đầu tiên, hãy yêu cầu AI phân tích xu hướng. Sau đó hãy tự hỏi: AI đã tìm thấy chủ đề nào, bỏ sót chủ đề nào, có rơi vào hàm ý "ai có lỗi" không? Viết đề xuất "cải tiến hệ thống" và kiểm tra xem nó có tuân thủ nguyên tắc văn hóa công bằng hay không.
danh sách kiểm tra
- [ ] Tôi đã ẩn danh dữ liệu bảo mật và tuân thủ chính sách dữ liệu.
- [ ] Tôi đã sử dụng AI trong khuôn khổ sửa lỗi hệ thống chứ không phải khuôn khổ truy tìm tội phạm.
- [ ] Tôi đã không bỏ qua việc kiểm tra thể chất để chống lại sự thiên vị tự động hóa.
- [ ] Tôi đặt trực giác “có gì đó không ổn” của mình lên trên đầu ra AI.
- [ ] Tôi đã giữ ngôn ngữ văn hóa chính đáng trong báo cáo.
- [ ] Tôi để lại quyết định, giải thích và ký tên cho người đó.