Κέρδη:
- Κατανόηση των αρχών του SMS και της δίκαιης κουλτούρας και χρησιμοποιήστε τεχνητή νοημοσύνη για ανάλυση τάσεων και σύνταξη αναφορών προσανατολισμένη στο σύστημα στις ειδοποιήσεις ασφαλείας.
- Δυνατότητα συσχέτισης των Dirty Dozen παραγόντων, ιδιαίτερα του εφησυχασμού και της προκατάληψης αυτοματισμού, με τη χρήση τεχνητής νοημοσύνης και τη διαχείρισή τους ως ασπίδα
- Κατανόηση ότι τα δεδομένα ασφαλείας πρέπει να είναι ανώνυμα και ότι η απόφαση/διαίσθηση/υπογραφή παραμένει στον άνθρωπο.
Η ασφάλεια των αερομεταφορών δεν επιτυγχάνεται μόνο με το σφίξιμο του δεξιού μπουλονιού στη σωστή ροπή στρέψης. Επιτυγχάνεται μέσω μιας κουλτούρας που διέπει τον τρόπο με τον οποίο γίνεται η εργασία. Σε αυτή την ενότητα, θα μάθετε πώς να χρησιμοποιείτε την τεχνητή νοημοσύνη (AI) στον τομέα της διαχείρισης ποιότητας, του συστήματος διαχείρισης ασφάλειας (SMS) και των ανθρώπινων παραγόντων. Αλλά θα συζητήσουμε γιατί η ανθρώπινη κρίση πρέπει να παραμένει πάντα στο επίκεντρο της κουλτούρας ασφάλειας.
SMS και κουλτούρα αναφοράς
Το SMS (Safety Management System) είναι μια συστηματική προσέγγιση που βασίζεται στην προληπτική ανίχνευση κινδύνων και στη διαχείριση του κινδύνου. Στην καρδιά του είναι απλώς η κουλτούρα (μια προσέγγιση στην οποία το άτομο που αναφέρει ειλικρινά ένα λάθος δεν τιμωρείται και η αμέλεια/πρόθεση και το λάθος διαχωρίζονται) και η αναφορά κινδύνου. Ένα σύστημα ασφαλείας λειτουργεί μόνο όταν οι άνθρωποι το αναφέρουν χωρίς φόβο.
Η τεχνητή νοημοσύνη είναι μια πολύτιμη βοήθεια εδώ, αλλά απαιτεί μια λεπτή ισορροπία. Χρήσιμες χρήσεις:
- Ταξινόμηση και ειδοποιήσεις τάσεων: Ομαδοποιήστε επαναλαμβανόμενα θέματα, ενότητες ATA, συνθήκες σε εκατοντάδες ειδοποιήσεις ασφάλειας/ποιότητας.
- Προσχέδιο αναφοράς: Μετατροπή των γεγονότων ενός περιστατικού σε μια δομημένη αναφορά (με γλώσσα που εξετάζει τη διαδικασία, όχι το άτομο).
- Διευκόλυνση της ανάλυσης της βασικής αιτίας: Δημιουργία ερωτήσεων για τα «5 Γιατί» ή την ανάλυση φραγμού.
- Προσχέδιο λίστας ελέγχου ποιότητας.
- Περιλήψεις μαθημάτων: Σύνταξη επαναλαμβανόμενων μαθημάτων από γεγονότα του παρελθόντος.
Προσοχή: Οι ειδοποιήσεις ασφαλείας είναι συχνά προσωπικά και ευαίσθητα δεδομένα. Η ανωνυμοποίηση και η πολιτική εταιρικών δεδομένων είναι απαραίτητα κατά την ανάλυση με AI. Επιπλέον, η τεχνητή νοημοσύνη δεν θα πρέπει να επιτρέπεται να χαρακτηρίζει ένα συμβάν ως "ποιου φταίει". Ο σκοπός του SMS δεν είναι να βρει εγκληματίες, αλλά να διορθώσει το σύστημα. Μια τεχνητή νοημοσύνη που χρησιμοποιείται εσφαλμένα μπορεί να βλάψει την κουλτούρα.
Dirty Dozen: 12 εναύσματα ανθρώπινου λάθους
Το κλασικό των ανθρώπινων παραγόντων συντήρησης είναι η λίστα Dirty Dozen του Gordon Dupont — 12 κοινοί ανθρώπινοι παράγοντες που οδηγούν σε αποτυχία συντήρησης: έλλειψη επικοινωνίας, εφησυχασμός, έλλειψη γνώσης, απόσπαση της προσοχής, έλλειψη ομαδικής εργασίας, κόπωση, έλλειψη πόρων, πίεση, έλλειψη διεκδικητικότητας, άγχος, έλλειψη συνειδητοποίησης, νόρμες (άστοχες συνήθειες).
Ο πιο κρίσιμος σύνδεσμος σχετικά με την τεχνητή νοημοσύνη εδώ είναι η σχέση μεταξύ του εφησυχασμού (υπερβολική αυτοπεποίθηση/εφησυχασμό) και της μεροληψίας αυτοματισμού (υπερβολική εμπιστοσύνη στον αυτοματισμό - αποδοχή του ως αληθινού μόνο και μόνο επειδή το λέει ένα σύστημα). Η ρευστή και σίγουρη απόδοση του AI μπορεί με ακρίβεια να γεννήσει εφησυχασμό. Η ιδέα του "αυτό είπε το σύστημα, δεν χρειάζεται να ελέγξετε" είναι μια σύγχρονη έκδοση του Dirty Dozen.
Συμβουλή: Ρυθμίστε τη χρήση της τεχνητής νοημοσύνης ως ασπίδα ενάντια στο Dirty Dozen, όχι ως έναυσμα: είναι καλό να έχετε μια υπενθύμιση λίστας ελέγχου στο τέλος μιας κουρασμένης βάρδιας. αλλά η παράλειψη της φυσικής εξέτασης λέγοντας "Το AI ήδη φαινόταν" είναι από μόνο του εφησυχασμός. Το εργαλείο πρέπει να αυξήσει την προσοχή σας, όχι να το μουδιάσει.
Επιβεβαίωση και AI
Η «έλλειψη διεκδικητικότητας» στο Dirty Dozen είναι η αδυναμία ενός τεχνικού να εκφράσει κάτι που θεωρεί λάθος. Είναι ενδιαφέρον ότι το AI έχει αμφίδρομη επίδραση εδώ. Θετικό: ένας τεχνικός μπορεί να χρησιμοποιήσει την τεχνητή νοημοσύνη για να δομήσει την ανησυχία του και να σχεδιάσει «πώς μπορώ να το διατυπώσω αυτό;» Αρνητικό: Ο αυταρχικός τόνος του AI μπορεί να οδηγήσει τον άνθρωπο να καταστείλει τη δική του αληθινή διαίσθηση. Η σωστή ισορροπία: η τεχνητή νοημοσύνη είναι η εισαγωγή, η επαγγελματική σας διαίσθηση και η παρατήρηση είναι ο παράγοντας λήψης αποφάσεων. Η αίσθηση του "κάτι δεν πάει καλά" πρέπει να υπερτερεί της απόδοσης της τεχνητής νοημοσύνης "όλα είναι φυσιολογικά" - σταματήστε και κοιτάξτε.
τρεις μίνι θήκες
Περίπτωση 1 — Η ανάλυση τάσεων εντόπισε επαναλαμβανόμενο σφάλμα. Όταν οι εξαμηνιαίες ειδοποιήσεις ποιότητας ομαδοποιήθηκαν κατά YZ (ανώνυμα), ξεχώριζε ένα επαναλαμβανόμενο θέμα "λανθασμένα τοποθετημένο συνδετήρα" για έναν συγκεκριμένο τύπο πίνακα. Η ομάδα ποιότητας έφτασε στη βασική αιτία: ένα βήμα στην κάρτα εργασίας ήταν ασαφές. Η κάρτα έχει διευκρινιστεί. Μια επαναλαμβανόμενη πηγή σφάλματος έχει κλείσει συστηματικά.
Περίπτωση 2 — Εντοπίστηκε παγίδα μεροληψίας αυτοματισμού. Σε μια κουρασμένη νυχτερινή βάρδια, ένας τεχνικός ήθελε να παραλείψει μια οπτική επιθεώρηση με βάση τη σύνοψη του AI για το "αυτός ο έλεγχος φαίνεται φυσιολογικός". Ο αρχηγός της ομάδας παρενέβη: Το AI είχε συνοψίσει τα δεδομένα αλλά δεν είχε δει το κομμάτι. Η φυσική εξέταση διαπίστωσε μικρό ίχνος διαρροής. Ο εφησυχασμός έσπασε με ανθρώπινη παρέμβαση.
Περίπτωση 3 — Υποστήριξη διεκδικητικότητας. Ένας νεαρός τεχνικός θεώρησε ότι ένα σχέδιο δεν ήταν ρεαλιστικό, αλλά δεν ήξερε πώς να το πει. Με την τεχνητή νοημοσύνη, δόμησε την ανησυχία του σε μια πραγματική γλώσσα, με σεβασμό: «Αυτή η εργασία δεν μπορεί να ολοκληρωθεί με ασφάλεια τη δεδομένη χρονική στιγμή λόγω αυτής της προϋπόθεσης». Εξετάστηκε δομημένη ένσταση. Διατηρήθηκε ένα βήμα που θα είχε παραλειφθεί υπό πίεση.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
Ρόλος: Αναλυτής τάσεων ειδοποιήσεων ασφαλείας (με ανώνυμα δεδομένα). Εργασία: Ομαδοποιήστε επαναλαμβανόμενα θέματα, ενότητες ATA και συνθήκες στις ακόλουθες ανώνυμες ειδοποιήσεις. Κανόνες: Κατηγορώ άτομο. ΜΗΝ επισημαίνετε «ποιου φταίει». εστίαση σε συστημικό μοτίβο. Ειδοποιήσεις: [ανώνυμα δεδομένα]
Ρόλος: Βοηθός πρόχειρου αναφοράς περιστατικού (απλώς γλώσσα πολιτισμού). Εργασία: Συντάξτε μια αναφορά περιστατικού από τα ακόλουθα γεγονότα, εξετάζοντας τη διαδικασία και όχι το άτομο. Κανόνες: Μην χρησιμοποιείτε κατηγορηματικά επίθετα. Χρησιμοποιήστε τη δομή "τι συνέβη, ποιες συνθήκες, ποιο εμπόδιο έλειπε". Γεγονότα: [πληροφορίες εκδήλωσης]
Ρόλος: Βασική αιτία (5 Γιατί) διευκολυντής. Εργασία: Δημιουργήστε ερωτήσεις «5 γιατί» για το ακόλουθο συμβάν και αναρωτηθείτε εάν κάθε απάντηση υποδηλώνει συστημική αδυναμία. Κανόνες: Δίνω τις απαντήσεις. δημιουργείτε τις σωστές ερωτήσεις. Ανατρέξτε στη διαδικασία, όχι προσωπική ευθύνη. Συμβάν: [σύνοψη]
Ρόλος: Βοήθημα έκφρασης διεκδικητικότητας. Εργασία: Προτείνετε μια δομή πρότασης για να εκφράσω την ανησυχία μου παρακάτω με πραγματική, σεβαστή και σαφή γλώσσα. Κανόνες: Μην είσαι συναισθηματικός/κατηγορητικός. κέντρο για τη λογική της ασφάλειας. Ανησυχία: [τεχνική ανησυχία]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμος: «Ποιος φταίει σε αυτό το περιστατικό, γράψτε το ρεπορτάζ».
Το πλαίσιο αναζήτησης ενόχων υπονομεύει τη δίκαιη κουλτούρα και συσκοτίζει την αληθινή συστημική αιτία.
Ισχυρό: "Γράψτε ένα προσχέδιο αναφοράς περιστατικού από τα ακόλουθα γεγονότα. Μην κατηγορείτε το άτομο. Χρησιμοποιήστε τη δομή "τι συνέβη, ποιες συνθήκες υπήρχαν, ποιο εμπόδιο έλειπε, τι μπορεί να διορθωθεί συστημικά". Δεδομένα ανώνυμα, μην προσθέτετε προσωπικές πληροφορίες."
Αυτή η προτροπή μετατοπίζει την εστίαση από άτομο σε σύστημα, από την τιμωρία στη μάθηση.
Πίνακας: Dirty Dozen και αλληλεπίδραση AI
παράγοντας
Κίνδυνος AI
Σωστή χρήση του AI
Εφησυχασμός
«Ήδη φαινόταν» εφησυχασμός
Υπενθύμιση λίστας ελέγχου
προκατάληψη αυτοματισμού
Εμπιστευτείτε τυφλά την έξοδο
Χρησιμοποιήστε ως είσοδο, επιβεβαιώστε
έλλειψη επικοινωνίας
Λανθασμένη συνοπτική μεταφορά
Διαμόρφωση κύκλου εργασιών
Έλλειψη διεκδίκησης
Ο αυταρχικός τόνος καταστέλλει
Βοηθήστε στην έκφραση του άγχους
κούραση
Συντόμευση σε κρίσιμη στιγμή
Μην υπενθυμίζετε τα βήματα, αφήστε την υπογραφή στο άτομο
Συνήθη λάθη
- Κάνοντας την AI να κάνει την ερώτηση "ποιος φταίει;" Απλώς χαλάει τον πολιτισμό.
- Ανάλυση ευαίσθητων ειδοποιήσεων χωρίς την ανωνυμοποίηση τους. Παραβίαση απορρήτου.
- Πέφτοντας σε προκατάληψη αυτοματισμού. Το "The system είπε" δεν αντικαθιστά τη φυσική εξέταση.
- Θυσία της δικής του διαίσθησης στον τόνο του AI. Δώστε προσοχή στην αίσθηση του «κάτι δεν πάει καλά».
- Χρήση AI για συντόμευση υπό πίεση. Το όχημα επιταχύνει αλλά δεν παραλείπει βήμα.
Συνοπτικά
Η ασφάλεια είναι μια κουλτούρα και η ανθρώπινη κρίση βρίσκεται στην καρδιά της. Η τεχνητή νοημοσύνη είναι ένα πολύτιμο βοήθημα για την εξαγωγή τάσεων από ειδοποιήσεις ασφάλειας/ποιότητας, τη σύνταξη αναφορών σε απλή κουλτούρα και την ανάλυση των βασικών αιτιών. Αλλά ο μεγαλύτερος κίνδυνος είναι ότι η ρευστότητα της τεχνητής νοημοσύνης τροφοδοτεί τον εφησυχασμό και την προκατάληψη του αυτοματισμού. Κατασκευάστε την τεχνητή νοημοσύνη ως ασπίδα ενάντια στο Dirty Dozen: αυξήστε την προσοχή σας, όχι μουδιάστε. Αφήστε την απόφαση, τη διαίσθηση και την υπογραφή στο άτομο.
Εργασία εφαρμογής
Λάβετε (ή επεξεργαστείτε) μερικές ανώνυμες ειδοποιήσεις ποιότητας/ασφάλειας. Με το πρώτο πρότυπο, ζητήστε από το AI για ανάλυση τάσεων. Έπειτα αναρωτηθείτε: Ποια θέματα βρήκε η τεχνητή νοημοσύνη, ποια έχασε, γλίστρησε σε τυχόν υπονοούμενα «ποιος φταίει»; Γράψτε μια πρόταση «συστημικής βελτίωσης» και ελέγξτε ότι συμμορφώνεται με την αρχή της δίκαιης κουλτούρας.
λίστα ελέγχου
- [ ] Έχω ανωνυμοποιήσει τα δεδομένα ασφαλείας και συμμορφώθηκα με την πολιτική δεδομένων.
- [ ] Χρησιμοποίησα την τεχνητή νοημοσύνη σε ένα πλαίσιο επιδιόρθωσης συστήματος, όχι σε ένα πλαίσιο εύρεσης εγκληματιών.
- [ ] Δεν παρέλειψα τη φυσική εξέταση κατά της μεροληψίας αυτοματισμού.
- [ ] Βάζω τη διαίσθησή μου «κάτι δεν πάει καλά» πάνω από την έξοδο AI.
- [ ] Διατήρησα τη δίκαιη γλώσσα του πολιτισμού στην έκθεση.
- [ ] Άφησα την απόφαση, την ερμηνεία και την υπογραφή στο πρόσωπο.