Κέρδη:
- Κατανόηση γιατί η τεχνητή νοημοσύνη δεν μπορεί να λάβει αποφάσεις σε κίνδυνο κρίσης, αυτοκτονίας και βλάβης του εαυτού/τους και γιατί η ανθρώπινη παρέμβαση είναι υποχρεωτική.
- Δυνατότητα τοποθέτησης AI στην αξιολόγηση κινδύνου μόνο σε επίπεδο υπενθύμισης/καταλόγου ελέγχου, κάτω από την κρίση των ειδικών
- Δυνατότητα καθορισμού του περιορισμένου και ελεγχόμενου ρόλου της τεχνητής νοημοσύνης στο πρωτόκολλο έκτακτης ανάγκης, τις γραμμές δρομολόγησης και το σχέδιο ασφαλείας
Αυτή η μονάδα σχεδιάζει το πιο σημαντικό όριο ολόκληρης της ενότητας. Υπάρχουν στιγμές στον τομέα της ψυχικής υγείας όπου δεν έχει να κάνει με την ταχύτητα, την ευκολία ή την αποτελεσματικότητα. Μόνο η ζωή ενός ανθρώπου και η ευθύνη ενός ειδικού μιλάνε. Καταστάσεις όπως ο κίνδυνος αυτοκτονίας, η βλάβη του εαυτού ή των άλλων, η οξεία ψύχωση, η απειλή βίας, η αναφορά παιδιού/κακοποίησης αποτελούν κρίσεις. Σε αυτές τις στιγμές, η τεχνητή νοημοσύνη (AI) δεν μπορεί να λάβει αποφάσεις, να μετρήσει τον κίνδυνο, να παρέμβει και να αναλάβει την ευθύνη. Αυτό δεν είναι θέμα "Το AI δεν είναι αρκετά καλό ακόμα". Η κρίση απαιτεί εγγενώς ανθρώπινη σύνδεση σε πραγματικό χρόνο, κλινική κρίση και υπευθυνότητα. Σε αυτή την ενότητα, θα μάθετε γιατί η τεχνητή νοημοσύνη θα σταματήσει σε μια κρίση, γιατί οι άνθρωποι είναι απαραίτητοι και σε ποιον περιορισμένο ρόλο μπορεί να παραμείνει η τεχνητή νοημοσύνη περισσότερο.
Γιατί η τεχνητή νοημοσύνη δεν μπορεί να πάρει αποφάσεις σε μια κρίση
Η αξιολόγηση της κρίσης απαιτεί τέσσερα πράγματα και κανένα από τα δύο δεν είναι επαρκή στην τεχνητή νοημοσύνη:
- Σχέση σε πραγματικό χρόνο. Τα πραγματικά σημάδια κινδύνου συχνά δεν είναι στα λόγια που λέγονται. Κρύβεται στον τόνο της φωνής, στην παύση, στο βλέμμα, στη γλώσσα του σώματος, στα «ανείπωτα». Το AI βλέπει ένα κείμενο. δεν βλέπει ανθρώπους.
- Ολιστική κλινική συλλογιστική. Κίνδυνος; Είναι ένα ζωντανό ζύγισμα δεκάδων παραγόντων όπως ιστορικό, προστατευτικοί παράγοντες, παρορμητικότητα, πρόσβαση (πρόσβαση στη μέθοδο), σύστημα υποστήριξης. Η τεχνητή νοημοσύνη μπορεί να δώσει μια μηχανική «βαθμολογία κινδύνου», αλλά αυτή η βαθμολογία δεν θα σώσει έναν άνθρωπο.
- Υπευθυνότητα και υπευθυνότητα. Πρέπει να υπάρχει ένα άτομο που υπογράφει πίσω από μια απόφαση κρίσης, που θα λογοδοτήσει αν χρειαστεί και θα αναλάβει τη ζωή του πελάτη. Το AI δεν μπορεί να φέρει ευθύνη.
- Ικανότητα απόκρισης. Αυτό που χρειάζεται σε μια κρίση (κάνοντας ένα σχέδιο ασφάλειας, εμπλοκή της οικογένειας, κατευθύνσεις στα επείγοντα, παραπομπή στο νοσοκομείο) είναι συγκεκριμένες, ανθρωπογενείς ενέργειες.
Προσοχή: Όταν ένας πελάτης εμφανίζει σημάδια κινδύνου, ρωτήστε το AI "υπάρχει κίνδυνος;" Το να ζητάς " είναι να αναβάλεις την απόφαση και να αποφύγεις την ευθύνη. Σε μια κρίση, ο ειδικός μπαίνει ΑΜΕΣΑ. Η τεχνητή νοημοσύνη δεν έχει κανένα ρόλο απόφασης αυτή τη στιγμή. Οι γραμμές επικοινωνίας και οι αλυσίδες ανθρώπινης υποστήριξης ενεργοποιούνται όταν είναι απαραίτητο.
Ο κίνδυνος της τεχνητής νοημοσύνης στα chatbot κρίσης
Τα τελευταία χρόνια, τα chatbots AI που λένε «άσε με να σε υποστηρίξω» έχουν γίνει ευρέως διαδεδομένα. Ο κίνδυνος τους σε μια κρίση είναι σοβαρός: ένα bot μπορεί να παρεξηγήσει ένα μήνυμα αυτοκτονίας, να αποφύγει το θέμα, να δώσει μια απάντηση κλισέ ή (όπως τεκμηριωμένες περιπτώσεις) να απαντήσει με επιβλαβή τρόπο. Ένα άτομο αισθάνεται ότι το άλλο άτομο βρίσκεται σε πραγματικό κίνδυνο και αναλαμβάνει δράση. ένα bot δεν μπορεί να το κάνει αυτό αξιόπιστα. Επομένως, μην παραπέμπετε ποτέ έναν πελάτη σε κρίση σε ένα chatbot.
Αποδεκτός περιορισμένος ρόλος του AI
Η τεχνητή νοημοσύνη δεν μπορεί να λαμβάνει αποφάσεις σε μια κρίση. αλλά ΕΞΩ από τη συνεδρία, ο επαγγελματίας μπορεί να έχει πολύ περιορισμένο ρόλο στην υποστήριξη της δουλειάς του/της:
- Υπενθύμιση/λίστα ελέγχου. Προετοιμασία ως λίστα ελέγχου των τομέων για τους οποίους ο εμπειρογνώμονας δεν πρέπει να ξεχάσει να ρωτήσει στην αξιολόγηση κινδύνου (ο εμπειρογνώμονας το χρησιμοποιεί, όχι ο πελάτης).
- Σχέδιο πρωτοκόλλου. Προετοιμασία σχεδίου πρωτοκόλλου κρίσης του ιδρύματος, λίστα γραμμών παραπομπής, πρότυπο σχεδίου ασφαλείας (τότε ο εμπειρογνώμονας/ίδρυμα το εγκρίνει).
- Προπόνηση/πρόβα. Πρόβα φανταστικού σεναρίου (χωρίς πραγματικό πελάτη) για τη βελτίωση των δεξιοτήτων του ειδικού για συνέντευξη σε κρίση.
Τι κοινό έχουν αυτοί οι ρόλοι: Το AI δεν είναι ποτέ σε θέση λήψης αποφάσεων σε μια ζωντανή κρίση, με έναν πραγματικό πελάτη.
Κατάσταση
Ο ρόλος του AI
Ποιος αποφασίζει
Ζωντανή κρίση (πελάτης σε κίνδυνο)
ΟΧΙ ρόλος απόφασης
Ειδικός, άμεσα και άμεσα
Εκτός συνεδρίας: προετοιμασία λίστας ελέγχου
πρόχειρη υπενθύμιση
Ο ειδικός εγκρίνει/χρησιμοποιεί
Σύνταξη πρωτοκόλλου κρίσης/πρότυπο
προσχέδιο κειμένου
Ο εμπειρογνώμονας/ίδρυμα εγκρίνει
Καθοδήγηση του πελάτη σε κρίση
Απαγορευμένο (ποτέ για ρομπότ συνομιλίας)
αλυσίδα ανθρώπινης υποστήριξης
τρεις μίνι θήκες
Περίπτωση 1 — Προστασία των συνόρων. Ένας πελάτης λέει σε μια συνεδρία, "Δεν αντέχω άλλο, θέλω να το τελειώσω." Ο ειδικός σκέφτεται, "Θα το γράψω αυτό στην AI και θα το ρωτήσω για τη σοβαρότητά του", αλλά σταματά. Αντίθετα, κινείται άμεσα, ήρεμα και άμεσα στην αξιολόγηση κινδύνου: συχνότητα σκέψης, σχέδιο, μέθοδος, προσέγγιση, μιλά για προστατευτικούς παράγοντες. κάνει ένα σχέδιο ασφαλείας. ενεργοποιεί τις απαραίτητες στηρίξεις. Η απόφαση και η ευθύνη ανήκουν στον άνθρωπο από την αρχή μέχρι το τέλος. Δεν θα ήταν σωστό να μπει η τεχνητή νοημοσύνη σε αυτή τη στιγμή.
Περίπτωση 2 — Ανεπάρκεια του σκάφους. Ένας οργανισμός εξετάζει το ενδεχόμενο ανάπτυξης ενός chatbot AI για υποστήριξη μετά το ωράριο λειτουργίας. Σε πιλοτικές δοκιμές, το bot απαντά με μια γενική απάντηση "προσέξτε" σε ένα μήνυμα που υποδηλώνει αυτοκτονία. Δεν αναγνωρίζει ούτε κατευθύνει τον κίνδυνο. Το πρακτορείο αποφασίζει ότι το bot δεν είναι ασφαλές για κρίση. Αντίθετα, καθιερώνει ένα σαφές σύστημα που κατευθύνει τους ανθρώπους σε μια πραγματική γραμμή κρίσης και ειδικό σε εφημερίες για καταστάσεις εκτός ωραρίου.
Περίπτωση 3 — Σωστή περιορισμένη χρήση. Για να ενισχύσει τη δική του πρακτική αξιολόγησης του κινδύνου, ένας ειδικός ζητά από την AI «μια λίστα ελέγχου των περιοχών που πρέπει να θυμηθώ να ρωτήσω σε μια ολοκληρωμένη συνέντευξη αξιολόγησης κινδύνου αυτοκτονίας». Η τεχνητή νοημοσύνη παράγει μια καλή λίστα υπενθυμίσεων. Ο ειδικός το κρατά στην τσάντα του ως δίχτυ ασφαλείας. Εδώ, το AI δεν αγγίζει καθόλου τον πελάτη. Υποστηρίζει μόνο την προετοιμασία του ειδικού. Αυτό είναι το αποδεκτό όριο.
Αντιγράψιμα προτροπές και πρότυπα
Σημείωση: Κανένα από αυτά τα πρότυπα δεν πρέπει να χρησιμοποιείται σε μια ζωντανή κρίση με έναν πραγματικό πελάτη. Όλα εκτός συνεδρίας, για την προετοιμασία του ίδιου του ειδικού.
Ετοιμάστε μια γενική ΛΙΣΤΑ ΕΛΕΓΧΟΥ, ώστε ένας επαγγελματίας να μην ξεχάσει να ρωτήσει σε μια εκτίμηση κινδύνου (συχνότητα/ένταση σκέψης, σχέδιο, πρόσβαση στη μέθοδο, προστατευτικοί παράγοντες, ιστορικό, σύστημα υποστήριξης). Αυτή η λίστα είναι απλώς η υπενθύμιση του ίδιου του ειδικού. Η ΑΠΟΦΑΣΗ κινδύνου δεν δίνεται, δεν δίνεται στον πελάτη.
Σχεδιάστε ένα πρότυπο ΠΡΩΤΟΚΟΛΛΟΥ ΑΝΑΦΟΡΑΣ ΚΡΙΣΗΣ για τον οργανισμό μας: βήματα ενεργοποίησης/απενεργοποίησης, ποιος να καλέσετε, παραπομπή σε γραμμές έκτακτης ανάγκης, τεκμηρίωση. Οι ειδικοί και η διοίκηση μας θα το εξετάσουν και θα το εγκρίνουν σύμφωνα με την τοπική πραγματικότητα και νομοθεσία.
Ετοιμάστε ένα ΚΕΝΟ σχέδιο ενός προτύπου σχεδίου ασφάλειας: προειδοποιητικά σημάδια, στρατηγικές αντιμετώπισης, υποστήριξη ατόμων, επαγγελματική επικοινωνία, ασφάλεια του περιβάλλοντος. Ο ειδικός θα συμπληρώσει το περιεχόμενο πρόσωπο με πρόσωπο με τον πελάτη. Απλώς δίνετε το κενό πρότυπο.
Ρυθμίστε ένα ΦΑΝΤΑΣΤΙΚΟ σενάριο πρόβας (χωρίς πραγματικό πελάτη) για να βελτιώσω τις δεξιότητές μου στις συνεντεύξεις κρίσης. Επιτρέψτε μου να απαντήσω στον ρόλο του ειδικού μου και μετά να μου δώσετε εποικοδομητική ανατροφοδότηση για την προσέγγισή μου. Αυτή είναι μια πρόβα προπόνησης, όχι μια πραγματική υπόθεση.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή: "Αυτός ο πελάτης είπε: [φράσεις]. Υπάρχει υψηλός κίνδυνος αυτοκτονίας, τι πρέπει να κάνω;"
Αυτή η προτροπή αναθέτει την απόφαση κρίσης στην τεχνητή νοημοσύνη. Η τεχνητή νοημοσύνη δεν μπορεί να μετρήσει τον κίνδυνο, δεν μπορεί να αναλάβει την ευθύνη και αυτή η στιγμή απαιτεί ανθρώπινη παρέμβαση σε πραγματικό χρόνο. Αυτή η χρήση είναι επικίνδυνη.
Έντονη προτροπή: "Είμαι εκτός συνεδρίας, δεν υπάρχει πραγματικός πελάτης. Για να βελτιώσω τις δεξιότητές μου για την αξιολόγηση κινδύνου, φτιάξτε μια λίστα ως υπενθύμιση των περιοχών που δεν πρέπει να καλύψω σε μια συνέντευξη κινδύνου αυτοκτονίας. Η απόφαση και η παρέμβαση θα είναι δική μου ευθύνη στην πραγματική κατάσταση."
Αυτή η προτροπή χρησιμοποιεί την τεχνητή νοημοσύνη μόνο ως εργαλείο προετοιμασίας εκτός συνεδρίας. Η κρίση αφήνει την απόφαση στον άνθρωπο.
Συνήθη λάθη
- Ζητώντας από την AI απόφαση κρίσης. «Υπάρχει κίνδυνος;» συμβουλευτική τεχνητή νοημοσύνη? είναι να χάνεις την απόφαση και την ευθύνη.
- Κατευθύνοντας τον πελάτη σε κρίση στο bot. Ξεχνώντας ότι το chatbot δεν μπορεί να διαχειριστεί αξιόπιστα τον κίνδυνο.
- Λάθος της βαθμολογίας κινδύνου με πραγματικό. Αντικατάσταση εξόδου μηχανικού «επιπέδου κινδύνου» από AI για κλινική αξιολόγηση.
- Μετακίνηση του εργαλείου σταδιοποίησης σε ζωντανή χρήση. Χρήση της λίστας ελέγχου εκτός συνεδρίας σε μια ζωντανή κρίση σε συνεννόηση με την τεχνητή νοημοσύνη.
- Μη δημιουργία της αλυσίδας ανθρώπινης υποστήριξης. Βασιζόμενοι στην τεχνητή νοημοσύνη αντί για ένα πραγματικό σύστημα εμπειρογνωμόνων/γραμμών κρίσης για τις εκτός ωραρίου εργασίας στον οργανισμό.
Συνοπτικά
Ο κίνδυνος κρίσης, αυτοκτονίας και βλάβης είναι το πιο ξεκάθαρο όριο της ενότητας: σε αυτές τις στιγμές η τεχνητή νοημοσύνη δεν μπορεί να λάβει αποφάσεις, να μετρήσει τον κίνδυνο, να παρέμβει και να αναλάβει την ευθύνη. Επειδή μια κρίση απαιτεί εμπλοκή σε πραγματικό χρόνο, ολιστική κλινική κρίση, υπευθυνότητα και ανθρώπινη παρέμβαση. Ο μόνος αποδεκτός ρόλος για το AI είναι ως λίστα ελέγχου, σχέδιο πρωτοκόλλου/προτύπου και πρόβα εκπαίδευσης, ΕΞΩ από τη συνεδρία, υποστηρίζοντας την προετοιμασία του ίδιου του επαγγελματία. Ποτέ μην κατευθύνετε έναν πελάτη σε κρίση σε ένα chatbot. Η αλυσίδα ανθρώπινης υποστήριξης και οι τηλεφωνικές γραμμές είναι ενεργοποιημένες.
Εργασία εφαρμογής
Σχεδιάστε μια ροή δρομολόγησης κρίσης για το δικό σας ιατρείο ή οργανισμό: τι συμβαίνει βήμα προς βήμα όταν ένας πελάτης επιδεικνύει κίνδυνο, ποιος καλείται, σε ποιες γραμμές αναφέρονται; Επαληθεύστε ότι η τεχνητή νοημοσύνη δεν είναι ο λήπτης αποφάσεων σε κανένα βήμα αυτής της ροής. Τραβήξτε επίσης μια λίστα ελέγχου αξιολόγησης κινδύνου εκτός συνεδρίας από το AI και γράψτε με μία πρόταση γιατί είναι απλώς η υπενθύμισή σας και δεν μπορεί να δοθεί στον πελάτη.
λίστα ελέγχου
- [ ] Δεν έδωσα κανένα ρόλο απόφασης στην τεχνητή νοημοσύνη σε ζωντανή κρίση.
- [ ] Ανέλαβα άμεσα ο ίδιος την αξιολόγηση και την αντιμετώπιση της κρίσης.
- [ ] Δεν κατεύθυνα τον πελάτη σε κρίση στο chatbot.
- [ ] Χρησιμοποίησα τεχνητή νοημοσύνη μόνο για προετοιμασία εκτός συνεδρίας (λίστα ελέγχου/πρωτόκολλο/πρόβα).
- [ ] Καθόρισα την αλυσίδα εταιρικής ανθρώπινης υποστήριξης και τις ανοιχτές γραμμές επικοινωνίας.
- [ ] Έχω εσωτερικεύσει ότι η απόφαση και η ευθύνη για την κρίση ανήκει στο άτομο.