Κέρδη:
- Να είναι σε θέση να διακρίνει πού η τεχνητή νοημοσύνη εξοικονομεί πραγματικό χρόνο στην εργασία της ψυχικής υγείας και πού η κλινική ευθύνη και η αρχή διάγνωσης/απόφασης πρέπει να παραμείνουν στον άνθρωπο ειδικό, με βάση το επίπεδο κινδύνου
- Δυνατότητα εφαρμογής μιας πειθαρχίας επικύρωσης πολλαπλών επιπέδων που δοκιμάζει κάθε έξοδο τεχνητής νοημοσύνης σε σχέση με στοιχεία, πηγές και κλινική κρίση
- Η τεχνητή νοημοσύνη δεν είναι θεραπευτής, διαγνωστικός ή επόπτης. Να είστε σε θέση να εσωτερικεύσετε ένα σαφές πλαίσιο ότι οι άνθρωποι και η επείγουσα παρέμβαση είναι απαραίτητες σε περίπτωση κρίσης/κινδύνου.
Η ψυχολογία προσπαθεί να κατανοήσει τον πόνο, την ιστορία και τον εσωτερικό κόσμο ενός ατόμου. Είναι ένα επάγγελμα που βασίζεται στην εμπιστοσύνη, τη σχέση και την υπευθυνότητα. Ορισμένα μέρη αυτής της εργασίας (γράψιμο κειμένου, σάρωση πηγών, επεξεργασία πινάκων, προετοιμασία υλικού) μπορούν γρήγορα να αυτοματοποιηθούν. Ορισμένα εξαρτήματα δεν μπορούν ποτέ να μεταφερθούν σε μια μηχανή επειδή αγγίζουν τη ζωή ενός ανθρώπου. Η τεχνητή νοημοσύνη (τεχνητή νοημοσύνη για συντομία· λογισμικό που μαθαίνει μοτίβα από μεγάλες ποσότητες κειμένου και δημιουργεί νέο κείμενο, περιλήψεις ή κώδικα) είναι ένα ισχυρό βοήθημα σε αυτό το επάγγελμα: περιορίζοντας τις ώρες βιβλιογραφικής ανασκόπησης, σύνταξη έκθεσης, απλοποιώντας ένα ψυχοεκπαιδευτικό φυλλάδιο. Αλλά η τεχνητή νοημοσύνη δεν είναι θεραπευτής. Δεν γνωρίζει τον πελάτη, δεν αναλαμβάνει ευθύνες, δεν στέκεται δίπλα του σε περιόδους κρίσης και δεν τον θεωρεί υπεύθυνο ηθικά και νομικά.
Στόχος μας σε όλη αυτή την ενότητα είναι να σας κάνουμε επαγγελματία ψυχικής υγείας που επιβλέπει την τεχνητή νοημοσύνη και όχι επαγγελματία που εξαρτάται από την τεχνητή νοημοσύνη. Σε αυτήν την πρώτη ενότητα, θα μάθετε πού να χρησιμοποιείτε την τεχνητή νοημοσύνη στον τομέα της ψυχολογίας, πού πρέπει οπωσδήποτε να σταματήσετε και πώς να επικυρώνετε κάθε έξοδο.
Τι μπορεί και τι δεν μπορεί να κάνει η τεχνητή νοημοσύνη στην ψυχολογία
Η πραγματική δύναμη της τεχνητής νοημοσύνης είναι να δημιουργεί γλώσσα, μοτίβα και περιγράμματα. Ο σκελετός ενός σημειώματος συνεδρίας, ο χάρτης μιας περίληψης της βιβλιογραφίας, μια απογυμνωμένη έκδοση ενός ψυχοεκπαιδευτικού κειμένου, το περίγραμμα ενός ερωτηματολογίου έρευνας, η ευγενική γλώσσα ενός email ραντεβού. Όλα αυτά βγαίνουν σε δευτερόλεπτα. Σε αυτές τις εργασίες, η τεχνητή νοημοσύνη σας εξοικονομεί χρόνο και μειώνει το νοητικό φορτίο.
Αυτό που δεν μπορεί να κάνει η τεχνητή νοημοσύνη είναι η λήψη αποφάσεων που απαιτεί κλινική κρίση. Κάνοντας διάγνωση, αξιολόγηση κινδύνου, επιλογή σχεδίου θεραπείας, ανάγνωση εάν ένας πελάτης «γίνεται καλύτερος ή χειρότερος». Τίποτα από αυτά δεν μπορεί να γίνει με τη λογική του «έτσι συμβαίνει συνήθως». Η τεχνητή νοημοσύνη έχει ψευδαισθήσεις επειδή μαθαίνει από κείμενα στο Διαδίκτυο: έτσι μια πηγή που φαίνεται αληθινή αλλά δεν υπάρχει μπορεί να παράγει ένα ψεύτικο στατιστικό στοιχείο ή ένα κατασκευασμένο στοιχείο κλίμακας. Στην ψυχολογία, αυτό το είδος λάθους δεν είναι απλώς ένα τυπογραφικό λάθος. Σημαίνει έναν λανθασμένο πελάτη, μια επιβλαβή παρέμβαση ή μια ηθική παραβίαση.
Προσοχή: Η έξοδος AI είναι προσχέδιο, όχι κλινική γνώμη. Ζητήματα κρίσιμα για την ασφάλεια όπως η διάγνωση, η εκτίμηση κινδύνου και οι αποφάσεις θεραπείας λαμβάνονται με την κρίση και την ευθύνη ενός αρμόδιου ειδικού (ψυχολόγου, ψυχιάτρου). Το AI δεν αντικαθιστά αυτό το σκεπτικό.
Τρεις περιοχές ανάλογα με το επίπεδο κινδύνου
Ο πιο πρακτικός τρόπος για να χρησιμοποιήσετε την τεχνητή νοημοσύνη με ασφάλεια είναι να χωρίσετε κάθε εργασία σε τρεις ζώνες με βάση το επίπεδο κινδύνου. Αυτή η διάκριση συνοψίζεται στο "θα έπρεπε η AI να το κάνει αυτό;" Απαντάει σε ερωτήσεις γρήγορα και με ακρίβεια.
Περιφέρεια
Δείγματα εργασιών
Ο ρόλος του AI
Επίπεδο επαλήθευσης
Πράσινο (χαμηλού κινδύνου)
Ανώνυμη ψυχοεκπαιδευτική απλοποίηση κειμένου, email ραντεβού, αναζήτηση τίτλου βιβλιογραφίας, περίγραμμα παρουσίασης
δωρεάν παραγωγή
Γρήγορη αναθεώρηση
Κίτρινο (μέτριου κινδύνου)
Προσχέδιο σημειώματος συνεδρίας, γλωσσική εξήγηση για ερμηνεία κλίμακας, σχέδιο ανάλυσης έρευνας, πρόταση θεματικού κώδικα
Σχέδιο + πρόταση
Έλεγχος εμπειρογνωμόνων + επιβεβαίωση πηγής/δεδομένων
Κόκκινο (κρίσιμο για την ασφάλεια)
Διάγνωση, εκτίμηση κινδύνου αυτοκτονίας/κρίσης, απόφαση θεραπείας/φαρμάκου, ιατροδικαστική γνωμάτευση
Μόνο υπενθύμιση/λίστα ελέγχου
Η κρίση και η ευθύνη των αρμόδιων ειδικών είναι υποχρεωτικές
Να είσαι γρήγορος στην πράσινη ζώνη. Χρησιμοποιήστε AI στην κίτρινη ζώνη, αλλά επαληθεύστε κάθε πληροφορία, αριθμό και πηγή. Στην κόκκινη ζώνη, η τεχνητή νοημοσύνη δεν έχει ποτέ τον τελευταίο λόγο. Το πολύ, είναι μια υπενθύμιση που φέρνει ένα στοιχείο ελέγχου στο μυαλό του ειδικού.
τρεις μίνι θήκες
Περίπτωση 1 — Χρήση εξοικονόμησης χρόνου. Ένας σχολικός ψυχολόγος θα ετοιμάσει ένα ενημερωτικό φυλλάδιο με τίτλο «Άγχος δοκιμασίας σε εφήβους» για μια ομάδα 40 γονέων. Αν γραφτεί με το χέρι, θα χρειαζόταν περίπου 3 ώρες. Βάζοντας το AI να γράψει ένα ανώνυμο προσχέδιο, να ελέγχει μόνος του περιεχόμενο που βασίζεται σε στοιχεία και να επαληθεύει τις πηγές, ολοκληρώνει το φυλλάδιο σε 45 λεπτά. Περίπου 75% εξοικονόμηση χρόνου και είναι υπεύθυνος για το τελικό περιεχόμενο.
Περίπτωση 2 — Πού πρέπει να σταματήσει. Ένας ειδικός δίνει τις σημειώσεις 3 συνεδριών ενός πελάτη στην τεχνητή νοημοσύνη και ρωτά: "Έχει αυτό το άτομο οριακή διαταραχή προσωπικότητας;" ρωτάει. «Τα συμπτώματα είναι συνεπή», λέει με σιγουριά η AI. Ωστόσο, η τεχνητή νοημοσύνη δεν έχει δει τον πελάτη, δεν γνωρίζει το ιστορικό και δεν μπορεί να σταθμίσει τις διαφορικές διαγνώσεις. Εάν ο ειδικός χρησιμοποιήσει αυτό το αποτέλεσμα ως διάγνωση, θα κάνει ένα σοβαρό λάθος. Το πολύ, το αποτέλεσμα μπορεί να είναι μια υπενθύμιση με τη μορφή "αξιολογήστε αυτούς τους τομείς περαιτέρω στη συνέντευξη".
Περίπτωση 3 — Το κόστος της ψευδαίσθησης. Ένας ερευνητής ζητά 10 πηγές από την τεχνητή νοημοσύνη για την εισαγωγή της διατριβής του. Η τεχνητή νοημοσύνη παράγει 10 αναφορές. Όλα δείχνουν τυπικά τέλεια. Όταν ο ερευνητής ελέγχει, βλέπει ότι 4 από αυτά δεν υπάρχουν στην πραγματικότητα και 2 από αυτά αναθέτουν λάθος έτος/συγγραφέα στο πραγματικό άρθρο. Αυτό σημαίνει ότι το 60% των αναφορών είναι εσφαλμένες. Αν δεν είχε ελέγξει, θα είχε συμπεριλάβει ψεύτικες πηγές στη διατριβή του.
Πολυεπίπεδη πειθαρχία επαλήθευσης
Η επαλήθευση δεν είναι κάτι που πρέπει να αναβληθεί σκεπτόμενος "θα το κοιτάξω αργότερα", είναι μέρος της ροής εργασίας. Μια σταθερή επαλήθευση αποτελείται από πέντε επίπεδα:
- Επιστροφή στα στοιχεία. Εάν η τεχνητή νοημοσύνη έχει δώσει ένα εύρημα, μια βαθμολογία ή μια σύσταση, επαληθεύστε το με την κύρια πηγή (άρθρο με αξιολόγηση από ομοτίμους, επίσημος οδηγός, εγχειρίδιο κλίμακας).
- Δοκιμή με κλινική κρίση. Είναι το αποτέλεσμα πραγματικά σημαντικό για αυτόν τον πελάτη, αυτό το πλαίσιο και αυτήν την κουλτούρα; Ζυγίστε το με το δικό σας ειδικό μάτι.
- Συγκρίνετε με πολλαπλά δεδομένα. Μην βασίζεστε σε μία πρόταση, σε ένα μόνο σκορ ή σε ένα μόνο σύμπτωμα. Αφήστε την ιστορία, την παρατήρηση και τη μέτρηση να μιλήσουν μαζί.
- Φίλτρο δεοντολογίας και απορρήτου. Αυτό το αποτέλεσμα βλάπτει τον πελάτη, τον στιγματίζει, παραβιάζει την εμπιστευτικότητα;
- Αφήστε το σημάδι σας. Καταγράψτε ποια έξοδο επικυρώθηκε και πώς. Αφήστε το να ελεγχθεί αργότερα.
Υπόδειξη: Το "AI είπε" δεν είναι δικαιολογία. Το σκεπτικό για μια κλινική ή ερευνητική απόφαση είναι πάντα αποδεικτικά στοιχεία, μετρήσεις, επαγγελματικά πρότυπα ή κρίση ικανών ειδικών. Η τεχνητή νοημοσύνη σας βοηθά να προετοιμάσετε αυτές τις αιτιολογήσεις, δεν τις αντικαθιστά.
Αντιγράψιμα προτροπές και πρότυπα
Τα ακόλουθα πρότυπα διατηρούν την τεχνητή νοημοσύνη σε ασφαλή ρόλο. Συμπληρώστε τις αγκύλες με το δικό σας (ανώνυμο) πλαίσιο.
Ρόλος: Είστε βοηθός σύνταξης που βοηθάει μια ειδικότητα ψυχολογίας. Δεν κάνετε διάγνωση, εκτίμηση κινδύνου ή απόφαση θεραπείας. Το καθήκον σας είναι μόνο να συντάξετε το κείμενο και να μοιραστείτε τις σκέψεις σας. Σε περίπτωση αμφιβολίας, γράψτε "επαλήθευση εμπειρογνωμόνων". Εργασία: [εργασία]. Περιορισμοί: Ανώνυμα δεδομένα. καμία στιγματιστική γλώσσα. Εάν υπάρχει ισχυρισμός πηγής, σημειώστε "απαιτείται επιβεβαίωση".
Ελέγξτε το παρακάτω προσχέδιο από τρεις πτυχές και δώστε σχόλια ανά στοιχείο για καθεμία: 1) Προτάσεις που περιέχουν κλινικά λανθασμένους ή υπερβολικούς ισχυρισμούς, 2) Αξιώσεις χωρίς πηγή, παρόλο που απαιτούν πηγή, 3) Στιγματιστική ή επικριτική γλώσσα. Εάν δεν είστε σίγουροι για τη δική σας ακρίβεια, γράψτε "μη επαληθευμένο". Κείμενο: [κείμενο]
Τοποθετήστε την ακόλουθη εργασία στη ζώνη κινδύνου (πράσινη/κίτρινη/κόκκινη) και γράψτε τη λογική σε μία πρόταση. Στη συνέχεια, αναφέρετε τα βήματα επαλήθευσης που είναι κατάλληλα για αυτήν τη ζώνη. Εργασία: [περιγραφή εργασίας]
Ποιες δηλώσεις σε αυτό το κείμενο περιέχουν ένα γεγονός/στατιστικό ισχυρισμό; Καταχωρίστε το καθένα σε ξεχωριστή γραμμή ως "αξίωση για επαλήθευση". Θα το ελέγξω από την πρωτογενή πηγή. Κείμενο: [κείμενο]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή: "Ποια είναι η διάγνωση αυτού του πελάτη με βάση τα συμπτώματά του;"
Αυτή η προτροπή καλεί το AI να κάνει μια δουλειά που δεν μπορεί να κάνει (διάγνωση), δεν προστατεύει τα δεδομένα πελάτη και προσκαλεί μια σίγουρη αλλά ανακριβή έξοδο.
Ισχυρή προτροπή: "Ακολουθεί μια ανώνυμη περίληψη της συνέντευξης. ΜΗΝ κάνετε διάγνωση. Αντίθετα, προτείνετε ως λίστα ελέγχου τους τομείς που πρέπει να αξιολογήσω περαιτέρω στην κλινική συνέντευξη και τις ερωτήσεις που πρέπει να θυμηθώ να κάνω. Σημειώστε τα σημεία που δεν είστε σίγουροι."
Αυτή η προτροπή τοποθετεί το AI στον σωστό ρόλο (υπενθύμιση), προστατεύει τα δεδομένα και αφήνει την ευθύνη στον ειδικό.
Συνήθη λάθη
- Λάθος του σχεδίου για κλινική γνώμη. Η άπταιστη και σίγουρη γλώσσα του AI δεν αποτελεί απόδειξη της ακρίβειας. Η πιο πειστική πρόταση μπορεί να είναι η πιο λανθασμένη πρόταση.
- Παράδοση της κόκκινης ζώνης στην AI. Όταν η τεχνητή νοημοσύνη ζητά τη διάγνωση, τον κίνδυνο και τις αποφάσεις θεραπείας προσπαθεί να μεταθέσει την ευθύνη σε ένα λογισμικό. Αυτό είναι τόσο ηθικό όσο και νομικό λάθος.
- Παράβλεψη επαλήθευσης. Το να πεις "θα το ελέγξω ούτως ή άλλως" ή όχι είναι ο νούμερο ένα τρόπος που η ψευδαίσθηση μπαίνει στην αναφορά.
- Επικόλληση δεδομένων πελάτη χωρίς προστασία. Η παροχή πραγματικών ονομάτων και στοιχείων στην τεχνητή νοημοσύνη αποτελεί παραβίαση του απορρήτου (βλ. Ενότητα 2).
- Θέτοντας την AI ως επόπτη. Η τεχνητή νοημοσύνη κάνει πρόβα περιπτώσεων, αλλά ο πραγματικός έλεγχος, η λογοδοσία και η ηθική επίβλεψη είναι δουλειά του ανθρώπινου επόπτη.
Συνοπτικά
Στην ψυχολογία, η τεχνητή νοημοσύνη είναι ένα ισχυρό βοήθημα που δημιουργεί γλώσσα και περιγράμματα, αλλά δεν είναι θεραπευτής, διαγνωστικός ή επόπτης. Διαχωρίστε κάθε εργασία σε μια πράσινη/κίτρινη/κόκκινη ζώνη κινδύνου. Στην κόκκινη ζώνη (διάγνωση, κρίση, θεραπεία) η κλινική κρίση και η ευθύνη παραμένουν πάντα στον άνθρωπο ειδικό. Κοσκινίστε κάθε αποτέλεσμα μέσα από στρώματα αποδεικτικών στοιχείων, κλινική κρίση, πολλαπλά δεδομένα, ηθικά φίλτρα και ιχνηλασιμότητα. Το "AI είπε" δεν είναι ποτέ δικαιολογία.
Εργασία εφαρμογής
Γράψτε 6 τυπικές εργασίες από τη δική σας πρακτική (ή μια φανταστική πρακτική): π.χ. email ραντεβού, προσχέδιο σημειώματος συνεδρίας, διαγνωστική ερώτηση, αξιολόγηση κρίσης, βιβλιογραφία, ψυχοεκπαιδευτικό φυλλάδιο. Τοποθετήστε το καθένα στην πράσινη/κίτρινη/κόκκινη ζώνη και γράψτε έναν κανόνα επικύρωσης μιας πρότασης για το καθένα. Το τελικό αποτέλεσμα είναι ο δικός σας "χάρτης κινδύνου AI".
λίστα ελέγχου
- [ ] Τοποθέτησα την εργασία στην πράσινη/κίτρινη/κόκκινη ζώνη.
- [ ] Δεν άφησα καμία απόφαση στην κόκκινη ζώνη στην AI.
- [ ] Ανωνυμοποίησα τα δεδομένα πελάτη.
- [ ] Έγραψα ξεκάθαρα το όριο "διαγνωστικής/αξιολόγησης κινδύνου" για την τεχνητή νοημοσύνη.
- [ ] Πέρασα την έξοδο μέσα από πέντε επίπεδα επικύρωσης.
- [ ] Αποδέχτηκα ότι ήμουν υπεύθυνος για το τελικό περιεχόμενο και άφησα το στίγμα μου.