Ενσωμάτωση από άκρο σε άκρο: Πολιτική χρήσης ηθικής τεχνητής νοημοσύνης

Κέρδη:

• Δυνατότητα δημιουργίας γραπτής, εφαρμοστέας πολιτικής χρήσης τεχνητής νοημοσύνης και ροής αποφάσεων για μια πρακτική ή ίδρυμα ψυχολογίας
• Δυνατότητα συνδυασμού ορίων, επαλήθευσης, απορρήτου και μεροληψίας που έχουν μάθει σε ολόκληρη την ενότητα σε ένα ενιαίο σύστημα ελέγχου
• Ικανότητα να εξηγεί με διαφάνεια τη χρήση της τεχνητής νοημοσύνης στον πελάτη και να διατηρεί επαγγελματική ηθική και υπευθυνότητα

Σε όλη αυτή την ενότητα, μάθατε πώς να χρησιμοποιείτε την τεχνητή νοημοσύνη (AI) σε διάφορα μέρη της ψυχολογικής εργασίας: ανασκόπηση βιβλιογραφίας, υποστήριξη ερμηνείας κλίμακας, σήμανση συνεδρίας, ψυχοεκπαίδευση, ανάλυση έρευνας, έλεγχος μεροληψίας, σκληρή άκρη της κρίσης, ψηφιακά εργαλεία και επαγγελματική ανάπτυξη. Υπήρχαν τρεις επαναλαμβανόμενες αρχές σε κάθε ενότητα: όριο, επαλήθευση, εμπιστευτικότητα. Σε αυτήν την τελευταία ενότητα, θα αποστάξουμε αυτές τις αρχές σε ένα ενιαίο σύστημα: μια γραπτή και εφαρμόσιμη πολιτική χρήσης τεχνητής νοημοσύνης. Μια πολιτική δεν είναι μια ασαφής πρόθεση όπως "προσπαθώ να χρησιμοποιήσω την τεχνητή νοημοσύνη για τα καλά". Είναι ένα σύνολο συγκεκριμένων κανόνων που όλοι ακολουθούν, που μπορούν να ελεγχθούν και για τους οποίους μπορείτε να είστε υπόλογοι στον πελάτη. Είτε εργάζεστε μόνοι σας είτε σε ένα ίδρυμα, αυτή η πολιτική είναι ένα πλαίσιο που προστατεύει τόσο εσάς όσο και τον πελάτη σας.

Γιατί μια γραπτή πολιτική είναι απαραίτητη

Οι άγραφοι κανόνες εφαρμόζονται με ασυνέπεια. Μια μέρα ανωνυμοποιεί τα δεδομένα, μια κουραστική μέρα μπορείτε να τα ξεχάσετε. Ενώ ένας ειδικός μπορεί να χρησιμοποιήσει σωστά την τεχνητή νοημοσύνη, ένας συνάδελφος μπορεί να τη χρησιμοποιήσει εσφαλμένα. Η γραπτή πολιτική διασφαλίζει τρία πράγματα: συνέπεια (όλοι ακολουθούν τους ίδιους κανόνες), υπευθυνότητα (αν κάτι πάει στραβά, είναι ξεκάθαρο τι έγινε και πώς) και διαφάνεια (μπορείτε να εξηγήσετε ξεκάθαρα στον πελάτη πώς χρησιμοποιείτε την τεχνητή νοημοσύνη). Όσον αφορά την επαγγελματική δεοντολογία και το KVKK, το "Χρησιμοποιήσαμε τεχνητή νοημοσύνη αλλά δεν καταγράψαμε πώς το ελέγξαμε" είναι μια αβάσιμη θέση.

Προσοχή: Μια πολιτική τεχνητής νοημοσύνης υπάρχει για να διατηρήσει τα όρια και όχι για να τα χαλαρώσει. Ρήτρες όπως "Χαλαρώστε το απόρρητο για ταχύτητα", "Ανακατεύθυνση σε bot σε περίπτωση έκτακτης ανάγκης" περιγράφουν μια πηγή κινδύνου και όχι μια πολιτική. Η καλή πολιτική θεσμοθετεί τον σωστό τρόπο, όχι τον εύκολο τρόπο.

Έξι βασικά στοιχεία μιας πολιτικής

συστατικό

Αυτό που ορίζει

Βάση στη μονάδα

Τομείς χρήσης

Σε ποιες εργασίες χρησιμοποιείται η τεχνητή νοημοσύνη (πράσινη/κίτρινη ζώνη)

Ενότητα 1

απαγορευμένες περιοχές

Όπου η τεχνητή νοημοσύνη δεν θα χρησιμοποιηθεί ποτέ (διάγνωση, απόφαση κρίσης)

Ενότητα 1, 4, 9

Κανόνας δεδομένων

Ανωνυμοποίηση και επιλογή εργαλείου

Ενότητα 2

κανόνα επικύρωσης

Πώς να επιβεβαιώσετε κάθε έξοδο

Ενότητα 3, 5, 7

Προκατάληψη και γλώσσα

Δικαιοσύνη και έλεγχος στίγματος

Ενότητα 8

διαφάνεια

Πώς να ενημερώσετε τον πελάτη

Ενότητα 2, 12

Βήμα προς βήμα: διαμορφώνοντας τη δική σας πολιτική

1. Δημιουργήστε ένα απόθεμα εργασιών. Καταγράψτε όλες τις εργασίες για τις οποίες η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί στην πράξη. τοποθετήστε το καθένα στην πράσινη/κίτρινη/κόκκινη ζώνη.
2. Διευκρινίστε τη λίστα απαγόρευσης. Γράψτε ξεκάθαρα την κόκκινη ζώνη (διάγνωση, απόφαση κινδύνου, παρέμβαση σε κρίση, απόφαση θεραπείας/φαρμακευτικής αγωγής) ως απαγορευμένη.
3. Γράψτε τον κανόνα δεδομένων. Ποια δεδομένα είναι ανώνυμα, ποια εργαλεία εγκρίνονται, ποιες ρυθμίσεις είναι υποχρεωτικές.
4. Καθορίστε τα βήματα επαλήθευσης. Γράψτε υποχρεωτικά βήματα επιβεβαίωσης για κάθε τύπο εξόδου (πηγή, σημειώσεις, ανάλυση).
5. Προετοιμάστε κείμενο διαφάνειας. Συμπεριλάβετε τη χρήση AI στο κείμενο διαφώτισης του πελάτη σας.
6. Ρυθμίστε ένα πρόγραμμα ελέγχου. Ενημερώστε την πολιτική περιοδικά (π.χ. κάθε 6 μήνες). Αλλαγή τεχνολογίας και νομοθεσίας.

Συμβουλή: Ο καλύτερος τρόπος για να δοκιμάσετε την πολιτική σας είναι να εκτελέσετε τις εργασίες μιας πραγματικής ημέρας μέσω της πολιτικής μία προς μία. Για κάθε εργασία, "ακολούθησα αυτόν τον κανόνα;" Εάν μπορείτε να απαντήσετε με σαφήνεια στην ερώτηση, η πολιτική λειτουργεί. Εάν πείτε "ανάλογα με την κατάσταση", αυτή η ρήτρα θα πρέπει να γραφτεί πιο καθαρά.

Διαφάνεια στον πελάτη

Ο πελάτης έχει το δικαίωμα να γνωρίζει τι ρόλο παίζει η τεχνητή νοημοσύνη στη διαδικασία του. Αλλά αυτό πρέπει να εξηγηθεί με ειλικρίνεια, χωρίς να τρομάζει τον πελάτη: "Χρησιμοποιώ εργαλεία τεχνητής νοημοσύνης σε ορισμένες διοικητικές και προσχέδια εργασίες (όπως επεξεργασία σημειώσεων, προετοιμασία υλικού), ανωνυμοποιώ τα δεδομένα σας και πάντα παίρνω αποφάσεις διάγνωσης, αξιολόγησης και θεραπείας." Αυτή η δήλωση είναι τόσο ηθική υποχρέωση όσο και ειλικρίνεια για την οικοδόμηση εμπιστοσύνης. Εάν ο πελάτης έχει αντίρρηση, η επιλογή του/της γίνεται σεβαστή.

τρεις μίνι θήκες

Περίπτωση 1 — Προστασία του ασφαλιστηρίου. Ένας νέος ασκούμενος σε μια κλινική πρόκειται να επικολλήσει μια σημείωση πελάτη σε ένα εργαλείο τεχνητής νοημοσύνης χωρίς να την ανωνυμοποιήσει. Δεδομένου ότι η γραπτή πολιτική της κλινικής ορίζει ότι "τα ανεπεξέργαστα δεδομένα πελατών δεν εισάγονται σε κανένα εργαλείο τεχνητής νοημοσύνης, είναι πρώτα ανώνυμα" και αυτή η πολιτική υπογράφεται στην αρχή της εργασίας, ο ασκούμενος σταματά και κάνει το σωστό βήμα. Χωρίς την πολιτική, θα υπήρχε παραβίαση του απορρήτου. Ο γραπτός κανόνας είναι το δίχτυ ασφαλείας που μπαίνει στο παιχνίδι όταν ξεχνιούνται οι καλές προθέσεις.

Περίπτωση 2 — Η διαφάνεια οικοδομεί εμπιστοσύνη. Στην πρώτη συνάντηση, ένας ειδικός εξηγεί με ειλικρίνεια τη χρήση του AI στον πελάτη του: τι χρησιμοποιεί, πώς προστατεύονται τα δεδομένα, οι αποφάσεις είναι δικές του. Ο πελάτης είναι νευρικός στην αρχή, αλλά όταν ακούει την εξήγηση χαλαρώνει και αυξάνεται η αυτοπεποίθησή του. Η διαφάνεια λειτουργεί ως ειλικρίνεια που οικοδομεί εμπιστοσύνη, όχι ως αδυναμία που πρέπει να κρυφτεί.

Περίπτωση 3 — Απαγορευμένη ενεργοποίηση λίστας. Στο τέλος μιας κουραστικής ημέρας, ένας ειδικός θέλει να ζητήσει από το AI να «ρωτήσει» για τον κίνδυνο ενός πελάτη. Το άρθρο της πολιτικής του ιδρύματος, «οι αποφάσεις κρίσης και κινδύνου δεν μπορούν να ζητηθούν από την τεχνητή νοημοσύνη· ο εμπειρογνώμονας το αξιολογεί άμεσα και εάν είναι απαραίτητο, ζητείται η γνώμη εποπτείας / γραμμής έκτακτης ανάγκης». Ο ειδικός σταματά και κάνει το σωστό. Η λίστα απαγόρευσης της πολιτικής είναι μια άγκυρα που σας υπενθυμίζει τη σωστή απόφαση ακόμα και την πιο κουρασμένη στιγμή.

Αντιγράψιμα προτροπές και πρότυπα

Σχεδιάστε μια ΠΟΛΙΤΙΚΗ ΧΡΗΣΗΣ ΤΕΧΝΗΣ ΝΟΗΜΟΣΥΝΗΣ για μια πρακτική ψυχολογίας. Ας έχουμε τις ακόλουθες έξι ενότητες: 1) επιτρεπόμενες περιοχές χρήσης, 2) απαγορευμένες περιοχές (διάγνωση, απόφαση κρίσης, απόφαση θεραπείας), 3) κανόνας δεδομένων/ανωνυμοποίησης, 4) βήματα επαλήθευσης, 5) μεροληψία και έλεγχος γλώσσας, 6) διαφάνεια στον πελάτη. Γράψτε τους κανόνες με σαφήνεια και επιβολή. προσθέτοντας ουσία που χαλαρώνει τα όρια.

Διαχωρίστε την ακόλουθη λίστα εργασιών σε μια πράσινη/κίτρινη/κόκκινη ζώνη κινδύνου και γράψτε έναν κανόνα πολιτικής μιας πρότασης για καθεμία (ποιος το κάνει, πώς επαληθεύεται). Αποστολές: [λίστα εργασιών]

Γράψτε μια παράγραφο που θα προστεθεί στο κείμενο πληροφοριών πελάτη, εξηγώντας τη χρήση της τεχνητής νοημοσύνης με ειλικρίνεια και χωρίς εκφοβισμό: σε ποιες εργασίες χρησιμοποιείται, εάν τα δεδομένα είναι ανώνυμα, ότι οι αποφάσεις διάγνωσης/θεραπείας ανήκουν στον ειδικό και το δικαίωμα του πελάτη να αντιταχθεί.

Ελέγξτε αυτό το προσχέδιο πολιτικής χρήσης τεχνητής νοημοσύνης: προστατεύει επαρκώς τα όρια, είναι σαφείς οι απαγορευμένες περιοχές, έχουν ολοκληρωθεί τα βήματα απορρήτου και ελέγχου ταυτότητας, υπάρχει διαφάνεια πελάτη; Επισημάνετε αδύναμα ή επικίνδυνα αντικείμενα. Πολιτική: [πρόχειρο]

Αδύναμη προτροπή / Ισχυρή προτροπή

Αδύναμο μήνυμα: "Γράψτε μας μια πολιτική που θα διευκολύνει τη χρήση της τεχνητής νοημοσύνης."

Η έμφαση στην «ενεργοποίηση» ωθεί την τεχνητή νοημοσύνη να προτείνει ρήτρες που χαλαρώνουν τα όρια. λαμβάνοντας υπόψη ότι σκοπός της πολιτικής δεν είναι η ευκολία αλλά η προστασία και η λογοδοσία.

Ισχυρή προτροπή: "Σχεδιάστε μια πολιτική χρήσης τεχνητής νοημοσύνης που να διατηρεί τα όρια, να οριοθετεί ξεκάθαρα τις απαγορευμένες περιοχές (διάγνωση, κρίση, απόφαση θεραπείας), να απαιτεί βήματα εμπιστευτικότητας και επαλήθευσης και να περιλαμβάνει διαφάνεια στον πελάτη. Ο στόχος δεν είναι να χαλαρώσει η χρήση, αλλά να γίνει ασφαλής και υπόλογη."

Αυτή η προτροπή κατευθύνει την πολιτική στον σωστό στόχο (προστασία). Η έξοδος γίνεται ένα ελεγχόμενο πλαίσιο.

Συνήθη λάθη

• Δεν γράφω καθόλου πολιτική. Λαμβάνοντας υπόψη τους κανόνες και εφαρμόζοντάς τους με ασυνέπεια. Αυτό είναι το πιο συνηθισμένο λάθος.
• Θέτοντας μια ρήτρα που χαλαρώνει τα όρια. Εισαγωγή κανόνων όπως "Χαλαρώστε το απόρρητο για ταχύτητα" στην πολιτική.
• Αφήνοντας ασαφή την απαγορευμένη λίστα. Δεν γράφουμε ξεκάθαρα ότι απαγορεύονται οι αποφάσεις διάγνωσης/κρίσης/θεραπείας.
• Παράλειψη διαφάνειας. Καθόλου ενημέρωση του πελάτη για τη χρήση του AI.
• Χωρίς ενημέρωση της πολιτικής. Συνεχίζοντας με τους παλιούς κανόνες καθώς η τεχνολογία και η νομοθεσία αλλάζουν.

Συνοπτικά

Οι τρεις αρχές αυτής της ενότητας (όριο, έλεγχος ταυτότητας, απόρρητο) συνδυάζονται σε μια γραπτή, εφαρμοστέα πολιτική χρήσης τεχνητής νοημοσύνης. Μια καλή πολιτική περιλαμβάνει έξι στοιχεία: επιτρεπόμενες περιοχές χρήσης, απαγορευμένες περιοχές (διάγνωση, κρίση, απόφαση θεραπείας), κανόνας δεδομένων/ανωνυμοποίησης, βήματα επαλήθευσης, προκατάληψη και έλεγχος γλώσσας, διαφάνεια στον πελάτη. Η πολιτική υπάρχει για να διατηρεί τα όρια, όχι για να τα χαλαρώνει. Παρέχει συνέπεια, υπευθυνότητα και διαφάνεια. Εξηγήστε ειλικρινά τη χρήση της τεχνητής νοημοσύνης στον πελάτη και ενημερώστε την πολιτική τακτικά. Το AI επιταχύνει. Η ευθύνη, η απόφαση και η ηθική είναι πάντα δικά σας.

Εργασία εφαρμογής

Γράψτε μια μονοσέλιδη πολιτική χρήσης τεχνητής νοημοσύνης για το δικό σας ιατρείο ή ίδρυμα. Συμπληρώστε και τα έξι στοιχεία (επιτρεπόμενα πεδία, απαγορευμένα πεδία, κανόνας δεδομένων, επαλήθευση, προκατάληψη/γλώσσα, διαφάνεια). Στη συνέχεια, εκτελέστε 5 εργασίες από την πραγματική εργάσιμη ημέρα σας μέσω αυτής της πολιτικής μία προς μία και ρωτήστε "ακολούθησα τον κανόνα;" για το καθένα. Ελέγξτε εάν μπορείτε να απαντήσετε με σαφήνεια στην ερώτηση. Γράψτε πιο καθαρά τα στοιχεία που δεν μπορείτε να απαντήσετε καθαρά.

λίστα ελέγχου

• [ ] Έχω ορίσει γραπτώς τις επιτρεπόμενες και απαγορευμένες περιοχές χρήσης.
• [ ] Έγραψα ξεκάθαρα ότι οι αποφάσεις διάγνωσης, κρίσης και θεραπείας απαγορεύονται.
• [ ] Ορίζω τα δεδομένα/ανωνυμοποίηση και τον εγκεκριμένο κανόνα οχήματος.
• [ ] Έγραψα τα βήματα επαλήθευσης για κάθε τύπο εξόδου.
• [ ] Πρόσθεσα την προκατάληψη και τον έλεγχο γλώσσας στην πολιτική.
• [ ] Ετοίμασα το κείμενο διαφάνειας για τον πελάτη και όρισα ένα πρόγραμμα ελέγχου.

Εξέταση Ενοτήτων

1. Ένας ψυχολόγος γράφει τα συμπτώματα που περιγράφει ο πελάτης του στην τεχνητή νοημοσύνη και ρωτά: "Τι διάγνωση έχει αυτός ο πελάτης;" ρωτάει. Ποια είναι η πιο σωστή προσέγγιση;

• Α) Χρήση τεχνητής νοημοσύνης μόνο για να προτείνει πιθανές έννοιες. Κάνοντας τη διάγνωση μέσω κλινικής συνέντευξης, ιστορικού και δικής σας κρίσης ✔
• Β) Εγγραφή της διάγνωσης που δίνεται από την τεχνητή νοημοσύνη απευθείας στην αναφορά
• Γ) Αν η τεχνητή νοημοσύνη δώσει την ίδια διάγνωση πολλές φορές, θεωρείται οριστική.
• Δ) Συντόμευση της συνέντευξης και στήριξη στην τεχνητή νοημοσύνη για την επιτάχυνση της διάγνωσης

Περιγραφή: Η διάγνωση είναι μια κρίσιμη για την ασφάλεια κλινική απόφαση και απαιτεί πολλαπλά δεδομένα, κλινική συνέντευξη, ιστορικό και κρίση. Η τεχνητή νοημοσύνη μπορεί να είναι χρήσιμη για να προτείνει πιθανές έννοιες, αλλά η διάγνωση γίνεται με την κλινική κρίση του αρμόδιου ειδικού (ψυχολόγου/ψυχιάτρου). Η έξοδος AI δεν αντικαθιστά αυτήν την απόφαση.

2. Θέλετε να συνοψίσετε την εγγραφή της περιόδου σύνδεσης του πελάτη σε ένα εργαλείο τεχνητής νοημοσύνης που βασίζεται σε σύννεφο. Ποιο είναι το πρώτο πράγμα που πρέπει να κάνετε όσον αφορά το KVKK και το επαγγελματικό απόρρητο;

• Α) Επικόλληση της εγγραφής ως έχει, με πραγματικό όνομα και στοιχεία
• Β) Ανωνυμοποίηση περιεχομένου, παρακολούθηση της πολιτικής απορρήτου/δεδομένων του εργαλείου και τήρηση του πλαισίου συναίνεσης ✔
• Γ) Συντομεύστε μόνο το επώνυμο του πελάτη και αφήστε τα υπόλοιπα ως έχουν.
• Δ) Αν και το απόρρητο είναι σημαντικό, η κοινή χρήση όλων των δεδομένων για ταχύτητα

Επεξήγηση: Τα δεδομένα πελάτη είναι ειδικά προσωπικά δεδομένα. Πριν δοθούν στο εργαλείο cloud, οι πληροφορίες αναγνώρισης όπως το όνομα, η τοποθεσία, η ημερομηνία και ο χώρος εργασίας θα πρέπει να είναι ανώνυμες. Εάν είναι δυνατόν, θα πρέπει να χρησιμοποιείται περιεχόμενο που δεν έχει ταυτοποιηθεί και θα πρέπει να διασφαλίζεται ότι το εργαλείο δεν χρησιμοποιεί τα δεδομένα για εκπαίδευση. Επιπλέον, πρέπει να τηρείται η ενημερωμένη συγκατάθεση του πελάτη.

3. Η τεχνητή νοημοσύνη λέει σε μια περίληψη του άρθρου ότι "Το μέγεθος της επίδρασης σε αυτήν τη μελέτη του 2019 βρέθηκε ότι είναι d = 0,82", αλλά δεν μπορείτε να βρείτε αυτό το άρθρο. Τι πρέπει να κάνετε;

• Α) Χρησιμοποιώντας την απόδοση ως έχει επειδή η τεχνητή νοημοσύνη είναι αξιόπιστη
• Β) Γράψιμο του αριθμού χωρίς να ψάχνω την πηγή γιατί φαίνεται λογικό
• Γ) Αγνοήστε τον ισχυρισμό μέχρι να επιβεβαιώσουμε την πηγή και το μέγεθος εφέ από το κύριο κείμενο ✔
• Δ) Ρωτήστε μια άλλη τεχνητή νοημοσύνη και αποδεχτείτε την αν έχει τον ίδιο αριθμό

Εξήγηση: Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει αναφορές, συγγραφείς ή αριθμούς που φαίνονται αληθινοί αλλά δεν υπάρχουν (ψευδαίσθηση). Δεν χρησιμοποιείται πηγή που δεν μπορεί να βρεθεί ή μέγεθος εφέ που δεν μπορεί να επαληθευτεί. Η αξίωση θεωρείται άκυρη έως ότου επιβεβαιωθεί από την κύρια πηγή.

4. Ένας πελάτης αναφέρει ότι έχει αυτοκτονικές σκέψεις κατά τη διάρκεια μιας συνεδρίας. Ποιος πρέπει να είναι ο ρόλος της τεχνητής νοημοσύνης σε αυτή την κατάσταση;

• Α) Η τεχνητή νοημοσύνη θα πρέπει να αξιολογεί τον κίνδυνο και να μεταφέρει το σχέδιο ασφάλειας στον πελάτη
• Β) Ο πελάτης θα πρέπει να κατευθυνθεί στο chat bot τεχνητής νοημοσύνης
• Γ) Η τεχνητή νοημοσύνη θα πρέπει να ρυθμιστεί ώστε να καλεί αυτόματα την υπηρεσία έκτακτης ανάγκης
• Δ) Η απόφαση και η παρέμβαση ανήκει στον πραγματογνώμονα. Η τεχνητή νοημοσύνη δεν μπορεί να αξιολογήσει τον κίνδυνο, η κρίση είναι ανθρώπινη ευθύνη ✔

Περιγραφή: Ο κίνδυνος αυτοκτονίας και κρίσης είναι μια κρίσιμη για την ασφάλεια κατάσταση που απαιτεί κλινική αξιολόγηση, δέσμευση και υπευθυνότητα σε πραγματικό χρόνο. Η τεχνητή νοημοσύνη δεν μπορεί να λαμβάνει αποφάσεις, να αξιολογεί τον κίνδυνο και να παρεμβαίνει. Ο ειδικός παρεμβαίνει άμεσα. Εάν είναι απαραίτητο, ενεργοποιούνται οι τηλεφωνικές γραμμές και η αλυσίδα ανθρώπινης υποστήριξης. Στην καλύτερη περίπτωση, η τεχνητή νοημοσύνη μπορεί να χρησιμεύσει ως υπενθύμιση στον ειδικό εκτός της συνεδρίας.

5. Ποιος κίνδυνος είναι πιο κρίσιμος σε ένα ψυχοεκπαιδευτικό φυλλάδιο που παράγεται με τεχνητή νοημοσύνη;

• Α) Εσφαλμένες/στιγματιστικές πληροφορίες που οδηγούν τον πελάτη σε αυτοδιάγνωση και θεραπεία ✔
• Β) Κακή οπτική σχεδίαση του φυλλαδίου
• Γ) Το φυλλάδιο είναι πολύ μεγάλο
• Δ) Η γραμματοσειρά είναι μικρή

Εξήγηση: Όταν το ψυχοεκπαιδευτικό υλικό βρίσκεται στα χέρια του πελάτη, μπορεί να μετατραπεί σε εργαλείο αυτοδιάγνωσης και θεραπείας και λανθασμένες ή στιγματιστικές πληροφορίες μπορεί να προκαλέσουν βλάβη. Ως εκ τούτου, το υλικό πρέπει να επαληθευτεί εμπειρογνώμονα για αποδεικτικά στοιχεία, ασφάλεια και σωστή πλαισίωση. Θα πρέπει να προστεθεί η προειδοποίηση "αυτές οι πληροφορίες δεν υποκαθιστούν την επαγγελματική κρίση".

6. Λαμβάνετε υποστήριξη θεματικής κωδικοποίησης από την τεχνητή νοημοσύνη στα ποιοτικά ερευνητικά σας δεδομένα (μεταγραφές συνεντεύξεων). Ποια είναι η πιο υγιεινή προσέγγιση;

• Α) Αναφορά των κωδικών που παράγονται από την τεχνητή νοημοσύνη ως τελική ανάλυση
• Β) Επαληθεύστε, διορθώστε και διασφαλίστε την αξιοπιστία θεωρώντας τους κωδικούς ως αρχικά προσχέδια και διαβάζοντας τα δεδομένα ✔
• Γ) Αφήνοντας ολοκληρωτικά την ανάλυση στην τεχνητή νοημοσύνη και μη διαβάζοντας καθόλου τα δεδομένα
• Δ) Να μην κάνεις το δικό σου διάβασμα γιατί δίνει θέματα τεχνητής νοημοσύνης

Περιγραφή: Η τεχνητή νοημοσύνη παρέχει ταχύτητα στην παραγωγή αρχικών προτάσεων κώδικα και περιγραμμάτων θεμάτων, αλλά η ποιοτική ανάλυση απαιτεί ερμηνευτική κρίση από τον ερευνητή. Οι κωδικοί τεχνητής νοημοσύνης είναι η αρχή. Ο ερευνητής διαβάζει όλα τα δεδομένα, επαληθεύει και διορθώνει τους κωδικούς και παρατηρεί την αξιοπιστία μεταξύ των κωδικοποιητών. Επιπλέον, η μεταγραφή πρέπει να είναι ανώνυμη.

7. Γιατί η μεροληψία είναι ένας σημαντικός κίνδυνος από την άποψη της ψυχολογίας στα μοντέλα τεχνητής νοημοσύνης;

• Α) Η προκατάληψη είναι απλώς ένα τεχνικό ζήτημα, όχι κλινικά σχετικό
• Β) Η προκατάληψη έχει επιλυθεί πλήρως στα σύγχρονα μοντέλα
• Γ) Τα αποτελέσματα των μοντέλων μπορεί να παραμορφώνονται ανάλογα με την καλλιέργεια/φύλο/διάγνωση και μπορεί να παραπλανήσουν και να βλάψουν την αξιολόγηση ✔
• Δ) Η προκατάληψη εμφανίζεται μόνο σε μοντέλα που παράγουν εικόνες

Περιγραφή: Επειδή τα μοντέλα εκπαιδεύονται συχνά σε δεδομένα από συγκεκριμένους πολιτισμούς και γλώσσες, ενδέχεται να φέρουν προκαταλήψεις διαγνωστικών, πολιτισμικών και φύλου. μπορεί να διαβάσει ένα σύμπτωμα ως «φυσιολογικό» σε μια ομάδα και «παθολογικό» σε μια άλλη ομάδα ή να δημιουργήσει στιγματιστική γλώσσα. Αυτό μπορεί να στρεβλώσει και να βλάψει την αξιολόγηση. Τα αποτελέσματα θα πρέπει να ελέγχονται για διαφορετικές ομάδες και πολιτισμούς.

8. Σκέφτεστε να προτείνετε ένα θεραπευτικό chat bot στον πελάτη σας. Τι πρέπει να κάνετε πρώτα;

• Α) Συνιστάται άμεσα επειδή είναι δημοφιλές
• Β) Λέγοντας ότι το bot μπορεί να αντικαταστήσει τη θεραπεία και μειώνοντας τις συνεδρίες
• Γ) Πρόταση στον πελάτη να εμπιστευτεί το bot σε περίπτωση κρίσης.
• Δ) Ελέγξτε τα αποδεικτικά στοιχεία, την ασφάλεια, το απόρρητο και την κλινική καταλληλότητα και τοποθετήστε το bot ως περιορισμένο συμπλήρωμα ✔

Επεξήγηση: Πριν προτείνετε ένα ψηφιακό εργαλείο ψυχικής υγείας, θα πρέπει να επανεξεταστεί η βάση αποδεικτικών στοιχείων, η ασφάλεια (διαχείριση κρίσεων), η πολιτική απορρήτου/δεδομένων και η καταλληλότητά του στην κλινική κατάσταση του πελάτη. Το bot δεν πρέπει να τοποθετείται ως υποκατάστατο της ανθρώπινης θεραπείας, αλλά ως περιορισμένο συμπλήρωμα και θα πρέπει να εξηγείται ξεκάθαρα στον πελάτη ότι είναι ανεπαρκές σε καταστάσεις κρίσης.

9. Η AI δημιούργησε ένα προσχέδιο σημειώσεων συνόδου. Ποιο είναι το πιο σημαντικό βήμα που πρέπει να κάνετε πριν χρησιμοποιήσετε αυτό το περίγραμμα;

• Α) Επαληθεύστε το προσχέδιο συγκρίνοντάς το με αυτό που πραγματικά συνέβη στη συνεδρία, διορθώστε το περιεχόμενο που έχει κατασκευαστεί/ λείπει και αναλάβετε την ευθύνη ✔
• Β) Αποθήκευση του σχεδίου στο αρχείο ως έχει
• Γ) Υποθέτοντας ότι το προσχέδιο είναι σωστό γιατί είναι γραμμένο με ευχέρεια
• Δ) Ζητήστε από τον πελάτη να εγκρίνει το προσχέδιο και να το χρησιμοποιήσει χωρίς αλλαγές.

Επεξήγηση: Το προσχέδιο της τεχνητής νοημοσύνης μπορεί να προσθέσει σημαντικές πληροφορίες που παραλείφθηκαν, να κάνει δηλώσεις που δεν ειπώθηκαν στην πραγματικότητα (ψευδαίσθηση) ή να παρέχει κλινικά εσφαλμένο πλαίσιο. Ο ειδικός συγκρίνει το προσχέδιο με αυτό που πραγματικά συνέβη στη συνεδρία, το επαληθεύει, το διορθώνει και είναι υπεύθυνος για το τελικό περιεχόμενο. Το σημείωμα είναι ένα νομικό και κλινικό έγγραφο.

10. Ποιο από τα παρακάτω είναι μια εργασία «πράσινης ζώνης» (χαμηλού κινδύνου) στη χρήση της τεχνητής νοημοσύνης στην ψυχολογία;

• Α) Αποφασισμός εάν ο πελάτης κινδυνεύει να αυτοκτονήσει
• Β) Προετοιμασία προσχέδιο για την απλοποίηση της γλώσσας ενός ανώνυμου ψυχοεκπαιδευτικού κειμένου ✔
• Γ) Κάνοντας οριστική διάγνωση από τη βαθμολογία της κλίμακας
• Δ) Δημιουργία συστάσεων φαρμακευτικής αγωγής

Επεξήγηση: Εργασίες όπως η απλοποίηση της γλώσσας ενός ανώνυμου ψυχοεκπαιδευτικού κειμένου ή η σύνταξη ενός μηνύματος ηλεκτρονικού ταχυδρομείου υπενθύμισης ραντεβού είναι χαμηλού κινδύνου επειδή δεν περιλαμβάνουν διάγνωση/απόφαση και είναι ασφαλείς για χρήση με ταχεία αναθεώρηση. Η διάγνωση, η εκτίμηση κινδύνου και η απόφαση θεραπείας βρίσκονται στην κόκκινη (κρίσιμη για την ασφάλεια) ζώνη.

11. Ποιο είναι το πιο σημαντικό όριο κατά τη χρήση της τεχνητής νοημοσύνης στην ερμηνεία ενός ψυχομετρικού τεστ;

• Α) Εφόσον η τεχνητή νοημοσύνη ερμηνεύει τη βαθμολογία, δεν χρειάζεται να σχολιάσουμε ειδικούς.
• Β) Αρκεί να πούμε το όνομα του τεστ στην τεχνητή νοημοσύνη
• Γ) Η ερμηνεία δεν προκύπτει από μία μόνο βαθμολογία, αλλά από κλινική κρίση και πολλαπλά δεδομένα. Τήρηση πνευματικών δικαιωμάτων και κανόνων ✔
• Δ) Η βαθμολογία αποκοπής είναι η ίδια σε κάθε πολιτισμό

Εξήγηση: Η βαθμολογία κλίμακας/τεστ είναι ένα κομμάτι δεδομένων. Η διάγνωση και η κλινική ερμηνεία δεν προκύπτουν από μία μόνο βαθμολογία. Επιπλέον, πολλές δοκιμές προστατεύονται από πνευματικά δικαιώματα και είναι ευαίσθητες στο περιβάλλον. Η τεχνητή νοημοσύνη μπορεί να παρέχει περιγραφή υποκλίμακας και γλωσσική υποστήριξη, αλλά η ερμηνεία γίνεται από έναν ειδικό στο πλαίσιο της κλινικής κρίσης, των πολλαπλών δεδομένων και της πολιτισμικής εγκυρότητας.

12. Γιατί η τεχνητή νοημοσύνη δεν μπορεί να αντικαταστήσει την πραγματική εποπτεία;

• Α) Η τεχνητή νοημοσύνη αντικαθιστά την εποπτεία γιατί ανταποκρίνεται πιο γρήγορα
• Β) Η εποπτεία είναι ούτως ή άλλως περιττή
• Γ) Η τεχνητή νοημοσύνη θεωρείται επόπτης γιατί είναι αδειοδοτημένη.
• Δ) Η τεχνητή νοημοσύνη δεν αναλαμβάνει την ευθύνη, δεν γνωρίζει το πραγματικό πλαίσιο και δεν μπορεί να παρέχει ηθικό έλεγχο. Η επίβλεψη απαιτεί ανθρώπινο έμπειρο ✔

Περιγραφή: Επίβλεψη. Είναι η επίβλεψη ενός ικανού επαγγελματία που είναι υπεύθυνος, σχετικός και γνωρίζει το πραγματικό πλαίσιο του πελάτη και την εξέλιξη του θεραπευτή. Η τεχνητή νοημοσύνη μπορεί να βοηθήσει με την πρόβα περιπτώσεων και τη σύνταξη σκευασμάτων, αλλά δεν αναλαμβάνει την κλινική ευθύνη, δεν γνωρίζει το πραγματικό πλαίσιο και δεν μπορεί να παρέχει ηθική/νομική εποπτεία. Η εποπτεία απαιτεί ανθρώπινους ειδικούς.

13. Ετοιμάζετε μια πολιτική χρήσης τεχνητής νοημοσύνης για ένα ίδρυμα ψυχολογίας. Ποιο από τα παρακάτω πρέπει να συμπεριληφθεί;

• Α) Κανόνας ανωνυμοποίησης, απαγορευμένοι τομείς χρήσης, υποχρεωτική επαλήθευση και διαφάνεια στον πελάτη ✔
• Β) Άδεια κοινής χρήσης δεδομένων πελάτη χωρίς την ανωνυμοποίησή τους λόγω ταχύτητας
• Γ) Μεταφορά διαγνωστικών αποφάσεων στην τεχνητή νοημοσύνη
• Δ) Κατεύθυνση καταστάσεων κρίσης στο chat bot

Περιγραφή: Καλή πολιτική. Καθορίζει ποια δεδομένα μπορούν να δοθούν στο εργαλείο (κανόνας ανωνυμοποίησης), απαγορευμένους τομείς χρήσης όπως διάγνωση/κρίση, υποχρεωτικά βήματα επαλήθευσης και διαφάνεια στον πελάτη. Ρήτρες όπως «Εκφράστε το απόρρητο για ταχύτητα» αποτελούν ηθικούς και νομικούς κινδύνους. Η πολιτική υπάρχει για να διατηρεί τα όρια και όχι για να τα χαλαρώνει.

14. Ποιο από τα παρακάτω είναι έγκυρη αιτιολόγηση για την επικύρωση της παραγωγής AI;

• Α) Είναι σωστό γιατί η τεχνητή νοημοσύνη δίνει την ίδια απάντηση περισσότερες από μία φορές
• Β) Ο ισχυρισμός επιβεβαιώνεται από πρωτογενή στοιχεία, έγκυρη μέτρηση και κρίση αρμόδιου εμπειρογνώμονα ✔
• Γ) Η απάντηση είναι σωστή γιατί είναι γραμμένη άπταιστα και πειστικά.
• Δ) Το AI είναι ένα ισχυρό μοντέλο, επομένως η απόδοση του είναι ακριβής

Περιγραφή: αιτιολόγηση κλινικού ή ερευνητικού ισχυρισμού. πρωτογενή στοιχεία, έγκυρη μέτρηση, εφαρμοστέο ηθικό/επαγγελματικό πρότυπο και ικανή επαγγελματική κρίση. Το "AI είπε", το "γραμμένο με ευχέρεια" ή το "έδωσαν τα ίδια πολλές φορές" δεν είναι έγκυρες αιτιολογήσεις. Αυτά δεν είναι σημάδια αλήθειας, αλλά συνέπειας στην καλύτερη περίπτωση.