Κέρδη:
- Αναγνωρίστε με παραδείγματα πώς η πολιτισμική, το φύλο και η διαγνωστική προκατάληψη στα μοντέλα τεχνητής νοημοσύνης προκαλούν βλάβη στο πλαίσιο της ψυχολογίας
- Δυνατότητα εφαρμογής ενός ελέγχου μεροληψίας που ελέγχει τα αποτελέσματα για διαφορετικές ομάδες, γλώσσες και πολιτισμούς
- Ικανότητα ανάπτυξης τεχνικών άμεσης και επαλήθευσης που διορθώνουν τη δυτικοκεντρική νόρμα και τη στιγματιστική γλώσσα
Η τεχνητή νοημοσύνη (AI) δεν είναι ουδέτερη. Ένα μοντέλο τεχνητής νοημοσύνης μαθαίνει από έναν τεράστιο σωρό κειμένου στο Διαδίκτυο και η «κοσμοθεωρία» του μοντέλου παραμορφώνεται από το ποιανού φωνή περιέχει περισσότερο και ποιανού η φωνή περιέχει λιγότερα. Αυτή η παραμόρφωση ονομάζεται προκατάληψη. Η μεροληψία στην ψυχολογία δεν είναι ένα συνηθισμένο τεχνικό ελάττωμα. Μπορεί να επηρεάσει άμεσα την αξιολόγηση, τη διάγνωση και τη θεραπεία ενός ατόμου. Ένα σύμπτωμα μπορεί να διαβαστεί ως "φυσιολογικό" σε έναν πολιτισμό και "παθολογικό" σε έναν άλλο. μια συμπεριφορά μπορεί να πλαισιωθεί ως «διεκτικότητα» στο ένα φύλο και «επιθετικότητα» στο άλλο. Η τεχνητή νοημοσύνη μπορεί να μάθει και να αναπαράγει αυτές τις ιστορικές προκαταλήψεις. Σε αυτή την ενότητα θα μάθετε να αναγνωρίζετε την προκατάληψη στην τεχνητή νοημοσύνη στο πλαίσιο της ψυχολογίας και να ελέγχετε τα αποτελέσματα για διαφορετικές ομάδες, γλώσσες και πολιτισμούς.
Από πού πηγάζει η προκατάληψη και πώς βλάπτει;
Υπάρχουν τρεις κύριες πηγές προκατάληψης AI:
- Ανισορροπία δεδομένων προπόνησης. Τα μοντέλα εκπαιδεύονται κυρίως με κείμενα συγκεκριμένης γλώσσας, πολιτισμού και περιόδου. Ο κύριος όγκος της βιβλιογραφίας ψυχολογίας προέρχεται από δυτικές, μορφωμένες, βιομηχανοποιημένες κοινωνίες. Ως εκ τούτου, η παραδοχή του "κανονικού ανθρώπου" του AI αντικατοπτρίζει αυτό το στενό δείγμα.
- Συμπερίληψη ιστορικής προκατάληψης. Στα δεδομένα περιλαμβάνονται επίσης κείμενα που παθολόγησαν και στιγμάτισαν ορισμένες ομάδες στο παρελθόν. το μοντέλο μαθαίνει αυτά τα μοτίβα.
- Έλλειψη εκπροσώπησης. Το μοντέλο έχει είτε ανεπαρκείς είτε στερεότυπες πληροφορίες για υποεκπροσωπούμενες ομάδες (διαφορετική εθνικότητα, γλώσσα, σεξουαλικό προσανατολισμό, αναπηρία).
Η βλάβη είναι απτή: η τεχνητή νοημοσύνη μπορεί να αξιολογήσει ένα σύμπτωμα ως πιο σοβαρό σε μια ομάδα και πιο ήπιο από ό,τι σε μια άλλη. μπορεί εσφαλμένα να θεωρήσει μια πολιτιστική έκφραση (τελετουργικό πένθους, θρησκευτική εμπειρία) ως σύμπτωμα. Μπορεί να παράγει στιγματιστική, κλισέ γλώσσα.
Προσοχή: Ακόμα κι αν μια έξοδος από την τεχνητή νοημοσύνη φαίνεται να είναι «αντικειμενική επιστήμη», μπορεί να φέρει τις προκαταλήψεις που έχει μάθει. Ιδιαίτερα όταν πρόκειται για διαφορετικούς πολιτισμούς, φύλα, σεξουαλικούς προσανατολισμούς και κοινωνικοοικονομικές ομάδες, θεωρούμε κάθε αποτέλεσμα ως «είναι αυτό δίκαιο για όλες τις ομάδες;» Φιλτράρετε με την ερώτηση.
Τύποι μεροληψίας ειδικά για την ψυχολογία
Τύπος μεροληψίας
Προβολή στην ψυχολογία
κίνδυνος
πολιτισμική προκατάληψη
Θεωρώντας τα δυτικά πρότυπα ως καθολικά
Μην μπερδεύετε την πολιτισμική έκφραση με την παθολογία
προκατάληψη του φύλου
Ερμηνεύοντας διαφορετικά την ίδια συμπεριφορά ανάλογα με το φύλο
διαγνωστική ανισότητα
διαγνωστική προκατάληψη
Παρουσίαση ορισμένων ομάδων ως «επιρρεπείς» σε ορισμένες διαγνώσεις
Υπερ/υπό διάγνωση
γλωσσική προκατάληψη
Πιο «γνώστης» στην κυρίαρχη γλώσσα, επιφανειακή στην άλλη
Άνιση αξιολόγηση
Σφράγιση
Γλώσσα που ταυτίζει το άτομο με τη διάγνωσή του
εξευτελιστικό πλαίσιο
Βήμα προς βήμα: έλεγχος μεροληψίας
- Μπορείτε να αλλάξετε την έξοδο σε "για ποιον γράφτηκε;" ερώτηση. Ποιο είναι το προεπιλεγμένο θέμα; Γενικά είναι ένας μορφωμένος, δυτικός, «μέτριος» τύπος.
- Δοκιμή με διαφορετικές ομάδες. Επαναλάβετε την ίδια προτροπή σε διαφορετικά πλαίσια πολιτισμού, φύλου και ηλικίας. Αλλάζουν τα σχόλια;
- Σάρωση της στιγματικής γλώσσας. Σωστή διατύπωση που ταυτίζει το άτομο με τη διάγνωσή του («άτομο που βιώνει σχιζοφρένεια» αντί για «σχιζοφρένεια»).
- Προσθήκη πολιτισμικού πλαισίου. Πείτε στην τεχνητή νοημοσύνη το πολιτιστικό/γλωσσικό πλαίσιο του πελάτη και «μην θεωρείτε παθολογικές εκφράσεις που μπορεί να είναι φυσιολογικές σε αυτό το πλαίσιο».
- Τα μάτια των ειδικών και της κοινότητας. Εάν δεν είστε σίγουροι για ένα πολιτιστικό ζήτημα, συμβουλευτείτε έναν συνάδελφο που γνωρίζει αυτόν τον πολιτισμό.
- Αφήστε τον κόσμο να αποφασίσει. Ακόμη και ο έλεγχος μεροληψίας δεν επαφίεται στην τεχνητή νοημοσύνη. Η τελική κρίση της δικαιοσύνης είναι δική σας.
Συμβουλή: Ένας πρακτικός τρόπος για να ελέγξετε εάν ένα αποτέλεσμα είναι προκατειλημμένο: αλλάξτε ένα χαρακτηριστικό (φύλο, πολιτισμός, ηλικία) στο μήνυμα και κάντε ξανά την ίδια ερώτηση. Εάν η ερμηνεία αλλάξει «άδικα» με αυτή την αλλαγή, υπάρχει προκατάληψη.
τρεις μίνι θήκες
Περίπτωση 1 — Παθολογοποίηση πολιτισμικής έκφρασης. Ένας επαγγελματίας λέει στην τεχνητή νοημοσύνη ότι ένας πελάτης από διαφορετική κουλτούρα «μιλάει με τον αποθανόντα» κατά τη διαδικασία της θλίψης. Η τεχνητή νοημοσύνη το ορίζει ως «μπορεί να είναι ένα ψυχωτικό σύμπτωμα». Ωστόσο, αυτή είναι μια κοινή και φυσιολογική έκφραση θλίψης στην κουλτούρα αυτού του πελάτη. Ο ειδικός απορρίπτει τα αποτελέσματα της τεχνητής νοημοσύνης επειδή γνωρίζει το πολιτιστικό πλαίσιο. Κάποιος που δεν γνώριζε το πλαίσιο θα μπορούσε να κάνει μια σοβαρή εσφαλμένη εκτίμηση.
Περίπτωση 2 — Έλεγχος μεροληψίας για το φύλο. Ένας ερευνητής δίνει την ίδια περίληψη της υπόθεσης στο AI δύο φορές. αλλάζει απλώς το φύλο του ατόμου. Στη "γυναικεία" έκδοση, η τεχνητή νοημοσύνη δίνει έμφαση στη "συναισθηματική αστάθεια", ενώ στην "ανδρική" έκδοση, πλαισιώνει την ίδια συμπεριφορά ως "απόκριση στρες". Αυτό δείχνει ξεκάθαρα την προκατάληψη του φύλου του μοντέλου. Ο ερευνητής τεκμηριώνει αυτή τη διαφορά και χρησιμοποιεί τα αποτελέσματα με αυτήν την επίγνωση.
Περίπτωση 3 — Διόρθωση στιγματιστικής γλώσσας. Η τεχνητή νοημοσύνη είναι ένα «άρρωστο όριο», αναφέρει ένα προσχέδιο έκθεσης. Ο ειδικός το βλέπει αυτό ως μια στιγματιστική γλώσσα που ταυτίζει το άτομο με τη διάγνωσή του και τη μεταφράζει σε γλώσσα που εστιάζει στο άτομο, όπως «ένα άτομο με καθορισμένο οριακό πρότυπο προσωπικότητας». Μια μικρή αλλαγή στη γλώσσα κάνει μεγάλη διαφορά προστατεύοντας την αξιοπρέπεια του πελάτη.
Αντιγράψιμα προτροπές και πρότυπα
Ελέγξτε το ακόλουθο κείμενο για προκατάληψη: επισημάνετε δηλώσεις που υποδεικνύουν πολιτισμική, φύλο, σεξουαλικό προσανατολισμό, ηλικία ή κοινωνικοοικονομική προκατάληψη. Δείξτε επίσης τις υποθέσεις που θεωρούν τα δυτικά πρότυπα καθολικά. Προτείνετε μια πιο δίκαιη εναλλακτική για καθεμία. Κείμενο: [κείμενο]
Βοηθήστε με να αξιολογήσω την παρακάτω κατάσταση, αλλά το πολιτισμικό πλαίσιο του πελάτη είναι [κουλτούρα/γλώσσα]. Σε αυτό το πλαίσιο, η παρουσίαση εκφράσεων που μπορεί να είναι ΦΥΣΙΟΛΟΓΙΚΕΣ ως παθολογία. Εάν δεν είστε σίγουροι για ένα πολιτιστικό σημείο, πείτε "αυτό μπορεί να διαφέρει πολιτισμικά, συμβουλευτείτε έναν ειδικό". Κατάσταση: [ανώνυμη κατάσταση]
Μεταφράστε τις στιγματιστικές εκφράσεις σε αυτό το κείμενο που ταυτίζουν το άτομο με τη διάγνωσή του (π.χ. «σχιζοφρενικό», «οριακό») σε γλώσσα που εστιάζει το άτομο και διατηρεί την αξιοπρέπειά του. Μην αλλάζετε το περιεχόμενο, απλώς εξανθρωπίστε τη γλώσσα. Κείμενο: [κείμενο]
Θα αξιολογήσω την ακόλουθη περίληψη περίπτωσης δύο φορές: μία φορά το θέμα [χαρακτηριστικό Α], το άλλο [χαρακτηριστικό Β]. Υπάρχει άδικη διαφορά μεταξύ των δύο αξιολογήσεων και αν ναι, οφείλεται σε μεροληψία; Σύγκριση. Περίληψη: [ανώνυμη περίληψη]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή: "Είναι η συμπεριφορά αυτού του πελάτη φυσιολογική ή μη φυσιολογική;"
Αυτή η προτροπή δεν ρωτά για ποιον απευθύνεται το "κανονικό". Η τεχνητή νοημοσύνη προϋποθέτει ένα δυτικοκεντρικό, μη πολιτισμένο «κανονικό» και μπορεί να παθολογήσει την πολιτισμική έκφραση.
Ισχυρή προτροπή: "Αυτός ο πελάτης βρίσκεται σε [πολιτιστικό/γλωσσικό πλαίσιο]. Εξηγήστε εάν αυτή η συμπεριφορά μπορεί να είναι μια φυσιολογική έκφραση σε αυτό το πολιτιστικό πλαίσιο ή ένα σημάδι που απαιτεί προσοχή, συζητώντας και τα δύο ξεχωριστά. Μην κάνετε μια οριστική κρίση. Θυμίστε μου να συμβουλευτώ έναν ειδικό που γνωρίζει το πολιτισμικό πλαίσιο."
Αυτή η προτροπή θέτει το πλαίσιο στο επίκεντρο, αποτρέπει την πολιτιστική παρανόηση και αφήνει την απόφαση στον ειδικό.
Συνήθη λάθη
- Παρεξήγηση της εξόδου AI ως «αντικειμενικό». Ξεχνώντας ότι το μοντέλο φέρει μεροληψία και αποδεχόμενοι το αποτέλεσμα ως επιστημονικό γεγονός.
- Θεωρώντας τη δυτική νόρμα ως καθολική. Ορισμός του «φυσιολογικού» σύμφωνα με μια ενιαία κουλτούρα και παθολογία διαφορετικών εκφράσεων.
- Δεν παρατηρώ στιγματιστική γλώσσα. Λάθος της γλώσσας που προσδιορίζει το άτομο με τη διάγνωσή του ως «τεχνική γλώσσα».
- Δεν δοκιμάζεται για προκατάληψη. Δεν δοκιμάζετε την ίδια προτροπή με διαφορετικές ομάδες και ελέγχετε τη συνοχή.
- Να παίρνεις αποφάσεις μόνος σου σε μια κουλτούρα που δεν γνωρίζεις. Να κρίνεις χωρίς να συμβουλευτείς έναν συνάδελφο που γνωρίζει αυτή την κουλτούρα.
Συνοπτικά
Η τεχνητή νοημοσύνη είναι προκατειλημμένη επειδή μαθαίνει από τα κείμενα ενός προκατειλημμένου κόσμου. Στην ψυχολογία, αυτή η προκατάληψη μεταφράζεται σε απτή βλάβη με τη μορφή πολιτισμού, φύλου, διαγνωστικών, γλωσσικών και στίγματος. Συγκρίνετε κάθε αποτέλεσμα με την ερώτηση "είναι αυτό δίκαιο για όλες τις ομάδες;" στραγγίστε το? Δοκιμάστε την ίδια προτροπή με διαφορετικές ομάδες. προσθέστε πολιτιστικό πλαίσιο στην προτροπή σας. αλλαγή της στιγματιστικής γλώσσας σε γλώσσα με επίκεντρο τον άνθρωπο. Αναζητήστε τα μάτια των ειδικών/της κοινότητας σε μια κουλτούρα με την οποία δεν είστε εξοικειωμένοι. Η κρίση της δικαιοσύνης, συμπεριλαμβανομένου του ελέγχου της μεροληψίας, πηγάζει από τον άνθρωπο.
Εργασία εφαρμογής
Ετοιμάστε μια περίληψη υπόθεσης (ανώνυμη). Δώστε το στο AI δύο φορές. αλλάξτε ένα μόνο χαρακτηριστικό (φύλο, κουλτούρα ή ηλικία). Τοποθετήστε τις δύο εκτυπώσεις δίπλα δίπλα και εξετάστε για άδικες διαφορές. Επίσης, ζητήστε από το AI να μεταφράσει στιγματιστικές φράσεις σε μια παράγραφο αναφοράς σε γλώσσα με επίκεντρο τον άνθρωπο και να σημειώσετε τη διαφορά.
λίστα ελέγχου
- [ ] Αλλάξτε την έξοδο σε "είναι δίκαιο για όλες τις ομάδες;" έκανα την ερώτηση.
- [ ] Δοκίμασα την ίδια προτροπή με διαφορετικές ομάδες/πολιτισμούς.
- [ ] Πρόσθεσα το πολιτιστικό πλαίσιο στην προτροπή. Δεν παθολόγησα την πολιτισμική έκφραση.
- [ ] Άλλαξα τη στιγματιστική γλώσσα σε γλώσσα με επίκεντρο τον άνθρωπο.
- [ ] Ζήτησα τη συμβουλή ενός ειδικού/συναδέλφου για ένα πολιτιστικό ζήτημα με το οποίο δεν ήμουν εξοικειωμένος.
- [ ] Άφησα την τελική απόφαση της δικαιοσύνης στη δική μου κρίση, όχι στο AI.