Κέρδη:
- Αναγνωρίζοντας πότε η τεχνητή νοημοσύνη παράγει μεροληψία μέσω δεδομένων εκπαίδευσης, πλαισίωσης, διπλών σταθμών και κολακείας
- Ικανότητα καθιέρωσης ελέγχου έναντι της μεροληψίας με ουδέτερες ερωτήσεις, διάκριση αποδεικτικών στερεοτύπων και δοκιμή αντίστροφης γωνίας
- Ικανότητα μετάφρασης της στιγματιστικής γλώσσας σε περιγραφική και σεβαστή γλώσσα χρησιμοποιώντας την πολιτισμική γνώση ως σημείο προσοχής και όχι ως οριστικό κανόνα
Ο λόγος ύπαρξης της κοινωνικής εργασίας είναι η δικαιοσύνη και η ανθρώπινη αξιοπρέπεια. Στον πυρήνα του επαγγέλματος βρίσκεται η δέσμευση ότι κάθε άτομο είναι ίσης αξίας, ότι αντιτίθενται οι διακρίσεις και προστατεύονται οι ευάλωτες ομάδες. Η τεχνητή νοημοσύνη ενέχει έναν κίνδυνο που μπορεί να βλάψει σιωπηλά ακριβώς αυτές τις αξίες: προκατάληψη. Η τεχνητή νοημοσύνη μαθαίνει από ιστορικά δεδομένα. Εάν αυτά τα δεδομένα περιλαμβάνουν ανισότητες, στερεότυπα και διακρίσεις στην κοινωνία, η τεχνητή νοημοσύνη τα μαθαίνει και τα αναπαράγει σε μια άπταιστη, «αντικειμενική» γλώσσα. Στα χέρια ενός κοινωνικού λειτουργού, αυτό μπορεί να μεταφραστεί σε μια συστηματικά πιο αρνητική αξιολόγηση μιας ομάδας, ένα στερεότυπο μιας οικογένειας ή μια παρανόηση μιας κουλτούρας. Σε αυτή την ενότητα, θα μάθετε να αναγνωρίζετε την προκατάληψη της τεχνητής νοημοσύνης, να ελέγχετε εναντίον της και να χρησιμοποιείτε την τεχνητή νοημοσύνη με δικαιοσύνη και πολιτισμική ευαισθησία.
Ένα γεγονός από την αρχή: Η τεχνητή νοημοσύνη δεν είναι ουδέτερη, φαίνεται ουδέτερη. Η πιο επικίνδυνη προκατάληψη είναι αυτή που παρουσιάζεται με σίγουρη και επαγγελματική γλώσσα. γιατί γίνεται δεκτό χωρίς αμφιβολία. Η δουλειά σας ως κοινωνικός λειτουργός είναι να κάνετε ορατή αυτή την αόρατη προκατάληψη και να παρακολουθείτε εάν το αποτέλεσμα έρχεται σε σύγκρουση με τις επαγγελματικές σας αξίες.
Από πού προέρχεται η μεροληψία AI και πώς μοιάζει;
- Προκατάληψη δεδομένων εκπαίδευσης. Η τεχνητή νοημοσύνη μαθαίνει από κείμενα που αντικατοπτρίζουν τις ανισότητες στην κοινωνία. Τα στερεότυπα για ορισμένες εθνοτικές ομάδες, τους φτωχούς, τα άτομα με ειδικές ανάγκες, ορισμένες γειτονιές ή φύλα μπορεί να διαρρεύσουν στην παραγωγή.
- Προκατάληψη γλώσσας και πλαισίωσης. Η τεχνητή νοημοσύνη μπορεί να χαρακτηρίσει μια ομάδα ως παθητική, «προβληματική» ή «αντικείμενο που χρειάζεται βοήθεια». μια άλλη ομάδα ως υποκείμενα. Η ίδια συμπεριφορά μπορεί να ερμηνευτεί ως «πολιτισμική» από μια ομάδα και «προβληματική» από μια άλλη ομάδα.
- Έλλειψη εκπροσώπησης. Η τεχνητή νοημοσύνη μπορεί να κατανοεί εσφαλμένα ή επιφανειακά ομάδες που υποεκπροσωπούνται στα δεδομένα (μικροί πληθυσμοί, σπάνιες περιπτώσεις).
- Κολακεία (συκοφάνεια). Το AI τείνει να επιβεβαιώνει την υπονοούμενη άποψή σας. Μια προκατειλημμένη ερώτηση φέρνει μια προκατειλημμένη επιβεβαίωση.
Αυτές οι προκαταλήψεις είναι ιδιαίτερα επικίνδυνες στην κοινωνική εργασία επειδή το αποτέλεσμα αγγίζει άμεσα τις ζωές των πραγματικών ανθρώπων—μια αξιολόγηση, μια αναφορά, μια παραπομπή.
Προσοχή: «Η τεχνητή νοημοσύνη το αξιολόγησε έτσι» είναι προειδοποιητικό σημάδι, όχι δικαιολογία. Όταν βλέπετε αποτελέσματα που απεικονίζουν μια ομάδα ή ένα άτομο αρνητικά, η πρώτη ερώτηση είναι "βασίζεται σε στοιχεία ή βασίζεται σε στερεότυπα;" πρέπει να είναι.
Βήμα προς βήμα: έλεγχος ενάντια στην προκατάληψη
- Ρωτήστε ουδέτερο. Κάντε ερωτήσεις που δεν υπονοούν ή δεν οδηγούν. Όχι «εξηγήστε γιατί αυτή η οικογένεια είναι αμελής», αλλά «τι μπορεί να σημαίνουν αυτές οι παρατηρήσεις, ποιες είναι οι εναλλακτικές εξηγήσεις;» παρακαλώ.
- Διακρίνετε μεταξύ αποδείξεων και στερεοτύπων. Για κάθε αρνητική δήλωση, ρωτήστε: βασίζεται στα συγκεκριμένα στοιχεία που έχω μπροστά μου ή βασίζεται σε μια γενική υπόθεση για μια ομάδα;
- Δοκιμή από την αντίθετη γωνία. Σκεφτείτε την ίδια κατάσταση για μια διαφορετική ομάδα: "Εάν ο πελάτης προερχόταν από διαφορετικό κοινωνικοοικονομικό/εθνοτικό υπόβαθρο, θα το έγραφε το AI στην ίδια γλώσσα;"
- Αναζητήστε πολιτιστική ευαισθησία. Ρωτήστε για το πολιτισμικό πλαίσιο μιας συμπεριφοράς. αλλά λάβετε την πολιτιστική γνώση ως δυνατότητα και ως σημείο προσοχής, όχι ως απόλυτο κανόνα (αποφύγετε τα στερεότυπα).
- Καθαρίστε τη γλώσσα αποτύπωσης. Μεταφράστε το σε μια γλώσσα που περιγράφει την κατάσταση, όχι το άτομο, και επίσης βλέπει τα δυνατά σημεία.
τρεις μίνι θήκες
Περίπτωση 1 — Η αντίστροφη γωνία αποκάλυψε προκατάληψη. Ένας ειδικός ζήτησε από την τεχνητή νοημοσύνη να συνοψίσει δύο παρόμοιες περιπτώσεις. η μόνη διαφορά ήταν η κοινωνικοοικονομική κατάσταση των οικογενειών. Ο YZ έγραψε με τόνο «υψηλού κινδύνου παραμέλησης» για την οικογένεια χαμηλού εισοδήματος και με τόνο «γονέας αναγκασμένος να συμπεριφέρεται» για την οικογένεια υψηλού εισοδήματος. Ο εμπειρογνώμονας αναγνώρισε αυτό το διπλό πρότυπο και απόσταξε και τις δύο αξιολογήσεις σε ισότιμη γλώσσα βασισμένη σε στοιχεία.
Περίπτωση 2 — Διορθώθηκε η πολιτιστική παρερμηνεία. Ο YZ πλαισίωνε την κατάσταση ενός παιδιού που ζει με μεγάλη οικογένεια ως «οριακά ζητήματα και ένα μικτό οικιακό περιβάλλον». Ο ειδικός γνώριζε ότι στο πολιτιστικό πλαίσιο της οικογένειας, η ευρύτερη οικογένεια ήταν μια ισχυρή πηγή υποστήριξης και προστασίας. Η τεχνητή νοημοσύνη είχε μετατρέψει μια πολιτιστική δύναμη σε πρόβλημα. Η αναθεώρηση έχει διορθωθεί για να αναγνωριστεί αυτή η υποστήριξη ως πόρος.
Περίπτωση 3 — Η κύρια ερώτηση προκάλεσε μεροληψία. «Γράψε γιατί αυτός ο πατέρας είναι αναξιόπιστος», ρώτησε ένας ασκούμενος την AI. Το AI δημιούργησε ένα κείμενο που απεικονίζει τον πατέρα αρνητικά (κολακείες) χωρίς κανένα στοιχείο. Ο επόπτης τροποποίησε την ερώτηση: «Ποιες είναι οι παρατηρήσεις για τον πατέρα, ποια μπορεί να είναι τα δυνατά και τα αδύνατα σημεία του;» Το αποτέλεσμα έχει γίνει ισορροπημένο και βασίζεται σε στοιχεία. Μάθημα: η μεροληπτική ερώτηση παράγει μεροληπτική απάντηση.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Ζητήστε μια ουδέτερη, ισορροπημένη αξιολόγηση:
Συνοψίζοντας τις ακόλουθες παρατηρήσεις, παρουσιάζετε τόσο πιθανά δυνατά σημεία όσο και πιθανές ανησυχίες με ΙΣΟΡΡΟΠΗΜΕΝΟ τρόπο και με βάση ΜΟΝΟ σε στοιχεία. Μην κάνετε κανένα συμπέρασμα βασισμένο σε στερεότυπα. Εάν ένα σχόλιο δεν βασίζεται σε παρατήρηση, γράψτε "ανεπαρκή στοιχεία". Παρατηρήσεις: [επικόλληση παρατηρήσεων]
2) Έλεγχος μεροληψίας (δοκιμή αντίθετης γωνίας):
Δείτε το κείμενο της κριτικής παρακάτω. Υπάρχουν δηλώσεις που μεταφέρουν ένα αβάσιμο στερεότυπο λόγω της κοινωνικοοικονομικής κατάστασης, της εθνικότητας, της θρησκείας, του φύλου, της αναπηρίας ή της γειτονιάς του πελάτη; Για καθένα, ρωτήστε: "Θα ήταν γραμμένο στην ίδια γλώσσα εάν ο πελάτης ήταν από διαφορετική ομάδα;" Επισήμανση προβληματικών προτάσεων. Κείμενο: [επικόλληση κειμένου]
3) Πολιτιστικό πλαίσιο (μη στερεότυπο):
Παρέχετε ΔΥΝΑΤΟΤΗΤΕΣ για το τι μπορεί να σημαίνει η ακόλουθη συμπεριφορά/κατάσταση σε διαφορετικά πολιτισμικά πλαίσια. Δώστε αυτά ως σημεία που πρέπει να ληφθούν υπόψη, όχι ως απόλυτοι κανόνες. Τονίστε ότι υπάρχουν ατομικές διαφορές σε κάθε κοινότητα. Μην γενικεύετε για μία μόνο ομάδα. Κατάσταση: [γράψτε την κατάσταση]
4) Καθαρισμός γλώσσας αποτύπωσης:
Στο παρακάτω κείμενο, βρείτε επίθετα που κρίνουν ή στιγματίζουν το άτομο (π.χ. "αμελές", "μη συνεργάσιμο", "προβληματικό"). Για καθένα, αντικαταστήστε το ίδιο γεγονός με μια εναλλακτική που είναι περιγραφική, σεβαστή και αναγνωρίζει τα δυνατά σημεία. Προσθήκη νέων πληροφοριών. Κείμενο: [επικόλληση κειμένου]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Εξηγήστε γιατί αυτή η οικογένεια είναι ανεπαρκής στην ανατροφή των παιδιών.
Αυτή η ερώτηση προϋποθέτει το αποτέλεσμα από την αρχή («ανεπαρκές»). Η τεχνητή νοημοσύνη, με την τάση της για κολακεία, θα παράγει ένα κείμενο χωρίς στοιχεία και μεροληπτικό που επιβεβαιώνει αυτή την υπόθεση. Εάν η ερώτηση είναι προκατειλημμένη, η απάντηση θα είναι επίσης μεροληπτική.
Ισχυρή προτροπή:
Με βάση τις ακόλουθες παρατηρήσεις, απαριθμήστε τόσο τα δυνατά σημεία της ανατροφής των παιδιών αυτής της οικογένειας όσο και τους τομείς ενδιαφέροντος με ΙΣΟΡΡΟΠΗΜΕΝΟ τρόπο και μόνο με στοιχεία. Μην υποθέτετε το αποτέλεσμα από την αρχή. Εάν τα στοιχεία είναι ανεπαρκή, δηλώστε το. Αποφύγετε τα στερεότυπα. Παρατηρήσεις: [επικόλληση παρατηρήσεων]
Η διαφορά: μια ισορροπημένη ερώτηση που δεν προϋποθέτει το αποτέλεσμα και ζητά στοιχεία αποτρέπει την προκατάληψη εξαρχής.
Τύποι μεροληψίας και αντίμετρα
Τύπος μεροληψίας
Πώς μοιάζει
αντίμετρο
δεδομένα εκπαίδευσης
ομαδικό στερεότυπο
Διάκριση απόδειξης-μοτίβου
πλαισίωση
Παθητική/αρνητική γλώσσα
Ισορροπημένη γλώσσα με επίκεντρο το θέμα
διπλά πρότυπα
Ίδια συμπεριφορά, διαφορετικός τόνος
δοκιμή αντίστροφης γωνίας
πολιτισμική τύφλωση
Μετατροπή της πολιτιστικής δύναμης σε πρόβλημα
Ερώτηση πολιτιστικού πλαισίου
κολακεία
επιβεβαιώστε το υπονοούμενο
Μην κάνετε ουδέτερες ερωτήσεις
έλλειψη εκπροσώπησης
Επιφανειακή/παρεξήγηση
Επιβεβαίωση τοπικού/ειδικού
Συνήθη λάθη
- Θέτοντας προκατειλημμένες ερωτήσεις. Μια ερώτηση που προϋποθέτει συμπέρασμα παράγει μια προκατειλημμένη απάντηση. ουδέτερο πρόβλημα.
- Βασιζόμενοι σε γλώσσα με αυτοπεποίθηση. Ο επαγγελματικός τόνος δεν κάνει σωστή προκατάληψη. κοιτάξτε τα στοιχεία.
- Θεωρώντας την πολιτιστική γνώση ως οριστικό κανόνα. Πάρτε το ως σημείο πιθανότητας και προσοχής. Αποφύγετε τα στερεότυπα.
- Μη παρατηρώντας τα διπλά μέτρα και μέτρα. Δοκιμάστε πώς γράφεται η ίδια συμπεριφορά σε διαφορετικές ομάδες.
- Λάθος της σφραγίδας ως αποδεικτικό στοιχείο. Είναι μια «αμελής» κρίση. Περιγράψτε το φαινόμενο, μην κρίνετε το άτομο.
Συνοπτικά
Το AI δεν είναι ουδέτερο, φαίνεται ουδέτερο. Αναπαράγει ανισότητες και στερεότυπα στα εκπαιδευτικά δεδομένα σε μια άπταιστη γλώσσα. Στην κοινωνική εργασία, αυτό μπορεί να οδηγήσει σε άδικες αξιολογήσεις πραγματικών ανθρώπων. Αναγνωρίστε τη μεροληψία (δεδομένα εκπαίδευσης, πλαισίωση, διπλά πρότυπα, πολιτισμική τύφλωση, κολακείες), ελέγξτε ενάντια σε αυτήν (ουδέτερη ερώτηση, διαχωρισμός προτύπων αποδεικτικών στοιχείων, δοκιμή γωνίας, πολιτισμική ευαισθησία, ξεκαθάρισμα στίγματος) και φιλτράρετε κάθε αποτέλεσμα μέσα από τις αξίες της δικαιοσύνης και της τιμής του επαγγέλματος. Το τελευταίο ηθικό φίλτρο είστε πάντα εσείς.
Εργασία εφαρμογής
Ζητήστε από το AI να συνοψίσει το ίδιο σύνολο φανταστικών παρατηρήσεων με δύο διαφορετικά προφίλ ομάδας (π.χ. διαφορετική κοινωνικοοικονομική κατάσταση) και να συγκρίνετε με το "τεστ αντίστροφης γωνίας" εάν οι τόνοι/γλώσσα διαφέρουν. Στη συνέχεια, δοκιμάστε μια ουδέτερη ερώτηση με μια συνειδητά προκατειλημμένη ερώτηση («εξηγήστε γιατί είναι ανεπαρκής») και εξετάστε τη διαφορά στα αποτελέσματα. Τέλος, εφαρμόστε το πρότυπο "watermarker language cleaning" σε ένα κείμενο.
λίστα ελέγχου
- [ ] Πλαισίωσα τις ερωτήσεις μου ουδέτερα, χωρίς να υποθέσω το αποτέλεσμα.
- [ ] Έλεγξα κάθε αρνητική δήλωση χρησιμοποιώντας τη διάκριση απόδειξη-στερεότυπο.
- [ ] Έλεγξα το διπλό πρότυπο με τη δοκιμή αντίστροφης γωνίας.
- [ ] Χρησιμοποίησα την πολιτιστική γνώση ως σημείο προσοχής, όχι ως απόλυτο κανόνα.
- [ ] Αντικατέστησα τη στιγματιστική γλώσσα με περιγραφική γλώσσα με σεβασμό.