דעות קדומות, אפליה ואתיקה: שימוש הוגן ומגיב מבחינה תרבותית

רווחים:

• זיהוי מתי AI מייצר הטיה באמצעות נתוני אימון, מסגור, סטנדרטים כפולים וחנופה
• יכולת לבסס שליטה נגד הטיה עם שאלות ניטרליות, אבחנה סטריאוטיפית ראיות ומבחן זווית הפוכה
• יכולת לתרגם שפה סטיגמטית לשפה תיאורית ומכבדת על ידי שימוש בידע תרבותי כנקודת תשומת לב ולא ככלל סופי

סיבת הקיום של עבודה סוציאלית היא צדק וכבוד האדם; בליבת המקצוע עומדת מחויבות שכל פרט שווה ערך, מתנגדים לאפליה וקבוצות חלשות מוגנות. בינה מלאכותית טומנת בחובה סיכון שיכול לפגוע בשקט בדיוק בערכים האלה: הטיה. בינה מלאכותית לומדת מנתונים היסטוריים; אם הנתונים האלה כוללים אי שוויון, סטריאוטיפים ואפליה בחברה, ה-AI לומד אותם ומשחזר אותם בשפה שוטפת, "אובייקטיבית" למראה. בידיו של עובד סוציאלי זה יכול להתורגם להערכה שלילית יותר באופן שיטתי של קבוצה, לסטריאוטיפים של משפחה או לאי הבנה של תרבות. ביחידה זו תלמד לזהות הטיית בינה מלאכותית, לשלוט נגדה ולהשתמש בבינה מלאכותית בהגינות וברגישות תרבותית.

עובדה מההתחלה: AI אינו נייטרלי, הוא נראה נייטרלי. ההטיה המסוכנת ביותר היא זו המוצגת בשפה בטוחה ומקצועית; כי זה מתקבל ללא עוררין. התפקיד שלך כעובד סוציאלי הוא להפוך את ההטיה הבלתי נראית הזו לגלויה ולפקח אם התפוקה מתנגשת עם הערכים המקצועיים שלך.

מאיפה הטיית AI ואיך זה נראה?

• הטיית נתוני אימון. בינה מלאכותית לומדת מטקסטים המשקפים אי-שוויון בחברה. סטריאוטיפים לגבי קבוצות אתניות מסוימות, עניים, נכים, שכונות מסוימות או מגדרים עשויים לדלוף לתוך הפלט.
• הטיית שפה ומסגור. בינה מלאכותית יכולה למסגר קבוצה כפאסיבית, "בעייתית" או כ"אובייקט הזקוק לעזרה"; קבוצה אחרת כנבדקים. אותה התנהגות עלולה להתפרש כ"תרבותית" על ידי קבוצה אחת ו"בעייתית" על ידי קבוצה אחרת.
• חוסר ייצוג. בינה מלאכותית עשויה להבין באופן שגוי או שטחי קבוצות שהן מיוצגות בחסר בנתונים (אוכלוסיות קטנות, מקרים נדירים).
• חנופה (סיקופטיה). ה-AI נוטה לאשר את ההשקפה המשתמעת שלך; שאלה מוטה מביאה אישור מוטה.

הטיות אלו מסוכנות במיוחד בעבודה סוציאלית מכיוון שהתפוקה נוגעת ישירות בחייהם של אנשים אמיתיים - הערכה, דוח, הפניה.

זהירות: "ה-AI העריך את זה כך" הוא תמרור אזהרה, לא הצדקה. כאשר אתה רואה פלט שמציג קבוצה או אדם באופן שלילי, השאלה הראשונה היא "האם הוא מבוסס על ראיות או מבוסס על סטריאוטיפים?" צריך להיות.

צעד אחר צעד: ביקורת נגד הטיה

1. תשאל נייטרלי. שאל שאלות שאינן מרמזות או מובילות; לא "להסביר מדוע המשפחה הזו מזניחה", אלא "מה עשויות להיות המשמעות של התצפיות הללו, מה הם ההסברים האלטרנטיביים?" לִשְׁאוֹל.
2. הבחנה בין ראיות לסטריאוטיפ. לגבי כל אמירה שלילית שאלו: האם היא מבוססת על העדויות הקונקרטיות שלפניי, או שהיא מבוססת על הנחה כללית לגבי קבוצה?
3. בדוק מהזווית ההפוכה. חשבו על אותו מצב עבור קבוצה אחרת: "אם הלקוח היה מרקע סוציו-אקונומי/אתני אחר, האם ה-AI היה כותב את זה באותה שפה?"
4. חפש רגישות תרבותית. שאל על ההקשר התרבותי של התנהגות; אך קחו ידע תרבותי כאפשרות וכנקודת זהירות, לא ככלל מוחלט (הימנעו מסטריאוטיפ).
5. נקה את לשון ההחתמה. תרגם את זה לשפה שמתארת ​​את המצב, לא את האדם, וגם רואה את החוזקות.

שלושה מיני תיקים

מקרה 1 - הזווית ההפוכה גילתה הטיה. מומחה ביקש AI לסכם שני מקרים דומים; ההבדל היחיד היה המצב הסוציו-אקונומי של המשפחות. י.ז. כתב בנימה של "סיכון גבוה להזנחה" למשפחה מעוטת ההכנסה, ובנימת "הורה נאלץ להתנהג" למשפחה בעלת ההכנסה הגבוהה. המומחה הכיר בסטנדרט הכפול הזה וזיקק את שתי ההערכות לשפה מבוססת ראיות ושווה.

מקרה 2 - פרשנות שגויה תרבותית תוקנה. YZ הגדיר את המצב של ילד שחי עם משפחה מורחבת כ"בעיות גבולות וסביבה ביתית מעורבת". המומחה ידע שבתוך ההקשר התרבותי של המשפחה, המשפחה המורחבת היא מקור רב עוצמה לתמיכה והגנה. בינה מלאכותית הפכה כוח תרבותי לבעיה. הסקירה תוקנה כדי להכיר בתמיכה זו כמשאב.

מקרה 3 - שאלה מובילה יצרה הטיה. "תכתוב למה האבא הזה לא אמין", שאל מתמחה את הבינה המלאכותית. ה-AI ייצר טקסט שמתאר את האב בצורה שלילית (חנופה) ללא כל ראיה. המפקח שינה את השאלה: "מהן התצפיות על האב, מה יכולות להיות החוזקות והחולשות שלו?" התפוקה הפכה להיות מאוזנת ומבוססת ראיות. שיעור: שאלה מוטה מייצרת תשובה מוטה.

ארבע תבניות הניתנות להעתקה

1) בקש הערכה ניטרלית ומאוזנת:

בסיכום התצפיות הבאות, אתה מציג הן חוזקות אפשריות והן חששות אפשריים בצורה מאוזנת ומבוססת רק על ראיות. אין להסיק מסקנות על סמך סטריאוטיפים. אם הערה אינה מסתמכת על תצפית, כתוב "לא מספיק ראיות". תצפיות: [הדבק תצפיות]

2) בדיקת הטיה (בדיקת זווית הפוכה):

בדוק את טקסט הביקורת למטה. האם יש אמירות שמעבירות סטריאוטיפ לא מבוסס בגלל מעמדו הסוציו-אקונומי, מוצאו, דת, מגדר, מוגבלות או שכונה של הלקוח? עבור כל אחד, שאלו: "האם זה היה כתוב באותה שפה אם הלקוח היה מקבוצה אחרת?" סמן משפטי בעיה. טקסט: [הדבק טקסט]

3) הקשר תרבותי (לא סטריאוטיפ):

ספק אפשרויות למשמעות ההתנהגות/המצב הבא בהקשרים תרבותיים שונים. תן את אלה כנקודות שיש לקחת בחשבון, לא כחוקים מוחלטים; הדגישו שיש הבדלים אישיים בכל קהילה. אין להכליל על קבוצה אחת. מצב: [מצב כתיבה]

4) ניקוי לשון הטבעה:

בטקסט למטה, מצא שמות תואר השופטים או מטילים סטיגמה על האדם (למשל, "מזניח", "לא משתף פעולה", "בעייתי"). עבור כל אחד, החלף את אותה עובדה בחלופה תיאורית, מכבדת ומכירה בחוזקות. הוספת מידע חדש.טקסט: [הדבק טקסט]

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה:

הסבירו מדוע המשפחה הזו לא מספיקה בגידול ילדים.

שאלה זו מניחה את התוצאה מההתחלה ("לא מספקת"). בינה מלאכותית, עם נטייתה לחנופה, תייצר טקסט נטול ראיות ומוטה שמאשר את ההנחה הזו. אם השאלה מוטה, גם התשובה תהיה מוטה.

הנחיה עוצמתית:

בהתבסס על התצפיות הבאות, רשום הן את החוזקות של גידול הילדים והן את תחומי הדאגה של משפחה זו בצורה מאוזנת ובעלת ראיות בלבד. אל תניח את התוצאה מההתחלה; אם הראיות אינן מספיקות, ציין זאת. הימנע מסטריאוטיפים. תצפיות: [הדבק תצפיות]

ההבדל: שאלה מאוזנת שאינה מניחה את התוצאה ומבקשת ראיות מונעת הטיה מלכתחילה.

סוגי הטיה ואמצעי נגד

סוג של הטיה

איך זה נראה

אמצעי נגד

נתוני אימון

סטריאוטיפ קבוצתי

הבחנה בין ראיות לדפוס

מסגור

שפה פסיבית/שלילית

שפה מאוזנת, ממוקדת נושא

סטנדרט כפול

אותה התנהגות, טון שונה

בדיקת זווית הפוכה

עיוורון תרבותי

הפיכת כוח תרבותי לבעיה

שאלת הקשר תרבותי

חנופה

לאשר את ההשלכה

אל תשאל שאלות ניטרליות

חוסר ייצוג

שטחי/אי הבנה

אישור מקומי/מומחה

טעויות נפוצות

• שואל שאלות עם דעות קדומות. שאלה המניחה מסקנה מייצרת תשובה מוטה; בעיה ניטרלית.
• מסתמכים על שפה בטוחה. הטון המקצועי אינו הופך את ההטיה לנכונה; להסתכל על הראיות.
• התחשבות בידע תרבותי ככלל סופי. קח את זה כנקודת אפשרות ותשומת לב; הימנע מסטריאוטיפים.
• לא שם לב לסטנדרטים הכפולים. בדוק כיצד אותה התנהגות כתובה בקבוצות שונות.
• טעות בחותמת כראיה. זהו שיפוט "רשלני"; תאר את התופעה, אל תשפוט את האדם.

לסיכום

AI אינו נייטרלי, הוא נראה נייטרלי; הוא משחזר אי שוויון וסטריאוטיפים בנתונים חינוכיים בשפה שוטפת. בעבודה סוציאלית, זה יכול להוביל להערכות לא הוגנות של אנשים אמיתיים. לזהות הטיה (נתוני הכשרה, מסגור, סטנדרטים כפולים, עיוורון תרבותי, חנופה), לבדוק מולה (שאלה ניטרלית, הפרדת ראיות-דפוס, בדיקת זווית, רגישות תרבותית, ניקוי סטיגמות), ולסנן כל פלט באמצעות ערכי הוגנות וכבוד של המקצוע. המסנן האתי האחרון הוא תמיד אתה.

משימת יישום

בקש מה-AI לסכם את אותה קבוצה של תצפיות בדיוניות עם שני פרופילים קבוצתיים שונים (למשל מצב סוציו-אקונומי שונה) ולהשוות עם "מבחן הזווית ההפוכה" אם גוונים/שפה שונים. לאחר מכן נסה שאלה ניטרלית עם שאלה מוטה במודע ("הסבר למה זה לא מספק") ובחן את ההבדל בתוצאות. לבסוף, החל את התבנית "ניקוי שפת סמן מים" על טקסט.

רשימת בדיקה

• [ ] ניסחתי את השאלות שלי באופן ניטרלי, מבלי להניח את התוצאה.
• [ ] בדקתי כל הצהרה שלילית באמצעות ההבחנה בין ראיות לסטריאוטיפ.
• [ ] בדקתי את הסטנדרט הכפול עם מבחן הזווית ההפוכה.
• [ ] השתמשתי בידע תרבותי כנקודת זהירות, לא ככלל מוחלט.
• [ ] החלפתי שפה סטיגמטית בשפה תיאורית ומכבדת.