הטיה, ייצוג ורגישות תרבותית

רווחים:

• להכיר באמצעות דוגמאות כיצד הטיה תרבותית, מגדרית ואבחנתית במודלים של בינה מלאכותית גורמת נזק בהקשר של פסיכולוגיה
• יכולת ליישם בדיקת הטיה הבודקת תפוקה עבור קבוצות, שפות ותרבויות שונות
• יכולת לפתח טכניקות מהירות ואימות המתקנות נורמה ממוקדת במערב ושפה סטיגמטית

בינה מלאכותית (AI) אינה ניטרלית. מודל בינה מלאכותית לומד מערימת טקסט ענקית באינטרנט, ו"תפיסת העולם" של המודל מוטה לפי קולו של מי הוא מכיל יותר ושל מי קולו מכיל פחות. עיוות זה נקרא הטיה. הטיה בפסיכולוגיה אינה פגם טכני רגיל; זה יכול להשפיע ישירות על ההערכה, האבחנה והטיפול של אדם. סימפטום עשוי להיקרא כ"נורמלי" בתרבות אחת ו"פתולוגי" בתרבות אחרת; התנהגות עשויה להיות מוסגרת כ"אסרטיביות" במגדר אחד ו"תוקפנות" במגדר השני. בינה מלאכותית יכולה ללמוד ולשכפל את ההטיות ההיסטוריות הללו. ביחידה זו תלמד לזהות הטיה בבינה מלאכותית בהקשר של פסיכולוגיה ולבדוק את התפוקות עבור קבוצות, שפות ותרבויות שונות.

מאיפה מגיעות דעות קדומות ואיך הן פוגעות?

ישנם שלושה מקורות עיקריים להטיית AI:

1. חוסר איזון בנתוני האימון. מודלים מאומנים בעיקר עם טקסטים של שפה, תרבות ותקופה ספציפיים. עיקר ספרות הפסיכולוגיה מגיעה מחברות מערביות, משכילות ומתועשות; מכאן שהנחת ה"אנושית הרגילה" של AI משקפת את המדגם הצר הזה.
2. הכללת הטיה היסטורית. בנתונים נכללים גם טקסטים שעשו פתולוגיות והטילו סטיגמה של קבוצות מסוימות בעבר; המודל לומד את הדפוסים הללו.
3. חוסר ייצוג. למודל יש מידע לא מספיק או סטריאוטיפי על קבוצות מיוצגות בחסר (מוצא אתני שונה, שפה, נטייה מינית, מוגבלות).

הנזק מוחשי: בינה מלאכותית עשויה להעריך סימפטום כחמור יותר בקבוצה אחת ומתון יותר מאשר באחרת; עלול להתייחס בטעות לביטוי תרבותי (טקס אבל, חוויה דתית) כסימפטום; זה יכול לייצר שפה סטיגמטית וקלישאתית.

זהירות: גם אם פלט מ-AI נראה כ"מדע אובייקטיבי", הוא עשוי לשאת את ההטיות שלמדה. במיוחד כשמדובר בתרבויות שונות, מגדרים, נטיות מיניות וקבוצות סוציואקונומיות, אנו מחשיבים כל תוצאה כ"האם זה הוגן לכל הקבוצות?" סנן עם השאלה.

סוגי הטיה ספציפיים לפסיכולוגיה

סוג של הטיה

השקפה בפסיכולוגיה

סיכון

הטיה תרבותית

התחשבות בנורמות מערביות כאוניברסליות

אל תטעו בביטוי תרבותי בפתולוגיה

הטיה מגדרית

לפרש את אותה התנהגות אחרת בהתאם למין

פער אבחנתי

הטיה אבחנתית

הצגת קבוצות מסוימות כ"נוטות" לאבחנות מסוימות

אבחנה יתר/מתחת

הטיית שפה

יותר "בקיא" בשפה השלטת, שטחי באחר

הערכה לא שוויונית

הטבעה

שפה המזהה את האדם עם האבחנה שלו

מסגור משפיל

Step by step: bias control

1. אתה יכול לשנות את הפלט ל"למי זה נכתב?" שְׁאֵלָה. Who is the default subject? הוא בדרך כלל בחור משכיל, מערבי, "ממוצע".
2. Test with different groups. חזור על אותה הנחיה בהקשרים תרבותיים, מגדריים וגילאים שונים; Are the comments changing?
3. Scan the stigmatic tongue. ניסוח נכון המזהה את האדם עם האבחנה שלו ("אדם שחווה סכיזופרניה" במקום "סכיזופרני").
4. הוסף הקשר תרבותי. ספר ל-AI את ההקשר התרבותי/לשוני של הלקוח ו"אל תתייחס לביטויים שעלולים להיות נורמליים בהקשר זה כפתולוגיה."
5. Expert and community eyes. אם אינך בטוח לגבי נושא תרבותי, התייעץ עם עמית שמכיר את התרבות הזו.
6. תן לאנשים להחליט. Even bias checking isn't left to AI; The final judgment of justice is yours.

טיפ: דרך מעשית לבדוק אם פלט מוטה: שנה תכונה בודדת (מגדר, תרבות, גיל) בהנחיה ושאל את אותה שאלה שוב. אם הפרשנות משתנה "באופן לא הוגן" עם השינוי הזה, יש הטיה.

שלושה מיני תיקים

Case 1 — Pathologizing cultural expression. איש מקצוע אומר ל-AI שלקוח מתרבות אחרת "מדבר עם הנפטר" במהלך תהליך האבל. בינה מלאכותית ממסגרת את זה כ"יכול להיות סימפטום פסיכוטי". עם זאת, זהו ביטוי נפוץ ונורמלי של אבל בתרבות של אותו לקוח. המומחה דוחה את הפלט של ה-AI מכיוון שהוא מכיר את ההקשר התרבותי. מי שלא הכיר את ההקשר עלול לטעות בשיקול דעת חמור.

Case 2 — Gender bias testing. חוקר נותן את אותו מקרה ל-AI פעמיים; it just changes the person's gender. בגרסה ה"נשית", הבינה המלאכותית מדגישה "חוסר יציבות רגשית", בעוד שבגרסה ה"גברית", היא ממסגרת את אותה התנהגות כמו "תגובת לחץ". This clearly shows the gender bias of the model. החוקר מתעד את ההבדל הזה ומשתמש בתפוקות עם מודעות זו.

מקרה 3 - תיקון שפה סטיגמטית. בינה מלאכותית היא "גבול חולני", נכתב בטיוטת דו"ח אחת. המומחה רואה בכך שפה סטיגמטית המזהה את האדם עם האבחנה שלו ומתרגמת אותה לשפה המתמקדת באדם, כמו "אדם בעל דפוס אישיות גבולי מוגדר". שינוי קטן בשפה עושה הבדל גדול בהגנה על כבוד הלקוח.

הנחיות ותבניות הניתנות להעתקה

בדוק אם יש הטיה בטקסט הבא: הצהרות דגל המעידות על נטייה תרבותית, מגדרית, מינית, גיל או הטיה סוציו-אקונומית. הראה גם את ההנחות הרואות את הנורמות המערביות כאוניברסליות. הצע חלופה הוגנת יותר לכל אחד. טקסט: [טקסט]

עזרו לי להעריך את המצב הבא, אבל ההקשר התרבותי של הלקוח הוא [תרבות/שפה]. בהקשר זה, הצגת ביטויים שעשויים להיות נורמליים כפתולוגיה; אם אינך בטוח לגבי נקודה תרבותית, אמור "זה עשוי להשתנות מבחינה תרבותית, התייעץ עם מומחה." סטטוס: [סטטוס אנונימי]

תרגם את הביטויים הסטיגמטיים בטקסט זה המזהים את האדם עם האבחנה שלו (למשל, "סכיזופרן", "קו גבולי") לשפה המרכזת את האדם ושומרת על כבודו. אל תשנה את התוכן, רק האנש את השפה. טקסט: [טקסט]

אני אעריך את תקציר המקרה הבא פעמיים: פעם אחת הנושא [תכונה A], השני [תכונה B]. האם יש הבדל לא הוגן בין שתי ההערכות, ואם כן, האם זה נובע מהטיה? Compare.Abstract: [anonymous abstract]

הנחיה חלשה / הנחיה חזקה

הנחיה חלשה: "האם התנהגות הלקוח הזה נורמלית או חריגה?"

This prompt does not ask who "normal" is for; בינה מלאכותית מניחה "נורמלי" המתמקד במערב, חסר תרבות, ויכול לגרום לפתולוגיות של ביטוי תרבותי.

הנחיה חזקה: "לקוח זה נמצא ב[הקשר תרבותי/לשוני]. הסבר האם התנהגות זו עשויה להיות ביטוי נורמלי בהקשר תרבותי זה או סימן הדורש תשומת לב, תוך דיון על שניהם בנפרד. אל תעשה פסק דין מוחלט; הזכר לי להתייעץ עם מומחה שמכיר את ההקשר התרבותי".

הנחיה זו שמה את ההקשר במרכז, מונעת קריאה שגויה תרבותית ומשאירה את ההחלטה למומחה.

טעויות נפוצות

• Mistaking AI output for “objective”. שוכחים שהמודל נושא הטיה וקבלת התפוקה כעובדה מדעית.
• Considering the Western norm as universal. הגדרת "נורמלי" לפי תרבות אחת ופתולוגיזציה של ביטויים שונים.
• Not noticing stigmatizing language. טעות בשפה המזהה את האדם עם האבחנה שלו כ"שפה טכנית".
• לא בודק להטיה. לא לנסות את אותה הנחיה עם קבוצות שונות ולבדוק עקביות.
• קבלת החלטות לבד בתרבות שאתה לא מכיר. לעשות שיקול דעת מבלי להתייעץ עם עמית שמכיר את התרבות הזו.

לסיכום

AI מוטה כי הוא לומד מהטקסטים של עולם מוטה; בפסיכולוגיה, הטיה זו מתורגמת לנזק מוחשי בצורה של תרבות, מגדר, אבחון, שפה וסטיגמה. השווה כל פלט עם השאלה "האם זה הוגן לכל הקבוצות?" לסנן אותו; test the same prompt with different groups; add cultural context to your prompt; לשנות שפה סטיגמטית לשפה ממוקדת אדם; חפשו עיני מומחה/קהילה על תרבות שאינכם מכירים. שיפוט הצדק, לרבות השליטה בהטיה, נובע מהאדם.

משימת יישום

Prepare a case summary (anonymous). Give it to the AI ​​twice; לשנות רק מאפיין אחד (מגדר, תרבות או גיל). הנח את שני התדפיסים זה לצד זה ובדוק אם יש הבדלים לא הוגנים. כמו כן, בקש מה-AI לתרגם ביטויים סטיגמטיים בפסקת דוח לשפה ממוקדת באדם ולשים לב להבדל.

רשימת בדיקה

• [ ] שנה את הפלט ל"האם זה הוגן לכל הקבוצות?" שאלתי את השאלה.
• [ ] בדקתי את אותה הנחיה עם קבוצות/תרבויות שונות.
• [ ] I added the cultural context to the prompt; I did not pathologize cultural expression.
• [ ] שיניתי את השפה הסטיגמטית לשפה ממוקדת באדם.
• [ ] ביקשתי את עצתו של מומחה/קולגה בנושא תרבותי שלא הכרתי.
• [ ] השארתי את ההחלטה הסופית של הגינות לשיפוט שלי, לא ל-AI.