Бир тараптуулук, өкүлчүлүк жана маданий сезимталдуулук

Пайдалар:

• Жасалма интеллект моделдериндеги маданий, гендердик жана диагностикалык тенденция психологиянын контекстинде кандай зыян келтирерин мисалдар менен таануу
• Ар кандай топтор, тилдер жана маданияттар үчүн натыйжаларды сынаган бир жактуу текшерүүнү ишке ашыруу мүмкүнчүлүгү
• Батышка багытталган нормаларды жана стигматизациялоочу тилди оңдогон ыкчам жана текшерүү ыкмаларын иштеп чыгуу мүмкүнчүлүгү

Жасалма интеллект (AI) нейтралдуу эмес. AI модели интернеттеги көп тексттен үйрөнөт жана моделдин "дүйнө көз карашы" кимдин үнү көбүрөөк, кимдин үнү азыраак экенине байланыштуу бурмаланат. Бул бурмалоо калыс деп аталат. Психологиядагы бир тараптуулук жөнөкөй техникалык кемчилик эмес; Бул түздөн-түз адамдын баа, диагноз жана дарылоо таасир этиши мүмкүн. Симптом бир маданиятта "нормалдуу", экинчисинде "патологиялык" деп окулушу мүмкүн; жүрүм-турум бир жыныста “талап коюу”, экинчисинде “агрессия” катары каралышы мүмкүн. AI бул тарыхый көз караштарды үйрөнүп, кайталай алат. Бул бөлүмдө сиз психологиянын контекстинде AIдагы бир тараптуулукту таанууну жана ар кандай топтор, тилдер жана маданияттар үчүн жыйынтыктарды текшерүүнү үйрөнөсүз.

Бейтараптык кайдан келип чыгат жана ал кандай зыян келтирет?

AI тенденциясынын үч негизги булагы бар:

1. Тренинг маалыматтарынын дисбаланс. Модельдер негизинен белгилүү бир тилдин, маданияттын жана мезгилдин тексттери менен даярдалат. Психология адабиятынын негизги бөлүгү батыш, билимдүү, өнөр жайлуу коомдордон келет; демек, AI "кадимки адам" божомолу бул тар үлгүнү чагылдырат.
2. Тарыхый көз карашты камтуу. Мурда айрым топторду патологиялык жана стигматизациялоочу тексттер да маалыматтарга кирет; модель бул үлгүлөрдү үйрөнөт.
3. Өкүлчүлүктүн жоктугу. Модель жетишсиз же стереотиптик маалыматка ээ эмес, азыраак көрсөтүлгөн топтор (ар кандай улут, тил, сексуалдык ориентация, майыптык).

Зыян сезилерлик: AI симптомду бир топто оор, экинчисине караганда жеңилирээк деп баалашы мүмкүн; маданий көрүнүштү (аза күтүү ырым-жырымын, диний тажрыйбаны) симптом катары жаңылыш кабыл алышы мүмкүн; Ал стигматизациялоочу, клишеленген тилди жаратышы мүмкүн.

Эскертүү: AIнын натыйжасы "объективдүү илим" болуп көрүнгөн күндө да, ал үйрөнгөн бир тараптуулукту алып келиши мүмкүн. Айрыкча, ар кандай маданияттарга, гендерге, сексуалдык ориентацияларга жана социалдык-экономикалык топторго келгенде, биз ар бир жыйынтыкты “бардык топтор үчүн адилеттүүбү?” деп эсептейбиз. Суроо менен чыпкалоо.

Психологияга мүнөздүү бир жактуулуктун түрлөрү

Артыкчылыктын түрү

Психологияда көрүү

тобокелдик

маданий тенденция

Батыштын нормаларын универсалдуу катары кароо

Культурнай үөрэхтээһин эйгэтигэр үөрэхтээһин

гендердик көз караш

Бир эле жүрүм-турумду жынысына жараша ар кандай чечмелөө

диагностикалык диспропорция

диагностикалык бурмалоо

Белгилүү бир топторду айрым диагноздорго "ыкмалдуу" катары көрсөтүү

Ашыкча / төмөн диагноз

тилдик тентектик

Үстөмдүк кылуучу тилде көбүрөөк “билимдүү”, экинчисинде үстүртөн

Бирдей эмес баа берүү

Штамптоо

Диагнозу менен адамды аныктаган тил

рамкалоо

Этап-этабы менен: бир жактуу башкаруу

1. Чыгарууну "ким үчүн жазылган?" деп өзгөртө аласыз. суроо. Демейки тема ким? Ал жалпысынан билимдүү, батыштык, "орточо" жигит.
2. Ар кандай топтор менен сыноо. Ар кандай маданий, гендердик жана жаштык контексттерде бир эле сунушту кайталаңыз; Комментарийлер өзгөрүп жатабы?
3. Стигмалуу тилди сканерлеңиз. Диагнозу бар адамды аныктоочу туура формулировка («шизофрения» дегендин ордуна «шизофрения менен ооруган адам»).
4. Маданий контекстти кошуу. AIга кардардын маданий/лингвистикалык контекстти айтып бериңиз жана "бул контекстте нормалдуу болушу мүмкүн болгон сөздөрдү патология катары эсептебеңиз".
5. Эксперттердин жана коомчулуктун көздөрү. Маданият маселеси боюнча күмөн санасаңыз, ошол маданиятты билген кесиптешиңизге кайрылыңыз.
6. Эл чечсин. Ал тургай, бир тараптуу текшерүү AI үчүн калган эмес; Адилеттүүлүктүн акыркы өкүмү сиздики.

Кеңеш: Чыгаруунун бир жактуу экенин текшерүүнүн практикалык жолу: тез арада бир атрибутту (жынысы, маданияты, жашы) өзгөртүп, ошол эле суроону кайра бериңиз. Бул өзгөртүү менен чечмелөө "адилетсиз" өзгөрсө, бир жактуулук бар.

үч мини учурлар

1-жагдай – патологиялык маданий экспрессия. Профессионал AIга башка маданияттагы кардар кайгы учурунда "маркум менен сүйлөшүп жатканын" айтат. AI муну "психотикалык симптом болушу мүмкүн" деп эсептейт. Бирок, бул кардардын маданиятында кайгынын таралган жана кадыресе көрүнүшү. Эксперт AIнын жыйынтыгын четке кагат, анткени ал маданий контекстти билет. Контекстти билбеген адам олуттуу туура эмес баа бериши мүмкүн.

2-жагдай – Гендердик көз карашты текшерүү. Тергөөчү бир эле иштин корутундусун АИге эки жолу берет; ал жөн гана адамдын жынысын өзгөртөт. "Аял" версиясында AI "эмоционалдык туруксуздукка" басым жасайт, ал эми "эркек" версиясында ал "стресске жооп берүү" сыяктуу эле жүрүм-турумду чагылдырат. Бул моделдин гендердик көз карашын ачык көрсөтүп турат. Изилдөөчү бул айырмачылыкты документтештирет жана натыйжаларды ушул аң-сезим менен колдонот.

3-жагдай — стигматизациялоочу тилди оңдоо. Долбоордун биринде AI "оорулуу чек ара" болуп саналат. Адис муну стигматизациялоочу тил катары карайт, ал адамды өзүнүн диагнозу менен аныктайт жана аны адамга багытталган тилге которот, мисалы, "чек арадагы инсандык үлгүсү бар инсан". Тилдин бир аз өзгөрүшү кардардын кадыр-баркын коргогон чоң өзгөрүүнү жаратат.

Көчүрмө сунуштар жана шаблондор

Төмөнкү текстти бир жактуулук үчүн текшериңиз: маданий, гендердик, сексуалдык ориентацияны, жашты же социалдык-экономикалык көз карашты көрсөткөн желекчелер. Батыштын нормаларын универсалдуу деп эсептеген божомолдорду да көрсөтүңүз. Ар бири үчүн адилеттүү альтернатива сунуштаңыз.Текст: [текст]

Мага төмөнкү кырдаалды баалоого жардам бериңиз, бирок кардардын маданий контексти [маданият/тил]. Бул контекстте, патология катары НОРМалдуу болушу мүмкүн болгон туюнтмаларды көрсөтүү; Эгер сиз кандайдыр бир маданий пунктка ишенбесеңиз, "бул маданий жактан ар кандай болушу мүмкүн, экспертке кайрылыңыз" деп айтыңыз. Статус: [анонимдүү статус]

Бул тексттеги адамды диагнозу менен аныктаган стигматизациялоочу сөздөрдү (мисалы, "шизофрения", "чек ара") адамды борборлоштурган жана анын кадыр-баркын сактаган тилге которуңуз. Мазмунду өзгөртпөстөн, тилди гумандаштыр. Текст: [текст]

Мен төмөнкү иштин кыскача баяндамасын эки жолу баалайм: бир жолу тема [А өзгөчөлүгү], экинчиси [Б өзгөчөлүгү]. Эки баа берүүнүн ортосунда адилетсиз айырма барбы, эгер андай болсо, бул бир тараптуулуктан уламбы? Салыштыр.Абстракт: [анонимдүү реферат]

Алсыз тездик / Күчтүү тездик

Алсыз суроо: "Бул кардардын жүрүм-туруму нормалдуубу же анормалдуубу?"

Бул сунуш "нормалдуу" ким үчүн экенин сурабайт; AI Батышка багытталган, маданиятсыз "нормалдуу" деп эсептейт жана маданий экспрессияны патологиялык абалга келтириши мүмкүн.

Күчтүү билдирүү: "Бул кардар [маданий/тилдик контекстте]. Бул жүрүм-турум ошол маданий контексттеги кадыресе көрүнүш болушу мүмкүнбү же көңүл бурууну талап кылган белги болушу мүмкүнбү, бул экөөнү тең өз-өзүнчө талкуулап, түшүндүрүп бериңиз. Биротоло жыйынтык чыгарбаңыз; маданий контекстти билген адис менен кеңешүүнү эскертиңиз."

Бул сунуш контекстти борборго коюп, маданий туура эмес окуунун алдын алып, чечимди экспертке калтырат.

Жалпы каталар

• AI чыгарууну "объект" деп жаңылыштыруу. Моделдин бир жактуу экенин унутуп, натыйжаны илимий чындык катары кабыл алуу.
• Батыштын нормасын универсалдуу катары кароо. Бир маданиятка ылайык «нормалдуу» аныктоо жана ар кандай туюнтмаларды патологиялоо.
• Кемсинткен тилди байкабай. Диагнозу бар адамды аныктаган тилди "техникалык тил" деп жаңылыштыруу.
• Калыстык үчүн сыноо эмес. Ар кандай топтор менен бир эле сунушту аракет кылбоо жана ырааттуулукту текшерүү.
• Сиз билбеген маданиятта жалгыз чечим кабыл алуу. Ошол маданиятты билген кесиптеш менен кеңешпей эле чечим чыгаруу.

Кыскача айтканда

AI бир жактуу, анткени ал бир жактуу дүйнөнүн тексттеринен үйрөнөт; Психологияда бул тентектик маданий, гендердик, диагностикалык, тил жана стигма түрүндөгү материалдык зыянга айланат. Ар бир жыйынтыкты “бул бардык топторго адилеттүүбү?” деген суроо менен салыштырыңыз. аны чыпкалоо; бир эле сунушту ар кандай топтор менен сынап көрүңүз; Сиздин сунушуңузга маданий контекстти кошуу; стигматизациялоочу тилди инсанга багытталган тилге өзгөртүү; Сиз билбеген маданиятка эксперт/коомчулуктун көзүн издеңиз. Адилеттүүлүк, анын ичинде бир жактуулукту көзөмөлдөө адам баласынан чыгат.

Колдонмо тапшырмасы

Иштин кыскача баяндамасын даярдаңыз (анонимдүү). Аны AIге эки жолу бер; бир гана белгини өзгөртүү (жынысы, маданияты же жашы). Эки басып чыгарууну жанаша коюп, адилетсиз айырмачылыктарды текшериңиз. Ошондой эле AI отчеттун абзацындагы стигматизациялоочу фразаларды инсанга багытталган тилге которуп, айырманы белгилеңиз.

текшерүү тизмеси

• [ ] Чыгарууну "бул бардык топторго адилеттүүбү?" деген суроону бердим.
• [ ] Мен бир эле сунушту ар кандай топтор/маданияттар менен сынап көрдүм.
• [ ] Мен билдирүүгө маданий контекстти коштум; Маданиятты чагылдырган жокмун.
• [ ] Мен стигмативдүү тилди инсанга багытталган тилге алмаштырдым.
• [ ] Мен бейтааныш маданий маселе боюнча эксперттен/кесиптештен кеңеш сурадым.
• [ ] Адилеттүүлүктүн акыркы чечимин AI эмес, өзүмдүн чечимиме калтырдым.