Табыстар:
- Жасанды интеллект модельдеріндегі мәдени, гендерлік және диагностикалық бейімділіктің психология контекстінде қалай зиян келтіретінін мысалдармен тану.
- Әртүрлі топтар, тілдер және мәдениеттер үшін нәтижелерді сынайтын біржақты тексеруді жүзеге асыру мүмкіндігі
- Батысқа бағытталған нормалар мен стигматизациялық тілді түзететін жедел және тексеру әдістерін әзірлеу мүмкіндігі
Жасанды интеллект (AI) бейтарап емес. AI моделі интернеттегі үлкен мәтіндер үйіндісінен үйренеді және модельдің «әлемдік көзқарасы» кімнің дауысы көп, ал кімнің дауысы аз екеніне байланысты бұрмаланады. Бұл бұрмалану қиғаштық деп аталады. Психологиядағы біржақтылық қарапайым техникалық ақау емес; Ол адамның бағалауына, диагностикасына және емдеуіне тікелей әсер етуі мүмкін. Симптомды бір мәдениетте «қалыпты», ал екіншісінде «патологиялық» деп оқуға болады; мінез-құлық бір жыныста «ассертивтілік», екіншісінде «агрессия» ретінде қарастырылуы мүмкін. Жасанды интеллект осы тарихи көзқарастарды біліп, қайталай алады. Бұл бөлімде сіз психология контекстінде AI-дағы біржақтылықты тануды және әртүрлі топтар, тілдер мен мәдениеттер үшін нәтижелерді тексеруді үйренесіз.
Алаңдау қайдан пайда болады және ол қалай зиян тигізеді?
AI бейімділігінің үш негізгі көзі бар:
- Жаттығу деректерінің теңгерімсіздігі. Модельдер негізінен белгілі бір тілдің, мәдениеттің және кезеңнің мәтіндерімен дайындалады. Психология әдебиетінің негізгі бөлігі батыстық, білімді, индустриялық қоғамдардан келеді; демек, AI-ның «қалыпты адам» болжамы осы тар үлгіні көрсетеді.
- Тарихи бетбұрысты қосу. Бұрын белгілі бір топтарды патологиялық күйге түсіріп, стигматизациялаған мәтіндер де деректерге енгізілген; модель осы үлгілерді меңгереді.
- Өкілдіктің болмауы. Модельде жеткіліксіз ұсынылған топтар (әртүрлі этнос, тіл, жыныстық бағдар, мүгедектік) туралы не жеткіліксіз, не стереотиптік ақпарат бар.
Зиян айтарлықтай: АИ бір топта симптомды ауыр және басқасына қарағанда жеңіл деп бағалауы мүмкін; мәдени көріністі (жоқтау рәсімі, діни тәжірибе) симптом ретінде қате қабылдауы мүмкін; Ол стигматизациялаушы, клишелік тіл тудыруы мүмкін.
Абайлаңыз: AI-дан алынған нәтиже «объективті ғылым» болып көрінсе де, ол үйренген теріс көзқарастарды қамтуы мүмкін. Әсіресе, әртүрлі мәдениеттерге, жыныстарға, жыныстық бағдарларға және әлеуметтік-экономикалық топтарға келетін болсақ, біз әрбір нәтижені «барлық топтар үшін әділетті ме?» деп есептейміз. Сұрақпен сүзіңіз.
Психологияға тән бейімділіктің түрлері
Жалғау түрі
Психологиядағы көзқарас
тәуекел
мәдени бейімділік
Батыс нормаларын әмбебап ретінде қарастыру
Мәдени көріністі патология деп қателеспеңіз
гендерлік бейімділік
Бірдей мінез-құлықты жынысына байланысты әртүрлі түсіндіру
диагностикалық сәйкессіздік
диагностикалық ауытқу
Белгілі бір топтарды белгілі бір диагноздарға «бейімді» етіп көрсету
Диагноздың артық/төмен
тілдік бейімділік
Үстем тілде «білікті», екіншісінде үстірт
Бірдей емес бағалау
Штамптау
Диагностикасы бар адамды анықтайтын тіл
қорлайтын жақтау
Қадамдық: ауытқуды бақылау
- Шығаруды «ол кім үшін жазылған?» деп өзгертуге болады. сұрақ. Әдепкі тақырып кім? Ол негізінен білімді, батыстық, «орташа» жігіт.
- Әр түрлі топтармен тест. Әртүрлі мәдени, гендерлік және жастық контексттерде бірдей сұрауды қайталаңыз; Пікірлер өзгеріп жатыр ма?
- Стигматикалық тілді сканерлеңіз. Диагнозы бар адамды сәйкестендіретін дұрыс тұжырым («шизофрения» орнына «шизофрениямен ауыратын адам»).
- Мәдени контекст қосыңыз. AI-ға клиенттің мәдени/тілдік контекстін айтыңыз және «осы контексте қалыпты болуы мүмкін өрнектерді патология ретінде қарастырмаңыз».
- Сарапшы және қоғам көзі. Мәдени мәселеге сенімсіз болсаңыз, сол мәдениетті білетін әріптесіңізбен кеңесіңіз.
- Адамдар шешсін. Тіпті біржақты тексеру AI-ға қалдырылмайды; Әділдіктің соңғы үкімі сіздікі.
Кеңес: Шығарылымның объективті екенін тексерудің практикалық жолы: шақыруда бір атрибутты (жынысы, мәдениеті, жасы) өзгертіп, сол сұрақты қайта қойыңыз. Егер интерпретация осы өзгеріспен «әділетсіз» өзгерсе, біржақтылық бар.
үш шағын іс
1-жағдай – мәдени экспрессияның патологиялық көрінісі. Кәсіби маман AI-ға қайғы-қасірет кезінде басқа мәдениеттегі клиент «марқұммен сөйлесетінін» айтады. AI мұны «психотикалық симптом болуы мүмкін» деп санайды. Дегенмен, бұл клиенттің мәдениетіндегі қайғы-қасіреттің әдеттегі және қалыпты көрінісі. Сарапшы AI нәтижесін қабылдамайды, өйткені ол мәдени контекстті біледі. Мәтінмәнді білмейтін адам елеулі қате пікір айтуы мүмкін.
2-жағдай – Гендерлік бейімділік тестілеу. Тергеуші АИ-ге бір істің қысқаша мазмұнын екі рет береді; ол тек адамның жынысын өзгертеді. «Әйел» нұсқасында AI «эмоционалды тұрақсыздықты» атап көрсетеді, ал «ер» нұсқасында ол «стресске жауап беру» сияқты мінез-құлықты көрсетеді. Бұл модельдің гендерлік бейімділігін анық көрсетеді. Зерттеуші бұл айырмашылықты құжаттайды және нәтижелерді осы хабардарлықпен пайдаланады.
3-жағдай – стигматизациялау тілін түзету. Бір есеп жобасында AI - бұл «ауру шекарасы». Маман бұл адамды диагнозымен сәйкестендіретін және оны «белгілі шекаралық тұлға үлгісі бар жеке тұлға» сияқты адамға бағытталған тілге аударатын стигматизациялық тіл ретінде қарастырады. Тілдегі кішкене өзгеріс клиенттің абыройын қорғайтын үлкен өзгеріс тудырады.
Көшірілетін шақырулар мен үлгілер
Келесі мәтінді біржақтылық үшін тексеріңіз: мәдени, жыныс, жыныстық бағдар, жас немесе әлеуметтік-экономикалық бейімділікті көрсететін жалауша мәлімдемелер. Сондай-ақ батыстық нормаларды әмбебап деп есептейтін болжамдарды көрсетіңіз. Әрқайсысы үшін әділірек балама ұсыныңыз. Мәтін: [мәтін]
Маған келесі жағдайды бағалауға көмектесіңіз, бірақ клиенттің мәдени контексті [мәдениет/тіл] болып табылады. Осы контекстте патология ретінде ҚАЛЫПТЫ болуы мүмкін өрнектерді ұсыну; Егер сіз мәдени нүктеге сенімді болмасаңыз, «бұл мәдени тұрғыдан әртүрлі болуы мүмкін, сарапшымен кеңесіңіз» деп айтыңыз. Күйі: [анонимді күй]
Осы мәтіндегі диагнозы бар адамды сәйкестендіретін стигматизациялық өрнектерді (мысалы, «шизофрения», «шекаралық») адамды орталықтандыратын және оның қадір-қасиетін сақтайтын тілге аударыңыз. Мазмұнды өзгертпе, тек тілді ізгілендіру. Мәтін: [мәтін]
Мен келесі жағдайдың қысқаша мазмұнын екі рет бағалаймын: бір рет тақырып [А мүмкіндігі], екіншісі [В мүмкіндігі]. Екі бағалаудың арасында әділетсіз айырмашылық бар ма, егер солай болса, бұл біржақтылыққа байланысты ма? Салыстыру. Аннотация: [анонимді реферат]
Әлсіз шақыру / Күшті шақыру
Әлсіз нұсқау: «Бұл клиенттің мінез-құлқы қалыпты ма, әлде қалыпты емес пе?»
Бұл шақыру «қалыпты» кімге арналғанын сұрамайды; Жасанды интеллект батыстық орталықтандырылған, мәдениетсіз «қалыпты» деп есептейді және мәдени көріністі патологиялай алады.
Күшті сұрау: "Бұл клиент [мәдени/тілдік контексте]. Бұл мінез-құлық сол мәдени контексте қалыпты көрініс па, әлде назар аударуды қажет ететін белгі бола ма, жоқ па, соны түсіндіріңіз, екеуін де бөлек талқылаңыз. Түпкілікті пайымдау жасамаңыз; мәдени контекстті білетін сарапшымен кеңесуімді еске түсіріңіз."
Бұл шақыру контекстті ортаға қояды, мәдени қате оқуды болдырмайды және шешімді сарапшыға қалдырады.
Жалпы қателер
- AI шығысын «мақсат» деп қателесу. Модельдің біржақтылығын ұмытып, нәтижені ғылыми факт ретінде қабылдау.
- Батыстық норманы әмбебап ретінде қарастыру. Бір мәдениетке сәйкес «қалыпты» анықтау және әртүрлі өрнектерді патологиялау.
- Стигматизациялаушы тілді байқамау. Диагнозы бар адамды анықтайтын тілді «техникалық тіл» деп қателесу.
- Біржақтылықты сынамау. Әртүрлі топтармен бірдей сұрауды қолданбау және дәйектілікті тексеру.
- Сіз білмейтін мәдениетте жалғыз шешім қабылдау. Сол мәдениетті білетін әріптесімен ақылдаспай пайымдау.
Қысқаша айтқанда
AI біржақты, өйткені ол біржақты әлемнің мәтіндерінен үйренеді; Психологияда бұл бейімділік мәдени, гендерлік, диагностикалық, тіл және стигма түріндегі нақты зиянға айналады. Әрбір нәтижені «бұл барлық топтар үшін әділетті ме?» Деген сұрақпен салыстырыңыз. оны сүзіңіз; бір сұрауды әртүрлі топтармен сынау; сұрауыңызға мәдени контекст қосыңыз; стигматизациялаушы тілді тұлғаға бағытталған тілге өзгерту; Сізге бейтаныс мәдениетке сарапшылардың/қауымдастықтардың назарын аударыңыз. Әділдік үкімі, оның ішінде біржақтылықты бақылау адам баласынан шығады.
Қолданбалы тапсырма
Істің қысқаша мазмұнын дайындаңыз (анонимді). Оны АИ-ге екі рет беріңіз; тек бір сипаттаманы өзгерту (жынысы, мәдениеті немесе жасы). Екі басып шығаруды қатар қойып, әділетсіз айырмашылықтарды тексеріңіз. Сондай-ақ, AI есеп параграфындағы стигматизациялық сөз тіркестерін тұлғаға бағытталған тілге аударып, айырмашылықты ескеріңіз.
бақылау парағы
- [ ] Шығаруды "бұл барлық топтарға қатысты ма?" Мен сұрақ қойдым.
- [ ] Мен бірдей сұрауды әртүрлі топтармен/мәдениеттермен сынап көрдім.
- [ ] Мен шақыруға мәдени контекстті қостым; Мен мәдени көріністі патологияға түсірген жоқпын.
- [ ] Мен стигматизациялаушы тілді тұлғаға бағытталған тілге ауыстырдым.
- [ ] Маған бейтаныс мәдени мәселе бойынша сарапшының/әріптестің кеңесін сұрадым.
- [ ] Әділдік туралы соңғы шешімді AI емес, өз пікіріме қалдырдым.