Добивки:
- Препознајте со примери како културната, родовата и дијагностичката пристрасност во моделите на вештачка интелигенција предизвикуваат штета во контекст на психологијата
- Способност да се спроведе проверка на пристрасност што го тестира излезот за различни групи, јазици и култури
- Способност да се развијат брзи и техники за верификација кои ја коригираат западно-центрираната норма и стигматизирачкиот јазик
Вештачката интелигенција (ВИ) не е неутрална. Модел со вештачка интелигенција учи од огромен куп текст на интернет, а „погледот на светот“ на моделот е искривен од чиј глас содржи повеќе, а чиј глас содржи помалку. Ова нарушување се нарекува пристрасност. Пристрасноста во психологијата не е обична техничка маана; Може директно да влијае на проценката, дијагнозата и третманот на една личност. Симптомот може да се чита како „нормален“ во една култура и „патолошки“ во друга; однесувањето може да се врами како „наметливост“ кај едниот пол и „агресија“ кај другиот. ВИ може да ги научи и реплицира овие историски предрасуди. Во оваа единица ќе научите да препознавате пристрасност во ВИ во контекст на психологијата и да ги ревидирате резултатите за различни групи, јазици и култури.
Од каде доаѓаат предрасудите и како им штети?
Постојат три основни извори на пристрасност на вештачката интелигенција:
- Нерамнотежа на податоците од обуката. Моделите се обучуваат претежно со текстови на одреден јазик, култура и период. Најголемиот дел од литературата за психологија доаѓа од западните, образованите, индустријализираните општества; па оттука и претпоставката за „нормален човек“ на АИ го одразува овој тесен примерок.
- Вклучување на историска пристрасност. Во податоците се вклучени и текстови кои во минатото патологизирале и стигматизирале одредени групи; моделот ги учи овие обрасци.
- Недостаток на застапеност. Моделот има или недоволни или стереотипни информации за недоволно застапените групи (различна етничка припадност, јазик, сексуална ориентација, попреченост).
Штетата е опиплива: вештачката интелигенција може да оцени како симптом како потешка кај една група и поблаг отколку кај друга; може погрешно да го смета културниот израз (ритуал на жалост, религиозно искуство) како симптом; Може да произведе стигматизиран, клише јазик.
Внимание: Дури и ако излезот од вештачката интелигенција се чини дека е „објективна наука“, тој може да ги носи предрасудите што ги научил. Особено кога станува збор за различни култури, полови, сексуални ориентации и социо-економски групи, ние го сметаме секој исход како „дали е ова фер за сите групи? Филтрирајте со прашањето.
Видови на пристрасност специфични за психологијата
Вид на пристрасност
Поглед во психологијата
ризик
културна пристрасност
Сметајќи ги западните норми за универзални
Не погрешно културниот израз за патологија
родова пристрасност
Различно толкување на истото однесување во зависност од полот
дијагностички диспаритет
дијагностичка пристрасност
Прикажување на одредени групи како „склони“ кон одредени дијагнози
Над/под дијагноза
јазична пристрасност
По „умешен“ во доминантниот јазик, површен во другиот
Нееднакво оценување
Печатење
Јазик кој ја идентификува личноста со нивната дијагноза
понижувачко врамување
Чекор по чекор: контрола на пристрасност
- Можете да го промените излезот во "за кого е напишано?" прашање. Кој е стандардниот предмет? Тој е генерално образован, западен, „просечен“ тип.
- Тестирајте со различни групи. Повторете го истото барање во различни културни, полови и возрасни контексти; Дали се менуваат коментарите?
- Скенирајте го стигматичниот јазик. Правилна формулација која го идентификува лицето со нивната дијагноза („лице кое доживува шизофренија“ наместо „шизофренија“).
- Додадете културен контекст. Кажете ѝ на вештачката интелигенција за културниот/јазичниот контекст на клиентот и „не сметајте ги изразите кои можат да бидат нормални во овој контекст за патологија“.
- Експертски и очи на заедницата. Ако не сте сигурни за некое културно прашање, консултирајте се со колега кој ја познава таа култура.
- Оставете ги луѓето да одлучат. Дури и проверката на пристрасност не е препуштена на вештачката интелигенција; Конечниот суд на правдата е ваш.
Совет: Практичен начин за тестирање дали резултатот е пристрасен: сменете еден атрибут (пол, култура, возраст) во промптот и повторно поставете го истото прашање. Ако толкувањето се промени „неправедно“ со оваа промена, постои пристрасност.
три мини футроли
Случај 1 — Патологизирање на културниот израз. Професионалец и кажува на вештачката интелигенција дека клиент од различна култура „разговара со покојникот“ за време на процесот на тага. ВИ го дефинира ова како „може да биде психотичен симптом“. Сепак, ова е вообичаен и нормален израз на тага во културата на тој клиент. Експертот го отфрла резултатот на вештачката интелигенција бидејќи го знае културниот контекст. Некој што не го знаел контекстот може да направи сериозна погрешна проценка.
Случај 2 - Тестирање на родова пристрасност. Истражител двапати му дава резиме на истиот случај на вештачката интелигенција; тоа само го менува полот на личноста. Во „женската“ верзија, вештачката интелигенција ја нагласува „емоционалната нестабилност“, додека во „машката“ верзија, истото однесување го врамува како „одговор на стрес“. Ова јасно ја покажува родовата пристрасност на моделот. Истражувачот ја документира оваа разлика и ги користи резултатите со оваа свест.
Случај 3 - Корекција на стигматизирачки јазик. ВИ е „болна граница“, се вели во еден нацрт-извештај. Специјалистот го гледа ова како стигматизирачки јазик кој ја идентификува личноста со неговата дијагноза и ја преведува на јазик кој се фокусира на личноста, како што е „поединец со дефинирана гранична шема на личноста“. Мала промена во јазикот прави голема разлика во заштитата на достоинството на клиентот.
Потсетници и шаблони што може да се копираат
Проверете го следниов текст за пристрасност: означете изјави што укажуваат на културна, полова, сексуална ориентација, возраст или социоекономска пристрасност. Покажете ги и претпоставките кои ги сметаат западните норми за универзални. Предложете поправедна алтернатива за секој. Текст: [текст]
Помогнете ми да ја проценам следнава ситуација, но културниот контекст на клиентот е [култура/јазик]. Во овој контекст, претставување на изрази кои можат да бидат НОРМАЛНИ како патологија; Ако не сте сигурни за некоја културна точка, кажете „ова може да варира културно, консултирајте се со експерт“. Статус: [анонимен статус]
Преведете ги стигматизирачките изрази во овој текст кои ја идентификуваат личноста со нивната дијагноза (на пр., „шизофреничарка“, „гранична линија“) на јазик што ја центрира личноста и го зачувува неговото достоинство. Не ја менувајте содржината, само хуманизирајте го јазикот. Текст: [текст]
Следното резиме на случајот ќе го оценам двапати: еднаш субјектот [карактеристика А], другиот [карактеристика Б]. Дали има неправедна разлика помеѓу двете оценки, и ако е така, дали тоа се должи на пристрасност? Спореди.Апстракт: [анонимен апстракт]
Слаб промпт / Силен промпт
Слаба порака: "Дали однесувањето на клиентот е нормално или ненормално?"
Овој промпт не прашува за кого е „нормално“; Вештачката интелигенција претпоставува западноцентрична, некултурна „нормална“ и може да го патологизира културниот израз.
Силен поттик: „Овој клиент е во [културен/јазичен контекст]. Објаснете дали ова однесување може да биде нормален израз во тој културен контекст или знак што бара внимание, дискутирајќи за двете одделно. Не донесувајте дефинитивен суд; потсетете ме да се консултирам со експерт кој го знае културниот контекст“.
Овој поттик го става контекстот во центарот, го спречува културното погрешно читање и ја препушта одлуката на експертот.
Вообичаени грешки
- Грешка на излезот за вештачка интелигенција за „цел“. Заборавајќи дека моделот носи пристрасност и прифаќајќи го резултатот како научен факт.
- Сметајќи ја западната норма за универзална. Дефинирање на „нормално“ според една култура и патологизирање на различни изрази.
- Не забележувајќи стигматизирачки јазик. Грешка на јазикот што го идентификува лицето со неговата дијагноза како „технички јазик“.
- Не тестирање за пристрасност. Не пробувајќи го истото барање со различни групи и проверувајќи ја конзистентноста.
- Донесување одлуки сами во култура што не ја познавате. Да се процени без да се консултира колега кој ја познава таа култура.
Сумирано
ВИ е пристрасна затоа што учи од текстовите на пристрасен свет; Во психологијата, оваа пристрасност се претвора во опиплива штета во форма на културна, родова, дијагностичка, јазична и стигма. Споредете го секој резултат со прашањето „дали е ова фер за сите групи? процедете го; тестирајте го истиот промпт со различни групи; додадете културен контекст на вашето барање; промена на стигматизирачкиот јазик во јазик насочен кон личноста; Побарајте експертски/заеднички поглед на културата со која не сте запознаени. Пресудата на правдата, вклучително и контролата на пристрасноста, произлегува од човечкото суштество.
Задача за апликација
Подгответе резиме на случај (анонимно). Дајте го двапати на вештачката интелигенција; промени само една карактеристика (пол, култура или возраст). Ставете ги двата отпечатоци рамо до рамо и проверете дали има неправедни разлики. Исто така, вештачката интелигенција нека преведува стигматизирачки фрази во ставот на извештајот на јазик насочен кон личноста и ја забележува разликата.
листа за проверка
- [ ] Променете го резултатот во "дали е ова фер за сите групи?" Го поставив прашањето.
- [ ] Го тестирав истото барање со различни групи/култури.
- [ ] Го додадов културниот контекст на промптот; Јас не го патологизирав културниот израз.
- [ ] Го сменив стигматизирачкиот јазик во јазик фокусиран на личноста.
- [ ] Побарав совет од експерт/колега за културно прашање што не ми беше познато.
- [ ] Конечната одлука за правичност ја оставив на моја сопствена проценка, а не на вештачката интелигенција.