Добици:
- Препознавање када АИ производи пристрасност кроз податке о обуци, кадрирање, двоструке стандарде и ласкање
- Способност успостављања контроле против пристрасности са неутралним питањима, дискриминацијом доказа-стереотипа и тестом обрнутог угла
- Способност да се стигматизирајући језик преведе у описни и уважавајући језик користећи културно знање као тачку пажње, а не као дефинитивно правило
Раисон д'етре социјалног рада је правда и људско достојанство; У сржи професије је посвећеност да сваки појединац има једнаку вредност, да се супротстави дискриминацији, а да су угрожене групе заштићене. Вештачка интелигенција носи ризик који може тихо да нашкоди управо овим вредностима: пристрасност. АИ учи из историјских података; Ако ти подаци укључују неједнакости, стереотипе и дискриминацију у друштву, АИ их учи и репродукује на течном, „објективном“ језику. У рукама социјалног радника, ово се може претворити у систематски негативнију процену групе, стереотип о породици или погрешно разумевање културе. У овој јединици научићете да препознате пристрасност вештачке интелигенције, контролишете је и користите вештачку интелигенцију са поштењем и културолошком осетљивошћу.
Чињеница од почетка: АИ није неутрална, изгледа неутрална. Најопаснија пристрасност је она представљена самоувереним и професионалним језиком; јер се прихвата без поговора. Ваш посао као социјалног радника је да ову невидљиву пристрасност учините видљивом и надгледате да ли је резултат у супротности са вашим професионалним вредностима.
Одакле долази АИ пристрасност и како то изгледа?
- Пристрасност података о обуци. АИ учи из текстова који одражавају неједнакости у друштву. Стереотипи о одређеним етничким групама, сиромашнима, инвалидима, одређеним насељима или половима могу процурити у излаз.
- Језик и пристрасност кадрирања. АИ може представити групу као пасивну, „проблематичну“ или „објекат коме је потребна помоћ“; друга група као субјекти. Једна група исто понашање може тумачити као „културно“, а друга група „проблематично“.
- Недостатак репрезентације. АИ може нетачно или површно да разуме групе које су недовољно заступљене у подацима (мале популације, ретки случајеви).
- Ласкање (сикофанија). АИ тежи да потврди ваш подразумевани став; Пристрасно питање доноси пристрасну потврду.
Ове пристрасности су посебно опасне у социјалном раду, јер се резултат директно дотиче живота стварних људи—процена, извештај, упућивање.
Опрез: „АИ је то тако проценио“ је знак упозорења, а не оправдање. Када видите резултате који негативно приказују групу или појединца, прво питање је „да ли се заснива на доказима или на стереотипима?“ требало би да буде.
Корак по корак: ревизија против пристрасности
- Питајте неутрално. Постављајте питања која не имплицирају или не воде; Не „објасни зашто је ова породица занемарена“, већ „шта би ова запажања могла да значе, која су алтернативна објашњења?“ питати.
- Направите разлику између доказа и стереотипа. За сваку негативну изјаву питајте: да ли је заснована на конкретним доказима испред мене или је заснована на општој претпоставци о групи?
- Тестирајте из супротног угла. Размотрите исту ситуацију за другу групу: „Да је клијент из другачијег социоекономског/етничког порекла, да ли би АИ то написао на истом језику?“
- Тражите културну осетљивост. Питајте о културном контексту понашања; али узмите културолошко знање као могућност и разлог за опрез, а не као апсолутно правило (избегавајте стереотип).
- Очистите језик за отисак. Преведите га на језик који описује ситуацију, а не особу, и такође видите предности.
три мини кофера
Случај 1 — Обрнути угао је открио пристрасност. Експерт је дао АИ да сумира два слична случаја; једина разлика је био социоекономски статус породица. ИЗ је написао тоном „висок ризик од занемаривања” за породицу са ниским примањима, а тоном „родитељ приморан да се понаша” за породицу са високим примањима. Експерт је препознао овај двоструки стандард и дестиловао обе процене у једнак језик заснован на доказима.
Случај 2 — Исправљена културолошка погрешна интерпретација. ИЗ је ситуацију детета које живи са проширеном породицом уоквирила као „гранична питања и мешано кућно окружење“. Експерт је знао да је у оквиру породичног културног контекста проширена породица моћан извор подршке и заштите. АИ је претворила културну силу у проблем. Преглед је исправљен да препозна ову подршку као ресурс.
Случај 3 — Водеће питање је изазвало пристрасност. „Напишите зашто је овај отац неповерљив“, замолио је један приправник АИ. АИ је произвела текст који оца приказује негативно (ласкање) без икаквих доказа. Супервизор је изменио питање: „Каква су запажања о оцу, које би могле бити његове предности и мане?“ Резултат је постао уравнотежен и заснован на доказима. Поука: пристрасно питање производи пристрасан одговор.
Четири шаблона за копирање
1) Захтевајте неутралну, уравнотежену процену:
Сумирајући следећа запажања, представљате и могуће предности и могуће недоумице на Уравнотежен начин и засновано САМО на доказима. Немојте правити никакве закључке на основу стереотипа. Ако се коментар не ослања на посматрање, напишите „недовољно доказа“. Запажања: [налепи запажања]
2) Провера пристраности (тест супротног угла):
Погледајте текст рецензије у наставку. Да ли постоје изјаве које преносе непоткријепљен стереотип због клијентовог социоекономског статуса, етничке припадности, религије, пола, инвалидитета или комшилука? За сваки, питајте: „Да ли би ово било написано на истом језику да је клијент из друге групе?“ Означите проблематичне реченице. Текст: [налепите текст]
3) Културни контекст (нестереотип):
Наведите МОГУЋНОСТИ шта би следеће понашање/ситуација могло да значи у различитим културним контекстима. Дајте ово као тачке које треба размотрити, а не као апсолутна правила; Нагласите да у свакој заједници постоје индивидуалне разлике. Немојте генерализовати о једној групи. Ситуација: [напишите ситуацију]
4) Чишћење језика отиском:
У тексту испод пронађите придеве који суде или стигматизују особу (нпр. „немаран“, „некооперативан“, „проблематичан“). За сваки, замените исту чињеницу алтернативом која је описна, са поштовањем и која препознаје предности. Додавање нових информација. Текст: [налепи текст]
Слаби промпт / Јаки промпт
Слабо обавештење:
Објасните зашто је ова породица неадекватна у васпитању деце.
Ово питање претпоставља резултат од почетка („недовољан“). АИ, са својом тенденцијом ласкања, произвешће текст без доказа и пристрасност који потврђује ову претпоставку. Ако је питање пристрасно, одговор ће такође бити пристрасан.
Снажан упит:
На основу следећих запажања, наведите и јаке стране ове породице у васпитању деце и области забринутости на Уравнотежен и само доказни начин. Не претпостављајте исход од почетка; Ако су докази недовољни, наведите то. Избегавајте стереотипе. Запажања: [налепите запажања]
Разлика: уравнотежено питање које не претпоставља исход и тражи доказе спречава пристрасност на првом месту.
Врсте пристрасности и противмера
Врста пристрасности
Како то изгледа
противмера
подаци о обуци
групни стереотип
Разлика између доказа и узорка
кадрирање
Пасивни/негативни језик
Уравнотежен језик усредсређен на предмет
двоструки стандард
Исто понашање, другачији тон
тест обрнутог угла
културно слепило
Претварање културне моћи у проблем
Питање културног контекста
ласкања
потврдити импликацију
Не постављајте неутрална питања
недостатак заступљености
Површно/неразумевање
Локална/стручна потврда
Уобичајене грешке
- Постављање питања са предрасудама. Питање које претпоставља закључак производи пристрасан одговор; неутралан проблем.
- Ослањајући се на поуздан језик. Професионални тон не чини пристрасност исправном; погледајте доказе.
- Сматрајући културна знања дефинитивним правилом. Узмите то као тачку могућности и пажње; Избегавајте стереотипе.
- Не примећујући двоструке стандарде. Тестирајте како је исто понашање написано у различитим групама.
- Погрешио печат као доказ. То је „непажљива“ пресуда; Опишите феномен, не осуђујте особу.
Укратко
АИ није неутралан, изгледа неутралан; Репродукује неједнакости и стереотипе у образовним подацима на течном језику. У социјалном раду то може довести до неправедних процена стварних људи. Препознајте пристрасност (подаци о обуци, уоквиривање, двоструки стандарди, културно слепило, ласкање), проверите то (неутрално питање, раздвајање доказа и узорка, тестирање угла, културна осетљивост, уклањање стигме) и филтрирајте сваки резултат кроз вредности професије праведности и части. Коначни етички филтер сте увек ви.
Задатак апликације
Нека АИ сумира исти скуп измишљених запажања са два различита профила групе (нпр. различити социоекономски статус) и упореди са „тестом обрнутог угла“ да ли се тонови/језик разликују. Затим покушајте са неутралним питањем са свесно пристрасним питањем („објасните зашто је неадекватно”) и испитајте разлику у исходима. На крају, примените шаблон „чишћење језика воденог жига“ на текст.
контролна листа
- [ ] Своја питања сам поставио неутрално, без претпоставке о исходу.
- [ ] Проверио сам сваку негативну изјаву користећи разлику доказ-стереотип.
- [ ] Проверио сам двоструки стандард тестом обрнутог угла.
- [ ] Користио сам културно знање као упозорење, а не као апсолутно правило.
- [ ] Заменио сам стигматизирајући језик описним језиком који поштује.