Добивки:
- Препознавање кога вештачката интелигенција создава пристрасност преку податоци за обука, кадрирање, двојни стандарди и ласкање
- Способност да се воспостави контрола против пристрасност со неутрални прашања, дискриминација на докази-стереотип и тест со обратен агол
- Способност да се преведе стигматизирачки јазик во описен и почитуван јазик со користење на културното знаење како точка на внимание наместо дефинитивно правило
Причината за постоење на социјалната работа е правдата и човечкото достоинство; Во основата на професијата е заложбата дека секој поединец е со еднаква вредност, се спротивставува на дискриминацијата и се штитат ранливите групи. Вештачката интелигенција носи ризик што може тивко да им наштети токму на овие вредности: пристрасност. ВИ учи од историски податоци; Ако тие податоци вклучуваат нееднаквости, стереотипи и дискриминација во општеството, вештачката интелигенција ги учи и ги репродуцира на течен јазик со „објективен“ изглед. Во рацете на социјалниот работник, ова може да се претвори во систематски понегативна евалуација на групата, стереотипизирање на семејството или недоразбирање на културата. Во оваа единица, ќе научите да препознавате пристрасност на вештачката интелигенција, да ја контролирате и да ја користите вештачката интелигенција со правичност и културна чувствителност.
Факт од самиот почеток: вештачката интелигенција не е неутрална, таа изгледа неутрална. Најопасната пристрасност е онаа претставена на сигурен и професионален јазик; затоа што се прифаќа без прашање. Вашата работа како социјален работник е да ја направите оваа невидлива пристрасност видлива и да следите дали резултатот е во конфликт со вашите професионални вредности.
Од каде доаѓа пристрасноста на вештачката интелигенција и како изгледа?
- Пристрасност на податоците за обуката. Вештачката интелигенција учи од текстови кои ги рефлектираат нееднаквостите во општеството. Стереотипите за одредени етнички групи, сиромашните, инвалидите, одредени населби или полови може да протечат во резултатот.
- Јазик и пристрасност кон кадрирање. Вештачката интелигенција може да обликува група како пасивна, „проблематична“ или „објект на која му е потребна помош“; друга група како субјекти. Истото однесување може да се толкува како „културно“ од една група и „проблематично“ од друга група.
- Недостаток на застапеност. ВИ може неточно или површно да ги разбере групите кои се недоволно застапени во податоците (мали популации, ретки случаи).
- Ласкање (сикофанство). ВИ има тенденција да го потврди вашиот имплицитен поглед; Пристрасното прашање носи пристрасна потврда.
Овие предрасуди се особено опасни во социјалната работа бидејќи резултатот директно ги допира животите на вистинските луѓе - проценка, извештај, упатување.
Внимание: „Вештачката интелигенција така го оцени“ е знак за предупредување, а не оправдување. Кога гледате резултати што прикажуваат група или поединец негативно, првото прашање е „дали е заснован на докази или врз стереотипи? треба да биде.
Чекор по чекор: ревизија против пристрасност
- Прашајте неутрално. Поставувајте прашања што не имплицираат или водат; Не „објаснете зошто ова семејство е запоставено“, туку „што може да значат овие набљудувања, кои се алтернативните објаснувања? прашај.
- Прави разлика помеѓу докази и стереотип. За секоја негативна изјава прашајте: дали се заснова на конкретните докази пред мене или се заснова на општа претпоставка за група?
- Тестирајте од спротивен агол. Размислете за истата ситуација за различна група: „Ако клиентот е од различно социоекономско/етничко потекло, дали вештачката интелигенција би ја напишала на истиот јазик?
- Барајте културна чувствителност. Прашајте за културниот контекст на однесувањето; но земете го културното знаење како можност и точка на претпазливост, а не апсолутно правило (избегнувајте стереотип).
- Исчистете го јазикот за втиснување. Преведете го на јазик кој ја опишува ситуацијата, а не личноста, а исто така ги гледа и силните страни.
три мини футроли
Случај 1 - обратниот агол откри пристрасност. Експерт побара вештачката интелигенција да резимира два слични случаи; единствената разлика беше социо-економскиот статус на семејствата. YZ напиша во тонот на „висок ризик од занемарување“ за семејството со ниски приходи, а во тонот на „родител принуден да се однесува“ за семејството со високи приходи. Експертот го препозна овој двоен стандард и ги дестилираше двете проценки на еднаков јазик заснован на докази.
Случај 2 - Поправена културна погрешна интерпретација. ИЗ ја оформи ситуацијата на дете кое живее со пошироко семејство како „гранични прашања и мешана домашна средина“. Експертот знаеше дека во рамките на културниот контекст на семејството, поширокото семејство е моќен извор на поддршка и заштита. ВИ ја претвори културната сила во проблем. Прегледот е коригиран за да ја препознае оваа поддршка како ресурс.
Случај 3 - Водечкото прашање предизвика пристрасност. „Запишете зошто овој татко не е доверлив“, прашал еден практикант од вештачката интелигенција. Вештачката интелигенција произведе текст кој го прикажува таткото негативно (ласкање) без никакви докази. Надзорникот го измени прашањето: „Какви се забелешките за таткото, кои би можеле да бидат неговите силни и слаби страни? Излезот стана избалансиран и заснован на докази. Лекција: пристрасното прашање дава пристрасен одговор.
Четири шаблони за копирање
1) Побарајте неутрална, избалансирана евалуација:
Сумирајќи ги следните забелешки, ги прикажувате и можните силни страни и можните грижи на БАЛАНЦИРАН начин и врз основа на САМО на докази. Не правете никакви заклучоци врз основа на стереотипи. Ако коментарот не се потпира на набљудување, напишете „недоволни докази“. Набљудувања: [залепи набљудувања]
2) Проверка на пристрасност (тест со спротивен агол):
Проверете го текстот на прегледот подолу. Дали има изјави кои пренесуваат неоснован стереотип поради социо-економскиот статус, етничката припадност, религијата, полот, попреченоста или соседството на клиентот? За секој, прашајте: „Дали ова би било напишано на ист јазик ако клиентот е од друга група? Означете ги проблематичните реченици.Текст: [залепи текст]
3) Културен контекст (не-стереотип):
Обезбедете МОЖНОСТИ за тоа што може да значи следното однесување/ситуација во различни културни контексти. Дајте ги како точки што треба да се земат предвид, а не како апсолутни правила; Нагласете дека постојат индивидуални разлики во секоја заедница. Не генерализирајте за една група. Ситуација: [напиши ситуација]
4) Чистење на јазикот со отпечаток:
Во текстот подолу, пронајдете придавки кои ја осудуваат или стигматизираат личноста (на пр., „занемарување“, „некооперативно“, „проблематично“). За секој, заменете го истиот факт со алтернатива што е описна, почитувана и ги препознава силните страни. Додавање нови информации. Текст: [залепи текст]
Слаб промпт / Силен промпт
Слаба навестување:
Објаснете зошто ова семејство е неадекватно во воспитувањето деца.
Ова прашање го претпоставува резултатот од самиот почеток („недоволен“). ВИ, со својата тенденција за ласкање, ќе произведе текст без докази и пристрасен што ја потврдува оваа претпоставка. Ако прашањето е пристрасно, одговорот исто така ќе биде пристрасен.
Моќен потсетник:
Врз основа на следните набљудувања, наведете ги силните страни на ова семејство за одгледување деца и областите на загриженост на БАЛАНСИРАН и само за докази. Не го претпоставувајте исходот од почеток; Доколку доказите се недоволни, наведете го тоа. Избегнувајте стереотипи. Набљудувања: [залепи набљудувања]
Разликата: балансираното прашање кое не го претпоставува исходот и бара докази на прво место ја спречува пристрасноста.
Видови пристрасност и контрамерки
Вид на пристрасност
Како изгледа
контрамерка
податоци за обука
групен стереотип
Разлика доказ-шаблон
врамување
Пасивен/негативен јазик
Урамнотежен јазик, фокусиран на предметот
двоен стандард
Исто однесување, различен тон
тест со обратен агол
културно слепило
Претворање на културната моќ во проблем
Прашање за културен контекст
ласкање
потврдете ја импликацијата
Не поставувајте неутрални прашања
недостаток на застапеност
Површно/неразбирање
Локална/експертска потврда
Вообичаени грешки
- Поставување прашања со предрасуди. Прашањето кое претпоставува заклучок дава пристрасен одговор; неутрален проблем.
- Потпирајќи се на самоуверен јазик. Професионалниот тон не ја прави пристрасноста точна; погледнете ги доказите.
- Сметајќи го културното знаење како дефинитивно правило. Земете го како точка на можност и внимание; Избегнувајте стереотипи.
- Не забележувајќи ги двојните стандарди. Тестирајте како истото однесување е напишано во различни групи.
- Грешка на печатот како доказ. Тоа е „несовесна“ пресуда; Опишете го феноменот, не ја осудувајте личноста.
Сумирано
ВИ не е неутрална, се чини неутрална; Ги репродуцира нееднаквостите и стереотипите во образовните податоци на течен јазик. Во социјалната работа, ова може да доведе до неправедни проценки на вистинските луѓе. Препознајте ја пристрасноста (податоци за обука, врамување, двојни стандарди, културно слепило, ласкање), проверете го тоа (неутрално прашање, раздвојување на моделот на докази, тестирање на агол, културна чувствителност, расчистување на стигмата) и филтрирајте го секој резултат преку вредностите на правичност и чест на професијата. Последниот етички филтер секогаш сте вие.
Задача за апликација
Нека вештачката интелигенција го сумира истиот збир на измислени набљудувања со два различни групни профили (на пр. различен социоекономски статус) и споредете со „тестот за обратен агол“ дали тоновите/јазикот се разликуваат. Потоа обидете се со неутрално прашање со свесно пристрасно прашање („објаснете зошто е несоодветно“) и испитајте ја разликата во исходите. Конечно, применете го шаблонот „чистење на јазикот со воден маркер“ на текст.
листа за проверка
- [ ] Ги поставив моите прашања неутрално, без да го претпоставам исходот.
- [ ] Ја проверив секоја негативна изјава користејќи ја разликата доказ-стереотип.
- [ ] Го проверив двојниот стандард со тестот за обратен агол.
- [ ] Го користев културното знаење како точка на претпазливост, а не апсолутно правило.
- [ ] Го заменив стигматизирачкиот јазик со описен, почитуван јазик.