Пайдалар:
- Окутуу маалыматтары, кадр түзүү, кош стандарттар жана кошоматчылык аркылуу AI бир тараптуулукту пайда кылганда таануу
- Нейтралдуу суроолор, далилдер-стереотиптик дискриминация жана тескери бурч тести менен бир тараптуулукка каршы контролду орнотуу мүмкүнчүлүгү
- Маданий билимди чечүүчү эреже катары эмес, көңүл буруу үчүн колдонуу менен стигматизациялоочу тилди сыпаттоочу жана урматтаган тилге которуу жөндөмү
Коомдук иштин негизи – адилеттүүлүк жана адамдык ар-намыс; Кесиптин өзөгү – ар бир адам бирдей баалуулукка ээ болуу, дискриминацияга каршы туруу жана аялуу топторду коргоо. Жасалма интеллект бул баалуулуктарга унчукпай зыян келтире турган бир коркунучту камтыйт: бир тараптуулук. AI тарыхый маалыматтардан сабак алат; Эгерде бул маалыматтар коомдогу теңсиздикти, стереотиптерди жана дискриминацияны камтыса, AI аларды үйрөнүп, эркин, "объективдүү" тилде кайра чыгарат. Социалдык кызматкердин колунда бул топту системалуу түрдө терс баалоого, үй-бүлөнү стереотипке салууга же маданиятты туура эмес түшүнүүгө алып келиши мүмкүн. Бул бөлүмдө сиз AI бир жактуулугун таанууну, ага каршы көзөмөлдү жана AIди калыстык жана маданий сезимталдык менен колдонууну үйрөнөсүз.
Башынан бир факт: AI нейтралдуу эмес, ал нейтралдуу көрүнөт. Эң коркунучтуу бир жактуулук - бул ишенимдүү жана профессионалдуу тилде айтылган; анткени ал суроосуз кабыл алынат. Социалдык кызматкер катары сиздин жумушуңуз – бул көзгө көрүнбөгөн тенденцияны көрүнөө жана профессионалдык баалуулуктарыңызга карама-каршы келерин көзөмөлдөө.
AI кайдан келип чыгат жана ал кандай көрүнөт?
- Тренинг маалыматтарынын бурмаланышы. AI коомдогу теңсиздикти чагылдырган тексттерден үйрөнөт. Айрым этникалык топтор, жакырлар, майыптар, айрым кварталдар же гендер жөнүндө стереотиптер чыгарылып кетиши мүмкүн.
- Тил жана кадрдык бурмалоо. AI топту пассивдүү, "көйгөйлүү" же "жардамга муктаж объект" катары рамкалай алат; субъект катары башка топ. Ошол эле жүрүм-турум бир топ тарабынан «маданий», экинчи топ тарабынан «көйгөйлүү» деп чечмелениши мүмкүн.
- Өкүлчүлүктүн жоктугу. AI маалыматтарда аз көрсөтүлгөн топторду так эмес же үстүртөн түшүнүшү мүмкүн (кичинекей популяциялар, сейрек учурларда).
- Кошоматчылык (кошоматчылык). AI сиздин көз карашыңызды ырастоого умтулат; Бир жактуу суроо бир жактуу ырастоо алып келет.
Бул өңүттөр коомдук иште өзгөчө коркунучтуу, анткени чыгарылып жаткан продукция чыныгы адамдардын жашоосуна түздөн-түз тийет — баа берүү, отчет, жолдомо.
Абайлаңыз: "AI аны ушундай баалады" - бул негиздөө эмес, эскертүү белгиси. Топту же инсанды терс чагылдырган жыйынтыкты көргөндө, биринчи суроо "ал далилдерге негизделгенби же стереотиптерге негизделгенби?" болушу керек.
Этап-этабы менен: бир жактуулукка каршы аудит
- Нейтралдуу суроо. билдирбеген же алып келбеген суроолорду бериңиз; "Бул үй-бүлө эмне үчүн кайдыгер болуп жатканын түшүндүргүлө" эмес, "бул байкоолор эмнени билдириши мүмкүн, кандай башка түшүндүрмөлөр бар?" сура.
- Далилдер менен стереотипти айырмалоо. Ар бир терс билдирүү үчүн суроо бериңиз: ал менин алдымда турган конкреттүү далилдерге негизделгенби же бир топ жөнүндө жалпы божомолго негизделгенби?
- Карама-каршы бурчтан сыноо. Башка топ үчүн бир эле жагдайды карап көрөлү: "Эгер кардар башка социалдык-экономикалык/этникалык тектеги болсо, AI аны бир тилде жазат беле?"
- Маданий сезимталдыкты изде. Жүрүм-турумдун маданий контексти жөнүндө сураңыз; бирок маданий билимди абсолюттук эреже эмес, мүмкүнчүлүк жана этияттык катары кабыл алыңыз (стереотиптен качыңыз).
- Басып чыгаруу тилин тазалаңыз. Аны адамды эмес, кырдаалды сүрөттөгөн, ошондой эле күчтүү жактарын көргөн тилге которуңуз.
үч мини учурлар
1-жагдай - Тескери бурч тенденцияны көрсөттү. Эксперт AI эки окшош окуяны жыйынтыктаган; бир гана айырмачылык үй-бүлөлөрдүн социалдык-экономикалык абалы болгон. YZ аз камсыз болгон үй-бүлө үчүн "кароосуз калуу коркунучу жогору", ал эми кирешеси жогору үй-бүлө үчүн "ата-эне өзүн алып жүрүүгө аргасыз" деген тон менен жазган. Эксперт бул кош стандартты моюнга алып, эки баа берүүнү тең далилдүү, бирдей тилге айлантты.
2-жагдай — Маданий туура эмес чечмелөө оңдолду. YZ чоң үй-бүлө менен жашаган баланын абалын «чек ара маселелери жана үй шарты аралаш» деп атаган. Эксперт үй-бүлөнүн маданий контекстинде чоң үй-бүлө колдоонун жана коргоонун күчтүү булагы экенин билген. AI маданий күчтү көйгөйгө айландырган. Карап чыгуу бул колдоону ресурс катары таануу үчүн оңдолду.
3-жагдай - Негизги суроо бир жактуулукту жаратты. "Бул ата эмне үчүн ишеничсиз экенин жазыңыз", - деп сурады интерн AI. AI эч кандай далилсиз атаны терс (кошоматчылык) чагылдырган текстти чыгарды. Жетекчи суроону өзгөрттү: "Ата жөнүндө кандай байкоолор бар, анын күчтүү жана алсыз жактары кандай болушу мүмкүн?" Чыгуу салмактуу жана далилдуу болуп калды. Сабак: бир жактуу суроо бир жактуу жооп берет.
Көчүрүү үчүн төрт шаблон
1) бейтарап, тең салмактуу баа берүүнү талап кылуу:
Төмөнкү байкоолорду жыйынтыктап жатып, сиз мүмкүн болгон күчтүү жана мүмкүн болгон кооптонууларды тең салмактуу түрдө жана далилдерге гана негиздеп бересиз. Стереотиптердин негизинде эч кандай тыянак чыгарбаңыз. Эгерде комментарий байкоого таянбаса, "далил жетишсиз" деп жазыңыз. Байкоолор: [байкоолорду чаптоо]
2) Артыкчылыкты текшерүү (карама-каршы бурчтук тест):
Төмөндө карап чыгуу текстин караңыз. Кардардын социалдык-экономикалык абалына, этникалык таандыгына, динине, жынысына, майыптыгына же кошуналыгына байланыштуу негизсиз стереотипти билдирген билдирүүлөр барбы? Ар бири үчүн: "Эгер кардар башка тайпадан болсо, бул бир тилде жазылат беле?" Проблемалуу сүйлөмдөрдү белгилеңиз.Текст: [текстти чаптоо]
3) Маданий контекст (стереотип эмес):
Төмөнкү жүрүм-турум/ кырдаал ар кандай маданий контексттерде эмнени билдире тургандыгы үчүн МҮМКҮНЧҮЛҮКТӨРдү камсыз кылыңыз. Буларды абсолюттук эрежелер катары эмес, карала турган пункттар катары бериңиз; Ар бир жамаатта жеке айырмачылыктар бар экенин баса белгиле. Бир топ жөнүндө жалпылама. Кырдаал: [жагдайды жазуу]
4) Тилди тазалоо:
Төмөндөгү тексттен адамды соттогон же стигматизациялаган сын атоочторду табыңыз (мисалы, "кайгысыз", "кызматташпаган", "проблемалуу"). Ар бири үчүн бир эле фактыны сыпаттоочу, урматтаган жана күчтүү жактарын тааныган альтернатива менен алмаштырыңыз. Жаңы маалымат кошулууда.Текст: [текстти чаптоо]
Алсыз тездик / Күчтүү тездик
Алсыз билдирүү:
Эмне үчүн бул үй-бүлө балдарды тарбиялоого жетишсиз экенин түшүндүргүлө.
Бул суроо башынан эле жыйынтыкты болжолдойт («жетишсиз»). AI, кошоматчылык тенденциясы менен, бул божомолду тастыктаган далилсиз жана бир жактуу текстти чыгарат. Суроо бир жактуу болсо, жооп да калыс болот.
Күчтүү билдирүү:
Төмөнкү байкоолордун негизинде бул үй-бүлөнүн балдарды тарбиялоодогу күчтүү жактарын да, тынчсыздандырган аймактарын тең ТАЛМАШТЫРЫЛГАН жана далилдүү түрдө тизмектеңиз. Жыйынтыгын башынан эле ойлобо; Эгерде далилдер жетишсиз болсо, анда айт. Стереотиптерден алыс болуңуз. Байкоолор: [байкоолорду чаптоо]
Айырмачылыгы: натыйжаны талап кылбаган жана далилдерди талап кылган салмактуу суроо биринчи кезекте бир тараптуулукту алдын алат.
Жалкоолуктун түрлөрү жана каршы чаралар
Артыкчылыктын түрү
Ал кандай көрүнөт
каршы чара
окутуу маалыматтары
топтук стереотип
Далил-өлкөнүн айырмасы
рамкалоо
Пассивдүү/терс тил
Тең салмактуу, темага багытталган тил
кош стандарт
Бир эле жүрүм-турум, башка тон
тескери бурч сыноо
маданий сокурдук
Маданий бийликти проблемага айландыруу
Маданий контекст суроо
кошоматчылык
маанисин ырастоо
Нейтралдуу суроолорду бербеңиз
өкүлчүлүктүн жоктугу
үстүртөн/түшүнбөстүк
Жергиликтүү/эксперттик ырастоо
Жалпы каталар
- Калыс суроолорду берүү. Корутундуну болжолдогон суроо бир жактуу жоопту жаратат; нейтралдуу маселе.
- Ишенимдүү тилге таянуу. Профессионалдык тон бир тараптуулукту туура кылбайт; далилдерди кара.
- Маданий билимди чечүүчү эреже катары кароо. Мүмкүнчүлүк жана көңүл бурчу чекит катары кабыл алыңыз; Стереотиптерден алыс болуңуз.
- Кош стандарттарды байкабай. Бир эле жүрүм-турумдун ар кандай топтордо кантип жазылганын текшериңиз.
- Мөөрдү далил катары жаңылыштык. Бул “шалаакылык” өкүмү; Кубулушту сүрөттөп бер, адамды соттобо.
Кыскача айтканда
AI нейтралдуу эмес, нейтралдуу көрүнөт; Ал билим берүү маалыматтарындагы теңсиздикти жана стереотиптерди эркин тилде кайталайт. Коомдук иштерде бул чыныгы адамдардын адилетсиз бааланышына алып келиши мүмкүн. Калыстыкты (окутуу маалыматтары, рамкалоо, кош стандарттар, маданий сокурдук, кошоматчылык), ага каршы текшерүү (нейтралдуу суроо, далилдерди бөлүү, бурчтук тестирлөө, маданий сезимталдык, стигманы тазалоо) жана ар бир жыйынтыкты кесиптин калыстык жана ар-намыс баалуулуктары аркылуу чыпкалоо. Акыркы этикалык чыпка ар дайым сиз.
Колдонмо тапшырмасы
AI эки башка топтун профилдери (мисалы, ар кандай социалдык-экономикалык абал) менен бир эле ойдон чыгарылган байкоолордун жыйындысын жыйынтыктап, тондор/тилдер айырмаланбасын "кайтарым бурч тести" менен салыштырсын. Андан кийин бейтарап суроону аң-сезимдүү бир жактуу суроо менен берип көрүңүз («эмне үчүн ал жетишсиз экенин түшүндүрүңүз») жана натыйжалардагы айырманы карап көрүңүз. Акырында, текстке "суу белгисинин тилин тазалоо" шаблонун колдонуңуз.
текшерүү тизмеси
- [ ] Мен суроолорумду бейтарап, жыйынтыгын ойлобостон түздүм.
- [ ] Мен ар бир терс билдирүүнү далил-стереотип айырмасын колдонуп текшердим.
- [ ] Мен кош стандартты тескери бурчтук тест менен текшердим.
- [ ] Мен маданий билимди абсолюттук эреже эмес, этияттык үчүн колдондум.
- [ ] Мен стигмативдүү тилди сүрөттөөчү, урматтаган тил менен алмаштырдым.