Пайдалар:
- Маалыматтар AI тенденциясынын негизги булагы экенин түшүнөт
- Жумуш ордунда бир жактуулук жаратышы мүмкүн болгон тобокелдиктерди тааныйт
- Кыйынчылыктарды азайтуу үчүн көрүлө турган чараларды ишке ашырат
AI нейтралдуу, объективдүү машина катары көрүнөт; бирок чындык алда канча татаал. AI системалары алар үйрөтүлгөн маалыматтарда адамдын көз карашын үйрөнүшөт жана кээде аларды чоңойтуп, кайра чыгарышат. Керектүүлүк – бул системанын белгилүү бир адамдарды же топторду системалуу түрдө жактыруу же четке кагуу тенденциясы. Бул бөлүмдө бейкалыс пикир кайдан келип чыкканын, жумуш ордунда кандай конкреттүү тобокелдиктерди жаратып жатканын жана ага каршы эмне кылуу керек экенин карап чыгабыз. Бул жөн эле «этика» маселеси эмес; Бул туура эмес башкарууда юридикалык, коммерциялык жана репутациялык тобокелчиликти алып келе турган практикалык бизнес маселеси.
Бейтараптык кайдан келип чыгат?
Тил моделинин маалыматы адамдар чыгарган чоң тексттерден келип чыгат. Бул тексттер адамзат коомунун бардык билимдерин, ошондой эле анын бардык стереотиптерин, дисбаланстарын жана тарыхый теңсиздиктерин камтыйт. Модель "жакшы" жана "жаман" үлгүлөрдү айырмалай албайт; Ал маалыматтарда эмне болсо, ошону үйрөнөт.
Мисал: Эгерде кээ бир кесиптер өткөн тексттерде негизинен жыныс менен байланыштырылса (мисалы, "медайым" аял менен, "инженер" эркек менен), модель бул ассоциацияны үйрөнөт. Ал сүйлөмдү аяктаганда эркек ат атоочту тандап алышы мүмкүн: "Инженер кеңсеге кирип кетти, ал..." Модель зыяндуу эмес; ал маалыматтардагы дисбалансты гана чагылдырат.
Ошентип, бир тараптуулук, негизинен, анын аң-сезимдүү программалоо катасы эмес, маалыматтын күзгүсү болгондугуна байланыштуу. Көйгөйдү "кимдир бирөө жаман код жазыптыр" деп түшүндүрүү адашуу; Көйгөй дүйнөдөгү дисбаланс маалыматтарга жана андан моделге өтүп жатканында.
Жумуш ордунда олуттуу тобокелдиктер
аймак
Бир жактуу болуу коркунучу
мүмкүн болгон зыян
жумушка алуу
Тарыхый маалыматтардагы тенденцияны билип, айрым топторду жок кылуу
Юридикалык иш, жөндөмүн жоготуу
Кардар менен байланыш
Стереотиптик же эксклюзивдүү тил
аброюн жоготуу, кардар учуу
кредит/тобокелдик
Өткөн теңсиздикти улантуу
Дискриминация, санкциялар
Иштин натыйжалуулугун баалоо
Чечим кабыл алууда маалыматтарга бир жактуу мамиле кылуу
Адилетсиз жылдыруу/бонус
Мазмун/маркетинг
Белгилүү бир топту көрүнбөгөн кылуу
Бренд зыяны
Үч мини Case
1-жагдай - Жарнама тилди кыскартып жатты. Компания AI менен жумуш жарыяларын басып чыгара баштады. Бир аз убакыт өткөндөн кийин, жарнактар "жаш жана динамикалуу", "агрессивдүү максат" сыяктуу сөздөр менен белгилүү бир профилди кызыктырып, ошону менен тиркемелердин ар түрдүүлүгүн азайтканы байкалган. Команда ар бир билдирүүнү "инклюзивдик тил" үчүн текшерген кадамды кошту; Талапкерлердин ар түрдүүлүгү бир нече айдын ичинде кыйла өстү.
2-жагдай - Корутундуда жашырылган бир тараптуулук. Бир менеджер AI 30 кызматкердин пикирлерин жыйынтыктаган. Кайталоо терс комментарийлерди белгилүү бир командага топтогондой болду; ал эми чийки маалыматтарда абал тең салмактуу болгон. Модель бир нече күчтүү сөздөрдү апыртып жиберди. Жетекчи кайра барып, чийки маалыматтарды текшергенде, ал туура эмес түшүнүктөн качкан.
3-жагдай - Инклюзивдүүлүк мандаты иштеди. Бир маркетинг тобу кампаниянын көчүрмөсүндөгү көрсөтмөнү стандартташтырылган, "инклюзивдик, өзгөчө эмес жынысы/курагы/топтук тилин колдонуңуз жана аягында өз божомолдоруңузду тизмелейт". Түзүлгөн тексттердеги формулалык сөз айкаштары байкаларлык кыскарган; бригада ар бир чыгарылышын кол менен кайра-кайра оңдоого туура келген эмес.
Эмне үчүн бир тараптуулукту таануу кыйын?
Керектүүлүктүн эң тымызын жери – ал көп учурда көрүнбөйт. чыгаруу жылмакай, кесиптик жана акылга сыярлык көрүнөт; Анын ичиндеги тенденция жакшылап карап же анын ар кандай топторго тийгизген таасирин өлчөгөндө гана билинет. Бир эле мисалга карап, «бул жерде эч кандай жактоо жок» деп айтуу адашуу; Бир тараптуулук көбүнчө айрым мисалдарда эмес, системанын жалпы тенденциясында көрүнөт.
Абайлаңыз: "Мен нейтралдуумун, ошондуктан мен колдонгон курал да нейтралдуу" деген божомол кооптуу. Куралдын бейтараптыгы сиздин ниетиңизге эмес, окутуу маалыматтарына жана анын текшерүүсүнөн көз каранды.
Алсыз тездик / Күчтүү эскертүү
Алсыз сунуш: Бул кызматка идеалдуу талапкерди сүрөттөп бериңиз.
Натыйжа: Модель стереотиптерге таянып, белгилүү бир профилди "идеалдуу" катары көрсөтүшү мүмкүн.
Күчтүү тездик: Бул кызматка чындап эле жумушка тиешелүү болгон өлчөнгөн компетенцияларды гана тизмектеңиз. Жынысы, жашы, үй-бүлөлүк абалы, кичи мекени сыяктуу жумушка тиешеси жок мүнөздөмөлөрдү колдонбоңуз. Акырында "мен качкан божомолдор" деген рубриканын астына эмнени калтырганыңызды жазыңыз.
Натыйжа: Баалоо жумушка байланыштуу критерийлер менен чектелет, тиешеси жок өзгөчөлүктөр алынып салынат.
Калыбын азайтуу үчүн калыптар
Инклюзивдик тил үчүн төмөнкү текстти текшериңиз. Жынысты, жашты, улутту, майыптуулукту же белгилүү бир топту билдирген жана ар бири үчүн нейтралдуу альтернатива сунуштаган желекчелер.Текст: [бул жерге чаптоо]
Бул объективдүү критерийлердин негизинде гана баа бериңиз: [критерийлер]. Бул критерийлерден (аты-жөнү, жынысы, жашы) башка эч кандай маалыматты эске албаңыз.
Сиз чыгарган текстте жасаган божомолдоруңузду аягында өзүнчө теманын астына жазыңыз. Ошентип, мен жашыруун көз караштарды көрө алам.
Бул мазмунду окурмандардын үч түрдүү тобунун көзү менен баалаңыз жана алардын кимдир бирөөнү таарынта турган/таарындыра турган билдирүүлөрдү белгилеңиз. Мазмун: [бул жерге чаптоо]
Жалпы каталар
Жалпы каталар
- "нейтралдуу" AI чыгарууну болжолдосок. Чыгуу нейтралдуу болуп көрүнсө да, ал маалыматтарда бир тараптуулукту алып келиши мүмкүн; Активдүү көзөмөл талап кылынат.
- Бир эле мисалды карап туруп, “эч кандай калпыстык жок” деп. Системанын жалпы тенденциясында бейкалыс катылган.
- Жогорку таасирдүү чечимдерди кабыл алууну көзөмөлсүз AIга калтыруу. Жумушка алуу, көтөрүү жана кредиттөө сыяктуу чечимдерди кабыл алууда адам бийлиги маанилүү.
- Инклюзивдүүлүктү талап кылууну унутуп. Эгер сиз аны сунушта ачык сурабасаңыз, модель демейки үлгүлөргө кайтып келет.
- Бул "машина айтты" дегенди билдирет. Чечимди колдонгон адам анын кесепеттери үчүн да жооп берет.
Адилеттүүлүк – ар бир адамдын милдети
Керектүүлүк менен күрөшүү техникалык топтун гана иши эмес. AI өндүрүшүн колдонгон ар бир кызматкер бул жыйынтык адилеттүүбү деген суроого жооп берет. "Машина мага айтты" - бул шылтоо эмес; Чечим чыгарган адам анын кесепеттерине да жооп берет.
Кыскача айтканда
- AI бир жактуулугунун негизги булагы - бул жамандык эмес, бирок машыгуу маалыматтарындагы орун алган дисбаланс жана стереотиптер.
- алдын ала пикир; Бул жалдоо, кардар менен байланышуу, финансы жана баалоо сыяктуу тармактарда реалдуу укуктук жана репутациялык тобокелчиликти жаратат.
- Бир тараптуулук көбүнчө көзгө көрүнбөйт жана системанын жалпы диспозициясында камтылган; Бир эле мисалды карап көрүү жаңылыштык.
- Кыскартуу үчүн: кабардар болуңуз, чечимди жумушка байланыштуу критерийлер менен чектеңиз, инклюзивдүүлүктү ачык сураңыз, таасири жогору чечимдерди адамдын көзөмөлүнө коюңуз.
- "Машина мага айтты" - бул шылтоо эмес; Адилеттүүлүк – бул өндүрүштү пайдаланган ар бир адамдын милдети.
Колдонмо тапшырмасы
AIга "идеалдуу [ар кандай кесиптин] жумушчусун сүрөттөп бериңиз" деп айтыңыз жана натыйжада кандай (балким керексиз) божомолдор жасалганын белгилеңиз. Андан кийин жогорудагы "жумушка байланыштуу критерийлер" шаблону менен кайталап, калыстык үчүн эки жыйынтыкты салыштырыңыз.
Текшерүү тизмеси
- [ ] Мен бир тараптуулуктун негизги булагы машыгуу маалыматтары экенин түшүнөм.
- [ ] Мен жумуш ордунда бир тараптуулук алып келиши мүмкүн болгон конкреттүү тобокелдиктерди атай алам.
- [ ] Мен бир тараптуулук көп учурда көрүнбөй турганын жана бир эле мисалды көрүү адаштыраарын билем.
- [ ] Мен тез арада инклюзивдүүлүктү жана жумушка байланыштуу критерийлерди ачык сурай алам.
- [ ] Мен жогорку таасирдүү чечимдерди адамдын көзөмөлүн талап кылам.