Табыстар:
- Деректер AI бейімділігінің негізгі көзі екенін түсінеді
- Жұмыс орнында біржақтылық тудыруы мүмкін тәуекелдерді таниды
- Алдын ала қарауды азайту үшін қабылдануы мүмкін шараларды жүзеге асырады
AI appears as a neutral, objective machine; but the truth is much more complex. Жасанды интеллект жүйелері оқытылатын деректердегі адамның бейімділігін үйренеді және кейде оларды үлкейтіп, қайта шығарады. Алдын ала қарау – жүйенің белгілі бір адамдарға немесе топтарға жүйелі түрде қолдау көрсету немесе жоққа шығару үрдісі. Бұл бөлімде біз теріс пікірдің қайдан пайда болатынын, оның жұмыс орнында қандай нақты тәуекелдер тудыратынын және оған қарсы не істеуге болатынын қарастырамыз. This isn't just a matter of "ethics"; Бұл дұрыс емес басқарылған кезде заңды, коммерциялық және беделге қауіп төндіретін практикалық бизнес мәселесі.
Where Does Prejudice Come From?
Тілдік модель туралы ақпарат адамдар шығаратын үлкен мәтіндерден келеді. Бұл мәтіндер адамзат қоғамының барлық білімдерін, сондай-ақ оның барлық таптаурындарын, теңгерімсіздіктерін және тарихи теңсіздіктерін қамтиды. Модель «жақсы» және «жаман» үлгілерді ажыратпайды; It learns whatever is in the data.
Мысал: Егер белгілі бір мамандықтар өткен мәтіндерде негізінен жыныспен байланысты болса (мысалы, «медбике» әйелмен, «инженер» ер адаммен), модель бұл байланысты меңгереді. Ол сөйлемді аяқтаған кезде ер есімін таңдауға бейім болуы мүмкін: «Инженер кеңсеге кірді, ол...» Модель зиянды емес; ол деректердегі теңгерімсіздікті ғана көрсетеді.
Осылайша, бұрмалану негізінен саналы бағдарламалау қатесі емес, деректердің айнасы болуымен байланысты. Мәселені «біреу жаман код жазды» деп түсіндіру қате; Мәселе мынада, әлемдегі теңгерімсіздік деректерге және одан модельге тасымалданады.
Жұмыс орнындағы нақты тәуекелдер
аумақ
Біржақтылық қаупі
ықтимал зиян
жұмысқа қабылдау
Тарихи деректердегі үрдісті біліп, белгілі бір топтарды жойыңыз
Legal case, loss of ability
Тұтынушымен байланыс
Стереотиптік немесе ерекше тіл
Беделді жоғалту, тұтынушыға ұшу
несие/тәуекел
Perpetuating past inequalities
Discrimination, sanctions
Өнімділікті бағалау
Carrying bias in data into decision
Әділетсіз көтерілу/бонус
Мазмұн/маркетинг
Make specific group invisible
Брендтің зақымдануы
Үш шағын корпус
1-жағдай - Жарнама тілді тарылтады. A company started printing job postings with AI. Біраз уақыттан кейін жарнамалардың «жас және динамикалық», «агрессивті нысана» сияқты өрнектермен белгілі бір профильге жүгінетіні және осылайша қосымшалардың әртүрлілігін азайтқаны байқалды. Команда әрбір хабарламаны «инклюзивті тіл» үшін тексеретін қадам қосты; Өтініш берушілердің әртүрлілігі бірнеше ай ішінде айтарлықтай өсті.
Case 2 — Hidden bias in the summary. Бір менеджердің AI қорытындысы 30 қызметкердің кері байланысына ие болды. Қайталама жағымсыз пікірлерді белгілі бір командаға шоғырландырғандай болды; ал бастапқы деректерде жағдай теңдестірілген болатын. The model exaggerated several strong statements. Менеджер қайтып оралып, бастапқы деректерді тексергенде, ол қате пікір жасаудан аулақ болды.
Case 3 — The inclusivity mandate worked. Маркетингтік топтардың бірі науқандық көшірмедегі нұсқаулықты «жынысы/жас/топтың инклюзивті емес тілін қолданыңыз және соңында өз болжамдарыңызды тізімдеңіз» деген нұсқауды стандарттады. Шығарылған мәтіндердегі формулалық өрнектер айтарлықтай төмендеді; командаға әр нәтижені қайта-қайта қолмен түзетуге тура келмеді.
Why Is Bias Hard to Recognize?
Алаңдаудың ең жасырын нәрсесі - оның жиі көрінбейтіндігі. Шығару тегіс, кәсіби және ақылға қонымды көрінеді; Оның ішіндегі тенденция мұқият қарап немесе оның әртүрлі топтарға әсерін өлшегенде ғана айқын болады. Бір ғана мысалға қарап, «бұл жерде ешбір қиянат жоқ» деу адасушылық; Біржақтылық көбінесе жеке мысалдарда емес, жүйенің жалпы тенденциясында көрінеді.
Абайлаңыз: «Мен бейтараппын, сондықтан мен қолданатын құрал да бейтарап» деген болжам қауіпті. Құралдың бейтараптығы сіздің ниетіңізге емес, жаттығу деректеріне және оның қалай тексерілетініне байланысты.
Әлсіз шақыру / Күшті шақыру
Әлсіз нұсқау: осы лауазымға тамаша үміткерді сипаттаңыз.
Нәтиже: Модель стереотиптерге сүйеніп, белгілі бір профильді «идеалды» ретінде көрсетуі мүмкін.
Күшті нұсқау: осы позиция үшін тек жұмысқа шынымен сәйкес келетін өлшенетін құзыреттерді тізімдеңіз. Жынысы, жасы, отбасылық жағдайы, туған жері сияқты жұмысқа қатысы жоқ белгілерді қолданбаңыз. Соңында «мен аулақ болатын жорамалдар» деген тақырыптың астына қалдырғаныңызды жазыңыз.
Нәтиже: Бағалау жұмысқа қатысты критерийлермен шектеледі, қатысы жоқ мүмкіндіктер алынып тасталады.
Бағалауды азайту үшін үлгілер
Check the text below for inclusive language. Жыныс, жас, этникалық, мүгедектік немесе белгілі бір топты білдіретін және әрқайсысы үшін бейтарап балама ұсынатын жалауша мәлімдемелер. Мәтін: [осы жерге қойыңыз]
Бұл бағалауды тек мына объективті критерийлер негізінде жасаңыз: [критерийлер]. Осы критерийлерден басқа ақпаратты (аты-жөні, жынысы, жасы) ескермеңіз.
Сіз жасаған мәтінде жасаған болжамдарыңызды соңында бөлек тақырыптың астына келтіріңіз. Сондықтан мен жасырын көзқарастарды көре аламын.
Бұл мазмұнды үш түрлі оқырмандар тобының көзімен бағалаңыз және олардың кез келгенін ренжітетін/ренжітетін мәлімдемелерді белгілеңіз. Мазмұны: [осы жерге қойыңыз]
Жалпы қателер
Жалпы қателер
- «Бейтарап» AI шығысын болжасақ. Шығу бейтарап болып көрінсе де, ол деректердегі ауытқуды алып жүруі мүмкін; Белсенді бақылау қажет.
- Бір мысалға қарап, «жақсылық жоқ» деп. Алдын ала қарау жүйенің жалпы тенденциясында жасырылады.
- Әсері жоғары шешім қабылдауды бақылаусыз АИ-ге қалдыру. Жұмысқа қабылдау, жоғарылату және несиелеу сияқты шешімдерде адам беделі маңызды.
- Инклюзивтілікті талап етуді ұмыту. Егер сіз оны сұрауда нақты сұрамасаңыз, үлгі әдепкі үлгілерге қайтады.
- Бұл «машина айтты» дегенді білдіреді. Шешімді пайдаланған адам оның салдары үшін де жауапты.
Әділдік – әрбір адамның міндеті
Алалаушылықпен күресу тек техникалық топтың жұмысы емес. Жасанды интеллект нәтижесін пайдаланатын әрбір қызметкер бұл нәтиженің әділ екендігіне күмән келтіруге жауапты. «Машина маған айтты» - бұл ақтау емес; Шешім қабылдаған адам оның салдары үшін де жауапты.
Қысқаша айтқанда
- AI бейімділігінің негізгі көзі зұлымдық емес, оқыту деректеріндегі бар теңгерімсіздіктер мен стереотиптер.
- Алаңдау; Ол жалдау, тұтынушылармен байланыс, қаржы және бағалау сияқты салаларда нақты заңды және беделді тәуекелді тудырады.
- Біржақтылық жиі көрінбейді және жүйенің жалпы диспозициясына енеді; Бір ғана мысалды қарау жаңылыс.
- Қысқарту үшін: хабардар болыңыз, шешімді жұмысқа қатысты критерийлермен шектеңіз, инклюзивтілікті нақты сұраңыз, жоғары әсер ететін шешімдерге адам бақылауын қойыңыз.
- «Машина маған айтты» - бұл ақтау емес; Әділдік - бұл өнімді пайдаланатын әрбір адамның жауапкершілігі.
Қолданбалы тапсырма
AI-ға «мінсіз [кез келген кәсіптің] қызметкерін сипаттаңыз» деп айтыңыз және нәтижеде қандай (мүмкін қажет емес) болжамдар жасалғанын белгілеңіз. Содан кейін жоғарыдағы «жұмысқа қатысты критерийлер» үлгісімен қайталаңыз және әділдік үшін екі нәтижені салыстырыңыз.
Бақылау тізімі
- [ ] Мазасыздықтың негізгі көзі жаттығу деректері екенін түсінемін.
- [ ] Мен жұмыс орнындағы бейтараптық тудыруы мүмкін нақты тәуекелдерді атай аламын.
- [ ] Мен біржақтылық жиі көрінбейтінін және бір мысалды қарау жаңылысатынын білемін.
- [ ] Хабарламада инклюзивтілік пен жұмысқа қатысты критерийлерді анық сұрай аламын.
- [ ] Маған жоғары әсер ететін шешімдерді адамның қадағалауы қажет.