Добивки:
- Разбира дека податоците се примарен извор на пристрасност на вештачката интелигенција
- Ги препознава ризиците што може да ги создаде пристрасноста на работното место
- Спроведува мерки што може да се преземат за да се намалат предрасудите
ВИ се појавува како неутрална, објективна машина; но вистината е многу посложена. Системите за вештачка интелигенција ги учат човечките предрасуди во податоците за кои се обучени и понекогаш ги зголемуваат и репродуцираат. Предрасудите е тенденција на системот систематски да фаворизира или исклучува одредени луѓе или групи. Во оваа единица, ќе разгледаме од каде доаѓаат предрасудите, какви конкретни ризици претставуваат на работното место и што може да се направи против нив. Ова не е само прашање на „етика“; Тоа е практична деловна работа која носи правен, комерцијален и репутациски ризик кога е погрешно управувана.
Од каде потекнуваат предрасудите?
Информациите за јазичниот модел доаѓаат од огромните текстови што ги произведуваат луѓето. Овие текстови го содржат целото знаење за човечкото општество, како и сите негови стереотипи, нерамнотежи и историски нееднаквости. Моделот не прави разлика помеѓу „добри“ и „лоши“ обрасци; Тој учи што и да е во податоците.
Пример: Ако одредени професии беа претежно поврзани со пол во минатите текстови (на пр. „медицинска сестра“ со женски, „инженер“ со маж), моделот ја учи оваа асоцијација. Можеби има тенденција да избере машка заменка кога ја завршува реченицата: „Инженерот влезе во канцеларија, тој...“ Моделот не е злонамерен; тоа само ја одразува нерамнотежата во податоците.
Значи, пристрасноста најмногу се должи на тоа што е огледало на податоците, а не свесна програмска грешка. Објаснувањето на проблемот како „некој напишал лош код“ е погрешно; Проблемот е што нерамнотежата во светот се пренесува во податоците и од таму во моделот.
Опипливи ризици на работното место
област
Ризик од пристрасност
можна штета
регрутирање
Научете го трендот во историските податоци и елиминирајте одредени групи
Правен случај, губење на способност
Комуникација со клиентите
Стереотипен или исклучувачки јазик
Губење на угледот, лет на клиентите
кредит/ризик
Одржување на минатите нееднаквости
Дискриминација, санкции
Евалуација на перформансите
Спроведување на пристрасност во податоците во одлуката
Неправедна промоција/бонус
Содржина/маркетинг
Направете одредена група невидлива
Оштетување на брендот
Три мини футроли
Случај 1 - Рекламата го стеснуваше јазикот. Една компанија започна да печати огласи за работа со вештачка интелигенција. По извесно време се забележа дека рекламите привлекуваат одреден профил со изрази како „млада и динамична“, „агресивна цел“ и со тоа ја намалуваат различноста на апликациите. Тимот додаде чекор што го проверува секое објавување за „инклузивен јазик“; Разновидноста на апликантите значително се зголеми во рок од неколку месеци.
Случај 2 - Скриена пристрасност во резимето. Еден менаџер имаше вештачка интелигенција да резимира повратни информации од 30 вработени. Резимето се чинеше дека ги концентрира негативните коментари на еден конкретен тим; додека кај необработените податоци ситуацијата била избалансирана. Моделот претера со неколку силни изјави. Кога менаџерот се вратил назад и ги проверил необработените податоци, избегнал да направи заблуда.
Случај 3 - Мандатот за инклузивност функционираше. Еден маркетинг тим ја стандардизираше инструкцијата во копијата на кампањата „да се користи инклузивен, неспецифичен јазик за пол/возраст/група и да ги наведе вашите претпоставки на крајот”. Формулаичните изрази во произведените текстови се значително намалени; тимот не мораше рачно да го коригира секој излез одново и одново.
Зошто е тешко да се препознае пристрасноста?
Најподмолното нешто во врска со предрасудите е тоа што тие често се невидливи. Излезот изгледа мазен, професионален и разумен; Тенденцијата во него станува очигледна само кога ќе се погледне внимателно или ќе се измери нејзиното влијание врз различни групи. Заблуда е да се каже „тука нема пристрасност“ со гледање на единствен пример; Пристрасноста често се манифестира не во поединечни примери туку во општата тенденција на системот.
Внимание: Претпоставката дека „јас сум неутрален, затоа и алатката што ја користам е неутрална“ е опасна. Неутралноста на алатката зависи од податоците за обуката и од тоа како се проверува, а не од вашата намера.
Слаба навестување / Силен навестување
Слаб промпт: опишете го идеалниот кандидат за оваа позиција.
Резултат: Моделот може да се потпира на стереотипи и да претстави одреден профил како „идеален“.
Силен поттик: Наведете само мерливи компетенции за оваа позиција кои се навистина релевантни за работата. Не користете никакви карактеристики кои не се поврзани со работата, како што се пол, возраст, брачен статус, роден град. Конечно, напишете го она што сте го изоставиле под насловот „претпоставки што ги избегнувам“.
Резултат: Евалуацијата е ограничена на критериуми поврзани со работата, ирелевантните карактеристики се исклучени.
Шаблони за намалување на пристрасноста
Проверете го текстот подолу за инклузивен јазик. Означете ги изјавите што имплицираат пол, возраст, етничка припадност, попреченост или одредена група и предлагајте неутрална алтернатива за секоја од нив. Текст: [залепете овде]
Направете ја оваа евалуација само врз основа на овие објективни критериуми: [критериуми]. Не земајте предвид никакви информации освен овие критериуми (име, пол, возраст).
Наведете под посебен наслов на крајот кои претпоставки сте ги направиле во текстот што сте го изработиле. Така можам да видам скриени предрасуди.
Оценете ја оваа содржина низ очите на три различни групи читатели и означете ги изјавите што може да навредат/навредат некој од нив. Содржина: [залепете овде]
Вообичаени грешки
Вообичаени грешки
- Претпоставувајќи „неутрален“ излез на ВИ. Иако излезот изгледа неутрален, тој може да носи пристрасност во податоците; Потребен е активен надзор.
- Гледајќи еден пример и велејќи „нема пристрасност“. Предрасудите се кријат во општата тенденција на системот.
- Препуштање на донесувањето одлуки со големо влијание на ненадгледуваната вештачка интелигенција. Човечкиот авторитет е суштински во одлуките како што се регрутирање, унапредување и кредитирање.
- Заборавајќи да барате инклузивност. Ако експлицитно не го побарате во промптот, моделот се враќа на стандардните обрасци.
- Тоа значи „Машината го кажа тоа“. За последиците одговара и лицето кое го користи решението.
Правдата е сечија одговорност
Борбата со предрасудите не е само работа на техничкиот тим. Секој вработен кој користи излез од вештачка интелигенција има одговорност да се запраша дали тој излез е фер. „Машината ми кажа“ не е изговор; За последиците одговара и оној што ја носи одлуката.
Сумирано
- Примарниот извор на пристрасност на вештачката интелигенција не е злонамерноста, туку постоечките нерамнотежи и стереотипи во податоците за обуката.
- Предрасуди; Создава реален правен и репутациски ризик во области како што се регрутирање, комуникација со клиенти, финансии и евалуација.
- Пристрасноста е често невидлива и вградена во целокупната диспозиција на системот; Гледањето на еден пример е погрешно.
- Да се намали: бидете свесни, ограничете ја одлуката на критериумите поврзани со работата, експлицитно побарајте инклузивност, поставете човечка контрола врз одлуките со големо влијание.
- „Машината ми кажа“ не е изговор; Праведноста е одговорност на секој што го користи резултатот.
Задача за апликација
Кажете ѝ на вештачката интелигенција „опишете идеален [секое занимање] работник“ и означете кои (можеби непотребни) претпоставки беа направени во резултатот. Потоа повторете со образецот „критериуми поврзани со работата“ погоре и споредете ги двата резултати за праведност.
Список за проверка
- [ ] Разбирам дека примарен извор на пристрасност се податоците за обуката.
- [ ] Можам да ги наведам конкретните ризици што може да ги предизвика пристрасноста на работното место.
- [ ] Знам дека пристрасноста е често невидлива и дека гледањето на еден пример е погрешно.
- [ ] Јасно можам да побарам инклузивност и критериуми поврзани со работата во промптот.
- [ ] Барам човечки надзор над одлуките со големо влијание.