Добици:
- Разуме да су подаци примарни извор пристрасности АИ
- Препознаје ризике које пристрасност може створити на радном месту
- Спроводи мере које се могу предузети за смањење предрасуда
АИ се појављује као неутрална, објективна машина; али истина је много сложенија. Системи вештачке интелигенције уче људске предрасуде у подацима на којима су обучени и понекад их увећавају и репродукују. Предрасуде су тенденција система да систематски фаворизује или искључује одређене људе или групе. У овој јединици ћемо размотрити одакле долазе предрасуде, које конкретне ризике представљају на радном месту и шта се може учинити против њих. Ово није само питање "етике"; То је практична пословна ствар која носи правни, комерцијални и репутациони ризик када се лоше управља.
Одакле долазе предрасуде?
Информације о језичком моделу потичу из огромних текстова које људи производе. Ови текстови садрже сва сазнања о људском друштву, као и све његове стереотипе, неравнотеже и историјске неједнакости. Модел не прави разлику између „добрих“ и „лоших“ образаца; Учи све што је у подацима.
Пример: Ако су одређене професије биле претежно повезане са полом у прошлим текстовима (нпр. „медицинска сестра“ са женском, „инжењер“ са мушким), модел учи ову асоцијацију. Можда има тенденцију да изабере мушку заменицу када довршава реченицу: „Инжењер је ушао у канцеларију, он...“ Модел није злонамеран; то само одражава неравнотежу у подацима.
Дакле, пристрасност је углавном због тога што је огледало података, а не свесна програмска грешка. Објашњавање проблема као "неко је написао лош код" је погрешно; Проблем је што се неравнотежа у свету преноси у податке и одатле у модел.
Опипљиви ризици на радном месту
области
Ризик од пристрасности
могућа штета
регрутовање
Научите тренд у историјским подацима и елиминишите одређене групе
Правни случај, губитак способности
Комуникација са купцима
Стереотипни или искључујући језик
Губитак репутације, бежање купаца
кредит/ризик
Одржавање прошлих неједнакости
Дискриминација, санкције
Оцена учинка
Преношење пристрасности података у одлуку
Нефер промоција/бонус
Садржај/маркетинг
Учините одређену групу невидљивом
Оштећење бренда
Три мини кућишта
Случај 1 — Оглас је сужавао језик. Компанија је почела да штампа огласе за посао помоћу вештачке интелигенције. После извесног времена примећено је да се рекламе допадају на одређени профил изразима као што су „млад и динамичан“, „агресивна мета“ и тако смањују разноврсност апликација. Тим је додао корак који проверава сваку објаву на „инклузивни језик“; Разноликост кандидата значајно се повећала у року од неколико месеци.
Случај 2 — Скривена пристрасност у резимеу. Један менаџер је имао АИ да сумира повратне информације од 30 запослених. Чинило се да је резиме концентрисао негативне коментаре на један одређени тим; док је у сировим подацима ситуација била уравнотежена. Модел је преувеличао неколико јаких изјава. Када се менаџер вратио и проверио необрађене податке, избегао је да направи заблуду.
Случај 3 — Мандат инклузивности је успео. Један маркетиншки тим је стандардизовао упутство у копији кампање да „користи инклузиван, неспецифичан језик за пол/старост/групу и на крају наведе своје претпоставке. Формулски изрази у произведеним текстовима су приметно смањени; тим није морао ручно да исправља сваки излаз изнова и изнова.
Зашто је пристрасност тешко препознати?
Најподмуклија ствар у вези са предрасудама је то што су често невидљиве. Излаз изгледа глатко, професионално и разумно; Тенденција унутар њега постаје очигледна тек када се пажљиво погледа или измери њен утицај на различите групе. Погрешно је рећи да „овде нема пристрасности“ гледајући само један пример; Пристрасност се често манифестује не у појединачним примерима, већ у општој тенденцији система.
Опрез: Претпоставка да сам „ја сам неутралан, стога је и алат који користим неутралан“ је опасна. Неутралност алата зависи од података о обуци и начина на који се проверава, а не од ваше намере.
Слаба порука / јака промпт
Слаб упит: Опишите идеалног кандидата за ову позицију.
Резултат: Модел се може ослонити на стереотипе и представити одређени профил као „идеалан“.
Снажан позив: Наведите само мерљиве компетенције за ову позицију које су заиста релевантне за посао. Не користите никакве карактеристике које нису везане за посао, као што су пол, године, брачни статус, родни град. На крају, напишите шта сте изоставили под насловом „претпоставке које избегавам“.
Резултат: Евалуација је ограничена на критеријуме везане за посао, небитне карактеристике су искључене.
Шаблони за смањење пристрасности
Проверите текст испод за инклузивни језик. Означите изјаве које имплицирају пол, старост, етничку припадност, инвалидитет или одређену групу и предложите неутралну алтернативу за сваку. Текст: [налепите овде]
Урадите ову евалуацију само на основу ових објективних критеријума: [критеријуми]. Не узимајте у обзир никакве друге информације осим ових критеријума (име, пол, године).
Наведите под посебним насловом на крају које сте претпоставке изнели у тексту који сте израдили. Тако да могу да видим скривене предрасуде.
Процените овај садржај очима три различите групе читалаца и означите све изјаве које могу увредити/увредити било кога од њих. Садржај: [налепите овде]
Уобичајене грешке
Уобичајене грешке
- Под претпоставком „неутралног“ АИ излаза. Иако се излаз чини неутралним, може да носи пристрасност у подацима; Потребан је активан надзор.
- Гледајући један пример и кажете „нема пристрасности“. Предрасуде се крију у општој тенденцији система.
- Доношење одлука са великим утицајем препустити вештачкој интелигенцији без надзора. Људски ауторитет је од суштинског значаја у одлукама као што су запошљавање, унапређење и кредит.
- Заборављајући да захтевате инклузивност. Ако то изричито не затражите у промпту, модел се враћа на подразумеване обрасце.
- То значи "Машина је то рекла." За последице је одговоран и онај ко користи одлуку.
Правда је свачија одговорност
Борба против предрасуда није само посао техничког тима. Сваки запослени који користи АИ излаз има одговорност да постави питање да ли је тај резултат поштен. „Машина ми је рекла“ није изговор; За последице је одговоран и онај који доноси одлуку.
Укратко
- Примарни извор пристрасности АИ није злонамерност, већ постојеће неравнотеже и стереотипи у подацима о обуци.
- Предрасуде; То ствара прави правни и репутациони ризик у областима као што су запошљавање, комуникација са клијентима, финансије и евалуација.
- Пристрасност је често невидљива и уграђена у целокупну диспозицију система; Гледање на један пример је погрешно.
- Да смањите: будите свесни, ограничите одлуку на критеријуме везане за посао, изричито тражите инклузивност, ставите људску контролу на одлуке са великим утицајем.
- „Машина ми је рекла“ није изговор; Праведност је одговорност свакога ко користи излаз.
Апплицатион Таск
Реците АИ „опишите идеалног радника [било које занимање]“ и означите које (можда непотребне) претпоставке су направљене у резултатима. Затим поновите са горњим шаблоном „критеријуми у вези са послом“ и упоредите два резултата ради праведности.
Контролна листа
- [ ] Разумем да су примарни извор пристрасности подаци о обуци.
- [ ] Могу да наведем конкретне ризике које пристрасност на радном месту може представљати.
- [ ] Знам да је пристрасност често невидљива и да је гледање на један пример погрешно.
- [ ] Јасно могу да тражим инклузивност и критеријуме везане за посао у упиту.
- [ ] Потребан ми је људски надзор над одлукама са великим утицајем.