Добивки:
- Разликување на три модели на човечка контрола (во јамка, на јамка, во команда)
- Препознавање и ублажување на ризиците од пристрасност и дискриминација во излезот на ВИ
- Преведување на принципите на транспарентност и објаснување во конкретни примени
Системот за вештачка интелигенција технички може да работи совршено, но сепак е погрешен: може систематски да елиминира група, да не ја објасни причината за нејзината одлука или да ги натера луѓето да ја прифатат без сослушување. Во оваа единица, ја преведуваме „меката“, но најодлучна страна на управувањето - човечка контрола, управување со пристрасност, транспарентност и етика - во конкретни практики. Целта не се нејасни слогани како „не верувај на вештачката интелигенција“; Тие работат механизми кои покажуваат како да се ревидира резултатот, да се намали пристрасноста и да се воспостави транспарентност.
Три модели на човечка контрола
Човечкиот надзор значи дека човекот ја задржува контролата врз одлуките донесени од ВИ. Постојат три основни модели и неопходно е да се избере вистинскиот модел според ризикот.
модел
Значење
Каде што одговара
Човек во јамката
Човек ја одобрува секоја одлука
Високо ризични, влијателни одлуки
Човек на јамка
ВИ работи, луѓето следат и интервенираат доколку е потребно
Трансакции со среден ризик, голем обем
Човек во команда
Човекот го дизајнира системот, ги поставува неговите граници, може да го затвори
Севкупно ниво на управување
За одлуки кои значително влијаат на личноста (вработување, кредит, здравствена заштита), се претпочита моделот човек во јамката: вештачката интелигенција дава совети, но компетентен човек ја донесува конечната одлука. „Ви рече така“ никогаш не е изговор; Одговорноста секогаш е кај личноста.
Внимание: Не е доволно човечката контрола да биде „на хартија“. Ако човекот автоматски го одобри сугестијата на вештачката интелигенција (печатење со гума), нема вистинска контрола. За ревизијата да биде значајна, мора да се види образложението, да се преиспита и навистина да се каже „не“.
Ризик од предрасуди и дискриминација
Пристрасност е кога вештачката интелигенција систематски им носи недостатоци или предности на одредени групи. Нејзиниот извор често се податоци за обука: ако постои дискриминација во историските податоци, вештачката интелигенција ги учи и одржува - дури и ја размерува.
Практични чекори за намалување на пристрасноста:
- Преглед на чувствителни променливи: Проверете го влијанието на полињата како што се пол, возраст, етничка припадност врз одлуката.
- Резултати од тестот по групи: Дали системот произведува различни стапки на одбивање/прифаќање во различни групи?
- Пазете се од прокси-променливите: Полињата како „соседство“ или „училиште“ може имплицитно да пренесат етничка/класна разлика.
- Воспоставете редовен мониторинг: Пристрасноста се тестира постојано, не само еднаш; Може да се врати како што се менуваат податоците.
три мини футроли
Случај 1 - Гумен печат. Во една банка, службениците за заем ја одобруваат оценката за вештачка интелигенција без да ја разгледаат; Велат „системот веќе го пресметал“. Ревизијата покажува дека во 498 од 500 поднесоци, човекот ја донел истата одлука како и вештачката интелигенција - така што нема вистински преглед. Решение: барајте од луѓето да го видат резонирањето, второ да ја погодат одлуката до одреден степен и побарајте белешка „зошто се согласувам/не се согласувам“.
Случај 2 - Имплицитна пристрасност. Вештачката интелигенција за регрутирање добива пониски резултати од женските кандидати, иако воопшто не користи пол. Од каде? Бидејќи минатите податоци опфаќаа претежно мажи на дадена позиција, моделот научи индиректна дискриминација преку прокси променливи како што е „непрекината кариера“. Групното тестирање го открива ова; Тимот извлекува сурогат променливи и го следи резултатот.
Случај 3 - Доверба со транспарентност. Во својата проценка на штетата напојувана со вештачка интелигенција, осигурителната компанија го информира секој клиент дека „одлуката е напојувана со вештачка интелигенција, тие можат да се жалат и да побараат човечка проверка“. Стапката на приговори е помала од очекуваната бидејќи клиентите го разбираат и веруваат во процесот. Транспарентноста ја зголемува довербата додека го намалува ризикот.
Транспарентност и објаснување
Транспарентноста е да им се стави до знаење на релевантните луѓе дека вештачката интелигенција е во акција и како таа функционира. Објаснување значи да се биде во можност да се објасни причината за одлуката на разбирлив начин. Бетонски апликации:
- Известување „Разговарате со вештачка интелигенција“ за вештачка интелигенција во интеракција со личноста.
- „Оваа одлука се заснова на следните фактори“ објаснување во автоматските одлуки.
- Јасно прикажете го патот до жалба и побарајте човечка проверка.
- За внатрешни тимови: документација и снимање на она што го прави моделот.
Совет: Прашајте одлука за вештачка интелигенција „кои беа главните три фактори кои влијаеја на оваа одлука? Тестирајте го со прашањето. Ако системот не може да го направи ова разбирливо и одлуката значително влијае на личноста, тој систем сè уште не е подготвен за одговорна употреба.
Пристрасност за автоматизација: сопствена стапица
Дури и ако се воспостави транспарентност и човечки надзор, постои подмолен ризик од човечката страна: пристрасност во автоматизацијата. Ова е тенденцијата луѓето повеќе да му веруваат на излезот на машината отколку на сопственото проценување. Бидејќи предлогот за вештачка интелигенција на екранот изгледа „објективен и пресметан“, човек е во искушение да го прифати без сослушување - ова е психолошкото потекло на гумениот печат.
Постојат конкретни начини да се намали ова. Прво охрабрете го контрамислењето: прашајте го лицето што ја одобрува одлуката „Зошто не се согласувам со вештачката интелигенција? Замолете го да размисли за прашањето. Потоа покажете го резултатот за доверба: покажете колку е сигурна вештачката интелигенција; Одделно означете ги излезите со ниска доверба. Потоа поставете предупредување за конфликт: ако препораката за вештачка интелигенција го прекршува правилото на институцијата или податоците достапни за луѓето, системот ќе го нагласи ова. Конечно, примени ги двата човечки принципа на критичните одлуки; Еден одобрувач е поподложен на пристрасност на автоматизацијата.
Внимание: Да се каже „има човечко одобрување“ не значи да се биде ослободен од предрасуди за автоматизација. Човекот мора да има и авторитет, време и правилни информации за да ја преиспита вештачката интелигенција. Системот што го принудува одобрувачот да донесе 200 одлуки за 3 секунди, всушност, не нуди вистинска човечка контрола.
Шаблони за копирање
шаблон 1 — Избор на модел на човечка контрола: „Кој модел на човечка контрола е соодветен за следната употреба на вештачката интелигенција [опишете ја употребата]: во јамка, на јамка или во команда? Препорачете со оправдување, земајќи го предвид ризикот и влијанието врз поединецот. Наведете каква контрола треба да додадам за да го избегнам ризикот од гумени печати“.
шаблон 2 — План за тестирање пристрасност: „Изгответе план за тестирање на пристрасност [опишете ја употребата] за следната вештачка интелигенција за поддршка на одлуки: кои групи треба да ги споредам, која метрика треба да измерам (стапка на одбивање/прифаќање, итн.), кои сурогат променливи треба да барам, колку често треба да го повторувам тестот? Напишете го чекор по чекор.
шаблон 3 — Текст за опис на одлуката: „Напишете едноставен текст за опис за персонализирана автоматизирана одлука: дали одлуката е напојувана со вештачка интелигенција, клучни фактори кои влијаат на одлуката, начин да се жалите и да побарате човечка ревизија. Необвинителски, почитуван тон, 120 зборови или помалку“.
шаблон 4 — Список за проверка на етички преглед: „Подгответе листа за проверка на етички преглед пред да објавите употреба на вештачка интелигенција: правичност/дискриминација, транспарентност, човечка контрола, приватност, безбедност, одговорност. Вклучете 1-2 јасни прашања што треба да се одговорат под секој наслов“.
Слаб промпт / Силен промпт
СЛАБ: „Дали е ова регрутирање на вештачката интелигенција фер?“-> Моделот дава општ одговор како „треба да биде фер“; не обезбедува метод за тестирање и мерење на пристрасност. СИЛНО: „Поставете план за тестирање на пристрасност за оваа вештачка интелигенција за поддршка за регрутирање: метод за споредување на стапките на прифаќање меѓу половите и возрасните групи, прокси променливите што треба да се земат предвид, прифатливиот праг на разлика и фреквенцијата на следење. Додајте и контрола за да се осигурате дека човекот ќе ја донесе конечната одлука“. -> Моделот произведува мерлив, повторлив механизам за правичност.
Вообичаени грешки
- Оставање на човечката контрола „на хартија“ и автоматско одобрување на препораката за вештачка интелигенција (гумен печат).
- Оставање на одлуките кои значително влијаат на личноста без надзор наместо во јамка.
- Сметајќи дека пристрасноста е решена само затоа што „ја избришав чувствителната променлива“; прескокнување на прокси променливи.
- Тестирање пристрасност еднаш и не постојано следење.
- Прескокнување на транспарентноста бидејќи „тоа е технички детал, корисникот нема да разбере“.
- Користење на систем кој не може да ја објасни причината за одлуката во критичните одлуки.
- Оставајќи ја етичката евалуација по објавувањето, велејќи „ќе видиме подоцна“.
Сумирано
- Човечката контрола се спроведува во три модели; Во одлуките што ги засегаат луѓето, луѓето се претпочитаат во циклусот.
- Контролата мора да биде значајна; Гумениот печат (автоматско одобрување) не е вистинската ревизија.
- Пристрасноста често доаѓа од податоците за обуката; Чувствителните и сурогат променливите треба да се тестираат и постојано да се следат.
- Транспарентноста и објаснувањето бараат јасно да му се претстави на корисникот дека вештачката интелигенција е во игра и причината за одлуката.
- Етички преглед се случува пред објавување; одговорноста секогаш лежи кај човечкото суштество, „АИ рече така“ не е оправдување.
Задача за апликација
Изберете процес на одлука за вештачка интелигенција што влијае на луѓето во вашата организација (на пример, евалуација на апликацијата). Определете го соодветниот модел на човечка контрола за овој процес со оправдување и дизајнирајте конкретна контрола за да спречите гумено печат (на пр. барање да се види оправдувањето, преглед на примерокот). Потоа напишете план за тестирање на пристрасност: наведете кои групи ќе ги споредувате, со која метрика, колку често и на кои прокси променливи ќе обрнете внимание. Конечно, изгответе текст за објаснување на одлуката што ќе му се покаже на лицето во текот на овој процес и ќе вклучи патека за жалба/човечка ревизија.
листа за проверка
- [ ] Го избрав моделот на човечка контрола соодветен на процесот.
- [ ] Дизајнирав конкретна контрола што ќе го спречи гумениот печат.
- [ ] Подготвив план за тестирање на пристрасност (групи, метрика, фреквенција).
- [ ] Го проценив ризикот од сурогат променливи.
- [ ] Напишав текст за објаснување на одлуката за лицето.
- [ ] Јасно го претставив патот до жалба и човечки преглед.
- [ ] Го спроведов етичкиот преглед пред објавувањето.