Добици:
- Способност повезивања одговорних принципа вештачке интелигенције (праведност, транспарентност, одговорност, приватност, људски надзор, безбедност, одрживост) са конкретним одлукама
- Способност тестирања погођених страна и пристрасности одвајањем етике од усклађености са законима и разликовањем између „ми можемо“ и „требали бисмо“
- Могућност унапредјења сценарија злоупотребе уграђивањем транспарентности, људског праћења и привлачности у дизајн
АИ стартуп може бити технички савршен, финансијски исплатив и правно одржив; али ипак може бити погрешно. Етика је разлика између „ми можемо“ и „требало би“. За вишег менаџера, етика није ствар улепшавања или односа са јавношћу; То је темељ који одржава дугорочну поузданост, углед и друштвени легитимитет институције. У овој јединици ћете научити принципе одговорне вештачке интелигенције (приступ развоју и коришћењу вештачке интелигенције на начин који је поштен, транспарентан, одговоран и поштује људско достојанство) и како их одражавати у свакодневним одлукама.
Основни принципи одговорне АИ
Различити оквири се састају на сличним принципима. Практични резиме за менаџера:
принцип
Како то мислиш?
администраторско питање
правда
недискриминација
Да ли ово неправедно утиче на групу?
транспарентност
бити разумљив
Можемо ли објаснити разлог одлуке?
одговорност
Идентификација ко је одговоран
Ко је одговоран ако дође до грешке?
Приватност
Поштовање личних података
Имамо ли право да користимо податке?
људски надзор
Одржавање контроле
Може ли се један приговорити и зауставити?
Безбедност
не чини штету
Да ли се ово може злоупотребити?
Одрживост
Утицај на животну средину/друштвени утицај
Коме намећемо трошак?
Ови принципи нису апстрактни; Сваки од њих се може повезати са конкретном одлуком. На пример, „транспарентност“ значи да купац зна да разговара са вештачком интелигенцијом; „Људски надзор“ значи да човек преиспита одбијеницу зајма и остави отворену жалбу.
Савет: Уз сваку одлуку вештачке интелигенције са великим утицајем, поставите једно питање: „Могу ли да јасно објасним и стојим иза ове одлуке особи на коју је то најнегативније утицало?“ Ако одговор вређа, постоји етички проблем.
Етика се разликује од закона
Критична разлика: усаглашеност са законима (Јединица 9) је минимум; Етика је виша линија. Нешто је можда легално, али неетично. На пример, апликацији можда није забрањено да користи вештачку интелигенцију за манипулисање понашањем корисника, али је то неетично. Одговорне институције "је ли забрањено?" не "Да ли је истина?" пита он.
Корак по корак: уграђивање етике у одлуку
1. Идентификујте погођене стране. Кога ова иницијатива погађа? (Купац, запослени, друштво, угрожене групе)
2. Скенирајте са смерницама. Доведите иницијативу у питање у смислу сваког од горе наведених принципа.
3. Тест за пристрасност и штету. Да ли модел неправедно утиче на одређене групе? Који су сценарији злостављања?
4. Додајте транспарентност и надзор. Пријавите употребу вештачке интелигенције, не остављајући начин за људска примедба.
5. Документи и преглед. Сачувај етичку процену; Повремено проверавајте.
три мини кофера
Случај 1 — Легално, али погрешно. Апликација је користила вештачку интелигенцију да генерише обавештења која изазивају зависност како би дуже задржала кориснике у апликацији. Није било законске препреке, али када је то објављено у штампи, дошло је до озбиљног губитка угледа; Његово циљање на младе кориснике посебно је изазвало критике. Компанија је уклонила ову функцију. Да је етички филтер од почетка, овај ризик би се видео.
Случај 2 — Вредност теста правичности. Модел кредитног бодовања банке систематски је давао ниже оцене апликацијама заштићених група. Ово је ухваћено у ревизији правде. Модел је редизајниран и редовно тестиран како би се осигурала међугрупна једнакост у својим резултатима. Етички принцип (правда) се претворио у конкретан тест и спречио стварну штету.
Случај 3 — Транспарентност је изградила поверење. Компанија за е-трговину ставила је фразу „Асистент за вештачку интелигенцију вам помаже, можете се повезати са људским представником у било ком тренутку“ на почетак свог чет-бота за корисничку подршку. Транспарентност и људски излазак нису умањили задовољство; Напротив, повећао је поверење, а жалбе су се смањиле за 15%. Транспарентност урађена исправно је била вредност, а не цена.
Четири шаблона за копирање
1) Етички преглед:
Ваша улога: одговорни консултант за вештачку интелигенцију. Скенирајте ову иницијативу за 7 принципа: правичност, транспарентност, одговорност, приватност, људски надзор, безбедност, одрживост. За сваку полису напишите један ризик и једну препоруку. Иницијатива: [текст]
2) Анализа погођене стране:
Наведите све стране на које утиче ова иницијатива АИ (купац, запослени, друштво, групе у неповољном положају). Запишите могуће позитивне и негативне ефекте за сваку страну; Означите групу која ће највероватније бити повређена. Иницијатива: [текст]
3) Сценарио злоупотребе:
Генеришите 5 сценарија у којима би следећа АИ функција могла бити злоупотребљена (укључујући манипулацију, дискриминацију, кршење приватности, обману). Предложите одлуку о превентивном дизајну за сваки сценарио. Атрибут: [текст]
4) Контрола транспарентности и надзора:
Напишите план транспарентности и људског надзора за АИ окренуту клијенту који ће: шта ће бити саопштено кориснику и како; Како се може пренети на људе? Како може да приговори одлуци? Употреба: [текст]
Слаби промпт / Јаки промпт
Слабо: „Да ли је ово АИ етично?“
Резултат: Површно „да/не“; Који принцип, ко је погођен, која мера је нејасно.
Снажан: „Размишљамо о коришћењу вештачке интелигенције у алату за претходну проверу запошљавања (људ ће донети коначну одлуку). Провери ово ради принципа правичности, транспарентности, одговорности и људског надзора. Напиши конкретно на које групе кандидата може бити неправедно погођено, које тестове пристрасности треба да урадим и како кандидати могу да уложе жалбу на одлуку.“
Резултат: Практична процена заснована на принципима која идентификује погођену страну и предлаже тестирање и жалбу.
Уобичајене грешке
- Бркање етике са поштовањем закона. Није све што је легално етичко; Етика је виша линија.
- Остављајући етику да траје. Добијање "етичког одобрења" након дизајна је прекасно; етика мора бити уграђена у дизајн од почетка.
- Не испитујући правду. Претпоставка да је „наш модел неутралан“ је опасна; не може се знати без мерења.
- Грешка транспарентност са трошковима. Транспарентност урађена исправно повећава поверење и вредност.
- Држите захваћене стране уским. Размишљање само о купцу и игнорисање запосленог, друштва и угрожених група ствара слепу тачку.
Опрез: Препуштање етичке евалуације у потпуности вештачкој интелигенцији је контрадикторно и опасно. АИ може помоћи у постављању етичких питања, али вредносни суд, културни контекст и крајња морална одговорност остају на човеку. Етички став организације одређен је свесним изборима људи, а не „тако је рекао АИ“.
Укратко
Етика је разлика између „ми можемо“ и „требали бисмо“ и штити дугорочни кредибилитет организације. Одговоран АИ; Заснива се на принципима правде, транспарентности, одговорности, приватности, људског надзора, безбедности и одрживости. Ови принципи нису апстрактни; То се претвара у конкретне одлуке као што су идентификација погођених страна, тестирање на пристрасност, пружање транспарентности и додавање људског надзора. Етика је другачија од закона и виша је линија; Не може се оставити до краја, мора бити уграђено у дизајн. У следећој јединици ћемо разговарати о усклађености, што је правни еквивалент етике, посебно ЕУ закона о вештачкој интелигенцији и КВКК.
Задатак апликације
Изаберите АИ стартуп са великим утицајем. Са шаблоном 2, наведите све погођене стране и означите групу која ће највероватније бити оштећена. Са шаблоном 1 скенирајте иницијативу за седам принципа. Дефинишите конкретну меру (тест правичности, обавештење о транспарентности, начин жалбе, итд.) за два најкритичнија етичка ризика. Коначно, „могу ли да објасним ову одлуку најнегативнијој особи?“ Одговорите на питање искрено.
контролна листа
- [ ] Идентификовао сам све погођене стране.
- [ ] Прегледао сам стартап са седам принципа одговорне вештачке интелигенције.
- [ ] Планирао сам тест за пристрасност/правичност.
- [ ] Дизајнирао сам изјаву о транспарентности.
- [ ] Нисам оставио начин за људски надзор и жалбу.
- [ ] Размишљао сам о сценаријима злостављања.
- [ ] „Могу ли то објаснити оном на који је најнегативније погођено?“ Положио сам тест.