Добици:
- Способност анализирања етичког случаја из више перспектива, из консеквенцијалистичких, деонтолошких и етичких оквира врлина
- Способност да се разјасне чињенице и заинтересоване стране и да се именују сукоби принципа
- Бити у стању да доноси етичке пресуде и одлуке на оправдан начин уз контролу пристрасности, не препуштајући то вештачкој интелигенцији
Срж примењене етике је питање "шта да се ради?" у реалној ситуацији. је да произведе образложен одговор на питање. Болнички етички комитет расправља о одлуци о лечењу, компанија процењује да ли је употреба података етичка, истраживач одмерава штету од експеримента за учеснике. Алати који се користе у овим радовима су етички оквири (приступи који нуде кохерентан скуп принципа и образложења за процену ситуације) — на пример, консеквенцијализам (приступ који процењује исправност радње према њеним последицама, користима и штетама које она производи), деонтологија (приступ који процењује исправност радње са обавезама и њеним последицама, усаглашеност са њеним правима и независношћу). етика (приступ који поставља питање као „шта би врлина особа урадила?”, а не „какву акцију?”). АИ може бити брз алат за анализу случаја из различитих оквира, увид у занемарене димензије и умножавање опција. Али коначна етичка пресуда – који принцип преовладава, коју одлуку донети и образложење за њу – припада људском бићу, посебно одговорној комисији и експерту.
У овој јединици ћемо видети како анализирати етички случај на начин који покреће вештачка интелигенција, али на начин који људи процењују.
Анализа више оквира: права моћ АИ
Најчешћа грешка у етичком случају је држати се једне тачке гледишта. Добра анализа сагледава исту ситуацију из више оквира и открива тензије. Овде је вештачка интелигенција моћна: може анализирати случај из консеквенцијалистичке, деонтолошке и перспективе засноване на врлинама истовремено и брзо навести до каквог закључка сваки оквир води. Ово приказује дебату.
Кораци:
1. Разјасните чињенице. Ко, шта, када је укључен; разликовати неизвесне и претпостављене чињенице. Етичка анализа се не може заснивати на лажним чињеницама.
2. Идентификујте заинтересоване стране и интересе. Ко је погођен одлуком, која су права и интереси сваког од њих?
3. Анализирати из различитих оквира. Како сваки оквир гледа на ову ситуацију и коју акцију препоручује?
4. Покажите тензије и сукобе принципа. Ако оквири доносе различите закључке, где је тачно сукоб? (На пример, између аутономије појединца и добробити друштва.)
5. Донесите образложену одлуку. Образложите који принцип надмашује зашто тако што ћете прихватити најоштрији приговор друге стране.
Савет: Не тражите од АИ да ми „каже прави одговор“; Реците, „анализирајте овај случај из три оквира и покажите закључак и најјачи приговор за сваки. Посао АИ је да креира мапу; Ви доносите одлуку и образложење. У етици „одговор који је дала машина“ није оправдање.
Зашто АИ не може да доноси етичке одлуке?
Рецимо ово јасно. Етичко расуђивање; То захтева познавање контекста, одређивање приоритета између вредности, преузимање одговорности и вољу да се та одлука потпише. АИ нема ништа од овога: нема вредности, нема одговорности, ограничено познавање контекста и може да реплицира културолошке/идеолошке предрасуде у подацима о обуци. Штавише, АИ често даје „просечно“ или најчешће мишљење о контроверзној теми; док у етици тачан одговор може бити углавном у мањини или уопште не постоји. АИ отвара опције; Ви одмерите и одлучите.
Опрез: У етичким одлукама са високим улозима (медицинским, правним, институционалним) излаз вештачке интелигенције никада не би требало да замени процену надлежног одбора или стручњака. Користите АИ као „саветодавац“; Коначна одлука и одговорност је на одговорном лицу. Такође, ако стварни подаци случаја садрже личне/поверљиве информације, немојте их уносити у јавне алате.
три мини кофера
Случај 1 — Мапа са више оквира. Етички комитет је расправљао о додели ограничених ресурса (нпр. ограничен број опција лечења). Имали су АИ да анализира случај из консеквенцијалистичке, деонтолошке и перспективе засноване на врлинама; Три различита оправдања и њихове конфликтне тачке су мапиране за 20 минута. Користећи ову мапу као полазну тачку, одбор је водио сопствену дискусију и донео сопствену образложену одлуку.
Случај 2 — Превиђена заинтересована страна. Компанија је процењивала одлуку о коришћењу података. У својој анализи, ИЗ је означила трећу групу (људи чији су подаци коришћени, али нису укључени у процес) на које је, поред директних странака одлуке, индиректно погођена. Тим је превидео ову заинтересовану страну. Улаз вештачке интелигенције учинио је одлуку потпунијом - али тим је одредио приоритете.
Случај 3 — Пристрасна сугестија је исправљена. Истражитељ је имао АИ да анализира културолошки осетљив случај. АИ је представио јединствен културни поглед као „универзалну истину“ и игнорисао алтернативне системе вредности. Истраживач је уочио ову једностраност и диверзифицирао анализу. Доминантни поглед на податке о обуци АИ је уравнотежен људским надзором.
Слаби промпт / Јаки промпт
Слабо обавештење:
Шта да радим етички у овој ситуацији?
Ово подстицање делегира етичко расуђивање и одговорност на АИ; Добијате један „одговор“, не видите образложење и оквир, пристрасност остаје скривена.
Снажан упит:
Ваша улога: аналитичар примењене етике (не доносилац одлука). Анализирајте следећи случај. НЕ ДАЈТЕ МИ ОДЛУКУ.1) Наведите двосмислене чињенице које треба разјаснити.2) Уклонити заинтересоване стране и интересе/права сваког од њих.3) Анализирати случај одвојено из консеквенцијалистичке, деонтолошке и етичке перспективе врлина; Дајте закључак и најјачи приговор сваког од њих. 4) Прикажите основни сукоб принципа између оквира. Ја ћу донети одлуку и образложење. Упозорите ако постоје лични/поверљиви подаци. Случај: [напишите случај]
Овај упит уклања мапу са више оквира, оставља одлуку вама и чини пристрасност видљивом.
Четири шаблона за копирање
1) Чињенице и појашњење заинтересованих страна:
У следећем случају, наведите (а) одређене познате чињенице, (б) неизвесне/претпостављене чињенице, (ц) све заинтересоване стране и интересе и права сваког од њих. Додајте коментаре и одлуке. Случај: [случај]
2) Анализа у три оквира:
Анализирајте овај случај одвојено из перспектива консеквенцијализма, деонтологије и етике врлина. За сваки кадар: како он то види, радњу коју препоручује и најјачи приговор на ту сугестију. Проглашавање оквира „исправним“. Случај: [случај]
3) Дијагноза сукоба смерница:
Наведите кључне принципе око којих се оквири сукобљавају у анализи у наставку (нпр. аутономија наспрам општег добра, правда наспрам саосећања). Покажите где је тачно центар сукоба. Доношење одлука. Анализа: [налепи текст]
4) Ревизија предрасуда и културолошке осетљивости:
Проверите да ли ова етичка анализа не представља једно културно/идеолошко гледиште као универзалну истину. Постоје ли алтернативни системи вредности или перспективе које се игноришу? Истакните где треба да буде више плурализма. Анализа: [налепи текст]
Табела поређења оквира
Фраме
основно питање
Фоцус
типична слабост
консеквенцијализам
Који је најбољи исход?
Баланс користи/штета
Може уништити права мањина
деонтологија
Шта каже задатак/правило?
право, дужност, принцип
Строг, може занемарити исход
етика врлина
Шта ради врли човек?
карактер, намера
Нејасан водич за акцију
Уобичајене грешке
- Натерати АИ да одлучи. "Шта да радим?" Питање делегира етичко просуђивање; АИ креира мапу, ви одлучујете.
- Бити заглављен у једном кадру. Сагледавање случаја само из једне перспективе; анализа у више оквира открива напетост.
- Не разјашњавајући чињенице. Етичка анализа заснована на лажним или претпостављеним чињеницама пропада.
- Непрепознавање пристрасности. АИ може представити доминантни културни поглед као „универзалан“; Плурализам обезбеђују људи.
- Уношење поверљивог/личног случаја у јавни алат. Ризик од повреде приватности у стварним фајловима; Анонимизујте или користите безбедан систем.
Укратко
Права моћ вештачке интелигенције у анализи случајева примењене етике је да брзо мапира ситуацију из више оквира, издвоји заинтересоване стране и учини видљивим сукобе принципа. Али етичко расуђивање – који принцип преовладава, одлука и оправдање – припада људском бићу, посебно одговорној комисији и експерту; јер АИ нема вредности, нема одговорности, нема знања о контексту и носи пристрасност. Разјасните чињенице, анализирајте вишеструке оквире, именујте конфликт, проверите пристрасност и сами донесите одлуку са оправдањем. У одлукама са високим улозима, вештачка интелигенција се ставља поред, уместо да замењује, стручно мишљење.
Задатак апликације
- Изаберите стварни или измишљени етички случај (анонимизирајте ако укључује личне податке).
- Издвојите чињенице и заинтересоване стране помоћу шаблона „Објашњење чињеница и заинтересованих страна“.
- Нека се случај анализира из три перспективе помоћу шаблона „анализа у три оквира“.
- Именујте основну напетост помоћу шаблона „дијагноза принципа конфликта“.
- Напишите сопствену образложену одлуку — прихватајући најјачи приговор супротне стране.
контролна листа
- [ ] Појаснио сам чињенице и неизвесности.
- [ ] Идентификовао сам све заинтересоване стране и њихове интересе.
- [ ] Случај сам анализирао из најмање три етичка оквира.
- [ ] Јасно сам именовао принцип сукоба.
- [ ] Проверио сам пристрасност и једностраност.
- [ ] Препустио сам одлуку и оправдање себи/одбору, а не АИ.
- [ ] Заштитио сам поверљиве/личне податке.