Печалби:
- Способност за анализиране на етичен случай от множество гледни точки, от консеквенциалистки, деонтологични и етични рамки на добродетелта
- Способност за изясняване на факти и заинтересовани страни и назоваване на принципни конфликти
- Да можеш да правиш етични преценки и решения по обоснован начин с контрол на пристрастията, без да го оставяш на изкуствения интелект
Сърцето на приложната етика е въпросът "какво да правя?" в реална ситуация. е да даде аргументиран отговор на въпроса. Болнична комисия по етика обсъжда решение за лечение, компания оценява дали използването на данни е етично, изследовател претегля вредата от експеримент за участниците. Инструментите, използвани в тези произведения, са етични рамки (подходи, които предлагат съгласуван набор от принципи и мотиви за оценка на ситуация) - например консеквенциализъм (подход, който оценява правилността на дадено действие според неговите последствия, ползите и вредите, които причинява), деонтология (подход, който оценява правилността на дадено действие чрез неговото съответствие със задължения, права и правила, независимо от неговите последствия) и етика на добродетелта (подход, който формулира въпроса като „какво би направил един добродетелен човек?“ вместо „какво действие?“). AI може да бъде бърз инструмент за анализиране на случай от различни рамки, да видите пренебрегвани измерения и да умножите опциите. Но окончателната етична преценка – кой принцип надделява, кое решение да се вземе и обосновката за него – принадлежи на човека, особено на отговорната комисия и експерта.
В тази част ще видим как да анализираме етичен случай по начин, задвижван от AI, но преценен от хора.
Многокадров анализ: Истинската сила на AI
Най-честата грешка в един етичен случай е да се придържаме към една-единствена гледна точка. Един добър анализ вижда една и съща ситуация от множество рамки и разкрива напрежение. Това е мястото, където AI е мощен: той може да анализира случай едновременно от консеквенциалистка, деонтологична и базирана на добродетели гледна точка и бързо да изброи до какво заключение води всяка рамка. Това очертава дебата.
стъпки:
1. Изяснете фактите. Кой, какво, кога участва; прави разлика между несигурни и предполагаеми факти. Етичният анализ не може да се основава на неверни факти.
2. Идентифицирайте заинтересованите страни и интереси. Кой е засегнат от решението, какви са правата и интересите на всеки?
3. Анализирайте от различни рамки. Как всяка рамка гледа на тази ситуация и какво действие препоръчва?
4. Показвайте напрежение и принципни конфликти. Ако рамките достигнат до различни заключения, къде точно е конфликтът? (Например между автономията на индивида и ползата на обществото.)
5. Вземете обосновано решение. Обосновете кой принцип надделява защо, като приемете най-силното възражение на другата страна.
Съвет: Не искайте от AI да ми „каже правилния отговор“; Кажете, „анализирайте този случай от три рамки и покажете заключението и най-силното възражение на всяка от тях“. Работата на AI е да създаде картата; Вие произвеждате решението и обосновката. В етиката "отговорът, даден от машината" не е оправдание.
Защо AI не може да взема етични решения?
Нека кажем това ясно. Етична преценка; Изисква познаване на контекста, приоритизиране на ценностите, поемане на отговорност и воля за подписване на това решение. AI няма нито едно от тези: няма ценности, няма отчетност, ограничено познаване на контекста и може да възпроизвежда културни/идеологически пристрастия в данните за обучение. Освен това AI често дава „средното“ или най-често срещаното мнение по спорна тема; докато в етиката верният отговор може да бъде най-вече в малцинство или може изобщо да не съществува. AI отваря опции; Вие претегляте и решавате.
Внимание: При етични решения с високи залози (медицински, правни, институционални) резултатите от ИИ никога не трябва да заместват преценката на компетентен съвет или експерт. Използвайте AI като „консултативен съставител“; Окончателното решение и отговорност е на отговорното лице. Освен това, ако действителните данни за случая съдържат лична/поверителна информация, не я въвеждайте в публични инструменти.
три мини калъфа
Случай 1 — Многокадрова карта. Комисия по етика обсъждаше разпределението на ограничен ресурс (напр. ограничен брой възможности за лечение). Те накараха AI да анализира случая от последваща, деонтологична и основана на добродетели гледна точка; Три различни обосновки и техните конфликтни точки бяха картографирани за 20 минути. Използвайки тази карта като отправна точка, бордът проведе собствена дискусия и взе свое мотивирано решение.
Случай 2 — Пренебрегнатата заинтересована страна. Компания оценяваше решение за използване на данни. В своя анализ YZ маркира трета група (хора, чиито данни са използвани, но не участват в процеса), които са косвено засегнати, освен преките страни на решението. Екипът беше пренебрегнал тази заинтересована страна. Приносът на AI направи решението по-пълно, но екипът направи приоритизирането.
Случай 3 — Коригирано предубедено предложение. Един следовател накара AI да анализира културно чувствителен случай. AI представи един културен възглед като „универсална истина“ и игнорира алтернативни ценностни системи. Изследователят забеляза тази едностранчивост и разнообрази анализа. Доминиращият поглед върху данните за обучение на AI се балансира от човешкия надзор.
Слаба подкана / Силна подкана
Слаба подкана:
Какво трябва да направя етично в тази ситуация?
Тази подкана делегира етична преценка и отговорност на AI; Получавате един „отговор“, не виждате обосновката и рамката, пристрастието остава скрито.
Мощна подкана:
Вашата роля: анализатор по приложна етика (не вземащ решения). Анализирайте следния случай. НЕ МИ ДАВАЙТЕ РЕШЕНИЕТО.1) Избройте двусмислените факти, които трябва да бъдат изяснени.2) Премахнете заинтересованите страни и интересите/правата на всеки.3) Анализирайте случая отделно от гледна точка на консеквенциалистката, деонтологична и етична гледна точка на добродетелта; Дайте заключението и най-силното възражение за всеки. 4) Покажете основния конфликт на принципи между рамките. Ще представя решението и обосновката. Предупреждавайте, ако има лични/поверителни данни. Регистър: [напишете регистър]
Тази подкана премахва мултикадровата карта, оставя решението на вас и прави отклонението видимо.
Четири копируеми шаблона
1) Изясняване на факти и заинтересовани страни:
В следния случай избройте (а) определени известни факти, (б) несигурни/предполагаеми факти, (в) всички заинтересовани страни и интересите и правата на всеки от тях. Добавете коментари и решения. Случай: [случай]
2) Анализ на три кадъра:
Анализирайте този случай отделно от гледна точка на консеквенциализма, деонтологията и етиката на добродетелта. За всеки кадър: как той го вижда, действието, което препоръчва, и най-силното възражение срещу това предложение. Обявяване на рамка за "правилна". Случай: [случай]
3) Диагностика на конфликт на политика:
Посочете ключовите принципи, на които рамките противоречат в анализа по-долу (напр. автономия срещу общото благо, справедливост срещу състрадание). Покажете точно къде е центърът на конфликта. Вземане на решения. Анализ: [поставете текст]
4) Одит на предразсъдъци и културна чувствителност:
Проверете дали този етичен анализ не представя един културен/идеологически възглед като универсална истина. Има ли алтернативни ценностни системи или перспективи, които се игнорират? Подчертайте къде има нужда от повече плурализъм. Анализ: [поставете текст]
Диаграма за сравнение на рамки
Рамка
основен въпрос
Фокус
типична слабост
консеквенциализъм
Какъв е най-добрият резултат?
Баланс полза/вреда
Може да смаже правата на малцинствата
деонтология
Какво казва заданието/правилото?
право, задължение, принцип
Строг, може да пренебрегне резултата
етика на добродетелта
Какво прави един добродетелен човек?
характер, намерение
Неясно ръководство за действие
Често срещани грешки
- Каране на AI да решава. — Какво трябва да направя? Въпросът делегира етична преценка; AI създава карта, вие решавате.
- Да бъдеш заклещен в един кадър. Виждане на случая само от една гледна точка; многокадровият анализ разкрива напрежение.
- Без изясняване на фактите. Етичният анализ, основан на неверни или предполагаеми факти, се срива.
- Неразпознаване на пристрастие. AI може да представи доминиращия културен възглед като „универсален“; Плурализмът се осигурява от хората.
- Въвеждане на поверителен/личен случай в публичен инструмент. Риск от нарушаване на поверителността в реални файлове; Анонимизирайте или използвайте защитена система.
В обобщение
Истинската сила на изкуствения интелект в анализа на казуси по приложна етика е бързо да картографира ситуация от множество рамки, да извлича заинтересованите страни и да прави видими принципните конфликти. Но етичната преценка – кой принцип надделява, решението и обосновката – принадлежи на човешкото същество, особено на отговорната комисия и експерта; защото AI няма ценности, няма отговорност, няма познания за контекста и носи пристрастия. Изяснете фактите, анализирайте множество рамки, назовете конфликта, проверете за пристрастия и вземете сами решението с обосновка. При решения с високи залози AI се поставя успоредно, вместо да замества експертната преценка.
Задача за приложение
- Изберете реален или измислен етичен случай (анонимизирайте, ако включва лични данни).
- Извлечете факти и заинтересовани страни с шаблона „Изясняване на факти и заинтересовани страни“.
- Анализирайте случая от три гледни точки с шаблона „анализ с три кадъра“.
- Назовете основното напрежение с шаблона „диагностика на принципен конфликт“.
- Напишете вашето собствено мотивирано решение — приемайки най-силното възражение на противниковата страна.
контролен списък
- [ ] Изясних фактите и неяснотите.
- [ ] Идентифицирах всички заинтересовани страни и техните интереси.
- [] Накарах случая да бъде анализиран от най-малко три етични рамки.
- [ ] Ясно назовах принципния конфликт.
- [ ] Проверих за пристрастност и едностранчивост.
- [ ] Оставих решението и обосновката на себе си/борда, а не на AI.
- [ ] Защитих поверителни/лични данни.