Добици:
- Способност да се јасно дефинишу концепти агенције, јаза у одговорности, алгоритамске пристрасности, транспарентности и аутономије и успостављања тензија.
- Стављање одговорности не на 'вештачку интелигенцију' већ на људски ланац који је дизајнира, примењује и користи
- Способност да се води вишестрана дебата проверавајући оптимистичку пристрасност АИ и застарело знање о сопственој технологији
Филозофија и примењена етика су области које не само да користе АИ већ и проучавају АИ. Сама вештачка интелигенција је данас једна од најживљих тема у етичкој филозофији: Ко је одговоран када систем вештачке интелигенције доноси одлуку? Ако је алгоритам пристрасан, како се зове ова неправда? Може ли се АИ сматрати „агентом“ (субјект способан за моралну акцију)? Као етичар, ви сте особа која води ове дискусије и подучава. У овој јединици ћемо разјаснити основне концепте дебате о етичкој интелигенцији (грана примењене етике која испитује морална питања – одговорност, пристрасност, транспарентност, аутономију, правду – која се постављају развојем и употребом система вештачке интелигенције) и видети како можете боље анализирати и подучавати ову дебату помоћу АИ алата.
Ево занимљиве петље: АИ можете да користите као алат чак и када разговарате о етици вештачке интелигенције — али управо то је место где морате да будете највише опрезни према сопственим предрасудама и ограничењима АИ.
Основни појмови и тензије
Агент и морални субјект. Намера, разумевање, слобода и свест о последицама су често потребни да би биће сносило моралну одговорност. Да ли АИ има ово је дискутабилно; Већина ставова сматра да је АИ алат и да одговорност остаје на људима који га дизајнирају, примењују и користе. Ово је у складу са принципом који модул наглашава: коначна одговорност лежи на човеку.
Празнина у одговорности. Када систем вештачке интелигенције проузрокује штету, могу се појавити ситуације у којима је одговорност распршена („остављена у празнини“): дизајнер, добављач података, институција која га користи, крајњи оператер? Овај „јаз у одговорности“ један је од централних проблема савремене етике вештачке интелигенције.
Алгоритамска пристрасност. АИ може научити и реплицирати историјске неједнакости у подацима о обуци; Ова алгоритамска пристрасност (када систем систематски производи резултате који стављају у неповољнији положај одређене групе) је у сржи дискусија о правичности и дискриминацији.
Транспарентност и објашњивост. Неразумевање зашто је одлука вештачке интелигенције таква каква јесте (проблем „црне кутије“) је етички проблем у смислу одговорности и права на жалбу. Објашњивост (која чини образложење за излаз система људски разумљивим) постаје све више етички и правни захтев.
Савет: У дискусији о етици вештачке интелигенције, јасно раздвојите концепте: уместо да кажете „АИ је донео одлуку“, реците „АИ је произвео резултат, човек га је применио“. Ова лингвистичка строгост поставља одговорност на право место и чува дискусију од мутности.
Коришћење вештачке интелигенције као алата у овој дебати
Сама АИ је одличан илустративни материјал на курсевима етике АИ. Можете да натерате ученике да пронађу пристрасност у резултату вештачке интелигенције, покажу неоправданост одлуке и упореде различита мишљења. Али два упозорења: (1) АИ можда има комерцијалне или оптимистичне наклоности у погледу своје технологије; Обавезно потражите и критичка мишљења. (2) Ово поље се брзо мења; Информације АИ су можда застареле, идите на тренутни извор за прописе и чињенице.
Опрез: Када питате АИ „Да ли је АИ етичка?“ Када поставите овакво питање, одговор који добијете је просек података о обуци, а не резултат филозофске расправе. Узмите овај одговор као полазну тачку; Сами дефинишите појмове, сами утврдите тензије и сами их поткрепите актуелним стварним примерима.
три мини кофера
Случај 1 — Дебата о недостатку одговорности. На једном семинару се расправљало о сценарију где је систем регрутовања који покреће вештачка интелигенција оставио групу у неповољном положају. Питајте АИ "ко је одговоран?" Питање је анализирано из различитих оквира; Излаз је мапирао ланац дизајнер-подаци-институција-оператор. Група је користила ову мапу да развије сопствену аргументовану позицију: заговарали су одговорност сваке карике како одговорност не би пала у „празнину“.
Случај 2 — Предрасуде приказане живим примером. Инструктор је дао АИ да напише исти опис посла са различитим именима и показао стереотипе у одштампаним документима ученицима. Студенти су видели алгоритамску пристрасност не као апстрактан концепт, већ конкретно у излазу који је пред њима. Лекција је укоријенила концепт са правим примјером. Предавач је такође нагласио да се ради о јединственом исходу и да су за генерализацију потребни системски докази.
Случај 3 — Оптимистички тренд се стабилизовао. Ученик је дао АИ да пише о „утицају АИ на друштво“; Резултат је био претежно позитиван и потцењивао је ризике. Студент је отишао до критичних академских извора, додао супротне ставове и направио уравнотежену анализу. Пристрасност АИ према сопственом домену је уравнотежена људском контролом.
Слаби промпт / Јаки промпт
Слабо обавештење:
Да ли је вештачка интелигенција етичка или не? Одговори.
Овај упит своди сложену филозофску дебату на бинарни одговор; АИ враћа просек, концепти остају недефинисани, а пристрасност постаје невидљива.
Снажан упит:
Ваша улога: непристрасни аналитичар у области етике вештачке интелигенције. НЕМОЈТЕ МЕ ОСУЂИВАТИ на [Сценарију]. Уместо тога: 1) Дефинишите релевантне концепте (починилац, јаз у одговорности, алгоритамска пристрасност, транспарентност) — сажето и неутрално. 2) Мапирајте могућу дистрибуцију одговорности (дизајнер, подаци, институција, оператер). 3) Представите најмање две супротстављене етичке позиције, свака у најјачој форми. 4) Имајте на уму да се ово поље брзо мења-пресудићу и захтевају сопствене ресурсе. Сценарио: [напишите сценарио]
Овај упит појашњава концепте, успоставља вишестрану дискусију и оставља одлуку вама.
Четири шаблона за копирање
1) Појашњење концепта:
Укратко и објективно дефинишите следеће концепте у етици вештачке интелигенције: агент/морални субјект, јаз у одговорности, алгоритамска пристрасност, транспарентност, објашњивост. Укључите свакодневни пример испод сваке дефиниције. Означите контроверзне области као „мишљења се разликују“.
2) Мапирање одговорности:
У следећем сценарију нацртајте ланац одговорности за штету коју производи АИ систем: дизајнер, добављач података, институција за дистрибуцију, корисник оператер, регулатор. Запишите могући улог и одбрану сваког прстена. Донесите коначну пресуду. Сценарио: [скрипта]
3) Презентација супротне позиције:
Представите најмање две супротстављене етичке позиције о [питању етике вештачке интелигенције], свака у свом најјачем и најпоштенијем облику. Ниједног прогласити „победником“. Именујте вредност на којој се заснива свака позиција. Питање: [питање]
4) Контрола оптимизма/пристрасности:
Проверите да ли следећи текст о вештачкој интелигенцији потцењује ризике или изражава оптимистично расположење према технологији. Означите све критичне перспективе које недостају и ризике које треба додати. Текст: [налепи текст]
Концепт / табела напона
концепт
основно питање
етичка напетост
Извршилац/морални субјект
Да ли АИ сноси одговорност?
Алат или предмет?
јаз у одговорности
Ко је одговоран када је штета проузрокована?
Дисперзована одговорност
алгоритамска пристрасност
Коме на штету?
Правда насупрот ефикасности
транспарентност
Зашто ова одлука?
Објашњивост итд. сложеност
аутономија
Колико људска контрола?
Аутоматизација наспрам ревизије
Уобичајене грешке
- Језик „АИ одлучила“. Замагљује одговорност; АИ производи излаз, људи га имплементирају, а одговорност је на људима.
- Свођење дебате на бинарни одговор. "Етички или не?" питање уништава концептуалну дубину; Подесите напоне.
- Не примећујући оптимистичку тенденцију АИ. АИ може бити нестабилан у вези са сопственом технологијом; Додајте критични извор.
- Уопштавање једног исхода. Пристрасност у узорку је упадљива, али систематска тврдња захтева систематске доказе.
- Ослањајући се на застареле информације. Ово поље и његови аранжмани се брзо мењају; Потврдите чињенице тренутним извором.
Укратко
Етика вештачке интелигенције је једна од најживљих савремених области филозофије, и као етичар ви водите и предајете ову дебату. Јасно дефинисати кључне концепте — агенција, јаз у одговорности, алгоритамска пристрасност, транспарентност, аутономија — и успоставити тензије. У овој дискусији можете користити АИ и као алат и као пример, али пазите на две замке: АИ има тенденцију да буде оптимиста у погледу своје технологије, а њено знање може бити застарело. Језик као што је „АИ одлучила“ замагљује одговорност; Ригорозан концептуални језик ставља одговорност на право место. Ти увек доносиш одлуку.
Задатак апликације
- Изаберите етички сценарио АИ (нпр. алгоритамски систем одлучивања).
- Дефинишите кључне концепте и сами их прегледајте помоћу шаблона „разјашњење концепта“.
- Издвојите ланац одговорности у случају штете помоћу шаблона „мапирање одговорности“.
- Упоредите најмање две етичке позиције са шаблоном „презентација супротне позиције“.
- Тестирајте пристрасност у тексту АИ помоћу шаблона „провера оптимизма“ и додајте критички извор.
контролна листа
- [ ] Дефинисао сам концепте јасно и објективно.
- [ ] Пребацио сам одговорност на људски ланац, а не на „АИ“.
- [ ] Расправу сам структурирао вишестрано, нисам је свео на бинарни одговор.
- [ ] Проверио сам оптимистично расположење АИ према свом пољу.
- [ ] Потврдио сам чињенице и прописе са тренутним извором.
- [ ] Сам сам донео коначну пресуду и оправдање.