Добивки:
- Способност за јасно дефинирање на концептите на агенција, јаз во одговорноста, алгоритамска пристрасност, транспарентност и автономија и воспоставување тензии.
- Ставајќи ја одговорноста не на „вештачката интелигенција“, туку на човечкиот синџир што ја дизајнира, распоредува и користи
- Способност да се води повеќестрана дебата со проверка на оптимистичката пристрасност на вештачката интелигенција и застареното знаење за сопствената технологија
Филозофијата и применетата етика се области кои не само што користат вештачка интелигенција, туку и ја проучуваат вештачката интелигенција. Самата вештачка интелигенција е една од најживите теми во етичката филозофија денес: Кој е одговорен кога системот за вештачка интелигенција донесува одлука? Ако алгоритам е пристрасен, како се нарекува оваа неправда? Дали вештачката интелигенција може да се смета за „агент“ (субјект способен за морално дејство)? Како етичар, вие сте личноста која ги води овие дискусии и предава. Во оваа единица, ќе ги разјасниме основните концепти на дебатата за етика на вештачката интелигенција (гранката на применетата етика која ги испитува моралните прашања - одговорност, пристрасност, транспарентност, автономија, правда - покренати од развојот и употребата на системи за вештачка интелигенција) и ќе видиме како подобро да ја анализирате и подучите оваа дебата со алатките за вештачка интелигенција.
Еве една интересна јамка: можете да ја користите вештачката интелигенција како алатка дури и кога разговарате за етиката на вештачката интелигенција - но токму тоа е местото каде што треба да бидете најмногу внимателни за сопствените предрасуди и ограничувања на вештачката интелигенција.
Основни концепти и тензии
Агент и морален субјект. Намерата, разбирањето, слободата и свесноста за последиците често се потребни за суштеството да сноси морална одговорност. Дали вештачката интелигенција ги има овие е дискутабилно; Повеќето ставови сметаат дека вештачката интелигенција е алатка и дека одговорноста останува кај луѓето кои ја дизајнираат, распоредуваат и користат. Ова се усогласува со принципот што го нагласува модулот: конечната одговорност е на човекот.
Јаз во одговорноста. Кога системот за вештачка интелигенција предизвикува штета, може да се појават ситуации кога одговорноста е дисперзирана („оставена во празнина“): дизајнерот, давателот на податоците, институцијата што ги користи, крајниот оператор? Овој „јаз во одговорноста“ е еден од централните проблеми на современата етика на вештачката интелигенција.
Алгоритамска пристрасност. ВИ може да научи и реплицира историски нееднаквости во податоците за обуката; Оваа алгоритамска пристрасност (кога системот систематски произведува исходи кои им нанесуваат неповолна положба на одредени групи) е во сржта на дискусиите за правичност и дискриминација.
Транспарентност и објаснување. Неуспехот да се разбере зошто одлуката за вештачка интелигенција е таква каква што е (проблемот „црната кутија“) е етички проблем во однос на одговорноста и правото на жалба. Објаснивоста (што го прави образложението за резултатот на системот човечки разбирливо) сè повеќе станува етичко и законско барање.
Совет: во дискусијата за етиката на вештачката интелигенција, јасно разделете ги концептите: наместо да кажете „Ви ја донесе одлуката“, кажете „Вештачката интелигенција произведе резултат, човекот го спроведе“. Оваа лингвистичка строгост ја става одговорноста на вистинското место и ја спасува дискусијата од мрачност.
Користење на вештачката интелигенција како алатка во оваа дебата
Самата вештачка интелигенција е одличен илустративен материјал на курсевите за етика на вештачката интелигенција. Можете да ги натерате учениците да најдат пристрасност во излезот на вештачката интелигенција, да покажат неоправданост на одлуката и да споредат различни мислења. Но, две предупредувања: (1) вештачката интелигенција може да има комерцијална или оптимистичка наклонетост за својата технологија; Не заборавајте да барате и критички мислења. (2) Ова поле брзо се менува; Информациите за вештачката интелигенција можеби се застарени, одете до тековниот извор за прописи и факти.
Внимание: Кога прашувате вештачка интелигенција „Дали вештачката интелигенција е етичка?“ Кога поставувате вакво прашање, одговорот што го добивате е просекот на податоците за обуката, а не резултат на филозофска дискусија. Земете го овој одговор како почетна точка; Сами дефинирајте ги концептите, самите воспоставете ги тензиите и поткрепете ги сами со актуелни реални примери.
три мини футроли
Случај 1 - Дебата за јазот во одговорноста. Еден семинар дискутираше за сценарио каде што системот за регрутирање напојуван со вештачка интелигенција остави група во неповолна положба. Прашајте ја вештачката интелигенција „кој е одговорен? Тие го анализираа прашањето од различни рамки; Излезот го мапираше синџирот дизајнер-податоци-институција-оператор. Групата ја искористи оваа карта за да развие своја образложена позиција: тие се залагаа за одговорност на секоја врска, така што одговорноста не падне во „празнина“.
Случај 2 - Предрасуди демонстрирани со жив пример. Еден инструктор побара од вештачката интелигенција да го напише истиот опис на работното место со различни имиња и им ги покажа стереотипите во отпечатокот на учениците. Учениците ја гледаа алгоритамската пристрасност не како апстрактен концепт, туку конкретно во излезот пред нив. Лекцијата го вгради концептот со вистински пример. Предавачот исто така нагласи дека ова е единствен исход и дека се потребни систематски докази за генерализација.
Случај 3 - Оптимистичкиот тренд се стабилизира. Еден ученик побарал вештачката интелигенција да напише за „влијанието на ВИ врз општеството“; Аутпутот беше претежно позитивен и ги потцени ризиците. Студентот отиде до критички академски извори, додаде спротивставени ставови и конструираше избалансирана анализа. Пристрасноста на вештачката интелигенција кон сопствениот домен е избалансирана со човечка контрола.
Слаб промпт / Силен промпт
Слаба навестување:
Дали вештачката интелигенција е етичка или не? Одговори.
Ова барање ја сведува сложената филозофска дебата на бинарен одговор; ВИ го враќа просекот, концептите остануваат недефинирани и пристрасноста станува невидлива.
Моќен потсетник:
Вашата улога: Непристрасен аналитичар во областа на етиката на вештачката интелигенција. НЕ МЕ ОСУДУВАЈТЕ за [Сценарио]. Наместо тоа: 1) Дефинирајте релевантни концепти (сторител, јаз во одговорноста, алгоритамска пристрасност, транспарентност) — концизно и неутрално. 2) Наведете ја можната распределба на одговорноста (дизајнер, податоци, институција, оператор). Сценарио: [напишете го сценариото]
Овој поттик ги разјаснува концептите, воспоставува повеќестрана дискусија и ја остава одлуката на вас.
Четири шаблони за копирање
1) Појаснување на концептот:
Накратко и објективно дефинирајте ги следните концепти во етиката на вештачката интелигенција: агент/морален субјект, јаз во одговорноста, алгоритамска пристрасност, транспарентност, објаснување. Вклучете секојдневен пример под секоја дефиниција. Означете ги контроверзните области како „мислењата се разликуваат“.
2) Мапирање на одговорност:
Во следното сценарио, нацртајте го синџирот на одговорност за штетата предизвикана од системот за вештачка интелигенција: дизајнер, обезбедувач на податоци, институција за дистрибуција, оператор на корисници, регулатор. Запишете го можниот влог и одбрана на секој прстен. Донесете конечна пресуда. Сценарио: [скрипта]
3) Презентација на спротивна позиција:
Презентирајте најмалку две спротивставени етички позиции за [прашањето за етиката на вештачката интелигенција], секој во својата најсилна и најискрена форма. Никој не прогласи за „победник“. Наведете ја вредноста на која се заснова секоја позиција. Прашање: [прашање]
4) Контрола на оптимизам/пристрасност:
Проверете дали следниов текст за вештачката интелигенција ги потценува ризиците или пренесува оптимистичка наклонетост кон технологијата. Обележете ги сите критични перспективи што недостасуваат и ризиците што треба да се додадат. Текст: [залепи текст]
Табела за концепт / напон
концепт
основно прашање
етичка напнатост
Насилник/морален субјект
Дали вештачката интелигенција сноси одговорност?
Алатка или тема?
јазот на одговорноста
Кој е одговорен кога е причинета штета?
Дисперзирана одговорност
алгоритамска пристрасност
Недостаток на кого?
Правда наспроти ефикасност
транспарентност
Зошто оваа одлука?
Објаснивост итн комплексност
автономија
Колку човечка контрола?
Автоматизација наспроти ревизија
Вообичаени грешки
- Јазикот „Ви одлучи“. Ја замаглува одговорноста; ВИ произведува излез, луѓето го спроведуваат, а одговорноста е кај луѓето.
- Сведување на дебатата на бинарен одговор. „Етички или не? прашањето ја уништува концептуалната длабочина; Поставете напони.
- Не забележувајќи ја оптимистичката тенденција на ВИ. ВИ може да биде нестабилна во однос на сопствената технологија; Додадете критичен извор.
- Генерализирање на единствен исход. Пристрасноста во примерокот е впечатлива, но систематското тврдење бара систематски докази.
- Потпирајќи се на застарени информации. Ова поле и неговите аранжмани се менуваат брзо; Потврдете ги фактите со тековниот извор.
Сумирано
Етиката на вештачката интелигенција е една од најживописните современи области на филозофијата, и како етичар вие ја водите и предавате оваа дебата. Јасно дефинирајте ги клучните концепти - агенција, јаз во одговорноста, алгоритамска пристрасност, транспарентност, автономија - и воспоставете тензии. Можете да ја користите вештачката интелигенција и како алатка и како пример во оваа дискусија, но внимавајте на две замки: вештачката интелигенција има тенденција да биде оптимист за својата технологија, а нејзиното знаење може да биде застарено. Јазикот како „Ви одлучи“ ја замаглува одговорноста; Ригорозниот концептуален јазик ја става одговорноста на вистинското место. Вие секогаш ја донесувате одлуката.
Задача за апликација
- Изберете етичко сценарио за вештачка интелигенција (на пр. алгоритамски систем за одлучување).
- Нека ги дефинирате и прегледате клучните концепти со шаблонот „појаснување на концептот“.
- Извлечете го синџирот на одговорност во случај на оштетување со шаблонот „мапирање на одговорност“.
- Споредете најмалку две етички позиции со шаблонот „презентација на спротивната позиција“.
- Тестирајте ја пристрасноста во текстот со вештачка интелигенција со шаблонот „проверка на оптимизмот“ и додајте критички извор.
листа за проверка
- [ ] Јас ги дефинирав концептите јасно и објективно.
- [ ] Одговорноста ја ставив на човечкиот синџир, а не на „ВИ“.
- [ ] Дискусијата ја структурирав повеќестрано, не ја сведов на бинарен одговор.
- [ ] Ја проверив оптимистичката диспозиција на вештачката интелигенција кон своето поле.
- [ ] Ги потврдив фактите и прописите со сегашниот извор.
- [ ] Сам го изведов конечниот суд и оправдувањето.