Печалби:
- Способност за ясно дефиниране на концепциите за агенция, разлика в отговорността, алгоритмично пристрастие, прозрачност и автономност и установяване на напрежение.
- Полагане на отговорност не на „изкуствения интелект“, а на човешката верига, която го проектира, внедрява и използва
- Способност за провеждане на многостранен дебат чрез проверка на оптимистичните пристрастия на AI и остарелите познания за собствената му технология
Философията и приложната етика са области, които не само използват AI, но и изучават AI. Самият изкуствен интелект е една от най-оживените теми в етичната философия днес: Кой е отговорен, когато една AI система вземе решение? Ако алгоритъмът е предубеден, как се нарича тази несправедливост? Може ли AI да се счита за „агент“ (субект, способен на морални действия)? Като етик вие сте човекът, който едновременно води тези дискусии и преподава. В тази част ще изясним основните концепции на дебата за етиката на ИИ (клонът на приложната етика, който изследва моралните въпроси – отговорност, пристрастия, прозрачност, автономност, справедливост – повдигнати от разработването и използването на системи с изкуствен интелект) и ще видим как можете по-добре да анализирате и преподавате този дебат с инструменти за ИИ.
Ето един интересен цикъл: можете да използвате AI като инструмент дори когато обсъждате етиката на AI - но точно там трябва да сте най-бдителни за собствените пристрастия и ограничения на AI.
Основни понятия и напрежения
Агент и морален субект. Намерението, разбирането, свободата и осъзнаването на последствията често се изискват, за да може едно същество да носи морална отговорност. Дали AI има такива е спорно; Повечето мнения твърдят, че AI е инструмент и че отговорността остава на хората, които го проектират, внедряват и използват. Това е в съответствие с принципа, който модулът подчертава навсякъде: крайната отговорност е на човека.
Пропаст в отговорността. Когато AI система причинява вреда, могат да възникнат ситуации, при които отговорността е разпръсната („оставена в празнотата“): дизайнерът, доставчикът на данните, институцията, която ги използва, крайният оператор? Тази „пропаст в отговорността“ е един от централните проблеми на съвременната етика на ИИ.
Алгоритмично отклонение. AI може да научи и възпроизведе исторически неравенства в данните за обучение; Това алгоритмично отклонение (когато система систематично произвежда резултати, които поставят в неравностойно положение определени групи) е в основата на дискусиите за справедливост и дискриминация.
Прозрачност и обяснимост. Неразбирането защо дадено AI решение е такова, каквото е (проблемът с „черната кутия“) е етичен проблем по отношение на отговорността и правото на обжалване. Обяснимостта (което прави обосновката за изхода на системата разбираема от човека) все повече се превръща в етично и правно изискване.
Съвет: Когато обсъждате етиката на изкуствения интелект, разделяйте ясно понятията: Вместо да казвате „ИИ взе решението“, кажете „ИИ произведе резултат, човекът го приложи“. Тази езикова строгост поставя отговорността на правилното място и спасява дискусията от мътност.
Използване на AI като инструмент в този дебат
Самият AI е чудесен илюстративен материал в курсовете по етика на AI. Можете да накарате учениците да намерят пристрастия в резултат от AI, да демонстрират необосноваността на дадено решение и да сравнят различни мнения. Но две предупреждения: (1) AI може да има комерсиална или оптимистична наклонност към своята технология; Не пропускайте да потърсите и критични мнения. (2) Това поле се променя бързо; Информацията на AI може да е остаряла, отидете на текущия източник за разпоредби и факти.
Внимание: Когато питате AI „Етичен ли е AI?“ Когато зададете въпрос като този, отговорът, който получавате, е средната стойност на данните от обучението, а не резултат от философска дискусия. Вземете този отговор като отправна точка; Дефинирайте сами понятията, сами установете напрежението и сами ги подкрепете с текущи реални примери.
три мини калъфа
Случай 1 — Дебат за липсата на отговорност. Един семинар обсъди сценарий, при който система за набиране, задвижвана от AI, оставя група в неизгодно положение. Попитайте AI "кой е отговорен?" Те анализираха въпроса от различни рамки; Резултатът картографира веригата дизайнер-данни-институция-оператор. Групата използва тази карта, за да развие своя собствена аргументирана позиция: те се застъпиха за отчетност на всяка връзка, така че отговорността да не попадне в „празнотата“.
Случай 2 — Предразсъдък, демонстриран с жив пример. Един инструктор накара AI да напише една и съща длъжностна характеристика с различни имена и показа стереотипите в разпечатката на учениците. Студентите видяха алгоритмичното пристрастие не като абстрактна концепция, а конкретно в резултата пред тях. Урокът вкоренява концепцията с реален пример. Лекторът също подчерта, че това е единичен резултат и са необходими систематични доказателства за обобщаване.
Случай 3 — Оптимистичната тенденция се стабилизира. Студент накара AI да напише за „въздействието на AI върху обществото“; Резултатът беше предимно положителен и подценява рисковете. Студентът отиде до критични академични източници, добави противоположни възгледи и изгради балансиран анализ. Пристрастията на AI към собствения му домейн се балансират от човешки контрол.
Слаба подкана / Силна подкана
Слаба подкана:
Етичен ли е изкуственият интелект или не? отговор.
Тази подкана свежда сложния философски дебат до бинарен отговор; AI връща средната стойност, понятията остават недефинирани и пристрастията стават невидими.
Мощна подкана:
Вашата роля: Безпристрастен анализатор в областта на етиката на ИИ. НЕ МЕ СЪДЕТЕ по [Сценарий]. Вместо това: 1) Дефинирайте съответните понятия (извършител, пропуск в отговорността, алгоритмични пристрастия, прозрачност) — кратко и неутрално. 2) Картирайте възможното разпределение на отговорността (дизайнер, данни, институция, оператор). 3) Представете поне две противоположни етични позиции, всяка от които е най-силна. 4) Имайте предвид, че тази област се променя бързо и изисква актуални ресурси. Аз ще направя собствена преценка. Сценарий: [напишете сценария]
Тази подкана изяснява концепциите, създава многостранна дискусия и оставя решението на вас.
Четири копируеми шаблона
1) Изясняване на концепцията:
Накратко и обективно дефинирайте следните понятия в етиката на ИИ: агент/морален субект, празнина в отговорността, алгоритмично пристрастие, прозрачност, обяснимост. Включете ежедневен пример под всяко определение. Маркирайте спорните области като „мненията се различават“.
2) Картографиране на отговорностите:
В следния сценарий начертайте веригата на отговорност за щетите, причинени от AI система: дизайнер, доставчик на данни, разпределителна институция, потребителски оператор, регулатор. Запишете възможния залог и защита на всеки пръстен. Направете окончателна преценка. Сценарий: [сценарий]
3) Представяне на противоположна позиция:
Представете поне две противоположни етични позиции по [въпроса за етиката на ИИ], всяка в своята най-силна и най-честна форма. Не обявявайте никой за „победител“. Назовете стойността, на която се основава всяка позиция. Въпрос: [въпрос]
4) Оптимизъм/контрол на пристрастията:
Проверете дали следващият текст за AI подценява рисковете или предава оптимистично отношение към технологията. Маркирайте всички критични перспективи, които липсват, и рисковете, които трябва да бъдат добавени. Текст: [поставете текст]
Концепция / таблица на напрежението
концепция
основен въпрос
етично напрежение
Извършител/морален субект
ИИ носи ли отговорност?
Инструмент или предмет?
празнина в отговорността
Кой носи отговорност при нанесени щети?
Разпръсната отчетност
алгоритмично отклонение
Недостатък за кого?
Справедливост срещу ефективност
прозрачност
Защо това решение?
Обяснимост и др. сложност
автономия
Колко човешки контрол?
Автоматизация срещу одит
Често срещани грешки
- Език „решен от AI“. Размива отговорността; AI произвежда резултат, хората го реализират и отговорността е на хората.
- Намаляване на дебата до двоичен отговор. "Етично или не?" въпросът разрушава концептуалната дълбочина; Настройте напрежението.
- Не забелязвайки оптимистичната тенденция на AI. AI може да бъде нестабилен относно собствената си технология; Добавете критичен източник.
- Обобщаване на един резултат. Пристрастията в извадката са поразителни, но систематичното твърдение изисква систематични доказателства.
- Разчитане на остаряла информация. Това поле и неговите подредби се променят бързо; Потвърдете фактите с текущия източник.
В обобщение
Етиката на изкуствения интелект е една от най-жизнените съвременни области на философията и като етик вие едновременно водите и преподавате този дебат. Дефинирайте ясно ключовите понятия — агенция, пропуски в отчетността, алгоритмични пристрастия, прозрачност, автономия — и установете напрежение. Можете да използвате AI както като инструмент, така и като пример в тази дискусия, но внимавайте за два капана: AI е склонен да бъде оптимист по отношение на своята технология и неговите знания може да са остарели. Език като „изкуственият интелект реши“ размива отговорността; Строгият концептуален език поставя отговорността на правилното място. Винаги ти вземаш решението.
Задача за приложение
- Изберете сценарий за етика на AI (напр. алгоритмична система за вземане на решения).
- Дефинирайте и прегледайте сами ключовите концепции с шаблона „разясняване на концепцията“.
- Извлечете веригата на отговорност в случай на повреда с шаблона „картографиране на отговорността“.
- Сравнете поне две етични позиции с шаблона „представяне на противоположна позиция“.
- Тествайте отклонението в AI текст с шаблона „проверка на оптимизма“ и добавете критичен източник.
контролен списък
- [ ] Дефинирах понятията ясно и обективно.
- [ ] Поверих отговорността на човешката верига, а не на „ИИ“.
- [ ] Структурирах дискусията многостранно, не я сведох до бинарен отговор.
- [ ] Проверих оптимистичното разположение на ИИ към неговата област.
- [ ] Потвърдих фактите и разпоредбите с настоящия източник.
- [ ] Окончателната преценка и обосновка дадох сам.