Добивки:
- Способност да се поврзат одговорните принципи на ВИ (праведност, транспарентност, одговорност, приватност, човечки надзор, безбедност, одржливост) со конкретни одлуки
- Способност да се тестираат засегнатите страни и пристрасност со одвојување на етиката од законската усогласеност и правење разлика помеѓу „можеме“ и „треба“
- Способност однапред да се намалат сценаријата за злоупотреба со вградување на транспарентност, човечки мониторинг и привлечност во дизајнот
Стартап со вештачка интелигенција може да биде технички совршен, финансиски профитабилен и правно остварлив; но сепак може да биде погрешно. Етиката е разликата помеѓу „можеме“ и „треба“. За висок менаџер, етиката не е прашање на украсување или односи со јавноста; Тоа е основата што ја одржува долгорочната доверливост, угледот и социјалната легитимност на институцијата. Во оваа единица, ќе ги научите принципите на одговорна вештачка интелигенција (пристап кон развивање и користење на вештачка интелигенција на начин кој е фер, транспарентен, одговорен и со почитување на човечкото достоинство) и како да ги одразувате во секојдневните одлуки.
Основни принципи на одговорна ВИ
Различни рамки се среќаваат на слични принципи. Практично резиме за менаџер:
принцип
Што сакаш да кажеш?
администраторско прашање
правдата
недискриминација
Дали ова неправедно влијае на група?
транспарентност
биди разбирлив
Можеме ли да ја објасниме причината за одлуката?
отчетност
Идентификување кој е одговорен
Кој е одговорен ако се појави грешка?
Приватност
Почитување на личните податоци
Дали имаме право да користиме податоци?
човечки надзор
Останувајќи во контрола
Може ли некој да се спротивстави и да го запре?
Безбедност
не прави штета
Дали ова може да се злоупотреби?
Одржливост
Еколошки/социјално влијание
На кого го наметнуваме трошокот?
Овие принципи не се апстрактни; Секој од нив може да се поврзе со конкретна одлука. На пример, „транспарентност“ значи да му се даде до знаење на клиентот дека разговара со вештачка интелигенција; „Човечки надзор“ значи човек да го прегледа одбивањето на заемот и да го остави отворено за жалба.
Совет: Со секоја одлука со вештачка интелигенција со големо влијание, поставете едно прашање: „Можам ли јасно да му објаснам и да застанам зад оваа одлука на најнегативно погоденото лице? Ако одговорот навредува, постои етички проблем.
Етиката е различна од правото
Критична разлика: законската усогласеност (Единица 9) е минималниот минимум; Етиката е повисока линија. Можеби нешто е легално, но неетички. На пример, на апликацијата можеби нема да и биде забрането да користи вештачка интелигенција за да манипулира со однесувањето на корисниците, но тоа е неетички. Одговорните институции „забрането ли е? не "Дали е вистина?" прашува тој.
Чекор по чекор: вградување на етиката во одлуката
1. Идентификувајте ги засегнатите страни. Кој е засегнат од оваа иницијатива? (Клиент, вработен, општество, обесправени групи)
2. Скенирајте со полиси. Преиспитајте ја иницијативата во однос на секој од горенаведените принципи.
3. Тест за пристрасност и штета. Дали моделот неправедно влијае на одредени групи? Кои се сценаријата за злоупотреба?
4. Додадете транспарентност и надзор. Пријавете ја употребата на вештачка интелигенција, не оставајќи никаков начин за човечки приговори.
5. Документи и преглед. Зачувај етичка проценка; Проверувајте периодично.
три мини футроли
Случај 1 - Законски, но погрешен. Апликација користела вештачка интелигенција за да генерира зависни известувања за да ги задржи корисниците подолго во апликацијата. Немаше законска пречка, но кога беше објавено во печатот, имаше сериозно губење на угледот; Нејзиното таргетирање особено на младите корисници предизвика критики. Компанијата ја отстрани функцијата. Ако етичкиот филтер беше од почеток, овој ризик ќе се видеше.
Случај 2 - Вредноста на тестот за правичност. Моделот на кредитно бодување на една банка систематски даваше пониски оценки на апликациите од заштитените групи. Ова беше фатено во ревизија на правдата. Моделот беше редизајниран и редовно тестиран за да се обезбеди меѓугрупна рамноправност во неговите резултати. Етичкиот принцип (правдата) се претвори во конкретен тест и спречи вистинска штета.
Случај 3 — Транспарентноста изгради доверба. Една компанија за е-трговија ја стави фразата „Ви помага асистент за вештачка интелигенција, можете да се поврзете со човечки претставник во секое време“ на почетокот на четбот за поддршка на клиентите. Транспарентноста и човечкото излегување не го намалија задоволството; Напротив, ја зголеми довербата, а поплаките се намалија за 15%. Транспарентноста направена правилно беше вредност, а не цена.
Четири шаблони за копирање
1) Етички скрининг:
Вашата улога: одговорен консултант за вештачка интелигенција. Скенирајте ја оваа иницијатива за 7 принципи: правичност, транспарентност, одговорност, приватност, човечки надзор, безбедност, одржливост. За секоја политика, напишете еден ризик и една препорака. Иницијатива: [текст]
2) Анализа на засегнатата страна:
Наведете ги сите страни засегнати од оваа иницијатива за вештачка интелигенција (клиент, вработен, општество, обесправени групи). Запишете ги можните позитивни и негативни ефекти за секоја страна; Означете ја групата која најверојатно ќе биде повредена. Иницијатива: [текст]
3) Сценарио за злоупотреба:
Создадете 5 сценарија во кои може да се злоупотреби следнава карактеристика на вештачка интелигенција (вклучувајќи манипулација, дискриминација, повреда на приватноста, измама). Предложете превентивна одлука за дизајн за секое сценарио. Атрибут: [текст]
4) Транспарентност и контрола на надзор:
Напишете план за транспарентност и човечки надзор за вештачката интелигенција со која се соочува клиентите: што ќе му се соопшти на корисникот и како; Како може да се пренесе на луѓето? Како може да приговори на одлуката? Употреба: [текст]
Слаб промпт / Силен промпт
Слабо: „Дали оваа вештачка интелигенција е етичка?“
Резултат: површно „да/не“; Кој принцип, кој е засегнат, каква мерка е нејасно.
Силно: „Размислуваме да користиме вештачка интелигенција во алатка за претходна проверка за регрутирање (човекот ќе ја донесе конечната одлука). Проверете го ова за принципите на правичност, транспарентност, одговорност и човечки надзор. Конкретно напишете кои групи кандидати може да бидат неправедно погодени, какви тестови за пристрасност треба да направам и како кандидатите можат да се жалат на одлуката“.
Резултат: Практична проценка заснована на принципи која ја идентификува засегнатата страна и предлага тестирање и жалба.
Вообичаени грешки
- Збунувачки етика со законска усогласеност. Не е етичко сè што е легално; Етиката е повисока линија.
- Оставајќи ја етиката да трае. Добивањето „етичко одобрение“ по дизајнот е предоцна; етиката мора да биде вградена во дизајнот од самиот почеток.
- Не тестирање на правдата. Претпоставката дека „нашиот модел е неутрален“ е опасна; не може да се знае без мерење.
- Грешка на транспарентноста за трошоците. Транспарентноста направена правилно ја зголемува довербата и вредноста.
- Одржување на погодените страни тесни. Размислувањето само за клиентот и игнорирањето на вработениот, општеството и обесправените групи создава слепа точка.
Внимание: целосното препуштање на етичката евалуација на вештачката интелигенција е контрадикторно и опасно. Вештачката интелигенција може да помогне да се покренат етички прашања, но вредносното расудување, културниот контекст и крајната морална одговорност зависи од човекот. Етичкиот став на организацијата се определува од свесните избори на луѓето, а не од „Ви го кажа тоа“.
Сумирано
Етиката е разликата помеѓу „можеме“ и „треба“ и го штити долгорочниот кредибилитет на организацијата. Одговорна вештачка интелигенција; Се заснова на принципите на правда, транспарентност, отчетност, приватност, човечки надзор, безбедност и одржливост. Овие принципи не се апстрактни; Тоа се преведува во конкретни одлуки како што се идентификување на засегнатите страни, тестирање за пристрасност, обезбедување транспарентност и додавање човечки надзор. Етиката се разликува од правото и е повисока линија; Не може да се остави до крај, мора да се вметне во дизајнот. Во следната единица, ќе разговараме за усогласеноста, што е правен еквивалент на етиката, особено Законот за вештачка интелигенција на ЕУ и KVKK.
Задача за апликација
Изберете стартување со вештачка интелигенција со големо влијание. Со шаблон 2, наведете ги сите засегнати страни и означете ја групата која најверојатно ќе биде оштетена. Со шаблон 1, скенирајте ја иницијативата за седумте принципи. Дефинирајте конкретна мерка (тест за правичност, известување за транспарентност, пат на жалба итн.) за двата најкритични етички ризици. Конечно, „дали можам да ја објаснам оваа одлука на најнегативно погодената личност? Одговорете на прашањето искрено.
листа за проверка
- [ ] Ги идентификував сите засегнати страни.
- [ ] Го прегледав стартапот со седум принципи на одговорна вештачка интелигенција.
- [ ] Планирав тест за пристрасност/праведност.
- [ ] Ја дизајнирав изјавата за транспарентност.
- [ ] Не оставив начин за човечки надзор и жалба.
- [ ] Размислував за сценарија за злоупотреба.
- [ ] „Може ли да му објаснам на најнегативно погодениот? Го положив тестот.