Прибуток:
- Здатність пов’язувати відповідальні принципи штучного інтелекту (справедливість, прозорість, підзвітність, конфіденційність, людський нагляд, безпека, стійкість) до конкретних рішень
- Здатність перевіряти постраждалих сторін і упередженість, відокремлюючи етику від дотримання законодавства та розрізняючи «ми можемо» і «ми повинні»
- Можливість завчасно зменшити сценарії зловживань, вставивши в дизайн прозорість, людський моніторинг і привабливість
Стартап ШІ може бути технічно досконалим, фінансово прибутковим і юридично життєздатним; але все одно може бути неправильно. Етика — це різниця між «ми можемо» і «ми повинні». Для керівника вищої ланки етика не є предметом прикрас чи зв’язків з громадськістю; Це основа, яка підтримує довгострокову надійність, репутацію та соціальну легітимність установи. У цьому розділі ви дізнаєтеся про принципи відповідального штучного інтелекту (підхід до розробки та використання штучного інтелекту у спосіб, який є справедливим, прозорим, підзвітним і з повагою до людської гідності) і як відображати їх у щоденних рішеннях.
Фундаментальні принципи відповідального ШІ
Різні фреймворки зустрічаються за однаковими принципами. Практичний конспект для керівника:
принцип
Що ви маєте на увазі?
питання адміністратора
справедливість
недискримінація
Чи це несправедливо впливає на групу?
прозорість
бути зрозумілим
Чи можемо ми пояснити причину такого рішення?
звітність
Визначення відповідальних
Хто несе відповідальність у разі виникнення помилки?
Конфіденційність
Повага до персональних даних
Чи маємо ми право використовувати дані?
людське спостереження
Зберігайте контроль
Чи можна заперечити і зупинити це?
Безпека
не нашкодити
Чи можна цим зловживати?
Стійкість
Екологічний/соціальний вплив
Кому ми накладаємо витрати?
Ці принципи не є абстрактними; Кожен з них може бути пов'язаний з конкретним рішенням. Наприклад, «прозорість» означає надання клієнту інформації про те, що він спілкується з ШІ; «Людський нагляд» означає перевірку людиною відмови у кредиті та залишення її відкритою для оскарження.
Порада: приймаючи кожне серйозне рішення щодо штучного інтелекту, ставте одне запитання: «Чи можу я чітко пояснити та підтримати це рішення людині, яка постраждала найбільше?» Якщо відповідь образлива, це етична проблема.
Етика відрізняється від права
Важлива відмінність: відповідність законодавству (розділ 9) є необхідним мінімумом; Етика - це вища лінія. Щось може бути законним, але неетичним. Наприклад, додатку може не заборонено використовувати штучний інтелект для маніпулювання поведінкою користувачів, але це неетично. Відповідальні установи "заборонено?" а не "Це правда?" — запитує він.
Крок за кроком: впровадження етики в рішення
1. Визначте постраждалих сторін. Кого стосується ця ініціатива? (Клієнт, працівник, суспільство, незахищені групи)
2. Сканування з політиками. Поставте під сумнів ініціативу з точки зору кожного з наведених вище принципів.
3. Тест на упередженість і шкоду. Чи несправедливо ця модель впливає на певні групи? Які є сценарії зловживання?
4. Додайте прозорості та контролю. Повідомте про використання штучного інтелекту, не залишаючи можливості для людських заперечень.
5. Документи та огляд. Зберегти етичну оцінку; Періодично перевіряйте.
три міні-чохла
Випадок 1 — законно, але неправильно. Додаток використовував штучний інтелект для створення сповіщень, що викликають звикання, щоб довше залишати користувачів у додатку. Юридичних перешкод не було, але коли про це повідомили в пресі, була серйозна втрата репутації; Його орієнтація на молодих користувачів, зокрема, викликала критику. Компанія видалила цю функцію. Якби етичний фільтр був із самого початку, цей ризик був би помітний.
Випадок 2 — значення тесту справедливості. Модель кредитного скорингу банку систематично давала нижчі бали заявкам від захищених груп. Це виявила судова перевірка. Модель була перероблена та регулярно тестована, щоб забезпечити справедливість результатів між групами. Етичний принцип (справедливість) перетворився на конкретний тест і запобіг реальній шкоді.
Випадок 3. Прозорість створила довіру. Компанія електронної комерції помістила фразу «Помічник зі штучним інтелектом вам допоможе, ви можете підключитися до представника людини в будь-який час» на початку свого чат-бота служби підтримки клієнтів. Прозорість і людський вихід не зменшили задоволення; Навпаки, це підвищило впевненість і скарг зменшилося на 15%. Правильно зроблена прозорість була ціною, а не вартістю.
Чотири шаблони, які можна копіювати
1) Етичний скринінг:
Ваша роль: відповідальний консультант зі штучного інтелекту. Проскануйте цю ініціативу на 7 принципів: справедливість, прозорість, підзвітність, конфіденційність, людський нагляд, безпека, сталість. Для кожної політики напишіть один ризик і одну рекомендацію. Ініціатива: [текст]
2) Аналіз постраждалої сторони:
Перелічіть усі сторони, яких торкнеться ця ініціатива штучного інтелекту (клієнти, працівники, суспільство, незахищені групи). Запишіть можливі позитивні та негативні ефекти для кожної сторони; Позначте групу, яка найімовірніше постраждає. Ініціатива: [текст]
3) Сценарій зловживання:
Створіть 5 сценаріїв, у яких можна було б зловживати наведеною нижче функцією штучного інтелекту (включаючи маніпуляції, дискримінацію, порушення конфіденційності, обман). Запропонуйте превентивне проектне рішення для кожного сценарію. Атрибут: [текст]
4) Прозорість та контроль спостереження:
Напишіть план прозорості та людського нагляду для клієнтського ШІ, який: що буде повідомлено користувачеві та як; Як він може передаватися людям? Як він може заперечувати проти рішення? Використання: [текст]
Слабка підказка / Сильна підказка
Слабкий: «Чи є цей ШІ етичним?»
Результат: поверхневе «так/ні»; За яким принципом, кого це стосується, якої міри – незрозуміло.
Стронг: «Ми розглядаємо можливість використання штучного інтелекту в інструменті попереднього відбору (остаточне рішення прийматиме людина). Перевірте це на дотримання принципів справедливості, прозорості, підзвітності та контролю з боку людини. Конкретно напишіть, на які групи кандидатів може несправедливо вплинути, які тести на упередженість мені потрібно провести та як кандидати можуть оскаржити рішення».
Результат: заснована на принципах практична оцінка, яка визначає постраждалу сторону та пропонує тестування та оскарження.
Поширені помилки
- Плутання етики з дотриманням законодавства. Не все, що є законним, є етичним; Етика - це вища лінія.
- Залишаючи етику назавжди. Отримання «етичного схвалення» після розробки надто пізно; Етика повинна бути вбудована в дизайн з самого початку.
- Не перевіряючи справедливості. Припущення, що «наша модель є нейтральною», є небезпечним; не можна дізнатися без вимірювання.
- Приймаючи прозорість за вартість. Правильна прозорість підвищує довіру та цінність.
- Тримайте уражені сторони вузькими. Думати лише про клієнта та ігнорувати працівника, суспільство та незахищені групи створює сліпу пляму.
Застереження: повністю залишати етичну оцінку штучному інтелекту є суперечливим і небезпечним. ШІ може допомогти підняти етичні питання, але ціннісне судження, культурний контекст і кінцева моральна відповідальність покладається на людину. Етична позиція організації визначається свідомим вибором людей, а не «так сказав ШІ».
Підсумовуючи
Етика - це різниця між "ми можемо" і "ми повинні" і захищає довгострокову довіру до організації. Відповідальний ШІ; Він базується на принципах справедливості, прозорості, підзвітності, конфіденційності, людського контролю, безпеки та стабільності. Ці принципи не є абстрактними; Це перетворюється на конкретні рішення, такі як виявлення постраждалих сторін, перевірка на упередженість, забезпечення прозорості та додавання людського контролю. Етика відрізняється від права і є вищою лінією; Це не можна залишати на кінець, це має бути закладено в дизайні. У наступному розділі ми обговоримо комплаєнс, який є юридичним еквівалентом етики, особливо Закон ЄС щодо штучного інтелекту та KVKK.
Аплікаційне завдання
Виберіть потужний стартап зі штучним інтелектом. За допомогою шаблону 2 перелічіть усі постраждалі сторони та позначте групу, яка, швидше за все, постраждає. За допомогою шаблону 1 скануйте ініціативу на наявність семи принципів. Визначте конкретний захід (тест на справедливість, повідомлення про прозорість, маршрут оскарження тощо) для двох найбільш критичних етичних ризиків. Нарешті, «чи можу я пояснити це рішення людині, яка постраждала найбільше?» Відповідай на питання чесно.
контрольний список
- [ ] Я визначив усіх постраждалих сторін.
- [ ] Я перевірив стартап за допомогою семи принципів відповідального ШІ.
- [ ] Я запланував тест на упередженість/справедливість.
- [ ] Я розробив заяву про прозорість.
- [ ] Я не залишив можливості для людського нагляду та оскарження.
- [ ] Я думав про сценарії насильства.
- [ ] «Чи можу я пояснити це тому, хто постраждав найбільше?» Я пройшов тест.