Прибуток:
- Перелічіть основні принципи відповідального використання ШІ
- Може пояснити, чому людський контроль є необхідним
- Може створити контрольний список відповідального використання для своєї власної роботи
У цьому модулі ми дізналися, що таке ШІ, як він працює, його сильні та слабкі сторони, ризики та робочий процес. У цьому підрозділі ми об’єднуємо все це в практичну структуру під заголовком відповідального використання. AI є потужним інструментом; Але його сила стає ризиком, коли вона не збалансована з відповідальністю особи, яка її використовує. «Відповідальне використання» може звучати як абстрактний етичний принцип; Однак він складається з цілком конкретних щоденних звичок. У цьому розділі ми об’єднаємо ці звички в просту та помітну структуру.
П'ять основних принципів відповідального використання
1. Останнє слово за людьми
Це найосновніший принцип. AI виробляє рекомендацію; Люди несуть рішення і відповідальність. Особливо щодо таких важливих питань, як гроші, здоров’я, закон, працевлаштування та репутація, результати штучного інтелекту ніколи не повинні впроваджуватися без нагляду. «Машина сказала мені» ніколи не є вагомим виправданням.
2. Перевірте, потім довірте
Пригадайте блок галюцинацій. Не використовуйте згенеровані штучним інтелектом факти, які можна перевірити (номер, дата, назва, джерело), не підтвердивши їх незалежно. Вільна та впевнена мова не є доказом точності.
3. Захист конфіденційності
Застосовуйте принцип у підрозділі конфіденційності даних: не пишіть особисті дані, комерційну таємницю та конфіденційну інформацію в публічних ЗМІ; анонімізувати, де це необхідно, і дотримуватися політики вашої компанії.
4. Дотримуйтесь справедливості
Пам’ятайте про упередженість: переконайтеся, що результати не виключають несправедливо певні групи та не містять стереотипів; Спостерігайте за різноманітними поглядами на важливі рішення.
5. Будьте прозорими
Не вводьте в оману, що ви використовуєте штучний інтелект. Відповідна заява про те, що ключовий результат був підготовлений за допомогою штучного інтелекту на основі бізнес-контексту та корпоративної політики, зміцнює довіру.
Примітка. Ці п’ять принципів доповнюють один одного. Недостатньо реалізувати лише один; Наприклад, якщо ви звертаєте увагу на конфіденційність і пропускаєте перевірку, ви все ще ризикуєте.
Чому контроль людини необхідний?
AI не може брати на себе відповідальність; Коли він робить помилку, не він платить ціну, а особа та установа, які його використовують. Крім того, штучний інтелект не може бачити повний контекст (корпоративну політику, відносини, галузеву чутливість, конкретну ситуацію на даний момент). контроль людини; Він одночасно визначає орган, який нестиме юридичну відповідальність, і є фільтром, який вловлює сліпі плями моделі (галюцинації, упередженість, некоректність). Чим ближче аудит наближається до рішення, яке має значний вплив, тим суворішим він має бути.
Рівень аудиту відповідно до ризику
Тип завдання
приклад
Обов'язковий огляд
низький вплив
Проект внутрішньої записки, мозковий штурм
Легкий огляд
середній ефект
Вихідна електронна пошта, підсумок звіту
Уважне читання + перевірка фактів
високий вплив
Юридичне/фінансове/здоров’я/рішення щодо працевлаштування
Експертна перевірка + письмове підтвердження
Слабкий підхід / Сильний підхід
Слабкий підхід: реалізуйте рішення, що має велике значення (наприклад, оцінку працівника), на основі результатів штучного інтелекту без перевірки.
Результат: галюцинація або упередження безпосередньо впливають на рішення, яке впливає на життя людини.
Сильний підхід: використовуйте ШІ лише для підтримки/чернетки; Обґрунтуйте рішення самостійно відповідними доказами, проконсультуйтеся з відповідним експертом і дайте остаточне схвалення в письмовій формі.
Результат: Ви виграєте від швидкості, але відповідальність і справедливість зберігаються.
Три міні-чохли
Випадок 1 — Контрольний список виявив помилку. Починаючи з ШІ, одна команда надрукувала п’ять принципів на картці та розклала їх на столах. Співробітник натрапив на запитання «конфіденційність» у пропозиції, яку потрібно надіслати, і помітив, що воно містить ім’я клієнта та анонімізує його. Простий список запобіг можливим порушенням.
Випадок 2 — «Так сказала машина» не спрацювало. Інший співробітник застосував невірну нормативну інформацію, надану штучним інтелектом, не перевіривши її, і коли виникла проблема, він захищався, кажучи: «Це те, що сказав ШІ». Це виправдання не було прийнято; тому що він був тим, хто використовував і впроваджував інструмент. Відповідальність лежить на користувачеві.
Випадок 3 — Гнучкий контроль відповідно до ризику. Коли менеджер швидко використовує внутрішні результати мозкового штурму; Потрібне схвалення експерта + письмове обґрунтування для таких важливих рішень, як наймання та продуктивність. Таким чином, це прискорило як роботу з низьким рівнем ризику, так і підвищило безпеку критичних рішень.
Шаблони, які можна копіювати
Перш ніж використовувати цей результат, поставте мені п’ять запитань щодо відповідального використання та попросіть мене позначити «добре/незавершено» для кожного: 1) Чи проводився людський аудит? 2) Чи були факти перевірені? 3) Чи було дотримано конфіденційність? 4) Чи це справедливо та інклюзивно? 5) Чи готовий я відповідати за результат?
Оцініть рівень впливу (низький/середній/високий) цього завдання та відповідно запропонуйте перелік кроків аудиту. Завдання: [написати завдання]
У вихідних даних нижче перелічіть ризиковані моменти (правда, конфіденційність, чесність, відданість), які особа обов’язково повинна перевірити, у порядку важливості. Результат: [вставити сюди]
Підготуйте мені короткий персональний «кодекс відповідального використання ШІ» для моєї ролі; Зробіть предмети орієнтованими на дії та легкими для запам’ятовування. Моя роль: [напишіть свою роль]
Практичний контрольний список
контроль
Питання
Аудит
Чи переглянув я цей результат як людина?
точність
Чи підтвердив я факти (номер, прізвище, дата) у ньому?
Конфіденційність
Чи записав я в інструмент конфіденційні чи особисті дані?
справедливість
Чи результат справедливий і всеосяжний?
прозорість
Чи використання штучного інтелекту зазначено належним чином і чи не вводить в оману?
Відповідальність
Чи готовий я нести відповідальність за наслідки цього результату?
Відповідь на останнє запитання завжди має бути «так»; Тому що поки ви використовуєте інструмент, результат залишається за вами.
Поширені помилки
Поширені помилки
- Реалізація сильного рішення без нагляду. Схвалення експерта та письмовий нагляд є важливими у сфері грошей, здоров’я, права та працевлаштування.
- Це означає «Машина сказала це». Відповідальність несе не засіб, а особа, яка ним користується.
- Вибіркове застосування політики. П'ять принципів є цілим; Якщо одного немає, ризик залишається.
- Завжди виконуйте перевірку з однаковою ретельністю. Контроль масштабу відповідно до ризику; швидкість при низькому ризику, прискіпливість при високому ризику.
Відповідальність приносить свободу
Правила відповідального користування можуть здатися обмежувальними, але вони роблять прямо протилежне: якщо у вас виробляться ці звички безпеки, ви зможете використовувати ШІ набагато комфортніше та сміливіше. Тому що навіть якщо є помилка, ви знаєте, що у вас є фільтр, щоб її вловити. Правила створені не для того, щоб уповільнювати швидкість, а для того, щоб безпечно пришвидшувати швидкість.
Підсумовуючи
- П’ять принципів відповідального використання: останнє слово за людьми, перевірте, а потім довірте, захищайте конфіденційність, прагнете до справедливості, будьте прозорими.
- Ці принципи доповнюють один одного; Якщо одного немає, ризик продовжується.
- Людський нагляд є незамінним, оскільки штучний інтелект не може взяти на себе відповідальність і побачити весь контекст.
- Масштабуйте аудит відповідно до ризику: легкий у випадку малого впливу, схвалення експерта та письмове обґрунтування у випадку сильного впливу.
- Оскільки ви використовуєте інструмент, ви також відповідаєте за результат; «Мені сказала машина» — не виправдання.
Аплікаційне завдання
Створіть короткий персональний «код відповідального використання штучного інтелекту» для своєї ролі, використовуючи наведений вище шаблон (максимум 6 елементів). Запишіть це на видному місці та відпрацьовуйте запитання в таблиці «контрольного списку практичних занять» одне за одним на наступному важливому результату ШІ.
Контрольний список
- [ ] Я можу назвати п’ять принципів відповідального використання.
- [ ] Я можу пояснити, чому людський контроль є необхідним.
- [ ] Я можу налаштувати рівень контролю відповідно до ризику завдання.
- [ ] Я створив контрольний список відповідального використання для своєї ролі.
- [ ] Я зрозумів, що «машина сказала мені» — це не виправдання.