Прибуток:
- Здатність створювати компоненти системи управління штучним інтелектом, яка збалансує швидкість, безпеку та послідовність
- Можливість розробити багатофункціональну плату штучного інтелекту та прості застосовні основні політики (прийнятне використання, дані, ризик)
- Можливість розподіляти затвердження відповідно до рівня ризику та підтримувати управління на місцях за допомогою інвентаризації системи та регулярного аудиту
Стратегія, варіант використання, ROI та ризик; Вони всі сильні, але поодинці вони безладні. Те, що їх об’єднує, робить їх повторюваними та надає впевненості установі, – це управління (управління; структура, яка визначає, хто прийматиме рішення, за якими правилами та за допомогою якого контролю). Управління — це постійна відповідь на запитання «Як ми відповідально використовуємо ШІ на цьому підприємстві?» У цьому розділі ви дізнаєтесь, як налагодити управління штучним інтелектом, письмову політику та структуру правління для прийняття рішень. Метою є не створення бюрократії; Для забезпечення безпечної та повторюваної роботи без уповільнення швидкості.
Чому врядування є важливим?
В організації без управління кожна команда створює власні правила: одна вставляє дані клієнтів у загальнодоступний інструмент, інша запускає несертифіковану модель у виробництво, інша взагалі не проводить оцінку ризиків. Коли виникають проблеми, «хто схвалив?» Відповіді на запитання немає. Управління заповнює цю прогалину: хто вирішує, які правила застосовуються, хто контролює та хто несе відповідальність, коли виникають проблеми.
Належне врядування врівноважує три речі: швидкість (не стримування ініціативи), безпеку (контроль ризику) і послідовність (усі грають за однаковими правилами). Надмірна керованість вбиває швидкість; Неповне управління вбиває довіру. Баланс - це мистецтво.
Порада. Налаштовуючи керування, створюйте рівні на основі рівня ризику, від «найповільнішого, найбезпечнішого шляху» до «найшвидшого, найризикованішого шляху». Робота з низьким рівнем ризику повинна проходити швидко; Лише робота з підвищеним ризиком повинна пройти суворий дозвіл. Застосування того самого обтяжливого процесу до всіх робить уряд оголошуваним ворогом.
Складові управління
компонент
Що це робить?
приклад
дошка штучного інтелекту
Стратегічне рішення, пріоритет, затвердження
Щомісячна зустріч, затвердження високого ризику
Політика/набір принципів
писані правила
Прийнятне використання, дані, постачальник
Ролі та право власності
Хто за що відповідає
Власник бізнесу для будь-якої сфери використання
Ризик і процес затвердження
Як почати
Рівень затвердження на основі рівня ризику
Моніторинг і аудит
Постійний контроль
Моніторинг дрейфу, періодичний огляд
Реєстрація/інвентаризація
Що працює де
Інвентаризація системи штучного інтелекту
Рада зі штучного інтелекту (рада / керівний комітет) – це орган, до складу якого входять представники високого рівня з різних функцій (бізнес, технології, право, ризики, дані), які визначають стратегічне керівництво та схвалюють ініціативи з високим ризиком. Рада не керує проектами; встановлює рамки та приймає важливі рішення.
Основні політики
Кожній організації потрібні принаймні ці політики:
- Політика прийнятного використання: які інструменти ШІ можуть використовувати співробітники, з якими даними та для чого? (Приклад: «Не вводьте особисті дані клієнта в несанкціонований зовнішній інструмент.»)
- Дані та політика конфіденційності: які дані, де та як обробляються? Як забезпечити відповідність КВКК?
- Політика ризиків і схвалення: які оцінки проходить стартап перед тим, як розпочати виробництво?
- Політика щодо постачальників/закупівель: за якими критеріями обираються зовнішні постачальники штучного інтелекту? (Блок 11)
- Політика прозорості: коли клієнт/працівник сповіщається про використання ШІ?
Крок за кроком: встановлення управління
1. Створіть дошку. Представник відділу бізнесу, технологій, права, ризиків і даних; чіткий авторитет і ритм зустрічей.
2. Напишіть основні політики. Напишіть наведені вище п’ять політик просто та застосовно; Це не роман, це правило.
3. Встановіть потік затвердження на основі ризиків. Швидке схвалення з низьким ризиком, високим ризиком.
4. Вести інвентар. Яка система штучного інтелекту де знаходиться, хто відповідальний, на якому рівні ризику.
5. Інституціоналізувати моніторинг і контроль. Періодичний огляд, дрейф і контроль відповідності.
три міні-чохла
Випадок 1 — витік без політики. В одній юридичній фірмі юристи мали конфіденційні документи справи, узагальнені загальнодоступним інструментом штучного інтелекту. Це вважалося нормальним, оскільки не було прийнятної політики використання. Коли клієнт дізнався про це, виникла криза довіри. Фірма швидко написала політику, надала корпоративний (захист даних) інструмент і забезпечила навчання. Якби політика була з самого початку, кризи б не було.
Кейс 2 — Баланс дошки. Один виробник створив плату зі штучним інтелектом виключно завдяки своїй технологічній команді. Рада видала схвалення, які були технічно блискучими, але мали юридичну та етичну сліпоту. Коли до правління було додано представника з юридичних питань і ризиків, було виявлено серйозну проблему відповідності ще до того, як підприємство з високим ризиком могло почати виробництво. Баченням правління було різноманітність.
Випадок 3 — стримування імпульсу управління. В одному банку кожна ідея ШІ, навіть ідея з низьким рівнем ризику, проходила ретельний 6-тижневий процес затвердження. Команди почали ухилятися від процесу та використовувати «тіньову» техніку. Банк стратифікував погодження за рівнем ризику: роботи з низьким ризиком за 3 дні, з високим ризиком через повний процес. І швидкість, і контроль повернулися; Зменшилося використання тіні.
Чотири шаблони, які можна копіювати
1) Проект створення ради:
Ваша роль: радник з управління ШІ. Запропонуйте нам проект правління зі штучного інтелекту: скільки членів з яких функцій, повноваження правління, частота засідань, які рішення затверджує, які залишає командам. Уникайте надмірної бюрократії; Запропонуйте баланс, який дозволить підтримувати швидкість.
2) Проект політики прийнятного використання:
[Промисловість] розробити просту, здійснену «політику прийнятного використання ШІ» для організації: які інструменти можна використовувати, з якими даними, для чого; що категорично заборонено; Що відбувається в разі порушення? Пишіть по пунктах, зрозумілою мовою.
3) Потік затвердження на основі ризику:
Розробіть для нас багатошаровий потік затвердження AI на основі рівня ризику: які кроки, чиє схвалення, як довго, окремо для низького/середнього/високого ризику. Переконайтеся, що робота з низьким ризиком протікає швидко, а робота з високим ризиком проходила сувору перевірку.
4) Шаблон інвентаризації AI:
Розробіть шаблон інвентаризації для запису систем ШІ в організації: назва системи, передбачуване використання, власник підприємства, рівень ризику, використані дані, постачальник, дата останнього аудиту. Коротко поясніть, чому потрібне кожне поле.
Слабка підказка / Сильна підказка
Слабкий: «Напишіть нам політику AI».
Результат: загальний текст, який не відповідає закладу та є надто абстрактним для застосування.
Гючлю: «Ми — компанія, що спеціалізується на медичних технологіях, нараховує 200 осіб, ми працюємо з даними пацієнтів і підлягаємо KVKK. Розробіть просту політику прийнятного використання про те, як співробітники можуть використовувати інструменти штучного інтелекту: правило даних пацієнтів, затверджені інструменти, заборони та наслідки порушення. Напишіть це пункт за пунктом і зрозумілою мовою; припустімо, що наша юридична команда його перевірить».
Результат: прийнятний проект, який відповідає установі, сектору та законодавству.
Поширені помилки
- Не встановлюючи управління взагалі. Сказати «побачимо пізніше» означає мовчазне накопичення ризику.
- Надмірна бюрократія. Суворе схвалення кожної роботи штовхає команди на тіньове використання.
- Однофункціональна плата. Сама по собі технологія чи правління лише з юридичним представництвом створюють сліпі плями; різноманітність обов'язкова.
- Не написання політики і виведення її на поле. Політика, що лежить на полиці, не забезпечує захисту; Це має бути підкріплено навчанням та інструментами.
- Не ведення інвентарю. Установа, яка не знає, над чим вона працює, не може знати, що перевіряти.
Застереження: штучний інтелект може створити проект політики або правління; Але ці проекти не слід вводити в дію без їх адаптації до реальності, сектору та законодавства установи та перевірки юридичних функцій та відділів ризиків. Політика, створена штучним інтелектом, є планом відповідального корпоративного рішення, а не сама по собі.
Підсумовуючи
Управління є основою, яка робить стратегію штучного інтелекту постійною, повторюваною та надійною; балансує швидкість, безпека та послідовність. Його ключовими компонентами є багатофункціональна панель штучного інтелекту, прості та дієві політики, чіткі ролі, потік затвердження на основі оцінки ризиків, постійний моніторинг та інвентаризація системи. Надмірна швидкість бюрократії та неповне управління вбивають довіру; Баланс зводиться до розподілу за рівнем ризику. Політика має жити в полі з навчанням та інструментами, а не на полиці. У наступному розділі ми розглянемо принципи етичного та відповідального ШІ, які є моральною основою управління.
Аплікаційне завдання
Створіть проект правління ШІ для вашої організації: хто з яких функцій, з якими повноваженнями, у якому ритмі. Потім створіть проект політики прийнятного використання за допомогою шаблону 2 і вручну адаптуйте принаймні три пункти відповідно до фактичних даних/нормативних умов вашої установи. Нарешті, одним реченням опишіть три рівні (низький/середній/високий) потоку затвердження на основі ризику.
контрольний список
- [ ] Я розробив багатофункціональну структуру плати.
- [ ] Я розробив принаймні одну основну політику.
- [ ] Я адаптував політику до законодавства організації та реальних даних.
- [ ] Я визначив багаторівневий потік затвердження на основі ризиків.
- [ ] Я налаштував шаблон інвентаризації системи ШІ.
- [ ] Я спланував ритм моніторингу та контролю.
- [ ] Я думав про те, як отримати політику в полі (навчання/інструмент).