Печалби:
- Възможност за създаване на компоненти на рамка за управление на AI, която балансира скорост, сигурност и последователност
- Възможност за проектиране на многофункционална AI платка и прости, приложими основни политики (приемлива употреба, данни, риск)
- Възможност за наслояване на одобрение според нивото на риск и поддържане на управление в полето със системна инвентаризация и редовен одит
Стратегия, случай на употреба, ROI и риск; Всички са силни, но сами са разхвърляни. Това, което ги държи заедно, прави ги повторими и дава увереност на институцията, е управлението (управление; рамката, която определя кой ще взема решения, с какви правила и с какъв контрол). Управлението е постоянният отговор на въпроса „как да правим AI отговорно в това предприятие?“ В този модул ще научите как да установите управление на ИИ, писмени политики и структура на борда за вземане на решения. Целта не е да се създава бюрокрация; За да се осигури безопасна и повторяема работа без забавяне на скоростта.
Защо управлението е от съществено значение?
В организация без управление всеки екип създава свои собствени правила: един поставя клиентски данни в публичен инструмент, друг пуска несертифициран модел в производство, един изобщо не прави оценка на риска. Когато възникнат проблеми, "кой го одобри?" Няма отговор на въпроса. Управлението запълва тази празнина: кой решава, какви правила се прилагат, кой наблюдава и кой носи отговорност, когато възникнат проблеми.
Доброто управление балансира три неща: бързина (не задушаване на инициативата), сигурност (контролиране на риска) и последователност (всички играят по едни и същи правила). Прекомерното управление убива скоростта; Непълното управление убива доверието. Балансът е изкуство.
Съвет: Когато настройвате управление, създайте слоеве въз основа на нивото на риск, от „най-бавния, най-безопасен път“ до „най-бързия, най-рисков път“. Работата с нисък риск трябва да протича бързо; Само работата с висок риск трябва да бъде подложена на строго одобрение. Прилагането на един и същи тежък процес за всички прави управлението обявено за враг.
Компоненти на управлението
компонент
Какво прави?
пример
платка с изкуствен интелект
Стратегическо решение, приоритет, одобрение
Месечна среща, одобрение с висок риск
Набор от политики/принципи
писани правила
Допустима употреба, данни, доставчик
Роли и собственост
Кой за какво носи отговорност
Собственик на бизнес за всяка сфера на употреба
Риск и процес на одобрение
Как да започнете
Ниво на одобрение въз основа на нивото на риск
Мониторинг и одит
Непрекъснат контрол
Следене на дрейфа, периодична проверка
Регистрация/инвентаризация
Какво работи къде
Инвентаризация на системата с изкуствен интелект
Бордът за изкуствен интелект (съветът/управителният комитет на AI) е органът, съставен от представители на високо ниво от различни функции (бизнес, технологии, право, риск, данни), които дават стратегическа насока и одобряват високорискови инициативи. Бордът не управлява проекти; определя рамката и взема критични решения.
Основни политики
Всяка организация се нуждае поне от тези политики:
- Политика за приемлива употреба: Кои инструменти за изкуствен интелект могат да използват служителите, с какви данни и за какво? (Напр.: „Не въвеждайте лични данни на клиента в неоторизиран външен инструмент.“)
- Данни и политика за поверителност: Кои данни, къде и как се обработват? Как да осигурим съответствие с KVKK?
- Политика за риск и одобрение: През какви оценки преминава един стартиращ бизнес, преди да започне производство?
- Политика за доставчик/закупуване: По какви критерии се избират външни доставчици на AI? (Единица 11)
- Политика за прозрачност: Кога клиентът/служителят се уведомява, че се използва AI?
Стъпка по стъпка: установяване на управление
1. Създайте дъската. Представител по бизнес, технологии, правни въпроси, риск и данни; ясен авторитет и ритъм на срещата.
2. Напишете основни политики. Напишете горните пет политики просто и приложимо; Това не е роман, това е правило.
3. Установете поток на одобрение, базиран на риска. Нисък риск, бързо, висок риск, тежко одобрение.
4. Поддържайте инвентара. Коя система с изкуствен интелект къде е, кой е отговорен, на какво ниво на риск.
5. Институционализиране на мониторинга и контрола. Периодичен преглед, дрейф и контрол на съответствието.
три мини калъфа
Случай 1 — Теч без политика. В една адвокатска кантора адвокатите разполагаха с поверителни документи по делото, обобщени от публично достъпен инструмент за изкуствен интелект. Това се смяташе за нормално, тъй като нямаше приемлива политика за използване. Когато клиент разбра за това, имаше криза на доверието. Фирмата незабавно написа политика, предостави корпоративен (защитен от данни) инструмент и осигури обучение. Ако политиката беше отначало, нямаше да има криза.
Случай 2 — Баланс на дъската. Един производител изгради своя AI платка единствено от своя технологичен екип. Бордът даде одобрения, които бяха технически брилянтни, но имаха правна и етична слепота. Когато правен и рисков представител беше добавен към борда, беше открит сериозен проблем със съответствието, преди едно високорисково начинание да може да започне производство. Разнообразието беше визията на борда.
Случай 3 — Управлението задушава инерцията. В една банка всяка идея за изкуствен интелект, дори и такава с нисък риск, премина през строг 6-седмичен процес на одобрение. Екипите започнаха да избягват процеса и да използват "сенчести" превозни средства. Банката стратифицира одобрението по ниво на риск: работни места с нисък риск за 3 дни, такива с висок риск през целия процес. И скоростта, и контролът се върнаха; Използването на сенки намаля.
Четири копируеми шаблона
1) Проект за създаване на съвет:
Вашата роля: съветник по управление на AI. Предложете ни проект на борд за изкуствен интелект: колко членове от кои функции, правомощията на борда, честота на заседанията, кои решения одобрява, кои оставя на екипите. Избягвайте прекомерната бюрокрация; Предложете баланс, който ще поддържа скоростта.
2) Проект на политика за приемлива употреба:
[Индустрия] проект на проста, изпълнима „политика за приемливо използване на AI“ за организация: какви инструменти могат да се използват, с какви данни, за какво; какво е строго забранено; Какво се случва в случай на нарушение? Пишете елемент по елемент, на разбираем език.
3) Поток на одобрение въз основа на риска:
Създайте ни многослоен поток за одобрение на AI въз основа на нивото на риск: какви стъпки, чие одобрение, колко време, отделно за нисък/среден/висок риск. Уверете се, че работата с нисък риск протича бързо, а работата с висок риск преминава през строг контрол.
4) Шаблон за опис на AI:
Проектирайте шаблон за инвентаризация, за да записвате AI системи в организацията: име на системата, предназначение, собственик на бизнес, ниво на риск, използвани данни, доставчик, дата на последен одит. Обяснете накратко защо всяко поле е необходимо.
Слаба подкана / Силна подкана
Слаб: „Напишете ни политика за AI.“
Резултат: Текст, който е общ, не отговаря на институцията и е твърде абстрактен, за да бъде приложен.
Güçlü: „Ние сме компания за здравни технологии с 200 души, работим с данни на пациенти и сме обект на KVKK. Изгответе проста, изпълнима политика за приемливо използване за това как служителите могат да използват инструменти за изкуствен интелект: правило за данни на пациенти, одобрени инструменти, забрани и последствия от нарушение. Напишете го клауза по клауза и на ясен език; приемете, че нашият правен екип ще я прегледа.“
Резултат: Приложим проект, който отговаря на институцията, сектора и законодателството.
Често срещани грешки
- Изобщо не установяване на управление. Казването „ще видим по-късно“ означава тихо натрупване на риск.
- Прекомерна бюрокрация. Прилагането на голямо одобрение за всяка работа тласка екипите към използване в сянка.
- Еднофункционална платка. Технологията сама по себе си или борд с юридическо представителство създават слепи петна; разнообразието е задължително.
- Не написването на политиката и пускането й на терена. Политиката, която стои на рафта, не осигурява защита; То трябва да бъде подкрепено с обучение и инструменти.
- Не поддържа инвентар. Институция, която не знае какво работи, не може да знае какво да одитира.
Внимание: AI може да изготви политика или чернова на борда; Но тези проекти не трябва да се прилагат, без да бъдат адаптирани към реалността, сектора и законодателството на институцията и прегледани от правните функции и функциите за управление на риска. Политика, създадена от AI, е план за отговорно корпоративно решение, а не сама по себе си.
В обобщение
Управлението е рамката, която прави стратегията за AI постоянна, повторяема и надеждна; балансира скорост, сигурност и последователност. Неговите ключови компоненти са многофункционална платка с изкуствен интелект, лесни и действащи политики, ясни роли, базиран на риска поток на одобрение, непрекъснат мониторинг и инвентаризация на системата. Прекомерната скорост на бюрокрацията и непълното управление убиват доверието; Балансът се свежда до наслояване според нивото на риск. Политиките трябва да живеят на място с обучение и инструменти, а не на рафта. В следващата част ще разгледаме принципите на етичния и отговорен ИИ, които са моралната основа на управлението.
Задача за приложение
Направете проект на AI съвет за вашата организация: кой от кои функции, с какви правомощия, в какъв ритъм. След това създайте проект на политика за приемлива употреба с шаблон 2 и адаптирайте ръчно поне три клаузи според действителните данни/регулаторните условия на вашата институция. И накрая, опишете трите нива (ниско/средно/високо) на базирания на риска поток на одобрение в едно изречение.
контролен списък
- [ ] Проектирах многофункционална структура на дъска.
- [ ] Начертал съм поне една основна политика.
- [ ] Адаптирах политиката към законодателството на организацията и реалността на данните.
- [ ] Дефинирах базиран на риска многостепенен поток на одобрение.
- [ ] Настроих шаблон за инвентаризация на AI система.
- [ ] Планирах ритъма на наблюдение и контрол.
- [ ] Мислех как да вкарам политики в полето (обучение/инструмент).