Добици:
- Способност успостављања компоненти оквира управљања вештачком интелигенцијом који балансира брзину, безбедност и доследност
- Способност дизајнирања мултифункционалне АИ плоче и једноставних, применљивих основних смерница (прихватљива употреба, подаци, ризик)
- Способност да се одобравање слојева у складу са нивоом ризика и одржавање управљања на терену са инвентаром система и редовном ревизијом
Стратегија, случај употребе, РОИ и ризик; Сви су јаки, али сами су неуредни. Оно што их држи на окупу, чини поновљивим и даје поверење институцији јесте управљање (управљање; оквир који одређује ко ће доносити одлуке, по којим правилима и са којом контролом). Управљање је трајни одговор на питање „како да одговорно радимо АИ у овом предузећу?“ У овој јединици ћете научити како да успоставите АИ управљање, писане политике и структуру одбора за доношење одлука. Циљ није стварање бирократије; Да би се обезбедио сигуран и поновљив рад без успоравања брзине.
Зашто је управљање кључно?
У организацији без управљања, сваки тим прави своја сопствена правила: један лепи податке о клијентима у јавни алат, други ставља несертификовани модел у производњу, један уопште не процењује ризик. Када се појаве проблеми, "ко је то одобрио?" Одговора на питање нема. Управљање попуњава ову празнину: ко одлучује, која правила се примењују, ко надгледа и ко се сматра одговорним када се појаве проблеми.
Добро управљање балансира три ствари: брзину (не гуши иницијативу), сигурност (контролисање ризика) и доследност (сви играју по истим правилима). Претерано управљање убија брзину; Непотпуно управљање убија поверење. Равнотежа је уметност.
Савет: Када постављате управљање, креирајте слојеве на основу нивоа ризика, од „најспорије, најбезбедније путање“ до „најбржег, најризичнијег пута“. Рад са ниским ризиком треба да тече брзо; Строго одобрење треба да прође само рад високог ризика. Примена истог оптерећујућег процеса на све чини власт проглашеном непријатељем.
Компоненте управљања
компонента
шта то ради?
пример
одбор за вештачку интелигенцију
Стратешка одлука, приоритет, одобрење
Месечни састанак, одобрење високог ризика
Скуп политика/принципа
писаним правилима
Прихватљива употреба, подаци, добављач
Улоге и власништво
Ко је за шта одговоран
Власник предузећа за сваку област употребе
Ризик и процес одобравања
Како започети
Ниво одобрења на основу нивоа ризика
Мониторинг и ревизија
Континуирана контрола
Праћење заношења, периодични преглед
Регистрација/инвентар
Шта где ради
Инвентар система вештачке интелигенције
Одбор за вештачку интелигенцију (савет за вештачку интелигенцију/управни одбор) је тело састављено од представника на високом нивоу из различитих функција (бизнис, технологија, закон, ризик, подаци), који даје стратешко усмерење и одобрава иницијативе високог ризика. Одбор не управља пројектима; поставља оквир и доноси критичне одлуке.
Основне политике
Свакој организацији су потребне барем ове смернице:
- Политика прихватљиве употребе: Које алате вештачке интелигенције запослени могу да користе, са којим подацима и за шта? (На пример: „Не уносите личне податке корисника у неовлашћени спољни алат.“)
- Подаци и политика приватности: Који подаци, где и како се обрађују? Како осигурати усаглашеност са КВКК?
- Политика ризика и одобравања: кроз које евалуације пролази стартуп пре него што крене у производњу?
- Политика добављача/набавке: По којим критеријумима се бирају екстерни добављачи вештачке интелигенције? (Јединица 11)
- Политика транспарентности: Када је клијент/запослени обавештен да се користи вештачка интелигенција?
Корак по корак: успостављање управе
1. Креирајте таблу. Представник из области пословања, технологије, права, ризика и података; јасан ауторитет и ритам састанка.
2. Напишите основне политике. Напишите горњих пет смерница једноставно и применљиво; То није роман, то је правило.
3. Успоставите ток одобравања заснован на ризику. Низак ризик брзо, висок ризик тешко одобрење.
4. Чувајте инвентар. Који систем вештачке интелигенције је где, ко је одговоран, на ком нивоу ризика.
5. Институционализовати праћење и контролу. Периодични преглед, померање и контрола усклађености.
три мини кофера
Случај 1 — Цурење без политике. У једној адвокатској фирми, адвокати су имали поверљиве документе предмета сажете јавно доступним алатом вештачке интелигенције. Сматрало се да је ово нормално јер није постојала политика прихватљивог коришћења. Када је клијент сазнао за ово, дошло је до кризе поверења. Фирма је одмах написала политику, обезбедила алатку за предузећа (доказ података) и обезбедила обуку. Да је политика била од почетка, до кризе не би дошло.
Случај 2 — Равнотежа плоче. Један произвођач је направио своју АИ плочу искључиво од свог технолошког тима. Одбор је дао одобрења која су била технички бриљантна, али су имала правно и етичко слепило. Када је у одбор додат правни представник и представник ризика, откривен је озбиљан проблем усклађености пре него што је високоризични подухват могао да крене у производњу. Разноликост је била визија одбора.
Случај 3 — Управљање гуши замах. У једној банци, свака идеја вештачке интелигенције, чак и она са ниским ризиком, прошла је кроз ригорозни 6-недељни процес одобравања. Тимови су почели да избегавају процес и користе возила из сенке. Банка је стратификовала одобрење према нивоу ризика: послови са ниским ризиком за 3 дана, они са високим ризиком кроз цео процес. Вратили су се и брзина и контрола; Употреба сенке је смањена.
Четири шаблона за копирање
1) Нацрт оснивања одбора:
Ваша улога: саветник за управљање вештачком интелигенцијом. Предложите нам нацрт одбора за вештачку интелигенцију: колико чланова са којих функција, овлашћења одбора, учесталост састанака, које одлуке одобрава, које препушта тимовима. Избегавајте претерану бирократију; Предложите равнотежу која ће одржати брзину.
2) Нацрт политике прихватљивог коришћења:
[Индустрија] израдити једноставну, применљиву „политику прихватљиве употребе АИ” за организацију: који алати се могу користити, са којим подацима, за шта; шта је строго забрањено; Шта се дешава у случају кршења? Пишите ставку по ставку, на разумљивом језику.
3) Ток одобрења заснован на ризику:
Дизајнирајте нам слојевити ток одобрења АИ заснован на нивоу ризика: који кораци, чије одобрење, колико дуго, одвојено за низак/средњи/високи ризик. Уверите се да посао са малим ризиком тече брзо и да високоризични посао прође кроз строгу инспекцију.
4) АИ шаблон инвентара:
Дизајнирајте шаблон инвентара за снимање АИ система у организацији: назив система, намеравана употреба, власник предузећа, ниво ризика, коришћени подаци, добављач, датум последње ревизије. Укратко објасните зашто је свако поље неопходно.
Слаби промпт / Јаки промпт
Слаб: „Напишите нам политику вештачке интелигенције.“
Резултат: Текст који је општи, не уклапа се у институцију и превише је апстрактан да би се могао применити.
Гуцлу: „Ми смо компанија за здравствену технологију са 200 људи, радимо са подацима о пацијентима и подложни смо КВКК-у. Нацртајте једноставну, применљиву политику прихватљивог коришћења о томе како запослени могу да користе алате вештачке интелигенције: правило о подацима о пацијентима, одобрени алати, забране и последице кршења. Напишите то клаузулу по клаузулу и јасним језиком; претпоставите да ће наш правни тим прегледати.
Резултат: Применљив нацрт који одговара институцији, сектору и законодавству.
Уобичајене грешке
- Уопште не успостављање власти. Рећи "видећемо касније" значи тихо гомилање ризика.
- Претерана бирократија. Примена великог одобрења на сваки посао гура тимове у употребу у сенци.
- Плоча са једном функцијом. Сама технологија или одбор са само правним заступништвом ствара слепе тачке; разноликост је неопходна.
- Не писање политике и стављање на терен. Политика која се налази на полици не пружа заштиту; Требало би да буде подржано обуком и алатима.
- Не вођење инвентара. Институција која не зна на чему ради не може знати шта да ревидира.
Опрез: АИ може израдити нацрт политике или одбора; Али ови нацрти не би требало да буду стављени на снагу без прилагођавања реалности, сектора и законодавства институције и прегледани од стране правних и ризичних функција. Политика коју производи АИ је нацрт за одговорну корпоративну одлуку, а не она сама.
Укратко
Управљање је оквир који стратегију вештачке интелигенције чини трајном, поновљивом и поузданом; балансира брзину, сигурност и доследност. Његове кључне компоненте су мултифункционална АИ табла, једноставне политике које се могу применити, јасне улоге, ток одобрења заснован на ризику, континуирано праћење и инвентар система. Претерана брзина бирократије и непотпуно управљање убија поверење; Равнотежа се своди на слојевитост према нивоу ризика. Политике треба да живе на терену са обуком и алатима, а не на полици. У следећој целини ћемо обрадити принципе етичке и одговорне вештачке интелигенције, који су морална основа управљања.
Задатак апликације
Нацртајте АИ таблу за своју организацију: ко из којих функционише, са којим овлашћењем, у ком ритму. Затим израдите нацрт политике прихватљивог коришћења са шаблоном 2 и ручно прилагодите најмање три клаузуле у складу са стварним подацима/регулаторним условима ваше институције. На крају, у једној реченици опишите три нивоа (низак/средњи/висок) тока одобравања заснованог на ризику.
контролна листа
- [ ] Дизајнирао сам мултифункционалну структуру плоче.
- [ ] Направио сам нацрт најмање једне основне политике.
- [ ] Прилагодио сам политику законодавству организације и стварности података.
- [ ] Дефинисао сам ток одобравања заснован на ризику.
- [ ] Поставио сам шаблон инвентара АИ система.
- [ ] Планирао сам ритам праћења и контроле.
- [ ] Размишљао сам о томе како да уведем политике на терен (обука/алат).