Добици:
- Способност препознавања ризика специфичних за вештачку интелигенцију као што су халуцинације, пристрасност, цурење података, померање модела, зависност и необјашњивост са утицајем на пословање
- Бодовање ризика у димензијама вероватноће и утицаја и њихово држање у оквиру склоности ка ризику институције уз мере ублажавања
- Способност прилагођавања надзора према нивоу ризика, а не уједначености, обезбеђујући коначну реч људи и континуирано праћење у одлукама високог ризика
Вредност и ризик су две стране истог новчића. АИ отвара нове изворе вредности, али такође уводи нове врсте ризика које традиционални софтвер не носи. За вишег менаџера, питање није избегавање ризика, већ свесно управљање ризиком (управљање ризиком; дисциплина препознавања, мерења, смањења ризика и њиховог одржавања на прихватљивим границама). У овој јединици ћете научити о ризицима специфичним за АИ, њиховом утицају на пословање и практичним методама ублажавања. Циљ није да се то „не ради јер постоји ризик“ или „да се понаша као да нема ризика“; Сваку иницијативу треба спровести са свесним апетитом за ризиком; ниво ризика који је институција спремна да преузме.
Ризици специфични за АИ
Традиционални ИТ ризици (рањивост, прекид рада) и даље важе; Али вештачка интелигенција додаје своје ризике:
Врста ризика
Како то мислиш?
Пример утицаја на пословање
халуцинације
Било је измишљено, али испало је уверљиво
Нетачне информације купцу, правна одговорност
предрасуда
Одраз неправде у подацима о излазу
Дискриминаторна одлука о запошљавању/кредиту
цурење података
Поверљиви подаци цуре у возило
Кршење КВКК, губитак угледа
Модел дрифт
Деградација перформанси током времена
Тихо поништавање одлука
зависност
Закључани у једном добављачу
Шок цена/приступ
необјашњивост
Не знајући разлог одлуке
Ревизија и тешкоћа приговора
Овде су важна два појма: пристрасност је када вештачка интелигенција учи неправедне обрасце у подацима о обуци и одражава их у својим одлукама; На пример, ако историјски подаци о запошљавању фаворизују једну групу, модел такође даје предност. Померање модела је када модел постаје застарео и његове перформансе тихо опадају како се свет мења (нови производи, нова понашања).
Савет: Размишљајте о ризику не у смислу „може/неће се десити“, већ у две димензије: вероватноћа (колико је вероватно) и утицај (колика штета ако се догоди). Они са великим утицајем + велика вероватноћа се прво обраћају; они са ниским + ниским вредностима се прихватају и прате.
Надзор према нивоу ризика
Не носи свако подручје употребе исти ризик. Паметан приступ је да се надзор прилагоди нивоу ризика:
- Низак ризик (уметнути нацрт, размишљање): лагани надзор, приоритет брзине.
- Средњи ризик (садржај за купца, подршка одлучивању): људско одобрење, контрола узорковања.
- Висок ризик (кредит, запошљавање, здравље, правни): обавезно људско просуђивање, пуна регистрација, редовна ревизија.
Овај приступ „базиран на ризику“ је такође окосница закона ЕУ о вештачкој интелигенцији (Јединица 9).
Корак по корак: циклус управљања ризиком
1. Препознајте ризике. Наведите ризике специфичне за АИ за сваку иницијативу.
2. Вероватноћа оцене и утицај. Процените и одредите приоритет сваког ризика у две димензије.
3. Дефинисати меру ублажавања. Као што је људско одобрење, анонимизација података, праћење, диверсификација добављача.
4. Прихватите или зауставите преостали ризик. Ризик који остаје након смањења је прихваћен ако је у оквиру апетита; Ако не, покушај се зауставља.
5. Гледајте и прегледајте. Ризици нису статични; Неопходно је стално праћење заношења и нових претњи.
три мини кофера
Случај 1 — Цена халуцинације. Четбот за кориснике авио-компаније „измислио“ је непостојећу политику рефундирања за путника; Клијент је веровао у ово и извршио трансакцију. Суд је сматрао компанију одговорном за изјаву сопственог бота. Лекција: АИ излаз за купца је средњи/високи ризик; провера и ограничења су били суштински. Боту је тада било ограничено да одговара само на одобрене текстове политике.
Случај 2 — Тиха пристрасност. Модел скрининга запошљавања једне компаније систематски је фаворизовао регруте из одређених школа због неравнотеже у историјским подацима. Разлика је откривена у ревизији; Постојао је репутацијски и правни ризик. Модел је одвојен од заштићених карактеристика и повезан са редовним праћењем правде. Да је тест пристрасности урађен од почетка, ово се не би догодило.
Случај 3 — Дрифтово хватање. Модел откривања превара банке је тихо ослабљен када се појавио нови образац преваре; Стопа промашаја је порасла са 8% на 19% за 3 месеца. Добре вести: агенција је спровела месечно праћење перформанси, одступање је рано откривено, а модел је поново обучен. Без праћења, губитак би се вишеструко повећао.
Четири шаблона за копирање
1) Попис ризика:
Ваша улога: АИ менаџер ризика. Наведите ризике специфичне за вештачку интелигенцију за следећи случај употребе: халуцинације, пристрасност, цурење података, померање, зависност, необјашњивост. За сваки ризик у једној реченици напишите његову могућу манифестацију и утицај на пословање у овом сценарију. Област коришћења: [текст]
2) Бодовање вероватноће/утицаја:
Дајте приоритет следећим ризицима тако што ћете их бодовати и множити као вероватноћу (1-5) и утицај (1-5). Објасните зашто дајете приоритет три највећа ризика. Ризици: [лист]
3) План ублажавања:
Предложите практичне мере за ублажавање следећих приоритетних ризика: [ризици]. За сваку меру: шта радити, ко је одговоран, на ком нивоу ризика је обавезно. Користите људски надзор, анонимизацију података, праћење и диверсификацију добављача где је то потребно.
4) Матрица надзора заснована на ризику:
Доделите следеће области употребе нивоу ризика (низак/средњи/висок) и одредите надзор потребан за сваки ниво: да ли је потребно људско одобрење, да ли ће се водити евиденција, која је учесталост инспекција? Користи: [лист]
Слаби промпт / Јаки промпт
Слабо: „Који су ризици овог АИ пројекта?“
Закључак: Општа листа ризика; вероватноћа, утицај и без ублажавања, не можете одлучити.
Гуцлу: „Користићемо вештачку интелигенцију у прелиминарној процени захтева за кредит у банци (људ ће донети коначну одлуку). Наведите ризике специфичне за овај сценарио (пристрасност, необјашњивост, халуцинације, приватност података); оцените сваки по вероватноћи и утицају; предложите конкретне захтеве за ублажавање и надзор за три најкритичнија да се ово сматра високим ризиком. Такође наведите шта то значи за висок ризик.“
Резултат: анализа ризика специфична за сценарио, оцена, ублажавање и усклађеност.
Уобичајене грешке
- Примењујући исти надзор на све иницијативе. Успоравање рада са ниским ризиком једнако је штетно као и занемаривање рада високог ризика; Надзор треба да се заснива на нивоу ризика.
- Погрешио халуцинацију као "малу грешку". Нетачно слање до купца може довести до правне одговорности.
- Не тестира се на пристрасност. Модел који се примењује без тестирања правичности може произвести тиху дискриминацију.
- Не гледам Дрифт. Модел који добро функционише једном не функционише добро заувек; Неопходно је стално праћење.
- Закључавање једног добављача. Без плана изласка, зависност вас оставља отвореним за шок цена и приступ.
Опрез: Управљање ризиком није једном заувек; Системи вештачке интелигенције су живи системи. Само зато што је модел данас безбедан не гарантује да ће бити безбедан сутра. Континуирано праћење, редовна инспекција и јасан прекидач за заустављање треба да буду део сваког система високог ризика.
Укратко
Уз традиционалне ИТ ризике, АИ додаје јединствене ризике као што су халуцинације, пристрасност, цурење података, померање, зависност и необјашњивост. Ове ризике треба проценити и дати им приоритет у смислу вероватноће и утицаја, и треба их држати у оквиру склоности ка ризику институције уз мере ублажавања. Надзор није једнообразан, али треба да буде прилагођен нивоу ризика; У одлукама високог ризика, коначну реч треба да имају људи. Управљање ризиком је континуирани циклус; није потпуна без праћења и контроле. У следећој јединици ћемо успоставити структуру управљања и политике која ову дисциплину ризика чини трајном.
Задатак апликације
Изаберите случај употребе вештачке интелигенције и наведите његове специфичне ризике помоћу шаблона 1. Оцените сваки ризик према вероватноћи и утицају, идентификујући три најкритичнија. Напишите конкретне мере ублажавања и ниво надзора који је потребан за ова три ризика. На крају, класификујте употребу као низак/средњи/високи ризик и запазите како то мења захтеве надзора.
контролна листа
- [ ] Навео сам ризике специфичне за специфичне сценарије вештачке интелигенције.
- [ ] Сваки ризик сам оценио према вероватноћи и утицају.
- [ ] Дефинисао сам мере ублажавања за најкритичније ризике.
- [ ] Класификовао сам област коришћења према нивоу ризика.
- [ ] Прилагодио сам надзор према нивоу ризика.
- [ ] Планирао сам тестирање/надгледање за пристрасност и дрифт.
- [ ] Поставио сам овлашћење за заустављање за систем високог ризика.